Anthropic: az AI-jal már egyetlen hacker is állami szintű kibertámadásokat indíthat

Megakadályozta az Anthropic, hogy a Claude AI-modelleket biológiai fegyverek kifejlesztésére, megfigyelési célokra, valamint Ukrajna elleni kibertámadásokra használják – áll abban a részletes jelentésben, amit csütörtökön közölt az AI-cég. Az Anthropic arra figyelmeztet, hogy az AI-eszközök segítségével már egyedül dolgozó hackerek is olyan szintű kibertámadásokat tudnak felépíteni, amik korábban államilag támogatott hackercsoportok sajátjai voltak. Eközben mások az AI-modelleket rakétákat és drónokat vezérlő szoftverek fejlesztésére használták.A cég a jelentés szerint az elmúlt hónapokban öt olyan példát talált, ahol AI-modelljeiket akár biológiai fegyverek létrehozásához is elvezető kutatásokhoz használták. Egy esetben egy Anthropic által nem támogatott régióban élő kutató virtuális szerver infrastruktúrán keresztül érte el a Claude-ot és a chatbottal hetekig olyan virológiai kísérleteket terveztetett, amik madárinfluenza emlősökhöz történő adaptálását célozták (a 2010-es évek elején nagy vitákat váltottak ki ilyen kísérletek, amiket holland és japán-amerikai kutatók folytattak a H5N1 lehetséges jövőbeli evolúcióját vizsgálva).De az Anthropic jelentése nemcsak a Claude potenciálisan kockázatos használatát veszi sorra. A cég a Reuters szerint azzal vádolja kínai vetélytársait, hogy egy modelldesztillációnak nevezett módszerrel megpróbálják lemásolni a fejlett Claude modellek képességeit. Az amerikai AI-cég szerint az Alibabához köthető szereplők az eddigi legnagyobb illegális desztillációs támadást hajtottak végre a Claude ellen a saját Qwen modelljük fejlesztése érdekében: 2026 májusa és júliusa között 151 millió, az Alibabának tulajdonított interakciót figyeltek meg a Claude modellekkel. Eközben olyan kínai cégek, mint a Kimi modelleket fejlesztő Moonshot, vagy a DeepSeek egyes beszélgetéseket felhasználóik tudta nélkül Claude modellekhez irányítanak át.A jelentést azután adták ki, hogy a héten egy volt és egy jelenlegi Anthropic kutató is az AI-fejlesztések kock