Maga az Anthropic adott ki közleményt arról, hogy próbálták „rosszindulatú szereplők” biológiai fegyverekhez felhasználni a modelljüket

Bűnözők, államilag támogatott csoportok, kémszoftver-forgalmazók, tudósok és propagandisták is megpróbálták felhasználni az Anthropic nagy teljesítményű mesterségesintelligencia-modelljeit rakéták és bombák tervezésére, halálos kórokozók létrehozására, valamint ellenzékiek megfigyelésére – derül ki magának a vállalatnak a fenyegetéselemzési jelentésből, amelyet csütörtökön tettek közzé.„Az itt megosztott esetek nem tipikus visszaélések, hanem az általunk eddig azonosított legjelentősebb és legújabb fenyegetési tevékenységek példái” – írta az Anthropic a 154 oldalas jelentésében. „Azért tesszük közzé ezt a munkát, mert úgy gondoljuk, hogy felelősségünk nyilvánosságra hozni a szolgáltatásainkkal való rosszindulatú visszaéléseket.”A vállalat öt olyan esettanulmányról részletesen is írt, amelyekben tudósok az AI-modelleket biológiai kutatásokhoz használták. Ezekben a példákban az Anthropic szerint a kutatók megkerülték a „nem támogatott régiókból” érkező felhasználók kizárására szolgáló biztonsági intézkedéseket, és azon is dolgoztak, hogy elrejtsék munkájuk valódi célját.„A biológiai célú visszaélés a legfejlettebb AI-modellek egyik legsúlyosabb kockázata” – írta az Anthropic. „Megfelelő biztosítékok nélkül az ilyen képességeknek katasztrofális következményei lehetnek.”Az Anthropic közölte, hogy letiltotta ezeket a fiókokat. A vállalat nem hozta nyilvánosságra a kutatóintézetek nevét, sem azokat az országokat, ahol a visszaélések történtek, mondván, hogy nem voltak biztosak a kutatók szándékait illetően.Az Anthropic több tucat más példát is felhozott arra, amikor fenyegetést jelentő szereplők használták az AI-modelljeit. Ezek közé tartoztak olyan kiberoperációk, mint az orosz kémkedés és a gyors, adatrabló (smash-and-grab) kibertámadások, megfigyelési műveletek, köztük egy kínai központú, a Szíriában élő ujgurokat, valamint egy másik, a belső ellenzékieket célzó program, propagandakampányok Oroszországban, Malajziában, Iránban és Bangladesben, továbbá a Claude AI-model