A mesterséges intelligencia fejlesztésének lassítására szólította fel a techszektort Dario Amodei, az egyik vezető MI-vállalat, az Anthropic vezérigazgatója. Az üzletember ehhez a lassításhoz egy X-en közzétett bejegyzésben egy három részből álló tervet osztott meg.
Az Anthropic egyoldalú kötelezettséget vállal az első lépés megtételére
– jelentette be Amodei, ennek értelmében pedig független ellenőröknek adnak hozzáférést a belső rendszereikhez, hogy felmérhessék modelljeik megbízhatóságát és meggyőzödhessenek a biztonsági intézkedéseink betartásáról. Az általa javasolt második lépés az iparág egészére kiterjedő együttműködés előírása, a harmadik pedig a globális szintű koordináció biztosítása.
Sam Altman, a ChatGPT-t fejlesztő OpenAI vezetője egy válaszbejegyzésben azt írta, egyetért Amodeivel, és az ő vállalatuk is hozzáférést fog biztosítani rendszereikhez a független ellenőrök számára. Elon Musk szintén úgy fogalmazott, hogy az Anthropic-vezérnek igaza van, de hasonló vállalást nem tett.
Mindez napokkal azután történt, hogy az Anthropic és más MI-cégek munkavállalói nyíltan beszéltek a mesterséges intelligencia egész emberiséget érintő veszélyeiről.
Ma felmondtam az Anthropicnél. Az elmúlt három évet az OpenAI-nál és az Anthropicnél töltöttem, […] egyik cég sem cselekszik felelősségteljesen. Az önfejlesztő szuperintelligencia megalkotásáért versenyeznek, és közben az életünkkel játszanak
– írta Jacob Coxon MI-kutató szeptember 9-én az X-en közzétett bejegyzésében, amiben arról is írt, hogy a mesterséges intelligencia hamarosan az egész emberiség végét jelentheti. Evan Hubinger, az Anthropic egyik vezető kutatója megerősítette ezeket az állításokat, egy válaszposztban azt írta:
Jacobnak igaza van, tényleg úgy gondoljuk, hogy a mesterséges intelligencia végezhet minden emberrel. Személy szerint 10 százaléknál nagyobb esélyt látok rá, hogy ez már a következő évtizedben megtörténhet.
Az Anthropic ráadásul nem sokkal ezután tette közzé friss veszélyforrás-felderítési jelentését is, amelyben arról írtak, hogy az elmúlt nyolc hónapban bűnözők, állami támogatású csoportok, kémszoftvereket értékesítő vállalatok, tudósok és propagandisták is megpróbálták felhasználni mesterségesintelligencia-modelljeiket rakéták, bombák és biofegyverek készítéséhez, kibertámadások lefolytatásához, valamint másként gondolkodók megfigyeléséhez.
A mesterséges intelligenciával kapcsolatos aggodalmak miatt Sam Altman nemrég azt is bejelentette, hogy a korábbi tervekkel ellentétben az OpenAI 2026-ban nem fog a tőzsdére lépni.
The post Lassítaná a mesterséges intelligencia fejlesztését az Anthropic vezére first appeared on 24.hu.
