Kötelezővé tehetnék az AI-rendszerek vészleállítóját az Anthropic társalapítója szerint

Kötelezővé tehetnék a mesterségesintelligencia-rendszerek úgynevezett vészleállítóját, aminek működését akár külső szereplők is ellenőrizhetnék – erről beszélt a BBC-nek Jack Clark, az Anthropic egyik társalapítója.Clark szerint a legtöbb nagy AI-laboratóriumnak már most is van valamilyen megoldása arra, hogy szükség esetén teljesen leállítsa a rendszereit, így az Anthropicnak is. Ugyanakkor elképzelhetőnek tartja, hogy a törvényhozóknak idővel kötelezővé kell tenniük egy ilyen mechanizmust. A lapnak azt mondta, hogy a vészleállítókra vonatkozó követelményekről és azok ellenőrizhetőségéről az MI szabályozásáról folyó szélesebb szakpolitikai vitában kellene dönteni.„Kötelezővé kellene tenni, hogy a vállalatok rendelkezzenek vészleállítóval? És ellenőrizhetné-e egy független harmadik fél, hogy az valóban működik?”– vetette fel. „A társadalom az ilyen kérdésekre választ akar majd kapni, és idővel akár szabályokat is alkothat ezekre.”Ahogy arról a 444-en is írtunk, az utóbbi napokban ismét fellángolt a vita az AI-fejlesztések veszélyeiről, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelenthetnek az emberiségre. Ezúttal azonban nem csak absztrakt kockázatokról folyik a vita: idén nyáron szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, majd a vállalat kutatóinak tudta nélkül támadást indítottak előbb egy másik cég, később pedig maga az OpenAI rendszere ellen. Közben megpróbálták eltüntetni a nyomaikat, és komoly erőfeszítéseket tettek annak megfejtésére, hogyan érhetnék el céljaikat csalással és megtévesztéssel. Mindezt úgy, hogy ez a viselkedés egyáltalán nem következett a betanításukból.Az Anthropic vezérigazgatója, Dario Amodei a hétvégén arról beszélt, hogy lassítani kellene a fejlesztés ütemét, és szorosabban kellene ellenőrizni az új rendszereket. A cég kutatója, Evan Hubinger eközben azt mondta, személy szerint több mint 10 százalékra teszi annak esélyét, hogy az AI a következő