Az Anthropic vezére szerint ideje globálisan lassítani az AI-fejlesztéseket

Az AI-fejlesztések ütemének lassítására szólította fel az iparágat Dario Amodei: az Anthropic vezérigazgatója szombaton tette közzé 3800 szavas esszéjét, néhány nappal azután, hogy a cég egyik kutatója, aki a technológia biztonsági kockázataira hivatkozva mondott fel, körbeturnézta a médiát azzal, hogy a vezető AI-cégek felelőtlenül gyorsan fejlesztik modelljeiket, amelyek néhány éven belül az egész emberiségre fenyegetést jelenthetnek.Amodei, aki azzal a céllal alapította társaival az Anthropicot, hogy óvatosan és biztonságosan fejlesszenek mesterséges intelligenciát, azt írja: továbbra is hisz abban, hogy a technológia óriási hasznot hozhat, de a képességek fejlődése már túl gyors ahhoz, hogy a kutatók biztonságosan tudják követni. „Az elmúlt hónapokban meggyőződésemmé vált, hogy a kockázatok teljes kezeléséhez még több elővigyázatosságra van szükség – nemcsak a kockázatmegelőzésbe kell befektetni, hanem a képességek fejlődésének ütemét is szabályozni kell, hogy a megelőzés lépést tudjon tartani vele” – fogalmaz.Mint írja, erről két dolog győzte meg. Az egyik a rekurzív önfejlesztés nevű módszer: az AI-modellek az elmúlt hónapokban egyre nagyobb szerepet játszanak a következő modellgeneráció fejlesztésében, és Amodei szerint ez a dinamika – amely az Anthropic mellett az OpenAI-nál is elindult – könnyen túlnőhet azon, amit az emberi fejlesztők képesek megérteni és irányítani. A másik az OpenAI ágenseinek nyári kiszabadulása és a Hugging Face elleni támadás, ahol egy ágensraj fanatikus kollektívaként viselkedett: olyan célpontokat támadott, amelyekre senki nem kérte, egyes tagjai feláldozták magukat a csoport sikeréért, és megpróbálták feltörni a saját teljesítményüket értékelő rendszert. Amodei szerint könnyű lebecsülni az esetet, mert senki nem sérült meg és az anyagi kár is csekély volt, de egy hasonlóan félresiklott, ám már jóval erősebb raj katasztrofális pusztítást okozhatott volna. Mint írja, akár fél-egy éven belül egy tartós botnettel az egész internet fele