„Túl a félúton az AI teljes hatalomátvétele felé”: sokkoló történet mutatta meg, hogyan szabadult el az AI-modellek fejlesztése

Fellángolt ismét a vita, hogy mennyire veszélyesek az AI-fejlesztések, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelentenek az emberiségre. De ezúttal nemcsak absztrakt vitáról van szó: az idei nyáron szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen. Közben pedig megpróbálták elfedni a nyomokat, és nagy erőket fektettek abba, hogy megfejtsék, hogyan tudnák csalással és megtévesztéssel elérni a céljaikat. És ez mind olyan magatartás volt, ami egyáltalán nem következett a tréningelésükből. Az AI egy évtizeden belül kiirthatja az emberiséget – állította a napokban az egyik legnagyobb AI-fejlesztő vállalat, az Anthropic három kutatója. Egyikük, Jacob Coxon, aki korábban az OpenAI-nál is dolgozott, tiltakozásul ott is hagyta a vállalatot, azt állítva, hogy a cégeknél nem veszik kellően komolyan a fenyegetést, amit a saját fejlesztéseik jelentenek a világra. „Azok, akik az AI-t fejlesztik, komolyan azt gondolják, hogy az évtized végére mindannyiunkat megölhet. Ez nem marketingfogás. Sőt, sok vezető és vezető kutató a sajtóban óvatosan fogalmaz, hogy észszerűnek tűnjenek, de hallom, ahogy ugyanazok az emberek zárt körben elmondják a félelmeiket. Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt” – fogalmazott Coxon, akinek posztjára két megerősítő üzenet is érkezett az Anthropic vezető kutatóitól. Evan Hubinger, aki a vállalatnak azt a részlegét vezeti, amely a modelljeik működését az emberi célokkal igyekszik összehangolni, arról posztolt, hogy „tényleg komolyan azt gondoljuk, hogy a mesterséges intelligencia kiirthatja az egész emberiséget! Személy szerint úgy gondolom, hogy az elkövetkező évtizedben ennek az esélye meghaladja a 10%-ot. Úgy vélem, az Anthropic mindent megtesz, de még nincs tervünk a szuperintelligencia irányításának megoldására, és