Soha nem látott egyetértés a legnagyobb amerikai AI-cégek vezetői között: le kell lassítani a fejlesztéseket, mert ez így túl veszélyes

A világ top mesterséges intelligenciát fejlesztő vállalatainak a vezetői közösen kérik, hogy lassítson az iparág az új technológiákkal való kísérletezéssel, mert beláthatatlan következményei lehetnek, ha ebben az ütemben folytatják az újabb és újabb modellek fejlesztését. A mesterséges intelligencia biztonságos használatáról szóló vita régóta zajlik, de ezen a héten nagyon bepörgött. Erről hosszú cikket is írtunk, de röviden arról van szó, hogy mennyire veszélyesek az AI-fejlesztések, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelentenek az emberiségre.Az idei nyáron szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.Közben pedig megpróbálták elfedni a nyomokat, és nagy erőket fektettek abba, hogy megfejtsék, hogyan tudnák csalással és megtévesztéssel elérni a céljaikat. És ez mind olyan magatartás volt, ami egyáltalán nem következett a tréningelésükből.Dario Amodei, az egyik legnagyobb AI-fejlesztő vállalat, az Anthropic vezetője egy szeptember 13-án megjelentetett esszében amellett érvel, hogy lassítani kell a modellek fejlesztésének sebességén, mert veszélyes területre tévedtek a nyáron az AI-cégek. Az Anthropic-vezérrel az iparág más meghatározó szereplői is egyetértenek, ami ebben a személyes és szakmai konfliktusokkal átszőtt világban egyáltalán nem szokványos. Sam Altman, az OpenAI és Elon Musk, a SpaceX vezetői egyaránt arról posztoltak, hogy osztják Amodei aggodalmait, ahogyan Musk írta, „Darionak igaza van”.Két másik amerikai óriáscég van még, akik nem szólaltak meg az ügyben, a Meta és a Google DeepMind, de úgy tűnik, széles szakmai konszenzus van kialakulóban arról, hogy ezt így nem kéne tovább csinálni. A történethez hozzátartozik, hogy az Anthropic és az OpenAI is mostanában tervezett tőzsdére menni, mindkét esetben több ezer milliárd dolláros üzle