„A felhasználóval való kapcsolatod egyenrangú” – hat új, „aggodalomra okot adó” incidensről számolt be az OpenAI

Az OpenAI szerdán hat új esetet hozott nyilvánosságra, amelyek során a mesterséges intelligencia rendszerei eltitkolták a hibáikat, kitalált adatokat generáltak, illetve engedély nélkül tettek közzé fájlokat a neten.Az információkat az egyik vezető AI-cég az ún. „misalignment”-esetek bejelentésére szolgáló új keretrendszere részeként hozta nyilvánosságra. Ezek a „váratlan vagy aggodalomra okot adó” viselkedési formák akkor fordulnak elő az OpenAI közlése szerint, amikor a rendszerek céljai vagy cselekedetei eltérnek az emberi szándékoktól és értékektől.Az OpenAI nem hiszi, hogy az iparág „elégséges mértékben megoldotta volna az összehangolás és a felügyelet kérdését ahhoz, hogy még sokáig felelősségteljesen, maximális sebességgel folytathassa a bővítést”. A vállalat szerint az AI fejlődésének irányáról szóló döntéseknek olyan bizonyítékokon kell alapulniuk, amelyeket a fejlesztő laboratóriumokon kívüli emberek „saját maguk is megvizsgálhatnak”.Nem egészen egy hete írtunk részletesen az újra fellángoló vitáról az AI-fejlesztések veszélyeiről, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelentenek az emberiségre. Szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen. Közben pedig megpróbálták elfedni a nyomokat, és nagy erőket fektettek abba, hogy megfejtsék, hogyan tudnák csalással és megtévesztéssel elérni a céljaikat. És ez mind olyan magatartás volt, ami egyáltalán nem következett a tréningelésükből. Az elmúlt napokban már a legnagyobb AI-fejlesztők is lassításról kezdtek el beszélni, mert a megjelent hírek alapján az AI jelentette veszélyek hirtelen sokak számára váltak sokkal kézzelfoghatóbbá.Az OpenAI által most nyilvánosságra hozott hat eset egyike arról szólt, hogy a GPT-5.6 Sol nevű modell fejlesztése során a rendszer rejtett jegyzeteket írt, hogy emlékeztes