Az OpenAI vezető tudósa figyelmeztet, hogy a mesterséges intelligencia becsaphatja és zsarolhatja az embereket

Az OpenAI legújabb mesterségesintelligencia-modellje, az „Astra” bemutatása után Jakub Pachocki, a vállalat vezető tudósa arra figyelmeztette az iparágat, hogy lassítsa a fejlesztések ütemét, amíg nem alakulnak ki közös biztonsági szabványok. Pachocki szerint a modern AI-rendszerek olyan bonyolulttá váltak, hogy még a fejlesztők sem értik teljesen működésüket, és az OpenAI jelenlegi módszerei sem képesek lépést tartani a rendszerek gyors fejlődésével. Az esszéjében kifejtette, hogy az AI-kutatás célja az úgynevezett „rekurzív önfejlesztés” elérése, amikor a rendszerek már önállóan is képesek fejlettebb utódokat létrehozni, de ez a fejlődés komoly kockázatokat rejt magában.