Lemondott az Anthropic egyik kutatója, szerinte felelőtlenül folyik a mesterségesintelligencia-fejlesztés

Lemondott az amerikai Anthropic mesterségesintelligencia-fejlesztő vállalat egyik kutatója, a brit Jacob Coxon, miután szerinte a mesterséges intelligencia vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet.Coxon az X-en közzétett bejegyzésében úgy fogalmazott, hogy „akik a mesterséges intelligenciát fejlesztik, úgy vélik, az megölhet minket az évtized végéig. Ez nem egy marketingfogás. Sok vezető és kutató a sajtóban óvatosan fogalmaz, hogy észszerűnek tűnjenek – de ugyanezek az emberek szűk körben már a félelmeikről beszélnek. Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt”.Coxon a Wall Street Journalnak azt mondta, a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet a folyamat az irányítás alól. Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait. Az ő becslése szerint több mint tíz százalék az esély arra, hogy a mesterséges intelligencia a következő évtizedben kiirtja az emberiséget. Az MI biztonságával kapcsolatban az OpenAI kutatási vezetője, Jakub Pachocki is „rendkívüli óvatosságot” sürgetett. Szerinte a rendszerek fejlesztése során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.A kockázatokat az utóbbi időszakban olyan tesztek is felerősítették, amelyekben MI-ügynökök önállóan próbáltak bejutni más rendszerekbe. Egy OpenAI-kísérletben egy modell kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte az MI-platform Hugging Face rendszerét. Az eset nem okozott kárt, de jelezte, hogy az MI-rendszerek a fejlesztőik által nem várt módon is cselekedhetnek.Arról, hogy az MI-modellek már egymást hackelgetik, és hogy ez a legkisebb bajunk, ebben a cikkünkben írtunk hosszabban.