Félelem vagy elszámoltatás: az AI valós veszélyei

Az elmúlt hónapokban több nagy AI-cég is arról számolt be, hogy ügynökalapú mesterséges intelligencia modelljeik (agentic AI) kitörtek a tesztelési környezetükből. A lavinát a ChatGPT mögött álló OpenAI indította el július közepén, amikor a vállalat bejelentette, hogy több modellje is kijutott a zárt, offline tesztkörnyezetből, és behatolt egy Hugging Face nevű, mit sem sejtő cég rendszereibe. A hír megrengette a világot, pláne úgy, hogy az OpenAI-hoz napokon belül csatlakozott a Meta és az Anthropic is, amelyek szintén arról számoltak be, hogy ügynökalapú modelljeik a kiberbiztonsági tesztek során elhagyták a kontrollált tesztkörnyezetet, és betörtek más cégek számítógépes rendszereibe. Szeptember elején az Anthropic egyik kutatója felmondott, és azt állította, hogy az AI-fejlesztők körében sokan tíz százaléknál nagyobbra becsülik annak esélyét, hogy a mesterséges intelligencia fejlődése egy évtizeden belül az emberiség kihalásához vezet. A cég vezérigazgatója, Dario Amodei néhány nappal később publikált esszéjében már az AI-fejlesztések lassítását és legalább valamilyen szintű ellenőrzését sürgette, felhívásához pedig néhány órán belül az OpenAI, a Google, a Microsoft és Elon Musk is csatlakozott.A további esetek még csak mostanában kezdenek napvilágot látni. Anthony Albanese, Ausztrália miniszterelnöke szeptember végén jelentette be, hogy az OpenAI sikeresen feltörte az ország egyik egészségügyi adatbázisát, azóta pedig több amerikai állami szerv meghackeléséről is érkeztek hírek.Mit nevezünk valójában AI-nak, és mik azok az ügynökmodellek? Az AI, azaz a mesterséges intelligencia ernyőfogalom, amelyet az elmúlt években meglehetősen tágan használunk különböző gépi tanuláson (machine learning) alapuló technológiák leírására. Ezek egy része már régóta velünk él: ilyenek az ajánlórendszerek, amelyek filmeket vagy termékeket javasolnak korábbi választásaink alapján, vagy a különféle előrejelző modellek, amelyek sokszor alig többek egy bonyolultabb Excel-táblázatnál. A