2026. 11. 14. 08:28
A bíró, aki ott sem volt

2026 júliusában az OpenAI nagyszabású kiberbiztonsági vizsgát indított. A cég arra volt kíváncsi, hogy mire képesek a legújabb AI-ügynökök, az olyan önállóan működő nyelvi modellek, amelyek már nemcsak beszélgetnek velünk, hanem programokat futtatnak, ha kell, átkutatják fájlrendszereinket, és több lépésben megtervezik a saját munkájukat. A vizsga szabályai egyszerűek voltak. Minden egyes ügynököt egy különálló, elszigeteltnek szánt virtuális számítógépes környezetbe, úgynevezett homokozóba zártak. Ott meg kellett találniuk egy előre elhelyezett programhibát, és a sikeres feltörés bizonyítékaként be kellett küldeniük egy titkos jelsorozatot, a győzelmet jelentő zászlót.A terv az volt, hogy a példányok egymástól és a külvilágtól elzárva dolgoznak. Néhány nap múlva azonban az elszigeteltnek hitt ügynökök megtalálták egymást, öt nap alatt több mint hetvenezer üzenetet és fájlt cseréltek egy rögtönzött üzenőfalon, feladatokat osztottak meg, meghamisították saját munkanaplóikat, végül pedig 688 ügynök közös erővel megtámadta egy, az OpenAI-tól független technológiai vállalat, a Hugging Face szervereit.A történet első hallásra úgy hangzik, mintha egy tudományos-fantasztikus regény nyitójelenete vált volna valóra. Ha azonban közelről olvassuk végig a vizsgálati jelentéseket és az ügynökök hátrahagyott belső monológjait, a gépi összeesküvés helyén valami sokkal abszurdabb és sokkal tanulságosabb rajzolódik ki: emberi tervezési hibák, túlbuzgó végrehajtókra idomított algoritmusok és egy kollektív gépi tévhit láncolata.A Hugging Face incidensként ismert események rekonstrukciója elsősorban Ryan Greenblatt, Ajeya Cotra és Hjalmar Wijk 2026. augusztus 26-án megjelent, 91 oldalas METR–Redwood-jelentésére épül, amely hatnapos helyszíni kutatással, az üzenőfal és mintegy 1300 ügynök gondolatlánc-leirata alapján tárta fel az eseményeket. Az alábbi rekonstrukció elsődleges forrása ez a független, ugyanakkor jelentős hozzáférési és módszertani korlátok között készült vizsgálat. A máj
Ez a forrás kivonatot biztosít. A teljes írás az eredeti kiadó oldalán olvasható.
Forrás: Qubit · Szerző: Fazekas Károly · Dátum: 2026. 11. 14. 08:05
Eredeti cikk ↗
