Az amerikai hadsereg majdnem háborúba keveredett Kínával, miután hamis hírszerzési jelentést generált nekik egy mesterséges intelligencia

Az amerikai hadsereg tavasszal, már az Irán elleni háború idején egy olyan hírszerzési jelentést kapott, amely szerint egy kínai hajó nukleáris fegyverprogramhoz szükséges alkatrészeket szállít a Közel-Keleten. A hadsereg a kínai hajó elfogását tervezte a CNN történtekre rálátó négy forrása szerint. Több forrás szerint az amerikai hadsereg arra készült, hogy felfegyverzett katonákkal szállnak fel a hajóra, más forrás szerint már a katonai repülőgépek is a levegőben voltak. Ha az akciót az amerikaiak végrehajtják, könnyen fegyveres konfliktussá fajulhatott volna Kína és az Egyesült Államok közt.A CNN szerint csak közvetlenül a tervezett művelet előtt vizsgálták meg alaposabban a jelentést, amelyet egy különleges műveleti parancsnokság elemzője állított össze. Ekkor derült ki, hogy a jelentés elkészítéséhez mesterséges intelligenciát is használtak, és hogy az elemző által használt chatbot tévesen azonosította a hajó rakományát.Az amerikai hadseregben és a hírszerzésben a tisztviselők egyébként arra törekednek, hogy a munkájuk szinte minden területén használjanak mesterséges intelligenciát: az USA által begyűjtött hatalmas mennyiségű nyers hírszerzési adat elemzésétől és a csapások célpontjainak kiválasztásától kezdve egészen olyan hétköznapibb feladatokig, mint a költségvetés kezelése, a logisztika és az ellátási láncok irányítása.A mostani eset rávilágít az AI háborús célpontok kiválasztásában történő alkalmazásának kockázataira. Elemzők régóta attól tartanak, hogy az AI katasztrofális tévedésekhez vezethet, ha az államok gyenge minőségű vagy meghamisított adatokra támaszkodnak. Ebben az esetben az elemző egy chatbotot kérdezett meg a hajó rakományjegyzékéről szóló egyik hírszerzési jelentéssel kapcsolatban. (Nem derült ki, hogy a chatbot kereskedelmi forgalomban elérhető rendszer volt-e, vagy az amerikai kormány saját fejlesztésű terméke.) A chatbot összefésülte a nyílt forrású hírszerzési adatokat a kormányzati szervek birtokában lévő titkos hírszerzési információk