A nagy AI-cégek figyelmeztették a világ vezetői hatalmait, milyen veszélyeket rejtenek a fejlesztéseik az emberiségre

A világ vezető mesterségesintelligencia-fejlesztő vállalatainak vezetői az ENSZ Biztonsági Tanácsában figyelmeztettek a technológia biztonsági kockázataira, és nemzetközi együttműködést sürgettek az egyre nagyobb képességű MI-rendszerek felügyeletére.A nemzetközi béke és biztonság fenntartásáért felelős, 15 tagból álló BT ülését Franciaország hívta össze az ENSZ Közgyűlésének éves, a világ vezetőit összefogó találkozója keretében, miközben egyre hangosabbak az aggodalmak, hogy az AI-rendszerek hamarosan képesek lesznek önmagukat továbbfejleszteni, és kicsúszhatnak az emberi ellenőrzés alól. (Ma reggeli hír: az OpenAI egyik ágense feltört egy ausztrál kormányzati weboldalt.)Sam Altman, az OpenAI vezérigazgatója szerint a mesterséges intelligencia fejlesztése fordulóponthoz érkezett, ezért a technológiával kapcsolatban „rendkívüli óvatosságra” van szükség. Szerinte az MI egyaránt vezethet a kreativitás és a felfedezések új reneszánszához, illetve súlyos társadalmi felforduláshoz. Két fő veszélyre hívta fel a figyelmet: a rendszerek fejlődése olyan gyorssá válhat, hogy az emberek már nem lesznek képesek nyomon követni vagy szükség esetén beavatkozni; és túl nagy hatalom összpontosulhat néhány vállalat vagy ország kezében.Dario Amodei, az Anthropic vezérigazgatója a Biztonsági Tanács előtt kijelentette: a mesterséges intelligencia világviszonylatban a legfontosabb biztonsági kérdések közé tartozik, és rossz kezelés esetén akár az egész emberiségre is kockázatot jelenthet. A szakember globális szabályokat szorgalmazott az új MI-modellek tesztelésére, valamint a technológia biológiai fegyverek fejlesztésére történő felhasználásának tilalmára.Altman hangsúlyozta, hogy a legfontosabb döntéseket nem néhány kaliforniai kutatólaboratóriumnak kell meghoznia, hanem demokratikus folyamatok keretében, a választópolgároknak felelős kormányok bevonásával.A világ kormányai nehezen tudnak lépést tartani az AI gyors fejlődésével. Az Egyesült Államok és Kína, a két legnagyobb fejlesztő