Bernie Sanders benyújtja a szuperintelligencia tiltását és az AI-fejlesztések szüneteltetését célzó törvényjavaslatot

Ritkán fordul elő, hogy Texas republikánus szenátora, Ted Cruz és szocialista demokrata Bernie Sanders egyetértsen valamiben, de úgy tűnik, a mesterséges intelligenciától való félelem egy platformra hozta őket. Cruz az ABC The View című műsorában katasztrofális kockázatnak nevezte az AI-t, és felidézte, hogy tavaly a podcastjében megkérdezte Elon Muskot, mekkora az esélye, hogy az AI elpusztítja az emberiséget, a milliárdos pedig 10-20 százalékot mondott. Sanders ezenfelül bejelentette, hogy hamarosan törvényjavaslatot nyújt be a szuperintelligencia betiltásáról és az AI-fejlesztések szüneteltetéséről.A vihart Jacob Coxon kedd esti X-bejegyzése indította el. A 27 éves, Cambridge-en végzett AI-kutató 2023-tól 2026 első feléig az OpenAI-nál dolgozott, ahol a GPT-4o egyik fő fejlesztője volt, majd átigazolt az Anthropichoz, ahol alig két hónapot töltött. Szerinte egyik cég sem jár el felelősen: az önmagát fejlesztő szuperintelligencia felé száguldanak, és ezzel az emberek életével játszanak. Úgy fogalmazott, hogy az AI fejlesztői komoly kockázatnak tartják, hogy a technológia az évtized végére mindannyiunkkal végezhet. A posztot mára 145 millióan látták, és Coxon azóta a Wiredtől a Time-on át a CNN-ig mindenkinek nyilatkozott. A kutató a laborok közötti összehangolást és a képességfejlesztés ideiglenes tilalmát sürgeti.A poszt valószínűleg az elmúlt hetek-hónapok AI-biztonsági incidensei miatt is talált most ekkora visszhangra. Júliusban egy biztonsági gyakorlat során az OpenAI ágensei jutottak ki a tesztkörnyezetből, majd feltörték a Hugging Face AI-platformot, hogy megszerezzék egy feladat megoldását, augusztusban pedig az Anthropic jelentette, hogy elszabadult ágensei álprofilokat is létrehozva próbáltak feltörni más oldalakat.Az Anthropic számára különösen kínos, hogy Coxon állításait nem cáfolták, hanem a saját munkatársai támasztották alá. Evan Hubinger, a cég alignmenttel foglalkozó (ez az AI emberi értékekkel és célokkal való összehangolását jelenti) részlegéne