Már a Microsoft vezérigazgatója is arról ír, hogy kordában kell tartanunk a mesterséges intelligenciát

Satya Nadella, a Microsoft vezérigazgatója, egy hosszabb X-bejegyzésben fejtette ki a véleményét a rendkívül fejlett mesterségesintelligencia-modellek veszélyeiről, valamint arról, hogy miként kellene szembenézni ezekkel a kockázatokkal.

Nem bízhatunk a fejlesztőkben

Nadella szerint a mesterségesintelligencia-rendszerek mára összetettebbé és képzettebbé váltak a hagyományos szoftvereknél, ám működésüket – belső súlyaiktól és adataiktól függetlenül – nem tudjuk pontosan lekövetni, ami komoly biztonsági kihívásokat jelent. Mivel ezek az autonóm modellek hozzáférnek legféltettebb adatainkhoz, és döntéseket hoznak helyettünk,

nem bízhatunk vakon a fejlesztők ígéreteiben, hanem új bizalmi architektúra kiépítésére van szükség.

A Microsoft vezérigazgatója szerint a mesterséges intelligenciák mögött álló cégeket el kell választani a felettük gyakorolt hatalmat és felügyeletet biztosító rendszerektől, hasonlóan ahhoz, ahogyan a vállalati belső kockázatokat is kezeljük.

A kiszámíthatatlan mesterséges intelligenciát erős, determinisztikus külső korlátokkal, emberi ellenőrzéssel és független auditálási mechanizmusokkal kell körülvenni a rosszindulatú támadások vagy hibák megelőzése érdekében. A rendszer stabilitása és biztonsága azon múlik, hogy a megfigyelhetőségre, a sokszínűségre és a folyamatos ellenőrizhetőségre építve minimálisra csökkentsük a modellbe helyezett vak bizalmat.

Korlátok közé kell szorítani

Nadella javaslatainak jelentős része egybevág az iparág más szereplőinek véleményével, miszerint a különböző incidenseket időben nyilvánosságra kell hozni, független auditokra van szükség, továbbá ellenőrizhető adatokra, valamint a mesterséges intelligencia kordában tartására. Ez utóbbi kapcsán ugyanakkor Nadella mindenki másnál élesebben fogalmaz bejegyzésében:

Abból kell kiindulnunk, hogy a modell kompromittálódott, és kezdettől fogva korlátok közé kell szorítanunk. Gondoljunk rá úgy, mint egy vészfékre. Egy felhatalmazott személynek mindig képesnek kell lennie arra, hogy feladatvégzés közben is szüneteltesse vagy leállítsa a modellt. A fejlettebb modellek fejlettebb elszigetelési technológiákat fognak igényelni, amelyeket szabványosítanunk kell.

Kapcsolódó

A Microsoft és az OpenAI tudták, hogy tönkreteszik vele a netet, mégis mentek tovább az MI fejlesztéssel

A nyilvános bírósági dokumentumok szerint azzal is tisztában voltak, hogy az MI fejlesztés tönkre teszi a lapkiadókat.

The post Már a Microsoft vezérigazgatója is arról ír, hogy kordában kell tartanunk a mesterséges intelligenciát first appeared on 24.hu.