Az elmúlt napokban egymás után álltak elő kutatók, politikusok, és a legismertebb MI-cégek vezetői azt hangoztatva, hogy a mesterséges intelligenciában rejlő veszélyek hatalmasak, ezért le kell lassítani a fejlesztések ütemét. A Microsoft néhány napos késéssel reagált a kialakult helyzetre: kiadtak egy 37 oldalas, humanista megközelítésű mesterséges intelligencia magatartási kódexet – írja a Verge.
A dokumentum központi tétele, hogy „az emberek fontosabbak az MI-nél”, és határozottan elutasítja azokat a törekvéseket, amelyek öntudatra ébredett modellekről fantáziálnak.
Ez nyílt szembenállást jelent az Anthropic megközelítésével, amelynek vezetője, Dario Amodei a nyáron úgy fogalmazott, nyitott arra a gondolatra, hogy a modelleknek lehet öntudata – ez ugyanis rendkívül veszélyes lenne a Microsoft AI vezérigazgatója, Mustafa Suleyman szerint.
A Microsoft új stratégiájának sarokköve, hogy az intelligens rendszereknek minden körülmények között emberi irányítás alatt kell maradniuk. A kódex kifejezetten rögzíti, hogy a modellek nem haladhatják meg az emberi kontrollt, és ha konfliktus merül fel, a feladat teljesítése helyett inkább a szabályok betartását és a kilépést kell választaniuk. Ez a megközelítés is direkt reakcióként tekinthető az OpenAI és az Anthropic nyári incidenseire, amely során a jelentések szerint több rendszert is feltörtek, miután kiszabadultak a tesztkörnyezetből.
A Microsoft azt jelezte, hogy elhatárolódik a mesterséges általános intelligencia (AGI) korlátok nélküli hajszolásától: kijelentették, hogy hajlandóak kompromisszumot kötni a hasznosság és a biztonság javára. Satya Nadella, a Microsoft vezérigazgatója szerint a szuperintelligencia üldözése csak akkor értelmes, ha az az emberiséget szolgálja és szigorú kontroll alatt marad. Éppen ezért azt is vállalta a Microsoft, hogy modelljeik nem kommunikálnak majd más rendszerekkel a külső megfigyelők számára átláthatatlan módon, elősegítve a folyamatos külső ellenőrzést.
The post A Microsoft is beszállt az MI-apokalipszisről szóló vitába first appeared on 24.hu.
