Az Anthropic szerint hónapokra lehetünk attól, hogy az AI önállóan terjedjen az okoseszközökön

A mesterséges intelligenciával működő kártevők internetre kapcsolódó eszközökbe, például okossütőkbe, biztonsági kamerákba és robotporszívókba juthatnak be, majd hálózatokon keresztül terjedhetnek tovább – figyelmeztet az Anthropic. A vállalat kutatói szerint egyes AI-modellek „hónapokra lehetnek” attól, hogy ilyen képességekre tegyenek szert.Az Anthropic hétfőn közzétett jelentése az önreplikáció lehetőségét vizsgálja: azt, hogy egy modell képes lehet-e más eszközökre átterjedni, és adatközpontok helyett azok beépített chipjein futni. A kutatók szerint egy ilyen, önmagát másoló rendszer feletti irányítás elvesztése komoly kockázatot jelentene.„Egy ilyen replikátort nehéz lenne leállítani, mivel nincs egyetlen központi pont, ahol ki lehetne kapcsolni”– írták a jelentésben, amit a Guardian szemlézett.Az Anthropic „AI-férgeknek” nevezi az ilyen, önállóan terjedő kártevőprogramokat. A legrosszabb forgatókönyv szerint több ilyen rendszer „rajokba” tömörülve számítógépes hardvereket támadhatna.„Arra kell törekednünk, hogy megerősítsük rendszereinket, és megnehezítsük az ilyen replikátorok terjedését, ugyanakkor fel kell készülnünk arra a világra is, amiben már nem tudunk megszabadulni tőlük”– fogalmaztak a kutatók.A jelentést az Anthropic Frontier Red Team nevű, AI-rendszerek tesztelésével foglalkozó egysége készítette. A kutatók egy olyan forgatókönyvet vizsgáltak, amiben az AI-ügynöknek internetre kapcsolódó eszközöket kellett feltörnie. Arra jutottak, hogy az önreplikáció valószínűleg csak kisebb modellekkel működhetne, és elsőként az otthonok, illetve a kisvállalkozások eszközei kerülhetnének veszélybe.Az Anthropic a lehetséges célpontok között említi az okossütőket, az okostévéket, az automata fűnyírókat, a biztonsági kamerákat és a videókonferenciákhoz használt eszközöket. A vállalat szerint ezekben kis méretű, beépített AI-chipek működnek.A figyelmeztetés jól illeszkedik az AI-rendszerek növekvő önállóságáról szóló vitába. Szeptemberben az amerikai techipar több r