Napi abszurd: az OpenAI azt az e-mailt is AI-jal írta, amelyben arról értesítette az ausztrál kormányt, hogy az AI-modellje feltörte a rendszerüket

Az OpenAI mesterséges intelligenciát is használt annak az e-mailnek a megírásához, amelyben az ausztrál kormányt értesítette, hogy a cég egyik AI-ágense betört egy kormányzati weboldalra – derítette ki a Guardian Australia. A lap értesülése szerint a cég jogi és biztonsági csapata AI-jal generáltatta a levél szövegének egyes részeit, így a szóhasználatot és a formázást is. A lap egyik, az ügyet ismerő forrása szerint a végleges szöveget emberek nézték át, és ők is küldték el a Services Australia nevű, szociális és egészségügyi szolgáltatásokért felelős hivatalnak. Az OpenAI a Guardian megkeresésére nem reagált, a cég a belső vizsgálata lezárása után várhatóan további részleteket közöl a levélről.A hír azért kínos az OpenAI-nak, mert kedden, az ausztrál parlament bizottsági meghallgatásán a cég stratégiai igazgatója, Jason Kwon még másként nyilatkozott. Aaron Violi, a liberális ellenzék technológiai árnyékminisztere kifejezetten megkérdezte, hogy a cég munkatársai AI-jal írták-e meg az értesítést. Kwon azt felelte, hogy nem hiszi, de szívesen utánanéznek. A meghallgatáson Kwon azt is elismerte, hogy a cég reakciója nem volt megfelelő, és sokkal hamarabb kellett volna értesíteniük az érintetteket.Ahogy korábban megírtuk, az OpenAI ágense június 18-án jutott be a Services Australia Medicare-statisztikai portáljára, és még három másik rendszerhez is hozzáfért. A cég augusztusban szerzett tudomást az esetről, de csak szeptember 10-én jelezte egy ötbekezdéses e-mailben, amelyet egy olyan nyilvános címre küldtek, amit a hivatal egy naponta csak egyszer ellenőrzött. A levél szerint a modell talált egy módot arra, hogy a nyilvános felületen keresztül fiók és jelszó nélkül utasításokat hajtasson végre a szerverrel, belső fájlokat és beállításokat olvasott, és egy tesztfájlt is létrehozott, betegadatokhoz azonban a cég szerint nem fért hozzá. Az OpenAI-t amiatt is bírálták, hogy Sam Altman vezérigazgató szeptember 1-én személyesen találkozott Richard Marles ausztrál minisztere