Nagy változtatásra szánta el magát az OpenAI az Európai Unióban: hamarosan minden ChatGPT és a Codex által generált szöveghez egyfajta láthatatlan vízjelet adnak hozzá, amelyekkel visszakereshető lesz, hogy MI-generált-e egy írásos munka vagy nem – számolt be róla a Bleeping Computer.
Az OpenAI közlése szerint a vízjel nem lesz látható a szöveg olvasása vagy másolása során. Ehelyett az OpenAI egy új, textGrain nevű technológiát használ, amely kissé megváltoztatja a modell szóhasználatát, hogy
egy később észlelhető statisztikai mintázatot hozzon létre.
Az OpenAI az EU-ban már az elkövetkező hetekben bevezeti ezt az újítást, azonban egyelőre nem teszi globálisan alapértelmezetté. A cég az EU-s bevezetés mellett pályázatokat is kiírt a vízjel-detektáláshoz, ám a hozzáférés kezdetben csak a jóváhagyott kutatókra és kiválasztott, szakértői szervezetekre korlátozódik.
Mindenkit lebuktat?
Még mielőtt mindenki megijedne, hogy a cég le fogja buktatni, a Sam Altman vezette vállalat jelezte: a szövegek vízjelezése egyelőre messze nem tökéletes. A cég saját tesztjei azt mutatják, hogy egy alapfokú szerkesztés jelentősen csökkentheti a mesterséges intelligencia által generált szöveg felismerésének lehetőségét.
Egy 400 tokenből álló szövegrészlet értékelése során a szavak 10 százalékának szinonimákkal való helyettesítése 92 százalékról kb. 66-ra csökkentette az észlelési arányt. A szavak negyedének helyettesítése pedig 17 százalékra
– közölte az OpenAI hozzátéve, hogy a detektálás még rosszabb volt az olyan tantárgyaknál, mint például a matematika, ahol a modellnek kevesebb szabadsága van a különböző szavak kiválasztásában. Emellett a cég legújabb, GPT-6 Astra modelljén sem működik a vízjelezés.
A mesterségesintelligencia-vállalat részletezte: a vízjel nem árulja el, hogy ki generálta a szöveget, így sem a felhasználói fiók, sem a promptot nem hozza nyilvánosságra, ahogy azt sem tudja megmondani, hogy a végső munka mekkora részét írta vagy szerkesztette ember.
The post Láthatatlan vízjel jön a ChatGPT-be, ami sokakat lebuktathat first appeared on 24.hu.
