Az Anthropic álmodni tanítja az AI-modelljeit, hogy kijavítsák a saját emlékeiket

Bár az emberi agy folyamatosan rögzíti az élményeket, azoknak csak egy részéből lesz tartós tudás. Az emlékek rögzítésében a nagyagyban található hippokampusz játszik főszerepet, a kiválogatásuk és a hosszú távú memóriába való beépítésük nagy része viszont akkor zajlik, amikor pihenünk: alvás és nyugodt pihenés közben a hippokampusz újrajátssza a friss élményeket, és ez feltehetően fokozatosan beépíti őket a neocortexbe, az agy azon részébe, ahol a tudás nagy része tárolódik.Az Anthropic november 6-án közzétett kutatásában ugyanezt a munkamegosztást ültette át mesterséges intelligenciára. A Claude-modellek munkájuk során naplókat és jegyzeteket készítenek, és a két munkamenet közötti üresjáratban visszanézhetik ezeket, kijavíthatják a hibás bejegyzéseket és rendszerezhetik a tudásukat. A folyamatot az AI-kutatók egyszerűen álmodásnak nevezik.A kutatók először azt vizsgálták, mennyire tudják eldönteni a modellek, hogy mit érdemes megjegyezni. Ehhez a Pokémon Red című videójátékot használták, amelyben a játékosnak az úgynevezett edzőtermek vezetőit (gym leaders) legyőzve kell jelvényeket gyűjtenie – ezek jelzik az előrehaladását. A Claude-modellek a játék elején kaptak egy mappát, amelybe szabadon írhattak, és amelyből a későbbiekben visszaolvashattak, a két vizsgált modell azonban egészen másként élt ezzel a lehetőséggel.A régebbi Sonnet 3.7 szinte mindent feljegyzett, és gyakran külön fájlt nyitott minden csatának, megtalált tárgynak és szereplőnek, így nagyjából tízezer lépés után 225 mappában 413 fájlja és közel egymillió karakternyi jegyzete gyűlt össze, jelvényből viszont mindössze egyet szerzett.Az idén júniusban bemutatott Fable 5 ugyanennyi lépés alatt tíz fájlba mintegy 43 ezer karakternyi jegyzetet írt – vagyis kevesebb mint huszadannyit –, és közben négy jelvényt gyűjtött.A Sonnet 3.7 aprólékos nyilvántartása azért is vált teherré, mert a játék állása folyamatosan változik, így a jegyzetei hamar elavultak, a modell pedig egyre több időt töltött a rendezget