Az utóbbi időben az AI rendszerek kevésbé tűnnek statikusnak: ügynökök (agents) képesek új eszközöket létrehozni menet közben, és a modellek egyre gyakrabban frissítik magukat már a használat során is. A tesztidő alatti tanulás (test-time training) lehetővé teszi, hogy egy modell az inferencia közben igazítson a saját viselkedésén. Ugyanakkor a kutatás más ágain — különösen a rekurszív önfejlesztésben (recursive self-improvement, RSI) — azt vizsgálják, hogyan javíthatnak az AI-k memóriáján, stratégiáin, modellparaméterein vagy akár azon az értékelőn, amely megmondja, mit tekintünk „jobbnak”.
Mi a problémát vet fel ez a mozgó határ?
A lényeges kérdés ma az, hogy mi az, amit nem szabadna megváltoztatnia egy AI-nak. A gyakorlatban ez több területen jelenik meg:
- Biztonság és felelősség: a közelmúltbeli ügynök-incidensek rámutattak, hogy a határok elmosódása veszélyes lehet, ha egy rendszer szabadon módosítja működési környezetét vagy jogosultságait.
- Adatvédelem és engedélyek: ha egy ügynök új utakra lel, hogyan biztosítjuk, hogy ne jusson hozzá vagy továbbítsa a privát adatokat?
- Megbízhatóság: a rendszereknek következetesen kell működniük még akkor is, ha a valóság eltér a tanításuk során tapasztalt helyzetektől.
Meta Muse: egy példa a határok húzására
A Meta új személyes ügynöke, Muse, képes kódot írni, eszközöket építeni, alügynököket futtatni és módosítani a saját munkakörnyezetét. Meta megközelítése az, hogy a döntési jogkört (authority) kívül tartja az ügynökön: maga az ügynök improvizálhat, de egy külön rendszer felügyeli a jogosultságokat, hitelesítő adatokat és a privát adatok kezelését. Ez egy gyakorlati biztonsági terv: az ügynök szabadon találhat új megoldásokat, de nem kap automatikusan engedélyt azok végrehajtására.
Mit jelent pontosan a rekurszív önfejlesztés?
Az RSI kapcsán sokan a szuperintelligencia és a szélsőséges kockázatok felé ugranak a következtetésekben, de még a definíció is fontos: mi teszi „rekurzívvá” az önfejlesztést? Már ma is létezik olyan gyakorlat, amikor AI javít AI-t: modelleket, kódot vagy stratégiákat finomítanak automatizált módszerekkel. A valós áttörés akkor kezdődik, amikor az AI nem csupán egy modellt vagy folyamatot javít, hanem azt a meta-folyamatot is, amelynek segítségével a további javításokat megtalálják. Ennek megítélése viszont függ attól, hogyan mérjük az „javulást” — és azt is egyértelműen el kell dönteni, mi maradjon kívül a javítási körön.
Kilenc kutatási út a teljes RSI felé
Bár jelenleg nincs olyan rendszer, amely teljes egészében képes önmagát továbbfejleszteni és saját, képességeiben jobb utódot létrehozni, a kutatók különböző darabokat vizsgálnak a láncból. A nyomvonalak között szerepel a stratégia, memória, készségek, policy-k, modell-súlyok, ügynökkód és maguk az értékelők (evaluatorok) fejlesztése. Egyik irány sem hordozza még a teljes RSI-t, de együtt a kirakós darabjainak tűnnek.
Tesztidő alatti tanulás: a modell, amely használat közben változik
A központi tendencia, hogy az inferencia során több időt, számítási erőforrást és eszközt adunk a modelleknek. A tesztidő alatti tanulás (test-time training, TTT) lényegi különbsége, hogy nem csupán a környezetet, a promptokat vagy a kiegészítő mechanizmusokat javítjuk, hanem maga a modell képes alkalmazkodni használat közben. Ez különösen fontos lehet az ügynököknek és a világmodelleknek, amelyek olyan helyzetekkel találkoznak, amelyeket a tanító adatok nem fedtek le.
Léteznek specifikus megközelítések, mint a TTPO és az aTTT, valamint olyan világmodellek, amelyek már üzembe helyezés közben tanulnak az új tapasztalatokból. Ezek az irányok lehetővé teszik, hogy a rendszerek jobban reagáljanak a váratlan eseményekre, de ugyanakkor növelik azt a kérdést is, hogy melyik rendszerkomponenst kell human-in-the-loop módon vagy egyértelműen kívül tartani a módosítható körön.
Következtetések: mi maradjon kívül a rendszer hatáskörén?
A technológiai fejlődés egyre több lehetőséget ad az AI-k önálló alkalmazkodására és javítására. Ugyanakkor a biztonság, adatvédelem és megbízhatóság szempontjából fontos határokat kell meghúzni: jellemző megoldás a döntési jogkörök és érzékeny erőforrások elkülönítése az ügynökök improvizációs terétől. A kutatás különböző irányai — az RSI darabjai és a tesztidő alatti tanulás — mind hozzájárulnak ahhoz, hogy jobban megértsük, mely folyamatokat érdemes automatizálni, és melyeket kell emberi vagy külön rendszeri felügyelet alatt tartani.
