A múlt héten több, az ügynökökre (agentekre) épülő mesterséges intelligencia fejlesztésével kapcsolatos irányvonalról érkeztek fontos megfigyelések: a rekurszív önfejlesztés gyakorlati működése, az ügynökökhez illeszkedő felelősség kérdései, a világmodelleket célzó tanulási megközelítések (például JEPA), valamint az ügynökök gyakorlati hasznosításához szükséges tréning- és infrastruktúraelemek. A következőkben részletesen bemutatjuk a fő pontokat.
1. Rekurszív önfejlesztés: sci-fitől mérnöki folyamatig
A rekurszív önfejlesztés — az a gondolat, hogy az AI maga javítja az AI-t, amely aztán újra javítja önmagát — hosszú ideje inkább távoli lehetőségként szerepelt a diskurzusban. Mostanra azonban gyakorlati értelemben is értelmezhetőként jelenik meg: mérnöki hurkok sorozataként, ahol a ciklus így néz ki: javaslat → megvalósítás → tesztelés → értékelés → tanulás → következő lépés kiválasztása.
Ez azt jelenti, hogy a rendszerek képesek részt venni saját fejlesztési folyamatuk egyes lépéseiben: kódot írnak, kísérlettervet készítenek, kimeneteket elemeznek és új iterációkat javasolnak. A legnagyobb nehézség azonban a verifikáció marad: ki dönt arról, hogy egy javítás valódi előrelépés-e? Megbízható értékelés nélkül a rekurszív fejlesztés könnyen zajszintűvé válhat.
2. A felelős MI átalakulása az ügynökök korszakában
A felelős mesterséges intelligencia eszköztára és szemlélete eddig elsősorban olyan modellekhez igazodott, amelyek kérdésekre válaszolnak. Az ügynökök viszont terveznek, eszközöket használnak, kontextust tárolnak és több lépésen át cselekszenek — ez lényegesen megváltoztatja a kockázati képet.
Alapvető kérdéssé válik: mi történik, ha a rendszer cselekszik, hat más rendszerekre, és az apró hibák idővel összegződnek? Az ügynökök korában a felelősségkezelésnek a munkafolyamat szintjén kell megjelennie: folyamatos megfigyelés, jogosultságkezelés, auditálási nyomvonalak, izolált környezetek (sandboxing) és hosszú távú viselkedést vizsgáló értékelések szükségesek.
Megemlítendő, hogy a szerző beszélgetést folytatott Sarah Bird-del, aki a Microsoftnál a Responsible AI CPO-ja; az interjú további betekintést nyújt a témába.
3. JEPA és a világmodellek újbóli előtérbe kerülése
A JEPA (Joint Embedding Predictive Architecture) egy alternatív tanulási útvonalat vázol: ahelyett, hogy minden tokent vagy pixelt próbálna előre jelezni, absztrakt reprezentációk előrejelzésére tanul. Ez fontos, mert az intelligencia felépítése túlmutathat a felszíni predikción: az emberek sem rekonstruálják minden érzéki részletet, hanem tömörített modelleket építenek a világról.
A JEPA kérdése ezért éles: érdemes-e a jövő AI-rendszereinek kevésbé „autocomplete”-szerűen, és inkább világmodelleket építve tanulniuk? Az eredeti anyag bontást ad különböző JEPA-típusokról és tipikus munkafolyamatmintákról.
4. Reinforcement learning (RL) eszközök az ügynökök tréningjéhez
Ügynökök tanítása sokkal több annál, mint hogy jól megfogalmazott promptokat adunk egy modellnek. Szükség van környezetekre, jutalmazási sémákra, verifikátorokra, eszközhasználati tranzakciók nyomára, memóriára és visszacsatolási hurkokra.
Az RL-tréningeszközök lehetővé teszik, hogy az ügynökviselkedés mérhető és javítható legyen. Az ilyen stackek egyre kevésbé hasonlítanak a klasszikus gépi tanulási edzésfolyamatokra, és egyre inkább ismételt interakciókra épülő infrastruktúrákra. Az eredeti anyag listát ad hasznos RL-tréningeszközökről.
5. Ügynöki eszközkészletek: félreértett réteg
Az ügynöki toolkiteket gyakran egyszerű API-burkolóknak tekintik, pedig valójában meghatározzák, mit tud egy ügynök megtenni. A kihívás nem csupán a modell és az eszközök összekötése: az végrehajtás kezelése, állapotmenedzsment, jogosultságok, hibakezelés, újrapróbálkozások és verifikáció mind kritikusak.
Bár jobb modellek fontosak, a megbízható eszközhasználat döntheti el, mely ügynökök válnak hasznossá valós munkafolyamatokban. Ez a minta azt mutatja, hogy a határterület áthelyeződik az elszigetelt intelligenciáról az intelligencia köré szerveződő rendszerekre.
6. Kié a következtetési hurok?
A szerző O’Reilly-nek készített egy önálló szegmensben is foglalkozott ezzel a kérdéssel. Kódolásban, kiberbiztonságban, orvostudományban és tudományos kutatásban egyaránt felmerül: hol cselekszik a modell, ki irányítja az eszközöket, kié a visszajelzés, és ki dönt arról, mikor elég biztonságos a hurok futtatása?
Következtetés
Az ügynökökre épülő rendszerek fejlődése technikai és felelősségi kihívásokat egyaránt hoz. A rekurszív önfejlesztés gyakorlati megvalósítása, a felelős használathoz szükséges munkafolyamatok kialakítása, a világmodellek felé való elmozdulás, valamint a tréning- és eszközinfrastruktúra megbízhatósága mind meghatározza, hogy mely megoldások lesznek alkalmasak valós alkalmazásokra.
A priorizálás kulcskérdése: verifikációs módszerek és munkafolyamat-szintű felelősségvállalás megléte nélkül a technikai haladás nem feltétlenül jelent biztonságos vagy hasznos alkalmazást.
