A mesterséges intelligencia feladatai nem mindig igényelnek nagy, hosszú választ generáló modelleket. Sok esetben egy egyszerű döntés — igen/nem, valószínűség vagy néhány lehetőség közötti választás — elegendő. Máskor egy jól működő emlékezet órákat spórolhat meg a keresésből, és előfordul, hogy a modellnek több lehetséges jövőt kell elképzelnie, mielőtt választ ad.
Ezen a héten azt vizsgáljuk, hogyan tanulnak az AI-rendszerek hatékonyabban beosztani a számítási kapacitásukat és felhasználni a tapasztalataikat.
Gyors, helyi multimodális döntéshozatal: Liquid AI Open d1
Nem minden döntéshez szükséges generatív választ előállítani. A Liquid AI Open d1 nevű kezdeményezése ezt az ötletet viszi tovább képek és hangok területére: két, nyílt súlyú döntési modellt hoztak létre, amelyeket helyi eszközökön futtatnak. Ez lehetővé teheti, hogy robotok és más eszközök százával ellenőrizzenek kisebb feltételeket anélkül, hogy folyton nagy generatív modellt hívnának meg.
Az Open d1 működésének megértése, a Liquid hardver-tudatos architektúrájának szerepe és annak következményei, ha a gyorsteljesítményű, olcsó döntéshozatal a fizikai világba költözik, fontos kérdések a gyakorlati alkalmazások szempontjából.
Miért izgalmas a Google EmbeddingGemma 2?
A napi információmennyiség messze meghaladja azt, amit hosszú távon meg tudunk jegyezni. Egyik megközelítés nem feltétlenül több emlékezés, hanem sokkal jobb visszakeresés lehet.
A Google új EmbeddingGemma 2 modellje egy mindössze 740 millió paraméteres modell, amely szöveget, képeket, hangot és videót egyaránt kereshetővé tesz — közvetlenül az eszközön. Elméletileg például egy hangfelvétellel is megtalálhatnánk egy releváns videót.
A nagyobb perspektíva az, hogy az AI-alapú memória nem csupán az ügynökök képességeit javítja: részben leveszi a terhet a mi emberi emlékezetünkről is. Ez a potenciál teszi különösen érdekesnek a kicsi, hatékony embedding modellt.
Yann LeCun JEPA-kutatásának új irányai
Hogyan jut el egy modell a lehetséges jövők előrejelzésétől a helyes cselekvés kiválasztásáig? Három új JEPA (Joint Embedding Predictive Architecture) tanulmány más-más aspektusát vizsgálja ennek a kérdésnek.
- H-JEPA: több szinten tud tervezni, a tág céloktól az egyes mozdulatokig.
- Deep JEPA: azt tanulja meg, mikor érdemes egy előrejelzésre extra számítási erőforrást fordítani.
- RoboJEPA: azt kutatja, vajon a világmodellek skálázása jobb döntésekhez vezet-e valós robotokon.
Ezek a munkák közelebb visznek ahhoz, hogy megértsük, miként használhatja egy AI a belső világmodelljét tervezésre, döntéshozatalra és cselekvésre anélkül, hogy minden lehetséges jövőt videóként kellene legenerálnia.
Skill-ek: hogyan alakít át egy ügynök egy befejezett feladatot újrahasznosítható készséggé
Mit tanuljon egy AI-ügynök a most befejezett feladatból, és hogyan adhatja tovább ezt a tudást egy másik ügynöknek úgy, hogy ne örökítse át a hibáit? A SkillOpt, SkillAdam és SkillRefiner kutatások azt vizsgálják, miként lehet a korábbi tapasztalatokat jobb instrukciókká, újrahasználható eljárásokká és készségekké alakítani.
Fontos megjegyezni, hogy egy készség finomítása egy tegnapi feladathoz nem garancia arra, hogy holnap is működni fog. A kutatások célja feltérképezni, hol tárolódjanak ezek a tanulságok, hogyan adhatók át más ügynököknek, és hogyan mérhető, hogy az új ügynök valóban fejlődött-e.
Világmodellek útmutató: különböző megközelítések a jövő előrejelzésére
Milyen belső reprezentációt használ egy modell a világ ábrázolására, és hogyan jósol jövőbeli eseményeket, különösen ha az ügynök is cselekszik? A világmodellek erre többféle stratégiát kínálnak:
- Jövőbeli videókeretek generálása (pl. bizonyos Dreamer-ihlette megoldások).
- Kompakt belső reprezentációk változásának előrejelzése (ahogy egyes JEPA-változatoknál).
- Objektek, geometria és térbeli kapcsolatok expliciten történő követése.
Konkrét példák között szerepelnek a Dreamer 4, JEPA, Genie 3, NVIDIA Cosmos és World Labs Atlas rendszerek. Érdekes trend, hogy ezek a megközelítések kezdenek átfedésbe kerülni, így közelebb hozva olyan modellek létrejöttét, amelyek egyszerre képesek renderelni, szimulálni és tervezni ugyanabban a belső világban.
Összegzés
A közös motívum az, hogy az intelligencia mostanra nem csupán arról szól, mit számolunk ki, hanem arról is, mit őrzünk meg, mit jósolunk, és hogyan használjuk ezeket a következő döntés meghozatalához. A helyi, könnyű döntési modellektől a kompakt multimodális memóriákig és a többszintű tervezést támogató JEPA-módszerekig a kutatás az erőforrások és tapasztalatok szelektív felhasználása felé mozdul el — ez pedig gyakorlati hatásokkal bír robotikában, személyi asszisztensekben és hosszú távú emlékezet-kezelésben egyaránt.
