Jean‑Stanislas “JS” Denain, az Epoch AI insights csapatának vezetője, és Nathan Lambert, a beszélgetés házigazdája egy nyilvános podcast‑epizódban beszélgettek arról, mire utalnak a mostani jelek az AI‑fejlődés ütemére és az RSI‑folyamatok (recursive self‑improvement) esélyére. A felvétel tömörített fejezetei a következők voltak: előrejelzések RSI‑ről; a robotika szerepe; a kínai modellek lemaradása; distilláció mint magyarázó tényező; kínai álláshirdetések jelei; nyílt vs. zárt modellek biztonsága; és hogyan működik az Epoch AI.
Fő következtetés: nagy bizonytalanság
Denain és Lambert is hangsúlyozták, hogy jelentős bizonytalanság övezi most a jövőt. Vannak belső mérések és vállalati jelzések — például az OpenAI és Anthropic által közzétett adatok — amelyek arra utalnak, hogy AI‑eszközök egyre gyakrabban használatosak a modellezés és a deploy során, de ezek még nem tekinthetők egyértelmű bizonyítéknak arra, hogy rövid időn belül szoftveres intelligenciarobbanás következik be. Denain példaként említette, hogy az OpenAI belső grafikona szerint a kutatók Codex‑költsége havi kétszeres ütemben nőtt, ami értéknek tűnik, de nem bizonyítja egyértelműen az önfenntartó gyorsulást.
Mit láthatnak a belső csapatok, amit mi nem?
Beszélgetésük során felmerült, hogy a laborok belső KPI‑i (például elő‑tréneléses compute multiplikátorok, szolgáltatási használati minták vagy domain‑specifikus metrikák) korai figyelmeztetők lehetnek. Denain nem állította, hogy biztosan létezik olyan speciális jel a belső rendszerekben, ami riasztóbbá tenné a képet, de működnek olyan mutatók, amelyeket a vállalati csapatok figyelnek. Ezek együtt adhatnak megfigyelési előnyt, ugyanakkor a közzétett publikus adatok jelenleg nem tűnnek meggyőző bizonyítéknak a rövidtávú, robbanásszerű RSI mellett.
RSI és egzisztenciális kockázat
Denain egyértelműen aggódik az AI hosszabb távú kockázatai miatt, és elismeri, hogy valószínűleg érdemes komolyan venni az RSI‑dinamikát. Hivatkozott azokra a modellekre (például Evan Hubinger egy nyilatkozatára), amelyek szerint egy jelentős x‑kockázat lehetősége belátható évtizedes időtávon érdemes figyelembe venni. Ugyanakkor Denain azt is mondta, hogy az emberek fő nézetkülönbségei legtöbbször azon múlnak, hogy az AI‑képességek „mennyire lesznek nagyok és milyen gyorsan”. Ha a képességek nagyon gyorsan nőnek, sokkal nagyobb a potenciális gazdasági és biztonsági hatás is.
Mit jelent a „capabilities maximalism” a gyakorlatban?
Denain szerint a képesség‑maximalisták elképzelése olyan gyors, tág hatókörű változás lehet, ahol az AI rendszerek részben automatizálják az AI‑kutatás folyamatát, és a robotika terén is jelentős előrelépések történnek. Ez egy olyan forgatókönyvhez vezethet, ahol AI vezérelt, nagy volumenű gyártás és kutatás felgyorsítja a tudományos eredményeket és az ipari kapacitást.
Robotika: mit lehet várni és mik az akadályok?
Lambert és Denain is óvatosak a robotika rövid távú, mindent átalakító hatásával kapcsolatban. Lambert a többéves, esetleg évtizedes időtáv mellett érvelt, és a robotika fejlesztésének nehézségére hívta fel a figyelmet: a fizikai gyártás, megbízhatóság és a valós világ sokszínűsége más kihívások, mint a modell‑szöveg‑kép feladatok. Denain viszont felhívta a figyelmet arra, hogy ha a robotikai képességek elegendőek a kék‑galléros munkák helyettesítésére, a pénzügyi ösztönzők hatalmasak lennének, és a gyártókapacitás (például adatközpont‑építésnél látott tempó) erősen felgyorsulhat.
Mindketten elismerték, hogy a robotika valószínűleg inkább a korlátozott, ismétlődő gyártási környezetekbe terjed be először (pl. robot‑első gyárak), míg az utcai, emberrel közös jelenlét jóval hosszabb időtávot igényel.
Kínai laborok és a képességek lemaradása
Denain konzervatív becslése szerint a kínai csúcslaborok publikus modellkiadásai nagyjából 4–8 hónappal maradhatnak el az OpenAI/Anthropic‑tól, megjegyezve, hogy a mérési módszertan (elvek, ECI‑szerű mutatók, visszamenő vagy előremenő mérés) nagy zajt és bizonytalanságot ad. A beszélgetésben Lambert arra mutatott rá, hogy bizonyos modellek (például Kimi K3 és GLM 5.2) közelebbiek tűnhetnek (2–4 hónap), és vitatták, mennyire magyarázza ezt a közzétételi sebesség, a distilláció, compute‑különbségek, adat‑infrastruktúra vagy szervezeti grind (munkaerő‑szervezés) hatékonysága.
Denain említette, hogy az ECI‑szerű összehasonlításoknál a túlillesztés (contamination) hatását vizsgálták: a private benchmarkok vagy később publikált benchmarkok kizárásával végzett elemzésekban a torzítás nem tűnt statisztikailag jelentősnek, de azért további bizonytalanság marad.
Distilláció szerepe
A beszélgetés során mindketten elismerték, hogy a distilláció (az API‑használati vagy router‑adaton való „levezetés”, illetve köztes finomhangolás) egyre többeket győz meg arról, hogy fontos tényező lehet a lemaradás magyarázatában. Denain jelezte, hogy saját korábbi álláspontjához képest frissített ezen a véleményén — részben mert több kutatás és beszámoló vetette fel a distilláció hatékonyságát, illetve mert a Claude‑router jellegű megoldások jó forgalmazási/prompt‑eloszlási adatokat szolgáltatnak, amelyek hasznosak lehetnek a reális felhasználási mintákhoz illeszkedő finomhangoláshoz. Lambert viszont hangsúlyozta, hogy a distilláció hatása nem feltétlenül magyaráz meg mindent, különösen ha erős közzétett modellek (például Kimi vagy GLM) is közelítenek.
Munkaszervezés, adatpiacok és kínai álláshirdetések
Denain és Lambert is beszéltek chipekről: Epoch AI‑nál végeztek álláshirdetés‑analízist, amely néhány érdekes vállalati stratégiára világított rá (például a B2B értékesítési hirdetések száma, regionális adatközpont‑építési jelek, internship‑felvételek). Az ilyen jelek nem adnak szigorú trendvonalat, de értékes anekdotikus bizonyítékokként szolgálnak arra, hogy mely cégek milyen termék‑ és piacstratégiát követnek. Denain megjegyezte, hogy az adatpiac nehezen átlátható, titkos és sokszor személyes kapcsolatokon alapul, ezért ebből a szempontból komoly riporteri munkára lesz szükség, ha valaki mélyebben szeretné feltérképezni a kínai adat‑beszerzési ökoszisztémát.
Nyílt vs. zárt modellek és szolgáltatói biztonság
A beszélgetők kitértek arra is, hogy a nyílt modellek (open weights) könnyebben hozzáférhetővé teszik a finomhangolást és a misuse‑t, míg a zárt, hosztolt modellek esetén a szolgáltatók valamilyen felügyeletet és szűrést alkalmaznak. Ugyanakkor sem a zárt modellek sem a jelenlegi védelmi intézkedések nem tökéletesek: a közelmúltban a nyilvános Claude‑modellek egyes esetekben lehetővé tették, hogy rosszindulatú szereplők információt nyerjenek (a beszélgetés említette a „Stolen Thoughts” esetre emlékeztető problémákat), és ez rámutat arra, hogy a szolgáltatói oldali szinkron ellenőrzés gyakran nem elég gyors vagy hatékony egyes támadások feltartóztatására.
Denain rámutatott, hogy a jelenlegi helyzetben valószínűbb, hogy a rossz szereplők egyszerűen a legkevésbé jól védett szolgáltatót választják, tehát a nyílt modellek elterjedése nem az egyetlen probléma — az API‑szolgáltatók gyenge őrhelyei is komoly kockázatot jelentenek.
Hogyan dolgozik az Epoch AI, és milyen adatokra alapoznak?
Denain elmondta, hogy Epoch projektválasztása többnyire kíváncság‑vezérelt: a cél, hogy legyen egy független, jól karbantartott nyilvános forrás az AI‑trendekről. Olyan közelítéseket használnak, mint adatközpont‑tracking, álláshirdetés‑analízis és modellezési compute‑becslések, de Denain is hangsúlyozta: az egyes vertikumok (compute, adat, modellezés) különböző mértékben átláthatók. A compute‑ és adatközpont‑jelek általában jól követhetők, ha ezek növekednek, míg a konkrét adatpiacok és a belső post‑training receptek sokkal titkosabbak.
Post‑training receptek és a valós folyamat összetettsége
Lambert és Denain is arról beszéltek, hogy a frontier laborok post‑training folyamatai sokkal komplexebbek lehetnek, mint a leegyszerűsített, háromfázisos modell. Denain vázolta, hogy tipikusan vannak domain‑specifikus poszt‑tréning csapatok (például matematika, biológia, pénzügy), amelyek köré gyűjtik a domén‑specifikus adatokat, RL‑környezeteket és értékelőeszközöket; ezek a csapatok beleszólnak abba, hogy mely adatokat és hyperparamétereket vigyék be a végső nagy RL‑futásba. A részletek és a recept mintázatai cégenként eltérnek, és Denain elismerte, hogy nem áll rendelkezésre teljes nyilvános folyamatábra a frontvonalban zajló munkáról.
Záró gondolatok
A beszélgetés ambivalens, de óvatosan éber képet rajzolt: sok érdemi bizonyíték és érdekes jel mutatkozik (növekvő API‑használat kutatói körben, distillációs technikák, job posting jelek, állami és ipari infrastrukturális beruházások), de ezek együttesen sem adnak jelenleg egyértelmű bizonyítékot arra, hogy rövid időn belül önfenntartó szoftveres intelligenciarobbanás következik. Mindkét fél hangsúlyozta a további adatgyűjtés és fenntartott elemzés szükségességét — különösen robotika, distilláció, adatpiacok és szolgáltatói biztonság terén —, mert ezek a tényezők nagyban befolyásolják a tényleges kockázati profilokat és idővonalakat.
Forrás: Nathan Lambert és Jean‑Stanislas “JS” Denain podcast‑beszélgetése (Interconnects), amely több témát és konkrét fejezetidőket ismertetett a teljes adás során.
