Az AI fejlesztésének irányát ma már nem csak a modellek műszaki képességei határozzák meg: a kormányzati szabályozás, a nagyvállalati beruházások, a termékek kockázatai és a tudományos eredmények együttesen alakítják a pályát. Christina Stathopoulos adat- és MI-evangelista a héten azt vizsgálta, hogyan hatnak ezek a tényezők egymásra, és mely konkrét fejlemények mutatják a változó erőviszonyokat.
Szuverenitás: modellektől a robotokig, chipekig és energiáig
A szuverenitás kérdése kiterjed a modellekre, a számítási infrastruktúrára és az ellátási láncokra. Anthropic vezérigazgatója, Dario Amodei azt javasolta, hogy a döntéshozók ne pusztán azon mérjék a kockázatot, hogy egy modell „nyitott” vagy „zárt”, hanem azt vegyék figyelembe, mire képes a rendszer. Amodei konkrét javaslatai között szerepel az előrehaladott chipekhez és a chipgyártási technológiákhoz való hozzáférés korlátozása, az ipari léptékű modell-destilláció megakadályozása, valamint olyan rendszerek biztonsági tesztelésének kötelezővé tétele, amelyek elég „képességesek”.
Christina egyetért azzal, hogy a képességek vizsgálata kulcsfontosságú, ugyanakkor rámutat: a nyílt és zárt modellek eltérő, de komoly kockázatokat hordoznak. A nyílt modellek súlyainak közzététele után nem lehet visszavonni vagy központilag szabályozni őket, ami növeli a visszaélések kockázatát; a zárt modellek viszont a hatalmat néhány nagy szereplő kezébe koncentrálják. A politikának mindkét megközelítés problémáit kezelnie kell, nem csak az egyiket előnyben részesíteni.
A geopolitikai verseny a robotikára is átterjedt: az Egyesült Államok új, elsősorban kínai gyártókat célzó korlátozásokat vezetett be a külföldön gyártott humanoid robotokra, amire Kína esetleg válaszlépéseket tehet. Christina szerint Kína gyártási előnye rövid távon drágábbá teheti a korlátozások betartását az amerikai vásárlók számára, még ha a hosszú távú hatás a hazai fejlesztések ösztönzése is lehet.
Európa és Ausztrália részben eltérő stratégiákat követ. Európa AI "gigagyárak" iránti javaslatokkal a számítási kapacitás növelését célozza, míg Ausztrália a szabványokra, megújuló energiahasználatra és a tartalomkészítők jogaira helyezi a hangsúlyt: például a javaslatok között szerepel, hogy az adatközpontok finanszírozzanak új tiszta energiás projekteket, és hogy az AI cégek engedélyt kérjenek, mielőtt alkotók munkáján tanítanák a rendszereket. A nemzeti szabályok így egyre meghatározóbb tényezővé válnak a modellek, felhőszolgáltatók és adattárolási helyek kiválasztásában.
A határverseny költséges, az új termékek pedig kockázatot hordoznak
A frontier AI-ban való verseny hatalmas beruházásokat igényel. Google az első negyedévben a tőzsdére lépése óta először regisztrált negatív szabad pénzáramlást (free cash flow), miután három hónap alatt 44,9 milliárd dollárt költött MI-infrastruktúrára. Christina megjegyezte, hogy a vállalat körülbelül 39 milliárd dollár bevételt generált készpénzben, de mintegy 45 milliárd dollárt költött, így közel 6 milliárd dolláros hiány keletkezett — ami szemlélteti az AI-élvonal fenntartásához szükséges befektetések nagyságrendjét, még egy rendkívül jövedelmező alaptevékenység mellett is.
Ugyanakkor a nagy költségvetés nem garantálja, hogy egy termék általános használatra alkalmas és biztonságos. Google egy napon belül eltávolított egy MI-vezérelt Google Earth funkciót, miután kutatók a funkciót felhasználva élethű hamis műholdfelvételeket készítettek — köztük kitalált katasztrófákról és megsérült nevezetességekről. A szintetikus műholdfelvételek alááshatják a közbizalmat, mert a nézők dokumentáris bizonyítékként kezelhetik azokat.
Nagy infrastrukturális költségvetések felgyorsíthatják a modellek fejlesztését és a termékkiadást, de nem helyettesítik az alapos értékelést, a kontextus-specifikus védőintézkedéseket és a világos korlátokat arra nézve, hol engedhető meg a generálás. A termékcsapatoknak fel kell mérniük, hogyan használhatják vissza egy új funkciót, vagy hogyan értelmezhetik a felhasználók a kimenetet — nem csupán azt, hogy mit képes előállítani az alapmodell.
Tudományos eredmények: kézzelfoghatóbb bizonyítékok, mint a szingularitás vitája
OpenAI vezérigazgatója, Sam Altman kijelentette, hogy az MI szingularitása elkezdődött — ezzel arra utalt, hogy az MI gyorsan felgyorsítja az emberi és technológiai fejlődést. Christina óvatos volt a megfogalmazással: a jelenlegi modellfejlesztés nem mutat rekurszív önjavulást (self-improvement), és a gyorsabb kiadások még mindig emberi mérnöki munkát, befektetést és versenyt tükröznek. A gyorsabb kiadási ciklusok befolyásolják, hogyan értékelik és alkalmazzák a szervezetek a modelleket, de ez önmagában nem bizonyítja az intelligenciarobbanást.
Ezzel szemben a heti matematikai és tudományos fejlemények konkrét, tesztelhető eredményeket adnak. OpenAI tervezi, hogy 100 000 akadémiai kutatónak ingyenes hozzáférést biztosít a legerősebb modelljeihez. Christina beszélt továbbá az Astra nevű, belső OpenAI-modellről, amelyről azt pletykálták, hogy tíz, korábban megoldatlan matematikai problémát oldott meg, amelyeket később professzionális matematikusok is ellenőriztek.
Anthropic kapcsán egy külső kutatócsoport Claude Fable 5-öt használva előállított egy ellenétpéldát az 87 éves Jacobian sejtésre (Jacobian conjecture), amelyet szintén ellenőriztek matematikusok. Christina kiemelte, hogy az ilyen eredmények hatással lehetnek a kriptográfiára: a modern kriptográfiai rendszerek matematikai feltevésekre épülnek, és ha az MI képes lenne megcáfolni ezeket a feltevéseket, az alapvető következményekkel járna az internet és az online banki rendszerek titkosítására nézve.
Ugyanakkor Google DeepMind máshogy pozícionálja magát: a cég az AlphaFold csapatát beolvasztotta a szélesebb szervezeti egységbe, és az erőforrásokat inkább a Gemini felé irányítja. Az AlphaFold továbbra is működni fog, de a specializált eszközök, mint az AlphaFold, az MI egyik legegyértelműbb tudományos hasznát hozták. A kutatásvezetőknek figyelniük kell, hogy a generalizált modellekbe történő beruházás ne csökkentse a szűkebb, ellenőrizhető problémákon dolgozó csapatok finanszírozását és létszámát.
Mit jelent ez a következő időszakra?
A beszélgetés rávilágított: az MI előrehaladása ma már több tényezőtől függ, mint pusztán a modellek teljesítménye. A kormányok egyre inkább kontrollt gyakorolnak az infrastruktúra fölött, a vállalatok milliárdokat költenek, és az új generatív funkciók bizalmi problémákat okozhatnak, ha a csapatok nem számolnak azzal, hogyan használhatják vagy értelmezhetik az emberek a generált tartalmat. Egyidejűleg a matematikai kutatások olyan tesztelhető eredményeket adnak, amelyek világosabb képet adnak a jelenlegi képességekről, szemben a szingularitásról szőtt széles állításokkal.
A technikai vezetőknek egyszerre kell mérlegelniük az ellenőrzést, a költségeket, a termékkockázatokat és a tudományos bizonyítékokat, amikor stratégiát alakítanak. Csatlakozzanak jövő hétfőn ismét a "This Week in AI" következő epizódjához, ahol további híreket, kérdéseket és jelentős fejleményeket tárgyalnak az MI korszakából. Az epizódok péntekenként jelennek meg, illetve elérhetők YouTube-on, Spotify-on, Apple-en vagy a megszokott podcast-platformokon.
