Christina Stathopoulos, a Dare to Data alapítója és korábbi Google- és Waze-adattudós, a This Week in AI című műsorban több, egymást átfedő fejleményt vizsgált: Anthropic Claude rendszerének alkalmazását a kutatási folyamat egy részének automatizálására, kínai nyílt súlyú modellek növekvő fejlesztői forgalmát, OpenAI üzleti és szervezeti kihívásait, valamint új rendszereket, amelyek a fizikai folyamatok modellezésére tanulnak. A műsorban kitért arra is, hogy ezek a változások mit jelentenek a piac, az infrastruktúra és a társadalmi hatások szempontjából.
Claude a kutatásban
Anthropic példáján keresztül bemutatták, hogyan segíthet egy nagy nyelvi modell a jövőbeli modellek fejlesztésében. A bemutatott kutatásban Claude felkutatta a meglévő szakirodalmat, módszereket javasolt, képzési adatot generált, majd ismételten tesztelte és finomította az eljárásokat, hogy csökkentse nem kívánt modellviselkedéseket. A kísérletek tíz viselkedéskategóriát vizsgáltak, többek között megtévesztés (deception), hallucináció (hallucination), prompt-injekció, adatvédelmi megsértések és jutalommanipuláció (reward hacking). Anthropic szerint mind a tíz területen javulást mértek anélkül, hogy a modell általános képességei romlottak volna.
A megtévesztéses vizsgálatokban Claude több mint 150 módszert próbált ki, és végül a mért biztonsági rés 85%-át sikerült bezárni. Ugyanezen összehasonlítás szerint emberi biztonsági kutatók csak 20%-ot zártak be. Christina hangsúlyozta, hogy ez nem közvetlen verseny, hiszen Claude nagyobb sebességgel és méretekben tudott kísérletezni és finomítani, és azt is hozzátette, hogy ez a munka nem jelent teljes körű, rekurzív önfejlesztést. A demonstráció rámutatott arra, hogy az AI egyre nagyobb szerepet játszhat magában a kísérlettervezésben és -végrehajtásban, miközben az emberi kutatók továbbra is a célok meghatározásáért és az eredmények értékeléséért felelősek.
A verseny több mint teljesítmény
A modellek minősége mellett a verseny egyre inkább kiterjed az üzleti teljesítményre, az infrastruktúrára és a telepítési lehetőségekre is. Anthropic hosszú távú piaci becslést tett közzé, amely szerint rendszereik piacmérete elérheti a 30 billió dollárt; Christina ezzel kapcsolatban szkeptikus volt, mivel ez a szám megközelíti az Egyesült Államok teljes gazdaságának nagyságrendjét.
Konkrétabb jelzésként említette, hogy Anthropic évesített bevételi üteme (run rate) az év elején még kevesebb volt, mint az OpenAI-ének a fele, ám néhány hónap alatt meg is haladta azt. Mindkét vállalat felkészül esetleges tőzsdei bevezetésre. Ugyanakkor az OpenAI másfajta nyomásokkal néz szembe: az év során 14 vezető tisztségviselő távozott, ami fenntartott vezetői fluktuációra utalhat, és kérdéseket vet fel a következetes végrehajtóképességről.
Infrastruktúra: Jalapeño chip és hardverkontroll
Az OpenAI igyekszik nagyobb kontrollt szerezni az infrastruktúrája felett. A vállalat a Broadcommal közösen fejlesztett Jalapeño inferencia chipet mutatta be, amely saját méréseik szerint egyes NVIDIA-kompatibilis rendszerekhez viszonyítva akár 1,9-szer több AI munkát végzett watt-onként, és akár 3,6-szor alacsonyabb késleltetést ért el.
Nyílt súlyú modellek Kínából: gyors növekedés a fejlesztői forgalomban
A versenyt tovább bővítik a kínai nyílt súlyú modellek. Christina egy AI-gateway statisztikáit idézte: egy nap alatt a fejlesztői forgalomban ezek a modellek elérhették a 62%-ot, míg áprilisban az átlag körülbelül 10% volt. A verseny mára kiterjed a benchmarkteljesítményre, a tőkére, az infrastruktúrára, a költségekre, a telepítési rugalmasságra és a szervezeti végrehajtásra.
Fizikai modellek: a nyelv és kép mellett egy harmadik modalitás?
A műsor zárásaként Christina olyan kutatásokat ismertetett, amelyek azt célozzák, hogy az AI rendszerek fizikát is modellezni tudjanak. A Massachusetts Institute of Technology (MIT) és a Tsinghua University kutatói egy előtanulási megközelítést fejlesztettek ki, amely több mint egymillió szintetikus interakcióból tanult mozgó részecskék és összetett 3D objektumok között, majd ezeket a mintákat alkalmazták szelekre, vízre, ütközésekre és fényviszonyokra vonatkozó szimulációkban. A kutatók a fizikát lehetséges „harmadik modalitásként” jellemezték a nyelv és a pixel-alapú inputok mellett.
Emellett bemutatták az Accelerated Understanding nevű startupot, amely a nyílt szférából kilépve neural operator-okra épülő architektúrát fejleszt a transformerek helyett. A cég céljai között szerepelnek a hatalmas fizikai adathalmazokat igénylő problémák: chiptervezés, robotika, szélsőséges időjárás-előrejelzés és geológiai feltárás.
Az ilyen modellek – ha közvetlenül a fizikai rendszerekből tanulnak – fontos eszközzé válhatnak szimulációkhoz, mérnöki tervezéshez, robotikához, előrejelzésekhez és minden olyan munkához, amely a valós környezetek összetett viselkedésének megértését igényli.
Ki profitál belőle? Munkaerő, hozzáférés és politika
Christina azt is áttekintette, kik lehetnek a nyertesek és vesztesek a változásokból. Hivatkozott Bill Gates érvelésére, amely szerint a hozzáférés, a telepítés, a szabályozás és az elosztás határozza meg, hogyan oszlanak meg az AI előnyei a társadalomban. Emellett a műsor új munkaügyi előrejelzéseket ismertetett: az Egyesült Államok Bureau of Labor Statistics legújabb prognózisaiban a technikai szolgáltatások és az egészségügy területei növekedést mutatnak, míg az irodai és adminisztratív szerepek nagyobb automatizációs nyomásnak vannak kitéve.
Christina fő mondanivalója az volt, hogy az AI előnyeinek és zavarainak eloszlását nem csupán a technológia gyorsasága határozza meg, hanem a hozzáférés, a munkaerő felkészítése és a közpolitika formálása is.
Mikor következik a következő adás?
A This Week in AI a Labor Day ünnep miatt szünetel, és visszatér hétfőn, szeptember 14-én, amikor további híreket, kérdéseket és fejleményeket dolgoznak fel. A műsort hetente pénteken frissítik, elérhető YouTube-on, Spotify-on, Apple-on és a podcastplatformokon.
