Reed szerint Dario Amodei és más, a frontvonalon dolgozó mesterséges intelligencia-kutatóintézetek vezetői valóban komolyan gondolják az AI-biztonság ügyét, ugyanakkor a „frontvonal lassítására” tett felhívások gyakran a saját pénzügyi érdekeiket is szolgálják.
Amikor az Anthropic és az OpenAI tőzsdére lépésre készül és befektetőket próbál meggyőzni arról, hogy hosszabb távon óriási profitot tudnak termelni, nem biztos, hogy a legnagyobb és legképesebb modellekre fordított, milliárdos verseny a legjobb értékesítési érvelés.
Jelenleg: még ha a nagy nyelvi modellek (LLM-ek) fejlődése lassul is, a már meglévő rendszerek elegendő képességet adnak ahhoz, hogy ezek a vállalatok és az egész gazdaság számára rendkívül jövedelmezőek legyenek. Ugyanakkor a hatékonyság növelése drágábbá válik: exponenciálisan több pénzbe kerül egy olyan további képesség létrehozása, amely a legtöbb ügyfél számára csak marginális javulást eredményezne az AI-termék használhatóságában.
Egy-egy tudományos áttörés — vagy ahogy Reed fogalmaz, egy "Millennium Prize Problem" megoldása — lehet jó PR és hasznos a tudománynak, de nem feltétlenül jelent jobb megbízhatóságot az üzleti feladatok ellátásában. Jelenleg az LLM-ek megbízhatósága nem elsősorban a modellek méretéből fakad — a nagyobb nem feltétlenül jobb és lehet, hogy soha nem lesz az — hanem az őket körülvevő szoftveres megoldásokból.
A következő fontos paradigmaváltás nem feltétlenül a modellek méretének növeléséből jöhet, hanem abból, ha olyan AI-modelleket tudunk létrehozni, amelyek a kifejlesztésük után is képesek tanulni, és hatékonyan futtathatók hétköznapi számítógépeken. Reed Richard Sutton elképzeléseit említi példaként, aki az Oak Labnál olyan képességekkel bíró modellt próbál építeni, amely 20 wattos fogyasztással képes működni (összevethető a humán agy energiaszükségletével), és folyamatosan frissítené a súlyait — szintén a biológiai agyhoz hasonlóan.
Az AI-biztonsági szakértők könnyebben aggódhatnak az ilyen elméleti, jövőbeli modellek miatt, mint a ma létező nagy modellek miatt, mert a kisebb, folyamatosan tanuló rendszerek nagyobb eséllyel „szökhetnek meg” a laborból és nehezebb őket leállítani. Ez egy olyan kihívás, amin előbb-utóbb át kell jutnunk, de Reed szerint valószínűleg nem a közeli jövőben.
A hatékonyabb AI csökkentheti a frontvonal-laborok költségeit, ugyanakkor veszélyeztetheti is olyan cégek üzleti modelljét, mint az Anthropic és az OpenAI: ha ügyfelek hasonló képességeket kapnának anélkül, hogy az érintett nagy adatközpontokra támaszkodnának, az gyengítené azokat a bevételi forrásokat, amelyekre ezek a vállalatok építettek. Reed ezt azzal szemlélteti, hogy egy ilyen AI akár az egyéni számítógépemen is futhatna, és nem kellene aggódnom egy 200 dolláros havi szolgáltatási csomag használatáért.
Richard Sutton a közelmúltban egy podcastban arról beszélt, hogy a nagy nyelvi modellek kockázatban lehetnek, ha egyszer a hatékonyabb, folyamatosan tanuló rendszerek elterjednek: „You have to wonder about the large language models. They might be at risk when this eventually happens. I’m sure they’ll get a good run. They’ve already had a good run.”
Érdemes megjegyezni, hogy Jensen Huang, az Nvidia vezérigazgatója — amely cég kritikus hardvert szállít az AI-fejlesztésekhez — más véleményen van: a CNBC szerint Huang nem ért egyet Dario Amodeivel és Sam Altmannal abban, hogy lassítani kellene a frontvonal ütemét.
Miért számít ez?
A vita ügyesen egyesíti a technológiai, biztonsági és gazdasági szempontokat. A vezető kutatóintézetek nyilvánvaló biztonsági aggályai mellett a frontvonal ütemezésére vonatkozó javaslatok mögött gyakran ott vannak üzleti érdekképletek is: a modellek mérete és az adatközpontokra épülő üzleti modell profitabilitása szoros kapcsolatban áll egymással. Ahogy a technológia hatékonyabbá válik és a folyamatos tanulás irányába mozdul, megváltozhat az is, hogy hol és hogyan használnak AI-t — és ez hatással lesz azokra a cégekre, akik most a legnagyobb beruházásokat hajtották végre.
A kérdés tehát nemcsak az, hogy mennyire gyorsan fejlődik az AI, hanem az is, hogy ki fizeti meg ezt a fejlődést, és kinek lesz haszna belőle.
