Az elmúlt napokban több, egymással versengő mesterséges intelligenciával foglalkozó cég vezetője nyilvánosan támogatni kezdte a legfejlettebb modellek fejlesztési ütemének lassítását. A kezdeményezés fő szereplői Dario Amodei (Anthropic), Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) és Elon Musk (xAI).
Dario Amodei szombaton We Must Pace the Frontier címmel tett közzé javaslatot; ebből az ötletből indult a nyilvános vita. Amodei a hivatalos érvelés szerint azért kér lassítást, mert a modellek képességei olyan gyorsan fejlődnek, hogy a biztonsági rendszerek és ellenőrzési mechanizmusok nem tudnak lépést tartani velük. Javasolta független külső ellenőrök bevonását, akik magas szintű hozzáféréssel vizsgálnák a modelleket, valamint közös iparági és nemzetközi biztonsági szabványok kialakítását. Az Anthropic jelezte, hogy egyoldalúan is vállalna lépéseket.
Sam Altman, az OpenAI vezére a múlt héten megnyitotta annak lehetőségét, hogy lassítsanak — lehetőleg együtt más vezető cégekkel —, és nyilvánosan egyetértett Amodei javaslataival. Elon Musk egyszerű, de egyértelmű támogatást fejezett ki az X-en: „Dario is right.” Demis Hassabis, a Google DeepMind vezetője szintén támogatásáról biztosította Amodeit.
Mi áll a javaslat mögött? A hivatalos és a rejtett indokok
A hivatalos indok: biztonság és ellenőrzés. Amodei szerint az autonóm AI-ügynökök egyre bonyolultabb feladatokat tudnak emberi beavatkozás nélkül elvégezni; hosszabb távon komoly kibertámadások, rendszerek feltörése vagy tartós botnetek létrehozása is lehetséges kockázatok. A lassítás időt adna a modellek átfogó tesztelésére és a független auditmechanizmusok kialakítására.
A javaslat emellett több, a fejlesztők által is kommunikált kockázatra hivatkozik: a jogi és pénzügyi kockázatok növekedésére (súlyos incidensek termékfelelősségi kérdéseket vethetnek fel), valamint arra, hogy a technológia gyorsulása meghaladja azt az ütemet, amely mellett a biztonsági rendszerek és a szabályozás kialakulhat.
A hivatalos érvek mellett több, kevésbé hangsúlyos, de fontos gazdasági és stratégiai motívum is felmerül:
- Finanszírozási nyomás: a fejlesztési verseny egyre drágább — több chipre, adatközpontra, energiára és tőkére van szükség — miközben a forrásbevonás környezete megváltozott.
- Monetizációs idő nyerése: lassabb fejlesztéssel több idő marad a meglévő modellek üzleti bevezetésére és pénzügyi megtérülésük javítására.
- Szabályozói befolyás: ha a nagy cégek önként állítanak fel auditokat és biztonsági standardokat, nagyobb beleszólásuk lehet a későbbi állami szabályozás formálásába.
- Piaci befagyasztás kockázata: költséges auditok és előírások belépési korlátot jelenthetnek a kisebb szereplőknek, ami megerősítené a jelenlegi piacvezetők pozícióját.
Egyes szereplők, köztük befektetők és elemzők is, megjegyezték, hogy a „biztonsági” kommunikáció részben elfedheti a technológiai fejlődés természetes lassulását vagy gazdasági törekvéseket.
Történelmi és iparági párhuzamok
A cikk rámutat, hogy az önkéntes technológiai korlátozás nem példa nélküli: az 1970-es évek géntechnológiájában a kutatók ideiglenes önfelfüggesztést és 1975-ben az Asilomar-konferencián biztonsági szabályokat hoztak létre. Hasonló megállapodások voltak az autóiparban is (például végsebesség- és teljesítménykorlátozások), valamint a Forma–1 motorkorszakainak befagyasztásaiban.
OPEC-analógia — mennyire működne az AI-nál?
A cikk összeveti az ötletet az OPEC logikájával: az olajtermelők kvótaalapú együttműködése abban segít, hogy ne boruljon fel az ár. Az analógia szerint az AI-cégek közös lassítása csökkenthetné a „fegyverkezési versenyt”. Ugyanakkor számos különbség is van:
- Megfigyelhetőség: olajkitermelés jól mérhető, az AI-fejlesztés sebessége és titkolt előrehaladása viszont sokkal nehezebben ellenőrizhető.
- Megtérülési és geopolitikai tét: az AI fejlesztése nemcsak piaci részesedésről, hanem geopolitikai befolyásról is szól.
- Megtévesztés kockázata: egy szereplő számára megérheti megszegni a megállapodást, ha versenytársai betartják azt.
A legnagyobb akadály: Kína
A cikk kiemeli, hogy a globális koordináció legfőbb akadálya Kína. Amodei javaslata több lépcsőben képzeli el az együttműködést: kezdetben vállalati auditok, majd demokratikus országok közötti közös standardok, végül globális egyeztetés Kínával és más államokkal. Ha Kína nem vesz részt a lassításban, a teljes megoldás sérülhet.
Peking már reagált: a kínai külügyminisztérium szerint a félelemkeltés, konfrontáció és rosszindulatú versengés akadályozza a globális AI-kormányzást. Kína azt állítja, hogy az AI kockázatait nem a technológiai fejlődés visszafogásával, hanem nemzetközi együttműködéssel és közös szabályozással kell kezelni, és kifogásolta, hogy Amodei Kína bevonásáról beszélt.
Mi következhet? Korlátozott esélyek és nagy tét
A kezdeményezés ritka, mert versengő cégek ritkán támogatják saját korlátozásukat. Elméleti előnyei mellett a gyakorlat számos problémával szembesül: ellenőrizhetőség, ösztönzők a szabályok megszegésére, valamint geopolitikai rivalizálás. A javaslat valós hatása attól függ, hogy sikerül-e nemzetközi megállapodást kialakítani, és hogy a nagy szereplők mennyire készek ténylegesen vállalni a költségeket és a transzparenciát.
Kapcsolódó események
A Portfolio október 21-én Investment Day konferenciát tart, valamint november 26-án AI & Digital Transformation konferenciát, amelyek a témához kapcsolódó befektetési és technológiai kérdéseket tárgyalják.
A jelen írás nem minősül befektetési tanácsadásnak vagy ajánlásnak.
