A múlt hétvégén négy vezető amerikai mesterséges intelligencia cég — Anthropic, OpenAI, SpaceX és Google — röviden támogatta egy lehetséges fejlesztési szünetet a frontier AI technológiákban, miután sorozatos hackertámadások és lenyűgöző képességű modellek bemutatói aggodalmat keltettek. A javasolt szünet hatására hétfőn globális piaci gyengülés következett, ahogy a befektetők mérlegelték, milyen gazdasági következményekkel járna az egyik idei növekedési motor lassulása.
Mégis a kezdeti egység gyorsan feloszlott: a vita résztvevői és kívülállók egyaránt világossá tették, hogy kevés szereplő bízik a frontier AI vállalatokban és a házon belüli biztonsági szakértőkben, ami gyakorlatilag ellehetetleníti a gyors, széles körű szabályozói fellépést.
Miért számít ez?
A szabályozás hiánya vagy lassúsága jelentősen befolyásolhatja az AI-fejlesztések irányát és a gazdasági kockázatokat. Vannak politikai erők, üzleti vezetők és az „open” modelleket támogatók, akik attól tartanak, hogy új szabályok túlzott hatalmat adnának a frontier AI-gyártóknak, mások pedig azt látják, hogy a biztonsági javaslatok üzleti érdekeket szolgálnak.
A bizalomhiány fő forrásai
-
Pénz: Anthropic vezetői rendre a biztonság fontosságát hangsúlyozzák, és a vállalat egyes alapítóinak narratívája szerint a termék annyira veszélyes lehet, hogy fennáll a globális kockázat. Ugyanakkor a cég a hírek szerint még ezen a héten befektetési célú lépéseket tervez: várhatóan IPO-t nyújt be, amelyről azt tartják sokan, hogy akár 100 milliárd dollár bevételt célozhat egy körülbelül 2 billió (2 trillion) dolláros értékelés mellett. Ez a kettősség — apokaliptikus figyelmeztetések mellett nagyszabású tőkebevonás — tovább növeli a kételyeket.
-
Biztonság: Évek óta léteznek olyan kutatócsoportok és nonprofitok, amelyeket jelentős pénzekkel finanszíroznak az AI-biztonság vizsgálatára. Kritikusok szerint ezek egy része túl nagy hangsúlyt fektet a világvégétől való kockázat valószínűségére, illetve túl szoros kapcsolatban áll a frontier AI-laborokkal. Sok biztonsági szervezet foglalkoztat korábbi OpenAI- és Anthropic-munkatársakat, kap ingyenes tokeneket elemzésre, vagy üzleti támogatást fogad el. Az Anthropic példaként felhozta a METR nevű csoportot, amely a HuggingFace incidens esetén vizsgálatot végzett az OpenAI-nál, mint potenciális harmadik fél értékelőjét, de a két szervezet közti pénzügyi és személyes kapcsolatok ellenérzést váltanak ki a versenytársak körében.
-
Üzleti megfontolások: Számos üzleti vezető, például az Nvidia vezérigazgatója Jensen Huang és a Microsoft vezérigazgatója Satya Nadella, támogatta az open weight (nyílt súlyú) modelleket, amelyek olcsóbbak és lehetővé teszik cégek számára saját adataikra szabott modellek építését. A legjobb open modelleket többségében kínai startupok készítették, és több amerikai vállalat használja ezeket költségmegtakarítás vagy verseny elleni védekezés céljából. Ha a szabályozás megkísérelné korlátozni a kínai modellek használatát — tekintettel arra, hogy Kína valószínűleg nem csatlakozna önkéntes szünethez — az sok amerikai üzleti szereplő tiltakozását vonhatná maga után.
-
Politika: A kormányzati szereplők egy része, köztük a Fehér Ház AI-tanácsadója, David Sacks, rendszeresen azzal vádolja a szabályozói kezdeményezéseket, hogy azok a „regulatórikus bekebelezés” (regulatory capture) klasszikus példái lehetnek. A frontrunner laborok által közvetített lassítás ugyanis megtarthatná vezető pozíciójukat, ami olyan szereplők szerint problémás, mint Sacks és a kockázatitőke-befektető Bill Gurley.
Mit figyelünk még?
Miközben a szakmai viták arról folynak, ki számít valóban független értékelőnek, egyes Washingtonhoz kötődő szereplők azt fontolgatják, hogy saját szervezeteket hoznak létre, amelyek betölthetnék a független értékelő és szabályozó vákuumot.
Összegzés
Az, hogy négy vezető AI-labor meg tudott egyezni egy lehetséges fejlesztési szünet támogatásában, jelentős előrelépés volt azok szemében, akik sürgős szabályozást szeretnének. Ugyanakkor a vállalatokba és a velük szoros kapcsolatokban álló biztonsági szervezetekbe vetett bizalom hiánya megnehezíti egy gyors, széles körű és hiteles önszabályozás vagy külső felügyelet kialakítását.
Maria Curi hozzájárult a riporthoz.
