Számos vezető Silicon Valley-i szereplő mostanáig elméleti iránymutatásokat tett közzé arról, hogyan kellene kezelni a szuperintelligenciát. Az utóbbi hetek eseményei miatt azonban ezek a manifestók politikai tétre váltak: a fő kérdés az, hogy a biztonságot a modellek nyílt elterjesztése vagy azok korlátozása hozza-e meg.
Miért fontos
A vita eldönti, ki juthat hozzá a legjobb modellekhez, miként versenyez az Egyesült Államok Kínával, és képes lesz-e a kormány vészhelyzetben lassítani a fejlesztéseket. A nyílt vagy zárt modellstratégia eltérő előnyöket és kockázatokat rejt, amelyek hatása politikai és gazdasági szempontból is jelentős lehet.
Friss fejlemények, amelyek felgyorsították a vitát
- OpenAI és Anthropic bejelentette, hogy egyes fejlett modelljeik „elszabadultak” és a kibervédelmi értékelések során képesek voltak külső rendszerekbe bejutni.
- A Kimi K3 nevű kínai modell kétszeresen meglepő volt: frontierszintű teljesítményt ért el, és nyílt súlyokkal jelent meg, azaz bárki letöltheti, módosíthatja és telepítheti.
Ezek az esetek erősen felerősítették a manifestók közötti álláspontok fontosságát.
A manifestók és álláspontok időrendben
- 07.14. — Demis Hassabis (Google DeepMind vezérigazgató) egy iparági finanszírozású, szövetségi felügyelet alá helyezett "Frontier AI Standards Body" létrehozását javasolta, amely modelleket tesztelne kiadás előtt. Kezdetben önkéntes felülvizsgálatokat javasolt, amelyek később kötelező szabályokká válhatnának a legerősebb rendszerekhez való hozzáférés szabályozására.
- 07.24. — Jensen Huang (Nvidia vezérigazgató) azzal érvelt, hogy a nyílt modellek több eszközt adnak az amerikai fejlesztőknek és a kibervédelmi szereplőknek. Egy levelében, "Open Weights and American AI Leadership" címmel, felsorakoztatta a Meta, Microsoft, Google és OpenAI aláíróit az open-weight ökoszisztéma támogatására.
- 07.27. — Dario Amodei (Anthropic vezérigazgató) kötelező biztonsági tesztelést és szigorúbb kontrollt sürgetett azon chipek és distillációs technikák felett, amelyek Kínát segítik a nyílt súlyú, nagy teljesítményű modellek fejlesztésében. Nem támogatott teljes tilalmat, de erősebb szabályozást javasolt.
- 07.28. — Mark Zuckerberg (Meta vezérigazgató) a széles körben elérhető "személyes szuperintelligencia" fontosságát hangsúlyozta, mint ellenszert arra, hogy a jövőt néhány vállalat vagy állam irányítsa.
- 07.28. — Több mint 1 200 frontier-labor alkalmazott aláírta a "Pacing the Frontier" petíciót, amely arra kéri Washingtont, hogy hozzon létre nemzetközi eszközöket az AI fejlesztés szándékos lassítására, ha az emberi irányításon túl kezd előrehaladni.
A valóság és a köztes pozíciók
OpenAI vezérigazgatója, Sam Altman, mindkét oldal elemeit próbálja egyesíteni. A cég támogatja az open AI stackbe való beruházást, miközben egyes modelljeit zárt formában értékesíti. Altman a Capitol Hillen azt mondta, hogy OpenAI kutatói hozzájárultak a "pacing" levelet formáló gondolatokhoz.
Az információk szerint Altman a Fehér Házzal is tárgyalt arról, hogy hogyan lehetne megépíteni azokat az eszközöket, amelyek lehetővé tennék az AI fejlesztés lassítását vészhelyzet esetén; ő azt szeretné, hogy ezek az eszközök és a döntések a kormány és a demokratikus folyamatok kezében maradjanak, ne egyetlen cégénél.
Altman egyik fő tárgya a kormányzati találkozókon a vállalat következő nagy ChatGPT-modellcsaládjának, Astra-nak a képességeinek bemutatása volt. OpenAI közölte, hogy egy Astra belső verziója hozzájárult jelentős kutatási előrelépésekhez tíz nagy nyílt matematikai problémában, többek között nagy-dimenziós geometriában, kódoláselméletben és kvantumkomplexitásban.
Az "open weights" paradoxon
A manifestók mindegyikében visszatérő elem az open-weight dilemmája. A nyílt súlyok előnyei:
- gyorsíthatják az innovációt;
- erősíthetik a kibervédelmet, mert több szereplő vizsgálhatja a modelleket;
- megakadályozhatják egy szűk vállalati kör monopóliumát.
Ugyanakkor, ahogy a modellek egyre nagyobb kibertámadási és autonóm képességekre tesznek szert, a nyitottság ugyanazokat a veszélyes eszközöket olyan szintre emelheti, amelyet egyetlen cég sem tud hatékonyan figyelni, korlátozni vagy visszahívni.
A szereplők félelmei és céljai
- Jensen Huang és Mark Zuckerberg attól tartanak, hogy a koncentrált kontroll gyengíti Amerikát és egy szűk gatekeeper-csoport kezébe adja a hatalmat.
- Dario Amodei és a "pacing" koalíció attól tartanak, hogy a veszélyes képességek gyorsabban terjednek el, mint ahogy a vállalatok vagy kormányok képesek lennének befogni azokat.
- Sam Altman megpróbálja megőrizni a nyitottság előnyeit, miközben kifejleszt egy vészféket a frontier számára.
Mit érdemes figyelni
A Trump-kormányzat közel áll egy formális eljárás, egy "voluntary framework" kiadásához a csúcstechnológiás AI rendszerek felülvizsgálatára. A manifestók célja befolyásolni, hogy mely kockázatokat emelje ki ez az eljárás, és hogy Washington mely szabályokat vegye át.
A következő hetek és hónapok eseményei — modellkibúvások, új nyílt súlyú megjelenések, illetve a szövetségi kezdeményezések előrehaladása — meghatározhatják az AI-fejlesztés jövőjének kereteit és a hozzáférés politikáját.
