OpenAI a legújabb fejlett nagy nyelvi modelljét, Solt tette széles közönség számára elérhetővé. A Solt többen az Anthropic Fable-jével hasonló képességűnek tartják — pedig a Fable kiadása korábban olyan feszültséget váltott ki a Fehér Házban, hogy átmenetileg megtiltották a nyilvános hozzáférést.
Nem ismert, hogyan kapott zöld jelzést
A kérdés, hogyan hagyták jóvá ezeket a modelleket a nyilvános kiadásra, egyelőre megválaszolatlan. Mina Narayanan, a Georgetown Center for Security and Emerging Technology vezető kutatóelemzője azt mondta a TechCrunchnak, hogy nincs rálátása az engedélyezési folyamat pontos részleteire, és nem érzi, hogy elég információ állna rendelkezésre annak megítéléséhez, hogy a folyamat megfelelő-e. Anthropic ugyan jelezte, hogy tárgyalt a kormánnyal, fejlesztett jailbreak-detektáló osztályozót és védelmi stratégiákat, de az, hogy pontosan miről folyt a párbeszéd az érintettek között, nem világos.
Dean W. Ball, egykori Trump-adminisztrációs tanácsadó, aki most az OpenAI-nál dolgozik, egy hírlevelében azt írta, hogy „senki sem tudja, mik a követelmények a licenc megszerzéséhez”. Andy Konwinski, a Databricks, Perplexity és a Laude Institute társalapítója azt mondta a TechCrunchnak, hogy soha nem beszélt senkivel, aki értené ezt a folyamatot, még a „frontvonalbeli” laborok alkalmazottai közül sem. Szerinte ez létezésbeli problémát jelent: nemcsak a biztonságról van szó, hanem arról is, hogy ki dönthet a hozzáférésekről és a jogosultságokról.
Az elnökség és az ipar közötti laza szabályozás
A Trump-adminisztráció másfél évébe lépve továbbra sincsen világos, követendő eljárás, pedig vagy épp az ipari szereplők befolyása miatt, vagy annak ellenére, a napirendet az ipar szereplői is formálják. A múlt hónapban megjelent egy elnöki rendelkezés, amely útvonaltervet vázolt fel a „frontvonalbeli” modellek értékelésére, de a részletek hiányoznak, és a dokumentum világossá tette, hogy nem lesz „FDA az AI számára”, ahogy Sriram Krishnan, aki nemrég a Fehér Házban az AI tanácsadója volt, a Financial Timesnak fogalmazott.
Még az sem dőlt el, mely modellek igényelnek kormányzati vizsgálatot, vagy mely ügynökség(ek) végezné(k) ezeket az értékeléseket. Jelenleg az Egyesült Államok Kereskedelmi Minisztériumának Center for AI Standards and Innovation nevű egysége tűnik vezető szerepben, de az elnöki rendelet hat minisztériumi szervezetet utasít, hogy augusztus elejéig dolgozzák ki a végleges folyamatot. A köztes időszakban kialakult eljárások leginkább ad hoc jellegűek.
Kormányzati konzultációk és külső értékelések
Sam Altman, az OpenAI vezérigazgatója a CNBC-nek azt mondta, hogy a folyamat része volt konzultáció az olyan tisztségviselőkkel, mint Howard Lutnick (kereskedelmi titkár), Scott Bessent (pénzügyminiszteri tisztségre hivatott névként említve) és Sean Cairncross (nemzeti kiberigazgató). Nem világos viszont, kik voltak azok a szakértők, akik a modelleket tesztelték, és milyen módszerekkel tették ezt. Az OpenAI a TechCrunchnak nem közölte a kormányzati eljárás részleteit, de felhívta a figyelmet bizonyos külső értékelések eredményeire, amelyeket szervezetek — például az Egyesült Királyság AISI, a SecureBio és az Irregular — végeztek, és amelyeket a modell „safety card”-jában ismertetnek.
Az OpenAI, hasonlóan Anthropichoz, a szélesebb kiadás előtt bemutatta a modellt a kormánynak és kiválasztott felhasználóknak, de nem tudni, kik tartoztak ezek közé, vagy hogyan választották ki őket. A cég június végén megjelent blogbejegyzésében jelezte, hogy nem gondolja, hogy ez a kormányzati hozzáférési folyamat válhatna hosszú távú alapelvvé, és azt ígérte, hogy a kormánnyal együtt dolgozik egy másik úton.
Politika, pénz és befolyás kérdései
Ezekről a megbeszélésekről árnyalatot ad az a jelentés is, miszerint Altman állítólag akár 5%-ot is felajánlott az OpenAI részvényeiből az adminisztráció „Trump Accounts” néven említett kezdeményezéséért, és hogy OpenAI elnöke, Greg Brockman, jelentős adományozó volt Trump középtávú politikai műveleteihez. A külső megfigyelők számára nehéz elkülöníteni ezeket a politikai és pénzügyi kapcsolatokat a kormány láthatóan laza szabályozási hozzáállásától Sol esetében.
Ez kontrasztban áll Anthropic Fable-ja körüli helyzettel: a Fable-t rövid időre visszavonták, amikor az amerikai kormány megtiltotta bizonyos külföldi állampolgárok számára a használatát — részben a jailbreakelésen keresztüli potenciális visszaélések miatt, részben a vállalat és az adminisztráció közötti személyes nézeteltérések miatt. Egy esetleges exporttilalom veszélye arra is késztethette OpenAI-t, hogy együttműködőbb legyen a kormány ismeretlen kéréseivel.
Szkepticizmus a szakértők bevonásának hiánya miatt
Az ipar szereplői szerint a laza szabályozás kedvező lehet, de ha a hozzáférés személyes kapcsolatoktól függ, az bizonytalanságot és rossz ösztönzőket teremt. Andy Konwinski aggályát fejezte ki amiatt, hogy a valódi szakértők — biztonsági kutatók, „alignment” kutatók, interpretálhatósági szakemberek, adatkutatók és a stack más területeiről érkezők — nincsenek kellő mértékben bevonva a modellkiadási folyamatokba.
Konwinski szerint egy „open commons” modell, ahol a független kutatók, kormányzati szereplők és vállalatok közösen tárgyalják meg a biztonsági kérdéseket, jobb egyensúlyt teremthetne az innováció és a felelősség között. Párhuzamot von az olyan intézményekkel, mint az FDA, az NIH vagy a nemzeti laboratóriumok, amelyek meg tudják teremteni a konszenzushoz szükséges fórumokat.
Pénzügyi ösztönzők és vállalati felelősség
A probléma egy része a kapitalizmus ösztönzőiben gyökerezik: az AI-vállalatoknak gyakran rövid időn belül kell megtéríteniük a képzés költségeit, és ezért versenyelőnyt akarnak. Ball rámutat, hogy még jó szándék esetén is a jogi kötelezettségek és a fiduciárius felelősség erősen befolyásolják a cégek működését.
Mind Ball, mind Konwinski olyan megoldásokban lát potenciált, amelyek közé tartoznak kormány által licenszelt harmadik fél általi auditálások, illetve új intézményi formák, mint a fókuszált kutatóintézetek, amelyek elősegíthetnék független akadémiai és non-profit szakértők bevonását a frontvonalbeli modellek értékelésébe.
A titkolózás politikai kockázatot rejt
Jelenleg úgy tűnik, hogy az AI-fejlesztések titoktartása nem fog megszűnni, ugyanakkor ez politikai kihívásokat is támaszt egy olyan iparág számára, amelyet az amerikai közvélemény egyre inkább szkeptikusan szemlél. Remzi Arpaci-Dusseau, a University of Wisconsin–Madison számítástudományi professzora a Open Frontier konferencián azt mondta, hogy nincs meg az az érzés, hogy felelős szereplők irányítanák ezeket a változásokat.
Ugyanezen a konferencián David Siegel, a Two Sigma alapítója arra figyelmeztetett, hogy egy kifejezetten rossz helyzet az lenne, ha kevés cég uralná a technológiát, a kormány titkos laborjai döntenének a használhatóságról, és a nagyközönség vagy a tudományos közösség nem férne hozzá ezekhez az értékelésekhez.
A jelen állás szerint ezt a helyzetet nem kell elképzelnünk — egyesek szerint már a valóság része.
