Az AI-fejlesztésben érintett laborok, vállalatok és országok közötti verseny összeegyeztethetetlenségét jelzik az iparági bennfentesek Axiosnak adott nyilatkozatai. A vezető mesterségesintelligencia-cégek ugyan függetlenebb ellenőrzés és önszabályozás mellett érvelnek, de a pénzügyi ösztönzők és a skálázáshoz szükséges források miatt a gyors előrehaladás iránti nyomás állandóan jelen van.
Miért fontos?
A legnagyobb AI-vállalatok a független felügyelők és harmadik fél által végzett értékelések szélesebb alkalmazását javasolják azzal a céllal, hogy lassítsanak a fejlesztés tempóján. Kritikusok szerint azonban a továbblépésből származó, óriási pénzügyi haszon és az azt követelő befektetői elvárások (például a többszázmilliárd, illetve az előre jelzett többbillió dolláros értékelések) gyakran felülírhatják a biztonság prioritását.
A jelen helyzet
Miközben az AI-vezérigazgatók a nyilvánosság előtt az önszabályozás mechanizmusait és a harmadik fél általi értékelést népszerűsítik, a fejlesztett modellek egyre kevesebb információt osztanak meg arról, hogyan válaszolnak kérdésekre és hogyan oldanak meg problémákat. Az AI-rendszerek növekvő bonyolultsága, valamint több ezer, részben autonóm ügynök telepítése különböző feladatokra drámaian megnehezíti a valós idejű auditálást vagy áttekintést.
Ugyancsak problémát okoz a független biztonsági csoportok iránti bizalmi rés: aggodalom merül fel a szorosan összefonódó kapcsolatok miatt az iparág és bizonyos értékelő szervezetek között, valamint a közös befektetői és finanszírozói bázis miatt az AI-kutatói közösségen belül.
Kövesse a pénzt
A gyorsaság ösztönzése anyagilag jóval jövedelmezőbb lehet, mint a lassítás a biztonság érdekében. Az Axios forrásai szerint az OpenAI és az Anthropic tőzsdére lépésre készül többbillió dolláros értékeléssel, és ezeknek a cégeknek folyamatosan jobb modelleket kell bemutatniuk, hogy indokolják az értékelést.
A Goldman Sachs előrejelzése szerint az elkövetkező öt évben több mint 7 billió dollárt fognak költeni az AI skálázására. A frontier laboroknak nyereséget kell termelniük ezen beruházásokból, ami versenyt és a tempó fenntartására ösztönöz. Ez magában foglalja azt a küzdelmet is, hogy megakadályozzák az ügyfelek elvándorlását az olcsóbb, nyílt súlyú (open-weight) modelleket kínáló szolgáltatókhoz, amelyeket egyesek biztonságosabb alternatívának tekintenek.
Személyes nézetek és következtetések
Daniel Kokotajlo, korábbi OpenAI-kutató és az AI Futures Project ügyvezető igazgatója azt mondta, hogy nem hiszi, hogy az AI biztonságosan skálázható. Kokotajlo szerint a vezető AI-vállalatoknak kerülnie kellene, hogy az általuk birtokolt hatalmas számítási teljesítményt kizárólag a modellek továbbfejlesztésére fordítsák, mert ez gyakorlatilag kötelező lassulást jelentene a skálázásban. Véleménye szerint azok a kutatók és AI-alkalmazottak, akik a skálázáson dolgoznak, „valamit rosszul tesznek”.
Kokotajlo 2024-ben hagyta el az OpenAI-t biztonsági aggályai miatt, és azóta meghívott előadóként tart előadásokat jelenlegi céges alkalmazottaknak a mesterségesintelligencia-biztonságról. "A cégek folyamatosan konfliktusos érzéseken és belső vitákon mennek keresztül arról, hogy mit csinálunk — meg kell állnunk? Jófiúk vagyunk?" — fogalmazott.
Mások optimistábbak: például Donald Trump azt hangsúlyozta, hogy nem fogja visszafogni az AI fejlesztését, és szerinte az AI-ban való győzelem stratégiai előny. Akshay Krishnaswamy, a Palantir főépítésze úgy nyilatkozott Axiosnak, hogy „az emberi akaraterő képes megtalálni annak módját, hogyan lehet ezeket a modelleket biztonságosan skálázni”, és az egyik lehetséges út az open modellek szélesebb alkalmazása.
Összegzés
Az iparági hangok és pénzügyi számokból látható, hogy az AI lassításának és a biztonság előtérbe helyezésének eszméje erősen versenyben áll az azonnali, nagy hasznot ígérő skálázással. Jelenleg kérdéses, hogy a közeli jövőben mennyire valósítható meg egy valódi lassítás és független, hatékony ellenőrzés, amíg a pénzügyi ösztönzők és a technikai megvalósíthatóság ennyire erősek.
