A Google és a Google DeepMind kutatói szerdán elindították a DeepMind Institute nevű intézetet azzal a céllal, hogy szélesítsék és strukturálják az általános mesterséges intelligencia (AGI) körüli vitát. Az intézet igazgatói között szerepel DeepMind társalapítója, Shane Legg, a Google vezetőjeként James Manyika, valamint a Google DeepMind elnöke, Demis Hassabis; Legg ezen felül a kiadvány ügyvezető szerkesztője lesz.
Az intézet célja, hogy láthatóvá tegye a Google, a Google DeepMind és a tágabb globális kutatóközösség közötti eltérő nézeteket az AGI ügyében. A bejelentés szerint ezek a nézetek nem feltétlenül fognak mindig egyezni, és a gyorsan változó területen új adatok hatására meg is változhatnak.
Az első esszék és főbb javaslatok
A DeepMind Institute induló gyűjteménye négy esszéből áll, amelyek különböző aspektusokat érintenek: gazdaságpolitikai megoldásokat az AGI által okozható zavarok kezelésére, az ember számára olvasható modellező érvelés megőrzését, az emberi kibontakozást szolgáló alapelveket, valamint egy keretrendszert a határvonalon mozgó AI-modellek értékelésére.
Egyik esszéjében a DeepMind biztonsági kutatói, Rohin Shah és Anca Dragan azt állítják, hogy az átláthatóság csökkenése — vagyis a modell lépésről lépésre történő érvelésének ellenőrizhetősége — nem elkerülhetetlen. Noha az új architektúrák miatt a legerősebb modellek követése egyre nehezebbé válik, a szerzők szerint a fejlesztőknek és a szabályozóknak szembe kell nézniük a biztonsági kompromisszumokkal. Ennek egyik lehetséges eleme az „opaque serial depth” korlátozása, vagyis annak megkötése, hogy egy modell mennyi sorozatos számítást végezhet anélkül, hogy olvasható érvelési nyomot hagyna; alternatívaként megkövetelhetik, hogy a kevésbé átlátszó rendszerek bizonyítsák, hogy ugyanolyan mértékben ellenőrizhetők maradnak.
Egy másik esszében Demis Hassabis egy, az Egyesült Államok által vezetett, frontier AI szabványtestület létrehozását javasolja a legfejlettebb AI-modellek értékelésére. Hassabis javaslata szerint a fejlesztők önkéntesen küldenék be modelljeiket vizsgálatra legfeljebb 30 nappal a kiadás előtt. Ha az értékelési rendszer hatékonynak bizonyul, a tesztek sikeres teljesítése később követelménnyé válhat az Egyesült Államokban történő fejlesztéshez vagy telepítéshez.
A testület kezdetben a mesterséges intelligencia vállalatokkal egyeztetve dolgozná ki az értékeléseket, majd fokozatosan olyan független, nem nyilvános vizsgálatokat („held-out” tesztek) vezetne be, amelyek megakadályoznák, hogy a laboratóriumok kifejezetten a ismert értékelésekre hangolják modelljeiket. Hassabis hangsúlyozta, hogy a keretrendszer szigorítható, ha a helyzet súlyossága megkívánja — például koordinált lassítás lehetőségét is tartalmazhatja a frontier AI-fejlesztők között.
Kontextus: konkrétabb javaslatok felé tolódik a vita
A publikált esszék abban a pillanatban érkeznek, amikor az iparági biztonsági vita a széles körű aggályok megfogalmazásától egyre inkább konkrét javaslatok felé tolódik: a nyilvánosságra hozatal, a külső ellenőrzés és, ha a védelmi intézkedések elmaradnak, a koordinált lassítás mechanizmusai felé. Ezt a eltolódást felgyorsította, hogy a héten több iparági vezető támogatta Anthropic vezérigazgatója, Dario Amodei felhívását a frontier AI-fejlesztés „tempózására”.
Az új intézet és a benne megfogalmazott konkrét javaslatok célja, hogy fórumot adjanak a különböző nézeteknek és kézzelfogható opciókat mutassanak be a szabályozók és a fejlesztők számára, miközben reflektálnak arra a növekvő igényre, hogy a legfejlettebb rendszerek vizsgálata és szükség esetén korlátozása világosabb keretek között történjen.
