- július 21-én Anthropic bejelentette, hogy további 20 millió dollárt adományoz a Public First Action nevű szervezetnek, így összes támogatásuk mértéke 40 millió dollárra emelkedik. A közlemény hangsúlyozza, hogy mindkét adomány kizárólag a Public First Action nyilvános tájékoztatási és politikai munkájának támogatására szolgál, és nem használható fel semmilyen jelölt választási kampányának befolyásolására szövetségi, állami vagy helyi szinten.
Miért most?
Anthropic egyértelműen a mesterséges intelligencia képességeinek gyors előrehaladásával indokolja a támogatás bővítését. A vállalat szerint az idei év korábbi szakaszában a Claude Mythos Preview nevű modell több ezer, nagy súlyosságú szoftversebezhetőséget azonosított, többek között olyanokat, amelyek minden jelentős operációs rendszert és böngészőt érintettek. Az ilyen sebezhetőségek miatt a társaság a Claude Mythos Preview-t csak korlátozott hozzáféréssel, megbízható kiberbiztonsági szereplők számára tette elérhetővé a Project Glasswing programon keresztül, hogy ezek a szereplők előbb megtalálhassák és kijavíthassák a hibákat, mielőtt rossz kezekbe kerülhetnének.
A közlemény rögzíti, hogy a fejlettebb modellek jelentős előnyöket hozhatnak: gyorsíthatják a gyógyszerkutatást, segíthetnek olyan betegségek kezelési módjainak kifejlesztésében, amelyekre eddig nem volt megoldás, felgyorsíthatják a tudományos haladást, meghosszabbíthatják az emberi élettartamot, és gazdasági növekedést generálhatnak. Ugyanakkor Anthropic hangsúlyozza, hogy ezeket az előnyöket csak akkor lehet biztonságosan kiaknázni, ha előbb a kockázatok kezelésére alkalmas szabályozási és működési keretek kialakulnak. Emiatt a kormányoknak már most el kell kezdeniük kapacitást építeniük arra, hogy egyszerre tudják kihasználni az előnyöket és korlátozni a veszélyeket.
Politikai javaslatok és elvárások
A közlemény szerint Anthropic hosszú ideje azt vallja, hogy a határvonalon működő AI-fejlesztőknek átláthatónak kell lenniük a modelljeik képességeit és a kockázatkezelési gyakorlatukat illetően. A vállalat korábban támogatott olyan, több államban elfogadott törvényeket is, amelyek nagyobb átláthatóságot írnak elő az AI-fejlesztők számára. Ugyanakkor a társaság szerint a fejlődés üteme miatt a puszta átláthatóság önmagában nem elegendő.
Anthropic az általa megfogalmazott Anthropic's Advanced AI Framework irányelveit ajánlja: ennek megfelelően a kormányoknak képesnek kell lenniük ellenőrizni a vállalatok biztonsági állításait, polgári szankciókkal kell tudniuk kikényszeríteni a biztonságos gyakorlatokat, és végső soron módjukban kell állnia lassítani vagy megakadályozni olyan modellek telepítését, amelyek súlyos, katasztrofális kárral járó kockázatot jelentenek. A frontier AI fejlesztőinek tesztelniük kell azokat a modelleket, amelyek katasztrofális kockázatot hordoznak, nyilvánosságra kell hozniuk az eredményeket, független értékelésnek kell alávetniuk a modelljeiket, és erős biztonsági programot kell fenntartaniuk.
Ezen túl Anthropic támogatja a szabályozási lépéseket, amelyek szigorítják az exportkontrollt a fejlett chipekre és félvezető-gyártó berendezésekre, valamint intézkedéseket javasol az illegális modellhozzáférés és a distillációs támadások korlátozására, hogy a demokráciák előnye ne csússzon át szervezett rosszindulatú vagy autoriter szereplők kezébe.
Mi következik?
Anthropic hangsúlyozza, hogy a meglévő politikai keretek csak kiindulópontok, és a Public First Actionnak nyújtott adomány egyike azoknak a módoknak, amelyekkel a társaság próbálja növelni a közbeszéd és a döntéshozói figyelem súlyát a mesterséges intelligencia szabályozására irányuló, sürgető politikai vitában. A közlemény nem részletez további pénzügyi tranzakciókat vagy konkrét programokat a Public First Action részéről.
Kiemelt nevek a cikkben: Anthropic, Public First Action, Claude Mythos Preview, Project Glasswing, Anthropic's Advanced AI Framework, 2028: Two Scenarios for Global AI Leadership.
