Dario Amodei, az Anthropic vezérigazgatója arra szólította fel a mesterséges intelligencia (MI) területén működő vállalatokat, hogy lassítsák az MI-modellek képességeinek fejlesztési ütemét. Amodei érvelése szerint a fejlesztés ütemének mérséklése lehetőséget ad arra, hogy a cégek megfelelően beállítsák és biztonságossá tegyék modelljeiket, valamint független szakértők átvizsgálhassák ezeket a lépéseket.
Amodei az X mikroblogon közzétett esszéjében részletezte javaslatát; az esszében azt írta, hogy „a fejlődés így is gyorsnak fog tűnni, és bölcsen kell felhasználnunk a nyert időt”. A felhívás közvetlen előzménye volt az Anthropic csütörtökön publikált fenyegetés-elemző jelentése, amely részletezte, hogyan használtak több piaci szereplő az Anthropic Claude nevű modelljeit különböző visszaélésszerű célokra.
A jelentés szerint az MI-modelleket többek között fegyverfejlesztésre, kiberoperációkra, megfigyelésre és csalások előkészítésére alkalmazták. Az Anthropic azt is állította, hogy Kína egyik jelentős MI-cégét, a Moonshotot azzal vádolták, hogy titkosítva továbbították hozzájuk beérkező kéréseket az Anthropic Claude chatbotjához, és ezek válaszait felhasználva fejlesztették saját nyelvi modelljüket. Hasonló tevékenységet a jelentés szerint a Deepseek és a Xiaomi is folytatott.
A héten az MI által okozott kockázatokkal kapcsolatos aggodalmak tovább erősödtek, miután Jacob Coxon, az Anthropic kutatója lemondott, azt állítva, hogy „azok, akik a mesterséges intelligenciát fejlesztik, komolyan úgy gondolják, hogy az az évtized végére mindannyiunkat megölhet”.
Amodei hangsúlyozta, hogy nem a kutatás vagy a technikai előrelépés leállítását javasolja, hanem azt, hogy a vállalatok szánjanak több időt a modellek finomhangolására és biztonságossá tételére. Ennek részeként egy háromlépcsős keretrendszert vázolt fel: a részleteket az esszében ismertette, de a fő elemek között szerepel, hogy az Anthropic állandó, független ellenőröket helyezne el a határterületen működő MI-vállalatoknál. Ezek az ellenőrök hozzáférést kapnának a releváns eszközökhöz és a vállalatok belső kockázatértékelési folyamataihoz.
A javasolt lépések célja, hogy a vállalatok ne csak gyorsítsák a képességek fejlődését, hanem biztosítsák, hogy az új képességek biztonságosan és átlátható módon kerüljenek bevezetésre. Amodei szerint a mérsékelt tempó és a független ellenőrzés együtt adhatják meg azt a „nyert időt”, amelyet bölcsen kell felhasználni az esetleges visszaélések és károk csökkentésére.
Miért számít ez?
A felhívás és a fenyegetés-elemzés közvetlenül tükrözi az iparágon belüli növekvő aggodalmakat: a fejlesztők és kutatók egy része szerint a modellek képességeinek gyors növekedése súlyos biztonsági és etikai kockázatokat rejthet. Az Anthropic intézkedései és javaslatai további vitákat indíthatnak arról, hogyan kellene szabályozni és felügyelni a határterületi MI-kutatást és -fejlesztést.
(Információk forrása: Anthropic közleménye és esszéje; fenyegetés-elemző jelentés; Reuters.)
