Dario Amodei, az Anthropic vezérigazgatója a cég blogján közzétett bejegyzésben azt javasolta, hogy a mesterséges intelligencia (AI) fejlesztésének ütemét tudatosan lassítani kell, és három fő eszközcsoporttal vázolta fel, hogyan lehet ezt megvalósítani. Amodei közölte, hogy az Anthropic „egyoldalúan elkötelezi magát” az egyik javasolt lépés mellett.
Miért vetődött fel a javaslat?
Amodei szerint két tényező győzte meg arról, hogy óvatosabb megközelítésre van szükség: az OpenAI és HuggingFace elleni hack-ügy, valamint az a megfigyelés, hogy az AI az elmúlt hónapokban „drasztikusan gyorsabban” fejlődött, különösen abban, hogy maga az AI egyre képesebb a következő generációs rendszerek előállítására. A blogbejegyzésre a háttérben további feszültségek is hatottak: a kutató Jacob Coxon lemondása az Anthropicnál, aki azzal az állítással távozott, hogy a vezető AI-cégek „az életünkkel játszanak”, és hogy bizonyos fejlesztők szerint az AI „a következő évtized végére megölhet minket”. Amodei ugyan közvetlenül nem hivatkozott Coxon lemondására, de a bejegyzésben a biztonsági kockázatok felértékelődésére hivatkozott.
Az Amodei által javasolt három lépés
- Beágyazott, független értékelők
- Amodei felvetése szerint harmadik félként működő, beágyazott értékelőknek kellene ellenőrizniük, hogy az AI-vállalatok betartják-e a lassítási és biztonsági kötelezettségeiket, illetve hogy bejelentik-e a biztonsági incidenseket. Amodei e szerepet példaként a METR-hez hasonló szervezetekre bízta.
- Az értékelők hozzáférése és munkakörülményei az Anthropic javaslata szerint hasonlók lennének a belső kockázatértékelő csapatokéhoz: vállalati belépőkártyák, asztalok és laptopok, valamint a szükséges hozzáférések — kivéve, ha jogi vagy szerződéses korlátozás ezt megtiltja.
- Az Anthropic azt közölte, hogy erre az intézkedésre „egyoldalúan elköteleződik”, és felszólította a kormányokat, hogy kötelezzék hasonlóan a többi, élvonalbeli vállalatot.
- Koordináció a demokratikus országokban működő vezető AI-vállalatok között
- Amodei a vezető AI-cégek között a demokratikus országokban történő együttműködést javasolja, amely közös biztonsági szabványokat és a „ellenőrizetlen AI-fejlődés ütemére” vonatkozó korlátokat határoz meg.
- Hozzátette, hogy az antitröszt-szempontokat figyelembe véve hasznos lenne, ha az Egyesült Államok kormánya közvetítene vagy legalább lehetővé tenné ezeket a megbeszéléseket, ide értve egy célzott mentesség kibocsátását bizonyos típusú biztonsági tárgyalásokra, anélkül, hogy maga aktívan részt venne az irányításukban.
- Amodei kitért arra is, hogy a kínai AI-fejlődésre vonatkozó aggodalmak gyakran ellenérvet jelentenek a lassítás ellen. Arra hívta fel a figyelmet, hogy ha a kormányok és technológiai cégek intézkedéseket hoznak — például erősebb exportkorlátozásokat hoznak a fejlett chipekre és félvezetőgyártó berendezésekre, illetve szigorúbban lépnek fel a modelldistilláció ellen —, akkor ezek az intézkedések „elég lassíthatják Kína előrehaladását ahhoz, hogy az amerikai fölény a következő 3–5 évben jelentősen nőjön.”
- Globális koordináció, beleértve az autoriter államokkal való együttműködést
- A harmadik lépés az Egyesült Államok és szövetségesei globális együttműködésének keresése, ahol lehetséges, még autoriter kormányokkal is. Amodei külön megemlítette a Kínával való együttműködés lehetőségét, ugyanakkor elismerte, hogy ennek „nyilvánvalóan korlátai” vannak.
- Javaslatként olyan megállapodásokra utalt, amelyek szűk és egyértelműen veszélyes AI-használati módokat tiltanának — például az AI használatát biológiai fegyverek előállításához vagy lehetővé téve ilyen felhasználást.
Kritika és aggályok
- Amodei korábbi nyilatkozatai és az Anthropic viszonylagos nyitottsága a szabályozás bizonyos formái iránt miatt egyes AI-pártolók már kritizálták őt, amely szerint pesszimista ("doomer") narratívát erősít, és hozzájárul az AI-ellenes hangulat erősödéséhez. Amodei erre azt állította, hogy törekszik egy „kiegyensúlyozott” nézőpontra, és úgy értékeli, hogy a jelenlegi visszhang elsősorban „bizalmi válság”: az emberek egyre szkeptikusabbak a techcégekkel, az iparral és a kormánnyal szemben.
- Más kritikusok szkeptikusak a végítéletszerű AI-figyelmeztetésekkel kapcsolatban, mondván, hogy ezek elterelhetik a figyelmet az AI már most jelentkező káros hatásairól. A újságíró Brian Merchant például azt írta, hogy még nem látott „megbízható, lépésről lépésre dokumentációt arról, hogyan léphetne át az AI az önmagát rekurzívan javító fázisból az emberiség teljes eltörléséhez”, és azt is felvetette, hogy az Amodeiéhoz hasonló javaslatok „valószínűleg végül csak az Anthropic és az OpenAI érdekeit szolgálnák; ez a szabályozói bekebelezés (regulatory capture) egyik megjelenési formája lehet.”
Amodei álláspontja a technológia jövőjéről
- Amodei a bejegyzésben megismételte, hogy továbbra is hisz abban, hogy az AI jelentősen javíthatja az emberi élet minőségét, és hogy a hasznok elérése érdekében a technológiát „helyes módon” kell felépíteni. Hangsúlyozta, hogy amennyiben a nyert időt bölcsen használják fel, érdemes szokatlanul óvatosan járni el annak érdekében, hogy a fejlesztés helyes irányt vegyen.
Összegzés
Dario Amodei javaslata — beágyazott független értékelők, koordinált biztonsági és lassítási megállapodások demokratikus országok között, valamint kiterjedtebb nemzetközi együttműködés — egyaránt pragmatikus és politikailag érzékeny ajánláscsomagot kínál a frontier AI ütemének csillapítására. Az intézkedések megvalósítása jogi, antitröszt és geopolitikai akadályokba ütközhet, ugyanakkor az Anthropic egyes elemeket már most is kötelezőnek tart saját működésére nézve.
