Jacob Coxon, a kutató, aki ezen a héten lemondott az Anthropic-nál, és azt állította, hogy jó esély van rá, hogy a cég munkája emberi kihaláshoz vezethet, újra felkorbácsolta a félelmet és az indulatot a mesterséges intelligencia körül. A reakciók jelentős része azonban több, lényegében különböző kérdést egyként kezel: az adatközpontok környezeti költségeit, a kiberbiztonság és hekkerek jelentette veszélyeket, az AI munkaerőpiacra gyakorolt hatását, és az esetleges bioveszélyeket.
Mi a probléma a keveréssel?
Ha a törvényhozók, szabályozók és a technológiai cégek vezetői nem különítik el világosan ezeket a problémákat, akkor könnyen olyan szabályozások jöhetnek létre, amelyek nem oldanak meg semmit, vagy ami még rosszabb, lassítják azokat az innovációkat, amelyek épp hogy biztonságosabbá és gazdaságilag hasznosabbá tehetnék az AI-t. Például sok AI-biztonsági szakértő valójában azt preferálná, ha az adatközpontok helyben, az országon belül épülnének meg, mert így könnyebb lenne őket felügyelni és szabályozni. A tényleges kérdés az energiahatékonyság és az energiaveszteség kezelése — nem az adatközpontok létezésének betiltása.
Különálló kockázatok, külön megoldásokat igényelnek
A kizárólag a kihalástól való félelemre alapozott narratíva elfedheti a konkrét és gyakori kockázatokat: például a társadalmi és gazdasági destabilizációt, amely azzal járhat, hogy az AI átalakítja a munkát és a kommunikációt. Ugyanakkor éppen most vagyunk a kibervédelmi válság kezdetén, amelyre a világ nem reagál gyakorlati módon: a támadások és rendszerszintű sebezhetőségek kezelése sürgető feladat.
Az Anthropic egy blogbejegyzésében ezen a héten bioterrorizmus-kockázatot is említett; ez egy további, komoly terület, amely külön szabályozást és nemzetközi együttműködést igényel. Emellett bár az AI valószínűleg sok új munkahelyet is teremt majd, eddig keveset tettünk annak érdekében, hogy a technológián kívüli emberek közvetlenül anyagilag is részesüljenek az AI-növekedésből.
A „AI biztonság” fogalmának kiterjesztése
A témát korábban, 2024 márciusában is elemeztem, amikor rámutattam, hogy az „AI safety” kifejezés egyre több, egymástól eltérő problémát kezd magába foglalni. Akkor Eliezer Yudkowsky is azt mondta, hogy ez a megnevezés nem szerencsés — ez a véleménye továbbra is érvényes. Jacob Coxon lemondása most sokak számára ürügyként szolgál arra, hogy bármilyen AI-ellenes érvhez felhasználják: a kihalástól való aggodalomtól az energiahasználaton át a munkahelyek átalakulásáig.
Politikai vita és a következő lépések
A törvényhozók nagy része egyetért abban, hogy az Egyesült Államoknak ki kell építenie egy AI-biztonsági keretrendszert, de azzal kapcsolatban újból megoszlanak a vélemények, hogy pontosan milyen megközelítést válasszanak — ezt Ashley Gold, a Semafor munkatársa is kiemelte. A hatékony szabályozás érdekében elengedhetetlen, hogy a döntéshozók elkülönítsék a problémákat, és célzottan, szakmai alapokon kezeljék az egyes kockázati területeket: környezeti hatások, kiberbiztonság, munkaerő-piaci hatások, és bioveszélyek.
Ha ehelyett a félelem által vezérelt, mindent összemosó narratíva marad irányadó, fennáll a veszélye annak, hogy szabályok születnek, amelyek nem javítanak semmit, vagy olyan akadályokat állítanak, amelyek lassítják a hasznos, biztonságos technológiák fejlődését.
Összefoglalás
Jacob Coxon lemondása és a vele kapcsolatos retorika rávilágít arra, hogy a közbeszéd hajlamos összemosni különböző AI-kockázatokat. A hatékony és arányos szabályozás megalkotásához pontosan kell meghatározni az egyes problémákat, és célzott intézkedéseket kell hozni mind környezeti, mind biztonsági, mind társadalmi-gazdasági területen.
