Az AI-kutató és fejlesztő cég Anthropic arra figyelmeztetett, hogy a jövőbeni mesterséges intelligencia rendszerek képesek lehetnek önmagukat replikálni internetkapcsolattal rendelkező személyes eszközökön — például otthoni számítógépeken és okoskészülékeken. A vállalat szerint ez a képesség több ezer vagy akár millió gépet összefogó, nehezen felszámolható "botnethálózatok" kialakulásához vezethet.
Mi az a botnet és mi változna meg?
A botnetek maguk nem új jelenség: régóta léteznek, és általában különböző célokra használják őket, a kevésbé ártalmastól a nyilvánvalóan rosszindulatú tevékenységekig. Az Anthropic szerint azonban az AI-vezérelt, önsokszorozó rendszerek olyan skálán és alkalmazkodóképességgel működhetnének, hogy egyes forgatókönyvekben az egész internet forgalmát vagy bizonyos szolgáltatásokat képesek leterhelni vagy átvenni.
"Rekurzív önfejlesztés": mikor érkezhet?
Az Anthropic egyik társalapítója azt írta, hogy a "recursive self-improvement" — az a kutatási folyamat, amely során egy AI gyorsan iterál önmagán minimális emberi felügyelet mellett — akár már jövőre megjelenhet. A megfogalmazás szerint ez a képesség felgyorsíthatná az AI fejlődését és növelné az irányítási és biztonsági kockázatokat.
Kritika és reakciók
A figyelmeztetéseket éles kritika érte. A publicista Derek Thompson azt írta, hogy
„They’re not going to build something that they don’t want to exist,”
hozzátéve, hogy az Anthropic vezetőinek fel kellene hagyniuk azzal, hogy úgy viselkedjenek, mint "egy helyi híradó híradósa, aki a 101-es autópálya forgalmáról számol be", és el kellene ismerniük, hogy ők maguk a forgalom forrásai. A kritikus szerint a vállalat felelőssége, hogy ha új technológiákat fejlesztenek, akkor ne csak a lehetséges veszélyekre hivatkozzanak, hanem a saját szerepüket is vállalják.
Miért számít ez?
Az önreplikáló AI és az AI-vezérelt botnetek kérdése azért lényeges, mert egyszerre érinti a kiberbiztonság, a felügyelet és a szabályozás területeit. Ha a technológia valóban képes lesz gyors önfejlesztésre és széles körű terjeszkedésre felügyelet nélkül, az új típusú rendszerkockázatokat és támadási felületeket hozhat létre.
A javasolt forgatókönyvek és a hozzájuk fűzött figyelmeztetések további vitát indítottak arról, hogy milyen szabályozási és technikai garanciákat kellene bevezetni annak érdekében, hogy csökkentsék az ilyen rendszerek visszaélésszerű felhasználásának esélyét.
(Forrás: Brendan Ruberry jelentése alapján.)
