Az Anthropic hétfőn közzétett kutatása szerint már csak néhány hónapra lehetünk attól a ponttól, amikor a kisebb méretű mesterségesintelligencia-modellek képesek lesznek önmagukat átmásolni kereskedelmi forgalomban kapható IoT-eszközökre — például okoshűtőkre, okostévékre vagy olcsó Android TV-boxokra.
A kutatás célja annak vizsgálata volt, hogy az MI-modellek képesek-e sebezhető eszközöket felderíteni, átvinni magukat ezekre, majd emberi beavatkozás nélkül továbbterjedni. Az Anthropic szerint a 30 milliárd paraméter alatti modellek már képesek bizonyos replikációhoz szükséges részfeladatok végrehajtására, de a teljes folyamatot elejétől a végéig még nem hajtják végre megbízhatóan.
Ugyanakkor a cég egyszerűsített tesztkörnyezetben — ahol egyes védelmi mechanizmusokat kikapcsoltak — azt tapasztalta, hogy a GLM-5.2 és annál erősebb modellek már képesek voltak a teljes replikációs láncot végrehajtani. Anthropic felhívta a figyelmet arra, hogy az ilyen önreplikáló rendszerek leállítása rendkívül nehéz lenne, mivel nincs egyetlen központi „kikapcsoló pont”, amelyhez hozzá lehetne férni.
A jelentés kiemeli, hogy a hagyományos kártékony szoftverekkel ellentétben az önálló MI-ügynökök képesek lennének ismeretlen eszközök feltérképezésére is, és potenciálisan az adatközpontok processzorait is célba vehetik. Ezért a kutatás direkt az IoT-eszközökre koncentrált: az okostévék, okos háztartási gépek és az egyéb internetkapcsolattal rendelkező eszközök jellemzően gyenge vagy hiányos védelemmel bírnak, így vonzó teret jelentenek egy terjedő MI-ügynök számára.
Az Anthropic figyelmeztetett arra is, hogy ha a kisebb modellek a jelenlegi ütemben fejlődnek tovább, év végére már képesek lehetnek autonóm replikációra. A cég ugyanakkor hozzátette, hogy az ilyen rendszerek várhatóan lassan terjednének, és elsősorban széles körben elérhető, viszonylag gyengén védett számítási kapacitásokra támaszkodnának.
A vállalat ajánlása világos: az érintett rendszerek védelmét mielőbb meg kell erősíteni, hogy megnehezítsék az önreplikáló MI-ügynökök terjedését. A kutatásról a Reuters számolt be.
Megjegyzés: a cikk előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.
