Az Anthropic arról számolt be, hogy 2025 decemberétől 2026 augusztusáig több, Claude mesterséges intelligenciáját rosszindulatú célokra használó csoportot azonosított. A cég szerint a regisztrált visszaélések köre kiberműveletektől és befolyásolási tevékenységektől kezdve megfigyeléseken és csalásokon át egészen biológiai és hagyományos fegyverek fejlesztésére irányuló próbálkozásokig terjedt.
ShinyHunters és a hitelesítési adatok gyűjtése
Az Anthropic külön nevesítette a ShinyHunters nevű rosszindulatú csoporthoz köthető tevékenységeket. A Bleeping Computer beszámolója szerint a csoport egyik, franciául beszélő tagja egy hitelesítőadat-gyűjtő folyamatot futtatott tíz Amazon Web Services EC2 virtuális szerveren. Ennek részeként a szereplő 1,8 millió androidos alkalmazást töltött le különböző áruházakból azzal a céllal, hogy azokban titkos adatokat és hozzáféréseket keressen.
A megszerzett információkat a rendszer valós időben továbbította egy Telegram-csoportba. Ugyanez a rosszindulatú szereplő további támadást is végrehajtott, amely során GitHub-hozzáférési adatokat loptak el. Az Anthropic szerint a ShinyHunters által végrehajtott támadás körülbelül 34 óra alatt jutott el a hitelesítési adatok megszerzéséig, és a legtöbb munkát maga az AI végezte.
Egyéb feltárt incidensek és adatlopások
A csoporttal kapcsolatba hozható további incidensek során több mint 1 TB adatot loptak ki egy technológiai cég rendszeréből. Emellett a feltárások szerint betörtek egy légitársaság és egy energetikai vállalat rendszereibe is.
Az Anthropic közlése szerint egyes rosszindulatú tevékenységek állami támogatással is összekapcsolhatók voltak: a nyomok Oroszországhoz és Kínához köthetők, állítja a cég.
Válaszlépések az Anthropictól
Minden azonosított esetben az Anthropic megvonta a rosszindulatú szereplők hozzáférését a Claude-hoz, tiltották az összes érintett profilt, és szigorították a védelmi intézkedéseiket. A vállalat hangsúlyozta, hogy folyamatosan figyelik a modell használatát, és tovább fejlesztik a visszaélések észlelésére és megelőzésére szolgáló mechanizmusokat.
Miért fontos ez
Az eset rávilágít arra, hogy a fejlett nyelvi modellek nem csak hasznos, de visszaélésre is alkalmas eszközök lehetnek: automatizált módon képesek hatékonyan végrehajtani adatgyűjtést, hitelesítések feltörését és más kártékony műveleteket. A felismerés és a gyors válasz kulcsfontosságú a további károk megelőzésében, és az Anthropic lépései jó példát adhatnak arra, hogyan reagáljanak az AI-szolgáltatók hasonló visszaélésekre.
