A Torontói Egyetem, a Cambridge‑i Egyetem és a Vector Institute kutatói egy kísérleti, mesterséges intelligencia által vezérelt számítógépes férget hoztak létre, és az eredményeket előzetes publikációban tették közzé. A csapat egy zárt, elszigetelt hálózatban telepítette a férget, amelyben Linux, Windows és IoT eszközök szerepeltek — a hálózatot úgy alakították ki, hogy jellemző vállalati sebezhetőségeket tartalmazzon, például újrafelhasznált jelszavakat.
A kísérlet célja az volt, hogy demonstrálják: nyilvánosan elérhető AI‑modellekkel ma is elkészíthető olyan rosszindulatú program, amely dinamikusan tanul és alkalmazkodik a különböző célpontokhoz. A kutatók szerint ez az új megközelítés alapjaiban különbözik a hagyományos férgektől, amelyek általában egyetlen típusú sérülékenységre épülnek.
Hogyan működött a féreg?
A demonstrációs féreg minden egyes befogott eszközt külön megvizsgált: felismerte, hogy Linux, Windows vagy egy okoseszköz (IoT) áll előtte, feltérképezte a rendelkezésre álló gyenge pontokat, valós időben elemezte azokat, majd az adott gépre szabott támadó utasítást készített és futtatott. A csapat megfigyelése szerint a féreg nem támaszkodott felhőszolgáltatásokra vagy drága külső AI‑erőforrásokra: nyílt forráskódú nagy nyelvi modelleket futtatott a már megfertőzött gépeken, így azok számítási kapacitását használta a további terjeszkedéshez.
Ebből a szempontból a fertőzésnek nem volt jelentős pluszköltsége: minél több eszközt fertőzött meg, annál több „számítási agyi kapacitás” állt rendelkezésére — a kutatók ezt aszimmetrikus gazdasági előnyként írták le.
Teljesítmény és terjedés
A mesterséges intelligencia által támogatott féreg lassabb terjedést mutatott, mint a hagyományos, egy sérülékenységre épülő férgek, mivel minden lehetséges ugrópontnál részletes elemzést végzett. A kísérleti hálózatban körülbelül öt napba telt, mire a fertőzés a hálózat eszközeinek nagyjából felét elérte. A kutatók ugyanakkor figyelmeztetnek: az idő rövidülhet, amikor az eszközök és a modellek hatékonyabbá válnak a sebezhetőségek észlelésében és a következtetések levonásában.
Miért jelent ez új fenyegetést?
A hagyományos vírusirtók és detekciós rendszerek gyakran meglévő kódmintákat, vagy ismert támadási jellemzőket keresnek. Az új vizsgálatban szereplő féreg viszont minden célponton egyedi stratégiát dolgoz ki, így a korábbi megközelítések kevésbé hatékonyak ellene. A kutatók szerint a valódi forradalmat az jelenti, hogy a rosszindulatú kód képes „gondolkodni” a célpontról és alkalmazkodni hozzá.
Etikai megfontolások és biztonsági lépések
A tanulmány vezető szerzője, Nicolas Papernot, a Torontói Egyetem professzora hangsúlyozta, hogy a kísérletet szigorúan zárt, biztonságos laboratóriumi körülmények között hajtották végre. A kutatócsoport előzetesen konzultált kormányzati és tudományos testületekkel annak érdekében, hogy a publikációt úgy alakítsák, ne bátorítsák a visszaélést. A publikált előzetes anyagból kihagytak bizonyos módszertani részleteket és a használt nyílt forráskódú modell pontos kilétét.
„Elég információt osztottunk meg ahhoz, hogy a fenyegetés kellően hihető legyen a tudományos vizsgálathoz anélkül, hogy olyan tervet adtunk volna ki, amely lehetővé tenné a visszaélést” — írták a kutatók.
A csapat célja az volt, hogy figyelmeztesse a kiberbiztonsági iparágat egy már most látható, várhatóan elkerülhetetlen veszélyre, és időt adjon a védekezési technikák kidolgozására, amelyek várhatóan szintén mesterséges intelligencia bevonását igénylik majd.
Következmények és teendők
A demonstráció rávilágít arra, hogy az AI‑technológiák kettős felhasználásúak: ugyanazok az eszközök, amelyek javítják az automatizálást és az elemzést, rossz kezekben új, dinamikus veszélyforrásokká válhatnak. A kutatók hangsúlyozzák a megelőzést és a védelmi rendszerek fejlesztését, továbbá a felelős publikálás és együttműködés jelentőségét a kormányzati szervekkel és a szakmai közösséggel.
A bemutatott eredmény nem magától értetődő támadás, hanem tudományos bizonyíték arra, hogy a technológia megvan hozzá — a következő lépés a védelmi oldalon történő, gyors adaptáció és az AI‑alapú biztonsági megoldások kidolgozása lesz.
