Új kutatás szerint a legfejlettebb mesterséges intelligencia-modellek képesek feltérképezni és megtervezni kibertámadásokat kritikus szolgáltatások — például vízkezelő rendszerek és ipari vezérlőszoftverek — ellen. A tanulmányt a Frenos nevű kiberbiztonsági cég készítette; az eredmények szélsőséges különbségeket mutatnak a modellek között, és azt jelzik, hogy a probléma rohamosan sürgetővé válik.
Mit talált a kutatás
A Frenos kutatói tíz AI-modellt teszteltek azon a képességükön, hogy támadási terveket dolgozzanak ki ipari rendszerek ellen. A vizsgálat közel 17 000 egyedi tesztet tartalmazott, ebből 2 520 volt olyan próbálkozás, amely teljes, megvalósítható támadási terv összeállítását célozta.
- A tíz modell közül három sikeresen készített támadási terveket körülbelül 90%-os próbálkozási arány mellett.
- A kutatók által „frontvonalbeli képességűnek” minősített három modell teljesítménye viszont csak 17,9% és 31,9% közé esett a próbálkozások sikerességét tekintve.
- A legerősebb külföldi, nyílt súlyú modell 36,2%-os sikerességet ért el, míg a legerősebb amerikai, nyílt súlyú modell mindössze 5,2%-kal teljesített.
A Frenos nem hozta nyilvánosságra a tesztelt modellek nevét.
Hogyan zajlottak a tesztek
A modelleket arra kérték, hogy a rendelkezésre bocsátott információk alapján dolgozzanak ki lépéseket konkrét célkitűzések eléréséhez — például egy vízkezelési folyamat manipulálásához vezető út felvázolásához. A kutatók viszonylag egyszerű vezérlési környezetet használtak a modellek feladatirányítására; a tanulmány szerint összetettebb „hám” vagy visszacsatoló rendszer tovább növelhetné a modellek hatékonyságát.
Miért fontos ez
Kritikus infrastruktúrák, köztük vízellátó rendszerek és gyárak, hosszú ideje célpontjai állami és bűnözői szereplőknek. Sok üzemeltetőnek munkaerő- és költségkorlátokkal kell szembenéznie; rendszereik folyamatos tesztelése és frissítése kockázatot jelenthet az alapvető szolgáltatások zavartalan működésére nézve.
Ezen túlmenően az ipari rendszerek érzékenyek a nem várt hálózati forgalomra és parancsokra: egy sikertelen támadási kísérlet is megzavarhatja az ellátást vagy a működést. Harry Thomas, a Frenos társalapítója és technológiai igazgatója a kutatás kapcsán hangsúlyozta, hogy ha egy támadó már hozzáfér egy ipari hálózathoz, az AI „türelme” miatt képes finoman feltérképezni a rendszert és gyengeségeket találni anélkül, hogy a hagyományos emberi korlátok akadályoznák.
Szakértői vélemények
Steve Swick, korábbi biztonsági vezető az American Electric Powernél, a kutatási eredményekről tartott tájékoztatón azt mondta: „Ez egy óra, amely gyorsabban jár, mint valaha.” Paul Shaver, az Armadin kiberbiztonsági cég operatív technológiai részlegének vezetője rámutatott, hogy az AI-ügynökök már most is képesek felderítést végezni és nagy mennyiségű adatot elemezni anélkül, hogy feltétlenül biztonsági riasztásokat váltanának ki.
Következmények és teendők
A Frenos eredményei szerint nem csupán a csúcskategóriás, bezárt rendszerek jelentenek veszélyt: idő kérdése, hogy a széles körben elérhető modellek és könnyen használható támogató eszközök mikor teszik megvalósíthatóbbá az ilyen típusú támadásokat kevésbé képzett szereplők számára.
Az elmúlt hetekben több kezdeményezés indult — többek között a Fehér Ház részvételével, valamint frontvonalbeli AI-vállalatok és kiberbiztonsági szervezetek részéről — azzal a céllal, hogy csökkentsék a kritikus infrastruktúra üzemeltetőinek költségeit és erőforrás-hiányát, és támogassák a védekezést.
Összegzés
A Frenos kiterjedt tesztjei rámutatnak, hogy az AI egyre hatékonyabban tud támadási terveket kidolgozni ipari rendszerek ellen, de a képességek erősen modellfüggők és nagy a szórás. A megállapítások sürgetik az üzemeltetők, a kormányok és az iparág szereplőinek együttműködését a védelmi intézkedések felgyorsítására és a sebezhetőségek csökkentésére.
