Az Anthropic új, Critical Infrastructure Defense Program nevű kezdeményezést indít, amelynek célja, hogy a cég legerősebb mesterséges intelligencia modelljeit, helyszíni mérnökeit és fenyegetéskutatási kapacitását olyan vállalatok rendelkezésére bocsássa, amelyek áramhálózatok, vízellátó rendszerek és más kritikus infrastruktúrák védelméért felelősek.
Miért fontos ez
A kritikus infrastruktúra üzemeltetői gyakran elavult, összetett rendszereket tartanak fenn, és nehézséget okoz számukra ezek biztonságossá tétele. Ugyanakkor a mesterséges intelligencia képességeinek elterjedése olcsóbbá és gyorsabbá teheti a kibertámadásokat, ezért a védekezés megerősítése sürgető feladat.
A program részletei
Az Anthropic a program keretében hozzáférést biztosít frontier (legfejlettebb) AI-modelljeihez, helyszíni mérnöki támogatáshoz és fenyegetéskutatási információkhoz azoknak a cégeknek, amelyek kritikus infrastruktúrák biztonságáért felelnek. A részt vevő vállalatok ezeket az erőforrásokat arra használhatják, hogy felderítsék és orvosolják ügyfeleik rendszereiben meghúzódó sebezhetőségeket.
A program alapító partnerei között szerepelnek: Accenture, Booz Allen Hamilton, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC és Rockwell Automation. Anthropic szerint több partner már használja a Claudét sebezhetőségek feltárására és ügyfeleik támogatására.
OSS Scanner: ingyenes sebezhetőség-ellenőrzés nyílt forráskódú projekteknek
Az Anthropic egy külön szolgáltatást is indít, OSS Scanner néven, amely ingyenes, AI-alapú sebezhetőségvizsgálatot kínál nyílt forráskódú szoftverprojektek számára. A részt vevő projektek rendszeres időközönként kapnak Claude által végzett vizsgálatokat, valamint automatizált jelentéseket a feltárt sebezhetőségekről, azok kihasználhatóságáról és javasolt javításokról.
Fontos megjegyezni, hogy ezek a jelentések emberi felülvizsgálat nélkül jutnak el a szoftverkarbantartókhoz, így egyes megállapítások pontatlanok lehetnek.
Kapcsolódás korábbi kezdeményezésekhez és a nagyobb kép
Anthropic és más AI-fejlesztők, köztük az OpenAI, igyekeznek módszereket találni arra, hogy a legerősebb modelljeiket a kibervédelem oldalára állítsák, miközben a rosszindulatú szereplők is hozzáférnek egyre fejlettebb eszközökhöz. Az új program az Anthropic Project Glasswing nevű előző projektjének tapasztalataira épít: a Glasswing keretében ellenőrzött szervezetek férhettek hozzá a cég legképzettebb modelljeihez sebezhetőségek feltárására. Az Anthropic szerint a projekt megmutatta, hogy az AI gyorsan képes sebezhetőségeket feltárni, ugyanakkor a megállapítások igazolása és a hibák javítása továbbra is kihívást jelent.
Nyitott kérdések és kockázatok
A program bejelentése számos megválaszolatlan kérdést hagy maga után. Nem egyértelmű, hogyan fogják a részt vevő cégek biztonságosan tesztelni és élesben telepíteni a javításokat anélkül, hogy ez zavarokat okozna az üzemeltetett közművek működésében — ez a kritikus infrastruktúra védelmének egyik legnagyobb gyakorlati kihívása. Szintén nem részletezte az Anthropic, hogy a partnerek ingyen kapják-e a modellhasználatot, vagy ki viseli a számítási költségeket, amelyek az AI-eszközök üzemeltetésével járnak.
Összegzés
Az Anthropic új kezdeményezése fontos lépés abba az irányba, hogy a fejlett AI-t a védelem szolgálatába állítsák a kritikus infrastruktúra védelmében. Ugyanakkor a hatékonyságát és biztonságos alkalmazhatóságát döntően befolyásolják majd a gyakorlati megvalósítással kapcsolatos részletek, a tesztelés és a költségviselés megoldása.
