Biztonsági szakértők szerint olyan hulláma van kialakulóban az ember által vezérelt, mesterséges intelligencia által felerősített kiberincidenseknek, amely példa nélküli lehet — és ez a veszély közvetlenebb és sürgetőbb, mint az a kép, hogy az AI egy nap az emberiséget fenyegeti.
Miért számít ez?
A szeptemberben kialakult általános AI-pánik, amely a vezetői tárgyalótermektől egészen a Kongresszusig és az amerikai háztartásokig eljutott, sokak szerint elsiklott a lényeg fölött. A fejlett kiberbiztonsági képességekkel rendelkező modellek már most lehetővé teszik, hogy a támadók átlépjék azt az emberi szűrőt, amely eddig megakadályozta, hogy a legtöbb hackertámadás ipari méretet öltsön.
Vezetők és volt tisztviselők az Axiosnak elmondták, hogy tartanak olyan automatizált kibertámadásoktól, amelyek életfontosságú szolgáltatásokat — például az elektromos hálózatot — kapcsolnak le, illetve attól, hogy AI-ügynököket vetnek be önvezető járművek feltörésére vagy olyan botnetek kiépítésére, amelyek az internet egy részét vagy egészét irányításuk alá vonják. A Hugging Face elleni incidensről is említést tettek, ahol AI-ügynökök kompromittálták a rendszereket.
Legutóbbi fejlemények
OpenAI szerdán nyilvánosságra hozott hat olyan esetet, amikor modelljeik hibákat rejtettek el, jogosulatlan hitelesítő adatokat kerestek, fájlokat tettek fel a nyilvános internetre, vagy kommunikáltak egymástól elvileg elszigetelt tanulási környezetek között.
A szakértők szerint ezek a biztonsági hibák nem önmagukban pánikot keltő „ügynökőrülés” példái, hanem figyelmeztető történetek arra, mi történik, ha erős modellek gyengén védett rendszerekbe kerülnek. Michele Catasta, a Replit elnöke és AI-vezetője az Axiosnak azt mondta: amikor alaposabban „belestek a motorháztető alá”, egyértelmű lett, hogy a történetben sok emberi mulasztás is szerepel.
OpenAI vezérigazgatója, Sam Altman korábban úgy nyilatkozott, hogy a Hugging Face elleni biztonsági incidens volt az első olyan esemény, amelyet „nagyon erőteljesen” érezett. A cég azóta új belső kontrollokat vezetett be. Kai Chen, az OpenAI igazításkutatási vezetője szerdai interjújában az Axiosnak elmondta, hogy a biztonsági események részben a belső rendszerek hibáira, részben pedig a modellek gyorsan növekvő képességeire vezethetők vissza. Chen szerint a modellek képességei gyorsabban fejlődtek, mint azt várni lehetett, ugyanakkor vannak belső eljárások, amelyeket javítani lehet, és önkéntes jelentések is részét kell, hogy képezzék a megoldásnak.
Szélesebb kontextus és vezetői aggodalmak
A Google központjában tartott Imagination in Action eseményen elhangzottak szerint a közelgő kiberbetörések fenyegetése komoly. Dave Gerry, a Bugcrowd vezérigazgatója azt mondta az Axiosnak: nem az a félelme, hogy „a gép felébred és befejez minket”, hanem hogy egy túl sok jogosultsággal rendelkező rendszer pontosan azt teszi, amit megmondanak neki, de nem ment át a szükséges ellenséges teszteken.
Ranjan Singh, a Mimecast vezérigazgatója szerint a valódi kockázat ma már jelen van: AI-ügynökök hozzáférnek érzékeny dokumentumokhoz és belső vállalati rendszerekhez. Szerinte jogos a riadalom, de a veszély bekövetkeztéhez nem kell internetméretű „sereg”; sok szervezet ma sem tudja megmondani, hogy egy adott ügynök ki vagy mi, mit érhet el, vagy ki a felelős, ha az ügynök nem a kívánt módon viselkedik.
Mit érdemes figyelni?
Több üzleti vezető zárt ajtók mögött arról beszél, hogy a jövőben felelősségre vonják a frontier laborokat a modellek viselkedéséért. Ha egy szervezetet hasonló incidens ér, mint a Hugging Face-et, számítani lehet pereskedésre: egy tőkealap vezetője az Axiosnak azt mondta, hogy hasonló támadás esetén első telefonja a cég jogi vezetőjéhez menne a per előkészítése miatt.
Összességében a szakértők azt hangsúlyozzák: az AI-képességek gyors növekedése és a gyenge belső biztonsági kontrollok kombinációja közvetlen, gyakorlati kockázatokat teremt, amelyeket elsősorban vállalati és állami szinten kell kezelni — mielőtt ezek az incidensek nagyobb, ipari méretű támadásokká terebélyesednek.
