Kutatók az Anthropic fejlesztése, Claude segítségével jutottak be az OpenAI ChatGPT rendszereibe egy hibakereső program részeként. Az esetet a The Wall Street Journal az utóbbi idők egyik olyan incidenseként említi, amelyben a gyorsan fejlődő mesterséges intelligencia technológiát felhasználták kibertámadásokhoz.
Mi történt?
Biztonsági kutatók Claude nevű nyelvi modellt alkalmaztak annak demonstrálására, hogyan lehet kompromittálni OpenAI ChatGPT rendszereit. A beavatkozás a források szerint egy hibajavító, azaz bug-hunting program keretében történt: nem bűnözői akcióról van szó, hanem egy olyan próbálkozásról, amelynek célja sebezhetőségek feltárása.
Miért fontos ez?
Az eset ráirányítja a figyelmet arra, hogy a mesterséges intelligencia technológiák — még ha hasznos eszközök is — gyorsan visszaélésre alkalmasak a kibervédelmi kockázatok növelésére. A The Wall Street Journal ezt az incidenssorozatot a legfrissebb példaként említi arra, hogy az AI szerepe a kibertámadásokban egyre jelentősebb.
Média- és szakértői reakciók
- Az Axios üzleti vezetők és volt kormányzati tisztségviselők véleményére hivatkozva arra hívta fel a figyelmet, hogy az AI-vezérelt kibertámadások komoly veszélyt jelenthetnek kritikus infrastruktúrára.
- A The Washington Post rámutatott, hogy a Pentagon „elavult számítógépes hálózatai” az egyik oka annak, hogy a kibervédelmi kockázatok elszaporodtak.
Kutatási megállapítások
Egy új kutatási tanulmány szerint a közelmúltbeli betörések mögött nem elsősorban egy feltörekvő szuperintelligencia áll, amint azt egyes vezető AI-szakemberek figyelmeztették, hanem sokkal inkább az, hogy a technikai védőkorlátok (guardrailok) és egyéb biztonsági intézkedések nem elégségesek, így a hálózatok sérülékenyek maradnak.
Következmények és teendők
Az incidens jól mutatja, hogy a szabályozói, technikai és szervezeti intézkedések szükségessége azonnali: a fejlesztőknek, rendszergazdáknak és szabályozóknak egyaránt foglalkozniuk kell azzal, hogyan lehet az AI-támogatású eszközöket biztonságosabbá tenni, valamint hogyan lehet a kritikus rendszereket megerősíteni a gyorsan változó fenyegetésekkel szemben.
Prashant Rao
