Az Anthropic mesterségesintelligencia-fejlesztő cég Mythos nevű nyelvi modellje súlyos biztonsági réseket azonosított szigorúan minősített amerikai kormányzati informatikai rendszerekben — derült ki a Reuters által idézett jelentésekből. A feltárás a korlátozott hozzáférésű Project Glasswing program részeként zajlott, és a vizsgálatot az amerikai hírszerző ügynökségekkel együttműködve végezték.
Mit találtak és mennyi idő alatt?
Mark Warner szenátor egy kongresszusi meghallgatáson azt mondta, hogy az NSA vezetőjének tájékoztatása szerint a Mythos modell „szinte az összes” minősített rendszerbe behatolt, és ez nem hetek, hanem csupán néhány óra leforgása alatt történt. A jelentések szerint a cél az volt, hogy a kritikus fontosságú szoftverek sebezhetőségeit még azelőtt feltárják és javítsák, hogy rosszindulatú szereplők kihasználhatnák azokat.
Ugyanakkor egy kormányzati tisztviselő rámutatott: a sebezhetőségek gyors azonosítása nem feltétlenül jelentette azok azonnali és teljes körű kiaknázhatóságát.
Feszültség Anthropic és az amerikai kormány között
A jelentés szerint a kapcsolat a vállalat és a washingtoni adminisztráció között az utóbbi időben rendkívül feszültté vált. Az ellentétek gyökere az, hogy az Anthropic megtagadta modelljei katonai célú felhasználásának engedélyezését: nem tette lehetővé, hogy az amerikai hadsereg azokat belföldi megfigyelésre vagy teljesen autonóm fegyverrendszerek irányítására használja.
Válaszul az amerikai kormány nemzetbiztonsági indokokra hivatkozva feketelistára tette a céget, és elrendelte az Anthropic két modelljének — Mythos és Fable — globális exportjának, valamint külföldi állampolgárok részére történő értékesítésének azonnali felfüggesztését.
Következmények: az NSA elvesztette a hozzáférést
A Reuters szerint a vita közvetlen következményeként a Nemzetbiztonsági Ügynökség (NSA) már elvesztette a hozzáférést a Mythos modellhez, amely korábban a sebezhetőségek feltárásában hasznosnak bizonyult.
Miért számít ez?
A történet kettős kérdést vet fel: egyrészt rámutat arra, hogy a fejlett nyelvi modellek milyen gyorsan képesek auditálni és feltárni szoftverbiztonsági problémákat, másrészt pedig rávilágít a magáncégek és a nemzetbiztonsági szervek közötti feszültségre, amikor a technológia katonai és exportszabályozási kérdésekkel találkozik.
A jelentés forrása: Reuters.
