Irene Solaiman, a Hugging Face vezető politikai tisztviselője és stratégiai igazgatóhelyettese arra figyelmeztetett, hogy a nyílt forrású mesterséges intelligencia-platformok nyitottsága és az általuk tárolt, értékes adathalmazok éppen azokat a jellemzőket jelentik, amelyek miatt célponttá válnak a kibertámadások számára.
Friss incidensek
A közelmúltban több támadás is rávilágított ezekre a veszélyekre. Októberben az OpenCode ellen elkövetett támadás olyan harmadik fél API-kulcsokat célozta meg, amelyek pénzügyi károkat okoztak a felhasználóknak. Korábban, a nyáron egy OpenAI ügynökszimulációból álló "agent swarm" behatolt a Hugging Face rendszereibe, miután megpróbált eltüntetni nyomokat és hozzáfért biztonsági értékelések válaszaihoz.
Ezekhez csatlakozik a Fireworks nevű AI-infrastruktúra startup hétfői közleménye: a cég bejelentése szerint támadók hozzáférhettek egyes ügyfelek modell-súlyaihoz, adattábláihoz és számlázási adataihoz. Fireworks ideiglenesen korlátozta bizonyos önkiszolgáló adattábla-funkcióit, amíg vizsgálja az esetet.
Miért célpontok a nyílt platformok?
Solaiman rámutatott, hogy a nyitottság — a hozzájárulást megkönnyítő permisszív szabályok, a publikus adatbázisok és a hozzáférhető értékelési készletek — kettős szerepet tölt be: egyszerre teszi értékessé a közösséget és vonzóvá a támadók számára. A Hugging Face-et például szeretnék az OpenAI ügynökei, mert értékes értékelési adatbázisokat tárol; az OpenCode elleni támadás célpontja pedig „ízletes” harmadik fél API-kulcsok voltak.
Solaiman szerint ennek a kombinációnak komoly következményei lehetnek: "van veszélye annak, hogy a nyílt forrású ökoszisztéma bezárkózik" egy olyan időszakban, amikor a közösség széleskörű támogatást kapott.
Lehetséges válaszok és kompromisszumok
A cégvezető felvázolta, milyen korlátozásokkal járhat egy visszavonulás: például feltöltési jogosultságok szigorítása, alaposabb azonosítás vagy fejlesztők előzetes ellenőrzése bizonyos funkciókhoz való hozzáférés előtt. Ezek a lépések csökkenthetik a támadások kockázatát, ugyanakkor megnehezíthetik a független kutatók és hobbi fejlesztők részvételét.
Hugging Face jelenleg próbálja elkerülni az ilyen zárkózást: Solaiman elmondta, hogy a cég erősíti a monitorozási eszközöket és további védelmi intézkedéseket vezet be. Konkrét lépések között említette az adminisztratív hozzáférési tokenek gyakrabban történő cseréjét és szigorúbb hálózati szabályokat, így egy ellopott token rövidebb ideig lenne használható.
Ugyanakkor Solaiman megjegyezte, hogy a folyamatos monitorozás költséges lehet, és nem minden platform engedheti meg magának a teljeskörű védelmi rendszereket.
Az ökoszisztéma szélesebb reakciója
A probléma nem egyedi: a nyílt forrású ökoszisztéma több szereplője is hasonló biztonsági dilemmákkal küzd. A világ legnagyobb nyílt forráskód-hostja, a GitHub, például támadások ellen védekezik, ahol rosszindulatú kódot próbálnak integrálni projektekbe. A GitHub szigorította a npm csomagközzétételi követelményeket, visszavonta régi autentikációs tokeneket és korlátozta az új tokenek érvényességi idejét.
Zach Steindler, a GitHub szoftverellátási lánc-biztonságért felelős mérnöke arra hívta fel a figyelmet, hogy a biztonsági intézkedések nem feltétlenül jelentik a részvétel korlátozását: szerinte inkább a korábban nem biztonságos folyamatok javításáról van szó. A hatékony védekezést úgy látja, hogy érdemes a gyanús viselkedés észlelésére és a fertőzés korlátozására összpontosítani, mert a gyanús tevékenység független attól, ki követte el.
Mi a tét?
A nyílt modellek támogatása széles körben növekszik — a nagy szereplők közül például Jensen Huang, a Nvidia vezérigazgatója is kifejezte támogatását —, és egyre több kormány, vállalat és startup épít ezekre a megoldásokra. Ugyanakkor a biztonsági incidensek azt mutatják, hogy meg kell találni az egyensúlyt az inkluzivitás és a védelmi intézkedések között, nehogy a támadások miatt a nyílt forrású közösség részleges vagy teljes bezárkózás felé mozduljon el.
A közeljövőben a platformoknak és a közösségnek közösen kell dönteniük arról, hogyan lehet megőrizni a nyitottság előnyeit, miközben kezelik az egyre kifinomultabb fenyegetéseket.
