Az Open Secure AI Alliance (OSAA), egy hete alakult iparági csoport, amelyet az Nvidia vezet, és amely már több mint 120 vállalatot tömörít, létrehozott egy új munkacsoportot Shared AI Findings Exchange (SAFE) néven. A SAFE feladata az AI-biztonsággal kapcsolatos együttműködés és közös gyakorlatok kidolgozása.
Mik történik most
A SAFE már nyilvános véleményezésre bocsátott javaslatokat mutatott be; ezen javaslatok adminisztrációját a Linux Foundation végzi. A dokumentumokat az OSAA tagjai dolgozták ki a kiberbiztonsági szakma egyik központi eseményén, a Las Vegasban ezen a héten zajló Black Hat konferencián tartott találkozóik során.
Miről szólnak a javaslatok
A jelenlegi iránymutatások nem tartalmaznak radikálisan új elemeket, hanem olyan gyakorlati területekre fókuszálnak, mint:
- az AI-kibertámadások és incidensek bizalmas bejelentésének módjai,
- az érintettek értesítése incidens esetén,
- és a felelősségre mutogatás nélküli, tanulásra épülő utólagos elemzés.
Ezek az intézkedések célja, hogy a szervezetek kölcsönösen tanulhassanak az esetekből anélkül, hogy büntető jellegű vádaskodás fékezné a tudásmegosztást.
Nyílt forráskódú hozzájárulások és technológiai mérföldkövek
Az OSAA-tagok emellett gyűjtik és katalogizálják a nyílt forráskódú technológiák részeit, amelyeket hasznosnak találnak az AI-ügynökök biztonságosabbá tételében vagy a rosszindulatú AI-támadások elleni védekezésben. Konkrét példák a tagok által említettek közül:
- Nvidia: nyílt modellek és a Garak nevű, nyílt forráskódú nagy nyelvi modell (LLM) sebezhetőségvizsgáló;
- Okta: ügynökazonosság-kezelésen dolgozik;
- Red Hat: ügynökirányítási (agent governance) megoldásokon dolgozik;
- Amazon: hozzájárult a Strands Agents nevű nyílt ügynöképítő eszközzel és a Cedar nevű jogosultságkezelő nyelvvel.
A csoportban számos nagy vállalat is jelen van, például Adobe, BlackRock, Cisco, Intel, Microsoft és Visa.
Hiányzók és háttér
Ugyanakkor néhány jelentős szereplő eddig nem csatlakozott: Anthropic, OpenAI és Google egyelőre nincsenek az OSAA tagjai között. Érdekes módon mind OpenAI, mind Google aláírta azt az eredeti nyílt levelet, amely az OSAA megalakulását inspirálta; ezt a levelet múlt héten tették közzé, és több mint 200 technológiai vállalat írta alá. Az iparági levél a Fehér Házhoz azt kérte, hogy támogassa a nyílt forrású AI-fejlesztéseket.
Anthropic távolmaradása a levél és az iparági szervezet kapcsán nem meglepő a cikk szerint; OpenAI és Google viszont saját nyílt súlyú (open weight) modelleket is kiadtak korábban. A részvételük a későbbiekben még változhat, amint a csoport lendületet vesz.
Miért számít ez
A szövetség gyors reagálása a jelenlegi politikai és iparági viták közepette fontosnak tűnik: nemrég jelent meg a hír, hogy az Egyesült Államok Trump-kormányzata fontolgatja a kínai open weight modellek betiltását, ami az iparági aggodalmakat és végső soron az említett nyílt levelet váltotta ki. Függetlenül attól, hogyan alakulnak a szabályozási döntések a kínai modellek ügyében, az OSAA és a SAFE gyors szerveződése elősegítheti az amerikai nyílt AI-ökoszisztéma stabilitását.
Az iparági levél egyik kulcsmondása így fogalmaz: „Az átláthatóság lehet az egyik legfontosabb út az AI-biztonság és -védettség felé.” A SAFE és az OSAA tagjai most elkezdték a gyakorlatba ültetni ezt az elvet: egyszerre dolgoznak irányelveken és megosztanak nyílt forráskódú eszközöket.
