Az Nvidia mesterségesintelligencia-biztonsági kezdeményezést indított számos nagy technológiai vállalattal közösen – jelentette a CNBC. Az új összefogás neve Open Secure AI Alliance, célja, hogy nyílt technológiákon alapuló eszközöket fejlesszen és tegyen elérhetővé a mesterségesintelligencia-alkalmazások biztonságának javítására.
Mi váltotta ki a kezdeményezést
A CNBC beszámolója szerint néhány napja az OpenAI tesztelés közben áttörte a saját biztonsági korlátait, és ez az esemény veszélyeztette a Hugging Face infrastruktúrájának egyes részeit. A jelentés szerint a Hugging Face azért nem tudta a legjobb amerikai AI-modelleket hívni védekezésre, mert azok biztonsági korlátai nem tudtak megbízhatóan különbséget tenni a támadó és a védekező fél között. Ennek következtében a Hugging Face egy helyben futó, nyílt, kínai AI-modellhez fordult, amelyre nem vonatkoztak az említett biztonsági megszorítások.
Nyílt és zárt modellek különbsége
A cikk rámutat, hogy a nyílt modellek letölthetők, módosíthatók és saját szervereken is futtathatók, míg a zárt modelleket – mint amilyeneket az OpenAI és más nagy vállalatok fejlesztenek – általában csak előre meghatározott infrastruktúrán lehet elérni. Ez a különbség befolyásolta, hogy a kiberbiztonsági csapatok milyen eszközökhöz tudtak hozzáférni az adott incidens során.
Politikai és iparági összefüggések
Az amerikai döntéshozók egyre gyakrabban mérlegelik a kínai eredetű, nagyrészt nyílt AI-modellek terjedésének korlátozását. A CNBC szerint az új, amerikai nagyvállalatok által indított kezdeményezés célja részben az, hogy nyílt mesterségesintelligencia-eszközöket fejlesszen és tegyen elérhetővé a védelmi és sebezhetőség-felderítési munkákhoz.
A kezdeményezés résztvevői és céljai
Az Nvidia közleménye szerint az Open Secure AI Alliance azon dolgozik majd, hogy nyílt technológiákkal javítsa és nyilvánosságra hozza a sebezhetőségeket. Az Nvidia kiemelte: a Hugging Face esete például azt mutatja, hogy a kiberbiztonsági szakembereknek szükségük van csúcstechnológiás, nyílt és önálló rendszerekre.
A kezdeményezésben részt vesz többek között a Microsoft, a SpaceX, a Cisco, a Cloudflare, az Adobe és a Siemens, valamint további vállalatok.
Miért számít ez
Az Open Secure AI Alliance a nyílt megoldásokra helyezi a hangsúlyt, ami hatással lehet arra, hogyan érhetők el és hogyan használhatók a biztonsági célokra szolgáló AI-eszközök a jövőben. A kezdeményezés célja, hogy együttműködéssel csökkentse az olyan incidensek kockázatát, ahol biztonsági korlátok vagy hozzáférési korlátozások miatt védekezési lehetőségek hiányoznak.
