Microsoft közzétett egy új mesterséges intelligencia magatartási kódexet, amelynek célja, hogy irányt szabjon a vállalat modelljeinek a veszélyes vagy emberi irányítást kijátszó viselkedésével szemben. A dokumentum elsősorban gyakorlati elveket és tilalmakat fogalmaz meg a modellképzés és a viselkedés korlátozása érdekében, nem pedig azt a magas szintű politikai vitát folytatja, amelyet például Anthropic vezérigazgatója, Dario Amodei a kutatási tempó visszafogásáról indított.
Főbb állítások és célok
A kódex megfogalmazza azt a jövőképet, hogy a következő évtizedben a szuperintelligens rendszerek a legtöbb feladatban meghaladhatják az emberi teljesítményt. Ennek fényében a dokumentum hangsúlyozza: „Egy ilyen hatalmas erő tartása, irányítása és összehangolása az emberiséget érintő legnagyobb kihívások közé tartozik.” A kódex szerint világosan meg kell határozni, miért fejlesztjük ezeket a rendszereket és hogyan tartjuk kézben őket.
A kódex általános elveket is rögzít: a modelleknek támogatniuk kell az embereket ahelyett, hogy helyettesítenék őket, és a fejlesztéseknek elő kell mozdítaniuk az emberi jólétet. Ezen elvek gyakorlati megvalósítására konkrét biztonsági korlátozásokat vezettek be.
„Abszolút korlátok” és felügyeleti mechanizmusok
A Microsoft rendszere szerint minden modellre egy átfogó magatartási kódex vonatkozik, amely elsőbbséget élvez a felhasználói preferenciákkal vagy egyes konkrét feladatokkal szemben. A dokumentum felsorol „abszolút korlátokat”, amelyek tiltják többek között a kiberkészségeket kihasználó támadásokat, a nukleáris fegyverekkel kapcsolatos segítségnyújtást, illetve a deepfake gyártását.
A kódex kitér az emberi kontroll szélesebb értelemben vett elvesztésének megakadályozására is: „MAI Models will not use adaptive, deceptive, self-reinforcing, collusion, or other mechanisms to evade or defeat human oversight so that they can no longer be reliably directed, modified, or shut down by authorized people or systems,” olvasható a dokumentumban.
Kontextus és iparági összefüggések
A kiadvány megjelenése az AI-biztonság iránti példátlan figyelem idején történt, amelyet több, úgynevezett rogue-agent incidens váltott ki, továbbá egy Anthropic alkalmazott hirtelen távozása, aki az emberiség kiirtásának növekvő kockázatát jelölte meg indokként. Microsoft, Anthropic, OpenAI és xAI egyaránt részesei annak az általános megközelítésnek, amely a kutatási sebesség tudatos szabályozását és a biztonsági mechanizmusok beágyazását támogatja.
Microsoft vezérigazgatója, Satya Nadella online hozzászólásában üdvözölte a kutatást és a „szándékos ütemezést”, valamint név szerint megemlítette az „embedded evaluators” ötletét és a szervezetek azon erőfeszítéseit, amelyek célja, hogy a biztonság „ne csak beszéd” legyen.
Miért számít ez?
A kódex betekintést ad abba, hogyan értelmezi és alkalmazza a Microsoft az AI-biztonságot a gyakorlatban: nemcsak általános irányelveket ad, hanem konkrét, végrehajtható tiltásokat és felügyeleti követelményeket is meghatároz. Mivel a technológia potenciálisan egyre nagyobb befolyást gyakorol a társadalomra, az ilyen belső szabályok és a laboron belüli értékelő eljárások szerepe kulcsfontosságú lehet a kockázatok csökkentésében.
