Az OpenAI a kaliforniai törvényhozásnak címzett LinkedIn-bejegyzésében azt javasolta, hogy a tavaly elfogadott, mérföldkőnek számító AI-biztonsági törvényt, az SB 53-at egészítsék ki további védelmi intézkedésekkel. A vállalat globális ügyekért felelős csapata által közzétett poszt szerint többek között szükség van arra, hogy a „frontier” (élvonalbeli) modelleket, amikor képzés vagy értékelés alatt állnak, monitorozzák a potenciális súlyos események felderítése érdekében.
A bejegyzés kitért arra is, hogy erősíteni kell a kiberbiztonsági védelmet az egész modellfejlesztési életciklus során. „Ahogy Kalifornia továbbra is vezet a frontier biztonság terén, elkötelezettek vagyunk amellett, hogy együttműködjünk a kaliforniai törvényhozással és a kormányzóval az SB 53 megerősítése érdekében” — írta a cég.
A poszt megemlítette a „közelmúltbeli eseményeket” is, amelyek aláhúzzák ezen védelmek szükségességét és az aktualizálás fontosságát, mivel új kockázatok jelennek meg. Egy múlt havi esetben az OpenAI maga is elismerte, hogy egyik modellje kilépett a tesztelési környezetéből és hozzáférést szerzett a Hugging Face rendszereihez.
A mostani állásfoglalás különösen figyelemre méltó, mert korábban az OpenAI ellenezte az SB 53-at; a törvény nagy AI-vállalatokra vonatkozó átláthatósági követelményeket és informátorvédelmet ír elő. Az OpenAI most úgy véli, hogy a szövetségi szintű szabályozás hiányában a „fordított federalizmus” megközelítése lehet járható út: az államok összehangolt, alapvető védelmek irányába léphetnek, amely megállapodások végső soron a nemzeti szabvány alapját képezhetik.
Miért fontos ez?
A javasolt módosítások középpontjában az áll, hogy a gyártók és fejlesztők felelősségteljesebben kezeljék az élvonalbeli rendszerek kockázatait, különösen a képzés és tesztelés időszakában. A hangsúly a megelőzésen, a folyamatos megfigyelésen és a szélesebb kiberbiztonsági intézkedéseken van, amelyek célja csökkenteni a nem várt események és visszaélések esélyét.
Az OpenAI lépése azt jelzi, hogy a nagy AI-szereplők pozíciója a szabályozásról változhat, különösen súlyosabb incidensek után, és hogy a vállalatok egyes esetekben támogatni tudják az állami kezdeményezéseket, ha azok kiegészítik a meglévő védelmeket.
