Az OpenAI bejelentette, hogy láthatatlan vízjelet kezd el alkalmazni a ChatGPT és a Codex által generált szövegeken az Európai Unióban, hogy megfeleljen az EU AI Act átláthatósági előírásainak. A cég hétfőn tett közzé egy blogbejegyzést a változásról.
Miért vezetik be?
Az EU AI Act átláthatósági szabályai, amelyek augusztus 2-án léptek hatályba, előírják, hogy az AI-t használó rendszerek által előállított tartalmat olyan módon jelöljék meg, hogy más rendszerek is képesek legyenek azonosítani azt. Az OpenAI szerint a vízjelezés a megfelelés része.
Hogyan és kiknél jelenik meg a vízjel?
- A cég közlése szerint a vízjel a következő hetekben kerül bevezetésre az EU-ban az jogosult ChatGPT- és Codex-felhasználók számára, minden előfizetési csomagon.
- Fejlesztők, akik az OpenAI API-ját használják, bárhol a világon ma óta bekapcsolhatják a vízjelet bizonyos modellekhez; alapértelmezés szerint azonban ki van kapcsolva.
- Az OpenAI egyelőre nem tette globális alapértelmezetté a szövegvízjelezést a bevezetéskor.
Miként működik a „láthatatlan” vízjel?
A vízjel nem egy látható jel vagy metaadat, hanem úgy működik, hogy finoman befolyásolja a modell szóválasztását: a szóválasztásokban elhelyezett apró mintázatok olvasó számára észrevétlenek, de egy detektor képes felismerni őket. Mivel a jel a szavakban „él”, a szöveg másolása és beillesztése esetén a vízjel megtartódik. Az OpenAI hangsúlyozta, hogy a vízjel nem azonosítja a felhasználót, és nem tapasztaltak jelentős teljesítményromlást a modellek működésében, amikor a vízjel be volt kapcsolva.
A technika: textGrain és a műszaki jelentés
A cég egy műszaki jelentést is közzétett a textGrain nevű módszerről. A dokumentumot az OpenAI kutatói mellett a University of Pennsylvania és a Yale kutatóival közösen írták. A módszer lényegében egy titkos kulcsot használ, amellyel a következő szóra vonatkozó előrejelzéseket rendezik; ezekbe a kis "nudge"-okba sok ilyen finom módosítást beleépítve a detektor csak a szöveg és a kulcs alapján képes megállapítani, hogy AI-generált a tartalom.
Mennyire ellenálló a vízjel szerkesztésre?
Az OpenAI saját tesztjei szerint a vízjel eltávolítható vagy nehezebben felismerhetővé tehető szerkesztéssel. Egyik vizsgálatukban a szavak 10%-ának szinonimákkal való helyettesítése a detektálási arányt körülbelül 92%-ról 66%-ra csökkentette. A cég továbbá közölte, hogy rövid szövegek, matematikai válaszok és fordított (lefordított) szövegek nehezebben detektálhatók.
Hozzáférés és korlátok
Mivel a módszernek ilyen korlátai vannak, az OpenAI úgy döntött, hogy kezdetben csak jóváhagyott kutatók és szakértő szervezetek számára biztosít hozzáférést a detektorhoz, hogy ők segíthessenek a megbízhatóság és a felelős felhasználás értékelésében. A cég figyelmeztetett: a vízjel hiánya nem bizonyítja emberi szerzőségét; a szöveg lehet túl rövid vagy erősen szerkesztett, illetve származhat más cég által előállított AI-rendszerből.
Kontextus a piacon
A bejelentés két hónappal követi azt, hogy az Anthropic bejelentette: vízjelezni fogja a Claude által generált szöveget, és az ő döntésük világszerte érvényes. A többi nagy szereplő — köztük a Google, Meta, Microsoft és szintén az OpenAI — aláírták az EU által javasolt gyakorlatkódexet az AI-generált tartalomra vonatkozóan.
Összefoglalás
Az OpenAI láthatatlan szövegvízjele a jogszabályi megfelelés eszközének tűnik az EU-ban, de a cég elismeri a technika korlátait és azt, hogy a jelzés önmagában nem ad teljes bizonyosságot a szerzőségre. A megközelítés műszaki részleteit a textGrain jelentés tárgyalja, miközben a detektorokhoz való kezdeti hozzáférést szigorúan szabályoznák.
