Az OpenAI csütörtökön közzétett jelentése szerint iráni szereplők a vállalat mesterségesintelligencia‑modelljeit felhasználva hamis újságírói profilokat hoztak létre, és ezek alatt Amerikát bíráló cikkeket juttattak el számos nyugati nyelvű kiadványba.
A cég közlése szerint világszerte mintegy tucatnyi kiadványban összesen közel száz cikk jelent meg hét kitalált újságíró neve alatt. Az érintett ChatGPT‑fiókokat letiltották; az OpenAI azt írja, ezekre perzsa nyelven érkeztek kérések cikkek átdolgozására, szerkesztőségi ajánlók elkészítésére és közösségi média‑kommentek generálására.
A beszámoló kiemeli, hogy a mesterséges intelligencia segítségével létrehozott tartalmak között provokatív címek is voltak, például „Amerika Irán‑politikáját privatizálják? A Jared Kushner‑kérdés” vagy „Az iráni háború és a nyugati erkölcsi hitelesség összeomlása”. Bár a publikációk között nem szerepeltek nagy, országos lefedettségű amerikai médiumok, néhány érintett kiadványnak jelentős online követőbázisa van: például a londoni székhelyű Middle East Monitor hozzávetőlegesen kétmillió Facebook‑követőt tart számon.
A kampány részét képezte, hogy a megjelent cikkek után a felelős szereplők a ChatGPT‑t használva közösségi média‑hozzászólásokat generáltak, és valódi olvasóknak álcázva reagáltak a tartalmakra. Az OpenAI által bemutatott példák szerint ezek a kommentek az Egyesült Államokat agresszorként, Izraelt megbízhatatlan szövetségesként, Iránt pedig ellenálló áldozatként ábrázolták.
Az OpenAI értékelése szerint a tevékenység egy megbízásra dolgozó, kereskedelmi jellegű befolyásolási kampányra utal, azonban a konkrét szervezőt vagy szervezeteket nem sikerült azonosítani. A vállalat hangsúlyozza, hogy nincs bizonyíték a közvetlen kapcsolatára az iráni kormánnyal.
A Middle East Monitor igazgatója, Daud Abdullah a CNN‑nek elmondta, hogy az ügyet kivizsgálják; a vitatott cikkeket eltávolították, és felülvizsgálják a beküldési folyamataikat. Jessica Brandt, az Egyesült Államok Nemzeti Hírszerzési Igazgatósága külföldi befolyásolással foglalkozó központjának korábbi vezetője a CNN‑nek azt mondta, hogy figyelemre méltó, hogy iráni szereplők valódi médiumokba tudták becsempészni tartalmaikat. Brandt szerint a mesterséges intelligencia lehetővé teszi, hogy külföldi ellenfelek egyre kifinomultabb álneveket és hamis látszatot építsenek ki, és hiteles csatornákon keresztül terjesszék propagandájukat.
Az OpenAI intézkedései között szerepelt a vonatkozó ChatGPT‑fiókok letiltása; a vállalat jelentése részletezi az észlelt mintázatokat és a felhasznált módszereket. A jelentés arra figyelmeztet, hogy a generatív AI eszközökhez való hozzáférés megkönnyítheti a nagy mennyiségű, külföldi befolyásolásra irányuló tartalom előállítását és terjesztését.
Miért fontos ez?
Az eset rámutat arra, hogy a mesterséges intelligencia egyre inkább eszközzé válik a digitális befolyásolásban: automatizálhatóvá teszi a cikkírást, az álcázást és a közösségi reakciók szimulálását, ami megnehezíti a hiteles és álhír közötti különbségtételt. Ugyanakkor a vizsgálat jelenlegi állása szerint nincs bizonyíték arra, hogy a kampányt közvetlenül az iráni kormány rendelte volna meg, és a konkrét megbízó személye továbbra sem ismert.
Az ügyet több médium és szakértő is figyelemmel kíséri; a letiltások és a kiadványok önellenőrzése jelzi, hogy a szereplők próbálják szűkíteni a hasonló visszaélések kockázatát.
