OpenAI és Anthropic is létrehozott különleges, választásokra összpontosító „háborús szobát”, amelyeknek feladata az, hogy biztosítsák platformjaikon a közéleti és választási információk pontosságát a közelgő amerikai félidős (midterm) választások idején. Ez mindkét cég számára újdonság.
A ’háborús szoba’ fogalma nem új: először 2018-ban alkalmazta a Meta hasonló célból, amikor növekvő aggodalmak merültek fel a választásokat érintő megtévesztő információk terjedése miatt. A mesterséges intelligencia korszakában azonban a kockázatok nagyságrenddel megnőttek: a fenyegetések közé tartoznak a deepfake videók és az AI-vezérelt keresési találatok, amelyek téves információkat terjeszthetnek.
Egy konkrét példa a közelmúltból: múlt héten a Google AI Mode nem adott választ arra a kérdésre, hogy ki nyerte a 2020-as elnökválasztást; a Google azt közölte, hogy dolgoznak a problémán. Ez az eset is rámutat arra, hogy az AI alapú rendszerek hibái közvetlen hatással lehetnek a közvélemény tájékoztatására.
Anthropic egy szóvivője a Semafornak azt mondta: „Teams across the company work year-round on strengthening our election-related safeguards and enforcing our policies. Ahead of the election, we have a dedicated war room monitoring our platform for misuse and ready to quickly respond to any incidents.” (A cég különböző csapatai egész évben dolgoznak a választásokhoz kapcsolódó védelmi intézkedések megerősítésén és a szabályzatok betartatásán. A választás előtt van egy dedikált háborús szobánk, amely figyeli a platform visszaéléseit és készen áll gyorsan reagálni bármilyen incidensre.)
A háborús szobák működtetését nehezíti az AI rendszerek kiszámíthatatlansága, a közelmúltbeli kiberbiztonsági problémák, valamint az a tendencia, hogy az AI-vezérelt keresők gyakran visszatükrözik a felhasználók elvárásait vagy kívánságait a találatokban. Katie Harbath, a Meta korábbi közpolitikai igazgatója a Semafornak azt mondta, hogy az ilyen háborús szobákat „azokra az esetekre építik, amikor nem feltétlenül lehet megjósolni, mi mehet rosszul, és szükség van egy gyors, előre meghatározott folyamatra az ügyek triázsához.”
Ezek az intézkedések azt tükrözik, hogy a technológiai vállalatok egyre nagyobb figyelmet fordítanak a választási információk hitelességére, miközben az AI által jelentett új típusú kockázatok kezelése folyamatos kihívást jelent.
