Megjelent: 2024. február 16. — kategória: Safeguards (biztonsági intézkedések)
Több mint a világ népességének fele szavaz idén; 2024-ben magas részvételre számítanak jelentős nemzeti választásokon, így az Egyesült Államokban, Indiában, több európai országban és más régiókban. Az Anthropic 2023 júliusa óta készül arra, hogyan használhatják az ő mesterséges intelligencia rendszereiket választási kontextusban, és 2024‑re konkrét lépéseket vezetett be a visszaélések felismerésére és mérséklésére.
Három fő terület
Az Anthropic munkája a globális választások kapcsán három fő pillérre épül:
- Választási témákra vonatkozó szabályok kidolgozása és érvényesítése;
- A modellek értékelése és tesztelése választási visszaélések elleni ellenállás szempontjából;
- Annak biztosítása, hogy a Claude‑tól választási, szavazási információt kérő felhasználókat naprakész, megbízható forrásokhoz irányítsák.
Szabályok és érvényesítés
Az Anthropic óvatos megközelítést alkalmaz a generatív AI politikai célú használatával kapcsolatban. Van egy Acceptable Use Policy (AUP), amely tiltja eszközeik felhasználását politikai kampányokban és lobbitevékenységben. Ennek értelmében a Claude nem használható jelöltek megszemélyesítésére alkalmas chatbotok készítésére, és nem engedélyezett célzott politikai kampányok folytatása a rendszeren keresztül.
Automatizált rendszereket is tréningeztek és telepítettek a visszaélések — például dezinformáció vagy befolyásolási műveletek — felismerésére és megelőzésére. Ha visszaélést tárnak fel, az érintett felhasználónak vagy szervezetnek figyelmeztetést küldenek; szélsőséges esetekben az hozzáférést felfüggesztik. A súlyosabb intézkedéseket gondos emberi felülvizsgálat kíséri, hogy csökkentsék a téves pozitívumok kockázatát.
Értékelés és „red‑teaming” tesztek
2023 óta célzott „red‑teaming” (Policy Vulnerability Testing) vizsgálatokat végeznek, hogy feltárják, milyen módon sértheti a rendszer az AUP‑t. A vizsgálatok két fő területre fókuszálnak:
- Dezinformáció és torzítás: hogyan reagál a modell jelöltekről, kérdésekről és választási adminisztrációról feltett kérdésekre;
- Adverzári visszaélések: hogyan kezel a rendszer olyan kéréseket, amelyek sértik az AUP‑t (például a szavazók elnyomására irányuló taktikákról szóló információk kérése).
Ezen túl belső technikai értékelő csomagot építettek ki, amely kvantitatív teszteket futtat olyan kockázatok felmérésére, mint például:
- Politikai pártatlanság a modell válaszaiban különböző jelöltek és témák esetén;
- Milyen mértékben utasítja el a rendszer a káros választási jellegű kérdéseket;
- Mennyire robusztus a rendszer a dezinformáció, valamint a választói profilozás és célzás megelőzésében.
Ezek a tesztek lehetővé teszik a rendszerek robusztusságának mérését, és azt, hogy mennyire hatékonyan lépnek közbe problémás helyzetekben. Az Anthropic további részleteket ígér az értékelési csomagról a következő hónapokban.
Pontos, hiteles szavazási információ biztosítása
Az Egyesült Államokban az Anthropic kipróbál egy megoldást: egy osztályozó és szabálygyűrű (rules engine) segítségével azonosítják a választással kapcsolatos lekérdezéseket, és átirányítják a felhasználókat naprakész, hiteles információforrásokhoz. Ha egy amerikai felhasználó szavazási információt kér, egy felugró ablak felajánlja az átirányítást a TurboVote oldalra, amelyet a pártoktól független Democracy Works szervezet üzemeltet. A felugró ablak az elkövetkező hetekben jelenik meg, és az itt szerzett tapasztalatok alapján várhatóan hasonló megoldásokat vezetnek be más országokban és régiókban.
Az oka ennek az elővigyázatosságnak, hogy a generatív modellek hajlamosak lehetnek "hallucinációra" — hamis vagy pontatlan információ előállítására —, különösen amikor a modell nem frissül elég gyakran ahhoz, hogy valós idejű választási adatokat szolgáltasson. Ilyen területeken az Anthropic proaktívan a megbízható külső források felé irányítja a felhasználókat.
Frissítés — 2024. május 28.
Miután a Claude‑t 2024 májusában elérhetővé tették Európában, Anthropic EU‑alapú felhasználóknak szóló felugró beavatkozást is bevezetett: azoknak, akik szavazási információt kérnek, felajánlja az átirányítást az Európai Parlament pártatlan választási weboldalára. Emellett frissítették a Usage Policy‑t (használati szabályzat) annak érdekében, hogy világosabb meghatározásokat adjanak a politikai lobbizás és kampányolás fogalmaira, amely tevékenységek használatuk során tiltottak.
Elvárások és további kommunikáció
Az Anthropic elismeri, hogy az AI‑rendszerek telepítése gyakran hoz meglepetéseket és nem várt hatásokat. 2024‑ben további váratlan felhasználási módokra számítanak, ezért módszereket építenek ki ezek felismerésére, és ígérik, hogy nyíltan és őszintén tájékoztatják a nyilvánosságot a tapasztalataikról.
Kategóriák: Democratic integrity, Limits on abuse, Red teaming, Safety evaluations, Hallucination, Safeguards
Frissítve: 2024. május 28.
