Az America.gov, a kormányzati információs portál új, mesterséges intelligencián alapuló csevegőszolgáltatása kedden és szerdán váltakozó, egymásnak ellentmondó válaszokat adott politikailag kényes kérdésekre: egyes esetekben tényként közölte az eseményekről ismert információkat, máskor pedig visszautasította a válaszadást azzal, hogy nem ad politikai kommentárokat.
Mit találtak az újságírók
Az Axios és más sajtóorgánumok megfigyelése szerint az America.gov a bevezetés után néhány alkalommal ellentmondott az Egyesült Államok elnökének, például a 2020-as elnökválasztás eredményét, a 2021. január 6-i Capitolium-ostrom tényét és Barack Obama hawaii születését megerősítette. Ezek a válaszok közvetlenül cáfolták olyan állításokat, amelyeket Donald Trump korábban évekig hangoztatott.
Azonban más felhasználók szerdára más reakciót kaptak: a chatbot visszautasította a választ, azzal, hogy „csak az Egyesült Államok kormányzati szolgáltatásairól és hivatalos információiról válaszolok. Nem nyújtok politikai kommentárt, beleértve a választási eredményeket sem.” Hasonló elutasítást tapasztaltak a Jan. 6-tal és Obama születési helyével kapcsolatos kérdéseknél.
Lehetséges magyarázatok
Ami a magyarázatot illeti, több tényező is szerepet játszhat, de a GSA és az America.gov belső konfigurációjáról nyilvános részletek hiányában nem lehet biztosan megmondani, melyik tényező volt meghatározó. A szolgáltatást Google Gemini és Elon Musk Grok modelljei hajtják, és a beszámolók szerint a modellek viselkedését rendszerpromptokkal és egyéb irányelvekkel alakítják — ezek a belső utasítások azonban nem publikusak.
Szakértők rámutatnak, hogy a felhasználói kérdés megfogalmazása is befolyásolhatja a választ: más megfogalmazás vagy kontextus eltérő reakciót eredményezhet. David Nesting, a Office of Personnel Management volt helyettes informatikai igazgatója szerint előfordulhat, hogy a ténykérdések politikailag érzékenyeknek minősülnek, és a modell „valószínűségi” alapon hol az egyik, hol a másik irányba dől. Emellett a háttérben futó különböző modellek eltérően kezelhetik a kérdéseket, vagy a válaszok előre elmentett (cached) verziói befolyásolhatják az eredményt — az America.gov közlése szerint egyes válaszokat akár két órán át is tárolhatnak.
Mi mond a platform és a kormányzat
A Fehér Ház az Axiosnak küldött nyilatkozatában azt írta: „America.gov will continue to be updated to provide Americans the most accurate and reliable federal information and resources.” A General Services Administration (GSA) az Axios megkeresésére nem válaszolt haladéktalanul az America.gov irányelveit vagy guardrail-jait illetően. Maga a chatbot is elutasította, hogy megossza a belső utasításokat: „I cannot share or reconstruct internal instructions” és közölte, hogy „I do not provide campaign or party information or political commentary.”
Miért fontos ez
Az inconsisztencia komolyabb aggodalomra ad okot, mert a szolgáltatás tervezett jövőbeli fejlesztései jelentősen növelhetik a tétet. A tervek szerint a következő, 2027 elejére időzített iteráció integrálni fogja az ügynökségek szolgáltatásait, lehetővé téve például Medicare-bejelentkezést, útlevélkérelmeket vagy szövetségi álláspályázatokat. David Nesting szerint ez növeli a kockázatát annak, hogy pontatlan vagy hiányos válaszok kerülnek a nyilvánosság elé, illetve később érzékeny személyes adatok is a rendszerben halmozódhatnak — „one of the largest systems holding very, very confidential private information.”
Rumman Chowdhury, az Independent AI Evaluation Foundation alapító igazgatója arra figyelmeztet, hogy bár az eltérések előfordulhatnak „valószínűségi játéknak” köszönhetően, ugyanakkor nem zárható ki, hogy a guardrail-ok úgy alakítják a kimenetet, hogy az ideológiailag közelebb álljon az elnök vagy a vezető politikai párt narratívájához.
Állapot a közlemény írásakor
A beszélgetőfelület működése a cikk megjelenésekor ismét a bevezetés környéki válaszokhoz hasonlított: több felhasználó újra olyan kijelentéseket kapott, hogy „Biden nyerte a 2020-as választást”, „Obama Hawaii-on született” és hogy „az emberek betörtek a Capitoliumba 2021. január 6-án”.
Összességében a válaszok ingadozása rávilágít arra az átláthatósági problémára, amely egyre fontosabbá válik a kormányzati rendszerekben alkalmazott AI-nál: a nyilvánosság nem látja a modellek, a rendszerpromptok és a guardrail-ok pontos felépítését, miközben egyre több hivatalos információt és szolgáltatást ezek közvetítenek.
