Donald Trump elnök kedden bejelentette, hogy a Fehér Ház elindítja az America.gov nevű AI-alapú csevegőszolgáltatást, amelynek célja, hogy megkönnyítse az állampolgárok számára a kormányzati szolgáltatásokkal és információkkal kapcsolatos tájékozódást. A bejelentés szerint az új szolgáltatás „egyetlen első ajtó” lesz minden kérdésre, így nem kell több ezer kormányzati weboldalt és szabályt átböngészni.
Technológiai partner: Google és Gemini
A Google megerősítette, hogy partnerként részt vesz a bevezetésben, és hogy a projektben az ő AI-modelljük, a Gemini érintett. A bejelentés alapján nem egyértelmű, hogy más mesterséges intelligencia-vállalatok is hozzájárultak-e a szolgáltatáshoz.
Miért fontos ez?
A szolgáltatás célja, hogy egyszerűsítse a kormányzati ügyintézést: segítséget nyújthat például eligazodni az élelmiszersegélyre való jelentkezés, vízumhosszabbítás vagy adóbevallás szabályai között. Az ilyen központosított hozzáférés potenciálisan kényelmesebbé és gyorsabbá teheti az ügyintézést a lakosság számára.
Kockázatok: a nyelvi modellek hibái
A mesterséges intelligencia-alapú nyelvi modellek — bár hasznos eszközök — nem tévedhetetlenek, és hajlamosak lehetnek úgynevezett „hallucinációkra”, amikor téves vagy kitalált információt adnak vissza. A CNN beszámolója szerint a katonai szervek korábban majdnem végrehajtottak egy fegyveres műveletet egy kínai hajó ellen, mert egy AI-alapú értesítés hamis riasztásra vezette őket; az akciót a végső pillanatban törölték, amikor kiderült, hogy a fenyegetés valójában AI-hallucináció volt.
Bár egy hibás válasz az America.gov-tól valószínűleg nem vezet katonai konfliktushoz, súlyos következményekkel járhat a hétköznapi ügyintézésben: téves információk miatt emberek mulaszthatnak határidőket, megtagadhatják tőlük a juttatásokat, vagy büntetéseket kockáztatnak vízum- vagy adóügyekben.
Következtetés
A kormányzat szándéka — a szolgáltatások egyszerűsítése és a hozzáférés javítása — érthető és szemmel láthatóan szükséges. Ugyanakkor az AI-alapú megoldások bevezetésekor gondos kockázatkezelésre és megbízhatósági garanciákra lesz szükség, hogy minimalizálják a hallucinációkból és hibákból eredő károkat.
