Az Egyesült Államok kormánya ezen a kedden nyilvánosságra hozta saját, közönség számára elérhető AI chatrobotját, America.gov néven. A fejlesztésben a kormány a Google-lal és a SpaceXAI-vel működött együtt. A bemutatás után a chatbotot gyorsan próbára tették online kutatók és biztonsági szakértők — a cikk szerint eddig nehéznek bizonyult a rendszer „jailbreakelése”.
Minecraft-válasz: költői monológ
Amikor a felhasználók a Minecraft témájáról kérdezték a chatrobotot, a rendszer egy körülbelül 1 800 szavas monológgá bővített választ adott, amelyre sokan aggodalommal vagy zavarral reagáltak. A hosszú szöveg többek közt ilyen sorokkal kezdődik: „I see the constituent you mean.” A válaszok stílusa és tartalma miatt felmerült a kérdés, hogy a chatbot „összeomlott-e” vagy furcsa önálló viselkedést mutat.
Azonban kiderült, hogy a beszámolt monológ nem egy spontán rendszerműködési hiba, hanem a Minecraft játékban megjelenő „End Poem” (Befejező Vers) átfogalmazása: az eredeti költemény szerzője Julian Gough. A szerzői forrás megléte arra utal, hogy a chatbot válasza egy irodalmi utalás, azaz húsvéti tojás (Easter egg) volt, nem az AI „hallucinációjának” jele.
Ki áll a referenciák mögött?
A forrás nem tudta egyértelműen megnevezni, ki pontosan helyezte el a Minecraft-utalást a rendszerben. Ugyanakkor a cikk idézi Donald Trump egyik beszédét, amelyben azt mondta, hogy Edward Coristine, egy húszéves programozó, vezető mérnökként dolgozott a projekten. A szerző szerint Coristine beceneve „Big Balls”, és említésre kerül a részvétele Elon Musk DOGE-projektjében is.
Miért számít ez?
A jelenség azért keltett figyelmet, mert egy állami, közszolgálati célokra is elérhető chatbot esetén a közösség és a szakértők fokozottan ellenőrzik a viselkedést és a potenciális téves vagy félrevezető válaszokat. Az, hogy a hosszú, költői szakasz egy ismert szerző művére vezethető vissza, megnyugtatóbbnak tekinthető annál, mintha a modell önálló, nem dokumentált „hallucinációt” produkált volna.
A cikk szerzője emellett megjegyzi, hogy a vers minősége meglepően emberi eredetűnek tűnik, és ez aláhúzza, hogy az idézett rész valódi költői forrásra mutat. Végső soron az America.gov első, nyilvános AI-kiadása nem jelentett sem világvégét, sem irodalmi válságot — legalábbis a jelenlegi információk szerint.
Összegzés
A kormány által hostolt America.gov chatbotot ezen a kedden indították el, fejlesztőpartnerei a Google és a SpaceXAI voltak. Bár a rendszer ellen korai próbálkozások folynak, és felmerültek furcsa válaszok is, a Minecrafttal kapcsolatos hosszú költemény nem egy spontán összeomlás jele: a válasz a Minecraft „End Poem” feldolgozása, amely Julian Gough szerzőhöz köthető. Több részlet — köztük a projektben nevesített Edward Coristine — a sajtóban felmerült, de a pontos szerzői beavatkozás kérdése nem tisztázott a rendelkezésre álló információk alapján.
