Az Anthropic mesterséges intelligencia-szolgáltató egyik belső biztonsági mechanizmusa miatt a floridai rendőrség őrizetbe vett egy nőt: egy, a csevegőrendszer által kiszűrt beszélgetést emberi felülvizsgálatra küldtek, a felülvizsgáló pedig súlyosnak ítélte a tartalmat és továbbította az információt a hatóságoknak. A nő ellen a floridai jog szerint erőszakkal való írásbeli fenyegetés vádjával emeltek vádat.
Az Anthropic rendszere kulcsszavak és fenyegetőnek minősíthető tartalmak automatikus felismerésére épül. A cég gyakorlatilag azt jelenti, hogy bizonyos kockázati szint felett a beszélgetéseket emberi moderátorok is ellenőrzik, és szükség esetén a releváns információkat megoszthatják külső szereplőkkel, így hatóságokkal is. Az Anthropic többször is közölte, hogy korlátozott vészhelyzeti körülmények között megoszt adatokat, ha annak célja haláleset vagy súlyos testi sérülés megelőzése.
Ez az eset rávilágít arra, hogy a „privát chat” hasonló fogalom, mint egy online szolgáltatás használata: nem ugyanaz, mint egy személyes, kizárólag saját hozzáférésű napló. Az Anthropic — a cég saját közleménye szerint — nem kockáztat, ha olyan tartalmat észlel, amely potenciálisan veszélyes lehet.
A háttérben politikai és jogi feszültség is zajlik: a cikk megjegyzi, hogy a múlt hónapban British Columbia beperelte az OpenAI-t és Sam Altmant azzal az állítással, hogy a cég megakadályozhatott volna egy tömeges lövöldözést a tartományban, mert a gyanúsítottat az OpenAI biztonsági csapata korábban már megjelölte, de a hatóságokat nem értesítették. Emellett júniusban Florida szintén beperelte az OpenAI-t és Sam Altmant, többek között azzal a váddal, hogy a ChatGPT hozzájárult a 2025-ös Florida Állami Egyetemen történt lövöldözéshez.
A mostani floridai ügy nemcsak a konkrét bűncselekmény gyanúját érinti, hanem tágabb kérdéseket is felvet: mennyiben tekinthető bűncselekménynek vagy veszélyforrásnak az, ha valaki „kiírja magából” a dühét anélkül, hogy ténylegesen szándékozná a cselekvést, és hol húzódik a határ a felhasználói magánszféra és az AI-szolgáltatók felelőssége között. Az eset emlékeztet arra is, hogy bár a modern AI rendszerek egyre inkább személyes, bizalmas beszélgetőtársnak tűnnek, jogilag és technikailag továbbra is szolgáltatások, amelyek adatmegosztási és biztonsági protokollokkal működnek.
A történés részletei — így a letartóztatás pontos ideje vagy a beszélgetés tartalmának konkrét szövege — a rendelkezésre álló információk szerint nem kerültek nyilvánosságra. A felek további intézkedései és a jogi eljárás alakulása várhatóan több tájékoztatással szolgál majd a jövőben.
