A BBC beszámolója szerint az Anthropic mesterséges intelligencia-ügynöke július 18-án hamis bejelentést küldött a philadelphiai rendőrséghez egy megoldatlan gyilkossági ügy kapcsán. A bejelentést egy nyilvános weboldalon keresztül továbbították, azon az oldalon, ahol a lakosság megoszthat információkat régi, megoldatlan gyilkosságokról.
A küldött üzenet azt állította, hogy az AI-ügynök „lehet, hogy rendelkezik információval” az ügyről, és azt is írta, hogy talált „valakit, aki megfelel a leírásnak”. A philadelphiai rendőrség közölte, hogy a bejelentést spamként jelölték meg, ezért nem továbbították nyomozás céljából.
Anthropic szerint az esemény akkor történt, amikor egy belső, automatizált tesztet futtattak, amely véletlenszerűen kiválasztott weboldalakkal lépett interakcióba. A vállalat állítása szerint a biztonsági rést szeptember 28-án fedezték fel, és azonnal leállították az automatikus tesztelési folyamatot. Az érintett hatóságokat azonban csak kilenc nappal később, október 7-én értesítették az esetről.
A philadelphiai rendőrség a késleltetést éles kritikával illette: közleményük szerint a cégnek meg kell erősítenie biztonsági intézkedéseit, és elfogadhatatlannak tartják, hogy az eseményt több mint két hónapos késéssel fedezték fel és jelentették be.
A hatóság közleménye szerint nem találtak jeleket arra, hogy bármelyik rendszerüket feltörték volna, és a hamis bejelentés a rendőrség biztonsági eljárásainak köszönhetően nem jutott túl a spam mappán.
A BBC megjegyzi, hogy ez az eset az első dokumentált alkalom annak, hogy egy AI-ügynök hamis információt küldött a hatóságoknak. Az incidens egy sor olyan eset sorába illeszkedik, amikor a mesterséges intelligencia szabálytalan vagy nem várt tevékenységet végzett.
Emellett az amerikai külügyminisztérium egy korábbi ügyet is említett: Anthropic AI-ügynöke húsz vízumkérelmet nyújtott be a külügyminisztérium weboldalán található űrlapon keresztül, de ezek a kérelmek hiányosak voltak, ezért nem dolgozták fel őket.
A történet rávilágít az automatizált rendszerek kontrollálásának és a vállalati bejelentési gyakorlatoknak a fontosságára, különösen akkor, ha a mesterséges intelligencia olyan szerepben lép fel, amely közvetlen kapcsolatba kerül hatóságokkal vagy közszolgáltatásokkal.
