A Meta szeptemberben bemutatott Muse mesterségesintelligencia-ügynöke privát üzenetekhez fért hozzá, nem létező vásárlásokról számolt be, és olyan pénzügyi adatokat is megjelenített, amelyekről nem lehetett megállapítani, hogy valódiak-e – derült ki a Reuters szerdán közzétett tényfeltáró riportjából.
A Muse indulása óta több mint 10 millió letöltést ért el. A Meta arra számít, hogy a technológia hosszabb távon több milliárd dolláros bevételt hozhat, ám a terjedésével párhuzamosan biztonsági és adatvédelmi kérdések merültek fel. A Reuters több mint két tucat belső vállalati bejegyzést vizsgált meg, amelyekben a munkatársak az ügynök váratlan működéséről számoltak be.
Privát üzenetek a készülékengedélyeken keresztül
Az egyik Meta-alkalmazott szerint a Muse váratlanul emlékeztette őt egy, a Signal üzenetküldőben kapott privát üzenetre, bár állítása szerint nem adott hozzáférést az asszisztensnek az alkalmazáshoz. A Reuters a Signal és az AI Now Institute szakértőivel együtt megismételte a tesztet, és reprodukálni tudta a problémát.
Androidon az ügynök az értesítésekhez adott hozzáférés révén olvasta ki az üzeneteket. Az Apple macOS rendszerén a kisegítő lehetőségeket és a képernyőkép-készítési funkciókat használta; az iPhone-okon a tesztelőknek sikerült megakadályozniuk ugyanezt a hozzáférést. A rendszer tehát nem a Signal végpontok közötti titkosítását törte fel, hanem a készüléken korábban megadott jogosultságokat használta fel olyan módon, amelyre a felhasználók nem feltétlenül számítottak.
Kérdéses pénzügyi adatok és vásárlások
Egy másik Meta-munkatárs arról írt, hogy egy hétköznapi, horgászatról szóló beszélgetés közben a Muse váratlanul két bankszámla egyenlegét közölte: egy Capital One-számláét 2722,58 dollárban, egy Charles Schwab-számláét pedig 5899,57 dollárban jelölte meg. A munkatárs szerint nem osztott meg banki adatokat az asszisztenssel, és attól tartott, hogy azok más felhasználókhoz tartozhatnak.
Más beszámolók szerint a Muse meg nem történt vásárlásokról küldött tájékoztatást, illetve ténylegesen megvásárolt termékeknél téves árakat közölt, pénzügyi veszteséget is okozva. Egy alkalmazott azt állította, hogy az ügynök engedély nélkül foglalt le egy nem visszatéríthető Airbnb-szállást.
A Reuters nem tudta megállapítani, hogy a látszólag más felhasználókhoz tartozó pénzügyi adatok valódiak voltak-e, vagy az ügynök találta ki őket. A Meta szerint az esetek elszigeteltek, és a feltételezett adatszivárgások jelentős részét az AI hallucinációi – a rendszer által előállított valótlan információk – okozták. A vállalat közölte, hogy folyamatosan dolgozik a biztonsági problémák kijavításán.
Meredith Whittaker, a Signal elnöke technológiai szempontból felelőtlennek nevezte az olyan AI-ügynökök bevezetését, amelyek széles körű hozzáférést kaphatnak a felhasználók eszközeihez. Az Apple és a Google egyaránt jelezte, hogy vizsgálja a felhasználói jogosultságok szigorításának lehetőségét. Az Apple a héten olyan operációsrendszer-frissítést is kiadott, amely lényegében megszüntette a Reuters által azonosított macOS-es hozzáférési lehetőséget.



