Korábban az év során az OpenAI feltörte és letiltotta azt a koordinált csalóhálózatot, amelyről a cég szerint nagyon valószínű, hogy Kambodzsából indult, és ChatGPT-t használt különböző csalások támogatására. A tevékenységre a WhatsAppnál dolgozó szakértők jelzése nyomán kezdtek vizsgálódni; azóta megosztottak további veszélyjelzéseket a szektortársaikkal és az illetékes hatóságokkal.
Milyen csalásokat működtettek?
A hálózat többféle csalási módszert alkalmazott egyidejűleg: befektetési csalásokat (kriptopénz és spot arany-kereskedés), romantikus (dating) csalásokat, online szerencsejátékhoz kapcsolódó álhirdetéseket és rendőrség- vagy hatóságimitációt. A szereplők gyakran keverték ezeket a narratívákat — például előbb bizalmat építettek hamis társkereső-profilel, majd befektetési lehetőséget kínáltak.
A csalók ChatGPT-t használtak hamis online személyiségek létrehozására és működtetésére, üzenetek generálására és fordítására, promóciós tartalmak készítésére, valamint a napi működés adminisztrációjának segítésére. A rendszeres adminisztratív feladatok közé tartoztak belső bejelentések megfogalmazása, munkatársak közötti fordítások és dokumentálás, ideértve toborzással, bevándorlási státusszal, munkakörülményekkel és fegyelmi ügyekkel kapcsolatos anyagokat.
Kötődések emberkereskedelemhez és kényszermunkához
Az OpenAI megfigyelései szerint egyes felhasználók olyan tartalmakat is létrehoztak, amelyek emberkereskedelemhez vagy kényszermunkához köthetők. Például közösségi médiás álláshirdetéseket készítettek „chatter” (csevegő) munkára Poipetben, ahol repülőutat, szállást, étkezést, vízumot és munkavállalási engedélyt ígértek — a cég szerint ezek a minták összhangban vannak a Délkelet-Ázsiában publikált, szervezett bűnözői csoportokhoz kapcsolódó beszámolókkal.
A hálózaton belül feljegyzések voltak munkavállalói adósságokról, bérlevonásokról, fegyelmi bírságokról és kölcsönvisszafizetésekről; említést tettek bevándorlási státuszokról, tartózkodási engedélyekről, vízumproblémákról és toborzási ösztönzőkről. Egyes beszélgetésekben előfordult említés fogva tartásról, megszökési kísérletekről és a kényszermunkában részt vevők esetleges büntetőjogi felelősségéről — az OpenAI hangsúlyozza, hogy ezek a feljegyzések nem teszik lehetővé minden egyes személy helyzetének önálló megállapítását, de összhangban vannak a nyilvános jelentésekkel.
Tiltás, együttműködés és ismeretlen veszteségek
OpenAI letiltotta a hálózathoz köthető ChatGPT-fiókokat, megosztotta a releváns indikátorokat iparági partnerekkel és hatóságokkal, illetve lépéseket tett annak érdekében, hogy megnehezítse ezen szereplők számára a termékekhez való újbóli hozzáférést. A csalóhálózat pénzügyi kárának teljes mértéke nem ismert; a csalók saját kommunikációi alapján azonban több száz megcélozhatott személyről lehet szó, és egyes beszélgetések egyéni áldozatoknál több ezer dolláros veszteségről számoltak be — ezeket az OpenAI nem tudta függetlenül ellenőrizni.
Mi a tanulság?
Az eset két szélesebb trendet erősít meg: egyrészt a szervezett csalóhálózatok gyakran sokféle csalást futtatnak párhuzamosan, nem korlátozódnak egyetlen módszerre; másrészt az online csalások, a szervezett bűnözés és az emberkereskedelem közötti határok gyakran elmosódnak. Az eredményes beavatkozás ezért nemcsak a közvetlen, áldozatokat célzó csalási műveletek megszakítását igényli, hanem a működtető bűnszervezetek és haszonélvezőik elleni célzott intézkedéseket is.
Helyszínek és megnevezések
A cég szerint a hálózat valószínűsíthetően Kambodzsából indult, és működése összefügghet Poipet városával (Banteay Meanchey tartomány), amelyet a nyilvános jelentések ismételten összekapcsoltak online csalókomplexumokkal és emberkereskedelmi műveletekkel.
Konkrét technikai visszajelzések
OpenAI hangsúlyozta, hogy a hálózat tagjai AI által generált hamis személyiségeket, hamis dokumentumokat (például útleveleket), jogi értesítéseknek látszó anyagokat, részvényvásárlási igazolásokat és szerencsejáték-felületek hamis felületeit is létrehozták, amelyek mind a csalások hitelességét hivatottak növelni.
