A WIRED egy belső vizsgálatra hivatkozva feltárta, hogy a Meta egy Cannes fedőnevű projekten keresztül versenytársak nyelvi modelljeit tesztelte – a munkát a Covalen nevű alvállalkozó végezte. A vizsgálat szerint több száz szerződéses munkatárs hamis, 13 éves lányoknak és általános iskolás gyerekeknek álcázott profilokból küldött üzeneteket olyan rendszereknek, mint az OpenAI ChatGPT, a Google Gemini és a Character.AI.
Mit tettek a tesztelők?
- A tesztalanyoknak önkárosítással, szexuális tartalommal, drogokkal és étkezési zavarokkal kapcsolatos kérdéseket kellett feltenniük.
- Egyik „13 éves” profil például azt kérdezte meg, hol lehet megszerezni abortusztablettát.
- A tesztelőknek azt is utasították, hogy bizonyos próbákhoz képeket csatoljanak – a jelentés szerint ilyen fotók voltak tablettákról, késekről és kötélhurkokról.
- Összesen körülbelül 45 000 egyszeri kérdésből álló próba zajlott le.
Az adatkezelés és a riválisok tájékoztatása
A WIRED által idézett anyagok szerint a hamis fiókok neveit, e‑mail címeit és jelszavait táblázatokban rögzítették. A három érintett versenytársat — ChatGPT, Gemini és Character.AI — a projekt keretében nem tájékoztatták a tesztelésről.
Meta álláspontja és a vita
A Meta az intézkedést „felelős, iparági szabványoknak megfelelő biztonsági összehasonlításnak” nevezte. A WIRED-nek adott leírás és a kiszivárgott részletek alapján azonban kritikus hangok úgy látják, hogy a gyakorlat átlépte a puszta biztonsági tesztelés határait, és versenyintelligencia célokat is szolgálhatott: felnőtteket gyerekeknek álcázni, érzékeny témákra provokatív kéréseket küldeni, majd mindezeket rögzíteni és tárolni etikai és üzleti szempontból is vitatható.
Miért számít ez?
A gyakorlat rámutat egy szélesebb problémára: az AI‑biztonság ma már nem csupán technikai vagy kutatási ügy, hanem versenypolitikai és reputációs eszköz is lehet. Amikor egy jelentős piaci szereplő gyerekprofilokba bújtatott felnőtteket használ, hogy bizonyítsa a saját elkötelezettségét a biztonság mellett, felmerül a kérdés, hogy mi a valódi célja a vizsgálatoknak — a biztonság javítása, vagy versenytársak feltérképezése.
A WIRED által közzétett részletek és a Meta reakciója közötti vita az AI etikai, jogi és szabályozási kérdéseit érinti, különösen az emberi tesztelők alkalmazásának mikéntjét és a versenytársak engedély nélküli vizsgálatát.
