A Meta közlése szerint a vállalat megszüntetett egy Iránból kiinduló, Facebook- és Instagram-fiókokból álló, koordinált hálózatot, amely mesterséges intelligencia segítségével célzott az Egyesült Államok közönségére politikai tartalmakkal. Az esetről a cég egy, a fenyegetésekről szóló jelentés keretében számolt be ma.
Mit talált a Meta
- A vállalat szerint az operációhoz négy Facebook-fiók és 31 Instagram-fiók tartozott.
- Az üzemeltetők mémeket és üzeneteket osztottak meg, amelyek többek között republikánusellenes tartalmakat, valamint az izraeli-palesztin konfliktusra és a bevándorlásra vonatkozó állításokat hirdettek.
- A Meta megállapítása szerint az operáció részeként egyes tartalmakat mesterséges intelligencia segítségével hoztak létre, többek között mémeket.
Hamis amerikai személyazonosságok és közvetlen megkeresések
Az operátorok többször is úgy tűntek fel, mintha valódi amerikaiak lennének: aktivistáknak, egyetemistáknak és grafikusoknak álcázták magukat, és olyan városokból állították, hogy élnek, mint Washington, D.C., San Diego vagy Atlanta. Valódi újságírókat és politikusokat is megcímkéztek a posztokban, és közvetlen üzenetekkel megkerestek ismert politikai szereplőket és hírorgánumokat együttműködési szándékkal. A Meta szóvivője szerint egyik ilyen megkeresés sem vezetett sikeres együttműködéshez.
Kiterjedtség és elérés
A Meta jelentése szerint körülbelül 79 400 Instagram-felhasználó követte legalább az egyik ilyen hamis mémoldalt. A cég a kampány elérését „mérsékeltnek” minősítette, és a generált elköteleződést „jelentős, de korlátozottnak” nevezte. A Meta megjegyezte, hogy állami támogatású kampányoknál általában alacsony az elérés és az elköteleződés.
Módszerek és technikai részletek
A Meta közlése szerint az operátorok forgalmát kizárólag amerikai és kanadai proxy- és hosting-szolgáltatásokon keresztül irányították, hogy elrejtsék iráni eredetüket. A cég azt is hangsúlyozta, hogy a mesterséges intelligencia használata mára rutinszerűvé vált az olyan befolyásolási műveletekben, amelyeket leállítanak; a technológiát szinte minden ilyen hálózatban megtalálják.
Együttműködés és védekezés
A Meta közölte, hogy az ügyről információt juttatott el az Egyesült Államok bűnüldöző hatóságainak. Emellett a vállalat továbbra is befektet mesterséges intelligencia alapú eszközökbe, amelyek célja a hamis viselkedésminták gyorsabb felismerése és eltávolítása.
Miért fontos ez
A hálózat bemutatja, hogy a mesterséges intelligencia és a hamis személyazonosságok kombinációja hogyan növelheti a befolyásolási kísérletek hitelességét és hatókörét. Bár a konkrét kampány elérése a Meta szerint nem volt kiemelkedően nagy, a közel 80 ezer követő és a célzott amerikai közönségre való fókusz figyelmeztet a hasonló műveletek potenciális kockázataira.
