Egy kiszivárgott adathalmaz alapján egy kínai cég és egy állami kapcsolódású kutatólaboratórium olyan mesterséges intelligencia (AI) alapú programon dolgozott, amely a jövőben politikai ellenzékké váló személyeket próbálta volna azonosítani.
Mi került napvilágra?
A Vanderbilt Egyetem kutatói egy több mint ötszáz gigabyte-os adathalmazban találták meg a terveket, amely a kínai internetes cenzúra, a Nagy Tűzfal belső dokumentumkiszivárgásának egyik legnagyobb nyilvánosságra került gyűjteményéhez tartozik. Az adatok a Kínai Tudományos Akadémia Információs Mérnöki Intézetéhez tartozó MESA laboratóriumából és a Geedge Networks nevű kereskedelmi cég anyagaiból származtak.
Mivel foglalkozott a projekt?
A kiszivárgott jegyzőkönyvek és adatok szerint a Geedge kutatócsoportja 2024 első hónapjaiban azon dolgozott, hogy egyes egyének viselkedési mintái alapján profilokat állítson össze a tartózkodási helyük, telekommunikációs és közösségi média adataik alapján. Ezeket a profilokat mesterséges intelligencia-modellekkel osztályozták volna, hogy kiszűrjék azokat, akik a kínai kommunista párt zsargonja szerint „káros információkat” terjeszthetnek, vagy a jövőben politikai kockázatot jelenthetnek.
A dokumentumokból kiderül, hogy a lehetséges „ellenzékiségre” következtetni próbáltak olyan, látszólag hétköznapi adatokból is, mint hogy ki milyen filmeket néz vagy milyen könyveket olvas.
Kik állnak a fejlesztés mögött?
A Geedge Networks 2018-ban alapított cég; egyes befektetői között említik Fang Pin-hszinget, aki a Nagy Tűzfal infrastruktúrájának korai fejlesztéséhez kötődik. A Geedge a hozzá köthető termékekkel a Nagy Tűzfal kereskedelmi változatát kínálja és több országban telepített már internetes megfigyelésre és cenzúrára alkalmas rendszereket, köztük Pakisztánban, Mianmarban, Kazahsztánban és Etiópiában.
Technikai és politikai korlátok
A New York Times forrásai szerint nincs bizonyíték arra, hogy a rendszer elkészült vagy aktívan működne; a cégnek jelentős technológiai korlátokkal kellett szembenéznie. Az Egyesült Államok Joe Biden elnöksége alatt bevezetett exporttilalmai megnehezítették a legfejlettebb AI-csipek beszerzését, és a kiszivárgott anyagok alapján 2024-ben a Geedge már nem tudta beszerezni azokat a csipeket, amelyek a prediktív modellek hatékony működtetéséhez szükségesek.
Források a tudományos és politikai vitában
Nyugati szakértők, köztük Daniel Sprick, a Kölni Egyetem oktatója, évek óta figyelmeztetnek arra, hogy az ilyen prediktív rendészetet nem kizárólag bűnmegelőzésre használják majd, hanem politikai célokra — a hatalom megerősítésére és kritikus csoportok elnyomására. Egy titkosított, 2009-ből származó kormányzati iratot idézve az AP szerint a prediktív rendészet céljaként a „Kommunista Párt hatalmának megerősítését” nevezték meg.
Milyen hatása lehet mindennek?
A dokumentumok felvetik a megfigyelés és az AI összekapcsolásának etikai és jogi kérdéseit: hogy a hatalmas mennyiségű személyes adat alapján készített előrejelzések hogyan vezethetnek ártatlanok kriminalizálásához vagy előzetes intézkedésekhez azokkal szemben, akik még nem követtek el bűncselekményt. A cég munkájának korlátai — többek között a csiphiány — ugyanakkor azt is jelzik, hogy a technológia gyakorlati alkalmazhatósága nem automatikus.
Jövőbeli fejlemények
Kérdés, hogy a helyzet meddig marad így: Kína aktívan fejleszti saját csipiparát, és a geopolitikai döntések is változhatnak. A kiszivárgott anyagok rávilágítanak arra, hogy az AI és a megfigyelési technológiák összekapcsolása milyen potenciális kockázatokat hordozhat a politikai szabadságjogokra nézve, ha ilyen rendszerek politikai célokra is alkalmazhatók.
Idővonal — fontosabb dátumok és események
- 2009: Egy titkosított kínai kormányzati dokumentum (az AP által idézve) a prediktív rendészet céljaként a Kommunista Párt hatalmának megerősítését említi.
- 2017: A Financial Times beszámolt arról, hogy arcfelismerő kamerarendszerekkel próbálnak megjósolni potenciális bűnelkövetőket.
- 2018: A Geedge Networks alapítása.
- 2019: Kínai tisztviselők a BBC-nek beszéltek arról, hogy a hatóságok célja „elfogni azokat, akik a bűnelkövetés határán vannak”.
- 2024 (első hónapok): A Geedge és a MESA laboratórium anyagai a nagy kiszivárgás részeként kerültek elő; a kutatócsoport ekkor dolgozott viselkedésalapú profilok és AI-osztályozók fejlesztésén.
- 2024: A Geedge nehézségeket tapasztalt a fejlett csipek beszerzésében az amerikai exportkorlátozások miatt.
- (Utolsó év decemberében): Donald Trump engedélyezett egy korlátozott csipeladást az Nvidia egyik fejlettebb chipjéből Kína felé; a hír szerint végül Peking nem engedélyezte kínai cégek számára a vásárlást.
Kapcsolódó megjegyzés
A most napvilágra került dokumentumok és a szakértői elemzések együtt arra figyelmeztetnek, hogy ahol a megfigyelés, a nagy adatmennyiség és az automatizált döntéshozatal találkozik, ott a politikai jogok védelme különösen sérülékennyé válhat.
