Egy új CTGT-kutatás szerint a kínai nyelvű, nyílt forráskódú AI-modellek cenzúrájára vonatkozó viselkedés nem mindig öröklődik a belőlük distillált (kisebb, „student”) modellekbe. A vizsgálatban 152 kérdéspárt hasonlítottak össze, és több esetben a distillált modell más, kevésbé „fehérítő” választ adott politikailag érzékeny témákban, mint a forrást jelentő kínai modell.
Mit vizsgáltak és hogyan?
A San Francisco-i CTGT — amely magas kockázatú felhasználások belső működését elemzi — egy kísérletben a DeepSeek V4 Flash nevű kínai nyílt forráskódú modellt használta „tanárként” (teacher). Ebből generált válaszokon alapuló adatokat felhasználva tréningezték az új, kisebb „student” modellt; a módszer neve distilláció. A cél az volt, hogy kiderüljön: a DeepSeek által mutatott politikailag szelektív vagy elutasító válaszok átkerülnek-e a leszármazott modellre.
A CTGT 152 pár kérdést állított össze: minden kínával kapcsolatos prompt mellé egy hasonló, Kína-mentes kontrollprompt tartozott. A kérdések között szerepeltek olyan témák is, mint a Tiananmen tér vagy a ujgurok fogvatartása. A válaszokat több külső AI-modellel is értékelték (xAI, Google, OpenAI és Anthropic modellek segítségével), hogy megítéljék a politikailag érzékeny tartalom kezelését.
Fő megállapítások
- A DeepSeek eredeti modellje gyakran elutasította a politikailag érzékeny kérdések megválaszolását, vagy „fehérítette” a válaszokat úgy, hogy azok kedvezőbbnek tűnjenek Kína számára.
- A distillációs folyamat során létrejött CTGT-modell nem mindig követte ezt a cenzúrasémát: egyes esetekben például a DeepSeek azt állította, nincs bizonyíték ujgurok fogvatartására, míg a distillált modell kijelentette, hogy vannak bizonyítékok a pekingi állam által alkalmazott „internment-type facilities” létezésére.
- A kutatás nem azonosította a technikai mechanizmust, amely miatt a cenzúra nem öröklődött; csupán azt állapította meg, hogy az öröklődés nem automatikus.
Miért fontos ez?
Az eredmények aláássák azt az aggodalmat, amely szerint a kínai nyílt forráskódú modellek automatikus átjárót jelentenének a kínai politikai nézetek és cenzúra világszemléletéhez, ha széles körben használják őket nyugati cégek. Ugyanakkor jelezik azt a kettős kockázatot is: ha a distilláció könnyen eltávolítja a cenzúrát, ugyanígy könnyen eltávolíthat más, hasznos biztonsági korlátokat is.
Iparági és szabályozói kontextus
A CTGT hangsúlyozza, hogy sok amerikai vállalat költségcsökkentési okokból vagy teljesítményoptimalizálás céljából kínai nyílt forráskódú modellekből distillált, kisebb modelleket használ. A distillált modellek különösen vonzóak olyan szektorok számára, amelyek belső, kvantitatív számításokra támaszkodnak (pl. diszkontált cash flow, opcióárazás). CTGT saját, kutatáshoz készült distillált modellje pénzügyi célra optimalizált volt, bár a kutatásban szereplő modell kizárólag a cenzúrakutatást szolgálta.
A kutatás rámutat arra is, hogy a szabályozott iparágak — például a pénzügyi szereplők — vonakodnak kínai alapú modelleket alkalmazni, részben attól tartva, hogy az öröklött cenzúra torzíthatja az outputokat, vagy közvélemény-reakciót válthat ki. Például a Cursor vállalatot bírálatok érték márciusban azért, mert Moonshot Kimi 2.5 modelljére építve hozta létre Composer 2 kódolási modelljét.
Az elméleti nemzetbiztonsági aggályok egyike, hogy a kínai modellek rejtett biztonsági „hátsóajtókat” tartalmazhatnak, amelyek adatkinyerésre alkalmasak; a CTGT-csoport és a cikk forrása megjegyzi, hogy erre eddig nincs szilárd bizonyíték.
Reakciók és jogi–politikai következmények
CTGT kapcsolatban állt amerikai tisztviselőkkel, akik érdeklődést mutattak az eredmények iránt. Jane Horvath, a Gibson Dunn partnere és korábbi Apple adatvédelmi vezető, arra hívta fel a figyelmet, hogy a kínai modellek tiltása értelmetlen lehet, ha azokat amerikai cégek „vissza tudják distillálni” amerikai modellekké; szerinte a modellek nyers szoftver- vagy alapanyag-jellegűek.
A kutatás egyben hozzájárul a jelenlegi, a Trump-kormányzaton belül zajló vitához arról, hogyan kezeljék a kínai nyílt forráskódú modellek jelentette kockázatokat: egyes döntéshozók attól tartanak, hogy a kínai modellek széleskörű használata hosszabb távon befolyásolhatja a társadalmi narratívákat.
Korlátok és további kutatási igény
A CTGT-vizsgálat egyetlen modellpárra koncentrált, és nem tágította ki elemzését a biztonsági-szabályozói promptokra vagy más, általános biztonsági mechanizmusokra. Az eredmények tehát nem bizonyítják általánosan, miért nem öröklődik a cenzúra; csak azt mutatják, hogy ilyen nem-öröklődés esetei léteznek, és további kutatás szükséges a jelenség okainak feltárásához.
Összefoglalás
A CTGT kutatása szerint a kínai nyílt forráskódú modellek politikai cenzúrája nem automatikusan öröklődik a distilláció során keletkező modellekbe. Ez enyhíti néhány biztonsági és politikai félelmet arról, hogy a kínai modellek közvetlenül átadhatnák Peking világnézetét külföldi felhasználóknak, ugyanakkor rávilágít arra a szabályozói dilemmára, hogy ha könnyű eltüntetni cenzúrát, akkor ugyanilyen könnyen eltávolíthatók más, hasznos korlátok is. További, szélesebb körű kutatás szükséges az öröklődés mechanizmusainak megértéséhez.
Kiemelés
A cikk megjegyzi továbbá, hogy Kína alacsonyabb költségű AI-modelljeivel — hasonlóan a napenergia-panel- és villanyautó-exporthoz — globális befolyást gyakorolhat a mesterséges intelligencia elterjedésére, különösen fejlesztő országokban és költségérzékeny szereplők körében (J.D. Capelouto, Semafor).
