Anthropic bejelentése szerint az Alibaba, a kínai e-kereskedelmi és mesterséges intelligencia-csoport, a valaha dokumentált legnagyobb „distillation” (tudás-kivonatolási) támadást hajtotta végre Anthropic Claude nevű nyelvi modellje ellen. A vállalat azt állítja, hogy körülbelül 25 000 hamis fiók 2024. április 22. és június 5. között összesen 28,8 millió lekérdezést küldött, hogy Claude válaszait lemásolják.
Hogyan működik a distillation, és miért számít
A distillation olyan módszer, amelyben egy gyengébb vagy kisebb modell a erősebb modell által adott válaszok alapján tanul. A gyakorlatban ez azt jelenti, hogy egy másik cég modellje — ebben az esetben az Alibaba Qwen nevű rendszere — a drágább, erősebb modell (Anthropic Claude) outputjai alapján képezheti magát, mindössze az API-hívások árát kifizetve. Anthropic szerint ez lehetővé teszi a szellemi tulajdon „kivonatolását” anélkül, hogy a forrásmodell belső paramétereihez hozzáférnének.
Politikai és piaci következmények
Az ügy nyilvánosságra kerülése után az Alibaba (ticker: BABA) részvényei jelentősen estek, és a papír 16 hónapos mélyponthoz közel, nagyjából 99 dollár körül zárt. Anthropic az ügyben megemlített további neveket is, többek között egy DeepSeek nevű szereplőt, amelyről azt állítják, hogy hasonló módszereket alkalmazott.
Az esetet Anthropic a US Senate Banking Committee (az amerikai szenátus bankbizottsága) előtt ismertette; a bejelentés után a kongresszus szereplői vizsgálódhatnak a mesterséges intelligenciák közötti tudásmegosztás és a modellképzés szabályozásának kérdéseiben. A történet rávilágít arra, hogy a mesterséges intelligencia-előnyök nem feltétlenül védettek: ha egy cég versenyelőnye egy másik modell válaszain alapul, az a versenyképesség és a cégértékelés fenntarthatóságát is kockáztatja.
Mit jelent ez a jövőben
A példa azt sugallja, hogy a mesterséges intelligencia szabályozásának fókusza egy részben elmozdulhat a hardverexport-ellenőrzésekről az outputok és a szolgáltatások kereskedelmének szabályozása felé. A distillation-eljárások ellenőrzése és a hozzájuk kapcsolódó etikai, szerzői jogi, illetve kereskedelmi kérdések várhatóan a jogalkotók és a piaci szereplők napirendjén maradnak.
Rövid összegzés
Anthropic váltig állítja, hogy az Alibaba rendszere nagy mennyiségű lekérdezéssel másolta Claude válaszait 25 000 hamis fiók használatával és összesen 28,8 millió kérés feldolgozásával 2024. április 22. és június 5. között. A bejelentés jelentős piaci reakciót váltott ki, és a kérdés most a szabályozók és a törvényhozók asztalára került.
