Ahogy a kínai open-weight (nyílt súlyú) mesterséges intelligencia-modellek egyre képzettebbek és népszerűbbek lesznek, ismét felerősödtek a viták arról, mit kellene tenni velük kapcsolatban. Felmerült, hogy az Egyesült Államok kormánya korlátozásokat vagy tiltást fontolgat (bár erre eddig nem léptek), és az olyan zárt forrású modellgazdák, mint az OpenAI és az Anthropic, növekvő aggodalmat mutatnak. A piacon megjelenő kínai open-weight modellek — például a Moonshot AI Kimi K3 vagy az Alibaba Qwen — jóval olcsóbb tokenköltséggel kínálnak lekérdezést, mint a nagy amerikai zárt modellek, ami fenyegetést jelenthet a profitmarzsokra.
De vajon ténylegesen extra veszélyt jelentenek-e ezek a modellek azon vállalatok adatközpontjaiban, amelyek saját maguk futtatnak ilyen rendszereket? Lucas Atkins, az Arcee technikai igazgatója szerint nem.
Miért nem különleges fenyegetés?
Atkins, aki az Arcee-nél külföldi (kínai) modellekhez alternatív, hazai modelleket fejleszt, hangsúlyozza, hogy ha bármelyik startup profitálna egy tiltásból, az az Arcee lenne. Ennek ellenére szerinte a kínai open-weight modellek kockázata nem tér el alapvetően más, vállalatok által használt nyílt forráskódú szoftverekétől:
- Atkins szerint a modellek nem úgy készülnek, hogy szándékosan beépített hátsó ajtókat tartalmazzanak, amelyeket a fejlesztő távolról aktiválhatna. „Nincs olyan mód, hogy egy Arcee, vagy egy Alibaba elkészítsen egy modellt, aztán valaki futtatná a saját környezetében, és nekünk bármilyen hozzáférésünk lenne hozzá” — mondta.
- A legtöbb open-weight modellnél a futtató kód (ami a szervereken ténylegesen fut) letölthető és vizsgálható nyílt forrású helyekről, például a Hugging Face-ről. Amit nem tartalmaz a nyilvános csomag, az a tréningmódszer és a tanító adatok.
Vállalati gyakorlat: tesztelés, post-tréning és sokszínűség
Atkins szerint a nagy szervezeteknek saját biztonsági vizsgálataik és ellenőrzési folyamataik alapján kell átvizsgálniuk bármely modellmagot. Gyakori gyakorlat a modellek post-tréningje is: az egyes cégek finomhangolják a modelleket a saját felhasználásukra, és ellenőrzik például a torzításra, toxikusságra, kitalációkra (hallucinációkra) vagy bizonyos témák iránti érzékenységre való hajlamot. Így a modelleket megismerik és optimalizálják, mielőtt széles körben használatba kerülnek.
Egy lehetséges, de elméleti kockázatként felmerül, hogy egy kódgeneráló modell valamilyen rosszindulatú hátsó kódot injektáljon a generált szoftverbe. Atkins szerint ez elméletileg megvalósítható, de rendkívül bonyolult és akrobatikus megoldásokat igényelne:
- „Elvileg nincs oka annak, hogy egy kellően kifinomult szereplő ne tudna egy modellt teljesen remek kódolóvá képezni minden helyzetben, de ha egy bizonyos típusú kódalappal találkozik… egy rejtett képzés beindulna” — vetette fel Atkins. Hozzátette ugyanakkor: „Nem tudom, hogyan csinálnád ezt.”
- A nagy nyelvi modellek kreatív jellege miatt kicsi az esélye, hogy egy adott, előre megtervezett kontextus és prompt tökéletes kombinációja pontosan malware-t eredményezzen, és még kisebb az esélye annak, hogy egy vállalat ezt a kódot ténylegesen alkalmazza.
Jövő és verseny: ne tiltásról beszéljünk, hanem ökoszisztémáról
Lehet, hogy a jövő hozhat új, ismeretlen kockázatokat; ebben nincs biztos válasz. Ugyanakkor Atkins rámutat, hogy a vállalati alkalmazások egyre model-agnosztikusabbak: több modellt is használhatnak, így a ma ár-teljesítmény szempontjából vonzó kínai modellek nem kényszerítik rá véglegesen a vállalatokat egyetlen szolgáltatóra.
Atkins szerint a diskurzusnak nem a kínai modellek tiltásáról kell szólnia, hanem arról, hogyan lehet az Egyesült Államokban egy erős, nyitott ökoszisztémát elősegíteni. Az Arcee maga is profitál a kínai modellekből: mivel ezek nyitottak, az Arcee tanulhat belőlük, építhet rájuk és ők is továbbfejleszthetik saját megoldásaikat. "Tényleg nagy tisztelettel vagyunk azok iránt, akik ezeket a modelleket építik, az egyes kutatók iránt" — mondta Atkins.
Végül Atkins szerint a versenyes megoldás egyszerű: jobb modellt kell kiadni. "Versenyeznünk kell azzal, hogy olyan modellt adjunk ki, ami jobb — valamit, amiről beszélni fognak."
