A vitát az elmúlt hónap végén újra fellobbantotta az Anthropic egy jelentése, amely szerint a GLM-5.3 jelentős kibertámadási kockázatot jelent. A GLM-5.3-at a kínai Z.ai adta ki augusztusban, és a modell „open-weight” formában elérhető: bárki letöltheti és módosíthatja a súlyokat, vagyis a modell belső numerikus paramétereit. Anthropic aggodalma nem egyedülálló: hosszú ideje zajlik a vita arról, hogy a legkorszerűbb modelleket nyíltan kell-e publikálni, vagy inkább a laborok zárt infrastruktúrájában kell tartani azokat.
A párbeszéd mögött erős gazdasági és politikai érdekek is állnak. Jensen Huang, az Nvidia vezérigazgatója nyíltan támogatja, hogy az Egyesült Államokban több nyílt modellt fejlesszenek, részben azért, mert az ilyen modellek futtatásához sokan saját hardvert vásárolnak. Ezzel szemben Dario Amodei, az Anthropic vezetője a biztonságosabb, óvatosabb megközelítés mellett érvel, mivel a nagy teljesítményű, olcsó modellek versenyképes hátrányba hozhatják cégét. A szakmai nézetkülönbségek azonban túlmutatnak a kereskedelmi érdekeken: a résztvevők eltérően mérlegelik a biztonságot és a képességek demokratizálását.
Mit jelent az „open” és a „closed” modell a gyakorlatban?
Zártnak (closed) tekinthetők azok a modellek, amelyeket csak webes felületen, alkalmazáson vagy API-n keresztül lehet használni — ilyenek például a ChatGPT-t vagy Claude-ot működtető rendszerek. A nyílt modellek esetén a modell súlyai letölthetők, és a belső működés részletei hozzáférhetők. Jelenleg a zárt modellek vezetik a képességlistákat: az Artificial Analysis LLM rangsorának top nyolc helyezettje zártként szerepel, de a nyílt modellek hónapokkal lemaradva gyorsan fejlődnek.
Az open-weight modellek letölthetősége több előnnyel jár: saját gépen futtathatók, újrataníthatók vagy más rendszerekkel kombinálhatók. Akadémiai kutatók számára a belső struktúrához való hozzáférés kulcsfontosságú: zárt modelleknél csak promptokat küldhetnek és a választ tanulmányozhatják, míg nyílt modelleknél a belső „gondolatmenet” és a belső állapotok vizsgálata is lehetséges. A nyílt modellek lehetővé teszik a modellök összenyújtását, hatékonyságjavítást és speciális finomhangolást is.
Vállalatoknak is vannak gyakorlati okai a nyílt modellek használatára: a Mozilla egyik jelentése szerint az open-weight modellek költséghatékonyabbak lehetnek a zárt alternatíváknál, és érzékeny adatok feldolgozásához biztonságosabbnak bizonyulhat, ha a modellt helyben, a saját hardveren futtatják.
Talán a legerősebb érvrendszer a nyílt modellek mellett a hatalomkoncentráció elleni védekezés: Elizabeth Seger, a Tony Blair Institute for Global Change vezető politikai tanácsadója szerint az alapinfrastruktúra kontrollja éppolyan fontos kérdés, mint az internetes információk feletti ellenőrzés. Ha egy szűk csoport birtokolja a legfejlettebb rendszereket, az befolyásolja a geopolitikai erőviszonyokat is — a nyílt frontier modellek részben megszüntethetik ezt az egyoldalú fölényt.
A nyílt modellek korlátai és az exploit kockázata
A nyílt modelleket ellenzők leggyakoribb érve az, hogy könnyebb visszaélni velük. Zárt szolgáltatók, például Anthropic, automata szűrőket és fiókmegvonási mechanizmusokat alkalmaznak a kockázatos kérések kiszűrésére; a letöltött modell használatánál ilyen külső ellenőrzés nincs. Bár a zárt modellekbe is beépítenek visszautasítási mechanizmusokat, kutatások kimutatták, hogy a nyílt modellek „biztonsági” korlátai viszonylag könnyen eltávolíthatók vagy felülírhatók újratanítással.
Az elmúlt hónapok eseményei azt is megmutatták, hogy a zárt modellek sem mentesek a biztonsági problémáktól: voltak autonóm ügynökök által végrehajtott hackek és olyan emberi visszaélések, amelyeket zárt modellek segítettek. Ezért túlzás lenne egyszerűen azt állítani, hogy a zárt rendszerek teljesen biztonságosak, míg a nyíltak veszélyesek.
Más szakértők a nyílt-forrású szoftverek példájára hivatkoznak: ahogy a Linux esetében is, a nyílt modellek sebezhetőségeit széles közösség tesztelheti és javíthatja. Emellett nyílt modellek szélesebb körben alkalmazhatók kiberbiztonsági védelmi eszközként is: a támadó eszközök ugyanolyan módszerekkel használhatók a saját rendszerek védekezésére. Anthropic Project Glasswing nevű kezdeményezése például arra mutat rá, hogyan lehet a legképzettebb modellek biztonsági célú, ellenőrzött használatát engedélyezni bizonyos partnereknek.
Ugyanakkor sok szakértő aggódik a kis valószínűségű, de katasztrofális események miatt: ha egy rendkívül erős, nyílt hacking-modelt egyszerre több rosszhiszemű szereplő használna, a következmények helyrehozhatatlanok lehetnek. Az is nehezíti a helyzetet, hogy a decentralizált használat miatt nehezebb lenne észrevenni és megfékezni a rossz működést.
Köztes megoldások és technikai irányok
A vita ma már kevésbé fekete-fehér: többen a középút megtalálásán dolgoznak. A zárt rendszerű szűrők és megfigyelőrendszerek közvetlenül nem alkalmazhatók letöltött modellekre, de van más lehetőség is. Kutatók olyan módszereken dolgoznak, amelyek vagy megpróbálnák kizárni a modell tanulási folyamatából a kártékony viselkedésre vonatkozó mintákat, vagy olyan „tamper-resistant” modelleket fejlesztenének, amelyeket nehezebb visszaállítani veszélyes viselkedésre irányuló újratanítással.
A gyakorlatban azonban egyik megközelítés sem tökéletes: a jelenlegi tamper-rezisztens technikák sem védnek minden támadási formától, bár Saad Hossain, a Deep Breathe mérnöke és egy kapcsolódó tanulmány vezető szerzője, optimista a jövőbeli kutatási eredmények iránt.
Fontos továbbá megérteni, hogy az open weights önmagában nem feltétlenül garantálja a hatalom dekoncentrálását: a teljes átjárhatósághoz hozzáférésre van szükség a tanító adatokhoz és az azokat futtató olcsó, elérhető hardverhez is. A modern AI-hardverek ára és eloszlása jelentősen befolyásolja, hogy kik férhetnek hozzá ténylegesen a nyílt modellek teljes képességeihez. David Gray Widder, a University of Texas at Austin School of Information adjunktusa szerint az „openness” egy alap, nem csúcsteljesítmény; a valódi nyitottság több elemet jelent: nyílt súlyokat, nyílt tanító adatokat és elérhető hardvert.
A szakértők ezért különféle kombinációkat javasolnak, például a modellek fokozatos kiadását (staged release), amelyben egy modell kezdetben zárt marad, majd biztonsági értékelések és további garanciák után válnak hozzáférhetőbbé.
Következtetés
A nyílt nagy nyelvi modellek kérdése egyszerre technikai, gazdasági és geopolitikai dilemma. A nyílt modellek előnyei — kutatás, költséghatékonyság, kiszélesített védelmi képességek és a hatalomkoncentráció csökkentése — reálisak, de nem kockázatmentesek. A zárt modellek sem mentesek a visszaélésektől, és a valós politika és szabályozás a kockázatok és az előnyök finom mérlegelését igényli.
A jelenlegi kutatás és politikai diskurzus több lehetséges megoldást vizsgál: a tamper-rezisztens technikákat, a tanító adatok nagyobb átláthatóságát, az elérhető hardver kérdésének kezelését, valamint a szakaszos kiadást. Sok szakértő szerint nem egy mindenre kiterjedő tilalom vagy teljes nyíltság a megoldás, hanem egy olyan kombinált stratégia, amely csökkenti a legsúlyosabb veszélyeket, ugyanakkor lehetővé teszi a nyílt modellek által hozható társadalmi és kutatási hasznokat.
Az, hogy végül mely megközelítések válnak irányadóvá, részben politikai és gazdasági döntéseken múlik, részben pedig a technológiai fejlődés és a kutatás eredményein — de az világos, hogy az egyensúly megtalálása kritikus lesz a jövőbeli AI-fejlődés irányának meghatározásához.
