Az elmúlt hetekben több nyílt levél és nyilatkozat jelent meg, amelyek eltérő megközelítéssel viszonyulnak az úgynevezett „open-weight” (nyílt súlyú) nagy nyelvi modellekhez és a frontier, automatizált AI-fejlesztés lassítására irányuló javaslatokhoz. A vita középpontjában az áll, hogy miként lehet egyszerre elősegíteni az innovációt, miközben csökkentik a visszaélések és a biztonsági kockázatok lehetőségét.
A Microsoft által vezetett levél (2024. július 24.)
Július 24-én megjelent a "Open Weights and American AI Leadership" című nyílt levél, amelyet Microsoft koordinált, és amelyet 235, AI-hoz kapcsolódó cég írt alá, köztük az NVIDIA, Amazon, Y Combinator, The Linux Foundation és – későbbi aláíróként – OpenAI. A levél érvelése alapvetően az volt, hogy az open-weight modellek tilalma vagy korlátozása nem feltétlenül szolgálja a biztonságot és az amerikai technológiai versenyképességet.
A levél álláspontja szerint a kizárólag zárt modellekre való támaszkodás önmagában nem jelent biztonságot: zárt rendszerek feltörhetők, visszaélhetnek velük, vagy hibázhatnak úgy, hogy a külvilág nem észleli ezeket a problémákat. Továbbá a fejlett képességek néhány zárt modell mögé koncentrálása egyetlen hibapontokat eredményez, gyengíti a versenyt, és kulcsfontosságú technológiákat tart kevés szereplő kezében. Ezzel szemben az open-weight modellek lehetővé teszik, hogy széles kutatói és fejlesztői közösség vizsgálja a modellek viselkedését, feltárja a sérülékenységeket, biztonsági intézkedéseket fejlesszen, és idővel javítsa őket.
A levél egy meglepő eleme az volt, hogy a distillációt (azaz amikor egy modell kimenetét használják egy másik modell betanítására) támogatta. Ebben a tekintetben a levél hangsúlyozta, hogy a distilláció széles körben használt, modellfejlesztést, értékelést és validálást szolgáló technika, amely a meglévő technológiákból való tanulás és továbbfejlesztés hagyományából fakad.
Anthropic válasza (2024. július 27.)
Anthropic három nappal később publikálta saját állásfoglalását "Our position on open-weights models" címmel. Céges vezetőjük, Dario Amodei hangsúlyozta a kockázatot, hogy tekintélyelvű kormányok olyan AI-modelleket építhetnek, amelyek erősebbek lehetnek, mint az Egyesült Államokban fejlesztettek. Felhívta a figyelmet arra a veszélyre is, hogy modelleket rosszindulatúan lehet felhasználni kiber- vagy biológiai támadások végrehajtására.
Amodei külön nehezményezte az ipari méretű distillációs műveleteket, amelyek szerinte további veszélyeket hordozhatnak, ugyanakkor a cég állítása szerint Anthropic sosem szorgalmazott teljes tilalmat az open-weight modellekre vonatkozóan.
"Pacing the Frontier" (2024. július 28.)
Július 28-án megjelent a "Pacing the Frontier" című levél, amelyet 1,324 frontier AI vállalati alkalmazott írt alá. A nevek között szerepelnek olyan személyiségek, mint Jakub Pachocki (Chief Scientist, OpenAI), Ilya Sutskever (Safe Superintelligence Inc, korábban OpenAI), Dario Amodei (Anthropic) és Jack Clark (Anthropic). A levél központi kérése az volt, hogy az Egyesült Államok kormánya támogasson egy nemzetközi erőfeszítést a technikai és kormányzási eszközök kidolgozására, amelyek lehetővé tennék az automatizált AI-fejlesztés frontierjének szándékos ütemezését.
A levél aggodalma az erős versenynyomás és az automatizált AI-kutatás felgyorsulása, amely fokozott tempóban tolja előre az AI-képességek határait. A levél hátterében érzékelhető félelem, hogy az automatizáció és a verseny együtt olyan gyors előrelépéseket idézhet elő, amelyek növelik a kockázatokat.
Példák a verseny és automatizáció hatásaira
A nyilatkozatok mellett a közbeszédben és a dokumentumokban konkrét példákat hoztak fel arra, hogy milyen módon növeli az automatizáció és a belső eszközök használata az AI-fejlesztés sebességét és elérhetőségét:
- Állítás szerint Anthropic a kódjuk 80%-át Claude Code-dal állítja elő.
- OpenAI-nál azt említették, hogy Sol csökkentette az end-to-end szolgáltatási költségeiket 20%-kal.
- Kimi K3 tervezett egy chipet, hogy egy saját architektúrára épülő nano modellt szolgáljon ki.
Ezek a példák arra utalnak, hogy a belső automatizációs eszközök és hardverfejlesztések jelentősen mérsékelhetik a költségeket és felgyorsíthatják a fejlesztést, ami tovább élezheti a versenyt és a kockázatokat.
Miért számít ez?
A mostani levelek és válaszok bemutatják, hogy nincs konszenzus az iparág szereplői között arról, hogyan kell egyszerre védeni a közbiztonságot és fenntartani az innovációt. Az egyik oldal az open-weight modellek átláthatóságát és a széles körű kutatási ellenőrzést hangsúlyozza, a másik oldal pedig a rosszindulatú állami vagy ipari felhasználásból eredő kockázatok csökkentését és a distillációs gyakorlatok szabályozását tartja fontosnak.
A közeljövőben várhatóan folytatódik a vita, és a döntéshozók, valamint a nemzetközi együttműködések szerepe kulcsfontosságú lesz abban, hogy milyen szabályozási és technikai megoldások születnek az AI fejlődése és biztonsága egyensúlyának megteremtésére.
