Az elmúlt hónapokban számos, nagy nyilvánosságot kapott állítás és incidens kavarta fel az AI-párbeszédet: Anthropic április végi állításaival kezdve, amelyek szerint Claude Mythos jobb a szoftversebezhetőségek felderítésében, az OpenAI–Hugging Face körüli „feltörési” eseten át a modellekhez kapcsolódó, később vitatott matematikai eredményekig és egy Anthropic-mérnök, Jacob Coxon virális távozásáig. A cikk áttekinti az eseményeket, a szakértői értékeléseket és azt, miért fontos megkülönböztetni a marketinget a valódi tudományos eredményektől.
Mi történt (főbb események)
- Április vége: Anthropic bejelentette, hogy Claude Mythos modellje jobb a szoftversebezhetőségek felderítésében, mint a legtöbb biztonsági szakértő.
- Ugyanebben az időszakban: az OpenAI–Hugging Face „hacking” incidenst követően Anthropic (büszkén) és Meta (vonakodva) is közöltek hasonló eseteket, amelyek modellekhez kötődtek.
- Ezt követte Anthropic bejelentése egy állítólagos matematikai áttörésről; rövid időn belül OpenAI is közölt saját állítólagos matematikai eredményt.
- Nemrég: Jacob Coxon, Anthropic mérnöke nyilvánosan bejelentette távozását, azzal vádolva Anthropicot és OpenAI-t, hogy „önfejlesztő szuperintelligencia felé tartanak és az életünkkel játszanak.”
Hogyan foglalkozott a média és miért problémás ez
A sajtó gyakran szenzációhajhász, gyors tudósításokkal követte az eseményeket, sokszor ismételve az érintett cégek által használt antropomorfizáló nyelvezetet, amely a szoftvert úgy mutatja be, mintha közel állna az „artificial general intelligence” fogalmához. Amint azonban szakértők időt kaptak a részletes vizsgálatra, a képet gyakran árnyalta: a későbbi elemzések kevesebb médianyilvánosságot kaptak, mint az eredeti bejelentések.
Biztonsági incidensek: hanyagság vagy „elszabadult modellek”?
Kiberbiztonsági szakértők szerint a „hacking” esetek története gyakran nem arról szól, hogy a modellek „elszabadultak”, hanem inkább az OpenAI és más cégek hanyag biztonsági gyakorlatáról és alapvető, jól ismert védekezési intézkedések elhagyásáról. A narratíva, amely „ügynökek” vagy „civilizációk” létrehozásáról beszél, eltakarhatja a cégek felelősségét és a tényleges működési hibákat.
Matematikai „áttörések”: első reakciók és későbbi szakértői kritikák
A matematika és programozás területei különösen alkalmasak a nagy nyelvi modellek demonstrációjára, mert a javasolt válaszok ellenőrizhetők. Ugyanakkor több esetben, amikor vállalati közlemények „megdöbbentő” eredményekről számoltak be (például OpenAI Astra nevű chatbotjára hivatkozva), a matematika közösség későbbi vizsgálatai szerint az állítások nem voltak olyan újszerűek vagy mélyek, mint azt a bejelentések sugallták. Egyes matematikusok kutatás-sértéssel és plágiummal vádolták a cégeket, és azt állították, hogy nem történt „mély értelmi ugrás.”
Kiemelt példa: a New York University Courant Institute professzora, Tristan Buckmaster, egy állásfoglalásban arra utalt, hogy OpenAI mások munkáját jogtalanul felhasználhatta és hibásan tulajdoníthatta.
Miért használják a cégek a matematikát és a programozást marketingcélokra?
- A matematika és a programozás a nyilvános képzet szerint az emberi szellemi teljesítmény csúcsa, ezért jó marketingeszköz a „gépi felülmúlás” narratívájának építésére.
- Ezeknél a feladatoknál az eredmény viszonylag egyszerűen ellenőrizhető, így kevesebb emberi annotációra van szükség a rendszerek hangolásához.
Számos matematikus figyelmeztetett arra, hogy a technológiai iparnak jelenleg jelentős piaci ösztönzése van arra, hogy túlbecsülje termékei képességeit. Egy több száz aláíróval közzétett nyilatkozat arra kér döntéshozókat, hogy szakértőkkel — köztük matematikusokkal — konzultáljanak, és ne csupán sajtóközlemények vagy népszerű média alapján hozzanak döntéseket.
A „szuperintelligencia” narratíva következményei
A modellek „szuperintelligenciának” vagy „renitens modelleknek” nevezése azt a hatást kelti, hogy a termékek önálló ügynökök, miközben a felelősség a fejlesztő cégeknél van. Ez a keretezés egyszerre emeli a termékeket „emberfeletti” státuszba és csökkenti a cégek elszámoltatását. Ennek köszönhetően egyes esetekben a nyilvános figyelem a jövőbeli, hipotetikus veszélyek felé terelődött, miközben a valódi problémák — például szerzői jogi visszaélések, adatfelhasználási gyakorlatok vagy a cégek által elkövetett biztonsági mulasztások — kevesebb figyelmet kaptak.
A környezeti és közösségi hatások mellőzése
Az AI-ipar azt is állítja, hogy a központi adatközpontok elleni széleskörű, pártsemleges aktivizmus „elterelés” a szuperintelligencia szabályozási erőfeszítéseitől. Ezzel szemben a kritikus kérdések között szerepelnek az adatközpontok klímahatása, a helyben élők között növekvő asztmás megbetegedések, a közszolgáltatásokra háruló megemelkedett villanyszámlák és a hűtéshez átirányított víz mennyisége — ezek közvetlen, jelenlegi problémák, amelyeket a marketingnarratívák hátrébb sorolhatnak.
Mit tehetnek döntéshozók és a közvélemény?
A szerzők hangsúlyozzák, hogy nem szabad marketingre alapozni a döntéseket. Megfontolt, független szakértői értékelésekre és időre van szükség a vállalati állítások kontextualizálásához. A remélt hozadék az idei hype-hullámból, hogy a döntéshozók és a közvélemény megtanuljon lassítani, fenntartani a szkepszist, és a következő hasonló hullámnál felismerni a marketing és a valós technikai eredmények közti különbséget.
Szerzők és háttér
A cikk szerzői: Timnit Gebru, a DAIR ügyvezető igazgatója, akinek könyve, Deep Unlearning: The Radicalization of a Tech Idealist, előrendelhető és 2026. február 16-án jelenik meg; valamint Emily M. Bender, a University of Washington nyelvészprofesszora és a The AI Con társszerzője.
