Húszöt, a matematikai közösség által a legnagyobb presztízsűnek tartott Fields‑érmet elnyert matematikus aláírt egy nyílt levelet, amelyben azt állítják: a mesterséges intelligenciával foglalkozó laboratóriumok versengése veszélyezteti szellemi munkájukat. A levelet aláírók szerint az AI‑fejlesztők a különböző nagy nyelvi modellek (LLM) alkalmazásával arra törekednek, hogy gyorsan megoldásokat hozzanak híres matematikai problémákra — ez azonban a matematikai gyakorlat és közösség működését fenyegeti.
Esetek és viták a gyakorlatban
A héten Tristan Buckmaster, a New York University (NYU) professzora bírálta az OpenAI‑t, amiért szerinte nyomást gyakoroltak rá, hogy ne említse meg egy, az Anthropicnál dolgozó együttműködőjét egy fontos probléma megoldásában. Buckmaster emellett azt is felvetette, hogy az OpenAI talán a Codexszel végzett munkájukat felhasználva hozta létre saját, jelentős bizonyítását egy hosszú, folyamatos futtatásos (marathon inference) hétvége alatt. Az OpenAI által állított bizonyítás egyelőre felülvizsgálatlan.
Csütörtökön az OpenAI visszavonta a California Institute of Technology (CalTech) egy matematikai rendezvényének támogatását, miután a kutatók az egyetemről bírálatot fogalmaztak meg a cég gyakorlatával kapcsolatban.
A levelet aláírók fő aggályai
A nyílt levél aláírói szerint az LLM‑ekkel előálló megoldások emberiség számára hasznosak lehetnek, de csak akkor, ha azokat a matematikai közösség megérti, ellenőrzi és képes megfelelően kommunikálni. Kiemelik, hogy gyakran az ilyen eredményeket sietséggel jelentik be, ami nem hagy időt a részletes leírásra, az új módszerek elszigetelésére és a releváns korábbi munkák hivatkozására. Ez súlyos kérdéseket vet fel az attribúcióról és a plágiátumról.
A dokumentum hangsúlyozza továbbá, hogy a matematikai gondolatok és ötletek „megelevenítéséhez” elengedhetetlenek a készséges matematikusok, akik felelősséggel fejlesztik és integrálják ezeket a megoldásokat a matematikai kánonba; nélkülük az AI‑ által felvetett ötletek soha nem válnának teljes értékűvé, és elveszne a matematikusok közötti kulcsfontosságú emberi átadási lánc.
A kutatói kultúra és a titkolózás veszélye
A levél szerint más matematikusok is egyre gyanakvóbbak: attól tartanak, hogy ha ők Codex‑szerű eszközöket használnak, az ezekkel végzett munkát visszatáplálhatják a nagy laborok új modelljeibe. Ez valós félelmet kelt: ha a vezető laborok látják, hogy egy LLM‑alapú út gyors felfedezéshez vezethet, több tízmillió dollárt is költhetnek modellek futtatására, hogy a eredeti kutatókat megelőzve jussanak bizonyításokhoz — ez a dinamika pedig a titkolózást ösztönözné és alááshatja a nyílt kutatási kultúrát.
Hivatkozás a Leiden Deklarációra és ajánlások
A mostani levél követi a júniusban megjelent Leiden Declarationt, amelyet egy matematikusokból álló munkacsoport publikált. A Leiden Declaration szintén azt vizsgálta, miként változtathatják meg az LLM‑ek által előállított bizonyítások a matematikai munkát, és ajánlásokat tett matematikusok, intézmények és döntéshozók számára.
A matematikusok emlékeztetnek arra is, hogy az érték a bizonyításoknál nem csupán a végeredményben vagy a hitelesítésben rejlik, hanem a tudás köré épülő szellemi „szuperstruktúrában”: azokban az oktatási, kérdésfelvetési és integrációs folyamatokban, amelyek új kérdéseket támasztanak, formálják a következő generációt és beágyazzák az eredményeket a szélesebb kulturális és tudományos kontextusba.
„A matematikai közösség előtt álló problémák hasonlóak ahhoz, amit más tudományos és kreatív hivatások is tapasztalnak, és utalnak azokra a kihívásokra, amelyekkel egész emberiségnek szembe kell néznie: hogyan biztosítsuk, hogy az AI átalakította munkavégzés közben ne veszítsük szem elől azt, amit a munka eredetileg célozni akart” — írják az aláírók.
Miért fontos ez más területek számára?
A levél figyelmeztetései nem kizárólag a magas szintű matematikai bizonyításokra vonatkoznak: ha a versengő modellek és a gyors, titkos fejlesztési gyakorlatok aláássák a nyitottságot és az együttműködést a matematikában, ugyanezek a folyamatok előbb‑utóbb más tudományterületeket és kreatív szakmákat is érinthetnek. A dokumentum ezért intézményi és szabályozói lépéseket javasol, hogy megőrizzék a tudás átadásának és ellenőrzésének alapvető mechanizmusait.
Kiadott álláspontok, konkrét vádak és a szervezetek nevei az aláíró levélben és a nyilvános vitákban szereplő állításokon alapulnak. A levél aláíróinak száma: 25, mindegyikük Fields‑érmes.
