Szeptember 11-én huszonöt Fields-érmes, köztük Terence Tao, sürgős nyilatkozatot tett közzé "A Severe Misalignment of AI in Mathematics" (Az AI és a matematika súlyos összehangolatlansága) címmel. A nyilatkozat nem elsősorban arra figyelmeztet, hogy az AI „matematikát csinál”, hanem arra, hogy laborok felhasználják a megoldatlan matematikai problémákat képesség-benchmarkként.
Mi a probléma?
A nyilatkozat szerint egyes kutatócsoportok és cégek versenyszellemben, vezető tábla (leaderboard) motivációval próbálják demonstrálni modelleik teljesítményét olyan, évtizedek óta megoldatlan problémákon, amelyek hagyományosan hosszú, ellenőrzött bizonyítási folyamatot igényelnek. A matematika tudományos közössége évszázados hagyománnyal rendelkezik arra nézve, hogyan hitelesít egy új eredményt; a szerzők szerint ez a folyamat veszélybe kerül, ha a hangsúly a „ki csinálja meg előbb” versenyre kerül.
Konkrét példa és számok
A nyilatkozat említ egy jelentést, miszerint az OpenAI körülbelül tízezer ágenst és 130 milliárd token körüli adatot használt fel a Millennium-problémákhoz hasonló, nyitott problémákon; a vállalat az eredmények alapján azt állította, hogy „nyert”. A matematika közössége szerint azonban a gyors, nagyszámú kísérleti lefuttatás és a pár órákon belüli eredményeket hirdető gyakorlat aláássa a mélyebb megértés és a szigorú ellenőrzés szerepét.
Miért számít ez?
A nyilatkozat rámutat: nincs kötelező mechanizmus arra, hogy a laborok betartsák a matematika szakmai normáit — nincs kimondott büntetés, zár vagy végrehajtó hatóság, amely megakadályozná az ilyen versengést. Így egy olyan diszciplína, amely évtizedeken át bizonyítványokkal és szakértői vizsgálatokkal hitelesítette az eredményeket, most azt tapasztalja, hogy a publikált „megoldások” megjelenhetnek a közvélemény előtt anélkül, hogy a hagyományos közösségi ellenőrzés megvalósulna.
Következtetés
A szerzők szerint a matematika közössége udvarias figyelmeztetést adott: a szabályokat leírták, de nincs garancia, hogy más szereplők követik azokat. Az AI-laborok továbbra is fejlesztik és üzemeltetik modelljeiket, miközben a gyors publikálás és a versenyszellem elsődleges motivációvá válik. A nyilatkozat hangsúlyozza a hagyományos matematikai verifikáció fontosságát és figyelmeztet a tudományos hitelességet veszélyeztető ösztönzőkre.
