Anthropic kutatói a Claude Mythos (Mythos Preview) nevű nagy nyelvi modellt használták arra, hogy matematikai gyengeségeket tárjanak fel a HAWK névre keresztelt poszt-quantum aláírási sémában és egy gyengített AES‑variánsban. A cég közlése szerint egyik eredmény sem jelent gyakorlati kockázatot a ma használt számítógépes rendszerekre.
Mi történt és hogyan dolgoztak
A csapat iteratív, ember-vezérelt promptolással irányította a modellt: a dokumentumban megosztott promptok — helyesírási hibákkal együtt — azt mutatják, hogy a modell hajlamos azt feltételezni, hogy egy probléma megoldhatatlan, és ilyenkor nem erőlteti tovább a keresést; ezért a kutatóknak többször bíztatniuk kellett a modellt, hogy "ne adja fel" és "find something that worth publishing" (találjon publikálásra érdemes eredményt).
A Mythos Preview körülbelül 60 órán át futott összesen, és az Anthropic becslése szerint az API‑költség megközelítőleg 100 000 dollár volt. A jelentés szerint a fő emberi beavatkozások arra irányultak, hogy a modellt motiválják a további kutatásra, ne álljon le az adott nyomvonalaknál.
Mit találtak és miért fontos — illetve miért nem az a gyakorlati hatás
A feltárt hibák elméleti jellegűek: matematikai gyengeségek a HAWK sémában és egy AES‑ként említett, de gyengített verzióban. Az Anthropic hangsúlyozza, hogy ezek az eredmények nem jelentenek közvetlen gyakorlati veszélyt a jelenlegi rendszerekre, tehát nem egy beazonosított, azonnal kihasználható támadásról van szó.
Miért számít ez a példaként és a módszertan miatt
A projekt szemléletesen illusztrálja, hogy nagy nyelvi modellek, ha megfelelően promptolják és emberi felügyelettel vezetik őket, képesek hozzájárulni elméleti kutatáshoz, például kriptográfiai analízishez. Ugyanakkor a jelentés arra is felhívja a figyelmet, hogy a modell hajlamos feltételezésekre és félrevezető állításokra, ezért a kutatói irányítás és a kritikus ellenőrzés elengedhetetlen.
Közlések és reakciók
A projekt részleteit ismertető posztot több helyen megemlítették, köztük a Hacker News közösségében. A nyilvánosságra hozott promptok és a költségadatok nyomán vita indult arról, hogyan használhatóak a nagyméretű nyelvi modellek biztonságos, etikus és hatékony kutatási célokra.
(A cikk a nyilvánosságra hozott információkra épül; nem tartalmaz további független ellenőrzött technikai részleteket vagy új számszerű adatokat.)
