Eszközök

Mesterséges intelligenciával generált szöveg

Formális verifikációval ellenőriznék az AI által írt szoftvereket

A mesterséges intelligenciával előállított kód minőségi problémáira formális verifikációval keresnek megoldást technológiai vállalatok.

Formális verifikációval ellenőriznék az AI által írt szoftvereket

Az AI-iparban 2026 egyik gyakran használt kifejezése a „slop”: így nevezik a nagy nyelvi modellek gyenge minőségű kimenetét. Ahogy egyre több szoftverkód készül mesterséges intelligenciával, a fejlesztők számára mindennapi kérdéssé válik, hogyan lehet kiszűrni a hibás eredményeket. Erre kínálhat megoldást a formális verifikáció, amely matematikai bizonyításokkal és logikai módszerekkel ellenőrzi a szoftverek vagy hardverek helyességét.

A mesterséges intelligencia matematikai problémamegoldó képességének fejlődésére építve több vállalat is dolgozik ilyen rendszereken. Köztük van a Harmonic, a Theorem, az Axiom Math és az új szereplő, az &Truth.

Tesztelés és matematikai bizonyítás

Az &Truth társalapítója és társelnök-vezérigazgatója, Clark Barrett a Stanford Egyetem informatikai kutatóprofesszora, valamint a formális verifikációban használt cvc5 automatizált következtetőmotor egyik megalkotója. A cvc5 úgynevezett SMT-megoldó: logikai problémák kielégíthetőségét vizsgálja különböző elméletek figyelembevételével.

A technológiát vállalati környezetben is használják. Az Amazon Kiro nevű, AI-ügynökökre épülő fejlesztői környezetében például a cvc5 specifikációk elemzését és tesztek előállítását segíti. Barrett szerint az Amazon éles rendszereiben naponta milliárdszor hívják meg az eszközt.

A kódolóügynökök esetében az „ellenőrzés” gyakran tesztek futtatását, a saját eredmény bírálatát vagy egy másik AI-modell értékelését jelenti. Barrett szerint ezek a módszerek sok problémát feltárhatnak, de nem adnak bizonyosságot arról, hogy nem maradt-e egy további, az eszközök által fel nem fedezett hiba.

Az &Truth első eszköze, az &Atlas a világ nyílt forráskódjának feltérképezését célozza, elsőként a C programozási nyelven írt kóddal.

A Lean szerepe

Az &Truth a Lean nyílt forráskódú programozási nyelvre és bizonyítássegítőre épít. A vállalat az AI-t automatizált következtetési technikákkal ötvözi, hogy olyan bizonyításokat hozzon létre, amelyeket a Lean ellenőrizni tud. A cél egy olyan „verifikációs gép”, amely különböző nyelveken írt kódot olvas, és bizonyítja, hogy az megfelel-e a pontosan megfogalmazott követelményeknek. Barrett szerint a Lean lényegében a matematikai bizonyítás lépéseinek hibamentességét ellenőrzi.

A Leant nehéz matematikai problémák formalizálására is használják. A Vals szerint a GPT-6.2 Astra elkészítette a Smoktunowicz-féle réstétel első Lean-bizonyítását; a Vals közlése szerint az Anthropic a nagy Fermat-tétel formalizálásához is használta a Leant, egy 13 millió soros projektben. Az Anthropic matematikusa, Levent Alpöge azt állítja, hogy a Claude segítségével bebizonyította a 167 éves Riemann-sejtést, és a bizonyítást Leanben közzétette. Ez egyelőre állítás, nem a bizonyítás elfogadásának ténye.

A formális ellenőrzés a modellek tanításában is szerepet kaphat. Az Axiom Math a bizonyítási kísérletek helyességéről kapott visszajelzést használja matematikai következtetőrendszerei fejlesztéséhez. A vállalat AxiomProver nevű AI-rendszere Lean-bizonyításokat állít elő, AXLE eszközkészlete pedig ezek feltárását, ellenőrzését és kezelését támogatja. Carina Hong, az Axiom Math vezérigazgatója egy júniusi Latent Space-interjúban azt mondta: a verifikált AI nem csupán a hibák és hallucinációk kiszűréséről szól, hanem a kiemelkedő képességek kiterjesztéséről is.

A Harmonic Aristotle nevű automatizált tételbizonyítója szintén erősen támaszkodik a Leanre. A vállalat leírása szerint az AI készíti el a bizonyításokat, a Lean pedig minden lépést ellenőriz, így az eredmény nem kizárólag az AI helyességén múlik.

Biztonság és nagyobb lépték

Az &Truth számára a kiberbiztonság kiemelt terület. Barrett szerint a technológia egyik fontos felhasználása lehet a nyílt és zárt forráskódú C-programok memóriabiztonságának vizsgálata, majd a javítandó kódrészletek azonosítása.

A biztonság a versenytárs Theorem számára is hangsúlyos. A vállalat az Anthropickal közösen vizsgálta, miként tehetik a nagy nyelvi modellek szélesebb körben megvalósíthatóvá a formális szoftververifikációt. Közös megközelítésük géppel ellenőrzött biztonsági garanciákat céloz a korábban nehezen elérhető léptékben; az egyik bemutatott példában a Lean helyett a Rocq bizonyítássegítőt alkalmazzák.

A formális verifikáció jelenleg sok tokent igényelhet, de a közös munka szerint javul a hatékonysága. Az Anthropic 36 kisebb verifikációs feladatot tartalmazó tesztjén az Opus 5.5 50 százalékos megoldási arányt ért el, mintegy 40 százalékkal kevesebb token felhasználásával, mint az Opus 5. A szerzők további javulást várnak, ahogy több modellt tanítanak hosszú verifikációs feladatokon.

Hogyan változhat a fejlesztői munka?

Az &Truth szerint a fejlesztők a „vibe-codingtól” a „veri-coding” felé mozdulhatnak: az ellenőrzés a fejlesztési folyamat beépített részévé válna. Barrett elképzelése szerint a fejlesztő továbbra is megfogalmazhatná az AI-ügynöknek, mit szeretne építeni, de előbb pontosítania kellene a követelményeket. Az ügynök ezután a háttérben együttműködne a formális verifikációs eszközzel.

Ebben a modellben a fejlesztők idejének nagyobb része juthat a specifikációk megírására és felülvizsgálatára, ahelyett hogy magát a kódot írnák vagy ellenőriznék. A cél az, hogy az ember ne csak feladatokat osszon ki az ügynököknek, hanem megbízható módon ellenőrizhesse is az általuk szállított eredmények helyességét. Az &Truth, a Harmonic, a Theorem és az Axiom Math abban lát lehetőséget, hogy a formális verifikáció ehhez egyre gyakorlatiasabb eszközzé váljon.