A Metis nevű startup közzétett egy állásfoglaló jellegű tanulmányt, amelyben egy olyan AI-architektúra felé vezető irányt vázol fel, amelynek célja megbízhatóbb és explicitebb érvelési képességek megteremtése. A cég célja hasonló irányú áttörés elérése nyílt doménű problémákon, mint amit a DeepMind ért el zárt doménű környezetekben az AlphaGo és az AlphaGo Zero rendszerekkel.
Mit javasol a Metis?
A Metis központi gondolata egy explicit érvelési mag beillesztése a mai neurális alapú AI-architektúrákba, amely megbízhatóbb döntéshozatalt és bizonyítottságot biztosítana, mint a jelenlegi rendszerek. A tanulmány szerint két fontos elem hiányzik sok mai rendszernél:
- egy explicit és tartós epistemikus állapot (azaz a rendszer által elfogadott hitelek, állítások és ezek bizonyítottsága),
- valamint egy olyan kritérium, amely lehetővé teszi, hogy a rendszer választani tudjon olyan érvelési lépéseket, amelyek valóban előreviszik a célt.
A Metis nem részletes implementációs leírást közöl, hanem koncepcionális vázlatot: a tervezett rendszer egy alapvető adatmagra épít, amely állításokból vagy hipotézisekből áll a világról. Ezen az adathalmazon egy tanult érvelési policy és egy értékfüggvény (value function) működik, amelyet valós világban gyűjtött adatok alapján képeznek ki. Ennek a párosnak a feladata az érvelés irányítása úgy, hogy hosszú távon csökkentse a bizonytalanságot.
A tanulmány hangsúlyozza továbbá az igazolási követelményt: az állítások evidenciális státuszának bármilyen változtatását bizonyítékkal kell alátámasztani, vagy explicit számítással és független ellenőrzéssel kell jóváhagyni. A Metis szerint a modell által generált tartalom önmagában nem kerülhet be az elfogadott epistemikus állapotba pusztán azért, mert valószínűnek tűnik; át kell esnie egy úgynevezett warrant (jogosultság) értékelésen. Ez a megközelítés csökkentheti a „hallucinációkat”, és lehetővé teszi az általuk támogatott bizonyítékok közvetlen csatolását az állításokhoz, így világos származási láncot és auditálhatóságot adva az érvelési folyamatnak.
Miért fontos ez?
A Metis koncepciója azért érdekes, mert egyszerre ígér növelt megbízhatóságot és egy olyan érvelési módot, amely jelentősen eltér az emberi gondolkodástól. A tanulmány szerzői szerint az AI története felfogható két részleges siker versenyeként: a klasszikus, szimbolikus rendszerek több érvelési lépést explicitté tettek, de nagyban függtek kézzel előállított reprezentációktól és heurisztikáktól; a modern nagy nyelvi modellek (LLM-ek) hatalmas implicit tudást és szemantikai műveleteket tanulnak meg, de az érvelés szervezése, értékelése és felhalmozása általában implicit marad.
A Metis által javasolt rendszer tehát hibrid megoldás próbál lenni: a szimbolikus jellegű, expliciten reprezentált állítások és bizonyítékok alapjára épülő, ugyanakkor tanult döntéshozatalt alkalmazó érvelési mag. A szerzők szerint egy ilyen rendszer nem pusztán az emberi érvelés hatékony utánzata lenne; inkább olyan mélyen „nem‑emberi” gondolkodási módot mutathatna, amely segít megérteni a különbségeket emberi és gépi intelligencia közt.
Következtetések
A Metis dokumentuma inkább iránytű, mint teljes technikai megvalósítás: koncepcionális alapelveket és motivációt ad egy olyan architektúrához, amely explicit epistemikus állapotot, tanult érvelési policy‑t és warrant alapú beszűrési mechanizmust köt össze a bizonyítékokhoz rendelhető származási lánccal. A javaslat célja, hogy az AlphaGo‑féle rendszerekben látott érvelési rigorózussal közelítsen a nyílt doménű, valós világ problémák irányába, miközben az így kialakuló gondolkodás alapvetően különbözhet az emberi érveléstől.
További olvasás: The Age of Reasoning (Metis, PDF)
