A HUN-REN Wigner Fizikai Kutatóközpont Orbán Gergő vezette kutatócsoportja argentin partnerekkel közösen olyan változtatást vezetett be a variációs autoenkóderek (VAE-k) működésébe, amely pontosabb bizonytalanságbecslést eredményez képfeldolgozó feladatoknál. Az új modell, az Explaining-Away Variational Autoencoder (EA-VAE) célja, hogy megkülönböztesse, mikor egy kép változása az ábrázolt objektumból ered, és mikor például a kép globális fényerejének vagy kontrasztjának megváltozása okozza a különbséget.
Miért fontos ez?
A bizonytalanság helyes megítélése kritikus olyan alkalmazásokban, ahol a tévesen magabiztos döntés súlyos következményekkel járhat. Az orvosi képelemzéstől kezdve a terepi autonóm rendszereken át minden olyan rendszer profitálhat, amelynek változó fényviszonyokkal, zajos vagy sérült adatokkal, illetve korábban nem látott képekkel kell megbirkóznia. A kutatók hangsúlyozzák, hogy nem mindegy, ha egy algoritmus „csak” egy lehetőséget tart éppen kicsivel valószínűbbnek, vagy ha más lehetőségeket magabiztosan ki tud zárni.
Módszer és fő megállapítások
A vizsgálat középpontjában a variációs autoenkóder modellek álltak — olyan mély generatív hálózatok, amelyek képesek a képek lényeges jellemzőit tömör belső reprezentációkba kódolni és onnan visszaállítani. A kutatók azt találták, hogy a hagyományos VAE-k bizonytalanságbecslése több gyakori képfeldolgozási helyzetben hibásan működhet, például kontrasztváltozás, zajosság, sérült képadatok vagy a tanításhoz képest eltérő, ún. out-of-distribution minták esetén.
Ennek orvoslására a csapat a klasszikus gépi látásból ismert megközelítést illesztette a VAE-hez. Az így létrejött Explaining-Away Variational Autoencoder (EA-VAE) egy új tényezőt épít be, amely segít a modellnek elkülöníteni a képen megfigyelt változások eredetét: valódi objektumváltozásról vagy a teljes kép globális jellemzőinek — például fényerő vagy kontraszt — módosulásáról van-e szó. Többféle képi adaton végzett tesztek alapján az EA-VAE következetesebb és megbízhatóbb bizonytalanságbecslést adott, mint a hagyományos változat.
Kapcsolódás a biológiai látáshoz
A kutatás külön érdekes eredménye, hogy az EA-VAE működésében megjelent a divizív normalizáció nevű számítási mechanizmus. Egyszerűsítve ez azt jelenti, hogy egy neurális egység aktivitását nem izoláltan, hanem a környező egységek aktivitásához viszonyítva szabályozza a rendszer — elv, amelyet az agyi látórendszerben is széles körben megfigyeltek. Így a fejlesztés nem csupán egy mérnöki javulást hozott az AI teljesítményében, hanem egy olyan megoldást is, amely működési elvében hasonlít a biológiai idegrendszerhez.
Gyakorlati következmények
A jobb bizonytalanságbecslés lehetővé teszi, hogy a képfeldolgozó rendszerek megbízhatóbban jelezzék, ha egy kép szokatlan vagy nehezen értelmezhető, és ezért emberi szakértő bevonása szükséges. Az EA-VAE különösen hasznos lehet orvosi diagnosztikában, ipari vizsgálatoknál, autonóm járművek érzékelésében és minden olyan területen, ahol a bemeneti képek minősége vagy jellege gyakran ingadozik.
Publikáció és forrás
A kutatók eredményeit az IEEE Transactions on Pattern Analysis and Machine Intelligence című tudományos folyóiratban publikálták. A munka a HUN-REN Wigner Fizikai Kutatóközpont és argentin partnerek együttműködésében jött létre; a közlemény kiemeli a NeuroAI területének kettős célját: egyrészt az agy jobb megértését, másrészt a biológiailag inspirált módszerekből fakadó előnyök kihasználását a mesterséges intelligencia fejlesztésében.
