Az emberi pszichét az evolúció alakította úgy, hogy az ismeretlent gyakran veszélyként értékeljük. Ez magyarázza a mesterséges intelligenciával (AI) szembeni óvatosságot is, és hozzájárul ahhoz az érzéshez, hogy a gépek működése megmagyarázhatatlan, „feketedobozként” viselkedik. Luc Julia AI-kutató szerkesztett részlete az Robot, nem pilóta című könyvéből azt állítja: a feketedoboz fogalma sokszor tévesen kerül elő, és nem kizárólagosan az AI sajátja.
Gaston Julia, Benoît Mandelbrot és a fraktálok története
A fraktálok története jól illusztrálja, hogyan szűnik meg a „feketedoboz” érzete, ha valamit közérthető formában megmutatunk. Gaston Julia 1914-ben publikálta a rá jellemző matematikai egyenletet, amelyről korábban nehéz volt elképzelni, mit jelent a nagyközönség számára. 1955-ben Benoît Mandelbrot, aki Julia tanítványa volt, számítógépes vizualizációval megrajzolta ugyanazt az egyenletet — a képernyőn megjelenő páfrányszerű forma azonnal értelmezhetővé tette a matematikát. A példa azt mutatja: ha időt szánunk a közérthető magyarázatra, a „feketedoboz” illúziója megszűnik.
Mire alapozódik a mesterséges intelligencia feketedoboz-mítosza?
A szerző két, egymással összefüggő jelenséget nevez meg: az AI kiszámíthatatlanságát és rejtélyességét. A modern AI-rendszerek „több milliárd adatponttal és paraméterrel” dolgoznak, és tervezőik algoritmusokat alkotnak a viselkedés szabályozására. Ennek ellenére előfordulhatnak előre nem látott helyzetek — hibák (bugok), nem várt működési eltérések vagy egyszerűen a véletlenszerűség miatt a gép nem a vártaknak megfelelően viselkedik. Ezek a jelenségek azonban nem feltétlenül jelentik azt, hogy a rendszer teljesen megmagyarázhatatlan.
A cikk rámutat, hogy a feketedoboz-kép csak akkor lenne érvényes, ha senki sem lenne képes értelmezni és elmagyarázni a rendszer működését. Mivel azonban az AI alkotói általában tudnak számot adni az alkalmazott adatról és algoritmusokról, a rendszerek nem tekinthetők abszolút titoknak.
A váratlanság forrásai
A váratlan AI-viselkedés három forrását különíti el a szöveg:
- Szándékos véletlenszerűség: generatív AI-rendszerekbe gyakran építenek véletlenséget, ami szükséges is lehet ahhoz, hogy ugyanazzal a prompttal változatos eredményeket kapjunk. Ilyenkor a kiszámíthatatlanság kifejezetten tervezett tulajdonság.
- Programozási és tervezési hibák: ha a rendszer működési kereteit nem határozzák meg pontosan, irányíthatatlanná válhat, vagy logikai hibák, adathibák léphetnek fel.
- Biztonsági hiányosságok és meghibásodások: nem megfelelően védett rendszerek esetén a működés eltérhet a szándékolttól.
A szerző hangsúlyozza, hogy végső soron az összes ilyen eltérés emberi döntésekre vagy hibákra vezethető vissza. Még a teljesen váratlannak tűnő viselkedés is utólag megmagyarázható, amikor feltárjuk a mögöttes tervezési döntéseket vagy a beépített véletlenség meglétét.
Konkrét példa: a Tesla csavarozórobotjai
A cikk egy gyakorlati példát mutat be: a Tesla csavarozórobotjait. Ezek a robotok elegendően hatékonyak ahhoz, hogy megtalálják és azonosítsák a csavart, felismerjék a munkadarabot, és a megfelelő helyre becsavarozzák azt. A robot nem „gondolkodik”, hanem előre meghatározott parancsokat hajt végre (például „mozdítsd a kart jobbra”, „csavarozd be”).
A szerző kiemeli: ettől még előfordulhat véletlen baleset, ha véletlenszerű viselkedést programoznak be vagy ha hibák lépnek fel. De ez nem jelenti azt, hogy a robot „döntést hozna” emberölésről vagy bármilyen önálló, emberi értelemmel bíró célról. A váratlan viselkedés oka ilyenkor a tervezői döntés vagy hiba, nem a gép „szándékossága”.
Röviden a példából következik:
- nincs megmagyarázhatatlan cselekvés;
- a váratlan esemény a tervező döntésének, vagy hibájának következménye lehet;
- az ember hozza meg azokat a döntéseket, amelyek meghatározzák, mi megengedett és mi nem.
Magyarázhatóság: elérhető cél vagy túl magas elvárás?
Az AI működésének részletes elmagyarázása a hatalmas adatmennyiség és a számítási komplexitás miatt sokszor bonyolult és időigényes. Ez nem jelenti azonban, hogy lehetetlen. A cikk két fontos pontot emel ki:
- Az AI-tervezők alapvetően kiválasztják az adatokat és az algoritmusokat, tehát a működés megértése nem misztikus, hanem tervezési kérdés.
- Lehetséges olyan AI-rendszert létrehozni, amely elég gyors és erős ahhoz, hogy egy másik AI működését kövesse és elemezze — vagyis AI-val is meg lehet magyarázni AI-t.
A technológiai fejlődés történetéből vett párhuzam szerint nem az a megoldás, hogy lemondunk a kontrollról, hanem hogy alkalmazkodunk és eszközöket fejlesztünk a nyomon követésre: ahogy a rendőrség autót kapott a bűnözők üldözéséhez, úgy eszközöket kell adnunk a kutatóknak és szabályozóknak, hogy kövessék és felügyeljék az AI-rendszereket.
Következtetések
Luc Julia szerkesztett részlete szerint a mesterséges intelligencia „feketedoboz” volta gyakran inkább érzeti és kommunikációs probléma, semmint technológiai véglet. A váratlan viselkedések többsége emberi döntésekre, tervezési választásokra vagy meghibásodásokra vezethető vissza, és léteznek módszerek arra, hogy a rendszerek működését megértsük vagy nyomon kövessük — akár más AI-eszközök bevonásával. A „megmagyarázhatatlanság” ezért nem automatikus jellemzője a mesterséges intelligenciának, hanem inkább annak a következménye, ha nem fordítunk elég időt és figyelmet az átlátható magyarázásra.
A fenti szöveg Luc Julia AI-kutató Robot, nem pilóta című könyvének szerkesztett részlete.
