Egy francia–olasz kutatócsoport által végzett vizsgálat szerint már önmagában az a lehetőség, hogy mesterséges intelligenciát (MI) használjunk egy kérdés megválaszolásához, jelentősen rontja az emberek ítélőképességét és a saját tudásuk határainak felismerését. A TNW összefoglalója alapján a kísérlet fő eredményei a következők voltak: amikor a résztvevők hozzáférhettek MI‑hez, azok aránya, akik bevallották, hogy nem tudják a választ, 44 százalékról mindössze 3 százalékra csökkent; a helyes válaszok aránya 27 százalékról 9 százalékra esett; ugyanakkor a résztvevők magabiztossága 30 százalékról 76 százalékra emelkedett. A kísérlet tehát azt mutatja, hogy az MI jelenléte mellett gyakrabban fogalmazunk meg magabiztos, de téves válaszokat, még akkor is, ha saját tudásunk hiányos.
A módszer: kérdések, modell és szándékosan félrevezető feladatok
A kutatók olyan kérdéseket választottak, amelyekben a mesterségesintelligencia‑modellek jellemzően hibáznak; tipikus példák voltak filmek apró vizuális részletei, például hogy milyen színű volt egy csapat meze a Csavard be, mint Beckham című filmben. A teszthez a Step 3.5 Flash nevű modellt használták, amely az ilyen feladatokban rendszerint téves választ ad. A vizsgálat során előfordult olyan eset is, hogy egyes résztvevők önállóan helyes választ adtak volna, de miután megkérdezték az MI‑t és annak válaszára hagyatkoztak, végül hibás válasszal álltak elő.
Pénzügyi ösztönzés és korlátozott hatása
A kutatók pénzjutalommal is próbálták ösztönözni a pontos válaszadást. Ennek hatására mérsékelt javulás látszott: a „nem tudom” választ beismerők aránya 3 százalékról 8 százalékra emelkedett, a helyes válaszok aránya 9 százalékról 16 százalékra nőtt. Ezek az értékek azonban továbbra is messze elmaradtak az MI‑től megfosztott csoport eredményeitől, ahol a „nem tudom” arány 44 százalék, a helyes válaszok aránya pedig 27 százalék volt.
Korábbi kutatások és a jelenség elnevezése
A vizsgálat ráépül korábbi megfigyelésekre: a Pennsylvaniai Egyetem kutatói korábban „kognitív megadásnak” (cognitive surrender) nevezték azt a jelenséget, amikor az emberek hajlamosak elfogadni a mesterséges intelligencia téves válaszait. Egy idei kutatásuk szerint az emberek az esetek 80 százalékában elfogadják az MI hibás állításait, miközben magabiztosabbnak érzik magukat, mint azok, akik MI nélkül dolgoznak.
Miért számít ez és kinek a szempontjából aggasztó?
A kutatók hangsúlyozzák, hogy a probléma nem csupán az, hogy az emberek bíznak a hibás MI‑válaszokban, hanem az is, hogy maga az MI jelenléte tompítja azt a metakognitív képességet, amellyel felismerjük saját tudásunk határait. Ez különösen aggályos lehet a gyermekek körében, akik úgy nőnek fel a rendszerekkel, hogy kritikus gondolkodásuk még nem fejlődött ki teljes egészében. Az eredmények azt sugallják, hogy az MI‑eszközök elterjedése esetén fontosabbá válik a felhasználók oktatása a forráskritika, a bizonytalanság felismerése és a válaszok ellenőrzésének képessége terén.
Következtetések
A francia–olasz vizsgálat adatai arra figyelmeztetnek, hogy az MI‑hozzáférés nem automatikusan javítja a döntéshozatalt; éppen ellenkezőleg, rontja a saját tudás határainak felismerését, növeli a téves válaszok iránti magabiztosságot, és csak korlátozottan lehet ellensúlyozni pénzügyi ösztönzéssel. A kutatók felhívják a figyelmet a felhasználói képességek fejlesztésére és a rendszerek korlátainak kommunikálására.
