Biztonság

Mesterséges intelligenciával generált szöveg

Luc Julia az emberi ellenőrzés és a tudatos AI-használat fontosságáról

Luc Julia informatikus és mesterségesintelligencia-kutató a technológia korlátaira és felelős használatára hívta fel a figyelmet.

Luc Julia az emberi ellenőrzés és a tudatos AI-használat fontosságáról

Luc Julia informatikus és mesterségesintelligencia-kutató szerint az AI-t nem önálló, emberhez hasonló intelligenciaként, hanem statisztikára és matematikai modellekre épülő eszközök gyűjteményeként érdemes kezelni. Úgy véli, a technológia akkor használható felelősen, ha az ember megőrzi az irányítást, ellenőrzi az eredményeket, és figyelembe veszi a használat erőforrásigényét is.

Eszközök, nem emberi értelem

Julia egy szerszámosládához hasonlítja az AI-t: különböző eszközei különböző feladatokra alkalmasak. Szerinte minél általánosabb egy eszköz, annál kevésbé hatékony egy-egy konkrét feladatban. A gépi tanulástól a mélytanuláson át a generatív AI-ig vezető technológiai fejlődést inkább evolúciónak, mint forradalomnak tartja: a rendszerek egyre összetettebbé váltak, és egyre több adatot dolgoznak fel.

Az emberi és a gépi tanulás különbségét személyes példával szemléltette. Elmondása szerint egy képfelismerő algoritmusnak százezer macskafotóra lehet szüksége ahhoz, hogy 98 százalékos pontossággal felismerje az állatot, míg egyéves kislányának ehhez két macska megmutatása is elég volt. A generatív modellek betanításához akár több százmilliárd adatpontot is felhasználhatnak, ám Julia szerint a nagy mennyiségű adat feldolgozása nem azonos az emberi megértéssel.

Az ötlet és az ellenőrzés az ember feladata

A generatív AI használhatóságában Julia mégis jelentős változást lát: ma már bárki adhat olyan utasítást, amely alapján a rendszer pillanatok alatt szöveget, képet vagy programkódot állít elő. Szerinte azonban a kreatív ötlet az embertől származik, a gép pedig a tanult mintázatokból hozza létre az eredményt. Arra figyelmeztet, hogy a látványos teljesítmény mellett könnyű megfeledkezni az ember alkotó és irányító szerepéről.

Az ellenőrzés szükségességét a hallucinációk, vagyis a hibásan előállított állítások is indokolják. Julia felidézte egy New York-i ügyvéd 2023-as esetét: az ügyvéd a ChatGPT segítségével készített bírósági beadványt, amelyben több nem létező ítéletre hivatkozott. A kutató azt is elmondta, hogy havonta lekéri saját életrajzát különböző chatbotoktól, és továbbra is rendszeresen talál hibákat a válaszokban.

Egy 2023-as hongkongi kutatásban a ChatGPT tízféle következtetési feladaton átlagosan 63,4 százalékos pontosságot ért el. Julia szerint a helyzet azóta romlott, részben azért, mert a más AI-modellek által előállított szintetikus adatok hamis állításokat is tartalmazhatnak. Az ismertetett adatok szerint a ChatGPT hibarátája három év alatt 36-ról 40 százalékra nőtt, és más modelleknél is fokozódott a hibázásra való hajlam.

Julia ezért azt javasolja, hogy az emberek lehetőség szerint olyan területen használják az AI-t, amelyhez maguk is értenek: így ellenőrizhetik a választ. Ha valaki számára teljesen ismeretlen témáról kérdezi a rendszert, és nem tudja megítélni az eredményt, szerinte lényegében szerencsejátékot játszik.

Jogi és környezeti költségek

A pontosság mellett a szerzői jog is kérdéseket vet fel. A modellek betanításához használt, jogvédelem alatt álló tartalmak számos jogvitához vezettek, és az AI által készített művek tulajdonjoga sem minden esetben egyértelmű.

Julia az adatközpontok energia- és vízigényére is felhívta a figyelmet: működtetésük és hűtésük erőforrásokat emészt fel. Nem a technológia elutasítását szorgalmazza, hanem azt, hogy az emberek mérlegeljék, mire használják, és lehetőleg fontos, értelmes feladatokra vegyék igénybe. Példaként a bajuszos Mona Lisa képének generálását említette; a rossz példa szemléltetésére öt, általa generált változatot is bemutatott.

Julia a Robot, nem pilóta című könyvében is az AI-val kapcsolatos elterjedt tévhitekkel és a gépi kreativitás kérdésével foglalkozik.