Emma Wiles, a Boston University üzleti professzora által végzett kutatás szerint az emberek rosszabbul teljesítenek, ha egy AI-eszközt „munkatársként” vagy „alkalmazottként” mutatnak be nekik. A résztvevők 18%-kal kevesebb hibát találtak, amikor a munka egy „AI-alkalmazott” rovására volt írva, szemben azzal az esetttel, amikor a forrásról egyszerűen chatbotként beszéltek.
Hogyan vizsgálták
A tanulmányban 1 261 menedzser vett részt; közel egyharmaduk számolt be arról, hogy cégük már alkalmazotti szerepként keretezi az AI-ügynököket, és 23%-uknál ezek fel is vannak tüntetve a szervezeti ábrán. Wiles eredményei alapján, ha a szoftver „személyesebb” megnevezést kap, a felelősség érzete az embernél csökken: a résztvevők kevésbé érezték magukat felelősnek az AI kimenetéért, és 44%-kal nagyobb valószínűséggel vitték az esetet további felülvizsgálatra a menedzserhez, ahelyett hogy maguk korrigálták volna az eredményt.
Miért baj ez
Az elnevezés látszólagos egyszerűsége erős hatással van a munkafolyamatokra. Ha egy AI „munkatársnak” van bemutatva, az növeli a téves felelősség-átruházás kockázatát: a hibák és döntési hiányosságok könnyen az AI-ra háríthatók, holott sokszor emberi döntések, incentivizációs problémák vagy rossz felügyelet áll a háttérben. A cikk példaként említi a lányok iskoláját ért bombatámadást Iránban, amelyet sokan a Claude nevű rendszerről származó „hibának” tulajdonítottak, miközben a nyomok emberi hibák sorára mutattak.
A technológiai fejlesztés és a marketing közti különbség
Az ügynök-alapú AI műszaki szempontból előrehaladottabbá vált: ezek az ügynökök iteratív módon dolgoznak egy cél eléréséig, és egyre összetettebb feladatokban mérhetően jobbak. Ugyanakkor Wiles és mások szerint nagy ugrás lenne ezeket tényleges kollégáknak tekinteni: a személyes címke túlzó elvárásokat támaszt, miközben rontja a humán dolgozók helyzetét.
Alternatív megközelítések és empirikus eredmények
Daron Acemoglu, a MIT közgazdásza és a 2024-es Nobel-díj nyertese úgy fogalmaz: az AI-t nem emberek helyettesítésére kell optimalizálni, hanem emberi képességek javítására. Egy Stanfordi kezdeményezésben 1 500 dolgozót 104 különböző munkakörből megkérdeztek arról, hogy mely feladatoknál lenne hasznos az AI. Bár a munkavállalók nyitottak voltak bizonyos automatizációs támogatásokra (például jogi fogalmazók esetében a haladás nyomon követésére), sok esetben azokat a tevékenységeket tartották a legkevésbé hasznosnak az AI-tól, amelyeket a technológiai szakértők leginkább automatizálhatónak véltek (például ügyfél hitelminősítésének ellenőrzése értékesítési munkatársak esetében).
Következmények
Az AI eszközök „alkalmazottként” vagy „kollégaként” való pozicionálása egyszerű és kényelmes kommunikációs lépés, különösen hibák esetén, de ez pusztán márkanévbeli átalakítás: nem teszi a rendszert alkalmasabbá, és a kutatás szerint rontja az emberi felügyeletet és felelősségvállalást. Mivel a való döntéshozó humán szereplők azok, akik rendelkeznek valódi ügynökséggel, fontos, hogy a rendszereket úgy alakítsuk és keretezzük, hogy azok az emberi képességeket erősítsék, ne helyettesítsék.
Összegzés
A kutatás rávilágít arra, hogy a nyelv és a marketing fontos hatással lehet a munkafolyamatokra: ha egy AI-t „alkalmazottként” ábrázolunk, romlik az emberek hibafelismerő- és javító képessége, nő a felelősség áthárításának kockázata, és a technológia mögötti emberi felelősség homályossá válhat. A fejlesztőknek, munkáltatóknak és döntéshozóknak érdemes óvatosan bánniuk az ilyen címkézéssel, és előnyben részesíteni az emberi képességeket kiegészítő megoldásokat.
