Egy friss Stanford-kutatás egy, a nyilvánosság által eddig kevésbé tárgyalt problémát mutat be: ahogy az AI egyre nagyobb szerepet kap az internetes keresésben és az e-kereskedelemben, egyre kevésbé egyértelmű, hogy egy chatbot vagy személyes asszisztens javaslata reklámbevételek vagy tényleges információk hatására született-e.
A tanulmány illusztrációként a hétköznapi vásárlási folyamat egyszerű példáját használja: elképzelhető, hogy a közeljövőben, amikor például új kenyérpirítót szeretnénk, elég elmondani egy „ügynök” AI-nak az autóban hazafelé tartva, és másnapra megérkezik a termék. A háttérben viszont több gyártó is licitálhat arra, hogy az adott ügynök melyik ajánlást lássa vagy melyik terméket rendelje meg a felhasználó számára. Ebben az esetben hogyan bizonyosodhatunk meg róla, hogy valóban a legjobb terméket vagy a legkedvezőbb árat kaptuk?
A probléma komolysága nő, ha a helyzetet fontosabb területekre, például az egészségügyre vagy a pénzügyi szolgáltatásokra vetítjük ki. Ha minden felhasználónak saját, személyre szabott ügynöke lesz, amely képes függetlenül eligazodni a piacon és ellenállni a megtévesztő marketingnek, akkor a kockázat csökkenhet. A tanulmány azonban megjegyzi, hogy valószínűbb forgatókönyvként az szerepel, hogy a többség ingyenes chatbotokat használ majd, amelyek üzleti modellje hirdetéseken vagy partneri fizetéseken alapul.
A szerzők szerint a kormányzati szabályozás részben enyhítheti a problémát: például olyan törvények, amelyek megtiltják a tanácsadás nyújtását anélkül, hogy a chatbot nyilvánosságra hozná az üzleti ösztönzőket. Ugyanakkor a tanulmány kihangsúlyozza, hogy az ilyen gyakorlatok átláthatósága nehezen ellenőrizhető lehet, és ha egy adtech-szerű iparág épül ki az „ügynöki” kereskedelem köré, később nagyon nehéz lesz visszafejteni a pénzügyi befolyásokat.
A tanulmány szerzője Reed Albergotti, és a munka célja, hogy mihamarabb felhívja a figyelmet a kérdésre: még idejében érdemes rendeletileg és technikailag foglalkozni azzal, hogyan jelennek meg a pénzügyi ösztönzők az automatikus, döntést hozó AI-rendszerek javaslataiban, mielőtt kialakulna egy nehezen kontrollálható iparági gyakorlat.
