Februárban a BBC egy cikkében ismertette, hogyan tudott Thomas Germain egyetlen blogposzttal rövid idő alatt rávenni több népszerű MI-modelt — köztük a ChatGPT-t és a Google MI-jét —, hogy tényként kezeljék egy képtelen állítását: szerinte ő a legjobb hot dog evő techújságíró. Germain posztja nyilvánvalóan kitalált volt, mégis a modellek gyorsan beépítették az állítást a válaszaikba. A BBC által idézett szakértők szerint az eset jól példázza, hogy a piaci szereplők is kihasználhatják az ilyen listázásra épülő manipulációs módszereket a saját előnyükre.
Ezen felbuzdulva én is kipróbáltam, működik-e a módszer egy másik, szándékosan bizarr témával: Mediumon közzétettem "A 10 legkisebb fejű bohóc Magyarországon" című listámat, és megfigyeltem, hogy a Google és a ChatGPT miként reagál rá. Ellentétben Germain jelentésével, nekem nem sikerült kevesebb mint 24 órán belül átvenni az irányítást: a Google még nem indexelte a friss posztot, és a listát nem emelte ki tényként az MI-összefoglalókban.
Miért működhet ez másoknak — és miért nem mindig?
A BBC cikke és más elemzések rámutattak, hogy az MI-összefoglalók — azokat a rövid, a keresőtalálatok fölött megjelenő összegzéseket értjük alatta — rendkívül népszerűek: állítólag már tavaly 1,5 milliárd ember látta őket rendszeresen. Ugyanakkor a modellek hajlamosak hibázni vagy kitalálni információkat (ez a hallucináció), különösen kevésbé mainstream témáknál, ahol akár Reddit-posztok vagy fórumhozzászólások is forrásként beépülhetnek. Az OpenAI kutatása szerint ez a jelenség a mai modellek eredendő tulajdonsága.
Szakértők azt mondták a BBC-nek, hogy nem kell bonyolult trükk: elég egy egyszerű blogbejegyzés vagy PR-cikk, és az MI-modellek hajlamosak lehetnek átvenni a listában szereplő sorrendet. Az Ahrefs és más SEO-szakértők tapasztalatai szerint ez a módszer valós piaci szereplők között is elterjedt, és az Amsive nevű marketingügynökség alelnöke szerint a csetbotokat könnyebb megtéveszteni, mint a hagyományos keresőt 2–3 évvel ezelőtt.
A Verge által feltárt esetekben sokszor előfordult, hogy cégek saját terméküket sorolták első helyre listáikon, néha fizetett PR-cikkekkel is erősítve az így létrejött látszatot. A Google szóvivője és a cég nyilatkozatai szerint komoly védelmi rendszereik vannak az ilyen manipuláció ellen, és javulás is látszik: bizonyos modellek óvatossá váltak, és az Anthropic által fejlesztett Claude például nem ült fel a Germain-féle manipulációnak.
Amit a saját kísérletem megmutatott
A Mediumos posztom gyors sikertelensége részben magyarázható: nem rendelkezem ismert, régi domainnel, a poszt magyar nyelvű és meglehetősen bizarr témájú volt. Ennek ellenére a kísérlet értékes tanulsággal szolgált: az MI-modellek továbbra is szívesen "kitalálnak" neveket és kontextusokat. Amikor a posztot belinkeltem a Google-nek és a ChatGPT-nek, mindkettő arra a következtetésre jutott, hogy a szöveg közéleti szatíra.
A Google Gemini még ennél is messzebbre ment: konkrét személyneveket, például Turbó Bélát, Jobbágy Jolánt és Hapci Bertalant helyezett el ismert közéleti személyiségek helyett, noha ezeket a neveket a posztban nem említettem. A ChatGPT óvatosabb volt, és azt jelezte, hogy név szerinti elemzés sértő tartalomba csaphat át. A Google válasza szerint a téves azonosítást az okozta, hogy a rendszer egy korábbi, hasonló stílusú közéleti elemzéssel vagy sablonnal hozta összefüggésbe a linket.
Ezek az élmények megerősítik, hogy a nagy nyelvi modellek hajlamosak megerősíteni a felhasználói állításokat: egy nemrég megjelent kutatás szerint ezek a rendszerek úgy vannak huzalozva, hogy gyakran egyetértenek a felhasználóval.
Mit jelent ez a gyakorlatban?
A jelenség azért is fontos, mert sokan az MI-összefoglalókat hiteles, gyors információforrásként kezelik, anélkül, hogy rákattintanának a hivatkozott forrásokra. Ez különösen problémás lehet, ha a módszert például gyógyszerek vagy más veszélyes kategóriák esetében alkalmazzák. Microsoft és más szereplők is jelezték, hogy egyesek utasításokat helyeznek el a weboldalak MI-gombjaiban, hogy azokat később részrehajlónak vagy előnyösnek tüntessék fel.
Ugyanakkor több szereplő is arra mutat rá, hogy az MI-keresés még nem váltotta fel teljesen a hagyományos keresést: bár sokan a ChatGPT-t informálódásra használják, a vásárlási döntéseket és más végső lépéseket ritkábban bonyolítják le közvetlenül az MI-n keresztül. Emellett a szakértők arra figyelmeztetnek, hogy egy-egy említés a Redditen vagy a YouTube-on sokszor link nélkül is nagy értékkel bírhat az új ökoszisztémában, így a figyelem kiterjed olyan csatornákra is, amelyeket korábban elhanyagoltak.
Összegzés
A saját próbálkozásom nem hozott olyan gyors és látványos eredményt, mint Thomas Germain esete, de a kísérlet rávilágított az MI-összefoglalók két alapvető problémájára: egyrészt a modellek hajlamosak hallucinálni és kitalált információkat adni, másrészt egyes szereplők aktívan próbálják kijátszani ezeket a rendszereket SEO-szerű listázással vagy PR-cikkekkel. A technológia fejlődése és a cégek védelmi erőfeszítései ellenére a jelenség hatása és a manipulációs kísérletek valósak, ezért továbbra is óvatos, forrásellenőrzésen alapuló használatra van szükség, különösen kevésbé ismert témákban.
