Befektetők – és a megtévesztők is – megérkeztek az AI-piacra. Gemma Postlethwaite, a szakértői hálózat GLG vezérigazgatója szerint azok, „akik értenek az AI‑hoz”, most nagy keresletnek örvendenek a befektetők körében, akik az AI‑hoz kapcsolódó üzletekbe szeretnének belépni. Ugyanakkor a kereslet magával hozza a deepfake‑ek és az AI‑chatbotok által végrehajtott személyi megtévesztések növekvő kockázatát.
Postlethwaite a Semafornak elmondta: „Biztosítanunk kell, hogy a szakértők ne csak azok legyenek, akiknek mondják magukat, hanem valóban értsenek is ahhoz, amit állítanak.” Ennek érdekében a GLG további ellenőrzéseket és személyazonosság‑igazolást vezetett be, egyre gyakrabban kamerás vizsgálattal, amelyek során olyan kérdéseket tesznek fel, amelyek célja, hogy csapdába csalják az AI‑avatárokat.
Ellenőrzési módszerek
A GLG nem csak vizuális igazolást alkalmaz: az interjúk átiratait is elemzik, hogy azonosítsák az olyan helyzeteket, amikor valakinek a szakértelme „elkalandozik” a témától. Postlethwaite ezt úgy fogalmazta meg, hogy a cég egyfajta „digitális ujjlenyomatként” próbálja megragadni a tudást: először hitelesíteni, aztán megbízni.
Szakértők bevonása a modellek fejlesztésébe
A GLG emellett összekapcsolja a határvonalon dolgozó AI‑laborokat és a témában jártas szakembereket, hogy érzékeny területeken segítsenek a modellek tanításában. Példaként említették a gyermekpszichiátereket, akik a válsághelyzetben lévő gyermekekhez szóló válaszok kialakításában segíthetnek, valamint nukleáris vagy biológiai fegyverekhez kapcsolódó szakértőket, akiknek a tudása olyan helyzetekre lehet hasznos, amikor rosszindulatú szereplők veszélyes „útmutatókat” keresnek.
A cég lépései a hitelesítés erősítésére és az érzékeny témák szakmai támogatására reflektálnak a piaci keresletből fakadó, egyre bonyolultabb kockázatokra.
(Szöveg: Liz Hoffman — forrás: interjú a Semaforral)
