Egy 404 Media által június 24-én közölt, állítólagos belső megbeszélésről készült hangfelvétel szerint Accenture-adatok arra mutatnak, hogy a vállalatnál tapasztalt magas AI-tokenfelhasználás jelentős része nem mérnöki tevékenységhez köthető. A felvételen Justice Kwak, az Accenture agentic AI stratégiai vezetője azt mondja: „We’re seeing from some of the data internally at least that it’s actually not our engineers that are driving the token consumption. It’s a lot of the non-engineers that are doing some of those behaviors [...] you were talking about.”
A beszélgetés lényege
A felvételen Stuart Henderson, az Accenture ügyfélcsoportjának vezetője, megjegyzi, hogy szerinte a PDF-ek konvertálása markdown formátumba különösen sok tokent emészt fel. Henderson tréfásan reméli, hogy Kwak nem csupán PDF-eket alakított képekké, majd belőlük markdown fájlokat: „I’m learning that’s one of the big token chewers,” mondja Henderson. Kwak ezután megerősíti, hogy a vállalat saját adatai ezt mutatják.
Miért számít ez?
A beszélgetés rávilágít arra, hogy az olyan gyakori munkafolyamatok, mint a dokumentumok előkészítése és átalakítása, jelentősen befolyásolhatják a generatív AI-költségeket. Ha a PDF-ek képpé alakítása és onnan markdown létrehozása valóban többszörös tokenhasználatot eredményez, akkor ennek hatása a széles körű AI-alkalmazásoknál költségoldalon jól mérhető lehet.
Kutatás és további információk
A részleteket közlő anyag a 404 Media-jegyzet része, amely a cikk szerint a hangfelvétel alapján írta meg a történetet. A nyilvánosságra hozott részletek konkrét mennyiségeket vagy pontos, osztályozott adatokat nem tartalmaznak; a beszélgetés a belső adatok által felvetett megfigyelésre és a munkafolyamatok szokásaira fókuszál.
Következtetés
A felvétel arra emlékeztet, hogy a generatív AI-hez kapcsolódó költségek nem csak a modellek használatának „technikai” részéből adódnak: a dokumentumok előkészítése és a nem mérnöki felhasználói szokások is jelentős hatással lehetnek a tokenfogyasztásra. Az ilyen belső megfigyelések arra ösztönözhetik a vállalatokat, hogy átgondolják a dokumentumkezelési gyakorlatokat annak érdekében, hogy csökkentsék a fölösleges költségeket.
