Sam Altman, az OpenAI vezérigazgatója az Intelligence at Work rendezvényen megjegyezte, hogy a mesterséges intelligencia üzemeltetésének növekvő költségei mára komoly gondot jelentenek a vállalatok számára. Elmondása szerint most először tapasztalja, hogy ügyfelei rendszeresen visszajelzést adnak az AI-rendszerek áráról, ezért az OpenAI aktívan keresi a hatékonyságot javító megoldásokat.
„Az emberek mostanában már félig viccesen, félig komolyan azt mondják: »A cégem az egész 2026-os költségvetését elköltötte az első negyedévben. Tudnátok ezt egy kicsit hatékonyabbá tenni?«” – idézte Altman.
A korábbi közöny megszűnt
Altman szerint az év elején még nem volt ez a kérdés a központi téma: akkor az ügyfelek elfogadhatónak találták az AI-ra fordított kiadásokat. Azóta azonban a költségszint az egyik legfontosabb témává vált, és az OpenAI célja, hogy modelljeivel több értéket nyújtson alacsonyabb költségek mellett.
„Folyamatosan dolgozunk azon, hogy modelljeinkkel több értéket tudjunk nyújtani alacsonyabb költségek mellett. Az év elején ez még nem volt téma, most viszont hirtelen óriási problémává vált” – mondta.
A „tokenmaxxing” és konkrét példák
A közelmúltban több vállalatról írtak, amelyek jelentős számlákkal szembesültek, miközben intenzíven kihasználták az AI-t. A jelenségre elterjedt kifejezés a „tokenmaxxing”: ez azt jelenti, hogy cégek tudatosan maximalizálják az AI-modellek használatát abban reménykedve, hogy ezzel növelhetik munkatársaik termelékenységét és a bevételeiket.
Jensen Huang, az Nvidia vezérigazgatója korábban úgy nyilatkozott, hogy mérnökeinek évente legalább a fizetésük felének megfelelő értékben kellene AI-tokeneket felhasználniuk, különben aggódna a hatékonyság miatt. Peter Steinberger, az OpenClaw fejlesztője pedig arról számolt be, hogy csapata egy hónap alatt 1,3 millió dollárt költött OpenAI API-tokenekre — ez körülbelül 603 milliárd token felhasználását jelentette.
Nem mindenhol térül meg a nagy tokenfogyasztás
Az első tapasztalatok alapján több jel utal arra, hogy a korlátlan AI-használat nem mindig hozza meg a várt eredményeket. Az Amazon egyes munkatársai elismerték, hogy olykor felesleges feladatokra is AI-ügynököket használtak, hogy jobb helyezést érjenek el belső rangsorokon. A Microsoft sajtóértesülések szerint visszafogta a Claude Code fejlesztői licencek kiosztását a költségek növekedése miatt. Az Uber vezérigazgatója pedig jelezte, hogy jelenleg nem látni egyértelmű kapcsolatot a rendkívül magas AI-kiadások és a sikeres termékfejlesztés között.
Ezek a példák arra késztetik a vállalatokat, hogy feltegyék a kérdést: valóban arányosak-e a hatalmas AI-költségvetések az üzleti eredményekkel?
Tokenfogyasztás: meredek növekedés, de még mindig olcsóbbá kell válnia
Altman szerint a tokenfelhasználás hosszú távon tovább gyorsulhat. Hat és fél évvel ezelőtt az OpenAI legnagyobb tokenfogyasztó ügyfele havonta körülbelül 100 ezer tokent használt; ma ez a mennyiség nagyjából megfelel az egy főre jutó globális átlagos tokenhasználatnak. Ezzel szemben a jelenlegi rekorderek már havi mintegy 100 milliárd tokent használnak, és Altman elismerte, hogy vannak felhasználók, akik ennél többet fogyasztanak.
A vezérigazgató szerint, ha a növekedés hasonló ütemben folytatódik, elképzelhető, hogy hosszabb távon a világ egy főre jutó átlagos havi tokenhasználata is 100 milliárdos nagyságrendet érheti el.
A Jevons-paradoxon és a költségek dinamikája
Ez a forgatókönyv azonban csak akkor válik fenntarthatóvá, ha a tokenek ára gyorsabban csökken, mint a felhasználásuk nő. Több cégnél ugyanis arra a következtetésre jutottak, hogy bizonyos feladatokat jelenleg olcsóbb emberi munkaerővel elvégezni, mint AI-val.
A jelenség a Jevons-paradoxonhoz hasonlít: amikor egy erőforrás használata olcsóbbá válik, általában többet fogyasztanak belőle. Az AI esetében bár a modellek működtetése és betanítása hatékonyabbá válik, az egyre fejlettebb, ügynökalapú rendszerek exponenciálisan növelik a tokenigényt. Jelenleg úgy tűnik, hogy a felhasználás növekedése gyorsabban halad, mint az AI-laborok hatékonyságnövelése.
Forrás: tomshardware.com
