Iparág

Vállalatok korlátozzák az MI-használatot a gyorsan elszálló költségek miatt

A hír főszereplői a technológiai cégek és vállalati pénzügyi vezetők, akik most sorra szigorítják a munkavállalók mesterséges intelligencia-használatát.

Vállalatok korlátozzák az MI-használatot a gyorsan elszálló költségek miatt

Az utóbbi hónapokban sok technológiai cég kifejezetten ösztönözte dolgozóit, hogy minél többször használjanak mesterségesintelligencia-alapú eszközöket. Ezzel szemben most számos vállalat elkezdte korlátozni az MI-hozzáférést, miután a számítási kapacitás költségei – a tokenek – gyorsan elszálltak, és rövid idő alatt kimerítették a költségvetéseket.

Mi történt és miért

A Business Insider és az Economist beszámolói szerint a korábbi „tokenmaxxing” korszak után, amikor cégek bátorították alkalmazottaikat a minél nagyobb tokenfelhasználásra, mostanra kiderült, hogy a számítási kapacitás jóval drágább, mint ahogy azt sokan várták. A tokenek az MI-szolgáltatások számítási kapacitásának mérőegységei, és ez alapján számozzák be az előfizetési költségeket.

Arvind Jain, a Glean vállalati mesterséges intelligenciára szakosodó cég vezérigazgatója a CNBC-nek elmondta, hogy egyes vállalatok MI-költségvetése egy-két hónap alatt kimerül, pedig ezek éves költségvetések lennének — ami új, kemény döntések elé állítja a pénzügyi vezetőket: tokenek vagy emberek finanszírozása?

Konkrét példák és intézkedések

  • Marty Kausas, a Pylon vezérigazgatója arról számolt be, hogy cégénél az Anthropic-előfizetés folytatódó trendje havi szinten akár 1,4 millió dolláros költséget okozhatna. Ennek következtében a Pylon tokenlimiteket vezetett be nem technikai munkakörökben.

  • Az Uber bejelentette, hogy az éves MI-költségvetését négy hónap alatt elhasználta; később havi szinten alkalmazottanként 1500 dolláros tokenkorlátot vezetett be egyes kódolóplatformokon.

  • Olyan nagyvállalatok, mint a Walmart vagy a kriptotőzsde Coinbase, szintén elkezdtek korlátozásokat bevezetni vagy leállították az irodai versenyeket és más, a túlzott MI-használatot ösztönző programokat.

  • Az OpenAI vezérigazgatója, Sam Altman nyilvánosan is szóvá tette, hogy ügyfeleik költségei komoly problémává nőttek, miután korábban sok szervezet nem aggódott a kiadások miatt.

Költség és ösztönzés: fordulat

Az év elején a tokenfelhasználás presztízsértékké vált a technológiai szektorban: a Ramp AI Index adatai szerint májusban a technológiai és médiavállalatok átlagosan 66 dollárt költöttek alkalmazottanként MI-re, szemben az áprilisi 59 dollárral. Az iparág vezetői észrevették, hogy a tokenre alapuló ösztönzők – például a ChatGPT mögötti OpenAI által korábban felajánlott 15 ezer dollár értékű számítási kapacitás a biztonsági ösztöndíjasoknak – most jelentős kiadást jelentenek a cégeknek.

Jensen Huang, az Nvidia vezérigazgatója márciusban például kritizálta azt a hozzáállást, hogy egy magas bérezésű mérnök ne használna jelentős mennyiségű MI-tokent, ami jól mutatja, milyen gyorsan vált a tokenhasználat a vállalati kultúra részévé.

Munkavállalói reakciók és belső egyenlőtlenségek

A tokenkorlátozások belső feszültségekhez vezettek. A fejlesztők gyakran kifogásolják az ársapkák miatt korlátozott hozzáférést, attól tartva, hogy ez hosszú távon hátráltathatja szakmai fejlődésüket és piaci versenyképességüket. Másrészt egyes részlegek — például marketing vagy pénzügy — kevesebb tokenhez juthatnak, mert a legtöbb kapacitás a cég fő termelőtevékenységét végző csapatokhoz kerül.

Rachel Laycock, a Thoughtworks tanácsadó cég munkatársa az Economistnak azt mondta, hogy a tokenek elosztása tipikusan attól függ, hol várható a legtöbb értékteremtés, amitől a kisebb prioritású területek hátrányba kerülnek.

Megoldási irányok: plafonok, kérelmi rendszerek, hatékonyságmérés

A vállalatok többféle megoldást tesztelnek: tokenkeretek, kérelmi és jóváhagyási folyamatok a nagyobb kapaszkodóhoz, illetve a felhasználás figyelését célzó rendszerek bevezetése. Egyes cégek inkább olyan kontrollokat alakítanak ki, amelyek a túlzott használatot szűrik ki anélkül, hogy teljesen elvágnák a hozzáférést.

A vezetők nem csak a kiadások csökkentését célozzák: azt is mérik, hogy az MI-re fordított költés valóban növeli-e a termelékenységet. Ennek alapján döntenek arról, mely területek kapjanak többet, és hol érdemes visszafogni a felhasználást.

Következtetés

Az elmúlt hónapok gyors MI-állománynövekedése után most számos vállalatnál a költségek miatt szigorítások következnek: a tokenek használatának ösztönzése helyett a kiadások optimalizálása került előtérbe. A cégek kísérleteznek korlátokkal és szabályozásokkal, miközben mérlegelik, hogyan lehet a leghatékonyabban kihasználni az MI-t anélkül, hogy a beruházások pénzügyi szempontból fenntarthatatlanná válnának.