A VentureBeat által szervezett AI Impact rendezvényen Brian Gracely, a Red Hat senior director of portfolio strategy pozíciójában, a gyakorlati tapasztalatokról beszélt arról, mi történik, amikor autonóm — vagyis „agentic” — AI rendszerek elhagyják a pilotfázist és éles üzembe kerülnek. Gracely előadása a költségkontrollról, az autonóm rendszerekre jellemző biztonsági vakfoltokról és azokról a szervezeti súrlódásokról szólt, amelyek meghatározzák, hogy az ügynökök bevezetése túlnő‑e az első támogatókon. A beszélgetés a rendezvényen elhangzottak szerint azt vizsgálta, mi választja el azokat a vállalatokat, amelyek skálázzák az ügynököket, azoktól, amelyek pilotban ragadnak.
Vállalati attitűd: túl sokan gondolják, hogy lemaradtak
Sok vezető, különösen akik követik az iparági keynote-okat és bejelentéseket, attól tart, hogy már veszélyesen lemaradtak a versenytársakhoz képest. Gracely szerint ez a félelem részben téves feltételezéseken alapul: a csapatok gyakran sokkal gyorsabban tanulnak, mint várják, amint elkezdik építeni és üzemeltetni az ügynököket. A gyors előrehaladás ugyanakkor új problémát teremt: a használat növekedésével az AI‑költségek is meredeken emelkednek, így a költségmenedzsment mérnöki kérdésből visszatérő igazgatósági téma lesz.
Költségek és beszállítói függés
Gracely rámutatott, hogy az agentic AI használata nagyságrendekkel nagyobb erőforrásigényt jelent, mint a korábbi chatbot‑korszak. Egyre több szervezet ismeri fel, hogy függ néhány nagy modellszolgáltatótól: „a két vagy három felső szolgáltató már azt mondja a piacnak, hogy veszteségesek, és próbálnak nyilvánosak lenni, hogy pótolják ezeket a hiányokat” — fogalmazott. Ez a függőség arra készteti a cégeket, hogy alternatívák után nézzenek, amelyek több kontrollt adnak a költségek és az infrastruktúra felett.
Modell‑méretezés és költségcsökkentés: gyakorlatias megoldások
A költségoldal legnagyobb problémája, hogy sok vállalat automatikusan a legképességesebb modellt használja minden feladatra, függetlenül annak komplexitásától. Gracely példájával élve: ha egy egyszerű biztosítási ügyet kell feldolgozni, nincs szükség a világ- és kultúrtörténeti tudásra. A gyakorlatban a vállalatok egy sor technikát alkalmaznak, például:
- szemantikus routing: a kérések automatikus osztályozása és olyan modellhez továbbítása, amely a feladat méretéhez van igazítva;
- caching: ismétlődő lekérdezések gyorsítótárazása, így ritkábban kell GPU‑számításra küldeni a kéréseket.
Ezek a megoldások megszüntetik a hatékonyság és az innováció kölcsönös kizárását: mindkettőre lehet választani a megfelelő infrastruktúra és modellvázlatok révén.
Pénzügyi fegyelem: a token‑költségek kezelése
A token‑alapú költés kontrollja olyan pénzügyi fegyelmet igényel, amely hasonlít a FinOps hosszú évek alatt kiforrott gyakorlatához a felhőszámításnál. Gracely szerint az alapvető keretek átültethetők az AI‑költségek kezelésére, és fontos belső képzést indítani a modellválasztásról, hogy a csapatok ne a legismertebb vagy legnagyobb modellt válasszák automatikusan. „Ugyanúgy, ahogy először meg kellett tanítanunk a pénzügyi népeknek, mi az EC2‑instance vagy az S3‑bucket, most el kell kezdenünk elmagyarázni nekik a tokeneket” — mondta. „Nem mindig van szükség Rolls‑Royce‑ra. Nem mindig kell kaviár, mert alapvető feladatokat végzünk.”
Biztonság: gyorsabb foltozásra lesz szükség
Az AI alapú sebezhetőség‑feltárás megváltoztatja a javítási ciklusok követelményét: amit korábban hetek vagy hónapok alatt kezeltek, most lehet, hogy napokra rövidül. Gracely szerint a vállalatoknak nagyjából 7–14 napos ablakuk lehet arra, hogy előrébb járjanak a támadókkal szemben. Bár csoportok, köztük a Red Hat is, foltokat fognak készíteni, az embargóidő rövid lesz. Emellett az AI‑alapú biztonsági eszközök nem csak egyedi kritikus hibákat találnak; képesek összetett, látszólag apró sebezhetőségek láncolatait is feltárni, amelyek csak együtt veszélyesek. A szoftver komplexitásának és a sebezhetőség‑feltárás sebességének növekedésével a gyors szoftverfrissítés képessége stratégiai készséggé válik.
Szervezeti elfogadás: szakértők és megfelelés a skálázás kulcsa
Végső soron az ügynökök vállalati skálázása nem technikai kérdésen — hanem a tudásbázist birtokló szakértők és a megfelelési csapatok részvételén — múlik. Az ügynökök által használandó szakmai tudás kódba történő átültetéséhez elengedhetetlen a témaszakértők tartós bevonása és támogatásuk megszerzése. Gracely hangsúlyozta, hogy gondolni kell az ösztönzőkre: hogyan lehet az együttműködést úgy jutalmazni, hogy az érintettek ne érezzék fenyegetve a munkájukat, és hosszú távon hajlandóak legyenek együttműködni az innovációval.
Következtetés
Az ügynökök élesbe vitele új, összetett kihívásokat hoz: gyorsan növekvő költségeket, rövidebb javítási ablakokat és a szervezeti jóváhagyás igényét. Gracely szerint a megoldások részben technikaiak — modell‑méretezés, szemantikus routing, caching, gyors patchelés —, részben pedig szervezeti és pénzügyi jellegűek: belső képzés, token‑fogyasztás kontrollja és a szakértők bevonásának ösztönzése. Ezek együttesen határozzák meg, hogy az ügynökök bevezetése át tud‑e lépni a pilotfázist és valódi vállalati skálát ér el.
