Egy 2026 júniusában, a VentureBeat Pulse Research keretében végzett, 107 olyan válaszadót tartalmazó felmérés szerint, amelyeknél a szervezet létszáma meghaladja a 100 főt, a vállalati AI-infrastruktúrába történő beruházások gyorsabban növekednek, mint ahogy a cégek képesek felmérni vagy irányítani ezek gazdasági hatásait. A jelentés központi megállapítása egy "compute gap": jelentős és gyors beruházás zajlik, miközben a költségek és a kihasználtság láthatósága elmarad.
Hol tartanak most a cégek?
A válaszadók AI-készültsége erősen előtérbe helyezett, de többségük még nem üzemeltet széleskörű, éles rendszereket:
- 38% kísérletezik (proof-of-concept szinten)
- 37% futtat bizonyos termelési munkaterheléseket, de nem szervezet-szintűen
- 21% üzemeltet AI-t élesben, nagy léptékben
- 4% egyelőre nem futtat AI-munkaterhelést
Azaz a vállalatok 76%-a vagy kísérletezik, vagy csak részben van élesben — a többség tehát még korai fejlesztési fázisban van, miközben a költség- és kapacitásigényeik növekedni fognak.
Mire futtatják ma az AI-t?
A jelenlegi stack nagyrészt a jól ismert, általános felhő- és modell-API szereplőkre épül:
- 48% használ Google Cloudot (Microsoft Azure 29%, AWS 22%, Oracle Cloud 22%)
- 41% használ Google Gemini modelleket; OpenAI 40%, Anthropic 12%
- 6% üzemeltet saját, helyszíni vagy co-located GPU klasztert; 4% egyéni, open-source, self-managed stacket
- Kevesebb mint 2% használ ma a specializált AI-felhőket (például CoreWeave, Lambda, Crusoe, Nebius, Together, Fireworks)
A specializált GPU-felhők jelenleg gyakorlatilag nem jelennek meg a mintában, míg a nagy általános felhők és a modell-API-k dominálnak.
Hova mennek a következő beruházási dollárok?
A következő 12 hónapra tervezett értékelési szándékok eltérnek a jelenlegi használattól:
- 45% tervezi értékelni AI-specializált felhőket (CoreWeave, Lambda, Crusoe, Nebius) — ez a legmagasabb arány
- 32% tervezi értékelni nem-NVIDIA gyorsítókat (AWS Trainium, Google TPU, AMD Instinct, Intel Gaudi, házon belüli ASIC)
- 28% tervezi értékelni Nvidia Blackwell / következő generációs GPU-kat
- 16% tervezi decentralizált vagy elosztott számítástechnikai hálózatok értékelését
- 11% tartja fontosnak a szuverén vagy régióspecifikus compute lehetőségeket
Ez a trend arra utal, hogy a vállalatok a jelenlegi általános felhőkről, vagy azok mellett, a specializált megoldások felé készülnek áthelyezni munkaterheléseiket.
Váltási hullám a láthatáron
A válaszadók jelentős része tervez szolgáltatóváltást vagy kiegészítést:
- 38% számít váltásra 0–3 hónapon belül
- 22% 3–6 hónapon belül
- 7% 6–12 hónapon belül
- 36% nem tervez váltást
Összességében 64% tervez váltani vagy új szolgáltatót bevonni egy éven belül, és a közeljövőben tervezett váltások legnagyobb része a meglévő nagy szereplők (Microsoft Azure, Google Cloud, OpenAI, Gemini) között történő átrendeződésre mutat.
Mitől függ a beszerzés? Nem a token-ár a döntő
A szolgáltatóválasztásnál a legfontosabb tényezők nem a feltüntetett token-költségek:
- 41%: az integráció az meglévő cloud- és adatinfrastruktúrával
- 35%: teljes birtoklási költség (TCO)
- 24%: teljesítmény (latencia és áteresztőképesség)
- 19%: biztonság/compliance, autoscaling, GPU-hozzáférhetőség/availability
- 8%: költség 1M tokenre
A cégek a szolgáltató illeszkedését és a valós TCO-t helyezik előtérbe a marketing-feltüntetett egységár helyett — ugyanakkor a mérések szerint sokan nem tudják szigorúan követni ezeket a költségeket.
Kihasználtság alacsony, költség-átláthatóság hiányzik
A működő GPU-k kihasználtsága alacsony:
- 37% 26–50% kihasználtság
- 34% 10–25%
- 15% kevesebb, mint 10%
- 12% több mint 50%
- 8% nem méri a kihasználtságot; 7% kizárólag API-n keresztül fogyaszt és nincs saját GPU
A GPU-kat üzemeltető vállalatok 83%-a számol be 50% vagy annál alacsonyabb kihasználtságról, és majdnem fele (49%) 25% vagy annál alacsonyabb szinten futtatja a kapacitást. Ez az üresen álló, de drága erőforrások egyik legfontosabb jele.
A költségmérésre vonatkozóan:
- 44% képes szigorúan nyomon követni a compute-költséget és ROI-t
- 39% csak részlegesen követi
- 20% még nem képes kvantifikálni
- 6% számára nem prioritás
Tehát kevesebb mint a vállalatok fele tudja szigorúan mérni AI-compute költségeit, miközben a TCO a döntési szempontok között az élmezőnyben van.
A következő szűk keresztmetszet — memóriakapacitás — még nem élharcos
Amikor arra kérdeztünk rá, hogyan tervezik kezelni a nagy léptékű inference esetén megjelenő áttolódást a suhanéktól (GPU compute) a memóriára (KV-cache kapacitás), a válaszok széttagoltak:
- 31% Dell (PowerScale / Project Lightning)
- 16% Nvidia (Dynamo / ICMSP)
- 10% Hammerspace (Tier Zero), 9% DDN (Infinia)
- 18% vagy nem ismeri ezt a korlátot (9%) vagy még nem foglalkoztak vele (8%)
- A maradék válaszok nyílt forráskódú KV-cache eszközöket, modell-szintű hatékonysági megoldásokat, VAST Data-t, WEKA-t és másokat említenek
Körülbelül egyötödük számára ez a memória-átmenet még nem tudatos probléma, pedig ez fogja formálni a következő architektúrális döntéseket.
Következtetés: a compute gap szélesedik, ha nem nő a láthatóság
A Q2 2026-os, 107 vállalatos mintán alapuló kérdőív irányadó jelzést ad: a vállalatok gyorsan vásárolnak AI-infrastruktúrát, gyakran olyan megoldásokat fontolgatva, amelyeket jelenleg alig használnak, miközben a meglévő GPU-k kihasználtsága alacsony és sokan nem tudják szigorúan követni a költségeket. A beszerzési döntéseket elsősorban az integráció és a teljes birtoklási költség vezérli, de ezeknek a gazdasági mutatóknak a mérése jelenleg hiányos. A következő szűk keresztmetszet — a memóriakapacitás és annak kezelése az inference-nél — sok cégnél még nem kapott prioritást. Ha a vállalatok nem építik ki a gazdasági láthatóságot, a gyors költekezés nem csökkenti, hanem inkább növeli a compute gap-et.
