General Compute, egy AI-inferencia felhőre építő startup, 400 millió dolláros kölcsönt kapott az Upper90 technológiai befektető cégtől. A tranzakció különlegessége, hogy fedezetként inferencia-specifikus chipeket használnak — azokat a lapkákat, amelyeket kifejezetten már betanított AI-modellek gyors és hatékony futtatására terveztek, ellentétben a modellek kiképzésére használt, általában drágább GPU-kkal.
A finanszírozás egy szélesebb piaci jelzést tükröz: a befektetők és ügyfelek érzékelik az AI-eszközök és tokenek költségeinek problémáit, és ezért egyre inkább az olcsóbb, nyílt forráskódú modelleket kiszolgáló infrastruktúrák felé fordulnak, ahelyett, hogy a legújabb, frontier laborok által fejlesztett nagyméretű nyelvi modellek (LLM-ek) futtatására törekednének.
A cég és a technológia
General Compute-t Finn Puklowski alapította, és a vállalat májusban 15 millió dolláros seed-körös befektetést vont be a SambaNova szilíciumára épülő inferencia neocloud kiépítésére. A SambaNova chipgyártó az Intel támogatását élvezi. A "neocloud" itt arra utal, hogy a szolgáltatás kifejezetten AI-munkaterhelésekre optimalizált infrastruktúrát kínál, megkülönböztetve azt a hagyományos, általános célú hyperscaler-szolgáltatóktól, mint az AWS vagy az Azure.
General Compute SN50 névre hallgató chipei kifejezetten inferenciára készültek: energiahatékonyak, és nem igényelnek költséges vízhűtést, ami lehetővé teszi a gyorsabb telepítést a GPU-khoz képest többféle adatközpontban. A cég szerint ezek az új chipek 16-szor gyorsabb inferenciát biztosítanak, mint a GPU-alapú felhők.
Kihívások és a finanszírozás háttere
Az egyik alapvető nehézség az ilyen chipek nagy mennyiségben történő beszerzése, különösen egy frissen induló vállalat számára. Upper90-társ alapító és ügyvezető igazgató Billy Libby — aki korábban a Goldman Sachs kvantitatív kereskedője volt — tapasztalatot szerzett hasonló struktúrák finanszírozásában: cége 2021-ben GPU-vásárlásokat finanszírozott a Crusoe nevű adatközponti startupnál, amit Libby szerint az egyik első olyan kölcsönnek tartanak, amely fejlett chipek értékére épült.
A hagyományos hitelezők korábban elkerülték az ilyen ügyleteket a GPU-k értékcsökkenésének és a piaci bizonytalanságoknak köszönhető kockázatok miatt. Azonban az olyan szereplők, mint a CoreWeave, amelyek chipekre alapozott hiteleket piaci modellé fejlesztettek, majd sikeres tőzsdei bevezetést vittek véghez, hozzájárultak ahhoz, hogy ez a finanszírozási forma elterjedtebbé váljon.
Piaci kontextus és stratégiai jelentőség
Upper90 most, miután a GPU-k finanszírozása viszonylag jól ismertté vált, az inferenciachipek felé fordul, hogy az AI-boom következő hullámából profitáljon. Libby szerint az emberek többségének nem szüksége szuper-számítógépekre, hanem inkább olcsó és hatékony inferenciára és AI-hozzáférésre.
A piac más szereplői is hasonló irányba mozdulnak: az OpenRouter és a Fireworks olyan vállalatok, amelyek nyílt modellekhez biztosítanak hozzáférést, és jelentős értékeléssel szerezték meg a befektetések egy részét. Új modellek és chipgyártók is megjelentek: például Kimi K3 modellje a közelmúltban kompetitív teljesítményt mutatott kódolási benchmarkokon az Anthropic és az OpenAI legújabb kiadásaival szemben, míg olyan chipeket gyártó cégek, mint a Groq és a Cerebras, felkeltették a felvásárlók és a tőzsdei befektetők érdeklődését.
A General Compute stratégiájának egyik sarokpontja, hogy nem kizárólag Nvidia ökoszisztémára épít: ez ugyanazért fontos, amiért más szereplők is alternatívákban gondolkodnak. TensorWave például az AMD-vel kötött partnerségre épít. Ahogy több alternatíva jelenik meg Nvidia mellett, azok az számítási szolgáltatók, amelyek nincsenek Nvidia-szerződésekhez kötve, előnyre tehetnek szert a költséghatékony inferencia biztosításában.
Puklowski szerint több olyan chippal rendelkeznek már, amelyek skálázhatók és kiváló teljes tulajdonlási költséggel (TCO) bírnak, vagy bizonyos esetekben gyorsabbak lehetnek, mint az Nvidia megoldásai, de korlátozott a vásárlói bázisuk. A Upper90-zel kötött megállapodás szerinte nem csupán egy startup tőkeellátását jelenti a számítási kapacitás vásárlásához, hanem „az első jelzés a tőke szerveződésére és az Nvidia monopolhelyzetének feldarabolódására”.
Összefoglalás
A General Compute és az Upper90 ügylete a piaci szemléletváltás egyik példája: a finanszírozás egyre inkább az inferenciahatékonyságra és az alternatív chip-ökoszisztémákra fókuszál, miközben a nyílt forráskódú modellek terjedése új befektetési lehetőségeket teremt az AI-infrastruktúra területén.
