Modal, az AI-infrastruktúra platform, amelyet Erik Bernhardsson vezet, azzal a céllal építette fel szolgáltatását, hogy a fejlesztők és modellezők kódfuttatása „szervermentesen” történjen: a felhasználóknak ne kelljen klasztereket előre lefoglalni, a terhelést megjósolni vagy az üres gépekre fizetni. A cég az elmúlt hónapokban gyors ütemben nőtt: állítása szerint átlépte az egymilliárd dolláros évesített forgalmi rátát, befejezte a 750 millió dolláros Series D körét 16 milliárd dolláros értékeltségen, és közel hárommilliárd sandboxot (ideiglenes futtatókörnyezetet) indított el.
A probléma: a kereslet nem négyszögletes
A tipikus kapacitás-szerződés fix GPU-számot biztosít egy fix időszakra — ha a kapacitást időben ábrázoljuk, ez téglalap. A valós munkaterhelés ezzel szemben erősen ingadozik: növekszik, csúcsosodik, apad. Ha valaki a csúcsra vásárolja a kapacitást, sok időt fizet ki üresen álló hardverért; ha kevesebbet vásárol, lemaradhat a keresletről.
Erik Bernhardsson Modalnál a megoldást úgy fogalmazza meg, hogy a vállalat „időtartam-transzformációt” hajt végre: sok ezer ügyfél keresletét egy medencében egyesítik, alulról biztosítanak kapacitást, és minden ügyfél abból vesz fel, amennyi éppen szükséges. Minél kisimultabb az aggregált kereslet, annál hatékonyabban lehet a poolot működtetni.
Ez a megközelítés különbözik azoktól a játékosoktól, akik a kapacitást kereskedhetővé próbálják tenni: Modal elsősorban az eltérő, rugalmas darabokban való használhatóságra tesz lapot, nem csak a kereskedhetőségre.
A pénzügyi kockázat: lekötött kapacitás és árveszély
A cég ma jellemzően bérelt kapacitást használ: korábban sokat dolgoztak a hyperscalerek spot és on‑demand kapacitásával, de a piac idén változni kezdett. Hogy a szükséges mennyiséget megkapják, Modal mostanra közel 25 felhő/neo‑cloud partnert használ, és sok esetben hároméves szerződéseket kötnek előre fizetéssel. Ez tőkekényszert és pénzügyi kockázatot jelent: ha valaki ma magas áron köt le kapacitást, majd később a GPU‑árak esnek, veszteségbe kerülhet.
Bernhardsson nem számít az árak azonnali összeomlására, de hangsúlyozza, hogy a „vásárlás a csúcson” kockázata reális tényező a stratégia kialakításkor. Ugyanakkor a költséges, korlátozott kapacitás rövid távon lehetővé teszi a szolgáltatók számára, hogy magasabb díjat kérjenek — ez a piaci ritkasági prémium (scarcity rent) jelenlegi forrása.
Hol jöttek az igények? A sandboxok története
Modal korai terméke a funkcionalitás (serverless functions) volt; később a sandboxes ötlete onnan született, hogy a nyelvi modellek kódot generálnak, és kellett egy hely, ahol azt futtatni lehet. A sandboxok induló felhasználása szerény volt, olyannyira, hogy a csapat egy időre bezárásukat is fontolgatta. A megfelelő idejében megjelent kódolási ügynökök (coding agents), háttérügynökök és megerősítéses tanulási munkaterhelések azonban hirtelen nagy keresletet hoztak — a sandboxok ma a Modal bevételének körülbelül egyharmadát adják, egy olyan részarány, amelyet a vezetés kezdetben nem várt.
A sandboxok növekedése műszaki következményekkel jár: az ügynökök és automatizált folyamatok többször létrehoznak, visszaállítanak és újraindítanak környezeteket, így a sandbox-indítás és -helyreállítás késleltetése immár a felhasználói élmény részévé vált. Ennek csökkentésére Modal fejlett snapshoting, checkpointing és egyedi fájlrendszer‑megoldásokat dolgozott ki.
Gyors indítás: infrastruktúrafunkció
A rugalmas kapacitás csak akkor működik, ha az új erőforrások elég gyorsan elérhetővé válnak. Modal technikái közé tartozik GPU‑puffer, saját fájlrendszer, folyamat‑checkpointing és GPU‑memória snapshotok: ezek a megoldások csökkentik egy új modellreplika életrehívásához szükséges munkát, így javítják a válaszidőt és a költséghatékonyságot.
Hogyan szerzik be a kapacitást?
A Modal korábban főleg spot és egyéves foglalásokra támaszkodott hyperscalereknél (AWS, GCP), de ahogy a cég és a piac nőtt, egyre több, hosszabb távú, előre fizetett hároméves megállapodás vált szükségessé. A vállalat jelenleg nagyszámú partnerrel tárgyal és külön beszerzési csapatot és szerverüzemeltető mérnököket foglalkoztat, akik a bare‑metal kapacitás kezelésével, hálózati problémákkal és eszköz‑megbízhatósággal foglalkoznak. Modal eddig nem vásárolt saját hardvert, minden kapacitást bérlet formájában vesz igénybe.
Bernhardsson szerint a bérlés tőkehatékonysági előnyt ad, és egyszerre csökkenti az üzemeltetési és pénzügyi komplexitást, de nem zárja ki azt, hogy a jövőben egyes kombinált vagy részleges vásárlások is lehetségesek legyenek.
Alternatív gyorsítók, neocloudok és GPU‑eszközosztály
Modal figyeli az NVIDIA‑alternatívákat (TPU, Cerebras, Groq stb.). Bár a piac egyelőre erősen NVIDIA‑központú, Bernhardsson szerint többféle gyorsító és diszaggregált hardver‑kombináció jelenthet előnyt bizonyos feladatokra.
A neocloudok piaci modelleket és pénzügyi konstrukciókat használnak (hosszú előrendelések, pénzügyi lever ugyanezekre), amelyek gyors skálázódást tesznek lehetővé; Modal inkább termékvezérelt, „product‑led” növekedést folytatott, ami más pénzügyi dinamikát adott.
Termékportfólió: functions és sandboxes, plusz irányok
Ma Modal két fő termékkörrel azonosítja magát: Modal Functions (serverless funkciók, főleg inference‑re) és Modal Sandboxes. A Functions a bevétel mintegy kétharmadát adja, a Sandbox körülbelül egyharmadát.
A cég most olyan területeket is épít, amelyekben növekvő igényt lát: kisebb és közepes méretű tanítási (training) munkák, batch feldolgozás nagy mennyiségű adathoz (például éveknyi audio átírása), valamint alacsony késleltetésű alkalmazások és ügynök‑vezérelt munkafolyamatok. Emellett foglalkoznak snapshotinggal, gyors sandbox‑indítással, forkolással és live migration‑nel, hogy rövidebb, finomabb futtatási egységekre tudják darabolni a munkát.
Biztonság, exploitok és defenzív ügynökök
A beszélgetésben kitérnek egy nyilvános incidensre: egy Modalon futó alkalmazáson keresztül kihasználtak egy sérülékenységet, amelyet nem a platform feltörése, hanem az alkalmazás sebezhetősége tett lehetővé. Modal tanulságként a biztonsági alapértelmezések megkeményítését és további megfigyelési/korlátozó beállítások bevezetését vizsgálja.
Érdekes módon a cég belső tesztként ügynököket („escape the sandbox” jellegű feladatokkal) használ arra, hogy automatizáltan keressenek sebezhetőségeket — az ügynökök támadóként és védekező eszközként is hasznosíthatók.
Szervezeti és működési megfontolások
Modalnál megnőtt a Forward‑Deployed Engineers (FDE) létszám: az ügyféltámogatáson, teljesítményhangoláson és migráción dolgozó FDE‑k feladata részben az, hogy rövid távon segítsenek ügyfeleknek, hosszabb távon pedig a meglévő megoldásokat olyan termékekké alakítsák, hogy a jövőben már ne legyen szükség személyes beavatkozásra.
A cég produkt‑ és kultúraépítéssel, mérnöki toborzással (főként rendszerszintű, Linux/FS/GPUs specialista mérnökökre) és a gyors növekedéshez kapcsolódó vállalati problémákkal (kultúra, onboarding, skálázás) is foglalkozik. Bernhardsson megjegyzi: a kód‑ellenőrzés (code review) Modalnál opcionálisabbá vált, feltéve, hogy jól automatizált CI/CD és tesztelési rutinok vannak.
Összefoglaló: miért számít mindez
- A GPU‑kapacitás piaci szerződései gyakran „téglalap alakúak” (fix darabszám × idő), miközben a valós kereslet hullámzó. Modal stratégiája az aggregálás és a gyors, rugalmas újraosztás, ami csökkenti az ügyfélköltségeket és növeli a hatékonyságot.
- A technikai megoldások (snapshotok, checkpointing, egyedi fájlrendszer, gyors sandbox‑indítás) szoros kapcsolatban állnak a felhasználói élménnyel: a gyorsabb indítások és kisebb tranzakciós költségek lehetővé teszik a jóval rugalmasabb, burst‑orientált felhasználást.
- A pénzügyi oldalon a hosszú távú előre fizetett kapacitáslekötések csökkentik a rövid távú elérhetőségi kockázatot, ugyanakkor árkockázatot (vásárlás a csúcson) és jelentős előlegigényt jelentenek.
Modal pozíciója: a cég egy „időtartam‑transzformátort” és fejlesztőbarát infrastruktúra‑szolgáltatást épít, amely a szervermentes gondolkodást és a nagy, dinamikus kapacitáspoolok menedzselését kombinálja a gyors sandbox‑élménnyel. Az eredmény egy olyan modell, amelyhez a vállalat szerint vonzódik a fejlesztői közösség és amely üzleti növekedést hozott a közelmúltban (Series D, ARR, sandbox‑számok).
Kulcsmutatók és mérföldkövek
- Modal szerint átlépte az 1 milliárd dolláros évesített futási rátát (annualized run rate).
- A vállalat bejelentette, hogy 750 millió dolláros Series D befektetést zárt 16 milliárd dolláros értékeltségen.
- A platform közel hárommilliárd sandboxot indított el az alapítás óta.
Ezek a számok és az infrastruktúra‑dizájn együttesen magyarázzák, hogy miért tartja Bernhardsson fontosnak a rugalmas, gyorsan allokálható kapacitást a GPU‑piacon, és miért látja a Modal szerepét abban, hogy a piac téglalap‑szerződéseit rugalmasabb, felhasználóbarátabb formákra fordítsa.
