Modal, az AI-infrastruktúra platform, amelyet Erik Bernhardsson alapított, az elmúlt hónapokban gyors növekedést jelentett: a vállalat bejelentése szerint átlépte az egymilliárd dolláros évesített forgalmi rátát, 750 millió dollárt gyűjtött egy Series D körben 16 milliárd dolláros értékeltségnél, és közel hárommilliárd „sandboxot” indított el. Bernhardsson a cég üzleti és műszaki döntéseiről beszélt egy hosszabb interjúban, különösen a GPU-kapacitás és a sandboxok gazdaságtanáról.
A "téglalap"-probléma: miért nem illik a valós kereslet a szerződésekhez?
A tipikus kapacitásvásárlás egy fix számú GPU-ra és egy fix időszakra szól — ha a kapacitást időben ábrázoljuk, téglalapot kapunk. A valós munkaterhelések azonban időben változnak: növekednek, kiugranak és apadnak. Ha a csúcsterhelésre vásárolnak, a felesleges időszakokban kihasználatlan hardverért fizetnek; ha kevesebbet vesznek, akkor elvágott kereslet maradhat kielégítetlen.
Bernhardsson Modal-nál ezt a problémát egyfajta „időtartam-transzformációnak” nevezi: sok ezer ügyfél keresletét egyetlen kapacitáspoolba gyűjtve a cég biztosítja az alapkapacitást, és minden ügyfél annyit használ, amennyire éppen szüksége van. Az aggregált kereslet simábbá válik, így a pool működtetése hatékonyabbá tehető. Ez kiegészíti más piac-szemléletű megközelítéseket (például a kapacitás kereskedését), de Modal hangsúlya a finom, rugalmas szeletelésen van.
Ugyanakkor pénzügyi kockázat is van: ha a szolgáltató hosszú távra leköti a kapacitást mai árakon, majd a GPU-árak esnek, a szolgáltató drága készletet tarthat a mérlegén. Bernhardsson szerint nem számít közeli összeomlásra, de ennek a kockázatát figyelembe veszik az üzletépítésnél.
A sandbox, amely majdnem megszűnt — és most a bevétel jelentős része
A Modal korai sandbox-termékeit abból az észrevételből indították, hogy a nyelvi modellek kódot generálnak — kell egy hely, ahol ez a kód lefut. Az induló elfogadottság alacsony volt, és a csapat mérlegelte a leállítást. Aztán a coding agentek, háttérügynökök és a reinforcement learning igény növekedését hozta: a sandboxok ma hozzávetőlegesen Modal bevételének egyharmadát adják — egy olyan eredmény, amelyet a csapat a termék indulásakor nem várt.
Ez a növekedés azt is megváltoztatta, mit kell az infrastruktúrának nyújtania: egy ügynök többször is létrehozhat, indíthat, vizsgálhat és újraindíthat egy környezetet, így a sandboxok indítási és visszaállítási késleltetése része a felhasználói élménynek. A gyors startup és a snapshot/restore képességek ezért fontos termékfunkcióvá váltak.
Műszaki megoldások a gyorsaságért és rugalmasságért
A Modal "serverless GPU" megközelítése több műszaki elemet használ, amelyek csökkentik új replikák online hozásához szükséges munkát:
- GPU-kból tartott gyorspuffer (availability buffer)
- egyedi fájlrendszer megoldások
- process checkpointing (folyamatok lefagyasztása/helyreállítása)
- GPU memória snapshotok
Ezek együtt lehetővé teszik a gyorsabb skálázódást és alacsonyabb tranzakciós költséget az epizodikus, kiugró terheléseknél.
Kapacitásszerzés: többfelé, hosszabb elköteleződésekkel
A Modal korábban elsősorban hyperscalerektől (spot és on-demand) szerezett kapacitást; az elmúlt évben azonban a piaci változások miatt közel 25 felhő- és neocloud-szolgáltatóval dolgoznak együtt. Sok esetben három évnél hosszabb szerződéseket kötnek, előlegfizetéssel és árlekötéssel — ez adminisztratív és műszaki feladatokat, valamint egy külön beszerzési csapatot igényel.
A Modal jelenleg bérli a kapacitást (nem tulajdonolja), és a cégnél tudatosan mérlegelik a vétel vs. bérlés opcióit: a beruházás-igény, operatív komplexitás és pénzügyi kockázatok miatt több konstrukció is szóba jöhet, de a bérlés rugalmasabb maradhat a szoftvercég szemszögéből.
Bernhardsson hangsúlyozza, hogy bár a GPU-k pótlása folyamatban van (NVIDIA szállítások), rövid távon kapacitási feszültség és árnövekedés látható. A legnagyobb kockázat szerinte az lenne, ha a GPU-árak hirtelen összeomlanának — ez azoknak lenne különösen rossz, akik drága, hosszú távú kapacitást kötöttek le a csúcson.
Működési modell: mennyire speciális a Modal?
Modal két fő termékére fókuszál:
- Modal Functions: serverless funkciók és autoscaling, elsősorban inference-re optimalizálva (a bevétel nagy része ma ebből származik).
- Modal Sandboxes: izolált, rövid élettartamú környezetek, amelyeket modellek és agentek futtatására hoztak létre — ez a termék nőtt a cég bevételének körülbelül egyharmadára.
A cég a rugalmasságban és a fejlesztői élményben látja erősségét: a sok ügyfél aggregált kereslete kiegyenlíti a terhelést, így finomabb, kis szeletekre igazítható kapacitást tudnak nyújtani.
Biztonság, üzemeltetés és belső gyakorlatok
A Modal a sandboxok és sandboxon futó ügyfél-alkalmazások izolációára épít; előfordult viszont incidens, amelynél egy ügyfélalkalmazást kihasználva támadás indult egy másik szolgáltatás ellen. Bernhardsson szerint ez nem a Modal platform „feltörése” volt, hanem egy alkalmazásszintű hiba, de a történtek hatására a cég vizsgálja a kockázatcsökkentő, szigorúbb alapértelmezett biztonsági beállításokat.
Érdekes megjegyzés: Modal belsőleg ügynököket (agenteket) is használ sebezhetőségek felkutatására — „escape the room” jellegű tesztelésre a sandboxokban.
A kódáttekintést (code review) a cégnél kevésbé kötöttnek tartják: Bernhardsson szerint sok esetben a jó CI/CD, tesztelés és automatizmus hatékonyabb, és a kézi átnézés opcionálissá tehető, ha a telemetria és a tesztek megbízhatóak.
Szervezet, ügyfélmunka és jövőkép
Modal csapata körülbelül 200 fő körül van, gyors növekedésben (a tervek szerint a szám a következő hónapokban tovább nő). A cég forward-deployed engineers (FDE) csapatot is épít: ezek a mérnökök közvetlenül ügyfeleknél dolgoznak a finomhangoláson és teljesítménytuningon, ugyanakkor cél, hogy az FDE-ken végzett munkák hosszabb távon termékekké konvertálódjanak.
Bernhardsson három fő fókuszterületet említ jelenleg: kapacitás- és pénzügyi menedzsment (beszerzések, árképzés, bérlés vs. tulajdon), termékstratégia (milyen új építőelemekre lesz szükség az agent/AI-korszakban — például gyors snapshotok, alacsony késleltetés, kisebb/hosszabb távú training munkák), és a cégkultúra/építés, mivel a gyors növekedés kulturális kihívásokat jelent.
Kitekintés: alternatív gyorsítók, on-prem és piaci dinamika
Bernhardsson szerint hosszabb távon érdemes alternatív gyorsítókra (non‑NVIDIA) is figyelni: ezek egyre versenyképesebbek bizonyos feladatokban. Az on-prem rendszerekben nem hisz erősen — inkább a multi‑tenant, felhőalapú megoldások felé tolódik a piac — ugyanakkor BYOC (bring‑your‑own‑cloud) és partneri konstrukciók szerepelhetnek a repertoárban, ha ügyfelek igénylik.
A cég finanszírozását és esetleges további tőkebevonását nagy részben kapacitás-lekötésekre és előlegfizetésekre fordítaná: a növekvő igényekhez sokszor előre kell biztosítani a gépparkot.
Összefoglalás
Modal stratégiájának középpontjában a rugalmasság, a fejlesztői/ügynök-élmény és a kapacitás aggregálása áll. A hagyományos, „téglalap” formájú GPU-szerződések nem illeszkednek jól a valós, hullámzó kereslethez: Modal azzal válaszol, hogy sok ügyfél keresletét egyetlen, rugalmas poolba gyűjtve kínál gyorsan elérhető, kis szeletekre osztható kapacitást. A sandboxok váratlanul nagyra nőtek, ma a bevétel jelentős részét adják, és a cég műszaki fejlesztései (snapshotok, checkpointing, egyedi fájlrendszer, GPU-puffer) kulcsfontosságúak a gyors, költséghatékony szolgáltatáshoz.
A vállalat most a kapacitásbeszerzés komplexitásával, a piaci árkockázatokkal és a termékportfólió bővítésével foglalkozik, miközben az ügynökök és sandboxok iránti igény új felhasználási módokat és üzleti lehetőségeket nyit meg.
Forrásmegjelölés: a cikk Modal alapítójával, Erik Bernhardssonnal folytatott interjú és a Modal bejelentései alapján készült összefoglaló.
