Az Ollama, a fejlesztőknek helyben és felhőn egyaránt nyílt súlyú AI-modellek futtatását megkönnyítő nyílt forráskódú eszköz, 65 millió dolláros Series B befektetést zárt, amelyet a Theory Ventures vezetett — közölte Jeff Morgan, az Ollama alapító-vezérigazgatója a TechCrunch-cal. Ez a kör követi a Benchmark vezette, Peter Fenton által vezetett 15 millió dolláros Series A-t; a vállalat eddig összesen 88 millió dollárt gyűjtött.
Mit csinál az Ollama és hogyan terjeszkedik
Az Ollama 2023-ban indult, és elsődlegesen azzal segíti a fejlesztőket, hogy nyílt súlyú modelleket futtassanak saját PC-iken percek alatt. A projekt erősen népszerű a fejlesztői közösségben: GitHubon mintegy 176 000 csillagot és közel 17 000 forkot gyűjtött. Emellett az Ollama kereső- és hoszting szolgáltatást is kínál: a vállalat saját „neocloud” rétegen nagyobb, összetettebb modelleket hosztol több előfizetési szinten — ingyenestől akár 100 dollár/hónapig — és a használatot GPU-idő alapján méri, nem tokenkorlátok szerint.
Alapítók és előzmények
Az Ollama alapítója, Jeff Morgan, és társalapítója, Michael Chiang, korábban a Docker Desktop fejlesztésében játszottak szerepet; a Dockerhoz egy korábbi startupjuk, a Kitematic értékesítése után kerültek. A csapat tapasztalataik alapján hasonló problémát igyekeznek megoldani az AI területén: míg a Docker a konténerekkel egyszerűsítette a cloud-desktop átjárhatóságot és a hardverkonfigurációs gondokat, az Ollama célja, hogy a nyílt modellek használatát tegye könnyebbé a fejlesztők számára.
Felhasználói számok és csapat
Jeff Morgan szerint az Ollama "több mint 8,9 millió fejlesztő által használt havonta", jelen van a Fortune 500 vállalatok 85%-ánál, és a cég mindössze 14 alkalmazottal működik. A cég bevételeiről és az új értékelésről a vezetők nem nyilatkoztak.
Piaci kontextus és üzleti stratégia
A vállalat szerint a bizonyító pont 2024 januárjában jött el, amikor az OpenClaw és más nagyobb nyílt modellek hirtelen "agentikus" feladatokra — például kódolásra — váltak alkalmassá. Ez a változás erősítette meg azt az elképzelést, hogy a fizető felhasználók, különösen a nagyvállalatok és AI-alkalmazásokat építő startupok, költséghatékonysági okokból egyre inkább a megfizethetőbb, nyílt modellek felé fordulhatnak, miközben a zárt modelleket (például Anthropic) igény szerint használják.
Benchmark társtagja, Peter Fenton szerint nem kizárólagos verseny várható a nyílt és zárt modellek között: mindkét iránynak lesz piaca, ugyanakkor sok vállalatnál az inference (modellek használatának) költségei olyan „létezésbeli” kényszert jelentenek, amely a nyílt súlyú modellek felé mozdíthatja őket.
Versenytársak és ökoszisztéma
Az Ollama felbukkanása egy szélesebb trend része: az AI-hoz kapcsolódó nyílt forráskódú projektekből több startup nőtt ki, amelyek befektetők érdeklődését is felkeltik. Emellett léteznek egyéb nyílt forráskódú inference-szolgáltatók és modellek, például Inferact (vLLM), RadixArk (SGLang), OpenClaw és alternatívái, mint a NanoClaw, valamint kisebb csapatok, amelyek saját modelleket fejlesztenek, például Arcee.
Közösségi kritikák és vállalati válasz
Az Ollama cloud-szolgáltatásának bevezetése nem ment ellenállás nélkül: mintegy egy éve több blog- és közösségi poszt kritizálta, hogy a fizetős cloud-termék elvonhatja a figyelmet az ingyenes, nyílt forráskódú projekt fejlesztésétől, és az Ollamát a fejlesztői eszközök „enshittification” jelenségének példájaként említették.
Jeff Morgan szerint azonban a cloud-szolgáltatás a nyílt forráskódú küldetés evolúciója: a legkorszerűbb, nagyméretű nyílt modellek gyakran „túl nagyok ahhoz, hogy a felhasználó saját gépén fussanak”, ezért a cég célja, hogy segítsen megtalálni a szükséges számítási kapacitást. Peter Fenton board-tag hozzátette: az asztali, ingyenes alaptermék változatlan maradt, és továbbra is ott lehet felfedezni és helyben futtatni modelleket.
