A Cloudflare saját mesterségesintelligencia-modellek fejlesztésébe kezdett: a Clef döntési modell és a Clairic nevű kinyerési modell egyaránt az úgynevezett System One kategóriába tartozik. A vállalat a gyors, kis késleltetésű feladatokra szánt modellek mellett később más típusokkal is bővítheti kínálatát.
Michelle Chen, a Cloudflare AI Platform termékoldali vezetője az AI Engineer Code Summit rendezvényen beszélt a vállalat új irányáról. A Latent Space-nek adott interjúban elmondta, hogy érvelő modellekkel és más nagy nyelvi modellekkel is kísérleteznek. Nem valószínű azonban, hogy a vezető AI-laborokhoz hasonlóan nulláról előtanított modellek építésére összpontosítanak: a csapat nagy része utótanítással foglalkozik, így a cél meglévő erőforrások hatékonyabbá tétele lehet.
Infrastruktúrából modellfejlesztés
Chen a Cloudflare-t „neolabként” írta le, bár a kifejezés szokásos jelentésébe a vállalat csak részben illik bele. A fogalmat Stephanie Palazzolo, a The Information munkatársa alkotta meg az előző év novemberében a kutatásközpontú AI-startupok új nemzedékére. Deedy Das, a Menlo Ventures partnere szerint az ilyen cégek jellemzően kiváló kutatókat foglalkoztatnak, sok számítási kapacitást használnak, jelentős finanszírozást vonnak be, de még nem rendelkeznek számottevő bevétellel. A példák között szerepel a Thinking Machines Lab, a Poolside és a TypeSafe AI.
A Cloudflare ezzel szemben tőzsdei vállalat, jelentős bevétellel. Matthew Prince vezérigazgató szerint a vállalat a harmadik negyedévben 782 millió dolláros bevételt ért el, ami éves összevetésben 39 százalékos növekedés, és az évesített bevétel meghaladta a 3 milliárd dollárt.
Chen szerint a modellfejlesztés ennek ellenére természetes folytatása a cég fejlődésének. A Cloudflare az infrastruktúra után számítási szolgáltatásokat – köztük a Workers platformot és az ágensek támogatását –, valamint tárolást épített ki, a Workers AI-n pedig nyílt súlyú modelleket, például a Kimi, a GLM és a DeepSeek modelljeit is kiszolgálja.
A Jev mintája és a Clef
A saját modellfejlesztés közvetlen ösztönzője a TypeSafe AI Jev nevű modellje volt, amely szeptemberben jelent meg. Chen szerint a System One megközelítés azért illik a Cloudflare működéséhez, mert nem minden kérést kell nagy nyelvi modellhez továbbítani: egyes feladatokat kisebb, gyorsabb modellek is elvégezhetnek, milliszekundumokban, nem pedig másodpercekben mérhető válaszidővel.
A Clef a Jev mintájára készült döntési modell. Chen elmondása szerint a Cloudflare két hét alatt építette meg, míg a TypeSafe AI-nak két évébe telt a Jev létrehozása. A különbséget a TypeSafe AI úttörő munkájának tulajdonította: a Cloudflare már ismerte a követendő megoldást, többek között az API szerkezetét.
A Clairic strukturálatlan adatokból nyer ki értékeket
A múlt hónapban bemutatott Clairic a Cloudflare saját továbbfejlesztése a System One megközelítésen belül. Kinyerési modellként strukturálatlan bemenetből képes értékeket kinyerni, kiszámítani, megbecsülni és előre jelezni.
A csapat olyan feladatot keresett, amelyhez a nagy nyelvi modellek túlméretezettek, és nem mindig adnak helyes választ. Chen szerint az autoregresszív nyelvi modellek strukturálatlan adatok feldolgozásakor hallucinálhatnak, vagy hibás JSON-t állíthatnak elő. Példaként egy számla rendelési számát említette: az adat jelen lehet a dokumentumban, a modell mégis téves értéket adhat vissza.
A Clairic célja, hogy egyetlen előrefelé történő feldolgozási lépésben nyerjen ki egy meghatározott típusú értéket – például egy számot – a strukturálatlan adatokból.
A saját modellek a függőséget is csökkenthetik
Chen szerint a saját fejlesztés lehetőséget ad a Cloudflare-nek arra, hogy pótolja a számára hiányzó modelleket, és mérsékelje az AI-szolgáltatások működési kockázatait. A Jev zárt forráskódú volt, ezért a Cloudflare nem tudta saját maga futtatni; más modelleknél szabályozási kockázatok vagy költséges licencek jelenthetnek bizonytalanságot. A vállalat ezért a System One modelleken túl is vizsgálja, milyen további modelleket tudna létrehozni meglévő alapokra építve.



