Modellbevezetés

Mesterséges intelligenciával generált szöveg

Saját mesterségesintelligencia-modellek fejlesztésébe kezdett a Cloudflare

A Cloudflare internetes infrastruktúrával foglalkozó vállalat saját mesterségesintelligencia-modellek fejlesztésébe kezdett, és új mesterségesintelligencia-laborként, úgynevezett neolabként hivatkozik magára.

Saját mesterségesintelligencia-modellek fejlesztésébe kezdett a Cloudflare

A Cloudflare saját mesterségesintelligencia-modellek fejlesztésébe kezdett: a Clef döntési modell és a Clairic nevű kinyerési modell egyaránt az úgynevezett System One kategóriába tartozik. A vállalat a gyors, kis késleltetésű feladatokra szánt modellek mellett később más típusokkal is bővítheti kínálatát.

Michelle Chen, a Cloudflare AI Platform termékoldali vezetője az AI Engineer Code Summit rendezvényen beszélt a vállalat új irányáról. A Latent Space-nek adott interjúban elmondta, hogy érvelő modellekkel és más nagy nyelvi modellekkel is kísérleteznek. Nem valószínű azonban, hogy a vezető AI-laborokhoz hasonlóan nulláról előtanított modellek építésére összpontosítanak: a csapat nagy része utótanítással foglalkozik, így a cél meglévő erőforrások hatékonyabbá tétele lehet.

Infrastruktúrából modellfejlesztés

Chen a Cloudflare-t „neolabként” írta le, bár a kifejezés szokásos jelentésébe a vállalat csak részben illik bele. A fogalmat Stephanie Palazzolo, a The Information munkatársa alkotta meg az előző év novemberében a kutatásközpontú AI-startupok új nemzedékére. Deedy Das, a Menlo Ventures partnere szerint az ilyen cégek jellemzően kiváló kutatókat foglalkoztatnak, sok számítási kapacitást használnak, jelentős finanszírozást vonnak be, de még nem rendelkeznek számottevő bevétellel. A példák között szerepel a Thinking Machines Lab, a Poolside és a TypeSafe AI.

A Cloudflare ezzel szemben tőzsdei vállalat, jelentős bevétellel. Matthew Prince vezérigazgató szerint a vállalat a harmadik negyedévben 782 millió dolláros bevételt ért el, ami éves összevetésben 39 százalékos növekedés, és az évesített bevétel meghaladta a 3 milliárd dollárt.

Chen szerint a modellfejlesztés ennek ellenére természetes folytatása a cég fejlődésének. A Cloudflare az infrastruktúra után számítási szolgáltatásokat – köztük a Workers platformot és az ágensek támogatását –, valamint tárolást épített ki, a Workers AI-n pedig nyílt súlyú modelleket, például a Kimi, a GLM és a DeepSeek modelljeit is kiszolgálja.

A Jev mintája és a Clef

A saját modellfejlesztés közvetlen ösztönzője a TypeSafe AI Jev nevű modellje volt, amely szeptemberben jelent meg. Chen szerint a System One megközelítés azért illik a Cloudflare működéséhez, mert nem minden kérést kell nagy nyelvi modellhez továbbítani: egyes feladatokat kisebb, gyorsabb modellek is elvégezhetnek, milliszekundumokban, nem pedig másodpercekben mérhető válaszidővel.

A Clef a Jev mintájára készült döntési modell. Chen elmondása szerint a Cloudflare két hét alatt építette meg, míg a TypeSafe AI-nak két évébe telt a Jev létrehozása. A különbséget a TypeSafe AI úttörő munkájának tulajdonította: a Cloudflare már ismerte a követendő megoldást, többek között az API szerkezetét.

A Clairic strukturálatlan adatokból nyer ki értékeket

A múlt hónapban bemutatott Clairic a Cloudflare saját továbbfejlesztése a System One megközelítésen belül. Kinyerési modellként strukturálatlan bemenetből képes értékeket kinyerni, kiszámítani, megbecsülni és előre jelezni.

A csapat olyan feladatot keresett, amelyhez a nagy nyelvi modellek túlméretezettek, és nem mindig adnak helyes választ. Chen szerint az autoregresszív nyelvi modellek strukturálatlan adatok feldolgozásakor hallucinálhatnak, vagy hibás JSON-t állíthatnak elő. Példaként egy számla rendelési számát említette: az adat jelen lehet a dokumentumban, a modell mégis téves értéket adhat vissza.

A Clairic célja, hogy egyetlen előrefelé történő feldolgozási lépésben nyerjen ki egy meghatározott típusú értéket – például egy számot – a strukturálatlan adatokból.

A saját modellek a függőséget is csökkenthetik

Chen szerint a saját fejlesztés lehetőséget ad a Cloudflare-nek arra, hogy pótolja a számára hiányzó modelleket, és mérsékelje az AI-szolgáltatások működési kockázatait. A Jev zárt forráskódú volt, ezért a Cloudflare nem tudta saját maga futtatni; más modelleknél szabályozási kockázatok vagy költséges licencek jelenthetnek bizonytalanságot. A vállalat ezért a System One modelleken túl is vizsgálja, milyen további modelleket tudna létrehozni meglévő alapokra építve.