Naveen Rao, a Databricks korábbi AI-vezetője által alapított Unconventional AI azt ígéri, hogy új, oszcillátoralapú számítástechnikai architektúrával nagyságrendileg csökkenti a mesterséges intelligencia inferencia-folyamatainak energiafelhasználását.
Un-0: első bemutató szoftverszimuláción
A vállalat csütörtökön mutatta be első modelljét, az Un-0 nevű képalkotó rendszert, amely a cég szerint meg tudja ismételni a hagyományos képalkotó AI-modellek viselkedését. A bejelentéshez tartozó kutatási cikk részletezi, hogy az Unconventional kutatócsapata egy új architektúra szoftverszimulációján épített teljes értékű képalkotó modellt, amely teljesítményben összehasonlítható a korszerű diffúziós megoldásokkal.
Rao a TechCrunchnak azt mondta: „Ez egy újfajta számítógép 'hello world' programja. A következő év során érdekes híreket fogtok látni ezzel kapcsolatban.”
Mi a különbség az oszcillátor-alapú architektúra mögött?
Az Un-0 kimenete hasonló eredményeket ad, mint olyan modelleké, mint a Stable Diffusion vagy az OpenAI GPT Image 1; a lényeges különbség a mögöttes hardverkoncepció. Az Unconventional architektúrája oszcillátorokra épül, és teljesen eltér a hagyományos chipek és a jelenlegi LLM-eket kiszolgáló rendszerek felépítésétől. Rao szerint az oszcillátoralapú számítástechnika előnyei összetettek, de végső soron akár ezerszeres energia-megtakarítást is eredményezhetnek az inferenciánál.
Hardver és infrastruktúra: még építés alatt
Jelenleg az Un-0 egy szoftverszimuláción futó, még be nem épített oszcillátor-chipek viselkedését modellezi; a fizikai lapkák sémarajzait a cég a közeljövőben tervezi közzétenni. A hosszabb távú terv egy teljesen új inferencia-stacket felépíteni az alapoktól: Unconventional AI chipjeinek gyártásával és ezekre épülő rendszerekkel a vállalat idővel számítástechnikai kapacitást kínálna, ahogy más szolgáltatók is.
Rao így fogalmazott: „Új típusú rendszert fogunk építeni a chipjeinkből. AI-modelleket fogunk ott futtatni, lesz egy hálózati kábel, ahol a promptok bejönnek és az inferenciák kimennek, de ezt az energiának 1/1000-én fogjuk megvalósítani.”
Ambiciózus célok, kis csapat
A célkitűzés kimondottan ambiciózus, különösen egy olyan cégtől, amelynek munkatársainak száma még kevesebb mint 50. Ugyanakkor a nagymértékű AI-kiterjesztés és az inferencia iránt növekvő kereslet költségeinek tükrében ez az egyik megközelítés lehet a probléma skálájának kezelésére.
Rao szerint az energiaellátás lesz az egyik komoly korlát az AI terjedésében: „Az AI skálázása nehéz az energia miatt. Ez lesz a fundamentális korlát a következő néhány évben. Egyszerűen nem lehet túllépni rajta. Végső soron ez egy energia-korlátozott probléma lesz.”
A vállalat további lépései között szerepel a fizikai chipek sémáinak közzététele és a teljes inferencia-infrastruktúra felépítése, de a jelenlegi bemutató alapvetően még szoftverszimuláción alapuló bizonyítási érvet mutat be az oszcillátoralapú megközelítés működőképességére.
Összefoglalás
Az Unconventional AI rövid távon egy szoftverszimuláción futó Un-0 modell formájában demonstrálta az oszcillátor-alapú számítástechnika lehetőségeit, és azt állítja, hogy ez a technológia akár ezerszeres energiahatékonyság-növekedést hozhat az inferenciában. A fizikai chipek és a teljes inferencia-stacket még ki kell fejleszteni, de a cég tervei szerint hosszabb távon ez egy lehetséges válasz lehet az AI energiaigényét korlátozó problémákra.
