Az OpenAI bemutatta első, saját igényekre tervezett inferenciachipjét, amelyet a Broadcom vállalattal közösen fejlesztettek és gyártatnak. A processzor neve Jalapeño, és kifejezetten az OpenAI inferenciarendszereinek speciális követelményeire optimalizálták.
A vállalat közlése szerint a chip fejlesztésében az OpenAI saját mesterségesintelligencia-modelljei is részt vettek. Jelenleg a Jalapeño tesztelési fázisban van, de az OpenAI szerint az első eredmények arra utalnak, hogy energiahatékonyság tekintetében — azaz az egy watt fogyasztásra jutó teljesítmény alapján — jelentősen felülmúlja a jelenlegi csúcstechnológiás alternatívákat.
A cél: kisebb függőség az NVIDIA-tól
Az OpenAI és a Broadcom partnerségét hivatalosan tavaly októberben jelentették be, bár az OpenAI chipfejlesztési terveiről már korábban is jelentek meg iparági találgatások. A projekt célja világos: mérsékelni az OpenAI függőségét az NVIDIA processzoraitól, amelyek jelenleg az AI-iparág meghatározó hardveres alapját jelentik.
Hasonló megközelítést követtek korábban a Google és az Amazon Web Services is, amelyek saját, úgynevezett AI-gyorsítókat (AI accelerators) fejlesztettek speciálisan gépi tanulási feladatokhoz.
Az OpenAI saját munkaterheléseire optimalizál
Greg Brockman, az OpenAI elnöke a Broadcommal kötött partnerség bejelentése után arról beszélt, hogy az OpenAI mély ismeretekre támaszkodik saját terhelési mintáiról. Brockman szerint a fejlesztés során olyan speciális feladatokat kerestek, amelyek jelenleg nem kapnak megfelelő hardveres támogatást, és céljuk olyan megoldás építése volt, amely kihasználja a lehetőségek határait.
A Jalapeño tervezése kifejezetten az inferencia — azaz a már betanított modellek valós idejű kiszolgálása — optimalizálását célozza. Az OpenAI külön kiemelte, hogy a chip alacsony üzemeltetési költség mellett képes valós időben futtatni a programozási feladatokra optimalizált modelleket.
Korlátok és gazdasági jelentőség
Valószínű, hogy a számításigényesebb feladatok, például nagy modellek előtanítása és betanítása, továbbra is NVIDIA hardveren fognak zajlani. Ugyanakkor még az inferenciaköltségek viszonylag kis mértékű csökkenése is jelentős hatással lehet a vállalat nyereségességére, hiszen az inferencia nagy szerepet játszik az AI-szolgáltatások üzemeltetési költségeiben.
Az iparági trendek alapján az inferenciarendszerek optimalizálása a jövőben a mesterséges intelligencia gazdaságosságának meghatározó tényezőjévé válhat, és ez az optimalizáció az infrastruktúra minden szintjén megjelenik majd.
Teljes vertikum fölötti kontrollra törekvés
Az OpenAI közlése szerint stratégiájuk túlmutat a modellek fejlesztésén: a vállalat a modellalatti infrastruktúrát is saját kezében tartaná. A közlemény említi, hogy az OpenAI maga tervezi a chiparchitektúrát, az alacsony szintű futtatókörnyezeteket (kerneleket), a memóriarendszereket, a hálózati infrastruktúrát, az ütemezési mechanizmusokat, a telepítési rendszereket és a felhasználói élményt.
Szerintük ez a teljes rendszerre kiterjedő rálátás és optimalizálhatóság adja versenyelőnyüket: ha minden réteg ugyanazon cél érdekében hangolható, a modellek gyorsabbak, megbízhatóbbak és a felhasználók számára megfizethetőbbek lehetnek.
Jelenlegi állapot
A Jalapeño tehát most a tesztelési fázisnál tart, és az OpenAI által közölt kezdeti eredmények az energiahatékonyság jelentős javulását mutatják a meglévő csúcsalternatívákhoz képest. A további részletek és a szélesebb körű telepítés ütemezése egyelőre nem szerepeltek a közleményben.
