OpenAI bejelentette első saját fejlesztésű gyorsítóchipjét, amelyet Jalapeñónak neveztek el. A cég szerint a chip 700 wattos fogyasztásra méretezett inferencia-gyorsító, amelyet Broadcommal együtt fejlesztettek, és a tervezés mindössze kilenc hónapot vett igénybe. A Jalapeño az OpenAI kommunikációja szerint az első a tervezett három generációs sorozatból.
Teljesítmény és költség
A SemiAnalysis által közzétett benchmarkok alapján a Jalapeño egyes feladatokban 104-szeres gyorsulást mutatott a Nvidia GB200 és GB300 GPU-khoz képest. A független elemzés szerint a chip költsége körülbelül 1,56 dollár chip-óránként.
Mire jelent ez a CUDA-ökoszisztéma számára?
A bejelentés nyomán többen azt állították, hogy „CUDA halott”, vagy legalábbis a Jalapeño fenyegetést jelent a meglévő CUDA-alapú GPU-ökoszisztéma dominanciájára. A cikk idézi a korábbi hasonló jóslatokat: a Google TPU-ról és a Groq-ról is azt hitték korábban, hogy véget vetnek a CUDA fölényének — utóbbi kapcsán a forrás azt állítja, hogy Nvidia 20 milliárd dollárért vásárolta meg a Groq technikáját.
Ugyanakkor a valós gyakorlatban ezek a „CUDA halála” jóslatok gyakran nem következnek be: a TPU-k elsősorban a Google belső használatában maradtak, és számos kisebb vagy alternatív megoldás végül vagy Nvidia felvásárlásához, vagy zárt, egy vállalaton belüli szolgáltatáshoz vezetett. A Jalapeño esetében is felmerül a kérdés, hogy az OpenAI mennyire tervezi majd mások számára elérhetővé tenni a chipet; a jelenlegi bejelentés nem ígér általános kereskedelmi értékesítést.
Mit érdemes figyelni továbbra is?
- A SemiAnalysis benchmarkjai és költségbecslései fontos, de független megerősítésre érdemesek.
- Ha a Jalapeño valóban zárt rendszerként marad az OpenAI adatközpontjaiban, akkor a technikai előny nem feltétlenül gyengíti a CUDA-ökoszisztéma piaci pozícióját a felhasználók számára elérhető termékek terén.
- Az, hogy a Jalapeño az első generációs chip, amelyet további két generáció követ, azt jelenti, hogy az OpenAI tovább fejlesztheti a saját hardverét, ami hosszabb távon befolyásolhatja a versenyt a nagy nyelvi modellek kiszolgálásában.
Összességében a Jalapeño bejelentése technológiai fejlődést és potenciális versenynyomást jelez a jelenlegi GPU-kra, de a hatás mértéke attól függ, hogy az OpenAI milyen mértékben teszi elérhetővé a chipet kívülállók számára, és hogyan viszonyulnak a független benchmarkok a valós használati esetekhez.
