OpenAI és Broadcom (NASDAQ: AVGO) ma bemutatta Jalapeño néven az OpenAI első "Intelligence Processor" gyorsítóját: egy olyan, kifejezetten a nagyméretű nyelvi modellek (LLM) inferenciájára tervezett lapkát, amely az OpenAI jövőképére épül. A Jalapeño az első eleme annak a többgenerációs számítási platformnak, amelyet a két cég közösen fejleszt azzal a céllal, hogy az előrehaladott mesterséges intelligenciát gyorsabbá, megbízhatóbbá és szélesebb körben elérhetővé tegye.
A chipet Broadcom elnök‑vezérigazgatója, Hock Tan és elnök, Charlie Kawwas adták át OpenAI vezérigazgatójának, Sam Altmannek és elnökének, Greg Brockmannek, ami fontos mérföldkőnek számít az OpenAI stratégiájában: a modellek és termékek mögötti teljes verem (full stack) kiépítése felé.
Tervezés és együttműködés
Az OpenAI a nulláról tervezte meg a lapkát a saját LLM‑alapú működésének mély ismeretére építve, figyelembe véve a modellfejlesztési ütemtervet, a kernel‑ és serving‑rendszereket, valamint a termékigényeket. A Broadcom és a Celestica partnerek szerepe a chip megvalósításában és iparosításában: Broadcom a szilícium és hálózati technológiákkal, többek között a Tomahawk hálózati szilíciummal járul hozzá, míg a Celestica a lapkákból felépülő board‑, rack‑ és rendszerintegrációt és skálázható gyártást támogatja.
A Jalapeño általános célja az, hogy rugalmasan működjön minden LLM‑el, az OpenAI tapasztalataira alapozott inferencia‑igényeket szem előtt tartva. Műszaki mintapéldányai laborban futtatott gépi tanulási munkaterheléseken a célzott termelési frekvencián és teljesítményfelvételen működnek, többek között a GPT‑5.3‑Codex‑Spark modellel.
Teljesítmény és hatékonyság
Bár az OpenAI még véglegesíti a teljesítményméréseket, a korai tesztek azt mutatják, hogy a Jalapeño watt‑arányos teljesítménye jelentősen jobb lehet a jelenlegi állapot‑of‑the‑art megoldásoknál. A részletes technikai jelentést a következő hónapokban tervezik publikálni. Az új architektúra csökkenti az adatmozgást, és kiegyensúlyozza a számítási, memóriás és hálózati erőforrásokat, ami a valós kihasználtságot közelebb viszi az elméleti csúcsértékekhez.
Szerep a teljes veremben és a stratégiai hatás
Az OpenAI hangsúlyozza, hogy a Jalapeño nem csupán egy általános célú gyorsító átalakítva korábbi AI‑munkaterhelésekhez, hanem egy kifejezetten mai LLM‑inferenciára tervezett blank‑slate megoldás. A cél az, hogy egyesítse a mai vezető AI gyorsítók teljesítményét és áteresztőképességét a leggyorsabb speciális inferencia‑rendszerekhez közelítő késleltetéssel, így különösen alkalmas interaktív LLM‑termékek nagy léptékű kiszolgálására.
OpenAI szerint az infrastruktúrafejlesztés erősíti a vállalat előrehaladását: hatékonyabb számítástechnika jobb képzést és kiszolgálást tesz lehetővé, ami fejlettebb modelleket és jobb termékeket eredményez. Ezek több felhasználót, bevételt és végső soron újra‑befektetést hoznak a következő generációs infrastruktúrába.
Fejlesztési sebesség és további tervek
A Jalapeño a tervezéstől a gyártási tape‑outig mindössze kilenc hónap alatt készült el; az OpenAI szerint ez a gyors ütem a leggyorsabb ASIC‑fejlesztési ciklus egyikének tekinthető a nagy teljesítményű, fejlett félvezetők területén. A gyors fejlesztéshez hozzájárult a szoros szoftver‑hardver együttfejlesztés OpenAI mérnökeivel, Broadcom szilícium‑megvalósítási szakértelmével, valamint az OpenAI modellek használatával a tervezési és optimalizálási folyamatok felgyorsítására.
A Jalapeño az első lépés egy többgenerációs számítási platformban, amelyet 2026 végéig terveznek először telepíteni, majd az évek során bővíteni. A platform OpenAI által tervezett gyorsítók és Broadcom szilícium‑, hálózati és kapcsolódó technológiáinak, valamint Celestica board‑ és rendszerismeretének kombinációjára épít.
Miért számít ez?
Az OpenAI kiemeli: az inferencia az a pont, ahol az AI eljut az emberekhez. Minden javulás a költségben, sebességben és megbízhatóságban közvetlenül érezhető lehet olyan termékekben, mint a ChatGPT válaszadási sebessége, a Codex egy feladat több lépését lehetővé tévő hatékonysága, vagy az API‑alapú szolgáltatások költséghatékonysága és elérhetősége magas kereslet esetén.
A széles körű hozzáférés elősegítése azt jelenti, hogy a fejlett modellek megbízhatóbbak és megfizethetőbbek lesznek, így több diák, fejlesztő, kisvállalkozás, kutató és vállalat számára válhatnak mindennapi eszközzé. Jalapeño segíti az OpenAI‑t abban, hogy infrastruktúrájának nagyobb részét „hasznos intelligenciává” alakítsa.
