Az IBM és a San Franciscó-i Together AI több évre szóló, 240 millió dolláros megállapodást írt alá egy nagyszabású mesterségesintelligencia-infrastruktúra kiépítésére, derül ki a Reuters keddi beszámolójából. A beruházás célja egy olyan felhőalapú hálózat létrehozása, amely elsősorban nyílt forráskódú MI-modellek futtatását szolgálja.
Műszaki alapok és komponensek
A tervek szerint a hálózat Nvidia rendszereire épül. A megoldás központi elemei az Nvidia új generációs, Blackwell architektúrára épülő processzorait összekapcsoló HGX B300 platform, továbbá az Nvidia Spectrum‑X hálózati technológiája lesz. Ezek a komponensek az inferencia — vagyis a már betanított modellek felhasználói kérésekre adott válaszainak — gyors és hatékony kiszolgálására vannak optimalizálva.
Mire fókuszál a beruházás és miért fontos?
A megállapodás fókuszában az inferencia áll: az a folyamat, amikor a már elkészült MI-modellek valós időben vagy közel valós időben generálnak válaszokat. Az inferencia számítási igényei jelentősen növekednek, ezért a felhőszolgáltatók és chipgyártók egyre nagyobb összegeket fordítanak speciális MI-infrastruktúrákra.
A Together AI platformján cégek többek között nyílt modelljeiket futtathatják és taníthatják; a Reuters megemlíti a DeepSeek, MiniMax és Kimi modelleket. A startup júliusi tőkebevonása után 8,3 milliárd dolláros értékelést kapott.
Kontextus és következmények
A megállapodás azt jelzi, hogy a nagy technológiai és felhőszolgáltató szereplők továbbra is jelentős beruházásokat eszközölnek az MI-infrastruktúra bővítésébe, különösen az inferenciát gyorsító hardverekre és hálózati megoldásokra. Az ilyen beruházások célja a skálázható, nyílt forráskódú modellek üzleti alkalmazásának és elérhetőségének növelése.
A megállapodás részleteiről, köztük a telepítések időzítéséről és a konkrét szolgáltatási feltételekről a Reuters-cikk szerint további közlések várhatók.
