Anthropic tegnap indította el IPO roadshowját, és a cég bemutató videójában olyan, korábban nem nyilvános részletek jelentek meg a működéséről, amelyek rávilágítanak számítási architektúrájukra és belső automatizálási eszközeikre.
Képalkotó platformok és többchipes megközelítés
A roadshow videó „Approach to compute” szekciójában Tom Brown, egy társalapító beszélt arról, hogy a Claude nevű nyelvi modellt ma négy nagy chiptípuson, illetve tároló‑ és számítási platformon egyaránt tréningezik és szolgáltatják: AWS Trainium, Google TPU, NVIDIA GPU és AMD GPU. Brown szerint ez csak azért volt lehetséges, mert korán egy szokatlan döntést hoztak: tudatosan többchipes stratégiába fektettek.
A többchipes megközelítés azért kihívásos, mert minden egyes chiptípushoz külön, testreszabott szoftver- és inferencia‑stack szükséges, ami költséges és komplex fejlesztési munkát jelent. Anthropic állítása szerint évek óta dolgoznak ezen a megoldáson, és jelentős tapasztalatot halmoztak fel.
Automatizált portolás: Mythos és egy példa AMD‑re
A videóból kinyert, MacWhisperrel készült átírás szerint az idei évben először kezdtek el AMD GPU‑kon dolgozni. Korábban egy új chiptámogatás bevezetése „több tucat mérnök több hónapos” munkáját igényelte; ezúttal azonban a Mythos nevű rendszerüket próbálták ki, amely állításuk szerint lényegében emberi beavatkozás nélkül tette lehetővé Claude futtatását AMD‑n: a portolás három nap alatt megtörtént, és „Claude portolta vagy írta meg gyakorlatilag a kernerek 100%‑át”.
Az ilyen automatizálás fontos érv az Anthropic számára, mert csökkentheti egy új platform integrálásának idő‑ és emberi erőforrás‑költségeit.
Compute multiplierek és hatékonysági előny
A videó további hangsúlya az ún. „compute multipliers” koncepcióján volt: Anthropic a teljes hatékony számítást (total effective compute) úgy definiálja, hogy a fizikai kapacitást megszorozzák az általuk felfedezett multiplikáló tényezőkkel. Minden új multiplikátor megnöveli az összesített effektív számítást, és ezzel versenyelőnyt teremt.
A bemutatott példa szerint ha egy modell képzéséhez 100 egység számításra van szükség, egy 4×‑es compute multiplier esetén ugyanazon modell képzése 25 egységgel megoldható; vagy a rendelkezésre álló 100 fizikai egységet fel lehet használni egy korábban 400 egységet igénylő, magasabb intelligenciájú modell képzésére.
Anthropic hangsúlyozza, hogy ezek a multiplikátorok egymásra épülnek és kölcsönösen erősítik hatásukat. Továbbá a cég előrevetíti, hogy ahogy elérnek a rekurzív önfejlesztés felé, Claude képes lesz maga is felfedezni compute multipliereket, ami felgyorsíthatja ezek számának növekedését.
Korábbi jelek: TPU‑specifikus problémák
A roadshow videón elhangzottak egy részére már tavaly szeptemberben kaptunk utalást az Anthropic egyes eszközeiről szóló postmortemben, amely három közelmúltbeli incidensről szólt, és olyan hibákat ír le, amelyek elsősorban TPU‑telepítéseiket érintették.
Miért fontos ez?
A bemutatott többchipes stratégia és az automatizált portolás azt jelzi, hogy Anthropic erőforrásokat koncentrál arra, hogy a modellek ne egyetlen hardverre legyenek kötve, valamint hogy javítsa a skálázhatóságot és költséghatékonyságot. A compute multiplierekre épülő modell továbbá azt sugallja, hogy a cég saját belső optimalizációs módszereiből reméli a versenyelőnyt — ideértve a lehetséges jövőbeli önálló felfedezéseket is.
A vállalat részvényeinek nyilvános ajánlata (IPO) kapcsán ezek az operációs részletek fontos adatokat szolgáltatnak a befektetőknek arról, hogyan mérik és növelik a számítási hatékonyságot és hogyan tervezik kezelni a különböző hardverplatformok integrációját.
