Az Egyesült Államok kormánya két, egymástól független, de megfontolandó példát mutató AI‑tréning projektet hajtott végre, amelyek több DOE (Department of Energy) nemzeti labor szuperszámítógépeit egyesítik. A munkák arra szolgálnak, hogy bemutassák: hogyan lehet meglévő számítási erőforrásokat összekapcsolni érzékeny vagy nagyszabású gépi tanulási feladatokhoz.
Három labor közötti (NNSA) előképzés
Egy tri‑laboratóriumi projektben a National Nuclear Security Administration (NNSA) rendszerein dolgozó kutatók három labor — Sandia National Laboratories, Lawrence Livermore National Laboratory (LLNL) és Los Alamos National Laboratory (LANL) — erőforrásait használták fel egy LLaMA‑alapú modell előképzésére. Ebben a munkában az LLNL El Capitan szuperszámítógépe (AMD MI300A) mellett a Sandia és a Los Alamos gépein található NVIDIA H100 GPU‑kat is igénybe vették.
A projekt kiemeli a helyben maradó, hozzáféréskorlátozott adatok kezelésének szükségességét: például NNSA‑hoz kapcsolódó, nukleáris témájú adatok nem hagyhatták el az eredeti helyüket. A kutatók a háttértréninget a torchtitan használatával bonyolították le, és több federált tréning keretrendszert értékeltek, köztük az NVFlare, Flower és APPFL rendszereket. A csapat előre‑tréningezett LLaMA 3.x modelleket a poszt‑tréning cutoff utáni arXiv adatokon 1 milliárd, 8 milliárd és 70 milliárd paraméteres méretekben.
A szerzők szerint: „This workflow has been made production-ready and deployed on larger classified machines including El Capitan, and subsequently used to train models on proprietary data spread across the three NNSA labs.” (A munkafolyamatot üzemeltethetővé tették és kihelyezték nagyobb, titkosított gépekre, köztük El Capitanra, amelyet később a három NNSA labor között elosztott tulajdonosi adatokon való tanításra is használtak.)
Kereszt‑létesítmény finomhangolás az ASCR rendszerein
Egy másik projekt az Office of Advanced Scientific Computing Research (ASCR) rendszerein valósult meg: itt federált finomhangolással egy LLaMA‑2 7B modellt hangoltak tovább. A konkrét feladat SMolInstruct néven ismert, kémiai instrukció‑finomhangoló adathalmazon történt.
A finomhangolás körülbelül 1 700 GPU erőforrást használt fel, amelyek Intel, NVIDIA és AMD chipekből álltak, és három labor, illetve négy nagy gép között oszlottak meg: Argonne National Laboratory (Aurora és Polaris), Oak Ridge National Laboratory (Frontier) és Berkeley Lab (Perlmutter).
Kik végezték a munkát
A projekteken dolgozó kutatók az Oak Ridge National Laboratory, Sandia National Laboratories, Argonne National Laboratory, Flower Labs, Arizona State University és az Ontario Brain Institute munkatársai voltak.
Miért fontos ez
Ezek a tanulmányok bemutatják a kormányzati stratégiák egyik lehetséges útját: meglévő, szétszórt szuperszámítógépes kapacitások összekapcsolásával hasznosítható nagyobb számítási teljesítmény AI‑feladatokhoz, beleértve érzékeny vagy nemzetbiztonsági alkalmazásokat. Ugyanakkor a publikációk is rámutatnak a skálázás korlátaira: a bemutatott rendszerek nagyságrenddel kisebbek az ipari csúcstechnológiánál, és ahhoz, hogy a kormányzat ipari szereplőkkel paritás közelébe jusson, nagyságrendileg sokkal több — például ~100 000 különálló chipet érintő — összekapcsolásra lesz szükség a jövőben.
Mindez azonban fontos kezdet: a pilotprojektek üzemeltethető munkafolyamatokká nőtték ki magukat, és gyakorlati tapasztalatot adnak arról, hogyan lehet átvinni a federált és kereszt‑intézményi AI‑tréninget a kutatásból a gyakorlatba.
További forrás
A témához kapcsolódó részletes elemzés: "From Pilots to Production: Lessons in Cross‑Institutional Federated Training and Artificial Intelligence for Science" (arXiv).
