A svájci Lausanne-i Műszaki Egyetem (EPFL) kutatói új szoftveres megközelítést mutattak be, amellyel nagy teljesítményű mesterséges intelligencia (AI) modellek futtathatók óriási adatközpontok igénye nélkül. A megoldás, amit Anyway Systemsnek neveztek el, csökkenti a harmadik felektől származó felhőszolgáltatások használatának szükségességét, és lehetővé teszi, hogy a feldolgozás helyben, a felhasználó által ellenőrzött hálózaton történjen.
Az ötlet lényege
Az Anyway Systems segítségével a felhasználók letölthetnek nyílt forráskódú nagy modelleket — a kutatók példaként említik az OpenAI által említett GPT-120B-t —, és azokat helyi gépeken futtathatják úgy, hogy az adat nem hagyja el a saját hálózatot. A fejlesztők szerint a rendszer fél óra alatt telepíthető egy lokális gépekből álló hálózatra, a nagyon nagy modellfájlok pedig „néhány perc” alatt letölthetők és telepíthetők az Anyway Systemsre.
Követelmények és működés
A kutatók hangsúlyozzák, hogy nincs szükség nagy, speciális rackházas infrastruktúrára: az elrendezés működéséhez elegendő, ha legfeljebb négy gép áll rendelkezésre, és mindegyikhez egy hagyományos GPU kapcsolódik. Ez a decentralizáltabb, kisebb egységekre bontott futtatási modell helyettesítené a központosított, hatalmas adatközpontokban végzett számításokat.
Előnyök: adatvédelem, szuverenitás, fenntarthatóság
A fejlesztés fő ígérete a fokozott adatvédelem és szuverenitás: mivel az adatok nem hagyják el a helyi hálózatot, csökken a függés a nagy felhőszolgáltatóktól. Emellett a kutatók a fenntarthatóságot is említik: a helyi, optimalizált megközelítés kevesebb pazarló energia- és erőforrás-felhasználást eredményezhet, mint a hatalmas adatközpontok működtetése, amelyek jelentős nyersanyag-, energia- és vízfogyasztással járnak.
Korlátok és alkalmazhatóság
A csoport elismeri, hogy az Anyway Systems jelenleg nem otthoni felhasználóknak készült: a rendszerhez több, viszonylag nagy teljesítményű gépre van szükség, amelyeket a háztartások többsége jelenleg nem tart fenn. Ugyanakkor a kutatók felhívják a figyelmet arra, hogy a számítástechnika története gyakran hoz gyors optimalizációkat (például okostelefonoknál), és hogy a viszonylag kis vállalatok vagy szervezetek vélhetően már rendelkeznek azzal a hardverrel, amely az Anyway Systems használatához szükséges.
Társadalmi és gazdasági hatások
Az EPFL csapata azt hangsúlyozza, hogy a megközelítés túlmutat a puszta technikai újításon: újragondolja az AI-infrastruktúra társadalmi, környezeti és gazdasági alapjait. A kutatók szerint a nyílt forráskódú modellek, a helyi futtatási környezetek és az elosztott számítások irányába mutató megoldások csökkenthetik a centralizációt, és máshogy definiálhatják, mit jelent a „szuperszámítógép”.
Gyakorlati tesztelés
Az Anyway Systems már túl van a prototípus fázison: a kutatók szerint hónapok óta Svájc-szerte tesztelik a rendszert vállalatoknál és közigazgatási intézményeknél. A projekt egyik vezető kutatója, Rachid Guerraoui, az EPFL Számítógép- és Kommunikációtudományi Karának kutatója, rámutatott, hogy léteznek "okosabb, takarékosabb megközelítések", amelyek lehetővé teszik a nagy nyelvi modellek helyi futtatását anélkül, hogy az adatvédelem, szuverenitás vagy fenntarthatóság rovására menne a működés.
Összefoglalás
Az EPFL Anyway Systems nevű megoldása azt mutatja: lehetséges nagy AI-modelleket elosztott, lokális hálózatokon futtatni anélkül, hogy a számítások központosított adatközpontokba kerülnének. A rendszer ígérete szerint gyorsan telepíthető, kevés gépet igényel, és javítja az adatvédelem, szuverenitás és fenntarthatóság kérdéseit; ugyanakkor otthoni használatra ma még nem ideális, és széleskörű elterjedéséhez további optimalizációk és tesztek várhatók.
