Bill Dally, az Nvidia vezető tudósa a központi szereplője annak a mintegy 300 kutatóból álló csapatnak, amely az vállalat chiptervezési folyamataiba építi be a mesterséges intelligenciát. Dally a Google-szintén vezető kutatójával, Jeff Deannel folytatott beszélgetésében, az Nvidia GTC konferenciájának közepén tartott eseményen (március közepén) részletezte a vállalat előrehaladását és a még megoldandó feladatokat.
Hol és miként használják az AI-t
Az Nvidia öt területen alkalmaz AI-t a chipek tervezésében:
- komponensek elrendezése (layout),
- aritmetikai áramkörök tervezése (például összeadók és számlálók),
- mérnöki támogatás (dokumentáció, kódgenerálás, kérdések megválaszolása),
- kész tervek ellenőrzése (verification),
- új, nem konvencionális elrendezések felfedezése.
Minden alkalommal, amikor az Nvidia új félvezetőgyártási eljárást vesz igénybe — általában a komponensek zsugorításának érdekében, hogy több áramkör férjen el ugyanazon a szilíciumterületen — a tervezőknek körülbelül 2 500–3 000 kis, újrahasználható elrendezési blokkot (cellát) kell újratervezni, például logikai kapukat és memóriazárolókat. Ezt a feladatot egy NVCell nevű AI-rendszer látja el.
Az NVCell genetikus algoritmust használ új jelölteket javasolva, amelyet egy megerősítéses tanuló (reinforcement learning) ügynök egészít ki: az ügynök lépésről lépésre javítja a tervezési szabálysértéseket (például túl közel elhelyezett vezetékeket). Az ügynök jutalmat kap minden javított szabálysértésért, és kis büntetést minden lépésért, így a rendszer a lehető legrövidebb úton próbál „tisztára” hozni egy cellát. A szabálysértéseket egy szabályellenőrző jelzi, és az ügynök megtanulja, hogyan orvosolja azokat.
Az NVCell használatával az a munka, amely korábban nyolc mérnököt foglalkoztatott hozzávetőleg tíz hónapon át, ma egyetlen GPU-n éjszaka lefuthat. A rendszer eredményei terület, fogyasztás és jelterjedési idő szempontjából egyeznek vagy meghaladják az emberi tervek teljesítményét.
Aritmetikai egységek: PrefixRL
Egy másik megerősítéses tanuló rendszer, a PrefixRL, a GPU-k aritmetikai egységeiben található mikroköröket tervezi. Az ügynök jutalma akkor jár, ha a tervezett áramkör teljesíti az időzítési követelményeket, miközben minimalizálja a foglalt területet és a fogyasztást. Dally elmondása szerint az így előálló komponensek „furcsa” (emberi logikától eltérő) konfigurációk, amelyek 20–30 százalékkal jobbak, mint a hagyományos emberi tervek. Egy konkrét példában egy PrefixRL által tervezett 64 bites összeadó 25 százalékkal kevesebb chipterületet foglal, mint az iparági szabványos eszközökkel előállított megfelelője.
Nagy nyelvi modellek belső célokra: ChipNeMo és BugNeMo
Az Nvidia két belső nagy nyelvi modellt fejlesztett: ChipNeMo és BugNeMo. Ezeket a rendszereket a csapat LLaMA 2 alapmodelleken (7 milliárd és 13 milliárd paraméteres, nyílt súlyú változatokon) finomhangolta az Nvidia belső dokumentációjára, beleértve a korábbi GPU-k alacsony szintű tervezési kódját és a kapcsolódó hardverspecifikációkat. Egy 2023-as publikáció három fő felhasználási területet említ:
- mérnökök kérdéseinek megválaszolása Nvidia hardverrel kapcsolatban,
- kódrészletek generálása speciális chiptervező nyelveken,
- hibajelentések összefoglalása.
Ebben a munkában a domainre adaptált modellek egyes chiptervezési feladatokban felülmúlták vagy legalább elérték a náluk ötször nagyobb, általános célú alapmodell teljesítményét.
Ellenőrzés és a maradék kihívások
A verification, vagyis annak biztosítása, hogy a kész terv úgy viselkedik, ahogy kell, a leghosszabb szakasz a folyamatban. Dally csapata azon dolgozik, hogy ezt a lépést AI-vel lerövidítse és tömörítse, de a teljes, végponttól-végpontig tartó, prompt alapján történő GPU-tervezést még távoli célként írta le.
Kapcsolódó eredmények és háttér
- Az NVCell-ről az Nvidia először 2021-ben adott hírt; a PrefixRL-alapú összeadó 2022-ben jelent meg, a ChipNeMo-t pedig 2023-ban említették.
- Egy Verkoran nevű AI chiptervező startup áprilisban publikált munkája egy ügynökalapú rendszerről számolt be, amely egy 219 szavas specifikáció alapján önállóan tervezett egy 1,48 GHz-es RISC‑V CPU-t; a szerzők a tervet szimulációban validálták, de nem gyártották le.
- Tavalyi munkák között szerepel, hogy a Princeton és az Indian Institute of Technology Madras kutatói mélytanulást és evolúciós algoritmust alkalmazva vezetéknélküli kommunikációs áramköröket generáltak.
- 2023-ban a Google is beszámolt megerősítéses tanulás használatáról a Tensor Processing Unitok komponenseinek elrendezésére.
Miért fontos mindez?
A chiptervezés keresési tere hatalmas, és az emberi intuíció csak vékonyan fed le belőle. Az Nvidia tapasztalata, miszerint a megerősítéses tanuló ügynökök szokatlan, de mérhetően jobb megoldásokat találnak, illeszkedik ahhoz a szélesebb jelenséghez, hogy az AI olykor olyan megoldásokat fedez fel, amelyeket emberek nem vennének fontolóra. Emellett az is lényeges, hogy Nvidia GPU-kat használnak az azokat tervező AI‑rendszerek betanítására: így minden chipgeneráció felgyorsítja a következő generáció tervezését, és jobban kiszolgálja azokat az eszközöket, amelyek segítettek létrehozni.
Dally óvatos hangvétele — hogy bár jelentős előrelépések történtek, a teljes automatizálás még messze van — fontos realitásérzéket visz a várakozásokba.
