Modellbevezetés

SpaceXAI-val közösen tízszer több számítással új, jelentősen nagyobb modellt építenek

SpaceXAI és a közlemény szerzői bejelentették, hogy egy teljesen új, jelentősen nagyobb nyelvi modellt tanítanak írtól kezdve, tízszer több összes számítást felhasználva.

SpaceXAI és a közlemény szerzői bejelentették, hogy egy teljesen új, jelentősen nagyobb nyelvi modellt tanítanak írtól kezdve, tízszer több összes számítást felhasználva. A projekt a Colossus 2 millió H100-nek megfelelő számítási kapacitására, valamint a kombinált adathalmazokra és tréningtechnikákra támaszkodik, és a várakozások szerint jelentős előrelépést hoz a modell képességeiben.