Modellbevezetés

Mesterséges intelligenciával generált szöveg

Meta bemutatta a Muse Glimmer 30 milliárd paraméteres, Apache 2.0 licencű modelljét

A főszereplő a Meta, amely nemrég bemutatta a Muse Glimmer nevű, 30 milliárd paraméteres nyelvi modelljét.

Meta bemutatta a Muse Glimmer 30 milliárd paraméteres, Apache 2.0 licencű modelljét

A Meta kiadta a Muse Glimmer nevű, 30 milliárd paraméteres nyelvi modellt, amelyet az Apache 2.0 közkedvelt, engedékeny licencének feltételei alatt tettek közzé. A bejelentés a vállalat nyílt súlyok iránti visszatérését jelzi, és jogilag egyszerűbb felhasználást tesz lehetővé a korábbi, vitatottabb Llama-licencekhez képest.

Műszaki részletek és futtathatóság

A modell tömörített példánya körülbelül 18,16 GB méretű, így a fejlesztők és kutatók számára reálisan futtatható helyi környezetben is. A megosztott megjegyzés szerint olyan gépeken, amelyeken legalább 32 GB RAM áll rendelkezésre, kényelmesen marad szabad memória más alkalmazások futtatásához; a szerző megemlítette, hogy saját rendszere 128 GB RAM-mal rendelkezik.

Miért számít ez?

Az Apache 2.0 licenc megléte egyszerűsíti a modellt használó fejlesztési és üzleti alkalmazásokat, mivel kevésbé korlátozó feltételeket szab, mint egyes korábbi, speciális licencek. A 30 milliárd paraméteres méret középutas választás: nagyobb képességeket kínálhat a kisebb, néhány milliárdos modelleknél, miközben kevésbé igényes erőforrásban, mint a több száz milliárdos rendszerek.

Közösségi reakció és elérhetőség

A release megjelenését és a felhasználói teszteredményeket több fórumon, köztük a Hacker News-on is megvitatták. A kiadott fájlméret és a licenc miatt a Muse Glimmer alkalmas lehet helyi futtatásra, kísérleti projektekre és olyan környezetekbe, ahol a nyílt licenc fontos szempont.

Összegzés

A Muse Glimmer a Meta új, nyitott licencű 30B paraméteres modellje, amelynek tömörített fájlja 18,16 GB. Az Apache 2.0 licenc és a relatíve mérsékelt erőforrásigény miatt a modell vonzó lehet azoknak a fejlesztőknek és kutatóknak, akik helyi vagy integrált megoldásokat keresnek.