A Hugging Face bejelentette, hogy Jun Kim csatlakozott a csapatukhoz, hogy teljes munkaidőben támogassa és vezesse az oMLX projektet. A cég hangsúlyozza elkötelezettségét a helyi (on-device) mesterséges intelligencia iránt, és az MLX-nek – az Apple helyi AI-keretrendszerének – kulcsfontosságú elemként tekint az ökoszisztémában.
Mi az MLX és miért számít?
Az MLX az Apple keretrendszere a helyi mesterséges intelligencia futtatásához, különösen optimalizálva az Apple Silicon platformokra. A Hugging Face szerint az MLX növekvő népszerűségnek örvend: emlékeztetnek rá, hogy az MLX-t Awni és Angelos adták ajándékba 2023 karácsonyán, és a Hugging Face Hub-on találhatók meg az MLX-modellek, illetve itt járulnak hozzá felhasználók saját modelljeikkel.
A helyi, nyílt AI használata gyorsulóban van, ezért a cég egy egészséges ökoszisztémában hisz, ahol a fejlesztők könnyen megtalálhatják a számukra megfelelő eszközöket.
Mit jelent ez az oMLX számára?
A bejelentés szerint Jun szerződtetése stabilitást és gyorsabb fejlesztést hozhat az oMLX-nek: a projekt a mellékprojekt státuszból egy teljesen karbantartott és finanszírozott kezdeményezéssé lép elő. Ennek köszönhetően Jun jobban koordinálhatja a közreműködőket és hosszú távra tervezhet.
Az oMLX továbbra is Apache 2.0 licenc alatt marad, és Jun Kim továbbra is a projekt vezetője lesz, ahogy korábban is.
Milyen hatása lehet ez az MLX-nek általánosságban?
A Hugging Face célja, hogy megkönnyítse a közösség számára a helyi AI különböző formáinak futtatását, és olyan eszközöket, illetve építőköveket biztosítson, amelyek ezt elősegítik. Az oMLX-t a cég tesztplatformként képzeli el új ötletek kipróbálására, miközben támaszkodik a már meglévő függőségek alapmunkáira, például a mlx-lm és mlx-vlm munkáira.
A bejelentés kiemeli, hogy a Hugging Face szeretne munkát visszaforgatni (upstream) azokba a könyvtárakba és projektekbe, ahol az értelmesnek tűnik, mert erős modellezési és inferencia-könyvtárak segítik a közösséget.
Együttműködés más projektekkel és konkrét fókuszok
A Hugging Face már együttműködik számos projekttel, például mlx-lm, mlx-vlm és LMStudio fejlesztőivel. A bejegyzés kifejezetten említi Cheng, Prince és Yagil neveit és csapataikat, és remélik, hogy ezeket a kapcsolatokat tovább erősítve közösen jobban szolgálhatják a közösséget.
Konkrét fejlesztési fókuszként megjelenik a gyors átjárhatóság megteremtése a transformers modelldefinícióktól egy referencia MLX-implementációig, amelyet különböző futtatómotorok (engines) fogyaszthatnak. A cél az, hogy a transformers könyvtárban definiált új modellek egyszerűen és gyorsan működjenek MLX-en, így minden motor a saját erősségeire koncentrálhat.
Kilátások
A Hugging Face úgy fogalmazott, hogy izgatottak a jövő kapcsán, és örömmel üdvözlik Jun Kim-et a csapatban. A lépés a helyi, nyílt AI fejlődésének támogatását hivatott szolgálni, miközben az oMLX megőrzi nyílt forráskódú jellegét és vezetője változatlan marad.
