Prince Canuma, aki a MLX-VLM Python-könyvtár fejlesztője, új asztali alkalmazást adott ki macOS-re, amely az MLX köré építve lehetővé teszi AI-modellek futtatását helyben a Mac gépeken. Az alkalmazás neve Nativ és célja, hogy könnyebben elérhetővé tegye az MLX által támogatott modelleket azok számára, akik nem szeretnének kizárólag parancssori eszközökkel dolgozni.
Mit kínál a Nativ?
- Grafikus chat felület: a Nativ egy beszélgetésalapú (chat) interfészt biztosít, amelyen keresztül a felhasználók közvetlenül kommunikálhatnak a betöltött modellekkel.
- Localhost API szerver: a program helyi HTTP API-t futtat, így más alkalmazások is csatlakozhatnak és lekérhetik a modellek szolgáltatásait lokálisan.
A működés hasonlít az LM Studio megközelítéséhez: egyszerre nyújt felhasználóbarát GUI-t és programozható helyi hozzáférést a modellekhez.
Modellfelismerés a Hugging Face gyorsítótárból
A Nativ képes felismerni és betölteni azokat az MLX-kompatibilis modelleket, amelyek már megtalálhatók a felhasználó Hugging Face cache könyvtárában. Ez kényelmi előnyt jelent azoknak, akik korábban már letöltöttek vagy használtak modelleket ugyanazon a gépen.
Hol jelent meg a bejelentés?
A projektet és a tapasztalatokat a Hacker News közösségében említették, ahol felhasználók megosztották visszajelzéseiket a Nativról és annak MLX-integrációjáról.
Összegzés
A Nativ egy natív macOS alkalmazás, amely a MLX-VLM fejlesztőjétől, Prince Canumától származik, és célja, hogy egyszerűbbé tegye a helyi, MLX által támogatott AI-modellek használatát grafikus felületen és helyi API-n keresztül. A meglévő Hugging Face cache-ből való modellfelismerés praktikus kiegészítője az alkalmazásnak.
