Eszközök

A MacPaw és a Liquid AI helyi eszközön futó mesterséges intelligenciát fejleszt a SetApphez

A főszereplő a ukrajnai MacPaw és a Liquid AI együttműködése, amelynek célja helyben futó, eszközön végzett inferencia megvalósítása.

A MacPaw és a Liquid AI helyi eszközön futó mesterséges intelligenciát fejleszt a SetApphez

Ukrajnai fejlesztőcég, a MacPaw együttműködésre lépett a Liquid AI-val, hogy helyben, a felhasználók eszközein fusson a cég mesterséges intelligenciája, és végül a technológiát rendelkezésre bocsássák külső fejlesztők számára is. A MacPaw emellett a SetApp alkalmazásboltját is felkészíti az AI-alkalmazások fogadására, és hitelpont-alapú díjszabást tesztel.

Mire épül a projekt?

A MacPaw jelenleg az Eney nevű AI-asszisztenst fejleszti, amelyet tavaly mutatott be. A cég most egy helyben futó verzió kialakításán dolgozik, és a Liquid AI felel a készülő on-device inferencia rendszer, az Elix, valamint egy helyi memória rendszer kidolgozásáért.

Liquid AI társalapítója és vezérigazgatója, Ramin Hasani szerint a modelltréning előtt egy hardverhez igazított, eltérő architektúrát választanak, ami lehetővé teszi az eszközön közvetlenül futó, hatékonyabb intelligencia megvalósítását. Hasani a TechCrunchnak nyilatkozva kiemelte a helyi futtatás nyújtotta előnyöket, mint a magánszféra és a biztonság.

Offline működés és testreszabhatóság

A MacPaw vezérigazgatója, Oleksandr Kosovan szerint a helyi modellek lehetővé teszik, hogy a felhasználók asszisztenseket és olyan automatizált munkafolyamatokat futtassanak, amelyek offline is működnek. Hasani hozzátette, hogy a Liquid AI modellek különböző képességekre optimalizált teljesítményre fókuszálnak, és a cég egy testreszabási réteget is épít a modellek köré. Ennek köszönhetően a felhasználói visszajelzés alapján a modellek az adatok használatával folyamatosan javulhatnak és alkalmazkodóbbá válhatnak.

Fejlesztők és SetApp tervei

Miután rögzítik a helyi feldolgozási architektúrát a Liquid AI-val, a MacPaw tervei szerint a technológiát elérhetővé teszik fejlesztők számára, hogy alkalmazásaikban szintén használhassák az eszközön történő inferenciát. A platform a Kosovan által említett elképzelés szerint más, felhőalapú modellekhez — például a Google szolgáltatásaihoz — való hozzáférést is biztosítana, így egyfajta „egyablakos” megoldást kínálna a fejlesztőknek.

A MacPaw a SetApp előfizetéses alkalmazásboltján is erősít az AI-fókuszon: a szolgáltatás jelenleg több mint 150 000 fizető felhasználóval rendelkezik. A cég kísérleti jelleggel hitelpont-alapú árazást vezet be, amelyben a felhasználók a meglevő krediteik és az AI-művelet összetettsége alapján hajthatnak végre bizonyos számú AI-műveletet.

Miért számít ez?

A projekt hangsúlyosan a helyi számítási megoldásokra épít, ami a magánélet és a biztonság szempontjából előnyt jelent, továbbá offline használhatóságot tesz lehetővé. Ugyanakkor MacPaw célja az is, hogy a fejlesztőknek egyszerű hozzáférést biztosítson különböző modellopciókhoz, így a helyi és felhőalapú megoldások kombinálásával rugalmasabb ökoszisztémát teremtsen.