EmbeddingGemma 2 a Google új, multimodális on‑device beágyazómodellje, amelyet a Gemma 4 architektúrájára építettek és Apache 2.0 kereskedelmileg engedélyezett licenc alatt tették elérhetővé. A modell 740 millió paraméterrel készült, célja, hogy közvetlenül a felhasználói eszközökön végezzen hatékony és sokoldalú embedding számításokat több modalitásra: szöveg, kód, kép, videó és hang.
Miért fontos ez
Az előző EmbeddingGemma kiadás több mint 20 millió letöltést ért el, és elsősorban olyan alkalmazásokban használták, amelyek on‑device keresést vagy adatkezelést és retrieval‑alapú generálást (RAG) valósítanak meg adatvédelmi megfontolásokkal. Az EmbeddingGemma 2 ezt a funkciókört bővíti úgy, hogy több modalitást egyesít egy közös embedding térben, így például lehetővé válik egy hangfelvételből konkrét videórészlet megtalálása vagy többórányi audioanyag szöveges lekérdezés alapján történő keresése — mindezt egyetlen, nativ multimodális modell feldolgozásával.
Fő műszaki jellemzők
- Paraméterek: 740 millió paraméter.
- Licenc: Apache 2.0 (kereskedelmileg engedékeny).
- Architektúra: Gemma 4 alapokra építve; megosztott tokenizer és audio encoder a Gemma 4‑gyel.
- Kiterjesztett kontextus: 8K tokenes kontextusablak (ez körülbelül négyszerese az EmbeddingGemma 1‑nek). Ez helyben képes feldolgozni akár 5,5 percnyi hangot, 29 képet, 58 videokeretet vagy ezek kevert kombinációit.
Teljesítmény és hatékonyság
- Méret‑teljesítmény: benchmarkokon (például MTEB Code és MAEB) az 1 milliárd paraméter alatti multimodális beágyazók között élvonalbeli eredményeket ér el, és sok esetben felülmúl vagy utolér nagyobb modelleket szöveg, kép és hang feladatokban.
- Kódolási teljesítmény: MTEB Code benchmarkon az EmbeddingGemma 2 9.92 ponttal jobb teljesítményt mutat (68.76 → 78.68), ami alkalmassá teszi lokális kódbázis indexelésre és szemantikus kódkeresésre.
Moduláris szerkezet és tárolási lehetőségek
- Moduláris konfigurációk: szöveg‑only munkaterheléknél a modell mindössze 270M paraméterrel működhet; opcionálisan további encoder modulok kapcsolhatók a látáshoz (+170M) és hanghoz (+300M), így teljes multimodális támogatás érhető el.
- Matryoshka Representation Learning (MRL): a kimeneti embedding vektorokat dinamikusan lehet rövidíteni 768 dimenzióról 512, 256 vagy 128 dimenzióra. Ez helyi vektoradatbázisok és memóriahasználat esetén akár 6×‑os tároláscsökkentést eredményezhet.
On‑device teljesítmény és memóriaigény
- Quantizáció mellett tesztelve: egy Google Pixel 11 Pro eszközön a szöveg‑only súlyok aktív RAM‑igénye megközelítőleg ~191 MB, míg a teljes multimodális modell ~567 MB aktív RAM‑ot igényel. Ezek az adatok a korlátos erőforrások melletti hatékony futtatást célozzák.
Alkalmazási példák és eszköztámogatás
EmbeddingGemma 2 lehetővé teszi helyi szemantikus keresést, multimodális routingot és offline retrievalt, így csökken az adatküldési igény és a késleltetés, miközben megőrződik az adatvédelem. Néhány példa használatra: keresés médiaállományok között szöveg vagy kép alapján, videókon belüli konkrét pillanatok megtalálása szöveg vagy hang lekérdezéssel, valamint on‑device RAG pipeline‑ok Gemma 4‑gyel kombinálva kontextusos következtetésekhez.
Támogatott eszközök és integrációk: a modell súlyai elérhetők Hugging Face‑en és Kaggle‑en; a fejlesztők használhatják a Google AI Edge eszköztárát, MediaPipe‑t és LiteRT‑t natív on‑device integrációhoz, illetve böngészőben transformers.js vagy WebGPU segítségével. Szolgáltatásként futtatáshoz és fejlesztéshez támogatott eszközök között említhetők a transformers, sentence‑transformers, MLX, vLLM, llama.cpp, SGLang, Ollama és LMStudio; embedding vektorok tárolására például Qdrant használható.
Finomhangolás és források
A fejlesztők finomhangolási útmutatót és gyakorlati példákat is találnak: vannak közösségi források a modell finomhangolására (például Unsloth által közzétett iránymutatások), valamint részletes modellkártya és kiértékelési metrikák az EmbeddingGemma 2‑höz.
Hozzáférés és további információ
A modell súlyai és on‑device optimalizált változatai elérhetők Hugging Face‑en és Kaggle‑en; a Gemini Enterprise Agent Platform Model Garden‑ban való megjelenés hamarosan várható. A Google AI Edge blogján és a kapcsolódó dokumentációkban részletesebb bevezetőket és példákat találhatnak a fejlesztők.
