Googleの埋め込みモデル「EmbeddingGemma 2」が登場、使用RAMは最小約191MBでスマホでも動作 – GIGAZINE


AI


AIがデータの意味や特徴を扱いやすいよう、テキストや画像などを数値のベクトルとして表現するのが「埋め込みモデル」です。Googleが新たに、埋め込みモデルの「EmbeddingGemma 2」を発表しました。

EmbeddingGemma 2 is a best-in-class open model for natively multimodal embeddings
https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/


EmbeddingGemma 2は、テキストの範囲を超え、コード、画像、動画、音声を共通の埋め込み空間に統合するものと説明されています。EmbeddingGemma 2を使うことで、ハードウェア上でアプリが情報を直接整理・検索・関連付けられるようになり、オンデバイス検索ツールやプライバシーを優先した検索拡張生成(RAG)を開発することができます。


EmbeddingGemma 2のパラメーター数は7億4000万です。MTEB(Massive Text Embedding Benchmark)やMAEB(Massive Audio Embedding Benchmark)などのベンチマークにおいて、10億パラメーター未満のマルチモーダル埋め込みモデルの中でそのサイズに対して最高水準の性能を発揮します。


テキストのみのワークロードでは最小2億7000万パラメータで動作し、ビジョンエンコーダー(1億7000万パラメータ)と音声エンコーダー(3億パラメータ)を使えば完全なマルチモーダル対応を実現。Matryoshka Representation Learning(MRL)を使用すると、開発者は出力ベクトルを768次元から512次元、256次元、128次元へ動的に短縮できます。これにより、ローカルのベクトルデータベースとメモリ使用量を最大6分の1に削減できます。

モバイルおよびデスクトップでローカルに実行されるよう最適化されていて、Google Pixel 11 Proでは、テキストのみの重みに必要なアクティブRAMを最小約191MB、完全なマルチモーダルモデルでは約567MBまで抑えられます。また8Kトークンのコンテキストウィンドウを備えており、これは前モデル「EmbeddingGemma」の4倍に拡大しています。これにより、最大5.5分の音声、29枚の画像、58フレームの動画、またはそれらを組み合わせた入力を、ローカルハードウェア上で直接処理できます。


EmbeddingGemma 2はGemma 4アーキテクチャをベースに構築され、商用利用にも寛容なApache 2.0ライセンスで公開されています。

モデルの重みはHugging FaceとKaggleで入手でき、Gemini Enterprise Agent Platform Model Gardenでも近日中に利用可能になる予定です。

なお、2025年9月に発表された「EmbeddingGemma」はこれまでに2000万回以上ダウンロードされたとのことです。

Googleが小型の埋め込みモデル「EmbeddingGemma」を発表、メモリ使用量はわずか200MB – GIGAZINE




ソース元はコチラ

この記事は役に立ちましたか?

もし参考になりましたら、下記のボタンで教えてください。

関連記事