发布日期

谷歌发布开放模型 EmbeddingGemma 2:740M 参数,在手机本地按文字搜图片、视频和音频

谷歌 DeepMind 发布开放权重的多模态嵌入模型 EmbeddingGemma 2,把文本、图片、视频帧和音频映射到同一个向量空间;模型为 740M 参数,采用 Apache 2.0 许可,可在手机等设备上离线做语义搜索和意图分类。

EmbeddingGemma 2 官方文章封面:立方体连接代码、图片、视频和音频面板
Google Developers Blog 本篇文章的封面插画:画面中央是一个立方体,周围连接代码、图片、视频和音频波形面板,右侧文字为“Bring multimodal semantic search to the edge with EmbeddingGemma 2”,示意多种媒体进入同一模型。图片来源:Google。

谷歌称,EmbeddingGemma 2 基于 Gemma 4 架构,采用与 Gemini Embedding 模型相同的技术,把文本、代码、图片、视频和音频放进同一个嵌入空间,可用语音备忘找视频片段,或用一句文字搜索数小时录音。过去在设备上做媒体检索,开发者往往要把图片描述、语音转文字和文本嵌入几个模型串起来,现在一个模型就能完成,延迟和内存开销更低。上一代 EmbeddingGemma 只处理文本,谷歌称下载量已超过两千万次。

模型共 740M 参数,按模态拆成可单独加载的模块:纯文本只需 270M 参数,视觉编码器(170M)和音频编码器(300M)按需加入。量化后在 Pixel 11 Pro 上,纯文本权重约占 191MB 活跃内存,完整多模态模型约 567MB。上下文窗口为 8K token,是第一代的 4 倍,一次最多可处理 5.5 分钟音频、29 张图片或 58 个视频帧。输出向量默认 768 维,可截断到 512、256 或 128 维,以减少本地向量库的存储和内存占用。

谷歌称,它在 MTEB Code、MAEB(音频嵌入基准)等测试中领先 1B 参数以下的多模态嵌入模型,多语言文本表现与上一代持平,代码检索得分从 68.76 提高到 78.68,适合本地代码库索引和编程智能体检索。以上均为谷歌自报结果,完整评测见其模型卡。

普通用户可以先在 Google AI Edge Gallery 应用(Android 和 iOS)里试用两个新演示:一个用自然语言或示例图片在手机本地相册里即时找图,边输入边更新结果,无需联网;另一个在本地视频里直接定位“狗接飞盘”这类画面,不用先转写音频或生成文字描述。谷歌还推出实验性的 Mac 应用 Google AI Edge Foresight,结合 Gemma 4 在本地做会议笔记增强和资料检索,可接入任意会议平台。

开发者可以在 Hugging Face 和 Kaggle 下载权重,模型支持 transformers、sentence-transformers、MLX、vLLM、llama.cpp、Ollama 等常用工具,采用 Apache 2.0 许可,可商用。谷歌还强调它可作为端侧“决策引擎”:不需要训练数据或微调,就能把输入直接和分类标签匹配,做零样本意图路由;演示中 MediaPipe Decision 任务每一步评估 500 个国际象棋走法,响应时间不到 100ms。在 MacBook M5 Pro 的 GPU 上,单张图片的视觉嵌入最快 37.3 ms。Android 的 ML Kit 接入将在未来几周推出,届时可在支持的设备上用 NPU 加速。

来源

  1. Bring multimodal semantic search to the edge with EmbeddingGemma 2 — Google Developers Blog(RSS)
  2. EmbeddingGemma 2: an open, lightweight multimodal embedding model — Google

专题:Google

相关报道

在 ? 中打开这篇 →