文本扩散
搜索文档
谷歌开源26B文本扩散MoE,劈柴:生成速度像赛马一样快
机器之心· 2026-06-11 12:33
今天一早,谷歌又发新模型了! Gemmna 家族有了新成员 —— DiffusionGemma,一个探索文本扩散的实验性开源模型,在文本生成任务上速度极快 。 根据官方介绍,DiffusionGemma 采用了 Apache 2.0 许可证发布,是一个 26B 规模的混合专家模型(MoE)。 该模型没有沿用典型自回归大语言模型(LLM)那种按顺序、逐 token 生成的方式,而是可以同时生成整块文本,在 GPU 上,文本生成速度最高可提升至 4 倍。 为开发者创造新的价值 谷歌 CEO 皮查伊表示,「DiffusionGemma 是一款开放的实验性模型,它把我们的文本扩散研究带到了 Gemma 4 上。速度像赛马一样快 :通过一次性生成整块 文本,而不是逐 token 预测输出,推理速度最高可以提升至 4 倍。」 DiffusionGemma 建立在 Gemma 4 家族业界领先的「每参数智能水平」之上,同时吸收了 Gemini Diffusion 的前沿研究成果。它引入了一种全新的扩散式输出头, 目标很明确:尽可能提高生成速度。 需要说明的是,自回归版本的 Gemma 4 仍然是高质量生产级输出的首选。而 ...