谷歌推出 DiffusionGemma 文本扩散模型：本地 AI 推理速度提升 4 倍

从打字机到印刷机：DiffusionGemma颠覆逐词生成逻辑

传统大语言模型如同打字机，必须从左至右逐词生成文本，GPU在单用户本地场景中长时间处于等待状态，算力严重闲置。DiffusionGemma则彻底颠覆这一机制：每次前向传播可并行生成256个词元，在单张NVIDIA H100上实测输出速度超过每秒1000个词元，在NVIDIA GeForce RTX 5090上则超过每秒700个词元。谷歌将这一变革比喻为“将单台打字机升级为同时印刷整页文字的大型印刷机”——模型先在一张“画布”上生成随机占位词元，随后通过多轮迭代精炼，每轮锁定已确认的词元并修正其余内容，最终收敛为完整段落。这一并行解码架构将推理瓶颈从内存带宽转移到计算上，在单加速器低至中等批次场景中实现最高4倍速度提升。

18GB显存跑26B模型：消费级GPU的本地AI新门槛

DiffusionGemma采用26B参数的混合专家（MoE）架构，但推理时仅激活3.8B参数，搭配量化处理后，模型可在仅需18GB显存的消费级高端GPU内完整运行。这意味着即使没有数据中心级算力，开发者也能在个人工作站上部署这一高速文本生成模型。低硬件门槛直接扩展了本地实时应用的可能性——从文本实时编辑到快速内容迭代，不再依赖云端API的高延迟调取。

双向注意力加持：代码填充与图像生成不再是难题

DiffusionGemma支持双向注意力机制，每个词元在生成时可同时关注段落内所有其他词元。这一特性在非线性生成任务中展现明显优势，具体包括：

• 行内编辑：对已有文本的局部修改无需重写整段话
• 代码填充：根据上下文自动补全缺失的代码片段
• 氨基酸序列生成：生物信息学中的特殊序列建模
• 数学图形构建：基于多节点关系生成结构化输出

谷歌特别指出，这种能力源自Gemini Diffusion的研究积累，使得模型在处理非严格定序、需反复调整的内容时效率远超传统自回归模型。

速度红利的边界：为什么云端大厂可能不买账

尽管在本地单用户场景下速度惊人，DiffusionGemma的高效是有条件的。谷歌明确指出，在高并发云端服务场景中，自回归模型可通过批量处理将数千条请求打包共享算力，从而填满GPU利用率；此时DiffusionGemma的并行解码优势会大幅递减，甚至可能因计算密度增加而推高服务成本。因此，其吞吐量优势主要存在于单张加速器上的低至中等批次规模场景——这正是本地部署和中小规模AI应用的典型环境。

实验品而非替代品：谷歌明确不推荐生产环境

谷歌将DiffusionGemma定位为面向研究人员和开发者的实验性模型，以Apache 2.0许可证开源发布。目标用例聚焦于速度敏感的本地交互工作流，如文本实时编辑、快速内容迭代等。但谷歌坦承，该模型在基准测试中的输出质量仍低于标准的Gemma 4模型，呈现出明确的能力取舍关系。对于追求最高精度输出的商业生产应用，谷歌建议继续部署标准Gemma 4。这一定位暗示：速度的飞跃以质量折损为代价，短期内它更适合探索性原型和低延迟实验，而非取代现有的生产级大模型。