DiffusionGemma：文本生成速度最高提升 4 倍

Google 正式推出实验性开源模型 DiffusionGemma，首次落地文本扩散（Text Diffusion）高速文本生成技术。模型基于 Apache 2.0 协议开源，采用 26B MoE 架构，打破了传统自回归 LLM 逐个生成 Token 的串行处理模式，能同时生成整块文本，GPU 环境下的生成速度最高可提升 4 倍。

依托 Gemma 4 家族业界领先的参数效率，结合 Gemini Diffusion 前沿研究成果，DiffusionGemma 新增了专为极限生成速度设计的扩散头，完美适配对速度要求极高的本地交互工作流，比如行内编辑、快速迭代、生成非线性文本结构等场景。

对输出质量要求高的生产环境，自回归架构的 Gemma 4 仍是首选。

解锁开发者新价值

在做实时交互式 AI 应用时，本地推理延迟一直是开发者最头疼的问题，DiffusionGemma 正好解决了这个痛点，在特定方向上也做了相应的取舍：

极速推理体验：DiffusionGemma 将解码阶段的性能瓶颈从内存带宽转移到了计算算力上，单卡环境下 Token 生成速度最高是传统自回归模型的 4 倍。单张 NVIDIA H100 上每秒可生成 1000+ Token，NVIDIA GeForce RTX 5090 上每秒可达 700+ Token。
极低硬件门槛：虽然总参数量达 26B，但 DiffusionGemma 推理时只需激活 3.8B 参数，量化后甚至能轻松跑在 18GB 显存的高端消费级显卡上。
双向注意力机制：每次前向传播可并行生成 256 个 Token，每个 Token 都能获取其他所有 Token 的上下文信息，处理行内编辑、代码补全、氨基酸序列、数学图结构等非线性任务优势明显。
智能自我纠错：模型会通过迭代不断优化输出，一次性评估整块文本，生成过程中就能实时修正错误。
适用场景说明：因为事优先做了速度和并行生成优化，DiffusionGemma 的整体输出质量比标准版 Gemma 4 要稍低，对文本质量要求极高的生产场景还是推荐部署标准版 Gemma 4。

开发者还可以通过微调来提升 DiffusionGemma 在特定任务上的表现。Unsloth 就对 DiffusionGemma 做了微调，让它学会了解数独：数独里每个数字都依赖其他位置还没填的内容，传统自回归模型处理这类任务会比较费劲，DiffusionGemma 靠双向注意力就能轻松搞定。

将扩散模型引入文本生成

AI 社区对扩散模型做文本生成的探索已经很久了，但一直很难落地到大规模语言模型上。DiffusionGemma 打破了这个僵局，重构了模型对硬件资源的利用方式。

传统模型的性能困境

绝大多数大语言模型就像打字机，只能从左到右逐个生成 Token。在云端场景下，这种机制效率很高，服务器可以把数千个用户请求做批量处理（Batching），摊薄硬件负载。但到了本地单用户场景，这种逐字生成的模式会让 GPU/TPU 的算力大量闲置，绝大部分时间都在等下一个 Token 生成。

DiffusionGemma 改变了这种低效模式，不再串行预测单词，一次就能生成 256 个 Token 的完整文本。通过给处理器「更大块」的任务，DiffusionGemma 就能把硬件性能全部压榨出来，把原来单向串行的打字机式推理，变成了一次就能输出整段文本的印刷机模式。

这也意味着 DiffusionGemma 的加速特性是专门针对本地、低并发推理场景设计的。高 QPS 的云端服务场景下，自回归模型已经可以通过并发请求把算力吃满，并行解码的边际收益会明显下降，甚至还可能推高服务成本。所以它的吞吐量优势，在单张加速卡、中低 Batch Size 的场景下最为突出。

文本扩散的工作原理

和 AI 图像生成的逻辑类似：先从视觉噪点开始，迭代去噪直到生成清晰图像，DiffusionGemma 把这套逻辑搬到了文本生成上：

初始化画布：模型先生成一块布满随机占位符 Token 的画布。
迭代优化：模型进行多次扫描，锁定正确的 Token，再用这些确定的内容作为上下文线索优化剩余部分。
最终成型：文本逐步收敛，输出最终的高质量结果。

因为生成时具备全局视野，能处理整段文本，DiffusionGemma 还解锁了很多新能力：比如可以完美闭合复杂的 Markdown 格式，或者近乎实时地生成并渲染代码。

使用 DiffusionGemma

下载模型权重：直接到 Hugging Face 下载 diffusiongemma-26B-A4B 模型权重，采用 Apache 2.0 协议开源，使用门槛很低。
集成与学习：查阅 DiffusionGemma 开发者指南了解更多细节，想探究底层机制的话，还可以深入阅读 DiffusionGemma 可视化指南。