- 发布日期
高负载推理吞吐量近 Qwen3.5-9B 两倍
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
JetBrains 发布 Mellum2.1 编程 AI 模型，高负载推理吞吐量接近 Qwen3.5-9B 两倍
JetBrains 于 10 月 8 日发布博文，宣布上线 Mellum2.1 模型，重点增强智能体编程能力。该模型延续 Mellum2 的 12B 混合专家架构，拥有 2.5B 活跃参数，并继续采用 Apache 2.0 许可证发布。JetBrains 称，Mellum2.1 最大改进出现在智能体编程领域，模型可探索代码库、编辑文件并检查自身修改。
Mellum2.1 的升级重点在于预训练后的强化学习阶段。JetBrains 将该阶段从短期收尾环节扩展为训练主体，并在数学、算法竞赛、科学、工具使用和软件工程等任务中补充训练数据。为支撑训练，JetBrains 搭建了内部强化学习环境基础设施，在训练期间启动数百万个沙盒，覆盖数千个环境。
在数据准备方面，JetBrains 在训练前筛选了开放数据集，剔除测试缺陷、不可验证答案及难度失当的任务。这一过程旨在提升训练信号质量，使模型在复杂任务中更稳定。JetBrains 表示，升级后的 Mellum2.1 可识别失败测试的根因，起草修复方案并验证结果。
性能方面，Mellum2.1 与 Mellum2 架构一致，速度保持不变，多 Token 预测（MTP）进一步提升响应速度。在单请求场景下，MTP 使其速度提高约 1.6 倍。JetBrains 将 Mellum2.1 与 Mellum2、Qwen3.5-9B 及 Gemma 4 E4B 在相同评估设置下比较。
评估结果显示，高负载时 Mellum2.1 的推理吞吐 Token 数量接近 Qwen3.5-9B 的两倍。同时，该模型在编程、算法竞赛、数学、工具调用和通用知识等维度均有提升。JetBrains 认为，这些改进使其更适合智能体编程和高负载推理场景。
部署方面，Mellum2.1 现已登陆 Hugging Face，支持本地或自有基础设施部署，让企业可将代码和数据保留在自身环境中。JetBrains 表示，官方后续还将会推出面向 llama.cpp、Ollama 和 LM Studio 的 GGUF 版本，以及 vLLM 的 MTP 推测解码组件。这些版本和组件将面向本地部署和自有基础设施场景。
从行业影响看，Mellum2.1 延续 Apache 2.0 许可证，并强调本地部署与自有基础设施，可能吸引对数据安全敏感的企业开发者。其高负载吞吐表现若在真实场景中成立，将加剧编程 AI 模型在智能体任务上的竞争。JetBrains 的后续工具链适配，也将影响开发者的采用速度。
