- 发布日期
美团 LongCat-2.0 发布,国产芯片上跑出的万亿参数模型
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
美团今日正式发布新一代万亿参数大模型LongCat-2.0,并宣布对外开源。该模型总参数达1.6T,平均激活约48B,动态范围33B至56B,从零开始预训练,原生支持100万Token超长上下文。LongCat-2.0是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型。
在正式版发布前,LongCat-2.0预览版本已通过OpenRouter平台和longcat.ai面向全球开发者开放调用。截至目前,该模型已跻身OpenRouter全球大模型调用量前三,月调用量位列全球第三,仅次于Hermes和Claude Code。
LongCat-2.0预训练数据规模超过30万亿Tokens,覆盖中文、英文、多语言和代码等多类数据。针对万卡级训练中的硬件故障、通信异常、显存压力与数值波动,团队从稳定性、正确性和效率三方面攻克国产算力训练难题。通过HCCL异常处理、弹性扩缩卡和自动故障恢复,月均日故障率降低70%以上;通过自研设计确定性算子、Bitwise一致性验证和参数检测,保障训练结果可靠;通过流水线调度、显存优化和算子级控核,训练MFU提升1.5倍。最终实现稳态日吞吐超过1万亿Tokens/天,完成万亿参数MoE模型在国产算力上的稳定训练。
在推理阶段,LongCat-2.0围绕模型、算子和框架进行协同优化。通过大规模专家并行聚合访存带宽,支撑低延迟解码;将零计算专家机制融入专家并行通信流程,避免不必要的传输与计算;针对通信、Attention、GEMM等核心算子优化调度,结合提前下发与权重预取,降低推理等待开销。
LongCat-2.0采用LongCat Sparse Attention(LSA)稀疏注意力机制,处理长文本时智能筛选关键信息,将计算量从平方级降至线性级,使模型在100万Token超长上下文中保持信息定位与理解能力。通过零计算专家实现Token级动态激活,简单Token不消耗算力,复杂Token自动获得更多计算资源。
模型通过MOPD架构融合Agent、Reasoning、Interaction三组专家能力:Agent Experts专攻工具调用与自主纠错,Reasoning Experts深耕数学与STEM推理,Interaction Experts优化指令遵循与交互体验。推理时由门控网络根据任务类型动态调度最擅长的专家。
综合评测显示,LongCat-2.0在编程和通用Agent场景表现优异。在SWE-bench Pro中获得59.5分,领先Gemini 3.1 Pro(54.2)、GPT-5.5(58.6)和Claude Opus 4.6(57.3);在SWE-bench Multilingual中取得77.3分,与Claude Opus 4.6(77.8)持平;在Terminal-Bench 2.1中取得70.8分。在搜索智能体评测集RWSearch中获得78.8分,在生产力场景评测集FORTE中获得73.2分,在BrowseComp中获得79.9分,均达到或接近前沿闭源模型水平,能够较好契合企业级Agent落地需求。