- 发布日期
阶跃 Step 5 Preview 大模型权重开放，支持 100 万 token 上下文窗口
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
10月15日，阶跃正式释放 Step 5 Preview 模型权重。此次开放包括 BF16 与 FP8 模型权重、技术博客和配套开源开发工具。官方介绍，该模型面向长程 Agent 任务设计，采用稀疏 MoE 架构，总参数量 600B，每 token 激活参数仅 27B，支持 100 万 token 上下文窗口。
Step 5 Preview 原生支持文本与视觉输入，在 AI 编程、软件工程、专业知识工作和金融等场景表现突出。近期，该模型在 OpenRouter 周调用量、日调用量榜单中均位居全球第二。官方称，其目标是为更长、更复杂的 Agent 任务提供支持。
目前，模型权重已上线 Hugging Face 和 ModelScope，并提供面向多种芯片平台和推理框架的适配支持。开发者可以通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务。也可以使用 Transformers 进行离线推理，将模型接入自己的数据、工具和系统，构建智能体、应用、工作流与服务。
官方同步公开的技术博客介绍了架构与训练协同优化。模型采用 92 层窄深架构，为隐式多跳推理提供更深的计算路径，同时控制参数规模与计算成本。其 Sparse GQA 通过块级索引与稀疏计算合并，降低百万 token 上下文的计算开销。其中，8 token 块级索引可将索引与 top-k 选择开销降至原来的 1/8。
训练方面，Step 5 Preview 在关键状态与参数上保留 FP32 精度，并结合细粒度梯度裁剪。官方表示，这可以缓解深层网络中的激活异常增长与梯度尖峰。这些设计旨在提升模型在长程任务中的稳定性。
为支撑长程任务，阶跃还构建了百万级可验证环境，覆盖软件工程、科学推理、机器学习研发和专业知识工作，并持续校准任务难度、多样性与评估可靠性。模型还采用面向长程任务的强化学习，将上下文压缩纳入端到端策略训练。这让 Agent 能学习整理任务状态、继续执行，并结合更精细的奖励归因提升长轨迹的学习效果。
从开放权重到工具适配，Step 5 Preview 为开发者提供了较完整的落地路径。开发者既可通过兼容 OpenAI 接口的 API 服务调用，也可进行离线推理并接入自有系统。随着长上下文与 Agent 应用发展，该模型在软件工程、金融和专业知识工作等场景中的实践值得关注。
