- 发布日期
自动研究循环将代码代理令牌流量最高削减49%
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
NVIDIA与南洋理工大学(NTU)和麻省理工学院(MIT)合作发布了SoL-Pi——一套包含四种效率机制的方案,旨在大幅降低编程代理的Token消耗。这套适用于Pi编程代理的开源扩展是自动化“研究循环”的产物,其中AI系统性地在工具调用和上下文管理层面(即harness层)搜索并测试改进方案。该发布的背景是编程代理现已能够连续运行数小时,每次编辑和测试都会产生巨量的Token流量。
传统效率优化侧重于通过更快的内核或量化来降低每个Token的成本。SoL-Pi的创新之处在于直接针对harness层本身,旨在减少每个任务消耗的总Token数。手动调整这种耦合系统速度缓慢,且可能无意中转移成本。虽然自动化系统已存在,但NVIDIA团队指出,先前演化出的harness层可能过度拟合特定搜索任务,在应对新挑战时收益有限。
该发现过程涉及一个研究AI观察执行轨迹、提出修改建议并在隔离循环中进行测试。搜索探索了六大功能家族中的152个方向,使用了超过535个可执行环境(其中495个基于GitHub的问题-拉取请求对构建)。严格的验收规则被预先设定,以确保候选机制能在不牺牲核心能力的前提下至少提升一项效率指标,而EdgeBench评估集则被严格隔离。
最终产生的四种机制现已在GitHub上以MIT许可证发布。动作融合将独立的文件编辑和测试命令合并为单一工具请求;在线上下文压缩动态管理提示缓存重写以节省输入Token;观察打包存档大型工具输出,仅在初始请求后发送摘要;证据保留缩减器使用成本更低的模型和确定性验证器来汇总冗长的构建和测试日志。
在包含51个任务的EdgeBench评估集上的测试显示出显著的提升。当部署在Opus 5模型上时,SoL-Pi将Token流量减少了44.7%,API成本降低了约33%,同时保留了基础Pi代理94.3%的得分。在GPT-5.6 Sol上的表现更为突出,实现了49.0%的Token削减和33.2%的成本节约,得分保留率为93.7%。
此次发布为Pi 0.85.1版本提供了一个可部署的、MIT许可的扩展,需要Node.js 22.19或更高版本。通过证明自动化且有护栏的搜索能够发现可泛化的harness层优化,NVIDIA及其合作伙伴提供了一个实用工具,使长时间运行的编程代理更加经济高效。这项工作预示了一个未来:AI能够递归地提升其自身的运行效率。