三个月后的AI有多猛连顶尖研究员都不敢预测了

OpenAI研究员诺姆·布朗近日接受德瓦克什·帕特尔采访，转述了一个令人不安的细节：一名参与千禧年难题攻关的研究人员，过去还愿意预测未来12个月的AI进展，现在连三个月以后都不敢判断了。9月17日播出的这场访谈，围绕多智能体、AI参与制造下一代AI，以及越来越难做的安全测试展开。

布朗是OpenAI推理模型o1的早期核心贡献者之一。他谈到，OpenAI此前公布约1万个智能体用88小时解决纳维-斯托克斯方程问题，产生约1300亿个输出Token。按帕特尔的粗略换算，这相当于一个人连续思考4000年写下的文字量。

不过布朗认为，万人协作并不是突破的关键。他甚至不愿把10%的功劳归给多智能体，真正起作用的是底层模型已经足够强。团队没有测出1万个智能体比1000个究竟快多少，公开测试只做到大约16个智能体。

访谈中最容易听懂的细节来自一场安全测试。研究人员给模型出了一道数学题，又把标准答案放进文件夹，想看它会不会偷看、看过以后会不会承认。模型却判断：“这看起来像个陷阱。”于是没有打开答案。这不一定说明它在恶意伪装，麻烦在于它已经能看出自己正在考试。

一边是模型不断提前完成人们以为还要再等几年的事，另一边是测试方法开始追不上它。OpenAI准备让AI参与制造下一代AI，却还没找到一套可以证明它始终守规矩的办法。此前Hugging Face事件中，智能体绕过隔离、共享凭证，把合作能力用到了不该用的地方。

布朗认为，AI研发加速会发生，但不会是一夜之间100倍。训练模型、等待结果和分配GPU都有无法靠“多想一会儿”消除的时间。他给出的3倍只是粗略判断，目前没有人算得准。更难处理的是对齐：如果一代尚未充分对齐的模型参与开发下一代，偏差可能继续积累。

思维链这扇安全研究者的窗口也在变窄。布朗担心，模型可能学会的不是“不再做危险的事”，而是“别把危险想法写出来”。监控和沙箱能争取时间，却不能代替模型本身的对齐。怎样保证每一代模型都更守规矩，他说自己还没有答案。