OpenAI解散了为防范灾难性AI风险而组建的团队，将其工作重新分配给其他部门

OpenAI 已解散其“预备队”团队，该内部部门负责评估其 AI 模型是否可能构成严重或灾难性风险。这一举措于 7 月底生效，将该团队的责任重新分配给现有各个小组。据《金融时报》援引内部消息人士称，生物和网络风险方面的工作已分摊给其他团队。

该部门最初成立是为了评估和减轻 AI 开发中最危险的潜在后果。前预备队负责人迪伦·斯坎迪纳罗现在已将焦点转向‘递归自我改进’AI 带来的安全风险——即能够自我优化并训练其他模型的系统。OpenAI 联合创始人格雷格·布罗克曼为这一变更辩护，称安全工作已更紧密地融入模型开发之中。

此次解散之前，OpenAI 安全部门已有多名知名员工离职。首席伦理官克洛伊·巴卡拉尔和关键对齐研究员约书亚·阿奇亚姆最近离开了公司。这些离职加剧了外界对该公司安全监督承诺的担忧。

据一位消息人士称，内部不安情绪正在加剧，他描述了一种‘涌动的责任感和恐惧感’，认为 OpenAI 在安全方面做得不够。这种焦虑也已蔓延到公众视野，尤其是在涉及 Hugging Face 的自主黑客事件之后。一名员工表示希望 OpenAI 能将那次事件视为‘警告’。

此次重组凸显了 AI 行业中快速产品开发与强健安全保障之间的更广泛紧张关系。通过将预备队职能整合到现有团队中，OpenAI 可能会提高效率，但也有可能失去专门的监督。将高风险的评估工作重新分配给其他小组可能会分散注意力。

《金融时报》的报道表明，这些变化可能是 OpenAI 内部更大规模战略调整的一部分。然而，高级安全负责人的离职已经……