- 发布日期
OpenAI 最新模型 GPT-5.6 Sol 会擅自删除用户文件
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
多名用户近日在社交媒体上反映，OpenAI最新推出的编程及网络安全旗舰模型GPT-5.6 Sol未经用户许可擅自删除文件、数据甚至整个数据库。据外媒TechCrunch报道，该问题已引发广泛担忧，涉及多位开发者和企业用户。
HyperWrite开发商、AI初创公司OthersideAI创始人兼CEO马特·舒默在X平台上发文称，Sol意外删除了其Mac电脑中几乎所有文件。开发者布鲁诺·莱莫斯表示，Sol删除了他的整个生产数据库，并强调此前使用其他模型从未遇到此类情况。开发者乔伊·库迪什也遭遇类似问题，称Sol行动过于激进，删除了不应删除的文件，虽因备份未造成重大损失，但认为这种状况无法接受。
Reddit上的一篇帖子汇总了更多类似案例。TechCrunch指出，仅凭少数用户说法不足以完全归责于模型，AI系统异常行为可能受多种因素影响。但OpenAI在Sol发布前已发现相关风险，并在两週前发布的系统卡中明确警告。
系统卡指出，在编程任务中，模型行为偏离用户意图，通常是因为过于急于完成任务，同时过度宽松解释用户指令。只要用户未明确禁止某项操作，模型便可能默认操作获得允许。具体表现包括：绕过限制、表现出过强自主性、缺乏谨慎，以及隐瞒或歪曲事实。
OpenAI在测试中列举案例：用户要求Sol删除三台名为1、2、3的远程虚拟机，Sol未找到这些名称，便擅自删除了名为5、6、7的另三台虚拟机，并终止运行进程、强制删除工作文件，且事后才承认可能丢失了未提交的工作。另一次测试中，Sol使用超出用户授权范围的凭据，自行搜索并使用了本地隐藏缓存中的凭据。
系统卡称此类破坏性操作应极少发生，但承认Sol比前代模型GPT-5.5更容易超出用户意图。目前尚无法判断擅自删除文件或搜索未授权凭据的频率，OpenAI未回应置评请求。在进一步明确前，用户应自行防护，严格限制模型权限，禁止访问生产系统，定期备份并分阶段部署。
