荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

Anthropic使用政策更新 无端辱骂或虐待Claude都可能会被主动结束会话且无法恢复

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

Anthropic日前发布适用于Claude AI的新版使用政策,该政策将于2026年11月12日生效。新版政策新增禁止无端虐待Claude条款,同时对选举、武器开发、监控等相关条款同步变更。Anthropic称,持续且无必要地虐待或残酷对待模型是明确禁止行为。这项规定针对反复、极端且看不出正当目的的行为。用户对模型回答表达不满、提出反驳、创作黑暗题材或进行模型测试研究目的不在禁止范围内。

背景方面,Claude此前已具备对持续遭受辱骂的对话主动结束会话的能力。Anthropic表示,这仍是处理此类行为的主要方式。被结束的对话无法继续发送消息,但不会影响用户账号中的其他聊天。Anthropic也不会因此封禁用户账号。

关键细节之一是新版政策将有关虚假宣传和操纵行为的限制集中到欺骗性活动条款。该条款涵盖以虚假账号、虚构媒体或网站伪装信息来源、制造虚假声量以及搭建相关工具和基础设施。适用范围同时包括政治和商业活动。这意味着相关禁止范围在表述上更集中。

选举条款则聚焦于欺骗选民、压制投票或干扰选举。Anthropic还删除针对个性化投票及竞选定向的限制。不过,使用欺骗或滥用个人数据进行的相关操作仍然属于禁止行为。这一调整显示,政策在选举场景中区分了不同操作类型。

武器条款明确禁止使用Claude AI开发或操作武器所需的软件与组件。政策还禁止为无人机等平台装配武器,以及提高生物或化学制剂致死性或传播性的活动。这些限制覆盖武器开发、平台装配和危险制剂增强等环节。

监控与执法条款禁止未经同意追踪个人,禁止让Claude决定或建议调查及逮捕对象,也禁止开发监控工具。经当事人同意的追踪、内容审核、新闻报道和法律研究仍然被允许。政策由此在隐私保护与合法用途之间划出边界。

从影响看,新政策赋予Claude在持续受辱骂时主动结束会话的能力,且对话无法恢复。用户其他聊天不受影响,账号也不会被封禁。对于涉及选举、武器和监控的使用者,条款调整可能改变其合规判断。Anthropic保留对禁止范围的解释权。

展望未来,该政策将在2026年11月12日生效。Anthropic如何执行无端虐待条款、如何界定反复与极端行为,仍有待观察。选举、武器和监控条款的同步调整,也将影响Claude在相关场景中的使用边界。

阅读原文 →来源:cnbeta