美国佛州一女子把 AI 当“日记本”用，Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警

美国佛罗里达州李县警方10月5日通报，30岁居民卡莉·米歇尔·赫勒因涉嫌在Claude对话中写下枪击威胁而被捕。她于9月26日称要“shoot up”李县警长办公室。内容随即触发Anthropic安全机制并被上报。

据WINK News报道，警长卡迈恩·马尔切诺称，赫勒后来把AI当作“日记”使用。警员到其住所将她“无冲突拘留”，案件由情报警探接手。她目前面临书面暴力威胁指控，但尚未被定罪。

调查人员称，Anthropic通过监测关键词和潜在威胁识别内容，再按严重程度升级至人工审核。人工团队确认后联系当地执法部门。聊天记录由此进入刑事调查流程。

该州法规第836.10条规定，以可查看的书面或电子记录威胁杀人、身体伤害、大规模枪击或恐怖行为，可能构成二级重罪。发送或传播相关记录也可能违法。Claude对话是否符合具体构成要件，仍待法院裁定。

案件也引发聊天机器人隐私边界讨论。Anthropic称，通常需有效法律程序才向政府披露用户信息，但为避免迫在眉睫的身体伤害或死亡，可例外披露。其条款还称，AI对话不享有律师与委托人式保密特权；公司未说明本案审核细节。

马尔切诺表示，AI可能改变威胁方式，但保护居民的承诺不变。警方将严肃对待利用AI实施或协助的威胁。平台如何平衡安全监测、用户隐私与及时预警，仍是后续争议重点。