如果青少年讨论自杀或自残相关话题，将自动通报家长

Meta公司宣布推出新功能，当青少年用户在与Meta AI聊天机器人对话中提及自杀或自残相关话题时，系统将自动通知其父母。该功能于当地时间7月16日上线，旨在加强青少年心理健康保护。Meta同时正在开发紧急求助功能，若对话显示用户可能即将自杀，将联系紧急服务机构。

Meta表示，已建立专门的AI系统用于识别青少年明确提到自我伤害的对话。为确保准确性，AI标记的每段对话都将先由人工审核，再决定是否发出警报。Meta在声明中承认，家长可能收到最终证明无需担忧的警报，但他们认为现阶段应采取更谨慎的标准，并继续观察实际效果。

目前，美国、英国、澳大利亚和加拿大使用Instagram家长监督功能的家长已可收到警报，该功能计划在今年年底前推广至全球。此前，Instagram已支持在青少年反复搜索自杀或自残词语时通知家长，新功能进一步扩大了预警范围。家长还可查看青少年过去一周与Meta AI讨论过的话题。

Meta同时将“限制内容”设置扩展至Meta AI。家长启用后，青少年在Instagram和Meta AI中都会受到更严格的内容限制。Meta AI原本就不会与青少年讨论性、恋爱或饮酒话题，新增限制将让聊天机器人拒绝更多类型的提问。

Meta还表示，无论用户是成年人还是青少年，只要对话显示有人可能自杀，Meta就会联系紧急服务机构。在Meta AI采取此类措施前，Facebook和Instagram已能在发现用户发布可能表明存在自杀风险的内容时采取同样措施。

业界分析认为，Meta此举反映了社交媒体平台在青少年心理健康问题上的责任日益受到关注。随着AI聊天机器人的普及，如何平衡隐私保护与安全预警成为关键挑战。Meta选择谨慎先行，通过人工审核降低误报风险，同时扩大家长监督范围，可能为行业树立新标准。

未来，Meta计划继续完善识别算法，并收集反馈以优化预警尺度。该公司强调，青少年安全是首要任务，将在全球范围内推广这一功能，同时探索更多技术手段预防自杀行为。