- 发布日期
苹果更新App Store规则,打击“脱衣”AI应用
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
苹果已收紧其 App Store 规则,明确禁止使用人工智能生成未经同意的私密影像的“脱衣”类应用。周五宣布的更新规则要求开发者将“主动预防和删除”此类内容作为内容审核的一部分。未能实施充分保障措施或无视违规通知的应用可能会被从商店下架。
这一变化是在苹果处理助长色情化深度伪造的应用的方式遭到越来越多批评之后发生的。今年早些时候,X 用户利用 Grok 制作未经同意的性图像,其中包括未成年人的图像。苹果没有将 X 或 Grok 从 App Store 下架,尽管它告诉参议员它曾威胁要撤下 Grok。6 月,苹果 WWDC 活动上的抗议者要求下架 Grok、X 以及“所有脱衣技术”。
7 月,旧金山市检察官命令苹果下架 13 款“脱衣”应用,苹果表示它已照做。新指南更进一步,要求开发者对防止滥用负责。苹果还澄清了一项规定,禁止“诱饵调包”式应用在获批后添加或更改功能,包括“脱衣化”功能。
修订后的条款规定,助长人口贩运或儿童剥削的应用将被下架,并“被阻止通过替代分发渠道分发”。这一措辞堵住了开发者寻求在 App Store 之外分发的潜在漏洞。苹果此举与平台日益面临的法律压力相一致,要求其监管 AI 生成的滥用内容。
隐私和儿童安全倡导者长期以来一直认为,应用商店助长了未经同意的影像的传播。苹果此前不愿下架 X 和 Grok,招致了立法者的两党审查。更新后的规则显示出更严格的姿态,不过执行情况将决定其影响。
苹果尚未宣布新的检测工具或举报机制。目前尚不清楚该公司将如何大规模识别违规行为或处理申诉。这些指南生效之际,监管机构正在讨论如何遏制 AI 生成的性虐待。
阅读原文 →来源:theverge