- 发布日期
一边造 AI 一边清垃圾，硅谷开始为失控内容买单
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
北京时间8月18日，据《纽约时报》报道，劣质AI垃圾内容已在互联网上泛滥成灾，从谷歌搜索中的“胶水披萨”食谱到亚马逊上的虚假传记，再到脸书信息流里的“虾仁耶稣”图片，无处不见其踪影。随着聊天机器人和视频生成工具飞速发展，这个“数字污水堆”正不断侵蚀有价值的内容，污染整个信息生态系统。如今，硅谷终于开始对这些垃圾内容进行大规模清理。
这场清理行动的规模相当可观。音乐流媒体平台Spotify表示，去年删除了7500万条批量上传内容、重复歌曲以及其他“垃圾式”曲目，占其音乐库的相当大一部分。领英在7月宣布，“AI垃圾内容是我们所有人的首要关注重点”，并推出了用户举报按钮。YouTube母公司谷歌的研究人员则描述了该视频服务如何在六个月内清除了13万个低质量频道。
这些垃圾内容的产生源头，恰恰是科技公司自己的AI工具。伊利诺伊大学AI专家保罗·肖夫林指出，AI垃圾内容是一把双刃剑，起初为平台带来了用户参与度提升，但如今已成为负担，因为用户难以找到高质量内容。例如，谷歌全面拥抱AI，将Gemini模型接入多个服务，但根据Kapwing的一项实验，YouTube向新用户推荐的首批短视频中，超过20%是AI生成的垃圾内容。Kapwing估计，一个热门AI垃圾频道年收入可达425万美元，目前已暂停创收。
用户的不满情绪日益高涨。词典出版商梅里亚姆-韦伯斯特将“slop”选为2025年年度词汇。法国流媒体服务Deezer透露，每天新增曲目中近一半是人工生成的，Apple Music上传量的三分之一以上为AI内容。Instagram负责人亚当·莫塞里曾表示，追踪“真实媒体”很快将比追踪虚假媒体更实际。卡内基国际和平基金会研究员艾丹·沃克评论说，AI垃圾内容只是另一个“正在溃烂的伤口”，舆论风向已明显变化，促使公司正视问题。
各平台正尝试多种应对策略。TikTok已自动标记超过30亿条AI生成视频，今年前三个月删除37.7万条违反政策的内容。X平台则封禁了通过付费鼓励机器人发布的应用程序。Substack推出了由Pangram支持的AI检测工具，用于扫描回复、评论及长文。然而，一些通讯作者抱怨该工具误判人类撰写的帖子，带来不必要的压力。
治理工作面临挑战。谷歌研究人员通过分析上传速度和重复模板，识别并移除了5万个账户集群，但专家担心这可能误伤合法创作者。哥伦比亚大学研究员卡米尔·弗朗索瓦表示，这些杂乱无章的应对策略表明，我们面对的是信息环境中的系统性问题，不能简单定义为“AI垃圾”然后删除。她警告，处理不当的平台将流失用户。展望未来，如何平衡内容治理与创作自由，仍将是科技行业必须解决的难题。
