路透社实测发现，Meta 检测工具面对裁剪后的自家 AI 生成图片竟然“失灵”

路透社近日实测发现，Meta公司本周发布的一款AI图像检测工具存在明显局限：部分由Meta自家模型Muse Image生成的图片，一旦经过裁剪，该工具便无法确认其AI来源。这一结果引发业界对AI内容检测可靠性的关注。

Meta在推出Muse Image的同时介绍了这款检测工具，并声称即使图片经过裁剪，工具仍可识别由Meta AI生成的内容。然而，路透社的测试结果显示，常见的图片修改操作就可能削弱检测能力。这一发现凸显了当前AI生成内容溯源技术的脆弱性。

测试中，路透社使用Muse Image生成了40张图片。检测工具成功识别了全部原图，但同一批图片被裁剪至原图约三分之一至二分之一大小后，55%的图片无法通过验证。这意味着超过一半的裁剪后图片被工具误判为人类创作。

据了解，Muse Image会在每张生成图片中嵌入名为Content Seal的隐形水印。Meta在官网称，检测工具可以通过这套水印系统确认图片是否由Meta的AI模型生成，即使图片经过裁剪也能识别。但路透社的测试表明，大幅裁剪后水印信号可能丢失。

Meta回应路透社测试结果时强调，检测工具仍是预览版本。Content Seal的设计目标是在常见编辑后继续保留水印信号，但图片一旦被大幅裁剪，信号仍可能丢失。这意味着该工具在部署前仍需改进。

此次测试结果对Meta的AI内容治理策略构成挑战。随着生成式AI的普及，辨别AI生成内容成为打击虚假信息的关键。但路透社的测试显示，即便Meta自家的工具也难以应对简单的编辑操作，这削弱了其公信力。

行业专家指出，水印技术本身容易受到攻击，裁剪、旋转、压缩等常见操作都可导致水印失效。未来可能需要结合多种检测手段，如元数据验证、内容指纹和机器学习分类器，才能提高检测鲁棒性。

展望未来，Meta计划继续完善Content Seal水印方案，并考虑与第三方检测工具合作。但路透社的测试表明，在技术成熟前，用户应谨慎依赖此类工具的识别结果。公共教育和负责任的AI使用仍是应对AI生成内容误导的关键。