荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

报告称微软 Copilot 承包商可完整查看用户上传的照片、AI 提示词等

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

微软 Copilot 的人工反馈环节被曝存在较广的数据查看权限。据IT之家9月30日转述,科技媒体404 Media于9月28日披露的内部文件显示,数百名受雇于微软的合同工可以看到用户上传的含有清晰面部信息的照片、相关提示词和AI生成的编辑结果。相关报道将用户隐私、AI质量评估和数据访问边界带入公共讨论。

404 Media记者约瑟夫·考克斯(Joseph Cox)调查后称,这些合同工并非内容审核员,主要工作是对AI生成质量打分,并以普通观看者的直觉作出判断。工作人员可以接触用户上传的图片、输入Copilot的原始提示词,以及AI生成前后的编辑版本。由此,人工评分并不只针对模型最终输出,也覆盖了用户输入和图像内容。

一名合同工向404 Media表示,人脸从不会被打码,而且许多提示词带有性暗示,内容上也存在明显的非自愿性质。该说法反映出,人工评级人员接触的材料可能包含较敏感的面部与文字信息。报道未据此认定发生了数据滥用,但披露了人工评估环节的可见内容范围。

微软Copilot隐私常见问题解答称,用户上传的图片在用于训练AI前,会模糊处理人脸等信息。不过,404 Media指出,这一表述主要涉及训练AI,并不完全适用于人工评级工作。训练阶段的隐私说明与人工评估阶段的实际访问权限之间,因而存在需要进一步解释的差异。

为这些工作人员提供招募服务的公司中,至少一家是Prolific。Prolific是一家专门为研究项目和AI反馈工作招募人员的公司,部分合同工可能经由这类外部平台参与评估。现有披露没有列出全部招募方,也未说明每名工作人员能够访问的具体数据类型和操作范围。

如果用户上传的照片和提示词被用于人工质量判断,相关内容就不只用于训练或生成,还会进入人工评估流程。含有面部及其他敏感信息的材料由此引发对访问权限、用途告知和处理边界的关注。此次报道没有说明合同工是否曾导出、保留或传播这些材料,因此不能据此推断已经发生进一步泄露。

后续需要关注微软及相关招募方是否进一步说明人工评级的权限、脱敏措施和隐私安排,以及用户上传内容在何种范围内被查看。在这些信息明确前,公众难以判断人工评估是否与Copilot隐私说明保持一致。此次披露表明,AI反馈机制在依赖人工判断的同时,也使敏感数据的访问管理成为服务提供方需要面对的问题。

阅读原文 →来源:ithome