OpenAI 构建安全系统，可在不存储客户数据的情况下捕捉滥用行为

OpenAI发布了一种新的安全系统，称为“私人安全处理”（Private Safety Processing），允许企业客户使用其最先进的AI模型，而无需存储他们的数据，同时仍能捕捉滥用行为。该系统旨在解决企业在AI部署中日益增长的数据隐私和安全担忧。

在新框架下，OpenAI在保持零数据保留（ZDR）的同时，检测跨多个相关对话的滥用模式。该公司表示，它只接收一个狭窄的安全信号，包括活动的类型和严重程度，而从未看到实际的输入或输出。

客户数据保留在客户自己的基础设施上，或存储在客户保留加密密钥的加密存储中。这代表了传统AI安全监控的重大转变，传统监控通常需要访问使用数据。

这一功能尤其重要，因为竞争对手Anthropic要求其最强大的模型（如Fable 5）保留30天的数据。OpenAI产品政策主管Aleah Houze指出，风险通常只有在多次交互过程中才会显现，这使得该系统成为一个实用的解决方案。

这种方法可能极大地吸引高度受监管的行业，如医疗保健、金融和法律服务，在这些行业中，数据隐私至关重要。通过将安全监控与数据保留分离，OpenAI旨在减轻担忧而不损害保护。

Houze还表示，详细介绍该系统的技术白皮书预计将于9月发布。行业观察人士将关注该系统在实际滥用检测中的有效性。

如果成功，“私人安全处理”可能会为AI公司如何平衡安全与隐私设定新标准。它可能会迫使竞争对手采用类似的零保留方法，重塑企业AI格局。