- 发布日期
用密码学证明 AI 输出来自哪个模型
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
11月4日，IT之家消息显示，Anthropic正在开发一套名为FlashProve的开源系统，用于验证某一AI输出究竟由哪个模型生成。公司周二发布博客文章称，该系统旨在实现研究人员所称的“可证明推理”，通过密码学证明为特定输出提供数学层面的保证。借助这套系统，用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。
随着闭源模型被广泛使用，模型身份和输出来源的核验需求随之上升。FlashProve的工作原理类似于加密电子邮件签名：后者帮助收件人确认邮件是否确实来自其声称的发件人，前者则帮助用户确认输出与模型之间的匹配关系。其设计目标是抵御将一个模型伪装成另一个模型的行为，即使实施伪装的正是开发并运行该模型的AI公司，也难以绕过验证。
研究人员特别指出，这套系统有望防止AI公司为了削减成本而暗中换用更便宜的模型，也可以避免企业偷偷换用更昂贵的模型，以人为抬高性能测试结果。FlashProve还可用于验证第三方关于某项任务由先进模型完成的声明。例如，开发者可能声称其软件库已由某个前沿网络安全模型扫描过漏洞，一家企业也可能声称其商业计划已获得适当模型的认可，用户则可通过该系统核验这些说法。
为实现这一目标，AI实验室需要为发布的每个模型提供一个“指纹”，之后便可将其与特定输出进行匹配，并通过密码学方式验证其来源。关键在于，这些指纹不会泄露模型权重，也就是决定模型行为的内部参数。Anthropic、OpenAI等闭源模型开发商通常将这些参数作为商业机密加以保护。因此，AI实验室可以公开模型指纹而无需放弃最有价值的资产，这也意味着FlashProve同样能够适用于商业闭源模型。
此外，该系统在设计上力求轻量化，用户可以直接在本地设备上完成验证。作为此次发布的一部分，Anthropic研究人员公布了详细的技术规范，以及系统各个组成部分的可运行代码。这些代码已在GitHub上以开源许可证公开，便于外界审视和在此基础上加以利用。
若这类验证机制成熟，模型输出来源有望从厂商自述转向可核验的密码学证明，为模型使用方和第三方声明提供额外依据。它也可能对AI公司模型替换、性能测试宣称以及商业采购中的信任问题产生影响。不过，系统仍处于研究阶段，实际部署范围和效果尚待观察。
目前，FlashProve相关研究仍在进行中，Anthropic尚未计划在自家或其他AI实验室部署这套系统。研究人员在公告中解释称，这篇研究文章旨在分享阶段性进展，而不是展示一项已经完成的研究计划。其公开成果的明确目的，是希望其他人能够审视相关工作，在此基础上加以利用并进一步改进。
