荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

已挖出十几万漏洞,Anthropic 向更多安全团队开放其最强 Claude 模型

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

Anthropic 正在扩大一项面向网络安全专业人士的计划,允许经过审核的专家在更少安全防护的条件下测试其最强大的人工智能模型。该公司于当地时间周二正式公布了新版网络核验计划(CVP),整合了过去半年运行的两套项目,旨在保障全球关键软件的安全。

据悉,Anthropic 此前的“玻璃翼计划”今年已帮助发现了超过 10 万个软件漏洞。合作方在 4 月至 7 月期间至少找到了 129000 个已核实漏洞,而 Anthropic 自身开展的开源扫描工作在 4 月到 10 月之间又额外发现了 5500 个漏洞,其中超过 33000 个漏洞被评定为严重或高危等级。

Anthropic 表示,这些数据很可能存在统计遗漏,实际影响至少是目前数据的五倍,因为该数据仅来自对有限数量合作方的调查。新版 CVP 整合的两套项目分别是:为负责关键软件安全防护的机构开放 Claude Mythos 使用权限的玻璃翼计划,以及向经过资质审核的安全团队开放防护限制下调后的 Claude Opus 与 Claude Sonnet 模型的旧版网络核验计划。

今年 4 月 Anthropic 发布 Claude Mythos Preview 时,曾引发外界担忧:人工智能或许会在软件完成安全加固之前就对其发起黑客攻击。为此,新设立的 CVP 项目一共分为三个层级,每一层级都设置了对应的资质审核要求与安全管控措施,全部三个层级均可使用 Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1 及后续推出的新模型。

防御层级适用于事件应急响应、恶意软件分析等工作,安全团队、关键基础设施运营方、开源项目维护人员及拥有漏洞上报履历的研究人员均可提交申请。红队层级在此基础上增加了授权渗透测试与红队攻防演练权限,但仅接受机构申请。约束最少的专项层级则仅面向一小部分机构开放,这些机构获许可对电网、航空飞行系统、银行跨行转账基础设施等关键系统开展测试。

值得关注的是,Anthropic 将会同美国政府一同审核每一名参与成员的资质,原本玻璃翼计划的现有成员将会归入专项层级。随着该计划的扩展,更多经审核的网络安全团队将能够接触 Anthropic 最强模型,在受控条件下提升关键软件的防御能力。

阅读原文 →来源:ithome