此语言为机器翻译,尚未经过人工审核。

人工智能 · 文章

Anthropic的网络安全验证计划如何测试和限制AI安全风险

发布:

Offices of Slack Technologies at 500 Howard Street in San Francisco (at the center with neighboring buildings, seen from the back across Howard Street)
图片: HaeB · CC BY-SA 4.0 · Wikimedia Commons

要点

Anthropic的网络安全验证计划(CVP)是一个分层的审查系统,允许经过批准的网络安全专业人士在使用Claude模型时减少自动安全限制,用于防守性和授权的进攻性安全工作。申请人被分为三个访问级别,即使是最不受限制的级别也会对可能造成物理伤害或大规模中断的行为保持实时阻止。

此版本是原文(English)的机器翻译。 阅读原文

2026年10月6日,Anthropic扩展了其网络安全验证计划,该计划决定了特定用户可以绕过Claude模型内置网络安全限制的程度。此次扩展将早期倡议Project Glasswing纳入了单一的三层结构,涵盖防守性安全工作、授权的渗透测试和安全关键基础设施的测试。

Claude模型为什么首先阻止网络安全任务

根据Anthropic的说法,其公开可用的模型运行保守的自动分类器,阻止大多数类似于进攻性网络活动的请求,例如编写漏洞代码或探测实时系统,因为用于保护网络的相同技术也可用于攻击网络。这种双重用途的问题意味着模型无法在没有关于谁在询问的额外背景的情况下轻易区分承包合同下工作的渗透测试人员和攻击者。

三个等级的验证访问权限

CVP通过验证用户是谁以及他们被授权做什么来解决这种歧义,然后调整这些限制中有多少适用。Anthropic和来自The Hacker News、Help Net Security和SiliconANGLE的独立报道描述了相同的三个等级。

Anthropic网络安全验证计划:访问级别
级别谁可以申请审查时间变化
防守访问企业安全团队、非营利组织、大学、政府机构、关键基础设施运营商、较小的安全公司、开源维护者、具有漏洞披露记录的个人研究人员几天允许事件响应、恶意软件分析和漏洞验证
红队访问内部和政府红队、渗透测试公司(仅限组织,不包括个人)几周添加授权渗透测试和模拟攻击;对勒索软件部署等行为的实时阻止仍然存在
专门访问验证测试飞行系统、电网、电信网络或金融基础设施的组织与美国政府联合审查最少的网络相关阻止,用于安全关键系统测试

该计划涵盖的模型包括Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1及未来版本,根据Anthropic的公告。

Anthropic如何衡量放松阻止是否安全

根据Help Net Security和SiliconANGLE的报道,Anthropic在扩展访问之前针对称为CyScenarioBench的内部基准测试了这些层级。在没有任何CVP访问的情况下,所有50个基准测试都被阻止。在防守访问下,50项任务中有4项成功,这意味着分类器仍然阻止了46项。在红队访问下,50项任务中有34项完成而没有任何阻止。The Hacker News从相反的角度报告了相同的防守访问数字:50项任务中有46项被阻止。

即使在最不受限制的级别,Anthropic表示阻止造成物理伤害或大规模中断的自动分类器仍然处于活动状态,注册组织必须同意数据保留,以便Anthropic可以监控滥用情况。一个名为Enterprise Frontier Safeguards的零数据保留选项计划于2026年秋季推出,供想要将监控数据保留在自己云基础设施中的客户使用。

Project Glasswing:该计划背后的漏洞查找记录

CVP的专门访问级别吸收了Project Glasswing,这是早期的Anthropic倡议,重点是保护关键软件。Anthropic报告称,Glasswing合作伙伴在2026年4月至7月期间发现了至少129,000个已验证的软件漏洞,Anthropic自己的开源扫描通过10月又增加了大约5,500个。综合总数中有超过33,000个被评为关键或高严重等级。SiliconANGLE的报道补充说,Anthropic认为真实世界的影响可能比验证数量高大约五倍,基于合作伙伴组织的不完整披露。

这些评估使我们有信心能够安全地向更广泛的防守者提供先进的网络安全能力。

— Anthropic,在其2026年10月6日的公告中

什么对每个人都保持限制

Anthropic的公告指出,CVP之外的通常可用的Claude模型仍然适合于较窄的安全任务,例如代码审查、修补已知漏洞、查找组织已拥有的代码中的缺陷以及分类安全警报。个人研究人员完全被排除在红队访问之外,专门访问需要政府参与的审查,反映了渐进式方法,其中最高风险能力需要最强的身份和授权检查。

常见问题

什么是Anthropic的网络安全验证计划?
这是一个审查系统,允许经过批准的网络安全专业人士根据他们符合的三个等级之一,在使用Claude模型时减少自动安全限制,用于防守性工作、授权渗透测试或安全关键基础设施的测试。
谁可以申请该计划?
防守访问向企业安全团队、非营利组织、大学、政府机构、关键基础设施运营商和具有漏洞披露记录的个人研究人员开放。红队访问仅限于组织,例如内部或政府红队和渗透测试公司。专门访问为验证的测试电网或飞行系统等系统的组织保留,由美国政府参与审查。
验证的访问权限是否移除Claude的所有安全限制?
不会。Anthropic表示,实时分类器阻止可能造成物理伤害或大规模中断的行为(如勒索软件部署)即使在红队访问级别也保持活跃。
什么是Project Glasswing?
Project Glasswing是早期的Anthropic倡议,专注于在关键软件中查找漏洞;它现已被吸收到网络安全验证计划的专门访问级别中。Anthropic表示,其合作伙伴在2026年4月至7月期间发现了至少129,000个已验证的漏洞。
Anthropic如何测试减少的限制是否安全?
Anthropic根据称为CyScenarioBench的内部基准运行了这些层级。在没有CVP访问的情况下,所有50个测试试验都被阻止;在防守访问下,50项中的46项仍然被阻止;在红队访问下,50项中的34项完成而没有任何阻止,根据Help Net Security、SiliconANGLE和The Hacker News的报道。

来源

  1. Anthropic — Cyber Verification Program announcement
  2. The Hacker News — Anthropic Expands Claude Access for Security Researchers
  3. Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
  4. SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program

本文由人工智能撰写,发布前已通过自动来源核查。如发现错误,请申请更正。 申请更正或回应 · 我们如何制作

相关文章