Этот язык переведён машиной и не проверен человеком.

Искусственный интеллект · Статья

Как программа Cyber Verification Program компании Anthropic тестирует и ограничивает риски безопасности ИИ

Опубликовано:

Offices of Slack Technologies at 500 Howard Street in San Francisco (at the center with neighboring buildings, seen from the back across Howard Street)
Изображение: HaeB · CC BY-SA 4.0 · Wikimedia Commons

Коротко

Программа Cyber Verification Program (CVP) от Anthropic — это многоуровневая система проверки, которая позволяет одобренным специалистам по кибербезопасности использовать модели Claude с меньшим количеством автоматизированных ограничений безопасности для оборонительной и разрешенной наступательной работы в области безопасности. Заявители распределяются по трем уровням доступа, и даже наименее ограниченный уровень сохраняет блокировку в реальном времени действий, которые могут вызвать физический вред или массовое нарушение.

Эта версия — машинный перевод оригинала (English). Читать оригинал

6 октября 2026 года Anthropic расширила свою программу Cyber Verification Program, систему, которая определяет, какую часть встроенных ограничений кибербезопасности модели Claude пользователю разрешено обойти. Расширение объединяет более раннюю инициативу Project Glasswing в единую трехуровневую структуру, охватывающую оборонительную работу в области безопасности, авторизованное тестирование на проникновение и тестирование критичной инфраструктуры.

Почему модели Claude блокируют задачи кибербезопасности в первую очередь

По словам Anthropic, его общедоступные модели используют консервативные автоматизированные классификаторы, которые блокируют большинство запросов, напоминающих наступательную киберактивность, таких как написание кода эксплойтов или зондирование живых систем, потому что те же методы, используемые для защиты сети, могут также использоваться для атаки на нее. Эта проблема двойного назначения означает, что модель не может легко отличить тестировщика на проникновение, работающего по контракту, от злоумышленника без дополнительного контекста о том, кто спрашивает.

Три уровня верифицированного доступа

CVP разрешает эту двусмысленность, проверяя, кто такой пользователь и на что он уполномочен, а затем регулирует количество применяемых блокировок. Anthropic и независимое освещение от The Hacker News, Help Net Security и SiliconANGLE описывают одинаковые три уровня.

Программа Anthropic Cyber Verification: уровни доступа
УровеньКто может подать заявкуВремя рассмотренияЧто изменяется
Defense AccessКорпоративные команды безопасности, некоммерческие организации, университеты, государственные органы, операторы критичной инфраструктуры, небольшие фирмы безопасности, мейнтейнеры открытого кода, отдельные исследователи с историей раскрытия уязвимостейНесколько днейРазрешает реагирование на инциденты, анализ вредоносного ПО и валидацию уязвимостей
Red Team AccessВнутренние и государственные красные команды, фирмы тестирования на проникновение (только организации, не частные лица)Несколько недельДобавляет авторизованное тестирование на проникновение и имитированные атаки; блокировка в реальном времени на действия, такие как развертывание программ-вымогателей, сохраняется
Specialized AccessВерифицированные организации, тестирующие системы полетов, электросети, телекоммуникационные сети или финансовую инфраструктуруРассмотрено совместно с правительством СШАНаименее кибербезопасные блокировки для тестирования критичных систем безопасности

Модели, охватываемые программой, включают Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 и будущие версии, согласно объявлению Anthropic.

Как Anthropic измерила, безопасно ли ослабление блокировок

Anthropic протестировала уровни на внутреннем эталоне, называемом CyScenarioBench, перед расширением доступа, согласно Help Net Security и SiliconANGLE. Без доступа CVP все 50 попыток эталона были заблокированы. В режиме Defense Access 4 из 50 задач выполнены успешно, что означает, что классификатор все еще остановил 46. В режиме Red Team Access 34 из 50 задач завершены без блокировок. The Hacker News сообщила ту же цифру Defense Access с противоположного угла: 46 из 50 задач были заблокированы.

Даже на наименее ограниченных уровнях Anthropic говорит, что автоматизированные классификаторы, которые останавливают действия, вызывающие физический вред или массовое нарушение, остаются активными, и зарегистрированные организации должны согласиться на сохранение данных, чтобы Anthropic могла контролировать неправомерное использование. Опция нулевого сохранения данных, называемая Enterprise Frontier Safeguards, запланирована на осень 2026 года для клиентов, которые хотят вместо этого хранить данные мониторинга в своей собственной облачной инфраструктуре.

Project Glasswing: история поиска уязвимостей, лежащая в основе программы

Уровень Specialized Access программы CVP поглощает Project Glasswing, более раннюю инициативу Anthropic, сосредоточенную на защите критичного программного обеспечения. Anthropic сообщает, что партнеры Glasswing обнаружили по меньшей мере 129 000 верифицированных уязвимостей программного обеспечения между апрелем и июлем 2026 года, а собственное сканирование открытого кода Anthropic добавило примерно 5 500 более через октябрь. Более 33 000 из общего количества были оценены как критичные или высокого уровня серьезности. Отчеты SiliconANGLE добавляют, что Anthropic считает, что реальное влияние вероятно примерно в пять раз выше, чем верифицированный счет, на основе неполных раскрытий партнерскими организациями.

Эти оценки дают нам уверенность, что мы можем безопасно предоставить передовые киберспособности более широкому набору защитников.

— Anthropic в своем объявлении от 6 октября 2026 года

Что остается ограниченным для всех

Объявление Anthropic отмечает, что общедоступные модели Claude вне CVP остаются подходящими для более узких задач безопасности, таких как проверка кода, исправление известных уязвимостей, поиск недостатков в коде, который организация уже владеет, и сортировка оповещений безопасности. Отдельные исследователи полностью исключены из Red Team Access, а Specialized Access требует проверки с участием правительства, отражая постепенный подход, где возможности с наивысшим риском требуют самых сильных проверок идентификации и авторизации.

Вопросы

Что такое программа Cyber Verification Program от Anthropic?
Это система проверки, которая позволяет одобренным специалистам по кибербезопасности использовать модели Claude с сокращенными автоматизированными ограничениями безопасности для оборонительной работы, авторизованного тестирования на проникновение или тестирования критичной инфраструктуры, в зависимости от того, на какой из трех уровней они квалифицируются.
Кто может подать заявку на программу?
Defense Access открыт для корпоративных команд безопасности, некоммерческих организаций, университетов, государственных органов, операторов критичной инфраструктуры и отдельных исследователей с историей раскрытия уязвимостей. Red Team Access ограничен организациями, такими как внутренние или государственные красные команды и фирмы тестирования на проникновение. Specialized Access зарезервирован для верифицированных организаций, тестирующих системы, такие как электросети или системы полетов, проверенные с участием правительства США.
Удаляет ли верифицированный доступ все ограничения безопасности Claude?
Нет. Anthropic заявляет, что классификаторы в реальном времени, которые блокируют действия, которые могут вызвать физический вред или массовое нарушение, такие как развертывание программ-вымогателей, остаются активными даже на уровне Red Team Access.
Что такое Project Glasswing?
Project Glasswing была более ранней инициативой Anthropic, сосредоточенной на поиске уязвимостей в критичном программном обеспечении; она теперь поглощена в уровень Specialized Access программы Cyber Verification Program. Ее партнеры обнаружили по меньшей мере 129 000 верифицированных уязвимостей между апрелем и июлем 2026 года, говорит Anthropic.
Как Anthropic протестировала безопасность сокращенных ограничений?
Anthropic запустила уровни на внутреннем эталоне, называемом CyScenarioBench. Без доступа CVP все 50 попыток тестирования были заблокированы; в режиме Defense Access 46 из 50 были все еще заблокированы; в режиме Red Team Access 34 из 50 завершены без блокировок, согласно отчетам Help Net Security, SiliconANGLE и The Hacker News.

Источники

  1. Anthropic — Cyber Verification Program announcement
  2. The Hacker News — Anthropic Expands Claude Access for Security Researchers
  3. Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
  4. SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program

Этот материал подготовлен с помощью искусственного интеллекта и перед публикацией прошёл автоматическую проверку источников. Если вы заметили ошибку, запросите исправление. Запросить исправление или ответ · Как мы работаем

Похожие материалы