Cette langue est traduite automatiquement et n'a pas été relue par un humain.

Intelligence artificielle · Analyse

Comment le Programme de Vérification Cibernétique d'Anthropic Teste et Limite les Risques de Sécurité de l'IA

Publié:

Offices of Slack Technologies at 500 Howard Street in San Francisco (at the center with neighboring buildings, seen from the back across Howard Street)
Crédit image: HaeB · CC BY-SA 4.0 · Wikimedia Commons

En bref

Le Programme de Vérification Cibernétique (CVP) d'Anthropic est un système de vérification échelonné qui permet aux professionnels de la cybersécurité agréés d'utiliser les modèles Claude avec moins de restrictions de sécurité automatisées pour les travaux défensifs et les travaux de sécurité offensive autorisés. Les candidats sont classés en trois niveaux d'accès, et même le niveau le moins restrictif maintient des blocages en temps réel pour les actions qui pourraient causer des dommages physiques ou une perturbation massive.

Cette version est une traduction automatique de l'original (English). Lire l'original

Le 6 octobre 2026, Anthropic a élargi son Programme de Vérification Cibernétique, un système qui décide du nombre de restrictions de cybersécurité intégrées d'un modèle Claude qu'un utilisateur donné est autorisé à contourner. L'expansion intègre une initiative antérieure, Project Glasswing, dans une seule structure à trois niveaux couvrant les travaux de sécurité défensive, les tests de pénétration autorisés et les tests d'infrastructures critiques de sécurité.

Pourquoi les modèles Claude bloquent les tâches de cybersécurité en premier lieu

Selon Anthropic, ses modèles disponibles au public exécutent des classificateurs automatisés conservateurs qui bloquent la plupart des demandes ressemblant à des activités de cybercriminalité offensive, comme l'écriture de codes d'exploitation ou le sondage de systèmes en direct, car les mêmes techniques utilisées pour défendre un réseau peuvent également être utilisées pour l'attaquer. Ce problème de double usage signifie qu'un modèle ne peut pas facilement distinguer un testeur de pénétration travaillant sous contrat d'un attaquant sans contexte supplémentaire sur qui demande.

Trois niveaux d'accès vérifiés

Le CVP résout cette ambiguïté en vérifiant qui est l'utilisateur et ce qu'il est autorisé à faire, puis en ajustant le nombre de ces blocages qui s'appliquent. Anthropic et la couverture indépendante de The Hacker News, Help Net Security et SiliconANGLE décrivent les trois mêmes niveaux.

Programme de Vérification Cibernétique d'Anthropic : niveaux d'accès
NiveauQui peut postulerDurée de l'examenQu'est-ce qui change
Accès DéfenseÉquipes de sécurité d'entreprise, organisations à but non lucratif, universités, organismes gouvernementaux, opérateurs d'infrastructure critique, petites entreprises de sécurité, responsables de projets open source, chercheurs individuels ayant un historique de divulgation de vulnérabilitésQuelques joursPermet la réponse aux incidents, l'analyse de malveillances et la validation des vulnérabilités
Accès Red TeamÉquipes red team internes et gouvernementales, cabinets de test de pénétration (organisations uniquement, pas les individus)Plusieurs semainesAjoute les tests de pénétration autorisés et les attaques simulées ; les blocages en temps réel sur des actions comme le déploiement de rançongiciels restent
Accès SpécialiséOrganisations vérifiées testant les systèmes de vol, les réseaux électriques, les réseaux de télécommunications ou l'infrastructure financièreExaminé conjointement avec le gouvernement américainLe moins de blocages liés à la cybersécurité, pour les tests de système critique de sécurité

Les modèles couverts par le programme incluent Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 et les futures versions, selon l'annonce d'Anthropic.

Comment Anthropic a mesuré si l'assouplissement des blocages était sûr

Anthropic a testé les niveaux par rapport à un indice de référence interne appelé CyScenarioBench avant d'élargir l'accès, selon Help Net Security et SiliconANGLE. Sans aucun accès CVP, les 50 essais de référence ont été bloqués. Sous Accès Défense, 4 tâches sur 50 ont réussi, ce qui signifie que le classificateur en a toujours arrêté 46. Sous Accès Red Team, 34 tâches sur 50 ont été complétées sans aucun blocage. The Hacker News a signalé le même chiffre d'Accès Défense d'un angle opposé : 46 tâches sur 50 ont été bloquées.

Même aux niveaux les moins restrictifs, Anthropic affirme que les classificateurs automatisés qui arrêtent les actions causant des dommages physiques ou une perturbation massive restent actifs, et les organisations inscrites doivent accepter la conservation des données pour qu'Anthropic puisse surveiller les abus. Une option de rétention zéro de données, appelée Enterprise Frontier Safeguards, devrait être lancée à l'automne 2026 pour les clients qui souhaitent conserver ces données de surveillance dans leur propre infrastructure cloud.

Project Glasswing : l'historique de détection des vulnérabilités derrière le programme

Le niveau d'Accès Spécialisé du CVP absorbe Project Glasswing, une initiative antérieure d'Anthropic axée sur la sécurisation des logiciels critiques. Anthropic rapporte que les partenaires de Glasswing ont découvert au moins 129 000 vulnérabilités logicielles vérifiées entre avril et juillet 2026, le propre scan open source d'Anthropic ajoutant environ 5 500 autres jusqu'en octobre. Plus de 33 000 du total combiné ont été évalués comme critiques ou de gravité élevée. Le rapport de SiliconANGLE ajoute qu'Anthropic croit que l'impact dans le monde réel est probablement environ cinq fois plus élevé que le nombre vérifié, en fonction des divulgations incomplètes des organisations partenaires.

Ces évaluations nous donnent confiance pour pouvoir mettre les capacités cyber avancées à la disposition d'un ensemble plus large de défenseurs.

— Anthropic, dans son annonce du 6 octobre 2026

Ce qui reste restreint pour tous

L'annonce d'Anthropic note que les modèles Claude généralement disponibles, en dehors du CVP, restent appropriés pour des tâches de sécurité plus étroites telles que l'examen du code, la correction des vulnérabilités connues, la détection des défauts dans le code qu'une organisation possède déjà et le triage des alertes de sécurité. Les chercheurs individuels sont complètement exclus de l'Accès Red Team, et l'Accès Spécialisé nécessite une vérification impliquant le gouvernement, reflétant une approche graduée où les capacités les plus risquées nécessitent les vérifications d'identité et d'autorisation les plus fortes.

Vos questions

Qu'est-ce que le Programme de Vérification Cibernétique d'Anthropic ?
C'est un système de vérification qui permet aux professionnels de la cybersécurité agréés d'utiliser les modèles Claude avec des restrictions de sécurité automatisées réduites pour les travaux défensifs, les tests de pénétration autorisés ou les tests d'infrastructures critiques de sécurité, selon le niveau des trois qui les qualifie.
Qui peut postuler au programme ?
L'Accès Défense est ouvert aux équipes de sécurité d'entreprise, aux organisations à but non lucratif, aux universités, aux organismes gouvernementaux, aux opérateurs d'infrastructure critique et aux chercheurs individuels ayant un historique de divulgation de vulnérabilités. L'Accès Red Team est limité aux organisations telles que les équipes red team internes ou gouvernementales et les cabinets de test de pénétration. L'Accès Spécialisé est réservé aux organisations vérifiées testant des systèmes comme les réseaux électriques ou les systèmes de vol, examinés avec la participation du gouvernement américain.
L'accès vérifiés supprime-t-il toutes les restrictions de sécurité de Claude ?
Non. Anthropic affirme que les classificateurs en temps réel bloquant les actions qui pourraient causer des dommages physiques ou une perturbation massive, comme le déploiement de rançongiciels, restent actifs même au niveau d'Accès Red Team.
Qu'est-ce que Project Glasswing ?
Project Glasswing était une initiative antérieure d'Anthropic axée sur la recherche de vulnérabilités dans les logiciels critiques ; elle a maintenant été intégrée au niveau d'Accès Spécialisé du Programme de Vérification Cibernétique. Ses partenaires ont découvert au moins 129 000 vulnérabilités vérifiées entre avril et juillet 2026, déclare Anthropic.
Comment Anthropic a-t-il testé si les restrictions réduites étaient sûres ?
Anthropic a exécuté les niveaux par rapport à un indice de référence interne appelé CyScenarioBench. Sans accès CVP, les 50 essais de test ont été bloqués ; sous Accès Défense, 46 sur 50 ont toujours été bloqués ; sous Accès Red Team, 34 sur 50 ont été complétés sans aucun blocage, selon les rapports de Help Net Security, SiliconANGLE et The Hacker News.

Les sources

  1. Anthropic — Cyber Verification Program announcement
  2. The Hacker News — Anthropic Expands Claude Access for Security Researchers
  3. Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
  4. SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program

Ce texte a été préparé avec l'intelligence artificielle et a passé une vérification automatique des sources avant publication. Si vous voyez une erreur, demandez une correction. Demander une correction ou un droit de réponse · Notre méthode

À lire aussi