Deze taal is machinaal vertaald en is niet door een mens gecontroleerd.

Kunstmatige intelligentie · Artikel

Hoe Anthropics Cybervericatiewrogramma AI-veiligheidsrisico's test en beperkt

Gepubliceerd:

Offices of Slack Technologies at 500 Howard Street in San Francisco (at the center with neighboring buildings, seen from the back across Howard Street)
Afbeelding: HaeB · CC BY-SA 4.0 · Wikimedia Commons

In het kort

Anthropics Cybervericatiewrogramma (CVP) is een getrappt verificatiesysteem waarmee goedgekeurde cyberveiligheidsprofessionals Claude-modellen kunnen gebruiken met minder geautomatiseerde veiligheidsrestricties voor defensief en geautoriseerd offensief beveiligingswerk. Aanvragers worden ingedeeld in drie toegangsniveaus, en zelfs de minst beperkte laag handhaaft real-time blokkades voor acties die fysieke schade of massale verstoringen kunnen veroorzaken.

Deze versie is een machinevertaling van het origineel (English). Lees het origineel

Op 6 oktober 2026 breidde Anthropic het Cybervericatiewrogramma uit, een systeem dat bepaalt hoeveel van de ingebouwde cyberveiligheidsbeperkingen van een Claude-model een bepaalde gebruiker mag omzeilen. De uitbreiding integreert een eerdere intiatie, Project Glasswing, in één drieledig systeem dat defensief beveiligingswerk, geautoriseerde penetratietests en tests van kritische veiligheidsinfrastructuur omvat.

Waarom Claude-modellen cyberveiligheidstaken blokkeren

Volgens Anthropic voeren zijn openbaar beschikbare modellen conservatieve geautomatiseerde classificatoren uit die de meeste verzoeken die op offensieve cyberaktiviteiten lijken blokkeren, zoals het schrijven van exploitcode of het testen van live-systemen, omdat dezelfde technieken die worden gebruikt om een netwerk te verdedigen ook kunnen worden gebruikt om het aan te vallen. Dit dual-use-probleem betekent dat een model niet gemakkelijk onderscheid kan maken tussen een penetratietester die onder contract werkt en een aanvaller zonder aanvullende context over wie vraagt.

Drie niveaus van geverifieerde toegang

Het CVP lost deze onduidelijkheid op door te verifiëren wie de gebruiker is en waartoe zij gemachtigd zijn, en stelt vervolgens aan hoeveel van deze blokkades van toepassing zijn. Anthropic en onafhankelijke verslaggeving van The Hacker News, Help Net Security en SiliconANGLE beschrijven dezelfde drie niveaus.

Cybervericatiewrogramma van Anthropic: toegangsniveaus
NiveauWie kan zich aanmeldenBeoordelingstijdWat verandert
Defense AccessBedrijfsveiligheidsteams, non-profitorganisaties, universiteiten, overheidsinstanties, exploitanten van kritieke infrastructuur, kleinere beveiligingsbedrijven, open-source-onderhouders, individuele onderzoekers met een staat van dienst op het gebied van kwetsbaarheidsopenbaarmakingEnkele dagenStelt incidentrespons, malware-analyse en kwetsbaarheidsvalidatie in staat
Red Team AccessInterne en overheids-red teams, bedrijven voor penetratietesting (alleen organisaties, geen individuen)Meerdere wekenVoegt geautoriseerde penetratietests en gesimuleerde aanvallen toe; real-time blokkades voor acties zoals ransomware-implementatie blijven
Specialized AccessGeverifieerde organisaties die vliegsystemen, elektriciteitsnetwerken, telecommunicatienetwerken of financiële infrastructuur testenGecontroleerd in samenwerking met de Amerikaanse regeringMinste cyberveiligheidsgerelateerde blokkades, voor tests van kritieke veiligheidssystemen

De modellen die door het programma worden gedekt, zijn Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 en toekomstige versies, volgens de aankondiging van Anthropic.

Hoe Anthropic heeft gemeten of het versoepelen van de blokkades veilig was

Anthropic testte de niveaus tegen een interne benchmark genaamd CyScenarioBench voordat de toegang werd uitgebreid, volgens Help Net Security en SiliconANGLE. Zonder CVP-toegang werden alle 50 benchmarktests geblokkeerd. Onder Defense Access waren 4 van de 50 taken succesvol, wat betekent dat de classificator nog steeds 46 stopte. Onder Red Team Access waren 34 van de 50 taken zonder blokkade voltooid. The Hacker News rapporteerde het gelijke Defense Access-cijfer vanuit het tegenovergestelde perspectief: 46 van de 50 taken waren geblokkeerd.

Zelfs op de minst beperkte niveaus stelt Anthropic dat geautomatiseerde classificatoren die acties die fysieke schade of massale verstoringen veroorzaken blokkeren actief blijven, en geregistreerde organisaties moeten akkoord gaan met gegevensretentie zodat Anthropic kan controleren op misbruik. Een nulgegevensretentie-optie, genaamd Enterprise Frontier Safeguards, is gepland om in de herfst van 2026 voor klanten te worden gestart die deze controlegegevens liever in hun eigen cloudinfrastructuur willen houden.

Project Glasswing: de kwetsbaarheidsvindingstrack record achter het programma

Het Specialized Access-niveau van het CVP neemt Project Glasswing op, een eerdere Anthropic-initiatief gericht op het beveiligen van kritieke software. Anthropic meldt dat Glasswing-partners tussen april en juli 2026 minstens 129.000 geverifieerde softwarekwetsbaarheden hebben gevonden, met Anthropic's eigen open-source-scanning die tot oktober ongeveer 5.500 meer toevoegt. Meer dan 33.000 van het gecombineerde totaal werd beoordeeld als kritieke of hoge ernst. SiliconANGLE's rapportage voegt toe dat Anthropic gelooft dat de werkelijke impact waarschijnlijk ongeveer vijf keer hoger is dan het geverifieerde aantal, op basis van onvolledige openbaarmakingen van partnerorganisaties.

Deze evaluaties geven ons vertrouwen dat we geavanceerde cybercapaciteiten veilig beschikbaar kunnen stellen voor een bredere groep verdedigers.

— Anthropic, in zijn aankondiging van 6 oktober 2026

Wat voor iedereen beperkt blijft

De aankondiging van Anthropic merkt op dat algemeen beschikbare Claude-modellen buiten het CVP geschikt blijven voor nauwe beveiligingstaken zoals code review, patchen van bekende kwetsbaarheden, het vinden van fouten in code die een organisatie al bezit en het sorteren van beveiligingswaarschuwingen. Individuele onderzoekers zijn volledig uitgesloten van Red Team Access, en Specialized Access vereist door de regering betrokken controle, wat een geleidelijke benadering weerspiegelt waarbij de capaciteiten met het hoogste risico de sterkste identiteits- en autorisatiecontroles vereisen.

Vragen

Wat is Anthropics Cybervericatiewrogramma?
Het is een verificatiesysteem dat goedgekeurde cyberveiligheidsprofessionals toestaat Claude-modellen met verminderde geautomatiseerde veiligheidsrestricties te gebruiken voor defensief werk, geautoriseerde penetratietests of tests van kritieke veiligheidsinfrastructuur, afhankelijk van welke van de drie niveaus zij zich kwalificeren.
Wie kan zich voor het programma aanmelden?
Defense Access is open voor bedrijfsveiligheidsteams, non-profitorganisaties, universiteiten, overheidsinstanties, exploitanten van kritieke infrastructuur en individuele onderzoekers met een staat van dienst op het gebied van kwetsbaarheidsopenbaarmaking. Red Team Access is beperkt tot organisaties zoals interne of overheids-red teams en bedrijven voor penetratietesting. Specialized Access is voorbehouden aan geverifieerde organisaties die systemen testen zoals elektriciteitsnetwerken of vliegsystemen, onder toezicht van de Amerikaanse regering.
Verwijdert geverifieerde toegang alle veiligheidsbeperkingen van Claude?
Nee. Anthropic stelt dat real-time classificatoren die acties blokkeren die fysieke schade of massale verstoringen kunnen veroorzaken, zoals ransomware-implementatie, zelfs op het Red Team Access-niveau actief blijven.
Wat is Project Glasswing?
Project Glasswing was een eerdere Anthropic-initiatief gericht op het vinden van kwetsbaarheden in kritieke software; het is nu opgenomen in het Specialized Access-niveau van het Cybervericatiewrogramma. De partners hebben volgens Anthropic tussen april en juli 2026 minstens 129.000 geverifieerde kwetsbaarheden gevonden.
Hoe testte Anthropic of de verminderde beperkingen veilig waren?
Anthropic voerde de niveaus uit tegen een interne benchmark genaamd CyScenarioBench. Zonder CVP-toegang werden alle 50 teststudies geblokkeerd; onder Defense Access waren nog steeds 46 van de 50 geblokkeerd; onder Red Team Access waren 34 van de 50 zonder blokkade voltooid, volgens rapportage van Help Net Security, SiliconANGLE en The Hacker News.

Bronnen

  1. Anthropic — Cyber Verification Program announcement
  2. The Hacker News — Anthropic Expands Claude Access for Security Researchers
  3. Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
  4. SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program

Dit stuk is gemaakt met kunstmatige intelligentie en vóór publicatie automatisch op bronnen gecontroleerd. Ziet u een fout, vraag dan om een correctie. Correctie of weerwoord aanvragen · Hoe we dit maken

Gerelateerd