Diese Sprache ist maschinell übersetzt und wurde nicht von einem Menschen geprüft.

Künstliche Intelligenz · Artikel

Wie Anthropics Cyber Verification Program AI-Sicherheitsrisiken testet und begrenzt

Veröffentlicht:

Offices of Slack Technologies at 500 Howard Street in San Francisco (at the center with neighboring buildings, seen from the back across Howard Street)
Bild: HaeB · CC BY-SA 4.0 · Wikimedia Commons

Kurz gesagt

Anthropics Cyber Verification Program (CVP) ist ein gestuftes Prüfsystem, das zugelassenen Cybersecurity-Fachleuten ermöglicht, Claude-Modelle mit weniger automatisierten Sicherheitseinschränkungen für defensive und autorisierte offensive Sicherheitsarbeiten zu nutzen. Antragsteller werden in drei Zugriffsstufen eingeteilt, und selbst die am wenigsten eingeschränkte Stufe behält Echtzeit-Blöcke für Aktionen bei, die physische Schäden oder Massenunterbrechungen verursachen könnten.

Diese Fassung ist eine maschinelle Übersetzung des Originals (English). Original lesen

Am 6. Oktober 2026 erweiterte Anthropic sein Cyber Verification Program, ein System, das entscheidet, wie viele der eingebauten Cybersecurity-Einschränkungen eines Claude-Modells ein bestimmter Benutzer umgehen darf. Die Erweiterung integriert eine frühere Initiative, Project Glasswing, in eine einzige dreistufige Struktur, die defensive Sicherheitsarbeiten, autorisierte Penetrationstests und Tests von sicherheitskritischer Infrastruktur abdeckt.

Warum Claude-Modelle Cybersecurity-Aufgaben blockieren

Nach Angaben von Anthropic führen seine öffentlich verfügbaren Modelle konservative automatisierte Klassifikatoren aus, die die meisten Anfragen ähnlich offensiver Cyber-Aktivitäten blockieren, wie das Schreiben von Exploit-Code oder das Prüfen von Live-Systemen, da die gleichen Techniken, die zum Verteidigen eines Netzwerks verwendet werden, auch zum Angriff verwendet werden können. Dieses Dual-Use-Problem bedeutet, dass ein Modell nicht leicht zwischen einem Penetrationstester, der unter Vertrag arbeitet, und einem Angreifer ohne zusätzliche Kontextinformationen darüber unterscheiden kann, wer fragt.

Drei Ebenen des verifizierten Zugangs

Das CVP löst diese Mehrdeutigkeit durch Verifizierung, wer der Benutzer ist und wozu sie autorisiert sind, und passt dann an, wie viele dieser Blöcke gelten. Anthropic und unabhängige Berichterstattung von The Hacker News, Help Net Security und SiliconANGLE beschreiben die gleichen drei Ebenen.

Anthropics Cyber Verification Program: Zugangsebenen
EbeneWer kann sich bewerbenÜberprüfungszeitWas ändert sich
Defense AccessCorporate-Security-Teams, Nonprofits, Universitäten, Regierungsbehörden, Betreiber kritischer Infrastruktur, kleinere Sicherheitsfirmen, Open-Source-Betreuer, einzelne Forscher mit einem Track Record der SicherheitslückenoffenlegungEinige TageErmöglicht Incident Response, Malware-Analyse und Schwachstellenvalidierung
Red Team AccessInterne und Regierungs-Red-Teams, Penetrationstestfirmen (nur Organisationen, keine Einzelpersonen)Mehrere WochenFügt autorisierte Penetrationstests und simulierte Angriffe hinzu; Echtzeit-Blöcke für Aktionen wie Ransomware-Bereitstellung bleiben bestehen
Specialized AccessVerifizierte Organisationen, die Flugsysteme, Stromnetze, Telekommunikationsnetze oder Finanzinfrastruktur testenIn Zusammenarbeit mit der US-Regierung überprüftWenigste Cyber-bezogene Blöcke für Tests sicherheitskritischer Systeme

Die vom Programm abgedeckten Modelle umfassen Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 und zukünftige Versionen, laut Anthropics Ankündigung.

Wie Anthropic gemessen hat, ob die Lockerung der Blöcke sicher ist

Anthropic testete die Ebenen vor der Ausweitung des Zugangs anhand eines internen Benchmarks namens CyScenarioBench, laut Help Net Security und SiliconANGLE. Ohne CVP-Zugang wurden alle 50 Benchmark-Tests blockiert. Unter Defense Access waren 4 von 50 Aufgaben erfolgreich, was bedeutet, dass der Klassifikator immer noch 46 stoppte. Unter Red Team Access waren 34 von 50 Aufgaben ohne Blockade abgeschlossen. The Hacker News berichtete die gleiche Defense Access-Zahl aus dem gegenteiligen Blickwinkel: 46 von 50 Aufgaben waren blockiert.

Auch bei den am wenigsten eingeschränkten Ebenen sagt Anthropic, dass automatisierte Klassifikatoren, die Aktionen mit physischen Schäden oder Massenunterbrechungen stoppen, aktiv bleiben, und eingebundene Organisationen müssen sich auf Datenspeicherung einigen, damit Anthropic auf Missbrauch überwachen kann. Eine Option ohne Datenspeicherung, genannt Enterprise Frontier Safeguards, ist für Herbst 2026 für Kunden geplant, die diese Überwachungsdaten lieber in ihrer eigenen Cloud-Infrastruktur behalten möchten.

Project Glasswing: der hinter dem Programm stehende Track Record bei der Sicherheitslückenfindung

Die CVP's Specialized Access-Ebene nimmt Project Glasswing auf, eine frühere Anthropic-Initiative zur Sicherung kritischer Software. Anthropic berichtet, dass Glasswing-Partner zwischen April und Juli 2026 mindestens 129.000 verifizierte Softwaresicherheitslücken gefunden haben, wobei Anthropics eigenes Open-Source-Scanning bis Oktober etwa 5.500 weitere hinzugefügt hat. Mehr als 33.000 der kombinierten Summe wurden mit kritischer oder hoher Schweregrad bewertet. SiliconANGLEs Berichterstattung ergänzt, dass Anthropic glaubt, dass die reale Auswirkung wahrscheinlich etwa fünfmal höher als die verifizierte Anzahl ist, basierend auf unvollständigen Offenlegungen von Partnerorganisationen.

Diese Evaluierungen geben uns Vertrauen, dass wir fortgeschrittene Cyber-Fähigkeiten auf sichere Weise einer breiteren Gruppe von Verteidigern zur Verfügung stellen können.

— Anthropic, in seiner Ankündigung vom 6. Oktober 2026

Was für alle eingeschränkt bleibt

Anthropics Ankündigung merkt an, dass allgemein verfügbare Claude-Modelle außerhalb des CVP für engere Sicherheitsaufgaben wie Code-Überprüfung, Patchen bekannter Sicherheitslücken, Auffindung von Fehlern in Code, den eine Organisation bereits besitzt, und Triage von Sicherheitswarnungen geeignet bleiben. Einzelne Forscher sind völlig von Red Team Access ausgeschlossen, und Specialized Access erfordert staatlich beteiligte Überprüfung, was einen gestuften Ansatz widerspiegelt, bei dem die Fähigkeiten mit dem höchsten Risiko die stärksten Identitäts- und Autorisierungsprüfungen erfordern.

Fragen

Was ist Anthropics Cyber Verification Program?
Es ist ein Prüfsystem, das zugelassenen Cybersecurity-Fachleuten ermöglicht, Claude-Modelle mit reduzierten automatisierten Sicherheitseinschränkungen für defensive Arbeiten, autorisierte Penetrationstests oder Tests von sicherheitskritischer Infrastruktur zu verwenden, je nachdem, für welche der drei Ebenen sie sich qualifizieren.
Wer kann sich für das Programm bewerben?
Defense Access ist für Corporate-Security-Teams, Nonprofits, Universitäten, Regierungsbehörden, Betreiber kritischer Infrastruktur und einzelne Forscher mit einem Track Record der Sicherheitslückenoffenlegung verfügbar. Red Team Access ist auf Organisationen wie interne oder Regierungs-Red-Teams und Penetrationstestfirmen beschränkt. Specialized Access ist für verifizierte Organisationen reserviert, die Systeme wie Stromnetze oder Flugsysteme testen und unter Beteiligung der US-Regierung überprüft werden.
Entfernt verifizierten Zugang alle Sicherheitseinschränkungen von Claude?
Nein. Anthropic gibt an, dass Echtzeit-Klassifikatoren, die Aktionen mit physischen Schäden oder Massenunterbrechungen blockieren, wie Ransomware-Bereitstellung, auch auf der Red Team Access-Ebene aktiv bleiben.
Was ist Project Glasswing?
Project Glasswing war eine frühere Anthropic-Initiative zur Findung von Sicherheitslücken in kritischer Software; sie wurde jetzt in die Specialized Access-Ebene des Cyber Verification Program aufgenommen. Seine Partner fanden laut Anthropic zwischen April und Juli 2026 mindestens 129.000 verifizierte Sicherheitslücken.
Wie testete Anthropic, ob die reduzierten Einschränkungen sicher waren?
Anthropic führte die Ebenen anhand eines internen Benchmarks namens CyScenarioBench durch. Ohne CVP-Zugang wurden alle 50 Testversuche blockiert; unter Defense Access waren immer noch 46 von 50 blockiert; unter Red Team Access waren 34 von 50 ohne Blockade abgeschlossen, laut Berichterstattung von Help Net Security, SiliconANGLE und The Hacker News.

Quellen

  1. Anthropic — Cyber Verification Program announcement
  2. The Hacker News — Anthropic Expands Claude Access for Security Researchers
  3. Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
  4. SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program

Dieser Beitrag wurde mit künstlicher Intelligenz erstellt und vor der Veröffentlichung automatisch auf Quellen geprüft. Wenn Sie einen Fehler sehen, bitten Sie um eine Korrektur. Korrektur oder Gegendarstellung anfordern · So arbeiten wir

Passend dazu