Ten język jest tłumaczony maszynowo i nie został zweryfikowany przez człowieka.

Sztuczna inteligencja · Artykuł

Jak program Cyber Verification Program firmy Anthropic testuje i ogranicza ryzyko bezpieczeństwa AI

Opublikowano:

Offices of Slack Technologies at 500 Howard Street in San Francisco (at the center with neighboring buildings, seen from the back across Howard Street)
Obraz: HaeB · CC BY-SA 4.0 · Wikimedia Commons

W skrócie

Program Cyber Verification Program (CVP) firmy Anthropic to wielopoziomowy system weryfikacji, który pozwala zatwierdzonym specjalistom cyberbezpieczeństwa używać modeli Claude z mniejszą liczbą automatycznych ograniczeń bezpieczeństwa do pracy obronnej i autoryzowanej ofensywnej pracy bezpieczeństwa. Kandydaci są przydzielani do trzech poziomów dostępu, a nawet najmniej ograniczony poziom utrzymuje blokady w czasie rzeczywistym na działania, które mogłyby spowodować fizyczną szkodę lub masowe zakłócenia.

Ta wersja jest tłumaczeniem maszynowym oryginału (English). Przeczytaj oryginał

6 października 2026 roku Anthropic rozszerzyła swój program Cyber Verification Program, system, który określa, ile wbudowanych ograniczeń cyberbezpieczeństwa modelu Claude użytkownik może obejść. Rozszerzenie łączy wcześniejszą inicjatywę Project Glasswing w jedną strukturę trzech poziomów obejmującą pracę obronną w bezpieczeństwie, autoryzowane testowanie na penetrację i testowanie krytycznej infrastruktury.

Dlaczego modele Claude blokują zadania cyberbezpieczeństwa na początek

Zgodnie z Anthropic, jego publicznie dostępne modele uruchamiają konserwatywne automatyczne klasyfikatory, które blokują większość żądań przypominających ofensywną aktywność cybernetyczną, taką jak pisanie kodu exploita lub sondowanie systemów na żywo, ponieważ te same techniki używane do obrony sieci mogą być również używane do jej ataku. Ten problem podwójnego zastosowania oznacza, że model nie może łatwo odróżnić testera penetracji pracującego na umowę od atakującego bez dodatkowego kontekstu dotyczącego tego, kto pyta.

Trzy poziomy zweryfikowanego dostępu

CVP rozwiązuje tę niejednoznaczność, weryfikując, kim jest użytkownik i do czego jest upoważniony, a następnie dostosowując liczbę zastosowanych bloków. Anthropic i niezależne pokrycie od The Hacker News, Help Net Security i SiliconANGLE opisują te same trzy poziomy.

Program Anthropic Cyber Verification: poziomy dostępu
PoziomKto może się ubiegaćCzas przegląduCo się zmienia
Defense AccessKorporacyjne zespoły bezpieczeństwa, organizacje pozarządowe, uniwersytety, organy rządowe, operatorzy krytycznej infrastruktury, mniejsze firmy bezpieczeństwa, opiekunowie open source, indywidualni badacze z historią ujawniania luk w zabezpieczeniachKilka dniUmożliwia reagowanie na incydenty, analizę złośliwego oprogramowania i weryfikację luk w zabezpieczeniach
Red Team AccessWewnętrzne i rządowe zespoły red team, firmy testowania penetracyjnego (tylko organizacje, nie osoby fizyczne)Kilka tygodniDodaje autoryzowane testowanie na penetrację i symulowane ataki; blokady w czasie rzeczywistym na działania takie jak wdrażanie oprogramowania ransomware pozostają
Specialized AccessZweryfikowane organizacje testujące systemy lotów, sieci energetyczne, sieci telekomunikacyjne lub infrastrukturę finansowąPrzejrzane wspólnie z rządem USANajmniej bloków związanych z cyberbezpieczeństwem do testowania systemów krytycznych dla bezpieczeństwa

Modele objęte programem obejmują Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 i przyszłe wersje, zgodnie z ogłoszeniem Anthropic.

Jak Anthropic zmierzyła, czy poluzowanie bloków było bezpieczne

Anthropic przetestowała poziomy względem wewnętrznego benchmarku zwanego CyScenarioBench przed rozszerzeniem dostępu, zgodnie z Help Net Security i SiliconANGLE. Bez dostępu CVP wszystkie 50 prób benchmarku zostały zablokowane. W ramach Defense Access 4 z 50 zadań powiodło się, co oznacza, że klasyfikator nadal zatrzymał 46. W ramach Red Team Access 34 z 50 zadań zostało ukończonych bez żadnego bloku. The Hacker News poinformowała o tej samej cyfrze Defense Access z przeciwnej strony: 46 z 50 zadań zostało zablokowanych.

Nawet na najmniej ograniczonych poziomach Anthropic mówi, że automatyczne klasyfikatory zatrzymujące działania powodujące szkodę fizyczną lub masowe zakłócenia pozostają aktywne, a zarejestrowane organizacje muszą zgodzić się na przechowywanie danych, aby Anthropic mogła monitorować niewłaściwe użycie. Opcja zerowego przechowywania danych, zwana Enterprise Frontier Safeguards, ma być uruchomiona jesienią 2026 roku dla klientów, którzy chcą przechowywać dane monitorowania w swojej własnej infrastrukturze chmury zamiast tego.

Project Glasswing: historia wyszukiwania luk w zabezpieczeniach za programem

Poziom Specialized Access programu CVP wchłania Project Glasswing, wcześniejszą inicjatywę Anthropic skoncentrowaną na zabezpieczaniu krytycznego oprogramowania. Anthropic informuje, że partnerzy Glasswing znaleźli co najmniej 129 000 zweryfikowanych luk w oprogramowaniu między kwietnia a lipca 2026 roku, a własne skanowanie open source Anthropic dodało około 5 500 więcej do października. Ponad 33 000 łącznej liczby zostało ocenione jako krytyczne lub wysokiej ważności. Raportowanie SiliconANGLE dodaje, że Anthropic uważa, że rzeczywisty wpływ jest prawdopodobnie około pięć razy wyższy niż liczba zweryfikowana, w oparciu o niepełne ujawnienia od organizacji partnerów.

Te oceny dają nam pewność, że możemy bezpiecznie udostępnić zaawansowane możliwości cybernetyczne szerszemu zestawowi obrońców.

— Anthropic, w swoim ogłoszeniu z 6 października 2026 roku

Co pozostaje ograniczone dla wszystkich

Ogłoszenie Anthropic zauważa, że ogólnie dostępne modele Claude, poza CVP, pozostają odpowiednie do węższych zadań bezpieczeństwa, takich jak przegląd kodu, łatanie znanych luk w zabezpieczeniach, wyszukiwanie wad w kodzie, którego organizacja już posiada, i triażowanie alertów bezpieczeństwa. Indywidualni badacze są całkowicie wykluczeni z Red Team Access, a Specialized Access wymaga weryfikacji z udziałem rządu, odzwierciedlając podejście stopniowe, w którym możliwości o najwyższym ryzyku wymagają najsilniejszych kontroli tożsamości i autoryzacji.

Pytania

Jaki jest program Cyber Verification Program firmy Anthropic?
To system weryfikacji, który pozwala zatwierdzonym specjalistom cyberbezpieczeństwa używać modeli Claude ze zmniejszonymi automatycznymi ograniczeniami bezpieczeństwa do pracy obronnej, autoryzowanego testowania penetracyjnego lub testowania krytycznej infrastruktury, w zależności od tego, do którego z trzech poziomów się kwalifikują.
Kto może się ubiegać o program?
Defense Access jest otwarty dla korporacyjnych zespołów bezpieczeństwa, organizacji pozarządowych, uniwersytetów, organów rządowych, operatorów krytycznej infrastruktury i indywidualnych badaczy z historią ujawniania luk w zabezpieczeniach. Red Team Access ograniczony jest do organizacji, takich jak wewnętrzne lub rządowe zespoły red team i firmy testowania penetracyjnego. Specialized Access jest zarezerwowany dla zweryfikowanych organizacji testujących systemy, takie jak sieci energetyczne lub systemy lotów, przejrzane z udziałem rządu USA.
Czy zweryfikowany dostęp usuwa wszystkie ograniczenia bezpieczeństwa Claude?
Nie. Anthropic stwierdza, że klasyfikatory w czasie rzeczywistym blokujące działania, które mogą spowodować szkodę fizyczną lub masowe zakłócenia, takie jak wdrażanie oprogramowania ransomware, pozostają aktywne nawet na poziomie Red Team Access.
Jaki jest Project Glasswing?
Project Glasswing była wcześniejszą inicjatywą Anthropic skoncentrowaną na wyszukiwaniu luk w krytycznym oprogramowaniu; teraz została wchłonięta w poziom Specialized Access programu Cyber Verification Program. Jej partnerzy znaleźli co najmniej 129 000 zweryfikowanych luk między kwietnia a lipca 2026 roku, mówi Anthropic.
Jak Anthropic przetestowała, czy zmniejszone ograniczenia były bezpieczne?
Anthropic uruchomiła poziomy względem wewnętrznego benchmarku zwanego CyScenarioBench. Bez dostępu CVP wszystkie 50 prób testowych zostały zablokowane; w ramach Defense Access 46 z 50 było nadal zablokowanych; w ramach Red Team Access 34 z 50 zostało ukończonych bez żadnego bloku, zgodnie z raportowaniem Help Net Security, SiliconANGLE i The Hacker News.

Źródła

  1. Anthropic — Cyber Verification Program announcement
  2. The Hacker News — Anthropic Expands Claude Access for Security Researchers
  3. Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
  4. SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program

Ten tekst przygotowała sztuczna inteligencja, a przed publikacją przeszedł automatyczną kontrolę źródeł. Jeśli widzisz błąd, poproś o sprostowanie. Poproś o sprostowanie lub odpowiedź · Jak to robimy

Powiązane