Bagaimana Program Cyber Verification Anthropic Menguji dan Membatasi Risiko Keamanan AI

Pada 6 Oktober 2026, Anthropic memperluas Program Cyber Verification-nya, sebuah sistem yang menentukan berapa banyak pembatasan keamanan siber model Claude yang diizinkan oleh pengguna untuk dilewati. Perluasan ini mengintegrasikan inisiatif sebelumnya, Project Glasswing, ke dalam struktur tiga tingkat tunggal yang mencakup pekerjaan keamanan defensif, pengujian penetrasi yang diizinkan, dan pengujian infrastruktur yang penting untuk keselamatan.

Mengapa model Claude memblokir tugas keamanan siber di tempat pertama

Menurut Anthropic, model yang tersedia untuk publik menjalankan classifier otomatis yang konservatif yang memblokir sebagian besar permintaan yang menyerupai aktivitas siber ofensif, seperti menulis kode exploit atau menyelidiki sistem langsung, karena teknik yang sama yang digunakan untuk membela jaringan juga dapat digunakan untuk menyerangnya. Masalah penggunaan ganda ini berarti model tidak dapat dengan mudah membedakan penetration tester yang bekerja di bawah kontrak dari penyerang tanpa konteks tambahan tentang siapa yang bertanya.

Tiga tingkat akses terverifikasi

CVP menyelesaikan ambiguitas ini dengan memverifikasi siapa pengguna dan apa yang diizinkan mereka lakukan, kemudian menyesuaikan berapa banyak blok tersebut yang berlaku. Anthropic dan liputan independen dari The Hacker News, Help Net Security, dan SiliconANGLE menggambarkan tiga tingkat yang sama.

Model yang tercakup oleh program ini termasuk Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1, dan rilis di masa depan, menurut pengumuman Anthropic.

Bagaimana Anthropic mengukur apakah melonggarkan blok aman

Anthropic menguji tingkatan terhadap tolok ukur internal yang disebut CyScenarioBench sebelum memperluas akses, menurut Help Net Security dan SiliconANGLE. Tanpa akses CVP apa pun, semua 50 uji coba tolok ukur diblokir. Di bawah Defense Access, 4 dari 50 tugas berhasil, artinya classifier masih menghentikan 46. Di bawah Red Team Access, 34 dari 50 tugas selesai tanpa blok apa pun. The Hacker News melaporkan angka Defense Access yang sama dari sudut yang berlawanan: 46 dari 50 tugas diblokir.

Bahkan di tingkat yang paling sedikit dibatasi, Anthropic mengatakan classifier otomatis yang menghentikan tindakan yang menyebabkan kerusakan fisik atau gangguan masif tetap aktif, dan organisasi yang terdaftar harus menyetujui retensi data sehingga Anthropic dapat memantau penyalahgunaan. Opsi zero-data-retention, yang disebut Enterprise Frontier Safeguards, dijadwalkan untuk diluncurkan di musim gugur 2026 bagi pelanggan yang ingin menyimpan data pemantauan tersebut di dalam infrastruktur cloud mereka sendiri.

Project Glasswing: catatan track vulnerability-finding di balik program

Tingkat Specialized Access CVP menyerap Project Glasswing, inisiatif Anthropic sebelumnya yang berfokus pada pengamanan software penting. Anthropic melaporkan bahwa mitra Glasswing menemukan setidaknya 129.000 kerentanan software yang terverifikasi antara April dan Juli 2026, dengan pemindaian open-source Anthropic sendiri menambahkan sekitar 5.500 lebih banyak melalui Oktober. Lebih dari 33.000 dari total gabungan dinilai sebagai severity kritis atau tinggi. Pelaporan SiliconANGLE menambahkan bahwa Anthropic percaya dampak dunia nyata mungkin sekitar lima kali lebih tinggi dari jumlah yang terverifikasi, berdasarkan pengungkapan yang tidak lengkap dari organisasi mitra.

Apa yang tetap dibatasi untuk semua orang

Pengumuman Anthropic mencatat bahwa model Claude yang tersedia secara umum, di luar CVP, tetap cocok untuk tugas keamanan yang lebih sempit seperti tinjauan kode, menambal kerentanan yang diketahui, menemukan cacat dalam kode yang sudah dimiliki organisasi, dan mengelompokkan peringatan keamanan. Peneliti individual dikecualikan sepenuhnya dari Red Team Access, dan Specialized Access memerlukan penyaringan yang melibatkan pemerintah, mencerminkan pendekatan bertahap di mana kemampuan risiko tertinggi memerlukan pemeriksaan identitas dan otorisasi yang paling kuat.