این زبان با ماشین ترجمه شده و توسط انسانی بازبینی نشده است.

هوش مصنوعی · مقاله

چگونه برنامج تایید سایبری Anthropic مخاطرات ایمنی هوش مصنوعی را آزمایش و محدود می‌کند

انتشار:

Offices of Slack Technologies at 500 Howard Street in San Francisco (at the center with neighboring buildings, seen from the back across Howard Street)
تصویر: HaeB · CC BY-SA 4.0 · Wikimedia Commons

به‌طور خلاصه

برنامج تایید سایبری (CVP) از Anthropic یک سیستم بررسی سطح‌بندی شده است که به متخصصان امنیت سایبری تایید‌شده اجازه می‌دهد تا از مدل‌های Claude با محدودیت‌های ایمنی خودکار کمتر برای کار دفاعی و حملات امنیتی مجاز استفاده کنند. متقاضیان به سه سطح دسترسی تقسیم می‌شوند، و حتی سطح کم‌تقیید شده نیز حجب‌های بلافاصله برای اقدامات‌ای که می‌تواند آسیب جسمی یا اختلال جمعی ایجاد کند، حفظ می‌کند.

این نسخه ترجمهٔ ماشینی متن اصلی (English) است. خواندن متن اصلی

در 6 اکتبر 2026، Anthropic برنامج تایید سایبری خود را گسترش داد، سیستمی که تعیین می‌کند کاربر تا چه اندازه می‌تواند محدودیت‌های ایمنی سایبری درون‌ریخته شده در مدل Claude را دور بزند. این گسترش یک ابتکار قبلی، Project Glasswing، را در یک ساختار سه‌سطحی ادغام می‌کند که کار امنیتی دفاعی، آزمایش نفوذ مجاز، و آزمایش زیرساخت‌های بحران‌انگیز را پوشش می‌دهد.

چرا مدل‌های Claude وظایف ایمنی سایبری را مسدود می‌کنند

بنابر گفته Anthropic، مدل‌های عمومی‌اش طبقه‌بندی‌کننده‌های خودکار محافظه‌کار را اجرا می‌کنند که اکثر درخواست‌های مشابه فعالیت سایبری تهاجمی، مثل نوشتن کد بهره‌برداری یا آزمایش سیستم‌های زنده، را مسدود می‌کند، زیرا تکنیک‌های مشابهی که برای دفاع از شبکه استفاده می‌شود می‌تواند برای حمله به آن نیز به کار رود. این مشکل استفاده دوگانه یعنی مدل نمی‌تواند به راحتی یک تست‌کننده نفوذ که تحت قرارداد کار می‌کند را از یک مهاجم متمایز کند بدون متن اضافی درباره اینکه چه کسی سؤال می‌پرسد.

سه سطح از دسترسی تایید‌شده

CVP این ابهام را با تایید هویت کاربر و اقدامات مجاز او حل می‌کند، سپس تعداد محدودیت‌هایی را که اعمال می‌شود تنظیم می‌کند. Anthropic و پوشش مستقل از The Hacker News، Help Net Security و SiliconANGLE سه سطح یکسان را توصیف می‌کنند.

برنامج تایید سایبری Anthropic: سطوح دسترسی
سطحچه کسی می‌تواند متقاضی شودزمان بررسیتغییرات
Defense Accessتیم‌های امنیت شرکتی، سازمان‌های غیرانتفاعی، دانشگاه‌ها، نهادهای دولتی، مشغل‌های زیرساخت بحران‌انگیز، شرکت‌های امنیتی کوچک‌تر، نگهدار‌کننده‌های متن باز، محققان انفرادی با سابقه افشای آسیب‌پذیریچند روزاجازه می‌دهد واکنش حادثه، تحلیل بدافزار، و تأیید آسیب‌پذیری
Red Team Accessتیم‌های قرمز درون‌سازمانی و دولتی، شرکت‌های آزمایش نفوذ (تنها سازمان‌ها، نه افراد)چند هفتهاضافه می‌کند آزمایش نفوذ مجاز و حملات شبیه‌سازی شده؛ حجب‌های بلافاصله‌ای برای اقدامات مثل نشر باج‌گیری باقی می‌ماند
Specialized Accessسازمان‌های تایید‌شده‌ای که سیستم‌های پرواز، شبکه‌های برق، شبکه‌های مخابرات، یا زیرساخت مالی را آزمایش می‌کنندبررسی مشترک با دولت ایالات متحدهکم‌ترین حجب‌های مرتبط با سایبری، برای آزمایش سیستم‌های حساس ایمنی

مدل‌های پوشش‌شده توسط برنامج شامل Claude Opus 5.5، Claude Sonnet 5.5، Claude Mythos 5.1 و انتشارات آتی هستند، بنابر اعلان Anthropic.

Anthropic چگونه اندازه‌گیری کرد که شل کردن محدودیت‌ها ایمن است

Anthropic سطح‌ها را در برابر یک معیار درون‌ریخته به نام CyScenarioBench آزمایش کرد پیش از گسترش دسترسی، بنابر Help Net Security و SiliconANGLE. بدون هیچ دسترسی CVP، تمام 50 آزمایش معیار مسدود شد. تحت Defense Access، 4 از 50 کار موفق شد، یعنی طبقه‌بندی‌کننده هنوز 46 را متوقف می‌کرد. تحت Red Team Access، 34 از 50 کار بدون هیچ حجب تکمیل شد. The Hacker News همان رقم Defense Access را از زاویه‌ای مخالف گزارش کرد: 46 از 50 کار مسدود شدند.

حتی در کم‌تقیید‌ترین سطح‌ها، Anthropic می‌گوید طبقه‌بندی‌کننده‌های خودکاری که اقدامات ایجاد‌کننده آسیب جسمی یا اختلال جمعی را متوقف می‌کنند، فعال می‌مانند، و سازمان‌های ثبت‌شده باید برای نگهداری داده‌ها موافقت کنند تا Anthropic بتواند سوءاستفاده را پایش کند. گزینه بدون نگهداری داده، Enterprise Frontier Safeguards نام‌گذاری شده، برای پاییز 2026 برنامه‌ریزی شده برای مشتریانی که می‌خواهند این داده‌های پایش را درون‌ریخت شده‌ی ابری خود نگه‌دارند.

Project Glasswing: سابقه یافتن آسیب‌پذیری پشت برنامج

سطح Specialized Access از CVP Project Glasswing را جذب می‌کند، یک ابتکار قبلی Anthropic با تمرکز بر ایمن‌سازی نرم‌افزار بحران‌انگیز. Anthropic گزارش می‌دهد که شرکای Glasswing حداقل 129,000 آسیب‌پذیری نرم‌افزار تایید‌شده را بین آوریل و ژوئیه 2026 یافتند، با اسکن‌کننده متن باز Anthropic تقریباً 5,500 بیشتر را تا اکتبر اضافه کرد. بیش از 33,000 از کل ترکیب‌شده به‌عنوان بحران‌انگیز یا پرخطر رتبه‌بندی شدند. گزارش‌های SiliconANGLE اضافه می‌کند که Anthropic بر این باور است که تأثیر جهانی واقعی احتمالاً حدود پنج برابر بیشتر از شمار تایید‌شده است، بر اساس افشاهای ناقص از سازمان‌های شریک.

این ارزیابی‌ها به ما اعتماد می‌دهد که می‌توانیم توانایی‌های سایبری پیشرفته را به‌طور ایمن برای مجموعه‌ای گسترده‌تر از مدافعان دسترسی‌پذیر کنیم.

— Anthropic در اعلان 6 اکتبر 2026

آنچه برای همه محدود باقی می‌ماند

اعلان Anthropic توجه می‌دهد که مدل‌های عمومی Claude، خارج از CVP، برای وظایف امنیتی محدودتر مانند بررسی کد، ترمیم آسیب‌پذیری‌های شناخته‌شده، یافتن نقص در کدی که سازمان قبلاً از آن تملک دارد، و فرز هشدار‌های امنیتی مناسب می‌مانند. محققان انفرادی از Red Team Access کاملاً استثنیٰ می‌شوند، و Specialized Access بررسی درگیر دولت را نیاز می‌دهد، که نشان‌دهنده یک رویکرد متدرج است که توانایی‌های بالاترین خطر نیاز به قوی‌ترین بررسی هویت و مجاز‌سازی دارند.

پرسش‌ها

برنامج تایید سایبری Anthropic چیست؟
یک سیستم بررسی است که متخصصان امنیت سایبری تایید‌شده را اجازه می‌دهد تا از مدل‌های Claude با محدودیت‌های ایمنی خودکار کاهش‌یافته برای کار دفاعی، آزمایش نفوذ مجاز، یا آزمایش زیرساخت‌های حساس ایمنی استفاده کنند، بسته به اینکه برای کدام‌یک از سه سطح واجد‌شرایط هستند.
چه کسی می‌تواند برای این برنامج متقاضی شود؟
Defense Access برای تیم‌های امنیت شرکتی، سازمان‌های غیرانتفاعی، دانشگاه‌ها، نهادهای دولتی، مشغل‌های زیرساخت بحران‌انگیز و محققان انفرادی با سابقه افشای آسیب‌پذیری باز است. Red Team Access محدود به سازمان‌هایی مثل تیم‌های قرمز درون‌سازمانی یا دولتی و شرکت‌های آزمایش نفوذ است. Specialized Access برای سازمان‌های تایید‌شده‌ای که سیستم‌های مثل شبکه برق یا سیستم‌های پرواز را آزمایش می‌کنند، بررسی شده با درگیری دولت ایالات متحده، رزرو می‌شود.
آیا دسترسی تایید‌شده تمام محدودیت‌های ایمنی Claude را حذف می‌کند؟
نه. Anthropic می‌گوید طبقه‌بندی‌کننده‌های بلافاصله‌ای که اقدامات ایجاد‌کننده آسیب جسمی یا اختلال جمعی مثل نشر باج‌گیری را مسدود می‌کنند، حتی در سطح Red Team Access فعال می‌مانند.
Project Glasswing چیست؟
Project Glasswing یک ابتکار قبلی Anthropic بود که بر یافتن آسیب‌پذیری‌های نرم‌افزار بحران‌انگیز متمرکز بود؛ اکنون در سطح Specialized Access برنامج تایید سایبری جذب شده است. شرکای آن حداقل 129,000 آسیب‌پذیری تایید‌شده را بین آوریل و ژوئیه 2026 یافتند، به گفته Anthropic.
Anthropic چگونه آزمایش کرد که محدودیت‌های کاهش‌یافته ایمن هستند؟
Anthropic سطح‌ها را در برابر معیار درون‌ریخته‌ای به نام CyScenarioBench اجرا کرد. بدون دسترسی CVP، تمام 50 تلاش آزمایش مسدود شدند؛ تحت Defense Access، هنوز 46 از 50 مسدود است؛ تحت Red Team Access، 34 از 50 بدون هیچ حجب تکمیل شدند، بنابر گزارش‌های Help Net Security و SiliconANGLE و The Hacker News.

منابع

  1. Anthropic — Cyber Verification Program announcement
  2. The Hacker News — Anthropic Expands Claude Access for Security Researchers
  3. Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
  4. SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program

این مطلب با هوش مصنوعی آماده شده و پیش از انتشار از بررسی خودکار منابع گذشته است. اگر خطایی دیدید، درخواست اصلاح کنید. درخواست اصلاح یا حق پاسخ · چگونه کار می‌کنیم

مطالب مرتبط