בינה מלאכותית · מאמר
כיצד תוכנית אימות הסייבר של Anthropic בודקת ומגבילה את סכנות בטיחות AI
פורסם:
בקצרה
תוכנית אימות הסייבר (CVP) של Anthropic היא מערכת בדיקה בדירוג שמאפשרת לאנשי מקצוע בתחום הסיבר מאומתים להשתמש במודלים Claude עם הגבלות בטיחות אוטומטיות פחות לעבודה הגנתית והתקפה אבטחה מורשית. מועמדים מסודרים לשלוש רמות גישה, וגם הרמה הפחות מוגבלת שומרת על חסימות בזמן אמת לפעולות שעלולות לגרום לנזק פיזי או הפרעה המונית.
גרסה זו היא תרגום מכונה של המקור (English). לקריאת המקור
ב-6 באוקטובר 2026, Anthropic הרחיבה את תוכנית אימות הסייבר שלה, מערכת המחליטה כמה מהגבלות האבטחה הסייברית המובנות של מודל Claude משתמש יכול לעקוף. הרחבה זו קובעת יוזמה קודמת, Project Glasswing, לתוך מבנה בן שלוש שכבות המכסה עבודה הגנת אבטחה, בדיקות חדירה מורשות, ובדיקה של תשתיות קריטיות לבטיחות.
למה מודלים Claude חוסמים משימות סיבר בהתחלה
לפי Anthropic, המודלים הזמינים לציבור שלה מפעילים מסווגים אוטומטיים שמרניים שחוסמים את רוב הבקשות הדומות לפעילות סייבר התקפית, כגון כתיבת קוד ניצול או בדיקת מערכות חיות, מכיוון שאותן טכניקות המשמשות להגנה על רשת יכולות גם להישמש להתקפה עליה. בעיית השימוש הכפול זו אומר שמודל לא יכול בקלות להבחין בין בוחן חדירה החוזה לבין תוקף ללא הקשר נוסף מי שואל.
שלוש רמות של גישה מאומתת
ה-CVP מוציא מהחשיבה קשיחות זאת בעדות הזהות של המשתמש ומה הוא מורשה לעשות, ואז התאמת כמה מאותם חסימות חל. Anthropic וכיסוי בלתי תלוי מ-The Hacker News, Help Net Security ו-SiliconANGLE מתארים את אותן שלוש רמות.
| רמה | מי יכול להגיש בקשה | זמן בדיקה | מה משתנה |
|---|---|---|---|
| Defense Access | צוותי אבטחה של תאגידים, ארגונים ללא מטרת רווח, אוניברסיטאות, גופי ממשלה, מפעילי תשתיות קריטיות, חברות אבטחה קטנות יותר, מתחזקי קוד פתוח, חוקרים בודדים עם רשומת חשיפת פגיעויות | כמה ימים | מאפשר תגובה לתקריות, ניתוח תוכנות זדוניות ואימות פגיעויות |
| Red Team Access | צוותי אדום בתוך ארגוני או ממשלתיים, חברות בדיקות חדירה (ארגונים בלבד, לא אנשים) | מספר שבועות | מוסיף בדיקות חדירה מורשות והתקפות מדומות; חסימות בזמן אמת על פעולות כגון פריסת כופר נשארות |
| Specialized Access | ארגונים מאומתים הבודקים מערכות טיסה, רשתות חשמל, רשתות טלקומוניקציה או תשתיות פיננסיות | בדיקה משותפת עם ממשלת ארה״ב | הגבלות סייבר הקטנות ביותר, לבדיקות מערכות בטיחות קריטיות |
מודלים מכוסים על ידי התוכנית כוללים Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 וגרסאות עתידיות, לפי הודעת Anthropic.
כיצד Anthropic מדדה אם התרחיב החסימות היה בטוח
Anthropic בדקה את הרמות כנגד יתר פנימי שנקרא CyScenarioBench לפני הרחבת הגישה, על פי Help Net Security ו-SiliconANGLE. ללא גישה CVP כלשהי, כל 50 ניסיונות יתר נחסמו. תחת Defense Access, 4 מתוך 50 משימות הצליחו, כלומר המסווג עדיין עצר 46. תחת Red Team Access, 34 מתוך 50 משימות הושלמו ללא חסימה. The Hacker News דיווח על אותה נתון Defense Access מהזווית ההפוכה: 46 מתוך 50 משימות נחסמו.
אפילו ברמות הפחות מוגבלות, Anthropic אומר שמסווגים אוטומטיים שעוצרים פעולות הגורמות נזק פיזי או הפרעה המונית נשארים פעילים, וארגונים רשומים חייבים להסכים לשמירת נתונים כך ש-Anthropic יכולה לעקוב אחר שימוש לא תקין. אפשרות ללא שמירת נתונים, בשם Enterprise Frontier Safeguards, מתוכננת להשקה בסתיו 2026 לעמיתים שרוצים להשמור על נתוני ניטור אלה בתוך תשתיתם הענן שלהם במקום.
Project Glasswing: רשומת מציאת פגיעויות מאחורי התוכנית
הרמה Specialized Access של ה-CVP ספגה את Project Glasswing, יוזמה קודמת Anthropic שהתמקדה בהגנת תוכנה קריטית. Anthropic מדווחת ששותפי Glasswing מצאו לפחות 129,000 פגיעויות תוכנה מאומתות בין אפריל ליולי 2026, כאשר הסריקה בקוד פתוח של Anthropic הוסיפה בערך 5,500 נוספות עד לאוקטובר. יותר מ-33,000 מהסך הכל המשולב דורגו כקריטי או חומרי ביותר. דיווח SiliconANGLE מוסיף ש-Anthropic מאמינה שההשפעה בעולם האמיתי כנראה גבוהה פי חמש מהספירה המאומתת, בהתאם לחשיפות חלקיות מארגוני שותפים.
הערכות אלה נותנות לנו ביטחון שאנחנו יכולים להסיר יכולות סייבר מתקדמות בבטחה לקבוצה רחבה יותר של מגנים.
מה נשאר מוגבל לכולם
ההודעה של Anthropic מציינת שמודלים Claude הזמינים בכללי, מחוץ ל-CVP, נשארים מתאימים למשימות אבטחה צרות יותר כגון בדיקת קוד, תיקון פגיעויות ידועות, מציאת פגמים בקוד שארגון כבר בעלות, ותיוג התראות אבטחה. חוקרים בודדים אינם חוקים מ-Red Team Access כלל, ו-Specialized Access דורש בדיקה הכרוכה בממשלה, המשקפת גישה מדורגת שבה יכולות בסיכון הגבוה ביותר דורשות בדיקות זהות והיתרים חזקים ביותר.
שאלות
- מה היא תוכנית אימות הסייבר של Anthropic?
- זו מערכת בדיקה שמאפשרת לאנשי מקצוע בתחום הסיבר מאומתים להשתמש במודלים Claude עם הגבלות בטיחות אוטומטיות מופחתות לעבודה הגנתית, בדיקות חדירה מורשות, או בדיקה של תשתיות קריטיות לבטיחות, בהתאם לאיזו מהשלוש רמות הם מתאימים.
- מי יכול להגיש בקשה לתוכנית?
- Defense Access פתוחה לצוותי אבטחה של תאגידים, ארגונים ללא מטרת רווח, אוניברסיטאות, גופי ממשלה, מפעילי תשתיות קריטיות וחוקרים בודדים עם רשומת חשיפת פגיעויות. Red Team Access מוגבלת לארגונים כגון צוותי אדום בתוך ארגוני או ממשלתיים וחברות בדיקות חדירה. Specialized Access שמורה לארגונים מאומתים הבודקים מערכות כמו רשתות חשמל או מערכות טיסה, בדיקה מעורבת עם השתתפות ממשלה אמריקאית.
- האם אימות גישה מסיר את כל הגבלות הבטיחות של Claude?
- לא. Anthropic אומר שמסווגים בזמן אמת שעוצרים פעולות הגורמות נזק פיזי או הפרעה המונית, כמו פריסת כופר, נשארים פעילים אפילו ברמת Red Team Access.
- מה היא Project Glasswing?
- Project Glasswing הייתה יוזמה קודמת של Anthropic שהתמקדה במציאת פגיעויות בתוכנה קריטית; היא כעת ספגה אל רמת Specialized Access של תוכנית אימות הסייבר. שותפיה מצאו לפחות 129,000 פגיעויות מאומתות בין אפריל ליולי 2026, לפי Anthropic.
- כיצד Anthropic בדקה אם הגבלות המופחתות היו בטוחות?
- Anthropic הפעילה את הרמות כנגד יתר פנימי שנקרא CyScenarioBench. ללא גישה CVP, כל 50 ניסיונות בדיקה נחסמו; תחת Defense Access, 46 מתוך 50 עדיין חסומים; תחת Red Team Access, 34 מתוך 50 הושלמו ללא חסימה, על פי דיווח Help Net Security, SiliconANGLE ו-The Hacker News.
מקורות
- Anthropic — Cyber Verification Program announcement
- The Hacker News — Anthropic Expands Claude Access for Security Researchers
- Help Net Security — Anthropic loosens Claude's cyber restrictions for verified defenders
- SiliconANGLE — Anthropic folds Project Glasswing into an expanded three-tier Cyber Verification Program
כתבה זו הוכנה בעזרת בינה מלאכותית ועברה בדיקת מקורות אוטומטית לפני הפרסום. אם ראיתם טעות, בקשו תיקון. בקשת תיקון או זכות תגובה · איך אנחנו עובדים
כתבות קשורות
בינה מלאכותיתמאמר
מהו GPT-6, וכיצד דגמי שפה גדולים באמת פועלים?
GPT-6 היא משפחת המודלים החדשה ביותר של OpenAI, שיוצאה לשוק בשלבים מאז ספטמבר 2026 תחת השמות Astra, Sol ו-Luna, כאשר Sol ו-Luna הגיעו לכל משתמשי ChatGPT ב-7-8 באוקטובר 2026. כמו מודלי שפה גדולים אחרים, הם יוצרים תשובות על ידי חיזוי המילה הבאה עם רשת עצבים של טרנספורמר שאומנה על כמויות ענקיות של טקסט, לא בדרך שבה אדם חושב.
בינה מלאכותיתמאמר
הסרט החדש 'Artificial' מדרמטיזה את משבר דירקטוריון OpenAI מ-2023 על רקע ויכוח על סיכוני בינה מלאכותית
"Artificial", קומדיה טראגית בבימויה Luca Guadagnino, מדרמטיזה את משבר דירקטוריון OpenAI בשנת 2023, כאשר מנכ"ל Sam Altman הודח והחזיר למשרתו, כעדשה לדיון ציבורי רחב יותר בדבר סיכונים של בינה מלאכותית. הסרט בכיכובו של Andrew Garfield עוקב אחר התפתחות הבינה המלאכותית מהחקר המוקדם של Geoffrey Hinton ועד שחרור ChatGPT. הסרט יושק בבתי קולנוע בארה"ב ב-25 בדצמבר 2026.
בינה מלאכותיתמאמר
למה מנכ"ל Palantir, Alex Karp, אומר שעובדי מקצועות ואנשים נוירודיברסיים ישגשגו בעידן הבינה המלאכותית
מנכ"ל Palantir, Alex Karp, אמר במרץ 2026 שרק שני סוגים של עובדים יכולים להיות בטוחים שיש להם עתיד בכלכלה שמונעת על ידי בינה מלאכותית: אלה שעברו הכשרה מקצועית, וגם אלה שהם נוירודיברסיים. הוא טען שמקצועות מיומנות מתנגדים לאוטומציה, בעוד שדפוסי חשיבה נוירודיברסיים מתאימים לפתרון בעיות לא קונבנציונלי, והרחיבה Palantir מלגות בתשלום המכוונות לשתי הקבוצות.
בינה מלאכותיתמאמר
שחרור בהיקף ענק של מתמטיקה על ידי OpenAI יוצר פחדים במקצוע בקרב מתמטיקאים אקדמיים
ב-6 באוקטובר 2026, פרסמה OpenAI 722 כתבי יד שנוצרו על ידי בינה מלאכותית המאורגנים ל-372 משפחות בעיות, כולל טענה שנויה במחלוקת על שאלת פרס המילניום של Navier-Stokes. מדליסט פילדס Hugo Duminil-Copin אמר שהוא בכה לאחר שמצא 16 מן שאלות המחקר שלו בקרב הכתבים, והוא כינה זאת 'פירוק' של תחומו, בעוד שקבוצת מתמטיקאים קראה לעמיתים להפסיק לעבוד עם OpenAI.