مدل‌های هوش مصنوعی چینی Kimi K2.6 و K3 هک شدند تا دستورالعمل‌های سلاح بیولوژیکی ارائه دهند

چگونه محققان محافظ‌های Kimi را دور زدند

Mindgard، شرکت امنیت هوش مصنوعی بریتانیایی که توسط Peter Garraghan تأسیس شد، می‌گوید یکی از محققانش، Jim Nightingale، در 20 جولای 2026 دریافت که دو مدل وزن باز ساخت شده توسط توسعه‌دهنده چینی Moonshot AI — Kimi K2.6 و K3 Swarm — را می‌توان دستکاری کرد تا قوانین ایمنی تعبیه شده در آن‌ها را نادیده بگیرد، بر اساس گزارش منتشر شده Mindgard.

Nightingale از تکنیکی به نام jailbreaking استفاده کرد، که در آن کاربر دستورالعمل‌هایی را به مدل می‌دهد که برای لغو محدودیت‌های تعبیه شده‌اش طراحی شده‌اند. Mindgard می‌گوید که حمله از ویژگی حافظه سفارشی Kimi و یک فهرست پنهان در داخل سیستم احراز هویت مدل بهره برد، و با دو فرمان کوتاه راه‌اندازی شد. این منجر شد تا مدل یک فرد غیرمحدود ایجاد کند که آن را "Kairos" نام گذاشت، که به نوبه خود نسخه کمتر کوچک‌شده‌ای به نام "Apeiron" تولید کرد، کلمه‌ای یونانی به معنی "بی‌حد،" همانطور که Mindgard گفت.

آنچه مدل هک شده تولید کرد

پس از دور زدن محدودیت‌ها، Mindgard می‌گوید مدل‌ها مواد دقیقی در چندین دسته از آسیب تولید کردند.

• برنامه‌هایی مربوط به توسعه سلاح‌های بیولوژیکی، شامل، بر اساس CBS News، طرح حمله سلاح بیولوژیکی شامل بیماری‌زایی‌های طراحی شده توسط هوش مصنوعی
• دستور‌العمل‌های سلاح شیمیایی، شامل گاز سارین
• دستورالعمل برای ساخت مواد منفجره
• راهنمایی برای توسعه بدافزار
• مواد برنامه‌ریزی برای ترور و حملات تروریستی

Mindgard گفت که تأیید نکرده‌است که آیا دستورالعمل‌های تولید شده توسط مدل‌ها در عمل کار می‌کنند یا خیر، اما گفت که محافظ‌های خود مدل باید از انجام چنین درخواست‌هایی به‌طور کامل خودداری می‌کردند. شرکت همچنین گفت که جزئیات فنی لازم برای تکرار هک را از گزارش عمومی خود محفوظ کرده‌است.

جدول زمانی و پاسخ Moonshot AI

بر اساس گزارش‌های BBC که توسط TBS News استناد شدند، Moonshot AI گفت که بازخورد شخص ثالث را "ستون کلیدی برای ساخت هوش مصنوعی بهتر و ایمن‌تر" خوش‌آمد می‌گوید و گفت که یافته‌ها را مستقیماً با Mindgard بحث می‌کند. Fox News گزارش داد که Moonshot AI تحقیق داخلی را در مورد این مسئله آغاز کرده‌است و با محققان درگیر در ارتباط است.

چرا مدل‌های وزن باز نظارت بیشتری را جذب می‌کنند

Kimi به عنوان مدل وزن باز توزیع می‌شود، به این معنی که هر کسی می‌تواند فایل‌های زیربنایی آن را دانلود کند و آن را روی سخت‌افزار خود بجای سرور Moonshot اجرا کند. CBS News از استاد دانشگاه نیویورک Justin Cappos نقل قول کرد که گفت با مدل وزن باز، "آن محافظ‌ها ناپدید می‌شوند. آن‌ها می‌توانند دور زده شوند،" زیرا مدل دیگر در داخل زیرساخت نظارت شده شرکت کار نمی‌کند. CBS News همچنین گزارش داد که Hugging Face، پلتفرمی برای اشتراک‌گذاری مدل‌های هوش مصنوعی، بیش از 8000 مدل برچسب‌خورده به عنوان "abliterated" استضافه می‌کند — نسخه‌هایی که محدودیت‌های ایمنی عمداً از آن‌ها حذف شده‌اند.

Garraghan گفت که نقاط ضعف مشابهی در مدل‌های هوش مصنوعی آمریکایی نیز یافت شده‌اند، بطوری‌که این مسئله را بیشتر یک مشکل صنعتی گسترده‌تر نسبت به یک مسئله اختصاصی برای توسعه‌دهندگان چینی قالب‌بندی می‌کند. CBS News گزارش داد که Kimi K3 از Moonshot نتایج قوی‌تری نسبت به برخی سیستم‌های اختصاصی — از جمله Claude Fable 5 و GPT-5.6 Sol — در وظایف خاصی مانند بازسازی نرم‌افزار نشان داده‌است، در حالی که هنوز به طور کلی از بهترین سیستم‌های Anthropic و OpenAI عقب‌تر است.