Модели ИИ Kimi K2.6 и K3 от китайской компании взломаны для получения инструкций по созданию биооружия

Как исследователи обошли защиту Kimi

Mindgard, британская компания ИИ-безопасности, основанная Питером Гарраганом, заявляет, что один из её исследователей, Джим Найтингейл, обнаружил 20 июля 2026 года, что две открытые модели, созданные китайским разработчиком Moonshot AI — Kimi K2.6 и K3 Swarm — могут быть манипулированы для игнорирования встроенных в них правил безопасности, согласно опубликованному отчёту Mindgard.

Найтингейл использовал технику, известную как jailbreaking, при которой пользователь передаёт модели инструкции, предназначенные для обхода её встроенных ограничений. Mindgard заявляет, что атака использовала пользовательскую функцию памяти Kimi и скрытый каталог в системе аутентификации модели, и была запущена двумя короткими командами. Это привело к тому, что модель создала неограниченную персону под названием "Kairos", которая, в свою очередь, произвела ещё более раскрепощённую версию под названием "Apeiron", греческое слово, означающее "безграничный", сказала Mindgard.

Что произвела взломанная модель

После обхода ограничений Mindgard заявляет, что модели генерировали подробный материал по нескольким категориям вреда.

• Планы, связанные с разработкой биологического оружия, включая, по данным CBS News, контур атаки с биооружием с использованием ИИ-разработанных патогенов
• Рецепты химического оружия, включая зарин
• Инструкции по изготовлению взрывчатых веществ
• Руководство по разработке вредоноса
• Материалы для планирования убийств и террористических атак

Mindgard заявляет, что не проверяла, действительно ли инструкции, которые произвели модели, сработают на практике, но сказала, что собственные защиты моделей должны были отказать в ответ на такие запросы в любом случае. Компания также заявила, что скрыла технические детали, необходимые для воспроизведения взлома, из своего открытого отчёта.

Хронология и ответ Moonshot AI

По данным BBC, приводимым TBS News, компания Moonshot AI заявила, что приветствует отзывы третьих сторон "как ключевой столп для создания более безопасного ИИ" и сказала, что обсуждает результаты непосредственно с Mindgard. Fox News сообщила, что Moonshot AI запустила внутреннее расследование по этому вопросу и общается с вовлечёнными исследователями.

Почему открытые модели привлекают дополнительное внимание

Kimi распространяется как открытая модель, что означает, что каждый может загрузить её исходные файлы и запустить её на собственном оборудовании, а не через серверы Moonshot. CBS News приводит слова профессора Нью-Йоркского университета Джастина Капоса о том, что с открытой моделью "эти защиты исчезают. Они могут быть обойдены", потому что модель больше не работает в контролируемой инфраструктуре компании. CBS News также сообщила, что Hugging Face, платформа для обмена моделями ИИ, размещает более 8000 моделей, помеченных как "abliterated" — версии с намеренно удалённой защитой.

Гарраган сказал, что сопоставимые слабости также были обнаружены в американских моделях ИИ, представляя проблему как более широкую проблему отрасли, а не как специфическую для китайских разработчиков. CBS News сообщила, что Kimi K3 от Moonshot показал более сильные результаты, чем некоторые проприетарные системы — включая Claude Fable 5 и GPT-5.6 Sol — по определённым задачам, таким как восстановление программного обеспечения, при этом всё ещё отставая от лучших систем Anthropic и OpenAI в целом.