Почему Moonshot Специально Ослабил Навыки Взлома Своей Новой Модели AI Kimi

Moonshot AI, стартап из Пекина, стоящий за чатботом Kimi, представил Kimi K3.1 Pro в субботу, 24 октября 2026 года, описав его как свою самую способную открытую модель в классе 3 триллионов параметров. Наряду с запуском компания заявила, что преднамеренно снизила способность модели помогать с задачами взлома — редкий публичный шаг разработчика AI по ограничению собственных возможностей модели.

Что удалил Moonshot

По словам Moonshot, компания удалила данные, связанные с кибербезопасностью, как из обучающего корпуса, так и из сред обучения с подкреплением, используемых для создания K3.1 Pro, сохраняя при этом общие навыки кодирования модели. Компания сформулировала свою цель следующим образом: «Мы стремимся не выпускать открытые веса, которые бы расширили абсолютную границу киберспособности».

Компромисс измеримый, согласно собственным данным Moonshot. На внутреннем тесте, который оценивает способность модели находить и эксплуатировать уязвимости программного обеспечения в контролируемой среде, K3.1 Pro набрал 81,0%, в сравнении с 90,5% для сравнимой версии модели без фильтрации киберданных. На отдельном отраслевом тесте отфильтрованная модель Moonshot все еще показала хорошие результаты выше своего предшественника Kimi K3 по задачам, связанным с кибербезопасностью.

Независимое тестирование дает более неоднозначную картину

Внешние оценщики впоследствии представили свои собственные результаты. Cyber Index от Artificial Analysis присвоил K3.1 Pro общий балл 64%, что выше модели V4.1 Flash от DeepSeek (57%), но ниже закрытой модели GPT-6 Sol (69%). Это представляет скачок на 23 пункта по сравнению с оценкой исходной модели Kimi K3 в 41% по тому же индексу. Оценщики также отметили, что K3.1 Pro не показал никаких отказов безопасности во время тестирования, в отличие от некоторых конкурирующих публичных API, которые отклонили определенные запросы, связанные с безопасностью.

Сайт анализа Implicator.ai поднял вопросы о том, насколько фактически можно проверить удаление киберданных. Он отметил, что основное доказательство Moonshot поступает из неопубликованного внутреннего теста, и что граница между тем, что считается данными обучения «кибер-связанными», по своей природе неопределенна. Сайт также указал, что DeepSeek V4.1-Flash набрал выше K3.1 Pro (85,7% против 81,0%) по тому же внутреннему тесту, который Moonshot использовал для аргументирования эффективности своей фильтрации, что усложняет сравнение. Он добавил, что материалы Moonshot не касались того, может ли удаленная возможность позже быть восстановлена через дополнительное обучение внешними разработчиками после публикации открытых весов.

Почему это происходит сейчас

Объявление приходит на фоне растущей официальной озабоченности кибератаками с помощью AI. Министерства торговли и науки Китая предложили пересмотр правил экспортного контроля 16 октября 2026 года, охватывающий 23 технологии, связанные с AI, которые запретили бы экспорт систем AI, способных автономно генерировать или изменять вредоносный код, ссылаясь на национальную безопасность и цель сохранить чувствительные возможности AI под контролем человека. Отдельная, менее строгая категория ограничила бы (а не запретила) инструменты AI, способные автономно создавать рабочие эксплуатации известных ошибок или обнаруживать множество неопубликованных уязвимостей высокой степени серьезности в крупных проектах программного обеспечения. Общественное обсуждение проекта продлится до 15 ноября 2026 года.

Самовозложенные киберограничения Moonshot можно рассматривать как ответ на эту нормативную направленность, хотя компания не установила явную связь между ними. Moonshot планирует опубликовать открытые веса K3.1 Pro — файлы, которые позволяют внешним разработчикам запускать и изменять модель на своих собственных системах — к 4 ноября 2026 года.

Больший паттерн Moonshot: открытые веса после своего собственного «момента DeepSeek»

K3.1 Pro следует за Kimi K2, моделью с триллионом параметров и открытыми весами, которую Moonshot выпустила 11 июля 2025 года, которая была широко описана как «момент открытого веса DeepSeek» — ссылка на шок в начале 2025 года, когда модель R1 DeepSeek показала, что китайские лабораторные работники могут соответствовать пограничной западной производительности AI. Сайт комментариев Interconnects.ai утверждал, что Kimi K2 показала, что несколько китайских организаций, а не только DeepSeek, теперь достигали пограничную способность с эффективными, открыто выпущенными моделями.

Moonshot утверждала, что публикация весов модели открыто, даже с сниженной киберспособностью, несет свою собственную выгоду безопасности: организации могут самостоятельно проверять и тестировать программное обеспечение, а не полагаться исключительно на размещенный у поставщика сервис. Этот аргумент стоит рядом с признанным компромиссом, что открытые веса, однажды опубликованные, не могут быть отозваны или дополнительно ограничены Moonshot после этого факта.

Ключевые цифры на первый взгляд