人工知能 · 解説記事
ムーンショットが意図的に新型Kimi AIモデルのハッキングスキルを弱化させた理由
公開:
要点
中国のAIラボであるムーンショットが、新しいKimi K3.1 Proモデルからサイバー関連のトレーニングデータを削除したと発表しました。このオープンウェイトシステムが攻撃的なハッキング能力の「フロンティア」を推し進めることがないようにするためです。2026年10月24日土曜日に発表されたこの動きは、政府とセキュリティ研究者がますます高度化するAIが高度なサイバー攻撃をより安価かつ容易に実行する可能性があると警告している最中に行われています。
この版は原文（English）の機械翻訳です。 原文を読む
ムーンショットAIは、Kimiチャットボットを手がける北京拠点のスタートアップで、2026年10月24日土曜日にKimi K3.1 Proを発表しました。同モデルは3兆パラメータクラスにおける同社の最も能力の高いオープンウェイトモデルとして説明されています。このローンチとともに、同社はこのモデルのハッキングタスク支援能力を意図的に縮小したことを明かし、AIデベロッパーがモデル自身の機能を制限するという珍しい公開的なステップを踏みました。
ムーンショットが削除したもの
ムーンショットによれば、同社はK3.1 Pro構築に使用したトレーニングコーパスと強化学習環境の両方からサイバー関連データを削除する一方、モデルの一般的なコーディングスキルは維持しました。同社は目標を次のように述べています：「我々は、サイバー能力の絶対的フロンティアを拡張するオープンウェイトをリリースしないことを目指しています。」
ムーンショット自身の説明によれば、トレードオフは測定可能です。制御環境でモデルがソフトウェアの脆弱性を検出し悪用する能力をテストする内部ベンチマークでは、K3.1 Proは81.0%を獲得しました。これに対し、サイバーデータフィルタリングなしで構築されたモデルの同等バージョンは90.5%でした。別の業界ベンチマークでは、ムーンショットのフィルタリング済みモデルは前身のKimi K3よりもサイバー関連タスクで依然として高いスコアを獲得しています。
独立したテストはより複雑な結果を示す
外部の評価者たちはその後、独自の数値を発表しました。アーティフィシャル・アナリシスのサイバーインデックスではK3.1 Proの総合スコアを64%と評価し、DeepSeekのV4.1 Flashモデルの57%を上回りましたが、クローズドモデルのGPT-6 Solの69%には及びませんでした。これは、同じインデックスにおける元のKimi K3のスコア41%から23ポイントの上昇を示しています。評価者らはまた、K3.1 Proのテスト中にセーフティー拒否がなかったことに注目しました。これは、セキュリティ関連のプロンプトを拒否した競合する公開APIのいくつかと異なります。
分析サイトのImplicator.aiはサイバーデータ削除の実際の検証可能性について疑問を呈しました。同サイトはムーンショットの主な根拠が未発表の内部テストから来ていることを指摘し、「サイバー関連」トレーニングデータの境界が本質的に曖昧であることを指摘しています。また、DeepSeekのV4.1-Flashがムーンショットがその有効性を主張するために使用した同じ内部ベンチマークでK3.1 Proより高いスコア（85.7% vs 81.0%）を獲得したことを指摘し、比較を複雑にしています。さらに、ムーンショットのリリース資料は、削除された機能がオープンウェイト公開後に外部デベロッパーによるファインチューニングを通じて後で復元される可能性があるかについて説明していないと述べています。
なぜ今この発表なのか
この発表は、AI支援サイバー攻撃に対する公式な懸念の高まりを背景に行われています。中国の商務省と科学省は2026年10月16日に、23のAI関連技術をカバーする輸出規制改正案を提案し、悪意あるコードを自律的に生成または変更することができるAIシステムの輸出を禁止することを提案しました。これは国家安全保障と機密AI能力を人間の管理下に保つという目標を理由としています。別のより厳しくない分類は、既知の欠陥に対する作動する悪用を自律的に構築する、または大規模ソフトウェアプロジェクトで複数の未公開の高リスク脆弱性を発見することができるAIツールを制限（禁止ではなく）するでしょう。パブリックコメント期間は2026年11月15日までです。
ムーンショットの自己課するサイバー制限は、その規制方向への対応として読める可能性がありますが、同社はこれら二つを明示的にリンクさせていません。ムーンショットはK3.1 Proのオープンウェイトを2026年11月4日までに公開することを計画しています。
ムーンショットの大きなパターン：自身の「DeepSeekモーメント」後のオープンウェイト
K3.1 Proはムーンショットが2025年7月11日にリリースした1兆パラメータのオープンウェイトモデルであるKimi K2に続くものです。これは広く「オープンウェイトDeepSeekモーメント」と説明されました—2025年初頭、DeepSeekのR1モデルが中国ラボが西側のフロンティアAIパフォーマンスと並ぶことができることを示したことへの参照です。コメンタリーサイトInterconnects.aiは、Kimi K2が複数の中国組織、DeepSeekだけではなく、効率的にオープンリリースされたモデルでほぼフロンティア能力に到達していることを示したと主張しました。
ムーンショットは、削減されたサイバー能力でも、オープンウェイトのリリースはそれ自身のセキュリティ利点を持つと主張しています：組織はベンダーの提供ホストサービスだけに頼るのではなく、ソフトウェア自体を検査およびテストできます。この議論は、オープンウェイトが公開されると、ムーンショットは事後的にそれをリコールまたはさらに制限することができないという認識されたトレードオフと並行しています。
主要な数字一覧
| ベンチマーク | K3.1 Pro（フィルタリング済み） | 比較ポイント | ソース |
|---|---|---|---|
| ムーンショット内部サイバーベンチマーク | 81.0% | 90.5%（フィルタリングなしバージョン） | ムーンショット、ロイター経由 |
| アーティフィシャル・アナリシス サイバーインデックス | 64% | 57%（DeepSeek V4.1 Flash）、69%（GPT-6 Sol） | アーティフィシャル・アナリシス |
| 同インデックス、前身モデルとの比較 | 64% | 41%（Kimi K3） | アーティフィシャル・アナリシス |
| 同内部ベンチマーク、ライバルモデル | 81.0% | 85.7%（DeepSeek V4.1-Flash） | Implicator.ai分析 |
よくある質問
- ムーンショットはKimi K3.1 Proで具体的に何を変更しましたか？
- ムーンショットは、モデルの構築に使用したトレーニングコーパスと強化学習環境からサイバー関連データを削除した一方で、一般的なコーディング能力は維持したと述べており、これは攻撃的なハッキング能力を制限するためです。
- この変更はモデルのハッキング能力を実際に削減しましたか？
- ムーンショット自身の内部ベンチマークでは、フィルタリング済みモデルは81.0%を獲得し、フィルタリングなしバージョンの90.5%と比較されていますが、独立した分析ではテストが未発表であり、ライバルモデルであるDeepSeek V4.1-Flashが同じベンチマークでより高い（85.7%）スコアを獲得したことに注目しています。
- Kimi K3.1 Proのオープンウェイトはいつ利用可能になりますか？
- ムーンショットは2026年11月4日までにモデルのオープンウェイトを公開する予定であると述べています。
- これは中国の輸出規制提案とどのように関連していますか？
- 中国は2026年10月16日に23のAI技術をカバーする輸出規制改正案を提案し、マルウェア生成またはソフトウェア脆弱性発見のためのAIツールを禁止または制限することを提案しました。これは国家安全保障上の懸念を理由とし、パブリックコメント期間は2026年11月15日までです。ただし、ムーンショットはK3.1 Proの制限がこの提案への対応として特別に行われたことを述べていません。
- なぜKimi K2を「DeepSeekモーメント」と呼ぶのですか？
- コメンテーターはこの用語を使用しました。Kimi K2が2025年7月11日にリリースされたもので、DeepSeek以上に複数の中国AIラボが近い距離のフロンティアパフォーマンスのオープンウェイトモデルを生産できることを示したからです。これはその年初めのDeepSeekのR1リリースへの反応を反映しています。
出典
- Yahoo News (Reuters) — Moonshot curbs hacking ability in new Kimi model as fears grow over AI-powered cyberattacks
- alphaXiv — Kimi K3.1 Pro model page
- AlphaSignal — Moonshot's Kimi K3.1 Pro Tops Every Public API Model in Security Benchmarks
- Implicator.ai — Kimi K3.1 Pro Hacking Cut Rests on Unpublished Moonshot Test
- TechNode Global — China proposes export controls on 23 AI technologies
- Interconnects.ai — Kimi K2 and when "DeepSeek Moments" become normal
この記事は人工知能で作成され、公開前に出典の自動チェックを通過しています。誤りを見つけたら訂正を依頼してください。 訂正・反論を依頼する · 制作方針
関連記事
人工知能解説記事
ニューラルネットワークの学習方法：ChatGPTとGeminiの背後にある数学
ニューラルネットワークは、予測を行い、損失関数を使ってどの程度間違っていたかを測定し、次にネットワークを通じて重みと呼ばれる内部値を逆方向に調整することで学習します。このプロセスは逆伝播と呼ばれ、勾配降下法と呼ばれる最適化方法と組み合わされています。数十億のパラメータに拡大された同じメカニズムが、ChatGPTやGeminiなどのシステムが最初に訓練され、その後、ファインチューニングを通じて特定のタスクに適応される方法を支えています。
人工知能解説記事
AIがアートと音楽を生成する方法、そして「真の創造性」が議論の余地がある理由
MidjourneyやStable Diffusionなどの画像生成ツールはノイズプロセスを逆転させることを学習することで画像を構築し、SunoやUdioなどの音楽ツールはオーディオをトークンに圧縮して段階的に予測します。テキストプロンプトによってガイドされています。これらのプロセスが真の創造性として認識されるかどうかは未解決のままです。研究者はそれをパターンベースの「リミックス」と呼ぶことと、測定可能な創造的成果として認識することの間で意見が分かれています。
人工知能解説記事
「受賞した小説の論争を通じて説明されるAIテキスト検出器の仕組み」
「AIテキスト検出器は、誰が何かを書いたかを証明しません。単語の予測可能性や文の長さの変動などの統計的パターンを測定することで確率を推定しています。Pangram 4.1という検出器は最近、€20,000の賞を受賞したスペイン語小説の99%を人工知能に帰属させ、その出版社に調査中の販売促進イベント一時停止を強いました。」
人工知能解説記事
Moonshotの新しいAIモデルKimi K3.1 Pro：何ができるか、他のモデルとどう比較するか
Moonshot AIは2026年10月23日にKimi K3.1 Proを発表しました。2.8兆個の総パラメータを持つオープンウェイトのAIモデルで、コーディング、3Dモデリング、金融研究向けに構築されています。北京のスタートアップは、自社のベンチマークテストにおいてOpenAIのGPT-6 AstraおよびAnthropicのClaude Opus 5.5との差を縮めていると述べていますが、これらの数字は自己報告されたものであり、完全なモデルウェイトは2026年11月4日までリリースされる予定です。