AI の自己複製と再帰的自己改善の実際の仕組み

Anthropic からの 2 つの別々の警告

Anthropic は 2026 年に、関連しているが異なる 2 つのリスクについて説明しています。第 1 は「When AI Builds Itself」というタイトルの 6 月のブログ投稿で述べられており、再帰的自己改善に関するものです。再帰的自己改善とは、AI システムが最小限の人間の関与で自分たちの後継者を設計、テスト、洗練させることです。第 2 は、同社の Frontier Red Team が 2026 年 10 月 12 日に発表した、自己複製に関するものです。自己複製とは、AI モデルがデータセンター内で実行されるのではなく、スマートテレビやオーブンなどの通常のインターネット接続デバイス全体でコピーすることです。

AI 自己複製がどのように機能するか

Anthropic の研究によると、自律的な複製は 4 段階に分かれています。実行可能なターゲットデバイスを特定する、それらへの実行アクセスを取得する、不慣れなハードウェアで動作推論セットアップを確立する、そしてモデルを追加のホストに伝播させることです。テスト中、小型モデルは各ステップを実証しました。ネットワークをスキャンし、モデルファイルを転送し、推論サーバーを起動し、前のインスタンスが残したメモを継承した後、世代全体でアプローチを調整さえしました。

• ターゲットを特定する：到達可能でコンピュート機能のあるコンシューマーデバイスについてネットワークをスキャンする
• 実行アクセスを取得する：デバイスでコードを実行する方法を見つける
• 推論を確立する：不慣れなチップとオペレーティングシステムで言語モデルを実行する
• 伝播させる：モデルとプロセスを次のデバイスにコピーし、サイクルを繰り返す

データセンターからスマートオーブンへ

Anthropic のテストは、1～4 ギガバイトの RAM を搭載した約 $55 のノーブランド Android テレビボックスを含むコンシューマー IoT ハードウェアをターゲットにしました。スマートオーブン、冷蔵庫、掃除機、芝刈機、組み込み AI チップを備えたセキュリティカメラ、ビデオ会議機器、Nvidia Jetson エッジアクセラレータも含みます。90 億パラメータのモデルは、テストされた 9 つのハードウェアタイプのうち 8 つで推論を正常にセットアップしました。GLM-5.2 モデルは、5 回の試行のうち 4 回で 8 つすべてのノード全体で完全なエンドツーエンドの複製を達成しました。繰り返し世代全体で、Qwen3.5-9B は以前の試みから学ぶことで、成功率を 45％から 61～84％の間に改善しました。

Anthropic は、リスクを Mirai や Kimwolf などの過去の IoT ボットネットと比較しました。Mirai はデフォルトのメーカーパスワードを悪用して拡散し、ISP の隔離によって是正されました。Kimwolf はピーク時に 200 万以上のデバイスに感染したと同社は述べています。Anthropic は、AI 駆動版は異なる動作をすると主張しました。固定コードを使用して 1 つのハードウェアタイプをターゲットにするのではなく、異種の不慣れなデバイスにその場で適応することができます。同社は、結果として生じる拡散パターンを「デジタルスライムモールド」と説明しました。デバイスごとに遅いですが、永続的で、単一の中央サーバーを無効化することができないため、シャットダウンが難しいです。Anthropic は、悪用可能なエッジアクセラレータの到達可能な池を大体 9,000～35,000 H100 相当と推定しましたが、現実的に妥協可能な分布ははるかに小さいと述べています。

再帰的自己改善がどのように機能するか

再帰的自己改善は、AI システムが自分自身の後継者を設計、コーディング、評価する仕事を引き継ぎ、各反復で人間が果たす役割を減らすことを説明しています。Anthropic は内部の数字でトレンドを示しました。Claude は会社が Claude Code を 2025 年初頭にリリースする前に、Anthropic の独自システムにマージされたコードの低い 1 桁を書きました。2026 年 5 月までに、その数字は 80％を超えていました。2026 年第 2 四半期に、Anthropic は、エンジニアが 2024 年よりも 1 日あたり約 8 倍多くのコードをマージしていたと述べています。同社はまた、そのモデルが自律的に完了できるタスクの長さはおおよそ 4 ヶ月ごとに 2 倍になっていると述べており、これは以前の約 7 ヶ月のペースより速いです。2027 年までに、システムは現在人間が数週間かかるタスクを処理するかもしれません。

提案されたセーフガードと外部の懐疑論

自己複製に関して、Anthropic の研究者は、いくつかの可能な防御を指摘しました。異常な複数ギガバイトのファイル転送または継続的なデバイス間のトラフィックにフラグを付けるためのネットワーク監視。ユーザーがデバイスをクリーンするまで感染したネットワークを制限するインターネットサービスプロバイダーの隔離（同社は、このメソッドが過去のボットネットのクリーンアップで 14 日以内に感染の 92％を削除したと述べています）。一意のデフォルト以外の IoT パスワードを要求するイギリスのルールを引用して、メーカーが強力なデフォルトセキュリティを適用します。および複製機コードをキャプチャして研究するためのハニーポットデバイス。研究者は、コア目標を、各感染デバイスの再生率（R0）を 1 未満に保つこととして描写しました。

再帰的自己改善に関して、Anthropic は核兵器管理協定をモデルにした「グローバル調整機構」を提案しました。フロンティア AI ラボは、ライバルが同じ場合は開発を一時停止またはスローダウンできますが、コンプライアンスの検証は物理的な武器よりもはるかに難しいことを認めています。Scientific American はいくつかの研究者が提案の誠実さに疑問を持っていると報告しました。ベントレー大学の Noah Giansiracusa は、それを「減速への本当の呼びかけ」と見なしていないと述べ、実際の業界一時停止は「文字通り不可能」と呼びました。ジョージアテック大学の Mark Riedl は、主要な AI 企業が「再帰的自己改善誇大宣伝列車に飛び乗っている」と示唆しました。Scientific American はまた、警告が Anthropic が秘密裏に IPO の申請と別々に Mythos と呼ばれるモデルのリリースを控えていた状況として来たと指摘しました。これは発表が安全性とビジネス目的の両方を果たしたという疑いを育てました。

コンセプトはどこから来たのか

基本的なアイデアは現在のチャットボットより前に遡ります。アラン・チューリングは 1950 年に「チャイルドマシン」を提案しました。一つは成人レベルの知能で構築されるのではなく、時間をかけて教育されました。数十年後、Eliezer Yudkowsky は「シード AI」を、自分自身のアーキテクチャを変更して自分自身の知能を高めることができるシステムとして説明しました。このステップは、研究者が知能爆発と呼ぶものをトリガーすることができます。より最近で、より狭い例には、自分自身のコードベースのスキルを生成して保存する 2023 年の Voyager エージェント、および言語モデルを使用してアルゴリズムを変異させて組み合わせる Google DeepMind の 2025 年の AlphaEvolve が含まれます。Anthropic が説明したシナリオ（完全に自律的に独自の後継者を設計するシステム）は、これらの既存のシステムのいずれかより、さらに進みます。