ニューラルネットワークとディープラーニングがAIシステムに学習と意思決定を可能にする方法

ニューラルネットワークが実際には何であるか

IBMによれば、ニューラルネットワークは、層に配置されたニューロンと呼ばれるシンプルな処理ユニットから構成された機械学習モデルであり、データからパターン認識の重みとバイアスを学習して、入力を出力にマッピングします。すべてのネットワークには、生データを受け取る入力層、そのデータを変換する1つ以上の隠れ層、およびラベルや予測などの最終結果を生成する出力層があります。

各ニューロンは、入力値に重みと呼ばれる数値を掛け、バイアス項を追加し、その結果を非線形活性化関数を通して渡します。IBMは重みを、各入力が結果にどの程度の影響を与えるかを設定するダイアルに例えており、バイアスはニューロンがアクティブになる点を調整します。

訓練の仕組み：順方向伝播と逆方向伝播

MITニュースは、このアイデアを1944年にさかのぼります。Warren McCulloughとWalter Pittsは、後にMITに移動し、相互に接続された処理ノードの概念を初めて提案しました。元の設計では、各ノードは加重入力を合計し、合計がしきい値を超えた場合に「発火」し、MITが「フィードフォワードアーキテクチャ」と呼ぶものの次の層に信号を送ります。

訓練はランダムな重みから始まります。IBMは、ネットワークが最初に「順方向伝播」ステップを実行し、入力データを層を通して渡して予測を生成することを説明しています。損失関数はその予測と正しい答え間のギャップを測定します。IBMによると、数値予測の場合は平均二乗誤差などの式を、分類タスクの場合は交差エントロピーを使用します。

ネットワークは次に「逆方向伝播」を実行し、連鎖律と呼ばれる微積分規則を使用して、層ごとに、各個々の重みがエラーにどの程度寄与したかを計算します。勾配降下法と呼ばれる最適化ステップは、その計算を使用して、すべての重みを、エラーを減らす方向にわずかに調整します。訓練例全体でこのサイクルを数千回または数百万回繰り返すことが、IBMとMITの両方が説明するように、ネットワークが「学習」する方法です。

ディープラーニングがなぜ普及したのか

「ディープラーニング」は、1つだけではなく多くの積み重ねられた隠れ層を持つネットワークを指します。MITニュースは、1960年代の単層ネットワークから現代のネットワークへの進化を注目し、10～50層以上のネットワークが見られます。MITニュースによれば、MITのMarvin MinskyとSeymour Papertが単層ネットワークの限界を示す1969年の書籍を発表した後、研究の勢いは崩壊し、1980年代に部分的に回復しただけで、2000年代初期に再び衰退しました。

この分野の現代的な復興は、MITによると2010年頃にさかのぼり、元々ビデオゲーム用に構築されたグラフィック処理ユニット（GPU）によって推進されました。これは、深いネットワークが必要とする膨大な計算を実行することを実用的にしました。IBMは、この計算能力が、はるかに大規模なデータセットと組み合わせて、今日の大規模モデルのパラメーターが数十億に達することを可能にしたと追加しています。

「ブラックボックス」問題：決定が説明しにくい理由

完全に訓練されたネットワークでさえ、解釈するのが難しい場合があります。MITニュースは、訓練後、最終的な重み設定が実際に何を表しているか、または訓練されたシステムが画像のどの機能に依存しており、どのようにそれらを組み合わせているかが、しばしば不明であると述べています。「ブラックボックス」問題と呼ばれることもあるこの不透明性は、ネットワークがどのように構築されているかとは異なります。それは、特定の、すでに訓練されたネットワークが特定の決定を生成する理由を理解することに関するものです。

なぜこの説明が今、重要なのか

上記のメカニズムは、日常的なAI使用の急速な拡大の背景にあります。スタンフォードのHAI 2026 AIインデックスレポートは、2025年の生成AI組織の採用が88％に達し、生成AIが大量市場導入から3年以内に53％の人口レベルの採用に達したことを示しています。報告書によると、これはパーソナルコンピューターやインターネットが同じレベルに達するよりも速いです。同じレポートは、2025年の米国民間AI投資を285.9億ドルとし、その年に中国に投資された12.4億ドルの23倍以上であると述べています。

スタンフォードレポートはまた、SWE-bench VerifiedなどのコーディングベンチマークでのAIモデルのパフォーマンスが約60％から1年以内に100に近い値に上昇したこと、およびいくつかのモデルが博士号レベルの科学の質問と競争数学で人間のベースラインと同等またはそれ以上であることを発見しました。これらの能力向上のいずれも、上記で説明した根本的なメカニズム（逆方向伝播と勾配降下法を通じて調整された加重接続）を変更していません。それはそれが適用される規模だけです。