人工知能とは？機械学習システムの仕組み

人工知能（AI）は、IBMによると、コンピュータとマシンが人間の学習、理解、問題解決、意思決定、創造性、自律性をシミュレートできるようにする技術分野です。

狭いAI対一般的なAI

IBMは2つの広いカテゴリーを区別しています。狭いAI（弱いAIとも呼ばれる）は、音声アシスタントやチャットボットなど、1つの特定のタスク用に構築されたシステムをカバーしています。一般的なAI（強いAIとも呼ばれる）は、多くのタスク全体で人間またはそれ以上のレベルで広い理解を持つ理論的システムを指します。IBMは、そのようなシステムは現在存在しないと述べています。

機械学習：ほとんどのAIの背後にあるエンジン

機械学習（ML）は、訓練データからパターンを学習してから新しいデータについて推論を行うアルゴリズムに焦点を当てたAIのサブセットです。IBMが説明しているように、従来のプログラミングとの重要な違いは、プログラマーがすべてのルールを明確に説明する必要がないということです。IBMはスパム検出の例を挙げています。ルールベースのプログラムは、人間がスパムの外観を定義する必要がありますが、MLモデルは多くのサンプルメールを研究することで独自にスパム特性を学習します。

3つの主な学習タイプ

IBMによると、機械学習システムは通常、3つの方法のいずれかで訓練されます。教師あり学習は、既知の正解を持つラベル付きデータを使用し、アイテムの分類や価格などの連続値の予測などのタスク向けです。教師なし学習はラベルのないデータを使用して、似た顧客をグループ化するなどの隠れた構造を探します。強化学習は試行錯誤を通じてシステムを訓練し、目標に向かって移動する行動に報酬を与えるため、徐々に最適戦略を学習します。

AIがすでに現れている場所

IBMはカスタマーサービスチャットボット、詐欺検出、パーソナライズされたマーケティング推奨、AI支援採用スクリーニング、コード生成ツール、予測保守を現在のアプリケーションとしてリストしています。別に、IBMの機械学習概要は、自動運転車、メールスパムフィルタリング、医療診断支援、推奨エンジン、言語翻訳をすでに使用中のML駆動テクノロジーのリストに追加しています。

既知の制限：幻覚とバイアス

MIT Sloanの教育・学習技術グループによると、生成的なAIシステムは「幻覚」を生成できます。これは本物に見える虚構の情報です。MIT Sloanは、弁護士がChatGPTを法的調査に使用し、このツールが存在しない事件引用を発明した広く報告されたケースを指摘しています。同グループは、一般的なチャットボットが法的質問の58％から82％で幻覚を起こしたという研究を引用しています。一方、検索拡張生成を使用した専門の法律ツールは、ケースの17％以上でまだ幻覚を起こしています。

MIT Sloanは幻覚を3つの要因に起因しています。訓練データが正確で不正確な情報を混合していること（モデルが再現できます）、生成的システムの基本的な設計（事実を検証するのではなく、もっともらしい次の単語を予測する「高度なオートコンプリートツール」のように機能します）、およびアーキテクチャの制限（クリーンな訓練データでも、モデルが新しい、時々不正確な方法でパターンを組み合わせることを可能にします）。

バイアスについては、MIT Sloanは、研究によるとAIシステムが生成画像で性別および人種的ステレオタイプを増幅できること、そしてプロンプト内の人口統計的な手がかりに応じて異なる品質のフィードバック、成績、または専門的な推奨を生成できることを報告しています。このグループは、これを既存の社会的偏見を含む訓練データに起因しています。モデルは正と誤を判断する能力なしにこれらを再現します。IBMの概要は、データリスク（中毒や組み込みバイアスなど）、モデルリスク（盗難またはパラメーター操作など）、運用リスク（モデルドリフトなど）をAI展開組織にとってのより広い懸念としてさらに指摘しています。

これが今重要な理由

IBMは、現代的なAI議論は生成的AI（既存のデータの分類や予測のみでなく、オリジナルのテキスト、画像、ビデオ、その他のコンテンツを作成するシステム）によって支配されていると指摘しています。これらのツールがワークプレイス、学校、日常的なアプリケーションに到達するにつれて、同じ基本的なメカニズム（訓練データからパターンを学習すること）が、MIT Sloanが説明する幻覚およびバイアスの問題を含む、それらの機能と文書化された制限の両方を説明するのに役立ちます。