心の理論：心理学における意味とAI研究者が議論している理由

心理学における心の理論の意味

心の理論（ToM）は、ウィキペディアの概念概要によれば、個人を理解する能力として定義されており、精神状態を帰属させることによって定義されています。他者が自分自身と異なる信念、欲望、または意図を持つ可能性があることを認識し、その認識を使用して行動を予測または説明することができます。

この用語は、デイビッド・プリマックとガイ・ウッドラフが1978年に発表した「チンパンジーは心の理論を持っているか?」という論文により現代の研究に導入されました。これにより心理学者は種全体および児童発達全体でこの能力を研究するようになりました。ウィキペディアによると、その後、心の理論がどのように機能するかについて2つの対立する説が出現しました：人々が民間心理学のルールを適用して他者の状態を推測することを主張する「理論-理論」と、人々が自分たちをその立場に置いて他者を精神的にモデル化することを主張するシミュレーション理論です。

サリー・アン課題

子どもの心の理論をテストするための標準的なツールは偽りの信念課題であり、ほとんどの場合、サリー・アンの物語として提示されます：サリーが大理石をバスケットに入れて部屋を出て、アンが大理石をボックスに移動させます。子どもは、大理石が実際にどこにあるかではなく、サリーの元々の場所である現在は偽りの信念であるバスケットで大理石を探すだろうと予測することでテストに合格します—ウィキペディアが説明するように。関連するバージョンである「予期しない内容課題」は、子どもに誤解を招くラベルが付いたボックスの中に他の誰かが何があると思うかを尋ねます。

子どもは通常、これらの能力を約3歳から5歳の間に一定の順序で発達させており、人々が異なることを望むことを理解することから、人々が異なる信念を持つことを理解することへ、完全な偽りの信念テストに合格することへと移動します。ウィキペディアは、正確な順序は文化によって異なることに注目しており、例えば、イランと中国の子どもたちは「知識アクセス」をより早く把握しますが、「多様な信念」をより長い時間をかけて把握しており、研究者たちはこれを集団主義的な文化的価値観に結びつけています。

人工知能が議論に参入した理由

機械心の理論への関心は、スタンフォード計算心理学者ミハル・コシン��キーが児童に対して使用されるのと同じ偽りの信念課題をいくつかの言語モデルを通じて実行した後に増加しました。スタンフォード大学院経営大学院のワーキングペーパーページによると、コシンスキーは40の偽りの信念シナリオと、対応する真実の信念コントロール版を構築し、2010年代後期から2023年にリリースされた言語モデルでテストしました。

PsyPostの研究に関する別の説明は、11のモデルをカバーしていると説明される後のテストラウンドについて異なる数字を提供しています：それはGPT-3バリアントがタスクの約20%のみを解く、および「ChatGPT-4」が全体で75%を解く、予期しない内容課題では90%ですが、より難しい予期しない転送版では60%のみであると報告しています。2つのソースは異なるテストバッチとモデルバージョンについて説明しており、これが1つの可能性として高い理由はパーセンテージが一致しないことです；しかし、両方とも、新しいモデルと古いモデルと比較して明らかな改善を指しています。

反論：パターンマッチングか真正な理解か？

コシンスキーの結論に異議を唱えるものは少なくありません。ハーバード心理学者トマー・ウルマンはarXivで「大規模言語モデルが心の理論タスクへの些細な変更に失敗する」というタイトルの論文を発表しており、同じ基本的な心理学的論理を保有する小さな言い換えがモデルの答えを正しいから不正確に反転させることができることを主張しています。ウルマンの立場は、論文自体のフレーミングで要約されており、研究者は機械心理学を評価する際に懐疑的なベースラインから始めるべきであり、ほぼ同一のタスクの散在する失敗は平均的な成功率よりも重要であるべきだと述べています。

スタンフォード研究についてのPsyPostのカバレッジはこの制限を直接指摘しています：GPTモデルは、同様の偽りの信念の物語を含めることができる膨大な量のテキストで訓練されているため、モデルが不可視のキャラクターの精神状態について推論するのではなく、なじみのあるパターンを認識しているということを除外することは難しいです。研究者はこのリスクを減らすために新しいシナリオを設計しようとしましたが、記事はこれを完全に保証することはできないことに注意しています。

なぜこの質問はラボを超えて重要なのか

児童およびチンパンジーで使用されるのと同じテストバッテリーが現在ソフトウェアに適用されているのは、スタンフォード大学院経営大学院のページが指摘しているように、心の理論が人間の社会的相互作用、通信、共感、自己意識、および道徳性に中心的であるからです。しかし、スタンフォード資料とウルマン論文の両方は、固定されたテスト質問のセットを合格することは、認知科学者が人間に使用する方法で心の理論を所有していることを確立するのと同じではないことに同意しています。