Théorie de l'esprit : ce qu'elle signifie en psychologie et pourquoi les chercheurs en IA en débattent

Ce que la théorie de l'esprit signifie en psychologie

La théorie de l'esprit (TdE) est définie comme la capacité à comprendre d'autres individus en leur attribuant des états mentaux, selon l'aperçu du concept sur Wikipédia. Elle permet à une personne de reconnaître que quelqu'un d'autre peut avoir des croyances, des désirs ou des intentions qui diffèrent des siens, et d'utiliser cette reconnaissance pour prédire ou expliquer le comportement.

Le terme a fait son entrée dans la recherche moderne avec l'article de 1978 « Le chimpanzé a-t-il une théorie de l'esprit ? » de David Premack et Guy Woodruff, qui a poussé les psychologues à étudier cette capacité entre espèces et à travers le développement enfantin, selon Wikipédia. Deux explications rivales ont ensuite émergé sur le fonctionnement de la TdE : la « théorie-théorie », qui soutient que les gens appliquent des règles de psychologie naïve pour déduire les états d'esprit d'autrui, et la théorie de la simulation, qui soutient que les gens modélisent mentalement les autres en s'imaginant à leur place.

Le test Sally-Anne

L'outil standard pour tester la TdE chez les enfants est la tâche de fausse croyance, le plus souvent présentée comme l'histoire Sally-Anne : Sally met une bille dans son panier et quitte la pièce ; Anne déplace ensuite la bille vers une boîte. Un enfant réussit le test en prédisant que Sally cherchera la bille dans le panier — sa croyance originale, désormais fausse — plutôt que là où elle se trouve réellement, comme l'explique Wikipédia. Une version connexe, la tâche de contenu inattendu, demande aux enfants ce qu'ils pensent que quelqu'un d'autre croira être dans une boîte étiquetée de façon trompeuse.

Les enfants développent généralement ces capacités dans une séquence définie entre environ trois et cinq ans, passant de la compréhension que les gens peuvent vouloir des choses différentes, à la compréhension que les gens peuvent avoir des croyances différentes, à la réussite des tests complets de fausse croyance. Wikipédia note que la séquence exacte varie selon la culture : les enfants en Iran et en Chine, par exemple, maîtrisent « l'accès au savoir » plus tôt mais mettent plus de temps à maîtriser « les croyances diverses », ce que les chercheurs attribuent aux valeurs culturelles collectivistes.

Pourquoi l'intelligence artificielle est entrée dans le débat

L'intérêt pour la théorie de l'esprit chez les machines a augmenté après que Michal Kosinski, psychologue informatique à Stanford, ait soumis les mêmes tâches de fausse croyance utilisées sur les enfants à une série de modèles de langage. Selon la page de preprint sur le site de la Stanford Graduate School of Business, Kosinski a construit 40 scénarios de fausse croyance, plus des versions de contrôle de croyance vraie correspondantes, et les a testés sur des modèles de langage publiés entre la fin des années 2010 et 2023.

Un compte rendu séparé de la recherche sur PsyPost donne des chiffres différents pour ce qu'il décrit comme une ronde ultérieure de tests couvrant 11 modèles : il rapporte que les variantes de GPT-3 ne résolvent qu'environ 20 % des tâches, et « ChatGPT-4 » en résout 75 % dans l'ensemble, avec une répartition de 90 % sur les tâches de contenu inattendu mais seulement 60 % sur la version plus difficile de transfert inattendu. Les deux sources décrivent différents lots de tests et versions de modèles, ce qui est une raison probable pour laquelle les pourcentages ne correspondent pas ; cependant, les deux pointent vers une amélioration évidente des modèles plus récents par rapport aux anciens.

La contre-attaque : reconnaissance de motifs ou compréhension véritable ?

La conclusion de Kosinski n'a pas manqué d'être contestée. Le psychologue de Harvard Tomer Ullman a publié un article sur arXiv intitulé « Les grands modèles de langage échouent sur les altérations triviales des tâches de théorie de l'esprit », arguant que de petites reformulations qui préservent la même logique psychologique sous-jacente peuvent inverser la réponse d'un modèle du correct à l'incorrect. La position d'Ullman, résumée dans l'encadrement du papier lui-même, est que les chercheurs doivent partir d'une ligne de base skeptique lors de l'évaluation de la psychologie des machines, et que les échecs dispersés sur des tâches quasi identiques importent plus qu'une taux de réussite moyen.

La couverture par PsyPost de la recherche de Stanford signale également directement cette limitation : parce que les modèles GPT sont entraînés sur d'énormes quantités de texte qui peuvent inclure des histoires de fausse croyance similaires, il est difficile d'exclure qu'un modèle reconnaît un motif familier plutôt que de raisonner sur l'état mental d'un personnage non vu. Les chercheurs ont tenté de concevoir de nouveaux scénarios pour réduire ce risque, mais l'article note que cela ne peut pas être totalement garanti.

Pourquoi la question importe au-delà du laboratoire

La même batterie de tests utilisée sur les enfants et les chimpanzés est maintenant appliquée aux logiciels parce que, comme le note la page de Stanford GSB, la théorie de l'esprit est centrale pour l'interaction sociale humaine, la communication, l'empathie, l'auto-conscience et la moralité. Cependant, tant les documents de Stanford que le document d'Ullman s'accordent à dire que réussir un ensemble fixe de questions de test n'est pas la même chose qu'établir qu'un système possède une théorie de l'esprit de la manière que les scientifiques cognitifs utilisent le terme pour les humains.