Comment les Réseaux Neuronaux Apprennent : Les Mathématiques Derrière ChatGPT et Gemini

Chaque fois qu'un chatbot répond à une question ou qu'une application de photos reconnaît un visage, un réseau neuronal exécute un processus d'apprentissage qui suit les mêmes étapes de base, quelle que soit la tâche. Selon IBM, ce processus repose sur deux techniques liées : la rétropropagation, qui calcule à quel point chaque paramètre interne a contribué à une erreur, et la descente de gradient, la méthode d'optimisation qui utilise ces calculs pour corriger les paramètres.

Ce Qu'est Réellement un Réseau Neuronal

L'Institut Stanford pour l'IA Centrée sur l'Homme (HAI) décrit un réseau neuronal comme un modèle informatique inspiré par la structure du cerveau humain, construit à partir de couches interconnectées de 'neurones' artificiels qui traitent et transmettent les informations. Chaque neurone prend des entrées numériques, les multiplie par des valeurs ajustables appelées poids, ajoute un terme de biais, et transmet le résultat à travers une fonction d'activation non linéaire avant de l'envoyer à la couche suivante, selon la description par IBM de l'architecture. Stanford HAI note que cette structure en couches est ce qui permet aux réseaux neuronaux d'extraire des motifs à partir de grandes quantités de données, formant la base de l'apprentissage profond.

Étape Un : La Passe Avant

L'entraînement commence avec les poids et les biais définis à des valeurs aléatoires, explique IBM. Pendant la 'passe avant', les données d'entrée se déplacent à travers le réseau couche par couche : chaque neurone calcule sa somme pondérée, applique sa fonction d'activation, et transmet la sortie, jusqu'à ce que la couche finale produise une prédiction. À ce stade précoce, parce que les poids sont aléatoires, cette prédiction est essentiellement une supposition.

Étape Deux : Mesurer l'Erreur

Le réseau compare ensuite sa prédiction à la bonne réponse en utilisant une fonction de perte, une formule qui quantifie à quel point la sortie s'en est éloignée, selon IBM. Différentes tâches utilisent différentes formules — l'erreur quadratique moyenne est courante pour prédire les nombres, tandis que l'entropie croisée est utilisée pour les tâches de classification telles que le tri des images en catégories.

Étape Trois : La Rétropropagation Retrace la Responsabilité

La 'passe arrière' est où l'apprentissage se produit. IBM décrit la rétropropagation comme fonctionnant de la couche de sortie vers la couche d'entrée, en utilisant une technique de calcul appelée la règle de la chaîne pour déterminer à quel point chaque poids individuel a contribué à l'erreur globale. Le résultat est un gradient : un ensemble de valeurs, une pour chaque poids et biais, indiquant la direction et la taille de l'ajustement qui réduirait l'erreur.

IBM souligne l'efficacité de cette approche : pour un réseau avec un million de poids, tester chaque paramètre individuellement par essai et erreur nécessiterait plus d'un million de passes séparées avant à travers le réseau. La rétropropagation atteint la même information en seulement deux passes — une avant, une arrière.

Étape Quatre : La Descente de Gradient Met à Jour les Poids

Une fois que le gradient est connu, la descente de gradient déplace chaque poids d'un petit pas dans la direction qui réduit l'erreur, explique IBM. La taille de ce pas est contrôlée par le 'taux d'apprentissage' : un taux d'apprentissage plus élevé accélère l'entraînement mais risque de dépasser les meilleures valeurs, tandis qu'un taux plus faible est plus précis mais plus lent à converger. Les quatre étapes — passe avant, calcul de la perte, passe arrière, mise à jour des poids — se répètent encore et encore, souvent sur des millions d'exemples, jusqu'à ce que la perte cesse de diminuer sensiblement.

De la Technique de Laboratoire à ChatGPT et Gemini

Les grands modèles de langage appliquent ce même cycle de rétropropagation et descente de gradient à une échelle beaucoup plus grande, sur deux étapes distinctes. La première, l'entraînement préalable, expose le modèle à des quantités massives de texte non étiqueté — des corpus contenant des centaines de milliards de jetons, selon RBC Borealis — et lui demande à plusieurs reprises de prédire le mot suivant dans une séquence. Un blog de recherche de RBC Borealis décrit ce modèle de base comme étant fondamentalement un réseau entraîné pour 'prédire le mot suivant dans une chaîne d'entrée partiellement complète', qui lui enseigne la grammaire, les faits et les modèles généraux, mais ne le rend pas en soi un assistant fiable.

La deuxième étape, l'ajustement fin, adapte le réseau entraîné à l'avance à un comportement spécifique. RBC Borealis décrit trois approches courantes : l'ajustement fin supervisé sur des réponses écrites par des humains ; l'apprentissage par renforcement à partir des commentaires humains (RLHF), dans lequel un modèle de récompense séparé entraîné sur les préférences humaines guide d'autres mises à jour de poids ; et des méthodes plus récentes telles que l'optimisation des préférences directes, qui contournent le modèle de récompense séparé mais reposent toujours sur la rétropropagation. C'est cette étape d'ajustement fin qui transforme un prédicteur de mot suivant général en un système qui suit les instructions et refuse certaines demandes, plutôt que de simplement continuer le texte dans la direction qui est statistiquement probable.

Pourquoi le Mécanisme Importe

Parce que l'entraînement préalable et l'ajustement fin s'appuient tous deux sur la même boucle sous-jacente de rétropropagation et descente de gradient, les améliorations apportées à cette technique centrale — matériel plus rapide, meilleures fonctions de perte, optimisation plus efficace — affectent chaque application en aval à la fois, de la reconnaissance d'images aux assistants conversationnels. Stanford HAI note que les réseaux neuronaux forment maintenant la base des systèmes d'apprentissage profond utilisés dans la reconnaissance faciale, les assistants vocaux et les véhicules autonomes, qui sont tous entraînés par des variantes du même cycle de quatre étapes décrit ci-dessus.