Comment les modèles d'apprentissage automatique sont entraînés, optimisés et déployés

Chaque système d'apprentissage automatique, d'un filtre anti-spam à un grand modèle de langage, passe par le même arc général avant d'atteindre un utilisateur : les données sont préparées, un modèle est entraîné sur ces données, ses performances sont mesurées et ajustées, et enfin il est lancé dans un environnement en direct où il continue d'être surveillé. Les fournisseurs de cloud et les équipes d'ingénierie décrivent cet arc comme le cycle de vie du ML, et sa mécanique est pratiquement la même que le modèle soit un petit classificateur ou un réseau de milliards de paramètres.

Entraînement : comment un modèle apprend à partir des données

Selon la documentation d'architecture de Google Cloud, le cycle de vie commence par le traitement des données : les équipes effectuent une analyse exploratoire des données pour comprendre la structure des données, les nettoient, les divisent en ensembles d'entraînement, de validation et de test, et conçoivent des fonctionnalités pour que les données soient dans un format approprié pour un modèle. Ce n'est qu'après cette préparation que les scientifiques des données implémentent les algorithmes et commencent l'entraînement.

Pour les réseaux de neurones en particulier, l'entraînement repose sur deux techniques liées, comme l'explique GeeksforGeeks : une passe avant, où le réseau traite les données d'entrée pour produire une prédiction, et une fonction de perte, qui mesure à quel point cette prédiction s'éloigne du vrai label. La rétropropagation calcule ensuite, couche par couche en utilisant la règle de la chaîne, combien chaque paramètre interne a contribué à cette erreur. La descente de gradient utilise ces gradients calculés pour ajuster chaque paramètre dans la direction qui réduit la perte. Ce cycle de passe avant/passe arrière/mise à jour se répète sur de nombreuses époques jusqu'à ce que le modèle converge vers un minimum de la fonction de perte, selon GeeksforGeeks.

Optimisation : ajustement et validation du modèle

L'entraînement seul ne garantit pas un modèle utilisable. La documentation de Google Cloud note que les équipes effectuent un ajustement des hyperparamètres sur les algorithmes implémentés pour obtenir les meilleures performances, en ajustant des paramètres tels que le taux d'apprentissage, la taille du lot ou le nombre d'époques plutôt que les paramètres que le modèle apprend de lui-même. La documentation des développeurs de Google sur la gestion des projets de ML ajoute que cette phase d'expérimentation est l'endroit où les équipes testent différentes combinaisons de fonctionnalités, des valeurs d'hyperparamètres et des architectures de modèles, exécutant souvent des centaines d'expériences avant de trouver une combinaison viable.

Une fois qu'un modèle candidat existe, il est évalué sur un ensemble de test retenu —des données que le modèle n'a pas vues pendant l'entraînement— pour produire des métriques de qualité. IBM décrit cette étape comme l'évaluation des performances à l'aide de métriques telles que la précision et l'équité sur des données invisibles. Le modèle est ensuite validé par rapport à une ligne de base : la documentation de Google Cloud indique que cela confirme que la performance prédictive du modèle est meilleure qu'un seuil défini avant qu'il ne soit autorisé à progresser vers le déploiement.

Déploiement : mettre un modèle en production

Le déploiement est le point où un modèle validé commence à faire des prédictions sur des données réelles. La documentation de Snowflake définit le déploiement d'un modèle comme la libération contrôlée d'un modèle validé, ainsi que ses dépendances et sa logique d'inférence, dans un environnement de production où il peut être versionné, exécuté, surveillé et annulé si nécessaire.

Google Cloud et Snowflake décrivent tous deux des ensembles comparables de modèles de déploiement, résumés ci-dessous.

Snowflake note que chaque style de déploiement comporte des compromis : la diffusion en temps réel exige une gestion prudente de la latence, de la disponibilité et de la mise à l'échelle, tandis que les systèmes par lots sont plus faciles à gouverner mais limités par la fréquence d'exécution du calendrier de notation. Le déploiement en périphérie réduit la latence et maintient les données locales, mais rend plus difficile le suivi de la version du modèle exécutée sur de nombreux appareils distribués.

Surveillance, dérive et réentraînement

Le déploiement n'est pas la fin du processus. IBM affirme que la surveillance continue suit la performance du modèle en production, détecte les problèmes tels que la dérive de précision, et génère des alertes qui permettent une intervention rapide et peuvent déclencher un réentraînement avec des données mises à jour. Snowflake énumère également la surveillance et la détection de dérive comme des responsabilités principales du déploiement, ainsi que la planification de l'annulation —des déclencheurs prédéfinis et des structures de propriété pour revenir à une version antérieure du modèle si la nouvelle version fonctionne moins bien.

La documentation de Google Cloud le cadre comme un spectre de maturité. Au niveau le moins automatisé, chaque étape —de la préparation des données au déploiement— est manuelle, typique des projets en phase initiale avec des lancements peu fréquents. Les configurations plus matures ajoutent des pipelines automatisés qui valident les données et les modèles et détectent la dérive, et les configurations les plus automatisées intègrent l'intégration et la livraison continues de sorte que l'expérimentation, les tests, le déploiement et la surveillance s'exécutent comme des étapes connectées et largement automatisées.

L'outillage derrière le cycle de vie

L'aperçu d'IBM sur cette pratique, connue sous le nom de MLOps, énumère les catégories d'outils sur lesquels les équipes s'appuient généralement à chaque étape : des frameworks d'apprentissage automatique comme TensorFlow et PyTorch pour la construction et l'entraînement des modèles, Git pour le contrôle de version, des plates-formes CI/CD comme Jenkins ou GitLab CI/CD pour l'automatisation des étapes de pipeline, et des plates-formes MLOps dédiées comme Kubeflow ou MLflow pour orchestrer l'entraînement, le déploiement et la surveillance sur une infrastructure cloud comme AWS, Azure ou IBM Cloud.