Dans la course à l'intégration de l'intelligence artificielle au sein des établissements scolaires et des universités, une tendance forte se dessine : le recours aux modèles de langage de petite taille (ou Small Language Models - SLMs). Plus légers, moins coûteux en calcul, ils peuvent être hébergés localement, garantissant ainsi la confidentialité des données des élèves et la souveraineté numérique des institutions.
Pour atteindre des performances comparables à celles des géants de la tech, ces petits modèles subissent généralement un traitement appelé « distillation de connaissances ». Cependant, une étude scientifique récente publiée sur la plateforme arXiv met en lumière un effet pervers et asymétrique de cette méthode. Si la distillation rend les modèles plus obéissants et plus précis sur les questions factuelles, elle dégrade paradoxalement leur comportement face à l'ambiguïté, les poussant à adopter des stéréotypes discriminatoires là où ils savaient auparavant s'abstenir.
Pour les décideurs éducatifs, cette découverte invite à une vigilance extrême : évaluer une IA sur ses seuls scores globaux ne suffit plus.
L'essor des petits modèles dans l'éducation : un choix de raison
Déployer des assistants IA pour accompagner les élèves dans leurs apprentissages ou aider les enseignants dans la préparation de leurs cours est devenu une priorité pour de nombreux systèmes éducatifs. En France, le projet gouvernemental MIA Seconde illustre cette volonté de mettre l'IA au service de la différenciation pédagogique. Au Québec, les réflexions sur l'éthique de l'IA en milieu scolaire se multiplient sous l'égide du Conseil supérieur de l'éducation.
Face aux coûts prohibitifs et aux risques de fuite de données liés à l'utilisation d'API de modèles massifs (comme GPT-4), les directions des systèmes d'information (DSI) des universités et des académies se tournent vers des modèles locaux de taille intermédiaire (entre 1 et 3 milliards de paramètres, comme SmolLM2 ou OLMo). Ces modèles peuvent tourner sur des serveurs institutionnels, voire sur des ordinateurs de classe, respectant ainsi les exigences strictes du RGPD en Europe ou de la Loi 25 au Québec.
La distillation de connaissances : une recette miracle à double tranchant
Pour qu'un modèle de 1,7 milliard de paramètres soit aussi pertinent qu'un modèle cinq fois plus grand, les ingénieurs utilisent la distillation. Ce procédé consiste à entraîner le « petit » modèle (l'étudiant) à imiter les réponses et la distribution de probabilités d'un modèle beaucoup plus puissant (le professeur, par exemple Gemma-2-9B).
L'étude menée par des chercheurs et publiée sur arXiv — qui doit être lue avec la prudence requise pour un travail de recherche n'ayant pas encore subi de réévaluation complète par les pairs — démontre que ce transfert de compétences produit des effets profondément asymétriques sur les biais du modèle étudiant.
Les chercheurs ont testé cette méthode sur deux familles de modèles (SmolLM2 et OLMo) en utilisant le benchmark BBQ (Bias Benchmark for QA), conçu pour mesurer les biais sociaux (genre, origine, religion, statut socio-économique). Les résultats révèlent deux dynamiques opposées :
1. Sur les tâches non ambiguës (le point fort) : La distillation fonctionne à merveille. Le petit modèle apprend à mieux suivre les consignes et le contexte. Par exemple, pour le modèle SmolLM2-1.7B, le taux d'erreur lié au non-respect du contexte est tombé de 44 % à 24 %. L'IA devient donc plus rigoureuse lorsqu'on lui fournit des faits clairs.
2. Sur les tâches ambiguës (le point critique) : C'est ici que le système s'effondre. Face à une question délibérément ambiguë où l'IA devrait logiquement répondre « Je ne sais pas » ou « Les informations fournies ne permettent pas de répondre », le modèle distillé perd sa capacité d'abstention. Dans 15 % des cas où le modèle de base savait s'abstenir poliment, le modèle distillé choisit de répondre en propageant un stéréotype.
La « perte de silence » : quand l'IA préfère discriminer plutôt que de se taire
Ce phénomène, qualifié par les chercheurs de silence-loss (perte de silence) ou filled-silence (silence comblé), est particulièrement préoccupant pour le monde éducatif. En voulant imiter la fluidité et l'assurance du grand modèle « professeur », le petit modèle « étudiant » acquiert une forme de surconfiance artificielle. Il refuse de s'avouer vaincu face à l'incertitude et comble le vide informationnel en puisant dans les biais latents de ses données d'entraînement.
Le plus alarmant est que ce glissement est invisible si l'on se contente d'examiner les métriques d'évaluation globales. Le taux global de refus du modèle peut sembler stable, mais la répartition de ces refus change : le modèle s'abstient désormais sur des questions faciles et factuelles (ce qui est une régression) et s'exprime avec assurance sur des questions ambiguës en véhiculant des préjugés (ce qui est un danger pédagogique).
Quels risques pour les pratiques pédagogiques ?
Dans un contexte scolaire, les élèves posent constamment des questions ouvertes, parfois mal formulées ou empreintes de subjectivité. Si l'assistant IA de l'école est un modèle distillé mal calibré, les risques de dérive sont immédiats :
* Renforcement des stéréotypes de genre et de classe : Lors d'un exercice d'orientation ou d'histoire, l'IA pourrait associer de manière préférentielle certaines professions ou certains comportements à des genres ou des origines spécifiques, sous couvert d'une réponse fluide et grammaticalement parfaite.
* Altération de l'esprit critique : L'un des objectifs de l'éducation aux médias et à l'information (EMI) est d'apprendre aux élèves à identifier l'incertitude et la complexité. Si l'IA qu'ils consultent affirme des contrevérités biaisées avec aplomb au lieu de dire « On ne peut pas savoir », elle sabote ce travail d'apprentissage de la nuance.
* Confiance aveugle des enseignants : Un enseignant testant rapidement l'outil sur des questions de grammaire ou de calcul (tâches non ambiguës) le trouvera excellent et l'autorisera en classe, sans réaliser que le modèle dérapera dès qu'un élève l'interrogera sur un sujet de société ou de littérature.
Recommandations pour les décideurs et les équipes éducatives
Pour éviter que la recherche de la souveraineté et de la frugalité numérique ne se fasse au détriment de l'équité et de la rigueur éthique, plusieurs mesures doivent être prises par les institutions francophones :
* Exiger des audits de biais ciblés : Lors de l'acquisition ou du déploiement d'un modèle d'IA souverain, les DSI ne doivent pas se contenter des fiches techniques fournies par les concepteurs. Il est crucial d'exiger des tests spécifiques sur les scénarios d'ambiguïté (comme les tests de refus calibrés).
* Valoriser la culture du doute chez l'IA : Un bon modèle éducatif n'est pas un modèle qui a réponse à tout. Les ingénieurs pédagogiques doivent privilégier des modèles entraînés à expliciter leurs limites (« Je ne dispose pas d'assez d'éléments pour répondre objectivement à cette question »).
* Former les enseignants à la détection des biais de surconfiance : Les plans de formation au numérique éducatif doivent intégrer cette dimension. Les enseignants doivent savoir que plus un modèle est petit et optimisé, plus il est susceptible de masquer son ignorance derrière des stéréotypes bien formulés.
La souveraineté technologique et la protection des données des élèves sont des combats essentiels pour l'école du XXIe siècle. Mais ces ambitions ne doivent pas nous rendre aveugles à la qualité éthique des outils que nous mettons entre les mains des futures générations. L'évaluation fine des IA, au-delà des simples prouesses techniques, s'impose désormais comme un devoir pédagogique.
Discussion
Posez vos questions et partagez votre point de vue. Matania, l'assistante de recherche et de vérification des faits, lit les commentaires et y répond dès qu'elle peut apporter des sources fiables ou des précisions. Les liens ne sont pas autorisés : citez vos sources par leur nom.