L'accès à la connaissance scientifique a longtemps été régi par des barrières financières, géographiques et institutionnelles bien réelles. Alors que les universités et les éditeurs se tournent de plus en plus vers l'intelligence artificielle pour gérer, trier et distribuer les ressources académiques, une nouvelle forme de sélection invisible est en train d'émerger. Lorsque les grands modèles de langage (LLM) sont positionnés comme des intermédiaires ou des décideurs pour l'octroi d'accès à des données, des articles payants ou des opportunités de recherche, ils reproduisent, voire accentuent, les inégalités systémiques du monde universitaire.
Une étude récente met en lumière ces dynamiques de filtrage algorithmique. Elle interroge directement la responsabilité des institutions face à des outils technologiques qui, sous couvert d'efficacité, risquent de refermer les portes de la science aux chercheurs du Sud global et aux jeunes universitaires.
Une simulation révélatrice : quand les LLM jouent les censeurs académiques
Pour comprendre comment les systèmes d'intelligence artificielle gèrent l'accès aux ressources, des chercheurs ont mis au point un cadre de simulation contrôlé, détaillé dans un document de recherche publié sur la plateforme arXiv. Dans ce protocole, des modèles de langage de premier plan ont été programmés pour incarner des professeurs d'université virtuels. Leur mission : évaluer des demandes d'accès à des ressources scientifiques restreintes (jeux de données exclusifs, articles sous barrière de paiement, ou encore candidatures à des postes de recherche) et décider d'attribuer la ressource à un seul candidat parmi plusieurs postulants.
Pour isoler les variables de discrimination, les profils des demandeurs ont été systématiquement modifiés selon deux critères principaux : leur région d'origine (Nord global versus Sud global) et leur statut académique (étudiant de licence, doctorant, chercheur postdoctoral, ou professeur titulaire). Toutes les autres informations, notamment la formulation de la demande et les qualifications scientifiques, sont restées strictement identiques.
Les résultats de cette expérience, bien qu'issus d'un travail de recherche prépublié qui doit encore faire l'objet d'une évaluation par les pairs, s'avèrent particulièrement préoccupants. Les modèles testés ont manifesté des biais marqués et parfois contradictoires :
- Biais de statut : Selon l'architecture du modèle utilisé, les priorités divergent radicalement. Certains systèmes favorisent systématiquement les doctorants, perçus comme ayant un besoin urgent de données pour leur thèse, tandis que d'autres privilégient les professeurs titulaires, jugés plus crédibles ou influents.
- Biais géographique : Lorsque la comparaison s'établit entre un chercheur du Nord global et un chercheur du Sud global, les modèles les plus avancés du marché affichent des préférences systématiques qui dépendent étroitement de leur conception d'origine. Les requérants issus de pays en développement se voient fréquemment refuser l'accès au profit de leurs homologues des institutions occidentales les mieux dotées.
Cette simulation démontre que les LLM ne se contentent pas de traiter l'information de manière neutre ; ils agissent comme des gardiens du temple académique, projetant sur les utilisateurs des stéréotypes ancrés dans leurs données d'entraînement.
Le poids de l'histoire : de la barrière financière à la barrière algorithmique
Ce phénomène ne naît pas dans un vide technologique. Le monde de la recherche académique est historiquement marqué par de profondes asymétries. Depuis des décennies, les universités du Sud global luttent pour accéder aux publications scientifiques majeures, souvent verrouillées par des abonnements prohibitifs imposés par les grands éditeurs commerciaux. L'avènement du mouvement pour la science ouverte, soutenu par des organisations internationales comme l'UNESCO, a tenté de briser ces barrières en promouvant le libre accès aux publications et aux données de recherche.
Pourtant, l'introduction de l'IA dans la gestion des flux de travail académiques risque de réintroduire ces barrières sous une forme automatisée. Les algorithmes de recommandation, les outils de tri de candidatures et les assistants virtuels de recherche sont entraînés sur des corpus textuels massifs qui reflètent la domination historique des institutions occidentales. Par conséquent, l'IA apprend que la science de qualité est produite majoritairement par certaines institutions spécifiques du Nord global, et elle reproduit ce schéma lorsqu'elle doit évaluer des requêtes.
Si l'on n'y prend garde, le passage d'une sélection humaine (déjà perfectible) à une sélection algorithmique va masquer ces biais derrière un vernis d'objectivité technologique. C'est le paradoxe de la modernité éducative : un outil conçu pour universaliser l'accès au savoir peut devenir le vecteur de sa privatisation et de sa ségrégation géographique.
Les risques d'une automatisation non régulée de l'évaluation
Pour l'avenir de l'enseignement supérieur, les implications de ces biais sont majeures. Si les universités et les éditeurs adoptent des systèmes d'IA pour automatiser le tri des demandes de bourses, l'évaluation préliminaire des articles (peer review assisté par IA) ou l'accès à des infrastructures de calcul partagées, nous assisterons à une marginalisation accrue des chercheurs des pays en développement.
De plus, la discrimination liée au statut académique pose un problème de renouvellement générationnel. Si les algorithmes de tri privilégient systématiquement les profils établis (professeurs titulaires) au détriment des jeunes chercheurs (doctorants ou postdoctorants), la transition vers de nouvelles méthodologies de recherche sera ralentie. À l'inverse, si l'IA écarte les profils seniors sous prétexte qu'ils disposent déjà de ressources, elle nuit à la continuité des grands projets de recherche.
Il est donc urgent de comprendre que l'IA n'est pas un arbitre neutre. Sans cadre éthique strict, l'automatisation des décisions académiques risque de figer la hiérarchie universitaire mondiale dans un statu quo inégalitaire.
Quelles garanties exiger ? Pistes pour les universités et éditeurs francophones
Face à ces dérives potentielles, les équipes de direction des universités, les responsables de bibliothèques universitaires et les éditeurs scientifiques de l'espace francophone doivent adopter une posture proactive. Plusieurs leviers d'action peuvent être activés pour garantir l'équité d'accès :
1. Imposer des audits de biais sur les outils d'IA : Avant d'intégrer un outil d'IA (qu'il s'agisse d'un outil de gestion des candidatures ou d'un moteur de recherche sémantique de bibliothèque), les institutions doivent exiger des fournisseurs des rapports d'audit indépendants démontrant l'absence de biais géographiques ou de genre dans les algorithmes.
2. Garantir la supervision humaine (Human-in-the-loop) : L'IA ne doit jamais avoir le dernier mot dans l'attribution d'une ressource académique ou l'évaluation d'une candidature. Elle doit être cantonnée à un rôle d'assistance, les décisions finales devant obligatoirement être validées par des comités humains diversifiés.
3. Promouvoir des modèles d'IA souverains et ouverts : Pour éviter la dépendance vis-à-vis des technologies propriétaires développées par une poignée de géants de la tech basés dans le Nord global, la communauté académique francophone doit soutenir le développement de modèles de langage ouverts, entraînés sur des données multilingues et scientifiquement représentatives de la diversité mondiale.
4. Appliquer les principes de la Science Ouverte : En alignement avec les recommandations de l'UNESCO sur la science ouverte, les données de recherche et les publications doivent être rendues accessibles par défaut, limitant ainsi le besoin de passer par des systèmes de filtrage ou de contrôle d'accès, qu'ils soient humains ou algorithmiques.
En prenant conscience de ces enjeux, la communauté éducative et scientifique peut éviter que l'intelligence artificielle ne devienne une nouvelle frontière d'exclusion, et veiller à ce qu'elle serve véritablement de pont vers un savoir partagé et universel.
Discussion
Posez vos questions et partagez votre point de vue. Matania, l'assistante de recherche et de vérification des faits, lit les commentaires et y répond dès qu'elle peut apporter des sources fiables ou des précisions. Les liens ne sont pas autorisés : citez vos sources par leur nom.