L’intelligence artificielle (IA) prend de plus en plus d’influence dans l’enseignement STEM. Les outils d’IA peuvent désormais prendre en charge l’automatisation de la notation, les retours personnalisés, le tutorat et l’analyse d’apprentissage. Cependant, de nombreux systèmes d’IA avancés, y compris les modèles d’apprentissage profond et les grands modèles de langage (LLM), fonctionnent comme des « boîtes noires ». Ils peuvent fournir des notes ou des retours, mais il est difficile pour les enseignants, les étudiants et les chercheurs de comprendre comment les décisions générées par l’IA sont prises.

Dans un livre en libre accès récemment publié, Artificial Intelligence for STEM Education Research, un chapitre « Explainable AI in STEM Education Research » est consacré à cette problématique. Il examine comment les systèmes d’IA peuvent être rendus plus transparents, interprétables et utiles pour l’éducation STEM en introduisant des approches clés d’IA explicables et en discutant de la manière dont ils peuvent soutenir la confiance, l’analyse diagnostique, la prise de décision pédagogique et l’intégration responsable de l’IA dans les contextes d’apprentissage STEM.

L’IA explicable, souvent appelée XAI, fait référence à des méthodes et principes qui aident les personnes à comprendre, faire confiance et potentiellement contrôler la raison derrière les prédictions d’un modèle d’IA. Dans l’éducation, l’explicabilité n’est pas seulement une préoccupation technique, mais aussi une préoccupation pédagogique et éthique.

Lorsque l’IA est utilisée pour la notation ou la génération de retours, les enseignants doivent savoir si le système se concentre sur des preuves significatives de l’apprentissage. Les élèves bénéficient également lorsque les retours de l’IA les aident à comprendre pourquoi une réponse est forte, incomplète ou inexacte. Les chercheurs ont besoin d’explicabilité pour évaluer si les modèles d’IA correspondent aux théories de l’apprentissage, aux cadres d’évaluation et aux attentes disciplinaires.

Certains modèles d’IA sont plus faciles à comprendre par conception, comme les modèles linéaires et basés sur des arbres. Un modèle linéaire peut aider à montrer comment un facteur, comme le temps d’étude ou la performance antérieure, est associé à un résultat prédit. Un modèle basé sur un arbre peut afficher une séquence de règles de décision qui conduisent à un résultat. Ces modèles rendent visible la logique de la prédiction de l’IA.

D’autres méthodes sont conçues pour expliquer des systèmes d’IA plus complexes. Une approche utilise le raisonnement « et si », également appelé explication contrefactuelle, pour transformer une prédiction en guide. Par exemple, un outil d’IA pourrait montrer comment la réponse d’un élève pourrait s’améliorer s’il ajoutait une idée scientifique clé ou corrigeait une idée fausse. Ce type d’explication peut transformer un score d’IA en retour utile.

Une autre approche aide à identifier quelles parties du travail d’un étudiant ont le plus compté pour l’IA. Par exemple, dans le calcul automatisé, l’IA explicable peut aider à montrer si le système a reconnu des idées importantes telles que la photosynthèse ou la conversion d’énergie dans les réponses des élèves. Cela aide les enseignants à déterminer si l’IA est attentive et détecte un contenu disciplinaire significatif.

ChatGPT et d’autres LLM soulèvent un autre problème important. Parce que ces outils répondent à des consignes écrites dans un langage quotidien, la manière dont les utilisateurs posent des questions est importante. Des consignes claires, des exemples pertinents, des informations de contexte et un raisonnement étape par étape peuvent rendre les interactions IA plus visibles et plus faciles à affiner. Des stratégies telles que des exemples en contexte, des augmentations de connaissances et des incitations en chaîne de pensée peuvent aider à orienter les LLM vers des réponses plus interprétables et utiles pour l’enseignement et l’apprentissage.

Dans l’ensemble, un message central est que l’IA dans l’enseignement STEM ne doit pas être jugée uniquement sur la précision. Un score, une recommandation ou un message de retour devient plus précieux lorsque les gens comprennent la raison derrière. XAI peut aider à relier les résultats des modèles aux types de preuves qui intéressent les enseignants, tels que le raisonnement des élèves, les idées reçues, la compréhension disciplinaire et les progrès au fil du temps.

À mesure que l’IA continue d’évoluer, son rôle dans l’enseignement STEM nécessitera une collaboration continue entre chercheurs en IA, enseignants, scientifiques de l’apprentissage et experts en évaluation afin de garantir que les outils d’IA restent centrés sur l’humain. Bien que considérée comme une transformation du système éducatif, son succès dépendra de la manière dont elle sera mise en œuvre réfléchie, il est d’une importance capitale que les éducateurs restent au centre des décisions sur la manière dont l’IA est utilisée, les preuves importantes et comment les connaissances générées par l’IA doivent guider l’enseignement et l’apprentissage. Dans l’ensemble, si elle est utilisée de manière responsable, l’IA peut être un outil puissant pour améliorer le feedback, soutenir l’évaluation, approfondir la compréhension et préparer les élèves à leur avenir. L’IA explicable est une part importante pour rendre ce futur fiable et aligné avec l’apprentissage humain.