CollègeLycéeSupérieur45 min
Repérer une hallucination
Comprendre qu'une IA peut produire une réponse fausse mais convaincante, et s'entraîner à vérifier.
- Niveaux
- Collège, Lycée, Supérieur
- Durée
- 45 min
- Matériel
- 3 éléments
- Les élèves sauront
- Expliquer ce qu'est une hallucination d'IA avec ses propres mots.
← Faites défiler pour tout voir →
Adapter la séance par niveau
Choisir un niveau pour cette fiche
Adaptation pour le collègeL'enseignant manipule l'outil et projette ; les élèves vérifient sur des sources choisies à l'avance (manuel, site encyclopédique). Limite l'atelier à deux réflexes : demander des sources et recouper.
Point de vigilanceVérifie l'âge minimum de l'outil avant tout usage par les élèves ; sinon, démonstration uniquement par l'enseignant. Aucune donnée personnelle saisie.
Adaptation pour le lycéeLes élèves peuvent mener l'expérience en binôme si l'outil est autorisé. Ajoute la question : « Quelle réponse t'a le plus convaincu(e), et pourquoi ? »
Point de vigilanceRappelle de ne saisir aucune donnée personnelle ; fais noter les sources réellement ouvertes.
Adaptation pour le supérieurDemande aux étudiants de documenter leur vérification (source, date, résultat) et de repérer une référence inventée si l'outil en fournit. Relie à la pratique de citation de la discipline.
Point de vigilanceUne référence peut être plausible mais inexistante : exige l'ouverture effective de chaque source.
Objectifs
- Expliquer ce qu'est une hallucination d'IA avec ses propres mots.
- Appliquer trois réflexes de vérification : demander des sources, recouper, reposer la question autrement.
- Reconnaître que l'IA doit être vérifiée surtout dans les domaines sensibles (santé, droit, finances).
Matériel nécessaire
- Un assistant d'IA généraliste utilisé par l'enseignant (projeté) ou par les élèves si l'âge minimum de l'outil le permet.
- Le guide « Comment fonctionne ChatGPT ? » (section sur les hallucinations).
- Préparation : l'enseignant invente un livre et un auteur qui n'existent pas, et choisit une question dont la réponse est facile à vérifier.
Déroulé (45 min)
- 5 minAccroche
Annoncer : « Aujourd'hui, nous allons prendre une IA en flagrant délit d'erreur. » Demander si une IA peut mentir. Noter les réponses. - 10 minApport
Expliquer simplement qu'un modèle de langage produit du texte plausible, pas nécessairement exact. Présenter deux cas réels cités dans le guide « Limites, risques et régulation de l'IA » : Mata v. Avianca (2023) et Air Canada (2024). - 15 minExpérience
Poser à l'IA (projetée) deux questions : une question vérifiable dans un livre ou sur un site fiable, puis une demande sur le livre et l'auteur inventés par l'enseignant. Les élèves notent si la réponse leur paraît sûre, puis vérifient. - 10 minAtelier de vérification
En binômes, les élèves appliquent trois réflexes : demander des sources et les ouvrir, recouper un nom, une date ou un chiffre, reposer la question autrement. Ils notent ce qu'ils ont trouvé. - 5 minBilan
Construire ensemble une règle d'or de la classe : « Je ne recopie pas une réponse d'IA sans l'avoir vérifiée. »
Questions pour les élèves
- Qu'est-ce qu'une hallucination d'IA ?
- Pourquoi une réponse fausse peut-elle sembler convaincante ?
- Quels trois réflexes permettent de vérifier une réponse ?
- Dans quels domaines faut-il être particulièrement prudent ?
Voir le corrigé
- Une hallucination est une réponse inventée ou inexacte, présentée comme si elle était vraie.
- Parce qu'un modèle de langage produit du texte plausible et bien rédigé, sans vérifier les faits.
- Demander des sources puis les ouvrir, recouper chiffres, dates et noms propres avec une source fiable, reposer la question autrement : si les réponses divergent, c'est un signal d'alerte.
- La santé, le droit et les finances : l'IA peut aider à comprendre, mais pas remplacer un professionnel.
Pour prolonger
- Demander aux élèves de rédiger un mode d'emploi de trois lignes « Comment vérifier une réponse d'IA ».
- Enchaîner avec la fiche « IA, sources et intégrité scolaire ».