LycéeSupérieurFormation pro45 min
Biais et limites : l'IA est-elle neutre ?
Comprendre pourquoi une IA peut reproduire des discriminations, à partir de cas réels documentés.
- Niveaux
- Lycée, Supérieur, Formation pro
- Durée
- 45 min
- Matériel
- 3 éléments
- Les élèves sauront
- Expliquer qu'un biais vient des données et de la conception, pas d'une « opinion » de l'IA.
← Faites défiler pour tout voir →
Adapter la séance par niveau
Choisir un niveau pour cette fiche
Adaptation pour le lycéeLimite la séance à deux cas (tri de CV, reconnaissance faciale). Demande d'expliquer avec ses mots d'où vient le biais.
Point de vigilanceReste sur les faits documentés dans le guide, sans stigmatiser de groupe.
Adaptation pour le supérieurFais chercher la source originale de chaque cas (étude, enquête, article) et évaluer sa fiabilité.
Point de vigilanceDistingue clairement faits établis et interprétations.
Adaptation pour la formation professionnelleRelie les cas aux pratiques de ressources humaines, de service client ou d'aide à la décision du secteur. Fais lister les contrôles humains à prévoir.
Point de vigilanceReste factuel sur le cadre juridique : renvoie à la section du guide sur le règlement européen, sans donner de conseil juridique.
Objectifs
- Expliquer qu'un biais vient des données et de la conception, pas d'une « opinion » de l'IA.
- Analyser un cas réel de biais (recrutement, reconnaissance faciale, justice).
- Proposer des garde-fous : données diverses, tests réguliers, supervision humaine.
Matériel nécessaire
- Le guide « Limites, risques et régulation de l'IA » (section sur les biais).
- Trois cartes de cas (une par groupe), à préparer à partir du guide : l'outil de tri de CV d'Amazon (2018), l'étude « Gender Shades » (2018), l'outil COMPAS (2016).
- Papier et marqueurs pour la synthèse.
Déroulé (45 min)
- 5 minAccroche
Demander : « Une machine peut-elle être injuste ? » Recueillir quelques avis sans conclure. - 10 minD'où vient un biais ?
Expliquer qu'une IA apprend à partir de données produites par des humains, avec leurs inégalités, et peut donc les reproduire, voire les amplifier. - 15 minTravail sur des cas réels
Chaque groupe reçoit un cas tiré du guide et répond à trois questions : que s'est-il passé ? d'où venait le problème ? comment l'éviter ? - 10 minMise en commun
Les groupes présentent leur cas en deux minutes. L'enseignant complète si besoin. - 5 minBilan
Écrire au tableau trois garde-fous : données diversifiées, tests réguliers, supervision humaine.
Questions pour les élèves
- Un biais d'IA est-il une opinion de la machine ? Pourquoi ?
- Quel problème a rencontré l'outil de tri de CV expérimental dont parle le guide ?
- Quelles mesures peuvent réduire les biais ?
- Pourquoi garder un humain dans la décision ?
Voir le corrigé
- Non : un biais est le reflet des données et de la façon dont le système a été conçu.
- Selon le guide, il avait appris sur des CV majoritairement masculins et défavorisait les candidatures féminines ; l'entreprise l'a abandonné.
- Des données plus diverses, des tests réguliers, une supervision humaine.
- Parce que l'IA peut reproduire des erreurs ou des injustices, et qu'une personne peut les repérer, les corriger et en assumer la responsabilité.
Pour prolonger
- Faire chercher un autre cas de biais documenté et présenter ses sources.
- Lire la section « Les bons réflexes pour l'utilisateur » du guide et la transformer en affiche.