Limites, risques et régulation de l'IA
Hallucinations, biais, vie privée, droit d'auteur, énergie — et ce que prévoit l'AI Act européen.
Sur cette page
1. Erreurs et hallucinations
Du texte plausible, pas forcément exact
Un modèle de langage produit du texte plausible, pas nécessairement exact. Des cas réels l'illustrent : des avocats ont présenté à un tribunal new-yorkais des décisions de justice inventées par ChatGPT (Mata v. Avianca, 2023, amende de 5 000 $) ; une compagnie aérienne canadienne a dû indemniser un client induit en erreur par son chatbot (Air Canada, février 2024) ; un rapport facturé 440 000 $ au gouvernement australien contenait des références inexistantes (2025).
Selon l'AI Index 2026 de Stanford, le nombre d'incidents liés à l'IA documentés est passé de 233 en 2024 à 362 en 2025.
Dans l'affaire Mata v. Avianca (2023), qu'est-ce qui a posé problème ?
Air Canada a pu se dégager de toute responsabilité en expliquant que l'erreur venait de son chatbot, pas d'un employé humain.
Le nombre d'incidents liés à l'IA documentés par l'AI Index a diminué entre 2024 et 2025.
2. Biais et discrimination
Un reflet des données, pas une opinion
Une IA apprend à partir de données produites par des humains, avec leurs inégalités. Elle peut donc les reproduire, voire les amplifier. Un biais n'est pas une « opinion » de l'IA : c'est le reflet de ses données et de la conception du système.
Trois cas documentés
| Domaine | Ce qui s'est passé |
|---|---|
| Recrutement | Amazon a abandonné en 2018 un outil de tri de CV qui défavorisait les candidatures féminines (Reuters) |
| Reconnaissance faciale | L'étude « Gender Shades » (2018) a montré des taux d'erreur plus élevés pour les femmes à la peau foncée |
| Justice | L'outil COMPAS (évaluation du risque de récidive) a été mis en cause par une enquête ProPublica en 2016 pour des erreurs inégales selon l'origine des personnes |
Associe chaque cas documenté à son domaine
Qu'a montré l'étude « Gender Shades » (Buolamwini & Gebru, 2018) ?
Un biais dans une IA est une forme d'opinion personnelle que le système se forge librement.
3. Vie privée, droit d'auteur, environnement
Vie privée
Ce que vous écrivez à un assistant peut être stocké, relu par des équipes de modération, ou servir à entraîner de futurs modèles. Ne saisissez pas de données sensibles, et vérifiez les réglages de confidentialité.
Droit d'auteur
Les modèles sont entraînés sur d'immenses corpus incluant des œuvres protégées, contestés en justice (Getty Images contre Stability AI en 2023, le New York Times contre OpenAI et Microsoft en décembre 2023). L'état du droit évolue vite et diffère d'un pays à l'autre.
Énergie
Selon l'Agence internationale de l'énergie, les centres de données ont consommé environ 415 TWh en 2024 (près de 1,5% de l'électricité mondiale), avec une consommation qui pourrait atteindre environ 945 TWh en 2030.
Selon l'AIE, environ quelle part de l'électricité mondiale les centres de données ont-ils consommée en 2024 ?
Quel procès de 2023 illustre les tensions autour du droit d'auteur et de l'IA ?
Il est prudent de ne jamais saisir de données bancaires ou de dossiers médicaux dans un assistant IA.
4. La régulation : l'AI Act européen
Le principe central
L'Union européenne a adopté le premier grand cadre juridique général sur l'IA : le AI Act, entré en vigueur le 1er août 2024. Son principe : plus un usage de l'IA est risqué, plus les règles sont strictes.
Les 4 niveaux de risque
| Niveau | Règle | Exemple |
|---|---|---|
| Inacceptable | Interdit | Notation sociale des citoyens |
| Élevé | Autorisé sous conditions strictes | Recrutement, crédit, éducation |
| Limité | Obligations de transparence | Chatbots, deepfakes |
| Minimal | Pas d'obligation spécifique | Filtres antispam, IA de jeux vidéo |
Le calendrier d'application de l'AI Act a déjà été modifié une fois (report de certaines obligations « haut risque » à décembre 2027) et peut encore évoluer. Référez-vous aux pages officielles de la Commission européenne pour la version à jour. Ceci n'est pas un conseil juridique.
Classe chaque usage selon son niveau de risque dans l'AI Act
Quel est le principe central de l'AI Act européen ?
À quelle date l'AI Act est-il entré en vigueur ?
5. Les bons réflexes
5 réflexes pour limiter les risques
Vérifier — Contrôlez les faits, chiffres, citations dans une source fiable.
Protéger — Ne partagez pas de données sensibles, vérifiez les réglages de confidentialité.
Garder la main — Utilisez l'IA comme assistant, pas comme décideur, surtout en santé, droit ou finance.
Être transparent — Signalez l'usage d'une IA lorsque c'est attendu ou obligatoire.
Se former — Comprendre le fonctionnement de l'IA aide à mieux percevoir ses limites.
Remets ces 5 réflexes dans l'ordre présenté
Dans quels domaines faut-il particulièrement « garder la main » plutôt que de laisser l'IA décider ?
Défi boss : quel niveau de risque AI Act ?
Classe chaque usage de l'IA selon son niveau de risque dans le règlement européen.