Limites, risques et régulation de l’intelligence artificielle

1. Les erreurs et les hallucinations

Un modèle de langage produit du texte plausible, pas nécessairement exact (voir comment fonctionne ChatGPT). Des cas réels l’illustrent :

• Mata v. Avianca (États-Unis, 2023) : des avocats ont présenté au tribunal fédéral de New York des décisions de justice inventées par ChatGPT. Le juge P. Kevin Castel a rejeté l’affaire et infligé une amende de 5 000 dollars.
• Air Canada (Canada, février 2024) : un tribunal a ordonné à la compagnie de compenser un client induit en erreur par son chatbot sur les conditions d’un tarif de deuil. La compagnie ne peut pas se défausser sur son robot.
• Rapports d’expertise (2025) : un rapport commandé par le gouvernement australien et facturé 440 000 dollars comportait des références inexistantes, et l’entreprise a remboursé une partie du contrat.

Selon l’AI Index 2026 de l’université Stanford, le nombre d’incidents liés à l’IA documentés est passé de 233 en 2024 à 362 en 2025.

2. Les biais et la discrimination

Une IA apprend à partir de données produites par des humains, avec leurs inégalités. Elle peut donc les reproduire, voire les amplifier.

• Recrutement : en 2018, l’agence Reuters a révélé qu’Amazon avait abandonné un outil expérimental de tri de CV qui défavorisait les candidatures féminines, car il avait appris sur des CV majoritairement masculins.
• Reconnaissance faciale : l’étude « Gender Shades » (Joy Buolamwini et Timnit Gebru, 2018) a montré des taux d’erreur nettement plus élevés pour les femmes à la peau foncée dans plusieurs systèmes commerciaux.
• Justice : en 2016, une enquête de ProPublica a mis en cause l’outil COMPAS, utilisé aux États-Unis pour évaluer le risque de récidive, pour des erreurs inégales selon l’origine des personnes.

3. La vie privée et les données personnelles

Ce que vous écrivez à un assistant peut être stocké, relu par des équipes de modération, ou servir à entraîner de futurs modèles, selon la politique de l’éditeur. En Europe, le RGPD s’applique aux données personnelles, et la CNIL publie des recommandations sur l’IA et la protection des données.

• Ne saisissez pas de mots de passe, de données bancaires, de dossiers médicaux, de documents confidentiels de votre entreprise ou d’informations sur des tiers identifiables.
• Vérifiez dans les réglages si vos conversations sont utilisées pour l’entraînement, et désactivez l’option si vous le souhaitez.
• Pour les usages professionnels, privilégiez les offres « entreprise », qui offrent généralement des garanties contractuelles.

4. Droit d’auteur et propriété intellectuelle

Les modèles sont entraînés sur d’immenses corpus qui incluent des œuvres protégées. Auteurs, artistes, éditeurs et agences photo contestent en justice cet usage (par exemple Getty Images contre Stability AI en 2023, ou le New York Times contre OpenAI et Microsoft en décembre 2023). Les tribunaux et les législateurs de plusieurs pays n’ont pas encore tranché toutes les questions : l’état du droit évolue vite et diffère d’un pays à l’autre.

Pour l’utilisateur, la prudence consiste à lire les conditions d’utilisation de l’outil, à ne pas demander de reproduire des œuvres ou des personnages protégés, et à relire et retravailler les textes générés.

5. L’énergie et l’environnement

Selon l’Agence internationale de l’énergie, les centres de données ont consommé environ 415 TWh en 2024 (près de 1,5 % de l’électricité mondiale), et leur consommation pourrait atteindre environ 945 TWh en 2030. L’IA est l’un des principaux moteurs de cette hausse (voir comment fabrique-t-on une IA).

6. Désinformation, emploi et concentration du pouvoir

• Désinformation : les contenus synthétiques (textes, images, voix, vidéos) peuvent être produits en masse et à bas coût, ce qui facilite arnaques, usurpations d’identité et manipulation.
• Emploi : l’IA automatise des tâches plus que des métiers entiers ; l’effet net sur l’emploi reste débattu et varie selon les secteurs. Les compétences d’usage de l’IA deviennent un atout.
• Concentration : développer les plus grands modèles exige des ressources considérables. Selon l’AI Index 2026, plus de 90 % des modèles notables proviennent de l’industrie ; cette concentration alimente les débats sur la souveraineté numérique et la transparence.

La régulation : le règlement européen sur l’IA (AI Act)

L’Union européenne a adopté le premier grand cadre juridique général sur l’intelligence artificielle. Le Parlement européen l’a voté le 13 mars 2024, le Conseil l’a approuvé le 21 mai 2024, et il est entré en vigueur le 1er août 2024. Son principe central : plus un usage de l’IA est risqué, plus les règles sont strictes.

Les modèles d’IA à usage général, comme ceux qui animent ChatGPT, Claude ou Gemini, font l’objet d’obligations spécifiques de transparence, et d’évaluations renforcées pour les modèles les plus puissants.

Le calendrier d’application

1. 1er août 2024Entrée en vigueur

   Le règlement est en vigueur, mais ses obligations s’appliquent de façon échelonnée.

2. 2 février 2025Interdictions et formation

   Les pratiques interdites et l’obligation de former le personnel à l’IA (« maîtrise de l’IA ») deviennent applicables.

3. 2 août 2025Modèles à usage général

   Les règles de gouvernance et les obligations pour les modèles d’IA à usage général s’appliquent.

4. 2 août 2026Application générale

   Le règlement devient généralement applicable, y compris les obligations de transparence (article 50).

5. 2 décembre 2027Systèmes à haut risque

   Après un report adopté en 2026 (le « Digital Omnibus »), les règles pour les systèmes à haut risque listés à l’annexe III (biométrie, emploi, éducation…) s’appliquent à cette date au lieu d’août 2026.

6. 2 août 2028IA intégrée aux produits

   Les règles pour l’IA intégrée à des produits déjà réglementés (jouets, ascenseurs, dispositifs médicaux…) s’appliquent.

D’autres pays ont leurs propres règles. La Chine, par exemple, encadre les services d’IA générative par des mesures provisoires en vigueur depuis août 2023.

Les bons réflexes pour l’utilisateur

1. Vérifier

   Contrôlez les faits, chiffres, citations et références importantes dans une source fiable.

2. Protéger

   Ne partagez pas de données sensibles, et vérifiez les réglages de confidentialité.

3. Garder la main

   Utilisez l’IA comme assistant, pas comme décideur, surtout pour la santé, le droit ou la finance.

4. Être transparent

   Signalez l’usage d’une IA lorsque cela est attendu ou obligatoire.

5. Se former

   Comprendre le fonctionnement de l’IA aide à mieux percevoir ses limites. Voir le guide du débutant.

Questions fréquentes