Apprendre l'IA en jouant

Comment fabrique-t-on une IA ?

Données, GPU, coûts d'entraînement, évaluation et déploiement.

Sur cette page

1. Le cycle de vie d'un modèle

Un projet industriel, pas une programmation

Créer un assistant comme ChatGPT n'est pas « programmer une intelligence » — c'est un projet en plusieurs étapes qui mobilise des centaines de personnes : collecte des données → pré-entraînement → réglage fin → alignement → évaluation → déploiement.

  1. Remets les 6 étapes de fabrication d'un assistant IA dans l'ordre

2. Rassembler et préparer les données

Un corpus massif

GPT-3 (2020) a été entraîné sur environ 300 milliards de tokens, tirés d'un corpus d'environ 500 milliards ; plus de la moitié provenait de Common Crawl (une copie publique d'une grande partie du web).

Les données brutes ne suffisent pas

Il faut filtrer les contenus de mauvaise qualité et les doublons, retirer les informations personnelles, équilibrer les sources et les langues, et respecter le droit — l'usage d'œuvres protégées fait l'objet de procès (New York Times contre OpenAI/Microsoft, décembre 2023).

  1. Sur environ combien de tokens GPT-3 (2020) a-t-il été entraîné ?

  2. La qualité des données d'entraînement compte autant que leur quantité.

3. Le pré-entraînement : GPU et coûts

Des dizaines de milliers de GPU

Le pré-entraînement repose sur des GPU, capables de milliers de calculs en parallèle. AlexNet (2012) tenait sur 2 cartes graphiques grand public ; un grand modèle actuel mobilise des dizaines de milliers de GPU pendant des semaines ou des mois.

Ordres de grandeur publiés (estimations)

ModèleCoût de calcul estimé
GPT-2 (2019)~50 000 $
PaLM (2022)~8 millions $
DeepSeek V3 (janvier 2025)~5,6 millions $ (revendiqué)
  1. Classe ces modèles du coût de calcul estimé le plus bas au plus haut

  2. Que montrent les « lois d'échelle » (scaling laws) publiées par OpenAI (2020) puis DeepMind avec Chinchilla (2022) ?

4. Réglage fin, alignement et évaluation

Rendre le modèle utile et sûr

Après le pré-entraînement, le modèle sait « continuer un texte », pas répondre comme un assistant. Le réglage fin supervisé l'entraîne sur des exemples de bonnes conversations ; l'alignement (RLHF) l'ajuste selon les préférences d'évaluateurs humains.

Benchmarks et red teaming

Avant publication, les équipes testent le modèle avec des benchmarks (batteries de tests standardisés) et du red teaming (des experts essaient de le piéger). Ces scores donnent une idée, pas une garantie de fiabilité en usage réel.

  1. Classe chaque action selon l'étape à laquelle elle appartient

  2. Un bon score à un benchmark garantit que le modèle sera fiable dans n'importe quel usage réel.

5. Déploiement, énergie et qui fabrique l'IA

Ouvert ou fermé

Une fois déployé via un site, une appli ou une API, certains éditeurs publient les « poids » de leurs modèles (modèles ouverts, comme Mistral AI ou DeepSeek), d'autres gardent leurs modèles fermés.

Le coût énergétique

Selon l'AIE, les centres de données ont consommé environ 415 TWh en 2024 (≈1,5% de l'électricité mondiale), avec une projection à environ 945 TWh en 2030.

Qui fabrique les IA ?

Quelques acteurs dominent : OpenAI (fondée en décembre 2015), Anthropic (2021), Mistral AI (France, 2023), DeepSeek (Chine, 2023), entre autres. Selon l'AI Index 2026 de Stanford, plus de 90% des modèles notables proviennent de l'industrie plutôt que du monde académique.

  1. Selon l'AI Index 2026 de Stanford, d'où proviennent plus de 90% des modèles d'IA notables ?

  2. Un modèle « à poids ouverts » (open weights) peut être téléchargé et exécuté par n'importe qui disposant du matériel nécessaire.

Défi boss : quelle étape de fabrication ?

Classe chaque action selon l'étape de fabrication d'une IA à laquelle elle appartient.