Objectifs de la leçon
À l’issue de cette leçon, vous saurez énoncer et appliquer le théorème de Bayes, calculer une probabilité conditionnelle, identifier les sources de biais dans les algorithmes d’IA, et argumenter sur les enjeux éthiques majeurs liés au déploiement de systèmes d’IA dans la société.
1. Probabilités conditionnelles et théorème de Bayes
La probabilité conditionnelle P(A|B) est la probabilité que l’événement A se produise sachant que l’événement B s’est produit.
Formule : P(A|B) = P(A ∩ B) / P(B)
Le théorème de Bayes permet de « renverser » la conditionnalité :
P(A|B) = P(B|A) × P(A) / P(B)
avec :
- P(A) : probabilité a priori de A (avant d’observer B)
- P(A|B) : probabilité a posteriori de A (après avoir observé B)
- P(B|A) : vraisemblance (probabilité d’observer B sachant A)
- P(B) : probabilité marginale de B (normalisation)
2. Application : le test médical
L’application la plus illustrative est le diagnostic médical. Exemple :
- Prévalence de la maladie : P(M) = 0,01 (1 % de la population)
- Sensibilité du test : P(T+|M) = 0,95 (95 % des malades testent positif)
- Spécificité : P(T−|M̄) = 0,90 → P(T+|M̄) = 0,10 (10 % des non-malades testent positif — faux positif)
Quelle est la probabilité d’être malade sachant un test positif ? P(M|T+) = ?
Calcul :
P(T+) = P(T+|M)×P(M) + P(T+|M̄)×P(M̄) = 0,95×0,01 + 0,10×0,99 = 0,0095 + 0,099 = 0,1085
P(M|T+) = P(T+|M)×P(M) / P(T+) = (0,95 × 0,01) / 0,1085 = 0,0095 / 0,1085 ≈ 0,0876 ≈ 8,8 %
Le paradoxe du faux positif
Un test à 95 % de sensibilité et 90 % de spécificité, appliqué à une maladie rare (1 % de prévalence), ne donne qu’une probabilité d’être vraiment malade de ~8,8 % en cas de test positif ! Plus de 91 % des « positifs » sont des faux positifs. Ce résultat contre-intuitif illustre l’importance de la probabilité a priori (prévalence) dans l’interprétation d’un test — et l’utilité indispensable du théorème de Bayes.
3. L’inférence bayésienne en IA
L’inférence bayésienne est un cadre général pour mettre à jour des croyances en fonction de nouvelles données. En IA :
- Un filtre anti-spam bayésien calcule P(spam|mots du message) en se basant sur P(mots|spam) et P(spam) — la probabilité a priori qu’un message soit spam
- Le réseau bayésien est un graphe probabiliste qui représente des dépendances conditionnelles entre variables — utilisé en diagnostic, en météorologie, en bioinformatique
- En apprentissage automatique, la régression logistique et les modèles génératifs ont des interprétations bayésiennes
4. Biais algorithmiques
Les algorithmes d’IA ne sont pas neutres : ils peuvent perpétuer, amplifier ou créer des biais discriminatoires. Sources de biais :
Biais dans les données d’entraînement :
- Si les données d’entraînement reflètent des discriminations historiques, le modèle les reproduit. Exemple : un algorithme de recrutement entraîné sur des données historiques où les hommes étaient surreprésentés dans certains postes sera biaisé contre les femmes
- Un modèle de reconnaissance faciale entraîné majoritairement sur des visages caucasiens sera moins précis sur d’autres ethnies
Biais de définition : la variable à prédire (la « cible ») peut elle-même être biaisée. Un modèle de prédiction du « risque de récidive criminelle » entraîné sur des données de condamnations (biaisées par des inégalités systémiques) prédit un risque plus élevé pour certains groupes sociaux.
Biais d’amplification : même sans biais initial, les systèmes de recommandation peuvent créer des « bulles de filtre » qui renforcent les opinions existantes des utilisateurs plutôt que de les exposer à des contenus diversifiés.
5. Enjeux éthiques de l’IA
Le déploiement à grande échelle de l’IA soulève des enjeux éthiques majeurs :
- Transparence et explicabilité : les décisions d’un réseau de neurones profond sont souvent opaques (boîte noire) — difficile d’expliquer pourquoi le modèle a pris telle décision. Des règlements (RGPD européen) exigent un « droit à l’explication »
- Responsabilité : en cas de décision erronée (véhicule autonome, diagnostic médical), qui est responsable — le développeur, l’utilisateur, le fabricant ?
- Vie privée : les systèmes d’IA consomment des quantités massives de données personnelles ; la surveillance de masse (reconnaissance faciale en espace public) pose des questions fondamentales de libertés civiles
- Emploi : l’automatisation par l’IA transforme les marchés du travail — certains emplois disparaissent, d’autres se créent ; la transition peut être socialement douloureuse
- Concentration du pouvoir : les ressources nécessaires pour développer les grands modèles d’IA (données, GPU, ingénieurs) sont concentrées dans quelques grandes entreprises et États, soulevant des questions de gouvernance démocratique
- Impact environnemental : l’entraînement d’un grand modèle de langage peut émettre plusieurs centaines de tonnes de CO₂ — l’IA est une industrie énergétivore
Points clés à retenir
- Théorème de Bayes : P(A|B) = P(B|A) × P(A) / P(B)
- La probabilité a priori (prévalence) est cruciale — un test fiable sur une maladie rare donne beaucoup de faux positifs
- Biais algorithmiques : données biaisées → modèle biaisé → décisions discriminatoires
- Enjeux éthiques : transparence, responsabilité, vie privée, emploi, concentration du pouvoir, impact environnemental
Mémo express
P(A|B) = P(B|A) × P(A) / P(B) — théorème de Bayes
A priori (P(A)) × vraisemblance → a posteriori (P(A|B))
Biais = données biaisées → modèle biaisé → discrimination
Boîte noire = opacité des DNN → enjeu de transparence/explicabilité
Questions fréquentes
Comment le théorème de Bayes peut-il s’appliquer à la mise à jour de nos convictions scientifiques ?
En science, le raisonnement bayésien permet de quantifier comment une nouvelle observation modifie la probabilité d’une hypothèse. P(H) est notre croyance initiale en l’hypothèse H. P(D|H) est la probabilité d’observer les données D si H est vraie. P(H|D) est notre croyance a posteriori après avoir observé D. Si D est très probable sous H et improbable sous ¬H, P(H|D) augmente beaucoup par rapport à P(H). Cette logique est formalisée dans les statistiques bayésiennes et de plus en plus utilisée comme cadre pour évaluer les preuves scientifiques — notamment en épidémiologie, en pharmacologie (essais cliniques) et en cosmologie.
Peut-on éliminer les biais des algorithmes d’IA ?
Complètement éliminer les biais est très difficile, voire impossible, car les données reflètent le monde réel qui est lui-même biaisé. On peut cependant les réduire par plusieurs approches : (1) audit des données — identifier et corriger les déséquilibres dans les données d’entraînement ; (2) contraintes d’équité — imposer que le modèle soit équitable selon certains critères définis (égalité de traitement entre groupes) ; (3) tests continus — surveiller les performances du modèle déployé sur différents groupes ; (4) diversité des équipes de développement — des équipes plus diverses détectent mieux les biais potentiels. Aucune de ces approches n’est parfaite, et des compromis existent entre différentes définitions de l’équité.
Qu’est-ce qu’une « boîte noire » en IA et pourquoi est-ce un problème éthique ?
Un système IA « boîte noire » produit des résultats sans que ses mécanismes internes soient compréhensibles — on sait ce qu’il prédit, mais pas pourquoi. Les réseaux de neurones profonds sont typiquement des boîtes noires : avec des milliards de paramètres, il est impossible de tracer le chemin logique qui mène d’une entrée à une sortie. C’est problématique éthiquement quand l’IA prend des décisions importantes (octroi de crédit, diagnostic médical, décisions judiciaires) : comment contester une décision dont on ne comprend pas les raisons ? Le « droit à l’explication » inscrit dans le RGPD européen est une réponse réglementaire à ce problème.
L’IA va-t-elle vraiment supprimer massivement des emplois ?
C’est un sujet de débat entre économistes. Les pessimistes soulignent que l’IA, contrairement aux automatisations passées (qui remplaçaient des tâches physiques répétitives), peut maintenant accomplir des tâches cognitives non routinières — traduction, rédaction, code, diagnostic — touchant pour la première fois des professions qualifiées. Les optimistes rappellent que chaque vague technologique (charrue, machine à vapeur, ordinateur) a créé plus d’emplois qu’elle n’en a détruits sur le long terme, par effet de productivité et création de nouveaux besoins. Le consensus actuel : l’IA va fortement transformer les emplois plutôt que les supprimer massivement, mais la transition peut être douloureuse pour certains secteurs, avec une reconversion nécessaire.
Le test de Turing est-il un bon critère pour définir l’intelligence d’une machine ?
Le test de Turing (1950) propose qu’une machine soit considérée « intelligente » si un humain ne peut la distinguer d’un autre humain dans une conversation textuelle. Des critiques majeures ont été formulées. John Searle (1980) avec sa « chambre chinoise » : simuler la compréhension ne signifie pas comprendre — un système peut manipuler des symboles selon des règles sans rien « comprendre ». Les LLM actuels passent de nombreux aspects du test de Turing, mais échouent sur d’autres (cohérence à long terme, raisonnement causal, bon sens basique). La plupart des chercheurs en IA considèrent aujourd’hui le test de Turing comme un critère insuffisant et mal défini de l’intelligence — utile pédagogiquement, mais pas comme définition opérationnelle.
Pour aller plus loin
Contenu rédigé pour Terminale — Enseignement Scientifique · reussir-svt.com
Sources : Bayes (1763), « An Essay towards Solving a Problem in the Doctrine of Chances » ; Turing (1950), « Computing Machinery and Intelligence » ; Searle (1980), « Minds, Brains, and Programs » ; RGPD (2018), articles 13-14 ; Programme officiel ES Terminale (BO 2020).