Mathématiques · Terminale · Calcul Intégral · 3e Trimestre

Éthique et Algorithmes

Les élèves mènent une réflexion sur la neutralité des mathématiques et de l'intelligence artificielle.

• Programmes Officiels
• EDNAT: MAT.TLE.99
• EDNAT: MAT.TLE.100

À propos de ce thème

La question de la neutralité des algorithmes est devenue centrale dans le programme de Terminale. Ce thème permet aux élèves de relier leurs compétences en programmation et en statistiques à des enjeux concrets : tri de candidatures par IA, scoring bancaire, recommandations de contenus. Les biais algorithmiques se comprennent mathématiquement par l'analyse des données d'entraînement et des fonctions d'optimisation choisies.

Ce sujet touche aussi à la responsabilité du scientifique. Les élèves examinent comment un choix de variable ou de pondération peut reproduire des discriminations existantes. Le lien avec le programme d'EMC (laïcité, égalité) renforce la dimension citoyenne de l'enseignement mathématique.

Les approches actives sont particulièrement adaptées ici : les débats structurés et les études de cas permettent aux élèves de confronter leurs intuitions sur la 'neutralité' des chiffres, ce qui ancre la réflexion bien plus solidement qu'un cours magistral.

Questions clés

1. Un algorithme peut-il être injuste?
2. Quelle est la responsabilité du mathématicien dans l'usage de ses découvertes?
3. Comment garantir la laïcité et l'objectivité dans l'enseignement des sciences?

Objectifs d'apprentissage

• Analyser comment les données d'entraînement d'un algorithme peuvent introduire des biais discriminatoires.
• Évaluer la responsabilité éthique des mathématiciens face aux applications potentielles de leurs travaux.
• Comparer différentes approches pour garantir l'objectivité et la laïcité dans la conception et l'enseignement des algorithmes.
• Critiquer des exemples concrets d'algorithmes utilisés dans la société pour identifier les risques d'injustice.
• Synthétiser les arguments pour et contre la neutralité intrinsèque des outils mathématiques.

Avant de commencer

Statistiques descriptives et inférentielles

Pourquoi : La compréhension des moyennes, médianes, écarts types et tests d'hypothèses est nécessaire pour analyser les données et identifier les biais.

Introduction à la programmation et aux structures de données

Pourquoi : Les élèves doivent avoir une base pour comprendre comment les algorithmes sont construits et comment les données y sont traitées.

Probabilités conditionnelles

Pourquoi : Ce concept est fondamental pour comprendre comment les algorithmes prennent des décisions basées sur des événements successifs ou des corrélations dans les données.

Vocabulaire clé

Biais algorithmique	Tendance systématique d'un algorithme à produire des résultats inéquitables ou discriminatoires, souvent héritée des données utilisées pour son entraînement.
Neutralité mathématique	Concept discutant si les concepts et outils mathématiques sont intrinsèquement objectifs, indépendamment de leur application ou de l'intention de leur créateur.
Équité algorithmique	Principe visant à assurer que les algorithmes traitent tous les individus et groupes de manière juste, sans discrimination, en tenant compte des impacts sociaux.
Responsabilité du scientifique	Obligation morale et éthique des chercheurs et mathématiciens de considérer les conséquences sociales, éthiques et environnementales de leurs découvertes et de leurs applications.
Laïcité	Principe de séparation des institutions publiques et des organisations religieuses, garantissant la neutralité de l'État et l'égalité de tous les citoyens, indépendamment de leurs croyances.

Attention à ces idées reçues

Idée reçue courante

Un algorithme est objectif parce qu'il repose sur des mathématiques.

Ce qu'il faut enseigner à la place

Les mathématiques sont objectives, mais le choix des données, des variables et de la fonction à optimiser est humain. Les études de cas en groupe permettent de montrer concrètement comment deux algorithmes différents sur les mêmes données produisent des résultats opposés.

Idée reçue courante

Les biais algorithmiques viennent uniquement des données biaisées.

Ce qu'il faut enseigner à la place

Les biais proviennent aussi de la modélisation elle-même : choix de la fonction de coût, seuils de décision, variables proxy. L'analyse collaborative d'un algorithme de scoring aide les élèves à repérer ces sources de biais structurels.

Idée reçue courante

L'intelligence artificielle 'comprend' les données qu'elle traite.

Ce qu'il faut enseigner à la place

Un algorithme optimise une fonction mathématique sans compréhension sémantique. Les débats en classe aident à distinguer corrélation statistique et causalité, et à comprendre pourquoi un modèle performant peut produire des décisions absurdes.

Idées d'apprentissage actif

Debate Protocol: Un algorithme peut-il discriminer ?

Présentez un cas réel de biais algorithmique (recrutement, justice prédictive). Les élèves préparent des arguments pour et contre la neutralité de l'algorithme en s'appuyant sur des données chiffrées, puis débattent en format structuré avec temps de parole chronométré.

40 min·Classe entière

Cercle de recherche: Déconstruire un scoring

En petits groupes, les élèves reçoivent un jeu de données simplifié et un algorithme de scoring. Ils identifient les variables qui introduisent un biais, proposent des corrections et comparent les résultats avant/après entre groupes.

45 min·Petits groupes

Penser-Partager-Présenter: Qui est responsable ?

Chaque élève rédige une réponse à la question 'Le mathématicien est-il responsable de l'usage de ses algorithmes ?'. En binôme, ils confrontent leurs positions puis formulent une synthèse commune présentée à la classe.

25 min·Binômes

Galerie marchande: Panorama des algorithmes controversés

Chaque groupe prépare une affiche sur un algorithme controversé (reconnaissance faciale, Parcoursup, crédit social). Les élèves circulent, annotent les affiches avec des questions ou objections mathématiques, puis une mise en commun identifie les schémas récurrents.

35 min·Petits groupes

Liens avec le monde réel

• Les plateformes de recrutement en ligne utilisent des algorithmes pour trier les candidatures. Si les données d'entraînement reflètent des inégalités historiques, l'algorithme peut systématiquement désavantager certains groupes, comme observé dans des cas de discrimination à l'embauche.
• Les systèmes de notation de crédit, utilisés par les banques pour évaluer la solvabilité, peuvent intégrer des variables corrélées à des facteurs socio-économiques, menant potentiellement à des décisions injustes pour les populations défavorisées.
• Les algorithmes de recommandation sur les réseaux sociaux ou les plateformes de streaming peuvent créer des 'bulles de filtres' en ne présentant que du contenu similaire à ce que l'utilisateur a déjà consulté, limitant ainsi l'exposition à des perspectives diverses et potentiellement biaisant la perception de l'information.

Idées d'évaluation

Question de discussion

Présentez aux élèves le scénario suivant : 'Un algorithme est conçu pour attribuer des bourses d'études. Il utilise comme critère principal la performance académique passée. Discutez en petits groupes : Cet algorithme est-il juste ? Quels pourraient être les biais ? Comment pourrait-on le modifier pour le rendre plus équitable ?' Demandez à chaque groupe de présenter ses conclusions.

Billet de sortie

Demandez aux élèves d'écrire sur un papier : 'Citez une situation où un algorithme pourrait être injuste et expliquez brièvement pourquoi. Ensuite, proposez une question qu'un mathématicien devrait se poser avant de publier un nouvel algorithme potentiellement impactant.'

Vérification rapide

Après une courte présentation sur les biais de données, posez la question : 'Donnez un exemple concret de donnée qui, si elle est utilisée pour entraîner un algorithme, pourrait mener à une décision discriminatoire.' Recueillez les réponses oralement ou via un outil interactif.

Questions fréquentes

Comment expliquer les biais algorithmiques en cours de maths ?

Partez d'un exemple concret : un algorithme de recrutement entraîné sur des données historiques reproduit les discriminations passées. Montrez mathématiquement comment la surreprésentation d'un groupe dans les données d'entraînement biaise les prédictions. Les élèves calculent les probabilités conditionnelles pour quantifier le biais.

Quel lien entre éthique des algorithmes et programme de Terminale ?

Le programme officiel inclut explicitement la réflexion sur les usages des mathématiques. Ce thème mobilise les probabilités conditionnelles, les statistiques descriptives et l'algorithmique. Il prépare aussi au Grand Oral en offrant des sujets transversaux maths-philosophie-EMC.

Quels exemples d'algorithmes biaisés utiliser en classe ?

COMPAS (justice prédictive aux États-Unis), Amazon Recruiting (tri de CV), Parcoursup (affectation post-bac). Ces cas sont documentés et permettent une analyse mathématique accessible en Terminale, avec des données simplifiées disponibles en ligne.

Comment utiliser l'apprentissage actif pour enseigner l'éthique des algorithmes ?

Les débats structurés obligent les élèves à formuler des arguments mathématiques, pas seulement des opinions. Les études de cas en groupe permettent de manipuler concrètement les données et de voir l'effet des choix de modélisation. Cette approche ancre la réflexion éthique dans la pratique mathématique.