Éthique et Algorithmes

Ce thème lie les concepts abstraits de mathématiques et d'informatique à des enjeux sociaux concrets, ce qui rend l'apprentissage actif particulièrement efficace. Les élèves comprennent mieux les biais algorithmiques quand ils manipulent eux-mêmes des jeux de données ou analysent des cas réels plutôt que d'écouter une explication théorique.

• Terminale
• Mathématiques : Vers l\\
• 4 activités
• 25 min–45 min

Objectifs d’apprentissage

1. Analyser comment les données d'entraînement d'un algorithme peuvent introduire des biais discriminatoires.
2. Évaluer la responsabilité éthique des mathématiciens face aux applications potentielles de leurs travaux.
3. Comparer différentes approches pour garantir l'objectivité et la laïcité dans la conception et l'enseignement des algorithmes.
4. Critiquer des exemples concrets d'algorithmes utilisés dans la société pour identifier les risques d'injustice.
5. Synthétiser les arguments pour et contre la neutralité intrinsèque des outils mathématiques.

Chaises philosophiques

⏱ 40 min·Classe entière

Debate Protocol: Un algorithme peut-il discriminer ?

Présentez un cas réel de biais algorithmique (recrutement, justice prédictive). Les élèves préparent des arguments pour et contre la neutralité de l'algorithme en s'appuyant sur des données chiffrées, puis débattent en format structuré avec temps de parole chronométré.

Préparation et détails

Un algorithme peut-il être injuste?

Conseil de facilitation: Pendant le débat 'Un algorithme peut-il discriminer ?', insistez pour que chaque groupe cite des exemples chiffrés ou des fonctions mathématiques précises pour étayer leurs arguments.

Setup: Salle divisée en deux avec une ligne centrale bien délimitée

Materials: Cartes d'affirmations ou de problématiques, Fiches de preuves/arguments (optionnel), Grille de suivi des mouvements d'opinion

• Analyser
• Évaluer
• Conscience de soi
• Conscience sociale

Cercle de recherche

⏱ 45 min·Petits groupes

Cercle de recherche: Déconstruire un scoring

En petits groupes, les élèves reçoivent un jeu de données simplifié et un algorithme de scoring. Ils identifient les variables qui introduisent un biais, proposent des corrections et comparent les résultats avant/après entre groupes.

Préparation et détails

Quelle est la responsabilité du mathématicien dans l'usage de ses découvertes?

Conseil de facilitation: Lors de l'investigation collaborative sur le scoring, fournissez aux élèves des extraits de code et des jeux de données bruts pour qu'ils observent directement comment les biais se glissent dans les calculs.

Setup: Groupes en îlots avec accès aux ressources documentaires

Materials: Corpus de documents sources, Fiche de suivi du cycle de recherche, Protocole de formulation de questions, Canevas de présentation des résultats

• Analyser
• Évaluer
• Créer
• Autogestion
• Conscience de soi

Penser-Partager-Présenter

⏱ 25 min·Binômes

Penser-Partager-Présenter: Qui est responsable ?

Chaque élève rédige une réponse à la question 'Le mathématicien est-il responsable de l'usage de ses algorithmes ?'. En binôme, ils confrontent leurs positions puis formulent une synthèse commune présentée à la classe.

Préparation et détails

Comment garantir la laïcité et l'objectivité dans l'enseignement des sciences?

Conseil de facilitation: Pour le Think-Pair-Share 'Qui est responsable ?', demandez aux élèves de classer les responsabilités entre codeur, entreprise, utilisateur et société avant de partager leurs conclusions.

Setup: Disposition de classe standard ; les élèves se tournent vers leur voisin

Materials: Consigne de discussion (projetée ou distribuée), Optionnel : fiche de prise de notes pour les binômes

• Comprendre
• Appliquer
• Analyser
• Conscience de soi
• Compétences relationnelles

Galerie marchande

⏱ 35 min·Petits groupes

Galerie marchande: Panorama des algorithmes controversés

Chaque groupe prépare une affiche sur un algorithme controversé (reconnaissance faciale, Parcoursup, crédit social). Les élèves circulent, annotent les affiches avec des questions ou objections mathématiques, puis une mise en commun identifie les schémas récurrents.

Préparation et détails

Un algorithme peut-il être injuste?

Conseil de facilitation: Pendant le Gallery Walk, guidez les élèves pour qu'ils relient chaque algorithme controversé à une fonction mathématique spécifique (fonction de coût, seuil de décision) plutôt qu'à une idée vague de 'biais'.

Setup: Espace mural dégagé ou tables disposées en périphérie de la salle

Materials: Papier grand format ou panneaux d'affichage, Feutres et marqueurs, Post-it pour les retours critiques

• Comprendre
• Appliquer
• Analyser
• Créer
• Compétences relationnelles
• Conscience sociale

Enseigner ce sujet

Approchez ce thème par l'enquête progressive : commencez par faire observer aux élèves des exemples de biais concrets avant d'introduire les concepts théoriques. Évitez de présenter les algorithmes comme des boîtes noires magiques : montrez systématiquement leur fonctionnement mathématique (fonctions d'optimisation, seuils) et leur dépendance aux choix humains. Privilégiez les études de cas où les élèves doivent recalculer ou modifier un algorithme pour en voir les effets, ce qui renforce la compréhension des mécanismes.

À quoi s’attendre

Les élèves démontrent une compréhension fine des sources de biais en identifiant des variables problématiques dans des algorithmes concrets. Ils justifient leurs choix avec des arguments mathématiques et éthiques, et proposent des améliorations précises. Leurs débats montrent qu'ils distinguent corrélation et causalité dans les décisions algorithmiques.

Attention à ces idées reçues

Idée reçue courante

During 'Déconstruire un scoring', certains élèves penseront qu'un algorithme est objectif parce qu'il utilise des données chiffrées.

Ce qu'il faut enseigner à la place

Utilisez les jeux de données fournis pour montrer que deux algorithmes similaires sur les mêmes données peuvent donner des résultats opposés si l'on change la fonction de coût (ex : maximiser la précision vs réduire les faux négatifs). Faites recalculer manuellement un score par deux groupes avec des fonctions différentes pour illustrer.

Idée reçue courante

During 'Gallery Walk', des élèves attribueront les biais uniquement aux données d'entraînement.

Ce qu'il faut enseigner à la place

Pendant la visite des panneaux, demandez aux élèves de repérer les choix de modélisation : seuils de décision (ex : score > 500), variables proxy (ex : code postal comme indicateur de niveau social), ou fonctions d'optimisation. Faites-les comparer deux algorithmes sur les mêmes données mais avec des fonctions de coût différentes.

Idée reçue courante

During 'Un algorithme peut-il discriminer ?', certains élèves croiront qu'un algorithme 'comprend' les données.

Ce qu'il faut enseigner à la place

Dans le débat, opposez la performance statistique à la compréhension sémantique : montrez que l'algorithme optimise une fonction (ex : minimiser l'erreur quadratique) sans interprétation des résultats. Utilisez l'exemple d'un algorithme qui prédit la réussite scolaire en utilisant le poids à la naissance comme variable, et faites discuter la plausibilité causale.

Idées d'évaluation

Question de discussion

After 'Déconstruire un scoring', présentez aux élèves un extrait de code et un jeu de données simplifié pour un algorithme de sélection de bourses. Demandez-leur en petits groupes d'identifier une variable problématique et de modifier le code pour la remplacer par une alternative plus équitable. Évaluez leur capacité à justifier leurs choix avec des arguments mathématiques et éthiques.

Billet de sortie

During 'Think-Pair-Share' 'Qui est responsable ?', demandez aux élèves de remplir un ticket de sortie où ils classent les responsabilités (codeur, entreprise, utilisateur, société) pour l'exemple discuté. Évaluez leur compréhension des rôles distincts dans la création et l'utilisation des algorithmes.

Vérification rapide

After 'Gallery Walk', lancez un quiz oral ou interactif où chaque élève doit donner un exemple d'algorithme controversé et expliquer brièvement son biais mathématique (ex : 'L'algorithme de recrutement d'Amazon utilisait le mot 'femme' comme variable proxy pour écarter des CV'). Recueillez les réponses pour vérifier la compréhension des biais structurels.

Extensions et étayage

• Demandez aux élèves rapides d'analyser un algorithme de recommandation de plateforme (type Netflix) en identifiant les variables proxy cachées et en proposant une version rééquilibrée.
• Pour les élèves en difficulté, fournissez des algorithmes simplifiés avec des jeux de données déjà nettoyés pour qu'ils se concentrent sur l'analyse des biais structurels.
• Proposez une exploration approfondie d'un algorithme controversé comme COMPAS (justice prédictive) en étudiant ses performances selon différents groupes démographiques.

Vocabulaire clé

Biais algorithmique	Tendance systématique d'un algorithme à produire des résultats inéquitables ou discriminatoires, souvent héritée des données utilisées pour son entraînement.
Neutralité mathématique	Concept discutant si les concepts et outils mathématiques sont intrinsèquement objectifs, indépendamment de leur application ou de l'intention de leur créateur.
Équité algorithmique	Principe visant à assurer que les algorithmes traitent tous les individus et groupes de manière juste, sans discrimination, en tenant compte des impacts sociaux.
Responsabilité du scientifique	Obligation morale et éthique des chercheurs et mathématiciens de considérer les conséquences sociales, éthiques et environnementales de leurs découvertes et de leurs applications.
Laïcité	Principe de séparation des institutions publiques et des organisations religieuses, garantissant la neutralité de l'État et l'égalité de tous les citoyens, indépendamment de leurs croyances.