Technologie · Seconde

Idées d’apprentissage actif

Éthique des données et biais algorithmiques

Ce sujet complexe demande aux élèves de passer du discours abstrait à une réflexion concrète et critique. Les activités proposées leur permettent de manipuler eux-mêmes les données et les algorithmes, ce qui rend tangibles des concepts souvent perçus comme abstraits ou lointains.

• Programmes Officiels
• MEN: Lycee - Impacts sociaux
• MEN: Lycee - Impacts des algorithmes

• 25–50 min
• Binômes → Classe entière
• 4 activités

Activité 01

• Débat formel
• 50 min · Petits groupes

Débat formel: Qui est responsable quand l'algorithme se trompe ?

Les élèves sont répartis en groupes représentant différents acteurs (développeurs, utilisateurs, régulateurs, victimes). Chaque groupe prépare ses arguments sur un cas concret (erreur d'un algorithme de recrutement ou de justice prédictive). Le débat est structuré avec un temps de parole et un médiateur.

Comment les biais peuvent-ils s'introduire dans un algorithme, et quelles en sont les conséquences pour les personnes affectées ?

Conseil de facilitation

Lors de la simulation de construction d'un algorithme biaisé, insistez sur le fait que chaque choix de variable ou de seuil est un acte pédagogique plutôt qu'une contrainte technique.

À observer

Présentez aux élèves un scénario fictif : un algorithme utilisé par une mairie pour attribuer des places en crèche semble favoriser les familles résidant dans certains quartiers. Demandez-leur : 'Quelles questions devriez-vous poser pour comprendre si cet algorithme est biaisé ? Qui devrait être responsable de vérifier son équité ?'

• Analyser
• Évaluer
• Créer
• Autogestion
• Prise de décision

Activité 02

• Jeu de simulation
• 45 min · Petits groupes

Jeu de simulation: Construire un algorithme biaisé malgré soi

Les élèves reçoivent un jeu de données historiques (par exemple, admissions universitaires) et doivent concevoir un algorithme de sélection. Ils découvrent ensuite que les données historiques contiennent des biais structurels qui se reproduisent dans leur algorithme.

Dans quelle mesure les systèmes algorithmiques reproduisent-ils, voire amplifient-ils, les inégalités sociales existantes ?

Conseil de facilitation

Pour le débat structuré, modélisez les rôles des parties prenantes (développeurs, utilisateurs, régulateurs) à l'aide de cartes distribuées avant l'activité afin d'éviter les généralités.

À observer

Fournissez aux élèves une courte description d'un algorithme (par exemple, un algorithme de recommandation de films). Demandez-leur d'identifier deux types de biais potentiels qui pourraient s'y introduire (ex: biais de popularité, biais de confirmation) et d'expliquer brièvement pourquoi.

• Appliquer
• Analyser
• Évaluer
• Créer
• Conscience sociale
• Prise de décision

Activité 03

• Penser-Partager-Présenter
• 25 min · Binômes

Penser-Partager-Présenter: RGPD et collecte de données

À partir d'un scénario (une application scolaire qui collecte les résultats, la géolocalisation et les habitudes de connexion), chaque élève identifie les données problématiques. En binôme, ils confrontent leurs analyses puis proposent à la classe des règles de collecte éthique.

Qui est responsable de garantir l'équité dans les systèmes automatisés de traitement des données ?

Conseil de facilitation

Dans l'étude de cas Parcoursup, fournissez aux élèves des extraits réels de documentation (sans données personnelles) pour ancrer leur analyse dans le contexte français qu'ils connaissent.

À observer

Demandez aux élèves d'écrire sur un post-it une situation concrète où un algorithme pourrait avoir un impact négatif sur une personne. Ils doivent ensuite proposer une action simple qu'un développeur pourrait entreprendre pour tenter de réduire le biais dans ce cas précis.

• Comprendre
• Appliquer
• Analyser
• Conscience de soi
• Compétences relationnelles

Activité 04

• Étude de cas
• 40 min · Individuel

Étude de cas: Parcoursup sous la loupe

Les élèves analysent le fonctionnement déclaré de Parcoursup (critères, pondérations, quotas boursiers) et identifient les points de tension éthiques. Ils rédigent individuellement une note argumentée proposant une amélioration concrète de l'algorithme.

Comment les biais peuvent-ils s'introduire dans un algorithme, et quelles en sont les conséquences pour les personnes affectées ?

Conseil de facilitation

Pour l'atelier Think-Pair-Share sur le RGPD, utilisez un exemple de formulaire en ligne que les élèves peuvent analyser immédiatement pour identifier les collectes de données implicites.

À observer

Présentez aux élèves un scénario fictif : un algorithme utilisé par une mairie pour attribuer des places en crèche semble favoriser les familles résidant dans certains quartiers. Demandez-leur : 'Quelles questions devriez-vous poser pour comprendre si cet algorithme est biaisé ? Qui devrait être responsable de vérifier son équité ?'

• Analyser
• Évaluer
• Créer
• Prise de décision
• Autogestion

Quelques notes pour enseigner cette unité

Les enseignants expérimentés savent que les élèves ont plus de facilité à critiquer un algorithme après l'avoir conçu eux-mêmes. Cette approche par l'erreur intentionnelle crée un terrain fertile pour la critique constructive. Il est crucial de ne pas présenter ces sujets comme une liste de problèmes à dénoncer, mais comme un champ d'investigation où chaque acteur a un rôle à jouer. Les recherches en sciences de l'éducation montrent que les débats éthiques gagnent en profondeur quand ils s'appuient sur des cas concrets.

Des élèves engagés dans ces activités développeront une vigilance active face aux biais algorithmiques. Ils sauront identifier des situations concrètes où la neutralité algorithmique est mise en question et proposeront des pistes pour réduire ces biais dans des contextes variés.

---

Attention à ces idées reçues

• During la simulation Construire un algorithme biaisé malgré soi, les élèves pourraient penser : 'Un algorithme est objectif par nature puisqu'il s'appuie sur des mathématiques.'

  Pendant cette simulation, demandez aux élèves de noter chaque choix qu'ils font (variables sélectionnées, seuils choisis, données ignorées) et de discuter en groupe comment ces choix reflètent des valeurs humaines plutôt que des mathématiques neutres.

• During l'étude de cas Parcoursup sous la loupe, certaines personnes pensent : 'Les biais algorithmiques ne concernent que les grandes entreprises américaines.'

  Dans cette étude de cas, fournissez aux élèves des rapports publics sur les biais dans Parcoursup (ex: inégalités territoriales, effets des lycées d'origine) pour leur montrer que ces questions se posent aussi dans des systèmes français bien connus d'eux.

• During la simulation Construire un algorithme biaisé malgré soi, les élèves pourraient croire : 'Il suffit de supprimer les variables sensibles (genre, origine) pour éliminer les biais.'

  Lors de cette simulation, demandez aux élèves de tester leur algorithme avec et sans ces variables, puis de découvrir comment d'autres variables (ex: code postal, prénom) peuvent servir de proxys et reproduire les mêmes discriminations.

---

Méthodes utilisées dans ce dossier

• Débat formel
• Jeu de simulation
• Penser-Partager-Présenter
• Étude de cas