IA et éthique : Questions et débats

Les élèves de 5e ont besoin d'expérimenter concrètement les enjeux éthiques pour passer d'une vision abstraite de l'IA à une compréhension active des dilemmes qu'elle pose. Ces activités les placent en position de questionner, d'analyser et de débattre, transformant des concepts complexes en expériences tangibles et mémorables.

• 5ème
• Exploration Numérique et Domotique : Le Monde Connecté
• 4 activités
• 20 min–35 min

Objectifs d’apprentissage

1. Identifier les sources potentielles de biais dans les ensembles de données utilisés pour entraîner des IA.
2. Analyser les dilemmes éthiques soulevés par l'utilisation d'IA dans des contextes sensibles comme la justice ou le recrutement.
3. Évaluer l'impact des algorithmes d'IA sur les décisions humaines et la notion de responsabilité.
4. Critiquer la nécessité de la transparence et de l'explicabilité pour les systèmes d'IA critiques.
5. Proposer des pistes pour atténuer les biais algorithmiques et promouvoir une IA éthique.

Chaises philosophiques

⏱ 25 min·Classe entière

Débat mouvant : L'IA doit-elle décider à notre place ?

L'enseignant lit une affirmation clivante (ex : 'Un algorithme devrait décider qui obtient un prêt bancaire'). Les élèves se placent physiquement d'un côté ou l'autre de la salle selon leur position. Après des échanges d'arguments, ils peuvent changer de camp. On conclut par une synthèse des arguments les plus convaincants.

Préparation et détails

Comment les biais humains peuvent-ils se retrouver dans les algorithmes d'IA ?

Conseil de facilitation: Pendant le débat mouvant, placez physiquement les élèves d'un côté ou de l'autre de la salle pour matérialiser leur position et faciliter les échanges.

Setup: Salle divisée en deux avec une ligne centrale bien délimitée

Materials: Cartes d'affirmations ou de problématiques, Fiches de preuves/arguments (optionnel), Grille de suivi des mouvements d'opinion

• Analyser
• Évaluer
• Conscience de soi
• Conscience sociale

Étude de cas

⏱ 30 min·Petits groupes

Étude de cas: Biais dans la reconnaissance faciale

Chaque groupe reçoit un dossier documentaire sur un cas réel de biais (ex : taux d'erreur plus élevé sur certaines populations). Les élèves identifient l'origine du biais (données d'entraînement), ses conséquences, et proposent des pistes de correction. Restitution croisée entre groupes.

Préparation et détails

Évaluez les enjeux éthiques liés à l'utilisation de l'IA dans la prise de décision.

Conseil de facilitation: Pour l'étude de cas sur la reconnaissance faciale, affichez les résultats d'audit des biais sous forme de tableau comparatif pour rendre les discriminations visibles.

Setup: Groupes de travail en îlots avec dossiers documentaires

Materials: Dossier d'étude de cas (3 à 5 pages), Grille d'analyse méthodologique, Support de présentation des conclusions

• Analyser
• Évaluer
• Créer
• Prise de décision
• Autogestion

Chaises philosophiques

⏱ 35 min·Petits groupes

Atelier d'écriture : Rédiger une charte éthique de l'IA

Par groupes de 4, les élèves rédigent une charte de 5 à 8 principes pour une utilisation responsable de l'IA dans leur collège. Chaque groupe présente sa charte. La classe vote pour les principes les plus pertinents et compose une charte collective.

Préparation et détails

Justifiez l'importance de la transparence et de l'explicabilité des systèmes d'IA.

Conseil de facilitation: Lors de l'atelier d'écriture de charte, imposez un temps strict de 5 minutes par section pour éviter que les élèves ne s'enlisent dans des détails techniques au détriment des principes éthiques.

Setup: Salle divisée en deux avec une ligne centrale bien délimitée

Materials: Cartes d'affirmations ou de problématiques, Fiches de preuves/arguments (optionnel), Grille de suivi des mouvements d'opinion

• Analyser
• Évaluer
• Conscience de soi
• Conscience sociale

Penser-Partager-Présenter

⏱ 20 min·Binômes

Penser-Partager-Présenter: Qui est responsable quand l'IA se trompe ?

Chaque élève réfléchit individuellement à un scénario (voiture autonome qui cause un accident). En binôme, ils comparent leurs réponses sur la responsabilité (constructeur, programmeur, utilisateur, personne). La classe partage les différentes positions et identifie les arguments récurrents.

Préparation et détails

Comment les biais humains peuvent-ils se retrouver dans les algorithmes d'IA ?

Conseil de facilitation: Pour le Think-Pair-Share, donnez à chaque élève un rôle précis (expert technique, utilisateur, victime) pour varier les points de vue.

Setup: Disposition de classe standard ; les élèves se tournent vers leur voisin

Materials: Consigne de discussion (projetée ou distribuée), Optionnel : fiche de prise de notes pour les binômes

• Comprendre
• Appliquer
• Analyser
• Conscience de soi
• Compétences relationnelles

Enseigner ce sujet

Commencez toujours par des exemples concrets tirés de leur quotidien : réseaux sociaux, jeux vidéo, moteurs de recherche. Évitez d'entrer dans des détails techniques trop tôt, cela brouille la compréhension des enjeux éthiques. Privilégiez les discussions en petits groupes pour désamorcer les blocages liés à la complexité du sujet. Les recherches montrent que les élèves retiennent mieux quand ils peuvent projeter les dilemmes sur leur propre vie.

À quoi s’attendre

Les élèves identifient au moins deux biais algorithmiques courants, formulent une critique argumentée d'un système d'IA et proposent des pistes concrètes pour améliorer son éthique. Ils sont capables d'expliquer pourquoi la neutralité algorithmique est une illusion et de défendre leur position avec des exemples précis.

Attention à ces idées reçues

Idée reçue courante

During l'activité 'Débat mouvant : L'IA doit-elle décider à notre place ?', écoutez pour repérer les affirmations comme 'Les algorithmes sont objectifs par nature'.

Ce qu'il faut enseigner à la place

Interrompez le débat pour demander : 'Si un algorithme de recrutement exclut systématiquement les candidats d'une certaine origine géographique, est-ce vraiment de sa faute ?' Puis référez-vous aux résultats de l'étude de cas sur la reconnaissance faciale pour montrer que les biais viennent des données, pas de la machine.

Idée reçue courante

During l'activité 'Étude de cas : Biais dans la reconnaissance faciale', repérez les réactions comme 'C'est aux entreprises de régler ça'.

Ce qu'il faut enseigner à la place

Demandez aux élèves de relire les conditions d'utilisation des services qu'ils utilisent (ex : Instagram, Snapchat) et de noter les clauses qui leur donnent un pouvoir de contrôle sur leurs données. Soulignez que chaque partage de photo est un choix éthique, même s'ils ne le voient pas ainsi.

Idée reçue courante

During l'atelier 'Rédiger une charte éthique de l'IA', soyez attentif aux propositions qui visent à 'interdire tous les biais'.

Ce qu'il faut enseigner à la place

Arrêtez l'atelier pour expliquer que tous les systèmes comportent des biais, même les plus aboutis. Utilisez l'exemple d'un système de recommandation de musique qui favorise les artistes masculins simplement parce qu'ils sont mieux représentés dans les données d'entraînement. Guidez-les vers des solutions pragmatiques comme l'audit régulier ou la diversification des sources de données.

Idées d'évaluation

Question de discussion

Après l'activité 'Think-Pair-Share : Qui est responsable quand l'IA se trompe ?', présentez aux élèves le scénario d'une IA médicale qui diagnostique mal une maladie. Demandez : 'Qui est responsable si le médecin suit aveuglément le diagnostic ? Qui si le patient ignore les alertes de l'IA ?' Évaluez la pertinence de leurs arguments en les reliant aux rôles discutés lors de l'activité.

Billet de sortie

Pendant l'atelier 'Rédiger une charte éthique de l'IA', demandez aux élèves d'écrire sur un post-it une règle de leur charte et une question qu'ils se posent encore sur l'éthique des algorithmes. Collectez ces tickets pour identifier les points de blocage persistants dans leur compréhension.

Vérification rapide

Pendant le débat mouvant, projetez une liste d'affirmations comme 'Une IA peut être totalement neutre si ses données sont complètes'. Demandez aux élèves de voter à main levée pour VRAI ou FAUX, puis de justifier leur choix en deux phrases maximum. Notez les élèves qui répètent des idées reçues pour un retour individuel.

Extensions et étayage

• Pour les élèves rapides : Demandez-leur d'imaginer un algorithme éthique pour une école, en listant les critères de neutralité et les garde-fous contre les biais.
• Pour les élèves en difficulté : Fournissez un tableau de critères simples (ex : 'Quelles données sont utilisées ?', 'Qui décide des règles ?') pour structurer leur réflexion.
• Pour aller plus loin : Invitez un intervenant extérieur (ex : un juriste spécialisé en droit numérique) pour discuter des cadres légaux encadrant l'IA après les activités.

Vocabulaire clé

Biais algorithmique	Tendance systématique d'un algorithme d'IA à produire des résultats inéquitables ou discriminatoires, souvent héritée des données d'entraînement ou de la conception.
Explicabilité (XAI)	Capacité d'un système d'IA à expliquer ses décisions ou ses prédictions de manière compréhensible pour un humain, permettant de vérifier sa logique.
Responsabilité	Question de savoir qui est tenu pour responsable en cas de défaillance ou de préjudice causé par un système d'IA : le développeur, l'utilisateur, le propriétaire ?
Transparence	Principe selon lequel le fonctionnement interne et les processus décisionnels d'un système d'IA devraient être accessibles et compréhensibles, dans la mesure du possible.
Éthique de l'IA	Ensemble des principes moraux et des valeurs qui guident le développement, le déploiement et l'utilisation des systèmes d'intelligence artificielle.