Éthique et Intelligence Artificielle

L'éthique de l'IA interroge des concepts abstraits comme la responsabilité ou l'autonomie algorithmique. Faire vivre ces questions par des activités concrètes permet aux élèves de s'approprier des notions complexes sans les réduire à des définitions théoriques. Les mises en situation rendent tangibles les enjeux juridiques et philosophiques, essentiels pour former des citoyens éclairés.

• Terminale
• Démocratie et Engagement : Les Défis de la Cité
• 4 activités
• 30 min–50 min

Objectifs d’apprentissage

1. Analyser les implications éthiques de l'autonomie décisionnelle des systèmes d'IA dans des contextes critiques (ex: diagnostic médical, conduite autonome).
2. Évaluer la manière dont les biais algorithmiques peuvent perpétuer ou amplifier les discriminations sociales existantes.
3. Concevoir un cadre de principes éthiques pour le développement et le déploiement responsable de l'IA, en considérant les notions de transparence et de responsabilité.
4. Synthétiser les arguments pour et contre l'utilisation de l'IA dans des domaines sensibles tels que la justice pénale ou le recrutement.

Panel d'experts

⏱ 35 min·Classe entière

Débat mouvant : L'IA peut-elle être responsable de ses décisions ?

Les élèves se positionnent sur une ligne allant de « totalement d'accord » à « totalement en désaccord ». Plusieurs affirmations successives (responsabilité du concepteur, du déployeur, de l'utilisateur) amènent les élèves à nuancer leur position et à argumenter en citant des exemples concrets. La discussion collective dresse la cartographie des acteurs responsables.

Préparation et détails

Analysez les défis éthiques posés par l'autonomie croissante de l'intelligence artificielle.

Conseil de facilitation: Pour le débat mouvant, placez physiquement les élèves dans l'espace selon leur position (pour/contre) pour visualiser les clivages et relancez les échanges avec des exemples précis comme les voitures autonomes ou les algorithmes de recrutement.

Setup: Table de conférence à l'avant, disposition des élèves en auditoire

Materials: Dossiers documentaires de recherche, Cavalier de table avec les noms des experts, Fiche de préparation des questions pour le public

• Comprendre
• Appliquer
• Analyser
• Évaluer
• Autogestion
• Compétences relationnelles

Jeu de rôle

⏱ 50 min·Petits groupes

Jeu de rôle: Comité d'éthique de l'IA

Par groupes de cinq, les élèves incarnent des parties prenantes (ingénieur, juriste, sociologue, représentant d'association, décideur public) face à un cas fictif de biais dans un algorithme de sélection scolaire. Ils rédigent ensemble une recommandation éthique en trois points, qu'ils présentent à la classe.

Préparation et détails

Expliquez les risques de biais et de discrimination dans les algorithmes d'IA.

Conseil de facilitation: Lors du jeu de rôles, fournissez aux élèves des fiches rôles détaillées avec des contraintes juridiques et des conflits d'intérêts pour simuler un vrai comité d'éthique plutôt qu'une simple discussion informelle.

Setup: Espace ouvert ou bureaux réorganisés pour la mise en scène

Materials: Fiches de personnage (contexte et objectifs), Fiche de mise en situation (scénario)

• Appliquer
• Analyser
• Évaluer
• Conscience sociale
• Conscience de soi

Penser-Partager-Présenter

⏱ 30 min·Binômes

Penser-Partager-Présenter: Identifier les biais dans un jeu de données

À partir d'un extrait simplifié de données de recrutement, les élèves repèrent seuls les variables potentiellement discriminantes. En binômes, ils comparent leurs observations, puis la classe construit collectivement une grille d'analyse critique applicable à d'autres contextes d'IA.

Préparation et détails

Concevez des principes éthiques pour le développement et l'utilisation de l'intelligence artificielle.

Conseil de facilitation: Pendant le Think-Pair-Share sur les biais, donnez à chaque binôme un jeu de données simplifié (ex: CV anonymisés avec des stéréotypes) pour qu'ils repèrent les discriminations avant de partager leurs découvertes avec la classe.

Setup: Disposition de classe standard ; les élèves se tournent vers leur voisin

Materials: Consigne de discussion (projetée ou distribuée), Optionnel : fiche de prise de notes pour les binômes

• Comprendre
• Appliquer
• Analyser
• Conscience de soi
• Compétences relationnelles

Galerie marchande

⏱ 40 min·Petits groupes

Galerie marchande: Chronologie de la régulation de l'IA

Des affiches présentent des étapes clés de la régulation internationale (RGPD, AI Act européen, recommandations de l'UNESCO). Les élèves identifient les principes éthiques communs et les lacunes persistantes, puis proposent chacun une recommandation manquante à la liste existante.

Préparation et détails

Analysez les défis éthiques posés par l'autonomie croissante de l'intelligence artificielle.

Conseil de facilitation: Pour la galerie chronologique, affichez les étapes clés de la régulation de l'IA (ex: AI Act, recommandations de l'UNESCO) avec des questions ciblées pour guider leur lecture critique des textes institutionnels.

Setup: Espace mural dégagé ou tables disposées en périphérie de la salle

Materials: Papier grand format ou panneaux d'affichage, Feutres et marqueurs, Post-it pour les retours critiques

• Comprendre
• Appliquer
• Analyser
• Créer
• Compétences relationnelles
• Conscience sociale

Enseigner ce sujet

Aborder l'éthique de l'IA exige de combiner rigueur conceptuelle et ancrage pratique. Évitez les discours trop techniques sur le fonctionnement des algorithmes : privilégiez les exemples accessibles (réseaux sociaux, recommandations musicales) pour ancrer les discussions. Utilisez des cas réels et controversés (ex: système de notation sociale en Chine) pour montrer que l'IA n'est pas une abstraction mais un outil qui impacte des vies. Les recherches en didactique soulignent que les élèves retiennent mieux quand ils sont acteurs de leur apprentissage, d'où l'importance des débats et des jeux de rôle.

À quoi s’attendre

Les élèves formulent des arguments nuancés, identifient des biais algorithmiques, et distinguent les responsabilités humaines dans des contextes d'IA. Ils mobilisent des cadres juridiques et éthiques pour justifier leurs positions, en s'appuyant sur des exemples concrets. La réussite se mesure à leur capacité à passer de l'opinion spontanée à une analyse structurée.

Attention à ces idées reçues

Idée reçue courante

Pendant le Think-Pair-Share sur l'identification des biais, écoutez les échanges pour repérer les élèves qui affirment que 'les données parlent d'elles-mêmes' et recentrez la discussion sur les choix humains dans la collecte et l'étiquetage des données.

Ce qu'il faut enseigner à la place

Lors du Think-Pair-Share, demandez aux élèves d'expliciter les étapes de pré-traitement des données (ex: suppression de variables sensibles, normalisation) et montrez comment ces choix introduisent des biais cachés. Utilisez un exemple concret comme un algorithme de prêt bancaire qui exclut certaines zones géographiques.

Idée reçue courante

Pendant le jeu de rôles du comité d'éthique de l'IA, observez si des élèves attribuent la responsabilité à la machine elle-même.

Ce qu'il faut enseigner à la place

Lors du jeu de rôles, insistez sur les contraintes juridiques en rappelant que le droit ne reconnaît pas de personnalité morale aux algorithmes. Demandez aux élèves de justifier leur choix de responsabilité en citant des articles du Code civil ou des jurisprudences similaires.

Idée reçue courante

Pendant la Gallery Walk sur la régulation de l'IA, repérez les élèves qui pensent que 'plus de règles = moins d'innovation'.

Ce qu'il faut enseigner à la place

Lors de la galerie chronologique, mettez en évidence des exemples où la régulation a favorisé l'innovation (ex: développement de l'IA médicale en Europe grâce à des cadres clairs). Utilisez le cas de l'AI Act pour montrer que des règles équilibrées créent un environnement stable pour les entreprises.

Idées d'évaluation

Question de discussion

Après le débat mouvant sur la responsabilité de l'IA, lancez une discussion structurée avec le scénario de la voiture autonome. Demandez aux élèves de justifier leur réponse en mobilisant les concepts de responsabilité partagée et d'autonomie algorithmique, puis notez leur capacité à articuler arguments juridiques et philosophiques.

Billet de sortie

Pendant le Think-Pair-Share sur les biais, demandez aux élèves d'écrire sur un post-it un exemple concret de biais algorithmique qu'ils ont rencontré (ex: recommandations YouTube, filtres photo) et une proposition concrète pour y remédier. Collectez les post-its pour évaluer leur compréhension des mécanismes de biais.

Vérification rapide

Après la Galerie Walk sur la régulation de l'IA, présentez aux élèves une courte description d'un système d'IA (ex: algorithme de scoring pour l'accès aux soins). Demandez-leur d'identifier deux défis éthiques spécifiques à ce système (ex: biais de genre, transparence des critères) et de proposer une solution pour chacun.

Extensions et étayage

• Challenge : Proposez aux élèves de concevoir une charte éthique pour un système d'IA de leur choix (ex: assistant vocal, filtre anti-spam) en intégrant des principes de transparence et de responsabilité.
• Scaffolding : Pour les élèves en difficulté, fournissez une grille d'analyse simplifiée avec des critères prédéfinis (ex: 'Ce système favorise-t-il un groupe au détriment d'un autre ?') pour les guider dans l'identification des biais.
• Deeper exploration : Invitez un intervenant extérieur (ex: juriste spécialisé en droit numérique, philosophe des techniques) pour approfondir la question de l'autonomie algorithmique et ses implications pour la démocratie.

Vocabulaire clé

Biais algorithmique	Tendance systématique d'un algorithme à produire des résultats injustes ou discriminatoires, souvent héritée des données d'entraînement ou des choix de conception.
Responsabilité de l'IA	Question de savoir qui doit être tenu responsable des actions ou des décisions prises par un système d'intelligence artificielle, notamment en cas de préjudice.
Transparence (IA)	Principe selon lequel le fonctionnement interne et les processus décisionnels d'un système d'IA devraient être compréhensibles par les humains.
Autonomie (IA)	Capacité d'un système d'IA à prendre des décisions et à agir sans intervention humaine directe, soulevant des questions sur le contrôle et la supervision.