Intelligence Artificielle : éthique et responsabilité

L'intelligence artificielle touche tous les domaines de la vie quotidienne et soulève des enjeux éthiques complexes. Travailler par l'expérience active permet aux élèves de 4e de dépasser les généralités pour saisir concrètement les nuances de la responsabilité humaine face à l'IA. Les activités proposées transforment des concepts abstraits en situations tangibles, favorisant ainsi une compréhension durable et critique.

• 4ème
• Liberté, Justice et Engagement : Devenir Citoyen
• 4 activités
• 35 min–50 min

Objectifs d’apprentissage

1. Analyser les mécanismes par lesquels les algorithmes d'IA influencent les décisions humaines dans des contextes variés (ex: recommandations, recrutement).
2. Expliquer la chaîne de responsabilité juridique potentielle lorsqu'une IA commet une erreur ou cause un préjudice.
3. Évaluer les compromis entre les bénéfices d'une intégration accrue de l'IA dans la vie quotidienne et les risques éthiques associés (ex: biais, perte d'autonomie).
4. Comparer les approches éthiques pour le développement et le déploiement de l'IA, en identifiant les principes clés.
5. Critiquer l'impact de l'IA sur la notion d'autonomie individuelle et collective.

Débat formel

⏱ 45 min·Binômes

Débat en binômes: Responsabilité IA

Présentez un cas concret, comme une erreur de diagnostic médical par IA. Les binômes préparent des arguments pour ou contre la responsabilité du développeur versus l'utilisateur, puis débattent 5 minutes chacun. Terminez par un vote de la classe.

Préparation et détails

Analysez qui est responsable en cas de mauvaise décision prise par une IA.

Conseil de facilitation: Pour le débat en binômes, distribuez des rôles prédéfinis (développeur, utilisateur, victime) pour ancrer la discussion dans des perspectives concrètes plutôt que théoriques.

Setup: Deux équipes face à face, le reste de la classe en position d'auditoire

Materials: Fiche de sujet de débat, Dossier documentaire pour chaque camp, Grille d'évaluation pour le public, Chronomètre

• Analyser
• Évaluer
• Créer
• Autogestion
• Prise de décision

Débat formel

⏱ 50 min·Petits groupes

Analyse de cas: Petits groupes

Distribuez des articles sur des incidents IA réels, comme un biais racial dans la reconnaissance faciale. Les groupes identifient les risques, avantages et propositions éthiques, puis présentent en 3 minutes. Utilisez un tableau partagé.

Préparation et détails

Expliquez comment l'IA peut influencer nos choix et notre autonomie.

Setup: Deux équipes face à face, le reste de la classe en position d'auditoire

Materials: Fiche de sujet de débat, Dossier documentaire pour chaque camp, Grille d'évaluation pour le public, Chronomètre

• Analyser
• Évaluer
• Créer
• Autogestion
• Prise de décision

Débat formel

⏱ 40 min·Classe entière

Simulation collective: Décision IA

La classe joue un rôle dans une chaîne de décision automatisée, comme un réseau social recommandant du contenu. Votez sur les influences et discutez l'autonomie perdue. Notez les réactions en temps réel.

Préparation et détails

Évaluez les avantages et les risques de l'intégration de l'IA dans notre quotidien.

Setup: Deux équipes face à face, le reste de la classe en position d'auditoire

Materials: Fiche de sujet de débat, Dossier documentaire pour chaque camp, Grille d'évaluation pour le public, Chronomètre

• Analyser
• Évaluer
• Créer
• Autogestion
• Prise de décision

Débat formel

⏱ 35 min·Individuel

Tableau évaluation: Individuel puis partage

Chaque élève remplit un tableau avantages/risques de l'IA quotidienne (ex. assistants vocaux). Partagez en petits groupes pour confronter les idées et synthétiser une liste classe.

Préparation et détails

Analysez qui est responsable en cas de mauvaise décision prise par une IA.

Setup: Deux équipes face à face, le reste de la classe en position d'auditoire

Materials: Fiche de sujet de débat, Dossier documentaire pour chaque camp, Grille d'évaluation pour le public, Chronomètre

• Analyser
• Évaluer
• Créer
• Autogestion
• Prise de décision

Enseigner ce sujet

Commencez par des exemples proches des élèves (réseaux sociaux, assistants vocaux) pour ancrer le débat. Insistez sur la temporalité : la responsabilité se construit avant, pendant et après l'erreur, pas seulement au moment du dommage. Évitez de présenter l'IA comme un acteur autonome, toujours ramenez la discussion vers les décisions humaines qui la sous-tendent. Les recherches montrent que les élèves comprennent mieux quand on leur montre que les algorithmes reflètent des choix humains, parfois biaisés ou limités.

À quoi s’attendre

Les élèves distinguent clairement les rôles des acteurs humains dans la chaîne de responsabilité liée à l'IA. Ils identifient des biais algorithmiques concrets et formulent des arguments nuancés sur l'autonomie individuelle face aux prédictions de l'IA. Leur participation aux débats et analyses reflète une pensée structurée et une sensibilité aux enjeux sociétaux.

Attention à ces idées reçues

Idée reçue courante

Pendant le débat en binômes Responsabilité IA, certains élèves pensent que l'IA elle-même peut être tenue responsable de ses erreurs.

Ce qu'il faut enseigner à la place

Pendant le débat en binômes Responsabilité IA, recentrez systématiquement les arguments sur les acteurs humains en distribuant une fiche avec des rôles (ex : développeur, utilisateur, entreprise) et en demandant aux élèves de justifier leurs réponses uniquement par les actions de ces rôles, jamais par celle de l'IA.

Idée reçue courante

Pendant l'analyse de cas Petits groupes, les élèves minimisent l'influence de l'IA sur leurs choix quotidiens.

Ce qu'il faut enseigner à la place

Pendant l'analyse de cas Petits groupes, fournissez aux élèves des captures d'écran réelles de leurs propres réseaux sociaux ou recommandations (avec leur accord) pour leur montrer concrètement comment les algorithmes orientent leurs décisions, puis demandez-leur d'identifier un changement possible dans leurs habitudes.

Idée reçue courante

Pendant la simulation collective Décision IA, les élèves sous-estiment les risques liés à l'intégration quotidienne de l'IA.

Ce qu'il faut enseigner à la place

Pendant la simulation collective Décision IA, imposez aux groupes de lister au moins trois biais ou risques concrets (ex : fuite de données, discrimination algorithmique) avant de proposer une solution, et demandez une justification écrite pour chaque risque identifié.

Idées d'évaluation

Question de discussion

Après le débat en binômes Responsabilité IA, présentez le scénario suivant : 'Une IA médicale diagnostique à tort une maladie grave, entraînant des traitements inutiles et coûteux. Qui devrait être tenu responsable : le développeur de l'IA, le médecin qui a utilisé l'outil, ou l'hôpital ?' Évaluez la qualité des arguments en utilisant une grille critériée (pertinence, justification, nuance).

Billet de sortie

Après la simulation collective Décision IA, demandez aux élèves de remplir un ticket de sortie avec deux éléments : 1) Une situation où l'IA a influencé leur propre choix aujourd'hui. 2) Un avantage et un risque de l'utilisation de l'IA dans les transports. Utilisez ces réponses pour identifier les élèves ayant besoin de clarifications sur les biais algorithmiques ou la responsabilité.

Vérification rapide

Pendant l'analyse de cas Petits groupes, posez des questions ciblées pour vérifier leur compréhension : 'Pouvez-vous expliquer avec vos propres mots ce qu'est un biais algorithmique et donner un exemple ?' ou 'Qu'est-ce qui rend la question de la responsabilité juridique complexe avec l'IA ?' Notez les réponses pour ajuster les prochaines activités.

Extensions et étayage

• Challenge : Proposez aux élèves de concevoir une charte éthique pour une IA de leur choix (ex : réseau social, voiture autonome) en intégrant au moins trois contraintes juridiques et trois principes éthiques.
• Scaffolding : Fournissez aux élèves un tableau à compléter avec des exemples de scénarios (ex : diagnostic médical erroné, recommandation publicitaire trompeuse) et des colonnes pour identifier les acteurs responsables et les risques associés.
• Deeper : Invitez les élèves à interviewer un professionnel (informaticien, juriste, éthicien) sur la gestion des biais algorithmiques dans son domaine, puis synthétisent les réponses en un podcast de 5 minutes.

Vocabulaire clé

Algorithme	Ensemble de règles ou d'instructions qu'un ordinateur suit pour effectuer une tâche ou résoudre un problème. Dans le contexte de l'IA, il permet le traitement des données et la prise de décision.
Biais algorithmique	Tendance systématique d'un algorithme à produire des résultats injustes ou discriminatoires, souvent due à des données d'entraînement non représentatives ou à la conception de l'algorithme.
Responsabilité juridique	Obligation légale de répondre de ses actes ou de ceux dont on a la charge. Pour l'IA, cela soulève la question de savoir qui est légalement responsable en cas de faute : le concepteur, l'utilisateur, ou l'IA elle-même ?
Autonomie humaine	Capacité d'une personne à agir selon sa propre volonté et ses propres choix. L'IA peut influencer cette autonomie en proposant des options ou en prenant des décisions à la place de l'humain.