Technologie · 4ème · Culture Numérique et Médias · 3e Trimestre

IA et Société : Enjeux Éthiques

Les élèves débattent des questions éthiques plus larges posées par l'IA, comme l'autonomie des machines, la responsabilité et l'impact sur l'emploi.

• Programmes Officiels
• MEN: Cycle 4 - Impact sociétal et environnemental
• MEN: Cycle 4 - Responsabilité d'usage

À propos de ce thème

Les enjeux éthiques de l'intelligence artificielle constituent le volet citoyen du programme de technologie en cycle 4. En 4ème, les élèves passent de la compréhension technique à la réflexion morale : faut-il confier des décisions de vie ou de mort à un algorithme ? Comment répartir la responsabilité quand une voiture autonome provoque un accident ? Quels métiers seront transformés par l'automatisation et comment s'y préparer ?

Le programme de l'Éducation Nationale inscrit explicitement l'impact sociétal et la responsabilité d'usage parmi les compétences visées. Les élèves doivent être capables d'argumenter sur les avantages et les risques des technologies numériques. Ce sujet mobilise des compétences transversales : construction d'un argumentaire, écoute de points de vue contradictoires, recherche documentaire critique.

Le débat structuré et les dilemmes éthiques sont les formats pédagogiques les plus adaptés. Ils permettent aux élèves de confronter leurs intuitions morales à des cas concrets et de construire une position argumentée plutôt que de recevoir un discours normatif.

Questions clés

1. Quelles tâches devrions-nous refuser de confier à des algorithmes ?
2. Analysez les dilemmes éthiques liés à la prise de décision autonome par l'IA.
3. Justifiez l'importance d'une régulation éthique du développement de l'intelligence artificielle.

Objectifs d'apprentissage

• Analyser les dilemmes éthiques soulevés par la prise de décision autonome par des systèmes d'IA dans des scénarios critiques.
• Évaluer l'impact potentiel de l'automatisation sur différents secteurs de l'emploi et proposer des stratégies d'adaptation.
• Critiquer les risques liés à la délégation de tâches complexes à des algorithmes sans supervision humaine adéquate.
• Justifier la nécessité d'une régulation éthique pour le développement et le déploiement de l'intelligence artificielle.

Avant de commencer

Fonctionnement des algorithmes

Pourquoi : Les élèves doivent avoir une compréhension de base de ce qu'est un algorithme et comment il traite l'information pour saisir les enjeux de son application.

Représentation de l'information numérique

Pourquoi : Comprendre comment les données sont représentées et traitées numériquement est essentiel pour saisir comment les biais peuvent s'introduire dans les systèmes d'IA.

Vocabulaire clé

Autonomie algorithmique	Capacité d'un système d'intelligence artificielle à prendre des décisions et à agir sans intervention humaine directe.
Responsabilité	Attribution de la faute ou du mérite pour les actions ou les conséquences d'un système d'IA, posant la question de savoir qui est responsable en cas de problème.
Biais algorithmique	Tendance systématique d'un algorithme à produire des résultats injustes ou discriminatoires, souvent héritée des données d'entraînement.
Automatisation	Utilisation de la technologie pour effectuer des tâches auparavant réalisées par des humains, impactant potentiellement le marché du travail.
Régulation éthique	Ensemble de règles, de normes et de principes visant à encadrer le développement et l'utilisation de l'IA pour garantir un impact sociétal positif et minimiser les risques.

Attention à ces idées reçues

Idée reçue courante

L'éthique de l'IA est un sujet pour les adultes, pas pour les collégiens.

Ce qu'il faut enseigner à la place

Les élèves de 4ème utilisent quotidiennement des systèmes d'IA (réseaux sociaux, recommandations, filtres). Ils sont directement concernés et capables de raisonnement moral. Les dilemmes éthiques adaptés à leur vécu (algorithme de notation, modération de contenu) rendent le sujet accessible et pertinent.

Idée reçue courante

Il suffit de créer des lois pour résoudre les problèmes éthiques de l'IA.

Ce qu'il faut enseigner à la place

La régulation est nécessaire mais pas suffisante. Les lois peinent à suivre le rythme de l'innovation technologique, et leur application varie selon les pays. Le débat en fishbowl aide les élèves à saisir la complexité d'une régulation efficace face à des technologies en évolution rapide.

Idée reçue courante

L'IA va supprimer tous les emplois.

Ce qu'il faut enseigner à la place

L'automatisation transforme les métiers plus qu'elle ne les supprime. De nouveaux emplois apparaissent (data scientist, éthicien de l'IA, mainteneur de robots) tandis que d'autres évoluent. L'activité de classement des métiers aide à nuancer cette vision catastrophiste.

Idées d'apprentissage actif

Dilemme éthique : La machine qui décide

Le professeur présente un scénario de voiture autonome face à un choix impossible (variante du dilemme du tramway). Les élèves positionnent leur choix individuellement sur un axe affiché au mur, puis débattent par groupes d'opinion pour affiner leurs arguments.

30 min·Classe entière

Penser-Partager-Présenter: Quel métier pour demain ?

Les élèves reçoivent une liste de 10 métiers et estiment individuellement la probabilité d'automatisation de chacun. En binômes, ils comparent et justifient leurs évaluations, puis la classe confronte ses prédictions avec des études existantes.

25 min·Binômes

Investigation collaborative : Cartographier les acteurs

Chaque groupe analyse un cas d'utilisation de l'IA (diagnostic médical, surveillance, notation scolaire, conduite autonome) et identifie les acteurs concernés, leurs intérêts et les tensions éthiques. Les résultats sont présentés sous forme de carte d'acteurs affichée au mur.

40 min·Petits groupes

Aquarium: Faut-il réguler l'IA ?

Un cercle intérieur de 5-6 élèves débat de la nécessité d'une régulation, tandis que le cercle extérieur observe et note les arguments. Les places du cercle intérieur sont ouvertes : un élève du cercle extérieur peut prendre la place d'un débatteur en tapant sur son épaule.

35 min·Classe entière

Liens avec le monde réel

• Les systèmes de recommandation sur des plateformes comme Netflix ou YouTube utilisent des algorithmes pour suggérer du contenu, soulevant des questions sur la manipulation des choix et la diffusion d'informations.
• Les voitures autonomes, développées par des entreprises telles que Waymo ou Tesla, confrontent les ingénieurs et les législateurs à des dilemmes éthiques complexes en cas d'accident, nécessitant des décisions préprogrammées pour des situations imprévues.
• L'utilisation de l'IA dans le recrutement, par des entreprises comme Unilever, peut accélérer le processus mais risque d'introduire des biais discriminatoires si les algorithmes ne sont pas conçus et audités avec soin.

Idées d'évaluation

Question de discussion

Présentez aux élèves le scénario suivant : 'Un robot chirurgien commet une erreur lors d'une opération. Qui est responsable : le robot, le programmeur, l'hôpital, ou le chirurgien supervisant ?' Demandez aux élèves de débattre des différentes perspectives et de justifier leur conclusion.

Billet de sortie

Demandez aux élèves d'écrire sur un papier : 'Une tâche que je ne confierais jamais à un algorithme et pourquoi.' et 'Une tâche pour laquelle l'IA pourrait être très utile et comment nous pourrions nous assurer qu'elle est utilisée éthiquement.'

Évaluation par les pairs

Après un débat en classe sur l'impact de l'IA sur l'emploi, demandez aux élèves de noter un argument clé présenté par un camarade. L'argument doit être clair, pertinent et bien justifié. Les élèves échangent ensuite leurs notes et donnent un retour constructif.

Questions fréquentes

Quels sont les principaux enjeux éthiques de l'intelligence artificielle ?

Les enjeux majeurs incluent la responsabilité juridique des décisions automatisées, la protection de la vie privée face à la surveillance algorithmique, l'impact sur l'emploi et les compétences, l'autonomie des systèmes de décision (armes, justice, santé) et la concentration du pouvoir technologique entre quelques acteurs. Le cadre européen (AI Act) tente d'y répondre.

Qui est responsable quand une IA commet une erreur ?

La question de la responsabilité est un défi juridique majeur. Selon les cas, elle peut incomber au concepteur de l'algorithme, à l'entreprise qui le déploie, à l'utilisateur qui l'applique ou au fournisseur de données. Le droit français et européen évolue pour clarifier ces responsabilités, notamment avec le règlement sur l'IA adopté en 2024.

Comment l'apprentissage actif aide-t-il à aborder l'éthique de l'IA ?

L'éthique ne se transmet pas par un cours magistral : elle se construit par la confrontation d'idées. Le débat structuré, le dilemme éthique et le fishbowl obligent les élèves à formuler, défendre et réviser leurs positions face à des arguments contradictoires. Ce processus développe l'esprit critique bien plus efficacement qu'une liste de principes à mémoriser.

L'AI Act européen, c'est quoi exactement ?

L'AI Act est le premier règlement au monde encadrant l'intelligence artificielle, adopté par l'Union européenne en 2024. Il classe les systèmes d'IA selon leur niveau de risque (inacceptable, élevé, limité, minimal) et impose des obligations proportionnées : transparence, évaluation d'impact, contrôle humain. Les systèmes à risque inacceptable (notation sociale, surveillance biométrique de masse) sont interdits.