Educación en Valores Cívicos y Éticos · 1° ESO · Ética Digital y Nuevas Tecnologías · 3er Trimestre

Ética de la Inteligencia Artificial (IA)

Los alumnos se introducen en los dilemas morales que plantea el desarrollo y uso de la inteligencia artificial, como la responsabilidad, el sesgo y el impacto laboral.

• Competencias Clave LOMLOE
• LOMLOE: ESO - Ética y tecnología
• LOMLOE: ESO - Futuros posibles

Sobre este tema

La ética de la inteligencia artificial introduce a los alumnos en los dilemas morales del desarrollo y uso de la IA, como la responsabilidad por decisiones automatizadas, los sesgos algorítmicos y el impacto en el empleo. Analizan cómo los prejuicios humanos se replican en los datos de entrenamiento, lo que genera discriminaciones en recomendaciones o contrataciones. También predicen cambios laborales, valorando la necesidad de regulación ética.

En el currículo LOMLOE de Ciudadanía Activa y Pensamiento Ético, este tema conecta con la unidad de Ética Digital y Nuevas Tecnologías, fomentando el análisis de futuros posibles y la toma de decisiones responsables. Desarrolla competencias clave como el pensamiento crítico, la empatía y la argumentación, preparando a los estudiantes para una sociedad tecnológica.

El aprendizaje activo beneficia especialmente este tema porque los debates y simulaciones convierten conceptos abstractos en experiencias personales. Al role-playing escenarios reales, como un algoritmo sesgado en una entrevista de trabajo, los alumnos internalizan dilemas y proponen soluciones colectivas, fortaleciendo su compromiso ético.

Preguntas clave

1. Analiza los dilemas éticos que surgen con el desarrollo de la inteligencia artificial.
2. Explica cómo los sesgos humanos pueden replicarse en los algoritmos de IA.
3. Predice el impacto de la IA en el futuro del trabajo y la sociedad.

Objetivos de Aprendizaje

• Analizar casos concretos donde los algoritmos de IA han mostrado sesgos discriminatorios.
• Explicar la relación entre los datos de entrenamiento de la IA y la perpetuación de prejuicios sociales.
• Evaluar las implicaciones éticas de la autonomía de la IA en la toma de decisiones críticas.
• Proponer medidas para mitigar el impacto negativo de la IA en el mercado laboral.
• Comparar diferentes marcos regulatorios propuestos para la IA a nivel internacional.

Antes de Empezar

Conceptos básicos de tecnología y sociedad

Por qué: Es necesario que los alumnos comprendan cómo la tecnología impacta en la vida cotidiana antes de abordar los dilemas éticos específicos de la IA.

Introducción a la Ética y los Valores

Por qué: Los estudiantes deben tener una base sobre qué son los dilemas morales y cómo analizar situaciones desde una perspectiva ética.

Vocabulario Clave

Sesgo algorítmico	Tendencia de un sistema de inteligencia artificial a producir resultados sistemáticamente erróneos o injustos, reflejando prejuicios existentes en los datos o en su diseño.
Responsabilidad algorítmica	Cuestión de quién es responsable cuando un sistema de IA toma una decisión errónea o perjudicial, y cómo se asigna esa culpa (desarrollador, usuario, etc.).
Automatización	Uso de tecnología, incluida la IA, para realizar tareas que antes requerían intervención humana, con posibles efectos en el empleo.
Transparencia (IA)	El grado en que se puede entender cómo un sistema de IA llega a sus conclusiones o decisiones, a menudo un desafío en modelos complejos.
Regulación de la IA	Conjunto de leyes, directrices y normas destinadas a gobernar el desarrollo, la implementación y el uso de la inteligencia artificial de manera ética y segura.

Atención a estas ideas erróneas

Idea errónea común

La IA es completamente neutral y objetiva.

Qué enseñar en su lugar

La IA hereda sesgos de los datos humanos de entrenamiento, como preferencias culturales en algoritmos de reconocimiento facial. Actividades de análisis de datasets en grupos ayudan a los alumnos a visualizar estos sesgos y debatir correcciones, corrigiendo la idea de neutralidad absoluta.

Idea errónea común

La IA eliminará todos los trabajos humanos.

Qué enseñar en su lugar

La IA transforma empleos, creando nuevos roles como entrenadores de algoritmos, pero desplaza otros rutinarios. Debates en parejas permiten explorar matices y ejemplos reales, fomentando predicciones equilibradas en lugar de visiones apocalípticas.

Idea errónea común

La responsabilidad ética recae solo en los programadores.

Qué enseñar en su lugar

Todos los actores, desde usuarios hasta reguladores, comparten responsabilidad. Role-plays grupales simulan cadenas de decisiones, ayudando a los alumnos a entender la complejidad compartida y proponer marcos éticos colectivos.

Ideas de aprendizaje activo

Debate en Parejas: Pros y Contras de la IA Laboral

Divide la clase en parejas para preparar argumentos a favor y en contra del uso de IA en la selección de personal. Cada pareja debate con otra durante 5 minutos, rotando roles. Concluye con una votación clase y reflexión compartida.

45 min·Parejas

Análisis Grupal: Detectar Sesgos en Algoritmos

Proporciona ejemplos de datasets con sesgos de género o etnia. En pequeños grupos, los alumnos clasifican datos, identifican prejuicios y proponen correcciones. Presentan hallazgos en un mural colectivo.

50 min·Grupos pequeños

Role-play: Dilemas Éticos en IA

Asigna roles como desarrollador, usuario afectado y regulador en escenarios como un coche autónomo con accidente. Grupos actúan el dilema, discuten responsabilidad y votan soluciones. Registra en vídeo para revisión.

40 min·Grupos pequeños

Mapa Conceptual: Futuro con IA

Individualmente, crea un mapa mental prediciendo impactos de IA en trabajos y sociedad. En clase, une mapas en un gran mural y debate predicciones comunes.

35 min·Individual

Conexiones con el Mundo Real

• Los sistemas de contratación automatizada, utilizados por empresas como Amazon, han sido criticados por discriminar a candidatas mujeres debido a sesgos en los datos históricos de contratación.
• Los vehículos autónomos, como los desarrollados por Waymo o Tesla, plantean dilemas éticos sobre cómo programar sus sistemas para tomar decisiones en situaciones de accidente inevitable, priorizando vidas.
• Las plataformas de redes sociales emplean IA para moderar contenido, pero a veces fallan en identificar discursos de odio o desinformación, o eliminan contenido legítimo por error, mostrando la dificultad de la transparencia y el sesgo.

Ideas de Evaluación

Boleto de Salida

Entrega a cada alumno una tarjeta con un escenario breve (ej. un algoritmo de crédito que rechaza a solicitantes de bajos ingresos). Pide que escriban una frase identificando el posible sesgo y otra proponiendo una solución para evitarlo.

Pregunta para Discusión

Plantea la pregunta: 'Si una IA comete un error grave, ¿quién debería ser el responsable: el programador, la empresa que la usa o la propia IA?'. Guía la discusión para que los alumnos argumenten sus posturas basándose en los conceptos de responsabilidad y autonomía.

Verificación Rápida

Proyecta una noticia sobre un avance reciente en IA (ej. IA generativa de imágenes). Pide a los alumnos que identifiquen verbalmente o por escrito una posible implicación ética (positiva o negativa) y un término clave relacionado con el tema.

Preguntas frecuentes

¿Cómo explicar sesgos en IA a alumnos de 1º ESO?

Usa ejemplos cotidianos como recomendaciones sesgadas en redes sociales por datos de usuarios similares. Muestra datasets simples con desequilibrios y pide clasificarlos en grupo. Esto conecta con experiencias personales, facilitando la comprensión de cómo prejuicios humanos se amplifican en algoritmos, alineado con LOMLOE en ética tecnológica.

¿Qué actividades activas para dilemas éticos de IA?

Debates en parejas sobre IA en empleo, role-plays de accidentes con coches autónomos y análisis de sesgos en datasets promueven discusión activa. Estos métodos hacen tangibles los dilemas abstractos, fomentan empatía y argumentación. Los alumnos proponen soluciones reales, desarrollando pensamiento crítico como exige el currículo LOMLOE.

¿Cuál es el impacto laboral de la IA según LOMLOE?

LOMLOE enfatiza analizar futuros posibles: la IA automatiza tareas repetitivas pero genera empleos en supervisión ética y creatividad. Actividades predictivas como mapas conceptuales ayudan a alumnos a valorar reconversión laboral y necesidad de educación continua, promoviendo ciudadanía responsable.

¿Recursos para enseñar ética de IA en 1º ESO?

Casos reales como sesgos en Amazon hiring o deepfakes, vídeos educativos de la UE y herramientas gratuitas como AI Ethics Guidelines. Integra con key questions LOMLOE mediante debates y role-plays para cumplir estándares de ética y tecnología, asegurando relevancia práctica.