Ética de la Inteligencia Artificial (IA)

Este tema requiere pensamiento crítico activo porque la ética de la IA no es abstracta: se construye con decisiones concretas que afectan vidas reales. Los alumnos aprenden mejor cuando experimentan con dilemas reales en lugar de solo discutir principios teóricos, ya que así conectan los conceptos con sus implicaciones sociales inmediatas.

• 1° ESO
• Ciudadanía Activa y Pensamiento Ético
• 4 actividades
• 35 min–50 min

Objetivos de aprendizaje

1. Analizar casos concretos donde los algoritmos de IA han mostrado sesgos discriminatorios.
2. Explicar la relación entre los datos de entrenamiento de la IA y la perpetuación de prejuicios sociales.
3. Evaluar las implicaciones éticas de la autonomía de la IA en la toma de decisiones críticas.
4. Proponer medidas para mitigar el impacto negativo de la IA en el mercado laboral.
5. Comparar diferentes marcos regulatorios propuestos para la IA a nivel internacional.

Juego de simulación

⏱ 45 min·Parejas

Debate en Parejas: Pros y Contras de la IA Laboral

Divide la clase en parejas para preparar argumentos a favor y en contra del uso de IA en la selección de personal. Cada pareja debate con otra durante 5 minutos, rotando roles. Concluye con una votación clase y reflexión compartida.

Preparación y detalles

Analiza los dilemas éticos que surgen con el desarrollo de la inteligencia artificial.

Consejo de facilitación: Durante el debate en parejas, asigna roles claros (ej. un defensor de la IA laboral y un crítico) para evitar respuestas genéricas y fomentar argumentos basados en evidencias.

Setup: Espacio flexible para organizar estaciones de trabajo por grupos

Materials: Tarjetas de rol con objetivos y recursos, Fichas o moneda del juego, Registro de seguimiento de rondas

• Aplicar
• Analizar
• Evaluar
• Crear
• Conciencia Social
• Toma de Decisiones

Juego de simulación

⏱ 50 min·Grupos pequeños

Análisis Grupal: Detectar Sesgos en Algoritmos

Proporciona ejemplos de datasets con sesgos de género o etnia. En pequeños grupos, los alumnos clasifican datos, identifican prejuicios y proponen correcciones. Presentan hallazgos en un mural colectivo.

Preparación y detalles

Explica cómo los sesgos humanos pueden replicarse en los algoritmos de IA.

Consejo de facilitación: Para el análisis grupal de sesgos, proporciona datasets públicos con ejemplos visibles (como filtros de contratación) para que los alumnos identifiquen patrones discriminatorios directamente.

Setup: Espacio flexible para organizar estaciones de trabajo por grupos

Materials: Tarjetas de rol con objetivos y recursos, Fichas o moneda del juego, Registro de seguimiento de rondas

• Aplicar
• Analizar
• Evaluar
• Crear
• Conciencia Social
• Toma de Decisiones

Role-play

⏱ 40 min·Grupos pequeños

Role-play: Dilemas Éticos en IA

Asigna roles como desarrollador, usuario afectado y regulador en escenarios como un coche autónomo con accidente. Grupos actúan el dilema, discuten responsabilidad y votan soluciones. Registra en vídeo para revisión.

Preparación y detalles

Predice el impacto de la IA en el futuro del trabajo y la sociedad.

Consejo de facilitación: En el role-play de dilemas éticos, usa escenarios ambiguos donde no haya respuestas 'correctas' obvias, obligando a los alumnos a negociar y justificar sus posturas.

Setup: Espacio diáfano o pupitres reorganizados para la puesta en escena

Materials: Tarjetas de personaje con contexto y objetivos, Guion o ficha de contexto del escenario

• Aplicar
• Analizar
• Evaluar
• Conciencia Social
• Autoconciencia

Juego de simulación

⏱ 35 min·Individual

Mapa Conceptual: Futuro con IA

Individualmente, crea un mapa mental prediciendo impactos de IA en trabajos y sociedad. En clase, une mapas en un gran mural y debate predicciones comunes.

Preparación y detalles

Analiza los dilemas éticos que surgen con el desarrollo de la inteligencia artificial.

Consejo de facilitación: Al crear el mapa conceptual del futuro con IA, pide que incluyan conexiones entre tecnología, sociedad y regulación, no solo términos aislados.

Setup: Espacio flexible para organizar estaciones de trabajo por grupos

Materials: Tarjetas de rol con objetivos y recursos, Fichas o moneda del juego, Registro de seguimiento de rondas

• Aplicar
• Analizar
• Evaluar
• Crear
• Conciencia Social
• Toma de Decisiones

Enseñando este tema

La aproximación más efectiva es combinar lo concreto con lo abstracto: partir de casos reales (como sesgos en sistemas de contratación) para luego generalizar principios éticos. Evita discursos moralizantes; en su lugar, usa preguntas abiertas que lleven a los alumnos a descubrir contradicciones por sí mismos. La investigación en pedagogía sugiere que los debates estructurados y el análisis de datos reales aumentan la retención de estos conceptos más que las clases expositivas.

Qué esperar

Al finalizar estas actividades, los alumnos podrán identificar sesgos en algoritmos mediante ejemplos, argumentar responsabilidades compartidas en cadenas de decisión automatizada y predecir cambios laborales con matices éticos. El éxito se mide por su capacidad para aplicar estos conceptos a casos nuevos, no solo repetir definiciones.

Atención a estas ideas erróneas

Idea errónea común

Durante la actividad 'Análisis Grupal: Detectar Sesgos en Algoritmos', observen si los alumnos asumen que los algoritmos son neutrales. Redirijan con preguntas como: '¿Qué tipo de datos creen que se usaron para entrenar este sistema? ¿Quiénes podrían quedar excluidos?'.

Qué enseñar en su lugar

Usa los datasets proporcionados en esta actividad para que los alumnos identifiquen patrones de exclusión (ej. en recomendaciones de préstamos) y propongan cómo ajustar los datos, corrigiendo la idea de neutralidad absoluta con evidencia empírica.

Idea errónea común

Durante el debate en parejas 'Pros y Contras de la IA Laboral', presten atención a afirmaciones absolutas como 'la IA destruirá todos los empleos'. Intervengan con datos concretos: '¿Qué sectores están realmente en riesgo según estudios recientes?'.

Qué enseñar en su lugar

En esta actividad, guíe a los alumnos a contrastar predicciones catastróficas con ejemplos de creación de nuevos roles (como entrenadores de IA), usando fuentes como informes de la OIT o casos de empresas locales para fomentar predicciones equilibradas.

Idea errónea común

Durante el role-play 'Dilemas Éticos en IA', noten si los alumnos atribuyen toda la responsabilidad a los programadores. Pregunten: '¿Qué papel juegan los usuarios que aceptan términos de uso sin leerlos o los reguladores que no actualizan leyes?'.

Qué enseñar en su lugar

En el role-play, asigne roles específicos que incluyan actores variados (ej. un CEO, un usuario afectado, un legislador) para que los alumnos experimenten la distribución de responsabilidades y propongan marcos éticos colectivos en lugar de individualizar la culpa.

Ideas de Evaluación

Boleto de Salida

Después de 'Análisis Grupal: Detectar Sesgos en Algoritmos', entrega una tarjeta con un escenario breve (ej. un algoritmo de préstamos que rechaza a mujeres). Pide que identifiquen una posible causa de sesgo y propongan una solución basada en ajustes a los datos o al modelo.

Pregunta para Discusión

Durante el role-play 'Dilemas Éticos en IA', plantea la pregunta: 'Si una IA médica comete un error por un dato erróneo introducido por un enfermero, ¿quién es responsable?'. Guía la discusión para que los alumnos argumenten usando los conceptos de responsabilidad compartida trabajados en la actividad.

Verificación Rápida

Después del debate en parejas 'Pros y Contras de la IA Laboral', proyecta una noticia sobre un avance reciente en IA (ej. chatbots para atención al cliente). Pide que identifiquen verbalmente una implicación ética (positiva o negativa) y un término clave del tema, como 'sesgo algorítmico' o 'autonomía humana'.

Extensiones y apoyo

• Challenge: Pide a los alumnos que diseñen un algoritmo de contratación hipotético que minimice sesgos, presentando sus criterios en una ficha técnica.
• Scaffolding: Para los que les cuesta identificar sesgos, proporciona una lista de preguntas guía (ej. '¿Qué grupo podría estar subrepresentado en los datos?').
• Deeper exploration: Invita a investigar un caso real de sesgo algorítmico (como el de Amazon en sus sistemas de reclutamiento) y analizar cómo se resolvió o no.

Vocabulario Clave

Sesgo algorítmico	Tendencia de un sistema de inteligencia artificial a producir resultados sistemáticamente erróneos o injustos, reflejando prejuicios existentes en los datos o en su diseño.
Responsabilidad algorítmica	Cuestión de quién es responsable cuando un sistema de IA toma una decisión errónea o perjudicial, y cómo se asigna esa culpa (desarrollador, usuario, etc.).
Automatización	Uso de tecnología, incluida la IA, para realizar tareas que antes requerían intervención humana, con posibles efectos en el empleo.
Transparencia (IA)	El grado en que se puede entender cómo un sistema de IA llega a sus conclusiones o decisiones, a menudo un desafío en modelos complejos.
Regulación de la IA	Conjunto de leyes, directrices y normas destinadas a gobernar el desarrollo, la implementación y el uso de la inteligencia artificial de manera ética y segura.