Tecnología · 3o de Secundaria · Diseño y Gestión de Proyectos Tecnológicos · V Bimestre

Ética y Desafíos de la IA

Análisis de las implicaciones éticas y sociales de la inteligencia artificial, incluyendo la privacidad, el empleo y la toma de decisiones autónoma.

Acerca de este tema

El tema Ética y Desafíos de la IA guía a los estudiantes de 3° de secundaria en el análisis de implicaciones éticas y sociales de la inteligencia artificial, según el plan SEP de Tecnología. Examina dilemas como la privacidad de datos personales, el impacto en el mercado laboral por automatización y las decisiones autónomas que afectan vidas humanas, como en vehículos sin conductor o algoritmos de contratación. Los alumnos responden preguntas clave: ¿qué dilemas éticos surgen en decisiones de IA?, ¿cómo influye en el empleo y la riqueza?, ¿cómo crear marcos éticos responsables?

Este contenido se integra en la unidad Diseño y Gestión de Proyectos Tecnológicos del V bimestre, desarrollando competencias de pensamiento crítico, empatía social y responsabilidad tecnológica. Los estudiantes identifican sesgos en sistemas de IA, como discriminación racial en reconocimiento facial, y proponen soluciones equitativas, conectando con valores cívicos del currículo nacional.

El aprendizaje activo beneficia este tema porque los debates estructurados y simulaciones de escenarios reales permiten a los estudiantes confrontar dilemas éticos de forma colaborativa, internalizando principios mediante argumentos personales y retroalimentación grupal, lo que fortalece la retención y aplicación práctica en proyectos futuros.

Preguntas Clave

1. ¿Qué dilemas éticos surgen cuando la IA toma decisiones que afectan a las personas?
2. ¿Cómo puede la IA impactar el mercado laboral y la distribución de la riqueza?
3. ¿Cómo diseñar marcos éticos para el desarrollo y uso responsable de la inteligencia artificial?

Objetivos de Aprendizaje

• Analizar los sesgos inherentes en algoritmos de IA, como los utilizados en sistemas de reconocimiento facial o de contratación, y explicar cómo pueden perpetuar la discriminación.
• Evaluar las implicaciones éticas de la toma de decisiones autónoma por parte de la IA en escenarios como vehículos sin conductor o diagnósticos médicos, considerando la responsabilidad y la seguridad.
• Comparar los posibles impactos de la automatización impulsada por IA en diferentes sectores del mercado laboral, identificando tanto la creación como la pérdida de empleos.
• Diseñar un marco ético básico para el desarrollo y uso de la IA, que incluya principios de transparencia, equidad y rendición de cuentas aplicables a proyectos tecnológicos.

Antes de Empezar

Introducción a la Programación y Algoritmos

Por qué: Los estudiantes necesitan una comprensión básica de qué es un algoritmo para entender cómo funciona la IA y dónde pueden surgir los sesgos.

Impacto Social de la Tecnología

Por qué: Haber reflexionado previamente sobre cómo las herramientas tecnológicas afectan a la sociedad prepara a los estudiantes para analizar las implicaciones más complejas de la IA.

Vocabulario Clave

Algoritmo	Un conjunto de instrucciones o reglas definidas y ordenadas que permiten resolver un problema o realizar una tarea específica, como las que usa la IA.
Sesgo algorítmico	Tendencia de un sistema de inteligencia artificial a favorecer o desfavorecer sistemáticamente a ciertos grupos o resultados, a menudo reflejando prejuicios presentes en los datos de entrenamiento.
Privacidad de datos	El derecho de las personas a controlar la recopilación, uso y divulgación de su información personal, un aspecto crucial en el desarrollo de la IA.
Automatización	El uso de tecnología para realizar tareas que antes requerían intervención humana, lo cual es un motor principal del impacto de la IA en el empleo.
Toma de decisiones autónoma	La capacidad de un sistema de IA para tomar decisiones sin intervención humana directa, planteando dilemas éticos sobre la responsabilidad.

Cuidado con estas ideas erróneas

Idea errónea común

La IA es completamente neutral y no tiene sesgos.

Qué enseñar en su lugar

La IA refleja sesgos de los datos de entrenamiento, como discriminación en algoritmos faciales. Actividades de debate en grupos ayudan a los estudiantes examinar ejemplos reales, cuestionar suposiciones y proponer correcciones éticas mediante discusión colaborativa.

Idea errónea común

La IA eliminará todos los empleos humanos.

Qué enseñar en su lugar

La IA transforma empleos, creando nuevos roles mientras automatiza tareas repetitivas. Simulaciones en parejas permiten explorar escenarios laborales, analizar datos de impacto y diseñar estrategias de reconversión, fomentando pensamiento equilibrado.

Idea errónea común

La privacidad no es un problema grave con la IA.

Qué enseñar en su lugar

La IA recolecta datos masivos sin consentimiento claro, violando derechos. Talleres de análisis de casos en pequeños grupos revelan riesgos reales, promueven empatía por afectados y generan propuestas de protección mediante reflexión compartida.

Ideas de aprendizaje activo

Debate en Pequeños Grupos: Sesgos en IA

Divide la clase en grupos de 4. Asigna casos reales, como algoritmos de reclutamiento sesgados. Cada grupo prepara argumentos éticos a favor y en contra durante 10 minutos, luego debate con otro grupo. Concluye con un voto colectivo y reflexión escrita.

45 min·Grupos pequeños

Simulación Individual: Decisión Autónoma

Cada estudiante recibe un escenario de IA, como un dron de entrega en zona de riesgo. Analiza opciones éticas, dibuja un diagrama de decisión y justifica su elección en 5 minutos. Comparte en plenaria.

30 min·Individual

Taller en Parejas: Marco Ético para IA

En parejas, investigan un desafío laboral de IA usando dispositivos. Diseñan 5 reglas éticas simples, las ilustran en un póster y las presentan a la clase para retroalimentación.

50 min·Parejas

Rotación de Estaciones: Impactos Sociales

Prepara 3 estaciones: privacidad (análisis de apps), empleo (gráficos de automatización), autonomía (videos de robots). Grupos rotan cada 10 minutos, responden preguntas y comparten hallazgos finales.

40 min·Grupos pequeños

Conexiones con el Mundo Real

• Empresas como Netflix y Spotify utilizan algoritmos de recomendación para sugerir contenido a sus usuarios basándose en el historial de visualización o escucha. Estos sistemas plantean preguntas sobre la privacidad de los datos y la posible creación de 'burbujas' informativas.
• En el sector automotriz, empresas como Tesla desarrollan vehículos con capacidades de conducción autónoma. Los accidentes que involucran a estos vehículos generan debates intensos sobre quién es responsable: el conductor, el fabricante o el propio sistema de IA.
• Los sistemas de contratación automatizada, usados por algunas grandes corporaciones, emplean IA para filtrar currículums. Se han documentado casos donde estos sistemas muestran sesgos de género o raciales, afectando la equidad en el acceso al empleo.

Ideas de Evaluación

Pregunta para Discusión

Presenta a los estudiantes el siguiente escenario: 'Una IA se usa para decidir quién recibe un préstamo bancario. Si la IA favorece consistentemente a solicitantes de ciertos códigos postales, ¿qué dilemas éticos surgen? ¿Cómo se podría mejorar la equidad del sistema?' Pide a los alumnos que discutan en pequeños grupos y compartan sus conclusiones.

Boleto de Salida

Entrega a cada estudiante una tarjeta con una de las siguientes preguntas: 'Menciona un trabajo que podría verse afectado por la IA y explica por qué.' o 'Describe una situación donde la IA toma una decisión importante y nombra un posible riesgo ético.' Pide que respondan en una o dos frases.

Verificación Rápida

Muestra a los estudiantes dos titulares de noticias sobre IA (uno positivo, uno negativo). Pide que levanten la mano si creen que el titular se enfoca en un desafío ético o una oportunidad. Luego, pide a voluntarios que expliquen brevemente su elección.

Preguntas frecuentes

¿Qué dilemas éticos surgen cuando la IA toma decisiones que afectan personas?

Dilemas incluyen priorizar vidas en autos autónomos o sesgos en diagnósticos médicos. Los estudiantes deben equilibrar eficiencia con justicia, considerando autonomía humana. En clase, explora casos como el trolley problem adaptado a IA para fomentar debates que revelen tensiones entre innovación y derechos individuales, alineado con SEP.

¿Cómo impacta la IA en el mercado laboral mexicano?

Automatiza tareas en manufactura y servicios, desplazando empleos de baja cualificación pero creando oportunidades en programación y mantenimiento de IA. En México, afecta sectores como automotriz. Discute datos del INEGI en actividades grupales para que alumnos propongan capacitación ética y redistribución de riqueza.

¿Cómo diseñar marcos éticos para IA responsable?

Incluye principios como transparencia, no discriminación y supervisión humana. Usa guías como las de UNESCO. En proyectos, estudiantes crean marcos con reglas claras, pruebas de sesgos y auditorías, aplicables a unidades SEP para promover desarrollo tecnológico equitativo.

¿Cómo ayuda el aprendizaje activo a entender la ética de la IA?

Actividades como debates y simulaciones permiten experimentar dilemas éticos en contextos reales, superando lecturas pasivas. Grupos colaboran analizando sesgos o impactos laborales, fortaleciendo empatía y pensamiento crítico. Esto alinea con SEP, haciendo conceptos abstractos tangibles y memorables mediante reflexión compartida y retroalimentación inmediata.