Tecnología · 1o de Preparatoria · Datos, Información y Big Data · III Bimestre

Aplicaciones Éticas de la IA y los Datos

Los estudiantes analizan las implicaciones éticas del uso de la IA y los datos, discutiendo la responsabilidad y el impacto social.

• Aprendizajes Esperados SEP
• SEP EMS: Ética Tecnológica y Responsabilidad Social
• SEP EMS: Inteligencia Artificial y Tecnologías Emergentes

Acerca de este tema

Las aplicaciones éticas de la IA y los datos abordan las implicaciones morales del uso de la inteligencia artificial y el manejo de grandes volúmenes de información. Los estudiantes de primer año de preparatoria examinan cómo los algoritmos pueden reproducir sesgos sociales si los datos de entrenamiento no son representativos, y analizan casos de discriminación en sistemas de reconocimiento facial o reclutamiento laboral. Este tema se integra en los programas SEP de Ética Tecnológica y Responsabilidad Social, promoviendo debates sobre privacidad, consentimiento y equidad en contextos mexicanos como el uso de datos en apps gubernamentales.

Dentro del bloque de Datos, Información y Big Data, los alumnos conectan conceptos técnicos con impactos humanos, desarrollando habilidades de análisis crítico y toma de decisiones éticas. Preguntas clave guían la reflexión: ¿cómo garantizar sistemas justos?, ¿qué responsabilidades asumen los desarrolladores?, ¿qué rol juega la regulación? Esto fomenta empatía y visión sistémica, esencial para futuros profesionales en tecnología.

El aprendizaje activo beneficia este tema porque las dinámicas colaborativas, como debates y análisis de casos, permiten explorar dilemas éticos desde perspectivas diversas. Los estudiantes internalizan conceptos abstractos al confrontar opiniones reales, lo que fortalece su capacidad para argumentar y proponer soluciones éticas viables.

Preguntas Clave

1. ¿Cómo podemos asegurar que los sistemas de IA sean justos y no discriminatorios?
2. ¿Qué responsabilidades tienen los desarrolladores de IA sobre el impacto de sus creaciones?
3. ¿De qué manera la regulación puede fomentar un uso ético de la inteligencia artificial?

Objetivos de Aprendizaje

• Analizar casos específicos donde los algoritmos de IA han generado resultados discriminatorios en México.
• Evaluar la responsabilidad de los desarrolladores de IA en la mitigación de sesgos y el impacto social negativo.
• Proponer medidas regulatorias concretas para fomentar un uso ético y equitativo de la IA en el contexto mexicano.
• Comparar diferentes enfoques éticos para el desarrollo y la implementación de sistemas de IA, identificando sus fortalezas y debilidades.

Antes de Empezar

Conceptos Básicos de Inteligencia Artificial

Por qué: Los estudiantes necesitan una comprensión fundamental de qué es la IA y cómo funciona (aprendizaje automático, datos de entrenamiento) para analizar sus implicaciones éticas.

Ética y Valores

Por qué: Una base en principios éticos generales les permite evaluar la justicia, la equidad y la responsabilidad en el contexto de la tecnología.

Vocabulario Clave

Sesgo algorítmico	Tendencia de un algoritmo a producir resultados sistemáticamente injustos o discriminatorios, a menudo debido a datos de entrenamiento que reflejan prejuicios sociales existentes.
Privacidad de datos	El derecho de los individuos a controlar cómo se recopila, usa y comparte su información personal, especialmente relevante en el contexto de grandes volúmenes de datos para IA.
Consentimiento informado	Proceso mediante el cual una persona autoriza el uso de sus datos o la participación en un sistema, después de haber sido plenamente informada sobre los propósitos y riesgos.
Equidad algorítmica	El principio de diseñar y aplicar sistemas de IA de manera que traten a todos los individuos y grupos de manera justa, evitando la discriminación y promoviendo la igualdad de oportunidades.
Responsabilidad social tecnológica	El deber ético de los creadores y usuarios de tecnología de considerar y mitigar los impactos negativos de sus innovaciones en la sociedad y el medio ambiente.

Cuidado con estas ideas erróneas

Idea errónea común

La IA es neutral y no tiene sesgos inherentes.

Qué enseñar en su lugar

Los sesgos provienen de datos no representativos que reflejan desigualdades sociales. Debates grupales ayudan a los estudiantes a confrontar esta idea con ejemplos reales, ajustando sus modelos mentales mediante evidencia compartida.

Idea errónea común

Los datos personales solo afectan al individuo, no a la sociedad.

Qué enseñar en su lugar

El mal uso de datos genera discriminación colectiva, como en perfiles raciales. Análisis colaborativos de casos revelan impactos sistémicos, fomentando discusiones que conectan lo personal con lo social.

Idea errónea común

Los desarrolladores no son responsables por daños causados por IA.

Qué enseñar en su lugar

La responsabilidad ética recae en todo el ciclo de desarrollo. Role plays permiten simular consecuencias, ayudando a estudiantes a empatizar y argumentar sobre accountability.

Ideas de aprendizaje activo

Debate en Parejas: Sesgos en Algoritmos

Asigna a cada pareja un caso real de sesgo en IA, como en préstamos bancarios. Prepara argumentos a favor y en contra de su uso. Cada dupla presenta en 3 minutos y responde preguntas del grupo. Cierra con votación sobre regulaciones necesarias.

40 min·Parejas

Análisis Grupal: Impacto Social de Datos

Divide la clase en grupos para revisar noticias mexicanas sobre fugas de datos. Identifican riesgos éticos y proponen medidas preventivas. Cada grupo crea un póster resumen y lo defiende ante la clase.

50 min·Grupos pequeños

Juego de Roles: Desarrollador vs. Usuario

Asigna roles: desarrolladores de IA y afectados por sus decisiones. Simulan una reunión para discutir privacidad en apps. Rotan roles y votan soluciones al final.

35 min·Grupos pequeños

Mapeo Colectivo: Regulaciones Éticas

En clase completa, dibuja un mapa mental de leyes como la LFPDPPP. Agrega ejemplos de IA ética y riesgos. Discute colectivamente brechas y propuestas de mejora.

30 min·Toda la clase

Conexiones con el Mundo Real

• En México, el uso de reconocimiento facial en sistemas de seguridad pública o para trámites gubernamentales plantea interrogantes sobre la precisión y equidad del algoritmo, especialmente para diferentes grupos étnicos o socioeconómicos.
• Empresas de tecnología en Guadalajara y Ciudad de México que desarrollan aplicaciones de reclutamiento basadas en IA deben considerar si sus algoritmos podrían discriminar inadvertidamente a candidatos por género, edad o procedencia, afectando el acceso al empleo.
• La implementación de sistemas de IA para la asignación de recursos en programas sociales del gobierno federal requiere un análisis cuidadoso para asegurar que no perpetúen desigualdades existentes y que beneficien a quienes más lo necesitan.

Ideas de Evaluación

Pregunta para Discusión

Presente a los estudiantes un titular de noticia sobre un caso de IA discriminatoria en México. Pregunte: ¿Qué datos creen que se usaron para entrenar este sistema? ¿Qué consecuencias tuvo esta discriminación para las personas afectadas? ¿Qué responsabilidad tienen los desarrolladores en este caso?

Boleto de Salida

Pida a los estudiantes que escriban en un papel: Una aplicación de IA que les preocupe por sus implicaciones éticas, y una propuesta concreta (regulatoria o de diseño) para abordar esa preocupación.

Verificación Rápida

Muestre dos escenarios breves de uso de IA (ej. un sistema de recomendación de películas vs. un sistema de diagnóstico médico). Pida a los estudiantes que identifiquen cuál escenario presenta mayores riesgos éticos y por qué, usando al menos dos términos del vocabulario clave.

Preguntas frecuentes

¿Cómo asegurar que los sistemas de IA sean justos y no discriminatorios?

Audita datos de entrenamiento para diversidad y usa técnicas como fairness metrics. Involucra equipos multidisciplinarios con perspectivas inclusivas. En aula, analiza casos como COMPAS para identificar sesgos y proponer pruebas de equidad, alineado con estándares SEP.

¿Qué responsabilidades tienen los desarrolladores de IA sobre el impacto de sus creaciones?

Deben priorizar transparencia, pruebas éticas y mitigación de riesgos. Cumplir regulaciones como la Ley Federal de Protección de Datos. Actividades de role play ayudan a internalizar esto al simular dilemas reales y consecuencias sociales.

¿De qué manera la regulación puede fomentar un uso ético de la inteligencia artificial?

Establece estándares obligatorios para auditorías, consentimiento y sanciones. En México, fortalece la LFPDPPP con foco en IA. Mapas colectivos en clase revelan cómo normas impulsan innovación responsable y protegen derechos.

¿Cómo puede el aprendizaje activo ayudar a entender la ética en IA?

Dinámicas como debates y análisis de casos hacen tangibles dilemas abstractos, promoviendo empatía y pensamiento crítico. Estudiantes confrontan sesgos propios en discusiones grupales, proponen soluciones reales y retienen mejor conceptos éticos al aplicarlos colaborativamente, superando lecturas pasivas.