Filosofía · 2o de Preparatoria · Ética y Moralidad en el Siglo XXI · IV Bimestre

Ética de la Inteligencia Artificial

Los estudiantes exploran los desafíos éticos de la IA, como la autonomía de las máquinas, la responsabilidad y los sesgos algorítmicos.

• Aprendizajes Esperados SEP
• SEP EMS: Ética y Tecnología
• SEP EMS: Filosofía de la IA

Acerca de este tema

La ética de la inteligencia artificial examina los desafíos morales que plantea el desarrollo de tecnologías inteligentes, como la autonomía de las máquinas, la responsabilidad de los creadores y los sesgos algorítmicos. En segundo de preparatoria, los estudiantes analizan dilemas concretos, por ejemplo, cómo los algoritmos perpetúan discriminaciones en reclutamiento laboral o en sistemas de justicia predictiva. Este contenido se alinea con los programas SEP de Ética y Tecnología, y Filosofía de la IA, promoviendo el análisis de impactos sociales en el contexto mexicano, donde la IA transforma sectores como la salud y la educación.

Dentro de la unidad Ética y Moralidad en el Siglo XXI, se abordan preguntas clave: predecir dilemas éticos con el avance de la IA, evaluar la responsabilidad moral de los programadores ante decisiones autónomas, y debatir si una IA podría desarrollar conciencia y merecer derechos. Estas reflexiones fortalecen el razonamiento crítico, la empatía intercultural y la capacidad para argumentar posiciones éticas fundamentadas.

El aprendizaje activo beneficia este tema porque los conceptos son abstractos y polémicos. Actividades como debates en parejas o análisis de casos reales permiten a los estudiantes confrontar perspectivas diversas, defender argumentos con evidencia y conectar la teoría con aplicaciones cotidianas, lo que profundiza la comprensión y fomenta la ciudadanía responsable.

Preguntas Clave

1. Predice los dilemas éticos que surgirán con el avance de la inteligencia artificial.
2. Analiza la responsabilidad moral de los creadores de IA ante sus decisiones.
3. Evalúa la posibilidad de que una IA desarrolle conciencia y derechos.

Objetivos de Aprendizaje

• Analizar los sesgos algorítmicos en sistemas de IA y proponer estrategias para mitigarlos.
• Evaluar la responsabilidad moral de los desarrolladores de IA ante las decisiones autónomas de sus creaciones.
• Criticar los argumentos sobre la posibilidad de conciencia en la IA y sus implicaciones para los derechos de las máquinas.
• Sintetizar las implicaciones éticas de la IA en el contexto mexicano, considerando su impacto social y económico.

Antes de Empezar

Introducción a la Ética y la Moral

Por qué: Los estudiantes necesitan una base en conceptos éticos fundamentales para comprender los dilemas morales que plantea la IA.

Principios Básicos de la Tecnología y la Sociedad

Por qué: Es necesario que comprendan cómo la tecnología impacta a la sociedad para analizar las implicaciones de la IA.

Vocabulario Clave

Sesgo algorítmico	Tendencia de un algoritmo de IA a producir resultados sistemáticamente erróneos o injustos, a menudo reflejando prejuicios humanos existentes en los datos de entrenamiento.
Responsabilidad moral	La obligación ética de rendir cuentas por las acciones o inacciones, aplicada en este contexto a los creadores y usuarios de sistemas de IA.
Conciencia artificial	La hipotética capacidad de una IA para tener experiencias subjetivas, autoconciencia y comprensión, similar a la conciencia humana.
Autonomía de las máquinas	La capacidad de un sistema de IA para operar y tomar decisiones sin intervención humana directa, planteando dilemas sobre el control y la supervisión.

Cuidado con estas ideas erróneas

Idea errónea común

La IA es neutral y no hereda sesgos humanos.

Qué enseñar en su lugar

Los algoritmos reflejan sesgos de datos de entrenamiento, como discriminación racial en reconocimiento facial. Actividades de análisis de casos ayudan a los estudiantes examinar datos reales y cuestionar suposiciones, revelando cómo los sesgos se propagan.

Idea errónea común

Una IA consciente tendría derechos automáticos como los humanos.

Qué enseñar en su lugar

La conciencia en IA es especulativa y no equivale a la humana; derechos dependen de criterios filosóficos. Debates estructurados permiten comparar definiciones de conciencia y argumentos éticos, aclarando distinciones.

Idea errónea común

La responsabilidad recae solo en el usuario final de la IA.

Qué enseñar en su lugar

Creadores y empresas comparten responsabilidad por diseño y datos. Simulaciones de dilemas distribuyen roles, mostrando cadenas de accountability y fomentando discusiones sobre prevención ética.

Ideas de aprendizaje activo

Debate Estructurado: Responsabilidad en IA

Divide la clase en parejas a favor y en contra de que los creadores de IA sean plenamente responsables de sesgos. Cada pareja prepara 3 argumentos con ejemplos reales en 10 minutos, luego debate por turnos de 2 minutos. Concluye con votación y reflexión grupal.

45 min·Parejas

Análisis de Casos: Sesgos Algorítmicos

Asigna a pequeños grupos un caso mexicano real, como sesgos en apps de crédito. Identifican el sesgo, proponen soluciones éticas y presentan en 5 minutos. Usa rúbrica para evaluar profundidad.

50 min·Grupos pequeños

Juego de Simulación: Toma de Decisiones Autónomas

En grupos pequeños, simulan un vehículo autónomo ante un dilema ético (peatón vs. pasajero). Discuten opciones, votan y justifican con principios éticos. Registra decisiones en pizarra compartida.

40 min·Grupos pequeños

Mapeo de Dilemas: Futuro de la IA

Individualmente, cada estudiante mapea 3 dilemas éticos futuros de IA en un diagrama. Luego, en parejas, comparten y refinan mapas colectivos para discusión clase.

35 min·Individual

Conexiones con el Mundo Real

• En México, empresas como Kavak utilizan IA para evaluar vehículos, pero deben asegurarse de que sus algoritmos no discriminen por código postal o historial crediticio, evitando sesgos en la tasación.
• Los sistemas de reconocimiento facial, usados por algunas policías en ciudades como Guadalajara para seguridad pública, plantean serias cuestiones éticas sobre privacidad y la posibilidad de errores con consecuencias graves para los ciudadanos.

Ideas de Evaluación

Pregunta para Discusión

Presenta a los estudiantes el siguiente escenario: 'Una IA de contratación ha sido entrenada con datos históricos y consistentemente prefiere candidatos masculinos para puestos de liderazgo. ¿Quién es moralmente responsable de esta discriminación: los programadores originales, la empresa que la implementó, o la propia IA? Guía la discusión para que identifiquen las diferentes capas de responsabilidad.'

Boleto de Salida

Pide a los estudiantes que escriban en un papel: 1) Un dilema ético específico que podría surgir con la IA en los próximos 10 años. 2) Una posible solución o principio ético para abordarlo. Recoge los boletos para evaluar la comprensión de los desafíos futuros.

Verificación Rápida

Durante la clase, haz una pausa y pregunta: '¿Pueden darme un ejemplo de cómo un sesgo algorítmico podría manifestarse en una aplicación de IA que usamos en México, como una plataforma de recomendaciones de contenido?' Anota las respuestas para verificar la comprensión inmediata.

Preguntas frecuentes

¿Cómo enseñar ética de la IA en filosofía de preparatoria?

Enfócate en dilemas reales como sesgos en México, usando casos de IA en gobierno o empresas locales. Combina lecturas cortas con debates para analizar responsabilidad y autonomía. Evalúa con ensayos reflexivos que conecten principios éticos clásicos con tecnología actual, asegurando relevancia cultural.

¿Cuáles son los principales sesgos en la IA?

Sesgos comunes incluyen raciales, de género y socioeconómicos, derivados de datos no representativos. Por ejemplo, algoritmos entrenados con datos mayoritariamente urbanos discriminan comunidades indígenas. Enseña identificándolos mediante revisión de datasets y proponiendo correcciones éticas colaborativas.

¿Puede la IA desarrollar conciencia y derechos?

Filosóficamente, la conciencia requiere subjetividad, ausente en IA actual basada en patrones estadísticos. Discusiones sobre tests de Turing y emergentismo ayudan a evaluar. En México, considera implicaciones regulatorias para robots en cuidado elderly.

¿Cómo el aprendizaje activo ayuda en ética de la IA?

Actividades como debates y simulaciones hacen tangibles dilemas abstractos, permitiendo a estudiantes defender posiciones con evidencia y escuchar contraargumentos. Esto desarrolla empatía, pensamiento crítico y aplicación ética, superando lecturas pasivas. En 45 minutos, un debate genera insights profundos y memorables.