Tecnología · I Medio

Ideas de aprendizaje activo

Sesgos Algorítmicos y Equidad

Aprender sobre sesgos algorítmicos requiere más que teoría, necesita confrontar ejemplos concretos que desafíen creencias comunes. Las actividades propuestas enfrentan a los estudiantes con datos reales y situaciones cotidianas, donde la matemática se combina con decisiones humanas, haciendo visible lo que muchas veces pasa desapercibido.

• Objetivos de Aprendizaje (OA)
• OA TEC 1oM: Impacto Social y Ético de la Tecnología
• OA TEC 1oM: Inteligencia Artificial

• 30–50 min
• Parejas → Toda la clase
• 4 actividades

Actividad 01

• Análisis de Estudio de Caso
• 45 min · Grupos pequeños

Análisis Grupal: Sesgos en Recomendaciones

Proporciona conjuntos de datos de preferencias ficticias con sesgos de género o región. Los grupos analizan distribuciones, identifican patrones injustos y proponen correcciones. Cada grupo presenta hallazgos en 5 minutos.

¿Cómo se identifican los sesgos en los algoritmos de recomendación?

Consejo de Facilitación

En Análisis Grupal: Sesgos en Recomendaciones, pida a los estudiantes que comparen datos de entrenamiento con los resultados que produce el algoritmo, destacando las diferencias entre lo esperado y lo real.

Qué observar

Entregue a cada estudiante una tarjeta con el nombre de un algoritmo (ej. recomendación de música, filtro de spam, sistema de recomendación de películas). Pida que escriban una frase explicando cómo podría surgir un sesgo en ese algoritmo y otra frase sobre una posible consecuencia negativa de ese sesgo.

• Analizar
• Evaluar
• Crear
• Toma de Decisiones
• Autogestión

Actividad 02

• Análisis de Estudio de Caso
• 30 min · Individual

Simulación Individual: Algoritmo Sesgado

Estudiantes crean un recomendador simple en Scratch con datos sesgados. Ejecutan pruebas, observan resultados discriminatorios y ajustan datos para equidad. Comparten capturas en foro clase.

¿Qué impacto tienen los sesgos algorítmicos en la toma de decisiones críticas, como la justicia o la salud?

Consejo de Facilitación

Durante la Simulación Individual: Algoritmo Sesgado, asegúrese de que cada estudiante ajuste manualmente los datos y observe cómo cambian los resultados, enfatizando que los sesgos son consecuencia directa de las decisiones humanas.

Qué observar

Plantee la siguiente pregunta al grupo: 'Si un algoritmo de recomendación de noticias prioriza contenido que genera más clics, ¿cómo podría esto afectar la diversidad de información que reciben los usuarios y qué estrategias podríamos implementar para asegurar una visión más equilibrada?'

• Analizar
• Evaluar
• Crear
• Toma de Decisiones
• Autogestión

Actividad 03

• Análisis de Estudio de Caso
• 35 min · Parejas

Debate en Pares: Impactos Críticos

Asigna casos reales de sesgos en justicia o salud. Pares preparan argumentos sobre impactos y soluciones, luego debaten con otra pareja. Vota la clase la mejor mitigación.

¿Cómo se puede diseñar un algoritmo para que sea más justo y equitativo?

Consejo de Facilitación

En el Debate en Pares: Impactos Críticos, asigne roles específicos (por ejemplo, desarrollador, usuario afectado, regulador) para que los argumentos se basen en perspectivas diferentes y no en generalidades.

Qué observar

Presente un breve escenario ficticio sobre un algoritmo de contratación que favorece a candidatos con ciertas universidades. Pregunte a los estudiantes: '¿Qué tipo de sesgo se está manifestando aquí? ¿Qué datos específicos podrían estar causando este sesgo?'

• Analizar
• Evaluar
• Crear
• Toma de Decisiones
• Autogestión

Actividad 04

• Análisis de Estudio de Caso
• 50 min · Grupos pequeños

Diseño Colaborativo: Algoritmo Justo

En grupos, diseñan un algoritmo para becas escolares equitativo, definiendo criterios inclusivos y simulando con hoja de cálculo. Presentan prototipo y justifican equidad.

¿Cómo se identifican los sesgos en los algoritmos de recomendación?

Consejo de Facilitación

En Diseño Colaborativo: Algoritmo Justo, guíe a los grupos para que documenten cada paso de su proceso, desde la selección de datos hasta la prueba del algoritmo, como evidencia de su enfoque ético.

Qué observar

Entregue a cada estudiante una tarjeta con el nombre de un algoritmo (ej. recomendación de música, filtro de spam, sistema de recomendación de películas). Pida que escriban una frase explicando cómo podría surgir un sesgo en ese algoritmo y otra frase sobre una posible consecuencia negativa de ese sesgo.

• Analizar
• Evaluar
• Crear
• Toma de Decisiones
• Autogestión

Algunas notas para enseñar esta unidad

Este tema se enseña mejor cuando los estudiantes experimentan los sesgos en primera persona, no cuando escuchan descripciones abstractas. Evite comenzar con definiciones: en su lugar, muestre un caso real (como un algoritmo de contratación con sesgo de género) y pida a los estudiantes que identifiquen patrones en los datos. La investigación en pedagogía de las ciencias de la computación sugiere que los estudiantes retienen mejor los conceptos cuando ven el impacto inmediato de sus propias decisiones en los resultados del algoritmo.

Al finalizar las actividades, los estudiantes no solo identificarán ejemplos de sesgos algorítmicos en contextos conocidos, sino que también propondrán estrategias realistas para mitigarlos. La evidencia de aprendizaje será su capacidad para explicar cómo los datos influyen en los algoritmos y justificar soluciones basadas en equidad.

---

Cuidado con estas ideas erróneas

• Durante Análisis Grupal: Sesgos en Recomendaciones, escuchará la idea de que los algoritmos son neutrales porque usan matemáticas. Redirija la conversación mostrando cómo los datos de entrenamiento reflejan desigualdades sociales y cómo esas desigualdades se traducen en recomendaciones diferenciadas.

  Tenga preparados ejemplos de distribuciones de datos (como grupos demográficos subrepresentados en conjuntos de entrenamiento) y pida a los estudiantes que comparen los resultados del algoritmo con las expectativas basadas en esos datos.

• Durante Simulación Individual: Algoritmo Sesgado, algunos estudiantes asumirán que agregar más datos resolverá automáticamente los sesgos. Observe esta suposición durante la simulación y pida a los estudiantes que prueben qué pasa cuando añaden datos sin diversificar.

  Guíe a los estudiantes para que modifiquen el conjunto de datos agregando ejemplos de grupos minoritarios y observen si el sesgo se reduce o cambia de forma, destacando que la cantidad no garantiza equidad.

• Durante Debate en Pares: Impactos Críticos, es común escuchar que los sesgos solo afectan a sistemas complejos de inteligencia artificial. Intervenga mencionando algoritmos simples como los de contratación o filtrado de contenido.

  Use ejemplos accesibles como un algoritmo de contratación que favorece a candidatos de ciertas universidades y pida a los estudiantes que identifiquen cómo decisiones humanas en los datos iniciales perpetúan ese sesgo.

---

Metodologías usadas en este resumen

• Análisis de Estudio de Caso