Ética en el Modelado y Uso de Datos

El modelado y uso de datos no es solo un ejercicio técnico, es un acto de responsabilidad social. Los estudiantes aprenden mejor cuando experimentan con ejemplos concretos que revelan las consecuencias humanas detrás de los números. La participación activa en debates, investigaciones y reflexiones críticas transforma conceptos abstractos en herramientas para analizar el mundo real.

• 3o de Preparatoria
• Matemáticas
• 3 actividades
• 30 min–50 min

Objetivos de Aprendizaje

1. Analizar casos históricos y contemporáneos donde modelos matemáticos han influido en decisiones de política pública, identificando sus consecuencias sociales.
2. Evaluar críticamente la presencia de sesgos en algoritmos de uso común, explicando cómo pueden perpetuar la discriminación.
3. Diseñar un protocolo básico para la validación ética de un modelo matemático aplicado a un problema social.
4. Sintetizar argumentos sobre el papel del pensamiento crítico frente a la presentación de datos numéricos en medios de comunicación.

Debate Formal

⏱ 50 min·Toda la clase

Debate Formal: El Sesgo del Algoritmo

Se presenta un caso de un algoritmo de selección de personal que discrimina por código postal o género. Los estudiantes deben debatir quién es responsable del error y cómo las matemáticas pueden usarse para corregir o profundizar las desigualdades sociales.

Preparación y detalles

¿Qué consecuencias puede tener un modelo matemático mal diseñado en la política pública?

Consejo de Facilitación: Durante el debate, asigne roles específicos (ej. defensor del algoritmo, crítico social, experto en datos) para asegurar que cada estudiante participe activamente en la discusión.

Setup: Dos equipos frente a frente, asientos de audiencia para el resto

Materials: Tarjeta de proposición del debate, Resumen de investigación para cada lado, Rúbrica de evaluación para la audiencia, Temporizador

• Analizar
• Evaluar
• Crear
• Autogestión
• Toma de Decisiones

Círculo de Investigación

⏱ 45 min·Grupos pequeños

Círculo de Investigación: Privacidad vs. Datos Públicos

Los equipos investigan cómo se protegen los datos personales en México (Ley de Transparencia). Deben debatir en qué casos es ético usar datos privados para el 'bien común' (como en una pandemia) y dónde termina ese derecho.

Preparación y detalles

¿Cómo evitar que los algoritmos perpetúen prejuicios o discriminación?

Consejo de Facilitación: En la investigación sobre privacidad, pídales que comparen al menos dos fuentes con perspectivas opuestas para que practiquen la evaluación crítica de información.

Setup: Grupos en mesas con acceso a fuentes de investigación

Materials: Colección de materiales fuente, Hoja de trabajo del ciclo de indagación, Protocolo de generación de preguntas, Plantilla de presentación de hallazgos

• Analizar
• Evaluar
• Crear
• Autogestión
• Autoconciencia

Pensar-Emparejar-Compartir

⏱ 30 min·Parejas

Pensar-Emparejar-Compartir: ¿Los números mienten?

Los estudiantes discuten en parejas la frase 'las cifras no mienten, pero los mentirosos también cifran'. Deben proponer ejemplos de cómo se puede decir la verdad matemáticamente pero engañar al público con el contexto.

Preparación y detalles

¿Cuál es el papel del pensamiento crítico frente a la 'verdad' de los números?

Consejo de Facilitación: En el Think-Pair-Share sobre números, proporcione datos manipulados en gráficos para que los estudiantes identifiquen visualmente distorsiones comunes.

Setup: Disposición estándar del salón: los estudiantes se giran hacia un compañero

Materials: Consigna de discusión (proyectada o impresa), Opcional: hoja de registro para parejas

• Comprender
• Aplicar
• Analizar
• Autoconciencia
• Habilidades de Relación

Enseñando Este Tema

Este tema requiere un equilibrio entre rigor matemático y sensibilidad ética. Los profesores más efectivos evitan presentar los modelos como 'cajas negras' y, en su lugar, desglosan sus supuestos con ejemplos accesibles. Es clave normalizar el error: muchos algoritmos problemáticos se descubren después de su implementación, así que usar casos reales ayuda a generar humildad intelectual. La pedagogía debe priorizar la práctica reflexiva sobre la transmisión de contenidos.

Qué Esperar

Los estudiantes demuestran comprensión al identificar sesgos en modelos de datos, debatir sobre privacidad con argumentos fundamentados y cuestionar la aparente neutralidad de las matemáticas. El éxito se mide cuando aplican estas habilidades a casos actuales, conectando la teoría con su vida cotidiana.

Cuidado con estas ideas erróneas

Idea errónea común

Durante el Debate: El Sesgo del Algoritmo, watch for students assuming that technology is neutral because it is mathematical.

Qué enseñar en su lugar

Use el momento de apertura del debate para presentar un caso concreto, como el algoritmo COMPAS en Estados Unidos, y pida a los estudiantes que analicen cómo el diseño humano introdujo sesgos en un sistema aparentemente objetivo.

Idea errónea común

Durante la Investigación: Privacidad vs. Datos Públicos, watch for students believing that public data is always safe to use without consequences.

Qué enseñar en su lugar

En la fase de investigación, proporcione un conjunto de datos públicos anonimizados y pídales que intenten reidentificar a los individuos usando información complementaria disponible en redes sociales. Esto revela los riesgos reales de la privacidad.

Ideas de Evaluación

Pregunta para Discusión

Durante el Debate: El Sesgo del Algoritmo, pida a los estudiantes que formulen preguntas críticas sobre un caso real presentado en las noticias. Evalúe la profundidad de sus preguntas, especialmente si cuestionan la procedencia de los datos, los supuestos del modelo y los intereses detrás de su implementación.

Boleto de Salida

Después de la Investigación: Privacidad vs. Datos Públicos, recoja las respuestas de los estudiantes donde expliquen: 'Un ejemplo de cómo un modelo matemático podría usarse de manera no ética en contextos públicos' y 'Una estrategia para mitigar ese uso'. Use esto para identificar lagunas en su comprensión de la privacidad.

Verificación Rápida

Durante el Think-Pair-Share: ¿Los números mienten?, muestre una breve descripción de un algoritmo hipotético para asignar becas. Pida a los estudiantes que identifiquen un posible sesgo y expliquen por qué es problemático para la equidad social. Evalúe sus respuestas para verificar que pueden vincular sesgos técnicos con impactos sociales.

Extensiones y Apoyo

• Challenge: Pida a los estudiantes que diseñen una campaña de concientización en redes sociales sobre el sesgo algorítmico usando memes o infografías basadas en datos reales.
• Scaffolding: Para quienes luchan con el concepto de sesgo, entregue una lista de verificación con preguntas como: '¿Quién recolectó estos datos?', '¿Qué grupos podrían estar subrepresentados?' y '¿Qué decisiones se tomaron para limpiar los datos?'.
• Deeper exploration: Invite a un profesional de ética en IA (vía videollamada) para que comparta cómo se implementan protocolos éticos en empresas tecnológicas actuales.

Vocabulario Clave

Sesgo algorítmico	Tendencia de un algoritmo a favorecer o desfavorecer sistemáticamente a ciertos grupos o resultados, a menudo reflejando prejuicios existentes en los datos de entrenamiento.
Modelado matemático	Proceso de usar conceptos y herramientas matemáticas para describir un sistema del mundo real, con el fin de comprender su comportamiento o predecir resultados.
Privacidad de datos	El derecho de los individuos a controlar la recopilación, uso y divulgación de su información personal.
Responsabilidad social del matemático	La obligación ética de los profesionales de las matemáticas de considerar el impacto social, ético y ambiental de su trabajo.
Transparencia algorítmica	La cualidad de un algoritmo de ser comprensible y explicable en cuanto a su funcionamiento y las decisiones que toma.