Matemáticas · 3o de Preparatoria · Proyecto de Modelación Matemática Integral · Integración de Saberes

Ética en el Modelado y Uso de Datos

Reflexión sobre la responsabilidad del matemático en la interpretación de la realidad social.

• Aprendizajes Esperados SEP
• SEP.EMS.PM11
• SEP.EMS.PM12

Acerca de este tema

La ética en el modelado y uso de datos es una reflexión necesaria sobre el poder de las matemáticas en la sociedad. En este tema, los estudiantes de tercer año de preparatoria analizan cómo los algoritmos y modelos pueden perpetuar prejuicios, discriminar grupos o ser usados para manipular la opinión pública. Es una lección sobre la responsabilidad social del científico.

Los alumnos exploran casos donde modelos mal diseñados tuvieron consecuencias reales en la política o la economía. El currículo de la SEP fomenta el pensamiento crítico frente a la 'objetividad' de los números. El aprendizaje activo mediante debates sobre privacidad, sesgos algorítmicos y el impacto de la inteligencia artificial permite que los estudiantes desarrollen una conciencia ética que guíe su futuro uso de la tecnología.

Preguntas Clave

1. ¿Qué consecuencias puede tener un modelo matemático mal diseñado en la política pública?
2. ¿Cómo evitar que los algoritmos perpetúen prejuicios o discriminación?
3. ¿Cuál es el papel del pensamiento crítico frente a la 'verdad' de los números?

Objetivos de Aprendizaje

• Analizar casos históricos y contemporáneos donde modelos matemáticos han influido en decisiones de política pública, identificando sus consecuencias sociales.
• Evaluar críticamente la presencia de sesgos en algoritmos de uso común, explicando cómo pueden perpetuar la discriminación.
• Diseñar un protocolo básico para la validación ética de un modelo matemático aplicado a un problema social.
• Sintetizar argumentos sobre el papel del pensamiento crítico frente a la presentación de datos numéricos en medios de comunicación.

Antes de Empezar

Introducción a la Estadística Descriptiva

Por qué: Los estudiantes necesitan comprender conceptos básicos como media, mediana, moda y desviación estándar para analizar datos y detectar posibles manipulaciones o sesgos.

Funciones y Gráficas

Por qué: La visualización de datos a través de gráficas es fundamental para interpretar modelos y detectar patrones o anomalías que puedan indicar un mal diseño o uso.

Probabilidad Básica

Por qué: Una comprensión de la probabilidad es necesaria para entender cómo se construyen los modelos predictivos y las incertidumbres asociadas a sus resultados.

Vocabulario Clave

Sesgo algorítmico	Tendencia de un algoritmo a favorecer o desfavorecer sistemáticamente a ciertos grupos o resultados, a menudo reflejando prejuicios existentes en los datos de entrenamiento.
Modelado matemático	Proceso de usar conceptos y herramientas matemáticas para describir un sistema del mundo real, con el fin de comprender su comportamiento o predecir resultados.
Privacidad de datos	El derecho de los individuos a controlar la recopilación, uso y divulgación de su información personal.
Responsabilidad social del matemático	La obligación ética de los profesionales de las matemáticas de considerar el impacto social, ético y ambiental de su trabajo.
Transparencia algorítmica	La cualidad de un algoritmo de ser comprensible y explicable en cuanto a su funcionamiento y las decisiones que toma.

Cuidado con estas ideas erróneas

Idea errónea común

Creer que porque un modelo es matemático, es automáticamente neutral y justo.

Qué enseñar en su lugar

Los modelos reflejan los sesgos de quienes los crean y de los datos que usan. Es vital enseñar a cuestionar la procedencia de los datos y los supuestos del modelo para identificar posibles injusticias ocultas tras la apariencia de objetividad.

Idea errónea común

Pensar que la ética es solo para filósofos y no para matemáticos.

Qué enseñar en su lugar

En el mundo moderno, las decisiones matemáticas afectan a millones. Las actividades de análisis de impacto social ayudan a los estudiantes a ver que cada línea de código o ecuación tiene una dimensión ética ineludible.

Ideas de aprendizaje activo

Debate Formal: El Sesgo del Algoritmo

Se presenta un caso de un algoritmo de selección de personal que discrimina por código postal o género. Los estudiantes deben debatir quién es responsable del error y cómo las matemáticas pueden usarse para corregir o profundizar las desigualdades sociales.

50 min·Toda la clase

Círculo de Investigación: Privacidad vs. Datos Públicos

Los equipos investigan cómo se protegen los datos personales en México (Ley de Transparencia). Deben debatir en qué casos es ético usar datos privados para el 'bien común' (como en una pandemia) y dónde termina ese derecho.

45 min·Grupos pequeños

Pensar-Emparejar-Compartir: ¿Los números mienten?

Los estudiantes discuten en parejas la frase 'las cifras no mienten, pero los mentirosos también cifran'. Deben proponer ejemplos de cómo se puede decir la verdad matemáticamente pero engañar al público con el contexto.

30 min·Parejas

Conexiones con el Mundo Real

• En el sistema de justicia penal de Estados Unidos, algoritmos como COMPAS se han utilizado para predecir la reincidencia de los acusados, pero estudios han mostrado que pueden tener sesgos raciales, afectando las decisiones sobre fianzas y sentencias.
• Las plataformas de redes sociales emplean modelos matemáticos para personalizar el contenido que ven los usuarios. La forma en que estos modelos priorizan la información puede influir en la polarización política y la difusión de desinformación.
• Los modelos de predicción de riesgo crediticio desarrollados por instituciones financieras como Banamex o BBVA determinan quién recibe un préstamo. Si estos modelos no consideran adecuadamente factores socioeconómicos diversos, pueden excluir injustamente a ciertos solicitantes.

Ideas de Evaluación

Pregunta para Discusión

Presente a los estudiantes un titular de noticia que utilice estadísticas para respaldar una afirmación política. Pregunte: '¿Qué preguntas críticas deberíamos hacer sobre los datos y el modelo detrás de esta afirmación para determinar su validez y posibles sesgos?'

Boleto de Salida

Pida a los estudiantes que escriban en un papel: 'Un ejemplo de cómo un modelo matemático podría usarse de manera no ética' y 'Una estrategia para mitigar ese uso no ético'. Recoja las respuestas al final de la clase.

Verificación Rápida

Muestre a los estudiantes una breve descripción de un algoritmo hipotético (ej. para asignar becas). Pregunte: 'Identifiquen un posible sesgo en este algoritmo y expliquen por qué es problemático para la equidad social.' Evalúe las respuestas para comprender su capacidad de identificar sesgos.

Preguntas frecuentes

¿Qué es el sesgo algorítmico?

Es cuando un modelo matemático produce resultados sistemáticamente injustos o discriminatorios hacia ciertos grupos. Esto suele ocurrir porque los datos usados para entrenar el modelo ya contenían prejuicios humanos históricos.

¿Por qué es importante la transparencia en el modelado?

Porque permite que otros revisen los supuestos y métodos del modelo. La transparencia es la única forma de detectar errores, sesgos o manipulaciones, garantizando que los resultados sean confiables y éticos.

¿Cómo ayuda el aprendizaje activo en la ética de datos?

Al participar en debates y análisis de casos reales de discriminación algorítmica, los estudiantes dejan de ver a las matemáticas como algo puramente técnico. Desarrollan una sensibilidad social que les permite cuestionar el uso de la tecnología en su entorno.

¿Cuál es la responsabilidad de un analista de datos?

Su responsabilidad es asegurar la calidad de los datos, ser honesto sobre las limitaciones de sus modelos y considerar siempre el impacto humano de sus conclusiones antes de presentarlas como verdades absolutas.