Impacto de la Tecnología en la Sociedad y el Medio Ambiente · 2do Semestre

Ética en el Desarrollo de Software

Los estudiantes evalúan las implicancias morales de los algoritmos y el software en la vida cotidiana y la sociedad.

Acerca de este tema

La ética en el desarrollo de software guía a los estudiantes de octavo básico a evaluar las implicancias morales de algoritmos y programas en la vida cotidiana y la sociedad. Analizan casos reales como la responsabilidad en accidentes de autos autónomos, el impacto de algoritmos de redes sociales en la salud mental y la opinión pública, y principios éticos para desarrolladores en Chile. Esto cumple con la OA TEC 8oB de MINEDUC sobre ética y responsabilidad tecnológica, fomentando una visión crítica de la tecnología.

En la unidad de Impacto de la Tecnología en la Sociedad y el Medio Ambiente, los estudiantes conectan estos conceptos con debates locales sobre privacidad de datos, sesgos en inteligencia artificial y regulaciones chilenas. Desarrollan competencias como argumentación ética, empatía social y propuesta de soluciones responsables, esenciales para ciudadanos digitales informados.

El aprendizaje activo beneficia este tema porque actividades como debates y role-playing convierten dilemas abstractos en experiencias personales. Los estudiantes practican toma de decisiones colectivas, fortalecen habilidades comunicativas y construyen consensos éticos mediante interacción directa.

Objetivos de Aprendizaje

• Analizar casos concretos de sesgos algorítmicos en plataformas digitales y sus efectos en la toma de decisiones.
• Evaluar las responsabilidades éticas de los desarrolladores de software frente a dilemas como la privacidad de datos y la equidad.
• Comparar diferentes marcos éticos aplicables al desarrollo tecnológico en el contexto chileno.
• Criticar el impacto de los algoritmos de redes sociales en la formación de la opinión pública y la salud mental de los usuarios.
• Diseñar propuestas de principios éticos para guiar el desarrollo de software en Chile, considerando su contexto social.

Antes de Empezar

Introducción a la Programación y Algoritmos Básicos

Por qué: Los estudiantes necesitan una comprensión fundamental de cómo funcionan los algoritmos para poder analizar sus implicaciones éticas.

Impacto de la Tecnología en la Vida Cotidiana

Por qué: Haber reflexionado previamente sobre cómo la tecnología afecta sus vidas facilita la conexión con los dilemas éticos más complejos.

Vocabulario Clave

Algoritmo	Un conjunto de instrucciones o reglas definidas y ordenadas que permiten resolver un problema o realizar una tarea específica en una computadora. En el contexto ético, se analiza cómo estos pueden perpetuar sesgos.
Sesgo algorítmico	Tendencia de un algoritmo a producir resultados sistemáticamente erróneos o injustos, a menudo reflejando prejuicios humanos presentes en los datos con los que fue entrenado.
Privacidad de datos	El derecho de las personas a controlar cómo se recopila, usa, almacena y comparte su información personal. Es un punto clave en la ética del desarrollo de software.
Responsabilidad tecnológica	La obligación moral y legal de los creadores y usuarios de tecnología para considerar y mitigar los impactos negativos de sus creaciones en la sociedad y el medio ambiente.
Inteligencia Artificial (IA)	Capacidad de las máquinas para realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, la resolución de problemas y la toma de decisiones. Su desarrollo plantea importantes desafíos éticos.

Ideas de aprendizaje activo

Debate en Parejas: Autos Autónomos

Parejas analizan un caso de accidente fatal causado por un auto autónomo. Cada uno defiende una posición: responsabilidad del programador o del usuario. Concluyen con un principio ético compartido y lo presentan al grupo.

⏱ 30 min·Parejas

Generar misión

Análisis Grupal: Algoritmos de Redes Sociales

Grupos pequeños revisan ejemplos de feeds manipulados que afectan la salud mental. Identifican sesgos, discuten impactos y proponen cambios éticos. Registran hallazgos en un póster compartido.

⏱ 45 min·Grupos pequeños

Generar misión

Role-Play en Clase: Desarrolladores Éticos

La clase se divide en roles: desarrolladores, usuarios y reguladores chilenos. Simulan una reunión para decidir sobre un algoritmo controvertido. Votan principios éticos al final.

⏱ 50 min·Toda la clase

Generar misión

Cuestionario Individual: Principios Éticos

Estudiantes responden individualmente a dilemas éticos chilenos, como protección de datos. Luego, discuten respuestas en círculo para refinar ideas colectivas.

⏱ 25 min·Individual

Generar misión

Conexiones con el Mundo Real

Empresas tecnológicas chilenas, como las que desarrollan aplicaciones de gestión de recursos hídricos o sistemas de votación electrónica, deben considerar la equidad y la transparencia en sus algoritmos para evitar discriminación.

El debate sobre la regulación de la inteligencia artificial en Chile, impulsado por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, busca establecer lineamientos éticos para prevenir usos indebidos y proteger a los ciudadanos.

Los desarrolladores de aplicaciones de salud mental en Chile enfrentan el reto ético de diseñar interfaces y algoritmos que no exacerben la ansiedad o la dependencia, protegiendo la privacidad de datos sensibles de los usuarios.

Cuidado con estas ideas erróneas

Idea errónea común

Los programadores no son responsables de los errores del software porque la máquina decide sola.

Qué enseñar en su lugar

La responsabilidad recae en los desarrolladores por diseñar algoritmos con sesgos o fallos previsibles. Debates en parejas ayudan a los estudiantes a desarmar esta idea, comparando casos reales y construyendo argumentos éticos sólidos.

Idea errónea común

La ética en software solo afecta a grandes empresas, no a usos cotidianos.

Qué enseñar en su lugar

Los algoritmos influyen diariamente en recomendaciones y decisiones personales. Análisis grupales de apps comunes revelan impactos locales, fomentando empatía y conciencia mediante discusión colaborativa.

Idea errónea común

En Chile no hay regulaciones éticas para tecnología.

Qué enseñar en su lugar

Existen guías de MINEDUC y leyes de datos personales. Role-playing de escenarios nacionales corrige esto, permitiendo a estudiantes proponer mejoras éticas en contexto real.

Ideas de Evaluación

Pregunta para Discusión

Presente a los estudiantes el siguiente escenario: 'Un algoritmo de selección de personal, entrenado con datos históricos de una empresa, tiende a descartar a candidatas mujeres para puestos de alta gerencia. ¿Quién es el principal responsable de este sesgo: el programador, la empresa que proporcionó los datos, o la propia IA?'. Guíe la discusión pidiendo a los estudiantes que justifiquen sus respuestas basándose en los conceptos de responsabilidad y sesgo algorítmico.

Boleto de Salida

Entregue a cada estudiante una tarjeta. Pídales que escriban el nombre de una tecnología que usen frecuentemente (ej. red social, videojuego, asistente virtual) y que describan un posible dilema ético asociado a su diseño o uso. Deben proponer una solución o principio ético que podría aplicarse para mitigar ese dilema.

Verificación Rápida

Muestre a los estudiantes dos titulares de noticias sobre tecnología y sociedad (uno positivo, uno negativo). Pida que identifiquen qué principio ético (ej. privacidad, equidad, transparencia) podría estar en juego en cada caso y expliquen brevemente por qué. Recopile las respuestas para verificar la comprensión.

Preguntas frecuentes

¿Cómo usar aprendizaje activo para enseñar ética en desarrollo de software?

Actividades como debates en parejas sobre autos autónomos o role-playing de dilemas éticos convierten conceptos abstractos en experiencias interactivas. Los estudiantes argumentan posiciones opuestas, empatizan con perspectivas diversas y construyen principios compartidos. Esto fortalece habilidades críticas y hace el tema relevante para su vida diaria, alineado con OA TEC 8oB. (62 palabras)

¿Quién es responsable en un error fatal de auto autónomo?

La responsabilidad es compartida: programadores por algoritmos defectuosos, empresas por pruebas insuficientes y reguladores por normas laxas. En Chile, principios éticos guían a desarrolladores a priorizar vidas humanas. Discusiones activas ayudan a estudiantes a evaluar casos y proponer soluciones locales. (58 palabras)

¿Cómo afectan los algoritmos de redes sociales a la salud mental?

Promueven contenido adictivo y polarizado, aumentando ansiedad y sesgos. En octavo básico, analizar feeds personales revela manipulaciones. Actividades grupales fomentan conciencia y propuestas éticas para plataformas. (52 palabras)

¿Qué principios éticos deben guiar a desarrolladores en Chile?

Transparencia, no discriminación, privacidad y beneficio social, según guías MINEDUC. Estudiantes aplican estos en role-plays locales, debatiendo IA en educación o salud. Esto prepara para ciudadanía responsable. (54 palabras)