Diplomado en Evaluación ética de algoritmos

Este diplomado resulta de suma importancia considerando los avances tecnológicos que vivimos como sociedad y la transversalidad de su implementación. Su énfasis responde a demandas propias del contexto nacional y mundial, que avanza a una tecnificación que no debiera quedar aislada de criterios éticos que la fundamenten. Se busca entregar una formación marcada por la capacidad de tomar decisiones informadas, críticas y prudentes sobre los desafíos éticos que las nuevas tecnologías algorítmicas nos plantean en todo tipo de organizaciones, públicas y privadas.

Al capacitarse, los estudiantes podrás distinguir los problemas éticos en diferentes etapas clave, haciéndose responsables de gestionar el uso de estas tecnologías desde una mirada ética-crítica, pudiendo identificar consecuencias indeseadas en nuevos proyectos, así como también retroalimentar implementaciones o soluciones ya realizadas, integrando la ética a sus metodologías de trabajo individuales e institucionales.

El diplomado está dirigido a profesionales y grupos de trabajo interesados en capacitarse en nociones técnicas básicas del diseño, desarrollo e implementación de algoritmos, y su relación con evaluaciones éticas para su implementación a nivel institucional. Para esto, se estudiarán conceptos y técnicas de las ciencias de datos y la inteligencia artificial, tales como qué es un flujo de datos (pipeline), qué tipos de datos se pueden utilizar y para qué, en qué consiste la selección de variables, o aprender a distinguir entre desviación, covariantes, correlación, y causalidad. Asimismo, estos conocimientos se complementarán con el análisis de casos y estudio de principios de la ética aplicada de IA y algoritmos, ahondando en problemas como los sesgos, la injusticia, la discriminación, la responsabilidad, y la transparencia; con el fin de aprender a discernir en qué etapa del desarrollo o implementación de una solución algorítmica se deben hacer ciertas preguntas éticas y cómo enfrentar esos cuestionamientos, aprendiendo metodologías para integrar estas prácticas en los equipos de trabajo institucionales.

El diplomado consta de clases expositivas y análisis de casos, además de talleres de evaluación donde se pondrá en práctica lo estudiado en clases. Se trabajará en la modalidad online clases en vivo (streaming), en la que el alumno mantiene una relación bidireccional con el docente y sus compañeros, apoyándose además de un escritorio virtual (LMS Moodle).

* Los contenidos del Diplomado integran los siguientes lineamientos para el estudio de principios éticos fundamentales en la implementación responsable de la IA: «Pautas de ética para una IA confiable», del Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (AI HLEG) creado por la Comisión Europea; «Política de Inteligencia Artificial» del Ministerio de Ciencia del Gobierno de Chile.

Profesionales de las áreas de ciencias sociales, humanidades o afines, que se desempeñen en cargos de gestión, investigación, o dirección en instituciones privadas con algo impacto social y que estén utilizando o busquen implementar soluciones algorítmicas en su institución. Profesionales de áreas de trabajo de las ciencias de datos, inteligencia artificial o afines que deseen formarse en la evaluación ética de algoritmos, para apoyar en el desarrollo y mejora de iniciativas algorítmicas en su institución. Empresas y organizaciones trabajando en áreas de alto impacto social, tales como: telecomunicaciones, salud, banca, educación, cultura, organizaciones no gubernamentales, entre otras.

Distinguir visiones interdisciplinarias de las éticas aplicadas con enfoque en tecnologías algorítmicas. Identificar conceptos y planteamientos técnicos básicos y fundamentales sobre el diseño e implementación de algoritmos en contextos de alto impacto social. Evaluar proyectos de implementación algorítmica mediante habilidades de análisis crítico y deliberación ética.

Grado de licenciatura, título profesional o mínimo 5 (o más) años de experiencia en uno de los cargos afines mencionados anteriormente.

Se recomienda altamente y a responsabilidad del estudiante, manejar el idioma inglés a nivel lectura, para poder acceder a bibliografía de este curso.

Al final del curso podrás:
– Reconocer los aspectos técnicos básicos y las etapas del desarrollo algorítmico.
– Distinguir elementos de la ética de algoritmos y las etapas del desarrollo algorítmico.
– Aplicar la ética de algoritmos a un caso real.

Contenidos:
Unidad 1: ¿Qué es la IA? ¿Qué es un algoritmo? y ¿Cómo funcionan?
• Introducción a componentes básicos para el desarrollo de la IA.
• Desmitificando la IA: sobre lo que es realmente capaz de hacer.
• Algoritmos y su poder predictivo y de análisis: técnicas de aprendizaje profundo y reforzado.
• Sistemas automatizados para la toma de decisiones.
• La estructura del pipeline de datos y sus etapas metodológicas.
• Identificación de etapas de diseño e implementación.
• Procesos y decisiones: el rol del humano.

Unidad 2: Introducción a la ética de algoritmos
• La ética aplicada a los algoritmos.
• Marcos y principios éticos de la IA.
• ¿Problema de qué o quién?: responsabilidades en IA.
• Aproximación al análisis de casos de algoritmos de alto impacto social.

Al final del curso podrás:
– Comprar las limitaciones y beneficios de la ética y su aplicación interdisciplinaria en base a la identificación de problemas de la misma índole.
– Discutir casos generales y de realidad nacional sobre el impacto de las tecnologías disruptivas como los algoritmos en la sociedad.

Contenidos:
Unidad 1: Filosofía de la tecnología: nueva ética en una sociedad tecnificada
• Visiones sociotécnicas de la revolución algorítmica.
• Cuestionamientos críticos a las tecnologías disruptivas.
• Impacto de las tecnologías en dinámicas sociales.

Unidad 2: Desafíos de las tecnologías de datos: una mirada desde el derecho
• Políticas y gestión de la IA a nivel público y privado.
• Limitaciones de regulaciones actuales.
• Directrices legales para la evaluación de problemas éticos en la IA.

Al final del curso podrás:
– Examinar áreas y metodologías clave para la evaluación ética de algoritmos.
– Relacionar criterios éticos y técnicos con estrategias de evaluación crítica y preventiva aplicadas a contextos de gestión y liderazgo de proyectos basados en el uso de algoritmos.
– Analizar casos de aplicación de algoritmos desde una metodología de deliberación ética reflexiva.

Contenidos:
Unidad 1: Problemas en el diseño e implementación de algoritmos.
• Elementos ético-técnicos para la evaluación de proyectos de IA.
• Elementos éticos-legales en auditorías algorítmicas.
• Etapas para la deliberación ética en el desarrollo de algoritmos.

Unidad 2: Áreas clave y estrategias de evaluación I
• Transparencia, explicabilidad e interpretabilidad.
• Sesgos, discriminación y justicia.
• Privacidad y seguridad.

Unidad 3: Áreas clave y estrategias de evaluación II
• Responsabilidad y retroalimentación.
• Bienestar y sustentabilidad.
• Fiabilidad y confianza.

Al final del curso podrás:
– Justificar decisiones desde un análisis crítico en el proceso de evaluación ética de los algoritmos.
– Resolver desafíos prácticos de aplicación de algoritmos desde la deliberación ética.
– Aplicar los conocimientos teóricos sobre ética de algoritmos, ética de IA, y desarrollo técnico a los procesos evaluativos de un proyecto algorítmico con impacto social.

Contenidos:
Unidad 1: Evaluando algoritmos de alto impacto social.
• Evaluaciones de riesgo e impacto social.
• Revisión de: marcos éticos basados en derechos humanos y protocolos de auditoría.
• Revisión y contraste de marcos éticos basados en principios.
• Directrices para escoger y aplicar diferentes marcos evaluativos.