Socios del proyecto Algoritmos Éticos inician curso para implementar aspectos de ética de datos en el Estado

El programa de capacitación es clave para formular y ejecutar las guías, herramientas, estándares y normativa que estamos desarrollando con apoyo de BID Lab -el laboratorio de innovación del Grupo BID- y que durante este 2023 ya están entrando en plena vigencia.

La transformación digital de las organizaciones y la utilización de inteligencia artificial y sistemas automatizados tienen como principal desafío el tratamiento ético de los datos y su uso responsable, para resguardar los derechos de las personas y evitar sesgos, discriminación, falta de transparencia y la violación de la privacidad, entre otros potenciales problemas.

Este reto es el tema central que aborda el curso “Implementación de aspectos éticos en proyectos de ciencia datos e inteligencia artificial”, una nueva instancia formativa de seis semanas dictada a través del proyecto Algoritmos Éticos, Responsables y Transparentes y que actualmente cursan 33 funcionarios públicos pertenecientes a las instituciones públicas socias del proyecto.

“Tenemos la misión de generar un cambio en la forma en que los servicios del Estado utilizan los algoritmos que interactúan con la ciudadanía. En este curso, los alumnos podrán comprender los desafíos éticos del uso de datos y el marco regulatorio pero, sobre todo, cómo utilizar las herramientas, guías, estándares y la normativa que hemos desarrollado, en conjunto con sus propias organizaciones, para incorporar requisitos éticos en la formulación, adquisición, diseño y puesta en marcha de sistemas automatizados en el sector público”, señala Romina Garrido, docente del curso y coordinadora de pilotos del proyecto Algoritmos Éticos.

Durante la capacitación los estudiantes conocerán las herramientas técnicas y de gestión para proyectos de ciencia de datos e IA que contienen las bases tipo que realizamos junto a ChileCompra y que ya están aprobadas por la Contraloría. Además conocerán metodologías de evaluación de impacto en protección de datos, herramientas para el análisis de sesgo, descripciones de modelos y auditoría algorítmica.

El curso está compuesto por dos programas. En las primeras tres sesiones, se aprenderán metodologías de gestión, mediante el análisis de casos reales para tratar aspectos normativos, estratégicos y de gestión de datos, y en la segunda parte se aplicarán técnicas para medir sesgos, tales como herramientas de medición de equidad estadística y análisis de transparencia mediante mecanismos contrafactuales, entre otras, al momento de construir el código y modelos de los sistemas.