¿Cómo se puede transparentar el uso que las organizaciones hacen de algoritmos en procesos de toma de decisiones automatizados? Bajo esta premisa y en el marco de desarrollo y entendimiento de nuevas tecnologías, el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez, GobLab, en conjunto con el Consejo para la Transparencia (CPLT) realizaron la charla “Preparando a las organizaciones para la transparencia de los algoritmos”.
Algoritmos y Datos: Transparencia en la toma de decisiones
23 de octubre 2020
¿Cómo se puede transparentar el uso que las organizaciones hacen de algoritmos en procesos de toma de decisiones automatizados? Bajo esta premisa y en el marco de desarrollo y entendimiento de nuevas tecnologías, el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez, GobLab, en conjunto con el Consejo para la Transparencia (CPLT) realizaron la charla “Preparando a las organizaciones para la transparencia de los algoritmos”.
La presentación estuvo a cargo de las expositoras Daniela Moreno Tacchi, Directora de Estudios del CPLT, Romina Garrido, Directora de Privacy Consulting e investigadora asociada del GobLab, y María Paz Hermosilla, Directora de GobLab UAI.
En la charla se explicó el uso de algoritmos en el procesamiento de datos y por qué su utilización debe ser transparentada al público. Las expositoras plantearon que una mayor transparencia puede generar un positivo cambio en las instituciones, organizaciones, empresas y personas.
¿Por qué importa?
Los algoritmos se están utilizando cada vez más para tomar decisiones que afectan la vida de las personas, como otorgar un crédito, recibir un subsidio estatal o identificar a un sospechoso de un crimen.
La Directora de Estudios del CPLT, Daniela Moreno Tacchi, hizo hincapié en los riesgos que pueden existir en el uso de algoritmos, tales como discriminación, asimetría de información y riesgo de corrupción o malas prácticas. Planteó que la transparencia en el uso de algoritmos será un habilitador de la fiscalización: “Cada vez que una persona accede a información que antes estaba oculta, está haciendo una exigencia de control social o una práctica de control social”.
Por su parte, María Paz Hermosilla, Directora de GoLab, se refirió a los impactos de los diseños de algoritmos y explicó por qué es importante incorporar el análisis de disparidades al momento de evaluar un modelo, con el objetivo de considerar si funciona de manera equitativa en diferentes grupos de la población.“Es muy importante que los algoritmos que afecten a las personas incorporen en su diseño procesos más ponderados, más reflexivos, con mayor escrutinio, con evaluación de impacto, con evaluación de procesos”, dijo Hermosilla.
Durante la presentación, Romina Garrido, Directora de Privacy Consulting, hizo hincapié en que “las organizaciones privadas no tienen que esperar una nueva ley de datos personales para ir mejorando sus prácticas, el derecho a la protección de datos está contenido en la Constitución. Hay que darle contenido, forma, partiendo por ejemplo con garantizar la transparencia en el uso de datos en las decisiones automatizadas a través de la explicación”.
Si quieres saber más sobre buenas prácticas de transparencia y rendición de cuentas de sistemas de toma de decisión automatizadas, puedes ver el vídeo completo aquí.
