Experiencia inédita en América Latina para regular la transparencia algorítmica en entidades estatales

By 29 de July de 2022 Blog

La utilización de algoritmos y sistemas de decisión automatizada (SDA) están presentes en muchos ámbitos de la vida y también en los distintos servicios públicos del Estado. Es por ello que en el proyecto Algoritmos Éticos iniciamos un trabajo conjunto con el Consejo para la Transparencia (CLPT) con el fin de concretar una Instrucción General (IG) inédita en nuestro continente y a la vanguardia a nivel mundial, que permita mejorar los niveles de transparencia sobre los algoritmos que usa el Estado para prestar sus servicios a la ciudadanía.

29 de julio 2022

Experiencia inédita en América Latina para regular la transparencia algorítmica en entidades estatales

La utilización de algoritmos y sistemas de decisión automatizada (SDA) están presentes en muchos ámbitos de la vida y también en los distintos servicios públicos del Estado. Es por ello que en el proyecto Algoritmos Éticos iniciamos un trabajo conjunto con el Consejo para la Transparencia (CLPT) con el fin de concretar una Instrucción General (IG) inédita en nuestro continente y a la vanguardia a nivel mundial, que permita mejorar los niveles de transparencia sobre los algoritmos que usa el Estado para prestar sus servicios a la ciudadanía.

El año 2021 el GobLab UAI celebró un convenio con el Consejo para la Transparencia (CPLT) con el fin de responder una pregunta cuya respuesta intuíamos: ¿Los organismos del Estado están usando algoritmos en sus sistemas de toma de decisión?  Nuestra inquietud fue bien recibida y a través de una solicitud de información que el Consejo hizo a las cerca de 870 entidades bajo su supervisión pudimos elaborar un primer catastro de sistemas algorítmicos.

Así supimos que, efectivamente, ya había sistemas automatizados, inteligencia artificial y algoritmos solucionando problemas críticos en múltiples servicios y en áreas tan diversas como salud, educación y agricultura, por mencionar algunas. Pero, además, este estudio nos permitió observar que existen importantes asimetrías en los niveles de transparencia que se ofrecen a la ciudadanía respecto de quién, cómo y cuándo se usan.

Es por esto que este año la UAI volvió a unirse al CPLT, esta vez, a través del proyecto Algoritmos Éticos, Responsables y Transparentes -que ejecutamos en la Universidad con apoyo de BID Lab-, con el objetivo de mejorar las brechas en transparencia algorítmica en el Estado, un asunto que resulta fundamental para la confianza y la legitimidad social de soluciones y prestaciones que impactan directamente la vida de las personas.

Este segundo convenio (ver nota) permitirá el desarrollo de una Instrucción General (IG) con que el Consejo mandatará a sus organismos regulados en materias de transparencia algorítmica, lo que convertirá a Chile en el primer país latinoamericano en regular esta materia y ubicará a nuestro país en la vanguardia mundial al respecto.

En términos prácticos, con la entrada en vigencia de la IG -planificada para fines de 2022-  los usuarios podrían saber si al consultar a un organismo público la respuesta obtenida proviene de una persona o de un chat automatizado, o si en la entrega de un determinado subsidio o beneficio hay un modelo algorítmico apoyando la toma de decisiones, por mencionar algunas posibilidades.

Desde el equipo del proyecto Algoritmos Éticos de la UAI, estamos prestando asesoría técnica a este proceso, trabajo que ya comenzó hace unos meses y está orientado justamente a definir qué aspectos o tipos de información exigirá la normativa. Partimos en abril con mesas de trabajo con distintos servicios públicos, actualmente estamos en el desarrollo de pilotos para probar la aplicabilidad de la propuesta y posteriormente se realizará una consulta pública, de manera de lograr crear una IG coherente y efectiva tanto para los actuales como para los futuros algoritmos que se implementen en el Estado.

Y si bien esto ya es un gran avance, debemos seguir trabajando sin descanso para profundizar en herramientas que encausen éticamente el uso de datos, ya que la incorporación de algoritmos e inteligencia artificial en nuestras vidas va a una velocidad difícil de replicar.

Romina Garrido es investigadora asociada del GobLab UAI, abogada de la Universidad de Valparaíso y máster en Derecho de las Nuevas Tecnologías de la Universidad de Chile.