(Español) Segundo informe anual del Repositorio de Algoritmos Públicos: Fomentando la transparencia y una mejor toma de decisiones

Con la presencia de expertos nacionales e internacionales, se presentó el segundo informe anual del Repositorio de Algoritmos Públicos 2023. El estudio es la única instancia en Chile que visibiliza las formas en que el Estado toma decisiones con sistemas automatizados o semiautomatizados.

Creado para contribuir a la transformación del sector público mediante ciencia de datos, el Repositorio de Algoritmos Públicos muestra concretamente quiénes, cómo y para qué se usan algoritmos en organismos de todos los poderes del Estado. El año pasado se realizó el primer informe anual de hallazgos de este repositorio organizado por el GobLab, Laboratorio de Innovación Pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), mientras que recientemente se dieron a conocer los resultados del segundo estudio anual.

“El Estado toma decisiones relevantes sobre nuestras vidas, con el apoyo de sistemas automatizados que utilizan algoritmos de reglas o de Inteligencia Artificial. El problema es que la operación de estos sistemas ocurre, muchas veces, sin los grados de transparencia necesarios o deseados”, afirmó Diana Krüger, Decana de la Escuela de Gobierno de la UAI.

Sobre este tema, Carlos Santiso, Jefe de la División Gobierno Digital OCDE, agregó: “el repositorio es una iniciativa muy importante que desde la OCDE estamos siguiendo con mucha atención desde 2019, cuando se adoptaron los principios de Inteligencia Artificial. Asegurar la transparencia de los algoritmos que se están utilizando siempre ha sido un tema clave”.

Los hallazgos

La presentación del segundo informe anual del Repositorio de Algoritmos Públicos estuvo a cargo de María Paz Hermosilla, Directora del GobLab, bajo el título: ¿Qué sabemos de los algoritmos que usa el Estado? “Gracias al chat GPT, la Inteligencia Artificial está dando mucho de qué hablar. Un gran porcentaje de su cobertura ha estado orientada a situaciones futuristas, de escenarios basados, muchas veces, en el temor de lo que esto podría significar para las personas y la sociedad. Hoy, la invitación es a aterrizar este debate a lo que está sucediendo en el sector público de Chile en relación a Inteligencia Artificial y algoritmos”, explicó la ejecutiva.

Para enmarcar la conversación, María Paz compartió tres definiciones: Algoritmo, un conjunto de instrucciones asignadas a un computador para realizar una tarea en particular; Algoritmo Público, sistema automatizado que usa algoritmos simples o complejos para la toma de decisiones, y Transparencia Algorítmica, que apunta a brindar la información necesaria para evaluar e interactuar con los algoritmos, previniendo resultados injustos, arbitrarios o que afecten derechos fundamentales.

Actualmente, el repositorio tiene 75 sistemas de todo tipo de áreas de la política pública, clasificándose en función del gasto público. Salud y asuntos económicos representan casi la mitad de los algoritmos del repositorio, con un 49%, protección del medioambiente, con un 12%, y orden público & seguridad, con un 12% también. Entre los ejemplos expuestos por la directora fue un sistema implementado en el Instituto de Previsión Social que permite encontrar a los dueños de cotizaciones que no han sido identificadas producto de errores en los datos de identificación. “Gracias a su implementación, entre agosto y septiembre de 2019 se resolvió el 72% de las cotizaciones con identificación incorrecta, lo cual significó una disminución de 1 millón 600 mil casos – algunos registrados desde 1997 – a 450 mil”. También se refirió a un algoritmo implementado por la Superintendencia de Educación, cuya misión es fiscalizar más de 18 mil establecimientos – escolares y preescolares – a fin de que velen por una educación de calidad. “Dada la complejidad para supervisarlos a todos, entre 2019 y 2020 se fiscalizó a un 42% del total, mejorando la asertividad de estas muestras a través de modelos basados en Machine Learning. La idea era detectar los establecimientos más propensos al incumplimiento de la normativa educacional. “Gracias a esta solución, la efectividad de las fiscalizaciones aumentó en un 50%, mientras que las efectuadas con Machine Learning un 61% en relación a la efectividad de las tradicionales en el programa de recursos de la subvención escolar preferencial, y de 67% en el Programa de Reconocimiento Oficial”, aseguró María Paz.

En relación a los tipos de tareas que desempeñan los algoritmos, un 29% de los sistemas son de reconocimiento, mientras que un 28% de predicción. “Un 16% apoya la interacción del Estado y las personas, lo que incluye los asistentes virtuales o chatbots”, detalló Hermosilla.

Uno de los hallazgos del informe fue la falta de información respecto del financiamiento de los sistemas. “Solo hay información de un poco más de la mitad de los algoritmos públicos, y de estos solo se conoce el monto para el 54%. Lo anterior implica que está disponible la fuente y el monto de financiamiento en solo el 28% de los sistemas”, indicó Hermosilla.

Cabe destacar que en 6 de cada 10 algoritmos públicos participa alguna institución privada, ya sea ejecutando un sistema (35%) o mediante una alianza público – privada (26%). Otro dato interesante es que el 43% de los proyectos tienen más de un ejecutor.

Un aspecto muy relevante es la distribución territorial de estos algoritmos, puesto que la mitad de ellos alcanza el territorio nacional. Esto se condice con la concentración de los sistemas en el gobierno central y servicios públicos (79%), y solo 8% por las municipalidades.

Conclusiones y desafíos

Como se puede apreciar, los algoritmos muestran espacios de generación de valor público en todo tipo de ámbito, y se requiere contar con más información de los sistemas para su escrutinio público. María Paz comentó que “estamos trabajando para aumentar la disponibilidad de información sobre estos sistemas en alianza con el Consejo para la Transparencia y con el apoyo de BID Lab. Este año se realizará una consulta pública de una normativa vinculante de transparencia algorítmica para el sector público”.

La experta además indicó que es urgente la aprobación de reforma a la ley de Protección de Datos Personales, que contempla exigencias de transparencia y explicabilidad para decisiones automatizadas con datos personales que afecten significativamente a las personas. Tamara Agnic, Vicepresidenta Chile Transparente, quien comentó los hallazgos del informe, planteó que la reforma legal “se requiere para resguardar el uso correcto de los datos personales, mediante un tratamiento adecuado y responsable. Asimismo, que establezca mecanismos para la rendición de cuentas y la revisión independiente de los algoritmos usados por el Estado. Una tarea que hasta el momento ha llevado a cabo con éxito la UAI y el GobLab, pero que falta ser amparada por una ley”.

Para acceder al video completo de la presentación, pinchar aquí