Con asesoría UAI, el CPLT avanza en instrucción de transparencia algorítmica inédita en América Latina

A través del proyecto Algoritmos Éticos, Responsables y Transparente, el Consejo para la Transparencia y la Universidad Adolfo Ibáñez están elaborando una Instrucción General que va a mandatar a las entidades públicas a transparentar información sobre los sistemas automatizados y/o de inteligencia artificial que usan para prestar sus servicios a la ciudadanía.

En un encuentro encabezado por Harald Beyer, rector de la Universidad Adolfo Ibáñez (UAI), y Francisco Leturia, presidente del Consejo para la Transparencia (CPLT), y con la presencia de la decana de la Escuela de Gobierno, Diana Krüger, se anunció el convenio para que ambas instituciones colaboren en la elaboración de una Instrucción General (IG) de transparencia algorítmica, herramienta jurídicamente vinculante que significará un avance decidido en el uso responsable de inteligencia artificial por parte del sector público chileno.

Así, por primera vez en América Latina una entidad encargada de garantizar el derecho a acceder a información pública entregará lineamientos a organismos del Estado para transparentar los sistemas automatizados, algoritmos o IA que están utilizando, y que impactan directamente en servicios prestados a la ciudadanía.

De esta forma se posibilita, por ejemplo, que los usuarios conozcan información relevante sobre el funcionamiento de este tipo de instrumentos y la incidencia en la toma de decisiones: si se están comunicando con una persona o un chat automatizado, o si al postular a algún beneficio, subsidio o beneficio en una entidad pública, el proceso es apoyado por un modelo de decisión algorítmico.

En la reunión, el rector Harald Beyer señaló que “en la Universidad Adolfo Ibáñez nos gusta hacer las cosas distinto y nos motiva poner al servicio del país nuestra capacidad de investigación aplicada”. Por ello, indicó, “apoyar al Consejo para la Transparencia en esta Instrucción General es una experiencia extraordinariamente interesante, y esperamos que a través del objetivo que compartimos, de aumentar los niveles de transparencia, esto sea un trabajo realmente exitoso y se pueda multiplicar más allá de este convenio”.

“Está todo manejado por algoritmos y va a seguir estándolo”, dijo por su parte el titular de Transparencia, quien subrayó que “no puede haber inteligencia artificial, gobierno abierto o toma de decisiones automatizadas si no podemos fiscalizar cómo están hechos los algoritmos”, enfatizó, Francisco Leturia, presidente del CPLT. En esa línea, ejemplificó que “cuando a nosotros nos piden datos de tipo cuántos estudiantes se han becado por tal o cual condición, sería mucho más fácil, más transparente, más simple decirle a la gente: mire, este es el algoritmo”, agregó.

Con la implementación de esta instrucción una cifra cercana a las 870 entidades públicas que están bajo la supervisión del CPLT en materia de acceso a la información deberán informar proactivamente en sus páginas web -sin necesidad de que haya solicitudes de por medio- ciertos aspectos de las tecnologías que están usando. Si bien el tipo de información a publicar se está definiendo aún a través de un proceso participativo, ésta podría incluir especificaciones sobre el modelo y su proveedor, de dónde vienen los datos, y cómo se puede consultar o reclamar, entre otros.

En abril se inició la primera etapa de esta iniciativa conjunta, con la creación de tres mesas de trabajo en que participaron funcionarios y funcionarias 22 instituciones públicas; por estas semanas se comenzará a desarrollar un piloto con dos organizaciones para revisar la aplicabilidad de la instrucción; y, finalmente, se realizará una consulta pública del borrador, con miras a su publicación en diciembre de este año.

Este trabajo del CPLT y la UAI, a través del proyecto Algoritmos Éticos, permitirá así incorporar estándares de transparencia en la implementación, adquisición o desarrollo de sistemas de decisiones en base a algoritmos en el sector público, contribuyendo con ello a que dichas soluciones cuenten con legitimidad y confianza por parte de la ciudadanía.