UAI y CPLT lideran piloto en organismos públicos para primera normativa sobre transparencia algorítmica de América Latina

En cuatro instituciones se analizan sistemas de toma de decisiones automatizadas con el fin de transparentar su uso: cómo opera en la asignación de un bono o en la clasificación socioeconómica para el registro social de hogares.

La iniciativa se enmarca en un proceso que culminará con la elaboración de una Instrucción General sobre Transparencia Algorítmica por parte del CPLT, la que establecerá la información que instituciones públicas deben comunicar sobre estos sistemas y su uso.

Siete sistemas de decisiones automatizadas con un alto impacto en la prestación de servicios para la ciudadanía son parte del pilotaje que actualmente impulsan el Consejo para la Transparencia (CPLT) y la Universidad Adolfo Ibáñez (UAI) – a través del proyecto Algoritmos Éticos, Responsables y Transparentes, que cuenta con apoyo de BID Lab – para levantar información sobre algoritmos y su uso en el proceso de toma de decisión de cuatro organismos públicos.

Con estos y otros insumos que se recogerán a través de distintas instancias de participación, entre ellos talleres a cargo de la UAI, se confeccionará la primera Instrucción General sobre Transparencia Algorítmica por parte del CPLT.

Una herramienta que busca transparentar la operación de algoritmos en procesos decisionales por parte del sector público. Por ejemplo, calcular el valor de la cuota de un bono, la clasificación socioeconómica para el Registro Social de Hogares o el Sistema de Admisión Escolar.

Las entidades que están participando en esta instancia de pilotaje son: la Superintendencia de Salud, el Instituto de Previsión Social, la Subsecretaría de Evaluación Social y la Superintendencia de Insolvencia y Reemprendimiento.

Desde el CPLT y la UAI destacaron la relevancia de la fase actual como insumo para la construcción del documento, en que participan sistemas automatizados que se usan actualmente en procesos de toma de decisión que llevan adelante estas instituciones públicas en el ámbito de sus funciones, varios de ellos asociados a prestaciones de uso masivo o políticas públicas y, por ende, con gran impacto ciudadano. Entre ellos destacan: el sistema que permite calcular el valor de la cuota del bono por hijo nacido vivo, del Instituto de Previsión Social; y el algoritmo de cálculo de la Calificación Socioeconómica del Ministerio de Desarrollo Social y Familia.

La iniciativa contempla disponibilizar información sobre las formas en las que operan estos sistemas, de manera de conocer, en lenguaje claro, su funcionamiento y otros aspectos relevantes de estas herramientas. En palabras del titular del presidente del CPLT, Francisco Leturia, estos sistemas “deciden sobre aspectos fundamentales de la vida de las personas, la entrega o no de un subsidio puede depender, en mayor o menor medida, del resultado o del insumo que provea un algoritmo”. Al respecto agregó: “el rol del Consejo para la Transparencia es velar por el derecho de cualquier persona que lo necesite pueda acceder a información que está en poder de instituciones públicas, lo que incluye transparentar en base a qué antecedentes y cómo toman las decisiones en el sector público, incluso cuando utilicen sistemas de decisiones automatizadas o semiautomatizadas los cuales muchas veces pueden resultar opacos, desconocidos o complejos para una mayoría”.

María Paz Hermosilla, directora del GobLab UAI, cuenta que, en un estudio previo (ver www.algoritmospublicos.cl), se observó que “el 80% de los sistemas algorítmicos que está usando el Estado no ofrecen información sobre su funcionamiento, origen de los datos o sobre otros aspectos. Entonces la motivación que está detrás del trabajo con el Consejo tiene que ver con la necesidad del Estado de rendir cuentas y respetar los derechos de las personas”.

¿En qué consiste el piloto?

Las instituciones participantes en el piloto publicaron en el Portal Transparencia (www.portaltransparencia.cl) información sobre una serie de sistemas de decisiones automatizadas que usan para prestar servicios a la ciudadanía. Su objetivo es, por una parte, generar aprendizajes al interior de las organizaciones y detectar las potenciales dificultades que tuvieron para recolectar y disponibilizar la información y, por otro, que usuarios revisen lo publicado y evalúen su utilidad, pertinencia y si es o no fácilmente comprensible, a través de talleres que desarrollarán la UAI y el CPLT.

Se trata de un primer paso para elevar los estándares de transparencia en el uso de esta clase de sistemas por parte del Estado, contribuyendo con ello a que las soluciones tecnológicas cuenten con legitimidad y confianza. Esta es una de las fases que contempló el Consejo en este proceso mediante el que elaborará la primera regulación en la materia elaborando la Instrucción General sobre Transparencia Algorítmica. Dicho documento, inédito en América Latina, busca garantizar mayores niveles de transparencia respecto de, por ejemplo, su efectiva existencia y funcionamiento. Otro de los objetivos del trabajo es que las personas no especializadas en estos temas tengan información disponible y en lenguaje claro sobre estas tecnologías o herramientas, acercando la transparencia a las personas.

Proceso abierto a la ciudadanía

Desde el CPLT y la UAI subrayaron el carácter participativo del proceso que culmina con la Instrucción General y también informaron sobre algunos de los hitos abiertos a la sociedad civil y a la ciudadanía. Por ejemplo, previo a esta fase se desarrollaron mesas de trabajo con más de 20 instituciones públicas y en los próximos días se invitará a diversas organizaciones de la sociedad civil a talleres para presentarles algunos avances. Asimismo, esperan, antes de cerrar el 2022, someter a consulta pública abierta la propuesta de contenidos.