Recomendación de Transparencia Algorítmica

Este 30 de agosto de 2024, se dio a conocer en el Diario Oficial la Resolución Exenta N.º 372 de 2024 del Consejo para la Transparencia (CPLT), que aprueba las recomendaciones sobre transparencia algorítmica. Estas recomendaciones, son el fruto de un trabajo previo de análisis de los antecedentes existentes en la materia: normas legales y administrativas, y políticas y recomendaciones de servicios públicos competentes. Asimismo, consideró iniciativas del sector privado, la sociedad civil y la academia. Dentro de estas últimas, destaca el trabajo conjunto que realizó el CPLT con la Universidad Adolfo Ibáñez, consistente en un estudio realizado el 2021 que detectó el uso de sistemas de decisiones automatizadas y semiautomatizadas (SDA) en instituciones públicas en Chile, dando cuenta de la necesidad de mejorar diversos ámbitos relacionados con la transparencia de dichos sistemas.

Al respecto, el presidente del CPLT, Bernardo Navarrete, sostuvo: “Las recomendaciones de transparencia algorítmica son el resultado del esfuerzo por avanzar en mayor transparencia y explicabilidad de los sistemas de decisiones automatizadas y semiautomatizadas, sobre todo cuando estos son utilizados por los órganos públicos para la provisión de bienes y servicios a la ciudadanía. En el contexto en que hoy nos encontramos, resulta fundamental que la información sobre estos sistemas de decisiones se conozca y se publique en los sitios web de los servicios de forma clara, accesible y actualizada.

Además, añadió: “Según nuestros registros son cada vez más los servicios que utilizan estos sistemas en el ejercicio de sus competencias públicas. Ya en 2021, identificamos el uso de 92 sistemas de decisiones automatizadas o semiautomatizadas, en 42 instituciones públicas en Chile. Sin embargo, hay un déficit en la información que se conoce de ellos, cómo operan, sus lógicas, qué datos utilizan y cómo se puede reclamar de sus decisiones”.

Con estas recomendaciones, el CPLT orienta a los órganos públicos sujetos a la Ley de Transparencia, sobre cómo publicar de modo uniforme y sistematizado la información de relevancia respecto de sus sistemas de decisiones automatizadas y semiautomatizadas.

Las recomendaciones del CPLT sobre transparencia algorítmica fueron aprobadas por su Consejo Directivo el 1 de agosto de 2024. Estas constituyen buenas prácticas destinadas a que los sujetos obligados bajo la Ley de Transparencia avancen en torno a la transparencia en el uso de los SDA. Los SDA son tecnologías o sistemas que ayudan, asisten, apoyan o reemplazan la toma de decisiones por parte de un individuo en un organismo público, y que luego se plasma en un acto administrativo.

Por su parte, Romina Garrido, subdirectora del GobLab de la Universidad Adolfo Ibáñez, destacó: “Celebramos con gran entusiasmo la publicación de esta recomendación, que es fruto de un trabajo colaborativo de dos años junto al Consejo para la Transparencia, este hito representa un avance significativo en la regulación de algoritmos en el sector público. La amplia participación de entidades públicas y las múltiples interacciones de esta iniciativa en su gestación dan cuenta del amplio consenso en la necesidad de transparencia en este sentido.  El Consejo demuestra una vez más su liderazgo en América Latina al impulsar la transparencia y la ética en el uso de algoritmos en la gestión pública”.

Las recomendaciones se dividen en dos partes. La primera parte trata sobre recomendaciones generales de transparencia en el contexto de los SDA, incluyendo aspectos como el uso de lenguaje claro en la entrega de información, transparencia en la contratación y desarrollo de SDA, y en herramientas de atención al público. Por otro lado, se establecen directrices sobre los sistemas de caja negra o similares, sugiriendo que se privilegie el uso de SDA que permitan un efectivo monitoreo y promuevan la rendición de cuentas. También se incluyen consideraciones sobre el ejercicio del derecho de acceso en solicitudes relacionadas con SDA y la concurrencia de causales de secreto o reserva de la información.

La segunda parte de las recomendaciones se refiere a transparencia proactiva, buscando que los organismos mantengan publicada cierta información sobre los SDA que pueda afectar los derechos fundamentales de las personas o su acceso a servicios y beneficios. Para esto, se contemplan tres subtemas con la información a publicar: los SDA utilizados por el sujeto obligado, los servicios o trámites en los que se utilizan los SDA, y aspectos generales del funcionamiento de los SDA como su objetivo, la lógica del sistema y las categorías de datos que utiliza.