Estado de la evidencia: Transparencia Algorítmica

Este documento ofrece una revisión bibliográfica sobre la implementación de la transparencia algorítmica en el sector público, examinando la evidencia existente sobre mecanismos para promover transparencia algorítmica así como sus impactos y resultados. Para ello, realizamos búsquedas de palabras clave en bases de datos de publicaciones científicas y motores de búsqueda, revisamos cadenas de citación y pedimos recomendaciones de expertos para identificar documentos clave en la materia. A partir de esta recopilación de información, se llegó a un corpus de 41 documentos relevantes, con información de 2015 a 2022 en inglés y español. De la revisión sistemática de estos documentos, se identificaron múltiples mecanismos para promover la transparencia algorítmica que se agruparon en (1) la divulgación de información, (2) explicaciones y (3) evaluaciones. Estos mecanismos varían en términos de quienes rinden cuenta de sistemas algorítmicos, en qué etapas del sistema y hacia qué tipos de actores o públicos se dirigen. Se pudo constatar que persiste cierta ambigüedad en cuanto a la definición, dimensiones, implementación e impactos de la transparencia algorítmica. Asimismo, se encontró que los resultados de la transparencia algorítmica permanecen poco estudiados, aún cuando se encontraron estudios preliminares sobre los beneficios y límites de la transparencia algorítmica basados en experimentos de escenarios y estudios cualitativos. Por último, se comentan las limitaciones de esta investigación como la amplitud del método de búsqueda que incluyó conceptos muy generales y centrados en el inglés, lo que podría tenerse en cuenta para futuras investigaciones.

Palabras clave: Transparencia algorítmica, Sector Público, IA, Rendición de cuentas.

Este documento se usó como base para el capítulo de la “Guía para los escépticos del Gobierno publicada por la Alianza para el Gobierno Abierto (OGP) https://www.opengovpartnership.org/skeptics-guide-to-open-government-2022-edition/#toc_8

Valderrama, M., Hermosilla, M. P., & Garrido, R. (2023). State of the Evidence: Algorithmic Transparency. Goblab UAI & Open Government Partnership. https://www.opengovpartnership.org/wp-content/uploads/2023/05/State-of-the-Evidence-Algorithmic-Transparency.pdf