Transparencia algorítmica en el sector público

Los sistemas de decisiones algorítmicas como la inteligencia artificial comienzan a asumir un rol cada vez más relevante en la administración pública facilitando y optimizando la prestación de servicios a los ciudadanos.

Transparencia algorítmica en el sector público

Ver más

Los sistemas de decisiones algorítmicas como la inteligencia artificial comienzan a asumir un rol cada vez más relevante en la administración pública facilitando y optimizando la prestación de servicios a los ciudadanos. La transparencia sobre el funcionamiento de estos sistemas es clave para poder comprender su funcionamiento, promover la rendición de cuentas y prevenir situaciones indeseadas como invasiones a la privacidad, mal uso de datos o discriminación.

Transparencia algorítmica en el sector público

Descripción y resultados esperados

En la primera etapa, se realizará un catastro de sistemas de decisiones automatizadas y semiautomatizadas en el Estado de Chile, a través de información proporcionada voluntariamente por las entidades públicas sujetas a la fiscalización del Consejo para la Trasparencia. Esto permitirá conocer la existencia y uso de este tipo tecnologías en distintas reparticiones del sector público. La segunda etapa realizará un análisis de un grupo de sistemas evaluando la transparencia de estos en base a un marco de referencia internacional adaptado a la Ley 20.285. El resultado de estas actividades permitiría evaluar el desarrollo de una recomendación normativa para asegurar la transparencia algorítmica de los organismos públicos.

Estrategia

Este proyecto se realiza en el marco de una colaboración y asistencia mutua entre la Universidad, a través del GobLab, y el Consejo para la Transparencia, en temáticas vinculadas a la ciencia de datos, transparencia y protección y ética de datos. Este acuerdo surge como una necesidad ante el creciente manejo de datos y de herramientas de automatización, conocidas como inteligencia artificial, algoritmos y otras que apoyan la toma de decisiones en el sector público.

Transparencia Algorítmica en el Sector Público

Esta investigación es un estudio exploratorio sobre la existencia y uso de sistemas de decisiones automatizadas (SDA) en el sector público, cuyo objetivo es conocer un estado del arte del uso de estos sistemas. La información fue obtenida luego de la consulta a 870 servicio públicos, de los cuales un 33% participó, informando finalmente un total de 92 sistemas algorítmicos. El estudio consta de tres partes, primero el catastro de sistemas, luego una selección de 12 de ellos, los que fueron examinados frente a un estándar de transparencia algorítmica y la propuesta final de un estándar de transparencia algorítmica para la administración pública a concretarse mediante una acción normativa del Consejo para la Trasparencia.