En colaboración con múltiples instituciones públicas, fueron presentados dos instrumentos de libre acceso para medir transparencia algorítmica, sesgos y equidad estadística de sistemas.
GobLab UAI presenta herramientas para desarrollo responsable de la inteligencia artificial en el Estado
18 de junio 2024
Ante un centenar de innovadores públicos, fueron presentadas la “Ficha de transparencia algorítmica” y la herramienta “Medición de sesgos y equidad estadística”. Ambas fueron diseñadas por la Universidad Adolfo Ibáñez (UAI) en el marco de un proyecto con financiamiento de ANID para ayudar a las instituciones públicas y a sus proveedores tecnológicos a desarrollar e implementar inteligencia artificial (IA) con estándares éticos y de responsabilidad.
El encuentro fue encabezado por la ministra de Ciencia, Aisén Etcheverry; el director de la Secretaría de Gobierno Digital, José Inostroza; y la decana de la Escuela de Gobierno de la UAI, María José Naudon.
En la bienvenida, la ministra Aisén Etcheverry indicó que “estas herramientas son parte de la hoja de ruta y del Plan de Acción de la Política de IA, y son esenciales porque le entregan a los servicios que están involucrados lo que necesitan para poder efectivamente implementarlo. Además, estamos tramitando dos proyectos de ley -el de protección de datos personales y el de inteligencia artificial- que van a hacer de estas exigencias una obligación legal, no solo ética. Así que el llamado es a aprovechar que estas herramientas están disponibles y que además va a haber un acompañamiento por parte de la UAI en su implementación para no quedarse atrás.”
Por su parte, la decana María José Naudon señaló que “sabemos que la IA tiene el potencial de mejorar procesos, productos y servicios que impactan positivamente la vida de las personas, y eso nos entusiasma. Pero también tenemos la certeza de que va a generar nuevos desafíos sociales y éticos. Es por eso que desde la Universidad Adolfo Ibáñez ponemos a disposición del sector público, y sus proveedores tecnológicos, dos herramientas concretas que les permitirán evaluar y mitigar riesgos e implementar sus sistemas con altos estándares éticos y de transparencia.”
La presentación de las herramientas fue liderada por María Paz Hermosilla, directora del GobLab UAI -el laboratorio de innovación pública de la Escuela de Gobierno de dicha casa de estudios- quien destacó que se trata de “recursos gratuitos, de código abierto y en español que son parte del Plan de Acción de la Política Nacional de Inteligencia Artificial (IA) y que se adelantan a la legislación que se está promoviendo actualmente en la materia”.
Además, invitó a los organismos públicos a hacerse parte del proceso de pilotaje que permitirá tanto perfeccionar las herramientas como orientar y acompañar a los interesados en su implementación.
Durante el encuentro se realizó un panel técnico que permitió a los asistentes conocer en detalle y de primera mano la experiencia de quienes han probado este tipo de herramientas junto al GobLab, previamente, a través de iniciativas piloto.
Así, José Francisco Silva, jefe del Proyecto No Cobros del IPS, contó cómo trabajaron en varias instancias con la UAI para medir si su modelo predictivo tenía o no sesgos; por su parte Rodrigo Moya, jefe de la Unidad de Transformación Digital, Innovación y Proyectos de la SUSESO explicó cómo y por qué medirán sesgos y equidad en procesos de reclamación de licencias médicas y seguros; y finamente Cristián González, jefe de Gestión en la Información del Servicio Civil detalló cómo ha sido trabajar con la ficha de transparencia del modelo en concursos de Alta Dirección Pública.
Metodología de pilotaje
Si bien esta convocatoria es nueva, se trata de la continuación de un trabajo que comenzó en 2020 junto a BID Lab y que, a través de la creación de estas herramientas y otros productos, ha llevado a la Universidad Adolfo Ibáñez y sus socios en esta iniciativa -el Ministerio de Ciencia, ChileCompra, Gobierno Digital, el IPS, la SUSESO, el Servicio Civil y el Consejo para la Transparencia- a liderar un proceso de implementación práctica de IA responsable único en el mundo.
En la actual convocatoria, pueden participar proyectos de ciencia de datos o inteligencia artificial en el sector público que estén en fases de desarrollo, implementación o producción, y pueden ser proyectos a cargo de un equipo interno del propio organismo o en conjunto con un proveedor externo.
Toda la información y la postulación a los pilotos está disponible en la plataforma www.algoritmospublicos.cl.
