En la plataforma de Algoritmos Públicos se pueden encontrar estos recursos de libre acceso para medir transparencia algorítmica, sesgos y equidad estadística.
UAI presenta nuevas herramientas para la implementación responsable de inteligencia artificial
27 de mayo 2024
a están disponibles en su versión Beta dos nuevas herramientas gratuitas, estandarizadas, de código abierto, en español y hechas en Chile, diseñadas para ayudar a las instituciones públicas y a sus proveedores tecnológicos a implementar la Política Nacional de Inteligencia Artificial (IA) y a aplicar la circular del Ministerio de Ciencia que entrega lineamientos sobre el tema.
Las herramientas fueron desarrolladas por el equipo del GobLab, el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), en el marco del proyecto Algoritmos Éticos que actualmente se ejecuta con financiamiento ANID (concurso IDeA I+D 2023, proyecto ID23I10357).
Se trata de la “Ficha de transparencia algorítmica”, que puede ser aplicada a modelos de ciencia de datos o de IA de cualquier naturaleza, y la herramienta “Medición de sesgos y equidad estadística”, pensada para sistemas predictivos de clasificación binaria o multiclase.
“Estas dos herramientas están en marcha blanca, por lo tanto estamos buscando servicios públicos que las quieran probar a través de pilotos, con el acompañamiento de nuestro equipo, para chequear y mejorar los niveles de transparencia de sus algoritmos, y para medir los sesgos y la equidad de sus modelos”, explicó María Paz Hermosilla, directora del GobLab UAI.
Metodología de pilotaje
Si bien esta convocatoria es nueva, se trata de la continuación de un trabajo que comenzó en 2020 junto a BID Lab y que, a través de la creación de estas herramientas y otros productos, ha llevado a la Universidad Adolfo Ibáñez y sus socios en esta iniciativa -el Ministerio de Ciencia, ChileCompra, Gobierno Digital, el IPS, la SUSESO, el Servicio Civil y el Consejo para la Transparencia- a liderar un proceso único en el mundo en cuanto a la implementación práctica de IA responsable.
“Todas las herramientas de aplicación de estándares éticos que están disponibles en la plataforma han sido probadas en algoritmos e instituciones reales a través de nuestra metodología, que permite experimentar en la práctica qué significa incorporar estándares éticos. Son muchas las organizaciones que han participado de los procesos anteriores y esperamos que se nos sumen muchas más en esta nueva etapa” señaló María Paz Hermosilla.
En la actual convocatoria, podrán participar proyectos de ciencia de datos o inteligencia artificial en el sector público, que estén en fases de desarrollo, implementación o producción, y pueden ser proyectos a cargo de un equipo interno del propio organismo o de un proveedor externo.
Toda la información y la postulación a los pilotos está disponible en la plataforma www.algoritmospublicos.cl.
