El IPS y la UAI prueban nueva herramienta de la UNESCO para evaluar impactos éticos de inteligencia artificial

El instrumento se encuentra en etapa de desarrollo y será clave para la implementación de los principios y valores que recomienda el organismo internacional para un uso responsable de la inteligencia artificial. La prueba que se realizó en Chile sobre un caso real de algoritmos que apoya la administración de beneficios sociales, será parte de la retroalimentación que permitirá ajustar y mejorar la herramienta.

El proyecto Algoritmos Éticos – que es impulsado por la Universidad Adolfo Ibáñez (UAI) y BID Lab, el laboratorio de innovación del Grupo BID – junto a uno de sus organismos socios, el Instituto de Previsión Social (IPS), fueron invitados a probar el funcionamiento de la herramienta Evaluación de Impacto Ético de inteligencia artificial que está desarrollando la UNESCO.

El objetivo fue revisar y observar la aplicación concreta, en un caso real, de los valores y principios de la Recomendación sobre la Ética de la Inteligencia Artificial, documento promovido por este organismo a nivel global que constituye el primer acuerdo mundial en la materia, el cual ya ha sido suscrito por más de 190 países.

“Recibimos una invitación para ser parte de este pilotaje y retroalimentar el proceso de creación de la herramienta de la UNESCO, que es un documento que aún no ha sido publicado y que tuvimos el privilegio de conocer y probar junto al IPS debido al pilotaje que estamos realizando y que ha causado gran interés”, señaló Romina Garrido, subdirectora del GobLab UAI y coordinadora de pilotos del proyecto Algoritmos Éticos.

Justamente, en el marco de dicho proyecto, el IPS ha implementado estándares éticos en el desarrollo de los algoritmos para apoyar la solución de problemas de “no cobros”, es decir, buscar y llegar a las personas que no han cobrado algún beneficio estatal al cual tienen derecho, en un proceso metodológico asesorado por el equipo de la UAI. El objetivo ha sido, entre otros, evitar sesgos que beneficien el acceso de algunos grupos por sobre otros, de manera de llegar a la ciudadanía de forma equitativa y ser más efectivos y focalizados en la ejecución de políticas públicas (ver más sobre el piloto).

“Para nosotros es un honor que nos inviten de la UNESCO y de la Universidad Adolfo Ibáñez a probar esta metodología, proceso en el cual contamos con el apoyo del director nacional del IPS”, señaló Francisco Silva, Jefe del Proyecto No Cobros del IPS, quien además explicó que los algoritmos creados ya se están usando y arrojando resultados concretos. “Por lo tanto, esta evaluación nos permite generar aún mayores certezas sobre este trabajo que impacta tan directamente a las personas más vulnerables de nuestro país”, agregó.

Cabe mencionar que, después de un año de trabajo, el Proyecto No Cobros – que incluye un modelo predictivo algorítmico – ha permitido resolver el pago de beneficios no cobrados de más de 400 mil personas.

La Evaluación de Impacto Ético de la UNESCO es un instrumento que está siendo diseñado específicamente para el sector público, con el objetivo de observar la aplicación concreta de los principios de la Recomendación en la adquisición o desarrollo proyectos de ciencia de datos e inteligencia artificial, de manera de prevenir, mitigar y dar seguimiento a los posibles riesgos, así como identificar su repercusión sobre los derechos humanos y libertades fundamentales.

La implementación de prueba de esta herramienta de evaluación sobre los algoritmos del Proyecto No Cobros fue realizada en dos encuentros guiados en los que participaron Romina Garrido y Dusan Cotoras, por parte de la UAI, y Francisco Silva, Carlos Salgado, Fernando Arias, Cinthya Castillo y Marcela Zapata, del IPS.