El 2020 el Foro Económico Mundial (WEF) diseñó una caja de herramientas con el objetivo de otorgar a los gobiernos y al sector público lineamientos que faciliten la compra responsable de sistemas de inteligencia artificial (IA).
Expertos internacionales entregan claves para la adquisición pública y responsable de inteligencia artificial
11 de noviembre 2021
– En el segundo conversatorio de “Ética en tiempos de datos” del proyecto Algoritmos Éticos, Responsables y Transparentes – que lideramos en la UAI junto a BID Lab – se conoció la Caja de Herramientas para la compra de IA elaborada por el Foro Económico Mundial, la experiencia de casos reales de uso en Dubai y Brasil y cómo ChileCompra se prepara para abordar estos desafíos.
El 2020 el Foro Económico Mundial (WEF) diseñó una caja de herramientas con el objetivo de otorgar a los gobiernos y al sector público lineamientos que faciliten la compra responsable de sistemas de inteligencia artificial (IA). Esta directriz es para quienes participan en el diseño de procesos de licitación para adquirir este tipo de servicios, para los desarrolladores tecnológicos que buscan adjudicarse estos procesos y también para académicos que investigan sobre el tema.
Precisamente, esta caja de herramientas y su aplicación fue el tema central del conversatorio “Herramientas y experiencias globales para la adquisición pública de inteligencia artificial responsable”, un evento de alcance internacional organizado colaborativamente entre el Foro Económico Mundial (WEF), la iniciativa fAIr LAC del Grupo BID y el proyecto Algoritmos Éticos, Responsables y Transparentes, que lidera la Universidad Adolfo Ibáñez (UAI) con apoyo de BID Lab.
El encuentro contó con la presencia de Tania Perich, directora de ChileCompra; María Paz Hermosilla, directora del GobLab UAI, quien ofició como moderadora; Gabriela Lazo, jefa de la División de Estudios e Inteligencia de Negocios de ChileCompra; y Hubert Halopé, del Centro para la Cuarta Revolución Industrial (C4IR) del WEF, quien expuso sobre la caja de herramientas “AI Procurement in a Box” y profundizó en sus alcances.
Hubert Halopé explicó que la elaboración de estos principios contó con la participación de múltiples actores interesados a nivel global, como representantes de gobierno, académicos, de organizaciones de la sociedad civil y empresas para explorar temas claves en el proceso de compra de IA y así diseñar respuestas conjuntas. “La caja de herramientas comprende 10 lineamientos que describen elementos fundamentales para tener en consideración antes de adquirir y desplegar soluciones de IA, algunas de ellas: alinear el proceso de adquisiciones con estrategias gubernamentales existentes y trabajar con un equipo diverso y multidisciplinario”, señaló.
Luego, para conocer cómo pueden ser aplicadas estas directrices en casos reales de compra y su impacto, hubo exposiciones sobre experiencias en Dubai Electricity and Water Authority, a cargo de Mariam Al Muhairi, y en el Metro de São Paulo y el Hospital das Clinicas, en voz de Clara Langevin y Rafael Fassio, además de un panel de conversación.
“El Estado es un gran comprador y desde ahí tiene la posibilidad de influir en el mercado tecnológico para la incorporación de estándares éticos dentro de las bases de licitación de los servicios de datos en general y en particular de la inteligencia artificial. Estamos conscientes de la importancia que a través de nuestros organismos y agencias se utilicen los sistemas automatizados o semiautomatizados de manera responsable, aprovechando así todas las oportunidades que el uso de datos nos abre para resolver problemas que pueden ser de mayor o menor complejidad”, indicó Tania Perich, directora de ChileCompra.
Aplicación de estándares éticos en Brasil y Dubai
En la presentación sobre la implementación en Brasil, Clara Langevin, Project Lead del Centro para la Cuarta Revolución Industrial de Brasil, explicó que adaptaron los principios del WEF a dos proyectos piloto, uno en un hospital y otro en transporte público. Comentó además que buscaron “incluir en el proceso de licitación, según los lineamientos para las entidades públicas, una evaluación de impacto de los algoritmos”, para lo cual usaron una matriz de riesgo del organismo de control externo del gobierno federal, lo que les permitió socializar fácilmente con los equipos los riesgos éticos asociados a su proyecto.
En el caso de Dubai, Mariam Al Muhari, Senior Projects Manager de Dubai Future Foundation, reflexionó sobre la necesidad de explicar a los compradores públicos que hay que diferenciar las licitaciones de software en general o de equipos de hardware, de la compra de inteligencia artificial, “que se haga cargo de los asuntos de seguridad, de una evaluación de los algoritmos y de la sostenibilidad de los sistemas”. Finalmente, explicó que del piloto surgió una política de adquisiciones a nivel nacional.
Este conversatorio fue el segundo realizado dentro del ciclo Ética en tiempos de datos, del proyecto Algoritmos Éticos, Responsables y Transparentes, y está disponible para todo público acá https://youtu.be/eUoxXbz9Vbw
