El desarrollo de las bases se realizó en el marco del proyecto Algoritmos Éticos que ejecutamos en la UAI con apoyo de BID Lab y la propuesta podrá ser revisada y comentada por la ciudadanía hasta el viernes 18 de noviembre.
ChileCompra y UAI invitan a comentar bases de licitación estandarizadas para la adquisición de algoritmos e inteligencia artificial que incluirán requisitos éticos
06 de octubre 2022
El desarrollo de las bases se realizó en el marco del proyecto Algoritmos Éticos que ejecutamos en la UAI con apoyo de BID Lab y la propuesta podrá ser revisada y comentada por la ciudadanía hasta el viernes 18 de noviembre.
La inteligencia artificial (IA), los algoritmos y su uso en herramientas tecnológicas ya son una realidad en servicios del Estado, muchos de ellos implementados como parte de proyectos de innovación ejecutados mediante compras públicas.
Para apoyar la gestión de los compradores públicos y facilitar la participación de proveedores tecnológicos, la Dirección de Compras Públicas – ChileCompra – y el equipo del proyecto Algoritmos Éticos, Responsables y Transparentes, que ejecutamos en la Universidad Adolfo Ibáñez (UAI) con el apoyo de BID Lab, el laboratorio de innovación del Grupo BID, elaboró una propuesta de bases tipo de licitación para la adquisición de proyectos de ciencia de datos e inteligencia artificial, por parte de las instituciones de la administración del Estado.
Las bases tipo, que contienen cláusulas estandarizadas para licitaciones de determinadas categorías, en este caso incluirán hitos de ética de datos como, por ejemplo, transparencia, privacidad, no discriminación y explicabilidad. Un avance inédito logrado gracias a la colaboración público – privada y que aplicará para compras estatales de servicios de uso creciente, tales como perfilamiento de usuarios, reconocimiento facial, detección de fraudes, modelos predictivos, entre otros.
Justamente en estos aspectos se concentró el trabajo del proyecto Algoritmos Éticos y el equipo de la UAI que acompañó el desarrollo de las bases. “Es fundamental que cuando el Estado busca resolver problemas sociales a través de sus servicios no genere nuevas problemáticas, por eso, cuando se trata de implementar sistemas automatizados o semiautomatizados, estas bases deben incorporar requisitos de ética de datos, que consideren tanto en el diseño como la implementación aspectos la privacidad de las personas, la transparencia de la toma de decisiones o los riesgos de discriminación, entre otros asuntos”, señala María Paz Hermosilla, directora del GobLab UAI.
“Estas bases tipo entregan la pauta para la contratación de desarrollo de productos de software que utilizan ciencia de datos e inteligencia artificial, un rubro que aún es algo desconocido para los organismos públicos y que requiere mucho detalle técnico para la definición de la compra. A través de estas cláusulas estandarizadas, estamos apoyando a los organismos públicos que transan en www.mercadopublico.cl en la elaboración de sus licitaciones, considerando desde la definición del problema qué se necesita solucionar y sus riesgos, pruebas de concepto, despliegue y la evaluación de propuestas de mitigación de sesgos y uso y tratamiento de datos sensibles”, explica Gabriela Lazo, jefa de la División de Estudios e Inteligencia de Negocios de ChileCompra.
El documento estará disponible para consulta pública hasta el 18 de noviembre para recibir observaciones de parte de la ciudadanía, organizaciones y empresas del rubro. Los comentarios recibidos se considerarán y analizarán para mejorar los documentos que se traducirán en las bases tipo definitivas que ayudarán a los organismos públicos para efectuar sus licitaciones públicas.
