En una colaboración multiactor inédita a nivel latinoamericano, el proyecto Algoritmos Éticos, que lideramos desde la UAI y BID Lab, busca impactar al Estado para que, desde su rol normativo y como gran comprador, influya al mercado tecnológico y se beneficie finalmente de forma masiva a la ciudadanía a través del uso responsable de la inteligencia artificial y los sistemas de decisión automatizada.

La Universidad Adolfo Ibáñez y el Grupo BID, a través de sus laboratorios de innovación GobLab UAI y BID Lab, respectivamente, están llevando a cabo en Chile una iniciativa inédita a nivel latinoamericano para cambiar la forma en que se desarrollan e implementan algoritmos e inteligencia artificial.

Se trata del proyecto Algoritmos Éticos, Responsables y Transparentes, que ya entró en su tercer año articulando a organizaciones del Estado y del mundo privado para desarrollar y probar metodologías, guías y normativa de vanguardia, con el objetivo final de resguardar los derechos de las personas.

Y es que los desafíos – así como las oportunidades – a los que nos estamos enfrentando a raíz de la proliferación de sistemas automatizados son, más que tecnológicos, asuntos profundamente humanos: evitar sesgos y discriminación arbitraria dentro de los grupos humanos, proteger la privacidad de las personas, promover la transparencia de los servicios sociales, entre otros.

Es por ello que un hito muy relevante de este primer trimestre ha sido la aprobación por parte de la Contraloría de bases estandarizadas para las compras que hace el Estado de servicios de ciencia de datos e inteligencia artificial. El documento lo trabajamos en el marco del proyecto junto a ChileCompra e incluye requisitos de transparencia, equidad y protección de datos para que los servicios públicos liciten modelos predictivos, algoritmos de asignación de beneficios, o sistemas de personalización de usuarios, todos usos que se están desplegando actualmente en la administración pública.

Por otro lado, junto al Consejo para la Transparencia hemos desarrollado una Instrucción General de Transparencia Algorítmica que prontamente será sometida a consulta pública y va a obligar a más de mil organismos estatales a entregar información respecto de los algoritmos que usan en los servicios que prestan a la ciudadanía.

La construcción de ambas normativas ha incluido pilotajes metodológicos, mesas de trabajo y consultas abiertas a la ciudadanía. En el caso de las bases de licitación, estas fueron probadas por FONASA y la Defensoría Penal Pública, instituciones que en 2022 adquirieron servicios automatizados con estándares éticos a través de licitaciones realizadas por Mercado Público.

Además de las organizaciones antes mencionada, el Ministerio de Ciencia, la División de Gobierno Digital, el Instituto de Previsión Social y Magical, aceleradora de startups, se han ido asociando al proyecto Algoritmos Éticos. De esta manera la instancia se ha configurado como una iniciativa multiactor que busca impactar al Estado, para que, desde su rol normativo y como gran comprador, influya al mercado tecnológico y se beneficie finalmente de forma masiva a la ciudadanía.

En línea con esto último, es que también hemos promovido la formación de la Asociación Gremial de Empresas de Algoritmos Éticos, la que ya cuenta con 11 asociados y esperamos que sea un verdadero protagonista en este tercer año de ejecución que que viene lleno de desafíos. Los invitamos a ser parte también de este camino.