Implementación de algoritmos éticos: la experiencia de Nueva Zelanda

By 30 de March de 2021 April 1st, 2021 Algoritmos Éticos, NOTICIAS

GobLab participó en encuentro donde expertos de ese país dieron a conocer el protocolo que está liderando la ética de datos a nivel mundial.

Implementación de algoritmos éticos: la experiencia de Nueva Zelanda

30 de marzo 2021

En 2020 Nueva Zelanda se comprometió con el desarrollo ético y responsable de algoritmos para los servicios que prestan sus agencias estatales a los ciudadanos a través del protocolo Algorithm Charter for Aotearoa New Zealand, una iniciativa pionera que un grupo de servidores públicos y autoridades chilenas pudieron conocer de primera mano.

En este contexto el proyecto Algoritmos Éticos, Responsables y Transparentes iniciativadel BID Lab y la UAI -liderado en la universidad por el GobLab, laboratorio de innovación pública de la Escuela de Gobierno– organizó un encuentro cuyo objetivo fue dar a conocer el protocolo neozelandés que está liderando el desafío ético para el uso de datos a nivel mundial, en el marco de una iniciativa que busca impulsar estos estándares en Chile.

Durante la actividad, Tania Perich, directora de ChileCompra, valoró la oportunidad de poder conversar el tema con representantes de servicios públicos neozelandeses que ya han avanzado en este camino, aprendizaje que podrá ser traspasado a través del proyecto UAI-BID gracias a que cuenta con la participación estratégica de su institución, la División de Gobierno Digital (Segpres) y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación.

“Con el apoyo de este proyecto, ChileCompra será pionero en la región en la aplicación de estándares éticos en las compras públicas que involucren sistemas tecnológicos automatizados de decisión por parte de entidades del Estado. A su vez, el proyecto va a entregar capacidades al sector privado – principalmente Pymes – para desarrollar sistemas de decisión automatizados que cumplan con dichos requisitos, y así optimizar la calidad de las políticas públicas que usan estas herramientas”, señaló Perich.

Por su parte Marcelo Cabrol, Gerente del Sector Social del BID, sostuvo que “vemos un gran interés en los gobiernos para aprovechar las oportunidades que trae la inteligencia artificial y queremos impulsar el uso de estándares éticos en la adopción de tecnología. Por eso lanzamos en 2019 la iniciativa fAIr LAC. Uno de los pilares de la iniciativa es precisamente, contar con guías de implementación ética que aseguren transparencia, respeto de los derechos humanos y certeza a las agencias estatales sobre los servicios tecnológicos que están adquiriendo y usando”.

Las presentaciones estuvieron a cargo de representantes de Stats NZ, oficina nacional de estadística de Nueva Zelandia (símil al INE); los ministerios de Negocios, Innovación y Empleo y de Desarrollo Social de dicho país; y de Inland Revenue (símil al SII de Chile), servicio a cargo de recaudar ingresos y desembolsar los pagos de programas de apoyo social.

Eleisha Hawkins, gerenta general del Liderazgo del Sistema de Datos en Stats NZ, explicó que el protocolo neozelandés es un proyecto de largo plazo y “vivo”, a medida que cambie la tecnología y las necesidades del público y de las agencias gubernamentales.

26 agencias de ese país ya han firmado el compromiso, gracias a que la ciudadanía está atentamente supervigilando que esto suceda. Hawkins señaló que se consultó tanto a las agencias gubernamentales como al público en general, con “el objetivo de asegurar que el protocolo se presentara de tal manera que diera confianza al público y a la vez fuera práctica y posible de implementar para los servicios”.

María Paz Hermosilla, directora del GobLab UAI, institución ejecutora del proyecto chileno, cerró la actividad anunciando que uno de los objetivos de la iniciativa será “desarrollar un piloto para que dos organismos públicos adquieran servicios de datos que incluyan estándares éticos como requisitos dentro de la licitación, hito que marcará un camino de implementación de este tipo de requisitos en el país”.

Sobre el proyecto UAI-BID

El proyecto Algoritmos Éticos, Responsables y Transparentes, cuenta con financiamiento de BID Lab, laboratorio de innovación del Grupo Banco Interamericano de Desarrollo y está cargo del GobLab, laboratorio de innovación pública de la Escuela de Gobierno Universidad Adolfo Ibáñez, con el apoyo de sus Facultades de Ingeniería y Ciencias y de Artes Liberales. Se desarrolla en sociedad con ChileCompra, la División de Gobierno Digital del Ministerio Secretaría General de la Presidencia, el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, y Magical, empresa aceleradora de negocios especializada en startups digitales.

La iniciativa, inédita en Chile, desarrollará modelos y estándares para la gestión ética de datos y algoritmos de decisión automatizada en servicios del Estado, entre éstos en las compras públicas que se efectúan a través de la Plataforma de ChileCompra www.mercadopublico.cl.