Ya finalizó la etapa de desarrollo del piloto del proyecto Algoritmos Éticos con la Defensoría Penal Pública, el primero de tres en realizarse con organismos públicos en el marco de dicha iniciativa que lidera la UAI
UAI y la DPP concluyen primera etapa de pilotaje algorítmico con estándares de ética de datos
27 de febrero 2023
Ya finalizó la etapa de desarrollo del piloto del proyecto Algoritmos Éticos con la Defensoría Penal Pública (DPP), el primero de tres en realizarse con organismos públicos en el marco de dicha iniciativa que lidera la UAI, cuyo objetivo es promover la incorporación de estándares de responsabilidad y justicia en algoritmos, inteligencia artificial y sistemas automatizados.
Durante el primer trimestre se concretará una segunda etapa junto a la DPP que incluirá la evaluación ética del modelo implementado.
En el mes de julio la Defensoría Penal Pública (DPP) adjudicó un servicio para auditar la calidad de sus servicios de defensa a través la creación de un modelo predictivo, licitación realizada a través de Mercado Público que, de manera inédita, incluyó en sus bases requisitos de ética de datos como transparencia, equidad, privacidad, explicabilidad y responsabilidad. Estos estándares debieron ser incluidos tanto en el desarrollo de los algoritmos como en el procesamiento de los datos manipulados.
Así comenzó el primer piloto del proyecto Algoritmos Éticos, Responsables y Transparentes, iniciativa que lidera la Universidad Adolfo Ibáñez con apoyo de BID Lab, el laboratorio de innovación del Grupo BID, y del que la DPP y otras siete instituciones públicas y privadas son socias.
“Estas experiencias están diseñadas para probar metodologías de incorporación de hitos de responsabilidad, transparencia, explicabilidad, privacidad, entre otras, porque nuestra intención es ir más allá de lo teórico y lo normativo, como sucede en muchos otros países. Nosotros estamos viendo en la práctica cómo funciona y qué significa estar pensando en estándares éticos al mismo tiempo que estamos codificando cómo entrenar al algoritmo”, explicó Reinel Tabares, investigador postdoctoral del proyecto Algoritmos Éticos y PhD en Ingeniería Informática.
Marcela Werlinger Mena, jefa del Departamento de Evaluación Control y Reclamaciones de la Defensoría Penal Pública, destacó que “el empleo de herramientas de uso de datos e inteligencia artificial van estrictamente ligados a la ética, por ello ha sido una gran oportunidad ser considerados dentro de proyecto Algoritmos Éticos, especialmente por el alto conocimiento de la UAI en estas materias y la posibilidad de participar de un proyecto pionero”.
Al cierre de 2022 terminó la etapa de desarrollo propiamente tal y se dio paso a una segunda parte del trabajo, en que el equipo UAI, con investigadores y tesistas de las facultades de Ingeniería y Ciencias y de Artes Liberales, realizará una evaluación ética del sistema, levantará aprendizajes y recomendaciones para el diseño y ejecución de la implementación piloto del sistema.
En paralelo, están en curso otros dos pilotajes del proyecto Algoritmos Éticos, uno con FONASA, que implementará una solución tecnológica para optimizar la fiscalización de fraudes, y otro con el Instituto de Previsión Social (IPS), que está desarrollando un algoritmo para encontrar y llegar a quienes no han cobrado ayudas estatales a las que tienen derecho.
