Proyecto Algoritmos Éticos, Responsables y Transparentes

By 07 de February de 2021 January 26th, 2024 INVESTIGACIÓN APLICADA

Proyecto inédito en Chile que busca instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales

PROYECTO

El proyecto Algoritmos Éticos, Responsables y Transparentes es una alianza público-privada inédita en Chile, liderada por la Universidad Adolfo Ibáñez (UAI), cuyo objetivo es promover la gestión ética de los datos y el desarrollo e implementación responsables de algoritmos, sistemas de decisión automatizada e inteligencia artificial, tanto en el sector público como en el mundo privado.

Su primera etapa de ejecución comenzó en diciembre de 2020 y se ha realizado gracias al financiamiento 2020 – 2023 otorgado por BID Lab, el laboratorio de innovación del Grupo BID, y el apoyo de diversas instituciones socias. La segunda etapa comenzó en julio de 2023 gracias a la adjudicación de fondos del concurso IDeA I+D 2023 de ANID (proyecto ID23I10357), en la línea temática “Transformaciones sociales y culturales para un nuevo modelo de desarrollo”.

Revisa aquí los detalles del convenio y documentos asociados

Productos

Normativa, herramientas y guías

Agosto 2022, en colaboración con Gobierno Digital

Guía Formulación ética de proyectos de ciencia de datos

Enero 2023, en colaboración con ChileCompra

Bases Tipo y Directiva de Compras de proyectos de ciencia de datos e IA

Diciembre 2023, en colaboración con Magical, BID Lab y MinCiencia

Herramienta de inversión responsable: fAIr Venture

Pilotos

de implementación de estándares éticos

En desarrollo, en colaboración con Consejo para la Transparencia

Instrucción General de Transparencia Algorítmica

Licitación pública

Servicio de auditoría externa en base a datos

2022 – 2023, en colaboración con la DPP

Licitación pública

Solución para seleccionar prestadores de salud a fiscalizar en Modalidad Libre Elección

2022 – 2023, en colaboración con FONASA

Desarrollo interno

Acercando beneficios no cobrados a los ciudadanos

2023, en colaboración con IPS

Noticias

Más noticias

Equipo

Directora de Proyecto

María Paz Hermosilla

Master en Administración pública, NYU. Directora del GobLab UAI, Directora académica del Diplomado de Big Data para Políticas Públicas.

Master of Public Administration, New York University, Estados Unidos, 2016.
Periodista, Pontificia Universidad Católica de Chile, 2004.
Directora del GobLab UAI, laboratorio de innovación pública de la Escuela de Gobierno UAI, cuya misión es contribuir a la transformación del sector público mediante la ciencia de datos. Es directora académica del Diplomado de Big Data para Políticas Públicas, donde enseña gestión ética de datos. Su área de especialización es la innovación pública, específicamente cómo la tecnología transforma el gobierno, innovaciones como el Big Data, los datos abiertos, el crowdsourcing y los laboratorios. Como becaria de investigación de The Governance Lab at New York University, trabajó en proyectos con el Banco Interamericano del Desarrollo y la Organización de Estados Americanos. Entre 2012 y 2014 fue jefa de la Unidad de Relación Ciudadana y Gestión de Información del Ministerio de Obras Públicas, liderando el rediseño de los servicios de atención al ciudadano y las iniciativas de transparencia y datos abiertos. Entre 2010 y 2011 formó parte de los ministerios de Energía y Economía. Es consulting fellow de The Governance Lab en Nueva York. Es parte de dos comisiones asesoras del Gobierno: el Comité de Expertos para la elaboración de una Política Nacional de Inteligencia Artificial (Ministerio de Ciencia) y de la Comisión Asesora Ministerial para la Transparencia, Calidad y el Impacto del Gasto Público (Ministerio de Hacienda).
Coordinadora de Pilotos

Romina Garrido

Abogada de la Universidad de Valparaíso, Máster en Derecho de las Nuevas Tecnologías de la U. de Chile. Subdirectora del GobLab UAI

Subdirectora del GobLab UAI. Diplomada en Derecho Informático. Certificada en Liderazgo y Estrategia en Ciberseguridad por la Universidad Internacional de Florida, Estados Unidos. Colabora desde el 2008 en la Red Iberoamericana de Protección de Datos y es fundadora de la ONG Datos Protegidos. Es especialista en protección de datos personales, ha dictado diversos cursos y seminarios en Chile y en el extranjero y actualmente asesora al sector público y privado. En 2019 fue finalista en el Ranking Leading Lawyers en la categoría Data Protection y mujer destacada en Ciberseguridad por la Alianza Chilena de Ciberseguridad.
Director Alterno

Reinel Tabares

PhD en Ingeniería línea informática, U. Autónoma de Manizales. Magister en Ingeniería Automatización Industrial, U. Nacional de Colombia.

Reinel Tabares Soto es Ingeniero Electrónico de la Universidad Nacional de Colombia, Ingeniero de Sistemas de la Universidad de Caldas, Magister en Automatización Industrial de la Universidad Nacional de Colombia y PhD en Ingeniería línea informática por la Universidad Autónoma de Manizales. Sus líneas de trabajo académico son Aprendizaje de Máquina, Minería de Datos, Computación de alto desempeño, Bioinformática y Modelado-Simulación de Sistemas Dinámicos. Su tesis de maestría fue en programación paralela sobre arquitecturas heterogéneas y su tesis doctoral fue sobre redes neuronales convolucionales para el esteganalisis de imágenes en el dominio espacial.

Desde el 2017 ha trabajado en el centro de investigación de Bioinformática y Biología Computacional (BIOS) desempeñándose como líder del área de computación científica, administrador del clúster HPC e investigador en temas relacionados con sus líneas de trabajo.

Desde el año 2020 se desempeña en la secretaria TIC y competitividad de la ciudad de Manizales y en la empresa People Contact como asesor en transformación digital e inteligencia artificial.

Desde el 2014 se encuentra como docente, investigador y coordinador del programa de Ingeniería Electrónica de la Universidad Autónoma de Manizales y lidera los proyectos titulados: Hacia el entendimiento de genomas de plantas de interés productivo usando técnicas de bioinformática, inteligencia artificial y HPC, detección de COVID-19 utilizando imágenes de rayos X a partir redes neuronales convolucionales y redes neuronales convolucionales para el Estegoanálisis de imágenes en el dominio espacial. Para más información visitar:
https://scienti.minciencias.gov.co/cvlac/visualizador/generarCurriculoCv.do?cod_rh=0001614703&lang=es

Profesor, Escuela de Comunicaciones y Periodismo

Arturo Arriagada

PhD en Sociología y Magíster en Medios y Comunicaciones, London School of Economics. Profesor Asociado de la Escuela de Comunicaciones y Periodismo UAI.

En la Escuela de Comunicaciones y Periodismo UAI enseña e investiga sobre trabajo digital, economía de las plataformas, y el papel de los algoritmos en la organización de las dinámicas laborales en la “gig economy". Director de Cultura Social Media (www.culturasocialmedia.com), laboratorio de estudios sobre comunicación digital dependiente de la Escuela de Comunicaciones y Periodismo UAI. Director del proyecto Fairwork en Chile (fair.work) cuyo objetivo es investigar y promover buenas prácticas laborales en la "gig economy”.
Profesor, Facultad de Artes Liberales

Cristián Rettig

Doctor en Filosofía, University College London, 2018. MSc in Political Theory, London School of Economics. Licenciado en Filosofía, Pontificia Universidad Católica de Chile.

Sus áreas de interés son: filosofía política analítica, filosofía analítica del derecho, teoría jurídica y meta-ética. Su trabajo ha sido publicado en revistas internacionales como Journal of Social Philosophy, Prolegomena – Journal of Philosophy, y próximamente en Journal of Philosophical Research (2021). Ha presentado sus trabajos en workshops internacionales en University College London, University of Manchester, University of Warwick, Universidad Autónoma de México, entre otros. Ha impartido seminarios para alumnos de magíster en University College London. Es miembro activo de la “UK-Latin America (Analytical) Political Philosophy Network”. Es Profesor Asistente del Departamento de Filosofía de la Facultad de Artes Liberales desde diciembre del año 2017, donde imparte cursos de pregrado y post-grado.
Profesor, Escuela de Negocios

Sebastián Uriarte

PhD in Management, profesor de la Escuela de Negocios UAI y coordinador del Taller de emprendimiento.

PhD in Management, Ingeniero Civil Industrial y Master in Business Administration (MBA) en la Universidad Adolfo Ibáñez, con un diploma en finanzas corporativas de la Universidad de Chile. Profesor asistente de la Escuela de Negocios UAI. Socio y director de Trayectos estrategias digitales, asesorías de imagen en Basterrechea y Uriarte e Ingenio Inversiones SpA. Director del programa “El Agro” en Radio Agricultura y “Cambio de Switch” en Radio Cooperativa. Ex Gerente en importantes empresas como Laborum.com, ICCOM y EntelPCS.
Ingeniero de desarrollo

Johan Piña

Ingeniero Electrónico e Ingeniero Biomédico de la Universidad Autónoma de Manizales, Colombia. Especialista en Deep Learning.

Es Ingeniero Electrónico e Ingeniero Biomédico de la Universidad Autónoma de Manizales, Colombia; es especialista en Deep Learning y actualmente cursa una maestría en Bioinformática y Biología Computacional. Cuenta con cuatro años de experiencia en investigación y ha contribuido al valor empresarial a través de la ciencia de datos y la inteligencia artificial (IA).

Ha liderado el área de ciencia de datos en una empresa del sector público en Manizales, Colombia, enfocándose en el desarrollo de productos que integran la inteligencia artificial. Además, cuenta con experiencia en desarrollo de software full stack trabajando como freelance y en equipos, implementando soluciones de IA accesibles para el uso general.

Su enfoque actual está en la intersección de la tecnología en software y su uso con las personas, aplicando métodos de inteligencia artificial responsable para innovar en diversas áreas.

Asistente técnica de proyecto

Abigail Pizarro

Contadora Auditora e Ingeniera en Control de Gestión de la Universidad Autónoma de Chile.

Contadora Auditora e Ingeniera en Control de Gestión de la Universidad Autónoma de Chile, con más de 5 años trabajando en el área financiero-contable. Interés en el ámbito de gestión e innovación en políticas públicas, con experiencia en empresas de telecomunicaciones y vitivinícolas.
Investigadora

Mariana German

Egresada de Ingeniería Civil Informática de la Universidad Adolfo Ibáñez, tesista del Master of Science in Data Science UAI.

Egresada de Ingeniería Civil Informática en la Universidad Adolfo Ibáñez, actualmente tesista del Master of Science in Data Science de la misma universidad. Con amplia experiencia en gestión de proyectos con foco social en conjunto con instituciones como la Superintendencia del Medio Ambiente y la Municipalidad de Peñalolén. Con experiencia e interés en el manejo de bases de datos y las aplicaciones de las ciencias de datos en la gestión pública. Ayudante del curso de Formulación de Proyectos de Ciencias de Datos de la Escuela de Gobierno.
Ayudante de investigación y tesista de doctorado

Gilber Alexis Corrales Gallego

Ingeniero Biomédico de la Universidad Autónoma de Occidente, especializado en Inteligencia Artificial y actualmente cursando un Doctorado en Bioingeniería

Ingeniero Biomédico egresado de la Universidad Autónoma de Occidente, especializado en Inteligencia Artificial y actualmente cursando un Doctorado en Bioingeniería. Su enfoque de investigación se centra en el desarrollo de la Inteligencia Artificial Explicable (XAI). Ha desempeñado roles en desarrollo BackEnd y liderado proyectos como ingeniero en inteligencia artificial dentro del sector privado.

Además, posee experiencia en docencia e investigación en áreas de aprendizaje automático y aprendizaje profundo, impartiendo conocimientos y fomentando la investigación en estos campos.

Actualmente, trabaja en temas relacionados con la Inteligencia Artificial Explicable (XAI), Inteligencia Artificial Responsable y el Aprendizaje Profundo, áreas en las cuales busca contribuir con avances significativos y responsables.

Publicaciones

El derecho a la transparencia algorítmica como estándar ético dentro de una democracia liberal

Los algoritmos han cambiado la vida de las personas y la forma en la cual se relacionan con el Estado. En el presente trabajo argumentamos que el derecho a la transparencia algorítmica es el estándar ético que deben cumplir los Estados al hacer uso de los algoritmos dentro de una democracia liberal.

Of Rules and Trust. How does bureaucratic accountability affect public servants' disposition toward algorithm use?

This thesis explores the relationship between bureaucratic accountability and their disposition toward utilizing algorithms in their decision-making processes. Drawing upon the literature on government accountability and aversion to algorithmic decision-making, it hypothesizes that the more public officials are aware of the chains of accountability they are tied to, the less favorable they will be to utilizing algorithms.

Pilotaje Instrucción General Transparencia Algorítmica

El objetivo de este pilotaje es poner en práctica el proceso de publicación de información sobre sistemas de decisiones automatizados y semiautomatizados (SDA o algoritmos en general), recabar aprendizajes que perfeccionen su texto y su implementación posterior; recopilar experiencias, desafíos, dificultades y comentarios sobre la Instrucción general, tanto de su audiencia interna como externa.

Biases associated with database structure for COVID-19 detection in X-ray images

Several artificial intelligence algorithms have been developed for COVID-19-related topics, one that has been common is the COVID-19 diagnosis using chest X-rays. This paper analyses 19 datasets of COVID-19 chest X-ray images, identifying potential biases.

Analysis of Ethical Development for Public Policies in the Acquisition of AI-Based Systems

The exponential growth of AI and its applications in different areas of society, such as the financial, agricultural, telecommunications, or health sectors, poses new challenges for the government’s public sector, mainly in regulating these systems. Governments and entities in general address these challenges by formulating soft laws such as manuals or guidelines. They seek full transparency, privacy, and bias reduction when implementing an AI-based system, including its life cycle and respective data management or governance.

Guía Formulación ética de proyectos de ciencia de datos

A través de una metodología clara y ejemplos concretos ajustados a la realidad y la normativa chilena, esta guía busca ser un valioso apoyo para planificar, formular y desarrollar sistemas de toma de decisión o de soporte a la toma de decisión basados en inteligencia artificial o modelos algorítmicos en el sector público, evitando sesgos de discriminación, falta de transparencia o mal uso de datos personales, entre otros potenciales problemas.

Health Insurance and Algorithms: An Ethical Overview

This article discusses the ethical implications of the use of algorithms and artificial intelligence in the field of health insurance. Big Data and Machine Learning have been revolutionizing various areas of human life in the last decade.

Formación

2023

Curso Implementación práctica de ética en ciencia de datos

convocatoria cerrada para organismos socios

2022

Curso Formulación ética de proyectos de ciencia de datos

para servidores públicos

Más información

2021

AI Business Sessions

para startups y desarrolladores tecnológicos

Más información

2021

Curso Formulación ética de proyectos de ciencia de datos

para servidores públicos

Más información

Videos

Más videos