Proyecto Algoritmos Éticos, Responsables y Transparentes

By 07 de February de 2021 March 7th, 2023 INVESTIGACIÓN APLICADA

Proyecto inédito en Chile que busca instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales

Proyecto Algoritmos Éticos, Responsables y Transparentes

Este es un proyecto inédito en Chile que busca instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales, y en la formulación y desarrollo de estas soluciones por parte de los proveedores tecnológicos.

Este proyecto, ejecutado por la Universidad Adolfo Ibáñez, es parte de la iniciativa fAIr LAC, del Grupo BID, la que busca promover la aplicación ética y responsable de la inteligencia artificial en la región, ayudando al sector público y privado a mejorar la provisión de servicios sociales y el desarrollo de empresas de impacto social.

Bajo el título de “Oportunidades de mercado para las empresas de tecnología: compras públicas de algoritmos responsables, éticos y transparentes”, trabajaremos en dos frentes.

Primero, desarrollando capacidades para incorporar estándares éticos entre las empresas tecnológicas que proveen de algoritmos de decisión automatizada e inteligencia artificial al sector público. Y en segundo lugar fomentando que el sistema de compras públicas considere la gestión ética de datos dentro de sus estándares y requisitos de compra.

El proyecto considera, entre otras iniciativas:

Programas de formación para la incorporación de aspectos éticos tanto para servidores del sector público como para representantes de empresas tecnológicas.

– Realización de pilotos de compras públicas de algoritmos de decisión automatizada, con acompañamiento durante su implementación.

– Actividades de difusión que permitan dar a conocer estándares éticos en la gestión de datos tanto en el sector público como privado.

Colaboración multisectorial e interdisciplinaria

En la ejecución de este proyecto, participan la Escuela de Gobierno y las Facultades de Ingeniería y Ciencias y de Artes Liberales de la UAI, gracias al financiamiento de BID Lab (el laboratorio de innovación del Banco Interamericano de Desarrollo), y en alianza estratégica con ChileCompra, la División de Gobierno Digital del Ministerio Secretaría General de la Presidencia, el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, el Consejo para la Transparencia, Fonasa, la Defensoría Penal Pública, el Instituto de Previsión Social y Magical, una aceleradora de negocios especializada en apoyar startups digitales.

Formación y publicaciones

Biases associated with database structure for COVID-19 detection in X-ray images

Several artificial intelligence algorithms have been developed for COVID-19-related topics, one that has been common is the COVID-19 diagnosis using chest X-rays. This paper analyses 19 datasets of COVID-19 chest X-ray images, identifying potential biases.

Analysis of Ethical Development for Public Policies in the Acquisition of AI-Based Systems

The exponential growth of AI and its applications in different areas of society, such as the financial, agricultural, telecommunications, or health sectors, poses new challenges for the government’s public sector, mainly in regulating these systems. Governments and entities in general address these challenges by formulating soft laws such as manuals or guidelines. They seek full transparency, privacy, and bias reduction when implementing an AI-based system, including its life cycle and respective data management or governance.

Guía Formulación ética de proyectos de ciencia de datos

A través de una metodología clara y ejemplos concretos ajustados a la realidad y la normativa chilena, esta guía busca ser un valioso apoyo para planificar, formular y desarrollar sistemas de toma de decisión o de soporte a la toma de decisión basados en inteligencia artificial o modelos algorítmicos en el sector público, evitando sesgos de discriminación, falta de transparencia o mal uso de datos personales, entre otros potenciales problemas.

Health Insurance and Algorithms: An Ethical Overview

This article discusses the ethical implications of the use of algorithms and artificial intelligence in the field of health insurance. Big Data and Machine Learning have been revolutionizing various areas of human life in the last decade.

Curso de Formulación Ética de Proyectos de Ciencia de Datos 2022

El Proyecto UAI – BID de Algoritmos Éticos, Responsables y Transparentes convoca a servidores públicos a postular a la segunda versión del Curso de Formulación Ética de Proyectos de Ciencia de Datos, formación gratuita cuyo objetivo es adquirir metodologías y herramientas para diseñar un proyecto de ciencia de datos, incorporando consideraciones éticas.

AI Business Sessions

Este programa de formación gratuita, desarrollado junto a la aceleradora de startups Magical, capacitó a más de 200 desarrolladores de Inteligencia Artificial de empresas tecnológicas y startups chilenas con el objetivo de promover la gestión ética de datos.

Curso de Formulación Ética de Proyectos de Ciencia de Datos 2021

El Proyecto UAI – BID de Algoritmos Éticos, Responsables y Transparentes, convoca al sector público a postular al Curso de Formulación Ética de Proyectos de Ciencia de Datos, cuyo objetivo es adquirir metodologías y herramientas para diseñar un proyecto de ciencia de datos, incorporando consideraciones éticas.

Noticias

Más noticias

Equipo

Directora proyecto

María Paz Hermosilla

Master en Administración pública, NYU. Directora del GobLab UAI, Directora académica del Diplomado de Big Data para Políticas Públicas.

Master of Public Administration, New York University, Estados Unidos, 2016.
Periodista, Pontificia Universidad Católica de Chile, 2004.
Directora del GobLab UAI, laboratorio de innovación pública de la Escuela de Gobierno UAI, cuya misión es contribuir a la transformación del sector público mediante la ciencia de datos. Es directora académica del Diplomado de Big Data para Políticas Públicas, donde enseña gestión ética de datos. Su área de especialización es la innovación pública, específicamente cómo la tecnología transforma el gobierno, innovaciones como el Big Data, los datos abiertos, el crowdsourcing y los laboratorios. Como becaria de investigación de The Governance Lab at New York University, trabajó en proyectos con el Banco Interamericano del Desarrollo y la Organización de Estados Americanos. Entre 2012 y 2014 fue jefa de la Unidad de Relación Ciudadana y Gestión de Información del Ministerio de Obras Públicas, liderando el rediseño de los servicios de atención al ciudadano y las iniciativas de transparencia y datos abiertos. Entre 2010 y 2011 formó parte de los ministerios de Energía y Economía. Es consulting fellow de The Governance Lab en Nueva York. Es parte de dos comisiones asesoras del Gobierno: el Comité de Expertos para la elaboración de una Política Nacional de Inteligencia Artificial (Ministerio de Ciencia) y de la Comisión Asesora Ministerial para la Transparencia, Calidad y el Impacto del Gasto Público (Ministerio de Hacienda).
Investigador

Marcos Alonso

Doctor Europeo en Filosofía (UCM). Profesor Asistente en Universidad Adolfo Ibáñez, Departamento de Filosofía, Facultad de Artes Liberales.

Doctor Europeo en Filosofía, Universidad Complutense de Madrid, España, 2017. Sus áreas de investigación son la Bioética, Ética Aplicada, Filosofía de la Técnica y la Antropología Filosófica. Sus intereses se centran en algunos de los problemas éticos más relevantes de hoy en día, principalmente aquellos que tienen que ver con la relación entre la tecnología y la condición humana. Es también un especialista en el pensamiento de Ortega y Gasset, cuya filosofía ha utilizado para abordar cuestiones como la ecología o el transhumanismo. Ha publicado diferentes artículos sobre estas temáticas en revistas de prestigio.
Profesor, Escuela de Comunicaciones y Periodismo

Arturo Arriagada

PhD en Sociología y Magíster en Medios y Comunicaciones, London School of Economics. Profesor Asociado de la Escuela de Comunicaciones y Periodismo UAI.

En la Escuela de Comunicaciones y Periodismo UAI enseña e investiga sobre trabajo digital, economía de las plataformas, y el papel de los algoritmos en la organización de las dinámicas laborales en la “gig economy". Director de Cultura Social Media (www.culturasocialmedia.com), laboratorio de estudios sobre comunicación digital dependiente de la Escuela de Comunicaciones y Periodismo UAI. Director del proyecto Fairwork en Chile (fair.work) cuyo objetivo es investigar y promover buenas prácticas laborales en la "gig economy”.
Etnógrafo e investigador cualitativo

Dusan Cotoras

Sociólogo de la Universidad Diego Portales. Asistente de investigación Adolfo Ibáñez e investigador externo del núcleo sobre tecnociencia de la Universidad de Chile.

Sociólogo por la Universidad Diego Portales. Entre sus líneas de investigación se destacan el estudio de los procesos de innovación en las sociedades modernas y el desarrollo de una lógica operacional inspirada en el campo de la cibernética y la teoría de la información. Durante los últimos años ha investigado el estatus conceptual de las imágenes producidas por algoritmos y tecnologías de aprendizaje automatizado. Ha participado en proyectos orientados al análisis etnográfico de las prácticas de producción de conocimiento en el mundo de la consultoría en innovación y el estudio científico del cambio climático en Chile. Anteriormente ha colaborado en estudios para instituciones públicas como la Fundación Imagen de Chile o el Consejo Nacional de Innovación para el Desarrollo. Su trabajo como docente se ha especializado en la enseñanza de métodos cualitativos de investigación y en el campo de los estudios de la ciencia y la tecnología. Actualmente se desempeña como asistente de investigación en la Universidad Adolfo Ibáñez y es investigador externo del núcleo sobre tecnociencia de la Universidad de Chile.
Coordinadora de Pilotos

Romina Garrido

Abogada de la Universidad de Valparaíso, Máster en Derecho de las Nuevas Tecnologías de la U. de Chile

Diplomada en Derecho Informático. Certificada en Liderazgo y Estrategia en Ciberseguridad por la Universidad Internacional de Florida, Estados Unidos. Colabora desde el 2008 en la Red Iberoamericana de Protección de Datos y es fundadora de la ONG Datos Protegidos. Es especialista en protección de datos personales, ha dictado diversos cursos y seminarios en Chile y en el extranjero y actualmente asesora al sector público y privado. En 2019 fue finalista en el Ranking Leading Lawyers en la categoría Data Protection y mujer destacada en Ciberseguridad por la Alianza Chilena de Ciberseguridad.
Profesor, Facultad de Artes Liberales

Cristián Rettig

Doctor en Filosofía, University College London, 2018. MSc in Political Theory, London School of Economics. Licenciado en Filosofía, Pontificia Universidad Católica de Chile.

Sus áreas de interés son: filosofía política analítica, filosofía analítica del derecho, teoría jurídica y meta-ética. Su trabajo ha sido publicado en revistas internacionales como Journal of Social Philosophy, Prolegomena – Journal of Philosophy, y próximamente en Journal of Philosophical Research (2021). Ha presentado sus trabajos en workshops internacionales en University College London, University of Manchester, University of Warwick, Universidad Autónoma de México, entre otros. Ha impartido seminarios para alumnos de magíster en University College London. Es miembro activo de la “UK-Latin America (Analytical) Political Philosophy Network”. Es Profesor Asistente del Departamento de Filosofía de la Facultad de Artes Liberales desde diciembre del año 2017, donde imparte cursos de pregrado y post-grado.
Profesor, Facultad de Ingeniería y Ciencias UAI

Gonzalo Ruz

PhD en Machine Learning por la Universidad de Cardiff, Reino Unido. Profesor Titular y Director de Investigación e Innovación de la F. Ingeniería y Ciencias UAI.

Gonzalo Ruz es ingeniero civil electricista y magíster en Ciencias de la Ingeniería, mención Ingeniería Eléctrica por la Universidad de Chile, y PhD por Cardiff University, UK. Profesor Titular y Director de Investigación de la Facultad de Ingeniería y Ciencias de la Universidad Adolfo Ibáñez. Sus líneas de investigación incluyen aprendizaje automático, computación evolutiva, minería de datos, modelos de redes de regulación genética, y sistemas complejos. Para más información visitar: https://gonzaloruz.com
Investigador postdoctoral

Reinel Tabares

PhD en Ingeniería línea informática, U. Autónoma de Manizales. Magister en Ingeniería Automatización Industrial, U. Nacional de Colombia.

Reinel Tabares Soto es Ingeniero Electrónico de la Universidad Nacional de Colombia, Ingeniero de Sistemas de la Universidad de Caldas, Magister en Automatización Industrial de la Universidad Nacional de Colombia y PhD en Ingeniería línea informática por la Universidad Autónoma de Manizales. Sus líneas de trabajo académico son Aprendizaje de Máquina, Minería de Datos, Computación de alto desempeño, Bioinformática y Modelado-Simulación de Sistemas Dinámicos. Su tesis de maestría fue en programación paralela sobre arquitecturas heterogéneas y su tesis doctoral fue sobre redes neuronales convolucionales para el esteganalisis de imágenes en el dominio espacial.

Desde el 2017 ha trabajado en el centro de investigación de Bioinformática y Biología Computacional (BIOS) desempeñándose como líder del área de computación científica, administrador del clúster HPC e investigador en temas relacionados con sus líneas de trabajo.

Desde el año 2020 se desempeña en la secretaria TIC y competitividad de la ciudad de Manizales y en la empresa People Contact como asesor en transformación digital e inteligencia artificial.

Desde el 2014 se encuentra como docente, investigador y coordinador del programa de Ingeniería Electrónica de la Universidad Autónoma de Manizales y lidera los proyectos titulados: Hacia el entendimiento de genomas de plantas de interés productivo usando técnicas de bioinformática, inteligencia artificial y HPC, detección de COVID-19 utilizando imágenes de rayos X a partir redes neuronales convolucionales y redes neuronales convolucionales para el Estegoanálisis de imágenes en el dominio espacial. Para más información visitar:
https://scienti.minciencias.gov.co/cvlac/visualizador/generarCurriculoCv.do?cod_rh=0001614703&lang=es

Comunicaciones proyecto Algoritmos Éticos

Ximena Poblete

Periodista de la P. Universidad Católica de Chile. Consultora en comunicaciones organizacionales.

Periodista de la P. Universidad Católica de Chile, con un diplomado en Gestión Estratégica de la Sostenibilidad (PUCV, 2019) y un diplomado en Felicidad Organizacional (UAI, 2015), dos contenidos clave para la comprensión y gestión integral de las comunicaciones organizacionales.
Junior Data Scientist

Mariana German

Egresada de Ingeniería Civil Informática de la Universidad Adolfo Ibáñez, tesista del Master of Science in Data Science UAI.

Egresada de Ingeniería Civil Informática en la Universidad Adolfo Ibáñez, actualmente tesista del Master of Science in Data Science de la misma universidad. Con amplia experiencia en gestión de proyectos con foco social en conjunto con instituciones como la Superintendencia del Medio Ambiente y la Municipalidad de Peñalolén. Con experiencia e interés en el manejo de bases de datos y las aplicaciones de las ciencias de datos en la gestión pública. Ayudante del curso de Formulación de Proyectos de Ciencias de Datos de la Escuela de Gobierno.
Tesista

Gonzalo Brizuela

Ingeniero en Informática, Diploma en dirección de proyectos y Científico de datos por IBM.

Ingeniero en informática, Diploma en dirección de proyectos, Científico de datos (IBM), Product Owner y Scrum Master. Actualmente cursa el programa Magíster en Ciencias de la Ingeniería perteneciente a la Facultad de Ingeniería y Ciencias de la Universidad, desarrolla su tesis de maestría sobre el rol de la ingeniería de software en el desarrollo de inteligencia artificial y software ético.
Desde el año 2014 se ha desempeñado como ingeniero de software en distintas empresas privadas dirigiendo equipos multidisciplinarios que incluyen a docentes, desarrolladores, diseñadores, estudiantes y unidades comerciales durante este periodo se ha especializado en transformación digital, mejora continua, planificación estratégica y dirección de proyectos tecnológicos.
Sus áreas de interés son el diseño y desarrollo de software, sistemas complejos, inteligencia artificial, ciencias sociales y filosofía.
Tesista

Wilfredo Concha

Abogado por la Universidad Andina del Cusco. Egresado del Magister en Filosofía Política y Ética de la Universidad Adolfo Ibáñez.

Abogado por la Universidad Andina del Cusco. Egresado del Magister en Filosofía Política y Ética de la Universidad Adolfo Ibáñez. Especializaciones en filosofía política, ética, periodismo, gestión pública, constitucional orgánico y procesal constitucional. Profesor asistente en el curso de Pensamiento Político en la Universidad de Piura. Experiencia profesional en periodismo legal e informes periodísticos jurídicos.
Tesista

Nelson Salazar

Egresado de Ing. Civil Industrial UAI, mención en Gerencia TI. Estudiante y tesista en el MSc in Data Science UAI.

Egresado de Ingeniería Civil Industrial con mención en Gerencia TI de la Universidad Adolfo Ibáñez. Actualmente realizando el Master of Science in Data Science de la misma universidad como método de titulación. Especializado en el área de la tecnología, con experiencia en medios de tecnología de consumo (como analista de tecnología) y startups (como ingeniero de datos).

Videos

Ver más