Proyecto inédito en Chile que busca instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales
Proyecto Algoritmos Éticos, Responsables y Transparentes
Este es un proyecto inédito en Chile que busca instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales, y en la formulación y desarrollo de estas soluciones por parte de los proveedores tecnológicos.
Este proyecto, ejecutado por la Universidad Adolfo Ibáñez, es parte de la iniciativa fAIr LAC, del Grupo BID, la que busca promover la aplicación ética y responsable de la inteligencia artificial en la región, ayudando al sector público y privado a mejorar la provisión de servicios sociales y el desarrollo de empresas de impacto social.
Bajo el título de “Oportunidades de mercado para las empresas de tecnología: compras públicas de algoritmos responsables, éticos y transparentes”, trabajaremos en dos frentes.
Primero, desarrollando capacidades para incorporar estándares éticos entre las empresas tecnológicas que proveen de algoritmos de decisión automatizada e inteligencia artificial al sector público. Y en segundo lugar fomentando que el sistema de compras públicas considere la gestión ética de datos dentro de sus estándares y requisitos de compra.
El proyecto considera, entre otras iniciativas:
– Programas de formación para la incorporación de aspectos éticos tanto para servidores del sector público como para representantes de empresas tecnológicas.
– Realización de pilotos de compras públicas de algoritmos de decisión automatizada, con acompañamiento durante su implementación.
– Actividades de difusión que permitan dar a conocer estándares éticos en la gestión de datos tanto en el sector público como privado.
Colaboración multisectorial e interdisciplinaria
En la ejecución de este proyecto, participan la Escuela de Gobierno y las Facultades de Ingeniería y Ciencias y de Artes Liberales de la UAI, gracias al financiamiento de BID Lab (el laboratorio de innovación del Banco Interamericano de Desarrollo), y en alianza estratégica con ChileCompra, la División de Gobierno Digital del Ministerio Secretaría General de la Presidencia, el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, el Consejo para la Transparencia, Fonasa, la Defensoría Penal Pública, el Instituto de Previsión Social y Magical, una aceleradora de negocios especializada en apoyar startups digitales.
Formación y publicaciones
Biases associated with database structure for COVID-19 detection in X-ray images
Several artificial intelligence algorithms have been developed for COVID-19-related topics, one that has been common is the COVID-19 diagnosis using chest X-rays. This paper analyses 19 datasets of COVID-19 chest X-ray images, identifying potential biases.
Analysis of Ethical Development for Public Policies in the Acquisition of AI-Based Systems
The exponential growth of AI and its applications in different areas of society, such as the financial, agricultural, telecommunications, or health sectors, poses new challenges for the government’s public sector, mainly in regulating these systems. Governments and entities in general address these challenges by formulating soft laws such as manuals or guidelines. They seek full transparency, privacy, and bias reduction when implementing an AI-based system, including its life cycle and respective data management or governance.
Guía Formulación ética de proyectos de ciencia de datos
A través de una metodología clara y ejemplos concretos ajustados a la realidad y la normativa chilena, esta guía busca ser un valioso apoyo para planificar, formular y desarrollar sistemas de toma de decisión o de soporte a la toma de decisión basados en inteligencia artificial o modelos algorítmicos en el sector público, evitando sesgos de discriminación, falta de transparencia o mal uso de datos personales, entre otros potenciales problemas.
Health Insurance and Algorithms: An Ethical Overview
This article discusses the ethical implications of the use of algorithms and artificial intelligence in the field of health insurance. Big Data and Machine Learning have been revolutionizing various areas of human life in the last decade.
Curso de Formulación Ética de Proyectos de Ciencia de Datos 2022
El Proyecto UAI – BID de Algoritmos Éticos, Responsables y Transparentes convoca a servidores públicos a postular a la segunda versión del Curso de Formulación Ética de Proyectos de Ciencia de Datos, formación gratuita cuyo objetivo es adquirir metodologías y herramientas para diseñar un proyecto de ciencia de datos, incorporando consideraciones éticas.
AI Business Sessions
Este programa de formación gratuita, desarrollado junto a la aceleradora de startups Magical, capacitó a más de 200 desarrolladores de Inteligencia Artificial de empresas tecnológicas y startups chilenas con el objetivo de promover la gestión ética de datos.
Curso de Formulación Ética de Proyectos de Ciencia de Datos 2021
El Proyecto UAI – BID de Algoritmos Éticos, Responsables y Transparentes, convoca al sector público a postular al Curso de Formulación Ética de Proyectos de Ciencia de Datos, cuyo objetivo es adquirir metodologías y herramientas para diseñar un proyecto de ciencia de datos, incorporando consideraciones éticas.
Noticias
UAI y la DPP concluyen primera etapa de pilotaje algorítmico con estándares de ética de datos
ChileCompra presenta inéditas bases Bases Tipo para la licitación de algoritmos e inteligencia artificial con requisitos éticos
2º Consejo Asesor del proyecto Algoritmos Éticos debatió sobre desafíos y oportunidades de 2023
Equipo
Periodista, Pontificia Universidad Católica de Chile, 2004.
Directora del GobLab UAI, laboratorio de innovación pública de la Escuela de Gobierno UAI, cuya misión es contribuir a la transformación del sector público mediante la ciencia de datos. Es directora académica del Diplomado de Big Data para Políticas Públicas, donde enseña gestión ética de datos. Su área de especialización es la innovación pública, específicamente cómo la tecnología transforma el gobierno, innovaciones como el Big Data, los datos abiertos, el crowdsourcing y los laboratorios. Como becaria de investigación de The Governance Lab at New York University, trabajó en proyectos con el Banco Interamericano del Desarrollo y la Organización de Estados Americanos. Entre 2012 y 2014 fue jefa de la Unidad de Relación Ciudadana y Gestión de Información del Ministerio de Obras Públicas, liderando el rediseño de los servicios de atención al ciudadano y las iniciativas de transparencia y datos abiertos. Entre 2010 y 2011 formó parte de los ministerios de Energía y Economía. Es consulting fellow de The Governance Lab en Nueva York. Es parte de dos comisiones asesoras del Gobierno: el Comité de Expertos para la elaboración de una Política Nacional de Inteligencia Artificial (Ministerio de Ciencia) y de la Comisión Asesora Ministerial para la Transparencia, Calidad y el Impacto del Gasto Público (Ministerio de Hacienda).
Desde el 2017 ha trabajado en el centro de investigación de Bioinformática y Biología Computacional (BIOS) desempeñándose como líder del área de computación científica, administrador del clúster HPC e investigador en temas relacionados con sus líneas de trabajo.
Desde el año 2020 se desempeña en la secretaria TIC y competitividad de la ciudad de Manizales y en la empresa People Contact como asesor en transformación digital e inteligencia artificial.
Desde el 2014 se encuentra como docente, investigador y coordinador del programa de Ingeniería Electrónica de la Universidad Autónoma de Manizales y lidera los proyectos titulados: Hacia el entendimiento de genomas de plantas de interés productivo usando técnicas de bioinformática, inteligencia artificial y HPC, detección de COVID-19 utilizando imágenes de rayos X a partir redes neuronales convolucionales y redes neuronales convolucionales para el Estegoanálisis de imágenes en el dominio espacial. Para más información visitar:
https://scienti.minciencias.gov.co/cvlac/visualizador/generarCurriculoCv.do?cod_rh=0001614703&lang=es
Desde el año 2014 se ha desempeñado como ingeniero de software en distintas empresas privadas dirigiendo equipos multidisciplinarios que incluyen a docentes, desarrolladores, diseñadores, estudiantes y unidades comerciales durante este periodo se ha especializado en transformación digital, mejora continua, planificación estratégica y dirección de proyectos tecnológicos.
Sus áreas de interés son el diseño y desarrollo de software, sistemas complejos, inteligencia artificial, ciencias sociales y filosofía.
Videos
-
Algoritmos Éticos | Inéditas Bases Tipo para licitación de algoritmos e IA con requisitos éticos
-
Algoritmos Éticos | Dos años cambiando la forma de usar IA y algoritmos en Chile
-
Lanzamiento guía “Formulación ética de proyectos de ciencia de datos”
-
Proyecto Algoritmos Éticos, Responsables y Transparentes
-
Herramientas y experiencias globales para la adquisición pública de IA responsable
-
Trailer Conversatorio Responsabilidad Algorítmica (agosto 2021)
-
Conversatorio: Responsabilidad algorítmica y la IA que previene ceguera en diabéticos
-
Webinar informativo: Curso de Formulación Ética de Proyectos de Ciencia de Datos
-
Ética e IA: Ventaja competitiva internacional para desarrolladores tecnológicos
-
¿Por qué son necesarios los algoritmos éticos? Ma. Paz Hermosilla, Directora GobLab UAI
-
¿Por qué son necesarios los algoritmos éticos? Harald Beyer, Rector UAI
-
¿Por qué son necesarios los algoritmos éticos? Carlos Jerez, Decano FIC
-
¿Por qué son necesarios los algoritmos éticos? Yolanda Martínez, BID en Chile
-
¿Por qué son necesarios los algoritmos éticos? Soledad Arellano, Decana (S) Esc. de Gobierno
