Ética de datos
En esta línea de trabajo exploramos las implicancias éticas y sociales del uso de la ciencia de datos, sus efectos en la privacidad, transparencia, equidad y derechos humanos, además de explorar las herramientas para hacer un uso ético y responsable de los datos.
La ética de los datos ha sido definida como una rama de la ética aplicada que describe los juicios de valor y los enfoques que hacemos al generar, analizar y difundir datos (Data Ethics Framework, UK Government, 2018)
El GobLab tiene integrado contenidos de ética de datos en sus Diplomado en Ciencia de Datos para Políticas Públicas, Diplomado Internacional de Ciencia de Datos para la Dirección Pública, en el Diplomado Internacional de Transformación de la Gestión Pública en la Era Digital y en el curso de Formulación de Proyectos de Ciencia de Datos.
Nuestros avances
Investigación Transparencia Algorítmica
En la tesis “Ética y transparencia algorítmica: ¿se le comunica a la ciudadanía el uso que se de la su información?” se busca comprender el trato que le dan las instituciones públicas a los algoritmos que intervienen en la toma de decisiones que influyen a la ciudadanía. Para eso se hicieron solicitudes de acceso a la información pública a siete casos de usos de algoritmos en el sector público. Investigadora: Sara Seselovsky.
Grupo de investigación “Ética de Datos”
El grupo de investigación fue creado en 2019 y es coordinado por el GobLab. Reúne periódicamente a investigadores y académicos de diferentes disciplinas de la Universidad Adolfo Ibáñez interesados en la temática, para compartir los avances de sus investigaciones y formular proyectos conjuntos. Si quieres formar parte escribe a goblab@uai.cl
Transparencia Algorítmica en el Sector Público
Esta investigación es un estudio exploratorio sobre la existencia y uso de sistemas de decisiones automatizadas (SDA) en el sector público, cuyo objetivo es conocer un estado del arte del uso de estos sistemas. La información fue obtenida luego de la consulta a 870 servicios públicos, de los cuales un 33% participó, informando finalmente un total de 92 sistemas algorítmicos. El estudio consta de tres partes, primero el catastro de sistemas, luego una selección de 12 de ellos, los que fueron examinados frente a un estándar de transparencia algorítmica y la propuesta final de un estándar de transparencia algorítmica para la administración pública a concretarse mediante una acción normativa del Consejo para la Trasparencia. Ver publicación.
Justicia de Datos
Revisa el informe de la investigación del equipo GobLab, en el marco del proyecto Advancing Data Justice Research and Practice (ADJRP), implementado por The Alan Turing Institute, cuyo objetivo fue ayudar a profesionales y usuarios, a comprender la gobernanza de datos en el desarrollo de sistemas de inteligencia artificial y machine learning y así incluir consideraciones respecto de los desequilibrios de poder, equidad, acceso, identidad, y otros pilares definidos en el proyecto. Ver publicación.
Algoritmos Éticos
Este es un proyecto inédito en Chile, que ejecuta la UAI con financiamiento de BID Lab (el laboratorio de innovación del Grupo BID) y en alianza con socios del mundo público y privado.
Su objetivo es instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales, y en la formulación y desarrollo de estas soluciones por parte de los proveedores tecnológicos. Más detalles.
Publicación “Gestión Ética de los Datos”
Cada vez más, actores públicos y privados se plantean cómo escalar su impacto a través del uso de la tecnología. Al mismo tiempo, el uso y gestión de los datos personales de millones de personas preocupa a los ciudadanos y existe un sentimiento de urgencia sobre la necesidad de proteger la seguridad y privacidad de los datos usados. ¿Qué medidas se pueden tomar y cuál es el riesgo de no tomarlas? ¿Cómo puede el sector público gestionar los datos de forma responsable? Este documento ofrece marcos de referencia sobre la gestión ética de datos y sobre la importancia del consentimiento, un compendio de mejores prácticas y una hoja de ruta con pasos concretos para una gestión responsable de datos por parte del sector público. Ver publicación.
Publicación “Transparencia y Responsabilidad Algorítmica para la Inteligencia Artificial”
El paper presentado a continuación contiene los resultados del taller «Transparencia y responsabilidad algorítmica para la Inteligencia Artificial» organizado por la Escuela de Comunicaciones y Periodismo y el GobLab UAI, ambos de la Universidad Adolfo Ibáñez, y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. El taller se desarrolló en torno a tres preguntas sobre cómo enfrentar los desafíos éticos de la IA, para ser aportados a la Política Nacional. Ver publicación.
Uso responsable de IA para política pública: manual de formulación de proyectos
La inteligencia artificial (IA) es una herramienta muy potente que puede ayudar a solucionar asuntos complejos, siempre y cuando esté contextualizada dentro del problema de política pública que se busca resolver y se aborden los temas éticos y legales que implica la aplicación de herramientas automáticas de toma de decisiones. Este manual hace parte de una serie de documentos y herramientas desarrollados desde la iniciativa fAIr LAC y dirigidos a guiar a los responsables de la formulación de políticas públicas y a sus equipos técnicos en la mitigación de los retos inherentes a los sistemas de soporte de decisiones basados en IA y en la promoción de su adopción responsable. El objetivo de este documento es ayudar a los responsables de formular proyectos con IA durante su conceptualización y diseño, así como a liderar posteriormente su ejecución y monitoreo. Ver publicación.
Estado de la evidencia: Transparencia Algorítmica
Este documento ofrece una revisión bibliográfica sobre la implementación de la transparencia algorítmica en el sector público, examinando la evidencia existente sobre mecanismos para promover transparencia algorítmica así como sus impactos y resultados. Para ello, realizamos búsquedas de palabras clave en bases de datos de publicaciones científicas y motores de búsqueda, revisamos cadenas de citación y pedimos recomendaciones de expertos para identificar documentos clave en la materia. Ver publicación.
Seminario Tecnologías, Políticas y Sociedad
Este espacio de carácter académico, realizado en 2020, estuvo dedicado a la reflexión y discusión sobre las implicancias sociales y culturales del análisis de datos masivos, los efectos de la transformación digital del sector público, la emergencia de nuevos espacios digitales y el uso creciente de algoritmos. Su objetivo es contribuir desde una perspectiva interdisciplinaria al estudio crítico de la relación entre sociedad y tecnología, destacando las formas en que ella configura nuestras prácticas y experiencias cotidianas, desafía nuestros presupuestos teóricos y metodológicos, cuestiona lo que entendemos por gobierno y valor público, incentiva el fortalecimiento de las políticas públicas y levanta reflexiones éticas sobre justicia o privacidad.
A partir de esas temáticas, la intención del seminario fue promover el diálogo académico y experto entre distintas disciplinas e instituciones. Por lo tanto, el desafío es cómo entender teórica y empíricamente estos fenómenos y evaluar críticamente cuál es la mejor manera de estudiarlos en la práctica.
Fue organizado por el GobLab, el Doctorado en Instituciones y Procesos Políticos, y el Laboratorio Cultura Social Media.
Eventos
Algoritmos, Trabajo, Mirada
Esta presentación reflexiona sobre la relación entre los algoritmos de aprendizaje automático (machine learning algorithms), la automatización de la percepción visual y las transformaciones a la esfera del trabajo en el capitalismo contemporáneo. Ver más.
Inteligencia artificial, Ética y Desigualdad
Las tecnologías de la IA desempeñan cada vez más un papel central en la organización de la vida social. En los últimos dos años, hemos visto más y más evidencia de que estas tecnologías también pueden perpetuar y exacerbar la discriminación algorítmica. Tanto las empresas como los tecnólogos y los encargados de formular políticas han recurrido a la “Ética de la IA” para remediar esta situación. Ver más.
Grupo de investigación Ética de Datos
El grupo de investigación fue creado en 2019 y es coordinado por el GobLab. Reúne periódicamente a investigadores y académicos de diferentes facultades de la Universidad Adolfo Ibáñez interesados en la temática, para compartir los avances de sus investigaciones y formular proyectos conjuntos. Si quieres formar parte escribe a goblab@uai.cl
- Licenciado en Filosofía, Pontificia Universidad Católica de Chile, 1994.
Sus áreas de especialización son filosofía política, filosofía moral y ética, con especial énfasis en teorías igualitarias, multiculturalismo, teorías liberales, ética de los animales, ética del medioambiente y teorías de justicia internacional. Junto al desarrollo de numerosos proyectos de investigación se ha desempeñado como investigador y profesor visitante del CNRS en la Universidad de Oxford y en la Universidad de Tübingen, entre otros. Es miembro del Research Centre for Political Philosophy de la Universidad Tübingen y del Interdepartmental Centre for Ethics in the Sciences and Humanities de la misma Universidad.
Ayudante de FONDECYT Nº 11170230 “Bases sociales del autorrespeto como métrica de justicia social”. Actualmente desarrolla investigaciones sobre contratos inteligentes, y la relación entre ética y derecho en la programación de sistemas de inteligencia artificial.
Actualmente está realizando la tesis: Ética y transparencia algorítmica: ¿se le comunica a la ciudadanía el uso que se le da a su información?
