Ética de Datos

By 30 de April de 2020 July 17th, 2023 Uncategorized

Ética de datos

En esta línea de trabajo exploramos las implicancias éticas y sociales del uso de la ciencia de datos, sus efectos en la privacidad, transparencia, equidad y derechos humanos, además de explorar las herramientas para hacer un uso ético y responsable de los datos.

La ética de los datos ha sido definida como una rama de la ética aplicada que describe los juicios de valor y los enfoques que hacemos al generar, analizar y difundir datos (Data Ethics Framework, UK Government, 2018)

Nuestros avances

Investigación Transparencia Algorítmica

En la tesis “Ética y transparencia algorítmica: ¿se le comunica a la ciudadanía el uso que se de la su información?” se busca comprender el trato que le dan las instituciones públicas a los algoritmos que intervienen en la toma de decisiones que influyen a la ciudadanía. Para eso se hicieron solicitudes de acceso a la información pública a siete casos de usos de algoritmos en el sector público. Investigadora: Sara Seselovsky.

Grupo de investigación “Ética de Datos”

El grupo de investigación fue creado en 2019 y es coordinado por el GobLab. Reúne periódicamente a investigadores y académicos de diferentes disciplinas de la Universidad Adolfo Ibáñez interesados en la temática, para compartir los avances de sus investigaciones y formular proyectos conjuntos. Si quieres formar parte escribe a goblab@uai.cl 

Transparencia Algorítmica en el Sector Público

Esta investigación es un estudio exploratorio sobre la existencia y uso de sistemas de decisiones automatizadas (SDA) en el sector público, cuyo objetivo es conocer un estado del arte del uso de estos sistemas. La información fue obtenida luego de la consulta a 870 servicios públicos, de los cuales un 33% participó, informando finalmente un total de 92 sistemas algorítmicos. El estudio consta de tres partes, primero el catastro de sistemas, luego una selección de 12 de ellos, los que fueron examinados frente a un estándar de transparencia algorítmica y la propuesta final de un estándar de transparencia algorítmica para la administración pública a concretarse mediante una acción normativa del Consejo para la Trasparencia. Ver publicación.

Justicia de Datos

Revisa el informe de la investigación del equipo GobLab, en el marco del proyecto Advancing Data Justice Research and Practice (ADJRP), implementado por The Alan Turing Institute, cuyo objetivo fue ayudar a profesionales y usuarios, a comprender la gobernanza de datos en el desarrollo de sistemas de inteligencia artificial y machine learning y así incluir consideraciones respecto de los desequilibrios de poder, equidad, acceso, identidad, y otros pilares definidos en el proyecto. Ver publicación.

Algoritmos Éticos

Este es un proyecto inédito en Chile, que ejecuta la UAI con financiamiento de BID Lab (el laboratorio de innovación del Grupo BID) y en alianza con socios del mundo público y privado.

Su objetivo es instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales, y en la formulación y desarrollo de estas soluciones por parte de los proveedores tecnológicos. Más detalles.

Publicación “Gestión Ética de los Datos”

Cada vez más, actores públicos y privados se plantean cómo escalar su impacto a través del uso de la tecnología. Al mismo tiempo, el uso y gestión de los datos personales de millones de personas preocupa a los ciudadanos y existe un sentimiento de urgencia sobre la necesidad de proteger la seguridad y privacidad de los datos usados. ¿Qué medidas se pueden tomar y cuál es el riesgo de no tomarlas? ¿Cómo puede el sector público gestionar los datos de forma responsable? Este documento ofrece marcos de referencia sobre la gestión ética de datos y sobre la importancia del consentimiento, un compendio de mejores prácticas y una hoja de ruta con pasos concretos para una gestión responsable de datos por parte del sector público. Ver publicación.

Publicación “Transparencia y Responsabilidad Algorítmica para la Inteligencia Artificial”

El paper presentado a continuación contiene los resultados del taller «Transparencia y responsabilidad algorítmica para la Inteligencia Artificial» organizado por la Escuela de Comunicaciones y Periodismo y el GobLab UAI, ambos de la Universidad Adolfo Ibáñez, y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. El taller se desarrolló en torno a tres preguntas sobre cómo enfrentar los desafíos éticos de la IA, para ser aportados a la Política Nacional. Ver publicación.

Uso responsable de IA para política pública: manual de formulación de proyectos

La inteligencia artificial (IA) es una herramienta muy potente que puede ayudar a solucionar asuntos complejos, siempre y cuando esté contextualizada dentro del problema de política pública que se busca resolver y se aborden los temas éticos y legales que implica la aplicación de herramientas automáticas de toma de decisiones. Este manual hace parte de una serie de documentos y herramientas desarrollados desde la iniciativa fAIr LAC y dirigidos a guiar a los responsables de la formulación de políticas públicas y a sus equipos técnicos en la mitigación de los retos inherentes a los sistemas de soporte de decisiones basados en IA y en la promoción de su adopción responsable. El objetivo de este documento es ayudar a los responsables de formular proyectos con IA durante su conceptualización y diseño, así como a liderar posteriormente su ejecución y monitoreo. Ver publicación.

Estado de la evidencia: Transparencia Algorítmica

Este documento ofrece una revisión bibliográfica sobre la implementación de la transparencia algorítmica en el sector público, examinando la evidencia existente sobre mecanismos para promover transparencia algorítmica así como sus impactos y resultados. Para ello, realizamos búsquedas de palabras clave en bases de datos de publicaciones científicas y motores de búsqueda, revisamos cadenas de citación y pedimos recomendaciones de expertos para identificar documentos clave en la materia. Ver publicación.

Seminario Tecnologías, Políticas y Sociedad

Este espacio de carácter académico, realizado en 2020, estuvo dedicado a la reflexión y discusión sobre las implicancias sociales y culturales del análisis de datos masivos, los efectos de la transformación digital del sector público, la emergencia de nuevos espacios digitales y el uso creciente de algoritmos. Su objetivo es contribuir desde una perspectiva interdisciplinaria al estudio crítico de la relación entre sociedad y tecnología, destacando las formas en que ella configura nuestras prácticas y experiencias cotidianas, desafía nuestros presupuestos teóricos y metodológicos, cuestiona lo que entendemos por gobierno y valor público, incentiva el fortalecimiento de las políticas públicas y levanta reflexiones éticas sobre justicia o privacidad.

A partir de esas temáticas, la intención del seminario fue promover el diálogo académico y experto entre distintas disciplinas e instituciones. Por lo tanto, el desafío es cómo entender teórica y empíricamente estos fenómenos y evaluar críticamente cuál es la mejor manera de estudiarlos en la práctica.

Fue organizado por el GobLab, el Doctorado en Instituciones y Procesos Políticos, y el Laboratorio Cultura Social Media.

Eventos

Algoritmos, Trabajo, Mirada

Esta presentación reflexiona sobre la relación entre los algoritmos de aprendizaje automático (machine learning algorithms), la automatización de la percepción visual y las transformaciones a la esfera del trabajo en el capitalismo contemporáneo. Ver más.

Inteligencia artificial, Ética y Desigualdad

Las tecnologías de la IA desempeñan cada vez más un papel central en la organización de la vida social. En los últimos dos años, hemos visto más y más evidencia de que estas tecnologías también pueden perpetuar y exacerbar la discriminación algorítmica. Tanto las empresas como los tecnólogos y los encargados de formular políticas han recurrido a la “Ética de la IA” para remediar esta situación. Ver más.

Grupo de investigación Ética de Datos

El grupo de investigación fue creado en 2019 y es coordinado por el GobLab. Reúne periódicamente a investigadores y académicos de diferentes facultades de la Universidad Adolfo Ibáñez interesados en la temática, para compartir los avances de sus investigaciones y formular proyectos conjuntos. Si quieres formar parte escribe a goblab@uai.cl

Investigador Asociado

Daniel Loewe

- PhD in Political and Moral Philosophy, Eberhard Karls Universität Tübingen, Alemania, 2001.

- PhD in Political and Moral Philosophy, Eberhard Karls Universität Tübingen, Alemania, 2001.
- Licenciado en Filosofía, Pontificia Universidad Católica de Chile, 1994.
Sus áreas de especialización son filosofía política, filosofía moral y ética, con especial énfasis en teorías igualitarias, multiculturalismo, teorías liberales, ética de los animales, ética del medioambiente y teorías de justicia internacional. Junto al desarrollo de numerosos proyectos de investigación se ha desempeñado como investigador y profesor visitante del CNRS en la Universidad de Oxford y en la Universidad de Tübingen, entre otros. Es miembro del Research Centre for Political Philosophy de la Universidad Tübingen y del Interdepartmental Centre for Ethics in the Sciences and Humanities de la misma Universidad.
Directora GobLab

María Paz Hermosilla

Master en Administración pública, NYU. Directora del GobLab UAI, Directora académica del Diplomado de Big Data para Políticas Públicas.

Master en Administración pública, NYU. Directora del GobLab UAI, Directora académica del Diplomado de Big Data para Políticas Públicas. Su área de especialización es la innovación pública, Big Data, los datos abiertos, el crowdsourcing y los laboratorios. Es consulting fellow de The Governance Lab en Nueva York.
Investigadora Asociada

Romina Garrido

Abogada de la Universidad de Valparaíso, Máster en Derecho de las Nuevas
Tecnologías de la U. de Chile.

Diplomada en Derecho Informático. Certificada en Liderazgo y Estrategia en Ciberseguridad por la Universidad Internacional de Florida, Estados Unidos. Colabora desde el 2008 en la Red Iberoamericana de Protección de Datos y es fundadora de la ONG Datos Protegidos. Es especialista en protección de datos personales, ha dictado diversos cursos y seminarios en Chile y en el extranjero y actualmente asesora al sector público y privado. En 2019 fue finalista en el Ranking Leading Lawyers en la categoría Data Protection y mujer destacada en Ciberseguridad por la Alianza Chilena de Ciberseguridad.
Estudiante Doctorado

Rodrigo González

Estudiante del Doctorado en Proceso e Instituciones Políticas de la Universidad Adolfo Ibáñez.

Estudiante del Doctorado en Proceso e Instituciones Políticas de la Universidad Adolfo Ibáñez. Sociólogo por la Pontifica Universidad Católica de Chile; Magíster en Pensamiento Contemporáneo y diplomado en Métodos Cualitativos para la Investigación Social por la Universidad Diego Portales. Actualmente se encuentra desarrollando su proyecto doctoral sobre la relación entre algoritmos y normatividad social.
Ayudante de Investigación

Laura Bavestrello

Licenciada en Filosofía (Pontificia Universidad Católica de Chile) y Master in Global Rule of Law & Constitutional Democracy (Universitat de Girona y Università degli studi di Genova).

Licenciada en Filosofía por la Pontificia Universidad Católica de Chile; diplomada en Gestión de Políticas Sociales por la Universidad de Concepción y Master in Global Rule of Law & Constitutional Democracy de la Universitat de Girona y la Università degli Studi di Genova. Trabajó como ayudante de investigación en el proyecto “La gestión ética de los datos” del Banco Interamericano de Desarrollo y como pasante en la Dirección de Estudios de la Corte Suprema. Además ha desarrollado otras investigaciones sobre teoría del derecho y en el área de las políticas públicas.
Ayudante de investigación

José Pablo Lapostol

Licenciado en Ciencias Jurídicas y Sociales, Universidad de Chile.

Licenciado en Ciencias Jurídicas y Sociales, Universidad de Chile. Ha sido expositor en congresos nacionales e internacionales en materia de filosofía, derecho y nuevas tecnologías.

Ayudante de FONDECYT Nº 11170230 “Bases sociales del autorrespeto como métrica de justicia social”. Actualmente desarrolla investigaciones sobre contratos inteligentes, y la relación entre ética y derecho en la programación de sistemas de inteligencia artificial.

Ayudante de investigación

Sara Seselovsky

Periodista de la Universidad Adolfo Ibáñez y Magíster en Comunicación Corporativa.

Periodista de la Universidad Adolfo Ibáñez y Magíster en Comunicación Corporativa.
Actualmente está realizando la tesis: Ética y transparencia algorítmica: ¿se le comunica a la ciudadanía el uso que se le da a su información?

Notas relacionadas

Algoritmos ÉticosÉTICA DE DATOSNOTICIAS
17 de December de 2020

¿Por qué son necesarios los algoritmos éticos?

UAI y BID firman convenio para desarrollar proyecto que permitirá la gestión responsable y transparente de los datos en el sector público (más…)
ÉTICA DE DATOSNOTICIAS
17 de April de 2020

GobLab presenta reflexiones sobre transparencia y responsabilidad algorítmica para la inteligencia artificial

La publicación será un aporte directo a la Política Nacional de IA que se encuentra en elaboración por parte del Ministerio de Ciencia (más…)
ÉTICA DE DATOSNOTICIAS
17 de April de 2020

Uso ético de datos en una sociedad digital

La directora de GobLab, María Paz Hermosilla, participó del podcast de “Pensando en Política”, en esta ocasión el tema principal fue el uso ético de datos en una sociedad digital…
Preguntas para una nueva décadaÉTICA DE DATOSNOTICIAS
07 de April de 2020

¿Qué desafíos enfrentamos en ciberseguridad y ética de datos?

La directora del GobLab, María Paz Hermosilla, participó en el capítulo del programa "Preguntas para una nueva década" que realiza la UAI junto con Emisor Podcasting. (más…)