(Español) Justicia de Datos en Chile: una mirada desde la comunidad técnica y política

En los últimos años se han desarrollado más de 80 guías para el desarrollo ético de IA en el mundo. Si bien existe convergencia global en cuanto a cinco principios éticos de base: transparencia, justicia y equidad, no maleficencia, responsabilidad y privacidad, no hay suficiente claridad sobre cómo estos principios se llevan a la práctica.

Por Romina Garrido y Dusan Cotoras.

Durante noviembre de 2021 a marzo de 2022 el GobLab participó como uno de los 12 socios a nivel global del proyecto Advancing Data Justice Research and Practice (ADJRP), ejecutado por The Alan Turing Institute (ATI), como parte de la Alianza Global sobre Inteligencia Artificial (GPAI), una iniciativa multiactor cuyo objeto es aportar al trabajo que, desde hace unos años, ocupa a parte de la comunidad técnica y jurídica relacionada con los aspectos éticos de la Inteligencia Artificial (IA).

En los últimos años se han desarrollado más de 80 guías para el desarrollo ético de IA en el mundo. Si bien existe convergencia global en cuanto a cinco principios éticos de base: transparencia, justicia y equidad, no maleficencia, responsabilidad y privacidad, no hay suficiente claridad sobre cómo estos principios se llevan a la práctica, es decir, cómo deben implementarse efectivamente. El trabajo de ATI en este sentido resulta distinto y novedoso puesto que busca generar un proceso de reflexión en las organizaciones, más allá de la ética, focalizándose en la gobernanza de datos mediante un enfoque centrado en la concepción de justicia. La noción de “Justicia de Datos” busca precisamente redefinir los principios normativos de la justicia social en un contexto saturado por sistemas basados en datos, a partir de un conjunto de pilares dirigidos a poner de manifiesto desafíos en materia de acceso a la información, equidad en su tratamiento, participación ciudadana, incorporación de distintas formas de conocimiento, sesgos en la identificación de la población y distribución del poder.

La vocación interdisciplinaria tras esta nueva terminología supone todo un desafío para los debates tradicionales en esta parte del mundo, donde el foco está en la ética o protección de datos. Para llevar a cabo este proyecto, accedimos al material preliminar desarrollado por ATI con miras a tres grupos de interés: formuladores de políticas, desarrolladores y partes interesadas en comunidades marginadas. Nuestro equipo tuvo la oportunidad de evaluar este material a la luz de las condiciones institucionales propias del contexto local dado el trabajo y la experiencia del GobLab: el mejoramiento de políticas públicas basadas en datos. En el marco del estudio se organizaron 12 entrevistas semiestructuradas entre formuladores de políticas y la comunidad técnica de desarrolladores provenientes tanto del sector público como privado, de quienes obtuvimos un primer acercamiento sobre el grado de pertinencia del concepto y de sus distintas expresiones dentro de la realidad nacional. Con posterioridad se llevaron a cabo dos talleres en donde ambos grupos tuvieron acceso al contenido elaborado por ATI con el fin de intercambiar posiciones sobre los alcances o limitaciones del material correspondiente al pilar del poder y la equidad, respectivamente. Por medio de una discusión en torno a estudios de casos y a los atributos de cada pilar, se logró generar una conversación abierta con más de 25 expertos que compartieron con entusiasmo sus apreciaciones frente a los desafíos de implementar el enfoque propuesto.

A partir de los datos recopilados pudimos constatar una evidente tensión entre los esfuerzos dirigidos al resguardo de los datos personales y su disponibilidad para el desarrollo de políticas públicas en beneficio de la ciudadanía. El análisis comparado advierte al mismo tiempo sobre la necesidad de involucrar al mundo académico en los problemas específicos que viven los diseñadores de políticas públicas frente a la regulación vigente o la comunidad técnica en materia de innovación, con el propósito de dar un sustento práctico a sus definiciones. Estos resultados además de situar al GobLab como un actor clave en temas de ética y justicia de datos, nos permitieron descubrir la gobernanza de datos desde nuevas perspectivas que compensan su carácter exploratorio con una mirada más amplia sobre las preocupaciones que comparte la sociedad chilena con la comunidad internacional.

Conoce más de los resultados del proyecto aquí: https://advancingdatajustice.org/research-outputs/