Una de las especializaciones que existe al interior del equipo multidisciplinario del proyecto Algoritmos Éticos (de la UAI y BID Lab) es la etnografía, área de estudio proveniente de las ciencias sociales y que, a través de una mirada innovadora y de vanguardia, nos permite observar los desafíos culturales y humanos que surgen en la implementación de algoritmos, inteligencia artificial o sistemas de decisión automatizada con estándares éticos.

Pensar que la ciencia de datos y las ciencias sociales son antagonistas o que la tecnología es contraria a la cultura, son ideas erróneas que supondrían una situación donde tanto los artefactos como los datos surgen de manera espontánea, olvidando así que fueron creados y procesados por seres humanos. Por el contrario, es evidente que existe una relación de bidireccionalidad entre tecnología y sociedad, sobre todo en la actualidad, cuando advertimos que gran parte de nuestras relaciones cotidianas están mediadas por la tecnología.

Es en medio de esta compleja interacción entre tecnología y sociedad en donde se desarrollan actualmente los esfuerzos orientados a la modernización del Estado y sus procesos de innovación y transformación digital para dar mejores respuestas a las personas por medio del uso de ciencia de datos, inteligencia artificial y algoritmos. Lo anterior es altamente complejo, no sólo por los sistemas que se necesitan implementar, sino porque implica la interacción de múltiples personas y culturas organizacionales que no pueden ser percibidas únicamente desde la perspectiva de la ciencia de datos.

Es por esto que en el proyecto Algoritmos Éticos, Responsables y Transparentes, que ejecutamos desde la Universidad Adolfo Ibáñez con apoyo de BID Lab – el laboratorio de innovación del Grupo BID – y en alianza con diversos socios del mundo público y privado, estamos trabajando en pilotos para incorporar estándares éticos en la implementación de sistemas automatizados con un ojo puesto en los datos y el otro en las personas.

¿En qué se traduce esto? Significa que estamos registrando las prácticas cotidianas de sesiones de trabajo, levantando un mapa de actores clave basado en sus flujos de comunicación, y realizando entrevistas cualitativas con los equipos involucrados en el pilotaje de las metodologías con que nuestros socios de FONASA, la Defensoría Penal Pública (DPP) y el Instituto de Previsión Social (IPS) están incorporando estándares de responsabilidad, transparencia, explicabilidad o privacidad, entre otros, en soluciones tecnológicas durante su proceso de desarrollo e implementación.

Dicho trabajo lo llevamos a cabo en colaboración con el profesor Arturo Arriagada, de la Escuela de Comunicaciones y Periodismo, de manera que la etnografía es un fiel reflejo del enfoque interfacultades, interdisciplinario y de vanguardia asumido al interior del proyecto Algoritmos Éticos.

Así buscamos captar la complejidad que afrontan las entidades públicas al desarrollar proyectos basados en algoritmos y, al mismo tiempo, desde una mirada ética, entregar una perspectiva más profunda y acabada sobre los posibles riesgos o externalidades negativas a considerar, las cuales por lo general van más allá del rendimiento técnico asociado al uso de datos.

Etnografía en evolución

Si bien, en sus orígenes, los enfoques etnográficos cumplieron un papel clave para descubrir el sistema de creencias de comunidades con distintos niveles de desarrollo, en el mundo actual resultan cruciales para comprender nuestra propia relación con la tecnología. Por ello, a partir de los Estudios Sociales de la Ciencia y la Tecnología, me he concentrado en analizar cualitativamente los procesos de innovación que caracterizan al estado de desarrollo de las sociedades modernas, en contextos donde los criterios de evaluación técnica se debaten con requerimientos de orden político, normativo, económico y cultural.

En concreto, la mirada etnográfica sobre la ciencia de datos nos permite acompañar la creación, desarrollo e implementación de proyectos tecnológicos, mediante la observación y análisis de problemáticas que se pueden presentar en la práctica, pero que muchas veces no son conscientes al nivel de los discursos que los mismos actores entregan sobre su actividad. Con ello buscamos esclarecer más detalladamente los efectos que dichos proyectos generan entre sus potenciales beneficiarios y grupos de interés.

Creo firmemente que los desarrollos de inteligencia artificial y sistemas automatizados en general deben abordarse como objetos profundamente humanos, tanto debido a su origen como considerando a quienes tiene como sujeto beneficiario de su implementación. Por tanto, la invitación es a replantear nuestra mirada sobre la tecnología como un área de interés para múltiples disciplinas antes que restringirla únicamente a las ciencias de la ingeniería.

Pensando en su desarrollo futuro, la tendencia debiese indicarnos un horizonte común donde las humanidades se involucren cada vez más en soluciones tecnológicas, a su vez que la ciencia y la tecnología integren los aprendizajes obtenidos desde las ciencias sociales para el beneficio de la ciudadanía en su conjunto.

Sin duda los enfoques etnográficos han probado ser un aporte significativo en el marco del proyecto, siendo capaces de complementar y robustecer los alcances de la ciencia de datos desde una mirada interdisciplinaria y suficientemente holística como para prevenir escenarios complejos que desafían las competencias predictivas de nuestras instituciones públicas en el futuro inmediato.