¿En qué momento los algoritmos se vuelven relevantes desde una perspectiva filosófica? ¿Cuándo comienzan a ser más que un asunto matemático y pasan a tener también aspectos éticos a considerar? Estas son algunas de las preguntas en que estamos trabajando a través del proyecto Algoritmos Éticos y sobre las que te invitamos a reflexionar.

Aunque no siempre logremos percibirlos, cada día más, los algoritmos están siendo parte de nuestras vidas: recomendándonos qué comprar, qué música escuchar o cuál serie ver a continuación. Pero también están apoyando decisiones de mayor impacto, como diagnósticos médicos, seleccionando a los alumnos que serán admitidos en una escuela o administrando beneficios sociales.

Es entonces que los algoritmos dejan de ser un asunto matemático o tecnológico y se vuelven relevantes desde una perspectiva filosófica, porque tienen consecuencias que impactan nuestras vidas; por ejemplo, podrían interferir o violar nuestros derechos o, en términos más generales, provocar un daño.

Pero la discusión no puede centrarse sólo en las consecuencias que podrían tener ciertos algoritmos, porque eso no es lo único relevante. Desde una mirada ética, es tanto o más importante preguntarse qué intereses promueve un determinado algoritmo, qué tan transparente u opaco es y de qué manera se hace cargo de la privacidad de sus usuarios, entre otras interrogantes.

Esta mirada está al centro del proyecto Algoritmos Éticos, Responsables y Transparentes del que soy parte, y donde aporto desde la filosofía para conformar un equipo multidisciplinario en que participamos profesores e investigadores de las facultades de Ingeniería y Artes Liberales, y de las escuelas de Gobierno y Comunicaciones de la Universidad Adolfo Ibáñez.

¿Quién (si es que alguien) es responsable por una decisión que toma un algoritmo? ¿Cómo se traza esa responsabilidad? ¿Es moralmente deseable que intervengan algoritmos en temas relativos al bienestar social? Estas son algunas de las preguntas que comienzan a surgir, sobre las que estamos reflexionando y vamos a investigar a través de diversas actividades.

Hay dos grandes modos de analizar, desde un punto de vista filosófico, el uso de algoritmos en diversas prácticas. Uno es el “enfoque ideal”, que busca un ideal moral que debemos perseguir independientemente de si se alcanza o no; otro es el “no ideal”, que considera las circunstancias en que se desenvuelven las personas que están en una determinada práctica.

En particular, por mi formación en Filosofía del Derecho, me llama la atención esta disyuntiva en la utilización de algoritmos para guiar (o supervisar) decisiones en la administración de justicia, donde, por un lado, está en juego un bien superior para las personas y la sociedad y, por otro, existe un contexto – “no ideal” – en el que en muchos casos jueces y abogados están sobrecargados con causas.

Allí hay un espacio (aunque, en mi opinión, delimitado) para avanzar con estas tareas a través de inteligencia artificial o sistemas automatizados, aplicando criterios de eficiencia, pero estos no son suficientes por sí solos: hay que poner sobre ellos un ojo crítico observando, por ejemplo, si las recomendaciones que hace el algoritmo cumplen además con principios de justicia, tales como principios de no discriminación e imparcialidad, entre otros.

Allí es donde la filosofía y la ética se cruzan con los datos y se adentran en el código del sistema y sus algoritmos. Y esa es la invitación que hacemos a los organismos públicos, a los desarrolladores privados, y los propios usuarios, a través de este proyecto que ejecutamos desde el GobLab UAI.