¿Qué es la responsabilidad algorítmica?

Cuando hablamos de algoritmos éticos, nos referimos a un conjunto de buenas prácticas para prevenir que estos sistemas introduzcan sesgos o pasen a llevar derechos de las personas. Una de ellas es la responsabilidad, tema que abordaremos este 16 de agosto en un conversatorio a través del caso de DART, la inteligencia artificial que previene la ceguera en diabéticos.

Imaginemos que un algoritmo es como una receta: un conjunto ordenado de operaciones de datos que permiten resolver un problema. Lo que queremos, antes que todo, es que esa receta no genere nuevos problemas, por ejemplo, introduciendo sesgos, discriminando arbitrariamente o violando la privacidad de las personas los datos usados.

Para ello – como postulamos desde el Proyecto Algoritmos Éticos, Responsables y Transparentes que ejecutamos junto a BID Lab – hay una serie de principios que se deben considerar en esa receta. Entre ellos la responsabilidad algorítmica, que se refiere a responder por daños, ofrecer mecanismos de revisión e impugnación, y a validar y probar los modelos utilizados, entre otros aspectos.

El próximo 16 de agosto hablaremos de este tema en un conversatorio abierto a todo público a partir del caso de DART, software de inteligencia artificial que funciona en Chile desde 2018 analizando exámenes de fondo de ojo realizados a pacientes diabéticos con el objetivo de detectar anomalías asociadas a la retinopatía diabética, que es la principal causa de pérdida de visión y ceguera en personas en edad laboral (inscripciones AQUÍ).

Su algoritmo está en más de 200 unidades de atención primaria oftalmológica administradas por el Ministerio de Salud, con más de 220 mil pacientes al año. Y, lo más importante, fue sometido a un proceso de validación clínica que, de manera retrospectiva, evaluó y confirmó el diagnóstico que la IA realizó en 1.123 exámenes (publicado en la revista Eye de Nature en 2021), a través de un protocolo de validación diseñado por el Minsal y especialistas en retina.

Esta validación se hace cargo del principio de responsabilidad planteado al principio, ya que se evaluó la precisión y validez de una herramienta nueva para la que no existían estándares sobre los cuales funcionar. El resultado fue positivo: sensibilidad del 94,6 y valor predictivo negativo del 98,1%.

Junto a Tomás Arenas, CEO de TeleDx, la empresa creadora de DART, y el Dr. Fernando Barría, director de la célula de oftalmología del Hospital Digital, comentaremos el impacto de contar con una inteligencia artificial validada apoyando el diagnóstico de retinopatía diabética en Chile y, sobre todo, de las lecciones que deja implementar una tecnología al servicio de las personas.