Los algoritmos y los sistemas de decisión automatizada (SDA) están ya presentes en múltiples ámbitos de nuestra vida cotidiana, pero ¿qué pasa con su uso en los seguros de salud? Así partió una reflexión que permitió investigar el tema y levantar riesgos y oportunidades al respecto, en lo que es solo un ejemplo de lo que estamos desarrollando con distintas temáticas de interés público.

En el equipo del Proyecto Algoritmos Éticos, Responsables y Transparentes de la UAI, hemos estado trabajando con Fonasa -institución socia del proyecto- acompañándolos en el proceso de incluir requisitos éticos en las bases de una licitación para adquirir un servicio de inteligencia artificial o ciencia de datos que apoye ciertas labores de fiscalización.

A raíz de lo anterior, nació la inquietud de investigar sobre cómo se están usando algoritmos en los seguros de salud, en Chile y en el mundo en general. Si bien había trabajado en temas de bioética que proponen una reflexión similar, este campo trae muchas nuevas preguntas, y en el camino descubrí que, si bien existe investigación, aún hay muchos vacíos por llenar. Todo esto fue plasmado en un artículo publicado por el Journal of Legal, Ethical and Regulatory Issues.

El uso de algoritmos en el área de los seguros de salud -como en otros mercados e industrias- puede traer beneficios tanto para los usuarios como para las empresas, a la vez que presentan riesgos éticos relevantes que hay que abordar. Y es que principios como privacidad, confidencialidad, transparencia, responsabilidad y no discriminación, cobran mayor relevancia cuando hablamos de los seguros médicos, ya que lo legal y lo comercial acá se mezcla con el campo médico y la salud y bienestar de las personas.

A lo anterior se suma que el seguro de salud tiene situaciones propias del sector, como son la confidencialidad médico-paciente, el manejo de información sensible (enfermedades o herencia genética de una persona, por ejemplo) y la inevitable selección y categorización que todo seguro médico debe hacer entre un usuario y otro en base a la información que posee. Este último punto es inherente a todo seguro de salud y trae aparejados riesgos de discriminación y sesgos.

Ante los riesgos ya mencionados y otros más que se pueden generar, surgen preguntas como: ¿qué se debería hacer para que el uso de algoritmos no afecte negativamente los seguros de salud? Aún no hay respuesta para ello, pero está claro es que hay que empezar a reflexionar sobre el tema, en especial si se estima que, según algunos estudios, para 2030 las compañías de seguros adoptarán ampliamente una configuración de precios y primas basada en inteligencia artificial (Rodríguez-Pardo del Castillo, 2018).

Ya sea para los seguros de salud o para cualquier otro ámbito, un camino de respuesta es el que estamos trabajando desde el proyecto Algoritmos Éticos, donde estamos diseñando soluciones concretas a través de procesos participativos y consultas, de manera asociativa con nuestros organismos públicos socios: Fonasa, la Defensoría Penal Pública, el Consejo para la Transparencia, la División de Gobierno Digital de la Segpres, ChileCompra y el Ministerio de Ciencia.

Y no solo esto, porque estamos desarrollando pilotos para probar las guías, matrices y protocolos propuestas para incorporar estándares éticos en proyectos de ciencia de datos e inteligencia artificial, y estamos además acompañanado su proceso de implementación (convocatoria abierta a nuevos socios acá).

En este sentido, el proyecto Algoritmo Éticos es una iniciativa muy interesante, potente y con clara incidencia en el sector público que, así como nos permitió abrir una reflexión respecto de los seguros de salud, nos está haciendo poner sobre la mesa distintas preguntas para promover que el uso de los datos se haga, cada vez más, desde una perspectiva ética.