“Innovación y transparencia: La Suseso es pionera en pilotar Algoritmos Éticos para optimizar la gestión pública”

La Superintendencia de Seguridad Social (Suseso) es socia del proyecto Algoritmos Éticos que lidera el GobLab UAI y se ha hecho parte de los pilotajes de herramientas a través de dos de sus procesos: el de reclamaciones de licencias médicas y el de tramitación del seguro laboral.

En el primero, contó con la asesoría del equipo de GobLab para efectuar la licitación del servicio utilizando las Bases Tipo para la compra de inteligencia artificial, proyectos de ciencia de datos y algoritmos en el servicio público con estándares éticos desarrolladas en el marco del proyecto. Y por otra parte ha sido una de las instituciones que han pilotado las herramientas Ficha de transparencia y Medición de sesgos y equidad en etapa temprana, entregando valiosa retroalimentación para su perfeccionamiento.

“Fuimos pioneros en el uso de las Bases Tipo para la adquisición de algoritmos públicos, en cuyo contenido se pedía el uso de las herramientas de transparencia y sesgo; razón por la cual hemos podido exigir a los proveedores tecnológicos adjudicados que las apliquen y así ir sentando las bases de una metodología que será permanente en los protocolos de gestión de proyectos por parte de la Superintendencia”, señala Rodrigo Moya, jefe de la Unidad de Transformación Digital, Innovación y Proyectos de la Suseso y contraparte técnica del equipo UAI en el proyecto de Algoritmos Éticos.

En esta entrevista, nos comparte tanto aspectos de los modelos desarrollados por la institución como su experiencia con las Herramientas de Algoritmos Éticos.

¿En qué consiste el problema que buscaron solucionar a través de la ciencia de datos?

El problema que se busca resolver tiene relación con el proceso de reclamaciones de licencias médicas y tramitación del seguro laboral. Como institución nos hemos visto enfrentados a un aumento de la demanda en estas materias, lo que ha impactado significado un incremento en los plazos de respuesta sin la posibilidad de aumentar el número de profesionales que revisan y resuelven casos. Atendida esta situación, lo que buscamos con el proyecto de ciencia de datos es optimizar los procesos y así dar respuesta a las reclamaciones en el menor tiempo posible.

¿Qué tipo de sistemas o modelos decidieron usar para mejorar estos procesos y por qué?

Durante el 2023, la Superintendencia de Seguridad Social y la Subsecretaría de Hacienda acordaron suscribir un convenio que se traduce en explorar, formular y concretar proyectos vinculados con ciencia de datos para la optimización de procesos que se traduzcan en automatización de flujos y actividades que impliquen mejoras de gestión interna y que propicien beneficios para las personas usarias de los servicios de la Suseso.

En este contexto estamos desarrollando modelos predictivos que apoyen y optimicen el proceso de resolución de reclamaciones tanto en materia de licencias médicas como de seguro laboral.

¿Qué desafíos éticos implicaba aplicar esta tecnología en servicios sensibles para las personas?

Además de regular y fiscalizar el cumplimiento de la normativa de seguridad social, la misión de la Suseso es garantizar el respeto de los derechos de las personas, especialmente de los trabajadores, pensionados y sus familias, resolviendo con calidad y oportunidad sus consultas, reclamos, denuncias y apelaciones. Para aplicar aquello, el punto de vista ético es un factor crítico en el logro de dicho cumplimiento, tanto por el tratamiento o uso que se da a los datos personales como por la utilización que pueda dársele a los modelos.

Para ello, resulta indispensable que estas iniciativas de ciencia de datos se diseñen, desarrollen, prueben, implementen y se entrenen con los más altos estándares éticos, tanto a nivel de lograr su explicabilidad por medio de la transparencia -evitando de esta forma la opacidad de los modelos de IA- como en el sentido de evitar el sesgo estadístico, -evitando todo tipo de discriminación arbitraria-.

Todo lo anterior, con el fin de lograr la verificación de la utilidad de aplicar estas herramientas de ciencia de datos, que permitan dar credibilidad al modelo y fomenten su utilización a nivel institucional.

¿Qué herramientas usaron y para qué les sirvió aplicarlas?

Para la Medición de sesgos y equidad se utilizan métricas como Statistical Parity Difference y Disparate Impact Ratio, en este caso específico, para la evaluación en los modelos de admisibilidad, pronunciabilidad y dictámenes.

Su aplicabilidad permite que, por un lado, el proveedor deba explicar los modelos evaluados y la justificación de la elección de la respectiva solución y sus parámetros y, por otro lado, permiten a la Superintendencia comprender por qué la solución desarrollada conduce a una decisión o resultado en particular.

En el caso del seguro laboral desarrollaron internamente un modelo. ¿Qué herramientas usaron y para qué les sirvió aplicarlas?

La consultora que realizó la auditoría a dicho modelo desarrollado de manera interna utilizó la Ficha de transparencia diseñada por el GobLab UAI, apuntando a la clasificación de origen de las enfermedades mentales presentadas como reclamo ante la Suseso, laboral o no laboral. Además, consideró en sus etapas la revisión de las fuentes de datos utilizadas, las características de los datos, variables y parámetros; y realizar análisis de sesgos, de equidad, de transparencia, de precisión y de contrafactuales, e incluir mecanismos de explicabilidad del sistema.

Con ello podemos comprender por qué la solución desarrollada conduce a una sugerencia de decisión o resultado y, en particular, generar procesos definidos que nos permitan estar alineados con las buenas prácticas para el desarrollo de IA en el sector público.

¿Por qué cree que otros organismos públicos deben sumarse al pilotaje de las nuevas herramientas éticas?

Consideramos esencial que todos los organismos públicos que se embarquen en proyectos de ciencia de datos se sumen al uso de estas herramientas, fundamentalmente pensando en la relevancia del análisis de impacto, transparencia, sesgo y equidad, contrafactuales y mecanismos de explicabilidad, todo lo cual es determinante para el éxito de los proyectos, para romper la opacidad y evitar la discriminación, buscando como resultado esperado aislar los efectos no deseados, mitigar los riesgos y tener plena conciencia y responsabilidad de lo que implica el respeto de las garantías fundamentales y derechos de las personas, poniendo en el centro de las soluciones generadas, el bienestar de las personas y la seguridad de su información.