La publicación será un aporte directo a la Política Nacional de IA que se encuentra en elaboración por parte del Ministerio de Ciencia
GobLab presenta reflexiones sobre transparencia y responsabilidad algorítmica para la inteligencia artificial
17 de abril 2020
El laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez, GobLab, presentó el documento “Transparencia y responsabilidad algorítmica para la Inteligencia Artificial” que recoge las conclusiones del taller del mismo nombre realizado en octubre de 2019, donde participaron expertos de diversas áreas de la academia, sociedad civil y gobierno.
El documento está constituido en base a tres preguntas que abordan desafíos éticos de la Inteligencia Artificial (IA). Las respuestas y reflexiones a estas preguntas serán un aporte directo a la Política Nacional de IA que se encuentra en elaboración por parte del Ministerio de Ciencia y Tecnología.
- ¿Cuán transparente debieran ser los sistemas de inteligencia artificial usados por el sector privado y el gobierno?
- ¿Cuál es el alcance que debiera tener la Responsabilidad Algorítmica y qué mecanismos se pueden utilizar?
- ¿Debiera haber un Comité de Ética gubernamental que revise los proyectos de inteligencia artificial?
El relación a la transparencia de los sistemas, los participantes del taller concordaron que esta no necesariamente debe ser total, sino más bien la necesaria y suficiente para poder evaluar el desempeño de un algoritmo y también para poder responder a preguntas como si es equitativo, si mejora o disminuye las capacidades gubernamentales y si es que funciona o no, entre otras. Esto es lo que se conoce como “transparencia significativa”, la cual permite conciliar la rendición de cuentas y la eficiencia de los algoritmos y también asuntos legales complejos como la propiedad intelectual. Los participantes también coincidieron en que los niveles de transparencia y responsabilidades algoritmos deben ser más o menos equivalentes para el sector público y privado.
Respecto de los Comités de Ética, parte del grupo de participantes consideró que era indispensable la creación de un Comité de Ética gubernamental que evalúe el diseño y uso de la IA en el gobierno y en el sector I+D. También se señala que las funciones de estos no solo deberían focalizarse en evaluar los sistemas de IA sino también emitir reportes públicos.
Puedes leer el documento completo aquí.
