GobLab presenta reflexiones sobre transparencia y responsabilidad algorítmica para la inteligencia artificial

By 17 de April de 2020 April 28th, 2020 ÉTICA DE DATOS, NOTICIAS

La publicación será un aporte directo a la Política Nacional de IA que se encuentra en elaboración por parte del Ministerio de Ciencia

GobLab presenta reflexiones sobre transparencia y responsabilidad algorítmica para la inteligencia artificial

17 de abril 2020

El laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez, GobLab, presentó el documento “Transparencia y responsabilidad algorítmica para la Inteligencia Artificial” que recoge las conclusiones del taller del mismo nombre realizado en octubre de 2019, donde participaron expertos de diversas áreas de la academia, sociedad civil y gobierno.

El documento está constituido en base a tres preguntas que abordan desafíos éticos de la Inteligencia Artificial (IA). Las respuestas y reflexiones a estas preguntas serán un aporte directo a la Política Nacional de IA que se encuentra en elaboración por parte del Ministerio de Ciencia y Tecnología. 

  • ¿Cuán transparente debieran ser los sistemas de inteligencia artificial usados por el sector privado y el gobierno?
  • ¿Cuál es el alcance que debiera tener la Responsabilidad Algorítmica y qué mecanismos se pueden utilizar?
  • ¿Debiera haber un Comité de Ética gubernamental que revise los proyectos de inteligencia artificial?

El relación a  la transparencia de los sistemas, los participantes del taller concordaron que esta no necesariamente debe ser total, sino más bien la necesaria y suficiente para poder evaluar el desempeño de un algoritmo y también para poder responder a preguntas como si es equitativo, si mejora o disminuye las capacidades gubernamentales y si es que funciona o no, entre otras. Esto es  lo que se conoce como “transparencia significativa”, la cual permite conciliar la rendición de cuentas y la eficiencia de los algoritmos y también asuntos legales complejos como la propiedad intelectual. Los participantes también coincidieron en que los niveles de transparencia y responsabilidades algoritmos deben ser más o menos equivalentes para el sector público y privado. 

Respecto de los Comités de Ética, parte del grupo de participantes consideró que era indispensable la creación de un Comité de Ética gubernamental que evalúe el diseño y uso de la IA en el gobierno y en el sector I+D. También se señala que las funciones de estos no solo deberían focalizarse en evaluar los sistemas de IA sino también emitir reportes públicos.

Puedes leer el documento completo aquí.

SANTIAGO: (+56 2) 2331 1000
Diagonal las Torres 2640, Peñalolén.
Av. Presidente Errázuriz 3485, Las Condes.

VIÑA DEL MAR: (+56 32) 250 3500
Padre Hurtado 750, Viña del Mar.

Certificados académicos

Síguenos: