A través de este proyecto que lidera la UAI y que convoca a actores de los mundos público y privado, Chile está tomando la delantera en la generación, experimentación e implementación de herramientas y normativa para un desarrollo ético y responsable de SDA y algoritmos de IA.
Consejo Asesor del proyecto Algoritmos Éticos repasó avances del inédito camino chileno hacia una IA responsable
9 de agosto 2023
A través de este proyecto que lidera la Universidad Adolfo Ibáñez y que convoca a actores de los mundos público y privado, Chile está tomando la delantera en la generación, experimentación e implementación de herramientas y normativa para un desarrollo ético y responsable de sistemas automatizados de decisión (SDA) y algoritmos de inteligencia artificial (IA).
A principios de agosto se celebró una nueva sesión del Consejo Asesor del proyecto Algoritmos Éticos, instancia consultiva de alto nivel que reúne a directivos de los organismos ejecutores y socios.
En esta ocasión asistieron Carolina Gainza, subsecretaria de Ciencia; José Inostroza, jefe de la División de Gobierno Digital (Segpres); Verónica Valle, directora de ChileCompra; Patricio Coronado, director del Instituto de Previsión Social (IPS); Diana Krüger, decana de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI); Carolina Carrasco, especialista líder de BID Lab; Cristián Valdivieso, subdirector de Gestión y Desarrollo de Personas del Servicio Civil; Juan Fuentes, jefe del Departamento de Asesoría Jurídica Administrativa de FONASA; Gastón Avendaño, director de Desarrollo del Consejo para la Transparencia; y Juan Orlandi, gerente general de Magical.
Cabe mencionar que el proyecto Algoritmos Éticos se enmarca dentro de la iniciativa fAIr LAC del Grupo BID, la que busca asegurar una adopción responsable y generalizada de la IA en América Latina y el Caribe por parte de los actores públicos y privados.
La cita fue liderada por María Paz Hermosilla, directora del GobLab UAI y del proyecto, quien destacó que “en diciembre de 2020, un año antes de que la UNESCO publicara sus recomendaciones éticas para el desarrollo de inteligencia artificial, ChileCompra, la División de Gobierno Digital, el Ministerio de Ciencia y Magical decidieron colaborar con la Universidad Adolfo Ibáñez y, gracias al financiamiento de BID Lab, se dio origen a esta iniciativa que en estos tres años ha sumado más socios y ha puesto a Chile a la vanguardia en responsabilidad y transparencia algorítmica”.
Efectivamente, en el marco del proyecto Algoritmos Éticos, junto a ChileCompra se desarrollaron las primeras Bases Tipo para la adquisición por parte del Estado de inteligencia artificial y servicios de ciencia de datos con requisitos éticos (publicadas en enero de 2023); se está trabajando junto al Consejo para la Transparencia en lo que será la primera normativa de transparencia algorítmica de América Latina; se han piloteado metodologías pioneras con FONASA y el IPS, servicios que impactan de manera muy directa a la población; y conjuntamente BID Lab, Magical y el Ministerio de Ciencia están testeando la herramienta de evaluación ética fAIr Venture, orientada a startups e inversionistas tecnológicos, entre otros avances.
“El proyecto Algoritmos Éticos se adelantó a una discusión que hoy día es central, que es con qué tipo de marcos éticos vamos a trabajar para incorporar la inteligencia artificial en nuestras vidas, tanto en el Estado como desde el sector privado, y para que esta tecnología apunte al bienestar de todas y todos”, recalcó Carolina Gainza, subsecretaria de Ciencia, Tecnología, Conocimiento e Innovación.
José Inostroza, jefe de la División de Gobierno Digital, también resaltó la importancia de las distintas líneas de trabajo del proyecto, ya que “en materia de inteligencia artificial las oportunidades son múltiples para el Estado, pero es necesario trabajar con un marco ético para que los innovadores públicos que quieran impulsar proyectos tecnológicos tengan la seguridad de que lo están haciendo bien y que sus implementaciones no van a impactar negativamente a determinados grupos o personas”.
Finalmente, la directora de ChileCompra, Verónica Valle, señaló que “los organismos públicos están avanzando mucho en la compra y uso de inteligencia artificial y algoritmos y las Bases Tipo publicadas, que tienen requisitos éticos, buscan apoyar ese avance y vamos a capacitar a los compradores del Estado en cómo usarlas. Esto es particularmente importante dado el pronunciamiento de la Contraloría General de la República de Chile que señala la obligatoriedad de utilizar Bases Tipo para este y otros tipos de licitaciones”.
Durante el segundo semestre de este año, el proyecto Algoritmos Éticos inicia una segunda etapa de ejecución, a través de la adjudicación de fondos del concurso IDEA I+D 2023 de ANID, presentará los resultados de los pilotos y realizará distintas instancias de capacitación y difusión para mostrar sus diversos productos y promover su uso e implementación, tanto por parte de servicios estatales como desde los desarrolladores privados.
Más información en https://goblab.uai.cl/algoritmos-eticos/
