Desde un punto de vista ético y legal, es fundamental que al desarrollar algoritmos o inteligencia artificial que harán uso de datos personales la empresa se haga responsable del tratamiento de esos datos y no descanse únicamente en el consentimiento del usuario. Esto es clave para quienes buscan que su producto sea escalable en el mercado internacional, donde se están instalando estándares de responsabilidad que van más allá de la legislación chilena.

Acabamos de terminar la primera versión de las AI Business Sessions, un programa de formación sobre ética de datos en el que participaron 133 personas de 126 empresas y startups tecnológicas, en el marco del proyecto Algoritmos Éticos, Responsables y Transparentes que lideramos junto a BID Lab.

Como abogada e investigadora asociada al GobLab UAI, me tocó exponer sobre protección de datos desde una perspectiva ética y legal y, dado el foco de la capacitación, también desde una mirada de empresa. Hablamos, en pocas palabras, de que es factible compatibilizar la gestión y la operación tanto con la normativa como con prácticas de protección y ética de datos, sin ahogar los requisitos del negocio en engorrosas regulaciones.

Esto es clave para los emprendedores que están desarrollando algoritmos e inteligencia artificial basados en datos personales ya que, para que el negocio sea viable en el país y escalable a nivel internacional, deben conocer los estándares – legales y éticos – que existen localmente y los que ya se están pidiendo en distintos países.

¿En qué estamos a nivel nacional? En Chile, está vigente la Ley 19.628, de 1999 la cual si bien contiene reglas está bastante desactualizada. Hay un proyecto en discusión desde 2017 en el Congreso que busca actualizar la normativa sobre la materia adecuándolo a la normativa europea que se ha transformado en el estándar global. Cabe destacar, además, que desde 2018 la protección de los datos personales está consagrada en la Constitución (Artículo 19 Nº4). Si bien esto ha sido un avance, el marco legal vigente (en lo operativo) es insuficiente para estar a tono con lo que se espera más allá de nuestras fronteras, por lo que es fundamental revisar los mínimos éticos con que debe funcionar cualquier empresa al tratar datos personales.

Lo primero es entender que los datos son de las personas y que las empresas pueden usarlos siempre y cuando sean responsables. En efecto, la protección de datos es el derecho de las personas a controlar la información propia, ya sea que vaya a ser tratada manual o automatizadamente. En el segundo caso, sin duda, el cuidado debe ser mayor. Cuando hablamos de controlar la información, nos referimos a que cada uno tiene derecho a conocer quién tiene sus datos, para qué será usada, como será resguardada, a poder corregirla, a eliminarla por completo o parcialmente en ciertos casos, a oponerse a su uso o tratamiento en otros y a movilizarlos de un proveedor a otro. En el caso de las decisiones automatizadas surgen derechos complementarios ligados a la explicación de éstas.

El fondo del asunto es que se debe priorizar una gestión que ponga la responsabilidad en el foco del tratamiento de datos que realizará una empresa, y no descansar en el mero consentimiento del usuario. Este cambio de paradigma nos permite no sólo garantizar la privacidad de las personas, a través de reglas claras, sino también construir reputación y una marca de confianza y, con ello, oportunidades de negocio y ventajas en el mercado.

Este es el punto de partida sobre el tema que revisamos en las AI Business Sessions, programa de formación que volveremos a dictar en septiembre y octubre de este año.