Algoritmos y transparencia en la administración pública
Reconocer las deficiencias de las nuevas tecnologías no impide que los gobiernos las adopten; sin embargo, ante su uso cada vez más acelerado, deben implementarlas con reserva y basándose en fuentes sólidas
Por: Monserrat Olivos Fuentes, Doctora en Derecho y maestra en Derecho de la Información. Ha fungido como asesora en el sector público; además, académica e investigadora en diversas universidades. Autora del libro El derecho a la información pública municipal. Ponente en distintas conferencias tanto en México como en el extranjero.
El desarrollo tecnológico ha transformado nuestra cotidianidad de manera transversal y multidimensional, vivimos en un mundo hiperconectado por entornos digitales, los cuales usamos cuando trabajamos, buscamos información, estudiamos, compramos, opinamos, tomamos decisiones o ejercemos nuestros derechos.
Entre las últimas innovaciones, la inteligencia artificial (IA) está teniendo una adopción masiva sin precedentes, pero en realidad sabemos ¿qué es?, ¿cómo funciona? o ¿qué implica vivir con ella?
Si bien no existe un consenso o una comprensión única de los sistemas de IA, entre las definiciones más actualizadas, los países miembros de la Organización para la Cooperación y Desarrollo Económicos (OCDE) señalaron que son aquellos sistemas que se basan “en una máquina que, ya sea para alcanzar objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, como generar salidas, tales como predicciones, contenido, recomendaciones o decisiones, las que pueden influir en entornos físicos o virtuales. Los diferentes sistemas de IA pueden variar en sus niveles de autonomía y capacidad de adaptación después de su implementación”.
Para su ejecución requieren de algoritmos que, en esencia, son procedimientos que establecen una serie de pasos para realizar una función, resolver un problema o llevar a cabo una tarea, los cuales operan con datos, el combustible que permite que aprendan, razonen o automaticen las tareas.
De esta forma, los algoritmos se encuentran presentes en categorías de aprendizaje automático (supervisado o no supervisado) o aplicaciones como la visión artificial, procesamiento de lenguaje natural, reconocimiento de voz, sistemas de apoyo para la toma de decisiones, robótica, entre otros.
El impacto que tiene se asocia a determinar qué película veremos por la noche o qué canción escucharemos en una plataforma o por qué aparece cierta publicidad en los dispositivos o las noticias que consultamos, pareciera que se trata de un asistente que facilita la toma de decisiones, pero existen aspectos que debemos considerar al utilizarlos.
Como señalaba Adela Cortina, lo paradójico de los avances tecnológicos es que “una máquina no está hecha para entender una mentira”, al referir la frase de la novela Machines Like Me, porque en el caso de la IA y los algoritmos, no entienden de contextos, su diseño no permite la neutralidad, debido a que puede replicar discriminación, prejuicios raciales o de género, intereses comerciales o políticos, porque a pesar de que siguen reglas lógicas, reflejan los sesgos, valores u objetivos de quienes los diseñan o por quienes son entrenados.
Bajo estas premisas, qué ocurre cuando la administración pública empieza a incorporar la IA para agilizar trámites, transformar la prestación de servicios públicos, reducir personal o erradicar la corrupción, acaso existen riesgos que puedan vulnerar nuestros derechos.
El desmitificar la magia del desarrollo tecnológico no implica que nos apartemos de la apuesta de la transformación digital que se implementa en el ámbito federal y de las entidades federativas; sin embargo, es importante que esté cimentada en principios o bases sólidas ante su exponencial uso, como se observa en el Reporte de Algoritmos Públicos, cuando refiere que los poderes ejecutivos (en el ámbito federal, estatal y municipal), legislativo, judicial y órganos autónomos incorporaron herramientas de IA con la finalidad de atender a la ciudadanía, hacer más eficientes las tareas administrativas, optimizar decisiones o mejorar procesos.
Para ello, es indispensable que el Estado mexicano adopte un marco normativo que se adecue a su entorno social, político, económico y cultural de una realidad turbulenta e incierta, en donde las categorías jurídicas tradicionales migran de la vida analógica al espacio digital con límites móviles o difusos.
Sirven de ejemplo, modelos regulatorios distintos y contrastantes como Estados Unidos con una postura permisiva que permite acelerar la innovación, consolidar la infraestructura e incentivar el liderazgo sin restricciones regulatorias como se consagra en Americas IA Action Plan o el caso de la República Popular de China con un sistema más restrictivo que desde el 2017 al 2025 opta por corregir el uso indiscriminado de la IA. Mientras que la Unión Europea con un desarrollo normativo que ha transitado del soft law al hard law se consolida con una visión equilibrada al emitir el Reglamento de Inteligencia Artificial (RIA) basado en un sistema de riesgos.
El optar por el modelo más adecuado, presupone considerar un conjunto de antecedentes normativos, componentes éticos, principios o esfuerzos como los Principios de Chapultepec o la Declaración ética y buenas prácticas para el uso y desarrollo de la Inteligencia Artificial en donde la persona se encuentre al mando de los sistemas automatizados.
Aunado, a la adecuación de herramientas como la transparencia que reconfigura sus alcances en los sistemas de IA, ya que además de dar visibilidad de lo realizado, expone cuál es el uso o alcance, ubicación o trazabilidad para la toma de decisiones; es decir, debe exponer la metodología de cómo se obtienen los resultados en volúmenes excesivos de datos, superando su comprensión primigenia cuando se limitaba a hacer accesible la información para asegurar el derecho de acceso a la información pública, impulsar gobiernos abiertos o luchar contra la corrupción.
Por ejemplo, si una institución pública utiliza algún aplicativo de inteligencia artificial para establecer quiénes son las personas beneficiadas en un programa asistencial, no se limitará a conocer sólo el padrón o listado de personas que se les otorga un recurso económico, sino que implicará que los servidores públicos estén capacitados en la materia, que entiendan cabalmente los riesgos, expongan el origen, idoneidad y necesidad del uso de la IA, explicando la metodología que se utilizó para determinar quiénes pueden o no ser beneficiados por dicho programa, como se determinó en el caso Bosco donde el Tribunal Supremo de España estableció el derecho de acceder al código fuente al ser una condicionante para reconocer o denegar un derecho o una prestación social.
En definitiva, cada nuevo escenario generado por la expansión tecnológica plantea desafíos para regular lo invisible, puesto que requiere de bases jurídicas e instituciones sólidas, especializadas, que contemple la supervisión humana, la transparencia, la auditabilidad y la protección a los datos personales, así como la urgente necesidad de la alfabetización digital para desarrollar las capacidades de la ciudadanía que permitan la interacción con la IA a través de normas, prácticas y principios éticos, a efecto de ser capaces de evaluar cuándo confiar o dudar de su uso.
