Del juez robot a la justicia humana: regulación y sesgos
La inteligencia artificial transforma el derecho y exige regulación ética para evitar arbitrariedad, discriminación y violaciones a derechos humanos
Por: Dr. Mario Cruz Martínez, Consultor nacional e internacional de derechos humanos. Director del Observatorio Justicia IA del Centro Estratégico en Justicia y Derecho para las Américas, AC (CENEJYD)
Hace poco tiempo, la película Mercy, disponible en Amazon Prime Video, planteó la posibilidad de que una inteligencia artificial (IA) sea la autoridad suprema en la persecución y castigo de los delitos. Una IA que sea fiscal, juez y ejecutora de la sentencia. Una IA que cumpla lo que le cuesta hacer al Estado; una entidad que sea eficaz y que no dependa de horarios; una máquina que no posea los vicios de una persona, en definitiva, una IA que sea imparcial y no sea corrupta.
La IA como herramienta ha venido a revolucionar las bases esenciales de la humanidad y abre importantes desafíos en su uso y desarrollo. Uno de sus teóricos, Jürgen Schmidhuber, ha señalado que la IA plantea una transformación de la civilización, que no se había visto en los últimos 4 mil millones de años. Dejando la proyección futurista, es innegable su impacto en la vida de las personas. Desde la salud, la economía, la seguridad, hasta la política, por mencionar solo algunos de los ámbitos de la vida humana, la IA ha cambiado las aristas del mundo y se ha erigido en una herramienta fundamental en la mejora de la vida de las personas.
¿Qué pasa en el ámbito del derecho? Prácticamente todas las esferas jurídicas están impactadas por las tecnologías de la IA. En este artículo se señalarán brevemente algunos desafíos que plantea la regulación de dicha tecnología en los marcos estatales, y especialmente, bajo una perspectiva de derechos humanos.
La IA y el derecho
La IA ha levantado enormes expectativas en el ámbito del derecho y en los sistemas estatales. En la profesión jurídica, los abogados ya han advertido en su uso, las posibilidades infinitas que puede dar la tecnología a la práctica cotidiana del derecho. En las aulas universitarias, en los pasillos de los juzgados, en las charlas entre colegas, la IA representa el Santo Grial: La posibilidad de quitar de un brochazo las actividades engorrosas que dificultan la vida de los abogados. La lista es interminable. Hacer resúmenes de textos en unos cuantos minutos, elaborar minutas en un santiamén, hacer transcripciones en unos segundos y muchos etcéteras, lo que daría alegría a más de alguno.
Es más, en el ámbito judicial se escuchan cada vez más propuestas entusiastas de redactar proyectos de sentencias con esta herramienta tecnológica. Incluso, el profesor canadiense Anthony Niblett ha hablado del sueño o pesadilla de la existencia de un juez Robot.
El uso de las diferentes herramientas de inteligencia artificial se ha difundido en el mundo jurídico. ChatGPT, Claude, NotebookLM, Help AI, y muchas otras. Sin embargo, existen numerosas discusiones que deberán zanjarse en los próximos años. ¿Podría la IA ser más eficaz que una persona en la elaboración de razonamientos jurídicos? ¿Efectivamente la IA sería un instrumento objetivo y neutral, alejado de los grandes vicios y pasiones de las personas? Estas y otras interrogantes serán parte del debate obligado en la ciencia jurídica en los próximos años.
En este artículo daremos algunas pinceladas sobre las grandes interrogantes que surgen sobre la IA en materia de regulación estatal. ¿Debe ser regulada por parte de los Estados? ¿Debe tener límites? ¿Si se pretende regular a la IA y a los diversos modelos tecnológicos, cuáles criterios serían suficientes? La discusión es amplia y no tiene una respuesta uniforme.
La IA y los sistemas regulatorios
Una de las discusiones más importantes en la actualidad, es la forma en que los Estados están considerando la irrupción de esta tecnología. El panorama es variopinto. Algunos países han decidido establecer discusiones nacionales, como se ha hecho en Estados Unidos o en Canadá, o de forma regional como lo ha hecho la Unión Europea; en otros casos, se ha privilegiado la atención a la regulación digital en el campo judicial.
En Brasil hace algún tiempo se creó VICTOR, una plataforma que permite la tramitación de miles de recursos legales. En México hace algunas semanas se pospuso la discusión de una propuesta de Ley General sobre IA. Es clara la tendencia en el mundo por regular diversas manifestaciones de la IA en el terreno legal, por ello, se requiere dar seguimiento a los diversos procesos de regulación, e identificar los casos de éxito e, indudablemente, considerar los aspectos que merecen ser regulados con atención. Esto especialmente, cuando surjan violaciones a derechos, como la afectación al principio de igualdad o vulneración a los derechos humanos de personas vulnerables por parte de las herramientas tecnológicas.
La IA y los derechos humanos
La irrupción de la IA expone una situación innegable. La forma en cómo la tecnología trabaja con los algoritmos y la información contenida en la inmensidad de los datos. Esto plantea un problema esencial: los sesgos que tiene cualquier modelo de inteligencia artificial. Esta cuestión ha sido considerada por el sistema de derechos humanos. La inteligencia artificial debe tener límites y esto sería en palabras de Volker Turk, se requiere la necesidad de regular por parte de los Estados y que las empresas se aseguren que sus algoritmos, procesos operativos y modelos empresariales de IA respeten los derechos humanos.
Se pueden indicar dos cuestiones que han sido ampliamente discutidas en el funcionamiento de la IA y que han provocado análisis importantes desde la teoría y los modelos de derechos humanos: La identificación de los problemas de discriminación algorítmica y la transparencia en la creación de los modelos (cajas negras). Esto ha evidenciado ciertos peligros que vienen con el desarrollo de las tecnologías y se ha cuestionado el aparente carácter objetivo y neutro de la tecnología. De hecho, en muchos espacios se ha considerado a la tecnología como una solución a los problemas que nos aquejan, precisamente por su carácter neutro y objetivo. Nada más alejado de la realidad. La IA reproduce los sesgos con los que fue creada.
La relatora Ashwini K.P. lo señaló en 2024: “La tecnología nunca es neutra, pues refleja los valores e intereses de quienes influyen en su diseño y uso, y está fundamentalmente conformada por las mismas estructuras de desigualdad que operan en la sociedad”.
Como se advierte, según la información disponible, en el uso de la IA, se pueden observar mayores impactos de discriminación en personas que pertenecen a grupos vulnerables. En el ámbito penal existen varios ejemplos, en el reconocimiento facial, en el área de temas de seguridad, la IA ha reproducido estereotipos o sesgos discriminatorios.
IA humana
La discusión apenas comienza en el ámbito jurídico. Sin embargo, es evidente la ruta que deberán cumplir los modelos regulatorios de la IA: considerar los principios de los derechos humanos, como el de igualdad efectiva, no discriminación, y sistemas efectivos de transparencia.
Debemos buscar una inteligencia artificial humana, es decir, una herramienta que busque el respeto de los derechos de las personas y que logre ser un instrumento efectivo para garantizar procesos de justicia eficaces. Lo anterior sugiere una importante conclusión: cualquier IA debe considerar los contextos de desigualdad, contar con supervisión de las personas. En suma, la IA debe ser humana. Ni más ni menos.
IA y Justicia
La película Mercy es un punto de partida para discutir si la IA funciona como fiscal, juez y ejecutora de la sentencia.
La irrupción de la inteligencia artificial transforma la práctica jurídica.
Los desafíos regulatorios crecen a escala estatal
y regional.
En derechos humanos la IA puede reproducir sesgos, por lo que exige transparencia y límites.
