La inteligencia artificial llegó para quedarse
El uso de las nuevas tecnologías está en todos los ámbitos y el Derecho no es la excepción; sin embargo, el investigador de la UNAM, Pedro Salazar Ugarte, advierte de lo importante que es utilizarlas con responsabilidad
Por: Diana Martínez / Fotógrafo: Pablo López
Convencido de que la inteligencia artificial (IA) llegó para quedarse, Pedro Salazar Ugarte, investigador y profesor de la Universidad Nacional Autónoma de México (UNAM), advierte que esta tecnología ya está transformando todos los ámbitos de la vida social y que el Derecho no puede quedar al margen de ese cambio.
En entrevista con El Mundo del Derecho, el exdirector del Instituto de Investigaciones Jurídicas de la UNAM señaló que la IA puede convertirse en una herramienta poderosa para agilizar procesos, sistematizar información y apoyar la toma de decisiones jurídicas. Sin embargo, también alertó sobre sus riesgos, especialmente cuando se utiliza sin una supervisión humana adecuada.
Actualmente, Salazar Ugarte es cocoordinador de la Línea de Investigación sobre Derecho e Inteligencia Artificial (LIDIA), un proyecto surgido en el Instituto de Investigaciones Jurídicas que reúne a más de 150 especialistas de distintas disciplinas para analizar el impacto de la IA en temas como justicia, educación, poder, responsabilidad, salud, creatividad, trabajo, medioambiente, infancia y democracia.
La IA llegó para quedarse. ¿Cuál es el impacto que está teniendo en el mundo jurídico?
Yo creo que es una herramienta tecnológica muy potente, muy poderosa, que está teniendo impacto en todos los ámbitos de la vida social y de nuestra vida individual.
En ese sentido, el Derecho no puede ser ajeno a las transformaciones que está generando la inteligencia artificial, porque cada vez desafía más algunos presupuestos básicos del instrumental jurídico. Por ejemplo, día a día es más difícil identificar quién es el responsable de determinadas decisiones o acciones que se llevan a cabo mediante esta tecnología.
La responsabilidad y la autonomía son presupuestos fundamentales del Derecho. Por eso, la IA representa un desafío estructural para quienes nos dedicamos a la labor jurídica, pues impacta la práctica cotidiana del Derecho. Esta herramienta agiliza la identificación de marcos normativos, doctrina jurídica, Derecho comparado y criterios que pueden servir para tomar decisiones. En ese sentido, son instrumentos muy útiles para acelerar procesos de decisión jurídica.
El problema es que también existen riesgos. Uno de los principales es que las máquinas se equivocan. Si no hay una supervisión adecuada y si las personas validan los resultados sin hacer una ponderación correcta, pueden tomarse decisiones equivocadas. Eso ya ha sucedido.
Entonces, ¿la IA debe verse como un apoyo para los abogados o también como una amenaza para la función jurídica tradicional?
Yo creo que es un apoyo prácticamente para todas las disciplinas. Es una herramienta muy poderosa que nos ayuda a tomar decisiones de una manera más ágil de lo que lo hacíamos antes. Además, tiene capacidad de aprendizaje propio y de aprendizaje sobre aprendizaje.
Pero al mismo tiempo es una herramienta que requiere supervisión. Implica una enorme responsabilidad para quienes la utilizamos, porque debemos garantizar que lo que decidimos y lo que se realiza con apoyo de estas tecnologías tenga una supervisión humana real.
Desde LIDIA, en la UNAM, ¿qué líneas de investigación se impulsan sobre IA y Derecho?
LIDIA es una línea de investigación que se inauguró cuando yo era director del Instituto de Investigaciones Jurídicas. Fui director de 2014 a 2022, y dicha línea surgió alrededor de 2018, al inicio de mi segundo periodo.
Aunque se llama Línea de Investigación sobre Derecho e Inteligencia Artificial, muy pronto nos dimos cuenta de que el Derecho nos quedaba corto para explicar la complejidad de la IA y para explorar sus potencialidades y riesgos. Por eso, la línea se fue constituyendo a través de un grupo interdisciplinario de investigadores. Al día de hoy somos más de 150 personas que intercambiamos información sobre IA en los distintos ámbitos de la vida. Hay médicas, ingenieros, biólogas, químicas, filósofos y, por supuesto, juristas.
La riqueza de LIDIA está precisamente en esa composición interdisciplinaria. Sus líneas de investigación tienen que ver con todos los problemas que involucra el uso y diseño de la IA.
Por ejemplo, en mi libro Totalitarismo total. La reconfiguración del poder en tiempos de la inteligencia artificial, trato cinco problemas que surgen a raíz de la creación de la IA: el poder, la responsabilidad, la creatividad, la guerra y el amor, pero podrían abordarse muchos otros temas, como el medioambiente, el odio, la polarización, la desigualdad, el trabajo, la educación, las infancias, las personas de la tercera edad, el deporte, el periodismo, la verdad y la posverdad.
¿Cómo ve la investigación sobre IA y Derecho desde la experiencia de LIDIA?
Creo que es importantísimo poner este tema en el centro de las agendas de investigación de todas las universidades.
La UNAM acaba de crear una Coordinación General de Inteligencia Artificial, y el coordinador de esa nueva entidad es Pablo Pruneda, quien también es cocoordinador y cofundador de LIDIA conmigo.
Eso refleja una toma de conciencia sobre la importancia de darle prioridad a la investigación en IA. La UNAM ya no sólo tiene a LIDIA en el Instituto de Investigaciones Jurídicas, ahora tiene una coordinación general para articular los esfuerzos universitarios en esta materia.
En el ámbito educativo, que es el que compete a la Universidad, tenemos que imaginar cómo vamos a educar a las nuevas generaciones desde la educación básica para que aprovechen la tecnología con responsabilidad y para que no queden fuera del mundo profesional del futuro.
Hay quienes piensan que a las personas menores de edad y a los adolescentes habría que prohibirles el uso de la IA. Yo creo que eso es un error, porque los dejarías fuera de la competencia de su generación y del mundo en el que van a crecer. Lo que tenemos que hacer es enseñarles a usarla con responsabilidad.
Regulación, acorde con cada circunstancia
El uso de la IA se extiende con mayor frecuencia y por ello es preciso una regulación; sin embargo, para el doctor Salazar Ugarte, todo tiene que ser paulatino y con base en las características de cada país y de la disciplina en cuestión.
Hablando de regulación, ¿considera que México debería crear una ley general en materia de IA o bastaría con reformar las leyes existentes?
En los últimos años se han presentado muchas iniciativas de reforma en materia de IA. Algunas ya se han aprobado a nivel de entidades federativas, sobre todo en materia penal. A nivel nacional también hay avances en temas como derechos de autor y medios alternativos de solución de controversias.
Yo considero que la regulación debe ser mínima, horizontal, por principios y muy acotada. Después, eventualmente, podrían desarrollarse regulaciones verticales en distintas materias.
No es lo mismo regular en materia de medioambiente que en salud, educación o justicia. Cada materia requiere una regulación propia.
Al mismo tiempo, hay que tomar en cuenta la ubicación geográfica de nuestro país y que sus tendencias regulatorias deben estar en sintonía con las de Estados Unidos. Entre otras cosas, porque el Tratado de Libre Comercio tiene un capítulo en materia tecnológica y es muy probable que, en el proceso de revisión, el tema de IA se coloque sobre la mesa.
También debemos considerar que México no es un país desarrollador de IA, sino principalmente consumidor de tecnologías que provienen de otras latitudes, en particular de Estados Unidos.
¿Qué experiencias internacionales deberían tomarse en cuenta?
Yo creo que existen tres modelos principales.
El primero es el modelo chino. En China sí hay regulación, y es muy estricta. El problema es que está totalmente orientada a la política de Estado chino, autoritaria, concentrada y centralizada. Su intención es colocar a China como líder mundial en IA.
El segundo modelo es el de Estados Unidos, que está en el extremo opuesto. Ahí la regulación es básicamente la no regulación. Es una forma de regular, pero desde la mínima intervención. La tendencia, al menos a nivel nacional, ha sido no intervenir demasiado en el desarrollo tecnológico.
El tercer modelo es el europeo. En Europa se impulsó una regulación en materia de IA con una perspectiva orientada a derechos, particularmente a la privacidad y a la protección de datos personales. Sin embargo, ese enfoque también ha tenido consecuencias para el desarrollo tecnológico. Se dice que una regulación tan estricta ha inhibido el desarrollo de la IA en Europa.
¿Ve algún peligro en no regular a tiempo la IA?
Yo creo que primero debemos generar un proceso de comprensión cultural, educativa y de aprovechamiento. Cuando uno se pregunta si debe regular algo, también debe preguntarse para qué quiere regularlo.
¿Se quiere regular para potenciar sus capacidades y fomentar la innovación, o para restringir sus capacidades y limitar la innovación? Esa respuesta no la va a dar solamente el Derecho, también la va a dar el mercado.
Cualquier regulación que pretenda ser restrictiva puede ser rebasada.
IA y el ámbito jurídico
Para el cocoordinador de LIDIA, la IA se ha convertido en un instrumento muy eficaz; no obstante, hace hincapié en la responsabilidad que conlleva su uso en el sector jurídico.
¿Qué mensaje daría a jueces, magistrados, abogados, legisladores y estudiantes que todavía ven a la IA como algo lejano?
Que se tienen que actualizar y que más les vale hacerlo lo más pronto posible. No sólo porque es una herramienta útil que ya se está utilizando, sino porque cada vez serán más los litigios, casos y conflictos en los que la IA estará presente.
Esta tecnología puede estar involucrada porque se utilizó para algo positivo o negativo, porque se distorsionó su uso, porque se empleó para violar derechos de propiedad intelectual, afectar la privacidad de las personas, alterar procesos electorales o generar cualquier otro tipo de controversia jurídica.
¿Cómo ve los avances en el uso de la IA dentro del Poder Judicial, tanto federal como de los estados?
Ha habido algunos intentos para utilizar IA en los tribunales. El Tribunal Electoral del Poder Judicial de la Federación ha desarrollado algunas cuestiones interesantes. La Suprema Corte de Justicia y el entonces Consejo de la Judicatura también trabajaron en sistematizar información y agilizar el acceso a información jurídica mediante herramientas tecnológicas.
También tengo claro el ejemplo del Tribunal Superior de Justicia del Estado de México, que en su administración anterior tenía conciencia de la importancia de utilizar a la IA para agilizar los procesos jurisdiccionales.
Sin embargo, todavía hay muchos tribunales e instancias de justicia que no pueden avanzar en esa dimensión porque no tienen su información digitalizada y así, no puedes utilizar una herramienta de IA para procesar esos datos. Ahí existe un rezago nacional importantísimo.
La otra dimensión es cuando jueces y juezas utilizan herramientas de IA para tomar decisiones. Eso está sucediendo cada vez más porque la tentación es muy grande. Ante el rezago jurisdiccional y la cantidad de casos, una herramienta de IA puede arrojar una sentencia en cuestión de segundos, pero no debemos perder de vista que la obligación y la responsabilidad de firmar esa sentencia y dictar esa decisión corresponden al juez, no a la IA.
¿Existe el riesgo de que la IA sustituya a los jueces?
Si tomamos la dimensión exclusivamente mecánica de los silogismos jurídicos a partir de normas y precedentes, sí.
Pero si tomamos la dimensión humana, en la cual debe haber una valoración de lo que está en juego en cada decisión, de la proporcionalidad y racionalidad de una sanción, de una pena, de un litigio familiar, de un divorcio, de una patria potestad o de una adopción, entonces es distinto.
¿Cómo están los poderes judiciales en materia de protocolos para el uso de IA?
El riesgo existe, sobre todo si los juzgadores utilizan IA sin la formación jurídica, la experiencia o el aprendizaje necesario para juzgar.
Pero ese riesgo también tiene que ver con las fallas políticas e institucionales del Poder Judicial en México. Si nuestros poderes judiciales ya están en una situación crítica para cumplir con su labor jurisdiccional, lo que hagan en materia de IA es profundamente incierto.
¿Este esfuerzo de investigación llegará a los planes y programas de estudio?
Espero que sí y ojalá que suceda muy pronto. El problema es que los mecanismos pedagógicos que contemplen la transformación que supone la IA deben empezar desde la educación básica.
En la universidad debemos transformar no sólo los planes de estudio, sino, incluso, la oferta educativa. Debemos darle prioridad a algunas materias y empezar a dejar atrás otras.
Además, tenemos que educarnos todos: profesoras, profesores, investigadoras e investigadores. O cambiamos nuestros métodos docentes o vamos a quedar desplazados.
El cálculo de algunos expertos en tecnología es que la IA general podría estar con nosotros hacia 2030. Si eso ocurre, este mundo será otro. Nos tenemos que adecuar a esa transformación; de lo contrario, las nuevas generaciones se encontrarán desfasadas frente al mundo que viene.
Pedro Salazar Ugarte
Cocoordinador de la Línea de Investigación sobre Derecho e Inteligencia Artificial (LIDIA).
Exdirector del Instituto de Investigaciones Jurídicas de la UNAM.
Investigador del Instituto de Investigaciones Jurídicas de la UNAM.
Licenciado en Derecho y doctor en Filosofía Política.
