Inteligencia Artificial y Derecho en México

Por: Antonio Holguin

Cada gran salto científico y tecnológico ha obligado al derecho a revisar sus normas e instituciones. La imprenta alteró la circulación de las ideas; la Revolución Industrial transformó el trabajo y la producción; la radio, la televisión y el internet reconfiguraron el espacio público. Hoy, el conjunto de tecnologías que denominamos inteligencia artificial (IA) modifica la manera en que buscamos información, decidimos, estudiamos, trabajamos y nos relacionamos con las instituciones. Para el mundo jurídico mexicano, la pregunta ya no es si estas herramientas estarán presentes, sino bajo qué condiciones podrán emplearse sin erosionar los derechos que nuestro orden constitucional está llamado a tutelar.

La IA, entendida en términos generales como el conjunto de tecnologías capaces de realizar tareas que asociamos con la inteligencia humana (reconocer patrones, comprender el lenguaje, generar textos o formular predicciones), no es un fenómeno nuevo, sus orígenes se remontan a mediados del siglo XX. Lo inédito es la convergencia de tres factores: una capacidad de cómputo sin precedentes, la disponibilidad masiva de datos y una accesibilidad que la pone al alcance de cualquiera. No asistimos, pues, a su nacimiento, sino a su ingreso pleno en la vida diaria, con las exigencias normativas que ello supone para la convivencia social.

Luis Recaséns Siches concebía el derecho como vida humana objetivada, una obra de las personas para ordenar su convivencia, que solo adquiere sentido cuando alguien la revive al interpretarla y aplicarla. Esa idea ofrece una clave para el presente, la IA puede auxiliar esa tarea, pero no sustituir a quien la realiza. Sus oportunidades son reales, facilita la búsqueda de precedentes, ordena expedientes voluminosos, traduce y analiza documentos y acerca información jurídica a quienes no pueden costear asesoría especializada. En un país donde los costos, la distancia y el tecnicismo obstaculizan el acceso a la justicia, ignorar ese potencial sería un error, también lo sería desatender sus riesgos.

Por ejemplo, un sistema puede redactar en segundos un proyecto convincente de demanda o de contestación y, al mismo tiempo, atribuir a un tribunal una tesis inexistente, omitir una reforma aplicable o pasar por alto un hecho decisivo del expediente. La responsabilidad de verificar fuentes, valorar pruebas y justificar una conclusión sigue correspondiendo a las personas. Un abogado no cumple su deber profesional con introducir datos en una plataforma y reproducir su resultado. Un juez tampoco puede sustituir su razonamiento por una respuesta que las partes no conozcan ni puedan controvertir, ello vaciaría de contenido el deber de fundamentación y motivación y la garantía de audiencia. Del mismo modo, la necesidad, pertinencia y contenido de las normas jurídicas no pueden quedar sujetos a los resultados que arroje un programa. Desde la creación legislativa hasta la aplicación de las normas, la IA tiene mucho que aportar, pero no puede prescindir del criterio, el sentido y la sensibilidad de legisladores, abogados, juzgadores y, en general, de todos los operadores jurídicos.

Pero hay riesgos mucho más graves que citar una jurisprudencia inexistente o analizar de manera incompleta una demanda. La IA puede convertirse en un medio para perpetuar conductas que vulneran la dignidad humana, al reproducir patrones de discriminación o exclusión; el llamado sesgo algorítmico. Si un sistema se entrena con datos que reflejan prejuicios o estereotipos, sus resultados pueden perjudicar sistemáticamente a personas por su origen étnico, color de piel, género, condición económica o lugar de residencia. Esto puede ocurrir cuando una herramienta influye en la selección de personal, el acceso al crédito o la prestación de servicios públicos sin que sus criterios sean conocidos o revisados. El riesgo se agrava por el denominado sesgo de automatización, la tendencia a conferir autoridad excesiva a una decisión en apariencia neutral por el solo hecho de provenir de una máquina, sobre todo cuando su lógica interna permanece opaca. Por ello, antes de utilizar estos sistemas en ámbitos que afectan derechos, es indispensable evaluar sus efectos sobre distintos grupos, permitir que las personas impugnen las decisiones y asegurar medios efectivos para corregirlas.

México discute diversas propuestas para regular la inteligencia artificial, pero el debate no puede reducirse a esperar una ley general. Ya existen obligaciones que orientan su uso, el artículo 1º constitucional impone a todas las autoridades el deber de respetar, proteger y garantizar los derechos humanos y prohíbe la discriminación; el 16 tutela los datos personales y exige que todo acto de molestia esté fundado y motivado. A la vez, harán falta reglas más precisas según el ámbito y el nivel de riesgo, por ejemplo, en la línea del enfoque adoptado por el Reglamento de Inteligencia Artificial de la Unión Europea (2024), criterios de transparencia, evaluaciones previas de impacto, mecanismos de corrección y responsabilidades definidas cuando una decisión asistida por tecnología cause un daño. La regulación debe adaptarse a herramientas que cambian con rapidez sin convertirse en una autorización indefinida para experimentar con los derechos de las personas.

El desafío para el derecho no consiste en impedir el uso de la IA, sino en establecer condiciones que permitan aprovechar sus beneficios sin poner en riesgo los derechos humanos. Estas herramientas pueden ampliar el acceso a la información y mejorar la respuesta de las instituciones, siempre que su uso esté sujeto a reglas precisas, protección de datos, evaluación de posibles efectos discriminatorios y supervisión humana efectiva. La innovación merece impulso, pero su utilidad debe medirse también por su capacidad para servir a las personas con justicia y respeto a su dignidad.

Esta edición de El Mundo del Derecho abre espacio a esa conversación. Nos interesa examinar las posibilidades de la inteligencia artificial sin perder de vista sus efectos concretos en la vida de las personas y en la confianza pública. La innovación puede ayudar a que las instituciones respondan mejor; para lograrlo necesita reglas claras, responsabilidad profesional y una ciudadanía capaz de exigir explicaciones. Las tecnologías seguirán cambiando. Lo que debe permanecer es la exigencia de que toda decisión que afecte derechos pueda ser comprendida, revisada y atribuida a alguien responsable. Allí se juega, en buena medida, la capacidad del derecho mexicano para conducir esta transformación al servicio de la justicia y, sobre todo, para preservar y hacer más vigentes los derechos de las personas.