Prometeo necesita un extintor: la inteligencia artificial pide freno
Por: Amarande Riojas Orozco, Jueza Décima Quinta de Distrito en Materia Penal.
Las advertencias de un exinvestigador de OpenAI y Anthropic desembocan en llamados a desacelerar el desarrollo. La discusión internacional vuelve a una pregunta antigua: ¿podemos gobernar lo que inventamos?
14 de septiembre de 2026
La humanidad tuvo un fin de semana inquietante: algunos de los hombres que construyen inteligencia artificial comenzaron a pedir que alguien levantara el pie del acelerador. Es una noticia ligeramente incómoda para quienes todavía estamos tratando de que la impresora reconozca el papel.
El antecedente tiene nombre: Jacob Coxon, investigador que trabajó en OpenAI y Anthropic y anunció su renuncia el 8 de septiembre. Su advertencia fue que ambas compañías avanzan irresponsablemente hacia sistemas capaces de mejorarse a sí mismos, con consecuencias potencialmente catastróficas. Otros investigadores de Anthropic expresaron preocupaciones semejantes. Conviene subrayarlo: son valoraciones sobre riesgos futuros, no una demostración de que la extinción humana tenga fecha en el calendario.
La novedad del sábado 12 de septiembre pasado,Dario Amodei, director ejecutivo de Anthropic, pidió desacelerar el aumento de capacidades de los modelos para dar tiempo a las medidas de seguridad. La alarma ya no procedía únicamente de quien abandonaba el edificio: también del despacho de dirección.
Amodei propone evaluadores externos con acceso permanente a los laboratorios, coordinación entre empresas de países democráticos y acuerdos internacionales verificables. Busca ganar tiempo para entender y controlar sistemas cada vez más poderosos. También reconoce el obstáculo geopolítico: pactar límites con China exige comprobar que todos los respeten. Una pausa mundial completa le parece difícil de conseguir pronto. Todos quieren un semáforo; el problema es que cada conductor considera indispensable pasar primero.
Los griegos habrían reconocido la trama. Prometeo entregó el fuego a los seres humanos; nosotros hemos añadido servidores, suscripciones y un departamento de relaciones públicas. El fuego permitió cocinar y calentarse, pero también incendiar la casa. La pregunta nunca fue solamente si convenía tenerlo, sino quién lo manejaba y dónde estaba el agua.
Este lunes 14 de septiembre de 2026, la preocupacióncolectiva, adquirió dimensión diplomática. Volker Türk, un alto comisionado de Naciones Unidas para los Derechos Humanos exigió medidas urgentes de regulación y advirtió sobre las consecuencias que los sistemas más avanzados podrían tener para las generaciones futuras. Cuestionó que la decisiones de semejante alcance que impactan en la humanidad,dependan de unas pocas empresas y personas quecontrola una cantidad absurda de capital, que nos hace ver que las riquezas , nunca antes estaban mal repartidas y distribuidas, hay pocos hombres asquerosamente ricos y millones de personas en pobreza.
El debate tiene asuntos bastante más inmediatos que una rebelión de máquinas. Un informe del Comité Conjunto de Derechos Humanos del Parlamento británico, publicado hoy, identifica riesgos de discriminación, invasión de la privacidad y falta de reparación para las personas afectadas. Recomienda una ley específica, un regulador y prohibiciones para los usos más peligrosos. Se trata de recomendaciones parlamentarias, todavía no de una nueva ley.
La Unión Europea ya cuenta con una respuesta normativa: su Reglamento de Inteligencia Artificial establece obligaciones según el riesgo, con prohibiciones, requisitos de transparencia y controles para determinados sistemas. Su aplicación es progresiva. Regular, en este esquema, implica poner condiciones a usos concretos y exigir responsabilidades.
También este lunes, Microsoft abrió a consulta un código de conducta para sus modelos, con una propuesta de inteligencia artificial humanista y sometida al control de las personas. Es una iniciativa empresarial, distinta de una obligación legal. Las promesas ayudan; resulta razonable querer saber quién comprobará su cumplimiento cuando las ventas tengan prisa.
Aquí aparece un problema mucho más cotidiano: tener una herramienta poderosa no significa saber usarla. Es como darle un coche de carreras a alguien que apenas está aprendiendo a manejar: la velocidad es impresionante, pero si los frenos, las reglas y el criterio no están a la misma altura, el problema no es el coche, sino lo que hacemos con él. Nada nuevo bajo el sol. La humanidad se ha encontrado con dilemas parecidos cada vez que nuestra capacidad para hacer cosas nuevas crece más rápido que nuestra capacidad para ponerles límites. La comparación sirve como advertencia, no como garantía de que esta vez también sepamos frenar a tiempo.
La dificultad consiste en aprovechar las posibilidades de la inteligencia artificial sin convertir a la sociedad en participante involuntaria de un experimento. Las oportunidades para la ciencia, la educación y la salud merecen atención. También la merecen quienes podrían sufrir decisiones automatizadas injustas o perder el control de sus datos. El progreso resulta menos convincente cuando sus beneficios tienen propietario y sus riesgos se reparten entre todos.
México aporta a esa conversación un recordatorio humanista. En julio, durante la reunión regional sobre inteligencia artificial y desarrollo humano, la Cancillería defendió una tecnología orientada al bienestar de las personas, respetuosa de la diversidad y capaz de contribuir a reducir desigualdades. También planteó abordar el desafío regulatorio mediante la cooperación multilateral. Es una posición previa que cobra actualidad ante las noticias de estos días.
Con ese enfoque, México recuerda a la comunidad internacional que el progreso debe medirse también por la dignidad que protege. Antes de preguntarle a una máquina cómo salvar a la humanidad, convendría acordar entre humanos qué estamos dispuestos a hacer por ella. Y, por prudencia, que Prometeo deje un extintor.
Quizá el verdadero peligro no sea que algún día la inteligencia artificial llegue a pensar como nosotros, sino que nosotros sigamos actuando como si no hubiera consecuencias. Porque una máquina puede aprender en segundos, pero las sociedades tardan décadas en corregir sus errores. Podemos construir sistemas capaces de cambiar el mundo antes de haber decidido quién debe vigilarlos, quién responde cuando fallan y quién se queda con los beneficios. El fuego de Prometeo ya está encendido. La pregunta ya no es si debemos apagarlo, sino si seremos lo bastante inteligentes para no incendiar la casa mientras discutimos quién tiene derecho a sostener la antorcha.
