Cacería de brujas en literatura: paranoia del falso positivo de la IA

Anteriormente, un texto “perfecto” era halagado y aplaudido; hoy en día, un escrito de esa naturaleza genera dudas de autenticidad, debido al uso de herramientas tecnológicas 

Por: Laura Coronado Contreras, Abogada por la Universidad Anáhuac, donde es catedrática; doctora en Derecho por la Universidad Complutense de Madrid. Especialista en temas de libertad de expresión del ciberespacio, regulación de redes sociales e identidad digital

“Hay ruedas moviendo ruedas en este pueblo, y fuegos nutriendo fuegos”, como diría Arthur Miller en su obra Las brujas de Salem. Con dicha puesta teatral, el escritor denunciaba una persecución irracible y constante por parte de la autoridad. Hoy, la omnipresencia de la inteligencia artificial (IA) está llegando a tal punto que los jurados para seleccionar o premiar el arte debaten sobre si “la excelencia técnica” es real o un indicio del uso indebido de la tecnología. ¿Una nueva persecución implacable, un juicio tendencioso y la ejecución pública de personajes a base de simples inferencias?

Dos escándalos recientes son emblemáticos: el ganador regional del Caribe de la Fundación Commonwealth por el cuento “La serpiente en el bosquecillo”, Jamir Nazir, fue acusado en redes sociales por utilizar ChatGPT. Por su parte, la premio nobel, Olga Tokarzuk, tuvo que hacer una serie de aclaraciones sobre cómo utilizó modelos de IA para documentar su reciente novela, aclarando que no la empleó para escribir.  

¿Prejuicios hacia la tecnología? ¿Nos estamos convirtiendo en una sociedad que ya no cree en la buena fe? ¿Dejamos de analizar la belleza, emoción o el impacto de una historia sino puede probarse que no fue creada sin ayuda tecnológica aunque sí sea humana?

La obsesión por la “autenticidad” ha desatado una verdadero enjuiciamiento: la desconfianza en algo “demasiado bueno”, “sin errores”, “muy pulido”, que otrora hubiese sido aplaudido y ahora es materia de un examen forense.

¿Está mal utilizar a la IA para resumir, traducir o mejorar la redacción de un texto? ¿Será que, en realidad, nos cuestiona sobre aquello que valorábamos como deseable y que ahora puede predecirse matemáticamente? ¿Cuáles eran -y cuáles deberían ser- los criterios para considerar digno de elogio, admiración y reconocimiento a un ensayo, novela, cuento o cualquier otra expresión literaria? 

El famoso libro El gato en el sombrero de Dr. Seuss revolucionó a la literatura infantil al cumplir con el reto de incluir 236 palabras diseñadas para que personas de seis años aprendieran a leer. Sus rimas rompieron con el mito de que dicha lista era aburrida e impedía el aprendizaje. Tras su éxito, su autor cumplió otra hazaña: escribir Huevos verdes con jamón con solamente 50 palabras distintas. Afortunadamente para Theodor Geisel, el nombre real del autor, le tocó vivir en una época en la que el uso de la IA no era cotidiano y sus logros no podrían verse cuestionados ante tal prodigiosidad y divergencia.

¿Qué hubiese pasado si alguien hubiera dudado que una misma persona pudiera hacer obras tan ingeniosas como le sucedió a Jamir Nazir ya que, para algunos, el que antes escribiera un poemario y éste fuera su primer cuento, ya era motivo de sospecha?

Sumado a ello, sus críticos señalan que su obra recurre a herramientas literarias que fácilmente hace la IA como metáforas, paralelismos y reiteraciones. Aunque antes se premiaban dichos recursos, ahora quizás la tecnología nos muestra que nuestros gustos son altamente predecibles y fáciles de replicar y que, por lo tanto, ahora deberíamos sospechar de quien los emplee. 

Obviamente no se trata de hacer pasar como propio lo que es ajeno. De ninguna manera puede permitirse -y mucho menos premiarse- aquello en lo que no hemos trabajado. El plagio, la suplantación, el fraude y el robo siempre deben verse -y sancionarse- como lo que son: delitos. Sin embargo, el debate ético y jurídico no puede simplificarse a una prohibición absoluta.

¿Estamos viviendo una nueva persecución como hace décadas en lugar de replantearnos que después de la popularización de la IA, nada será igual?

Si no reaccionamos pronto a este tipo de disyuntivas, sólo se profundizarán más: justo en el 2025 nació una generación que no conocerá un mundo sin IA y no por ello, deberíamos de asumir que no querrán ser escritoras y escritores y pedirles pruebas indiscutibles sobre lo humano de sus obras, puesto que si la artesanalidad de las mismas no queda documentado previamente, éstas carecerán de valor.

Por ello, los casos de los galardonados cuestionados nos invitan a un amplio debate y ello, de suyo, constituye una enorme oportunidad. Más allá de la discusión de la “autenticidad” o de establecer porcentajes mínimos o máximos de uso de tecnología o clasificar qué tipo de “ayuda” podemos solicitar a las plataformas, el tema también es si el llamado typomaxxing (la tendencia -y hasta obsesión- por optimizar al extremo la escritura, la gramática y estilo) se convertirá en un mecanismo de censura a aquellas obras que nos pudieran resultar incómodas o “demasiado buenas para ser verdad”. 

Tal y como vemos el panorama, estaríamos enfrentándonos a un enorme riesgo para la libertad de expresión. Pareciera que basta con un par de comentarios en redes, un poco de viralidad y la mera intriga para que la trayectoria, el prestigio e, incluso, la presunción de inocencia sean vulneradas.

De forma idéntica a Las Brujas de Salem y la presecución de “artistas comunistas”, un “falso positivo” puede eregirse como una prueba absoluta e irrefutable aunque, curiosamente, el “mayor detector de mentiras” para la IA es la propia IA. Nuevamente, retomando el caso de Nazir, Claude fue quien “determinó” que era altamente probable que fuese en su totalidad un manuscrito de IA. Ante esto, quizá deberíamos mejor citar a las películas de El Planeta de los Simios y no a Miller, ya que, como sabemos, pasó a la historia (y a los memes) la célebre frase de que “simio no mata simio”. ¿La IA puede calificarse a sí misma? 

La magnitud del problema es tal que desarrolladores y plataformas, abiertamente, han señalado que no existe, hasta el momento, “una marca de agua” para detectar su uso. Inclusive, tendríamos que analizar si ni siquiera una IA puede identificar que se utilizó su mismo modelo de lenguaje u otro. Sin embargo, la duda ya queda en el aire aunque estuvieramos frente a un falso positivo.

Son incontables los casos de reconocimiento facial, detectores de discursos de odio o algoritmos para prevenir la pornografía que, de manera errónea, eliminan o castigan con menos visibilidad ciertos contenidos. ¿Estaríamos exentos de dichas equivocaciones cuando se trata de identificar el uso de información que ya circula en el ciberespacio pero es curada por algún modelo de lenguaje?

La IA es una gran herramienta, quizá nada tan poderosa, rápida e intuitiva. Sin embargo, no es un sustituto. No podemos, lógicamente, presentar documentos (literarios o de cualquier otro tipo) que sean elaborados exclusivamente por ella. Pero, a su vez, no podemos criminalizar a quien éticamente la utilice o, incluso, más allá, muestre una genialidad tal que “pareciese poco humana”. Alan Turing señalaba que llegaríamos a vivir dicho reto o como decía una tía: señalamos que la flor artificial es tan bella que parece natural y a la natural, la presumimos tan hermosa que parece sintética.