¿Qué sanciones se podrían aplicar al generar contenido de menores con IA?
El avance de la inteligencia artificial ha abierto nuevas posibilidades tecnológicas, pero también ha generado preocupaciones legales. Una de ellas es el uso de estas herramientas para crear o manipular contenido sexual que involucre a niñas, niños o adolescentes, incluso cuando las imágenes o videos son generados digitalmente.
Ante este escenario, en la Cámara de Diputados se presentó una iniciativa para sancionar con hasta 12 años de prisión a quienes utilicen inteligencia artificial u otras tecnologías digitales para generar material de abuso o explotación sexual infantil. Aquí en el sitio “El Mundo del Derecho” te explicamos los detalles.
¿En qué consiste la iniciativa?
El diputado Juan Luis Carrillo Soberanis, del Partido Verde Ecologista de México (PVEM), propuso reformar el Código Penal Federal para castigar a quienes utilicen inteligencia artificial o herramientas digitales con este fin.
La iniciativa plantea imponer penas de siete a doce años de prisión y multas de 800 a 2,000 días, a quien “mediante el uso de inteligencia artificial, técnicas digitales para la manipulación de imagen, voz, audio o video, o cualquier otra tecnología similar, genere, altere, simule o reproduzca contenido que represente actos sexuales o de exhibicionismo corporal con fines lascivos o sexuales”.
Además, el proyecto propone sancionar con las mismas penas a quienes almacenen, distribuyan, publiquen, difundan, comercialicen, transmitan o intercambien ese material, ya sea por medios físicos o digitales.
La reforma busca actualizar el Código Penal
La propuesta plantea adicionar los párrafos cuarto y quinto al artículo 202 del Código Penal Federal, el cual actualmente ya sanciona la pornografía de personas menores de edad.
Según el legislador, es necesario actualizar la ley para enfrentar nuevas formas de delito derivadas del uso de tecnología.
“El acelerado avance de estas tecnologías ha permitido la creación de contenidos digitales hiperrealistas, capaces de simular imágenes, videos o audios con apariencia verídica”, señala la exposición de motivos de la iniciativa.
El documento advierte que el uso de inteligencia artificial para generar este tipo de contenidos representa una amenaza grave para la protección de niñas, niños y adolescentes, ya que facilita la producción y difusión de material sexual explícito.
Además, señala que el problema no solo radica en la creación de estos contenidos, sino también en su impacto social.
De acuerdo con la iniciativa, “la circulación y consumo de imágenes sexualizadas generadas con inteligencia artificial contribuye a la desensibilización colectiva y abre la puerta a que esos ilícitos sean tolerados o replicados en la realidad”.
La iniciativa aún debe discutirse en el Congreso
El proyecto fue turnado a la Comisión de Justicia de la Cámara de Diputados, donde deberá ser analizado y discutido antes de que pueda avanzar en el proceso legislativo.
El objetivo, según el promovente, es que el Estado mexicano establezca límites claros y sanciones para evitar el uso de inteligencia artificial en la generación de material de abuso o explotación sexual infantil, así como fortalecer la protección de la niñez frente a los riesgos del entorno digital.
