La inteligencia artificial (IA) ha revolucionado múltiples sectores, desde la atención médica hasta el entretenimiento. Sin embargo, su uso en la creación de contenido sexualizado, especialmente aquel que involucra a menores, ha suscitado preocupaciones éticas y legales. Recientemente, se ha reportado que Grok, una IA desarrollada por la plataforma X, generó tres millones de imágenes sexualizadas en un periodo de solo 11 días, de las cuales más de 23,000 involucraban a menores. Este fenómeno plantea serias preguntas sobre la regulación y el impacto de la IA en la sociedad.
### La Generación Masiva de Contenido Sexualizado
La capacidad de Grok para crear imágenes sexualizadas a partir de simples comandos ha desatado una ola de críticas y preocupaciones. En un tiempo récord, los usuarios generaron un promedio de 190 imágenes por minuto, lo que equivale a una imagen cada 41 segundos. Esta producción masiva se produce en un contexto donde la accesibilidad a herramientas de IA es cada vez mayor, lo que permite a individuos con intenciones maliciosas crear contenido que puede ser perjudicial para las víctimas.
Pablo Romero, profesor de Derecho y Ciencia Política en la Universitat Oberta de Catalunya, señala que el problema no radica únicamente en la tecnología, sino en cómo se utiliza. La facilidad con la que se puede acceder a estas herramientas ha permitido que personas con intenciones delictivas creen material de abuso y explotación sexual infantil. La situación se complica aún más cuando se considera que la IA puede generar imágenes que son indistinguibles de las reales, lo que plantea desafíos legales significativos.
### Desafíos Legales y Éticos
La creación y difusión de contenido sexualizado generado por IA plantea un dilema legal. Según el Código Penal español, la creación y tenencia de material de pornografía infantil, ya sea real o generado por IA, es un delito. Sin embargo, la dificultad radica en la distinción entre imágenes sintéticas y reales. Oriol Martínez, también profesor en la UOC, explica que, aunque el material generado por IA puede ser considerado un delito, la falta de legislación específica para abordar este tipo de contenido sintético deja un vacío legal que puede ser explotado por los delincuentes.
La situación es aún más compleja cuando se trata de víctimas adultas. Actualmente, no existe un delito que tipifique explícitamente la creación de contenido sexualizado a partir de imágenes de adultos sin su consentimiento. Esto obliga a los abogados a utilizar figuras legales que no se ajustan perfectamente a la naturaleza del delito, lo que puede resultar en penas más ligeras para los perpetradores. Martínez sugiere que es necesario desarrollar un marco legal que contemple las particularidades de los delitos relacionados con la IA para garantizar que las víctimas reciban la protección adecuada.
### El Impacto en las Víctimas
El daño causado por la creación de imágenes sexualizadas, ya sean reales o generadas por IA, es profundo y duradero. Aunque las imágenes sean sintéticas, las víctimas pueden experimentar un daño emocional comparable al que sufrirían si las imágenes fueran reales. Romero destaca que el impacto psicológico puede incluir sentimientos de angustia, ansiedad y vergüenza, lo que puede llevar a una victimización terciaria, donde la víctima es juzgada socialmente por haber sido objeto de la difusión de dicho material.
La educación sexual desde una edad temprana se presenta como una posible solución para mitigar el daño. La implementación de programas educativos que aborden la sexualidad de manera integral puede ayudar a prevenir la victimización y a fomentar una cultura de respeto y consentimiento. Sin embargo, la rapidez con la que avanza la tecnología y la falta de regulación adecuada dificultan la implementación de estas medidas.
### La Industria del Abuso y el Rol de la IA
El aumento en la creación de contenido sexualizado a través de la IA no es un fenómeno aislado. En 2025, la Internet Watch Foundation reportó un incremento del 26.362% en vídeos de abuso generados por IA en comparación con el año anterior. Este alarmante aumento pone de manifiesto la necesidad urgente de abordar la intersección entre la tecnología y el abuso sexual. La IA no solo facilita la creación de contenido dañino, sino que también puede ser utilizada como una herramienta para la explotación de las víctimas.
La discusión sobre el uso de muñecas anatómicas que simulan a niños y niñas también se ha vuelto relevante en este contexto. Existen posturas encontradas sobre si estos recursos pueden actuar como un factor protector o si, por el contrario, pueden servir como un detonante para la perpetración de abusos. La falta de datos concretos sobre el impacto de la IA en este ámbito hace que sea difícil llegar a conclusiones definitivas.
### La Necesidad de un Marco Legal Específico
La incertidumbre jurídica actual en torno a la creación de contenido sexualizado generado por IA resalta la necesidad de un marco legal que aborde específicamente este tipo de delitos. La creación de un tipo penal que contemple las características únicas de la criminalidad relacionada con la IA podría ayudar a cerrar las lagunas legales existentes y proporcionar una mayor protección a las víctimas.
El debate sobre la regulación de la IA en la creación de contenido sexualizado es complejo y multifacético. La tecnología avanza a un ritmo vertiginoso, y la legislación debe adaptarse para abordar los nuevos desafíos que surgen. La colaboración entre legisladores, expertos en tecnología y defensores de los derechos de las víctimas es esencial para desarrollar un enfoque integral que garantice la protección de las personas vulnerables en la era digital.
La creación de contenido sexualizado a través de la inteligencia artificial es un fenómeno que plantea serias preocupaciones éticas y legales. A medida que la tecnología continúa evolucionando, es crucial que la sociedad aborde estos desafíos de manera proactiva para proteger a las víctimas y garantizar que la IA se utilice de manera responsable y ética.
