Contenidos sexuales generados con IA – La UE los prohíbe – Calendario de aplicación
Los estados de la UE avalan prohibir contenidos sexuales generados con IA sin consentimiento. La reforma de la normativa europea de Inteligencia Artificial se acelera después de la polémica por las imágenes íntimas generadas por el asistente Grok.
[Empresa – Información Digital]
[Texto libre de IA]
El acuerdo, adoptado por el Consejo de la UE, responde a la creciente preocupación por el uso de tecnologías de IA para producir imágenes o vídeos manipulados que simulan situaciones íntimas con personas reales sin que hayan participado ni hayan autorizado la difusión.
La iniciativa ha estado impulsada por el estado español y Francia en el marco de los trabajos de la Comisión Europea para actualizar la legislación sobre la IA. La propuesta ha recibido también el soporte de Alemania, Irlanda, Bélgica, Eslovenia, Eslovaquia y Hungría.
Nuevos sistemas prohibidos
El texto acordado introduce dos nuevas prohibiciones dentro del marco regulador europeo.
Por una parte, se prohibirán los sistema de IA capaces de generar, manipular o reproducir imágenes, vídeos o audios realistas de partes íntimas o de personas identificables en situaciones sexuales sin consentimiento explicito.
Por otra parte, también quedarán vetados los sistemas que permitan generar o reproducir pornografía infantil mediante IA, una preocupación creciente entre los reguladores delante de la proliferación de herramientas generativas accesibles al público.
La polémica por Grok
La reforma se ha acelerado por la polémica generada por Grok, el asistente de Inteligencia Artificial integrado en la red social X. Durante unos días, la herramienta permitió crear imágenes íntimas falsas de personas reales, incluidas mujeres y menores, a partir de fotografías.
El caso desencadenó una investigación de la Comisión Europea y reabrió el debate sobre los riesgos de la manipulación audiovisual con IA, una práctica que diferentes investigaciones vinculan con el acoso digital, chantaje con imágenes íntimas y difusión no consentida de contenidos sexuales.
Según diversos estudios, las mujeres son la gran mayoría de víctimas de este tipo de contenidos que pueden provocar consecuencias psicológicas como ansiedad, vergüenza o sensación de pérdida de control.
Calendario de aplicación
Según Noticias Parlamento Europeo (europarl.europa.eu), la ley prohíbe los sistemas de IA que generen material de abuso sexual infantil o creen imágenes, vídeos y audios en los que se muestren las partes íntimas de una persona identificable, o actividades sexualmente explícitas, sin su consentimiento.
Los proveedores no podrán comercializar estos sistemas en el mercado de la UE, a menos que cuenten con las garantías técnicas adecuadas para impedir la creación de dicho material. La prohibición también se aplicará a cualquier entidad responsable de su despliegue y que los utilice con este fin.
Las empresas tendrán hasta el 2 de diciembre de 2026 para adaptar sus sistemas.
La legislación aplaza la aplicación de determinadas partes de la Ley de IA para garantizar que existen los estándares y medidas de apoyo necesarios. Las obligaciones relativas a los sistemas de IA de alto riesgo se aplicarán:
> a partir del 2 de diciembre de 2027 para los sistemas de IA de alto riesgo autónomos;
> a partir del 2 de agosto de 2028 para los sistemas de IA integrados como componentes de seguridad y regulados por la legislación sectorial de la UE en materia de seguridad y vigilancia del mercado.
> La ley también retrasa hasta el 2 de diciembre de 2026 la obligación de incluir marca de agua en los contenidos generados por IA para sistemas comercializados antes del 2 de agosto de 2026. A partir de esa fecha, todo el contenido generado por IA deberá marcarse de forma legible para los detectores para aumentar la transparencia.
Además, los estados miembros han acordado reforzar el registro obligatorio de los sistemas de IA de alto riesgo en la base de datos europea, incluso en casos en que los desarrolladores consideren que sus productos pueden quedar exentos de la regulación.
Con esta reforma, la UE busca reforzar la protección delante de los usos abusivos de la IA, especialmente en ámbitos sensibles como la privacidad, la seguridad y la protección de los menores.
Texto publicado en MetaData.cat
El Digital de Tecnología Catalán
16 03-2026
Texto del Calendario de aplicación: Noticias Parlamento Europeo (https://www.europarl.europa.eu/)
Origen de la imagen:
DC Studio – freepik.es
freepik.es
Ver:
> Los algoritmos tienen vida propia y deberían estar regularizados
> La IA pone en evidencia que el CERO es un número negativo
> Premios Catalunya Impacta 2025 – El monitoreo con IA protagonista
> La burbuja de la Inteligencia Artificial en peligro de estallido
> Testamento digital – Cómo gestionar nuestra huella virtual
> Smart City Expo World Congress 2025
> Premios ‘Dona TIC 2025’ – La mujer en el mundo tecnológico
> Adiós a los actores de doblaje – La IA se adueña de la voz
> La huella digital supone más de un 3% de las emisiones de CO2
> El ChatGPT emite toneladas de CO2 y consume grandes cantidades agua
> OpenAI – Caso omiso a los derechos de autor
1 – 23-03-2026