La Unión Europea avanza hacia la prohibición de ‘deepfakes’ sexuales generados por IA tras propuesta de España
El Consejo de la Unión Europea ha dado un paso significativo en la regulación de la inteligencia artificial (IA) al aprobar, este viernes, una propuesta liderada por España para prohibir la creación y difusión de contenidos sexuales realistas generados por IA sin el consentimiento explícito de las personas involucradas. Esta medida apunta directamente a los denominados ‘deepfakes’, imágenes y vídeos manipulados mediante tecnología avanzada que pueden suplantar la identidad de individuos en situaciones explícitas sin su autorización.
Apoyo internacional y contexto de la medida
La iniciativa española ha contado con el respaldo de países como Francia, Alemania y Bélgica, consolidando una postura común entre los Veintisiete miembros de la Unión Europea. La propuesta se enmarca dentro del proceso de reforma de la legislación comunitaria sobre inteligencia artificial, impulsado por la Comisión Europea tras la polémica generada por Grok, la IA vinculada a la red social X, que fue utilizada para crear imágenes de desnudos de mujeres y menores a petición de los usuarios.
Alcance de la prohibición
Según fuentes del Gobierno español, el texto acordado por el Consejo de la UE propone vetar cualquier sistema de inteligencia artificial capaz de “generar, manipular o reproducir” contenido audiovisual sexualmente explícito en el que puedan identificarse personas que no hayan prestado su consentimiento explícito. Asimismo, la prohibición incluye aquellas herramientas que permitan la creación de pornografía infantil, reforzando la protección de menores en el entorno digital.
Otras propuestas incluidas en el acuerdo
El pacto alcanzado va más allá de la prohibición de deepfakes sexuales. Entre las medidas adicionales figura la recuperación del registro obligatorio para sistemas de alto riesgo que cumplan determinados requisitos. Con esta acción, la Unión Europea busca un mayor control y trazabilidad de las tecnologías más delicadas, al tiempo que se plantea la reducción de la burocracia innecesaria asociada a la implementación de nuevas soluciones de IA.
- Prohibición de IA que genere contenido sexual sin consentimiento.
- Veto a herramientas capaces de crear pornografía infantil.
- Registro obligatorio para sistemas de alto riesgo.
- Medidas para simplificar los procedimientos administrativos.
Próximos pasos legislativos
Aunque el texto ha sido aprobado por el Consejo, todavía debe superar una fase de negociación con otros organismos legislativos de la Unión Europea, como la Comisión Europea y el Parlamento Europeo, antes de su adopción definitiva. Esta etapa será clave para definir los detalles de la regulación y su aplicación en los países miembros.
La Unión Europea continúa así su labor pionera en la regulación de la inteligencia artificial, buscando proteger los derechos fundamentales de las personas frente a los riesgos derivados de las nuevas tecnologías.
Nota:
Los contenidos publicados en este sitio han sido generados y/o reelaborados mediante el uso de herramientas de inteligencia artificial.
elpuebloinforma.com declina toda responsabilidad, directa o indirecta, por eventuales errores, inexactitudes, omisiones u otras irregularidades presentes en los textos.
El usuario reconoce que dichos contenidos tienen exclusivamente fines informativos y no pueden sustituir en ningún caso fuentes oficiales ni asesoramientos profesionales.
