Claves de las nuevas normas de transparencia que exige la UE a la inteligencia artificial
Desde este domingo, la Unión Europea ha puesto en vigor un nuevo marco normativo que obliga a los sistemas de inteligencia artificial (IA) a operar bajo estrictos requisitos de transparencia. Esta regulación busca garantizar que los ciudadanos sean plenamente conscientes cuando interactúan con una máquina o cuando consumen contenidos manipulados por IA.
Obligaciones para empresas y desarrolladores
Las principales empresas tecnológicas, como OpenAI (ChatGPT), Google (Gemini) y Anthropic (Claude), están ahora obligadas a diseñar sus sistemas de modo que los usuarios sean advertidos claramente de que están interactuando con una inteligencia artificial. Esta medida también afecta a los desarrolladores de IA en servicios públicos, compañías que utilizan IA para atención al cliente y sistemas destinados a gestionar denuncias de fraude.
Además, quienes empleen IA para reconocimiento de emociones o categorización biométrica deberán informar a los ciudadanos cuando estos sistemas estén en funcionamiento, salvo en aquellos casos autorizados por la ley para prevenir o perseguir delitos.
Identificación de contenidos generados por IA
A partir del 2 de diciembre, los sistemas de inteligencia artificial deberán incorporar marcas de agua en textos, imágenes, vídeos y audios que hayan sido manipulados, permitiendo así a los usuarios identificar fácilmente el contenido generado por máquinas.
Sin embargo, los proveedores de plataformas como ChatGPT, Gemini, Claude y las redes sociales que integran IA no serán responsables legales del contenido creado por los usuarios. Será obligación de los propios usuarios informar si el material ha sido manipulado mediante IA.
- Quedan exentos de este requisito los contenidos de ficción, así como los de carácter artístico o satírico.
- Existe una excepción clave: sí será obligatorio advertir sobre todo contenido generado por IA que aborde asuntos de interés general, como procesos electorales, judiciales, de salud pública o temas de debate público, salvo que haya sido revisado previamente por una persona.
Prohibiciones y excepciones en el uso de IA
A partir del 2 de diciembre, quedará prohibida la creación de imágenes sexualizadas generadas con IA sin el consentimiento expreso de las personas afectadas. Esta restricción surge tras la controversia generada por imágenes creadas con herramientas de IA como Grok, asociada a la red social X. En respuesta, estas plataformas disponen de un plazo hasta finales de año para implementar medidas de protección eficaces.
Poderes reforzados para la supervisión de la IA
Con la entrada en vigor de estas normas, la Oficina de Inteligencia Artificial de la Comisión Europea cuenta con nuevos poderes para supervisar los modelos de IA generativa y exigir el acceso a sistemas considerados de alto riesgo, como Mythos de Anthropic, con el objetivo de evaluar los posibles impactos y riesgos asociados.
No obstante, persisten dudas sobre el alcance real de la capacidad de la Comisión Europea para analizar estos modelos avanzados, especialmente si gobiernos externos, como el estadounidense, imponen restricciones al acceso de entidades extranjeras, tal y como ocurrió temporalmente en junio pasado.
Actualmente, Bruselas negocia con Anthropic los términos para que la Agencia de Ciberseguridad de la UE (ENISA) pueda evaluar modelos como Mythos sin comprometer infraestructuras críticas ni acceder a información sensible.
Régimen sancionador
El incumplimiento de estas obligaciones de transparencia podrá acarrear multas de hasta 15 millones de euros o el 3% de la facturación anual global de la empresa infractora, aplicándose la cantidad más elevada. En el caso de instituciones o agencias de la UE, la sanción máxima será de 750.000 euros.
Conclusión
La nueva normativa de la Unión Europea marca un hito en la regulación de la inteligencia artificial, estableciendo un marco de transparencia y responsabilidad para proteger a los ciudadanos frente a posibles riesgos y abusos. Las próximas semanas serán clave para observar cómo se adaptan las empresas tecnológicas y los desarrolladores a estas exigencias, así como la capacidad real de las instituciones europeas para supervisar y hacer cumplir estas normas en un entorno tecnológico en constante evolución.
Nota:
Los contenidos publicados en este sitio han sido generados y/o reelaborados mediante el uso de herramientas de inteligencia artificial.
elpuebloinforma.com declina toda responsabilidad, directa o indirecta, por eventuales errores, inexactitudes, omisiones u otras irregularidades presentes en los textos.
El usuario reconoce que dichos contenidos tienen exclusivamente fines informativos y no pueden sustituir en ningún caso fuentes oficiales ni asesoramientos profesionales.
