Europa ha comenzado a aplicar una regla que etiquetará el contenido generado por inteligencia artificial. La Comisión Europea anunció que a partir del 2 de agosto entrarán en vigor nuevas obligaciones de transparencia para sistemas de IA. La medida busca que cualquier usuario pueda distinguir con claridad qué contenido ha sido generado por una máquina.
De acuerdo con un comunicado de prensa, el avance de la IA generativa ha complicado diferenciar entre el contenido creado por personas y aquel que producen los sistemas automatizados. La Comisión Europea afirma que estas dificultades abren la puerta a la desinformación, manipulación masiva, fraude y suplantación de identidad, riesgos que antes eran mucho más limitados.
Debido a ello, Europa comenzó a aplicar un etiquetado para contenido sintético que forma parte del Reglamento de la IA. Bajo esta regla, las grandes tecnológicas tienen la obligación de diseñar sus sistemas para que cualquier persona sepa, de forma explícita, cuándo está interactuando con una inteligencia artificial y no con un humano. Esto incluye a los chatbots, agentes virtuales y avatares que puedan confundirse con interlocutores reales.
Sumado a esto, las empresas deberán añadir marcas legibles que permitan detectar contenido generado o manipulado artificialmente. Esta marca de agua ya está disponible en modelos como Gemini, Sora o MetaAI y es imperceptible para los humanos. El único modo de saber que una imagen, texto o video es IA se hace a través de una herramienta de identificación.
La Comisión señala que las empresas están obligadas a avisar a sus usuarios cuando estén expuestos a herramientas que reconozcan emociones o realicen categorización biométrica. También deberán etiquetar los deepfakes y marcar textos de interés público que no hayan pasado por revisión humana.
¿Cómo se etiquetará el contenido generado por IA?
Para cumplir con lo que marca el Artículo 50 del Reglamento de IA, la Comisión Europea desarrolló un conjunto de iconos estandarizados para señalar contenido generado por inteligencia artificial. El objetivo es que estas marcas sean reconocibles de un vistazo, como otros símbolos que vemos en el entorno digital.
IconoCuándo usarEjemplos de casos de uso
Cuando la IA estuvo involucrada en la creación de contenido falso profundo (imagen, audio, video) o texto publicado o cuando se implementa una etiqueta de texto personalizada o una segunda capa interactiva.Vídeo falso profundo con la etiqueta de texto «voces generadas con» seguida del icono básico.
Cuando todo el contenido falso profundo (imagen, audio, video) o texto es completamente generado por IA sin elementos creados por humanos o control editorial humano (aparte de incitar).Videos falsos profundos completamente generados por IA con políticos o eventos ficticios. Música o arte totalmente compuesto por IA. Resúmenes de noticias generados por IA
Cuando el contenido preexistente hecho por el hombre se modificó parcialmente con IA convirtiéndolo en una falsificación profunda o texto sobre asuntos de interés público.Una cara en una fotografía auténtica se intercambia con una cara de un político que usa IA. Fotografías auténticas de un apartamento vacío se amueblan con IA.Fuente: Comisión Europea. El brazo ejecutivo de la UE también publicó una guía detallada dirigida a proveedores y desarrolladores para ayudarles a cumplir con estas obligaciones de transparencia. El documento explica cómo demostrar el cumplimiento normativo, incluyendo la adhesión a un código de buenas prácticas enfocado en el contenido generado por IA. Según la Comisión, las directrices se elaboraron con ayuda de los Estados miembros, la Oficina de IA y otros representantes del sector.
Multas de hasta 15 millones de euros a quienes no cumplan
La vigilancia del cumplimiento de estas reglas recaerá en varios organismos, según sea el caso. La supervisión general quedará a cargo de las autoridades nacionales de vigilancia del mercado, mientras que la Oficina de IA será responsable de vigilar los sistemas bajo su competencia directa. Por último, el Supervisor Europeo de Protección de Datos entrará en juego cuando las instituciones de la UE actúen como proveedoras o usuarias de estos sistemas.
Aquellas empresas que no cumplan con las reglas podrían enfrentar sanciones ejemplares. La Comisión Europea establece que quienes no respeten estas obligaciones se enfrentarán a multas de hasta 15 millones de euros o el 3% de su facturación global anual, cualquiera que resulte más alta. Para instituciones o agencias de la UE, las sanciones solo llegarán a los 750.000 euros.
El comunicado menciona que el objetivo de toda esta normativa es fomentar la confianza en el ecosistema informativo. La proliferación de fake news y montajes hace que muchas personas no sepan que están mirando un contenido generado por IA, lo cual podría tener consecuencias catastróficas.
Seguir leyendo: Europa obligará a marcar todo el contenido creado por inteligencia artificial
