Deepfakes: marco jurídico y marcas de agua digitales

La inteligencia artificial permite crear imágenes, vídeos y grabaciones de audio de un realismo extraordinario. Aunque los deepfakes tienen aplicaciones legítimas en el cine y la creatividad digital, también pueden facilitar el fraude de identidad, la desinformación, las estafas y las vulneraciones de la privacidad.

La Unión Europea aborda estos riesgos mediante el Reglamento de Inteligencia Artificial (Reglamento (UE) 2024/1689). El artículo 50 establece obligaciones de transparencia para determinados contenidos generados o manipulados por IA.

Los proveedores de sistemas de IA generativa deben implementar medidas técnicas que permitan identificar el contenido sintético en un formato legible por máquina. Los usuarios que emplean la IA para crear deepfakes también están sujetos a obligaciones de divulgación en las circunstancias que especifica el Reglamento, con excepciones para determinadas obras artísticas, satíricas y de ficción.

Estos requisitos tienen como objetivo mejorar la transparencia sin prohibir los usos legítimos de los medios sintéticos.

El marcado de agua digital consiste en incorporar información en un archivo digital para ayudar a identificar su origen o indicar que ha sido generado o modificado artificialmente.

Se utilizan habitualmente tres enfoques:

Marcas de agua visibles: etiquetas como «Generado por IA» que se muestran directamente en una imagen o un vídeo.

Marcas de agua invisibles: información integrada en las señales digitales y detectable mediante herramientas compatibles.

Metadatos de procedencia: información que documenta el origen de un archivo y su historial de ediciones.

Estas técnicas pueden favorecer la transparencia y la trazabilidad de los contenidos. Sin embargo, tienen limitaciones: las marcas de agua pueden eliminarse o alterarse, y los metadatos pueden perderse durante el procesamiento o la distribución de los archivos. La ausencia de una marca de agua no prueba que un contenido sea auténtico.

Combinar las marcas de agua con estándares de procedencia, firmas criptográficas y verificación independiente puede ofrecer garantías más sólidas.

Combatir los deepfakes malintencionados requiere una combinación de salvaguardias jurídicas, soluciones técnicas y concienciación pública. Verificar las fuentes, contrastar la información y confirmar de forma independiente las solicitudes económicas inusuales siguen siendo precauciones esenciales.

El objetivo no es prohibir los contenidos generados por IA, sino hacer más transparente su origen, limitar los usos engañosos y preservar la confianza en la información digital.