El futuro de la autenticación de contenidos: El gran avance de IMATAG en la creación de marcas de agua generadas por inteligencia artificial

Marca de agua digital: cómo funciona

Para entender la innovación de IMATAG, es esencial comprender cómo funciona la marca de agua digital. El proceso consta de dos pasos cruciales: la marca de agua y la identificación.

Durante la marca de agua, se incrusta en la imagen una marca de agua digital invisible. La identificación consiste en escanear la imagen o el vídeo para detectar la presencia de la marca de agua.

‍

‍

Tradicionalmente, el marcado de agua se producía después de la creación del contenido. Sin embargo, con la IA generativa, un enfoque más adecuado es introducir la marca de agua durante el proceso de generación, como se explica más adelante en este artículo.

‍

Marca de agua IMATAG para imágenes generadas por inteligencia artificial

Demostración "Watermarked SDXL-Turbo" de IMATAG en Hugging Face

El 28 de noviembre de 2023, Stable Diffusion lanzó SDXL Turbo, un modelo avanzado de generación de imágenes por IA. Apenas dos días después, los expertos de IMATAG pusieron a disposición de los usuarios una solución de marca de agua invisible en Hugging Face para identificar las imágenes generadas por esta IA.

En esta demostración, los usuarios pueden generar una imagen describiendo la imagen deseada. Durante el proceso de generación de la imagen se inserta una marca de agua imperceptible que la certifica como sintética. La demostración también permite detectar la marca de agua (en forma de probabilidad) tras someter la imagen generada a diversos ataques, como la compresión o la recoloración.

Esta técnica se basa en el perfeccionamiento de un proceso desarrollado por científicos de INRIA y Meta, conocido como StableSignature (véanse las referencias). Consiste en modificar los pesos del modelo de IA generativa (en este caso, SDXL Turbo) para que genere de forma natural imágenes con marca de agua. Este enfoque es ideal para la IA generativa de código abierto, a diferencia de las técnicas de "generar y luego poner la marca de agua". Para aumentar la robustez, IMATAG combinó este método con su propio descodificador de cero bits (que indica la presencia o ausencia de una marca de agua, sin carga útil), capaz de descodificar incluso marcas de agua muy alteradas.

‍

Pruébelo

Para explorar el potencial de esta técnica, puede probarla en Hugging Face, ajustando los parámetros para controlar la visibilidad y la solidez de la marca de agua. 

Impacto en la visibilidad: El proceso de entrenamiento equilibra la robustez de la marca de agua y la calidad de la imagen. El objetivo de perceptibilidad se alinea con el objetivo original de Stable Diffusion, entrenado en imágenes reales.

Robustez: La demo permite ajustar la intensidad de la marca de agua en el modelo generado, probando diversos equilibrios entre perceptibilidad y robustez.

Limitaciones de la demostración

Es importante señalar que el detector utilizado en esta demostración es una versión "degradada" de nuestro detector interno. Ha sido entrenado para resistir el recorte, la compresión JPEG y la captura de pantalla con smartphones. Desafíos como giros de imagen, perspectivas extremas, rotaciones y adición de texto no formaron parte del entrenamiento. Este ejercicio se centra en una única marca de agua (sin rastreo de traidores), sin mensaje oculto. El detector sólo identificará esta marca de agua concreta y ninguna otra. 

Si desea funciones adicionales, como claves de seguridad, marcas de agua múltiples, mensajes ocultos o mayor robustez, no dude en ponerse en contacto con nosotros.

‍

¿Qué hace que esta demostración sea extraordinaria?

La solución de IMATAG destaca por ser la primera tecnología independiente de marcas de agua para modelos de IA. Aunque algunos desarrolladores de IA, como DeepMind con SynthID, ya aplican algoritmos de marca de agua, normalmente los limitan a sus propios modelos.

El objetivo principal de esta demostración es el avance científico. En el caso de Stable Diffusion, basta con recargar el modelo sin marca de agua para generar imágenes sin marca de agua, ya que los pesos originales están a disposición del público. IMATAG pretende animar a los productores de modelos, como StabilityAI, a que coloquen marcas de agua en sus modelos antes de cualquier publicación de pesos.

Esta iniciativa subraya el mensaje de Imatag a la comunidad de IA de código abierto: Busque expertos en marcas de agua digitales para la protección y el cumplimiento de la marca de agua GenAI. La implementación rápida y eficaz de una solución a medida, como se muestra en la demo publicada apenas dos días después del lanzamiento del modelo, es factible, evitando la típica pérdida de calidad asociada a las marcas de agua posteriores a la generación.

‍

Conclusión y perspectivas

En una era de imágenes generadas por IA cada vez más convincentes, la importancia de la autenticación es primordial, sobre todo en el contexto de los deepfakes y las creaciones de IA de gran realismo. Las autoridades europeas y estadounidenses insisten ahora en proporcionar a los usuarios herramientas para distinguir los contenidos auténticos de las creaciones sintéticas.

Aunque los recientes anuncios del sector, como SynthID de DeepMind, ofrecen garantías, a menudo siguen siendo marcas de agua en fase beta, con un impacto inmediato limitado. De cara al futuro, el camino pasa por perfeccionar las herramientas, adaptar la normativa, concienciar y fomentar la colaboración entre los líderes tecnológicos, los reguladores y los usuarios. En esta era dominada por la IA, la confianza, la seguridad y la autenticidad siguen siendo preocupaciones fundamentales, y el camino de las marcas de agua digitales, iniciado en los años cincuenta, sigue evolucionando.

‍

-----

Acerca de StableSignature: El enfoque de Stable Signature consiste en entrenar el modelo generativo de IA para generar imágenes con marca de agua de forma nativa. Esta entrada de blog refleja el trabajo de Matthijs Douze y Pierre Fernandez, con las contribuciones de Guillaume Couairon, Teddy Furon, y Hervé Jégou a esta investigación. Otros recursos disponibles en su repositorio GitHub.

Más detalles técnicos del algoritmo de Imatag-lab aquí.