El futuro de la autenticación de contenidos: El gran avance de IMATAG en la creación de marcas de agua generadas por inteligencia artificial

Tecnología de seguimiento de imágenes

January 29, 2024

El futuro de la autenticación de contenidos: El gran avance de IMATAG en la creación de marcas de agua generadas por inteligencia artificial

LECTURA RÁPIDA

<div class="hs-cta-embed hs-cta-simple-placeholder hs-cta-embed-148431706223"
 style="max-width:100%; max-height:100%; width:170px;height:570.703125px" data-hubspot-wrapper-cta-id="148431706223">
 <a href="https://cta-service-cms2.hubspot.com/web-interactives/public/v1/track/redirect?encryptedPayload=AVxigLJzQGOe5aD6RbmFSmflaLar9UlBx7tX8K%2B9xsV2BAbTk9fq4IHQJLhH42rKf63Vf6Zp8hRi7S9WdMrRsfqVKhPo6yABEBxmbgRS%2BzFAAZ1qBKXEMEEyaS%2BkMU%2Bm%2BZ9UlQlmx1Vh9SrHJFoeMnNei2R9Y0088CcBs3KEH8vuCyqPa4QFCyM0heh9VlmDVjZ7iLKGwgpJmtDdzjNIJlkqjbKrT8eJLGxitXl5Os4qsz3gV4easZqhqoqmTeX%2FCA%3D%3D&webInteractiveContentId=148431706223&portalId=4144962" target="_blank" rel="noopener" crossorigin="anonymous">
   <img alt="History of Digital Watermarking &nbsp; Download our infographic &quot;the Invisible Digital Watermarking Saga: A Journey Through Time&quot;" loading="lazy" src="https://no-cache.hubspot.com/cta/default/4144962/interactive-148431706223.png" style="height: 100%; width: 100%; object-fit: fill"
     onerror="this.style.display='none'" />
 </a>
</div>

Comparte este artículo

Suscríbete al blog

Me suscribo

IMATAG, reconocido experto en tecnología de marcas de agua digitales y sus aplicaciones en diversos sectores, como el seguimiento de imágenes de prensa y la protección de contenidos visuales sensibles, asume un nuevo reto. El objetivo es identificar contenidos generados por inteligencia artificial (IA), un paso crucial para garantizar la confianza en la información digital. Nos complace anunciar la publicación de nuestra demostración sobre Hugging Face, que llega solo dos días después del lanzamiento de SDXL Turbo por Stable Diffusion. Es la primera vez que una tecnología independiente, ajena al proceso de desarrollo del modelo de IA, permite tanto la marca de agua como su detección.

Marca de agua digital: cómo funciona

Para entender la innovación de IMATAG, es esencial comprender cómo funciona la marca de agua digital. El proceso consta de dos pasos cruciales: la marca de agua y la identificación.

Durante la marca de agua, se incrusta en la imagen una marca de agua digital invisible. La identificación consiste en escanear la imagen o el vídeo para detectar la presencia de la marca de agua.

Imatag incrusta una marca de agua digital imperceptible en la imagen generada por IA

La marca de agua es detectable incluso después de modificaciones como el recorte, el cambio de saturación y la compresión.

Tradicionalmente, el marcado de agua se producía después de la creación del contenido. Sin embargo, con la IA generativa, un enfoque más adecuado es introducir la marca de agua durante el proceso de generación, como se explica más adelante en este artículo.

Marca de agua IMATAG para imágenes generadas por inteligencia artificial

Demostración "Watermarked SDXL-Turbo" de IMATAG en Hugging Face

El 28 de noviembre de 2023, Stable Diffusion lanzó SDXL Turbo, un modelo avanzado de generación de imágenes por IA. Apenas dos días después, los expertos de IMATAG pusieron a disposición de los usuarios una solución de marca de agua invisible en Hugging Face para identificar las imágenes generadas por esta IA.

En esta demostración, los usuarios pueden generar una imagen describiendo la imagen deseada. Durante el proceso de generación de la imagen se inserta una marca de agua imperceptible que la certifica como sintética. La demostración también permite detectar la marca de agua (en forma de probabilidad) tras someter la imagen generada a diversos ataques, como la compresión o la recoloración.

Esta técnica se basa en el perfeccionamiento de un proceso desarrollado por científicos de INRIA y Meta, conocido como StableSignature (véanse las referencias). Consiste en modificar los pesos del modelo de IA generativa (en este caso, SDXL Turbo) para que genere de forma natural imágenes con marca de agua. Este enfoque es ideal para la IA generativa de código abierto, a diferencia de las técnicas de "generar y luego poner la marca de agua". Para aumentar la robustez, IMATAG combinó este método con su propio descodificador de cero bits (que indica la presencia o ausencia de una marca de agua, sin carga útil), capaz de descodificar incluso marcas de agua muy alteradas.

Pruébelo

Para explorar el potencial de esta técnica, puede probarla en Hugging Face, ajustando los parámetros para controlar la visibilidad y la solidez de la marca de agua. 

Demo de la interfaz de usuario de Imatag
Demo de la interfaz de usuario de Imatag

Impacto en la visibilidad: El proceso de entrenamiento equilibra la robustez de la marca de agua y la calidad de la imagen. El objetivo de perceptibilidad se alinea con el objetivo original de Stable Diffusion, entrenado en imágenes reales.

Robustez: La demo permite ajustar la intensidad de la marca de agua en el modelo generado, probando diversos equilibrios entre perceptibilidad y robustez.

Limitaciones de la demostración

Es importante señalar que el detector utilizado en esta demostración es una versión "degradada" de nuestro detector interno. Ha sido entrenado para resistir el recorte, la compresión JPEG y la captura de pantalla con smartphones. Desafíos como giros de imagen, perspectivas extremas, rotaciones y adición de texto no formaron parte del entrenamiento. Este ejercicio se centra en una única marca de agua (sin rastreo de traidores), sin mensaje oculto. El detector sólo identificará esta marca de agua concreta y ninguna otra. 

For additional features, such as security keys, multiple watermarks, concealed messages, or increased robustness, please don't hesitate to contact us.

¿Qué hace que esta demostración sea extraordinaria?

La solución de IMATAG destaca por ser la primera tecnología independiente de marcas de agua para modelos de IA. Aunque algunos desarrolladores de IA, como DeepMind con SynthID, ya aplican algoritmos de marca de agua, normalmente los limitan a sus propios modelos.

El objetivo principal de esta demostración es el avance científico. En el caso de Stable Diffusion, basta con recargar el modelo sin marca de agua para generar imágenes sin marca de agua, ya que los pesos originales están a disposición del público. IMATAG pretende animar a los productores de modelos, como StabilityAI, a que coloquen marcas de agua en sus modelos antes de cualquier publicación de pesos.

Esta iniciativa subraya el mensaje de Imatag a la comunidad de IA de código abierto: Busque expertos en marcas de agua digitales para la protección y el cumplimiento de la marca de agua GenAI. La implementación rápida y eficaz de una solución a medida, como se muestra en la demo publicada apenas dos días después del lanzamiento del modelo, es factible, evitando la típica pérdida de calidad asociada a las marcas de agua posteriores a la generación.

Conclusión y perspectivas

En una era de imágenes generadas por IA cada vez más convincentes, la importancia de la autenticación es primordial, sobre todo en el contexto de los deepfakes y las creaciones de IA de gran realismo. Las autoridades europeas y estadounidenses insisten ahora en proporcionar a los usuarios herramientas para distinguir los contenidos auténticos de las creaciones sintéticas.

Aunque los recientes anuncios del sector, como SynthID de DeepMind, ofrecen garantías, a menudo siguen siendo marcas de agua en fase beta, con un impacto inmediato limitado. De cara al futuro, el camino pasa por perfeccionar las herramientas, adaptar la normativa, concienciar y fomentar la colaboración entre los líderes tecnológicos, los reguladores y los usuarios. En esta era dominada por la IA, la confianza, la seguridad y la autenticidad siguen siendo preocupaciones fundamentales, y el camino de las marcas de agua digitales, iniciado en los años cincuenta, sigue evolucionando.

-----

Acerca de StableSignature: El enfoque de Stable Signature consiste en entrenar el modelo generativo de IA para generar imágenes con marca de agua de forma nativa. Esta entrada de blog refleja el trabajo de Matthijs Douze y Pierre Fernandez, con las contribuciones de Guillaume Couairon, Teddy Furon, y Hervé Jégou a esta investigación. Otros recursos disponibles en su repositorio GitHub.

Más detalles técnicos del algoritmo de Imatag-lab aquí.

Obtenga más información sobre la solución de IMATAG para insertar marcas de agua invisibles en sus contenidos visuales.

¿Quiere "ver" una Marca de Agua Invisible?

Obtenga más información sobre la solución de IMATAG para insertar marcas de agua invisibles en sus contenidos visuales.

Solicitar una demostración

Estos artículos también pueden interesarle

Understanding the Security Risks in Digital Watermarking

Tecnología de seguimiento de imágenes

January 23, 2024

Understanding the Security Risks in Digital Watermarking

Más información
La saga de las marcas de agua digitales invisibles: un viaje en el tiempo

Tecnología de seguimiento de imágenes

20 de noviembre de 2023

La saga de las marcas de agua digitales invisibles: un viaje en el tiempo

Más información
Próximas elecciones de 2024 en la UE y EE.UU. bajo un imperio de falsificaciones profundas

Tecnología de seguimiento de imágenes

16 de octubre de 2023

Próximas elecciones de 2024 en la UE y EE.UU. bajo un imperio de falsificaciones profundas

Más información

Suscríbete al blog

Al enviar este formulario, acepto la política de privacidad de Imatag.