Google ha presentado SynthID, una herramienta diseñada para identificar imágenes generadas con inteligencia artificial (IA). A diferencia de las marcas de agua tradicionales que pueden editarse fácilmente, SynthID está diseñada para resistir modificaciones y ser imperceptible al ojo humano.

La creación de esta tecnología responde al aumento de imágenes realistas producidas por IA, algunas de las cuales han sido utilizadas para difundir desinformación, como las fotos manipuladas vinculadas a personalidades como Donald Trump y el Papa Francisco.

¿Cómo funciona SynthID?

SynthID se incrusta en los píxeles de una imagen, permaneciendo invisible y sin alterar la calidad. Resiste ediciones como cambios de color o recortes y permite no solo añadir marcas de agua en nuevas imágenes generadas por IA, sino también analizar imágenes preexistentes para identificar si fueron producidas por un algoritmo de IA.

El proceso se apoya en dos modelos de aprendizaje profundo que trabajan en conjunto: uno se encarga de la creación de la marca de agua y el otro de identificar imágenes generadas por IA.

Google aún está definiendo si la verificación de la marca de agua se realizará a través de una web propia o una extensión para navegadores. Sin embargo, SynthID será probado en su fase beta con usuarios del servicio Imagen de Vertex AI de Google y se integrará con sistemas de identificación basados en metadatos, como los de Photoshop.

A largo plazo, Google aspira a que SynthID se incorpore en sistemas de terceros y no solo en sus propias plataformas. Esta expansión ayudaría a corregir fallos y mejorar el sistema.

¿Qué están haciendo otras empresas?

Empresas como Adobe, Microsoft e Intel también están trabajando en tecnologías similares, respaldando el estándar C2PA, una iniciativa que busca combatir la desinformación en línea y el fraude de contenido.

Espero que esta nota informativa resuma adecuadamente el contenido proporcionado. Si necesitas ajustes adicionales, no dudes en decírmelo.