OpenAI anunció que adoptará SynthID, la tecnología de marcas de agua invisibles desarrollada por Google DeepMind, para todas las imágenes generadas a través de ChatGPT, Codex y su API.
La medida busca que los usuarios puedan identificar si una imagen fue creada con inteligencia artificial, incluso después de haber sido editada.
Dos capas de protección
Según explicó OpenAI en su anuncio oficial, la estrategia combina dos sistemas complementarios.
El primero es el estándar C2PA (Coalition for Content Provenance and Authenticity), que añade metadatos cifrados a cada archivo indicando su origen.
El segundo es SynthID, una marca de agua imperceptible para el ojo humano pero detectable por algoritmos, que permanece incluso después de capturas de pantalla, cambios de formato o redimensionamientos.
TechCrunch reportó que OpenAI también se convirtió en producto generador conforme a C2PA, lo que permite que otras plataformas puedan leer y preservar la información de procedencia. “La procedencia solo funciona si sobrevive más allá de la primera plataforma donde se crea el contenido”, señaló la compañía.
Junto con estas medidas, OpenAI habilitó una herramienta de verificación pública donde cualquier persona puede subir una imagen y saber si fue generada por sus modelos. La herramienta busca tanto la marca SynthID como los metadatos C2PA.
Si no encuentra ninguna señal, no concluye automáticamente que la imagen sea real, ya que las marcas pueden haber sido eliminadas.
Inicialmente la herramienta solo funciona con contenido generado por OpenAI, pero la compañía planea expandirla para cubrir otras plataformas en los próximos meses.
Con la explosión de generadores de imágenes por IA, distinguir entre una fotografía real y una sintética es cada vez más difícil.
OpenAI afirma que ningún método de verificación es infalible por sí solo, pero que la combinación de metadatos, marcas de agua y herramientas públicas de verificación ofrece un ecosistema más confiable para combatir la desinformación visual.
Fuente: OpenAI | TechCrunch