Google abre al público de todo el mundo su detector de IA SynthID

Colabora Guillermo David Subreski Román

Google puso su SynthID Detector a disposición del público el miércoles. El sitio web gratuito, synthid.com, funciona en todo el mundo en inglés y permite que cualquier persona suba una imagen, un video o un archivo de audio para revisar si contiene las marcas de agua invisibles que Google y varias empresas aliadas incluyen en los contenidos generados con IA.

Antes, la herramienta solo estaba abierta a periodistas, investigadores y otros profesionales de los medios. El detector puede leer las marcas de SynthID de los modelos de Google y también de los de OpenAI, NVIDIA y Kakao, y Google asegura que “pronto” tendrá compatibilidad con Apple.

“Ahora estamos ampliando el acceso a todas las personas: la herramienta está disponible a nivel global en inglés a partir de hoy”, escribió Pushmeet Kohli, vicepresidente de Google DeepMind, en la publicación del blog de la empresa.

Cómo funciona
SynthID agrega una señal al contenido en el momento en que se crea. En las imágenes y los videos, la marca va en los píxeles; en el audio, en la forma de onda, por lo que no se pierde como puede ocurrir con los metadatos. Google afirma que, desde que SynthID se lanzó en 2023, ha marcado con esta marca de agua más de 180,000 millones de imágenes y videos, y 240,000 años de audio. También asegura que las funciones de verificación que ya están integradas en Search, la app de Gemini y Chrome ahora procesan más de 1 millón de solicitudes al día.

De acuerdo con Ars Technica, el nuevo sitio resuelve un problema del detector anterior de Google, que solo buscaba la marca de agua de la propia empresa. Las imágenes de ChatGPT llevaban SynthID, pero no se marcaban como tales. Los usuarios deben iniciar sesión con una cuenta de Google, OpenAI o Apple.

Un representante de Google le dijo a Android Authority que no hay otras formas de iniciar sesión. La versión pública muestra un resultado sencillo que indica si se detectó una marca de agua. A diferencia de la herramienta interna, no resalta qué partes de una imagen llevan la marca.

Limitaciones
En las preguntas frecuentes del sitio se dice sin rodeos: “Este no es un detector de IA general”.
Solo encuentra contenido de las empresas que han adoptado SynthID. Que el resultado sea “no detectado” no descarta que se haya usado IA, ya que el archivo pudo haber salido de un modelo sin la marca de agua, o una edición intensa pudo haber debilitado la señal.
Las preguntas frecuentes también mencionan casos poco comunes en los que el detector marca por error contenido que no tiene marca de agua.

Engadget informó que la herramienta no puede distinguir entre contenido creado totalmente con IA y contenido que solo fue editado con IA, y que a veces es posible eliminar las marcas de agua.

Además, la detección sigue dependiendo de un mosaico de estándares. Meta tiene su propia herramienta, que identifica imágenes de sus modelos Muse más recientes, pero no las de otras empresas.

Google asegura que está “trabajando continuamente en ampliar nuestras alianzas para poder detectar más contenido generado”. ElevenLabs ya se había comprometido a respaldar las marcas de agua. Google no ha dicho cuándo se agregarán otros idiomas además del inglés.