SynthID: ¿Cómo puede Google identificar textos generados por IA?

Rene Fraga
2 minutos de lectura

Recientemente, Google DeepMind amplió su revolucionaria tecnología SynthID, originalmente desarrollada para marcas de agua en imágenes, ahora también aplicada a textos.

Esta innovación se integrará en los modelos de lenguaje Gemini y se lanzará como un proyecto de código abierto, abriendo nuevas posibilidades para identificar contenidos generados por inteligencia artificial.

Pero, ¿cómo logra SynthID identificar textos creados por IA?

El secreto radica en pequeños ajustes realizados durante el proceso de generación textual por los modelos de lenguaje.

Estos sistemas operan prediciendo, token por token, la siguiente parte del texto —que puede ser una letra, palabra o incluso un fragmento de frase— basándose en probabilidades calculadas.

SynthID interviene en este cálculo de manera casi imperceptible, ajustando ligeramente las probabilidades de selección sin comprometer la calidad, precisión o creatividad del texto.

Imagen relacionada con SynthID: ¿Cómo puede Google identificar textos generados por IA?

Estos ajustes sutiles crean un patrón único que funciona como una marca de agua digital. En una sola frase, el sistema puede ajustar docenas de probabilidades; en un texto más largo, los ajustes pueden llegar a ser cientos.

Este conjunto de variaciones se convierte en una firma identificable, permitiendo que el texto sea reconocido como contenido generado por IA.

La tecnología es efectiva incluso en textos cortos, con tan solo tres frases, y se vuelve más robusta a medida que el texto se extiende. Sin embargo, existen limitaciones: ediciones posteriores al texto pueden reducir la eficacia de la marca.

Aun así, SynthID representa un avance significativo, aportando mayor transparencia y seguridad en un momento en que la autoría digital está en constante debate.

Seguir:
Renê Fraga es fundador de Google Discovery y editor en jefe de Eurisko, un ecosistema editorial independiente dedicado a la tecnología, la ciencia y la innovación. Profesional del marketing digital, con posgrado por la ESPM, sigue de cerca a Google desde la década de 2000 y escribe desde hace más de 20 años sobre tecnología, productos digitales e inteligencia artificial. Fundó Google Discovery en 2006, convirtiéndolo en uno de los principales sitios especializados en Google en Brasil, y fue columnista de TechTudo (Globo.com).
No hay comentarios