Google prueba un sistema de marcas digitales para detectar contenido generado por inteligencia artificial

Google prueba un sistema de marcas digitales para identificar contenido artificial, aunque aún presenta limitaciones y desafíos en su implementación.

Google ha desarrollado un sistema para detectar contenido generado por inteligencia artificial mediante marcas digitales llamadas watermarks. Este sistema, actualmente en fase de prueba limitada, se conoce como SynthID Detector y permite a periodistas e investigadores enviar contenidos para que se determine si son de origen artificial.

El sistema busca principalmente marcas digitales específicas en contenidos relacionados con productos de Google, como Gemini (texto y multimodal), Imagen (imágenes), Lyria (audio) y Veo (vídeo). Hasta la fecha, se estima que más de 10.000 millones de contenidos de IA han sido marcados con estos watermarks, algunos de los cuales permiten identificar incluso su ubicación en ciertos casos.

Sin embargo, SynthID Detector no es infalible. Puede presentar incertidumbres respecto a ciertos contenidos, pasando por alto algunos watermarks o detectándolos de forma errónea. Además, actualmente solo detecta marcas digitales de Google, excluyendo contenidos generados por otras fuentes externas. La capacidad de eliminar estos watermarks también reduce su confiabilidad, ya que si la marca digital es eliminada del contenido, la detección pierde eficacia.

El acceso a este sistema se realiza a través de un portal que, en esta etapa inicial, está disponible de forma muy limitada dentro de una prueba temprana. En fases futuras, el sistema se desplegará de forma más amplia mediante una lista de espera, inicialmente enfocada en periodistas e investigadores, con intención de ampliar su uso.

En conclusión, aunque SynthID Detector representa un avance en la detección de contenido generado por IA, aún presenta limitaciones y desafíos. Su eficacia dependerá de la resistencia de los watermarks frente a posibles manipulaciones y de la capacidad para detectar contenidos de fuentes externas a Google, aspectos que están en desarrollo.