Sistema automatizado de Google clasifica erroneamente foto auténtica como generada por IA, poniendo en duda la fiabilidad de las verificaciones digitales

La incredulidad crece ante errores en sistemas automatizados que clasifican imágenes auténticas como generadas por inteligencia artificial, desafiando su confiabilidad.

En un escenario que parece sacado de una novela de Franz Kafka, la delgada línea entre la realidad y la automatización tecnológica se vuelve cada vez más borrosa. En esta ocasión, el fotógrafo profesional y reconocido Georg Berg experimentó en primera persona cómo un sistema automatizado interpretó incorrectamente una imagen auténtica, marcándola como «generada por IA». Berg tomó una fotografía de cuatro ancianos con vestimenta tradicional suiza, la editó profesionalmente en Lightroom para separar claramente a las personas del fondo y, aun así, el detector de IA de Google, SynthID, la clasificó como una creación artificial. La explicación del algoritmo se basó en patrones estadísticos que interpretó como «no naturales», a pesar de que la imagen contaba con la certificación digital C2PA, un estándar desarrollado por grandes entidades como Adobe, Twitter y The New York Times para asegurar la procedencia y autenticidad de una imagen digital.

Curiosamente, Google, participante activo en la iniciativa C2PA, que promueve la integridad y transparencia en la autenticidad visual, ignoró esta certificación en su análisis y sancionó la imagen como si fuera producto de inteligencia artificial. La empresa respondió al informe de Berg en apenas 60 segundos con una nota que indicaba «No será reparado (comportamiento intencionado)», dejando en evidencia que la clasificación errónea no fue un fallo, sino una postura deliberada que pone en jaque la credibilidad de profesionales de la fotografía y el periodismo. Esta respuesta automatizada implica que, según el sistema, la verdad la define un algoritmo sin posibilidad de objeción, afectando la confianza pública en los medios digitales.

En otro frente, se anuncia una noticia positiva para el ecosistema fotográfico: la alianza Micro Cuatro Tercios (MFT), liderada por OM Digital Solutions (antes Olympus) y Panasonic, suma un nuevo miembro, Shenzhen Sonida Digital Technology Co., Ltd., fabricante chino que ya produce cámaras para distintas marcas internacionales como ODM. Con su incorporación bajo la marca «Songdian», la compañía busca desarrollar productos compatibles con el sistema MFT, lo que fortalece la competencia y la variedad en el mercado, beneficiando a los usuarios con más opciones en cámaras y objetivos. La presencia de un nuevo actor procedente de China también podría introducir una dinámica de precios más competitiva, aunque queda por verse si la calidad y el sonido del producto cumplirán con las expectativas.

Este episodio evidencia las vulnerabilidades de los sistemas automáticos para verificar la autenticidad digital, mostrando la fragilidad de las herramientas actuales para distinguir entre creación humana y artificial. Al mismo tiempo, resalta la necesidad de que las empresas y organismos internacionales continúen perfeccionando estándares y mecanismos de certificación confiables. Para quienes desean profundizar en este complejo panorama, el propio Berg ha compartido un análisis técnico completo y una crónica detallada en su sitio web «Tellerrand-Stories», donde advierte sobre el valor limitado de las autorregulaciones de las grandes tecnológicas y la importancia de preservar la autenticidad en la imagen digital.