Google experimenta con inteligencia artificial para resumir titulares en Discover, pero genera errores y confusión

Google prueba resúmenes automáticos en Discover, pero los titulares reducidos por IA generan confusión y errores que afectan la confianza.

Google está realizando un experimento en Estados Unidos en el que reemplaza los titulares de artículos en la colección Discover mediante inteligencia artificial (IA). Este proceso ha generado errores notables y titulares confusos o incorrectos. La iniciativa parece centrarse en acortar los titulares largos a tan solo cuatro palabras, incluso si esto provoca que pierdan sentido o se vuelvan engañosos. Por ejemplo, un artículo sobre la supuesta apariencia de consola de la Steam Machine de Valve, que en realidad trata sobre su precio, fue reducido a «Precio de la Steam Machine», un titular incorrecto y confuso. Otro caso fue un titular que indicaba que AMD venció a Nvidia, cuando en realidad se refería a que una tarjeta gráfica de AMD se vendió más que las de Nvidia en una tienda específica; el resultado fue un titular engañoso como «AMD vence a Nvidia».

Discover recopila artículos de diversos medios en una especie de resumen de noticias, permitiendo a los usuarios recorrer los titulares y acceder a las fuentes originales con un clic. Sin embargo, cuando los titulares se crean automáticamente con IA y se reducen excesivamente, pueden inducir a error a la ciudadanía, afectando su percepción y confianza en las noticias. En algunos casos, los titulares generados no solo son engañosos, sino que también carecen de sentido, como en el caso de un artículo sobre un origami que puede sostener mil veces su peso, cuyo titular fue reducido a «Origami gana premio». La amplificación de titulares imprecisos puede dañar la reputación de los medios y disminuir la credibilidad del contenido.

Es importante señalar que los titulares generados por la IA no siempre son falsos deliberadamente; en muchos casos, se crean con la intención de captar interés y simplificar la comprensión previa a la lectura completa del artículo. Google ha confirmado que estos experimentos están dirigidos solo a una pequeña proporción de usuarios en Discover y que, en algunos casos, estos titulares pueden parecer simplemente menos atractivos o más planos que los originales. La compañía asegura que la intención de la IA es facilitar la digestión de los temas antes de que la ciudadanía acceda a los enlaces, aunque todavía está en fase de pruebas y puede presentar riesgos para la precisión y la confianza en las noticias.