Apple en crisis tras fallos en su herramienta de resúmenes de noticias
Apple enfrenta una crisis de confianza tras la polémica generada por su herramienta Apple Intelligence, que produce resúmenes de noticias imprecisos y engañosos.
Apple, la gigante tecnológica, se encuentra en medio de una crisis de confianza tras el lanzamiento de su polémica herramienta Apple Intelligence, destinada a resumir titulares de noticias. Esta característica, diseñada para ofrecer notificaciones más digeribles a los usuarios de iPhone, ha generado preocupación al producir resúmenes imprecisos e incluso inusuales. En lugar de ofrecer un resumen exacto de la información, su inteligencia artificial ha incurrido en lo que algunos describen como escritura creativa.
La situación ha escalado hasta el punto en que importantes organizaciones de noticias han expresado su descontento, acusando a Apple de desinformar a los lectores con titulares engañosos. Un ejemplo destacado ocurrió en diciembre, cuando Apple Intelligence fabricó un titular sobre un caso de asesinato en el que afirmaba que Luigi Mangione, el acusado, se había disparado a sí mismo, una afirmación completamente inventada. Esta incorrecta representación ha llevado a la BBC a expresar su descontento por ser asociada con información que no generó.
De manera similar, un titular de Apple referenciando una noticia del New York Times sobre el Primer Ministro de Israel, Benjamin Netanyahu, afirmaba incorrectamente que había sido arrestado, algo que nunca se mencionó en el artículo original. Ante esta crítica, Apple emitió un comunicado indicando que las funciones de Apple Intelligence están en fase beta y que están trabajando en mejoras con base en la retroalimentación de los usuarios. La compañía también destacó que una actualización de software está en camino, la cual aclarará cuándo el texto mostrado es un resumen proporcionado por su inteligencia artificial.
Sin embargo, el problema de la imprecisión no es exclusivo de Apple; es un fenómeno común en la inteligencia artificial generativa, donde los errores son casi inevitables. Google enfrentó una reacción similar el año pasado cuando su herramienta de resúmenes mostró información cuestionable en los resultados de búsqueda. Aunque algunos podrían considerar que estos errores son parte del proceso de adaptación, en el ámbito de las noticias, las equivocaciones son difíciles de perdonar y olvidar.
La confianza del público en las marcas de noticias es fundamental, por lo que no se trata simplemente de atribuir errores a resúmenes deficientes. Una afirmación sin fundamento atribuida a una redacción profesional puede generar una desconfianza injusta hacia esa fuente de noticias. La falta de precisión en los titulares generados por inteligencia artificial puede minar la credibilidad tanto de los medios como de los periodistas por igual.
Además de la actualización prometida, Apple deberá llevar a cabo ajustes significativos en su sistema de generación de titulares. Esto podría incluir la implementación de guardrails más estrictos para la inteligencia artificial o un aviso más visible que indique que los titulares son generados por un sistema automatizado. Si Apple no logra resolver este problema, su herramienta podría necesitar un nuevo nombre: Apple Imaginación.