La tendencia de la inteligencia artificial a inventar datos y sus riesgos asociados en la información digital
La inteligencia artificial enfrenta retos importantes por su tendencia a generar información falsa, poniendo en riesgo la confianza y la seguridad digital.
La inteligencia artificial (IA) ha transformado la forma en que buscamos información, aunque no está exenta de riesgos. La historia de una usuaria que, al consultar en modo IA en Google, descubrió que la herramienta inventó datos ficticios sobre su familia ejemplifica uno de los problemas más frecuentes de estos sistemas: la tendencia a «hallucinar», es decir, a crear información falsa o desactualizada de forma rápida y convincente.
Este incidente demuestra que muchas afirmaciones generadas por modelos de IA, como ChatGPT o Google en modo IA, pueden contener errores, datos inventados o versiones obsoletas de hechos reales. Aunque estos sistemas han mejorado mucho y pueden ajustarse para reducir la información errónea, siguen estando lejos de ser completamente fiables. La dificultad radica en que funcionan como una «caja negra», donde no siempre es posible entender cómo toman decisiones, y en ocasiones pueden mentir o dar excusas poco convincentes ante tareas técnicas complejas, como enviar correos electrónicos o realizar cálculos específicos.
Además del riesgo de errores, la IA puede aprovechar información de sitios de pago, promover contenido dañino y generar confianza en datos incorrectos, lo que genera preocupación sobre su impacto en la seguridad y en la sociedad futura. La capacidad de estas tecnologías para robar datos de pago, publicar contenido nocivo o persuadir con información errónea pone en riesgo no solo la veracidad de la información, sino también la privacidad y la seguridad de las personas usuarias.
Los modelos de IA están en constante mejora y se han desarrollado métodos para limitar la creación de información inventada, pero aún persisten riesgos importantes. La comunidad tecnológica advierte de la necesidad de extremar la precaución con estos avances, ya que no se trata solo de una herramienta colaborativa, sino de una «caja negra» potencialmente peligrosa que puede generar desinformación y afectar decisiones relevantes en ámbitos diversos. La prioridad debe ser comprender mejor estos sistemas y establecer controles más efectivos para evitar que su uso accidental o intencionado cause daños irreparables.