Los avances en inteligencia artificial aumentan capacidades, pero también la tasa de respuestas incorrectas

Nuevos modelos de IA como GPT-4-mini muestran mejoras, pero también un incremento en errores y respuestas inexactas, especialmente en tareas complejas.

Los avances en los modelos de inteligencia artificial, como GPT-3 y GPT-4-mini, han traído mejoras significativas en sus capacidades de razonamiento y generación de texto. Sin embargo, estos modelos también presentan un aumento en el porcentaje de "alucinaciones" o respuestas incorrectas, que en algunos casos puede alcanzar el 79% en preguntas generales. En pruebas específicas, GPT-3 registró un 33% de errores, mientras que GPT-4-mini mostró tasas aún mayores, del 48%. Esto indica que, aunque superan a modelos anteriores en rendimiento, son más propensos a cometer errores, especialmente en tareas que requieren mayor razonamiento.

Una de las causas identificadas por la comunidad investigadora es que a mayor razonamiento, mayor probabilidad de equivocación. Los modelos más verbosos y que se aventuran en especulaciones tienden a generar respuestas que, en ocasiones, distorsionan la realidad. La tendencia a improvisar y especular sobre posibilidades incrementa el riesgo de fabricar hechos o proporcionar información inexacta, lo que puede resultar problemático en entornos críticos como oficinas, hospitales o el sistema legal. Por ejemplo, errores en citas o datos concretos pueden derivar en conflictos o decisiones erróneas.

Se recomienda, por tanto, usar estos modelos con precaución y no confiar ciegamente en sus respuestas. Es fundamental verificar siempre la información proporcionada, ya que la tendencia de los modelos más sofisticados a elaborar respuestas extensas y aventureras aumenta el riesgo de errores. Aunque sus capacidades en codificación, lógica y análisis son notables, un porcentaje importante de sus respuestas puede estar distorsionado o fabricado, especialmente en temas que exigen precisión absoluta.

El desarrollo y uso responsable de estos sistemas resulta clave para evitar problemas en escenarios donde la confianza en la información es vital. En definitiva, aunque la inteligencia artificial avanza rápidamente y puede ser una gran herramienta, sigue siendo necesario mantener una actitud crítica y revisar exhaustivamente sus respuestas antes de considerar válida su información.