Fallas en el sistema de alerta temprana con inteligencia artificial en Turquía evidencian limitaciones y riesgos

Las fallas en sistemas de inteligencia artificial durante emergencias revelan límites críticos y riesgos en su aplicación real.

En febrero de 2023, Turquía sufrió dos terremotos catastróficos que dejaron un saldo trágico de más de 55.000 muertos y más de 100.000 heridos. Sin embargo, el sistema de alerta temprana basado en inteligencia artificial de Google falló en su misión, evaluando un terremoto de magnitud 4,5 a 4,9 en lugar de la magnitud real de 7,8. Esta discrepancia tuvo consecuencias graves, ya que solo 469 personas recibieron la advertencia de «tomar acción», mientras que en simulaciones se estimaba que hasta diez millones de individuos debieron haberla recibido. Google afirmó que identificó tres problemas principales: un período de análisis demasiado corto, la interferencia de smartphones no confiables y vibraciones en los dispositivos que afectaban la detección. Tras estas fallas, se aseguraron de corregir dichos errores, y en 2023 el sistema fue presentado como funcional y confiable en varios países, aunque en un reciente artículo en la revista científica Science admitieron ciertas limitaciones en los algoritmos de detección.

Por otro lado, las innovaciones en el ámbito de la inteligencia artificial continúan expandiéndose. OpenAI lanzó un modo de estudio en ChatGPT diseñado para facilitar un aprendizaje paso a paso, con respuestas estructuradas en secciones y cuestionarios para testar el conocimiento, además de una función de memoria que ajusta las respuestas según el nivel de cada usuario. Esta modalidad, creada en colaboración con expertos educativos, está disponible para todos los usuarios registrados desde principios de semana.

En Estados Unidos, YouTube comenzó a probar una función de estimación automática de edad mediante inteligencia artificial para mejorar la protección infantil en la plataforma. La tecnología analiza búsquedas y visualizaciones para detectar usuarios jóvenes y, en función de la identificación, activa medidas de protección como la desactivación de ciertos anuncios, herramientas de bienestar digital y recomendaciones limitadas. En caso de errores, los usuarios podrán verificar su edad mediante identificación oficial. La iniciativa busca garantizar un entorno más seguro para la infancia en línea, en línea con las tendencias globales de regulación y protección infantil.

En el ámbito de la verificación de respuestas, Harmonic, una startup, obtuvo la medalla de oro en la Olimpiada Internacional de Matemáticas con su sistema Aristotle, que verifica automáticamente las soluciones matemáticas sin intervención humana. A diferencia de otros sistemas que trabajan en lenguaje natural, Aristotle traduce los problemas en una forma legible por máquinas y utiliza el sistema de pruebas Lean4 para validar las soluciones, asegurando que no existan «alucinaciones» o errores de interpretación. La compañía ya ofrece una aplicación beta para iOS y Android, capaz de resolver preguntas matemáticas complejas y mostrar el código de la prueba correspondiente.

En investigaciones recientes, expertos de la Universidad de Nottingham en colaboración con Google DeepMind desarrollaron el modelo Aeneas, entrenado con aproximadamente 177.000 inscripciones en latín del Imperio romano, para analizar y ubicar fragmentos en su contexto histórico. La inteligencia artificial puede ahora ayudar a las y los arqueólogos a contextualizar inscripciones antiguas, identificando en qué provincia romana fue realizada el 90% de ellas, facilitando la labor de reconstrucción del pasado.

En el ámbito empresarial, Apple consideró en el pasado liberar sus modelos de inteligencia artificial como código abierto bajo su iniciativa Apple Intelligence para acelerar su desarrollo y atraer colaboraciones externas. Sin embargo, la decisión final fue rechazar esta apertura por preocupaciones sobre la calidad relativa de sus modelos frente a competidores y por posibles riesgos de divulgación de ingeniería interna. La compañía también enfrenta una notable rotación en su equipo de IA, con salidas de alto nivel en el área.

Finalmente, en China, Alibaba presentó sus primeros lentes inteligentes con funciones impulsadas por su modelo de IA Qwen. Las gafas, equipadas con cámaras, micrófono y altavoces, ofrecen comunicación, transmisión de música, traducción en tiempo real y transcripción mediante una pantalla frontal. La propuesta sigue la tendencia que Meta popularizó con sus Ray-Ban, que ya vendieron más de dos millones de unidades desde su lanzamiento. Se espera que las gafas de Alibaba lleguen al mercado chino a finales de 2025, promoviendo una nueva categoría de dispositivos vestibles para asistentes digitales.