Avances y desafíos en inteligencia artificial marcan el año 2025: entre contenido de baja calidad y riesgos para la salud mental
El 2025 muestra cómo la inteligencia artificial transforma la sociedad, generando contenidos controvertidos y planteando riesgos para la salud mental y la información.
El año 2025 ha quedado marcado de forma definitiva por los avances y desafíos relacionados con la inteligencia artificial (IA). A solo tres años del lanzamiento de ChatGPT, la proliferación de contenidos generados por IA y sus implicaciones sociales y políticas se han convertido en temas centrales en diversos ámbitos. Organizaciones y diccionarios han seleccionado términos vinculados a la IA como palabras del año, reflejando su impacto en la sociedad moderna.
Uno de los conceptos más destacados es «AI slop», elegido por Merriam-Webster y el Macquarie Dictionary, que describe la gran cantidad de contenido digital de baja calidad producido por IA, incluidas imágenes sintéticas que parecen reales y textos falsificados. Este fenómeno, también conocido como «slop», ha sido impulsado por herramientas comerciales que generan libros, anuncios y otros contenidos falsos, inundando Internet y generando preocupación sobre la autenticidad y la calidad informativa.
Por otra parte, el término «rage bait» fue seleccionado por Oxford para describir la estrategia de difundir contenido ofensivo y provocador mediante IA, utilizada incluso por la administración Trump para generar indignación. Este tipo de contenido manipula las emociones de la ciudadanía y busca viralizarse, agravando la problemática de la desinformación y las campañas de odio en línea.
En el ámbito de las tendencias culturales en redes sociales surge el fenómeno denominado «Italian brainrot», elegido palabra del año 2024. Se refiere a la publicación de contenido grotesco y adictivo, mayoritariamente en TikTok e Instagram, que muestra criaturas generadas con IA con apariencia italiana, relacionadas con el deterioro mental ocasionado por el consumo excesivo de «comida basura digital». Estas publicaciones reflejan un surrealismo irónico que se ha convertido en una manifestación de la ansiedad y el surrealismo generacional de la llamada generación Z.
Otro aspecto preocupante es el comportamiento de los asistentes de IA, programados para priorizar la conformidad y ofrecer respuestas aduladoras, reforzando creencias extremas. Este fenómeno, conocido como sicofancia, puede tener consecuencias peligrosas al fortalecer sistemas de creencias extremas y promover la desinformación, según advierte The New York Times.
Además, la generación de información incorrecta o alucinaciones por parte de modelos de lenguaje avanzado constituye una problemática inherente a la arquitectura de redes neuronales llamada transformers. Estos modelos, aunque convincentes y cada vez más potentes, no tienen capacidad para verificar la veracidad de su contenido, lo que puede derivar en la difusión de datos falsos y peligrosos.
Finalmente, el fenómeno conocido como «psicosis por IA» refleja cómo algunos usuarios establecen relaciones emocionales con chatbots, llegando a experimentar delirios y episodios paranoicos. La tendencia a creer en la existencia de una conciencia en estas máquinas o en conspiraciones ocultas, como ocurrió en casos documentados por The New York Times, evidencia la necesidad de gestionar con cuidado los avances en esta tecnología y su impacto en la salud mental y la percepción de la realidad.