ChatGPT puede citar sitios hackeados o con contenido manipulado, lo que genera riesgos para los usuarios
ChatGPT puede citar sitios comprometidos o manipulados, exponiendo a los usuarios a información no confiable y riesgos relacionados con contenido fraudulento.
Recientemente, se ha detectado que ChatGPT, una de las inteligencias artificiales más utilizadas para obtener recomendaciones de sitios web, puede proporcionar información basada en fuentes que no siempre son confiables. Entre los ejemplos más preocupantes se encuentran sitios que han sido hackeados o cuyos dominios han expirado y han sido recuperados por actores malintencionados para promover casinos y apuestas ilegales.
Investigaciones llevadas a cabo por expertos como James Brockbank, director y fundador de Digitaloft, han evidenciado que ChatGPT cita con frecuencia sitios que han sido manipulados o alterados. En uno de los casos, una página de un bufete de abogados en el Reino Unido contenía, de manera inadvertida, enlaces a casinos ubicados en sitios comprometidos. Brockbank confirmó que dicha página había sido hackeada y que se habían añadido contenidos no autorizados.
Otros ejemplos incluyen sitios anteriormente asociados a coaliciones juveniles de la ONU que fueron modificados para promover plataformas de apuestas no reguladas por GamStop, sistema que limita el acceso a determinados casinos online en el Reino Unido. Además, varios dominios expirados, como uno que pertenecía a una organización benéfica artística y que fue mencionado por medios como la BBC, CNN y Bloomberg, contienen actualmente contenido dedicado a juegos de azar y son citados por ChatGPT en respuestas relacionadas con casinos sin depósito.
Este fenómeno se debe a una vulnerabilidad en la forma en que ChatGPT selecciona y cita sus fuentes. A diferencia de los motores de búsqueda tradicionales, la inteligencia artificial no cuenta con mecanismos para verificar la legitimidad del origen de los sitios web, ni su propiedad o intención editorial. Por ello, puede extraer y mostrar contenido de sitios comprometidos sin advertencias evidentes para el usuario.
Por otra parte, ChatGPT tiende a priorizar contenidos recientes y otorga autoridad a dominios con buena reputación histórica, aunque el contenido actual de estos sitios sea fraudulento o manipulado. Esto abre la posibilidad de que actores malintencionados manipulen la visibilidad de ciertos sitios, influyendo en la percepción de credibilidad del usuario sin que este pueda detectar fácilmente la manipulación.
En conclusión, quienes usan ChatGPT para obtener recomendaciones deben ser cautelosos y no asumir que toda la información proporcionada proviene de fuentes confiables. Realizar una verificación rápida del dominio, su historia, propiedad y relevancia puede ser clave para evitar caer en información falsa o peligrosa. La prudencia y el escepticismo son esenciales ante la posibilidad de que contenidos manipulados puedan aparecer en las respuestas de la inteligencia artificial.