IA avanzada puede identificar ubicaciones con poca información, generando preocupaciones sobre la privacidad
Modelos de IA avanzados pueden detectar ubicaciones con poca información, generando debates sobre privacidad y el uso responsable de esta tecnología.
Recientes investigaciones han puesto en evidencia las capacidades avanzadas de modelos de inteligencia artificial como GPT-4 y O-4mini, que han demostrado ser capaces de identificar ubicaciones en imágenes con muy poca información, incluso en selfies y fotografías borrosas. Esta tecnología, originalmente desarrollada para tareas de razonamiento visual y juegos similares a GeoGuessr, ha suscitado preocupaciones sobre la privacidad y el posible uso indebido de datos, como el doxing, que consiste en revelar la ubicación de personas sin su consentimiento.
Los usuarios están experimentando con estas capacidades para obtener ventajas en diversos desafíos, pero también expresan inquietudes por las implicaciones que esto tiene para la protección de la privacidad. La capacidad de la IA para deducir la localización con pocos detalles visuales, sin importar si las imágenes están borrosas o son selfies, ha generado alarma en la comunidad y entre expertos en seguridad.
Ante estas preocupaciones, OpenAI ha afirmado que sus modelos rechazan sistemáticamente solicitudes de información privada o sensible y que han implementado medidas de seguridad para evitar que las imágenes se utilicen para identificar a personas específicas. La organización reconoce, sin embargo, que estos modelos todavía pueden cometer errores y que el avance en el análisis visual presenta tanto beneficios como riesgos potenciales.
OpenAI también ha destacado el valor positivo del razonamiento visual en ámbitos como la accesibilidad, emergencias y la investigación, subrayando que sus modelos están diseñados con protocolos que minimizan el riesgo para la privacidad. La firma ha advertido a los usuarios sobre el uso responsable de estas capacidades, en línea con las prácticas que ya se aplican en otros servicios de inteligencia artificial.