Google lanza funciones de advertencia en Messages para detectar imágenes con desnudos en dispositivos Android
Google implementa nuevas funciones de protección en Messages para detectar imágenes con desnudos en Android, ampliando así medidas de seguridad y control parental.
Las nuevas funciones de protección en las aplicaciones de mensajería comienzan a implementarse de manera progresiva. En particular, Google ha lanzado una actualización de su aplicación Messages para Android que incluye una advertencia automática sobre imágenes y vídeos con desnudos, una función que lleva años en la plataforma de Apple y que ahora se extiende a otras partes del sistema y a contenido en vídeo.
La función de advertencia se activa solo en dispositivos Android a partir de la versión 9 mediante la app SafetyCore, que realiza el reconocimiento en el dispositivo sin subir contenido a la nube. Esta tecnología solo funciona con imágenes, no con vídeos, y está diseñada para detectar imágenes con desnudos en los mensajes recibidos y enviados, además de ofrecer la opción de bloquear o reportar al remitente. Es importante destacar que el reconocimiento se realiza en el dispositivo, garantizando la privacidad del usuario, y que no es infalible, pudiendo fallar en la detección o en la interpretación de contenido inofensivo.
El filtro se puede activar en la configuración de la aplicación y está habilitado automáticamente para menores de 13–17 años con control parental, que puede desactivarlo si lo permiten los adultos responsables. Para mayores de edad, la opción debe activarse manualmente. La función solo opera si la app Messages está vinculada a una cuenta de Google.
El reconocimiento de contenido se realiza mediante un algoritmo que, aunque eficiente, no es perfecto y puede dar advertencias incorrectas o pasar por alto imágenes con desnudos. Además, esta función detecta solo imágenes, no vídeos, por lo que en este último caso la protección aún no está disponible en Android.
En comparación con las funciones similares de iMessage de Apple, que llevan varios años ofreciendo filtros para detectar desnudos y desde 2023 incluyen también otros contenidos y vídeos en diferentes partes del sistema, Google ha limitado su implementación a la app Messages y solo para imágenes. La reciente actualización refleja el esfuerzo de ambas empresas por proteger a usuarios jóvenes, aunque con diferentes enfoques y alcances tecnológicos.