Google Messages implementa inteligencia artificial para proteger a los usuarios jóvenes de contenidos explícitos
Google Messages incorpora inteligencia artificial para prevenir la exposición a contenidos explícitos, especialmente protegiendo a los usuarios jóvenes en sus conversaciones.
Google está incorporando una nueva función de inteligencia artificial en su aplicación de mensajería, Google Messages, con un objetivo muy claro: proteger especialmente a los usuarios jóvenes de contenido explícito, como imágenes de desnudos.
Esta herramienta destaca por detectar y difuminar automáticamente cualquier imagen explícita en los mensajes, impidiendo que se muestren de inmediato. Antes de poder ver o compartir estas imágenes, el usuario recibe una advertencia que facilita una decisión informada.
Cómo funciona la protección contra contenido explícito
Cuando Google Messages detecta una imagen sensible, la aplicación despliega una advertencia. Además, ofrece la opción de bloquear al remitente si se trata de un envío inapropiado. Otro detalle interesante es que incluye un enlace con información detallada sobre los riesgos asociados a la distribución de imágenes de desnudos, algo que no suele verse en otras plataformas.
Si alguien intenta enviar una imagen considerada vulnerable, primero la app pide una confirmación al receptor. Así, se asegura que el usuario decide conscientemente si quiere ver o compartir ese contenido. Esto es especialmente importante para evitar que los menores queden expuestos sin previo aviso.
Protección adaptada a la edad y supervisión parental
La función no es igual para todos. Para adolescentes, la advertencia por contenido explícito se activa por defecto, ya estén bajo supervisión familiar con Family Link o no. Esto marca un elemento fundamental en la protección infantil actual. Los padres tienen la potestad de gestionar estas opciones desde Family Link.
En un giro no tan habitual en este tipo de medidas, si un usuario de entre 13 y 17 años no está supervisado, puede elegir desactivar la advertencia. Detalle curioso, pero que da cierto margen de autonomía a los jóvenes. Por el contrario, para los adultos o menores fuera de ese rango, la función viene desactivada de serie.
Privacidad y seguridad con un toque de IA local
Otro punto a destacar es que esta función forma parte del sistema SafetyCore de Google. Lo relevante aquí es que la inteligencia artificial analiza y clasifica las imágenes directamente en el dispositivo, sin enviar datos o resultados a los servidores de Google. En tiempos donde la privacidad es el crack más codiciado, esta decisión es fenomenal.
Este enfoque local reduce riesgos relacionados con la exposición y el manejo de información privada. Además, cumple con las normativas de seguridad y confidencialidad que muchos usuarios y legisladores demandan. Así que, más que una herramienta de vigilancia al estilo 'Gran Hermano', se apuesta por un control efectivo y respetuoso.