Google ha introducido una nueva función en la aplicación Google Messages que incluye advertencias sobre contenido sensible, como imágenes de desnudos. Esta característica se basa en el uso de inteligencia artificial para analizar las imágenes directamente en el dispositivo del usuario.
Reacciones iniciales y garantías de privacidad
Cuando Google introdujo la tecnología de escaneo de fotos en los teléfonos Android, causó una gran controversia al no avisar a los usuarios sobre el uso de esta nueva tecnología. En ese momento, la empresa aseguró que SafetyCore era un marco de apoyo y que no comenzaría a escanear contenido ni fotos.
Según Google, SafetyCore proporciona una infraestructura en el dispositivo para realizar una clasificación segura y privada que ayuda a los usuarios a detectar contenido no deseado. Los usuarios controlan SafetyCore, y solo se utiliza cuando una aplicación lo solicita a través de una función opcional.
Implementación en Google Messages
La actualización de Google Messages incluye la implementación de advertencias de contenido sensible que difuminan las imágenes de desnudos. Además, ofrece opciones para ver contenido explícito o bloquear números. Esta función se realiza en el dispositivo y no envía datos a Google ni a terceros.
GrapheneOS respaldó esta afirmación, indicando que SafetyCore no proporciona análisis del lado del cliente para informar a Google ni a terceros. Proporciona modelos de aprendizaje automático en el dispositivo que las aplicaciones pueden usar para clasificar el contenido como spam, estafas o malware.
Críticas sobre la transparencia
GrapheneOS también expresó preocupación por el hecho de que SafetyCore no sea de código abierto ni se haya publicado como parte del Proyecto de Código Abierto de Android. Los modelos tampoco son abiertos, lo cual ha sido criticado por la comunidad.
Configuración y limitaciones
La función está deshabilitada por defecto para adultos, pero habilitada por defecto para niños. Los adultos pueden activar las nuevas medidas de seguridad en la configuración de Google Messages, en la sección de Protección y Seguridad: Administrar advertencias de contenido sensible.
Según la edad del niño, su configuración solo puede cambiarse en la configuración de su cuenta o mediante Family Link. Esta medida busca proteger a los menores de contenido inapropiado.
Impacto y futuras implicaciones
Esta actualización era esperada, pero plantea preguntas sobre lo que vendrá después. El riesgo es que esta tecnología se introduzca al mismo tiempo que el contenido seguro y cifrado del usuario se ve sometido a una creciente presión por parte de legisladores y agencias de seguridad.
Los 3 mil millones de usuarios de Google deberán decidir con qué nivel de escaneo, monitoreo y análisis de IA se sienten cómodos. Esta función afecta al dispositivo, pero muchas de las nuevas actualizaciones no ofrecen la misma protección de privacidad.
El monitoreo de IA ha llegado para quedarse y tomará tiempo acostumbrarse. El nuevo escaneo de fotos también funciona a la inversa: si intentas enviar o reenviar una imagen que podría considerarse sensible, te avisará con un aviso para avisarte de lo que estás a punto de compartir y tendrás que confirmarlo antes de que se envíe.