Cuando Google añadió la tecnología de escaneo de fotos a los teléfonos Android, causó una gran polémica, acusándola de instalar "en secreto" nueva tecnología de monitoreo en teléfonos Android "sin el permiso del usuario".
En aquel momento, Google aseguró que SafetyCore era un marco de apoyo y que no comenzaría a escanear fotos ni otro contenido. La nueva aplicación, según la empresa, "proporciona una infraestructura en el dispositivo para realizar una clasificación segura y privada que ayuda a los usuarios a detectar contenido no deseado. Los usuarios controlan SafetyCore, y SafetyCore solo clasifica contenido específico cuando una aplicación lo solicita a través de una función opcional".
Pues bien, ese momento ha llegado y empieza con Google Messages. Según informa 9to5Google, "Google Messages está implementando advertencias de contenido sensible que difuminan las imágenes de desnudos en Android". No solo difuminan el contenido, sino que también advierten de que dichas imágenes pueden ser dañinas y ofrecen opciones para ver contenido explícito o bloquear números.
Este análisis de IA se realiza en el dispositivo, y Google también garantiza que no se les envía nada. GrapheneOS, respaldó esta afirmación: SafetyCore "no proporciona análisis del lado del cliente para informar a Google ni a terceros. Proporciona modelos de aprendizaje automático en el dispositivo que las aplicaciones pueden usar para clasificar el contenido como spam, estafas, malware, etc. Esto permite que las aplicaciones revisen el contenido localmente sin compartirlo con un servicio y lo marquen con advertencias para los usuarios".
Pero GrapheneOS también lamentó que "es lamentable que no sea de código abierto ni se haya publicado como parte del Proyecto de Código Abierto de Android, y que los modelos tampoco sean abiertos, y mucho menos de código abierto... No tendríamos ningún problema en tener funciones de redes neuronales locales para los usuarios, pero tendrían que ser de código abierto". Volviendo al tema del secretismo, de nuevo.
La actualización de Google Messages era esperada. La pregunta ahora es ¿qué vendrá después?. Y el riesgo es que esta función se esté introduciendo al mismo tiempo que el contenido seguro y cifrado del usuario se ve sometido a una creciente presión por parte de legisladores y agencias de seguridad de todo el mundo. Cada vez que se introduce esta tecnología, los defensores de la privacidad se resisten.
Por ahora, la función está deshabilitada por defecto para adultos, pero habilitada por defecto para niños. Los adultos pueden habilitar las nuevas medidas de seguridad en la configuración de Mensajes de Google, en Protección y seguridad: Administrar advertencias de contenido sensible. Según la edad del niño, su configuración solo se puede cambiar en la configuración de su cuenta o en Family Link.
Esto no termina aquí, y al igual que con Gmail y otras plataformas, los 3 mil millones de usuarios de Google de Android, correo electrónico y otras plataformas deberán decidir con qué nivel de escaneo, monitoreo y análisis de IA se sienten cómodos y dónde poner límites. Esto se aplica al dispositivo, pero muchas de las nuevas actualizaciones no ofrecen la misma protección de privacidad.
El monitoreo de IA ha llegado para quedarse y tomará tiempo acostumbrarse. Como señala Phone Arena, el nuevo escaneo de fotos "también funciona a la inversa: si intentas enviar o reenviar una imagen que podría considerarse sensible, te avisará con un aviso para avisarte de lo que estás a punto de compartir y tendrás que confirmarlo antes de que se envíe".
Fuente: Forbes