En los últimos 18 meses, se ha observado una pérdida de confianza en la capacidad de nuestros ojos para discernir entre lo real y lo falso. Aunque las falsificaciones con Photoshop no son nada nuevos, el surgimiento de la inteligencia artificial generativa ha elevado este tipo de engaños a un nivel completamente distinto.
La primera falsificación viral relacionada con IA fue una imagen del Papa en 2023 mostrando una chaqueta acolchada blanca. Desde entonces, el número de imágenes falsas de alta calidad se ha disparado a miles. Con la evolución de la IA, es probable que aumente aún más la cantidad de vídeos falsos convincentes.
Esto exacerbará un problema ya complejo: las noticias falsas y las imágenes que las acompañan. Se pueden publicar fotos de eventos afirmando que son de otros, o colocar a personas que nunca se han conocido en la misma fotografía. La falsificación de imágenes y vídeos está directamente relacionada con la ciberseguridad.
Los estafadores han utilizado imágenes y vídeos falsos para engañar a las víctimas durante años. Pueden enviar fotos de cachorros tristes que necesitan ayuda, imágenes de celebridades promoviendo planes sospechosos o incluso fotos de tarjetas de crédito que dicen pertenecer a alguien conocido. También emplean imágenes generadas por IA en perfiles falsos en sitios de citas y redes sociales.
Las estafas más sofisticadas utilizan vídeos y audios falsos del jefe de la víctima o de un familiar para que cumplan con las peticiones de los estafadores. Recientemente, un empleado de una institución financiera fue engañado para transferir 25 millones de dólares a ciberdelincuentes.
Detección de imágenes falsas
¿Cómo se pueden detectar las falsificaciones? Este es un problema complejo, pero que puede mitigarse paso a paso rastreando la procedencia de la imagen. Si tienes dudas sobre una imagen, puedes cargarla en herramientas específicas para ver los resultados.
Algunos métodos incluyen el análisis de metadatos y el análisis de nivel de error (ELA), que identifica artefactos de compresión JPEG para detectar modificaciones. Herramientas como Fake Image Detector aplican estas técnicas.
Con la aparición de la IA generativa, también se han desarrollado nuevos métodos basados en IA para detectar contenido generado. Sin embargo, ninguno es perfecto. Se incluyen detección de cambio de rostro, imágenes generadas por IA y modelos abiertos para los mismos fines.
Con todos estos enfoques, el problema clave es que ninguno ofrece el 100% de certeza sobre la procedencia de la imagen, garantiza que esté libre de modificaciones o permite verificar dichas modificaciones.
WWW al rescate: verificar la procedencia del contenido
¿No sería fantástico si los usuarios comunes pudieran comprobar si una imagen es real? La Coalición para la Procedencia y Autenticidad del Contenido (C2PA) busca precisamente eso. Incluye a empresas como Canon, Nikon, Sony, Adobe, AWS, Microsoft, Google, Intel, BBC, Associated Press y otras cien más.
El estándar de C2PA ya está disponible en la versión 1.3. Empieza a verse que las piezas necesarias para su uso se unen. Nikon planea fabricar cámaras compatibles con C2PA, y la BBC publicó sus primeros artículos con imágenes verificadas.
La idea es que los medios responsables y grandes empresas puedan publicar imágenes verificadas. Los usuarios podrán comprobar su procedencia directamente en el navegador. Verían una etiqueta de «imagen verificada» y, al hacer clic, se mostraría información sobre las imágenes originales y ediciones realizadas.
Verificación con certificado digital
El proceso de verificación se basa en criptografía de clave pública similar a la usada en los certificados web. Cada creador de imágenes necesitará un certificado X.509 emitido por una autoridad de confianza. Este certificado puede conectarse directamente a la cámara o emitirse al activar el software.
Al procesar imágenes con seguimiento de procedencia, cada nueva versión contendrá información adicional: fecha, hora y ubicación de las ediciones, miniaturas de versiones originales y editadas. Todo firmado digitalmente por el autor o editor.
Limitaciones naturales
Las firmas digitales para imágenes no resolverán el problema de las falsificaciones de inmediato. Hay miles de millones de imágenes en línea sin firma. Sin embargo, a medida que más fuentes de información pasen a publicar solo imágenes firmadas, cualquier fotografía sin una firma digital comenzará a ser vista con sospecha.
Las imágenes y vídeos reales con marcas de tiempo y datos de ubicación serán casi imposibles de hacer pasar por otra cosa. El contenido generado por IA será más fácil de detectar.