Recientemente, ChatGPT ha sido criticado por haber permitido que los motores de búsqueda indexaran las conversaciones de sus usuarios. Esta función introducida por OpenAI permitía a los usuarios generar enlaces para compartir sus chats, normalmente accesibles solo para quienes poseían el enlace. Sin embargo, la opción para permitir que los motores de búsqueda rastrearan y indexaran estas conversaciones no estaba seleccionada por defecto.
Acceso a más de 100.000 registros
A pesar de las advertencias, muchos usuarios activaron esta opción, lo que resultó en la exposición de más de 100.000 conversaciones en Internet. Aunque OpenAI colaboró con Google para desindexar estos enlaces, aún se pueden consultar a través de plataformas como Internet Archive y otros motores de búsqueda.
Errores de cálculo técnico
El incidente no fue causado por un error técnico, sino por una mala estimación del nivel de comprensión técnica del usuario promedio. OpenAI sobreestimó la capacidad de los usuarios para entender las implicaciones de activar esta opción.
Conversaciones sensibles en Internet Archive
Entre las conversaciones indexadas se encontraron chats con información altamente sensible, incluyendo una discusión realizada en italiano entre un abogado y ChatGPT. El abogado representaba a una multinacional energética que planeaba construir una presa y una central hidroeléctrica en la selva amazónica, cerca de una comunidad indígena.
El abogado buscó estrategias para explotar a los habitantes locales
En la conversación, el abogado solicitó asesoramiento a ChatGPT sobre cómo explotar a los habitantes locales, afirmando que los indígenas desconocían el valor de la tierra y no entendían los mecanismos del mercado. Solicitó estrategias para obtener la tierra al menor costo posible.
Privacidad y accesibilidad
Aunque se cree que la transcripción aún se encuentra en Internet Archive, el experto en verificación de datos Henk van Ess, quien descubrió el enlace inicialmente, se negó a hacerlo público por motivos de privacidad. La conversación contenía suficientes detalles como para identificar a la compañía energética e incluso al abogado involucrado.
Limitaciones en la eliminación del contenido
Internet Archive declaró que OpenAI no los había contactado con una solicitud de eliminación. De haberse presentado dicha solicitud, habría cumplido. Sin embargo, OpenAI parece haber limitado sus esfuerzos a Google, descuidando otros motores de búsqueda y servicios de archivo.