ChatGPT ha sido criticado recientemente por probar una función que permitía a los motores de búsqueda indexar las conversaciones de los usuarios. Como resultado, más de 100.000 registros de chat se hicieron públicos en Internet. Aunque OpenAI ha colaborado con Google para desindexar estos enlaces, más de 100.000 siguen siendo accesibles y consultables a través de plataformas como Internet Archive y otros motores de búsqueda.
Este incidente no se debió a un error técnico, sino a un grave error de cálculo de OpenAI respecto al nivel de competencia técnica del usuario promedio. En concreto, la función para compartir conversaciones de ChatGPT permite a los usuarios generar enlaces para compartir en sus chats, que normalmente solo son accesibles para quienes poseen el enlace. Sin embargo, la nueva función introducía una opción para que los usuarios permitieran a los motores de búsqueda rastrear e indexar estas conversaciones compartidas. Si bien esta opción no estaba seleccionada por defecto, OpenAI parece haber sobreestimado la comprensión de las implicaciones por parte de los usuarios. A pesar de las claras advertencias, muchos usuarios la marcaron, probablemente sin ser conscientes de sus verdaderas implicaciones.
Al descubrir las implicaciones para la privacidad, OpenAI desactivó rápidamente la función y colaboró con Google para eliminar el contenido indexado. No obstante, los enlaces permanecen activos y accesibles, lo que significa que motores de búsqueda como Microsoft Bing y servicios de archivo como Internet Archive ya han indexado más de 100.000 enlaces, que aún pueden visitarse directamente.
Entre las conversaciones indexadas se encuentran chats con material altamente sensible. Una de estas conversaciones, realizada en italiano, involucraba a un abogado que representaba a una multinacional energética. La empresa planeaba construir una presa y una central hidroeléctrica en la selva amazónica. Sin embargo, el sitio propuesto albergaba a una pequeña comunidad indígena amazónica. En la conversación, el abogado solicitó asesoramiento a ChatGPT sobre cómo explotar a los habitantes locales, afirmando que los indígenas desconocían el valor de la tierra y no entendían los mecanismos del mercado. El abogado solicitó a ChatGPT estrategias de negociación para obtener la tierra al menor costo posible.
Aunque se cree que la transcripción aún se encuentra en Internet Archive, el experto en verificación de datos Henk van Ess, quien descubrió el enlace inicialmente, se negó a hacerlo público alegando motivos de privacidad. La conversación contenía suficientes detalles como para identificar a la compañía energética e incluso al abogado involucrado.
Desde el punto de vista de la privacidad, van Ess optó por no revelar el enlace, aunque señaló que localizarlo en Internet Archive no sería particularmente difícil. Dado que Internet Archive ya había capturado una instantánea, incluso la eliminación de la conversación original por parte del abogado dentro de ChatGPT sería inútil.
Cabe destacar que Internet Archive declaró que OpenAI no los había contactado con una solicitud de eliminación. De haberse presentado dicha solicitud, Internet Archive indicó que la habría cumplido. Sin embargo, OpenAI parece haber limitado sus esfuerzos de mitigación a la Búsqueda de Google, descuidando otros motores de búsqueda y servicios de archivo.
Fuente: SecurityOnLine