ChatGPT está filtrando conversaciones privadas que incluyen credenciales de inicio de sesión y otros datos personales de usuarios no relacionados, según indicaron capturas de pantalla enviadas por un lector de Ars el lunes.

Dos de las siete capturas de pantalla enviadas por los lectores se destacaron en particular. Ambos contenían múltiples pares de nombres de usuario y contraseñas que parecían estar conectados a un sistema de soporte utilizado por los empleados del portal de medicamentos recetados de una farmacia. Un empleado que utilizaba el chatbot de IA parecía estar solucionando problemas encontrados al utilizar el portal.

“Horrible, horrible, horrible”

«ESTO es tan loco, horrible, horrible, horrible, para empezar, no puedo creer lo mal que se construyó y la obstrucción que se coloca frente a mí que impide que mejore», escribió el usuario. “yo dispararía [redacted name of software] solo por esta tontería si fuera mi elección. Esto está mal.»

Además del lenguaje sincero y las credenciales, la conversación filtrada incluye el nombre de la aplicación que el empleado está solucionando y el número de la tienda donde ocurrió el problema.

Toda la conversación va mucho más allá de lo que se muestra en la imagen escrita arriba. Un enlace incluido por el lector de Ars Chase Whiteside mostró la conversación de chat en su totalidad. La URL reveló pares de credenciales adicionales.

Los resultados aparecieron el lunes por la mañana, poco después de que el lector Whiteside utilizara ChatGPT para una consulta no relacionada.

«Fui a hacer una consulta (en este caso, ayuda para encontrar nombres inteligentes para los colores en una paleta) y cuando volví a consultar momentos después, noté las conversaciones adicionales», escribió Whiteside en un correo electrónico. “No estaban allí cuando usé ChatGPT anoche (soy un usuario bastante frecuente). No se realizaron consultas; simplemente aparecieron en mi historial y ciertamente no son mías (y tampoco creo que sean del mismo usuario)”.

Otras conversaciones filtradas a Whiteside incluyen el nombre de una presentación en la que alguien estaba trabajando, detalles de una propuesta de investigación inédita y un script que utiliza el lenguaje de programación PHP. Los usuarios en cada conversación filtrada parecían ser diferentes y no relacionados entre sí. La conversación que involucra al portal de recetas incluyó el año 2020. Las fechas no aparecieron en otras conversaciones.

El episodio, y otros similares, resaltan la conveniencia de eliminar datos personales de las consultas realizadas a ChatGPT y otros servicios de inteligencia artificial siempre que sea posible. En marzo pasado, el fabricante de ChatGPT, OpenAI, desconectó el chatbot de IA después de que un error causara el sitio. mostrar títulos desde el historial de chat de un usuario activo hasta usuarios no relacionados.

En noviembre, los investigadores publicaron un papel informando cómo utilizaron consultas para pedirle a ChatGPT que revelara direcciones de correo electrónico, números de teléfono y fax, direcciones físicas y otros datos privados que se incluyeron en el material utilizado para entrenar el modelo de lenguaje grande de ChatGPT.

Preocupadas por la posibilidad de que se filtren datos privados o de propiedad, empresas como Apple han restringido el uso de ChatGPT y sitios similares por parte de sus empleados.

Como se mencionó en un artículo de diciembre cuando varias personas descubrieron que los dispositivos UniFy de Ubiquity transmitían videos privados pertenecientes a usuarios no relacionados, este tipo de experiencia es tan antigua como Internet. Como se explica en el artículo:

Las causas exactas de este tipo de error del sistema varían de un incidente a otro, pero generalmente involucran dispositivos «intermedios», que se encuentran entre los dispositivos de front-end y back-end. Para mejorar el rendimiento, los middleboxes almacenan en caché ciertos datos, incluidas las credenciales de los usuarios que iniciaron sesión recientemente. Cuando ocurren incompatibilidades, las credenciales de una cuenta pueden asignarse a una cuenta diferente.

Un representante de OpenAI dijo que la compañía estaba investigando el informe.