En la superficie, puede parecer una herramienta que podría ser útil para una serie de tareas laborales. Pero antes de pedirle al chatbot que resuma notas importantes o verifique si hay errores en su trabajo, vale la pena recordar que cualquier cosa que comparta con ChatGPT puede usarse para entrenar el sistema y tal vez incluso aparecer en sus respuestas a otros usuarios. Esto es algo que muchos empleados probablemente deberían saber antes de compartir información confidencial con el chatbot.

Poco después de que la división de semiconductores de Samsung comenzara a permitir que los ingenieros usaran ChatGPT, los empleados le filtraron información secreta en al menos tres ocasiones, según (visto por ). Un empleado supuestamente le pidió al chatbot que revisara el código fuente de la base de datos confidencial en busca de errores, otro solicitó optimizar el código y un tercero envió una reunión grabada a ChatGPT y pidió generar minutos.

sugieren que después de enterarse de las notas de seguridad, Samsung trató de limitar el alcance de los errores futuros restringiendo la longitud de las indicaciones de ChatGPT de los empleados a un kilobyte, o 1024 caracteres de texto. La compañía también está investigando a los tres empleados en cuestión y está construyendo su propio chatbot para evitar percances similares. Engadget se ha comunicado con Samsung para hacer comentarios.

ChatGPT establece que, a menos que los usuarios opten explícitamente por no participar, utiliza sus indicaciones para entrenar sus modelos. El dueño del chatbot, OpenAI no compartir información secreta con ChatGPT en conversaciones como «no puede eliminar indicaciones específicas de su historial». La única forma de deshacerse de la información de identificación personal en ChatGPT es eliminar su cuenta, un proceso que .

La saga de Samsung es otro ejemplo de por qué se supone que debes hacerlo con todas tus actividades en línea. Nunca se sabe realmente dónde terminarán sus datos.