El CEO de OpenAI, Sam Altman, advirtió que las conversaciones con ChatGPT no gozan de confidencialidad legal como ocurre con médicos, abogados o psicólogos. En una entrevista reciente, señaló que si un usuario consulta temas emocionales o psicológicos a IA y surge una demanda, OpenAI podría verse obligado a presentar los registros de chat como prueba. También consideró que esto representa un riesgo significativo especialmente para jóvenes que usan la plataforma como consejero personal.
PUBLICIDAD
¿Por qué Altman considera peligroso usar ChatGPT como terapeuta?
Durante el podcast This Past Weekend with Theo Von, Altman explicó que “la gente habla sobre las cosas más personales de su vida con ChatGPT, sobre todo los jóvenes lo usan como terapeuta o coach de vida”.
Subrayó que, a diferencia de una interacción con un terapeuta humano, estas conversaciones no están amparadas por privilegios legales, como el secreto médico-paciente o el abogado-cliente. “Si luego hay una demanda o algo similar, podríamos estar obligados a presentar esa información. Y creo que eso está muy mal”.
¿Puede usarse ese contenido en un proceso legal?
Sí. Altman fue claro: “si hablas con ChatGPT sobre tus asuntos más sensibles y luego surge una demanda o algo similar, podríamos vernos forzados a presentar esa información”.
En contextos jurídicos, no existe “privilegio legal” para estas interacciones. Añadió que es necesario crear un marco legal similar al de las profesiones tradicionales que garantice la privacidad de los usuarios. “[No hemos resuelto eso todavía para cuando hablas con ChatGPT]… y creo que es un gran problema”.
Contexto: privacidad, datos y marco legal pendiente
Este mensaje surge en medio de una batalla legal entre OpenAI y The New York Times, que exige que la empresa conserve todas las conversaciones de usuarios, incluyendo aquellas supuestamente borradas.
A pesar de que OpenAI elimina chats en 30 días por defecto, enfrentan presión judicial para retenerlos indefinidamente, lo cual generaría una brecha significativa en la protección de la privacidad.