Los usuarios de ChatGPT deben pensarlo dos veces antes de usar su aplicación de inteligencia artificial para terapia o apoyo emocional. Sam Altman, CEO de OpenAI, comentó que la industria de la IA aún no ha encontrado la manera de proteger la privacidad de los usuarios en conversaciones sensibles, ya que no existe la confidencialidad médico-paciente cuando tu “doctor” es una IA. Estas declaraciones fueron hechas en un episodio reciente del podcast de Theo Von, “This Past Weekend”.
Al responder a una pregunta sobre cómo la IA se relaciona con el sistema legal actual, Altman explicó que uno de los problemas es la falta de un marco legal para la IA, lo que significa que no hay confidencialidad legal para las conversaciones de los usuarios. “La gente habla de cosas muy personales en su vida con ChatGPT”, dijo Altman. “Los jóvenes, especialmente, lo utilizan como un terapeuta o un coach de vida, planteando problemas de relaciones y preguntando ‘¿qué debería hacer?’. Y en este momento, si hablas con un terapeuta, un abogado o un médico sobre esos problemas, hay privilegio legal. Hay confidencialidad médico-paciente, y no hemos resuelto eso para cuando hablas con ChatGPT”.
Esto podría generar preocupaciones sobre la privacidad de los usuarios en caso de una demanda, ya que OpenAI estaría legalmente obligada a entregar esas conversaciones. “Creo que eso es muy problemático. Deberíamos tener el mismo concepto de privacidad en nuestras conversaciones con la IA que tenemos con un terapeuta”, añadió Altman. La empresa reconoce que la falta de privacidad puede ser un obstáculo para una adopción más amplia de los usuarios. Además de la gran cantidad de datos en línea que la IA necesita durante su entrenamiento, se le está pidiendo que produzca datos de las conversaciones de los usuarios en ciertos contextos legales. OpenAI ya está luchando contra una orden judicial en su demanda contra The New York Times, que le exigiría guardar las conversaciones de cientos de millones de usuarios de ChatGPT en todo el mundo, excluyendo a los clientes de ChatGPT Enterprise.
En un comunicado en su sitio web, OpenAI mencionó que está apelando esta orden, a la que llamó “un exceso”. Si el tribunal pudiera anular las decisiones de OpenAI sobre la privacidad de datos, la empresa podría enfrentar más demandas por descubrimiento legal o propósitos de aplicación de la ley. Las empresas tecnológicas son regularmente citadas para entregar datos de usuarios para ayudar en procesos penales. En años recientes, han surgido preocupaciones adicionales sobre los datos digitales, ya que las leyes comenzaron a limitar el acceso a libertades previamente establecidas, como el derecho de una mujer a elegir. Por ejemplo, cuando la Corte Suprema anuló Roe v. Wade, los clientes comenzaron a cambiar a aplicaciones de seguimiento de períodos más privadas o a Apple Health, que encriptaba sus registros.
Altman también preguntó al presentador del podcast sobre su propio uso de ChatGPT, dado que Von mencionó que no habla mucho con el chatbot de IA debido a sus propias preocupaciones de privacidad. “Creo que tiene sentido querer claridad sobre la privacidad antes de usar [ChatGPT] mucho, como la claridad legal”, concluyó Altman.
