Un abogado que representa a Anthropic admitió haber utilizado una cita incorrecta generada por el chatbot Claude de la compañía en un caso legal en curso con editores de música, según un documento presentado en un tribunal del norte de California. Anthropic explicó que Claude “alucinó” la cita, que contenía “un título inexacto y autores incorrectos”. Los abogados de Anthropic señalaron que su “verificación manual de citas” no detectó este error, ni otros errores causados por las alucinaciones de Claude. La empresa se disculpó por el error, calificándolo de “un error honesto en la cita y no una fabricación de autoridad”.

Esta semana, abogados que representan a Universal Music Group y otros editores de música acusaron a Olivia Chen, testigo experto de Anthropic y empleada de la empresa, de utilizar a Claude para citar artículos falsos en su testimonio. La jueza federal Susan van Keulen ordenó a Anthropic que respondiera a estas acusaciones. La demanda de los editores de música es una de varias disputas entre los propietarios de derechos de autor y las empresas tecnológicas sobre el supuesto uso indebido de su trabajo para crear herramientas de inteligencia artificial generativa.

Este es el último caso de abogados que utilizan inteligencia artificial en los tribunales y luego lamentan la decisión. Recientemente, un juez de California criticó a un par de bufetes de abogados por presentar “investigaciones generadas por IA falsas” en su corte. En enero, un abogado australiano fue sorprendido utilizando ChatGPT para preparar documentos judiciales, y el chatbot produjo citas erróneas. Sin embargo, estos errores no detienen a las startups que recaudan grandes sumas para automatizar el trabajo legal. Harvey, que utiliza modelos de IA generativa para ayudar a los abogados, está en conversaciones para recaudar más de 250 millones de dólares con una valoración de 5 mil millones.