La Corte Suprema de Inglaterra y Gales ha señalado que los abogados deben tomar medidas más estrictas para evitar el mal uso de la inteligencia artificial en su trabajo. En una decisión que une dos casos recientes, la jueza Victoria Sharp afirmó que herramientas de IA generativa como ChatGPT “no son capaces de realizar investigaciones legales confiables”.
La jueza explicó que, aunque estas herramientas pueden ofrecer respuestas que parecen coherentes y plausibles, estas pueden ser completamente incorrectas. “Las respuestas pueden hacer afirmaciones seguras que son simplemente falsas”, añadió. Esto no significa que los abogados no puedan usar IA en sus investigaciones, pero tienen el deber profesional de “verificar la precisión de dicha investigación consultando fuentes autorizadas antes de utilizarla en su trabajo”.
La jueza Sharp sugirió que el aumento de casos en los que abogados (incluyendo a aquellos que representan grandes plataformas de IA) han citado lo que parecen ser falsedades generadas por IA indica que “se necesita hacer más para asegurar que se sigan las pautas y que los abogados cumplan con sus deberes ante el tribunal”. Su fallo será enviado a organismos profesionales como el Bar Council y la Law Society.
En uno de los casos mencionados, un abogado que representaba a un hombre que buscaba daños contra dos bancos presentó un documento con 45 citas, de las cuales 18 no existían. Muchas otras citas “no contenían las citas atribuidas a ellas, no apoyaban las proposiciones para las que fueron citadas y no eran relevantes para el asunto de la solicitud”, explicó la jueza. En el otro caso, un abogado que representaba a un hombre desalojado de su hogar en Londres presentó un documento citando cinco casos que no parecían existir. (El abogado negó haber utilizado IA, aunque mencionó que las citas podrían haber provenido de resúmenes generados por IA que aparecieron en “Google o Safari”).
La jueza Sharp indicó que, aunque el tribunal decidió no iniciar procedimientos por desacato, esto “no establece un precedente”. “Los abogados que no cumplan con sus obligaciones profesionales en este aspecto corren el riesgo de sanciones severas”, agregó. Ambos abogados fueron referidos o se refirieron a reguladores profesionales. La jueza destacó que cuando los abogados no cumplen con sus deberes ante el tribunal, las acciones del tribunal pueden ir desde “amonestaciones públicas” hasta la imposición de costos, procedimientos por desacato o incluso “referencias a la policía”.
