El caso de la prestigiosa firma de abogados que envió documentos judiciales con alucinaciones de IA “Lamentamos profundamente que esto haya ocurrido”, reconoció el bufete tras detectar que el escrito, presentado en un caso de quiebra en Manhattan, contenía errores generados por la IA. Un reconocido bufete de abogados de Wall Street tuvo que disculparse tras presentar ante un tribunal federal un documento con errores generados por inteligencia artificial, incluidas citas falsas de casos judiciales.
El episodio, revelado por The New York Times, pone en tela de juicio el uso de estas herramientas en el sistema legal estadounidense. El incidente involucró a Sullivan & Cromwell, una de las firmas más antiguas y prestigiosas de Estados Unidos, que tuvo que disculparse formalmente ante el juez Martin Glenn del Tribunal de Quiebras de Estados Unidos en Manhattan.
Información inventada por la IA Las inconsistencias fueron detectadas por abogados de la contraparte, quienes identificaron lo que luego se confirmó como “alucinaciones” de IA, es decir, información inventada por sistemas automatizados. En una carta enviada el 18 de abril, Andrew Dietderich, socio del bufete, reconoció la gravedad de lo ocurrido.
“Lamentamos profundamente que esto haya ocurrido”, escribió. El documento en cuestión contenía cerca de tres docenas de errores, varios de ellos relacionados con la cita de pasajes aparentemente inexistentes en fallos judiciales reales.
El caso vuelve a poner en el centro del debate el uso de inteligencia artificial en el ámbito legal, donde estas herramientas se han vuelto atractivas para manejar grandes volúmenes de información. Sin embargo, su capacidad de generar contenido erróneo pero que parece creíble ha generado preocupación en el gremio.