Un juez de Manhattan impuso el jueves una multa de 5.000 dólares a dos abogados que le entregaron un informe legal lleno de casos y citaciones inventados, todos generados por el programa de inteligencia artificial ChatGPT.
El juez, P. Kevin Castel del Tribunal Federal de Distrito, criticó duramente a los abogados y les ordenó que enviaran una copia de su opinión a cada uno de los jueces de la vida real cuyos nombres aparecían en la presentación ficticia.
Pero el juez Castel escribió que no exigiría a los abogados Steven A. Schwartz y Peter LoDuca, a quienes se refirió como demandados, que se disculpe con esos jueces, “porque una disculpa obligada no es una disculpa sincera”.
“Cualquier decisión de disculparse se deja a los encuestados”, agregó el juez.
El descubrimiento de que ChatGPT había ayudado a crear el informe en una demanda que de otro modo no tendría nada de especial repercutió en toda la profesión legal. La revelación también cautivó a la comunidad tecnológica, que ha estado debatiendo los peligros de una dependencia excesiva de la inteligencia artificial, incluso como una amenaza existencial para la humanidad.
En el caso de los señores Schwartz y LoDuca, el juez Castel dejó en claro que habían violado un precepto básico del sistema legal estadounidense.
“Muchos daños se derivan de la presentación de opiniones falsas”, escribió el juez. “La parte contraria pierde tiempo y dinero en exponer el engaño. El tiempo de la corte se toma de otros esfuerzos importantes”.
La acción de los abogados, agregó, “promueve el cinismo sobre la profesión legal y el sistema judicial estadounidense. Y un futuro litigante puede verse tentado a desafiar un fallo judicial alegando falsamente dudas sobre su autenticidad”.
El fallo del jueves siguió a una audiencia del 8 de junio en la que el juez Castel interrogó a Schwartz y LoDuca sobre cómo llegaron a presentar el escrito. En la demanda, su cliente, Roberto Mata, buscó responsabilizar a la aerolínea Avianca por una lesión que dice haber sufrido cuando un carrito de servicio de metal golpeó su rodilla durante un vuelo de agosto de 2019 de El Salvador a Nueva York.
Después de que Avianca solicitó desestimar la demanda porque el plazo de prescripción había expirado, el Sr. Schwartz preparó un escrito de 10 páginas citando más de media docena de decisiones judiciales con nombres como Martinez v. Delta Air Lines, Varghese v. China Southern Airlines y Zicherman v. Korean Air Lines, para argumentar que se debe permitir que prosiga el litigio.
Debido a que el Sr. Schwartz no fue admitido para ejercer en la corte federal de Manhattan, su socio, el Sr. LoDuca, se convirtió en el abogado de registro y firmó el escrito, que se presentó en marzo. 1.
Dos semanas después, los abogados de Avianca, Bart Banino y Marissa Lefland, respondieron que “no pudieron ubicar la mayor parte de la jurisprudencia” citada en el escrito.
Cuando el juez le dio al señor LoDuca una semana para producir los casos mencionados, el señor LoDuca respondió que estaba de vacaciones y pidió otra semana. El juez estuvo de acuerdo.
En la audiencia del 8 de junio, el Sr. LoDuca admitió que no había estado de vacaciones pero, debido a que el Sr. Schwartz estaba fuera, quería darle más tiempo a su colega.
“La mentira tuvo el efecto intencionado de ocultar el papel del Sr. Schwartz”, escribió el juez Castel.
En su opinión, el juez Castel examinó las supuestas decisiones, demostrando cómo fueron claramente fabricadas, y dijo que los abogados habían actuado de mala fe al presentarlas.
Se dijo que la supuesta opinión de Varghese fue emitida por un panel de tres jueces de la Corte de Apelaciones del 11° Circuito de los Estados Unidos. Pero, señaló el juez Castel, uno de los jueces enumerados en la opinión en realidad se sentó en la corte federal de apelaciones del 5.º circuito.
Más allá de eso, “la decisión ‘Varghese’ muestra fallas de estilo y razonamiento que generalmente no aparecen en las decisiones emitidas por las Cortes de Apelaciones de los Estados Unidos”, dijo el juez.
“Su análisis legal es un galimatías”, escribió, y agregó: “El resumen de la historia procesal del caso es difícil de seguir y roza lo absurdo”.
Dijo que los abogados del Sr. Mata habían abandonado sus responsabilidades, “luego continuaron defendiendo las opiniones falsas después de que las órdenes judiciales pusieran en duda su existencia”.
Si el asunto hubiera terminado antes con los abogados «confesados», continuó el juez, «el registro ahora se vería bastante diferente».
El juez señaló que la firma de abogados, Levidow, Levidow & Oberman, había hecho arreglos para que abogados externos llevaran a cabo un programa de capacitación obligatorio sobre competencia tecnológica y programas de inteligencia artificial. Y dio crédito a las descripciones de los abogados de su vergüenza y remordimiento frente a la amplia publicidad sobre sus acciones.
La firma Levidow dijo en un comunicado que había revisado la orden del juez y que “tenía la plena intención de cumplirla”. Pero la firma no estuvo de acuerdo con la conclusión del juez Castel de que alguien en la firma actuó de mala fe.
“Frente a lo que incluso el tribunal reconoció que era una situación sin precedentes, cometimos un error de buena fe al no creer que una pieza de tecnología podría estar inventando casos de la nada”, dijo la firma.
La firma dijo que estaba considerando sus opciones y no había tomado una decisión sobre si apelar.
Ronald Minkoff, abogado de la firma y del Sr. Schwartz, se negó a comentar en nombre del Sr. Schwartz. Un abogado de LoDuca no respondió a una solicitud de comentarios.
En un fallo separado el jueves, el juez Castel desestimó la demanda de Mata contra Avianca por los motivos de prescripción que había argumentado la aerolínea.
El Sr. Banino, abogado de la aerolínea, dijo: “Dejando de lado el uso de ChatGPT por parte del abogado y la presentación de casos falsos, el tribunal llegó a la conclusión correcta al desestimar el caso subyacente”.
En su fallo, el juez no remitió a los abogados a posibles medidas disciplinarias, pero las autoridades disciplinarias podrían iniciar su propia investigación. Dichas investigaciones pueden dar lugar a una amonestación privada oa sanciones públicas como suspensión o inhabilitación.
Stephen Gillers, profesor de ética legal en la Facultad de Derecho de la Universidad de Nueva York, dijo que creía que la publicidad mundial sobre el caso ayudó a Schwartz y LoDuca a evitar un destino peor.
“Los abogados ahora y para siempre serán conocidos como ‘los abogados que fueron engañados por ChatGPT’, lo que, según Castel, también es una sanción”, dijo el profesor Gillers. “El caso es el primero, pero probablemente no el último, que advierte al bar que no se deje seducir por el canto de sirena de la IA generativa”
