Un abogado en Florencia, Italia, mandó fruta al juzgado tras usar ChatGPT para armar una defensa. El chatbot inventó jurisprudencia y ahora se debate si esto es un simple error o algo más grave. La situación pone en el tapete los riesgos de confiar ciegamente en la inteligencia artificial dentro del sistema judicial.
Era cuestión de tiempo, como diría el tango. La inteligencia artificial, que tanto nos fascina y a la vez nos da un poco de miedo, metió la pata en un juzgado italiano. Un abogado, buscando «simplificar» su laburo, le dio la redacción de un escrito de defensa a ChatGPT. El resultado: datos falsos y jurisprudencia inventada que llegaron a la mesa de un juez.
¿Estamos ante el principio del fin del derecho como lo conocemos? ¿O es solo un llamado de atención sobre el uso irresponsable de la tecnología?
Esto no es joda… Y se pone en riesgo la buena fe y la profesionalidad de los actores judiciales.
¿Atajo tecnológico o error garrafal?
Algunos minimizan el asunto, considerándolo un simple descuido sin mayores consecuencias. «Realmente no comparto la apreciación del juez de que todo esto sea una grave falta; fue más bien un descuido sin consecuencias», dice Ernesto Belisario, abogado que conoce bien el tema.
Pero otros advierten sobre los peligros de delegar tareas cruciales a herramientas que, por más sofisticadas que sean, aún pueden «alucinar», como le dicen en la jerga técnica a esos errores garrafales que comenten las IA.
Al ser consultado, el chatbot proporcionó información completamente errónea sobre unas sentencias inexistentes del Tribunal Supremo que, sin embargo, terminaron incluidas en documentos oficiales como prueba de jurisprudencia.
Cuando la IA te manda al muere
No es la primera vez que pasa. Ya en Estados Unidos un abogado tuvo que pedir disculpas por usar información falsa proporcionada por una IA. La diferencia es que acá hablamos de un sistema judicial, donde la precisión y la veracidad son pilares fundamentales.
El problema no es solo la vergüenza profesional, sino las posibles consecuencias legales. Si un abogado usa información falsa para defender a su cliente, puede ser acusado de actuar de mala fe, lo que se conoce como «litigio temerario o abusivo». Algo que podría terminar con una denuncia penal, por ejemplo.
Ojo, que nadie está diciendo que la inteligencia artificial es el demonio. Bien utilizada, puede ser una herramienta valiosa para optimizar tareas administrativas y mejorar la eficiencia. El quid de la cuestión es no endiosarla y mantener siempre el sentido crítico y la responsabilidad profesional.
Ya lo dijo el propio Belisario: «El trabajo del abogado requiere cuidado y atención precisamente por la responsabilidad que conlleva». Y parece que algunos colegas necesitan que se lo recuerden.
Tendencia
