El riesgo de usar ChatGPT: la Justicia navarra reprende a un abogado que acusaba... con la ley colombiana

La Sala de lo Penal del Tribunal Superior de Justicia de Navarra ha archivado la pieza separada que le abrió a un abogado por posible mala praxis procesal al haber interpuesto una querella que en parte fue redactada con párrafos obtenidos de la Inteligencia Artificial y en el que los argumentos que utilizaba eran propios del Código Penal de Colombia y no del español. El abogado interpuso una querella criminal en el que buscaba justificar que en una causa había habido destrucción o alteración de pruebas. Sin embargo, sus argumentos sonaron muy estridentes al tribunal que, además de inadmitir la querella, decidió abrirle una pieza separada. La Sala recuerda que al ser desestimado el asunto, el propio abogado trato de subsanar su error y presentó sus excusas al TSJN, que ahora ha decidido no sancionarle.

Así, argumenta que "en la singularidad del caso que nos ocupa, el hecho de que nos encontremos ante una materia ciertamente novedosa, así como la inmediata reacción del letrado querellante excusando el error cometido, determina que la Sala se incline por el archivo de la presente pieza separada sin imponer la correspondiente sanción pecuniaria, sirviendo la presente -quizá- de advertencia de las implicaciones legales, deontológicas y éticas que puede plantear el uso descuidado de las nuevas tecnologías".

El abogado querellante expone que en fecha 24 de junio de 2024 presentó escrito solicitando "subsanación de error material grosero e involuntario" padecido en la redacción del escrito de la querella, debiendo tener tal párrafo por no puesto por haber incurrido en completo, absoluto y grosero error material al corresponder el precepto citado en dicho escrito -que no correspondía a la ley Penal de España sino a Colombia - al que fue facilitado por la inteligencia artificial, debido a un manejo inadecuado por parte de su despacho del sistema de inteligencia artificial ChatGPT 3".

Ética y uso responsable

El tribunal realiza en la resolución un análisis del uso de la IA a nivel jurídico y expone que "el uso de las tecnologías emergentes y de los materiales generados por inteligencia artificial en los procedimientos judiciales no está exento de importantes consideraciones éticas y legales para garantizar un uso responsable. Lo que impone una verificación adicional, puesto que la revisión y validación de los documentos legales seguirá siendo responsabilidad de los abogados para garantizar la precisión y el cumplimiento normativo".

Así, recuerda que Law Society publicó nuevas orientaciones para la profesión en noviembre de 2023 sobre el uso de herramientas de inteligencia artificial generativa, en las que afirmaba que los abogados son responsables de los productos de trabajo generados utilizando "soluciones basadas en la tecnología" e instaba a los abogados a "revisar cuidadosamente el contenido y garantizar su exactitud".

Recuerda que el Consejo de la Abogacía Europea (CCBE) también ha abordado la regulación de la inteligencia artificial en el ejercicio de la abogacía y, entre otras consideraciones, aboga por la supervisión humana efectiva en el uso de herramientas de IA en el ámbito de justicia como precondición de un sistema de justicia propio de un Estado de Derecho.

"Alucinaciones legales"

En un estudio sobre los riesgos de usar ChatGPT y otras herramientas similares con fines legales se cuantificaron recientemente que "las alucinaciones legales son alarmantemente prevalentes, ocurriendo entre el 69% del tiempo con ChatGPT 3.5 y el 88% con Llama 2". 

De esta forma, el TSJN considera que "no nos cabe duda que el uso descuidado de estas tecnologías en los procedimientos judiciales plantea importantes implicaciones deontológicas y, desde luego, es susceptible de integrar un claro ejemplo de mala fe procesal y de abuso del proceso. Aunque por el momento los precedentes son escasos, no faltan ya supuestos en la jurisprudencia comparada de imposición de sanciones procesales por el uso indebido de ChatGPT". Aunque en el presente caso quedará sin sanción, que sirva la resolución como aviso a navegantes para los profesionales de la abogacía.