Abogado se disculpa tras presentar citas falsas generadas por IA en caso de asesinato
El error obligó a retrasar 24 horas el veredicto y reabrió el debate sobre verificación de datos legales.
AndreyPopov
Un incidente inusual en la Corte Suprema del estado de Victoria, Australia, encendió las alertas sobre el uso de inteligencia artificial en el ámbito judicial. El abogado defensor Rishi Nathwani, con el título de Consejero del Rey, admitió haber presentado argumentos que incluían citas y sentencias inexistentes, elaboradas por una herramienta de IA, en el juicio contra un adolescente acusado de asesinato.
En audiencia, Nathwani asumió “plena responsabilidad” y expresó “profundo arrepentimiento y vergüenza” ante el juez James Elliott, luego de que el equipo defensor descubriera que el documento presentado contenía citas ficticias. El hallazgo provocó un retraso de 24 horas en la resolución del caso, que finalmente concluyó con la absolución del acusado por su discapacidad mental.
Más información
Las referencias inventadas incluían supuestos fallos de la Corte Suprema y citas de discursos legislativos que nunca existieron. Fueron detectadas cuando los asociados del juez no lograron encontrar las fuentes y solicitaron copias a los defensores, quienes admitieron que no existían.
Elliott recalcó que la confianza en la exactitud de las presentaciones jurídicas es esencial para la administración de justicia, recordando que el tribunal ya había emitido directrices sobre el uso de IA. “No es aceptable que se utilice inteligencia artificial a menos que el producto sea verificado de manera independiente y exhaustiva”, advirtió.
Aunque los documentos judiciales no precisan qué sistema de IA fue utilizado, el caso se suma a otros episodios internacionales en los que herramientas como ChatGPT o motores de búsqueda con capacidades generativas han sido responsables de “alucinaciones” legales. En Estados Unidos, en 2023, dos abogados fueron multados por presentar jurisprudencia ficticia, y en Reino Unido, la jueza Victoria Sharp advirtió que en casos graves este tipo de conductas podrían constituir desacato o incluso perversión de la justicia.
Mario Vergara
Editor general del área digital de Radio ADN. Enfocado en cobertura política y contingencia internacional....
