En SmartBytes analizamos las claves de esta novedad tecnológica.
El Tribunal Superior de Justicia de Canarias (TSJC) impuso una multa simbólica de 450 euros a un abogado que presentó un recurso de apelación con 48 citas judiciales falsas. Estas referencias inexistentes, supuestamente provenientes del Tribunal Supremo y del Consejo General del Poder Judicial, fueron generadas por ChatGPT, una herramienta de inteligencia artificial (IA) no especializada en el ámbito jurídico. El letrado no verificó la autenticidad de las sentencias ni confirmó los datos con bases oficiales como el Cendoj.
Este caso refleja un problema recurrente en el uso de IA para la investigación legal: la generación de contenido falso o "alucinaciones", incluso en plataformas reconocidas. Estudios recientes, como el de Stanford RegLab, muestran que modelos avanzados como GPT-4 o Llama 2 pueden presentar tasas de error significativas al proporcionar información jurídica concreta. Incluso soluciones premium de IA jurídica registran fallos relevantes, lo que subraya la necesidad de supervisión humana rigurosa.
Para profesionales y empresas del sector legal, este incidente enfatiza la importancia de validar toda información obtenida mediante IA antes de incorporarla en documentos oficiales o argumentaciones legales. La automatización puede acelerar procesos, pero sin controles adecuados puede generar riesgos reputacionales y sanciones. Además, la confianza excesiva en sistemas automatizados sin contrastar datos puede afectar la calidad del trabajo y la integridad del sistema judicial.
Las recientes mejoras en modelos de IA prometen reducir errores, pero la generación de jurisprudencia falsa sigue siendo un desafío. Por ello, es imprescindible que abogados, técnicos y gestores implementen protocolos de verificación y formación continua para el uso ético y responsable de estas tecnologías en el ámbito legal.
