Cuando la IA inventa referencias jurídicas
La inteligencia artificial continúa inmiscuyéndose en sectores donde el rigor es innegociable. El último ejemplo: el prestigioso bufete estadounidense Sullivan & Cromwell tuvo que disculparse públicamente después de que un documento presentado ante la justicia contenía citas… inventadas de la nada por una herramienta de IA. Un fenómeno que los especialistas llaman “alucinaciones”, esa desafortunada tendencia de los modelos de lenguaje a fabricar información con una seguridad desconcertante.
Andrew Dietderich, socio del bufete, reconoció que si bien la firma dispone de procedimientos internos para evitar este tipo de deslices, simplemente no fueron respetados en este caso específico. En otras palabras: los mecanismos de control existían, pero nadie los aplicó. Un clásico del error humano, agravado por una confianza quizás excesiva en la máquina.
Qué significa una “alucinación” en términos simples
Para entender lo que sucedió, necesitamos un pequeño desvío técnico. Los grandes modelos de lenguaje (LLM), como los que alimentan herramientas tales como ChatGPT o sus competidores, generan texto prediciendo estadísticamente las palabras más probables en un contexto dado. El problema: no “saben” realmente qué dicen. Cuando se les pide que citen una jurisprudencia, pueden perfectamente inventar una que parece completamente plausible —número de sentencia, nombres de las partes, fecha— pero que nunca existió.
En un contexto judicial, presentar una referencia falsa ante un tribunal no es trivial. Puede ir desde una simple corrección vergonzosa hasta sanciones disciplinarias para los abogados involucrados. Sullivan & Cromwell, uno de los bufetes más reputados de Wall Street, se sale con disculpas y una promesa de reforzar sus procesos internos. Menos mal.
La respuesta del mundo jurídico: formar antes que nada
Ante estos deslices, el sector jurídico comienza a organizarse. A miles de kilómetros de la oficina neoyorquina de Sullivan & Cromwell, el Mississippi College School of Law decidió tomar el toro por los cuernos. Desde hace poco, la formación en inteligencia artificial es ahora obligatoria para todos los estudiantes de primer año.
La idea es simple: en lugar de ignorar la IA o prohibirla pura y simplemente, es mejor enseñar a los futuros juristas a utilizarla de forma responsable —y sobre todo a identificar sus límites. Entender que una herramienta puede “alucinar” citas es exactamente el tipo de conocimiento crítico que puede evitar un incidente embarazoso ante un juez.
Esta iniciativa se inscribe en un movimiento más amplio: los tribunales estadounidenses mismos comienzan a legislar sobre el uso de la IA en procedimientos judiciales, algunos exigiendo ahora que los abogados declaren explícitamente si utilizaron una herramienta de IA para preparar sus documentos.
Una tensión que revela un desafío universal
Lo que está en juego en el mundo jurídico es en realidad un espejo de lo que viven muchos sectores confrontados a la IA generativa. Por un lado, la tecnología ofrece ganancias de productividad considerables: redacción de documentos, búsqueda de precedentes, análisis contractual. Por otro, introduce nuevos vectores de error, a veces insidiosos precisamente porque el resultado producido parece convincente.
El paralelo con el universo cripto no es anodino. En un espacio donde los actores se precipitan sobre nuevas tecnologías —a menudo antes de que los marcos regulatorios estén en lugar— el incidente de Sullivan & Cromwell recuerda que la adopción de una herramienta no dispensa de entender su funcionamiento. Ninguna tecnología, por prometedora que sea, reemplaza el juicio humano y los procesos de verificación.
Perspectiva general
El caso Sullivan & Cromwell y la iniciativa del Mississippi College School of Law ilustran dos respuestas complementarias a un mismo desafío: cómo integrar la IA sin caer en la trampa de sus defectos. La formación previa y los procedimientos de control posterior aparecen como los dos pilares indispensables de una adopción responsable.
Mientras la IA se cuela en ámbitos tan sensibles como la justicia, la medicina o las finanzas, la pregunta ya no es si la utilizamos, sino cómo lo hacemos. Y aparentemente, incluso los mejores bufetes jurídicos del mundo aún tienen algunas lecciones que aprender —lo cual, en cierto sentido, nos tranquiliza a todos respecto a nuestra propia relación con la tecnología.
