Quand l’IA invente des références juridiques
L’intelligence artificielle continue de s’immiscer dans des secteurs où la rigueur est non négociable. Dernier exemple en date : le prestigieux cabinet américain Sullivan & Cromwell a dû présenter ses excuses publiques après qu’un document déposé en justice contenait des citations… inventées de toutes pièces par un outil d’IA. Un phénomène que les spécialistes appellent les “hallucinations”, cette fâcheuse tendance des modèles de langage à fabriquer des informations avec un aplomb déconcertant.
Andrew Dietderich, associé du cabinet, a reconnu que si la firme dispose bien de procédures internes pour éviter ce type de dérapages, celles-ci n’ont tout simplement pas été respectées dans ce cas précis. En clair : les garde-fous existaient, mais personne ne les a appliqués. Un classique de l’erreur humaine, aggravé par une confiance peut-être excessive dans la machine.
Ce que signifie une “hallucination” en termes simples
Pour comprendre ce qui s’est passé, un petit détour technique s’impose. Les grands modèles de langage (LLM), comme ceux qui alimentent des outils tels que ChatGPT ou ses concurrents, génèrent du texte en prédisant statistiquement les mots les plus probables dans un contexte donné. Problème : ils ne “savent” pas vraiment ce qu’ils disent. Quand on leur demande de citer une jurisprudence, ils peuvent très bien en inventer une qui semble parfaitement plausible — numéro d’arrêt, noms des parties, date — mais qui n’a jamais existé.
Dans un contexte judiciaire, soumettre une fausse référence à un tribunal n’est pas anodin. Cela peut aller de la simple correction embarrassante à des sanctions disciplinaires pour les avocats concernés. Sullivan & Cromwell, l’un des cabinets les plus réputés de Wall Street, s’en tire pour l’instant avec des excuses et une promesse de renforcer ses processus internes. Ouf.
La réponse du monde juridique : former avant tout
Face à ces dérives, le secteur juridique commence à s’organiser. À des milliers de kilomètres du bureau new-yorkais de Sullivan & Cromwell, le Mississippi College School of Law a décidé de prendre le taureau par les cornes. Depuis peu, la formation à l’intelligence artificielle est désormais obligatoire pour tous les étudiants de première année.
L’idée est simple : plutôt que d’ignorer l’IA ou de la bannir purement et simplement, mieux vaut apprendre aux futurs juristes à l’utiliser de façon responsable — et surtout à en identifier les limites. Comprendre qu’un outil peut “halluciner” des citations, c’est exactement le genre de connaissance critique qui peut éviter un incident diplomatique devant un juge.
Cette initiative s’inscrit dans un mouvement plus large : les tribunaux américains eux-mêmes commencent à légiférer sur l’usage de l’IA dans les procédures judiciaires, certains exigeant désormais que les avocats déclarent explicitement s’ils ont utilisé un outil d’IA pour préparer leurs documents.
Une tension révélatrice d’un défi universel
Ce qui se joue dans le monde juridique est en réalité un miroir de ce que vivent de nombreux secteurs confrontés à l’IA générative. D’un côté, la technologie offre des gains de productivité considérables : rédaction de documents, recherche de précédents, analyse contractuelle. De l’autre, elle introduit de nouveaux vecteurs d’erreur, parfois insidieux précisément parce que le résultat produit semble convaincant.
Le parallèle avec l’univers crypto n’est pas anodin. Dans un espace où les acteurs se précipitent sur les nouvelles technologies — souvent avant que les cadres réglementaires ne soient en place —, la mésaventure de Sullivan & Cromwell rappelle que l’adoption d’un outil ne dispense pas d’en comprendre le fonctionnement. Aucune technologie, aussi prometteuse soit-elle, ne remplace le jugement humain et les processus de vérification.
Mise en perspective
L’affaire Sullivan & Cromwell et l’initiative du Mississippi College School of Law illustrent deux réponses complémentaires à un même défi : comment intégrer l’IA sans se laisser piéger par ses défauts. La formation en amont et les procédures de contrôle en aval apparaissent comme les deux piliers indispensables d’une adoption responsable.
Alors que l’IA s’invite dans des domaines aussi sensibles que la justice, la médecine ou la finance, la question n’est plus de savoir si on l’utilise, mais comment on le fait. Et visiblement, même les meilleurs cabinets juridiques du monde ont encore quelques leçons à apprendre — ce qui, quelque part, nous rassure tous un peu sur notre propre rapport à la technologie.