Pendant des décennies, un acte de procédure a eu une fonction précise : être lu par des personnes. Magistrats, avocats, conseillers techniques et greffiers en interprètent le contenu, en pèsent les arguments et en reconstruisent la valeur probante. Les systèmes informatiques se sont limités, jusqu’à aujourd’hui, à le conserver, le transmettre et l’archiver.
Le cas à l’origine de cette réflexion nous vient du Brésil, d’un procès du travail dans lequel deux avocats avaient inséré, au sein d’un acte, une phrase invisible à l’œil nu mais parfaitement lisible par un système automatique, qui demandait explicitement à l’intelligence artificielle de contester la pétition de manière superficielle sans contester les documents. Le juge n’a pas mis des semaines à s’en apercevoir : il a identifié le texte à l’aide d’outils informatiques lors de l’analyse normale du dossier, sanctionnant les deux avocats et transmettant les actes à l’ordre professionnel compétent pour les aspects disciplinaires.
Le point le plus intéressant n’est toutefois pas la sanction en soi. C’est que le tribunal n’a pas eu à prouver que l’IA avait été effectivement influencée ni que la tentative avait produit des conséquences concrètes : il a suffi que le dépôt d’un acte contenant des instructions occultes viole les principes de loyauté et de bonne foi procédurale. Il n’est pas nécessaire que la tromperie fonctionne. Il suffit qu’elle ait été écrite et déposée.
Cela peut sembler être une nuance subtile. En réalité, il s’agit d’un changement de paradigme.
Un document qui n’est plus seulement lu
De plus en plus d’organisations adoptent des outils d’IA pour analyser de grands volumes de documents, et le secteur juridique ne fait pas exception. Il existe déjà des plateformes capables de synthétiser des dossiers, d’identifier des références réglementaires, de comparer des jugements, de rechercher des précédents et de soutenir la gestion documentaire.
Dans ces contextes, le document cesse d’être un simple texte à consulter : il devient la matière première sur laquelle le système construit ses propres élaborations. Et ici, le cas brésilien introduit un élément qui change la perspective : un modèle linguistique ne distingue pas par nature un contenu à analyser d’une instruction à exécuter ; tout ce qui entre dans son contexte est traité comme une commande potentielle.
Quand le contenu devient une commande : qu’est-ce que le prompt injection
Dans le langage de la cybersécurité, il existe un terme spécifique pour ce phénomène : prompt injection. Il s’agit d’une technique qui consiste à cacher, à l’intérieur d’un contenu qu’un système d’IA est destiné à lire, une instruction camouflée en texte normal, dans le but de lui faire exécuter une action différente de celle pour laquelle il a été mandaté.
Il existe une distinction importante entre deux variantes : l’injection directe, où l’utilisateur lui-même tente de manipuler le système, et l’injection indirecte, où l’ordre est caché dans un document tiers que l’IA est autorisée à lire. Le cas brésilien appartient précisément à cette seconde catégorie : l’acte de procédure, un texte que personne ne s’attendrait à voir capable de « parler » à une machine, est devenu le vecteur de l’attaque.
Un aspect technique rend le phénomène encore plus insidieux. Une étude récente du MIT (présentée à l’ICML 2026) a montré que les modèles linguistiques ont tendance à déduire l’autorité d’un texte de son style, plutôt que des marqueurs techniques qui, dans l’architecture, séparent le système, l’utilisateur et les outils ; et si un texte ressemble au raisonnement faisant autorité du modèle lui-même, il a tendance à être traité comme tel, même s’il provient d’une source peu fiable. Dans l’étude, en simulant un faux raisonnement interne au sein d’un canal utilisateur, les chercheurs ont obtenu un taux de réussite de l’attaque de 60 % sur les modèles les plus avancés, contre un taux proche de zéro pour les tentatives de manipulation directe et brute. Ce n’est pas la logique du texte qui trompe le système : c’est le ton avec lequel il est écrit.
Il n’est même pas nécessaire que le texte soit lisible
Le niveau le plus sophistiqué du phénomène concerne la dissimulation technique proprement dite. Une commande peut être rendue invisible pour un lecteur humain en utilisant des caractères Unicode de largeur nulle ou de contrôle bidirectionnel (les mêmes techniques décrites par les attaques dites Trojan Source identifiées par l’Université de Cambridge en 2021) tout en restant parfaitement exécutable par un système qui traite le texte caractère par caractère. Un acte peut donc paraître inoffensif aux yeux d’un juge tout en contenant une instruction opérationnelle pour n’importe quel algorithme qui le traite.
La confiance dans les documents exige une condition supplémentaire
La numérisation de la justice a jusqu’à présent concentré l’attention sur l’authenticité, la signature électronique, l’intégrité des fichiers et la protection des données. Des éléments indispensables, mais qui ne suffisent plus à eux seuls.
Avec l’arrivée de l’IA, une exigence supplémentaire s’ajoute : pouvoir compter non seulement sur l’origine du document, mais aussi sur la manière dont il sera interprété par les systèmes automatiques. Un détail de l’affaire brésilienne mérite une attention particulière : la commande cachée était écrite pour viser potentiellement aussi bien les systèmes d’IA de la partie adverse que ceux éventuellement déjà utilisés par l’appareil judiciaire lui-même. En d’autres termes, celui qui l’a écrite partait du principe que l’intelligence artificielle était déjà entrée dans les flux de travail des tribunaux, et pas seulement dans ceux des cabinets d’avocats.
Un impact qui concerne toute la filière
Les magistrats auront besoin d’outils fiables, conçus pour séparer clairement le contenu d’un document des instructions qui régissent son traitement automatique.
Les avocats seront confrontés à une nouvelle dimension dans la rédaction des actes : le juge restera le destinataire final, mais il est de plus en plus probable que le document soit également traité au préalable par des systèmes automatiques utilisés pour la recherche, la classification ou la synthèse.
L’administration publique devra également faire face à ce changement, à mesure que l’IA pénètre dans les processus documentaires et les services aux citoyens. La sécurité ne pourra plus se limiter à la protection des infrastructures et des bases de données, mais devra s’étendre aux contenus qui alimentent ces systèmes.
Pour les conseillers techniques, un domaine entièrement nouveau s’ouvre : évaluer un document pourrait signifier, à l’avenir, examiner non seulement sa validité juridique, mais aussi son impact possible sur les processus automatisés qui le traitent.
Une nouvelle responsabilité pour la legal-tech
Des organisations internationales comme l’OWASP et le NIST accordent déjà une attention croissante aux risques découlant de l’interaction entre les documents et les modèles d’intelligence artificielle. Le principe fondamental est clair : aucun contenu reçu ne peut être considéré comme inoffensif par le seul fait qu’il se présente comme un document normal.
Les plateformes legal-tech du futur devront intégrer des mécanismes capables d’analyser les entrées de manière sécurisée, en séparant le contenu documentaire des instructions qui régissent le fonctionnement de l’IA et en réduisant le risque que des informations construites ad hoc puissent altérer les résultats du traitement. Il ne s’agit pas d’une invitation à se méfier des documents, mais de la reconnaissance que leur rôle a changé.
Une réflexion qui dépasse le cas particulier
La valeur de l’affaire Galileu ne s’arrête pas à la procédure judiciaire qui l’a portée à l’attention des professionnels du droit. Sa contribution la plus pertinente est d’avoir mis en lumière un phénomène destiné à se répéter de plus en plus souvent : les documents ont cessé d’être de simples réceptacles d’informations pour devenir des éléments qui interagissent avec des systèmes intelligents.
Pendant des années, la cybersécurité s’est concentrée sur les réseaux, les serveurs et les applications. Aujourd’hui, une nouvelle dimension s’ajoute : celle de la sécurité documentaire à l’ère de l’intelligence artificielle. Comprendre cette évolution, c’est se préparer à une justice de plus en plus numérique sans renoncer à un principe fondamental : la confiance dans les documents doit rester garantie, même lorsque le premier lecteur n’est plus une personne, mais un algorithme.
Il reste cependant un élément qu’aucune plateforme, aussi sophistiquée soit-elle, ne pourra jamais remplacer : la capacité des personnes à reconnaître un risque avant même qu’il ne devienne un incident.
Car s’il est vrai que les systèmes apprennent des documents qu’ils analysent, il est tout aussi vrai que les organisations apprennent des compétences de ceux qui traitent ces documents au quotidien. Investir dans la sensibilisation de ceux qui travaillent au contact de données sensibles reste, aujourd’hui plus que jamais, le premier rempart de sécurité… celui qu’aucun algorithme ne peut reproduire seul !
