Durante décadas un acto procesal ha tenido una función precisa: ser leído por personas. Magistrados, abogados, peritos técnicos y secretarios judiciales interpretan sus contenidos, valoran sus argumentos, reconstruyen su valor probatorio. Los sistemas informáticos se han limitado, hasta hoy, a conservarlo, transmitirlo, archivarlo.
El caso que ha dado origen a esta reflexión llega de Brasil, de un proceso laboral en el que dos abogados habían insertado, dentro de un acto, una frase invisible al ojo distraído pero perfectamente legible por un sistema automático, que pedía explícitamente a la inteligencia artificial que contestara la petición de modo superficial sin impugnar los documentos. El juez no tardó semanas en darse cuenta: identificó el texto con herramientas informáticas durante el análisis normal del expediente, sancionando a ambos letrados y remitiendo las actuaciones al colegio profesional competente para los perfiles disciplinarios.
El dato más interesante, sin embargo, no es la sanción en sí. Es que el tribunal no tuvo que demostrar que la IA hubiera sido efectivamente influenciada ni que el intento hubiera producido consecuencias concretas: bastó con que el depósito de un acto con instrucciones ocultas violara los principios de corrección y buena fe procesal. No hace falta que el engaño funcione. Basta con que haya sido escrito y depositado.
Puede parecer una diferencia sutil. En realidad es un cambio de paradigma.
Un documento que ya no solo se lee
Cada vez más organizaciones adoptan herramientas de IA para analizar grandes volúmenes documentales, y el sector legal no es una excepción. Ya existen plataformas capaces de sintetizar expedientes, identificar referencias normativas, comparar sentencias, buscar precedentes y apoyar la gestión documental.
En estos contextos el documento deja de ser un simple texto para consultar: se convierte en la materia prima sobre la que el sistema construye sus elaboraciones. Y aquí el caso brasileño introduce un elemento que cambia la perspectiva: un modelo lingüístico no distingue por naturaleza entre un contenido que analizar y una instrucción que ejecutar, todo lo que entra en su contexto se procesa como potencial comando.
Cuando el contenido se convierte en comando: qué es el prompt injection
En el lenguaje de la ciberseguridad existe un término específico para este fenómeno: prompt injection. Se trata de la técnica que consiste en ocultar, dentro de un contenido que un sistema de IA está destinado a leer, una instrucción camuflada como texto normal, con el objetivo de hacerle ejecutar una acción distinta de aquella para la que ha sido encargado.
Existe una distinción importante entre dos variantes: la directa, en la que es el propio usuario quien intenta manipular el sistema, y la indirecta, en la que la orden está oculta en un documento tercero que la IA está autorizada a leer. El caso brasileño pertenece precisamente a esta segunda categoría: el acto procesal, un texto que nadie esperaría capaz de «hablar» a una máquina, se ha convertido en el vehículo del ataque.
Un aspecto técnico hace el fenómeno aún más insidioso. Una investigación reciente del MIT (presentada en ICML 2026) ha mostrado que los modelos lingüísticos tienden a inferir la autoridad de un texto por su estilo, más que por los marcadores técnicos que en la arquitectura separan sistema, usuario y herramientas; y si un texto suena como el razonamiento autorizado del propio modelo, tiende a ser tratado como tal incluso cuando proviene de una fuente poco fiable. En el estudio, simulando un falso razonamiento interno dentro de un canal de usuario, los investigadores obtuvieron una tasa de éxito del ataque del 60 % en los modelos más avanzados, frente a una tasa cercana a cero para los intentos de manipulación directa y burda. No es la lógica del texto la que engaña al sistema: es el tono con el que está escrito.
Ni siquiera hace falta que el texto sea legible
El nivel más sofisticado del fenómeno se refiere al ocultamiento técnico propiamente dicho. Un comando puede hacerse invisible a un lector humano usando caracteres Unicode de anchura cero o de control bidireccional (las mismas técnicas descritas por los llamados Trojan Source attacks identificados por la Universidad de Cambridge en 2021) permaneciendo igualmente perfectamente ejecutable por un sistema que elabora el texto carácter por carácter. Un acto puede por tanto parecer inocuo a los ojos de un juez y contener igualmente una instrucción operativa para cualquier algoritmo que lo procese.
La confianza en los documentos requiere un requisito adicional
La digitalización de la justicia ha concentrado hasta ahora la atención en autenticidad, firma electrónica, integridad del archivo, protección de datos. Elementos imprescindibles, pero ya no suficientes por sí solos.
Con la entrada de la IA se añade un requisito adicional: poder contar no solo con el origen del documento, sino también con el modo en que será interpretado por los sistemas automáticos. Hay un detalle del caso brasileño que merece especial atención: el comando oculto estaba escrito para atacar potencialmente tanto los sistemas de IA de la contraparte como los eventualmente ya en uso en el propio aparato judicial. Quien lo escribió, en otras palabras, daba por sentado que la inteligencia artificial ya había entrado en los flujos de trabajo de los tribunales, no solo en los de los despachos de abogados.
Un impacto que involucra a toda la cadena
Los magistrados necesitarán herramientas fiables, diseñadas para separar con claridad el contenido de un documento de las instrucciones que gobiernan su elaboración automática.
Los abogados se encontrarán ante una dimensión nueva en la redacción de los actos: el juez seguirá siendo el destinatario final, pero es cada vez más probable que el documento sea elaborado preliminarmente también por sistemas automáticos empleados para búsqueda, clasificación o síntesis.
También la Administración Pública deberá enfrentarse a este cambio, a medida que la IA entra en los procesos documentales y en los servicios a los ciudadanos. La seguridad ya no podrá limitarse a proteger infraestructuras y bases de datos, sino que deberá extenderse a los contenidos que alimentan estos sistemas.
Para los peritos técnicos se abre un ámbito completamente nuevo: evaluar un documento podría significar, en el futuro, examinar no solo su validez jurídica, sino también el posible impacto en los procesos automatizados que lo elaboran.
Una responsabilidad nueva para el legal-tech
Organizaciones internacionales como OWASP y NIST dedican ya creciente atención a los riesgos que nacen de la interacción entre documentos y modelos de inteligencia artificial. El principio de fondo es claro: ningún contenido recibido puede considerarse inocuo por el solo hecho de presentarse como un documento normal.
Las plataformas legal-tech del futuro deberán integrar mecanismos capaces de analizar los inputs de modo seguro, separando el contenido documental de las instrucciones que gobiernan el funcionamiento de la IA y reduciendo el riesgo de que informaciones construidas ad hoc puedan alterar los resultados de la elaboración. No una invitación a desconfiar de los documentos, sino el reconocimiento de que su papel ha cambiado.
Una reflexión que supera el caso individual
El valor del caso Galileu no se agota en la vicisitud judicial que lo ha llevado a la atención de los operadores del derecho. Su contribución más relevante está en haber puesto de manifiesto un fenómeno destinado a repetirse cada vez más a menudo: los documentos han dejado de ser simples contenedores de información y se han convertido en elementos que interactúan con sistemas inteligentes.
Durante años la ciberseguridad se ha concentrado en redes, servidores y aplicaciones. Hoy se añade una dimensión nueva: la de la seguridad documental en la era de la inteligencia artificial. Comprender esta evolución significa prepararse para una justicia cada vez más digital sin renunciar a un principio fundamental: la confianza en los documentos debe seguir garantizada, incluso cuando el primer lector ya no es una persona, sino un algoritmo.
Queda sin embargo un elemento que ninguna plataforma, por sofisticada que sea, podrá sustituir jamás: la capacidad de las personas de reconocer un riesgo antes incluso de que se convierta en un incidente.
Porque si es cierto que los sistemas aprenden de los documentos que analizan, es igualmente cierto que las organizaciones aprenden de las competencias de quienes tratan esos documentos cada día. Invertir en la concienciación de quienes trabajan en contacto con datos sensibles sigue siendo, hoy más que nunca, el primer baluarte de seguridad… ¡el que ningún algoritmo puede replicar por sí solo!
