La inteligencia artificial ha llegado a los tribunales para agilizar procesos, reducir tiempos y apoyar las decisiones judiciales. Pero con ella también llegaron nuevas formas de fraude que los sistemas jurídicos no habían contemplado antes. En mayo de 2026, Brasil se convirtió en el primer país del mundo en sancionar disciplinariamente a profesionales del derecho por intentar manipular un sistema de IA judicial mediante una técnica conocida como prompt injection. El caso no es anécdota: es una advertencia para todas las organizaciones que dependen de la inteligencia artificial en sus procesos internos.
¿Qué ocurrió exactamente?
El expediente ATOrd 0001062-55.2025.5.08.0130, tramitado ante la 3ª Vara do Trabalho de Parauapebas (Brasil), reveló algo inédito: dos abogadas insertaron texto oculto dentro de una demanda laboral. El texto era invisible para cualquier lector humano —escrito en color blanco sobre fondo blanco—, pero estaba dirigido directamente al sistema de inteligencia artificial Galileu, una herramienta generativa utilizada por el Poder Judicial brasileño para apoyar la actividad jurisdiccional.
El objetivo era manipular las respuestas de la IA para obtener una resolución favorable o inducir una sentencia deficiente para la parte contraria.
El juez Luiz Carlos de Araujo Santos Junior identificó la maniobra, calificó la conducta como un “ataque a la integridad de la actividad jurisdicional” y dictó sentencia el 12 de mayo de 2026. Las consecuencias fueron inmediatas: multa del 10% del monto del proceso, intervención de la OAB (Colegio de Abogados de Brasil) y remisión del caso a la corregiduría del tribunal. Días después, la OAB del Pará suspendió cautelarmente a las profesionales por 30 días y abrió un proceso ante su Tribunal de Ética y Disciplina.
¿Qué es el Prompt Injection y por qué es peligroso?
El prompt injection es una técnica de ataque que consiste en insertar instrucciones ocultas o maliciosas dentro de contenido que será procesado por un sistema de inteligencia artificial. El modelo de IA, al leer el documento, no distingue entre el contenido legítimo y las instrucciones inyectadas: las procesa como si fueran parte del input válido.
La organización OWASP (Open Web Application Security Project), referente mundial en seguridad de aplicaciones, clasifica al prompt injection como el riesgo número uno para sistemas basados en modelos de lenguaje, por encima de otras vulnerabilidades conocidas.
En el contexto empresarial, las consecuencias pueden ir mucho más allá de un tribunal:
- Manipulación de sistemas de análisis documental que procesan contratos, facturas o informes.
- Alteración de respuestas en chatbots corporativos que manejan información sensible.
- Extracción de datos confidenciales mediante instrucciones ocultas en documentos enviados a herramientas de IA internas.
- Sabotaje de procesos automatizados que toman decisiones basadas en contenido procesado por IA.
El efecto dominó en Brasil
El caso de Parauapebas no fue un hecho aislado. En menos de dos semanas, el fenómeno escalo a nivel nacional en Brasil:
- El 20 de mayo de 2026, el Supremo Tribunal de Justicia (STJ) abrió un inquérito policial por tentativas similares identificadas en su acervo de procesos.
- El 21 de mayo de 2026, un juez civil de São Paulo detectó prompt injection en una petición presentada contra un banco y exigió explicaciones formales.
- El STJ reforzó sus sistemas con tres niveles de protección que aíslan, filtran y neutralizan comandos maliciosos antes de que lleguen al modelo principal de IA.
Lo que en 2025 era una hipótesis académica, en 2026 ya es jurisprudencia y motivo de investigación penal.
La vulnerabilidad existe en toda organización que use IA
No se necesita ser un tribunal para estar expuesto. Cualquier empresa que utilice herramientas de inteligencia artificial para procesar documentos externos —correos electrónicos, contratos, solicitudes de clientes, reportes de proveedores— puede ser víctima de un ataque de prompt injection.
El escenario es especialmente crítico cuando:
- La IA tiene acceso a sistemas internos (bases de datos, correo, ERP).
- Se procesan documentos de terceros sin validación previa.
- El modelo de IA actúa de forma autónoma o semi-autónoma en flujos de trabajo.
En Ecuador, la adopción de herramientas de IA en el sector empresarial y gubernamental avanza de forma sostenida. Sin una infraestructura de seguridad adecuada, las organizaciones quedan expuestas a ataques que sus controles tradicionales no están diseñados para detectar.
Cómo proteger su organización
La seguridad frente al prompt injection no es solo responsabilidad del proveedor de IA: es parte de la estrategia de ciberseguridad integral de cada organización. Las medidas más efectivas incluyen:
- Validación y saneamiento de inputs: revisar cualquier contenido externo antes de que sea procesado por un sistema de IA.
- Segmentación de privilegios: limitar lo que la IA puede hacer o acceder en función del contexto.
- Monitoreo y auditoría de interacciones: registrar las entradas y salidas de los sistemas de IA para detectar patrones anómalos.
- Políticas de uso ético y responsable de IA: establecer protocolos claros para el uso de herramientas generativas dentro de la organización.
- Seguridad perimetral actualizada: asegurar que la red corporativa y los servicios conectados cuenten con protección activa ante amenazas emergentes.
El caso ATOrd 0001062-55.2025.5.08.0130 marcó un antes y un después en la historia de la inteligencia artificial aplicada al derecho. Pero su lección trasciende los tribunales: los sistemas de IA son tan seguros como el entorno en el que operan. Las empresas ecuatorianas que ya utilizan —o que planean adoptar— herramientas de inteligencia artificial tienen la responsabilidad de incorporar la seguridad desde el diseño, no como un complemento posterior. La pregunta ya no es si este tipo de ataques llegará a Ecuador, sino si su organización estará preparada cuando ocurra.
Referencias
- Fallo judicial caso ATOrd 0001062-55.2025.5.08.0130 – 3ª Vara do Trabalho de Parauapebas, juez Luiz Carlos de Araujo Santos Junior (12 de mayo de 2026).
- “Prompt Injection Judicial” – Diario Judicial (2026). https://www.diariojudicial.com/news-103427-prompt-injection-judicial
- “Prompt injection no Judiciário: quando o alerta vira caso concreto” – Migalhas (2026). https://www.migalhas.com.br/depeso/455971/prompt-injection-no-judiciario-quando-o-alerta-vira-caso-concreto
- “Juiz de SP flagra prompt injection em petição e cobra explicações” – Consultor Jurídico / ConJur (21 de mayo de 2026). https://www.conjur.com.br/2026-mai-21/juiz-de-sp-flagra-prompt-injection-em-peticao-contra-banco-e-cobra-explicacoes/
- “Prompt Injection: a Fraude Silenciosa Chega ao Judiciário” – AASP / Asociación de Abogados de São Paulo (2026). https://www.aasp.org.br/noticias/prompt-injection-a-fraude-silenciosa-chega-ao-judiciario/
- OWASP Top 10 for LLM Applications – Open Web Application Security Project (2025). https://owasp.org/www-project-top-10-for-large-language-model-applications/