Prompt injection judicial: Brasil blinda la IA de sus jueces
El CNJ de Brasil aprobó reglas contra el prompt injection: comandos ocultos en escritos judiciales que intentan manipular a la IA del tribunal.
Qué pasó
El Consejo Nacional de Justicia de Brasil aprobó el 9 de junio orientaciones para proteger los sistemas de IA del Poder Judicial contra una trampa concreta: la inyección de instrucciones, texto escondido en un documento procesal (a veces invisible para el ojo humano) que le habla directamente a la IA que lo procesa y trata de torcer lo que produce. Creó además un programa permanente que ataca sus propios sistemas a propósito, para encontrar los huecos antes que cualquier atacante.
Por qué importa
Es la primera respuesta institucional de un poder judicial de la región a este tipo de ataque. Y el ataque no es exclusivo de tribunales: existe en cualquier práctica donde se alimentan documentos de terceros a una IA. Contratos de la contraparte, expedientes, currículums, facturas de proveedores.
La pregunta que deja
Tú también procesas papeles que escribió alguien con intereses opuestos a los tuyos. ¿Tu IA los lee con la misma inocencia con que los leía tu pasante?
Cada martes desarmo una decisión real de operación, con el razonamiento completo. Léela si diriges tu propia práctica. Suscribirme a Exoesqueleto Cerebral.