Prompt injection judicial: Brasil blinda la IA de sus jueces
El CNJ de Brasil aprobó reglas contra el prompt injection: comandos ocultos en escritos judiciales que intentan manipular a la IA del tribunal.
Qué pasó
El Consejo Nacional de Justicia de Brasil aprobó el 9 de junio orientaciones para proteger los sistemas de IA del Poder Judicial contra una trampa concreta: la inyección de instrucciones, texto escondido en un documento procesal (a veces invisible para el ojo humano) que le habla directamente a la IA que lo procesa y trata de torcer lo que produce. Creó además un programa permanente que ataca sus propios sistemas a propósito, para encontrar los huecos antes que cualquier atacante.
Por qué importa
Es la primera respuesta institucional de un poder judicial de la región a este tipo de ataque. Y el ataque no es exclusivo de tribunales: existe en cualquier práctica donde se alimentan documentos de terceros a una IA. Contratos de la contraparte, expedientes, currículums, facturas de proveedores.
La pregunta que deja
Tú también procesas papeles que escribió alguien con intereses opuestos a los tuyos. ¿Tu IA los lee con la misma inocencia con que los leía tu pasante?
Every Tuesday I break down a real operating decision, with the full reasoning. Read it if you run your own practice. Subscribe to Exoesqueleto Cerebral.