Triaje con IA en Brasil: quién firma la decisión
Un sistema de IA priorizó camas de UCI en Minas Gerais y una espera terminó mal. El caso expone el riesgo de delegar el juicio final en un puntaje.
Un número decidió quién esperaba y quién no. En el estado de Minas Gerais, Brasil, Rebeca Cardoso Tenente Molina, psicóloga de 32 años, murió tras cinco días esperando una cama de cuidados intensivos. Su traslado iba de São João Nepomuceno a Oliveira, unos 300 kilómetros. Desde el 19 de mayo de 2026, el estado usa un sistema de triaje con IA llamado Core-MG (el centro de operaciones de regulación estatal) para priorizar a los pacientes que esperan cama. A Rebeca el sistema le asignó una gravedad de 6.8 sobre 10. Su familia sostiene que correspondía un 10.
Lo que se sabe del caso
Rebeca necesitaba una cama de terapia intensiva. El sistema la colocó en la fila con un puntaje de 6.8. Su hermana, abogada, contó a la prensa que intentaron que le subieran el nivel de gravedad y que el sistema no lo aceptaba: los exámenes que alimentaban el cálculo no justificaban un número más alto. La cama llegó tarde.
La secretaría de salud del estado respondió que los traslados dependen de que haya una cama disponible que coincida con la necesidad clínica, y que Core-MG "no alteró de forma sustancial el protocolo de traslados". El caso fue reportado por la prensa brasileña (MG1 y Tribuna de Minas), con cobertura en inglés en Futurism el 14 de junio de 2026.
El problema no es usar IA para organizar camas
Conviene separar dos cosas que es fácil confundir. La primera es la escasez: faltan camas de cuidados intensivos, y ningún algoritmo fabrica camas que no existen. Ese es el fondo del caso, y es anterior a cualquier software. Usar una herramienta para ordenar una fila de pacientes cuando los recursos no alcanzan no es, por sí mismo, el error.
La segunda cosa es el diseño. Y ahí aparece la pregunta incómoda: cuando un médico o un familiar mira al paciente y su juicio dice una cosa, pero el número dice otra, ¿quién manda? Según lo que contó la familia, el sistema no dejaba subir la gravedad porque los exámenes no lo respaldaban. Es decir, el puntaje quedó por encima del criterio de la persona que estaba mirando al paciente.
La pregunta que nadie respondió: quién firma
Si el 6.8 hubiera sido una sugerencia que un profesional podía anular, este sería otro caso. La cuestión no es si el número estaba bien o mal calculado. Es si alguien con autoridad clínica podía corregirlo y dejar constancia de por qué. A eso se le llama override humano: la capacidad de que una persona invalide la salida de la máquina y quede registrado quién lo hizo y con qué argumento.
Cuando ese mecanismo no existe, o existe pero es tan difícil de activar que en la práctica nadie lo usa, la responsabilidad se diluye. El profesional dirá que el sistema no se lo permitía. El sistema no responde ante nadie: es un cálculo. Y la familia se queda sin un nombre a quién preguntarle por qué su paciente esperó con un 6.8.
Esto ya lo vimos venir en otros sectores
No es un problema exclusivo de la salud. En cualquier dominio regulado, donde una decisión afecta derechos o vidas, la IA tiene que ser auditable y dejar la última firma a un humano. Lo escribimos a propósito de por qué en sectores regulados la IA tiene que ser auditable, y se vio con crudeza cuando un ataque de inyección de prompts comprometió un sistema judicial en Brasil. El patrón se repite: la máquina calcula rápido, pero la cuenta de quién responde queda sin saldar.
La diferencia, en salud, es el reloj. Un error en un expediente judicial se puede revisar en una segunda instancia. Una cama que llega al sexto día, no.
Qué prueba este caso de triaje con IA y qué no
Hay que ser honesto con los límites de lo que sabemos. No hay datos públicos suficientes para afirmar que la IA causó la muerte de Rebeca. Pudo haber sido la falta de camas, una combinación de factores, o que ningún sistema, humano o automático, habría conseguido el traslado a tiempo. Un solo caso no condena un sistema entero, y tratarlo como prueba definitiva sería exactamente el tipo de salto que conviene evitar.
Lo que sí expone el caso es un problema de diseño, y ese problema no necesita una muerte para ser real: cuando la prioridad en una situación de vida o muerte la fija un puntaje que el juicio humano no puede corregir ni anular, la trazabilidad y la responsabilidad quedan subordinadas a un número. Eso es revisable hoy, en cualquier sistema de triaje con IA que esté en operación, antes de que haya un segundo nombre.
Core-MG entró en operación el 19 de mayo. Rebeca murió en los días siguientes.
Cada martes desarmo una decisión real de operación, con el razonamiento completo. Léela si diriges tu propia práctica. Suscribirme a Exoesqueleto Cerebral.