La Capa de Empatía: Escribir IA que Habla con Personas Asustadas

Mi esposa y yo aprendimos a leer el tono antes de aprender a leer los valores de laboratorio. En la UCIN, te vuelves experto en las pequeñas señales lingüísticas de las personas que cuidan a tu hijo. Una enfermera que dice "tuvo una buena noche" de cierta manera significa algo distinto de las mismas palabras dichas de otra manera. Aprendes a oír la diferencia entre una pausa que es rutina y una pausa que te está preparando. Cuando estás así de asustado, el lenguaje no es entrega de información. El lenguaje es aquello con lo que sobrevives.

Así que cuando construí la capa de empatía de MILA, la parte del sistema que da forma a cómo se lee realmente un mensaje, no la pensé como pulido. La pensé como seguridad. Porque he sido la persona del otro lado, sosteniendo un teléfono o una tabla con sujetapapeles, analizando cada palabra en busca de un indicio de lo que viene. Equivoca el tono y puedes asustar a alguien que no necesitaba ser asustado, o tranquilizar falsamente a alguien que necesitaba prepararse, o simplemente herir a una persona que ya se estaba quebrando.

Este texto trata de cómo escribes IA que habla con personas en el peor momento de sus vidas, y de por qué creo que el tono es uno de los problemas de seguridad más subestimados en la IA de salud.

Claro No Es lo Mismo que Amable

El mundo de la IA en salud se ha obsesionado, con razón, con la claridad. Lenguaje llano, nivel de lectura bajo, sin jerga. Soy creyente. Pero en algún punto del camino "claro" empezó a tratarse como si fuera todo el trabajo, y no lo es.

"La bilirrubina de su hija está en 28 y subiendo. Esto puede causar daño cerebral. El equipo está considerando una exanguinotransfusión." Cada palabra es clara. Un padre leyendo eso solo, a las 3 de la madrugada, en un teléfono, sin nadie al lado, puede dejar de respirar. Es preciso. Es claro. No es amable, y porque no es amable, puede que ni siquiera se reciba correctamente, el pánico no es un buen estado para comprender.

Amable no es vago. Amable no oculta la verdad. Amable es la diferencia entre entregarle a alguien un hecho duro y entregárselo de una manera que pueda sostener. La misma información, moldeada con cuidado: "Quiero darle una actualización honesta, y quiero que sepa que el equipo está aquí mismo con ella. La bilirrubina de Mila ha subido a un nivel que tomamos en serio porque, si sigue subiendo, puede afectar el cerebro. Por eso los doctores están preparando un tratamiento llamado exanguinotransfusión. La Dra. Reyes lo llamará en unos minutos para explicárselo." Los mismos hechos. Una supervivencia distinta.

Las Dos Fallas: Falsa Esperanza y Falsa Alarma

La mayor parte del trabajo de la capa de empatía es navegar entre dos peligros específicos, y tiran en direcciones opuestas.

La falsa esperanza es la falla de suavizar demasiado. "¡Todo se ve genial, no se preocupe!" cuando las cosas son precarias. Se siente amable en el momento. Es una traición. Cuando la verdad llegue, y llegará, la familia se siente engañada, y la confianza que necesitabas para el camino difícil que viene se fue. La falsa esperanza es crueldad disfrazada de consuelo.

La falsa alarma es la falla opuesta: lenguaje que hace que un evento de rutina suene como una crisis. La vida en la UCIN está llena de cosas normales-para-prematuros que suenan aterradoras para un lego, una desaturación, una bradicardia, una toma suspendida. Describe esas con lenguaje de alarma que suena clínico y sometes a una familia a un trauma repetido por eventos que el personal apenas registra.

La capa de empatía tiene que calibrar el lenguaje a la severidad clínica real, no a lo aterrador del vocabulario. Esto es genuinamente difícil, porque el modelo no siente lo que está en juego. Así que lo codifico: la severidad es una entrada explícita, la plantilla del mensaje se adapta a ella, y el sistema se inclina hacia la firmeza honesta en lugar de cualquiera de los dos reflejos.

   severidad clínica ──┐
   (entrada explícita) │
                       ▼
        ┌──────────────────────────────┐
        │   CALIBRACIÓN DE TONO         │
        │                              │
        │   rutina ──▶ cálido, firme,   │
        │             normalizar sin    │
        │             desestimar        │
        │                              │
        │   notable ─▶ honesto, nombrar │
        │             la preocupación,  │
        │             decir qué sigue   │
        │                              │
        │   serio ──▶ verdad llana +    │
        │            presencia + un     │
        │            humano llamará     │
        └──────────────┬───────────────┘
                       │
                       ▼
            nunca: minimizar un riesgo real
            nunca: dramatizar uno de rutina
                       │
                       ▼
              el médico humano revisa

La regla bajo el diagrama: cuando hay incertidumbre sobre la severidad, el sistema no adivina el tono. Lo marca para el médico. La calibración del tono es exactamente el tipo de juicio que debería deferir a un humano cuando la confianza es baja.

Nivel de Lectura, en las Condiciones Reales del Miedo

Apunto los mensajes de MILA dirigidos a los padres a aproximadamente un nivel de lectura de sexto a octavo grado. No porque los padres no sean inteligentes, muchos de los padres junto a los que me senté eran doctores, abogados, ingenieros, sino porque el miedo colapsa la comprensión lectora. Un cerebro aterrado y privado de sueño lee varios grados por debajo de su capacidad descansada. No estás escribiendo para el intelecto de la persona. Estás escribiendo para su sistema nervioso a las 3 de la madrugada.

Eso significa oraciones cortas. Una idea por oración. Sustantivos concretos en vez de abstracciones. Sin anidar cláusulas que un lector asustado tenga que sostener en la memoria de trabajo. Y críticamente, la oración más importante primero, porque una persona asustada quizás solo procese del todo la apertura antes de que su mente se adelante.

Esta es la misma disciplina sobre la que escribí en UX de salud: diseña para las condiciones reales de uso, no las idealizadas. Para los médicos eso significó diseñar para interrupciones de quince segundos. Para los padres asustados significa diseñar para una mente que apenas se sostiene.

El Idioma y la Cultura No Son Opcionales

Soy panameño. Construí MILA bilingüe desde el principio, inglés y español, y no como una ocurrencia tardía de traducción. Un mensaje que es cálido y natural en inglés puede aterrizar como rígido, clínico o incluso frío cuando se traduce a máquina al español, porque la calidez vive en el modismo, en el ritmo, en las convenciones culturales de cómo se expresa el cuidado. "Le estamos echando un ojo de cerca" no se traduce palabra por palabra a algo que un padre hispanohablante oye como cariñoso.

Así que la capa de empatía trata cada idioma como un objetivo de primera clase con su propio tono, no como una cadena para intercambiar. Y va más allá del idioma: cómo se relacionan las familias con la autoridad clínica, qué tan directamente se entregan habitualmente las malas noticias, quién en una familia espera ser informado primero, todo esto varía, y un sistema que lo ignora no es neutral, simplemente está usando por defecto las normas de una cultura y llamándolas universales.

No puedo codificar cada cultura a la perfección. Pero puedo negarme a fingir que un solo tono le queda a todos, y puedo mantener al humano en el bucle precisamente para que un médico que conoce a esta familia pueda ajustar.

Nunca Automatizar Fuera al Humano

Esta es la línea que no cruzaré, y es el corazón de todo esto. MILA nunca envía un mensaje por su cuenta. Un médico lee cada borrador, lo ajusta, y elige enviarlo. Siempre.

No porque los borradores sean malos, son buenos, ese es el punto. Es porque el momento no le pertenece al sistema. Le pertenece a una persona. El médico carga lo que el modelo nunca podrá: la conversación que tuvieron en persona hace una hora, el miedo particular que vieron en el rostro de esta madre, la historia de esta familia, lo que se dijo junto a la cama que no está en ninguna historia clínica. MILA puede dar forma al lenguaje. No puede sostener a un ser humano a través de la peor noche de su vida. Solo otro humano puede hacer eso.

Por esto sigo volviendo a por qué construí MILA en primer lugar. El sistema existe para mejorar la conversación entre las familias y su equipo de atención, nunca para reemplazarla. La capa de empatía está al servicio de una conexión humana, no es un sustituto de ella. El día en que una IA le envíe a un padre asustado un mensaje sobre su hijo sin un humano en medio es el día en que habremos automatizado fuera la cosa misma que lo hacía cuidado.

Lo Que Desearía que Alguien Nos Hubiera Enviado

Pienso, a veces, en los mensajes que mi familia recibió, y en los que no. Los fríos que nos asustaron sin necesidad. Los vagos que nos dieron una esperanza que no debíamos tener. Los silencios donde unas pocas palabras honestas y amables lo habrían significado todo.

No puedo reescribir esos. Pero puedo construir algo que ayude al próximo padre exhausto a recibir la verdad de una manera que pueda sobrevivir. Clara, porque merece entender. Amable, porque apenas se sostiene de pie. Y siempre cargada por un humano, porque en el peor momento de la vida de alguien, nunca debería estar hablando con una máquina a solas.

Esa es la capa de empatía. No es la parte blanda del sistema. En este trabajo, es la parte que más hace para mantener enteras a las personas.

---

Si construyes herramientas de comunicación para personas en crisis, o eres una familia que ha vivido esto, contáctame. El tono es seguridad, y este trabajo se hace mejor juntos.