IA responsable

Cómo construir modelos de predicción de salud pública fiables

Los modelos de predicción pueden reforzar las decisiones de salud pública o socavarlas silenciosamente. Seis prácticas para construir modelos en los que puedan confiar los responsables de la toma de decisiones.

Las decisiones de salud pública se apoyan cada vez más en modelos predictivos: pronósticos de picos estacionales, mapas de riesgo geográfico y clasificaciones de comunidades para las intervenciones. Cuando estos modelos son buenos, ayudan a que los recursos limitados lleguen más lejos. Cuando son deficientes, o simplemente se entienden mal, pueden inducir a error con un aire de autoridad científica.

La confianza en un modelo de predicción no es algo que un proveedor pueda atribuirse. Hay que ganarla con la práctica. Estas son las seis prácticas que consideramos más importantes.

1. Empezar por la decisión, no por el modelo

Un modelo solo es útil si orienta una decisión real. Antes de construir nada, conviene preguntarse: ¿quién usará este resultado? ¿Qué hará de forma diferente? ¿Con cuánta antelación necesita saberlo? ¿A qué escala geográfica planifica?

Un pronóstico nacional de gran precisión sirve de poco a un equipo distrital que necesita orientación a nivel de barrio con tres semanas de antelación.

2. Superar una referencia simple

Todo modelo de pronóstico debe compararse con alternativas simples: la misma semana del año anterior, un promedio estacional o un pronóstico ingenuo de persistencia. Si un modelo complejo no logra superar de forma fiable estas referencias con datos reservados, no debe utilizarse, por sofisticado que parezca.

3. Validar tal como se va a usar

La validación debe reflejar el uso operativo. Eso significa evaluar pronósticos elaborados solo con los datos que habrían estado disponibles en su momento, incluidos los retrasos de notificación. Significa probar en varias temporadas y geografías, incluidos años inusuales. Y significa informar del desempeño en los lugares y periodos que más importan, como los momentos previos a los picos estacionales.

4. Hacer que la incertidumbre sea imposible de pasar por alto

Una sola línea en un gráfico invita a un exceso de confianza. Los intervalos de predicción deben mostrarse por defecto y estar calibrados: un intervalo del 80 % debería contener el valor observado aproximadamente el 80 % de las veces. Los indicadores de calidad de los datos, como la exhaustividad de la notificación, deben acompañar a los pronósticos para que los usuarios vean cuándo los insumos son débiles.

5. Explicar los factores en lenguaje sencillo

Es más probable que los responsables de decisiones usen un pronóstico, y lo cuestionen de forma adecuada, cuando entienden qué lo impulsa. «El riesgo aumenta sobre todo por lluvias superiores a la media hace cuatro a seis semanas y por el impulso reciente de los casos» es más útil que una puntuación aislada. Las explicaciones deben ser honestas sobre sus límites: describen el comportamiento del modelo, no necesariamente mecanismos causales.

6. Mantener a las personas responsables e implicadas

Los modelos deben apoyar las decisiones, no tomarlas. Eso implica una responsabilidad clara sobre cada decisión, la posibilidad de que los expertos anulen los resultados del modelo dejando constancia de su justificación, y una revisión periódica de cómo se usaron esos resultados y con qué efectos.

Más allá del modelo: la gobernanza

Una predicción fiable también depende de la gobernanza que rodea al modelo:

  • Acuerdos de datos que respeten la propiedad y la soberanía.
  • Informes transparentes de los métodos, siguiendo cuando corresponda las directrices establecidas para estudios de modelos de predicción.
  • Monitoreo de las desviaciones a medida que cambian los sistemas de notificación, las poblaciones y el clima.
  • Revisión de equidad para comprobar si las brechas de datos perjudican sistemáticamente a algunas comunidades.

Nuestro compromiso

En Epinova tratamos estas prácticas como requisitos. Nuestros modelos están en desarrollo y publicaremos los resultados de validación antes de cualquier uso operativo. Preferimos mostrar con honestidad un modelo modesto antes que uno impresionante en el que los responsables de decisiones no puedan confiar.

Si trabaja en predicción en salud pública, como investigador, gerente de programa o financiador, nos encantaría intercambiar experiencias.

Fuentes y lecturas adicionales

  1. Ética y gobernanza de la inteligencia artificial en el ámbito de la salud - Organización Mundial de la Salud
  2. Directrices TRIPOD para informar sobre modelos de predicción - Grupo TRIPOD

¿Le interesa lo que estamos construyendo?

Hable con nosotros sobre pilotos, alianzas y colaboraciones de investigación.