IA responsable

Construire des modèles de prédiction fiables en santé publique

Les modèles de prédiction peuvent renforcer les décisions de santé publique - ou les fragiliser discrètement. Six pratiques pour construire des modèles dignes de confiance.

Les décisions de santé publique s’appuient de plus en plus sur des modèles prédictifs : prévisions des pics saisonniers, cartes du risque géographique, classements des communautés pour les interventions. Lorsque ces modèles sont bons, ils permettent à des ressources limitées d’aller plus loin. Lorsqu’ils sont médiocres - ou simplement mal compris - ils peuvent induire en erreur avec une apparence d’autorité scientifique.

La confiance dans un modèle de prédiction n’est pas quelque chose qu’un fournisseur peut revendiquer. Elle se gagne par la pratique. Voici six pratiques qui nous semblent les plus importantes.

1. Partir de la décision, pas du modèle

Un modèle n’est utile que s’il éclaire une décision réelle. Avant de construire quoi que ce soit, il vaut la peine de se demander : qui utilisera ce résultat ? Que fera-t-il différemment ? Combien de temps à l’avance doit-il savoir ? À quelle échelle géographique planifie-t-il ?

Une prévision nationale d’une précision remarquable est de peu d’utilité pour une équipe de district qui a besoin d’indications à l’échelle des quartiers trois semaines à l’avance.

2. Faire mieux qu’une référence simple

Tout modèle de prévision doit être comparé à des alternatives simples : la même semaine l’an dernier, une moyenne saisonnière ou une prévision naïve de persistance. Si un modèle complexe ne parvient pas à battre de manière fiable ces références sur des données réservées, il ne doit pas être utilisé - aussi sophistiqué qu’il paraisse.

3. Valider comme il sera utilisé

La validation doit refléter l’usage opérationnel. Cela signifie évaluer des prévisions établies uniquement avec les données qui auraient été disponibles à l’époque, en tenant compte des délais de déclaration. Cela signifie tester sur plusieurs saisons et zones géographiques, y compris des années inhabituelles. Et cela signifie rendre compte des performances pour les lieux et périodes qui comptent le plus - comme la période précédant les pics saisonniers.

4. Rendre l’incertitude impossible à ignorer

Une ligne unique sur un graphique invite à l’excès de confiance. Les intervalles de prédiction doivent être affichés par défaut et être calibrés : un intervalle de 80 % doit contenir la valeur observée environ 80 % du temps. Des indicateurs de qualité des données - comme l’exhaustivité de la déclaration - doivent accompagner les prévisions pour que les utilisateurs voient quand les données d’entrée sont fragiles.

5. Expliquer les facteurs en langage clair

Les décideurs sont plus enclins à utiliser une prévision - et à la remettre en question à bon escient - lorsqu’ils comprennent ce qui la détermine. « Le risque augmente principalement en raison de pluies supérieures à la moyenne il y a quatre à six semaines et de la dynamique récente des cas » est plus utile qu’un score seul. Les explications doivent être honnêtes sur leurs limites : elles décrivent le comportement du modèle, pas nécessairement des mécanismes causaux.

6. Garder les personnes responsables et impliquées

Les modèles doivent soutenir les décisions, pas les prendre. Cela suppose une responsabilité claire pour chaque décision, la possibilité pour les experts de passer outre les résultats du modèle en consignant leur justification, et un examen régulier de la manière dont ces résultats ont été utilisés et avec quels effets.

Au-delà du modèle : la gouvernance

Une prédiction digne de confiance dépend aussi de la gouvernance qui entoure le modèle :

  • Des accords sur les données qui respectent la propriété et la souveraineté.
  • Une publication transparente des méthodes, en suivant lorsque c’est pertinent les lignes directrices établies pour les études de modèles de prédiction.
  • Un suivi de la dérive à mesure que les systèmes de déclaration, les populations et le climat évoluent.
  • Un examen de l’équité pour vérifier si des lacunes de données désavantagent systématiquement certaines communautés.

Notre engagement

Chez Epinova, nous considérons ces pratiques comme des exigences. Nos modèles sont en cours de développement, et nous publierons les résultats de validation avant toute utilisation opérationnelle. Nous préférons présenter honnêtement un modèle modeste plutôt qu’un modèle impressionnant auquel les décideurs ne peuvent pas se fier.

Si vous travaillez sur la prédiction en santé publique - en tant que chercheur, responsable de programme ou bailleur - nous serions heureux d’échanger avec vous.

Sources et lectures complémentaires

  1. Éthique et gouvernance de l’intelligence artificielle pour la santé - Organisation mondiale de la Santé
  2. Lignes directrices TRIPOD pour la publication des modèles de prédiction - Groupe TRIPOD

Intéressé par ce que nous construisons ?

Parlez-nous de pilotes, de partenariats et de collaborations de recherche.