IA en santé : ce qui bloque réellement le déploiement

Une solution validée peut quand même échouer à se déployer

Pour ouvrir ce deuxième webinaire, le Dr Rajae Ghanimi pose le problème central : une solution d'intelligence artificielle en santé peut être techniquement performante, disposer de preuves cliniques solides, et pourtant ne jamais parvenir à un déploiement réel. La question, souligne-t-elle, devient alors moins technologique que décisionnelle, organisationnelle, économique et juridique : qui paie, qui décide, qui valide, qui assume la responsabilité, et surtout comment mesure-t-on concrètement l'impact une fois l'outil mis en service. C'est cette grille de lecture que Nicolas Schneider, fondateur de JuliaShift, cabinet de conseil en décision pour les MedTech, est venu partager.

Le vrai obstacle n'est pas la technologie, c'est l'utilisateur final

Pour Nicolas Schneider, la barrière technologique est aujourd'hui quasiment effacée : construire un outil d'IA est devenu relativement simple. La vraie question est ailleurs : cet outil a-t-il été co-construit avec les utilisateurs finaux (un médecin, mais aussi un autre professionnel de santé, ou un logisticien), est-il financable, est-il conforme à une réglementation qui diffère selon les continents, et surtout s'intègre-t-il au reste des logiciels déjà utilisés au quotidien. Un outil non interopérable, qui oblige à ressaisir des informations d'un logiciel à un autre, fait perdre du temps et crée des erreurs. Nicolas Schneider insiste aussi sur un biais fréquent chez les industriels : sous-estimer le temps d'écran réel d'un professionnel de santé, très différent de celui d'un informaticien, ce qui doit orienter la conception même du produit.

La « vallée de la mort » : quand personne ne décide

Nicolas Schneider illustre ce blocage par un cas anonymisé : un outil dont l'intérêt clinique était prouvé, mais dont l'économie se répartissait entre deux payeurs distincts (l'État et un établissement de santé), chacun ayant intérêt à ne pas être celui qui tranche. Résultat : ni oui, ni non, une non-décision qui s'est éternisée pendant des mois de phase pilote, jusqu'à ce que l'entreprise qui avait développé la solution, seule à supporter les coûts, en fasse les frais. Sa conclusion : un refus se traite et se corrige, mais une décision qui n'arrive jamais consomme de la trésorerie sans jamais produire de résultat.

Qui paie, qui décide, qui valide : l'absence de grille commune

Sur le financement, Nicolas Schneider rappelle qu'il n'y a presque jamais un seul payeur : l'État via ses agences, les industriels, les établissements de santé se partagent la décision, sans qu'aucun ne détienne seul l'intérêt de trancher. Sur la validation, une étude récente a recensé 27 grilles d'évaluation différentes rien qu'en Europe, certains pays utilisant des codes couleur, d'autres des grades alphabétiques, sans mise en commun des critères. Autre écart frappant qu'il relève : des outils annoncés à 90% de performance en laboratoire, où l'environnement est contrôlé, retombent parfois à 30-40% une fois déployés en conditions réelles, avec des écarts observés pouvant atteindre 50% sur certains essais cliniques.

Qui assume : la responsabilité retombe sur le dernier maillon

Sur la question de la responsabilité, Nicolas Schneider est direct : le flou ne protège personne. En l'absence de règles écrites à l'avance sur qui assume en cas d'erreur, la responsabilité retombe par défaut sur le dernier maillon de la chaîne, généralement le praticien qui a validé la décision finale, rarement celui qui a financé l'outil. Il établit un parallèle avec l'aéronautique et l'automobile, où les règles de sécurité sont trop souvent arrivées après les accidents plutôt qu'avant. Pour lui, écrire les règles de responsabilité avant le déploiement, plutôt qu'après un premier incident, est ce qui permet de bâtir une vraie démarche qualité et légale.

Ce qu'on mesure : l'absence de critères d'invalidation

Dernier point développé par Nicolas Schneider : la plupart des outils déployés ont des critères de validation initiale, mais aucun critère d'invalidation, c'est-à-dire aucune règle définissant quand un outil doit être arrêté parce qu'il ne performe plus assez. Sans ce garde-fou, des outils de qualité très inégale continuent d'être déployés à armes égales. Sa formule : l'absence d'information est une information, et un dispositif sans critère d'invalidation ne peut que se répéter. Il plaide pour un retour d'expérience continu entre praticiens et éditeurs une fois l'outil en usage réel, où les données sont, selon lui, les plus pertinentes.

Les données de santé, nouvelle « fortune » convoitée

Répondant à une question sur la marchandisation des données biologiques, Nicolas Schneider constate que c'est déjà une réalité : les grandes IA génératives disposent toutes d'une branche santé, et la donnée biologique individuelle est devenue la ressource la plus recherchée, après la géolocalisation il y a une dizaine d'années. Sur la question de la propriété de ces données, entre l'État, les éditeurs, les établissements et le patient, il reconnaît ne pas avoir de réponse tranchée, un flou qu'il relie directement au problème plus large de répartition de la valeur entre les acteurs.

Le cadre réglementaire est en construction, inégal selon les pays

Sur l'encadrement légal, Nicolas Schneider indique que des travaux sont en cours au niveau européen et dans plusieurs pays, dont le Maroc. Il recommande de s'inspirer des secteurs déjà matures sur la gestion du risque, en particulier l'aéronautique. Les délais varient très fortement d'un pays à l'autre : en France, valider l'accès aux données nécessaires à l'entraînement d'un modèle prend souvent six mois à un an, contre une à deux semaines en Estonie ou en Finlande, avec pourtant les mêmes règles européennes. Pour lui, un pays comme le Maroc, qui investit dans ce domaine, a l'avantage de pouvoir observer les erreurs commises ailleurs pour ne pas les reproduire.

Ce webinaire, organisé dans le cadre du certificat IA appliquée à la santé

Ce webinaire a été organisé en marge du Certificat en intelligence artificielle appliquée à la santé, porté conjointement par HealthTech Institute et le Centre Hippocrate, et animé notamment par le Dr Rajae Ghanimi elle-même. Nicolas Schneider y a partagé une grille de décision pour évaluer si une solution d'IA est prête à être déployée à grande échelle. Il fait suite à un premier webinaire sur la relation médecin-patient à l'ère de l'IA, avec Dr Rajae Ghanimi et Dr Loïc Etienne.