L’intelligence artificielle (IA) s’impose progressivement dans le domaine médical et transforme déjà de nombreux aspects de la santé : aide au diagnostic, imagerie médicale, recherche biomédicale, développement de médicaments, surveillance épidémiologique, gestion hospitalière, documentation clinique ou encore information des patients.
Certains adeptes de la prospective voient dans l’IA une réponse potentielle à une partie des difficultés auxquelles sont confrontés les systèmes de santé. D’autres invitent à davantage de prudence, rappelant qu’introduire des technologies complexes dans un domaine aussi sensible que la santé ne peut se résumer à une simple modernisation des outils.
L’IA n’est donc ni une panacée ni une menace en soi. Sa valeur dépendra surtout de la manière dont elle sera conçue, validée, réglementée, intégrée aux pratiques professionnelles et finalement utilisée.
La pandémie de COVID-19 a considérablement accéléré la transformation numérique des systèmes de santé et le recours aux outils numériques, notamment pour assurer la continuité des soins dans un contexte de confinement et de distanciation sociale. Mais cette accélération a également révélé une évidence : la transformation numérique ne peut être durable que si elle repose sur des infrastructures solides, des données de qualité, des compétences adaptées, une gouvernance claire et une véritable confiance des professionnels comme des patients.
L’intégration de l’IA dans la santé suppose ainsi de répondre à plusieurs conditions essentielles.
1. Construire une IA de qualité : la question de la validité et de la preuve
Dans le domaine de la santé, la qualité n’est pas une option. Elle constitue une condition de sécurité.
Un système d’IA peut être techniquement performant tout en étant cliniquement inadapté. Sa fiabilité dépend de nombreux facteurs : qualité et représentativité des données d’entraînement, pertinence des variables utilisées, qualité de l’annotation, choix de l’algorithme, performances dans différents contextes cliniques, robustesse, explicabilité, conditions d’utilisation et capacité du système à conserver ses performances dans le temps.
Il faut donc dépasser la simple démonstration de performance technique. Un algorithme affichant une excellente précision dans un environnement expérimental ne sera pas nécessairement performant lorsqu’il sera confronté à une population différente, à un autre établissement, à d’autres équipements ou à des pratiques cliniques différentes.
La question centrale devient alors celle de la preuve : l’outil améliore-t-il réellement la qualité et la sécurité des soins ? Dans quelles populations ? Dans quelles conditions ? Avec quels risques ? Et que se passe-t-il lorsque le système se trompe ?
Cette logique implique de renforcer la validation clinique, l’évaluation en conditions réelles et la surveillance après déploiement. Les approches internationales récentes insistent d’ailleurs de plus en plus sur l’évaluation de l’IA sur l’ensemble de son cycle de vie et non uniquement au moment de sa mise sur le marché.
L’histoire de la médecine montre que les conséquences d’une défaillance technologique peuvent être considérables. L’affaire des surirradiés de l’hôpital d’Épinal illustre notamment les risques liés à des dysfonctionnements dans des processus informatisés de radiothérapie. Entre 2004 et 2005, des patients ont reçu des doses supérieures aux doses prescrites, avec des conséquences cliniques parfois dramatiques.
Cet exemple rappelle une règle fondamentale : en santé, une erreur informatique peut devenir une erreur médicale.
La conception centrée sur l’utilisateur constitue également un élément déterminant. Le professionnel de santé doit être associé à la conception, à l’évaluation et à l’amélioration de l’outil. L’IA doit s’intégrer au parcours et au flux de travail réels du praticien, et non imposer une nouvelle complexité à des professionnels déjà soumis à une forte pression.
2. Repenser la formation des professionnels de santé
L’introduction de l’IA ne nécessite pas que tous les médecins deviennent informaticiens. Elle nécessite en revanche qu’ils comprennent suffisamment l’IA pour pouvoir l’utiliser de manière critique et responsable.
Les cursus de formation des professionnels de santé devront progressivement intégrer des notions de science des données, d’apprentissage automatique, de fonctionnement des modèles génératifs, de qualité des données, de biais algorithmiques, de cybersécurité, de protection des données et d’éthique numérique.
Cette évolution doit commencer tôt dans les études et se poursuivre tout au long de la carrière professionnelle.
La compétence essentielle ne sera pas nécessairement de savoir construire un algorithme, mais de savoir répondre à des questions simples et fondamentales :
Que fait cet outil ? Sur quelles données a-t-il été entraîné ? Dans quelle population a-t-il été validé ? Quelles sont ses limites ? Quand dois-je lui faire confiance et quand dois-je remettre son résultat en question ?
Cette culture de l’IA doit s’accompagner d’une solide capacité de pensée critique.
Paradoxalement, plus la médecine deviendra technologique, plus il sera nécessaire de renforcer sa dimension humaine. La communication, l’écoute, l’empathie, l’annonce d’un diagnostic, la prise en compte des préférences du patient et le raisonnement éthique resteront au cœur de la relation de soins.
L’objectif ne doit donc pas être de former des médecins « technologiques », mais des médecins capables de travailler avec la technologie sans perdre leur capacité de jugement clinique et leur humanité.
3. Renforcer la gouvernance, la sécurité et l’interopérabilité des données
L’IA médicale est indissociable des données.
Or, la valeur d’un système d’IA dépend largement de la qualité des données auxquelles il a accès. Des données incomplètes, biaisées, mal structurées ou insuffisamment représentatives peuvent conduire à des résultats erronés ou à des performances très différentes selon les populations.
La gouvernance des données doit donc devenir une priorité stratégique pour les établissements de santé et les autorités sanitaires.
Cela suppose de définir clairement les conditions de collecte, de stockage, d’accès, de partage, de réutilisation et de destruction des données de santé, tout en garantissant leur sécurité et la protection des droits des patients.
L’interopérabilité constitue également un enjeu majeur. Les différents systèmes d'information doivent pouvoir communiquer entre eux afin d’éviter la fragmentation des données et de permettre leur utilisation sécurisée lorsque cela est justifié.
La gouvernance des données doit ainsi rechercher un équilibre entre deux impératifs parfois difficiles à concilier : protéger les données et permettre leur utilisation au service de la santé.
4. Repenser les métiers et les compétences du secteur de la santé
L’intégration de l’IA modifiera progressivement l’architecture des emplois et des compétences dans les établissements de santé, qu’ils soient publics ou privés.
De nouveaux profils deviendront indispensables : data scientists, ingénieurs en données, spécialistes de l’IA, ingénieurs biomédicaux, experts en cybersécurité, spécialistes de l'interopérabilité, mais également professionnels capables de faire le lien entre les équipes médicales et technologiques.
L’enjeu ne sera toutefois pas uniquement de recruter de nouveaux talents. Il faudra également faire évoluer les compétences des professionnels déjà présents dans les établissements.
Les établissements de santé devront donc développer une véritable politique de reskilling et d’upskilling, permettant aux professionnels d’acquérir de nouvelles compétences et de s’adapter à la transformation de leurs métiers.
L’objectif n’est pas de remplacer les professionnels par des machines, mais de redéfinir la répartition des tâches entre l’humain et la technologie.
5. Bien gérer le changement : partir des besoins réels
L’introduction de l’IA dans un établissement de santé est avant tout un projet de transformation organisationnelle.
Le succès dépendra moins de la sophistication de la technologie que de sa capacité à répondre à un besoin réel.
Le leadership clinique sera donc essentiel. Les médecins, infirmiers, pharmaciens et autres professionnels de santé doivent être associés aux choix technologiques dès les premières étapes.
Il convient notamment de privilégier les cas d’usage susceptibles d’améliorer concrètement le travail quotidien : réduction des tâches administratives répétitives, aide à la synthèse des informations, amélioration de la coordination des soins, optimisation des flux hospitaliers, aide à l’analyse des données ou détection précoce de certaines situations à risque.
À l’inverse, une technologie imposée sans compréhension des besoins des utilisateurs risque de générer de la résistance, de la méfiance ou un simple contournement de l’outil.
La transformation numérique doit donc être pensée comme une transformation des processus, et pas seulement comme l’acquisition de nouveaux logiciels.
6. Mieux maîtriser les risques : confidentialité, intégrité et disponibilité
La sécurité des systèmes d’information de santé repose traditionnellement sur trois piliers : la confidentialité, l’intégrité et la disponibilité des données.
Ces trois dimensions sont particulièrement importantes dans le contexte de l’IA.
La confidentialité vise à empêcher qu’une personne non autorisée accède à des informations médicales sensibles.
L’intégrité concerne la fiabilité et l’exactitude des données et des résultats. Dans le domaine médical, elle revêt une importance particulière : une donnée altérée ou un résultat erroné peut directement compromettre la sécurité du patient.
Le risque d’intégrité est particulièrement sensible dans des domaines comme la radiothérapie, la chirurgie robotisée, l’imagerie médicale ou encore les systèmes automatisés susceptibles d’influencer la prescription et l’administration de traitements.
La disponibilité constitue le troisième pilier. Un système hospitalier indisponible peut perturber rapidement l’ensemble de la chaîne de soins : admissions, prescriptions, examens, dossiers patients, facturation, coordination des équipes ou accès aux résultats.
Les attaques par rançongiciel ont démontré que la cybersécurité n’est plus seulement une question informatique : elle est devenue une composante de la sécurité des patients.
La confidentialité demeure toutefois essentielle. Dans certaines situations particulièrement sensibles — psychiatrie, VIH, santé reproductive, addictions ou certaines pathologies stigmatisantes — une violation de la confidentialité peut avoir des conséquences humaines et sociales considérables.
La cybersécurité doit donc être considérée comme une composante à part entière de la qualité et de la sécurité des soins.
7. Travailler à grande échelle et développer les partenariats
Tous les établissements de santé ne disposent pas des mêmes ressources financières, humaines, technologiques ou informationnelles.
Une petite structure ne pourra pas nécessairement recruter une équipe complète d’experts en IA ni disposer seule d’un volume suffisant de données pour développer des modèles performants.
Il devient donc nécessaire de favoriser les collaborations et les mutualisations.
Des écosystèmes réunissant établissements de santé, universités, centres de recherche, start-up, industriels et pouvoirs publics pourraient permettre de mutualiser les infrastructures, les compétences et certaines ressources de données, dans le respect du cadre juridique applicable.
Les partenariats public-privé peuvent également contribuer à accélérer l’innovation, à condition que les règles de gouvernance, de propriété des données, de transparence, de sécurité et de partage de la valeur soient clairement définies.
Les grands établissements universitaires et hospitaliers pourraient, quant à eux, jouer le rôle de centres d’excellence capables de soutenir l’innovation, la recherche clinique et la coopération nationale et internationale.
8. Construire une réglementation adaptée à l’IA médicale
La question réglementaire est devenue incontournable.
L’IA ne constitue pas une technologie homogène. Un outil utilisé pour automatiser une tâche administrative ne présente pas le même niveau de risque qu’un système susceptible d’influencer un diagnostic ou une décision thérapeutique.
La réglementation doit donc être proportionnée au niveau de risque.
L’enjeu n’est plus simplement de savoir si l’IA doit être réglementée, mais comment la réglementer sans empêcher l’innovation tout en garantissant la sécurité des patients.
Les évolutions récentes montrent d’ailleurs que la tendance internationale est à une approche fondée sur le risque, la transparence, la sécurité, la traçabilité et l’évaluation continue.
En Europe, l’AI Act constitue désormais une référence majeure de cette évolution. Les systèmes d’IA présentant des risques importants pour la santé, la sécurité ou les droits fondamentaux peuvent relever de catégories dites « à haut risque ». Pour certains dispositifs médicaux intégrant de l’IA, l’articulation avec la réglementation sectorielle sur les dispositifs médicaux est particulièrement importante.
La question de l’accès direct des patients aux applications d’IA mérite également une réflexion spécifique. Certaines applications pourraient être accessibles directement au public, tandis que d’autres, notamment lorsqu’elles interviennent dans une décision clinique, pourraient nécessiter un encadrement professionnel plus strict.
9. Clarifier la responsabilité : qui répond de la décision ?
L’une des questions les plus complexes demeure celle de la responsabilité.
Lorsqu’un médecin utilise une recommandation générée par une IA et que cette recommandation se révèle erronée, qui est responsable ?
Le professionnel qui l’a utilisée ? L’établissement qui l’a déployée ? Le fabricant ? Le développeur ? Le fournisseur des données ? Ou plusieurs acteurs simultanément ?
Il serait dangereux de considérer l’IA comme un nouvel acteur autonome auquel pourrait être transférée la responsabilité.
Dans la plupart des situations, la responsabilité devra être analysée à partir de la chaîne complète : conception du système, qualité des données, validation, déploiement, paramétrage, formation des utilisateurs, surveillance et utilisation effective.
Les établissements doivent donc mettre en place des mécanismes de traçabilité permettant de savoir quel outil a été utilisé, dans quelle version, avec quelles données, dans quelles conditions et avec quel degré d’intervention humaine.
La question n’est pas uniquement juridique. Elle est également organisationnelle et éthique.
L’IA peut participer à une décision médicale, mais elle ne doit pas devenir un écran derrière lequel chacun pourrait se réfugier lorsque la décision se révèle erronée.
10. Financer l’innovation et repenser les mécanismes de remboursement
Une innovation médicale ne peut être déployée à grande échelle si son modèle économique reste incertain.
Dans de nombreux systèmes de santé, notamment dans les pays à ressources contraintes, les mécanismes de remboursement ont été conçus pour des actes, des médicaments et des dispositifs traditionnels. Ils doivent désormais évoluer pour prendre en compte certaines innovations numériques : télémédecine, dispositifs médicaux intégrant de l’IA, solutions d’aide au diagnostic ou applications numériques à finalité médicale.
Le problème n’est toutefois pas de rembourser automatiquement toute technologie utilisant l’IA.
La question fondamentale est plutôt de déterminer quelles innovations apportent une valeur clinique, organisationnelle ou médico-économique suffisamment démontrée pour justifier une prise en charge.
Des critères transparents pourraient ainsi être développés autour de plusieurs dimensions : sécurité, efficacité clinique, pertinence, qualité des preuves, impact organisationnel, coût-efficacité, équité d’accès et bénéfice pour le patient.
Cette approche permettrait de passer d’une logique de remboursement fondée uniquement sur l’existence d’un acte ou d’un dispositif à une logique davantage orientée vers la valeur en santé.
Vers une IA de confiance en santé
L’intégration de l’intelligence artificielle dans la santé ne dépendra donc pas uniquement des progrès technologiques.
Elle dépendra de notre capacité collective à construire un environnement de confiance.
Cette confiance reposera sur des données de qualité, des algorithmes validés, des professionnels formés, des infrastructures sécurisées, des systèmes interopérables, une gouvernance transparente, une réglementation adaptée, des responsabilités clairement définies et des mécanismes de financement capables d’accompagner l’innovation.
Mais une dimension essentielle ne doit jamais être oubliée : l’IA doit rester au service du patient et du professionnel de santé, et non l’inverse.
L’enjeu des prochaines années ne sera probablement pas de savoir si l’intelligence artificielle remplacera le médecin. La question sera plutôt de savoir quel médecin nous voulons demain, dans un environnement où l’intelligence humaine et l’intelligence artificielle travailleront côte à côte.
Dr GHANIMI Rajae