Naoual Bakrin, chirurgienne, et Thomas Guyet, informaticien : « L’IA utile en santé est celle qui répond à un besoin réel, avec des usages pensés par et pour les soignants »

Thomas Guyet — Je préfère parler de systèmes d’intelligence artificielle, plutôt que d’IA tout court, pour ne pas anthropomorphiser inutilement un outil qui n’a rien d’humain. Ce sont des systèmes informatiques basés sur des modèles mathématiques et des algorithmes, capables d’exécution de tâches cognitives spécifiques. Ils sont en grande partie fondées sur l’apprentissage automatique aujourd’hui, mais il ne faut pas oublier les approches par raisonnement, qui ont aussi une grande importance.

En santé, les applications de ces systèmes d’IA sont nombreuses, de l’aide au diagnostic, bien sûr, au triage des patients aux urgences, en passant par la rédaction automatique de comptes-rendus ou l’organisation des soins.

Mais ce qui motive principalement l’engouement des services hospitaliers pour les systèmes d’IA, ce n’est pas de remplacer le praticien. C’est la possibilité de l’aider, de faire mieux ou davantage avec des ressources humaines de plus en plus contraintes dans le secteur de la santé. Le médecin sait déjà diagnostiquer et l’usage d’un système d’IA pourrait lui permettre de traiter plus de patients, dans le même temps.

Des études montrent que le binôme humain-IA améliore souvent les performances des cliniciens, mais atteint rarement une complémentarité parfaite, où le duo ferait mieux que le meilleur des deux séparément. Le message central est qu’ajouter de l’IA ne suffit pas à créer automatiquement une super-performance. Le bénéfice dépend de l’écart de fiabilité entre l’humain et la machine, du niveau d’expérience du clinicien et des flux de travail. Les auteurs suggèrent que les hôpitaux devraient choisir le type de collaboration humain-IA en fonction de la tâche, et pas seulement selon la puissance du modèle. Ils insistent aussi sur l’importance de l’interprétabilité, de la prévisibilité et du contrôle des systèmes d’IA en environnement clinique.

Thomas Guyet — La liste des freins à cette généralisation est longue. L’interprétabilité est d’abord en jeu. Les médecins ont avant tout besoin de comprendre pourquoi un système d’IA leur donne tel conseil. Ensuite, j’évoquerais un obstacle auquel on ne pense pas spontanément, qui est le risque de dépendance au système à long terme. Déléguer des tâches à des outils peut éroder les compétences et c’est une question que les formations à l’IA commencent à prendre en compte.

Il y a aussi freins liés aux performances de l’IA. Tous les systèmes ne fonctionnent pas encore très bien et la robustesse dans le temps est un enjeu réel. La protection des données de santé et les enjeux de financement des infrastructures pèsent très lourd, mobilisant de l’argent nécessaire au système de soin…

Et puis, dans la phase de la conception d’un système d’IA, il y a des obstacles culturels. Informaticiens et médecins ne parlent pas le même langage, ne partagent pas les mêmes temporalités, ne travaillent pas selon les mêmes priorités. Avant de travailler avec Naoual, je n’avais jamais entendu parler de CPTS, les Communautés professionnelles territoriales de santé, par exemple.

Naoual Bakrin — Je veux insister sur ce dernier point. La difficulté d’intégration des informaticiens au sein des équipes n’est pas technique. Elle est avant tout culturelle. Il faut donc être capable de sortir de nos zones de confort respectives, de créer des zones d’interface, d’apprendre aux autres à rendre intelligibles des besoins qui ne l’étaient pas. Les innovations de rupture partent toujours de démarches volontaristes, du terrain. Notre projet QuickRare est né ainsi, d’une initiative personnelle, pas d’une commande institutionnelle.

Naoual Bakrin — Le constat de départ est alarmant. Les maladies rares portent mal leur nom. En France, trois millions de personnes en sont atteintes, autant que le diabète de type 2, et beaucoup sont des enfants. Pourtant, l’errance diagnostique dure entre 2 et 5 ans.

Pourquoi ce délai ? Parce que les maladies rares représentent en fait 7 000 maladies différentes et les médecins généralistes ne peuvent pas connaître les symptômes de milliers de pathologies distinctes. Individuellement, ils ne verront peut-être qu’une seule fois au cours de leur carrière un enfant atteint d’une telle pathologie ultra spécifique parmi les maladies rares recensées.

Du côté des soins spécialisés, en revanche, les centres hospitaliers sont très bien outillés et il existe des centres de référence pour la quasi-totalité des maladies rares. Ce qui manque, c’est le lien entre le généraliste, qui a du mal à identifier les patients susceptibles d’être atteints, et l’écosystème hospitalier, qui dispose de toutes les ressources pour les prendre en charge.

L’idée de QuickRare, c’est précisément de connecter ces deux mondes et de détecter les signaux faibles dans les parcours de soins des enfants, en particulier des motifs de consultation, des combinaisons de symptômes apparemment anodins pris isolément, des profils particuliers, c’est-à-dire tout ce qui pourrait alerter le médecin généraliste et qui l’inciterait à demander un avis spécialisé. C’est sur ce domaine de la rareté, justement parce qu’il échappe à toute expertise humaine exhaustive, que l’IA peut apporter une véritable nouveauté.

Thomas Guyet — L’outil d’IA analyse les données de soins primaires pour détecter des faisceaux de présomptions. Si un tel signal émerge, l’algorithme génère une alerte, pour que le médecin adresse le petit malade à un centre de référence.

Ce projet a été financé via le programme SHAPE-Med@Lyon. Nous travaillons ensemble depuis des années maintenant et notre équipe d’informaticiens s’est finalement installée directement aux HCL en 2025. La genèse, c’est l’équipe médicale qui cherchait des compétences en informatiques et qui a pris contact avec l’Institut national de recherche en sciences et technologies du numérique (Inria).

Mais au-delà des expertises techniques, ce projet nous a conduits à constituer un groupe vraiment transdisciplinaire, avec des informaticiens, des médecins et des chirurgiens, mais aussi des philosophes, pour interroger les fondements éthiques de nos choix, ainsi que des sociologues, pour analyser les usages sur le terrain. Chacun apporte un regard et une vision que les autres n’ont pas.

Thomas Guyet — Dans le projet QuickRare, nous sommes tous des scientifiques habitués à la pluridisciplinarité, ce qui aide. La réalité, c’est qu’on a chacun notre propre ligne de conduite, et on fait en sorte qu’elle reste en contact avec celle de l’autre pour que l’on avance dans la même direction, sans pour autant se confondre totalement.

L’enjeu, c’est d’accepter que l’autre ait d’autres priorités, qui lui sont propres, et de se retrouver sur des éléments partagés. Ce qui me marque vraiment dans cette collaboration avec les HCL, c’est que les échanges avec Naoual et les médecins nous ramènent en permanence à l’utilité concrète du projet, à la vraie question du besoin. On ne cherche pas juste dans un objectif scientifique.

Naoual Bakrin — Ce que j’ai découvert et que j’ai trouvé précieux, c’est que Thomas sait se laisser convaincre… et que moi aussi ! Nous ne sommes pas dans une relation prestataire/commanditaire, même si au final, c’est un outil informatique qui va répondre à un besoin médical. L’équipe Inria est force de proposition et notre collaboration nous oblige à avoir une certaine souplesse intellectuelle, d’un côté comme de l’autre. C’est réellement une condition nécessaire pour réussir. Il faut être capable de convaincre et se laisser convaincre, de confronter les points de vue, et d’acquérir, pour l’informaticien, comme le médecin, une vision nouvelle.

Il faut créer une culture commune, même si cela peut paraître artificiel au départ. Au début du projet QuickRare, il n’y a pas de connexion spontanée entre Thomas, chercheur en informatique, et moi, chirurgienne. Il faut la construire en partant de rien, c’est ce qui permet aux projets d’aller à leur terme. Nous avons appris en faisant, tous les deux. On ne construit pas une collaboration en se disant simplement que l’on va travailler sur l’IA pour aider la médecine. Il faut un vrai temps de compréhension mutuelle, qui peut être long.

Thomas Guyet — On revient une nouvelle fois ici sur le temps nécessaire à la recherche, qui est en opposition avec l’urgence clinique quotidienne. Cela n’empêche pas les métiers de travailler ensemble, car ce temps long est la condition pour que les résultats obtenus soient vraiment utiles et vraiment validés. Ce ne doit pas être juste une promesse technologique de plus.

Naoual Bakrin — Le besoin vient clairement du côté médical. C’est d’ailleurs moi qui ai formalisé la question initiale. Mais entre la forme du besoin médical et la problématique informatique traitable, le travail à fournir est énorme. Pour nous aider, nous avons donc fait appel à des sociologues pour capter les besoins réels sur le terrain des généralistes face aux maladies rares. Ni Thomas ni moi n’avions la capacité de mesurer les véritables difficultés et résistances de la médecine de ville.

Thomas Guyet — C’est exactement cela. En tant qu’informaticien, je ne sais pas réaliser ce travail d’enquête. Et Naoual, même si elle connaît parfaitement la pratique à l’hôpital, n’a pas nécessairement une vision exhaustive de la variété des conduites en médecine de ville. La sociologie apporte cette capacité à capter l’information d’entrée et de sortie qui nourrit le projet. Pour la validation de l’outil d’IA, c’est pareil, avec la nécessité d’une étude qui compare les performances de notre système avec le standard de référence.

Thomas Guyet — Concrètement, on parle d’explicabilité d’un système d’IA quand il est capable d’expliquer comment a été construite sa décision. Or, les explications données aujourd’hui ne conviennent pas toujours aux professionnels de santé, trop mathématiques ou à l’inverse trop simplistes. C’est donc un enjeu réel à relever, mais je pense que c’est une étape transitoire.

Certes, l’explicabilité est nécessaire pour l’acceptabilité des outils, parce que les médecins ont besoin de comprendre pourquoi le système d’IA leur donne tel conseil, propose tel diagnostic, ou détecte telle anomalie. Mais quand un outil est fiable et performant, et qu’on a pris l’habitude de l’utiliser, on finit par ne plus avoir besoin de réfléchir aux mécanismes qui se cachent derrière. Prenons l’exemple d’une voiture. On ne s’interroge plus sur le fonctionnement de la direction assistée quand on conduit depuis des années.

Ce qui restera indispensable en revanche, c’est l’explicabilité dans les cas de dysfonctionnement, au moins pour des raisons légales, afin de comprendre ce qui a mal tourné ou au contraire, ce qui a bien marché, quand on est surpris positivement par un résultat.

Naoual Bakrin — Je partage cette analyse, mais je veux la nuancer avec mon regard de médecin. L’explicabilité est pour moi un critère d’adoption et de confiance nécessaire, mais non suffisant. Surtout, il convient de distinguer les catégories d’applications. Pour les outils d’aide à la décision médicale, c’est une exigence éthique liée à la responsabilité, puisque le médecin est toujours responsable de ses décisions, devant son patient et devant la justice.

Il doit pouvoir être en mesure d’argumenter le processus logique qui l’a mené à une décision. Si un algorithme a contribué à cette décision, il faut comprendre avec quels paramètres, sur quels critères et avec quelle pondération. C’est pourquoi nous avons pris le parti avec Thomas d’intégrer des philosophes dans notre projet QuickRare, qui vont en quelque sorte détricoter notre façon de fabriquer la connaissance pour nous aider à aborder cette forme de responsabilité médicale.

Mais l’explicabilité n’est pas propre aux systèmes d’IA. Dans notre pratique quotidienne, nous utilisons des nomogrammes, qui sont des représentations graphiques de formules statistiques complexes. Or, pour nous aussi, elles sont parfaitement opaques.

Par exemple, quand nous calculons la clairance de la créatinine pour contrôler le bon fonctionnement des reins, avec une pondération sur l’origine ethnique ou le genre, combien de médecins ont interrogé cette pondération ? La vraie question, ce n’est pas l’explicabilité technique, c’est la validité clinique. L’outil a-t-il été comparé aux normes, son efficacité a-t-elle été démontrée dans des conditions standard identifiées ? Tout cela est indispensable avant tout déploiement d’outils, quel qu’il soit.

Thomas Guyet — Je suis d’accord, mais avec un bémol. Le nomogramme que les médecins utilisent a été construit à partir d’études épidémiologiques validées par des pairs, par la communauté scientifique. La plupart des systèmes d’IA en santé n’en sont pas encore là et c’est précisément le statut de « dispositif médical » qui joue ce rôle de validation réglementaire.

Dans le même esprit que l’autorisation de mise sur le marché réglementaire pour les médicaments, tout dispositif médical destiné à être utilisé chez l’homme à des fins de diagnostic, de prévention ou de contrôle d’une maladie, doit en effet répondre au code de la santé publique français et aux textes européens.

Naoual Bakrin — Dans ma pratique de chirurgienne, l’intelligence artificielle est pour l’instant peu présente. Et plus généralement, moins répandue qu’on ne l’imagine à l’hôpital. On commence à la trouver dans l’analyse automatisée d’imagerie, pour les mammographies par exemple, ou dans la transcription automatique des consultations, ce qui pose d’ailleurs de sérieuses questions médico-légales. Quel niveau de précision pouvez-vous en effet laisser dans ces documents ? Mais dans le diagnostic chirurgical courant, nous n’y sommes pas encore.

Ce que je connais, c’est surtout l’IA dans le contexte de recherche, à travers notre projet commun QuickRare. Nos travaux m’ont apporté une conviction forte, celle que l’IA est un outil, pas une fin en soi. Une grande partie de l’engouement autour de l’intelligence artificielle relève du « Fear of Missing Out », du FOMO, bref, de la peur d’être dépassé par l’IA. C’est pour cela qu’on l’applique partout, sans même avoir correctement formalisé le besoin au préalable. Or, l’intelligence artificielle doit répondre à un besoin réel identifié, pas créer un besoin qui n’existait pas.

Ensuite, je répondrai à la question de confiance dans les algorithmes avec nuance. La confiance que j’accorde à un algorithme est conditionnée par sa rigueur méthodologique face à un besoin réel. Mais ce qui me semble clé, c’est le cadre d’usage.

Un algorithme de reconnaissance faciale peut à la fois servir à dépister des maladies avec dysmorphies et à traquer des personnes dans l’espace public. C’est le même outil, mais ce qui change, c’est le cadre réglementaire dans lequel on l’utilise. Ma confiance ne porte donc pas sur le dispositif lui-même, mais sur ses conditions d’usage et le cadre légal qui restreint son utilisation. Un couteau reste un couteau, qu’il serve à couper des légumes ou à blesser quelqu’un.

Thomas Guyet — Cette distinction apportée par Naoual m’a vraiment frappé. Je n’avais pas identifié à quel point la définition du cadre d’usage était importante pour créer la confiance des médecins, alors que ce cadre n’a aucun impact sur les performances intrinsèques du système d’IA. C’est une vision et une façon de penser que les informaticiens n’ont pas spontanément.

Thomas Guyet — Ce n’est vraiment pas une question de « devoir ». C’est une obligation légale. Le règlement général sur la protection des données (RGPD) exige que tout traitement informatique sur des données personnelles soit déclaré auprès de la personne concernée. Toutefois, dans la pratique, ce n’est pas toujours fait.

Par exemple, comment informer une personne lourdement blessée qui arrive au service des Urgences qu’elle va être triée par un système d’IA ? La situation de vulnérabilité et les conditions de priorité d’action rendent la communication difficile à mettre en place pour que le patient soit pleinement informé.

Mais dans le contexte d’une consultation normale, la mention de l’usage d’un système d’IA dans un processus décisionnel est non seulement imposée légalement, mais aussi souhaitable pour la transparence de la relation du médecin avec son patient.

Naoual Bakrin — De notre côté, le secret médical présente deux facettes. Il y a ce que nous en faisons nous-mêmes en tant que dépositaires. On ne va pas soumettre un dossier patient nominatif à une intelligence artificielle généraliste, comme ChatGPT. De l’autre côté, il y a le traitement automatisé des données, qui relève davantage d’un pan technique et réglementaire. En clair, le respect strict du RGPD, l’amélioration des garanties contre les fuites et les cyberattaques. Notre responsabilité de médecin, c’est de ne pas utiliser des outils non validés pour traiter des données non anonymisées.

Thomas Guyet — Plus globalement, la donnée de santé a un statut légal spécifique en France et en Europe, qui impose un hébergement labellisé « Hébergeur de Données de Santé » (HDS). C’est une certification exigeante. En recherche, nous travaillons donc avec des restrictions fortes pour accéder à ces données, ce qui nous pose parfois des difficultés.

À Lyon, nous aurons bientôt la chance de pouvoir disposer de la tranche HDS à gestion universitaire du Centre de Calcul et de Données de la Doua (CCDD). Cette infrastructure inaugurée il y a moins d’un an est partagée entre l’Université Claude Bernard et l’INSA Lyon. C’est une première en France, voire en Europe, qui permettra à des équipes de recherche publique de travailler sur des données de santé dans un cadre totalement sécurisé et souverain.

Thomas Guyet — Je suis persuadé que des profils à l’interface de la santé et de l’informatique, avec des doubles compétences, ont beaucoup d’avenir. Des diplômes universitaires en IA commencent à être proposés dans les CHU. La question d’injecter une culture de l’IA dans les formations médicales initiales se pose même.

Les diplômés ne seront ni des médecins-informaticiens, ni des informaticiens-médecins, mais des professionnels capables de faire le lien, de comprendre les deux langages, de traduire un besoin clinique en spécification technique. Et inversement. L’IA utile en santé est celle qui répond à un besoin réel, dans un cadre validé, avec des usages pensés par et pour les soignants.

• Plan stratégique 2035 des HCL
• Projet QuickRare