N’y-a-t-il pas un risque que l’utilisation de l’IA, en particulier dans cette relation médecin-patient, aboutisse à des conclusions fausses et non...
question
reponse
Jean-Christophe Bernadac : Dans le cas de l’outil de commande vocale, nous serons obligés d’adopter certains standards pour que les informations soient suffisamment structurées pour leur interprétation mais aussi pour leur contrôle : en tant qu’éditeur de logiciel d’une part et pour respecter les règles de la Haute Autorité de Santé d’autre part, nous avons l’obligation de développer des algorithmes de contrôle sur ces données structurées pour signaler les contre-indications et interactions.
Dans le cas de l’outil d’aide à la décision pour le médecin, le développement se fait par apprentissage : les médecins qui contribuent à son amélioration écartent progressivement les mauvaises propositions formulées par l’outil, ce denier tient compte de leurs avis et s’affine donc progressivement. Dans ces travaux, nous développons une « boîte blanche » et non une « boîte noire ». Le médecin voit le cheminement de l’algorithme et peut remonter toutes les prises de décision. Cet accès au raisonnement est pour nous très important. Il fait partie des principes qui découlent de notre charte éthique. Nous disposons d’ailleurs de deux commissions qui permettent d’encadrer nos développements et s’assurer une coordination fine entre la Direction du Système d’Information et de l’Informatique (DSII) et les médecins chercheurs.