Les séances de l’Académie*
*Résumés rédigés par Catherine Adamsbaum, Bernard Bauduceau, Jean-Noël Fiessinger, Nathalie Cartier Lacave, Jacques Delarue, Jacques Hubert, Jean-Pierre Richer, Alain Yelnik
Mardi 17 novembre 2026
Séance dédiée : « Erreur humaine et erreur artificielle en médecine »
Organisation : Pierre LE COZ et Catherine ADAMSBAUM
Communications
L’erreur, la faute et l’aléa thérapeutique à l’heure de l’intelligence artificielle
Emmanuelle PRADA-BORDENAVE (Conseillère d’Etat, membre de l’Académie nationale de médecine, ancienne directrice de l’agence de Biomédecine.)
Vingt ans après un séminaire conjoint Centre Georges Canguilhem et Académie nationale de médecine sur « l’infaillibilité médicale » l’irruption de l’intelligence artificielle (IA) interroge sur la responsabilité du médecin. Le règlement européen sur l’intelligence artificielle (AI Act) prévoit des obligations spécifiques pour limiter les risques d’erreur du système d’IA tant pour le fournisseur que pour les déployeurs (le médecin). L’erreur de l’IA peut devenir une erreur médicale dans le cadre posé par le code de déontologie médicale : le médecin ne peut aliéner son indépendance sous quelque forme que ce soit. L’exercice de la médecine est personnel, chaque médecin est responsable de ses décisions et de ses actes. La décision médicale est la décision d’un médecin et non d’une machine, l’erreur médicale est l’erreur d’un médecin et non d’une machine. L’erreur médicale devient une faute lorsqu’elle est la conséquence de : la négligence, la légèreté, l’ignorance des choses qu’on doit nécessairement savoir, en l’absence de soins consciencieux, attentifs et conformes aux données acquises de la science. Ainsi la technicisation croissante de la médecine n’a rien changé à ces fondements de la faute médicale Rien ne permet de penser que l’arrivée de l’intelligence artificielle amène à modifier ces principes de responsabilité.
De nouvelles dispositions du code de déontologie précisent les obligations du médecin dans l’usage de l’intelligence artificielle : « Lorsque le médecin utilise l’IA dans son exercice, des technologies de l’information et de la communication, des outils numériques , l’intelligence artificielle ou toute innovation technique ou technologique, il met en œuvre les précautions indispensables pour garantir au patient et à toutes les personnes concernées la sécurité et la qualité de soins ainsi que la sécurité et la confidentialité de leurs données de santé.
L’Alea thérapeutique créé par la loi de 2002 a pour but d’indemniser les patients par la solidarité nationale lorsqu’ils ont subi un grave dommage alors qu’il n’y a pas de faute et d’éviter que des poursuites judiciaires soit un obstacle à l’innovation. La directive du 23 octobre 2024 relative à la responsabilité du fournisseur du fait des produits défectueux s’applique à l’intelligence artificielle. En définitive pour beaucoup de juristes, l’arrivée de l’IA dans la pratique médicale ne devrait pas ébranler les fondements juridiques du triptyque Erreur Faute et Aléa qui gouverne en France la responsabilité médicale depuis le 19è siècle.
« Le risque d’erreur entre jugement et raisonnement »
Ali Benmakhlouf (Membre de l’Académie du royaume du Maroc, Membre honoraire de l’Institut Universitaire de France, Professeur émérite, université Paris-Est Créteil)
Le risque d’erreur peut être le fait
D’un raisonnement routinier qui n’a pour lui que l’apparence de la validité, Le risque d’erreur advient dans le caractère universel du raisonnement, dans l’ambiguïté des termes utilisés ou dans le poids des habitudes qui deviennent des routines.
D’un jugement hâtif, qui repose sur une définition non moins hâtive, exemple : « L’embryon est une personne humaine potentielle » Or, on peut tout aussi bien dire « L’embryon est un potentiel de personne humaine ». Jugement hâtif qui est à distinguer du jugement incomplet avec le rôle des algorithmes médicaux. Montaigne avait souligné la difficulté d’être exhaustif : « Il (le médecin) a besoin de trop de pièces, considérations et circonstances pour affuter justement son dessein (…) et faut que toutes ces pièces il sache les proportionner et rapporter l’une à l’autre pour engendrer une parfaite symétrie » (Essais, II, 37)
D’une présomption de causalité qui n’est pas une causalité scientifique, Claude Sureau : « Le concept de « causalité », liant le dommage et l’acte supposé fautif, a subi simultanément une notable dérive ; loin de rechercher, en fonction des données objectives, la règle de droit s’appliquant à chaque cas particulier (…) a été volontiers soumise à l’arbitraire de la décision à laquelle on désirait aboutir», (La preuve, la faute, l’aléa, sanction ou prévention ? in L’erreur médicale, P.U.F, p.39)
D’une illusion rétrospective liée à une erreur de catégorisation. L’exemple en est le débat ouvert par l’arrêt Nicolas Perruche ou un enfant handicapé est indemnisé pour ne pas avoir été avorté. Mme Marie-Angèle Hermitte : « Il y a une contradiction logique à considérer que l’enfant handicapé puisse user de sa qualité de sujet de droit pour demander la réparation d’un dommage qui résulte du fait de n’avoir pas été avorté par ses parents, ce qui l’aurait empêché de devenir sujet de droit »
La médecine partage avec la justice l’exigence d’une amélioration de la vie. Elle renvoie bien à « toute chose qui se trouve salubre à notre vie ». Rappeler cela c’est une façon de ne pas oublier où, d’un point de vue d’une normativité éthique, le regard et la réflexion doivent s’orienter (Montaigne, Essais, II, 37, P.U.F. p.767).
Quand la machine se trompe : faut-il encore parler d’erreur ?
Isabelle BLOCH (Sorbonne université, CNRS, laboratoireLIP6, chaire en intellignece artificielle)
L’intelligence artificielle (IA se définit comme : Science qui permet aux machines de faire ce qui serait qualifié d’intelligent si c’était fait par des êtres humains (1956 : Conférence de Dartmouth). Elle repose sur deux paradigmes : la rationalité de la déduction versus viue empirique de la déduction avec deux aspects une IA symbolique qui repose sur des données par exemple dans la construction logique d’arbre de décision et une IA par apprentissage guidé par les données et l’expérience dont les conclusions sont potentiellement réfutables.
Dans les systèmes d’apprentissage automatique, les erreurs peuvent résulter d’un manque ou d’un biais dans les données d’entraînement, d’annotations imparfaites, d’une mauvaise représentativité des populations étudiées, ou encore d’une difficulté de généralisation à de nouveaux contextes. Les « hallucinations » des réseaux de neurones constituent un exemple de résultat incorrect produit par ces systèmes.
Un élément important est l’explicabilité, du contexte d’utilisation, de l’éthique et de l’intégrité scientifique. L’analyse des erreurs d’un algorithme exige l’intervention d’experts humains capables d’interpréter les données, les connaissances mobilisées et les limites du modèle.
La machine ne « se trompe » pas au sens humain du terme. Les erreurs observées sont généralement la conséquence d’imperfections dans les données, les connaissances, les modèles ou leur utilisation. Comprendre et expliquer ces imperfections est essentiel pour utiliser l’intelligence artificielle de manière fiable, notamment en médecine
Quels enseignements tirer de nos erreurs ?
Gérard CHERON (Coordinateur de la cellule des médecins conseils à la direction des Affaires juridiques et des Droits des patients, AP-HP, Ancien chef de service des urgences pédiatriques de l’hôpital Necker-Enfants Malades, Université Paris Descartes)
Pour le patient, la question d’une éventuelle erreur médicale se pose à l’occasion de la survenue d’un dommage, indépendant de son état antérieur, au cours d’un processus de soins. Selon le référentiel de certification de l’HAS 2025 « L’équipe informe tout patient, ou sa personne de confiance, de l’évènement indésirable imputable à une activité de prévention, de diagnostic ou de soins lors de sa prise en charge, des actions immédiates mises en place, de l’analyse de l’évènement ». Le rapport de la Cour des comptes d’avril 2026 recense 4630 événements graves associés aux soins déclarés et transmis à la haute autorité de santé en 2024. Cinquante pour cent étaient évitables et 44% ont été responsables du décès du malade. Pour l’Assistance publique hôpitaux de Paris (AP-HP), le tribunal administratif à rendu 133 avis pour des événements indésirables graves, dans 62 % des cas la responsabilité de l’AP-HP a été retenue 38 % concernaient le diagnostic, 22% la technique, 24% un défaut de surveillance 16% un défaut d’information.
Dans le secteur public hospitalier, l’événement indésirable est le plus souvent interprété non comme une faute individuelle mais comme la conséquence de défaillances systémiques au sein des organisations de soins de plus en plus souvent pluri disciplinaires. De nombreuses mesures correctrices sont possibles d’abord et avant tout dans l’analyse de l’événement avec éventuellement la participation des familles, sans négliger le rôle du pharmacien dans la pdélivrance de l’ordonnance et du médecin généraliste qui reçoit souvent tardivement la lettre de sortie. En chirurgie l’expérience d’une check list lue à voix haute a été faite sur 17 sites de l’AP-HP malgré une participation variable des professionnels elle a permis dans 70% des corrections.
En définitive la culture de sécurité des soins doit être enseignée à tous les professionnels. Le rapport de la Cour des comptes souligne les efforts nécessaire en terme de déclaration mais plus encore la nécessité d’un enseignement dès étudiants en médecine dès le premier cycle des études de médecine.
