Rapport
Séance du 5 mars 2024

Systèmes d’IA générative en santé : enjeux et perspectives

Bernard Nordlinger, Claude Kirchner, Olivier de Fresnoye

Résumé

La santé est un des domaines majeurs d’application des technologies dites d’Intelligence Artificielle. Tous les domaines de la santé et toutes les spécialités sont concernés. Les systèmes d’intelligence artificielle générative (SIAgen) impressionnent par leur capacité à produire en quelques secondes des textes souvent pertinents, mais aussi parfois erronés. Leurs champs d’applications dans le domaine de la santé sont vastes et peuvent aller de l’aide à la rédaction de notes d’information à la rédaction de thèses ou de projets de programme de recherche. Pour les utiliser à bon escient il est important d’en connaitre les principes de fonctionnement. Les SIAgen fonctionnent à partir d’auto-apprentissage basé sur un nombre extrêmement élevé d’exemples, ce qui est très différent de l’approche humaine, qui s’appuie sur l’expérience, le contexte et un système de valeurs. Ils génèrent des textes avec une grande rapidité mais ne sont pas entrainés à rechercher ou à dire la vérité. Une validation humaine est donc toujours nécessaire. Par ce rapport, l’Académie nationale de médecine explicite plusieurs de ces avancées pour la santé, décrit les enjeux d’éthique associés et recommande des points d’actions à mettre en œuvre sans délai.

Summary

Healthcare is one of the major application fields of Artificial Intelligence technologies. All areas of healthcare and all specialties are concerned. Generative Artificial Intelligence systems are impressive in their ability to produce texts in a matter of seconds, often relevant, but sometimes erroneous. They can be used in a wide range of healthcare applications, from helping to write briefing notes to drafting theses and research programs. To use them properly, it is important to understand how they work. Large Language Models use neural networks trained on massive amounts of text data which is very different from the human, experience-based approach. They generate language but are not trained to tell or search for the truth. Human validation is therefore always necessary. Through this report, the Académie nationale de médecine explains the resulting progress and discoveries for health, describes associated ethical issues and recommends action points to be implemented without delay.