Résumé
La santé est un des domaines majeurs d’application des technologies dites d’intelligence artificielle. Tous les domaines de la santé et toutes les spécialités sont concernés. Les systèmes d’intelligence artificielle générative (SIAgen) impressionnent par leur capacité à produire en quelques secondes des textes souvent pertinents, mais aussi parfois erronés. Leurs champs d’applications dans le domaine de la santé sont vastes et peuvent aller de l’aide à la rédaction de notes d’information à la rédaction de thèses ou de projets de programme de recherche. Pour les utiliser à bon escient il est important d’en connaître les principes de fonctionnement. Les SIAgen fonctionnent à partir d’auto-apprentissage basé sur un nombre extrêmement élevé d’exemples, ce qui est très différent de l’approche humaine, qui s’appuie sur l’expérience, le contexte et un système de valeurs. Ils génèrent des textes avec une grande rapidité mais ne sont pas entraînés à rechercher ou à dire la vérité. Une validation humaine est donc toujours nécessaire. Par ce rapport, l’Académie nationale de médecine explicite plusieurs de ces avancées pour la santé, décrit les enjeux d’éthique associés et recommande des points d’actions à mettre en œuvre sans délai.
Summary
Healthcare is one of the major application fields of Artificial Intelligence technologies. All areas of healthcare and all specialties are concerned. Generative Artificial Intelligence systems are impressive in their ability to produce texts in a matter of seconds, often relevant, but sometimes erroneous. They can be used in a wide range of healthcare applications, from helping to write briefing notes to drafting theses and research programs. To use them properly, it is important to understand how they work. Large Language Models use neural networks trained on massive amounts of text data, which is very different from the human, experience-based approach. They generate language but are not trained to tell or search for the truth. Human validation is therefore always necessary. Through this report, the Académie nationale de médecine explains the resulting progress and discoveries for health, describes associated ethical issues and recommends action points to be implemented without delay.
Accès sur le site Science Direct : https://doi.org/10.1016/j.banm.2024.03.005
Accès sur le site EM Consulte
(b) Comité national pilote d’éthique du numérique, Comité consultatif national d’éthique, Inria, Paris, France
(c) Projet Echopen, Paris, France
⁎Auteur correspondant.
** Ce rapport est issu des travaux du groupe de travail sur les systèmes d’IA générative mis en place par l’Académie nationale de médecine de mai à octobre 2023. Il a réuni les personnes suivantes que nous remercions pour leur participation active, pour les documents qu’elles ont pu partager et pour leur relecture de la première version de ce rapport : Catherine Adamsbaum, Gilles Adda, Jean-François Allilaire, Raymond Ardaillou, Guillaume Assié, Emmanuel Bacry, Raja Chatila, André Chays, Bruno Clément, Pierre Corvol, Arthur Dauphin, Laurence Devillers, Ferdinand Dhombres, Emmanuel Didier, Nicolas Do Huu, Valérie Edel, Jean-Gabriel Ganascia, Isabelle Gentil, Henri Julien, Alexei Grinbaum, Thierry Hauet, Pierre Jannin, Dominique Lecomte, Arnold Migus, Patrick Netter, Olivier Palombi, Nadir Saoudi, Guy Vallancien, Eric Vivier, Laurence Watier.
Bull Acad Natl Med 2024;208:536-47. Doi : 10.1016/j.banm.2024.03.005
