Santé : l’IA représente-t-elle fondamentalement un progrès ? : épisode du podcast Intelligence artificielle : quels bouleversements pour demain ?

France Culture. Culture, question du soir. Quentin l'a fait.

Alors que les hôpitaux et les soignants sont souvent à bout de souffle, les innovations technologiques semblent résonner d'une façon consensuelle comme une promesse de progrès. L'intelligence artificielle pourrait apporter des réponses aux patients sans besoin de consultation, permettre aux médecins d'avoir davantage de temps pour se consacrer à des tâches spécifiques, améliorer les diagnostics, prédire les maladies. Mais les professionnels de santé ont-ils vraiment intérêt à se saisir de l'intelligence artificielle ou doit-on redouter le remplacement des médecins par ces technologies ? Quelle question éthique soulève le déferlement de cette nouvelle vague ?

Deux invités ce soir pour nous éclairer, Jean-Emmanuel Bibeau. Bonsoir. Bonsoir. Vous êtes oncologue radiothérapeute à l'hôpital européen Georges Pompidou et chercheur en intelligence artificielle à l'INSERM. Vous êtes par ailleurs membre du CCNE, le Comité Consultatif National d'Éthique. Face à vous, Alexei Greenbaum. Bonsoir. Bonsoir. Vous êtes physicien et philosophe, directeur de recherche et président du Comité Opérationnel Pilote d'Éthique du Numérique au CEA Paris-Saclay, membre du Comité Consultatif National d'Éthique du Numérique. Merci à vous deux d'être présents ce soir dans Questions du Soir.

C'est pour ça qu'elle est extrêmement douée, par exemple, pour repérer une tumeur au milieu d'une radio, par exemple. Donc c'est pour ça qu'on veut l'utiliser pour le diagnostic, parce que ça permettrait de repérer des choses beaucoup plus rapidement et de façon beaucoup plus simple. Et nous, on s'en sert au quotidien, notamment pour préparer les traitements de radiothérapie. Ce qui nous prenait auparavant 2 à 3 heures, maintenant ça nous prend à peu près 2 à 3 minutes avec de l'IA.

Très clairement, c'est un outil qui a un potentiel énorme pour pouvoir apparier ces différentes bases de données et vraiment utiliser l'IA pour pouvoir améliorer la santé de nos concitoyens de manière à faire de la médecine préventive, prédictive et évaluer la qualité des soins. Et la raison d'être de cette émission, si je l'ai souhaité aujourd'hui, c'est pour tenter justement d'interroger ce lien entre progrès et intelligence artificielle en santé. C'est aussi une question que pose notre partenaire l'hebdomadaire Le1 qui pose en couverture la question suivante. L'IA peut-elle nous soigner ? Je voudrais vous livrer un extrait de cet article écrit, rédigé par la journaliste Lou Elio.

Les derniers bons technologiques, écrit-elle en particulier l'avènement de l'intelligence artificielle, sont sur le point de nous propulser à la vitesse de la lumière dans la médecine du futur, dans laquelle notre rapport au geste médical, à la santé et à notre propre corps promet d'être particulièrement bouleversée. Ce changement de paradigme est déjà en marche. Jean-Emmanuel Bibeau, dans votre quotidien de médecin, de thérapeute, à quel point ces progrès sont déjà en cours ? Alors, pour cadrer un tout petit peu les choses avant de répondre à la question, en fait, on parle beaucoup de l'IA comme une sorte d'entité unique, mais en fait, il y a plein d'IA différentes.

Et donc, oui, effectivement, il y a déjà des outils qui sont utilisés au quotidien dans les services, dans les hôpitaux. Pour ce qui est de l'oncologie et de la radiothérapie, on peut déjà dire qu'il y a de l'IA dans approximativement la moitié des centres qui font de la radiothérapie, dont l'hôpital Pompidou. Ce n'est pas du tout le genre d'IA qu'on peut avoir quand on va sur ChatGVT ou Gemini, pour ne pas les citer. Ce sont des outils professionnels, médicaux, des dispositifs médicaux qui sont certifiés pour faire ce qu'ils font.

Et pour vous donner un exemple très concret, pour la radiothérapie, on en entendait un extrait tout à l'heure, on a besoin de faire un scanner de chaque patient qui va avoir un traitement par rayon X. Et donc, on va ensuite contourer sur scanner son anatomie propre et l'endroit qu'on va chercher à traiter le cancer. Donc ça, ça pouvait prendre un médecin humain, c'est ce que j'expliquais, 2-3 heures, parfois une demi-journée. Et maintenant, les images sortent du scanner, vont sur un serveur qui est dans l'hôpital et nous reviennent 2 à 3 minutes après entièrement contourés. Donc c'est d'abord pour vous un gain fondamental en matière de temps ?

Alors pour l'instant, c'est un gain énorme en matière de temps. Et il faut aussi avoir le deuxième message en tête, c'est que ces contourages, cette segmentation automatique, c'est-à-dire ce dessin automatique, cette anatomie automatique qui est faite par l'IA, elle est toujours systématiquement vérifiée par l'humain pour l'instant, parce que, et ça a été montré dans différentes études, elle reste à l'heure actuelle imparfaite. Elle n'est pas, comme on peut souvent l'entendre, mieux que ce que fait le médecin humain. Au contraire, bien souvent, les médecins humains et les experts vont aller corriger certaines petites imperfections qu'il peut y avoir.

Mais ça fait quand même gagner beaucoup, beaucoup de temps. On a commencé à le dire, Alexei Greenbaum, l'intelligence artificielle en santé, ça ne veut pas dire grand-chose, parce que ça recouvre une quantité d'applications, de modes, de même de manières d'appréhender l'intelligence artificielle. Si l'on s'intéresse d'abord aux médecins, on parlera dans un second temps des patients et de la recherche, mais pour les médecins concrètement, pour les professionnels de santé d'ailleurs, qu'est-ce que cela transforme au quotidien ? Alors, cela transforme, comme mon collègue a dit, les pratiques des médecins spécialistes.

Alors, les radiologues travaillent différemment, les chirurgiens travaillent différemment. Et aussi, cela commence à transformer la médecine générale. Alors, les médecins généralistes, qui reçoivent des patients avec toutes sortes de problèmes médicaux, commencent à travailler différemment. De plus en plus, aujourd'hui, on voit les médecins qui disent, « Ah oui, mais ces gens, ils viennent, mais d'abord, ils ont parlé avec un GPT ou un autre modèle d'IA générative, et qui leur a dit de faire ceci ou cela, mais c'est faux, ou parfois, c'est très juste. » Vous voyez, la grande question... Il faut le dire également, parfois, c'est juste. Il faut dire que c'est, en fait, le plus souvent juste.

Avec les modèles de 2025, avec les modèles d'IA qu'on appelle des modèles de raisonnement, le taux d'hallucination, le taux de la probabilité que la modèle vous dise n'importe quoi, enfin, qu'il se trompe complètement, a été divisé par 100, voire plus. Et ça, c'est la nouveauté vraiment de 2025. C'est-à-dire, les tests de 2022, 2023, c'est le moyen âge de l'IA générative. Ça va très, très vite. Six mois de l'IA aujourd'hui, c'est comme un siècle d'histoire humaine. Donc, pensez, les modèles qui datent d'il y a 12 mois, c'est comme à l'époque de Napoléon. Donc, vous voyez, ça change quand même très, très vite.

Et aujourd'hui, la médecine générale change fondamentalement parce que le patient commence, non pas par aller chez le médecin, mais par parler avec un modèle d'IA. Alors, c'était le problème. Dis-moi, qu'est-ce que ça peut être ? Qu'est-ce que je peux faire ? Et parfois, le modèle lui dit, non, non, il faut d'abord, je ne suis pas un médecin, je peux te donner quelques conseils, mais va voir un médecin quand même. Il va te confirmer de manière professionnelle en prenant sa responsabilité de médecin qu'il faut faire X, Y, Z. Et c'est ça, une des grandes questions. La question de la responsabilité. La machine n'a pas exactement le statut de médecin. Ça n'est même pas une personne.

C'est un instrument d'aide à la décision. Mais ça va tout changer à terme. Je pense que le système de la santé, les médecins généralistes, à terme, vont travailler différemment. Posons tout de suite cette question, Jean-Emmanuel Bibaud, vous-même, quand vous utilisez l'intelligence artificielle telle que vous nous l'avez décrit, est-ce qu'il arrive que ces dispositifs médicaux, comme vous l'avez dit, prennent pour vous-même une décision ou, in fine, vous êtes toujours l'ultime décideur ? Pour structurer un peu les choses, c'est exactement ce qu'il a dit avec ça. En fait, il faut distinguer, je pense, deux grands types d'outils.

Il y a d'une part les outils, donc les dispositifs médicaux qui sont des assistants qui, en général, sont utilisés en arrière-boutique, on va dire, et qui sont toujours, toujours, toujours vérifiés par un humain et donc corrigés. Et donc là, la problématique de la responsabilité, puisqu'on parle un petit peu de ça, elle reviendra toujours à l'humain, tant que l'humain fera cette validation-là. À l'inverse de ça, on a des outils qu'on appelle, en anglais, patient-facing, c'est-à-dire ceux qui sont en face des patients, où il n'y a plus le médecin comme intermédiaire, et qui sont un petit peu plus risqués. Et lesquels, concrètement ? Donnez-nous un exemple.

Typiquement, là, on n'y est pas encore tout à fait, mais sur les grands modèles de langage comme Tchad GPT, Gemini, comme je l'ai dit, il y en a de plus en plus qui sont des modèles généralistes, même pas des modèles médicaux, mais qui sont utilisés à visée médicale.

Cette semaine, encore, il y a eu le cas d'un patient américain qui avait des douleurs abdominales très, très importantes, qui a consulté aux urgences, qui a été renvoyé chez lui, qui a continué à parler avec un modèle, justement, très grand public, qui a posé un diagnostic d'appendicite « Tiens, voici les mots-clés que vous devez dire aux urgences pour, si vous voulez vraiment être pris au sérieux, il est retourné aux urgences, il a dit les mots-clés, il a été opéré, c'était une appendicite.

» Donc voilà, c'est le genre de choses qu'on va voir, pour de vrai, on le voit déjà un petit peu, pour l'instant, c'est de l'anecdote, ce n'est pas des publications très rigoureuses, très scientifiques, mais ça va se multiplier. Et donc, ce genre de modèle-là, où les patients s'en servent, on va dire, en direct, ça va être très puissant. On voit pour l'exemple de ce patient-là qui est mieux traité grâce à ça, mais ça a aussi des risques parce que malheureusement, ces modèles-là, très généralistes pour l'instant, ils ne sont pas toujours faits pour faire de la médecine. Ils ne vous posent pas toujours les bonnes questions.

Ils ne font pas un interrogatoire médical, j'ai dit militaire, mais médical. Et donc, ça peut poser des questions, ça peut poser des problèmes. Ils vont, on le remarque, si on se sert beaucoup de Tchad GPT ou de Gemini, etc., ils sont toujours très flatteurs. Ils vont toujours dans votre sens. Et pour de la médecine, ce n'est pas malheureusement la chose idéale. Il commence toujours d'ailleurs par nous dire qu'on a posé une excellente question. Alexe Greenbaum, une réaction. Jean-Emmanuel a parlé du diagnostic. Il a aussi un autre grand volet. Ce sont les applications qu'on donne aux patients qui sortent des hôpitaux après une opération, après un traitement hospitalier.

Alors, ils sont à la maison, ils ont besoin d'un suivi médical. Une application peut être là 24 heures sur 24, 7 jours sur 7. S'ils ont un problème, s'il y a quelque chose qui ne va pas, ils n'ont pas besoin d'attendre 2 jours, 3 jours pour avoir leur médecin au bout du fil. Ils peuvent directement traiter avec une appli. Alors, l'appli leur dira « Eh ben non, peut-être, allez, ce n'est pas grave. » Ou, c'est les agents conversationnels qui utilisent des données multimodales.

Pas seulement la conversation textuelle, mais aussi parfois vous y mettez des images, vous faites des petites vidéos, vous mettez des données qui proviennent des capteurs physiologiques et elle va devoir décider ou en tout cas aider le patient à décider s'il faut revenir chez le médecin ou pas. Et une des grandes questions justement, est la question des seuils parce que la responsabilité derrière, encore une fois, n'est pas très bien établie. Mais à partir de quel seuil l'appli doit lancer l'alerte ? L'appli doit dire « Non, non, non, là, ok, il faut aller voir un médecin. » Et comment ces seuils doivent être définis ? Quelle est la responsabilité derrière ?

Aujourd'hui, est une des grandes questions en fonction des secteurs. Et le premier, vous avez parlé des angles conversationnels, le premier qui utilise déjà pas mal ce genre d'application, c'est le secteur de la psychiatrie. Quand un malade psychiatrique sort d'un hôpital, il est suivi à travers une appli, mais comment cette appli décide-t-elle des seuils de lancement d'alerte ? C'est une grande question. Vous avez déjà posé les choses, si je puis dire, et j'ai plein, plein, plein de questions à vous poser. Jean-Emmanuel Bibeau, prenons le cas d'un patient qui se renseignerait grâce à une intelligence artificielle pour tenter de comprendre le mal qu'il le touche.

Si cette application se trompe, qui est fondamentalement responsable dans ce cas-là ? C'est une vaste question qui n'a pas été tranchée. Probablement que la loi actuelle, c'est plutôt l'éditeur de la solution, on va dire. Vous savez qu'aux Etats-Unis, il y a déjà pas mal notamment de parents, d'adolescents qui se sont suicidés suite à des conversations longues qu'ils avaient eues avec Tchad GPT. Donc vous voyez le genre de choses qui se profilent justement sur cette thématique-là du risque de l'interaction entre un patient et un modèle. L'un des problèmes derrière tout ça, c'est qu'on l'a déjà un petit peu esquissé, c'est qu'il faut réaliser que ce sont des modèles statistiques pures.

Il n'y a pas de conscience, il n'y a pas d'intelligence humaine bien qu'on puisse, nous, avoir une impression d'intelligence. Et donc ça, ça change tout en termes de responsabilité et donc finalement, vous avez beau avoir des CGU, donc les conditions générales d'utilisation que vous signez là, que vous faites défiler très vite et que vous signez comme vous servez de ce genre de modèle-là, eh bien ça ne vous dispense pas de faire des modèles qui font le bien.

Mais ces statistiques menées à grande échelle avec un nombre incalculable de données, ne sont-elles pas parfois dans certains cas précis, plus précis justement que les soignants, les professionnels de santé, les médecins eux-mêmes, Alex et Greenbaum ? Bien sûr que oui, bien sûr que si. C'est tout l'intérêt d'utiliser l'intelligence artificielle qui peut instantanément, très vite en tout cas, mobiliser des données, analyser à travers le calcul, certes, à travers quelque chose qui simule le raisonnement humain, d'accord ? Mais la vitesse à laquelle on peut accéder à des connaissances, à travers ces systèmes, avoir une réponse à sa question est absolument fascinante.

et ce que Jean-Emmanuel a dit, je me permets d'y revenir, la question ici est très difficile parce que l'ingénieur derrière, le fabricant d'une solution, il peut dire « Ah ben voilà, je vous ai donné l'alerte. » J'ai dit « C'est une machine. » J'ai bien dit « Tout ce qu'elle raconte, c'est fabriqué à travers un calcul. » Tout cela, c'est fictif. Mais de toute manière, l'être humain, il va agir en fonction de ses quelques conseils ou de ses quelques indications et même si l'alerte a été donnée, même si on vous a prévenu qu'il s'agit d'une machine, quelque part, vous allez quand même projeter une agentivité. Vous allez dire « Ok, bon, c'est un agent qui me dit qu'il est intelligent.

» Et la question de la responsabilité ne peut pas juste être évacuée en disant « Je vous ai prévenu, je vous ai donné une information, et donc je ne suis plus responsable. Cette décision vous appartient à vous complètement. C'est de la responsabilité partagée entre l'utilisateur et le fabricant, celui qui a certifié aussi. Et c'est pour ça qu'en Europe... Et pas de médecin ? Alors, le médecin dans cette histoire est probablement conseiller de l'ingénieur d'abord et ensuite celui qui va certifier et valider cette application. Jean-Emmanuel a parlé bien sûr de ces modèles validés pour les usages professionnels. Et donc, on va...

Depuis six mois, il existe une nouvelle réglementation sur les dispositifs médicaux il y a et normalement, on va vers la certification obligatoire. Sauf que, évidemment, les modèles américains, c'est difficile de les certifier en France. Jean-Emmanuel Bibeau, vous avez souhaité réagir ? Trois petites choses. Premier message, on entend très souvent effectivement des gros titres sur le fait qu'une IA fait un meilleur diagnostic que des médecins. Donc ça, pour le coup, il y a eu pas mal d'études et puis il y en a encore qui continuent à sortir qui comparent typiquement sur du diagnostic pur une IA seule versus un médecin seul versus une IA assistant à un médecin.

On pourrait penser que le médecin avec l'IA fait mieux que l'IA toute seule. En fait, il y a déjà au moins deux études qui montrent avec différents biais méthodologiques mais qui montrent que l'IA seule ferait mieux que le médecin assisté d'une IA. Donc ça pose des questions avec toute la limite de la difficulté de mesurer ça précisément. Je vous coupe par donner point mais sur ce point précis, on imagine par ailleurs que ça dépend largement des spécialités en dermatologie, en oncologie. On sait que l'intelligence artificielle est particulièrement performante. Les benchmarks dont je parle en fait, ils sont multispécialités. Les benchmarks c'est les comparaisons.

Les comparaisons on va dire de performances sont faits sur des centaines de cas et multispécialités. C'est leur intérêt et je pense qu'on va en voir de plus en plus. Donc là, c'est le premier point. Le deuxième point très important et ça, ce n'est pas toujours très clair, les modèles type chat GPT, Gemini, GROC, etc. ne sont pas des modèles marqués CE comme des dispositifs médicaux. Vous savez que quand on fait un dispositif médical en Europe, il y a des contraintes qui sont assez complexes et qui coûtent assez cher à obtenir en termes de marquage et donc ces modèles-là ne le sont pas.

Et ce n'est pas pour autant qu'on va réussir à freiner leur usage parce que je pense vraiment que leur usage va s'imposer par le patient lui-même et non pas par les certifications malheureusement. La réglementation est compliquée du point de vue de l'autorisation de la mise sur le marché. Ça a des conséquences économiques notamment pour les innovations en France et en Europe. Troisième point. Et donc le troisième point c'est aussi que on a parlé de ces outils de diagnostic c'est des assistants pour les médecins mais il y a aussi des outils dont on n'a pas encore trop parlé qui sont encore plus vertigineux.

On l'a évoqué au tout début c'est les outils vraiment de prédiction c'est-à-dire être capable de dire 5 ans à l'avance ou 10 ans à l'avance parfois si vous allez développer une maladie. Et donc ça invente quasiment aussi les concepts de pré-malade donc ça c'est très compliqué sur le plan éthique. Et ça ça existe d'ores et déjà ? Ça existe déjà ça n'est pour l'instant pas validé on va dire de façon prospective à 10 ans. Il y a déjà des algorithmes qui vont prédire votre risque de développer une insuffisance rénale aiguë à l'hôpital et qui sont relativement bien validées notamment aux Etats-Unis mais pour par exemple des risques de développer des maladies comme un cancer du poumon etc.

c'est en train d'être validé. Il y a beaucoup beaucoup d'études mais c'est très difficile à valider et là on parlait de la responsabilité et là la responsabilité elle est encore plus difficile parce que si vous avez un algorithme qui fait quelque chose que en fait aucun humain ne sait faire aucun humain ne va pouvoir le vérifier donc personne finalement ne peut vraiment endosser la responsabilité dont on parlait tout à l'heure donc ça c'est très complexe. Vertigineux vous l'avez dit Alexé Greenbaum vous s'étiez réagir également ?

Alors à propos de cette médecine prédictive qui n'est pas nouvelle mais qui a changé énormément depuis trois ans parce que la complexité des modèles d'intelligence artificielle actuelle atteint vraiment des niveaux qui permettent pratiquement de modéliser la complexité du corps humain des tissus des organes même et ça il faut en être conscient c'est-à-dire on n'y était absolument pas là il y a dix ans il y a dix ans la médecine prédictive était fondée sur des implications logiques sur des modus ponens modus pontolens tandis qu'aujourd'hui on modélise à un niveau de complexité qui est celui du corps vraiment et toute la difficulté de cette médecine prédictive c'est que vous en tant qu'individu vous êtes un cas unique chacun de nous chaque être humain est un cas unique alors là la prédiction est statistique mais elle va changer c'est comme la prophétie des prophètes anciens elle change votre vie ah bah si vous entendez une prophétie bah bien sûr vous allez changer votre comportement sauf que vous ne pouvez pas savoir si finalement cette prophétie allait se réaliser telle qu'elle dans le monde parce que vous avez changé de trajectoire vous avez changé déjà de comportement peut-être que vous avez commencé à prendre tel médicament ou à changer le régime alimentaire ou faire plus de sport ou je ne sais quoi mais vous voyez cette prophétie cette prédiction unique en fait bien sûr un impact sur nous elle change notre vie est-ce qu'on va derrière généraliser cela est-ce qu'on va créer dans le système national de la santé un outil qui va permettre aux gens en quelque sorte de connaître l'avenir entre guillemets et donc de changer leur vie en fonction de cette prophétie là philosophiquement c'est très très compliqué dernier mot sur les modèles on en parlera j'espère je pense qu'il faut en parler il y a bien sûr aujourd'hui tous ces modèles américains ou chinois qui donnent déjà qui procurent des conseils en santé qui marchent plutôt pas mal mais je pense que nous devons dès maintenant commencer à créer à l'échelle nationale un système souverain il y a des modèles dits à souverains qui ne sont pas spécialisés en médecine aujourd'hui nous sommes mais nous devrions le commencer dès aujourd'hui parce que je pense réellement que dans peut-être dix ans peut-être quinze ans le système de la santé commencera par dire ah bah vous avez un problème vous avez un souci d'abord vous posez la question à notre modèle certifié et ensuite il va vous dire ce qu'il faut faire on va en venir au modèle capitalistique bien sûr c'est fondamental vous avez raison je voudrais d'abord qu'on tire le fil des capacités médicales de l'intelligence artificielle fin juin 2025 donc il y a quelques mois Demis Asabis le directeur général de Google DeepMind l'entreprise d'intelligence artificielle de Google a déclaré que d'ici quelques années d'ici une dizaine d'années nous aurions d'abord résolu le problème du cancer et d'une manière plus générale nous aurions résolu le problème des maladies je précise que cet homme là n'est pas un clown il a reçu le prix Nobel de chimie en 2024 Jean-Emmanuel Bibeau vous êtes d'accord avec ce type de prédiction ?

ce genre de prédiction elles sont malheureusement faites depuis les années 50 vous savez aux Etats-Unis il y a eu des programmes très ambitieux et très financés pour mettre fin au cancer donc moi j'espère qu'on va finalement y arriver mais je suis dubitatif et en même temps effectivement exactement comme vous l'avez dit c'est pas un clown Demis Asabis il a gagné le prix Nobel pourquoi il a gagné le prix Nobel notamment parce qu'il a participé à l'élaboration bon c'était multidisciplinaire il n'est pas tout seul mais d'un algorithme capable notamment de prédire les conformations de protéines et on peut imaginer qu'il est au courant de certains autres projets qui auraient des applications directes médicales et on peut imaginer si on pousse encore plus loin puisque à la base de beaucoup de maladies il y a des anomalies de protéines ou d'expressions du génome qu'il est pensé à des méthodes pour les contrer mais très honnêtement à l'heure actuelle je me méfie toujours de ces grandes annonces là même lorsqu'elles sont faites par des grands experts comme lui Alexei Greenbaum vous savez derrière il y a un problème technique et éthique aussi très intéressant c'est-à-dire comme je l'ai dit la complexité des réseaux de neurones artificiels de ces modèles dégénératifs aujourd'hui elle atteint des seuils qui sont comparables à la complexité du corps humain donc il y a le nombre de petites calculatrices est comparable par exemple au nombre de neurones biologiques dans nos têtes mais est-ce que cela veut dire que finalement cette chose simule bien l'être humain et bien pas vraiment parce que le calcul qui se passe dedans le calcul il est très différent de ce que font par exemple les neurones dans nos têtes ou d'autres types de cellules dans nos corps avec le replément des protéines donc prix Nobel d'acabys la difficulté a été non pas de produire tout un tas de résultats possibles sur le replément des protéines mais d'identifier parmi tous ces résultats ceux qui étaient réalistes qui étaient proches du monde humain de ce qui se passe dans la biologie sur Terre et donc je pense qu'un des grands problèmes à la fois technique et éthique ce ne sera pas de laisser ces machines halluciner et inventer des solutions ce sera de voir parmi toutes ces solutions lesquelles correspondent à la réalité du monde biologique humain de la vie sur Terre et pour cela on a très souvent besoin du discernement des chercheurs des médecins humains donc vous voyez les machines ont atteint cette capacité à générer énormément de solutions mais la question c'est lesquelles sont proches finalement de notre vie et lesquelles sont complètement étranges à l'homme Je reviens à des questions un peu plus terre à terre en vous écoutant un peu plus tôt Alexei Greenbaum évoquer ces agents conversationnels qui permettent à des patients de poser des questions médicales en santé d'obtenir rapidement des réponses souvent très très justes est-ce que cela signifie qu'aujourd'hui demain dans quelques années les médecins tels qu'on les connaît aujourd'hui sont voués à disparaître Jean-Emmanuel Bibaud Alors si on doit dire tels qu'on les connaît aujourd'hui je répondrai oui je pense que le métier le travail de médecin va fondamentalement évoluer je pense dans le sens qui a été évoqué il y a quelques instants typiquement sur des tâches de triage vous savez le triage c'est quand on cherche à savoir si un patient a une maladie grave qui doit être traité tout de suite maintenant ou alors si c'est de la bobologie que ça peut attendre ça c'est quelque chose qui prend beaucoup de temps aux urgences il y a très souvent des polémiques d'ailleurs sur le temps d'attente aux urgences donc on pourrait complètement imaginer des systèmes automatisés de triage ceci dit je ne suis pas encore totalement convaincu je pense que techniquement il n'y a pas d'obstacle majeur je pense que l'obstacle est plus sur l'acceptabilité et l'acceptabilité des patients elle est très certainement assez forte au niveau des populations jeunes qui sont effectivement habituées et qui ont une appétence pour la rapidité ce que vous nous dites c'est que les plus jeunes n'ont pas de problème à interagir directement avec une intelligence artificielle en tout cas beaucoup moins que leurs aînés exactement c'est ce que je pense et je pense que les patients plus âgés ont plus d'appétence pour la deuxième partie de la médecine qui n'est pas une partie on va dire technique qui est à mon sens aussi importante mais qui est une partie plus humaine impalpable plus difficile à automatiser et qui va être très importante pour les patients plus âgés et sans doute moins importante pour les patients plus jeunes Alex et Greenbaum sur ce point moins d'oncologues du moins dans 20 ans 30 ans je pense que déjà la première profession qui change déjà et qui va encore changer sont les médecins généralistes les médecins généralistes qui dans la plupart des cas quand même il faut le dire il y a beaucoup de cas ils donnent juste du paracétamol et puis le patient rentre chez lui pourtant vous nous disiez au départ que c'était les moins les moins acculturés alors qu'il est à l'intelligence artificielle ceux qui l'utilisaient le moins en tout cas en comparaison des spécialistes mais justement je pense que pour créer ce système de la santé du 21e siècle n'oublions pas l'actuel système de la santé il nous vient du 20e avec les technologies du 20e dans le nouvelle génération d'abord vont consulter un modèle d'IA si le modèle leur dit écoutez vous avez besoin d'un examen physique allez voir un médecin alors là la personne va voir un médecin si le modèle dit ah bah ça peut être grave allez voir un médecin la personne va voir un médecin mais si le modèle dit allez prenez de paracétamol et c'est tout et la personne souhaite encore aller voir un médecin la visite ne sera pas remboursée vous voyez là il y a aussi la composante du système financier capitaliste comme vous dites du monde du monde de la santé donc tout cela nous amène à la question de ce que vous avez cité au début de cette vitesse de la lumière soit disant à laquelle ça change ce qui change très très vite c'est la technique mais bien sûr la vie de nos concitoyens ne change pas aussi vite c'est une question je dirais d'une ou de deux générations cette transition elle prendra du temps mais il faut la commencer aujourd'hui il faut commencer à construire ce nouveau système de la santé aujourd'hui sachant que ceux qui ont aujourd'hui 18 ans au moment où ils en auront 60 tout sera différent dans le système de la santé Jean-Emmanuel Bibaud en quelques mots pour nuancer simplement sur les médecins généralistes bien heureusement leur travail ne se résume pas à prescrire du paracétamol ils font un travail qui est très transversal pluridisciplinaire et humain et humain et je pense que c'est leur vrai plus-value et donc c'est pour ça que je fais très souvent l'argument que l'IA doit être aussi réfléchi pour entre guillemets réhumaniser détechniciser la médecine et c'est là à mon avis les médecins ont une vraie plus-value que l'IA aura peut-être plus de mal à apporter plus tard Alex et Grégo vous n'êtes pas d'accord complètement d'accord d'un côté oui le contact humain le contact humain et cette approche humaine et humaniste des médecins généralistes est très importante mais les modèles d'aujourd'hui très souvent sont adorables voire adorés par les patients qui disent ah oui tellement gentils ils m'expliquent tout je ne comprends pas ils m'expliquent pas encore c'est vrai qu'ils sont pas désagréables il y a des gens qui préfèrent les modèles d'IA génératifs parce qu'ils sont toujours là et toujours gentils toujours au service du patient je voudrais vous faire entendre la voix du PDG d'Open IS Sam Altman il évoque le rôle crucial de l'intelligence artificielle dans la guérison des maladies graves

ces personnes peuvent peut-être nous en dire plus sur le travail qu'elles font là-bas je pense qu'elles seront ensemble parmi les leaders du progrès je pense qu'à mesure que cette technologie progresse nous verrons des maladies être guéris à un rythme sans précédent nous serons étonnés de la rapidité avec laquelle nous guérirons ce cancer celui-là et les maladies cardiaques et ce que cela va apporter à la capacité de fournir des soins de santé de très haute qualité les coûts mais vraiment guérir les maladies à un rythme rapide je pense que ce sera l'une des choses les plus importantes que cette technologie fera Ce qui m'intéresse ici

c'est moins ce qui est dit car on vient d'en parler que qui le dit Sam Altman en l'occurrence c'est-à-dire le patron d'une très très grande entreprise valorisée d'une manière extraordinaire sur les marchés internationaux Jean-Emmanuel Bibeau lorsque vous utilisez encore une fois au quotidien dans un hôpital public des dispositifs médicaux des applications d'intelligence artificielle quelle est l'architecture capitalistique qui se trouve derrière ?

Les outils qui sont disponibles dans les hôpitaux sont très souvent des outils qui viennent majoritairement de start-up et d'ailleurs très souvent de start-up françaises européennes notamment en radiologie il y a beaucoup beaucoup de start-up françaises qui sont prédominantes y compris à l'international donc c'est pour redire un petit peu ce que je disais au début on ne se sert pas de Tchad GPT à l'hôpital pour faire de la médecine en tout cas pas encore et pour revenir sur l'importance de ceci dit de ce que dit Sam Altman et de Tchad GPT ils sont particulièrement conscients de l'importance de ce marché pour eux puisque c'est entre 20 et 30% du nombre de requêtes totales de Tchad GPT à la santé donc c'est énorme pour Open Air en réalité et donc ça on ne le dit pas souvent alors qu'ils le savent très très bien puisqu'ils monitorent tout ça en temps réel et donc forcément ils en tiennent compte dans le développement de leurs outils Alex et Greenboom oui en effet dans les hôpitaux les médecins professionnels n'utilisent pas Tchad GPT ils utilisent les outils validés mais ceux qui utilisent très souvent Tchad GPT Gemina ou ces modèles grand public qui ne sont même pas spécialement des modèles médicaux ce sont simplement les patients les patients enfin ces modèles sont disponibles gratuits sur internet évidemment il va d'abord parler avec Tchad GPT et justement l'évolution de ce système de la santé à mon avis ne peut absolument pas déléguer au modèle américain ou chinois ou autre ce monde des patients qui commencent par parler avec Léa et donc nous devons à l'échelle pour des histoires de vie privée pour la protection de la vie privée pour la protection des données personnelles mais des deux côtés d'un côté les données personnelles sensibles évidemment qui sont protégées par le GPD donc grande question est-ce qu'on peut les mettre dans un modèle le GPD c'est la réglementation européenne de protection des données exactement sur la protection des données personnelles qui sont sensibles là alors de l'autre côté parce que ces modèles aussi utilisent les données pour améliorer la qualité des modèles et donc là on est dans un cycle de captage de ces données et puis d'amélioration des modèles par les grands fabricants donc aujourd'hui je pense qu'elle est absolument absolument absolument obligatoire pour la France mais aussi l'Europe peut-être à l'échelle européenne justement de commencer à construire une solution européenne voire française qui sera disponible pour tous les patients comme aujourd'hui les Tchad-GPT mais probablement spécialisés quand même dans le domaine médical parce que là on parle du système de la santé parce que Tchad-GPT vous savez il peut tout faire y compris la santé et dans le même temps vous écoutant on se dit ces données si l'on veut que l'intelligence artificielle soit un progrès notamment dans le domaine de la recherche médicale dans le domaine de la recherche liée au médicalement on en a fondamentalement besoin pour construire des modèles pour penser justement l'avenir d'une manière efficace du point de vue de la santé absolument alors comment on fait comment on résout cette tension que construire un monde de la santé où ces données vont tout de suite vers la Californie ou vers la Chine ça n'a pas de sens donc il faut proposer des solutions qui permettent aussi aux patients aux utilisateurs de manière altruiste si vous voulez d'acquiescer à ce que leurs données soient utilisées pour développer des modèles français ou des modèles européens je ne comprends pas altruiste c'est à dire que alors là il y a un terme l'altruisme des données qui est à la mode depuis quelques années c'est à dire que vous n'allez pas vendre vos données de patients vous donnez votre consentement pour que les fabricants ces petits start-ups par exemple françaises utilisent vos données pour améliorer les systèmes français ou les systèmes européens et ce consentement libre est un geste que je peux appeler altruisme je ne suis pas le seul parce que vous faites un choix conscient ça ne va pas en Californie ça reste en France ou en Europe donc c'est du avant c'était le don du son maintenant c'est le don de données Jean-Emmanuel Bibaud peut-être qu'il y aura un petit peu de ça d'ailleurs j'ai souvent des patients qui me demandent s'ils peuvent me donner leur donnée parce qu'ils savent que je fais de la recherche dans le domaine je leur explique que malheureusement c'est un peu plus compliqué que ça actuellement juste pour revenir sur l'importance effectivement de développer un acteur français européen là je suis à 100% d'accord c'est absolument majeur l'Europe et la France a un petit peu loupé on va dire le virage du digital notamment avec le cloud avec l'hébergement de données on le sait il y a eu pas mal de polémiques sur cette thématique là la santé en France c'est 10% du PIB aux Etats-Unis c'est 20% du PIB donc c'est d'une captation potentielle économique absolument énorme donc si c'est encore une fois des acteurs américains j'ai rien contre les américains j'ai vécu aux Etats-Unis j'ai rien contre eux mais il faut au moins être conscient que si on laisse une partie de cette valeur partir justement sur ces entreprises là qui comme vous l'avez dit ont déjà des capitalisations très importantes et bien on manque encore un virage de plus donc là il y a un vrai sursaut à avoir sur cette thématique là et c'est je sais que c'est pas bien de parler d'argent quand on parle de santé mais là c'est des milliards des milliards d'euros Quel impact je me permets de vous couper Alexé Greenbaum pardon quel impact de l'intelligence artificielle sur les inégalités de santé on peut se dire après tout la plus-value de l'intelligence artificielle c'est qu'une fois qu'elle est accessible elle est la même pour tout le monde on a le même diagnostic posé pour chacun quelle que soit la pathologie ce qui n'est pas nécessairement le cas lorsque l'on va à la rencontre d'un professionnel de santé qu'il est difficile d'obtenir un rendez-vous qu'il est difficile même de se rendre physiquement dans un cabinet médical Alexé Greenbaum Oui je pense que justement même si on parle toujours de la fracture numérique de personnes qui n'ont pas de téléphone portable ou qui n'ont pas d'accès au monde numérique il est très important de penser à ces personnes-là mais je pense que justement il y a beaucoup plus de gens qui n'arrivent pas à avoir un rendez-vous qui n'ont pas d'accès aux médecins parce qu'il n'y en a pas assez les déserts médicaux vous connaissez tous bien sûr le problème avec les modèles d'intelligence artificielle on propose une solution peut-être pas la solution qui va effacer les déserts médicaux complètement mais en tout cas une solution possible et pour moi l'impact de l'IA et de ces différents types d'IA il n'y a pas une seule IA comme Jean-Manuel l'a dit sur l'accès aux soins est globalement positif et même très très positif je vous pose la question inverse par conséquent Jean-Emmanuel Bibeau est-ce que l'intelligence artificielle ne va pas accroître les inégalités de santé tout simplement parce que face à la technologie on n'est jamais égaux alors je suis assez d'accord avec Alexei complètement d'accord même et ceci dit il y a un petit risque qui est un petit peu caché dans les détails techniques on n'a pas beaucoup parlé mais les IA en fait elles sont évidemment entraînées à partir de données préexistantes on a pas mal parlé des données et donc si vous avez des IA qui sont majoritairement entraînées à partir de données par exemple américaines ou chinoises ou autres il n'est pas absolument évident qu'elles fonctionnent bien pour une population européenne ou française et si ces outils là ne répondent pas à des mécanismes ou des méthodologies de certification d'évaluation comme les IA européennes et bien on ne va même pas se rendre compte qu'elles ne marchent pas bien pour nous et donc au-delà de la captation économique au-delà des problèmes de souveraineté il va y avoir aussi un problème potentiel de santé publique si on pousse un petit peu le raisonnement et donc deuxième raison je pense pour vraiment développer des outils en France avec des données en français ou européennes en quelques mots comment analysez-vous chacun la façon dont le grand public s'empare de ces questions est-ce qu'il y a parfois selon vous un excès de confiance dans l'intelligence artificielle qui pourrait tout résoudre et nos problèmes de santé et la lutte contre les inégalités de santé et l'accès aux soins etc etc oui vous savez l'excès de confiance est un des grands problèmes éthiques justement pour les professionnels et pour les patients pour tous les utilisateurs d'IA et au début on pensait que les modèles d'IA allaient être rejetés parce que parfois c'est du n'importe quoi parfois ça hallucine c'est le résultat on voit que ce n'est pas juste et puis je me suis rendu compte depuis quelques années en regardant les usages de l'IA que les gens s'habituent ils ont compris que oui alors il faut parfois vérifier il ne faut pas tout de suite aveuglement faire confiance il faut poser peut-être la même question à deux modèles différents ou de différentes façons aux mêmes manières on se sent en nous-mêmes les gens voilà et les usages sont déjà absolument partout on a parlé de jeunes mais bien sûr aujourd'hui tous les jeunes j'ai fait encore un cours sur l'IA en santé il y a quelques jours dans une école d'ingénieurs j'ai demandé mais qui quand il se sent un peu mal commence par en parler avec un modèle et bien tout le monde bien sûr et dans quelques années peut-être quelques décennies il y aura une majorité absolue des gens qui passeront d'abord par l'IA Jean-Emmanuel Bibaud en 30 secondes en 30 secondes deux choses première chose on est dans une situation un peu paradoxale où à la fois on fait des extraordinaires promesses sur l'IA on vient d'en parler avec Demis Hassabis par exemple et puis à la fois une grande méfiance je pense que le juste milieu comme d'habitude prévaut c'est à dire que moi je ne suis ni naïf ni complètement négatif sur l'IA et je pense vraiment qu'il ne faut pas l'être deuxième chose en 10 secondes on n'a pas trop parlé mais il y a un enjeu majeur de la formation des patients mais aussi de la formation des médecins eux-mêmes dans la formation dans les études médicales c'est relativement peu pris en compte pour l'instant et ça fait partie des grands défis des réformes des enseignements de la médecine médecin et professionnel de santé j'insiste merci à tous les deux c'était passionnant Jean-Emmanuel Bibeau oncologue radiothérapeute Alexei Greenbaum physicien et philosophe merci d'être venu dans ces questions du soir merci également à celles et ceux qui ont préparé cette émission Juliette Mouelic Stéphanie Villeneuve Diane de Vancey Mathias Mégi à suivre après le journal Donald Trump pourrait-il attaquer un jour le Venezuela est-ce qu'il a ?