L'homme machine | Ces idées qui gouvernent le monde

Générique

... Bienvenue dans Ces idées qui gouvernent le monde. L'homme-machine. L'hybridation de l'homme et de la machine est en marche. Elle est certes aujourd'hui spectaculaire du fait des manipulations biotechnologiques, notamment sur le cerveau, de la révolution numérique avec une intelligence artificielle omniprésente et quasi-omnisciente, et des progrès considérables dans les neurosciences. Mais cette hybridation vient de loin. Elle est concomitante des avancées de l'humanité pour rafranchir Homo sapiens d'un état de nature pour en faire un sujet

sachant et faisant, réfléchissant et cherchant à s'autonomiser des contraintes naturelles par la science, les techniques, l'intelligence artificielle, mais aussi par l'écriture, la lecture et l'esprit de raison. Seulement, si cela a permis une transition de la préhistoire à l'histoire, est-ce que nous ne sommes pas en train de brouiller cette histoire par un post-humanisme, une post-modernité où le réel et le virtuel deviennent indistincts ? Autrement dit, en nous hybridant à la machine, serons-nous des sujets augmentés, des sujets réparés,

des sujets transformés, voire des sujets robotisés ? Nous essaierons dans un premier temps d'évaluer les progrès enregistrés sur le cerveau, comme au niveau des mobilités améliorées, avant d'en évaluer certains risques qui se profilent et d'établir in fine une grille de protection pour éviter que les progrès de la science ne viennent passer alliance avec une robotisation déshumanisante. Avec mes invités que je vous présente, nous allons chercher à trier le bon grain de l'ivraie. Raphaël Gaillard, vous êtes psychiatre, chef de service au Centre hospitalier Sainte-Anne. Vous êtes également membre de l'Académie française et écrivain.

Laurent Alexandre, que nous avons en visioconférence, vous êtes médecin, entrepreneur, écrivain, chroniqueur. Merci d'être en visioconférence avec nous. Patrick Guyomard, vous êtes philosophe. psychanalyste à la SPF et professeur des universités. Catherine Pelachaud, vous êtes informaticienne, directrice de recherche au CNRS. Jean-Michel Besnier, vous êtes philosophe et professeur des universités. Avant de commencer ce débat, nous allons voir un échange entre Cédric Villani, député, et le docteur Nordlinger. C'était une table ronde à l'Assemblée nationale

le 21 février 2019. -Nous allons aller un peu plus dans le coeur du sujet avec les allers-retours entre usage et finalité médicale, diagnostique, thérapeutique de la collecte des données de santé, Bernard Nordlinger, chirurgien oncologue à l'hôpital Ambroise Paré, membre de l'Académie nationale de médecine. -La santé est toute évidence un des principaux domaines d'application de l'intelligence artificielle et des données, que c'est absolument irréversible et qu'il va donc falloir faire avec. Et avant d'aborder un sujet ou insister sur une question qui a déjà été abordée, c'est que ça pose avant tout

un défi de la confiance, il ne suffit pas d'avoir des réalisations techniques, il faut que nos concitoyens aient la confiance et que c'est un problème qui se pose avec un certain nombre de fantasmes qui s'expriment dans les médias, que l'intelligence artificielle ferait courir le risque que les ordinateurs ou les algorithmes prennent la main et réduisent en esclavage le cerveau humain. -Alors Raphaël Gaillat, nous venons d'écouter cet échange au Parlement. L'homme augmenté, c'est d'ailleurs le titre de votre dernier ouvrage, abordant pour commencer l'excroissance des compétences de cet homme augmenté. Oui ou non, est-ce qu'on peut accroître

dans l'absolu les capacités de mémoire et est-ce qu'on peut remédier à cette détérioration de la mémoire qui vient avec l'âge ? Avec évidemment, tous les moyens informatiques. -Commençons par la deuxième partie de votre question qui est celle du remède et donc de la réparation. Parce que je crois qu'il faut d'abord dire que ces technologies sont développées pour soigner et c'est leur première intention, c'est le premier but. D'ailleurs il faut dire que l'invention des techniques de stimulation cérébrale profonde est une invention française, on la doit à un neurochirurgien grenoblois, Alim Benhabib, et c'est un traitement aujourd'hui qui a bénéficié à quelques 200 000 patients dans le monde dans la maladie de Parkinson. Donc c'est avant tout

des techniques de soins qui permettent de soigner, nous pourrions dire, réparer. La difficulté tient au fait que la frontière entre réparation et augmentation, elle est difficile à établir et que pour certains, l'objectif n'est clairement pas la réparation mais l'augmentation. Elon Musk, lorsqu'il crée Neuralink, évidemment aujourd'hui, implante des patients, qu'il appelle d'ailleurs des "users", donc des utilisateurs, qui sont tétraplégiques pour leur permettre de récupérer une forme de motricité. Mais son objectif, c'est bien l'augmentation. Est-il possible d'augmenter des facultés ? Oui, il est possible d'augmenter des facultés. Mais précisons d'emblée que cette augmentation, elle est élective. C'est-à-dire

que vous pouvez augmenter les facultés correspondant au site de l'implantation. Votre implant permettra d'augmenter l'activité cérébrale, les fonctions cérébrales qui sont voisines de cet implant. Et pas ce qui se passe à dix centimètres. Notre cerveau, c'est quatre-cinq milliards de neurones qui, chacun, échangent de façon extrêmement complexe. Et il n'y a pas un port USB dans le cerveau qui fait que, quand vous êtes dans le cerveau, vous accédez à l'ensemble du cerveau. Donc l'augmentation par un implant cérébral, elle n'est pas globale, elle est élective. Et d'ailleurs c'est intéressant puisque ça signifie que si demain nous augmentons l'homme par des implants cérébraux, et bien ce sera au travers d'ultra-compétences et non pas d'une augmentation globale de l'homme,

alors que notre vision de l'homme, celle de la renaissance, c'est celle d'une forme d'équilibre, l'homme de Vitruve dans un cercle, dans un carré, quelque chose qui est équilibré de notre vocation quand nous enseignons, quand nous éduquons nos enfants, c'est de créer une forme d'harmonie. Cette augmentation est une rupture de l'harmonie de l'homme. -Merci. Laurent Alexandre, sur ce plateau, nous avions un biologiste, Alain Prochiantz pour ne pas le citer, qui disait que la capacité de mémorisation du cerveau resterait limitée. Est-ce que vous pensez, vous, qu'on peut l'augmenter ?

-Nous n'avons pas de technologie aujourd'hui pour augmenter nos capacités de mémorisation ni nos capacités intellectuelles. Donc les travaux menés par Elon Musk, pour l'instant, comme le disait le professeur Gaillard, s'appliquent à la réparation et non pas à l'augmentation du cerveau. Est-ce qu'Elon Musk peut, en investissant beaucoup de milliards de dollars, trouver des technologies d'augmentation électronique ? Moi, je n'en suis pas persuadé. Il faut bien comprendre qu'il y a une deuxième voie qui est envisagée pour augmenter les cerveaux, c'est la sélection embryonnaire et la manipulation génétique des embryons, et qui est une technologie, je trouve, encore plus bouleversante que l'augmentation cérébrale

envisagée par Elon Musk avec ses implants Neuralink. Il faut savoir qu'un sondage réalisé par la grande revue scientifique américaine "Science" a montré que 38 % des Américains souhaitaient utiliser la sélection embryonnaire des embryons pour avoir un bébé plus intelligent de manière à ce qu'il soit compétitif à l'ère de l'intelligence artificielle. Et dans le même sondage, 28 % des Américains souhaitent manipuler l'ADN de leur bébé pour ce faire. D'ailleurs, une entreprise américaine a lancé le mois dernier un kit de séquençage ADN assez cher, à 50 000 dollars. Et pour ce prix-là, on vous fabrique quelques dizaines d'embryons à partir de vos spermatozoïdes et de vos ovules,

on séquence l'ADN en éprouvette de tous les futurs bébés, de tous les embryons. On analyse le quotient intellectuel probable futur de ces embryons, et on vous laisse choisir le bébé que vous souhaitez implanter et qui deviendra le plus intelligent ou l'un des plus intelligents de l'ensemble des bébés que vous avez fabriqués en éprouvette pour 50 000 dollars. Ces technologies, de mon point de vue, sont encore plus bouleversantes que les technologies envisagées par Neuralink. -Patrick Guyomard, qu'est-ce qu'en pense le psychanalyste ? Parce que quand vous avez un patient sur un divan, vous faites travailler sa mémoire. -Oui, le psychanalyste, il est évidemment très intéressé par tout ça.

Freud disait au début de son travail, de sa pratique, que la mémoire enregistrait tout, que nous nous souvenions de tout. Il a même pensé que la guérison, c'était la capacité de retrouver la totalité de ses souvenirs. Accessibilité, évidemment. pas être envahi comme par un raz-de-marée de la totalité de la mémoire, mais de la retrouver. Alors cette idée s'est un peu perdue, ou s'est un peu éloignée. Comme clinicien, je dois dire à ma grande surprise, je constate dans bien des cas que cette capacité de mémoire existe. Je retrouve des patients de 50, 60 ans, retrouver des souvenirs d'enfance ou des souvenirs traumatiques

qui étaient inaccessibles, séparés, éloignés. Donc avant de penser à une augmentation artificielle, il faut aussi réfléchir à ce qui est inscrit, ce qui se conserve, même si c'est refoulé, écarté, etc. Ce que je trouve intéressant dans ce débat et dans ces questions, c'est que ça nous oblige à repenser l'humain dans son ensemble, mais au fond à partir d'idées assez familières. L'homme a toujours été augmenté. L'homme a toujours été hybride. Guérir n'a jamais été réparer, ça a toujours été augmenter. Freud pensait que la guérison, c'était se souvenir. Mais la pratique montre absolument le contraire. On ne peut pas intégrer un traumatisme, s'en souvenir,

y faire face, sans être profondément transformé. Donc nous sommes obligés de réfléchir aux liens entre tous ces éléments : guérir, réparer, augmenter, modifier, hybrider, changer. Et ça, je trouve ça absolument passionnant, mais ça nous oblige à repenser ce qu'est l'humain, c'est-à-dire l'humanisation. Et dans ces éléments, il y a quand même quelque chose d'essentiel, c'est le référent, mais le référent au sens de la personne qui parle, qui peut expliquer ce qui se passe, qui peut rendre compte avec qui on peut dialoguer. Donc la question de l'intelligence artificielle, je vais un peu trop vite, c'est la question de la possibilité ou de l'impossibilité du dialogue.

C'est-à-dire quelqu'un qui dit : "Pourquoi vous faites ça, quel sens ça a, qu'est-ce que vous voulez, à quoi ça sert ?", cet élément fondamental. -Oui, Jean-Michel Besnier, qu'est-ce que vous en pensez ? -Ecoutez, que vous posiez la question de la mémoire d'emblée me semble intéressant et en même temps symptomatique. Parce que les techniques, d'une manière générale, c'est McLuhan qui disait ça autrefois, les techniques ont toujours eu pour ambition d'externaliser l'humain. Et il ajoutait, mais finalement, dans leur devenir, on s'aperçoit que c'est pas externaliser l'humain qu'elles veulent, mais c'est finalement l'expulser. Expulser l'humain.

Toutes les technologies sont des entreprises d'externalisation de la mémoire. L'écriture est le premier grand exemple que Platon avait commenté, en invoquant le fameux mythe de Theuth, avec cette idée que l'écriture allait décharger l'homme, l'humain de ce souvenir et allait lui faire perdre son âme, puisque l'âme est associée étroitement, effectivement, à la mémoire. Mais quand on parle aujourd'hui d'intelligence artificielle, on suppose finalement

que cette mémoire proprement humaine, elle soit finalement superflue. Si la singularité projetée par Ray Kurzweil avait lieu, elle consacrerait effectivement une espèce de présentisme chez les humains qui seraient seulement préoccupés du présent. Et nous n'aurions plus que faire du passé, et nous pourrions finalement nous débarrasser également de la préoccupation du futur. Donc si nous parlons en termes d'utopie, l'homme-machine, c'est la défaite de la mémoire, c'est la défaite de tout ce qui relève de la fonction symbolique de l'humain.

La vie intérieure n'a pas de sens si l'intelligence artificielle prédomine et sans vie intérieure, que ferions-nous de la mémoire ? Donc, je crois que si nous inscrivons notre discussion sous le signe de la mémoire, finalement, nous allons très vite tomber sur cette aporie. Des machines qui développent des automatismes sont par définition des machines pour lesquelles le passé n'a aucun intérêt, n'a pas de sens. Et si nous nous hybridons avec ces machines,

nous liquidons, purement et simplement, cette question de la mémoire et nous reviendrons après sur la question du dialogue parce qu'elle est effectivement également liée... -Vous êtes sceptique, Raphaël, là-dessus ? -Oui, parce que je pense que la... Ce qui est fascinant avec l'intelligence artificielle et la façon dont émerge une forme d'intelligence, parce que je pense qu'il est question d'une forme d'intelligence émergeant d'un réseau de neurones, c'est justement qu'il existe une histoire. Un réseau de neurones, c'est une imitation de notre cerveau. Ca a été pensé dès les années 1950 mais il fallait la puissance de calcul que nous avons aujourd'hui. Et donc, ça procède un peu

de la même façon que nos neurones fonctionnent en renforçant leurs connexions, les affaiblissant, etc. Les couches superficielles de notre cerveau. Encore faut-il l'éduquer. C'est-à-dire qu'il est une histoire. Et ce que consacre l'intelligence artificielle, surtout les derniers modèles, ceux qui sont devenus intelligents par la rencontre du langage, et notamment de la lecture, c'est justement que, traversée par l'histoire, celle des hommes, celle de ce que tous les hommes ont écrit, ou tout ce que... tout ce qui témoigne de l'écriture par les hommes, ou des hommes par l'écriture plus exactement, il en reste quelque chose, c'est un réseau de neurones qui a une conformation particulière,

qui est le témoin de cette histoire et qui a une forme d'intelligence. Et j'ajoute un point, c'est que précisément, la grande particularité de cette intelligence artificielle, les dernières en date, non seulement elles ont été rendues intelligentes par le langage, Et pas par la reconnaissance des formes, comme dans mon champ, par exemple, reconnaître un naevus versus un mélanome. C'était ça avant en médecine, l'intelligence artificielle. Pour les dermatologues, là, c'est vraiment le langage. Mais justement, notre échange avec cette intelligence artificielle, il est de l'ordre du dialogue. Donc, c'est une rencontre par le dialogue. Et donc, il y a une histoire et il y a un dialogue. -Catherine Pelachaud, sur ce sujet, qu'est-ce que vous en pensez ?

-Moi, je suis informaticienne, c'est vrai que je vais prendre ce point de vue-là. Donc, il y a des modèles, un modèle de mémoire, maintenant, avec les dernières avancées de l'IA, mais je pense que, la mémoire, ce n'est pas simplement un amas de connaissances. Il y a nos émotions qui influent sur notre mémoire, sur la sélection de ce qu'on va retenir. L'intelligence aussi, c'est aussi l'intelligence sociale. Donc, gérer les autres, gérer les dialogues, etc. Et là, il me semble que l'IA, il y a encore énormément de pas à faire. L'IA sait emmagasiner des connaissances,

c'est absolument incroyable. Il sait aussi les sortir, parfois il fait encore beaucoup d'erreurs, mais il commence de plus en plus à être étonnant de ce qu'il peut promettre. Par contre, il y a tous les autres aspects qui sont absolument... Notre voie intérieure, je ne suis pas sûre du tout que ce soit même intéressant de modéliser. L'IA est un outil et je pense qu'il faut le voir aussi comme cela. -Oui, alors Patrick Guyomard, vous avez vu, il y a là une nuance dans les propos à la fois de Raphaël Gaillard et de Jean-Michel Besnier. Est-ce qu'à votre avis, on peut entretenir un dialogue

avec l'intelligence artificielle ? -Sûrement, puisque c'est comme ça qu'on nous la présente. Simplement, il faut se demander ce qu'on appelle dialogue. Le mot d'altérité, c'est le même mot qu'altération. Donc, toute rencontre avec une altérité, quelle qu'elle soit, pose la question de l'altération dans le meilleur et dans le pire, c'est-à-dire de la transformation, de l'amélioration, mais en même temps de la dégradation, de la folie, de la dissociation, etc. Donc on voit bien que si on a une attitude, je ne dirais pas ouverte, mais disons accueillante, à ce type de progrès, si on réfléchit,

on pense automatiquement l'essentiel de l'humain. Dans son rapport à l'altérité, donc, comme vous le disiez, le premier élément, c'est la parole. Un enfant à qui on ne parle pas, il ne parlera jamais. C'est une vieille question humaine qui a été posée de façon aussi dramatique. Au XVIIIe, on a essayé d'isoler des enfants, ne pas leur parler. -Et s'ils ne parlent pas, ils finissent par mourir ? -Pas forcément, mais il y a leur humanité qui se défait, qui se dégrade, qui se décompose. Leur humanité, c'est-à-dire leur capacité de dialogue, de réception avec les autres. Et donc, ce que je trouve paradoxal, c'est que ni l'intelligence ni la mémoire ne sont des facultés.

Ce sont des composantes de l'humain. On ne peut pas dire : "Je veux augmenter ma mémoire" comme on achète un outil. On ne peut pas dire : "Je veux augmenter l'intelligence en faisant ça". L'intelligence elle peut s'altérer, elle peut rendre fou parce qu'on pense trop. La mémoire il y a une hypermnésie, on se souvient de trop. Ce ne sont pas des facultés qu'on peut augmenter, soustraire, etc. Ca conduit automatiquement à la question des conditions du dialogue dans lesquelles ça a été transmis et ça se développe. Donc, je pense qu'il faut prendre la question de l'intelligence artificielle comme un élément supplémentaire dans ce qui se présente comme l'environnement humain,

mais pas comme un élément qui transformerait à jamais, irréductiblement, cet environnement. Sinon, on tombe dans une impasse. Il est bien clair qu'il y a des personnes, des régimes politiques, des mouvements qui veulent que l'intelligence artificielle transforme définitivement l'environnement humain. Car il y a des éléments de pouvoir, des éléments financiers, etc. -Jean-Michel Besnier, j'ai vu que vous n'étiez pas tout à fait d'accord sur le dialogue avec l'intelligence artificielle. Est-ce que vous croyez qu'aujourd'hui tout le monde a un outil informatique et c'est une forme de dialogue avec lui, non ? -C'est un abus de langage extraordinaire que de parler de dialogue avec une machine.

C'est confondre deux concepts qui sont, à mon avis, fondamentaux. C'est confondre le signe et le signal. Dans un dialogue, nous échangeons des signes. J'émets un message à votre direction et vous restituez un autre message porteur de signes. Si j'émets un signal, par contre, je ne m'attends pas à ce que vous répondiez par un signal, mais par un comportement. Le signal, c'est un élément qui appelle une réaction comportementale. Un signe, c'est un message qui appelle un autre signe.

Nous dialoguons lorsque nous échangeons des signes. L'intelligence artificielle veut que nous confondions les deux, traitement du signal et échange de signes. C'est une imposture. C'est une imposture complète qui témoigne bien d'une espèce de choix en faveur d'une mécanisation de l'humain. Plus nous mécaniserons l'humain et moins nous aurons besoin qu'il requière des signes et les signaux lui suffiront amplement. Nous ne dialoguons pas avec Siri, ou avec Alexa, ou avec Elisa. Nous ne dialoguons pas. Nous sommes dans une farce,

dans un simulacre. Mais un simulacre qui est efficace. Et c'est son efficacité qui nous le fait retenir. Mais cette efficacité, elle est au prix, encore une fois, de cette élimination de l'humain, telle que Patrick Guyomard l'évoquait tout à l'heure, en disant que non, nous ne sommes pas une entité qui supporte des facultés susceptibles d'être abstraites, susceptibles d'être manipulées. Non, nous sommes un tout, un tout indissociable, et ce qui nous caractérise fondamentalement en tant qu'humains, c'est que nous ne sommes pas univoques, nous sommes ambivalents, nous sommes équivoques,

par définition, nous fonctionnons avec de l'approximation, ce qui, évidemment, répugne à l'approche techniciste de l'humain, qui, encore une fois, nous voue de plus en plus à éliminer le fondamental en nous, c'est-à-dire le symbolique et ce qui relève de... -Alors, Laurent Alexandre, je vais vous donner la parole. Je prends juste, une réaction de Raphaël Gaillard sur le sujet et on prolongera la discussion avec vous. -Je suis curieux d'avoir la réponse de Laurent Alexandre, mais moi ça me semble un petit peu abstrait. Alors d'abord, si vous me permettez, Siri, Alexa, ça date un petit peu.

Et ensuite je voudrais ajouter un point, enfin deux points, pour les cliniciens que nous sommes, nos patients nous prêtent beaucoup plus que ce que nous avons. Ca, c'est l'exercice de la psychiatrie, de la psychanalyse. Ils nous prêtent beaucoup plus que ce que nous avons et nous prêtent un savoir que nous n'avons pas. Et c'est exactement ce que nous observons dans les échanges, non pas avec Alexa, mais avec ChatGPT. J'ai raconté un jour l'histoire de cette patiente qui vient me voir. Comme ayant eu une sorte d'épiphanie, me disant : "Je discutais hier avec mon chat et j'ai enfin compris pourquoi dans cette famille les femmes n'ont pas leur place, c'est toute l'histoire du protestantisme, le problème de la Vierge Marie". Je me suis tout de suite dit :

"J'ai rien compris". Je n'avais pas compris qu'elle délirait, qu'elle est psychotique. Non, pas du tout. Mon chat, c'était ChatGPT. Elle avait discuté toute la soirée avec ChatGPT. Et de fait, il y avait eu une forme de maïeutique, celle qu'évoque Patrick Guyomard. Il y avait eu quelque chose qui s'était passé en elle, une hybridation, une altération. Et elle avait compris les choses. Evidemment, nous l'avons repris différemment. mais vous voyez bien que l'altérité y était, et on n'est pas dans le signe, on est dans le symbole, on est dans quelque chose qui change chez une patiente, on est dans, en fait, l'hybridation qui caractérise les êtres humains. Donc, non, je ne crois pas que l'humain s'appauvrisse, il s'étoffe de toutes sortes de choses, au point, peut-être,

vous avez raison, de devenir fou, parfois. -Laurent Alexandre, je vais vous demander votre avis sur ce débat sur la mémoire, mais je voudrais prolonger le débat avec une question que je me suis personnellement posée.

En matière de mobilité, Les Jeux Olympiques ont été suivis par les Jeux Para-Olympiques et on a vu des performances considérables d'athlètes qui étaient fortement amputés. Comment s'opère l'ajustement techno-psychique ? Autrement dit, comment ça fonctionne entre l'exosquelette d'un côté et le cerveau ? -Je vais répondre à cette première question. C'est un sujet passionnant. Et d'ailleurs, certains pensent que l'homme augmenté, l'homme bionique de demain, finalement, il va débuter chez les athlètes paralympiques qui, dans certains domaines,

peuvent avoir des performances supérieures aux hommes non amputés. Donc effectivement, c'est un sujet philosophique passionnant. Est-ce que l'homme handicapé mais augmenté par la technologie n'est pas finalement le prototype du transhumain augmenté demain ? Pour donner mon avis sur le petit débat qui a opposé Raphaël et Jean-Michel, je suis d'accord avec Raphaël. Les exemples, et on en a débattu, Jean-Michel, il n'y a pas très longtemps au Figaro, les exemples que tu prends sont de la dernière guerre. Siri, Alexa, ça n'est pas raisonnable de prendre ça comme exemple aujourd'hui à l'ère de GPT4

ou un preview. Donc, il faut que tu changes de référence. Je t'avais conseillé d'utiliser les dernières versions de ChatGPT lors de notre débat au Figaro. Et là, je vais dire la même chose que Raphaël, ne prends pas des exemples comme Elisa qui sont de 1970. Parce que le sujet n'est plus là. L'IA a profondément changé son rapport au temps est très différent de ce que pouvait être Elisa qui était un chatbot absolument merdique donc aujourd'hui notre rapport à l'IA, il change et il est important que les auditeurs travaillent et réfléchissent avec les nouvelles versions des IA et pas avec les antiquités du tout début de l'histoire de l'intelligence artificielle,

de la vieille intelligence artificielle symbolique parce que là, on parle de mémoire, mais le problème n'est pas la mémoire. Des mémoires synthétiques, on en a toujours eu. Nos disques durs sont des mémoires et cela depuis longtemps. Notre problème, c'est l'intelligence. Notre problème, c'est que le quotient intellectuel de l'IA augmente de deux points chaque mois et que nous sommes en phase de dépassement. -Laurent Alexandre, pardon de vous interrompre, mais est-ce que vous pensez qu'on arrivera un jour à avoir un cerveau humain neuronal complètement ? -Artificiel, vous voulez dire ? -Oui, artificiel, bien sûr. Pour le moment, on arrive à découvrir

certains réseaux neuronaux, mais on n'a pas encore ce cerveau neuronal artificiel. -D'avoir un cerveau humain artificialisé, ce n'est pas pour demain matin. Nous allons être dépassés par l'intelligence artificielle bien avant d'être capables de bidouiller notre cerveau. Notre cerveau est une boîte noire qu'on ne comprend pas très bien et qui ne progresse pas, alors que l'intelligence artificielle galope. Je me permets de reciter le chiffre que je donnais avant votre question, L'IA gagne deux points de QI par mois, l'intelligence humaine ne progresse pas. Donc notre problème aujourd'hui, et c'est pour ça que certains comme Elon Musk souhaitent mettre des microprocesseurs

dans le cerveau de nos enfants, notre problème c'est la compétition entre le cerveau humain et le cerveau biologique et ça pose des questions bouleversantes que le professeur Gaillard a parfaitement décrites dans son dernier livre. -Merci. Catherine Pelachaud. -Oui, je voulais, déjà, il y a quelques travaux de recherche, on parle vraiment de travaux de recherche, qui essayent de modéliser justement le cerveau par déjà, l'apprentissage du langage. Mais j'avoue que c'est vrai qu'on en est encore très loin. Ce sont des travaux de recherche qui sont absolument passionnants, qui peuvent servir à comprendre. Donc, c'est vraiment là. Mais ça, c'est vraiment des travaux de recherche. Je pense qu'il va falloir encore quelques années. Je voulais intervenir aussi par rapport à la notion de dialogue.

Parce que là, pour l'instant, les exemples qu'on a donnés, c'est des exemples ou bien textuels ou bien maintenant avec ChatGPT vocal. Mais lorsque l'on parle, il y a tout le comportement non-verbal qui intervient. Et maintenant, il y a tout de même de plus en plus des robots humanoïdes. qui simulent, on parle bien de simulation. Et là, je pense que c'est un amplificateur incroyable pour l'interaction des humains avec les IA. -Oui, mais j'aimerais bien que vous nous disiez ce que vous pensez des interactions et du fonctionnement entre un exosquelette et le cerveau. Qui c'est qui dirige l'autre ? -J'avoue que je n'ai pas assez de compétences. Je ne suis pas la personne... -Vous avez un mot à dire là-dessus, Raphaël Gaillard ? Comment ça fonctionne ? -Ce que je pourrais dire,

c'est que notre cerveau a la faculté de recalculer en permanence ses repères. De sorte que si vous rajoutez une prothèse à un être humain... assez rapidement, il va considérer que cette prothèse fait partie de lui. Il y a une expérience très amusante qui s'appelle la "Rubber Hand Illusion", qui consiste à mettre une main en plastique sur la table alors que la main du sujet est sous la table et on frotte avec un pinceau la main en plastique. Vous pouvez trouver ça sur Youtube, n'importe quelle chaîne. Et en même temps, la main de celui qui fait l'objet de l'expérience. En même temps, c'est ça qui est très important,

et le fait que la personne puisse ressentir le pinceau en même temps qu'elle voit le pinceau passer, elle va considérer que cette main en plastique, c'est la sienne. Et si l'expérimentateur, qui parfois fait des mauvais coups, vient avec un marteau et tape d'un coup sur cette main en plastique, celui qui faisait l'objet de l'expérience part en courant parce qu'il a l'impression qu'on allait lui taper dessus. Au reste, si on conduit une voiture, ce qui arrive encore de temps en temps, peut-être pas à Paris, on s'aperçoit très vite que de fait, on a l'impression que cette voiture fait presque partie de votre corps, à tel point d'ailleurs que vous pouvez être curieusement vexé et violent si on traite mal votre voiture. Vous voyez que le rapport à une prothèse,

ce n'est pas quelque chose qui est extérieur. C'est très rapidement quelque chose qui est incorporé, reprenons ce mot, parce que notre cerveau fonctionne ainsi en recalculant constamment les repères, les coordonnées de ce corps. -Merci. On va écouter maintenant un échange entre le député Hervé Soulignac, Parti Socialiste, et le ministre Jean-Noël Barrot, à l'époque, ministre du numérique, c'était à l'Assemblée nationale le 4 octobre 2023. -Monsieur le ministre, je voudrais vous interroger sur la montée en puissance de l'intelligence artificielle. Les évolutions des dernières semaines sont particulièrement impressionnantes. Une équipe de chercheurs de Stanford a récemment annoncé

être en mesure d'entraîner un modèle équivalent au célèbre ChatGPT 3 avec un budget de seulement six cents dollars. Plusieurs publications laissent penser que nous approchons d'une intelligence artificielle dite forte, c'est-à-dire capable de comprendre toute tâche intellectuelle qu'un être humain peut accomplir. Ces développements soulignent l'importance de se doter d'une stratégie nationale, j'insiste là-dessus, pour assurer notre souveraineté et garantir que la France soit compétitive sur la scène internationale. Monsieur le ministre, ma question est la suivante : existe-t-il une stratégie gouvernementale pour faire face à ces défis, en matière d'investissement, de recherche et de formation ? -Mesdames et messieurs les députés, monsieur le député, vous avez raison de dire

qu'il y a dans l'intelligence artificielle de grandes promesses et de grands progrès. Je pense en particulier au progrès de la recherche scientifique avec l'intelligence artificielle qui sauve d'ores et déjà des vies en permettant de détecter des cancers très précocement et donc de les soigner ou encore de découvrir de manière beaucoup plus accélérée des traitements ou des vaccins comme ça a été le cas pendant la COVID-19. Pour que cette technologie reste au service de l'humain et au service des Français, il faut en avoir la maîtrise plutôt que de la subir. Il faut créer un cadre de confiance dans lequel ces innovations peuvent se développer. Pour en avoir la maîtrise, le Président de la République a lancé en 2018, une stratégie nationale pour l'intelligence artificielle

éclairée par le rapport de Cédric Villani, doté de un milliard et demi d'euros, qui a permis notamment la création de quatre instituts interdisciplinaires pour l'intelligence artificielle à Nice, à Toulouse, à Grenoble et à Paris, qui produisent aujourd'hui des résultats. Nous avons 500 doctorants de plus qu'auparavant, 190 chaires consacrées à l'intelligence artificielle. Nous avons doublé le nombre de diplômés en intelligence artificielle et nous avons à peu près 600 entreprises innovantes spécialistes de l'intelligence artificielle. Cette stratégie a été renouvelée en 2021 dans le cadre de France 2030 et nous veillons avec Bruno Le Maire et Sylvie Retailleau à ce qu'elles tiennent compte des dernières évolutions en matière d'intelligence artificielle. Vous le voyez monsieur le député,

sous l'autorité de la première ministre, le gouvernement est pleinement mobilisé pour qu'en matière d'IA, la France reste souveraine. -Merci monsieur le ministre. Vous venez de répondre à cet instant au 578 ème député puisque la question que je viens de vous poser a été entièrement rédigée par ChatGPT. Vous noterez que le robot qui vient de vous interroger n'a pas soulevé les questions de sécurité, de liberté, de démocratie ou de menaces pour notre civilisation. Or les vrais sujets sont précisément ceux que le robot contourne. Ne contournez pas les réponses monsieur le ministre, c'est d'ailleurs ce qui fait la différence entre vous et le robot parce qu'il y a urgence. La recherche est aux mains de groupes privés qui n'ont aucun intérêt à ralentir leur course folle

et la pause réclamée par certains leaders de la tech est absolument illusoire. L'Union européenne a initié un processus législatif trop long, trop lent. La France doit exhorter les grandes démocraties à ouvrir le débat sur les transformations économiques et sociales qu'on peut redouter et à construire très vite une autorité de régulation. La France doit dire qu'elle ne placera jamais son destin technologique au-dessus de considérations vitales et universelles et que la société n'a d'avenir que dans l'humanisme, la liberté et la protection de sa vulnérabilité. -Merci beaucoup, mon cher collègue. -Alors, on n'épuisera pas ce sujet des progrès, des transformations, etc. Mais on va quand même aborder un peu la question des risques.

Geoffrey Hinton vient d'obtenir le prix Nobel de physique 2024 pour son travail sur les réseaux de neurones artificiels. Et sa déclaration a été : "Je suis inquiet que les modèles deviennent plus intelligents que nous et prennent le contrôle." Est-ce que vous partagez cette inquiétude, Raphaël Gaillard ? -L'inquiétude existe et puis elle se situe à des niveaux différents d'ores et déjà, c'est-à-dire, comme toujours, avec l'automatisation, celle de la substitution des êtres humains dans différentes fonctions. D'ailleurs, ce qui est intéressant ou inquiétant, excusez-moi de le dire de cette façon,

avec l'intelligence artificielle, c'est que les automatisations ont plutôt touché jusqu'ici, des professions non qualifiées, et là, avec ChatGPT, c'est plutôt des professions qualifiées. Et donc, c'est un changement spectaculaire de ce que peut être le remplacement de l'homme par l'intelligence. Mais je crois que l'essentiel n'est pas dans la compétition et le remplacement. Je crois qu'il a été évoqué par Patrick Guyomard. L'essentiel est dans la question de la transformation de l'homme. Elle est dans l'hybridation. Et je crois qu'on doit beaucoup plus se poser la question de ce que signifie cette hybridation particulière qu'est l'hybridation technologique, qui succède à une myriade d'hybridations parce que l'homme est fondamentalement hybridé,

plutôt que se poser la question de la compétition. Moi, je crois qu'il ne va pas y avoir de match, il ne va pas y avoir de compétition, il va y avoir une hybridation et que nous allons tous courir, autorité de régulation ou pas, vers cette hybridation. Nous sommes tous déjà hybridés avec cette hybridation faible que nous organisons avec nos téléphones dits intelligents. Donc, l'enjeu, c'est l'hybridation et les risques de cette hybridation, beaucoup plus que le sujet du remplacement. -Catherine Pelachaud, sur ces risques-là ? -Oui, je suis tout à fait d'accord. Il y a des risques. Je pense qu'il faut en prendre conscience. Il faut prendre conscience aussi des usages qui vont être faits de cette intelligence artificielle. Mais il y a cette course. Je ne pense pas qu'on puisse l'arrêter.

Par contre, on peut essayer de l'encadrer, d'éduquer les gens à utiliser à bon escient, et comprendre les limites que l'intelligence artificielle ne remplace pas les humains, ne remplacent pas les contacts sociaux, etc., Donc je suis d'accord qu'on va vers une hybridation, qu'il faut faire avec, il faut au contraire essayer d'éduquer, de comprendre cette partie-là. -Jean-Michel Besnier, est-ce que vous intégrez la dimension du risque comme un progrès pour l'humanité aussi d'avancer ?

On ne peut pas avancer que dans la sérénité. -Ah, ça, assurément pas. On n'avance que dans le déséquilibre. -On est bien d'accord. Et alors, est-ce que ce risque à porter ne peut pas faire avancer, pour parler trivialement, le schmilblick ? -Moi, je vois mal comment nous pourrions avancer, comme vous dites, c'est-à-dire satisfaire à l'idée d'un progrès qui nous acheminerait vers un meilleur. Là, on n'a parlé que d'innovation, on n'a pas parlé de progrès jusqu'à présent. Mais je me demande comment on peut imaginer cela en simplifiant toujours davantage l'humain. Parce que, au fond, l'entreprise dans laquelle

nous nous sommes plongés, c'est une entreprise de simplification de l'humain. La mécanisation, elle est... Il y a un terme que nous n'avons pas utilisé du tout depuis le début de notre discussion, c'est le terme de conscience. La conscience. Tout à l'heure, on a évoqué l'intelligence artificielle forte. Et quand on l'évoquait, dès les années 50, on disait : "Une intelligence artificielle forte, c'est une intelligence artificielle qui serait consciente d'elle-même." Et donc la question de la conscience a été placée au premier plan, et la question a été de savoir :

qu'est-ce que c'est donc que cette conscience ? Et les scientifiques se sont gaussés des philosophes qui n'ont toujours pas, finalement, formulé une définition univoque de la conscience. Et les scientifiques, eux, considèrent qu'est conscient tout organisme qui est capable de faire la différence entre lui et ce qui n'est pas lui, le self et le non-self. Et cette conception de la conscience, elle est évidemment extrêmement simplificatrice. Nul d'entre nous n'accepterait qu'on le déclare conscient

parce que, comme la mouche, il est capable de se retirer lorsque une agression du monde extérieur survient. Et pour aller Plus loin, je voudrais juste évoquer une petite anecdote qui m'avait semblée intéressante lors d'un débat avec un transhumaniste qui répondait à une dame qui lui disait : "Mais monsieur, vous parlez de l'humain comme si c'était un robot. Mais nous, les humains, nous sommes quand même des êtres conscients." Et le transhumaniste a levé les bras au ciel en disant : "Mais hélas, hélas." Et il a expliqué tout simplement que la conscience étant un avantage sélectif dans la sélection naturelle, n'est plus désormais un avantage sélectif,

mais c'est plutôt un handicap. Lorsque les pressions sélectives sont technologiques et non plus naturelles, il est meilleur de ne pas être conscient et d'être plutôt réactif et d'être plutôt mécanisé. Ca en dit effectivement long sur cette espèce de déflation des concepts qui définissaient jusqu'à présent l'humain. -Laurent Alexandre, vous écoutez où on en est sur le débat. Est-ce que vous partagez l'avis de Yuval Noah Harari, cet écrivain israélien qui a beaucoup écrit sur ces questions-là et qui dit que tout est information ? Mais si tout est information, qu'est-ce qui reste au niveau du charnel ?

Est-ce qu'il n'y a pas un danger ? Est-ce qu'il n'y a pas un risque d'abstraire un peu les émotions, les sentiments, etc. ?

-Je pense que tout est information et je ne crois pas qu'il y ait énormément de différences entre l'intelligence artificielle et l'intelligence humaine, à part que pour l'instant nous sommes les seuls à avoir un corps physique, mais ça va changer avec le développement de la robotique humanoïde. Et vous savez qu'Elon Musk compte fabriquer cent millions de robots humanoïdes hyper intelligents, chaque année à partir des prochaines années. Moi, je suis très très en ligne avec le professeur Raphaël Gaillard, je crois beaucoup à l'hybridation et comme nous rentrons dans une économie de la connaissance où il y a une prime importante aux gens les plus innovants et les plus intelligents, je m'interroge sur les conséquences de l'hybridation sur la solidarité et sur la cohésion de nos sociétés.

Moi, j'ai vraiment peur que les implants, que l'hybridation augmentent davantage les capacités cognitives des gens déjà les plus intelligents et les plus innovants. Et je crains que l'hybridation conduise à une augmentation des écarts entre la partie la plus innovante et puis la partie moins innovante, moins favorisée sur le plan cognitif de nos sociétés. Je ne vois pas par quel miracle l'hybridation avec des implants, quelle que soit la nature, n'augmenterait pas plus les capacités cognitives de l'élite intellectuelle. Je ne vois pas par quel miracle un implant intracérébral aiderait les gens les moins doués, les moins favorisés

sur le plan cognitif à rattraper l'élite cognitive. Je ne vois pas très bien. Donc j'ai peur qu'il y ait une vraie augmentation de l'écart cognitif entre la partie la plus favorisée et la moins favorisée. C'est pour ça qu'il ne me semblerait pas idiot que la loi favorise les gens les moins cognitivement développés dans l'allocation de cette hybridation et des implants. Je pense qu'il serait raisonnable pour la société de rembourser prioritairement les implants d'augmentation le jour où ils existeront aux gens les moins intelligents et surtout pas de permettre à l'élite cognitive, à l'élite intellectuelle, de disposer des implants d'augmentation en premier,

ce qui ferait imploser la cohésion sociale, de mon point de vue. -Oui, mais Laurent Alexandre, vous dites, je suis d'accord avec la conception de l'hybridation de Raphaël Gaillard. Mais Raphaël Gaillard, je ne veux pas résumer sa pensée, mais il dit: "Nous sommes d'abord hybridés à la lecture et à l'écriture, et c'est un préalable." Vous diriez aussi ça ? Qu'il faut être hybridé à la lecture et à l'écriture pour après accéder à d'autres hybridations ? -Oui, alors on peut imaginer dans le futur qu'il y ait des capacités d'accès à l'intelligence par d'autres intermédiaires que la lecture et l'écriture, mais pour l'instant, c'est le média le plus simple.

Et puis surtout, c'est à partir de l'écriture que l'on a éduqué les modèles, les grands modèles de type ChatGPT, ce qu'explique très bien Raphaël Gaillard dans son dernier bouquin. Donc aujourd'hui, c'est une étape obligatoire. Je ne suis pas sûr que ce soit pour toujours une étape obligatoire. On peut imaginer d'autres modes d'accès à l'intelligence, au savoir, que la lecture et à l'écriture. Mais pour l'instant, Raphaël a totalement raison, c'est un préalable. -Vous voulez dire un mot M. Gaillard ? -Peut-être pour préciser cette pensée que vient de résumer là Laurent Alexandre, et qui repart de l'idée que nous avons toujours été hybridés,

et qui essaye de situer une sorte de point de départ, c'est un peu artificiel peut-être, mais quand même ça reprend d'ailleurs ce que vous évoquiez du mythe de Theuth et de l'invention de l'écriture et la critique du pharaon Thamus, les risques de l'écriture qui consistent à affaiblir l'homme en externalisant son savoir. Ma perception, c'est que cette hybridation, elle a été primordiale. Elle a joué un rôle crucial pour l'Humanité. Elle a eu des conséquences, parfois des effets secondaires. J'aime bien citer cette... Ce joli mot de Daniel Pennac qui dit qu'on peut attraper des maladies textuellement transmissibles, ce n'est pas anodin, la lecture et l'écriture. Mais dans l'ensemble, ça a été une grande réussite, cette hybridation par l'écriture et la lecture. Et donc, moi, je fais le pari

que pour nous préparer à l'hybridation technologique, il faudrait répéter ce qui a fonctionné à l'échelle de l'Humanité, cette hybridation par la lecture et l'écriture. Mais en fait, l'idée, ça n'est pas de refuser l'hybridation technologique. Pour moi, elle est inéluctable. C'est de nous armer pour. Et pourquoi il faut s'armer ? Parce que je pense que non seulement il y aura une inégalité des effets de cette hybridation technologique, comme vient de l'évoquer Laurent Alexandre. Non seulement il y aura une inégalité d'accès, c'est-à-dire que ceux qui auront les moyens auront les meilleures technologies et les autres feront de briques et de brocs, de la récupération. C'est très probable. Mais au fond... Il y a une inégalité plus importante encore,

c'est que notre cerveau, il est à mes yeux tellement performant qu'il a déjà des bugs, il a déjà des ratés. Nous payons déjà le prix de sa complexité, de sa puissance, et nous le payons sous une forme qui est mon quotidien, des douze mille patients qui sont soignés dans le pôle dont je suis responsable chaque année, les troubles mentaux. Pourquoi 1 % de la population souffre de schizophrénie, une personne sur cinq de dépression au cours de sa vie ? En fait, parce qu'il y a un prix à payer à la puissance de ce cerveau. Et s'il y a déjà un prix aussi élevé que celui des troubles mentaux, je fais l'hypothèse qu'en l'augmentant encore, ce prix augmentera. Autrement dit, avec l'hybridation technologique, certains seront augmentés. Moi, je n'ai pas de doute, même si ça sera avec une rupture

de l'harmonie de l'homme. Il faudra qu'on revienne sur les enjeux anthropologiques de cette rupture. Mais je pense surtout que certains ne tolèreront pas cette augmentation. Ce seront des grands brûlés de l'augmentation et ils souffriront de troubles mentaux et il faut nous préparer à les soigner. -Alors, écoutez, il me reste très peu de temps avant la ponctuation de cette émission. Pour conclure, mais ce n'est pas une conclusion, mais je voudrais avoir votre point de vue, mais très bref, car on a vraiment très peu de temps. Qu'est-ce que vous proposez comme mesure pour freiner, si on peut dire, ces progrès s'ils s'avèrent intempestifs ?

Est-ce que c'est un moratoire ? Est-ce que c'est obliger les enfants à lire et écrire ? Est-ce qu'il faut limiter les écrans ? On a vraiment très peu de temps, je sais que c'est une question importante, mais à votre avis, Catherine Pelachaud ? -Alors, moi je pense qu'il faut faire de la vigilance, ça oui, parce qu'une chose qu'on a parlé beaucoup, c'est l'homme unique. Mais l'homme est en société. Je veux dire, face à une IA, s'il fait toute sa vie face à une IA, qu'est-ce que ça va donner ? Que va donner notre société ? Donc à un moment donné, il faut absolument, surtout pour ces jeunes qui vont grandir avec ces outils, cette nouvelle IA, regarder ce qui va se passer.

Donc faire des points de vigilance très très serrés. Je ne pense pas qu'on puisse freiner, en plus avec les enjeux économiques qui sont tellement forts pour cela. -Merci. Laurent Alexandre, qu'est-ce que vous proposez ? On a peu de temps. -Alors moi, je ne propose pas de freiner, parce que si nous freinons le développement de l'intelligence artificielle en France, nous transformerons la France en un nouveau Zimbabwe en 2080. Nous serions complètement largués sur le plan géopolitique, économique et nous laisserions à nos enfants un enfer décroissantiste dans lequel ils seraient fort malheureux face aux puissances géopolitiques

qui n'auraient pas bloqué l'intelligence artificielle. Donc, par pitié, pour l'avenir de nos enfants et de nos petits-enfants, ne bloquez pas l'intelligence artificielle. Ce serait dramatique et, je le répète, ce serait la voie directe vers la transformation de la France en le Zimbabwe du futur. -Oui. Patrick Guyomard ? -On pourrait parler du Zimbabwe. Il y a plein de questions qui se posent. Je pense en effet qu'il ne faut pas freiner de toute façon parce que ça ne sert à rien. On est dépassé. C'est le principe même de l'intelligence artificielle. Ca nous confronte à quelque chose qui nous dépasse. Donc, acceptons que ça nous dépasse. Il y a deux points qui me semblent intéressants. Dans votre livre, Raphaël Gaillard,

vous incitez beaucoup sur la façon dont l'intelligence artificielle rend le cerveau plus complexe qu'avant. Les connaissances complexifient les choses et atomisent le cerveau. Là où on pensait que le cerveau était un tout et une faculté, il y a une atomisation. Donc là, peut-être que du côté de la connaissance du cerveau, il y a beaucoup de choses. Maintenant, il y a une question qui manque à notre conversation, à notre échange passionnant, qui est quand même une des questions majeures et de l'humain, qui est la question de la vérité et du mensonge. Le mensonge n'est pas l'erreur. Et un enfant, quand il s'hybride en écoutant ses parents, en apprenant une langue, le Zimbabwe ou une autre, il se demande toujours,

mais qui dit la vérité ? Qu'est-ce que la vérité et le mensonge ? Donc comment la question de l'intelligence artificielle traite-t-elle ce sujet ? Et il ne faudrait pas que l'intelligence artificielle apparaisse comme une réponse globale au moment où toutes ces questions sont en train de se diversifier, de se détotaliser, de se fractionner et de nous inciter à plus de réflexion. -Merci. Jean-Michel Besnier, on a très peu de temps, excusez-moi. La police du temps m'oblige à vous limiter. -Je préconiserais volontiers, comme antidote à cette espèce de fatalisme qui s'installe, puisque j'entends tout autour de moi qu'on ne peut plus rien faire, il ne faut surtout pas freiner, il faut avancer, etc.

Je préconiserais volontiers le recours à la littérature. A la littérature qui... -Là, vous mettrez tout le monde d'accord là-dessus. Raphaël Gaillard, un mot, on a vraiment peu de temps. -Evidemment, je souscris tout à fait. Si ce n'est que je ne préconiserai pas, je pense qu'il faut prescrire de façon beaucoup plus autoritaire. En fait, la question, c'est... celle de prendre des décisions qui soient beaucoup plus autoritaires. La Chine a pris des décisions très autoritaires pendant l'été 2023. Alors on dit que c'est une dictature, c'en est probablement une, que c'est pour des raisons liées aux opinions, l'évolution des opinions. Eux disent que c'est pour des raisons de santé publique. Peut-être que c'est une vraie question de santé publique. -Merci. Ecoutez, j'ai une brève bibliographie

à vous présenter. Alors, Raphaël Gaillard, vous avez publié "L'homme augmenté." Personnes, en apparence, peuvent considérer que vous êtes pour une neurobiologie expansive, mais ce n'est pas le cas. Je crois que vous montrez que l'hybridation première reste aussi la question de la civilisation et de la culture. C'est bien ça ? -Exactement. -Laurent Alexandre, "ChatGPT va nous rendre immortels" chez Jean-Claude Lattès. Immortels, c'est bien pour Raphaël Gaillard qui est à l'Académie française. Mais au-delà de cette symbolique, est-ce que vous croyez vraiment qu'on a intérêt à devenir immortels ? -Je ne sais pas si on a intérêt à être immortel, mais une partie importante de la Silicon Valley y croit.

Et l'une des raisons pour lesquelles la Silicon Valley dépense des milliards pour développer des super intelligences artificielles plus intelligentes que nous, c'est pour augmenter très vite l'espérance de vie. Vous avez probablement vu que le prix Nobel de chimie, qui est le patron de l'intelligence artificielle chez Google, Demis Hassabis, a dit qu'il était convaincu que l'intelligence artificielle allait guérir l'ensemble des maladies humaines, toutes les maladies humaines, d'ici 2035, et Dario Amodei, qui est le patron d'Entropic, la principale intelligence artificielle concurrente de ChatGPT, a déclaré le mois dernier qu'il a la certitude que l'espérance de vie humaine dépassera dans onze ans, en 2035, 150 ans déjà.

-On va voir. Dans dix ans, c'est bientôt. Alors, Patrick Guyomard, vous avez publié un ouvrage collectif sur "La perversion, encore". Est-ce que vous croyez que cette notion de perversion a quelque chose à voir avec cette révolution numérique ? -La perversion, elle est à la fois créative. Beaucoup d'artistes sont un peu des pervers. Et en même temps, ont une perversité en eux. En même temps, la perversion, il y a une négativité. C'est-à-dire, c'est la question du mal, de la destruction, de la prise de pouvoir et de l'usage de quelque chose à contre-courant ou en contre-sens. C'est ce que vous dites un peu des drogues. Le bien et le mal, par rapport à ça, sont complètement confondus. Et donc, il y a des frontières difficiles à tracer. Mais l'humain,

sait aussi faire la différence entre le bien et le mal, entre le vivant et le mort, et entre le malade et le saint. -Catherine Pelachaud, vous avez publié "Système d'interaction émotionnelle". Vous voulez dire que l'émotion est toujours là ? -Alors oui, c'est prendre en compte les émotions. Les émotions dans les interactions sont fondamentales. Donc si on fait des interactions avec des machines, il faut le prendre en compte. C'est-à-dire essayer de... C'est toujours un problème de les simuler. On parle bien de simulation des émotions chez les machines. Et puis après, voir comment les humains attribuent des émotions, des intentions aux machines. On parle bien d'attribution. -Merci Jean-Michel Besnier, vous avez publié "Demain

les posthumains" chez Hachette, c'est justement pour résister à cette post-modernité, cette post-vérité ? -C'est en tout cas, essayer de la mettre en perspective par rapport aux valeurs qui étaient celles de l'Occident. Donc c'est tester le potentiel de préservation de l'humanisme derrière les innovations qui... -Merci Madame, merci Messieurs d'avoir participé à cette émission. Je voudrais remercier notre équipe LCP qui permet la réalisation de cette émission et je vous dis à bientôt. -Merci. -Merci beaucoup. Générique