ChatGPT, Gemini, Bard... Quel avenir pour l'IA ? Laurent Alexandre face à Jean-Michel Besnier

selon Elon Musk elle pourrait être plus dangereuse que les armes nucléaires les intelligences artificielles aussi appelées Ia sont au cœur de l'actualité depuis que fin 2022 le robot conversationnel chat GPT a été médiatisé alors certains parlent de révolution d'autres même d'apocalypse certains évoquent même une 4èe faille narcissique de l'humanité après la révolution copernicienne le darwinisme et la psychanalyse voilà que l'intelligence échapperait désormais à l'homme alors l'intelligence artificielle est-elle une véritable révolution en quoi va-t-elle impacter socialement l'humanité peut-on y résister peut-on la réguler voilà les questions vertigineuses que je vais poser à mes deux invités le docteur Laurent Alexandre et le professeur de philosophie Jean-Michel Beier bienvenue dans le club Le Figaro id [Musique] bonsoir à tous les deux merci d'avoir accepté cette invitation Laurent Alexandre vous êtes éarc chirurgien auteur de nombreux ouvrages autour de ces questions brûlantes des nouvelles technologies vous avez notamment publié La guerre des intelligences et vous publiez ce livre chat GPT va nous rendre immortel avec une affirmation prenez le risque d'une prédiction vous nous expliquerez pourquoi selon vous c'est c'est c'est crédible alors vous dites que pour vous finalement l'intelligence artificielle n'est pas n'est pas un choix c'est le sens de l'histoire et qu'il faut nous y convertir tous collectivement sous peine d'être marginalisé Jean-Michel Bier vous êtes professeur émérite de philosophie à la Sorbonne université vous aviez publié il y a quelques années demain les postes humains le futur a-t-il encore besoin de nous vous êtes un un des pionniers dans la réflexion autour de des nouvelles technologies et de la philosophie et vous avez publié un livre avec Laurent Alexandre un livre au titre AG guicheur les robots font-ils l'amour le trans humanisme en 12 questions vous répondez à des tas de questions qu'on peut se poser à propos de ces nouvelles technologie est-il désirable de vivre 1 an on va en parler demain tout cborg c'est absolument passionnant je vous recommande ça vient de ressortir en poche alors Laurent Alexandre j'aimerais débuter cette conversation par par par votre livre qui je l'avoue m'a m'a m'a bouleversé m'a inquiété en tout cas parce que vous faites une série de pronostic absolument moi je trouve de mon point de vue effrayant vous dites que l'immortalité est porter de main grâce à chat GPT grâce à l'intelligence artificielle alors je je je voudrais d'abord qu'on commence par vous poser cette question en quoi selon vous cette révolution chat GPT de l'intelligence artificielle est-elle une rupture absolument fondamental pour l'humanité en quoi c'est quelque chose de sans précédent c'est une révolution chumpéterrienne bien sûr comme la vapeur et l'électricité mais c'est aussi un changement civilisationnelle parce que l'intelligence artificielle va permettre de faire des progrès incroyables en généti des progrès incroyables en médecine des progrès incroyables par exemple avec l'arrivée à maturité de l'utérus artificiel qui est la encore un processus révolutionnaire et puis c'est une révolution anthropologique comme le père des intelligences artificielles modernes jofreyintton l'a déclarer récemment nous sommes en train de devenir la deuxème espèce la plus intelligente sur terre la plus intelligente sur terre étant l'intelligence artificielle ce moment de bascule où l'intelligence artificielle nous dépasse même si elle n'a pas encore de conscience artificielle est un moment bouleversant pour tout le monde et le monde la société civile et les politiques n'en ont pas pris acte et n'ont pas pris conscience de du tsunami technologique profondément révolutionnaire que que nous vivons aujourd'hui ne plus être l'espèce la plus intelligente ça a 1000 conséquences sur l'avenir de l'humanité et vous croyez en la singularité c'estàd la possibilité d'une intelligence non seulement supérieure mais autonome alors l'idée de la singularité tire d'un moment où il y a une explosion de l'intelligence hein que ce que les dirigeants de Google imaginent pour les années 2040 je ne sais pas c'est une thèse ce en revanche que je crois c'est que l'intelligence artificielle est en train de nous dépasser assez rapidement entre gpt4 et moi en cancérologie par exemple et bien gpt4 est bien meilleur que moi gpt4 en quelques secondes fait des diagnostics ultra compliqués qu'il me faut énormément de temps pour faire et on pourrait multiplier les exemples alors l'intelligence artifielle ne nous dépasse pas encore dans tous les domaines elle n'est pas autonome dans tous les domaines mais elle progresse extrêmement vite le le patron fondateur de Nvidia qui est l'une des sociétés les plus chères au monde à la Bourse de New York et qui fabrique la quasi-ttalité des puces électroniques pour l'intelligence artificielle a déclaré il n'y a pas longtemps en 2033 l'intelligence artificielle sera 1 million de fois plus intelligente que chat GPT 4 c'est-à-dire la meilleure version actuelle de l'intelligence artificielle et Sam alttman a déclaré que la super intelligence artificielle des millions de fois plus intelligente que l'homme sera là avant 2033 il a d'ailleurs prédit que dans peu d'années sur terre 99,9 % de l'intelligence sera de l'intelligence artificielle et que l'intelligence biologique humaine celle issue de nos cerveaux ne représentera plus qu'un milliè de l'intelligence sur Terre ce mouvement est effectivement bouleversant il a beaucoup de conséquences politiques sociales qui n'ont pas encore été réfléchies Jean-Michel B est-ce que vous êtes d'accord avec ce diagnostic d'une rupture absolu sans précédent qui va nous faire rentrer dans une autre humanité non pas pas vraiment mais comme toujours avec Laurent puisque nous dialoguons quelquefois les l'emphase des des chiffres est toujours un peu vertigineuse et euh ce ne sont pas les miens non je sais bien et me laisse un petit peu dans une manière de perplexité c'est-à-dire que plus je l'entends m'annoncer que l'intelligence artificielle va nous reléguer à l'état de de chimpensé du futur et plus je me dis que décidément l'intelligence artificielle c'est pas grand-chose que c'est pas grand-chose que c'est une c'est peut-être un peu plus qu'une bulle de savon mais je n'arrive pas à me laisser entraîner par l'enthousiasme juvénil de de de de Laurent pourquoi ben parce que l'intelligence artificielle d'abord on en parle depuis très très longtemps même si le grand public ne s'est pas saisi de la chose euh depuis longtemps moi je j'ai enseigné à l'université de compiagne autrefois l'intelligence artificielle c'était à la fin des années 1980 hein bon il y avait l'intelligence artificielle qui produisait des systèmes experts euh tout à fait raisonnables qui répondait à des questions bien posées il y avait de l'intelligence artificielle qui alimentait déjà des machine à traduire c'était pas extraordinaire mais ça existait puis il y avait l'intelligence artificielle qui alimentait aussi tous ces jeux vidéos ça existait et puis j'enseignais à à mes étudiants la façon dont la la la la cybernétique de la fin des années 40 avait inventé des dispositifs qui permettaient à des machines d'anticiper des des mots des segments de phrases pour réaliser des télécommunications capable de résister à du bruit bah aujourd'hui aujourd'hui c'est pas grand-chose de plus chat JPT c'est également effectivement un dispositif technologique qui permet d'anticiper euh en en ayant puisé des des données euh considérables capable de mobiliser la la la la suite de de de de phrases et qui construit des choses absolument effectivement étonnante et je suis quand même d'accord avec avec Laurent pour pour m'extasier devant les les prouesse de de cette machine mais je ne pense pas que ce soit bouleversé au point de de laisser oublier que l'intelligence ça n'est pas simplement la faculté de résoudre des problèmes l'intelligence c'est bien autre chose l'intelligence c'est la capacité à à apprécier l'ambiguïé des relations humaines c'est la la la capacité à à oui interférer avec des avec d'autres humains dans des relations qui sont des relations de d'échange de signes et pas de signau hein je fais bien la distinction entre les signes et les signau ça me paraît très important hein et je n'arriverai jamais à à confondre le dialogue établi avec Siri si performante qu'il ou qu'elle soit euh je ne confondrai jamais ça avec le le le le dialogue échangé par des personnages de prou par exemple Alexandre je crois que tout le problème est résumé par Jean-Michel on n'est plus au temp de Siri d'accord Siri est un produit merdique complètement dépassé àle est en train de l'abandonner et d'ailleurs va utiliser chat GPT dans pas très longtemps si l'on en croit à Reuters le problème est qu'on n'est plus en 1950 ni en 1990 euh il faudrait il faudrait que tu regardesou les progrès absolument inouï qui ont été fait par la version de gpt4 qui est sortie hier soir GPT 4 ha qui est bouleversant qui est au niveau de ce que her dans le film Le fameux film éponyme avec une capacité d'empathie et de compréhension de notre psychisme et une capacité de nous répondre qui est absolument bouleversante une étude récente publiée dans Jama montre que chat GPT est deux fois plus empathique que les médecins une étude é est- étude qui a sorti il y a un mois et demi montre que gpt4 est plus convaincant qu'un humain pour convaincre quelqu'un de de quelque chose donc en réalité tu tu imagines qu'il y a une spécificité humaine dans les relations humaine et ça n'est pas le cas gpt4 est plus empathique et plus convaincant que nous le sommes nous-mêmes donc il y a un vrai problème on n plus autant de Sire on est autant de version bouleversante d'intelligence artificielle comme GPT 4 ha que tu n'as pas encore essayé et tu devrais l'essayer ça changerait ton regard sur l'intelligence artificielle qui est aujourd'hui daté dépassé je te le dis en toute amitié on se connaitt depuis longtemps donc il faut pas rester dans scotcher dans le passé il faut voir la réalité bouleversante de l'a et ses progrès constant je te promets va voir gpt4 et et j'invite tous les auditeurs à y aller tu vas changer d'avis est-ce que chat GPT aurait pu écrire votre livre alors moi je l'ai écrit sans gpt4 d'ailleurs en page 3 j'indique que ce livre a été écrit par moi gpt4 va mieux écrire que moi avant 2030 ça va poser un énorme problème aux écrivains aux essay en fait quce qui va rester à l'me c'est très difficile à il y a des gens qui sont très inquiets elon mque devant le Premier ministre britannique le 3 novembre dernier a déclaré que très bientôt l'homme le plus intelligent sur Terre serait moins intelligent que les successeurs de chat GPT et il a même fixé une échéance décembre 2025 donc nous sommes à un moment où li a galope et où nous ne savons pas encore parce que nous n'avons pas travaillé la question comment devenir complémentaire de l'IA et surtout question plus importante comment faire en sorte que le système universitaire que le système éducatif face de nos enfants des gens complémentaires de l'IA et non pas des gens substitués par l'IA on va en parler mais je voudrais quand même revenir sur ce mot immortel que vous mettez dans votre titre qu'est-ce que c'est que cette immortalité et pourquoi selon vous un robot comme chat GPT pourrait nous aider à devenir immortel deelle immortalité faut savoir il faut savoir qu'au sein de la silicone Vallé et au États-Unis parmi les milliardaires de l'intelligence artificielle il y a deux courants il y a ceux qui souhaitent une immortalité biologique et qui souhaitent augmenter l'homme par la technologie c'est le cas notamment de elon mosque qui est le chef de fil des transhumanistes et à côté de ça il y a les posthumistes comme les dirigeants de Google qui pensent que nous devons laisser la place à l'intelligence artificielle et que nous devons uploader notre cerveau dans les ordinateurs c'est aussi ce que pense Sam alttman qui a déclaré je suis convaincu que lete de mon cerveau va être téléchargé dans le cloud dans l'informatique dématérialisée ça veut dire que notre pensée notre conscience ne serait plus dans notre cerveau biologique mais serait mis directement dans les ordinateurs c'est une hybridation entre l'informatique et puis notre cerveau biologique alors je ne prends pas parti mais je constate qu'il y a deux courants un courant de pensée qui veut l'immortalité biologique par la manipulation biologique de notre corps et puis un courant possthumaniste qui lui lui veut que l'intelligence artificielle incorpore notre pensée et nous remplace ce qui serait finalement une immortalité numérique et non plus une immortalité biologique on vivrait des millions d'années mais sous forme d'un pe d'un petit morceau des ordinateurs alors entre finir en en nastico et mourir et puis vivre un million d'années dans un microprocesseur finalement je préfère vivre un million d'années dans un microprocesseur pour voir le le futur extraordinaire qui s'ann- que ça vous inspire cette cette quête d'immortalité écoutez là là j'aime beaucoup parce que Laurent ne change pas il a toujours dessiné cela au moinsanichel exmoi je ne décide pas mon opinion que je n'ai pas donné j'ai simplement montré les deux courants celui d'Elon mosque celui de la l'alternative donc homme bionique ou or ça c'est une alternative matricielle dans hein d'accord bon écoutez que vous dire l'immortalité si l'immortalité c'est la pérénisation des métabolismes qui sont les nôtres pourquoi pas hein cette immortalité là bon bionique ou biotechnologique on peut la concevoir on peut imaginer que A brèvech s on réalise des organoïdes qui nous permettront de remplacer nos organes défaillants à la demande bon alors est-ce que c'est l'humain en moi qui sera immortalisé ou la la la carcasse qui m'abrite pour l'instant ça je vous laisse en décider l'immortalité dans les traditions que j'ai fréquenté par vocation depuis toujours c'est autre chose ça n'a pas grandchose à voir avec l'immortalité de Faust ou l'immortalité de de du LCE enfin l'immortalité qu'il refuse hein il y a une immortalité qui est culturellement marquée comme l'accession obtenue grâce à la mort pour être immortel il faut mourir c'est c'est la la la leçon de pratiquement toutes les grandes spiritualités et toutes les les religions il faut mourir là l'immortalité dont nous parlons c'est une immortalité qui nous permettrait d'esquiver effectivement la mort euh et de nous péréniser alors dans des microprocesseurs ou dans je ne sais quoi euh moi je m'y retrouve pas ENF je c'est cette immortalité elle ne m'intéresse mais absolument pas et d'abord je ne la conçois même pas parce que euh modéliser mon cerveau et le transférer sur un un logiciel ça n'a pas grand sens hein on sait très bien a que la conscience elle a besoin du cœur besoin d'un cœur hein un cerveau qui serait coupé du corp qui serait dans qui qui flotterait dans un dans un liquide amiotique ça ça n'a pas de sens c'est un c'est une glande qui qui qui vivterait hein donc tout ça je trouve que c'est j'allais dire pathétique hein mais oui je pense que c'est pathétique donc ce culte de l'immortalité chez les transhumanistes m'a toujours fait sourire et je me suis étonné que le le grand public s'en soit emparé il y a pas très longtemps il y a 4 ou 5 ans hein cette question tout à coup de l'immortalité est devenue une question brûlante alors même que nous avons ça avait ça avait fait échanger hein avec le la covid euh tout à coup les les annonces hyperboliques des transhumanistes se sont trouvé quand même tout à coup freinésin on a découvert que un petit animal pouvait éradiquer la l'espèce humaine alors même que peu de temps auparavant on nous annoncait l'immortalité pour demain bon oui justement c'est intéressant que vous disiez ça parce que Laurent Alexandre en 2011 vous avez publié un livre la mort de la mort euh vous vous vous vous prédisiez aussi que l'immortalité allait advenir vous dis disait notamment que l'espérance de vie doublera au minimum au cours de ce siècle 21e siècle or aujourd'hui ce qu'on constate dans dans les grandes démocraties occidentales c'est une stagnation VO même une régression de l'espérance de vie aux États-Unis l'espérance de vie a régressé de 2 ans elle est maintenant au stade la fin des années 90 et et donc voilà on a on n'est pas du tout on n'est pas du tout dans dans l'augmentation infinie de l'espérance de VI je souhaiterais qu'on relise la mort de la mort dans la mort de la mort en 2011 je prévois effectivement qu'il y aura des grands progrès en matière d'espérance de vie mais après 2050 et je dis que l'extrême complexité l'extrême non 2050 c'est dans pas très longtemps il y a ici des gens dont j'espère qu'ils ne seront pas morts il y a des gamins dont j'espère qu'ils ne seront pas morts en 2050 et qui pourront vérifier et donc je je disais que les principales innovations en matière de longévité ne commenceront pas avant 2050 que la mort le vieillissement sont des processus extraordinairement complexes et de les combattre nécessitera des progrès énormes en matière de capacité tique donc je maintiens mon pronostic mais la chose nouvelle c'est que cette idée transhumaniste de vivre plus longtemps par le bidouillage biologique est impacté aujourd'hui par l'arrivée le retour en force d'un courant possthumaniste qui pense qu'en réalité comme l'intelligence artificielle va très très très vite nous devons fusionner nous hybrider avec lia parce que finalement notre corps n'a pas beaucoup d'avenir et notre cerveau est pathétique donc voyez par rapport à ce que j'écrivais en 2011 l'évolution l'accélération de la contrairement à P t parce qu'il n'a pas vu gpt4 et bien a changé un peu l'agenda et a cré une problématique une problématique qui maintenant est double une vision transhumaniste et une vision postumiste est-ce que les discours de futurologie n'ont pas été toujours démenti par les fa je prends vous connaissez sans doute la citation de de Peter te le cofondateur de Paypal et milliardaire de la silicone valallée qui disait nous rêvions de voiturees volantes nous avons eu 140 signes o il disait que finalement quand vous demandiez à quelqu'un la fin du Xe siècle l'avenir et vous décrivez la voiture volante ça n'est jamais arrivé et on arrivé avec Twitter un truc que personne n'avait jamais imaginé je juste le métav on nous avait annoncé que ce serait demain généralisé c'est un échec commercial est-ce que toutes ces annonces futurologiques que vous nous dites finalement ne sont pas aussi des pures spéculations et demain finalement le progrès nous surprendra il faut bien faire des scénarios pour préparer l'avenir et pour préparer nos gamins pour savoir quelles études faire à mes gamins je me suis posé je me suis posé des questions sur ce que peut être l'avenir et j'ai essayé d'imaginer des scénarios je ne veux pas les envoyer dans des métiers qui vont disparaître à cause de l'intelligence artificielle et de la robotique de paix à l'intelligence artificielle donc nous sommes bien obligés de faire des scénarios sur le futur d'ailleurs en permanence j'ajuste mes prévisions les premier mot de de mon nouveau livre chat GPT va nous rendre immortel c'est je me suis trompé par exemple en médecine ce que fait gpt4 en médecine aujourd'hui je n'envisageais pas que cela soit possible avant 2040 ou 2050 j'ai complètement sous-estimé la révolution de l'intelligence artificielle sous la forme de ce qu'on appelle les LLM les les large language models donc effectivement prédire le futur est très compliqué c'est plus compliqué que de faire de l'histoire encore et nous sommes obligé d'ajuster nos scénarios mais ne pas faire de scénarios sous-estimer la révolution technologique en cours c'est envoyer nos gamins face au mur envoy c'est les envoyés au caspip sur la sur ce est-ce qu'il y a pas une forme de messianisme technologique voilà on annonce des formidables ruptures parce que peut-être d'ailleurs on est pris dans un forme de marasme c'est c'est le propre du de ce qu'on appelle le transhumanisme ce sont les annonces hype on les appelle comme ça hein les annonces hype qui sont destinés évidemment à à à récolter de l'argent d'abord hein il s'agit bien de ça euh donc les les scientifiques sont contraints à toujours en en dire plus hein euh qu'ils ne sont capables de de de de faire c'est c'est la loi du marché néolibéral donc rien d'étonnant est-ce qu'il y ait des annonces hype Laurent me me paraît tout à fait en phase avec cet état d'esprit hein il accepte que le fantasme soit régulateur he ce que j'appelle un fantasme régulateur le fantasme donc c'est une illusion mais une illusion qui doit régler en quelque sorte l'action ou en tout cas régler la les les préconisations donc il accepte que le transhumanisme soit ce ce ce cet arsenal de de fantasme qui doivent pouvoir orienter les choses mais là où ça me paraît où où quelque chose me me gêne un petit peu c'est que il est capable de dire que finalement nous n'avons pas le choix he il dit souvent nous n'avons pas le choix nous devons fusionner fusion avec l'intelligence artificielle sans quoi nous sommes fichu donc il faut oui souvent tu l'as dit dès le début dès le début vous dites l'intelligence l'intelligence artificielle n'est pas un choix c'est le sens de l'histoire j'ai pas dit que c'était mon choix à moi non mais le choix tel que tu le dis on a l'impression moi ce que ce que je récuse c'est qu'il y ait un sens de l'histoire tout simplement il y a des choix effectivement et toi tu fais le choix de de de faire grandir tes enf F dans l'idée d'un transhumanisme accompli voire d'un poshumanisme à l'horizon je moi je pourrait très très bien faire le choix inverse dire moi c'est l'écologie qui m'intéresse c'est une vie paisible en harmonie sans bon ça serait aussi un scénario un scénario un petit peu bucolique mais pourquoi pas sympathique et sympathique heinon donc ils vont avoir du mal à bouffer quoi donc sauf que sauf que dans ce ce ce scénario euh où je pourrais annexer quelques technologies quand même euh suffisante pour réaliser un certain nombre de de de de de de de progrès euh bon voilà on est scénario contre scénario moi je veux bien hein là on discute on est libre l'un comme l'autre de de de d'imaginer de mobiliser des des des ressources pour dessiner l'avenir mais ce que je récuse c'est cette espèce de euh de de de frénésie à dire nous n'avons plus le choix il faut y aller hein si en 2030 on n pas réalisé cela alors on est fichu et cetera je crois qu'il faut être cohérent il faut être cohérent l'intelligence artificielle détermine une une entropie nécessaire ou l'intelligence artificielle est une est une mode comme il y en a eu d'autres et comme il y en aura d'autres je voudrais qu'on vienne au au deuxième suj la question de de la guerre des cerveaux puisque vous avez c'est le titre de votre précédent livre et vous en parlez aussi dans ce livre la manière dont finalement l'intelligence artificielle va avoir un impact sur sur l'économie de la connaissance et sur la des conséquences sociales vous dites d'ailleurs que le l'intelligence artificielle va conduire à une giléjonisation de la société ça veut dire quoi que les on va tout se transformer en en gilet jaunes si si on suit la vision bucolique de Jean-Michel nos enfants vont faire vont forcément être des gilets jaunes face aux gamins qui auront été formés à ces nouvelles technologies mais ça peut être un choix et je le respecte mais c'est pas le choix que j'ai fait pour mes enfants mais effectivement si on a d'un côté des gamins qui sont complètement branchés sur l'économie de la connaissance et sur l'A et qui maîtrisent ce nouveau langage et d'un côté des gamins qui sont complètement hors sol et qui suivent ta voix écolo bienveillante ils vont finir gilets jaunes par rapport aux autres alors je ne dis pas que c'est bien et ne me fais pas dire ce que je n'ai pas dit mais il faut savoir qu'aujourd'hui les salaires des bons développeurs chez open a c'est 10 millions de dollars par an google vient de changer sa grille salariale et les bons développeurs sont également à 10 millions de dollars par an pour éviter de se les faire piqué par oppon donc on est dans un monde qui est effectivement est inégalitaire les gens qui comprennent bien cette économie de la connaissance qui comprennent bien lia gagnent beaucoup d'argent ont des très gros salaires et puis les gens qui sont restés dans l'économie ancienne il on ils ont vocation ils ont vocation à être un peu largués en tout cas ils auront des moins bons salaires que les salaires de la de de la silicone vallleée je ne dis pas que ça ne pose pas de problème je dis pas que ce modèle avait d'un côté une élite qui bénéficie de de ces technologies là et puis un grand groupe de gilets jaunes qui ne suivent pas me me me séduit j'ai déjà plusieurs fois expliqué que ce modèle à la Harari avec d'un côté des gens qui sont des homodéus qui avait dit d'un côté des dieux des des dieux qui comprennent liya et puis de l'autre des des des useless des gens inutiles qui ne comprennent pas liya j'ai à plusieurs reprises expliqué écrit que c'est pour moi un un un un cauchemar politique et qu'il est important que tout le monde soit dans le bateau donc pour vous il faut puer les gens en gros pour les P il faut il faut puusser je il faut faut améliorer leur intelligence pour qu'ils puissent monter le bateau c'est ça vous dit nos gamins là où ils vont être complémentaires de l'intelligence artificielle et ça ne veut pas dire en faire des techniciens étroits ma philosophie et celle de ma femme sur l'éducation de de nos enfants à l'air de l'intelligence artificielle elle rejoint ce que disait Charles de Gaulle en 1934 dans l'armée de métiers la base du commandement c'est la culture générale derrière chaque victoire d'Alexandre le il y a toujours Aristote qui était le précepteur particulier d'Alexandre le Grand et bien bien je crois fondamentalement et c'est le Paris qu'on a fait avec ma femme pour mes enfants c'est que les trois points essentiels pour l'éducation des enfants face à l'intelligence artificielle c'est un la culture générale de la culture générale et tris la culture générale pour être complémentaire compétitif à l'air de l'intelligence artificielle il ne faut pas faire de nos gamins des techniciens étroits il faut en faire des des gamins qui ont une et des futurs adultes qui ont une compréhension globale des enjeux holistiques avec beaucoup d'humanité pour être complémentaire de l'intelligence artificielle de penser qu'on va arrêter avec notre et notre couteau l'intelligence artificielle et d'une naïveté absolument consternante on est sur un toboggan etlulien et Jacques etu avaient raison dès les années 40 il est très compliqué d'arrêter la technologie je vous défie d'arrêter la loi de mour je vous défie d'arrêter les progrès de l'intelligence juste dire la loi de mour c'est c'est le doublement tous les 18 mois de la puissance informatique aujourd'hui on met 208 milliards 208 milliards de transistor électroniques sur une seule puce électronique et les ordinateurs les plus puissants vont bientôt réaliser 400 milliards de milliards d'opérations par seconde donc d'arrêter ce processus est difficile donc je pense qu'il vaut mieux préparer nos enfants au monde qui vient qui va être un monde gorgé d'intelligence artificielle et les préparer de mon point de vue c'est leur donner une très solide culture générale et surtout ne pas en faire des techniciens étroits monur est-ce que vous êtes d'accord avec diagnosti et la la guerre des intelligigences qui s'annonce on a sûrement pas la la même notion de la culture générale c'est tout euh la culture c'est un procès d'intention non je ne sais pas je je me pose la question parce que la la culture générale telle que je la conçois c'est plutôt un un espace qui privilégie la réflexion une certaine lenteur hein une oui là on va pas être d'accord ben oui bien sûr qu'on va pas être d'accord la la culture générale c'est un lieu de de conversation hein et ça n'a pas grand-chose à voir avec les valeurs de de réactivité que que génère une société de d'automatisme la culture générale ne peut pas vouloir que notre société soit dominée par des machines et des automatismes ça me paraît complètement évident hein donc tu élèves tes enfants dans le culte de de cette culture générale mais je vois pas comment il ne comment tu disais gilet gilet jaunisation gilet jaunisation comment il ne se gilet jauniserait pas en en pratiquant la culture générale qui invite à la à la discussion à la réflexion à la chatch sans sans préoccupation forcément utilitaire immédiate hein donc il y a il y a une espèce de d'utopie dans dans la culture générale qui qui reste vive et qui qui me fait vivre quand quand ce qui me concerne et je vois mal qu'elle puisse s'accommoder avec un monde dans lequel l'intelligence artificielle aurait pris le pouvoir tout simplement je suis bien d'accord avec toi pour dire qu'il faut on est obligé effectivement de de fréquenter ces ces machines de faire amis avec elles hein et là je suis très proche de d'un philosophe qui s'appelle Gilbert Simondon hein qui disait que voilà le le le le ce qui nous est imposé c'est de faire amis avec nos machines de ne pas euh les les les repousser à priori loin de là hein mais de faire en sorte qu'ell reste à notre service hein tout simplement hein et qu'ell n'en prennent pas à leur aise avec nous et et ça ça me paraît être le le Béaba de la sagesse contemporaine hein mais alors l'idée que il faudrait euh lui rendre les armes à l'intelligence artificielle parce que elle fonctionne avec des vitesses absolument exorbitantes je je dis non pour moi la vitesse n'est pas une valeur la vitesse c'est au mieux pour l'instant une une fatalité mais faisons en sorte de ralentir ralentissant et je voudrais juste vous faire écouter un extrait de je sais que vous l'appréciez beaucoup Laurent Alexandre Raphael enentthoven qui était dans mon émission il y a quelques qui était dans mon émission quelques semaines et voilà ce qu'il disait sur l'intelligence artificielle et la philosophie on va l'écouter et vous allez réagir ouais la philosophie l'exercice de la philosophie la pratique de la philosophie est totalement hermétique au bénéfice de l'intelligence artificielle ce sur quoi l'exercice de la pensée repose pour le donner pour le dire très simplement la construction par exemple d'une problématique ce sur quoi l'exercice de la pensée repose est absolument étranger au process mis en œuvre par l'intelligence artificielle il a d'ailleurs combattu une intelligence artificielle dans l'épreuve du bac de philosophie il a eu 20/ 20 et l'intelligence artificielle 11/ 20 ça inspire génie vous connaissez la vérité sur ce concours entre Hoven et l'intelligence artificielle moi je connais pas alors d'abord ça a été noté par la philosophe iiette abécassi qui est une amie d'entoven ça n'était pas anonyme et d'autre part on a donné 45 minutes à Raphaël et 45 secondes à gpt4 donc franchement avant de crier victoire on va donner 45 secondes à Raphael ntoven pour faire la copie de philosophie et là on va on va le noter il va t é crabouillé par liya donc voilà alors d'abord c'était avec la version d'il y a 1 an de de de gpt4 depuis Lia a progressé elle va continuer à progresser et d'ailleurs j'ai parié avec Raphaël que lia le dépasserait en philosophie dans pas très longtemps ce à quoi il m'a répondu et il a tweeté dans 10000 ans l'intelligence artificielle ne me battra toujours pas en en philosophie je pense qu'il se trompe gravement et je pense que vous pensez que l'intelligence artificielle pourra produire des œuvres du niveau de Montaigne de de Platon d'arist faire beaucoup mieux c'est impossible elle va faire beaucoup mieux et c'est bien le problème ne faisons pas ce que les gens disaient il y a 5 ans 10 ans 20 ans lia ne pourra jamais gagner au jeu de Go elle ne pourra jamais gagner aux échecs elle ne pour jamais faire un diagnostic médical elle ne pourra jamais analyser une radio et à chaque fois on s'est planté il faut maintenant cesser de courir après liya et il faut préparer nos enfants et la société à ce tsunami moi je suis très inquiè de ton discours ce ton discours pourrait pousser à les gens dans cette salle les les auditeurs la société en général à ralentir alors que il faut courir pour ne pas être dépassé par liya il faut surtout éviter que nos enfants soient marginalisés face à liya alors on peut effectivement être comme les aristocrates de 1920 qu'il ne voulaient pas le téléphone et qui considérait que le téléphone était démoniaque parce qu'il ne voulit pas être sonné par les communs mais ne jouons pas les aristocrates d'il y a 100 ans avec l'intelligence artificielle aujourd'hui il faut vivre dans notre temps c'est pas parce qu'on est des vieux machins toi et moi et que nous sommes tous les deux à l'âge de la retraite qu'il faut que nous regardions le futur de nos enfants avec l'âge de nos 20 ans ce serait franchement ne pas rendre un service à la génération qui vient d'avoir cette vision cet œil aussi conservateur franchement jemichel B sur la différence entre enfin ce que dit Rapha est-ce que est-ce que est-ce que cette intelligence artificielle est capable de raisonner comme un humain ou est-ce qu'il y aura quelque chose quand même et alexand parla de la culture générale est-ce qu'il y aura quelque chose dans la philosophie qui résistera justement à à ces machines'est-ce que c'est ce cœur qui va résister qu'est-ce qui va résister parce que la philosophie aborde l'humain comme un être complexe comme un être ambigu comme un être versatile comme un être imprévisible c'est ce que nous nous sommes en tant qu'humain et la la philosophie est un dialogue permanent avec cette réalité là cette réalité humaine là l'intelligence artificielle quand elle aborde l'humain elle a d'abord besoin de de clarifier les choses ces valeurs sont des valeurs de de désambigué de désambiguation comme on dit de manière très très jargonnante et le le le le rêve de l'intelligence artificielle c'est de pouvoir aborder l'humain comme une boîte noire qui reçoit des des des des stimulis et puis qui émet des des output hein si nous sommes capables de d'envisager l'humain uniquement sous cet anglel à ce moment-là effectivement l'intelligence artificielle peut rendre des services euh en en en AM orant la la transmission de de l'input à l'output et à ce moment-là nous sommes effectivement des des petites machines imparfaite et l'intelligence artificielle pourra nous nous nous nous restituer une efficacité mais si l'humain reste ce qu'il est c'est-à-dire un être foncièrement ambigu foncièrement méchant peut-être aussi parce que je je je j'en prendrai à témoin maavel qui est bon si l'humain et et cette C cet être là qui qui résiste qui résiste à l'interrogation qui nous fait toujours problème qui nous oblige comme disait Raphael Hoven à à problématiser les choses à le mettre en situation et et à comprendre qu'il est un être de valeur qui fonctionne sur la base de valeur et qui peut tourner le dos au fait au fait brut à ce moment-là effectivement soit l'intelligence artificielle triomphe il y aura plus de philosophie c'est évid ça sera même plus la peine de de confronter Raphael htoven à TAD GPT 7 ou 12 parce que il y il y aura plus de philosophie hein c'est évident mais il y aura plus d'humain non plus hein il y aura plus c'est ça moi qui m'inquiète le plus dans le développement de l'intelligence artificielle c'est que elle risque de nous habituer à nous considérer nous-mêmes comme malléable par des machines hein N l'idée par exemple de de de rendre transparent notre langage m'inquiète beaucoup si nous finissions par nous exprimer les uns avec les autres de manière à ce que nos langages soient toujours formalisables soi toujours transférabl en en terme de de machine à ce moment-là je ne donne pas cher de notre humanité Laurent Alexandre est-ce que cette question de la guerre des intelligigences ne pose pas une question fondamentale qui est celle de l'eugénisme dans le sens où on peut pour améliorer l'espèce humaine pour pour être concurrencé par par l'intelligence artificielle on pour être tenté de voilà de de de de sélectionner les intelligences notamment de sélectionner les embrillons pour les rendre les plus intelligents poss possiblebles a priori ce que vous me disiez c'est que Elon Musk aurait pratiqué ça sur ses propres enfants est-ce que c'est quelque chose qu'il faut prendre en considération une menace évidemment les parents prennent peur si vous prenez un pays qui a l'orig était très peu géniste les États-Unis le grand la grande revue médicale science qui est la grande revue la deuxième plus grande revue au monde avec natureer a fait un sondage il y a quelques mois et a montré que depuis la sortie de chatgpt les Américains devenaient de plus en plus eugénistes 38 % des américainsiv souhaitent utiliser la sélection embrionnaire et le séquenage ADN pour choisir le bébé plus intelligent pour qu'il soit compétitif face à l'intelligence artificielle et 28 % des Américains plus d'un/art souhaitent bidouiller l'ADN de leur bébé pour qu'il puisse rentrer dans une bonne université de façon à être complémentaire de l'intelligence artificielle quand il sortirra de de l'école donc on voit qu'à côté de ce que dit elon mosque qui est qui affirme qu'il va mettre des implants intracérébraux dans le cerveau de ses enfants pour les rendre complémentaires de l'intelligence artificielle ce qui est une voix de neuro augmentation par voie électronique il y a une volonté croissante des parents notamment aux États-Unis et en Chine d'utiliser la sélection brillonnaire le génisme génétique de manière à ce que la jeune génération ne soit pas larguée soit pas abandonné face à l'intelligence artificielle cela présuppose que l'intelligence serait purement génétique ah non elle n'est pas purement génétique elle est majoritairement génétique mais elle est partiellement lié à l'environnement d'ailleurs c'est pour ça que on peut se cultiver deux jumeaux identique génétiquement peuvent s'il y en a un qui fait des efforts et l'autre n'en fait pas s'il y en a un qui se cultive et l'autre ne se cultive pas vont avoir des résultat académique différents mais l'intelligence est hélas majoritairement génétique c'est la raison pour laquelle il y a des enfants qui mêent avec des très bons professeurs des professeurs très motivés ont du mal à avoir des résultats académiques éblouissants Jean-Michel sur cette perspective deugénisme c'est d'ailleurs un des chapitres de du livre que vous avez écrit tous les deux c'est c'est c'est inquiétant il faut le prendre au sérieux bah c'est il faut le prendre au sérieux c'est évident là Laurent évoque Elon Musk moi j'évoquerai pourquoi pas Emmanuel charpentier et crrisper cass9 hein qui est ce ciseau moléculaire qui permet d'envisager effectivement l'intervention sur des sur les génôes mais l'amélioration des des des génôes bon autant autant citer Emmanuel charpentier prix Nobel de de de médecine et dont le les les la la la perspective de génisme n'est pas la sienne hein mais qu'elle a qu'elle a inventé le permettra la la question de leugénisme c'est une question récurrente elle est elle est défendu par C certains grands humanistes enfin Jean Rostan dans les années 25 30in proclamer que la biologie ça doit servir à améliorer l'espèce hein donc condorit aussi ça ça ça ne me choque pas à priori qu'on puisse vouloir améliorer l'espèce et éventuellement euh doter ses enfants de des des des meilleures chances préoccupe c'est plutôt cette espèce de de d'acharnement à vouloir refuser tout ce qui relève du du don du don j'allais dire du don de la nature du don et ah et mais mais en même temps c'est c'est presque une fatalité hein le le monde de la technique est par définition un monde qui envisage de substituer au don la fabrication hein donc il est quasiment logique qu'on veuille fabriquer l'humain plutôt que de se se le laisser imposer par la nature euh alors B là on peut on peut imaginer des régulations pour tâcher de de tempérer cette espèce de de démesure qu'il peut y avoir làin parce que ça pose une une question une question politique enfin l'idée de de fabriquer des des des générations d'Einstein comme l'avaent envisagé les les Chinois après l'apparition de crisper cass9 bon ça pose des problèmes qui sont des des problèmes de de géopolitique hein on peut en parler mais le génisme je vois mal comment on on pourrait empêcher nos contemporains de considérer les biotechnologies comme un instrument de consommation possible hein donc l'amélioration oui pourquoi pas alors soit en recourant effectivement à l'ugénisme négatif plutôt que l'ugénisme positif le le génisme négatif ça consiste à supprimer des imperfections le génisme positif ça consiste à fabriquer de de bout en bout des des des des êtres correspondant à des à des canons ou à desératas c'est pas la même chose il il est à noter que si Elon Musk a développé neuralink c'est parce qu'il a considéré que la voix de l'ugénisme génétique ne pouvait concerner que pour les les nouvelles générations et il a dit mais que va-t-on faire des gens qui sont déjà nés et il a dit la seule solution c'est un dispositif électronique d'augmentation c'est pour ça qu'il a créé neuralink donc effectivement cette question va une question très très très douloureuse moi je suis pas je ne suis pas un un eugéniste fou et et et comme je l'ai déjà à plusieurs reprises si l'un de nos enfants avec ma femme avait eu une trisomi 21 nous l'aurions probaement nous n'aurions probablement pas recouru à à l'IMG nous l'aurions accepté tel qu'il était donc je ne suis pas un fanat de génisme mais je fais l'hypothèse que comme les parents américains les parents français vont être affolés par les progrès de l'intelligence artificielle et vont recourir ou envisager de recourir à leugénisme dans les décennies qui viennent surtout si l'intelligence artificielle dépasse rapidement l'intelligence humaine je pense que ça va paniquer les parents et la société un petit mot sur la régulation parce que on cite souvent la loi de Gabor tout ce qui estch teologiquement faisable sera un jour réalisé pourtant il demeure certaines exceptions par exemple le clonage qui est possible mais qui est interdit est-ce que vous croyez vous en la possibilité d'une d'une régulation de ces technologies ou est-ce que dans un monde mondialisé où finalement on est en concurrence permanente avec des pays plus libéraux c'est illusoire ça va être très difficile parce que cette régulation bon d'où proviendrait-elle on peut être complètement idéaliste et dire que cette régulation elle pourrait être morale c'est-à-dire que nous pourrions devenir les uns et les autres suffisamment moraux pour nous interdire un certain nombre de choses c'est un courant qui qui qui se développe le le les les courants je vais je vais je vais utiliser un un très gros mot pour Laurent peut-être des courants de décroissance par exemple en appel à la sobriété technologique hein je savais bien que ça ça TR fait que que arrête je vais être malade mais oui je sa bien je sa bien mais ça fait rien on a les moyens de te soigner t'inquiète pas bon laissons tomber cette C cette hypothèse de d'une moralisation de l'humité qui tout à coup euh prendrait conscience euh cette régulation elle peut être euh d'ordre autoritaire on peut effectivement euh mettre en place des des des interdictions et des interdictions sanctionné euh énormément hein le le le le le péché de clonage ou le l'infraction de d'un clonage humain je crois que c'est 30 ans de prison et je ne sais plus combien de de de de milliers de d'euros 30 ans de prison c'est c'est c'est un crime contre l'espèce humaine on a inventé même ce concept de crime contre l'espèce humaine la régulation elle peut être aussi politique elle peut répondre à des à des stratégique que se donneraient les les nations et après tout introduire un concept du du genre de celui de la dispersion nucléaire pour permettre de de de de tempérer la démesures d'un d'un état par rapport à d'autres hein et et établir une espèce d'équilibre et ça c'est pas complètement invraisemblable donc la régulation il y a des moyens à imaginer et bon moi je je je milite évidemment pour des des régulations j'ai j'ai j'ai appartenu à plusieurs comités d'éthique celui du CNRS de linra et cetera où bah notre travail consistait à à à examiner des des des situations pour tâcher de de déterminer des solutions et de préconiser des des avis à des organismes de recherche qui les suivent ou qui ne les suivent pas mais en tout cas de la réflexion euh est mobilisé pour pour tâcher de de de tempérer les choses donc le le laadage de Gabor tout ce qui est techniquement réalisable sera réalisé quoi qu'il en coûte moralement c'est ça il faut allerut faut ajouter ça quoi qu'il en coûte moralement me paraît pas être une fatalité hein et il est possible que nous soyons que nous restions volontaristes que nous Ress libre par rapport à ce que certains nous présentent comme un destin al Alexandre régulation illusion alors la régulation va être extrêmement compliquée d'abord pour des raisons géopolitiques si on interdisait les intelligences artificielles les plus sophistiquées pendant que la Chine les développe nous devriendrons une colonie chinoise et nos enfants auraient cette fois-ci mandarin comme première langue et français en option langue régionale nous serions totalement vassalisés par une Chine qui elle n'aurait pas arrêté la guerre technolog TikTok et leurs propres enfants de de l'intelligence artificielle euh TikTok c'est un autre suj ou régulile moi je suis pas opposé tout à à la régulation c'est ma c'est mon atavisme hénarchique qui me pousse à ne pas refuser la la régulation mais il faut une régulation intelligente et on va avoir du mal à réguler alors que la techno bouge très vite l' Act européen est complètement dépassé par la nouvelle version de gpt4 qui est sorti hier soir dont je parlais gpt4o n'a pas envisagé un produit comme celui que chat GPT a sorti hier soir la toute dernière version gpt4 e donc la la technologie va être en permanence en avance par rapport aux organismes de régulation donc cette régulation va être difficile ça ne veut pas dire qu'il ne faut pas réguler il est clair qu'il va falloir réguler les deepf c'estd les avatars di faux vous avez probablement vu qu'à Hong Kong une grande institution financière a été il y a quelques semaines victime d'une attaque le comptable a été appelé à une réunion vidéo avec les principaux responsables de l'entreprise le Comex le directeur financier et pendant la téléconférence on lui demande de faire un virement de 25 millions de dollars ce qui n'est pas extraordinaire dans cette banque où il y a des gros virements en fait il fait le virement de 25 millions de dollars sous l'ordre de la Direction Générale et du directeur financier de cette institution financière il se rend compte peu de temps après CIT que personne dans cette réunion à part lui n'était humain c'était uniquement des intelligences artificielles parfaitement paramétré et qui émitait l'éthique de langage qui imitait parfaitement la façon de parler et de s'exprimer de ces supérieurs qui ont ordonné le virement de 25 millions de dollars le virement court toujours et la banque n'a pas récupéré les 25 millions de dollars volés grâce à cette intelligence artificielle quasi parfaite bon en attendant la la généralisation des escrs artificiels euh et le vous merci en tout cas pour cette pour ce débat passionnant on aurait pu aussi continuer encore longtemps parce que ce sont des sujets vraiment vertigineux vous pouvez retrouver cette émission sur le figarotv.fr et sur YouTube ainsi qu'en podcast n'hésitez pas à la regarder pendant vos heures d'immortalité que va vous offrir chatpt en attendant je vous souhaite une très bonne soirée je vous dis à la semaine prochaine mes invités seront Sonia mabrook et avnous chalmanie nous parlerons de laïcité bonne soirée à tous [Musique]