[DEBAT] Magnifica humanitas : le pape s’attaque à l’IA - Laurent Alexandre et Jacques de Guillebon

Et pour ce grand entretien, nous recevons deux invités aux idées assez opposées mais qui ont tous deux travaillé sur le sujet de l'intelligence artificielle. Chacun euh avec son son style et euh son euh on va dire sa spécialité. Alors pour donner un petit peu de contexte avant-hier était publié Magnifica ou Manitas donc la nouvelle encyclique du pape Léon X première après seulement 1 an de pontifica et dans cet encyclique et bien il revient très largement sur les questions d'intelligence artificielle. Nous recevons donc pour parler de ce sujet tout d'abord Laurent Alexandre. Laurent Alexandre bonjour. Bonjour. Vous êtes chirurgien,

neurobiologiste, fondateur de Doctissimo et vous êtes l'auteur de plusieurs ouvrages dont la guerre des intelligences à l'heure de chat GPT. Mais encore plus récemment, vous venez de publier un livre également vivre 1000 ans quand Liia règne et la mort recule. Rêve ou cauchemar ? C'est un livre que vous avez coécrit avec Alexandre Ticopou. Je reçois également pour cet entretien Jacques de Guilbond. Bonjour Jacques de Guilbomb. Bonjour Alexandre. Alors vous êtes éditeur de la 11e heure, vous êtes également essayé et vous publiez à vos éditions donc de la 11e heure Magnifica ou Manitas précédé d'une préface donc de Monseigneur Leborgne

évec d'Aras commenté par Jean-Pierre Dupuit et Gautier Bess. Alors euh ma première question ira vers vous Jacques étant donné que vous avez publié cette vous publiez cette cet encyclique. Donc le sujet d'une certaine façon, c'est un petit peu l'opposition ou alors la complémentarité entre l'homme et la technique et plus particulièrement l'intelligence artificielle. Déjà pourquoi cette encyclique publié au bout de seulement un an de pontificat ? Est-ce que il y avait une forme d'urgence d'une parole d'Évangile quelque part à ce sujet ? Oui, évidemment, il y a une forme d'urgence. Je tiens juste à préciser deux choses avant, je ne prétends pas avoir travaillé moi-même sur l'IA comme Laurent Alexandre a pu le faire plus

précisément. Moi, je suis un un citoyen et un catholique et un éditeur qui a un avis euh sur l'IA et qui a publié des livres sur le sujet. Je suis pas moi-même un un spécialiste. Voilà. Euh mais donc euh le pape a pris le temps de publier cet encyclique. Ça fait ça fait longtemps qu'il en parle. ça fait à peine un an qu'il est arrivé, mais enfin depuis le début de son pontificaat, il a voulu s'emparer de ce sujet et évidemment, il y a une urgence qu'on lui a même peut-être reproché d'avoir d'avoir mis autant de temps, même si c'est peu de temps en fait en soi, à publier cet encyclique. Mais c'est évidemment le grand sujet de l'époque, le grand sujet parce que ça englobe toute la question de l'humanité, de la société et évidemment du travail et de tout ce qui

en découlé. C'est dans ce sens-là que le pape s'est cru autorisé s'inscrivant dans les pas de de Léon X, son prédécesseur et de tous les papes qui depuis Léon X donc depuis la fin du 19e siècle ont créé ce qu'on appelle la doctrine sociale de l'église. C'est cru autorisé à parler de l'IA dans le sens où elle va toucher à la personne humaine comme il dit en général et notamment cette condition d'existence d'exercice du travail aux questions du capital de la pauvreté et de de toutes les relations de l'humanité et du globe en général en fait. Voilà. Ouais. Donc c'est dans ce sensl qu' avait une urgence pour que l'église en tout cas de son point de vue à elle qui se pense experte en humanité comme disait Paul 6 s'empare de cette question. Laurent Alexandre de votre côté je crois que

vous avez aussi pris connaissance de cette de cette encyclique. Alors récemment on a appris que les dirigeants d'anthropique AI on donc ont demandé une audience au pape justement pour avoir une sorte d'éclairage moral au sujet de l'intelligence artificielle. Qu'est-ce que vous pensez de la voix du Saint-Siège de Léon XIV plus précisément au sujet de l'intelligence artificielle ? Alors, personnellement, je ne suis pas je ne suis pas croyant, je suis até, mais je pense que le le pape est tout à fait dans son bon droit d'ouvrir le chantier de l'intelligence artificielle qui pose des questions énormes pour l'humanité. La position du Saintcière et du du Saint-Père est intéressante parce que il

aborde une grande partie des conséquences de l'intelligence artificielle sur l'humanité. Le moment qui a été choisi par le pape n'est pas anodin. 2026 est l'année où l'intelligence artificielle aura dépasser l'intelligence humaine dans la quasi-totalité des domaines cognitifs. C'est donc un moment de basculement. Et donc l'ouverture de ce chantier spirituel sur les limites de l'intelligence artificielle, sur la définition de la dignité euh à l'air de l'intelligence artificielle sont fondamentaux. Aujourd'hui, ce que l'on observe c'est que la société commence à être débordée par les conséquences de l'intelligence artificielle, conséquences éducatives. Le système éducatif n'a aucun sens

construit comme il l' aujourd'hui au niveau des universités, le système de santé, le système de politique, le système même d'emploi et et d'organisation économique. la totalité des facettes de la vie sociale sont impactées par l'intelligence artificielle et donc il y a urgence à théoriser les relations entre la machine et et et l'homme et bien sûr à à définir ce qu'ils font de la la dignité parce que la position du Saint-Père est que même si l'intelligence artificielle dépasse cognitivement l'homme, la dignité reste limitée à à l'homme et ce qui fonde cette dignité, ça n'est pas les compétences humaines et notamment les compétences cognitives, mais c'est

la caractéristique propre de l'homme créée à l'image de Dieu selon la doctrine de l'église. Alors alors justement Jacques de Guilbon, ce qu' ce qu'on peut observer dans cette encyclique, c'est que comme le dit Laurent Alexandre, le le pape va essayer de mettre en lumière la valeur de l'humanité par rapport presque à l'intelligence artificielle. C'est quand même un petit peu étonnant comme démarche. C'est presque à rebour de ce qui de ce que la logique voudrait. C'està-dire que il part du postulat que effectivement comme le disait Laurent Alexandre, l'intelligence artificielle en terme de performance pure est en train de dépasser l'humain dans tous les domaines et que désormais faut trouver la valeur de l'humanité ailleurs que

dans cette performance. Oui. Non mais pour le d'un point de vue catholique chrétien, c'est pas aussi paradoxal que vous semblez le le penser. C'est-à-dire que si vous relisez ne serait-ce que Pascal par exemple qui n'est pas un docteur de l'église mais qui était quand même un grand chrétien qui parle des trois ordres. Vous avez l'ordre de la chair, l'ordre de l'esprit et l'ordre de la grâce qui est un ordre infiniment plus éloigné de l'esprit que l'esprit de la chair et cetera. Donc qui a déjà cet ordre en fait pensé par le catholicisme de de l'humain dans sa personne parce que ce concept de personne est assez essentiel et dans sa dignité qui ne sont pas lié à aux performances strictes de son intelligence. En fait, c'est pas parce que vous êtes le plus fort en calcul que

vous êtes le plus humain et le plus sauvé et le plus à l'image de Dieu. C'est une de vos caractéristiques, mais c'est évidemment pas la seule. Et donc c'est assez logique que l'église euh s'empare de ce sujet dans le sens où nous risquons euh si l'intelligence artificielle continue de se développer ainsi et d'envoyer tous les champs de notre existence sans qu'on y pose de bornes ou de limite sans qu'on l'aiguille, nous risquons de devenir nous-mêmes euh prendre une image que prennent certains technophobes les chimpanzés du futur, c'est-à-dire les esclaves nous-mêmes de cette intelligence artificielle ou son bétail ou son ses animaux domestiques qu'elle sera capable de guider. Euh c'est ça que veut euh éviter le pape et il est pas le seul d'ailleurs puisque vous vous

parliez des dirigeants d'entropiques, mais ils ont fait plus que demander une audience au pap. Crisola qui est un des cfondateurs de d'Antropique était présent à la conférence de presse de présentation de Magnifica Humanitas au côté du pape. Il a parlé, il a expliqué que il pensait lui avec d'autres de dans ses rois de la tech que on était un carrefour et que l'intelligence artificielle pouvait partir dans un sens où elle serait plus maîtrisée, où elle deviendrait nocive et que c'est ça qu'il fallait essayer d'éviter. Donc ils sont dans ce sens-là dans le la même lignée que le pape et que l'église catholique en général très inquiet. C'est une partie de ces de ces gens-là, notamment ce dentropique euh très inquiet de ce que pourrait devenir UNIA qui ne serait

plus maîtrisé, qui dépasserait même ses concepteurs et ses inventeurs. Et alors Laurent Alexandre, vous pour le coup euh ce qui est euh assez euh intéressant, c'est que alors que le le pape lui pour le coup euh va largement évoquer la nécessité de de réguler d'une certaine façon ehth bien euh l'intelligence artificielle, de lui mettre euh des euh des barrières que ce soit au niveau étatique ou que ce soit au niveau même des des entrepreneurs eux-mêmes. coup, on a l'impression de votre discours en général que et bien finalement il faut laisser l'intelligence artificielle avancer de son de son côté, que d'une certaine façon, il ne sert à rien de vouloir la la freiner et d'aller contre la marche la marche du monde. Est-ce que ça signifie que finalement il faut

laisser voilà l'intelligence artificielle se développer au maximum et nous développer nous-même au maximum au travers de l'intelligence artificielle ? C'est une question difficile et si vous prenez la position de Donald Trump ces dernières semaines, on voit bien à quel point il est difficile de freiner et de réguler l'intelligence artificielle. Euh Trump quand il est arrivé au pouvoir pour la 2e fois avait supprimé le décret l'exécutive order de Biden qui contrôlait les intelligences artificiel les plus puissantes. Hm. Et puis devant les progrès très importants et puis le fait que sa base MAGA commence à beaucoup s'inquiéter des progrès de l'intelligence artificielle, il a décidé de de signer un nouvel executive order, un nouveau décret pour

limiter les IA les plus intelligentes. un petit peu à l'image de ce qu'avait fait Biden, il était prévu que lorsque un des grandes sociétés d'intelligence artificielle sortait un modèle extrêmement puissant, elle devait le présenter à une agence gouvernementale 90 jours avant sa relise grand public. Et puis une partie de l'entourage de de Trump lui a expliqué que si l'on freine l'intelligence artificielle, on va se retrouver dans une situation dangereuse géopolitiquement puisque la Chine deviendra numéro 1 mondial de l'intelligence artificielle alors que les États-Unis sont toujours lui toujours leaders. Donc rien que pour des raisons géopolitiques, il est assez compliqué de freiner le périmètre de l'intelligence artificielle. Je remarque

qu'il y a quelques semaines, le pape lui-même Léon XIV s'est ému du fait que les prêtres et les évêques écrivait leurs sermons, leurs homélies avec Chat GPT et ses équivalents. Et il avait demandé à à à ses collaborateurs en quelque sorte dans la hiérarchie dans la hiérarchie de l'église d'arrêter de d'écrire leur serment avec l'intelligence artificielle. Même le pape est dépassé par la déferlande de l'intelligence artificielle qui prend une place de plus en plus grande. On aurait pu imaginer que l'église serait un refuge euh par rapport à l'intelligence artificielle et que les prêtres continueraient à exprimer leur leurs affectes, leur leurs

sentiments directement et non pas de recopier ce que Chat GPT a écrit. Mais vous vous euh Laurent Alexandre d'une façon vous êtes quand même favorable dans ce qu'on dans ce qu'on comprend quand même à ce que finalement que l'humain s'augmente euh au travers de l'intelligence artificielle et que finalement en fait on a l'impression que dans le modèle de société que vous dessinez l'intelligence artificielle serait presque au centre au détriment de de l'être humain. Non mais au centre de la société demain, il y aura l'intelligence artificielle et non l'humain. Dans une entreprise, si vous mettez l'humain au cœur de de de l'entreprise, vous allez déposer le bilan. L'intelligence artificielle est

tellement plus performante, et ce sera encore pire dans le futur et tellement moins cher que l'intelligence humaine qu'il est extrêmement difficile de construire une institution dans laquelle on met l'humain en en son centre. Donc euh et c'est un peu l'angle mort d'ailleurs de de de l'encyclique. Il ne va pas être possible, il ne va pas être tenable de ne pas augmenter l'homme. Euh si nous n'augmentons pas l'homme sur le plan cognitif, le décalage entre l'intelligence artificielle et l'intelligence humaine sera trop important. Il ne faut pas commettre l'erreur de penser que l'intelligence artificielle est un outil. L'intelligence artificielle n'est pas un outil, c'est une nouvelle espèce intelligente et comme Geophren Inton, le

prix Nobel de de physique 2024 et l'inventeur des réseaux de neurones profonds qui sont à la base de toutes les intelligences artificielles modernes, le déclarer au Financial Times, nous ne sommes plus l'espèce la plus intelligente sur terre. Nous sommes la deuxième espèce la plus intelligente derrière l'intelligence artificielle. Donc euh si on ne veut pas être dépassé par l'intelligence artificielle et perdre le pouvoir à terme contre l'intelligence artificielle, il va bien falloir augmenter le cerveau humain, sinon la partie est terminée. Jacques de Guilbond ? Oui, moi je suis pas pas d'accord avec euh ce que dit Laurent Alexandre là-dessus. Euh de ce que je lis, euh il me semble que beaucoup de concepteurs de l'intelligence artificielle comme Darius à Modéi aujourd'hui ne sont pas

convaincus non plus. déjà qu'on va vers une super intelligence artificielle demain c'est pas c'est pas si évident que ça il parle d'un rendement décroissant de l'intelligence en fait qui pourrait se se retrouver dans le développement de l'intelligence artificielle. Alors ça, j'en j'en sais rien. Moi, je n'ai pas les les connaissances scientifiques pour savoir ça, mais bref, ils nous semblent pas tous aussi optimistes. Euh, enfin, même si pour moi c'est pas l'optimiste, mais optimiste que Laurent Alexandre là-dessus sur l'intelligence qui va arriver demain. D'une autre d'un autre côté, pour l'instant, on constate que l'intelligence artificielle à mon avis a plutôt tendance à réduire les capacités cognitives de l'être humain, notamment chez les jeunes gens qui sont confrontés

à cet outil en permanence sur un outil démocratisé qui échète GPT ou des choses comme ça et qui fait que ils travaillent de moins en moins, ils apprennent de moins en moins et ils sont donc en train de développer de moins en moins leur leur capacité cognitive puisqu'ils ont cet outil qui le fait à leur place. Et ça ça demande une question de révision, ça je suis d'accord avec Laurent Alexandre, de tout notre système d'éducation qui est en train de de vaciller mais à partir de même du école primaire, je pense à cause de de l'introduction de cet outil. Euh Platon disait déjà que l'introduction d'écriture allait faire diminuer la la mémoire de l'être humain. Là, je pense qu'avec l'objet IA démocratisé, on est encore en train de aller encore plus loin là-dedans et donc dans plutôt dans la

diminution des capacités cognitif de l'être humain. Par ailleurs, une autre espèce intelligente, je sais pas si on peut parler d'espèce dans le sens où elle a pas de pour l'instant, elle a pas de pas de corps, pas de sens, pas de de choses comme ça qui caractérisent quand même les espèces et aussi surtout parce que l'intelligence artificielle aujourd'hui réclame une consommation d'énergie gigantesque dont on n pas besoin le le cerveau humain encore pour l'instant en fait. Voilà. Et donc là-dessus, on n'est pas encore égau et je pense qu'on dépasse largement en tant qu'organisme euh qui fonctionne et qui est presque autosuffisant, qui a besoin de manger seulement un petit peu pour faire fonctionner le cerveau. On dépasse encore largement l'insuffance artificielle et là ce sont des

conséquences euh qui sont prises en compte dans le dans l'enclique Magnifica Humanita, c'est-à-dire qui travaille comme un esclave pour extraire ce qui va servir d'énergie, de matériaux et cetera pour faire fonctionner la dégance artificielle aujourd'hui. on va dire demain, elle sera assez intelligente pour elle-même réduire sa consommation d'énergie, sa consommation de de tous les matériaux qui sont nécessaires son existence. J'en suis pas si sûr et en tout cas on est obligé aujourd'hui de prendre en compte cette partie de la population qui non seulement travaille dans l'ombre et dans des en général dans des des conditions extrêmes pour pour produire cette intelligence artificielle et aussi le fait que comme le rappelle le pape une grande partie de l'humanité

ne bénéficie pas de cette intelligence particelle pour l'instant et que ça risque de créer encore plus d'inégalités. Ce sont voilà des choses que l'encyclique essaie d'affronter euh s'inscrivant dans ce sens-là dans la doctrine sociale de l'église encore une fois euh en prenant en compte le la dignité humaine, le la destination universelle des biens, la solidarité, la justice sociale et encore une fois le statut du travailleur. Laurent Alexandre, il y a beaucoup de choses dans ce que dans ce qu'a dit Jacques, mais effectivement un point qu'on peut qu'on peut retenir, c'est que est-ce que finalement ça vudrait enfin c'est vraiment pertinent de se mettre d'une certaine façon en compétition avec l'intelligence artificielle en

s'augmentant nous-même euh au lieu de quelque part voilà enfin nous concentrer justement sur ce qui fait la valeur de l'être humain en tant que tel sur des domaines dans dans lesquels de manière ontologique l'intelligence artificielle ne pourra pas être enfin être au performant d'une certaine façon. Enfin, on a l'impression queen fait dans votre modèle finalement c'est l'humain qui se met au service de la machine et qui se met au service de l'intelligence artificielle. Alors d'abord je voudrais dire pardon Jacques de Guimont mais Dario Amodi n'a jamais dit que l'intelligence artificielle la super intelligence artificielle n'arrivait pas. Il a même dit le contraire et encore récemment puisqu'il a réaffirmé qu'en 2027, on pourra mettre l'équivalent de plusieurs

milliers de prix Nobels scientifiques dans un seul serveur euh d'intelligence artificielle. Donc Dario Amodi pense comme tous les maîtres de l'intelligence artificielle que la super intelligence artificielle est proche. C'est le cas d'Elon Mosque, c'est le cas de Sam Altman, c'est le cas de Dario Amodéi, c'est le cas de d'mis asabis, le prix Nobel de chimie et euh euh patron de toutes les intelligences artificielles chez Google Deep Marine. Donc euh en réalité la Silicone Vallée est convaincue que la super intelligence artificielle est proche. Alors qu'elle soit là en 2029 ou 2031 ne change pas beaucoup les choses. des domaines où l'intelligence artificielle ne va pas dépasser l'intelligence humaine, je n'en vois pas. Alors, on a dans le passé dit l'intelligence artificielle ne saura

jamais jouer aux échecs, puis elle ne saura jamais jouer au au jeux de go. Elle ne saura jamais faire de médecine. Elle ne comprendra jamais le droit. Elle ne sera jamais capable d'avoir une discussion avec l'humain. Elle ne sera jamais bonne en mathématiques. Et puis à chaque fois, l'intelligence artificielle a cassé chacune de ses barrières. et vous pouvez regarder les progrès énormes en mathématiques que Chad GPT a fait ces ces ces dernières semaines. On a on a pas de doute là-dessus Laurent Alexandre. Simplement peut-être que ce que pour préciser un petit peu ma question, c'est que en réalité il y a des domaines dans la dans lesquels théoriquement enfin de manière ontologique l'intelligence artificielle ne pourra jamais être présente. Je pense c'est bête mais vous en parliez

vous-même au début de cet entretien à la dignité, à l'amour, à la souffrance. Ça ça c'est c'est totalement faux. Ça c'est la vision de l'église. Mais 88 % des jeunes Américains dans un sondage que vous pouvez aller voir dans Forbs déclarent qu'ils peuvent envisager d'épouser une intelligence artificielle dans le futur. Un nombre croissant de gens sont amoureux de leur intelligence artificielle. Donc non, l'amour n'est pas un domaine exclu pour l'intelligence artificielle. et beaucoup de gens des relations de type amoureux avec l'intelligence artificielle comme dans le film heur qui était absolument euh prémonitoire. Et en terme de dignité, moi je ne suis pas d'accord avec l'église. Je pense que la dignité est

liée à l'intelligence et donc je pense que l'intelligence artificielle a une dignité équivalente à l'intelligence humaine à partir du moment où elle est aussi intelligente que l'intelligence que l' Donc ça veut dire que à partir du moment où l'intelligence artificielle est plus performante que l'homme justement en terme d'intelligence, elle a le droit à plus de dignité. Non, elle elle a le droit à une dignité équivalente parce qu'elle est un être pensant. Je ne vois pas pourquoi on ferait du racisme euh cognitif et on séparait l'intelligence produite par des neurones chez nous et l'intelligence produit par du silicium pour l'intelligence artificielle. Pourquoi ferait-on une différence entre la façon dont l'intelligence dont la conscience est produite ? Il serait tout à fait à

fait que c'est pas un être la question c'est la définition de ce qui est un être. Il serait tout à fait injuste de considérer que l'intelligence produit par des neurones est supérieure à l'intelligence produit par du silicium. Mais il n'y a aucune raison de faire la différence. Alors justement si il y a plein de raisons mais enfin les raisons c'est que justement l'intelligence des neurones humains n'est pas n'est pas juste de la matière en fait qui est extraite de de la terre pour être organisé comme ça. Ça s'appelle un être en fait global qui a des sens des perceptions et qui dans ce sens-là est capable d'exprimer aussi des sentiments et pensonsnous nous d'un point de vue chrétien à une autre destinée. C'est même d'un point de vue simplement, c'est totalement différent

l'être Alexandre de Gazin qui est derrière le l'écran là est autonome à un seul endroit, n'est pas ubicutaire et ne peut pas être débranché du jour au lendemain juste en appuyant sur un bouton. Enfin, on peut le tuer évidemment, mais c'est il a une une orgénicité de son être, une unité de son être que vous trouvez pas dans l'intelligence artificielle. Donc dans ce sens-là, c'est pas du tout comparable et euh et donc c'est pas du racisme. Bah c'est considérer qu'il y a une différence entre la entre l'intelligence produite par des neurones et l'intelligence produit par du silicium. C'est bien une forme de racisme contre le silicium. C'est du racisme cognitif. Et d'ailleurs au aux États-Unis, certains théologiens proposent de donner

le baptême à l'intelligence artificielle si elles le souhaitent. certains théologiens sans doute d'église protestantes des évangélistes bien sûr. Oui, voilà. Général juste pas des prêtres pas des prêtres catholiques bien sûr. Oui. Dans ce cas-là, vous êtes d'accord que l'intelligence artificielle est fondée dès maintenant ou peut-être demain à vous supprimer vous dans le sens où vous êtes beaucoup moins intelligent qu'elle en fait et qu'elle a une dignité supérieure ou à vous esclavagiser si elle en a envie. En fait, dans ce sens-là, vous êtes d'accord. La place la place la place de l'homme et de l'intelligence artificielle vont être très un vrai challenge dans le futur. On y a pas suffisamment réfléchi. C'est pour ça que le chantier qui a ouvert le pape est un chantier très intéressant

parce qu'on a pas commencé à réfléchir à la place de l'homme. Je ne parle pas de sa dignité mais à la place de l'homme quand il est intellectuellement dépassé puis écrasé par l'intelligence artificielle. C'est un immense chantier qui qui est à peine ouvert et et l'initiative du pape tombe tombe à pque parce que aucun courant philosophique jusqu'à présent ne s'était emparé de cette question. Jacques de de Guilbon, il y a un point quand même que je voudrais éclaircir sur cette sur cette encyclique et qui relancera sans doute un petit peu cette discussion, c'est que le pape lui-même dit n'être pas antitechnique. Il explique que la technique de manière générale ne s'oppose pas aux connaissances et d'ailleurs à la parole

de manière générale de l'Église catholique. Il explique n'être pas antiintelligence artificielle. Mais dans le même temps, ce qu'il explique aussi, c'est que là, je vais le citer, mais c'est que la technique a elle-même une une un poids moral, une charge morale. C'està-dire que concrètement la technique n'est pas neutre. C'est ça que qu'explique euh Léon X. Donc si la technique n'est pas neutre, est-ce que ça signifie que certaines techniques en soi que certaines technologies peuvent être chargées, on va dire négativement en terme de morale ? Oui, elles peuvent être chargées négativement mais par les êtres qui les utilisent. En fait, elle ce n'est pas ce n'est pas encore une fois ce le réseau de silicium en soi qui est qui est mauvais. Et l'Église catholique n'a

jamais été contre la technique en soi et notamment dans la technique de communication puisque c'est un peu elle qui a répandu l'existence du livre, d'abord des manuscrits puis ensuite de l'imprimerie un peu partout dans le monde. Voilà, le premier livre imprimé était était une Bible comme on le sait. Voilà. Donc dans ce sens-là, tout ce qui est tout ce qui sert à à la communication, à parler à à toutes les techniques qui développent l'intelligence et relation entre les êtres humains sont pensés comme nécessaires, utiles par l' catholique. Ce qui n'est pas neutre, c'est l'agent qui va s'en servir. Encore une fois, vous pouvez Mais là, en l'occurrence, l'intelligence, pardon, Jacques de Guilbau, mais l'intelligence elle-même, l'intelligence artificielle elle-même a

une capacité cognitive qui a quand même une certaine autonomie. Euh est-ce que euh de son côté c'est c'est pas comme si elle avait une certaine euh justement un certain poids moral, ne serait-ce que par son autonomie ? Euh ben elle a pas encore elle a pas un poids moral je pense dans le sens où elle est pas capable de prendre des décisions morales et je pense qu'elle sera jamais capable de les faire sinon en en recopiant ou en décalquant si qu'elle connaît des êtres humains. Mais justement si le le pape et notamment Christopher Rola qui était à ses côtés se sont par de ce sujet, c'est pour expliquer qu'on est à un moment où l'intelligence artificielle fonctionne, certaines intelligences artificielles fonctionnent selon des processus que même leurs inventeurs ne comprennent

plus ou ne connaissent plus et que c'est là qu'il faut poser des limites orientées et mettre des barrières notamment dans l'utilisation de de ces intelligences artificielles des barrières morales par exemple. C'est ce que ont décidé les patrons entropiques quand ils ont refusé de mettre leur leur leur IA au service du Pentagone pour mener des guerres dont on connaît pas les les techniques ou les conséquences aujourd'hui. Ça c'est une ça c'est un refus moral en fait d'utilisation de cette de cette IA et ils ont eu raison là-dessus et c'est pour ça que d'ailleurs dialogue avec l'Église catholique. Je vous laisse la parole à dans un instant pour répondre Laurent Alexandre. Je rappelle simplement que et bien vous êtes ici donc sur ligne droite la matinale de Radio Courtoisque. Nous

recevons Jacques de Guilbon et Laurent Alexandre pour évoquer bien la dernière encyclique Papale euh euh et puis euh Magnifica Humanitas et puis justement le rôle de Lia dans la société vis-à-vis de l'humanité pour que de tels entretiens se poursuivent et bien nous avons besoin de vous chers auditeurs. Absolument. Radio Courtoisie refuse toute ressource publicitaires pour rester vraiment indépendante et ne pas subir d'éventuelles pressions d'annonceur. Vous êtes donc les seuls financier de notre radio. Alors faites un geste, apportez votre contribution en vous rendant sur soutenir.rc.fr. soutenir.rc.fr et bien sûr un grand merci d'avance. Merci beaucoup Franck. Et tout de suite on revient sur notre entretien. 7h10h sur Radio Courtoisie. ligne droite

Alexandre de Galzain. Alors Laurent Alexandre, une question peut-être un petit peu un petit peu plus technique pour nous éclairer aussi dans ce dans cette discussion, c'est effectivement euh est-ce que euh là ce que vient de dire Jacques de Guilbond est juste dans le sens où euh ça y est, on est dans une phase où l'intelligence artificielle euh est en train de devenir suffisamment euh autonome dans sa propre autogénération pour que finalement l'être humain ne comprenne plus exactement comment elle fonctionne ? Et si tel est le cas, est-ce que ça signifie que c'est le moment où on est censé encadrer cette intelligence artificielle ? Alors Jacques de Guiban ne ne croit pas que l'intelligence artificielle puisse avoir ses propres normes morales. Alors il y a deux choses différentes. D'abord

l'intelligence artificielle est une boîte noire parce que elle devient trop compliquée pour les humains. Il n'y a plus d'humain aujourd'hui capable de comprendre la totalité d'un réseau de neurones profond. Chez chat GPT, il y a 4000 milliards de de neurones dans le réseau de neurones artificiel qui crée les réponses au au aux questions posées par les par les utilisateurs. Ça c'est le premier problème. Il y a le deuxième problème. Y a-t-il émergence ou pas d'une morale propre Alia de norme morale propre Alia ? Alors l'étude qui a été réalisée par Entropique et dont a parlé Hola qui est l'un des cfondateurs de d'entropique avec Dario à Modéi et et sa sœur Dario

Entropique a créé le deuxème grand modèle d'intelligence artificielle grand public Claude qui est un à égalité avec Chat GPT 5.5 en terme de performance. Il il a parlé de de de cette étude réalisée par par Anthopique en avril. et qui montre qu'il commence à y avoir des normes morales et des comportements psychologiques chez Claude qui n'ont pas été codés et donc qui sont des propriétés émergentes qui n'ont pas été été prévu. Alors ça pose plein de problèmes, ça pose le problème de l'alignement. Est-on certain de pouvoir aligner l'intelligence artificielle et d'en faire éternellement un tout toutou, un domestique à notre service ? La réponse est probablement non. C'estd que

il est peu probable qu'une intelligence qui nous est très supérieure soit durablement notre domestique nous obéisse soit notre esclave. euh une intelligence supérieure à l'intelligence humaine va forcément se désaligner, va forcément avoir des préférences psychologiques euh existentielles, organisationnel, philosophique qui seront différentes de des préférences humaines. Et effectivement, comment peut-on durablement aligner une intelligence artificielle qui nous est supérieure ? C'est une question complexe et vitale pour l'humanité. Et personnellement, je n'imagine pas une seconde que l'intelligence artificielle quand elle sera très supérieure à nous, c'est-à-dire au stade de la super intelligence artificielle, restera un

domestique sage, obéissant, respectant nos règles morales que nous ne respectons même pas. Parce qu'il y a une chose qui est certaine, l'intelligence artificielle ne peut que constater qu'entre notre catéchisme et ce que nous faisons au quotidien, il y a une différence absolument invraisemblable. Nous parlons de paix, de morale et nous torturons. Nous créons des guerres. Nous ne respectons pas notre propre catéchisme. Et il est probable que ce décalage entre notre catéchisme moral et ce que nous faisons dans le monde réel euh sera insupportable pour l'intelligence artificielle et conduira à son désalignement à terme. Jacques de Guilbond. Je sais pas ce que sera un désalignement

mais si c'est que l'IA se s'autoproclamera tirant ou état totalitaire à elle-même, en fait dans ce cas-là, c'est très c'est très angoissant et on a encore plus raison de d'essayer de d'éviter ça. Mais oui, évidemment que l'être humain est plein de est plein de défauts, plein d'erreurs, plein de contradictions et c'est aussi un peu ce qui fait ce qui fait son ses bienfaits et un monde di ou uniquement dia où tout serait parfait. et cetera. Je pense serait pas très intéressant à vivre et là ça pose encore une fois une question que Alexandre affectionne de vivre 150 ans ou 300 ans ou 1000 ans dans un monde gouverné par l'IA qui n'aurait plus aucune aucune saveur, aucune chair, aucun goût,

aucune contradiction. serait à mon avis extrêmement ennuyeux et nous pousseraiit assez rapidement tous au suicide et là Lia aurait définitivement gagné parce qu'elle resterait toute seule je pense pas très longtemps d'ailleurs sur sur ce glob ou dans l'univers. Mais justement Jacques de Guilbon, c'est un petit peu alors vous vous allez bientôt devoir nous laisser je crois à 8h. Donc du coup, je voudrais vous poser une une dernière question avant de terminer cet entretien avec Laurent Alexandre. Mais d'une certaine façon aujourd'hui, à quoi est-ce que Léon X nous appelle justement dans les singularités humaines vis-à-vis de l' enfin enfin comparé à l'intelligence artificielle quelque part ? c'estd que qu'est-ce qui nous reste à nous en tant qu'humain pour justement ne pas être sur

le même plan d'une intelligence artificielle qui nous dépasse dans bien des domaine et justement quel doit être notre notre rôle selon le pape dans ce dans ce monde alors queon abandonne la performance à l'intelligence artificielle ? Il nous appelle à ce quoi appelle l'église catholique et le christianisme depuis le début, c'est-à-dire ce qu'il appelle la civilisation de l'amour, ce qu'on appelle comme ça depuis depuis Paul 6. C'est notamment c'est un concept forgé contre la guerre froide, l'utilisation des armes nucléaires, toutes les capacités de destruction du monde qui sont déplacées aujourd'hui sur cette question d'intelligence artificielle mais qui restent un petit peu les mêmes quoi, d'une technique qui peut devenir menaçante voire destructrice pour

l'humanité. Et dans ce sens-là, appeler à aimer son prochain et surtout à aimer son ennemi, je pense sont des choses révolutionnaires. Je sais pas si Lia est encore arrivé à à cette morale-ci que Laurent Alexandre ne doit pas aimer d'ailleurs. Mais voilà, en tout cas, c'est la morale du christianisme. Moi, c'est celle que j'aime et dans laquelle je vis et je souhaite qu'elle qu'elle se perpétue. Voilà. Merci beaucoup Jacques de Guilbour d'avoir été avec Ah ! Ah ! Alors, on vous entend vous entend moins bien mais dans tous les cas je crois que vous deviez vous en aller. Jacques de Guilbon, merci beaucoup d'avoir été avec nous. Je rappelle que vous allez donc publier et bien Magnifica ou Manitas aux éditions de la 11eur. Voilà, je j'invite tous nos

auditeurs à se rendre sur le site de la 11e heure pour justement et bien acquérir cette cet ouvrage que vous publiez, je crois pour la mi-juin. Et donc je vais poursuivre cet entretien avec Laurent Alexandre parce que effectivement il y a il y a un point que Jacques de Guilbond soulignait et qui est un petit peu je pense ce qui soutend un petit peu tout cette entretien également, c'est que en réalité Laurent Alexandre, le monde que vous nous euh promettez vis-à-vis de l'intelligence artificielle, je pense que personne n'en veut aujourd'hui. Aucun être humain n'en veut. Non. Oh, je ne crois pas. Euh la Silicone Vallée nous nous promet euh une espérance de vie beaucoup plus longue dès la prochaine décennie. Euh d'où d'où

le titre de mon livre avec Alexandre Poulos Vivre 1000 ans. Euh euh Elon Mosque nous promet que en 2035 on pourra vivre 150 160 ans. Le patron de Claude dit la même chose 160 ans dès 2035 grâce à la super intelligence artificielle. Desmis à Sabis, le prix Nobel de chimie et le patron de toutes les intelligences artificielles guérit promet la la guérison grâce à la super intelligence artificielle de la totalité des maladies humaines avant 2040 et la possibilité de rajunir nos cellules et nos organismes euh avant 2040, toujours grâce à la super intelligence artificielle. Beaucoup de gens vont vouloir l'immortalité sur terre parce que comme vous le savez bien, l'immortalité dans

le ciel est une promesse qui n'est pas garantie. Euh je pense que beaucoup voudront vivre beaucoup plus longtemps sur terre et que donc la promesse des maîtres de l'intelligence artificielle qui investissent massivement dans la lutte contre la mort sera très attractive. Mais alors d'un d'un côté théoriquement bien sûr, mais de manière concrète, encore une fois dans le dans le monde que vous que vous suggérez et que suggère une partie des patrons de la de la Silicone Vallée, il y a aussi cette idée, vous l'avez dit vous-même, que ce sera l'intelligence artificielle qui sera au centre et que l'homme d'une certaine façon sera à son service. Est-ce que en en réalité je t'ai pas non je t'ai pas dit que nous au service de l'intelligence artificielle, j'ai dit

que nous serons marginalisés si nous augmentons pas. Ce n'est pas la même chose. Nous n'allons pas devenir les esclaves de l'intelligence artificielle, mais nous allons compter pour très peu comme les écureuils du bois de Boulogne n'ont pas beaucoup d'influence sur l'humanité. Mais justement, de certaine façon, est-ce que aujourd'hui l'homme a vraiment envie et bien de certes gagner quelques dizaines quelques décennies d'espérance de vie, mais au prix et bien du fait de perdre sa place centrale dans justement toute cette toute cette terre, de rester justement la seule espèce intégralement consciente disons de l'humanité. Est-ce que enfin de de de ce monde, est-ce que en réalité c'est quelque chose qui est enfin honnêtement

je pense que peu de personnes trouvent ça désirable aujourd'hui. Monsieur le journaliste, les les les carottes sont déjà cuites. Le on en parlait tout à l'heure, le pape s'est plaint du fait que les évêques et les prêtres fassent écrire par chat GPT leur sermon. La quasi totalité des journalistes utilisent Chat GPT ou Claude pour écrire leurs articles, le plus souvent en cachette de leur rédacteur en chef. Euh euh nous nous en sommes déjà là. Le dépassement il est tacté. Euh 88 % des étudiants anglais font leurs devoirs et leurs examens avec chaque GPT ou Claude au lieu de le faire avec leur cerveau. Donc notre dépassement est est déjà une répandre mais d'une certaine façon en

l'occurrence là dans ce dans les cas que vous décrivez l'intelligence artificielle reste au service et bien de de l'humanité dans ce dans ce cadre là. Vous, on a l'impression que vous proposez plutôt l'inverse. Non, je constate que notre dépassement par l'intelligence artificielle a des conséquences civilisationnel et anthropologique majeur. D'ailleurs, c'est très bien ce que dit le pape dans son encyclique. Pour revenir au au texte de de de Léon X et comme nous n'avons pas réfléchi au monde d'après, nous avons créé une intelligence artificielle qui va devenir une super intelligence artificielle, les Américains la Silicone Valallé investit en recherche 3 milliards de dollars chaque jour, hein. hintelligence artificielle, on va dépasser 1000 milliards de dollars de

recherche en intelligence artificielle chaque année. Donc on a lancé un toboggan technologique absolument incroyable et on n pas réfléchi au monde d'après. On n pas réfléchi à l'école, on n pas réfléchi à l'université, on n pas réfléchi au monde du travail et à la façon dont on l'a on allait interfacer l'intelligence artificielle et l'intelligence humaine. Donc si nous continuons les conneries, c'est-à-dire si nous continuons à dévaler le le toboggan technologique sans préparer la société d'après et sans préparer l'homme à ce monde où l'intelligence artificielle nous dépasse, c'est sûr que ça va mal se terminer pour pour notre espèce. Mais alors dans ce cas finalement, qu'est-ce que qu'est-ce que vous enfin en fait la seule solution que vous proposez enfin la solution que vous

proposez pour la survie de de l'humanité quelque part vis-à-vis de l'intelligence artificielle, c'est que l'humanité se déshumanise en s'augmentant. Et nous n'avons pas le choix. Nous n'avons pas le choix. Soit nous courons derrière l'intelligence artificielle pour au moins la comprendre en nous augmentant, soit nous devenons une espèce marginale. L'intelligence artificielle ne nous exterminera pas mais pour reprendre l'exemple que je citais tout à l'heure, elle nous traitera comme nous traitons les les écureuils du bois de Boulogne. Vous n'êtes pas très loin du bois de Boulogne, je crois, à Radio à Radio Courtoisie. Et donc elle nous serons marginalisé, nous n'aurons plus de pouvoir et de toute façon nous ne

pourrons même pas comprendre ce que fait l'intelligence artificielle car il faut bien euh il faut bien voir à quelle vitesse absolument incroyable l'intelligence artificielle progresse depuis la sortie de chat GPT le 30 novembre 2022. Les progrès de l'intelligence artificielle ont été absolument incroyables et ces dernières semaines, on le voit en mathématiques avec la communauté des plus grands mathématiciens dans le monde qui est impressionné par les performances de de de Chat GPT et sa capacité à résoudre des théorèmes que l'on ne pensait pas pouvoir résoudre au 21e siècle. Ouais. Mais mais alors d'une certaine façon, si jamais effectivement euh euh l'intelligence euh artificielle devient cette super euh intelligence euh

artificielle, euh est-ce que elle risque pas euh également euh à un certain point d'utiliser l'être humain qui lui sera, euh, on va dire presque par nature euh inférieure comme une forme de matériaux à son propre à son propre service ? Qu'est-ce que qu'est-ce que vous voulez qu'elle fasse ? Qu'est-ce que vous voulez qu'elle fasse d'une intelligence qui lui sera très inférieure ? comme comme on peut euh j'ai envie de dire utiliser euh aujourd'hui euh elle ne va pas nous elle ne va pas nous manger euh elle ne va pas nous manger et notre intelligence va être tellement inférieure à l'intelligence artificielle qu'elle n'aura rien à faire de nos cerveaux et de notre intelligence. Il faut être réaliste. L'intelligence artificielle progresse à une vitesse fulgurante. Que voulez-vous que

l'intelligence artificielle fasse de nos tout petits cerveaux asbines ? Le vrai sujet qui qui d'ailleurs est le sujet de central de de de mon bouquin vivre 1000 ans, c'est est-ce qu'il est raisonnable que les maîtres de l'intelligence artificielle qui ont très peur de mourir accélèrent la super intelligence artificielle pour devenir immortel ou au moins vivre beaucoup plus longtemps ? Et ça c'est une vraie question philosophique d' dans dans d'en vivre 100 ans. Mon mon co-auteur Alexandriouos qui a 25 ans s'insurge contre le fait que la silicone vallée fasse prendre des risques à sa génération important avec une intelligence artificielle mal organisée, mal bridée, mal contrôlée. Tout ça au nom de la lutte contre la mort. Vouloir euthanasier la mort est en

train de conduire la silicone vallée à prendre des risques avec la super intelligence artificielle et ça angoisse la génération. de de psychopulos mon coauteur. Mais alors justement la la ce qu'on comprend aussi ne serait-ce que par la publication de cette encyclique mais par la publication de de vos ouvrages aussi par le le maintenant le fait que l'intelligence artificielle devienne encore trop lentement mais petit à petit un vrai sujet de discussion, c'est que finalement la réflexion, on va dire morale que nous on peut opérer en tant qu'humain sur l'intelligence artificielle avance moins lentement que le développement de cette intelligence artificielle elle-même. Est-ce que il y aurait pas une nécessité de quelque part mettre appuyer sur le bouton pause ne

serait-ce que quelques mois quelques années ne dans le but que justement l'être humain puisse savoir que faire de l'intelligence artificielle ? Alors le bouton pause, il ne marche jamais. En 1976 à Asilomar, tous les biologistes s'étaient réunis pour faire un moratoire sur les manipulations génétiques. Ouais. Les scientifiques et les généticiens s'étaient rendus compte début 76 qu'on allait pouvoir manipuler génétiquement les cellules et ils s'étaient réuni en Californie. Ils avaient décidé de faire un moratoire, d'arrêter. Ils étaient à peine rentrés dans leur laboratoire qu'ils avaient recommencé cette course folle pour les manipulations génétiques. Et vous savez que on fait aujourd'hui des

manipulations génétiques non seulement chez les bactéries, chez les animaux, mais aussi chez l'homme notamment pour guérir les maladies génétiques. Et on commence à guérir certaines surdités, certaines cécités, certains cancers, certaines maladies génétiques métaboliques grâce à à au manipulations génétiques. Donc le moratoire de 1976, il n'a pas été respecté. En 2023, quand GPT4 est sorti, il y a eu deux tentatives de moratoire appuyé par les plus grands spécialistes mondiaux de l'intelligence artificielle, Elon Mosque, Bill Gates et cetera. Euh le moratoire n'a pas tenu une semaine. Ouais. Aucun de ces deux moratoires n'a tenu une semaine. Il est impossible d'appuyer sur le bouton pause. La course vers la super intelligence artificielle

n'est pas arrêtable aujourd'hui. Et donc il faut bien il faut réfléchir aux conséquences de notre dépassement par l'intelligence artificielle, aux conséquences de la concentration d'un pouvoir énorme chez les milliardaires qui contrôlent l'intelligence artificielle et aux implications morales, ce que fait le pape de l'intelligence artificielle. Mais on ne va pas arrêter l'intelligence artificielle. Le toboggan est inarrêtable. Nous sommes dans la situation que Jacques Lul avait euh euh prévu dès les années 40. Alors euh bon, d'une certaine façon, on pourrait dire que enfin le le pape vous euh vous répondrait sur l'inéluctabilité de cette avancée euh que il s'agirait de donc de ce faux réalisme qui critique lui-même dans son intelligence dans son encyclique. Mais juste une dernière

question pour vous Laurent Alexandre. Euh simplement quelque chose qui dont le pape parle très largement, c'est que il reprend Rerum Novarum, donc la doctrine sociale de l'église publiée par son prédécesseur Léon X et alerte notamment sur les conséquences sociales de l'intelligence artificielle. Aujourd'hui, vous dites qu'il faut repenser autant l'éducation en disant que vous vous expliquez que notamment est-ce queil faut faire des études ? C'est la question que que vous que vous posez. mais euh également sur la question du travail. Euh il semble que euh les prédictions euh aillent dans un sens où euh l'homme serait de moins en moins un être euh qui travaillerait alors qu'aujourd'hui même euh on considère encore que le travail confère une certaine dignité. Alors, si on continue sur la voie

actuelle qui est de pas réformer l'école, qui n'est pas qui est de ne pas réformer la formation professionnelle des adultes et l'université, oui, il y a un risque de déqualification de la de la jeune génération avec une angoisse croissante. Et vous avez probablement vu qu'il y a eu deux tentatives d'assassinat de Samaltman le mois dernier qui n'ont qui n'ont pas réussi. On a 44 % des jeunes Américains, des jeunes occidentaux qui admettent saboter l'intelligence artificielle dans leur entreprise et on a une part croissante des jeunes américains, ce qu'on appelle la génération Z qui est en colère contre l'intelligence artificielle parce qu'elle a peur de perdre de perdre son pouvoir. et et d'ailleurs dans dans mon bouquin Vivre 100 ans mon co-auteur Alexandre Copouos

donc qui a 25 ans, lui est extrêmement angoissé par son dépassement par l'intelligence artificielle et par le fait que la société ne réfléchisse pas à la façon de donner un marche-pied à à sa génération qui se sent aujourd'hui perdus, dépassé et c'est ce qui explique le fait que des jeunes gens aient tentés d'assassiner Samtman le créateur de chat GPT. Laurent Alexandre, merci beaucoup pour cette discussion. On vous réinvitera pour votre livre effectivement avec votre co-auteur sans doute pour nourrir un petit peu encore cette cette réflexion. C'est vrai que on on prend conscience nous aussi à Radio Courtoisie que c'est un sujet et bien qu'on doit beaucoup plus traiter l'intelligence artificielle. En tout cas, ça a fait énormément réagir nos auditeurs. Donc

merci d'avoir été avec nous ce matin Laurent Alexandre.