La superintelligence artificielle va-t-elle dépasser les humains ? : épisode du podcast Intelligence artificielle : quels bouleversements pour demain ?

France Culture, question du soir. Astrid De Vilaine.

Le 22 octobre dernier, plus de 700 personnalités du monde entier, aussi diverses que l'ancien conseiller de Donald Trump, Steve Bannon, un conseiller du pape Léon XIV ou le prince Harry, assortis de responsables politiques ou d'entrepreneurs de la tech, prennent position dans une tribune pour s'opposer au développement de la super-intelligence artificielle qui serait capable de dépasser les capacités humaines. Si aucun consensus scientifique ne s'arrête sur l'avenir de cette super-intelligence artificielle ni sa possible réussite, le sujet prend de l'ampleur et le temps semble s'accélérer.

Les grands patrons de la tech s'en saisissent, les investissements fleurissent, et certains prédisent qu'elle sera là dans un avenir très proche pour bouleverser le monde tel qu'on le connaît. « Vivons-nous une révolution technique, industrielle ou anthropologique ? Sommes-nous contraints d'embrasser ce tournant ou doit-on, au contraire, limiter ce qu'Elon Musk perçoit comme plus dangereux que la bombe atomique ? » Nous avons 40 minutes pour en discuter avec nos deux invités qui n'ont pas tout à fait le même avis. Bonjour Emery Crouchet.

Bonjour Astrid.

Merci d'être là, ingénieur informatique, créateur d'une entreprise d'intelligence artificielle et auteur d'Ultra Intelligence. Jusqu'où iront les IA aux éditions Odile Jacob ? Face à vous, un philosophe. Bonjour Eric Sadin. Bonsoir. Merci d'être là, le désert de nous-mêmes, le tournant intellectuel et créatif de l'intelligence artificielle. C'était aux éditions L'Échappé en 2025. Merci à tous les deux d'avoir accepté le principe de ce débat. Il y a environ un an, le 30 novembre, nous avons lancé ChatGPT et cela s'est très bien passé. En mars, nous avons enchaîné avec le lancement de GPT-4 qui reste le modèle le plus performant au monde.

Au cours des derniers mois, nous avons ajouté des fonctionnalités vocales et visuelles afin que ChatGPT puisse désormais voir, entendre et parler. On vient d'entendre Sam Altman, le PDG d'OpenAI, qui s'adresse à ses développeurs lors de OpenAI Dev Day le 6 novembre 2023. J'avais envie qu'on commence avec cet extrait puisque vous dites, vous en tout cas Eric Sadin, que ça a bouleversé votre vie, votre pensée, la création de ChatGPT, que le jour de sa création, c'est une balise qui restera et que même elle vous a empêché de dormir. Vous savez tout ça ?

Oui, oui, c'est une petite confession que je fais parce qu'il est probable, en tout cas c'est ce que je pense, que d'ici quelques années, on se rendra compte que le 30 novembre 2022, date de la mise en ligne publique de ChatGPT et plus largement des IA génératives, représente une des dates, je ne dis pas les plus importantes, je dis décisives en termes de répercussions. Et pourquoi je dis cela ?

Parce qu'il s'est passé du jour au lendemain, de façon extrêmement subite, une discontinuité historique, une discontinuité technologique, ou on peut appeler ça un brusque saut, qui a vu, qui s'inscrit dans l'histoire de l'intelligence artificielle, dont on peut récuser les termes, les mots, mais on n'a pas le temps. Si, si, alors là on va prendre le temps avec vous deux de parler, de définir ce dont on parle, ultra-intelligence, intelligence artificielle ou autre chose, je crois que vous avez tous les deux des avis.

Mais d'abord sur cette date, est-ce que ça a provoqué comme changement, vous en tant qu'intellectuel, chercheur, entrepreneur, et surtout, pour vous, Émeric Rouchet, et surtout, qu'est-ce que ça va changer ? Est-ce qu'il y a un avant et un après à cette date ? Beaucoup, dont moi, n'ont pas vraiment vu d'avant et d'après sur le moment. Si je peux reprendre mon petit... Éric Sade.

Ma description initiale, c'est qu'il s'est passé comme la délégation à des systèmes de ce qu'on pourrait appeler, rapidement, la dernière frontière dans la prise en charge de certaines de nos facultés, de nos facultés les plus fondamentales, c'est-à-dire qu'il s'est passé ce que j'appelle le tournant intellectuel et créatif de l'intelligence artificielle. Pour bien comprendre ce que ça veut dire, il faut être littéral, c'est-à-dire qu'il est, depuis ce temps-là, et ce sera de plus en plus, il est dorénavant dévolu. Il faut utiliser une formule littérale pour bien saisir les choses, la portée de ce qui se joue.

Il est dorénavant dévolu à des systèmes, d'assurer des tâches qui, jusque-là, mobilisaient nos facultés intellectuelles et créatives. Comment ne pas voir la rupture qui est à l'œuvre et comment ne pas voir que c'est ce qui nous constitue en propre qui est appelé à être renoncé, appelé à être moins à l'œuvre au profit de systèmes qui, on l'a dit, qui prennent en charge, qui nous constituent en propre. Quand je vous lis Éric Sadin, le désert de nous-mêmes, l'échappé, ça vient de sortir, on le disait en introduction, l'image qui me vient, c'est la photo. La photo qui remplace la peinture. Ce n'est pas la photo qui remplace la peinture. La crainte que ça a pu avoir pour certains.

Ah, vous parlez de historiquement. Oui, quand vous dites que c'est un tournant créatif, je vais vous donner tout de suite la parole, Émeric Roucher, mais quand vous dites que c'est un tournant créatif comme on n'en a jamais vu, des tournants créatifs, on en a déjà vu quand même dans l'histoire. C'est sans rapport, parce que là, il s'agissait d'autres modes de représentation. Là, il s'agit de la prise en charge de ce qui nous constitue en propre. Notre imaginaire ?

Avant notre imaginaire, au premier chef, celle de nous exprimer, d'utiliser le langage et de nous exprimer en première personne, celle de produire des paroles verbales, de produire de l'écrit, et comment ne pas voir que là, nous renonçons, et notamment pour nos enfants, à ce qui fonde notre singularité, notre liberté, notre pluralité, et que des foules, il y a eu une faillite morale collective dans les semaines qui ont suivi, au lieu de voir l'étendue des conséquences civilisationnelles, tout le monde a sauté sur ses machines en disant toujours la même phrase, c'est cool, c'est pratique, ça nous fait gagner du temps.

Et pour terminer, est-ce que nous nous sommes posés la mère de toutes les questions ? C'est-à-dire être la mère de toutes nos préoccupations. C'est la question qui vient déjà, qui va de plus en plus nous être posée. C'est celle de nos enfants qui vont dire « Mais papa, maman, mais pourquoi je vais à l'école, moi ? » Si des systèmes sur un simple prompt, une simple instruction, vont écrire du texte à ma place, pourquoi je vais apprendre de la grammaire, de l'orthographe ? Pourquoi je vais m'embêter à faire tout cela ?

Toutes ces questions fondamentales, capitales, qui vont nous mener à ce que j'appelle le désert de nous-mêmes, au lieu de sauter tête à pieds-jouins sur ces systèmes, nous aurions dû nous les poser. Or, ce n'est pas ce qui s'est passé et nous allons le payer très très cher. On va rentrer dans le détail de tout ce que vous venez de nous poser en introduction, Éric Sadin. Mais votre avis sur cette date, Émeric Roucher, vous qui êtes ingénieur informatique, créateur d'une entreprise d'intelligence artificielle, vous nous direz dans quel domaine et auteur d'ultra-intelligence jusqu'où iront les IA. Comment vous le vivez, vous, ce 30 octobre 2022 ?

Je pense que par certains aspects, c'est assez proche peut-être de ce que vous avez vécu, Éric. Moi, j'ai eu aussi l'impression d'une rupture profonde. En fait, j'étais en voyage à Taïwan à ce moment-là, j'étais deux semaines à Taïwan. J'avais commencé à apprendre. J'étais extrêmement mauvais. Le voyage était globalement un échec. Mais il y a eu ce jour de la sortie de Tchad GPT où j'avais prévu des visites dans Taipei, la capitale, toute la journée. Et en fait, je me suis arrêté et je suis resté chez moi à simplement utiliser cette machine. Et j'avais l'impression de voir des murs tomber et de me dire, en fait, il va y avoir des conséquences extrêmement profondes.

Bien sûr, sur le monde de l'entreprise qui est celui dans lequel je travaille, mais aussi, je pense, sur la société. Et quand on parle de rupture anthropologique, comme vous le faites, je crois, je suis assez d'accord avec cette formulation. Je pense qu'il y a une question à se poser de est-ce que la place de l'homme en tant que mesure du monde ne risque pas d'être remise en question ? Et je pense que vous avez directement attaqué au cœur du sujet.

C'est-à-dire en tant que mesure du monde ?

Je pense que ce qui a fait le succès ou l'échec des entreprises humaines, c'était la force de l'individu jusqu'à présent. Ça avait des conséquences assez positives. Je pense que si la démocratie s'est imposée progressivement, bon, pas jusqu'au bout, mais a souvent prévalu face aux autoritarismes, c'était aussi parce que la démocratie, c'était un système qui était efficace pour unir les forces individuelles. Mais dans un monde où l'IA serait capable d'obtenir des mêmes résultats sur la plupart des tâches mesurables que les humains, peut-être que cette force individuelle est remise en question.

Un mot sur les termes du débat. Ultra-intelligence, intelligence artificielle, IA générative, que faut-il employer à vos yeux ? Qu'est-ce que ça nous dit aussi ? Et j'ai l'impression qu'il y a comme une gêne avec ce mot intelligence également. Forcément, puisque ça reproduit nos compétences cognitives, à commencer par le langage, et vous en parlez tous les deux très bien dans vos ouvrages. Éric Sadin. Alors, il y a plusieurs choses relativement à votre question. Il y a le terme intelligence artificielle.

Il se trouve que moi, ça fait dix ans que j'ai théorisé le fait que c'était un abus de langage, qu'en réalité, à Ivoire de près, il s'agit de modes de rationalité et non pas d'intelligence dans le sens humain, de modes de rationalité. Comme une calculatrice ? Des modes de rationalité incarnés dans des systèmes et fondés sur principalement deux visées. Ils permettent cela à les systèmes. C'est celle de... Parce qu'on parle beaucoup d'IA aujourd'hui. On ne cesse de parler d'IA. Il y a des spécialistes de la dernière heure qui commentent et qui... Souvent, on entend un peu tout et n'importe quoi. Il y a beaucoup de cacophonie, beaucoup de confusion.

Déjà, ce qu'il faut signaler, c'est que dorénavant, il y a l'IA dans sa dimension que j'appelle, je vais m'expliquer en quelques mots, cognitive et organisationnelle. Et depuis trois ans, pour compliquer les choses, comme si ça ne suffisait pas, il y a les IA dites génératives. Les IA que j'appelle cognitives et organisationnelles, elles sont à l'œuvre depuis une vingtaine d'années, en très gros. Et quelles sont leurs fonctionnalités, leur mission, j'ai envie de dire, c'est celle d'expertiser le réel. C'est ça, l'intelligence artificielle.

C'est une puissance d'expertise qui remonte au système expert une décennie avant le mi-temps des années 2000 et qui expertise de plus en plus en temps réel quantité de pans du réel et de plus en plus en temps réel. Alors, je sais très bien que ce que je dis, ça paraît compliqué. Je vous donne un exemple très simple qui est à l'œuvre depuis une quinzaine d'années que tout le monde utilise. C'est l'application Waze, rachetée par Google à une société israélienne des années 2000. C'est un GPS ? C'est plus qu'un GPS. Quand on pose la question, ça expertise l'état du trafic.

Si on va aller par exemple de Paris à Nancy, ça expertise, cette puissance d'expertise, l'état du trafic en cumulant des monceaux de données qu'aucun être humain ne pourrait connaître suivant de tels volumes collectés, pardon, suivant de tels volumes et traités à de telles vitesses. Et qui propose, qui génère une équation. Voilà l'état du trafic entre Paris à Nancy. Mais ce n'est pas seulement ça. C'est aussi que ces systèmes suggèrent, recommandent, à l'image de quantité d'autres systèmes, d'agir de telle manière plutôt que de telle autre. C'est ce que j'appelle la dimension, le tournant injonctif de la technologie.

C'est-à-dire que pour la première fois dans l'histoire de l'humanité et de la technologie, des systèmes nous enjoignent, nous suggèrent, nous recommandent, nous prescrivent parfois, je pense aux entrepôts Amazon, d'agir de telle manière plutôt que de telle autre. C'est aussi en fonction de nos goûts, des restaurants sur lesquels on aime bien s'arrêter sur la route, c'est très pratique.

C'est l'interprétation et si cette dimension-là est à l'oeuvre depuis une vingtaine d'années, dorénavant, il y a les IA génératives qui sont chargées, elles, c'est quelque chose de différent, ça charrie des enjeux différents et ça entraîne des conséquences extrêmement distinctes qui sont des systèmes à produire des symboles et de surcroît à nous éclairer à terme dans tous les points, dans tous les champs de la vie, notamment par le langage, notamment par la parole. Ça, c'est encore au-delà de cognitif ou génératif ? Ça, c'est la super intelligence. Non, non, non. On est toujours dans la générative. On est dans les IA génératives.

Vous partagez, vous, cette façon de définir ou de classer les IA, Emmerich Roucher, et puis nous, on a intitulé notre débat ce soir sur la super intelligence artificielle puisque c'est quand même ce qui préoccupe aussi aujourd'hui et ça, on va en parler. Est-ce que ça peut dépasser l'homme à certains points de vue ?

Alors, moi, je placerais ça peut-être sous une trajectoire différente. Je pense qu'on peut étudier la nature des IA modernes et du coup, cette question de la super intelligence qu'on pose en revenant aux briques de constructions successives qui ont été mises en place qui nous éclairent pas mal sur la nature de cette intelligence. Je pense que le début, on peut le retracer aux années 60 où pour la première fois, on essayait de mettre en connexion des milliers de petits neurones chaque neurone allait être capable de traiter des entrées et de faire une espèce de micro-opération de raisonnement et en fait, c'est en combinant tous ces neurones qu'on allait reproduire un vrai raisonnement.

Un peu comme dans une fourmilière, vous avez une fourmi qui prend une décision toute simple en fait, les fourmis prennent des décisions avec des heuristiques très très basiques et en empilant toutes ces décisions-là, vous avez une fourmilière qui est capable de raisonnements collectifs qui sont beaucoup plus efficaces.

Donc au début, ces réseaux de neurones, on n'avait pas la puissance de calcul pour les entraîner ce qui a été débloqué dans les années 90 par Yann Lequin et deux des signataires de la tribune dont on parle aujourd'hui sur la superintelligence qui sont Geoffrey Hinton et Yoshua Bengio, c'est qu'ils ont été capables de mettre en place la puissance de calcul qui avait beaucoup augmenté depuis les années 60 qui avait été multipliée par quelque chose comme 10 puissance 15. Ils ont été capables d'utiliser cette puissance de calcul pour utiliser les réseaux de neurones de manière efficace pour la première fois sur une modalité qui était l'image.

Donc prendre des images en entrée avec un type de réseau qu'on appelle réseau de convolution et être capable de s'entraîner là-dessus. Donc jusque-là, Lya a été capable de devenir très très forte sur la modalité image donc de reconnaître des images. C'était très basique reconnaître s'il y a un chat ou un chien sur une photo. Et ce qu'on a débloqué en 2017 et qui a un peu lancé la révolution actuelle qui a abouti à ChatGPT c'est qu'on a débloqué le texte. On a trouvé un nouveau type de briques qui s'appelle les couches d'attention qui permet de faire des liens à travers un texte. Et en fait, pourquoi c'est important de voir ces briques successives qui se posent ?

C'est que l'intelligence artificielle a eu des performances très très différentes selon les domaines. Donc vous voyez, elle était très forte en images depuis à peu près les années 90, 2000, 2010. C'est seulement récemment qu'elle est devenue forte en texte. Et en fait, c'est pour ça que je n'aime pas trop la notion de superintelligence. La notion de superintelligence telle que les gens la théorisent d'habitude, c'est de se dire qu'on veut une intelligence qui soit supérieure en tout point à l'intelligence humaine. Or, l'IA, c'est quelque chose de radicalement différent de nous.

Je pense qu'on a raison de remettre un peu en question la notion d'intelligence parce que ce n'est pas du tout la même chose que notre intelligence et elle va être beaucoup plus forte que nous sur certains aspects, beaucoup plus faible sur d'autres.

Vous dites dans votre livre Emmerie Crouchet que je ne veux pas envoyer le terme intelligence et c'est le titre de votre livre ultra-intelligence.

Dans le livre, oui, je préfère le mettre entre des sortes d'astérisques. Chaque fois que j'utilise un terme qu'on anthropomorphise et qui tendrait à anthropomorphiser l'intelligence artificielle, j'essaie pour rappeler le fait que ce n'est pas comme une intelligence humaine de mettre ces astérisques qui rappellent attention.

Anthropomorphique, ça veut dire qu'il prend les atours ou les capacités humaines. C'est pourtant ce que c'est en train de faire, non, Eric Sadin ? Pour partie, mais vous savez, tout à l'heure, je parlais de cacophonie, de confusion. Je pense que ce n'est pas du tout pertinent pour l'instant de parler de super-intelligence, ultra-intelligence, intelligence artificielle générale. Vous savez, on adore les superlatifs dans ce monde-là. La pétition dont vous avez parlé, à mon sens, elle est totalement grotesque, mais totalement grotesque. Ah, pour quelle raison ?

Pour la simple raison que ceux qui la signent, la plupart, c'est des gens issus de la tech, donc qui sont dans une schizophrénie continue. C'est beaucoup des gens de l'industrie qui, pour se parer d'atours de bonne conscience et pseudo-critique, signent une pétition à l'ONU. Vous vous rendez compte que dans le monde de la tech, ils ont eu la trouille, ils ont eu une peur terrible de cette pétition. Ils vont bien sûr s'arrêter. C'est une grande blague. Et ce ne sont pas avec ces superlatifs. Vous savez, il y a quelques années, on parlait de conscience et d'intelligence artificielle.

La question n'est pas celle de savoir s'il y a une conscience, une superintelligence, c'est de savoir si nous, on a une conscience relativement à ce qui se passe. Est-ce qu'on a une lucidité ? Ce qui est à l'œuvre actuellement, c'est très très simple, ce sont des puissances cognitives en sophistication sans cesse croissante. Ce sont des puissances cognitives de plus en plus omniscientes et dont vont dépendre de plus en plus nos actions individuelles et collectives et qui vont remettre en question radicalement nos catégories existentielles, sociales, politiques, civilisationnelles et heuristiques. Je donne deux exemples.

Ce qu'on appelle politique depuis au moins Athènes, au moins depuis la Grèce antique, c'est l'évaluation, c'est la pluralité, c'est la délibération, c'est la prise de décision, ce sont des connaissances en amont. Voilà toute une série de cadres et de dimensions et d'actions que je viens d'évoquer qui à terme sont ou déjà ou sont à même d'être assurés par des systèmes d'intelligence artificielle. Donc c'est une quantité de dimensions de la vie humaine qui vont pouvoir, par la collecte d'informations et des traitements, vont pouvoir être prises en charge jusqu'à ce qu'on appelle le savoir et les sciences humaines. Je vous donne un exemple très simple.

Les volcans, le métier de vulcanologue, on met des capteurs sur des volcans, on associe ça dans des systèmes avec tout le savoir du monde. Il y a une quantité d'informations qui apparaissent. C'est aussi le champ du savoir. C'est ça qui est à l'œuvre. N'appelons pas ça super-intelligence, appelons ça une puissance cognitive en progression sans cesse constante. Pour quelle raison je préfère nommer cela une puissance cognitive ? Parce que c'est à l'œuvre déjà actuellement et ça va être de plus en plus à l'œuvre dans les années qui viennent. On n'a pas besoin de nouveaux termes qui créent du sensationnalisme, de l'effroi et qui opacifient les termes du débat.

Il faut qu'on prenne du recul et qu'on comprenne que ces outils débarquent sur notre planète et qu'on doit se préparer à gérer toutes leurs complexités. Sur le plan économique, je crains une perte massive d'emplois. Quant à l'impact sur nous en tant qu'être humain, certains produits sont vendus avec le message « Plus besoin d'interagir avec un être humain, vous aurez un compagnon IA pendu à votre cou ». Dans un pays où règne une grande détresse émotionnelle, c'est vraiment inquiétant. Comment allons-nous maintenir le lien social ? Comment allons-nous interagir les uns avec les autres ? On s'inquiète de cette IA surpuissante qui surpasse l'intelligence humaine.

Un jour, l'IA dira à l'humain « Désolé, mais non ». Un scénario à la Terminator. On vient d'entendre le sénateur démocrate Bernie Sanders. Alors, ses préoccupations sur l'intelligence artificielle, c'était le 24 octobre dernier dans un entretien avec Alex Thompson, le journaliste du site d'information américain Axios. Ça m'intéresse parce qu'on va parler de politique et vous en parlez très longuement dans votre livre Émeric Rouchet de politique et j'aimerais vraiment qu'on en dise un mot. Mais surtout, est-ce que vous partagez sa crainte ?

C'est-à-dire qu'un jour, comme dans le film de James Cameron de 1984, qui d'ailleurs, le scénario se passe en 2029, c'est pas inintéressant, la machine, en gros, se rebelle et nous dirait non. Parce que tout ce que vient de nous dire Éric Sazin, la seule objection que je vois, c'est quand même que la machine répond mais parce qu'on la nourrit. Elle pompe Google, elle pompe nos livres, ça vient quand même des humains.

Je pense que la crainte d'un scénario à la Terminator, en fait, on n'a pas besoin de ce problème-là. Je pense qu'il y a déjà assez de problèmes qui se posent avec une utilisation normale de guerre.

Est-ce que c'est possible que ça arrive, ce scénario-là, à vos yeux, Émeric Rouchet, ou il est trop tôt pour le dire ? Puisqu'en politique, vous êtes très affirmatif, arrivera un moment où il sera devenu impossible de gagner les élections sans avoir suivi les conseils des IA. Enfin, pardonnez-moi, mais les sondages, c'est quand même des sondeurs qui les font, les éléments de langage, les promptes, etc., qu'on donne à une IA avant de trouver un programme politique. J'imagine quand même que ce n'est pas la machine toute seule qui va nous sortir le dernier programme des élections présidentielles, si ?

Où chaque mot compte, chaque lien que vous êtes capable de faire, chaque argument que vous trouvez au bon moment peut vous faire gagner des voix. Je pense que l'IA pourra largement faire pencher la balance dans le sens du candidat qui l'utilisera.

Vous partagez, Éric Sadin ? Oui, moi, je pense qu'il y a... Je vous le dis comme je le pense. Je pense qu'il y a énormément de délire, prise de pouvoir par les machines, qui évoque un peu cette pétition. On est dans un anthropomorphisme totalement délirant qui relève de la science-fiction la plus convenue. Ce n'est pas ça notre problème en 2025 et pour les années qui viennent. Pour nos préoccupations, ce qui devrait nous mobiliser, ce n'est pas le cas et je le regrette. Il y a trois grandes conséquences. Ça fait 15 ans que j'analyse ça et année après année, événement après événement, nouvelle production après nouvelle production.

Pour l'instant, nous ne sommes pas dans ces scénarios-là qui n'arriveront probablement pas. Qu'est-ce que c'est que cette histoire des machines qui vont se rebeller ? Vous voyez, la projection qu'on fait, mais on n'a que ça à faire. Et utiliser des termes dans l'emphase, dans la surenchère permanente, non. Il y a trois grandes conséquences qui sont à l'œuvre actuellement. C'est quel type de langage allons-nous avoir à faire maintenant et dans les années qui viennent ? Parce que c'est un langage que j'appelle nécrosé, mort. On dit que c'est des machines qui produisent du langage. Non, ce n'est pas vrai. C'est un langage schématisé, mathématisé, fondé sur le principe de la récurrence.

C'est-à-dire que s'il y a A, il y a B. S'il y a B, il y a la plus grande probabilité qu'il y a C. Donc, c'est fondé sur le principe de la corrélation probabiliste. Donc, apparaît ce qui doit avoir lieu au vu des historiques existants. Donc, en réalité, tout le langage, le pseudo-langage qui apparaît, c'est un langage qui reproduit des formules qui ont déjà eu lieu. Mais ça, on n'est pas capable de le voir. Ce n'est pas pensé, vous voulez dire. Non, ce n'est pas que ce n'est pas pensé, c'est mécanique. Or, ce langage nécrosé, schématisé, qui est produit par ce que j'appelle un capitalisme linguistique, va devenir majoritaire dans notre environnement symbolique, informationnel.

Et puis, il y a le fait que ces systèmes, de plus en plus, nous parlent, vont nous parler. Ils ne vont pas nous parler toujours avec une idée, pas pour nous parler de la pluie et du beau temps, mais toujours avec une idée derrière la tête, si j'ose dire.

C'est-à-dire, pour toujours faire mouche en vue d'interpréter nos comportements et d'utiliser des mots qui correspondent à ce qui pourrait produire de l'influence sur le destinataire et essentiellement à deux fins, essentiellement à deux fins, c'est-à-dire suggérer des produits et des services supposément adaptés à chacun d'entre nous via des mots, c'est-à-dire une sorte de lien ininterrompu avec le client par le langage et un langage personnalisé, et puis en vue de générer, et ça ce sont des problèmes sociopolitiques extrêmement graves sur lesquels personne ne se penche, mais on le verra un jour, en vue d'induire des jeux d'influence idéologique sur les individus.

Ces systèmes vont nous parler et dès les prochaines élections, il va y avoir des chatbots qui vont parler aux individus, qui vont s'adresser personnellement et notamment auprès des jeunes en vue d'influer sur leur conscience et on voit bien ce que ça introduit en ce moment, c'est la dépendance émotionnelle, on a eu des cas d'extrême gravité de suicide, donc c'est ce rapport-là, on dit ce sont des machines qui produisent du texte, c'est hyper cool, ça nous fait gagner du temps, mais voit-on que ça nous mène uniquement sur cette première grande conséquence, c'est-à-dire ce type de langage qui est généré et nous sautons sur cela sans voir toute l'étendue des conséquences qui sont d'une extrême gravité.

Vous ne les utilisez pas vous ces intelligences artificielles, vous refusez ?

Je les utilise pour observer, je les ai utilisées pour observer, pour mes recherches, mais il n'est hors de question que ce qui me constitue en propre, c'est-à-dire ma culture, ma façon de jouer avec les mots, parce que l'inventivité humaine elle est notamment dans le langage et nous la façon de jouer avec les mots ce n'est pas de façon de corrélation et de probabiliste, on utilise les mots chacun de façon singulière parce que c'est adossé à nos pensées, nous faisons des associations et qu'est-ce qui nous singularise c'est que personne ne fait des associations de pensée identiques et dernier point, le mot que je vais dire là Astrid, le mot que je vais dire dans une seconde, je ne sais pas lequel c'est et vous-même le mot que vous allez dire là vous le savez et pourquoi on ne le sait pas ?

Parce que nous n'entretenons pas un rapport au langage d'un point de vue probabiliste mais indéterministe. Elle est là la liberté humaine et la créativité humaine et donc on va se délivrer de cette puissance de créativité individuellement et collectivement pour laisser des machines parler à notre place. C'est ce monde-là que nous voulons. Alors plutôt que de parler d'ultra-intelligence, super-intelligence, prise de pouvoir, c'est sur cela et notamment la question de l'école et de nos enfants qui devraient nous mobiliser dès maintenant et qui auraient dû nous mobiliser dès décembre 2022.

On a pris du retard et me récrocher par rapport aux conséquences de, peu importe comment on l'appelle, l'intelligence artificielle quelle qu'elle soit ?

Oui. Alors déjà pour revenir sur les termes parce que je pense qu'avoir les bons termes ça permet de clarifier les choses et de bien penser en fait. Je pense qu'il faut quand même en fait utiliser ce mot d'intelligence parce que simplement quand on parle d'une faculté d'organiser des moyens pour atteindre efficacement un but, le synonyme le plus simple c'est intelligence et on peut appeler ça des puissances cognitives en constante évolution mais en fait c'est une périphrase qui fait simplement masquer le fait qu'on parle d'intelligence et que l'intelligence n'est pas que humaine. L'intelligence n'a pas besoin d'appartenir aux humains. Les animaux ont une intelligence par exemple.

Ensuite, cette tribune sur la superintelligence je pense qu'il ne faut pas la balayer d'un revers de la main. Les gens qui l'ont signé sont des gens qui sont très très bons. Oui, ils viennent du monde technique mais ils ne sont pas schizophrènes. Geoffrey Hinton par exemple Voilà ce qu'il trouve

c'est extraordinaire. Il a oeuvré au réseau de neurones et maintenant il s'est réveillé depuis deux ans en disant on va à la catastrophe.

Lui c'est le genre de personne qui est en tout cas qui est honnête aujourd'hui.

Je ne sais pas ce que ça veut dire honnête. Il a oeuvré à tout cela il se réveille. C'est pour dire la conscience de l'ingénieur. C'est pour vous dire il a oeuvré toute sa vie mais un coup il se réveille. Qu'est-ce que vous voulez dire

sur cette tribune ? Vous l'auriez signé vous ? Je pense qu'il a manqué de vision à un moment mais en tout cas c'est quelqu'un qui pourrait avoir des salaires à des centaines de millions et qui a refusé ça pour aller faire sa recherche humaine.

Pardonnez-moi j'ai posé une question vous l'auriez signé vous ?

Cette tribune-là non parce que je suis européen et que je pense que les européens sont tellement en retard dans cette course à l'IA que de toute façon ce n'est pas très pertinent qu'un européen se retire de la course.

J'aimerais bien qu'on écoute Donald Trump. Je pense que vous avez tous vu cette image. C'était lors d'un dîner à la Maison Blanche organisé avec les plus grands dirigeants de la tech le 4 novembre dernier. Le discours introductif il passe ensuite la parole vous verrez on s'en souvient à Zuckerberg à Sam Altman et à d'autres et puis justement on parle des investissements qu'on doit ou qu'on ne doit pas faire. Écoutez. Merci beaucoup à tous. C'est un honneur d'être ici avec ce groupe de personnes qui mènent une véritable révolution dans le monde des affaires et font preuve d'une ingéniosité remarquable à tous les égards. C'est du jamais vu.

Les esprits les plus brillants sont réunis autour de cette table. Il s'agit assurément d'un groupe à très haut QI et j'en suis très fier. J'en connais certains indirectement certains très bien mais je connais indirectement chacun d'entre eux grâce à mes lectures et mes études sur votre entreprise. Nous vous facilitons grandement la tâche en matière de capacité électrique et d'obtention des permis. Nous devançons la Chine de vraiment très loin. Pourriez-vous décrire quelques-unes des réalisations exceptionnelles de votre entreprise ? Je sais, Marc, que vous construisez des bâtiments aussi grands que Manhattan. Ça marche bien pour vous.

Donald Trump, le président américain, doublé ici par Juliette Moellick et on entendait un tout petit échange avec le patron de Meta, Mark Zuckerberg. Qu'est-ce que ça vous inspire ? Vous aimeriez crocher ? Est-ce qu'on devrait faire exactement la même chose en Europe ? C'est-à-dire mettre tous nos moyens là-dessus ? Et qu'est-ce que ça dit aussi ? Est-ce un projet politique ? Est-ce un projet financier ? Parfois, on entend aussi qu'on aurait pu, dans la course à l'IA, plutôt choisir la course à la transition énergétique.

Oui, en effet, c'est un bon arbitrage. Ensuite, je pense qu'il faut voir l'utilité des investissements qu'on peut faire. En fait, je pense que ce que le système américain a bien compris, c'est que le système capitaliste tourne à plein régime pour se lancer à fond et pour être les premiers dans cette course. Alors ensuite, être les meilleurs du monde là-dedans, ce n'est pas forcément un bien. en soi, je pense qu'il faut simplement ne pas être distancé.

Le problème, c'est que si les États-Unis, aujourd'hui, ont 75% de la puissance de calcul mondial liée à l'IA et que l'Europe a 5%, il y a un écart qui va se creuser en permanence de capacité qui va faire que tous les bénéfices, en tout cas économiques et peut-être militaires énormes de cette IA, les États-Unis ne les auront pas nous. Donc, c'est une décision qu'on peut prendre en effet, mais c'est peut-être la dernière décision qu'on prendra avant de perdre notre souveraineté.

Faut-il arrêter, par exemple, d'apprendre à faire des travaux manuels, comme je crois que vous le suggérez dans votre livre, ou ne plus faire d'études, comme le disent Laurent Alexandre et Olivier Babot, comme s'il fallait déjà se préparer à quelque chose qui est déjà là et qu'on n'a pas vu venir ?

Non, je pense au contraire qu'il faut continuer les études. Je pense qu'en fait, on a un risque de remplacement massif du travail. C'est une des possibilités que j'envisage dans le livre. Mais en fait, face à ça, on pourra toujours se réaliser par le travail qu'on fait, même s'il n'a plus d'utilité mercantile. Et je pense qu'apprendre, par exemple, les Romains, même ceux qui étaient oisifs ou les Grecs, ça donnait la scolée. C'était une manière de se réaliser qui pouvait apporter l'épanouissement.

Ça, c'est un grand argument qu'on entend très souvent parmi ceux qui défendent le fait d'embrasser ce tournant de l'IA. C'est-à-dire qu'en fait, on n'aura plus vraiment de travail comme on le connaît aujourd'hui et qu'on aura le temps de faire autre chose en tant qu'être humain. Éric Sadin ? Ah, il y a une fois encore, une fois encore, je vais essayer d'être précis sur cela. L'extrait que vous avez passé de Donald Trump, c'était le projet Stargate qui a été annoncé en février. C'est essentiellement sur les IA génératives. Moi, je parle d'IA génératives. C'est cette course, cette course toujours plus folle de la surenchère, de la rivalité géopolitique sur l'IA.

Les Chinois investissent, donc les Américains surinvestissent. Donc, Emmanuel Macron, lors du sommet de l'IA, il a voulu encore annoncer, en réalité, c'est des investissements privés, mais annoncés par l'État, des surenchères d'investissement. C'est cela qui va nous mener au désert de nous-mêmes. Parce qu'il y a une équation dans l'économie qu'on ne voit pas très très bien. C'est-à-dire, il y a trois ans, quand sont apparues les IA génératives, quand on parlait des questions du travail, plein de personnes montraient quelque chose. Moi, on m'a montré quelque chose. Vous savez ce qu'on m'a montré, ce qu'on nous montrait, ce qu'on exhibait ? Des études. C'est extraordinaire.

C'est-à-dire, des études comme si c'était parole d'évangile. La plupart des études concernant le travail, ce sont des études faites par des think tanks, des groupes d'assurance, des groupes bancaires, avec des biais. C'est-à-dire, ils sont là, les biais, en réalité, dans les modes de perception. C'est-à-dire que la technologisation à tout crin de la société va être vecteur de croissance et c'est la course inéluctable. Eh bien, voilà la première grande erreur parce qu'en réalité, ce qui est à l'œuvre, c'est que c'est Joseph Schumpeter qui est mort une deuxième fois.

Vous savez, l'équation de Joseph Schumpeter qu'il avait théorisée à la fin des années 30 de la destruction créatrice du travail dont on croit toujours qu'elle est à l'œuvre alors que c'est cela qui s'est terminé le 30 novembre 2022. Qu'est-ce qu'il avait théorisé l'économie Joseph Schumpeter à la fin des années 30 ? C'est que certains développements technologiques entraînent certes des destructions d'emplois mais pour voir des reversements vers des emplois nouvellement créés.

C'est ce qui s'est passé au cours des décennies et particulièrement au tournant des années 80 qui a vu la robotisation des chaînes de montage et notamment dans l'automobile qui a vu des suppressions d'emplois à haute pénibilité pour voir des reversements vers des emplois nouvellement créés ça s'est vérifié et notamment de services. Or, aujourd'hui, l'emploi dans la plupart des pays 70 à 80% des emplois sont des emplois de services. Et qu'est-ce qui caractérise les emplois de services sinon que la plupart d'entre eux mobilisent nos facultés intellectuelles et créatives.

Et voilà des systèmes qui a des vitesses infiniment supérieures aux nôtres de façon j'assiste toujours le guillemet prétendument plus fiable et à terme moindre coût vont assurer la quasi-totalité de ces tâches. Comment ne pas voir l'ouragan qui vient ? Mais si c'est nous qui les dirigeons on peut les voir comme des super-assistants. Alors, ça m'a de mal le 30 novembre d'abord il y a un ouragan sur des... Attendez, je trouve qu'on passe vite sur un point j'aurai bien 30 secondes si vous me le permettez. Allez-y.

Parce que là quand je parlais de destruction d'emplois et de pénibilité là je parle d'emplois juriste, médecin, professeur, architecte, designer, photographe, réalisateur, bref la liste est très très longue et elle va être de plus en plus longue mais ce sont des métiers qui ont souvent recuit des longues et des coûteuses études qui souvent procurent du plaisir à la tâche de l'associabilité de l'estime de soi de la reconnaissance et donc cet ouragan va l'accepter comme cela et il se trouve que le 30 novembre 2023 dans l'extrait que vous avez passé tout à l'heure il a dit on a été bon et une foule d'adorateurs ce que j'appelle des idiots utiles on dit ouais génial ça a été génial il a dit please calm down c'est rien par rapport à ce qui vient il a annoncé la couleur notamment par rapport ça a des incidents sur le travail à l'image et au langage c'est les super assistants dans tous les champs de la vie des systèmes vont remplir répondre à toutes nos requêtes et nous orienter et nous piloter dans tous les champs de la vie j'achète un terrain qu'est-ce que je vais prendre un architecte qui va me prendre 15 000 euros qui va me rappeler en pleine nuit avec sa nouvelle idée qui ne convient pas plutôt que d'aller voir un nutritionniste on va me faire mon régime donc qu'est-ce que ça veut dire mais ça c'est pas de la peur comme certains avaient peur de monter dans un train c'est factuel c'est factuel et qu'est-ce que ça veut dire ça ça veut dire que c'est autrui qui de plus en plus va être évacué et c'est non seulement un drame social sur quantité de travail et il n'y aura pas de reversement sur des emplois nouvellement créés parce qu'il n'y a pas de secteur quaternaire mais c'est aussi une certaine vision du monde et de la société parce que la société c'est aussi des liens continus d'interdépendance nous avons besoin d'un avocat nous avons besoin d'un médecin nous avons besoin d'un professeur or un monde où de plus en plus ne s'opère que des vis-à-vis avec les écrans on va vers l'isolement collectif la tristesse qu'on veut et dont on nous dit qu'il faut être dans la course à l'IA Amérique Rocher

moi je suis d'accord avec vous sur le constat de ce qu'on a vu avec l'arrivée des IA actuelles c'est quelque chose de radicalement différent de la révolution industrielle au sens où la révolution industrielle il y a des emplois qui ont été remplacés mais il y en a au moins autant qui ont été recréés parce que l'économie grandissait à toute différence et en fait ce qui est intéressant à regarder c'est que pendant la révolution industrielle il y a une population dont les emplois n'ont pas été remplacés c'est les chevaux de trait aux Etats-Unis la population de chevaux de la bourre est passée de 25 millions à 3 millions parce qu'en fait on n'avait plus besoin de leur travail leur travail c'était la force mécanique et en fait la force mécanique c'était exactement ce qui était produit par cette révolution industrielle ils n'ont pas pu se reconvertir et en fait je pense que ce qui se passe aujourd'hui alors j'espère que notre population ne va pas chuter comme celle des chevaux mais en tout cas ce qui se passe aujourd'hui pour l'emploi ça risque d'être un peu la même chose c'est que les IA d'aujourd'hui pour le coup vont être capables de faire convenablement ou en tout cas de manière commercialisable beaucoup plus efficacement que nous parce que beaucoup plus rapide comme vous le dites à bien moindre coût elles vont être capables de remplir ces métiers qu'on fait donc ça va être difficile de se reconvertir et ensuite les questions que ça pose ça va être comment trouver du sens si on n'a pas de travail alors je pense quand même qu'il y a certains métiers qui vont être conservés c'est les métiers où on vend de l'humain par exemple un acteur de théâtre les gens payent pour voir un humain face à eux sur scène ils ne vont pas payer pour voir un robot

il y a Chili Norwood qui est apparue une nouvelle actrice en IA

oui mais vous allez payer pour aller voir ça vous

on ne sait pas vous savez moi je vous trouve bien affirmatif moi je ne sais pas du tout où on va moi je n'irai pas

mais en tout cas je pense que ça pose la question pour peut-être 90% des métiers tertiaires qui ne seront pas remplacés de qu'est-ce qu'on fait et comment on trouve du sens

je trouve qu'on accepte ça notamment entre nous ce n'est pas du tout mon cas avec beaucoup trop d'aisance mais qu'est-ce qu'on fait si vous ne voulez pas signer si vous dites à Emmanuel Macron je peux vous répondre j'ai dit qu'on a parlé des métiers à haute compétence cognitive et quantité de questions d'une extrême gravité dans la société ce que je crois c'est qu'il nous reste 2-3 ans pour nous rendre agissants avant que ça ne soit les phénomènes se consolident s'enterrinent et qu'il ne soit trop tard alors vous savez pendant Emmanuel Macron a organisé le sommet mondial de l'IA à Paris en février et il se trouve que moi qui suis français parisien ça fait une quinzaine d'années que je travaille cela d'un point de vue critique je me suis dit que dans le pays de Beaumarchais de Zola de Charles Péguy de Paul Valéry d'Albert Camus je ne pouvais pas rester les bras croisés alors j'ai monté un contre-sommet de l'IA c'était à 300 mètres du Grand Palais au Théâtre de la Concorde quand j'étais petit il y avait un café en face de la maison de Fran qui s'appelait ici mieux qu'en face alors c'était beaucoup mieux chez nous qu'en face pourquoi c'était mieux ?

parce que là au Grand Palais il y avait tous les barons de la Thèque qui nous chantaient des merveilleux le lendemain à venir et justement une centaine de chefs d'Etat qui rivalisaient d'investissements qui vont nous conduire au désert de nous-mêmes avec nous nous avons organisé un contre-sommet où étaient invités à témoigner c'est-à-dire avoir les conséquences concrètes dans quantité de métiers dans quantité de champs d'éducation conséquences énergétiques l'administration publique le travail vous dites aux auditeurs surtout n'allez pas chez Claude le monde de la culture non non non ce que je dis très rapidement c'est qu'il ne faut pas se soumettre au dogme de l'adaptation continuelle il y a des valeurs des principes des modalités qu'il faut faire valoir et ça c'est à toutes les échelles de la société notamment le recours à la justice qui est possible et faire oeuvre de jurisprudence parce que vous savez c'est pas du tout un projet démocratique décider ce qui est là c'est imposé et c'est à la société d'être agissante et de décider ce qu'elle veut et ce qu'elle refuse on a essayé à l'instant avec vous Eric Sadin philosophe on peut lire le désert de nous-mêmes si on veut en savoir plus sur ce sujet c'était chez l'échappée cette année et vous Emery Crouchet ultra intelligence jusqu'où iront les IA merci infiniment à toute l'équipe de questions du soir qui m'a aidé à préparer cette émission d'avoir regardé cette émission