La tech veut-elle nous déconnecter de la réalité ?

France Culture, question du soir, Mathéo Caranta. Bonsoir à toutes et à tous et bienvenue dans Question du Soir, 1h30 de débat, d'analyse, de découverte pour décrypter l'actualité. À 19h, en deuxième partie d'émission, nous entamerons une discussion avec l'anthropologue David Dupuis sur les psychédéliques, mais d'abord place au débat dans Question du Soir. Chat GPT, casque de réalité virtuelle, deepfake, monde immersif et métaverse en tout genre, jamais la technologie n'a autant brouillé la frontière entre le réel et ses multiples doubles. Derrière ces innovations numériques, d'aucuns qualifient ce nouveau monde de réalité augmentée.

Des milliardaires de la Silicon Valley vont même jusqu'à financer des recherches pour prouver que nous vivrions dans une simulation informatique à la manière du film Matrix ou du mythe de la caverne. Alors, pourquoi les géants de la Silicon Valley mettent-ils autant d'argent et d'énergie pour dupliquer et augmenter le réel ? La tech est-elle en train de nous en déconnecter ? Sommes-nous encore capables de distinguer la réalité de son avatar numérique ? Voici quelques-unes des questions vertigineuses qui se poseront à nous ce soir et à nos deux invités. Loïc Escht, bonsoir.

Bonsoir.

Vous êtes écrivain, journaliste, vous aviez publié « Le syndrome de Palo Alto », c'était en 2020. Et vous venez de faire paraître une enquête tout à fait à propos de l'émission « La simulation » aux éditions Les Arènes. Merci d'avoir accepté notre invitation. À vos côtés se trouve Jean-Gabriel Ganassia. Bonsoir. Bonsoir. Vous êtes professeur d'informatique à Sorbonne Université, chercheur à l'Ipsis et membre de l'Institut universitaire de France. Je cite deux de vos livres. « L'IA expliqué aux humains » aux éditions du Seuil 2024. C'est bien gentil de l'avoir fait. Et puis enfin « Servitude virtuelle » qui vient de paraître aux poches.

Merci à vous deux d'avoir accepté notre invitation dans « Question du soir ». Nous sommes en direct jusqu'à 19h.

À quoi ça sert de se raconter des histoires ? C'est juste, encore une fois, c'est à nous augmenter, à nous préparer pour le réel. Mais pour ça, il faut avoir vécu le réel. Il faut l'avoir expérimenté. Et en fait, ce qui me dérange avec cette espèce de folie de l'IA où tout le monde croit qu'il y a une sorte de nouveau dieu qui est arrivé et qui va nous raconter des histoires, c'est que la machine n'a aucune expérience du réel. Elle est nourrie en plus que de fragments de réalités qui n'ont rien à voir avec l'expérience et surtout qui sont arrêtés à un moment T. Alors que nous, notre fonction en tant qu'artiste, c'est d'actualiser le monde à lui-même.

Et si on arrête d'actualiser le monde à lui-même, on va construire sur un monde stérile. Puisque l'IA ne travaille, encore une fois, qu'avec un référentiel mort. Et nous, on travaille avec un référentiel vivant, vibrant. On n'est pas des concepts philosophiques, on n'est pas des nombres, on est des êtres de chair et, encore une fois, d'expérience.

En sommes-nous, bien sûr. En tout cas, c'est ce qu'affirme Hugo Bienvenu, réalisateur et auteur de BD, qui nous raconte. Voilà, que l'IA est nourri de fragments de la réalité qui n'ont rien à voir avec l'expérience du monde. Alors, je voudrais, avant d'entamer cette conversation, faire un tour de table. Peut-on dire, aujourd'hui, que l'IA, la tech, de manière générale, est en train de nous faire perdre pied, de nous déconnecter du réel ? Loïc Escht ?

Moi, je ne serais pas forcément sur cette approche-là. Mon idée, en fait, et la manière dont j'appréhende l'IA et dont elle est devenue notamment un outil, en fait, dans ma pratique d'écrivain et de journaliste, c'est que je dirais qu'elle a tendance à m'augmenter. Elle me permet, en fait, parfois, par exemple, d'être une espèce de sparring partner à l'endroit de l'écriture. Là, mon dernier livre, La Simulation, c'est sept ans, quasiment, de production, d'enquête, et j'ai écrit tout seul dans mon coin. Les quatre premières années, on n'était pas encore arrivé à un moment où Tchad GPT existait.

Et en revanche, les trois dernières années, voilà, tout à coup, j'ai eu cet outil qui m'a permis, en fait, de tester des hypothèses, d'échanger, d'éditer, parfois, des endroits où j'avais besoin, par exemple, de réduire la taille de mon texte. Alors, je ne suis pas en train de dire qu'elle génère forcément des émotions, mais en tout cas, elle me permet de produire des choses que je n'aurais peut-être pas produire. Elle me permet de réfléchir d'une manière nouvelle ou, quelque part, je dirais, augmentée.

Donc, elle ne vous a pas diminué, ni diminué votre capacité de réflexion, ni d'écriture, mais au contraire, elle vous a aidé à faire le mieux de vous-même. C'est ça que vous sous-entendez ?

Absolument, et je pense même qu'elle m'a permis aussi de gagner beaucoup de temps. Peut-être que, sans IA, il m'aurait fallu une année ou deux supplémentaires. Parce qu'en fait, l'IA, c'est vrai qu'évidemment, ça demande de fact-checker tout ce qui en sort. Mais en contrepartie, elle va permettre un peu à l'aune des inputs, donc en fait des informations qu'on va lui donner en entrée, de proposer des pistes de réflexion. Donc, je ne la mettrai pas forcément au même niveau qu'un humain. Mais en contrepartie, je n'aurais pas tendance comme ça à l'écarter, notamment à l'endroit de la production intellectuelle.

Jean-Gabriel Ganassia, même question. Est-ce qu'on peut dire que la tech et les dernières évolutions, l'IA, qui sont, disons, la forme la plus flagrante de ces évolutions, sont en train de nous faire perdre pied, de nous déconnecter du réel ?

Je ne sais pas si ça nous déconnecte du réel, mais ça transforme le réel. Nous vivons dans un monde qui est différent de celui qui existait. D'abord parce que les relations entre les hommes sont, pour une grande part, médiatisées par les réseaux numériques. Et bon, l'amitié, la confiance, tout ça se transforme. La société n'est plus la même. Et même notre relation aux objets n'est pas tout à fait la même. On arrive à automatiser un certain nombre de processus, ce qui fait que la relation avec le monde extérieur, les métiers changent pendant des siècles, des millénaires. C'était un échange d'énergie entre l'homme et la nature. Pour le laboureur, l'ouvrier, c'était physique.

L'épuisement au travail était physiologique. Et aujourd'hui, c'est un échange cognitif avec des dispositifs qui fait que l'épuisement est d'un ordre différent. Donc je crois que ça transforme le monde. Et bien sûr, on oppose le réel ou le virtuel. Alors, est-ce que nous vivons dans un monde virtuel ? C'est toute la question, je crois, qui mérite d'être posée. D'abord, qu'est-ce que ça veut dire que le virtuel, dans la tradition philosophique ?

Je vous pose la question, puisque c'est la question que nous posons ce soir. Qu'est-ce que ça veut dire, le virtuel ? Vous avez utilisé des mots très intéressants. On a entendu le mot de cloud, qui est le nuage, la virtualité. Vous, vous parliez, Loïc Esch, d'intelligence artificielle. Tout ce vocabulaire tend à nous faire penser que ce n'est pas dans le réel. C'est dans un autre endroit que le réel, que la réalité. Mais si c'est dans un autre endroit, où est-ce que ça se trouve, cette IA, cette technologie ? Jean-Gabriel Galassia et puis Loïc Esch. Alors, le terme virtuel est très ancien.

Il désignait originellement ce qui est en puissance. Par exemple, Aristote va opposer ce qui est en acte et puis ce qui est en devenir. Dans le cas du numérique, le sens est différent. Il vient de la physique. Vous savez que lorsqu'on se regarde dans un miroir, en réalité, ce n'est pas soi-même. C'est une image virtuelle de soi-même, c'est-à-dire un endroit d'où proviennent les rayons lumineux. Et c'est ce terme qui a été réutilisé. Et ce qu'on appelle les réalités virtuelles, c'est cette idée que vous allez pouvoir recréer de façon totalement artificielle, avec du numérique, une image dont vous avez l'impression que ça correspond à une véritable scène.

Bien sûr, ça a des conséquences énormes. Ça veut dire que vous pouvez fabriquer des fausses images. Vous avez l'impression qu'il s'agit de la réalité. Ça peut être très positif, bien sûr, pour faire du cinéma. On peut imaginer tout un tas de possibilités nouvelles. Mais ça peut être aussi extrêmement inquiétant, parce que vous pouvez fabriquer de fausses informations. Et donc, inventer un monde, diffuser toutes sortes de propagandes, et ça, vraiment, c'est extrêmement dangereux pour le futur. Et c'est cette nouvelle réalité, je crois, qu'il faut essayer de comprendre.

Moi, je travaille beaucoup dessus, parce que je suis assez inquiet de toutes ces fausses informations qui transforment la société, qui transforment la démocratie, ce qu'on appelle les infox. C'est la contraction, une grande mauvaise d'informations et intoxications. Et bien sûr, c'est, je crois, un enjeu majeur. Et d'ailleurs, je pense que les médias de masse auront un rôle central à jouer dans le futur, parce qu'il faut que ça reste des sources de références par opposition aux réseaux sociaux qui n'ont aucun filtre et qui permettent de transmettre n'importe quelle information.

Oui, je vous êtes d'accord avec cette idée, plus que la virtualité, le risque de perdre pied vis-à-vis du réel physique de nos existences et de nos perceptions sensorielles, c'est le risque d'être confronté à un réel fabriqué qui ne correspondrait pas à la réalité que posent aujourd'hui les IA.

Et presque à l'inverse, en fait, la tech, en définitive, elle ne transforme plus seulement nos usages, en fait, du coup, elle transforme notre rapport quelque part au réel. En fait, aujourd'hui, ces technologies contemporaines, que ce soit les deepfakes, en fait, que vous citiez, que ce soit ces intelligences artificielles qui produisent aujourd'hui des images qui sont absolument indiscernables de la réalité, je pense qu'on n'a jamais été autant embêtés dans l'histoire de notre petite humanité face, en fait, à ce qui est produit. Ces technologies, en fait, elles produisent aussi des flux algorithmiques qui nous sont personnels.

Donc, en fait, on se retrouve à vivre dans des bulles qui fait que, quelque part, aucun de nous trois autour de la table, si tant est que tout le monde est sur Instagram, a le même flux. Ce flux, il va s'actualiser, en fait, au fur et à mesure de ce qu'on va aimer, de ce qu'on va passer rapidement, etc. Donc, en fait, on a des récits qui sont optimisés pour notre attention. Et donc, en fait, en définitive, on n'habite déjà plus le même monde symbolique. Et ça nous renvoie, en fait, à ce que Baudrillard disait au début des années 80 quand il parlait d'hyper-réalité. Autrement dit, quelque part, les représentations sont devenues presque plus réelles que le réel lui-même.

Et donc, en fait, on navigue déjà là-dedans et on a vécu, en fait, une espèce de forme d'accélération. Moi, je le date toujours, c'est rigolo, c'est le début de mon enquête, c'est 2016. 2016, c'est l'élection de Donald Trump. C'est l'avènement de la post-vérité. C'est ce moment où, en définitive, les réseaux sociaux, notamment, commencent à être manipulés par des officines, par des individus qui sont plus ou moins bien intentionnés pour finir par, en fait, manipuler les opinions et les masses. Et en fait, c'est dans ce contexte-là que Trump est élu, que le Brexit a lieu.

Et en fait, c'est le moment où on bascule, où on passe dans cette espèce d'hyper-réalité dont parlait Baudrillard ou de sauf-parquisation du réel, comme on entend parfois.

Alors, ce qui est intéressant, lorsque vous parlez de l'hyper-réalité de Baudrillard et des années 80, Loïc Haïch, c'est qu'on vous donnait la sensation et l'information que ce débat n'est pas nouveau. Pourtant, ce que vous soulignez à l'instant, Jean-Gabriel Ganassia, c'est qu'on était en train de passer dans une nouvelle dimension. Alors, qu'est-ce que l'IA change réellement par rapport à cette hyper-réalité de Baudrillard, par rapport au fait que, finalement, oui, les représentations structurent notre réalité autant que le vécu de nos sens ?

Il faut d'abord dire que l'IA n'est pas neuve. Elle date des années 50 et elle-même fait suite à la cybernétique. Le projet est inscrit depuis très longtemps chez un certain nombre de scientifiques. Moi, je me souviens, par exemple, d'une bande télévisée sur l'intelligence artificielle tournée en 1972.

Je ne l'ai pas vue en 1972, il y a juste quelques années dans l'émission Rambobina, où l'on voit quelqu'un qui est un architecte grec, Nicolas Negroponte, qui est au MIT, et qui imagine que l'on va pouvoir, dans un appartement, utiliser de l'intelligence artificielle et des caméras pour changer l'environnement et la relation avec l'éclairage, tout un tas de technologies qu'il conçoit à l'époque. Donc, tout ça est en germe depuis très longtemps.

Mais il est vrai que les progrès de ces dernières années, et en particulier avec l'intelligence artificielle générative, ont été fulgurants et qu'aujourd'hui, on a des fabrications d'images qui se font à un coût très faible, même si l'idée de synthèse d'images est beaucoup plus ancienne, et puis surtout des fabrications de textes qui sont extrêmement, extrêmement importantes. Donc, c'est vrai qu'il y a eu une accélération. Alors, 2016 est une bonne date parce qu'il y a eu, juste avant, à partir de 2012, l'avènement de ce qu'on appelle les réseaux de neurones profonds, qui ont fait faire des progrès considérables à l'intelligence artificielle.

Et puis, ensuite, bien sûr, ce que l'on a vu à partir de novembre 2022, sur ChatGPT, où tout le monde a pu toucher de façon très concrète ce qu'était la puissance de ces technologies, les évolutions du travail qui peuvent en résulter dans tous les champs de l'activité humaine.

Loïc, je vous avais enquêté longtemps sur cette simulation, sur le concept de simulation. On va y revenir plus tard dans l'émission. Mais, finalement, c'est aussi une enquête sur la Silicon Valley, ce qui la traverse, les idées, les philosophies, aussi peut-être les idéologies. Qu'est-ce que vous avez compris des buts, des objectifs de ces Sam Altman, Elon Musk, Mark Zuckerberg, qui n'ont cessé de travailler à créer... Alors, Mark Zuckerberg peut-être a abandonné, mais il y a eu quand même un grand moment de Facebook, Meta, qui voulait créer le multiverse, à essayer de tenter de créer des mondes virtuels, de l'intelligence artificielle qu'elle est.

Pourquoi, en fait, tout simplement, met-t-il autant d'énergie et d'argent dans cette affaire ?

Alors, c'est vrai que mon premier sentiment, c'est que, quelque part, il y a une espèce de logique, un petit peu de savants fous ou d'alchimistes qui ne maîtrisent pas très bien ce qu'ils font. Parce qu'aujourd'hui, c'est vrai qu'on est dans l'ère de l'économie, de l'attention. Tout est tourné, en fait, vers le fait de nous faire rester le plus longtemps sur nos téléphones et nos écrans. Mais, quelque part, c'est presque un dessin qui s'est fait un petit peu par hasard, si on se souvient, l'invention du bouton like, de l'icône qui clignote en rouge, la notification.

Les inventeurs, parmi eux, il y a un type qui s'appelle Tristan Harris, disaient qu'ils ne sont pas rendus compte de ce qu'ils ont fait, et puis ils sont venus pleurer un peu derrière, en disant, ah, on est hyper désolé d'avoir créé ça, en tout cas pour les repentis. Donc, du coup, il y a une espèce de côté un peu, voilà, apprenti sorcier qui joue, en fait, avec des choses sans jamais vraiment maîtriser. Je dirais qu'il y a assez peu de gens, en fait, dans cette industrie qui ont une vraie vision. Il y en a quelques-uns. Je pense qu'Elon Musk est quelqu'un qui a une vision. Peter Thiel est quelqu'un qui a une vision.

Thiel, c'est un peu un des personnages assez fascinants qui était un peu en creux, justement, dans mon précédent livre, Le syndrome de Palo Alto, qui était un roman. Enfin, en tout cas, il a inspiré un personnage secondaire. Et ce qui était intéressant avec Thiel, c'est que, pour le coup, c'est quand même le produit de l'université américaine. C'est quelqu'un qui a fait ses études à Stanford, qui était un élève d'un philosophe français, René Girard. Et Thiel, en fait, quelque part, a récupéré la philosophie de René Girard et il l'a transformé à son avantage.

René Girard, il a un concept qui est celui du bouc émissaire, où il raconte que, quelque part, la société a besoin de créer des boucs émissaires dans des moments où, en fait, il y a trop de violences où les choses dérivent trop. On désigne un bouc émissaire, on le tue et, en fait, on rétablit une espèce de forme de logique. Et cette idée, en fait, Thiel l'a reprise à son compte en disant, et si, en fait, plutôt que de... Enfin, et si on crée des boucs émissaires, mais pour appréhender le business de manière, il appelle ça, contrarienne, en fait, de se dire, ok, si personne n'a envie d'aller là, eh bien, moi, je vais y aller.

Et c'est ça qui a fait que, par exemple, ça a été le premier à investir dans Facebook. Ça a été le seul mec de la Silicon Valley pendant l'élection de 2016 à soutenir Trump. Et il y a eu un basculement ensuite. Et donc, en fait, voilà, il y a ce côté-là. Et la thèse, un peu, de mon premier bouquin, c'était l'idée de dire qu'en fait, on est tous devenus des otages consentants des big techs, mais sans s'en rendre compte, d'où le terme de syndrome de Palo Alto. Et en fait, c'est vrai que c'est très difficile, aujourd'hui, de se dire, ok, je vais pas... Je vais me priver de Gmail ou d'Amazon ou, en fait, de tous ces gros services. Il y a presque une espèce de...

C'est un dessin, enfin, c'est un choix politique, en fait, assez fort de le faire. Mais en même temps, voilà, c'est un édifice qui s'est créé au fur et à mesure, sans que, voilà, ce soit aussi pensé que ça, je dirais.

Vous êtes d'accord, édifice plutôt que hubris ou vision prométhéenne sur l'humanité ?

Je pense qu'il y a une vision prométhéenne, à l'évidence. Et vous avez tout à fait raison d'indiquer qu'il y a une multiplicité extrêmement grande de perspectives. Il faut comprendre qu'au départ, le numérique naît avec des anciens 68 arts, avec cette idée de diffuser librement l'information. et les réseaux qui se constituent sous Bill Clinton, ce qu'on appelle les autoroutes de l'information, sont gratuits, ce qui est tout à fait extraordinaire. Et en France, nous avions une infrastructure télématique qui faisait exactement la même chose, mais qui était payante. Et les opérateurs de télécommunications ne voulaient pas tuer la vache aux odores. Et donc, il y a une tension.

Et en France, d'ailleurs, il y a une très grande résistance à Internet. Donc, c'était gratuit. Et derrière, il y avait l'idée extraordinaire. Et moi, j'ai vécu dans cet idéal d'offrir la culture à tout le monde. La première fois dans l'histoire de l'humanité que les livres sont gratuits et accessibles nuit et jour. Donc, rêve extraordinaire. Et qu'est-ce qu'on voit ? C'est que tout cela se renverse progressivement. Et se ferme. Et c'est ça, la réalité. Et Peter Tills, de ce point de vue-là, est tout à fait révélateur.

Je crois qu'il faut insister quand même sur le fait que Peter Tills, c'est effectivement quelqu'un qui a été très marqué par René Girard, philosophe français, littéraire, tout à fait remarquable en tant que tel, qui a enseigné à l'université de Stanford. Mais dans la théorie de René Girard, il n'y a pas seulement l'idée du bouc émissaire, mais il y a l'idée du désir mimétique. C'est-à-dire que nous désirons tous la même chose. C'est-à-dire qu'on désire tous la même femme, les femmes désirent tous le même nombre. Et donc, on est tous en conflit les uns avec les autres.

Et il faut bien voir que c'est cette idée qui est derrière beaucoup de ces acteurs du numérique, en particulier sur les réseaux sociaux. Ils se disent qu'on va tous être en conflit et on va essayer de jouer justement sur ce désir mimétique de tous. Et derrière, bien sûr, il y a une vision philosophique qu'on pourrait qualifier de obstienne, c'est-à-dire la rivalité de l'homme avec l'homme. Tandis que, bien sûr, la réalité, c'est bien sûr très différent. Moi, ce que je crois, c'est qu'on a chacun des désirs différents. On a des personnalités qui ne sont pas...

Ça, c'est valable pour les réseaux sociaux et la manière dont fonctionne la tech en général, mais vis-à-vis de la réalité virtuelle en particulier, ou de l'IA en particulier.

Est-ce que lorsque Mark Zuckerberg, le patron de Facebook, qui est devenu méta depuis, a investi des milliards et des milliards de dollars pour créer ce qu'il a appelé son métaverse, avec l'espoir que l'humanité entière, puisque plus ou moins, c'était tous ses abonnés Facebook, in fine, donc une bonne partie de l'humanité, allaient se retrouver dans un monde qui serait une copie du monde ou en tout cas un miroir inversé du monde et que les gens-là pourraient s'épanouir d'une nouvelle forme, consommer d'une nouvelle manière, etc. Quel était l'idéal ? Est-ce que c'est juste faire du profit ? Est-ce que derrière, il y a une vision idéologique partagée parmi ces grands gourous de la tech ?

Jean-Briere Ganassia et puis Loïc Asht. Oui, je crois que derrière,

il y a une vision démiurgique. Alors, il faut tout d'abord insister sur le fait que cette idée de métavers est très ancienne. Elle a d'abord été introduite dans la science-fiction, dans l'histoire d'ailleurs, l'idée qu'on vive dans un monde artificiel et encore plus vieille, mais dans la science-fiction, dans les années 60, en particulier avec un très beau roman de Daniel Galouille, Simulacron III, qui a été repris d'ailleurs par Fassbinder, qui en a fait un film, Le Monde sur le Fil, très intéressant. Et puis, ça a été repris par différentes personnes. Il y a eu Snow Crash, un livre extrêmement connu de Daniel Stevenson, je crois. Je gorge peut-être un tout petit peu son nom.

Et puis, au début des années 2000, il y a eu une réalisation de cela. Et peut-être que beaucoup d'auditeurs se souviennent de Second Life. Et puis ensuite, ça a été oublié. Parce qu'en oeuvre, c'était 2003. Donc, c'était déjà il y a 20 ans, 23 ans. Ça fait très longtemps. Et on utilisait ce qu'on appelle les réalités virtuelles. Les réalités virtuelles sont même un peu plus anciennes. Le concept a été introduit dans les années 80 par un technologue qui disait qu'on va pouvoir reprendre avec toutes les technologies les impressions sensibles que nous procure le monde extérieur. C'est le virtuel au sens où je l'ai défini tout à l'heure. On a l'impression de ça.

Et puis, ça va être repris, on ne sait pas pourquoi, par Mark Zuckerberg. Alors, ça a été précédé par différentes approches théoriques. En particulier, il y a quelqu'un qui s'appelle Gellertner, je crois, qui en 90 a écrit un livre, justement, The Mirror World, pour reprendre ce que vous avez dit tout à l'heure, avec l'idée qu'on pourrait avoir une image du monde qui serait rassemblée dans un tout petit espace, il dit une boîte à chaussures, et qu'ensuite, on pourrait se déplacer à l'intérieur de ce monde-là. Donc, c'était l'idée de Zuckerberg. Et lui, bien sûr, il va au-delà, il dit, c'est moi qui vais le créer et c'est moi qui vais administrer ce monde.

Et alors, c'est là où il y a une vision démergique absolument effrayante. Loïc Asht. Oui, non, c'est vrai, je suis tout à fait aligné avec ce que vous dites. C'est vrai que Zuckerberg, pour le coup, il y avait eu un coup d'opportunité sur l'histoire du métavers parce qu'en fait, c'était un moment où le concept était vraiment monté. Il s'est dit, là, il y a un coup à jouer, c'est le virage à prendre. Et pour le coup, il s'est complètement planté.

Mais le virage était celui donc d'une humanité

quelque part, cette Silicon Valley ne produit pas que des outils. Elle produit aussi des imaginaires civilisationnels depuis toujours. Et d'ailleurs, c'est vrai qu'on parle souvent de la Silicon Valley comme d'un écosystème économique. Mais en fait, c'est aussi un endroit où on fabrique des récits métaphysiques, que ne sois-je pas le transhumanisme, l'immortalité numérique, l'idée d'uploader des consciences sur des puces. Et puis, l'intelligence artificielle générale ou la simulation finalement s'inscrivent un peu dans cette logique-là.

Là où moi, c'est vrai qu'on parle de ce métavers, il y a un autre sujet, un autre projet civilisationnel qui est porté par Musk notamment, qui pour moi est peut-être le plus dangereux, en tout cas le plus questionnable de tous, c'est celui qu'il y a derrière Neuralink. Il a monté une entreprise dont le principe consiste à implanter des puces dans le cerveau d'humains. Aujourd'hui, on est complètement dans l'imaginaire transhumaniste. il y a un cheval de troie qui est le médical.

Aujourd'hui, en fait, et comme souvent avec le transhumanisme, les personnes qu'on équipe de ces dispositifs invasifs, du coup, aujourd'hui, il sert à ces gens-là à retrouver la vision, à retrouver la parole, à retrouver une mobilité parfois. Et donc, en fait, du coup, c'est vrai que ça contribue d'un basculement qui est assez remarquable. Mais maintenant, la question, c'est Elon Musk qui fait ça. Donc, on se pose forcément la question de savoir qu'est-ce qu'il entend derrière ? Qu'est-ce que ça devient une société où tout à coup, potentiellement, demain, on l'implante chez des gens qui sont bien portants ?

Est-ce qu'on va créer des mondes où on ne va plus avoir les mêmes capacités cognitives selon qu'on soit équipé ou pas ? Est-ce qu'en fait, tout à coup, on va avoir une intelligence artificielle embarquée ? Et là, c'est là où, pour le coup, cet imaginaire civilisationnel peut, à mon sens, nous embarquer sur des dérives, en fait.

Et prend un tournant réactionnaire. Parmi ces penseurs de la tech ingénieur, il y en a un qui est très cité, c'est Curtis Yarvin qui a eu la bonne idée d'inventer l'oxymore de lumière sombre pour parler de son mouvement d'idées, quoi qu'on puisse en penser.

Et je ne vous demande pas de le commenter ici, mais parmi les idées qu'il développe régulièrement, il imagine une espèce d'aristocratie du QI, de l'intelligence, qu'on a appelé ces arismes technologiques dans lesquels, finalement, les personnes utiles produiraient, travailleraient, et puis, on pourrait brancher les inutiles dans des grandes salles, dans des sous-sols, avec des casques de réalité virtuelle sur la tête pour qu'ils effectuent des tâches simples ou qu'ils puissent eux-mêmes entraîner des intelligences artificielles. Est-ce que c'est de la pure provoque réactionnaire, Jean-Briegel Ganassia, ou est-ce que vraiment ils y croient ?

Est-ce que vraiment c'est un monde désirable dans la bouche de ces ingénieurs, seigneurs sombres de l'attaque américaine ? C'est une grande question

qu'il mériterait de discuter à titre personnel. Je pense qu'il ne croit pas toujours à ce qu'il raconte, mais peut-être qu'il se convainque de ce qu'il raconte. Mais ce que j'aimerais discuter aujourd'hui, ce sont les différentes perspectives qui nous sont ouvertes, parce qu'on nous parle de la simulation, et si on regarde derrière, ça évoque un monde plutôt asiatique, les pensées d'extrême-orient, avec cette idée de réincarnation, un monde dans un monde, avec une espèce de monde suprême. Mais à l'opposé, vous avez une vision complètement différente qui serait un peu, si on reprend des spiritualités traditionnelles, plus proche de la gnose.

C'est-à-dire cette idée que le monde est mal fait et qu'on va essayer de le réparer. Il a été fabriqué par un démiurge et il y a plein d'erreurs. Et la connaissance, c'est pour ça que ça s'appelle des gnoses, va aider à le transformer. Et c'est, bien sûr, ce que nous expliquent des penseurs, enfin des penseurs, disons des hommes d'affaires comme Elon Musk. Il nous dit, ça ne va pas très bien, on va changer, on va vous rendre éternellement jeune, on va corriger toutes les erreurs que vous faites. Et je crois qu'il y a une tension.

Alors là, je le dessine avec deux façons de voir, mais tout ça pour expliquer, je crois que c'est vraiment important, qu'il y a dans la Silicon Valley tout un tas d'utopies, de pensées un peu étranges, mais elles ne se réduisent jamais à une seule. Et c'est, je crois, extrêmement important. Je ne sais pas si Loïc est d'accord avec moi là-dessus, parce que lui a fait une enquête, mais c'est l'impression que j'ai eue en lisant son livre, c'est qu'effectivement, il y a toutes ces différentes vues, cette espèce de panoplie extrêmement large, et puis ils sont capables de passer de l'une à l'autre. D'ailleurs, ça ne les dérange pas du tout parce qu'ils prennent ce qui est le plus à la mode.

C'est amusant parce que le métavers, tout le monde trouvait que c'était formidable. Et puis tout d'un coup, on a oublié le métavers. Et maintenant, on se dit, il va y avoir une super intelligence qui va être bien meilleure que nous. Et ça va nous transformer.

Eh bien, à propos justement, je vous propose d'écouter la voix du philosophe suédois de l'Université d'Oxford, Nick Bostrom. Si nous développions réellement une IA générale, je pense que la première conséquence serait le développement rapide d'une super intelligence. Je ne crois pas que nous atteindrions un niveau d'IA pleinement humain pour ensuite nous arrêter là, n'est-ce pas ? Nous aurions alors un monde où nous serions capables de concevoir des esprits et où tout le travail humain, et pas seulement le travail physique, que nous avons commencé à mécaniser lors de la révolution industrielle, serait automatisé.

Nous aurions des esprits artificiels capables de surpasser n'importe quel génie, scientifique ou artiste humain. Ce serait alors la dernière invention dont nous aurions besoin. Dès lors, les inventions futures seraient bien meilleures et plus rapides à réaliser grâce à ces esprits artificiels. C'est très intéressant ce que dit ici Nick Bostrom parce qu'il dessine finalement la possibilité de la fin de la technique, c'est-à-dire l'invention ultime à partir de laquelle l'humanité pourrait cesser de faire ce qui la constitue puisque nous sommes, en tout cas, c'est le récit que l'on fait régulièrement de l'humanité.

L'homme est avant tout, l'humain est avant tout un animal de l'outil, de la technique. Jean-Briand, Gabriel Naganensia.

Alors, il y aurait énormément à dire sur Nick Bostrom qui est originellement d'ailleurs un physicien qui a prétendu être un philosophe. Il a une théorie, il a été beaucoup financé d'ailleurs par Elon Musk et il a repris le concept de superintelligence qui ne vient pas de lui qui a été introduit par un mathématicien Irving John Good dans les années 50. Mais voyez ce qu'il a dit qui est très intéressant ? On va avoir des esprits qu'on va fabriquer. Et bien sûr, il joue sur l'ambiguïté du terme intelligence. Je crois qu'il faut rappeler pour les auditeurs que l'intelligence de l'intelligence artificielle, ce n'est pas un esprit. Le terme est éminemment polysémique.

Ce n'est pas non plus l'ingéniosité. Ce qu'on appelle intelligence dans la locution intelligence artificielle, c'est une exception qui vient de la psychologie à la fin du 19e siècle. Ce sont l'ensemble des facultés mentales. L'intelligence artificielle, au départ, c'est une discipline scientifique qui essaye de mimer ces facultés mentales – c'est ce qu'on est arrivé à faire ensuite –, d'utiliser ces modélisations dans ces simulations de l'intelligence, dans des technologies. Mais bien sûr, on ne fabrique pas de machines qui sont animées d'un esprit. Donc, il joue sur cette ambiguïté. Et on a parlé tout à l'heure de l'apprenti sorcier.

et il y a une expérience de pensée qu'il cite extrêmement souvent qui est une réplique de l'apprenti sorcier. Vous savez, c'est une fable qui a été introduite par Goethe, un apprenti qui est chez un sorcier qui utilise la formule qu'avait donnée le sorcier pour animer des balais et qui n'arrive plus à arrêter ces balais. Il les utilise pour remplir un baquet d'eau puis il y a une espèce d'inondation. Il nous raconte exactement la même fable, Nick Bostrom, et il nous dit bien sûr qu'on ne va pas être capable d'arrêter ces machines qui se mettent en marche.

Ce que dit Nick Bostrom et également Loïc Escht et je voudrais vous faire réagir là-dessus, c'est qu'une super-intelligence serait l'invention ultime à partir de laquelle l'humanité serait totalement dépassée. Est-ce que ce n'est pas ça au fond le risque civilitionnel ? C'est faire de l'IA un intermédiaire exclusif de notre monde et de nous rendre cognitivement absolument dépendants de l'intelligence artificielle. En tout cas,

Bostrom, ce qu'il faut savoir, c'est que pour le coup, là, on a un idéologue de la Silicon Valley. En définitive, les acteurs de la Silicon Valley, c'est des entrepreneurs plus que des penseurs. Mais ils ont effectivement des idéologues qui viennent les nourrir et Bostrom, c'est l'un d'eux. Et un de ces sujets phares, c'est justement la simulation. En fait, quelque part, il y a trois acteurs majeurs qui ont porté la simulation dans l'espace public. Bon, après, bien évidemment... Alors, peut-être qu'il faut

préciser ce qu'il y a derrière, justement, sur la simulation. C'est-à-dire que nous serions en réalité nous-mêmes l'objet de cette super-intelligence ou d'une forme de super-intelligence et que nous vivrions dans une simulation du réel. Nous serions nous-mêmes les objets d'une représentation du réel. Voilà.

En tout cas, à minima, le réel ne serait pas en dernier lieu ce qu'on croit qu'il est et ce que l'on croit vivre. Et donc, Bostrom, avec les sœurs, Wachowski et Elon Musk, ce sont les trois acteurs qui ont vraiment porté ce sujet. Et en fait, Bostrom a écrit un papier au début des années 2000, enfin, qui a été publié en 2003, où en fait, il propose un argument philosophique en disant qu'en définitive, selon lui, il y a plus de chances que l'inverse qu'on vive dans une simulation. Il y a un biais, je dirais, idéologique derrière ce qui nous oblige à aborder le sujet de la conscience.

En fait, c'est que Bostrom, il fait partie d'une caste qui est quand même assez dominante dans le monde dans lequel on vit, qui considère que la conscience en dernier lieu, c'est de la matière. Ou en tout cas, que la conscience en dernier lieu, quand bien même on ne la comprend pas très bien aujourd'hui, on pourrait la reproduire à terme.

Et en fait, son idée est de dire que si on arrive à un moment de l'histoire où on est capable de reproduire de la conscience, on pourra l'implémenter dans ce qu'on veut, si on peut l'implémenter dans ce qu'on veut, on va pouvoir commencer à créer des simulations où les êtres qui évoluent dans ces simulations auront l'impression d'être conscients alors que ce n'est pas le cas. Et donc en fait, du coup, dans son idée, il n'exclut pas du tout la possibilité qu'on vive déjà à l'intérieur d'une super intelligence artificielle qui jouerait quelque part tous les rôles et qui finalement nous donnerait l'impression d'être réel alors que ce n'est pas le cas.

Et là, on boucle un peu sur ce qu'on disait plus tôt, mais cette approche de la conscience elle rentre directement en confrontation avec une deuxième qui considère que la conscience ne serait pas juste le produit de la matière mais serait l'élément le plus fondamental de la réalité. Ça nous donne un deuxième type de simulation qui était ce que racontait finalement Platon avec son allégorie de la caverne, ce que le Bouddha nous raconte quand il nous dit qu'en fait la réalité est une illusion mais qu'il existe une réalité plus absolue en dernier lieu.

qui pourrait être plus proche peut-être des dernières années c'est le fameux pilule bleue pilule rouge présenté par le film Matrix dans lequel prendre la pilule bleue c'est accepter l'illusion de la société des hommes et de la démocratie et prendre la pilule rouge et d'une certaine manière accepter de découvrir ce qu'il y a derrière le paravent de l'illusion

Exactement et en fait d'ailleurs l'histoire de mon enquête qui se lit vraiment comme un roman on est beaucoup plus dans le registre du roman d'aventure que de l'essai même si j'ai essayé d'être aussi rigoureux que possible et en fait c'est un peu l'idée d'un personnage principal qui est moi-même qui se retrouve à s'intéresser à ce sujet de la simulation et qui avale cette pilule rouge un petit peu malgré lui et qui se rend compte en fait que là on raconte plein d'histoires qui sont formidables et moi je suis très heureux d'être sur ce plateau de France Culture ce soir mais en fait il y a beaucoup de choses de la réalité qu'on ne comprend pas on ne comprend pas la conscience la physique quantique en fait a ouvert tout un tas de possibilités sur la manière dont fonctionne le réel mais ça pose presque plus de questions que ça n'apporte de réponses et d'ailleurs ce qui est assez intéressant c'est que les plus grands physiciens comme Max Planck Erwin Schrödinger ou David Bohr ont fini justement par se tourner vers ces cosmogonies orientales comme l'Advaita Vedanta pour essayer de trouver des réponses au fait que la réalité en dernier lieu était assez intimidante je suis obligé

de vous poser la question que vous avez posée tout au long de vos huit années d'enquête Loïc Escht pensez-vous que nous vivions dans une simulation informatique ? en tout cas je ne peux pas dire que ce n'est pas le cas Jean-Bréel Galassia je vous pose la même question

moi je ne pense pas qu'on vive dans une simulation informatique alors bien sûr je ne suis pas capable de le démontrer il me semble important quand même de bien comprendre qu'il y a d'abord la notion d'intelligence beaucoup d'ambiguïté parce qu'on laisse entendre chez quelqu'un comme Nick Bostrom la superintelligence que c'est une matière qui s'accumule c'est unidimensionnel or ce que montrent les sciences cognitives c'est que nous sommes tous différents et nous avons des activités on le visualise aujourd'hui avec les techniques d'imagerie fonctionnelle cérébrale qui sont différentes selon les intelligents selon les individus selon les cultures selon notre génétique etc ce qui fait la richesse de l'humanité on est tous tous différents et puis deuxième chose c'est cette idée qu'on va pouvoir reproduire une conscience puisque c'est ça qui est derrière avec des moyens qui sont différents or ce que je crois c'est que justement si on changeait de corps on n'aurait pas la même conscience alors croire que de façon simplement informatique par des flux d'informations on va reproduire exactement la même chose que ce que nous sommes ça me semble une illusion alors c'est une illusion que je trouve passionnante du point de vue littéraire du point de vue voilà c'est ça et donc ça a donné naissance à beaucoup de films de romans j'ai même moi-même commis sous un nom d'emprunt Gabriel Naège un livre ce matin maman a été téléchargé voilà c'est ça qui était mais bien sûr tout cela relève de l'imaginaire sinon je n'y crois absolument pas

alors pour conclure cette émission je voudrais qu'on revienne sur la terre réelle de la Silicon Valley et de la tech vous avez tous les deux exprimé des inquiétudes sur l'hybridation par exemple que proposait Elon Musk entre l'humain et l'IA à travers son entreprise de puces vous sur les dérives que pouvaient provoquer les deepfakes et les fake news il y a certains dirigeants de la tech comme Salatman ou Dario Amodei qui tentent de rédiger des constitutions pour moraliser leur IA est-ce que vous croyez à ces garde-fous autonomes est-ce que c'est aux états de s'emparer de ces sujets-là pour créer une sorte de souveraineté politique de l'intelligence artificielle très rapidement Loïc Esht et puis Jean-Gabriel Ganassi

je pense qu'en tout cas on ne peut pas déléguer à Sam Altman ou à Dario Amodei le fait de décrire des manifestes ou des mémorandums sur ça et qu'effectivement à minima des états et des juristes doivent être impliqués dans ces questions-là ce qu'ils veulent c'est imposer une censure l'IA constitutionnelle elle se réfère à un certain nombre de valeurs et on veut cette idée d'aligner les machines sur ces valeurs alors d'abord l'alignement des machines l'alignement des esprits je ne suis pas d'accord parce que je pense qu'il faut qu'on conserve notre liberté d'expression et puis surtout pas déléguer à ces grands représentants de la tech le pouvoir de nous imposer ce qu'ils appellent leurs valeurs qui seront certainement très différentes selon les pays et selon les individus

ni notre rapport au réel ni notre rapport au virtuel merci beaucoup à vous deux c'est la fin de ce débat merci Loïc Esch je rappelle vos deux ouvrages Palo Alto paru en 21 et cette très bonne très minutieuse enquête la simulation qui vient tout juste de paraître aux éditions Lizarène et quant à vous Jean-Bré-Gabriel Ganassia je me permets de citer l'IA expliquée aux humains aux éditions du Seuil en 2024 et j'ai oublié l'autre titre de votre voix servitude virtuelle servitude virtuelle justement qui est tombé dans le sujet 2025 merci également à l'équipe de questions du soir Diane Devance à la programmation à la préparation Mathias Megy Victoria Jérôme Velmont Antoine Héral et Joseph Schlegel à la préparation

qui a été à la préparation à la préparation