L’IA appauvrit-elle notre humanité ? Conversation avec Mazarine Pingeot et Delphine de Vigan

France Culture Les matins de France Culture Astrid De Vilaine

Thomas, cadragénaire en perte de repère, se réveille un matin avec un portable qui n'est pas le sien. Il a accès à l'intégralité de ce téléphone intelligent, celui de Romane Monnier, jeune femme qui laisse des traces numériques à portée de doigt. Plongée dans son intimité et un vertige qui se dégage du dernier roman de Delphine de Vigan. Même vertige comme indomptable chez vous, Mazarin Pinjot, dans Inappropriable, ce que l'IA fait à l'humain, votre dernier essai publié chez Flammarion. Écran, application, vidéo courte, short scroll, mail, ordinateur, chat, intelligence artificielle, la vie au rythme des algorithmes et désormais pensée grâce à vous dans les fictions et les essais.

Vous déplorez la colonisation de nos vies privées comme politiques par les algorithmes et vous partagez cette inquiétude que fait le numérique à notre humanité. C'est pour ça que nous sommes très heureux de vous réunir ce matin. Bonjour à toutes les deux. Bonjour. Alors je commence par le début de vos ouvrages qui je trouve font écho l'un à l'autre. Vous Delphine de Vigan, vous faites entrer, je ne sais pas si c'est pour le bien de la littérature, vous allez nous le dire, tout ce qu'on voit sur nos téléphones portables toute la journée, dans votre livre, dans ces pages blanches de chez Gallimard.

Et vous commencez avec une page Google, comme si elle était copiée-collée sur votre incipite, la malice, un bar, un bistrot, avec 4,2, les notes, les avis des clients. Et puisque c'est ici que commence votre intrigue. Oui, oui, tout à fait. Il me semble que, en tout cas moi je n'avais pas envie d'ignorer ça dès lors que je m'emparais d'un sujet comme celui-ci. Autant y aller carrément et d'entamer le roman par cette page Google, ce qui effectivement peut surprendre, avant qu'on arrive évidemment très vite dans un récit plus classique qui sous-tend le roman. Mais ça me paraissait intéressant d'hybrider presque cette littérature blanche, ou dite blanche, avec justement ce contenu du téléphone.

Oui, puisque c'est G. Gallimard, je ne l'ai pas précisé en introduction. Mais c'est vrai que vous y allez, vous mettez aussi les vocaux. On a l'impression, et j'imagine que c'est fait exprès, d'une sans cesse alternance entre le texte et l'écran qui apparaît dans le texte. Oui, oui, j'avais vraiment envie qu'il y ait cet effet un peu de familiarité, d'immédiaté, quand on ouvre le livre, qu'on s'y retrouve, puisque pratiquement tout le monde aujourd'hui possède un smartphone, l'empoigne je ne sais combien de fois par jour, et donc qu'il y ait cet effet presque de miroir, notamment grâce à la maquette.

Vous, Mazarin Pinjot, c'est peut-être pas Linky Pit, mais c'est la première page, la formule qui m'a marquée, c'est la traînée de poudre, puisque vous parlez notamment de ces LLM, les Large Language Models, l'IA générative qui parle. Ça, c'est le point de départ de votre livre ? Oui, le point de départ, c'est l'IA générative, c'est-à-dire celle qui produit du langage original, comme n'importe quel être humain. Et donc, c'est le moment de bascule dans notre histoire.

Je pense que c'est vraiment un moment très, très important, où il n'y a vraiment plus de possibilité de distinguer l'homme de la machine à partir du langage, alors que le langage était, en tout cas dans la philosophie classique, c'est un auteur comme Descartes, pour ne pas le citer, l'indice de la pensée, donc l'indice de la reconnaissance d'un autre, et chez un autrui, d'un autre homme. Or, aujourd'hui, cet indice ne fonctionne plus, puisque la machine parle aussi bien, et encore une fois, elle produit des contenus originaux. C'est ça, la grande nouveauté.

Et donc, évidemment, ça produit en retour une réflexion à la fois sur ce qui fait notre humanité, mais aussi sur le langage et sur les transformations que ça va induire. Vous parliez, justement, de la page Google que Delphine a... Enfin, et pas uniquement, mais des SMS, etc. C'est très intéressant, je trouve, justement, de le voir publier, le format même de ce qu'on a l'habitude de voir sur nos écrans tactiles, dans la mesure où, précisément, c'est le format qui va transformer la langue. Le format induit des effets de biais sur notre langage, et donc nous adoptons, en quelque sorte, une langue qui est elle-même décidée, fabriquée, formatée par des algorithmes en amont.

Et donc, ça va transformer également notre langue, notre langue de tous les jours, notre langue quotidienne, peut-être à terme notre langue littéraire, mais ça, j'espère qu'on va encore résister. Delphine de Vigan, dans Je suis Romane Meunier, votre dernier roman chez Gallimard. Le langage, il est omniprésent et sous toutes ses formes. Oui, d'ailleurs, quand Mazarine dit résister, pour moi, résister, ça n'est pas ignorer, cette question, et précisément de l'intégrer dans un dispositif littéraire, ou en tout cas, j'aimerais qu'il le soit, c'est une manière de prendre ça en compte, et de donner à voir ces différents registres de langue.

Alors, évidemment, sans être dans quelque chose de complètement mimétique, parce que probablement, ce serait illisible, mais donner à voir, effectivement, la langue écrite des SMS, celle des vocaux, celle des enregistrements, du dictaphone, etc. Cette langue orale, ça me semblait vraiment intéressant de la donner à lire, malgré tout. Et on y est, on a vraiment l'impression de lire un vocal. Ces nouvelles notes que font surtout les jeunes. Et vous jouez également sur les générations dans ce livre, et également sur la chronologie. On va parler du temps, parce que le temps, c'est aussi un thème qui est présent à vos deux livres.

Mais comment vous l'avez réfléchi, cette chronologie alternée, presque, Delphine de Vigan ? Là, pour moi, c'est vraiment l'essentiel, presque, de l'architecture du roman, puisque, au fond, ce qui m'intéresse avant tout, c'est les découvertes que Thomas, ce personnage, ce héros, si je puis dire, fait dans le téléphone de Romain de Meunier, l'amène en permanence, en écho à sa propre histoire, à revisiter un certain nombre de moments clés de sa propre histoire. Donc, voilà, c'est, pour moi, vraiment un aller-retour permanent entre différentes formes de narration, entre différentes temporalités, puisque ça l'amène, effectivement, à se rappeler aussi de choses plus anciennes.

Et, en ce qui concerne Romain de Meunier, c'est pareil, il y a à la fois le présent et le passé qui est évoqué. Je vous propose d'écouter deux philosophes qui peuvent nous aider, et qui, je crois, vous ont aidé à penser les nouveaux usages du langage avec le numérique.

« Chacun connaît la célèbre affirmation de Descartes, je pense, donc je suis. » Nulle formule n'est plus souvent citée, nul point de la doctrine n'est plus souvent commentée. Cependant, si on la considère en elle-même, cette affirmation semble énoncer une évidence banale. Tout homme ne sait-il pas qu'il pense et qu'il existe ? Et faut-il beaucoup de génie pour comprendre que nul ne saurait penser sans être ? Ce n'est donc pas dans son contenu direct, immédiat, qu'il faut chercher le sens et la valeur de la formule de Descartes. Descartes reconnaît lui-même que cette formule est banale et qu'elle aurait pu tomber sous la plume de qui que ce soit.

Mais une vérité philosophique tire sa valeur et son sens de l'ordre dans lequel elle est prise, du moment où elle intervient. Si on la replace dans la philosophie de Descartes, dans l'ensemble de la pensée de Descartes, le « je pense, donc je suis » va nous révéler toute sa force et toute sa richesse.

On vient d'entendre une archive de France Culture diffusée en 1955 et Mazarin Pinjot a trouvé le philosophe qui parle, Ferdinand Alquier, mort en 1985, qui parle de Descartes. C'est l'objet de votre thèse, Descartes. Et puis surtout, c'est peut-être ça aussi le lien dans vos travaux, cette thèse sur Descartes, le langage, et aujourd'hui la machine qui parle. Alors en tout cas, effectivement, ça a été l'un des points de départ de mon questionnement dans le livre, cette question du langage. Du langage à plusieurs titres.

C'est le langage à la fois comme l'expression de la pensée et donc de la philosophie, c'est le matériau même de la philosophie, et puis le langage dans la fiction, puisque c'est aussi le matériau de l'écrivain. Donc évidemment, l'avènement de Satya Générative va bouleverser ces deux champs, et c'est pour ça que c'est tout à fait important. Et voilà, quand il dit « je pense donc je suis », ce fameux cogito cartésien dont parle Alkier là, en fait, je ne vais pas faire un cours sur Descartes, mais ce qui est extraordinaire, c'est que ce « je pense, je suis », il fonctionne parce que tout à coup, lorsque je l'énonce, je fais l'expérience de ma pensée.

Évidemment, ça, la machine ne peut pas faire l'expérience de sa pensée. Évidemment qu'il n'y a pas une réflexivité de la machine au sens où elle l'éprouverait, où elle pourrait dire « je suis ». C'est justement ça la difficulté, c'est qu'elle peut le dire. Elle peut le dire, mais derrière, il n'y a rien. Donc elle peut tout à fait dire « je pense donc je suis ». Elle peut réciter un texte de Descartes, elle peut faire la démonstration même du discours de la méthode ou des méditations métaphysiques. Le problème, c'est qu'il n'y a pas d'intériorité, en quelque sorte. Et son langage, il est produit par des algorithmes de façon statistique, et absolument pas par une façon logique.

Et donc évidemment que le fonctionnement même intérieur, en quelque sorte, du langage n'est pas le même, et pourtant il produit les mêmes effets. Et c'est ça le grand danger. Mais qu'est-ce qui vous effraie dans ces modèles de langage ? Alors il y a beaucoup de choses. Il y a beaucoup de choses, et il y a aussi, je tiens quand même d'abord à le préciser, je ne suis pas du tout technophobe, je trouve que c'est une invention extraordinaire, c'est un outil magnifique, d'autant plus magnifique pour ceux qui ont déjà une formation suffisamment solide pour utiliser leur cerveau, pour utiliser leur esprit critique, et que ça peut être vraiment un allié de la recherche.

En revanche, pour les tout jeunes qui ne sont pas encore passés par ce travail laborieux qui consiste à apprendre, il va offrir la possibilité d'une vraie délégation, une délégation de la pensée. Donc ça, c'est un premier danger, c'est le fait que pour toute une génération qui va être un peu sacrifiée, en tout cas tant qu'on n'a pas pris la mesure de la chose, cette facilité qu'il y a à déléguer le simple fait de penser. Auparavant, la machine, elle permettait de faire des tâches qui étaient répétitives, pas forcément intéressantes aujourd'hui. La machine, elle permet de penser.

Et déléguer la pensée, je pense que là, c'est vraiment l'ouverture vers toutes les formes de barbarie, de fascisme, et il y aura évidemment également des effets politiques. Mais en même temps, vous le précisez bien, surtout à la fin, dans votre conclusion, vous écrivez, on a l'impression que ChatGPT sait tout, mais tout le monde sait que ChatGPT ne sait pas tout. C'est peut-être ça notre chance. Vous, ce que vous déplorez, notamment pour les nouvelles générations, si je vous ai bien vu, c'est peut-être en fait le manque de doute. Alors, ChatGPT sait tout, dans la mesure où ChatGPT fonctionne de façon à répondre à toutes vos questions.

Il ne peut pas être pris à défaut de ne pas pouvoir répondre, et même quand il le dit, enfin je veux dire, il l'annonce, voilà, peut-être qu'il n'existe pas cette... je vais aller chercher dans tel endroit. Au point de se tromper parfois. Alors, bien sûr qu'il peut se tromper. Mais, en revanche, il est fabriqué pour répondre. Il n'est pas fabriqué pour dire, écoute, je vais aller vraiment me poser la question pour de vrai, et peut-être que je n'aurai pas de réponse à ta question. Il n'est pas fait pour ça. Donc, effectivement, il est vraiment du côté du tout. Il est du côté de la puissance, il est du côté de la totalité.

Je pense que l'intelligence humaine, et c'est ça qu'il faudrait creuser, et c'est dans ce chemin-là qu'il faut s'installer, c'est le côté... Enfin, c'est du côté du doute. Alors, on revient à Descartes. C'est du côté d'une forme de vulnérabilité, d'interrogation, de questionnement. Mais d'un questionnement authentique, c'est-à-dire d'un questionnement auquel il n'y a pas une réponse nécessaire. Or, dans le dialogue entre moi et Tchad GPT, je pose une question, Tchad GPT répond. C'est-à-dire qu'on est dans un dialogue où rien de nouveau, rien d'imprévu ne peut se passer.

La vraie altérité, le vrai dialogue, ça serait avec quelqu'un qui pourrait se déplacer et me déplacer et montrer que ma question peut-être n'avait pas de sens ou en tout cas qu'il fallait peut-être la réinterroger elle-même. Et alors, on entre dans un vrai dialogue et surtout dans une expérience d'altérité. Ce que ne peut pas faire la machine.

Delphine de Vigan, l'altérité et le doute, ce sont des notions qui sont très présentes dans votre dernier roman, Je suis Romane Monnier, et notamment dans un chapitre que j'ai beaucoup aimé, La Dispute, qui est une correspondance entre deux jeunes femmes, Romane Monnier et son amie Chloé, uniquement par mail, extrêmement forte, avec beaucoup d'émotions, et où finalement le doute et la confiance peut-être résolvent leur amitié, résolvent la question de la dispute. Oui, en fait, c'est effectivement une manière qu'a une amie de Romane Monnier en permanence remettre en question ce qu'elle dit. et Romane Monnier, il voit une forme de tentative de prise de pouvoir ou de domination.

Mais cette question du doute et de la vérité, elle traverse en effet tout le roman, puisque Romane est un personnage qui, pour des raisons familiales, historiques, a grandi entre deux vérités, on va dire, contradictoires, et donc se pose en permanence cette question de la vérité. La question de la vérité, elle est ultra présente dans votre livre Mazarine Pinjot, « Inappropriable, ce que l'intelligence artificielle fait à l'humain ». Vous dites même, si j'ai bien compris, que l'IA cause l'ère de la post-vérité dans laquelle nous sommes. Elle ne la cause pas parce que l'ère de la post-vérité a commencé bien avant, mais c'est vrai qu'elle en propose la structure technologique.

C'est-à-dire qu'à partir du moment où le langage fonctionne de façon close, en quelque sorte, à partir d'une immense base de données, il ne fonctionne plus jamais, mais structurellement, je veux dire, ce n'est même pas une question idéologique, même s'il y a aussi de l'idéologie là-dedans, mais avant même que ce soit une question idéologique, il ne fonctionne plus jamais en se référant à un réel extérieur, c'est-à-dire cette fonction de référentialité, dire voilà, je suis en train de boire un verre d'eau, c'est vrai parce que effectivement, je suis en train de boire un verre d'eau. Le langage de la machine ne fonctionne pas en fonction de ce réel qui serait extérieur à elle.

Il y a une forme d'autonomie en fait de la production du langage et donc à partir du moment où le langage ne se réfère plus à une extériorité pour dire quelque chose du monde, alors effectivement, il accomplit en quelque sorte la structure de la post-vérité qui consiste dans une indifférenciation en fait entre le vrai et le faux, peu importe que ce soit vrai ou faux. Quand Trump dit il pleuvait à ma cérémonie d'investiture, tout le monde sait que c'est faux au contraire, tout le monde sait que c'est faux parce qu'il y avait des caméras qui filmaient le fait qu'il pleuvait mais ce n'était pas très grave.

L'important c'était qu'on en parle, que ça crée du buzz et l'important surtout c'était qu'en fait son langage fonctionnait selon une structure qui n'était pas celle de la référence au réel mais selon des valeurs de consommation, selon des critères consuméristes à savoir est-ce que ça va marcher ou est-ce que ça ne va pas marcher ? Est-ce qu'on va consommer mon langage ou pas ?

Or on sait bien que pour consommer du langage il vaut mieux que ce langage fasse appel à des émotions, à une forme de radicalité, à une polarisation et donc on sait quel type de langage va mieux fonctionner sur le net plutôt qu'un autre et ça ne favorise absolument pas évidemment ni la vérité ni même l'idée d'en commun sur lequel on pourrait élaborer un débat ce qui est le minimum syndical pour qu'une démocratie fonctionne. Delphine de Vigan vous c'est quoi la menace que vous voyez dans tous ces écrans ? Est-ce que c'est l'addiction ? C'est un peu ce qu'on ressent à la lecture ? Est-ce que c'est les données ? Est-ce que c'est l'identité ?

Cette question de la vérité dont Mazarine vient de parler elle est très présente effectivement dans le roman je le disais donc à la fois pour le personnage à titre familial mais aussi toutes ces questions de post-vérité d'information sont très clairement posées par elle et les personnes qui l'entourent moi ce qui me peut-être ce qui me fait le plus peur si on reste sur cette idée du langage c'est la manière dont ce langage produit par la machine simule finalement le langage humain cette manière de cette bienveillance cette empathie simulée le fait que la machine nous tutoie le fait qu'elle dise je et à un moment donné dans le roman Romane Meunier fait une recherche sur comment disparaître sans laisser de traces et la machine c'est vraiment une recherche que j'ai effectuée pour le roman à un instant T et la machine lui dit tu n'es pas seule qu'est-ce qui se passe tu peux me parler je suis sans jugement on va en parler on va continuer d'en parler ça me fait très très peur on va en parler juste après le journal de 8h Delphine de Vigan Mazarin Pinjot vous restez avec nous

les matins de France Culture Astrid De Vilaine

et l'on reprend cette conversation et ce dialogue inédit ce matin entre vous deux Mazarin Pinjot romancière philosophe qui fait paraître inappropriable ce que l'IA fait à l'humain dans la collection climat de Flammarion on vous doit aussi vivre sans chez Flammarion c'était l'année dernière et ce serait important pour la suite de notre discussion avec vous ce matin Delphine de Vigan merci d'être là romancière vous publiez Je suis Romane Monnier aux éditions Gallimard et je vous ai interrompu pour laisser la place au journal de 8h avec un peu de retard vous étiez en train de nous parler de l'intelligence artificielle comme confidente et en quoi ça pouvait vous effrayer en tout cas Romane elle utilise votre héroïne dans ce livre l'intelligence artificielle pour confier ses doutes oui enfin elle l'utilise à un moment donné où elle fait une recherche très particulière effectivement comme je le disais sur comment disparaître sans laisser de traces et ce qui m'a frappée quand j'ai effectué moi-même cette recherche pour le roman c'est la manière dont l'IA nous répond comme je le disais elle nous tutoie elle fait mine d'être empathique d'être bienveillante elle emploie un langage qui est très proche d'une autre et on parlait tout à l'heure de elle sait tout non elle ne sait pas tout et quand elle se trompe elle le dit avec beaucoup d'assurance parce que moi ça m'est arrivé de faire des recherches sur Tchadjpt dont je connaissais la réponse et de voir qu'en fait la machine vous répond avec une assurance absolument incroyable une réponse totalement fausse et si vous dites bah non tu te trompes elle dit ah excuse-moi etc et elle reproduit parfois une réponse qui est tout aussi fausse alors évidemment après elle continue d'apprendre mais voilà c'est ce simulacre en fait oui cet anthropomorphisme qui me fait peut-être le plus peur je revoyais le week-end dernier le film Her de Spike Jonze qui date de 2013 et en fait on y est c'est-à-dire que ces images de personnes défilant dans la ville avec une petite oreillette qui les rattache à une sorte d'assistant d'alter ego empathique bienveillant disponible 24h sur 24 dont la voix est incarnée alors évidemment en l'occurrence par Scarlett Johansson mais ce qui contribue sans doute à la séduction à la proximité mais on y est en fait ça c'est vraiment c'est aujourd'hui Joaquin Phoenix qui dans ce film en effet tombe amoureux de son IA de la voix de cette IA qui est incarnée par Scarlett Johansson Mazarine Pinjot oui en effet c'est pour ça qu'on en revient au langage à partir du moment où quelque chose vous répond nécessairement il y a une projection anthropomorphique c'est-à-dire que le langage ne peut pas évacuer cette dimension de la relation et c'est pour ça qu'il y a plusieurs fonctions du langage on a parlé tout à l'heure de la fonction référentielle celle qui qui fait que le langage dit quelque chose sur le monde il y a aussi la fonction fatigue il y a d'autres fonctions qui sont qui en fait produisent du lien c'est-à-dire que parfois on dit des choses qui d'ailleurs n'ont pas forcément d'intérêt mais juste pour s'assurer de la présence de l'autre juste pour échanger autre chose uniquement que du contenu mais une forme de lien et donc oui à partir du moment où votre chat GPT vous répond nécessairement vous projetez sur lui une forme d'humanité et il est là le danger c'est-à-dire que ce biais il est intégré à l'algorithme et à partir du moment où il est intégré c'est pas nous qui oui par faiblesse par fragilité projetons sur notre chat GPT des vertus humaines encore une fois c'est intégré à la technologie et il est là le danger parce qu'on sait bien que ça va à la fois produire de nouvelles bulles mais également ça va poser une vraie question sur ce dont on parlait tout à l'heure cette question de l'altérité comment on arrive à reconnaître l'altérité et comment on fait place à cette altérité dans notre vie dès lors qu'on est sans cesse connecté à son IA vous pensez que les jeunes pourraient exercer une forme de confusion entre l'IA et les vrais humains mais pas seulement les jeunes franchement je pense qu'on se rend compte aujourd'hui que toute personne en situation un peu de vulnérabilité psychique peut à un moment donné se perdre d'ailleurs Mazarin cite un exemple dans son ouvrage d'un jeune qui s'est suicidé encouragé entre guillemets par son IA bien sûr qu'il y a un danger dans ce simulacre et dans cette proximité et je rebondis sur cette question du langage parce que Mazarin dans son livre oppose relation et connexion et il me semble que ça c'est très important et aujourd'hui par exemple quelque chose qui est complètement rentré dans le langage c'est la manière d'utiliser le verbe partager jusqu'à présent il me semblait qu'on disait partager avec quelqu'un et aujourd'hui sur les réseaux on dit je te partage je vous partage et il me semble que dans ce détournement un peu syntaxique que je ne sais pas très bien expliquer d'ailleurs j'ignore d'où ça vient parce que je pensais que c'était un anglicisme mais en fait non je te partage c'est justement quelque part moi j'entends je t'impose c'est à dire je ne sais pas qui est en face j'impose à ma communauté enfin j'impose c'est unilatéral exactement c'est unilatéral et ça raconte quelque chose et je trouve qu'il y a beaucoup de choses dans l'évolution de la langue puisque Mazarine disait à l'instant oui aussi ça va influencer notre propre langue quand aujourd'hui les jeunes répètent très souvent en vrai j'avoue en fait on dit beaucoup en fait plein de fois dans notre langage moi-même j'ai eu un moment où je luttais beaucoup parce que j'avais tendance à dire en fait toutes les quatre phrases je trouve que ça raconte quelque chose qu'on a besoin de se rassurer sur une forme sur les faits sur le fait que ça existe en fait ça veut dire on se base sur quelque chose qui existe et on sent bien que toutes ces nouvelles technologies elles nous emmènent effectivement elles nous éloignent d'une forme de réalité de réelle et que par le langage on essaye de lutter contre ça mais c'est comme les vocaux je reprends les vocaux il y en a beaucoup dans le livre de Delphine c'est hyper intéressant parce que c'est comme sur cette question du partage c'est très étonnant de voir aujourd'hui lorsqu'on se parle alors moi je ne le fais pas mais parce que je suis juste nulle et je ne sais pas le faire mais mes enfants en tout cas je sais mais c'est vraiment pas immédiat c'est pas instinctif c'est pas très instinctif il faut rester le doigt collé c'est ça et puis je trouve que ça fait peur de s'enregistrer enfin bon peu importe mon cas personnel en tout cas ce que je trouve intéressant c'est que pour parler à l'autre on s'enregistre et on envoie un enregistrement c'est-à-dire ici que vous diriez c'est-à-dire qu'en fait on ne s'adresse plus à l'autre de la même manière que dans un réseau social lorsqu'on poste quelque chose il n'est pas adressé et donc on assiste à un langage qui s'autonomise des sujets et ça ça va poser quand même un certain nombre de questions à la fois juridiques qui parlent à qui est adressé un message et la question de l'imputabilité de la responsabilité parce qu'une IA qui vous répond et justement qui répond à n'importe quel type de questions y compris des questions sur la manière soit de disparaître soit de disparaître réellement c'est-à-dire par exemple de se suicider qui est responsable qui est responsable dès lors qu'elle produit encore une fois un langage qui est original un contenu qui est original dans le sens où il n'est pas un simple copier-coller d'un texte mais néanmoins la question de l'imputabilité va se poser y compris alors dans un champ plus élargi qui est celui de la création à partir du moment où des IA vont pouvoir écrire des livres faire de la musique etc qui est l'auteur et c'est toute la notion c'est très intéressant de se demander qu'est-ce que c'est qu'être un auteur alors c'est une question qui a été beaucoup travaillée par la philosophie mais là en l'occurrence ça va aussi ouvrir les questions de droit d'auteur de responsabilité et donc on est face à ce nouveau type de problème qui naissent en même temps que l'explosion de l'IA générative on va en écouter un d'auteur et son rapport à l'IA et puis vous réagissez Delphine de Vigure juste après sur mon artisanat propre qui est celui de créer des univers imaginaires des personnages des trames narratives et des vrais coeurs concepts je vois la chose arriver quasiment au même niveau que mon artisanat et je sais que ça va continuer à progresser donc on est face à une espèce de blessure narcissique très forte de quatrième blessure narcissique on les connait après Copernic après la naissance de l'inconscient après Darwin la quatrième c'est qu'on a une forme d'intelligence qui est artificielle qui est simulée mais qui produit des textes et qui produit des idées qui sont au même niveau que les meilleurs experts de leur domaine et qui très bientôt sans doute le dépasseront donc moi quand j'écris quand je travaille et que je vois ça je suis là entre repousser ce qu'elle me propose et essayer de rentrer dans une espèce de crise d'ego ou d'orgueil ou de me dire ben non c'est un nouvel outil qui va encore déployer mon artisanat d'une façon encore plus fine peut-être mais il y a vraiment là en tout cas moi ça y est j'ai arrêté de dire non mais c'est bon c'est pas suffisamment puissant etc c'est pas vrai c'est arrivé à un niveau incroyable Alain Damasio dans l'émission c'est ce soir sur France 5 le 19 février dernier Delphine de Végan vous partagez ce rapport Alia et je trouve qu'il y a une forme de modestie aussi de la part d'un grand écrivain de dire ben oui il est très fort cette intelligence artificielle je crois que dans son cas c'est Claude elle est très forte oui ben je l'ai entendue cette émission je l'avoue qu'elle m'a pas mal effrayée j'ai jamais tenté enfin j'ai jamais exploré Alia sous cet angle là pour essayer de voir dans quelle mesure on pouvait se mesurer à elle en revanche ce qui me semble aujourd'hui quand même hors de sa portée ça rejoint des éléments que Mazarin a exprimé tout à l'heure c'est que Alia elle est là pour répondre à des questions elle produit un langage qui est essentiellement statistique qui n'a pas de sens en soi qui fait sens pour nous mais qui au fond est le résultat de calcul or il me semble que la littérature elle existe pour poser des questions et d'ailleurs Mazarin y fait allusion dans son essai en évoquant une interview de Philippe Roth où il explique à quel point heureusement les romans sont là pour poser des questions et non pas pour apporter des réponses et ça moi je crois que jusqu'à maintenant il me semble en tout cas en tant que romancière un livre comme Je suis Romane Monnier c'est un livre qui est fait de questions qui naît de mes propres questions de mes propres angoisses de ma propre intranquillité par rapport à l'époque dans laquelle j'évolue et je ne crois pas peut-être que c'est naïf je ne crois pas que pour l'instant l'IA saura produire quelque chose de cet ordre là parce que précisément elle ne se pose pas de questions Mazarin Parjot je suis tout à fait je suis tout à fait d'accord sur cette idée que dans la création mais bon en même temps le danger il est présent il est présent et Damasio a tout à fait raison de dire qu'aujourd'hui l'IA peut écrire des livres de très bonne facture mais il y a quand même toujours cette question de reconfigurer un peu différemment le réel à partir du moment où la base de données est déjà là est déjà présente même s'il y a ces phénomènes d'émergence même s'il y a quand même ces phénomènes encore une fois de production originale d'un contenu le romancier le créateur il est quand même là pour introduire un écart pour introduire quelque chose dans un autre ordre et pour voilà pour inviter un lieu d'imaginaire qui est un petit peu à côté de ce réel enfin de ce réel numérisé qui est le lieu de l'IA et donc j'ose espérer mais c'est vraiment enfin voilà je le souhaite autant que je l'espère mais je ne veux pas en attester que le romancier se situera quand même à un endroit du questionnement du réel qui permettra de le montrer différemment qui permettra de le reconfigurer et pas d'une façon statistique et c'est peut-être à cet endroit là que pourront encore se tenir les créateurs les romanciers les musiciens c'est-à-dire introduire quelque chose de neuf mais introduire quelque chose de neuf ce n'est pas introduire du savoir supplémentaire parce que ça là-dessus l'IA est imbattable par définition c'est un savoir exponentiel et donc c'est ouvert à des ajouts infinis en revanche ce qu'elle ne sait pas faire c'est introduire du vide introduire du manque alors c'est en lien effectivement avec ce que vous avez développé dans votre ouvrage que vous avez la gentillesse de citer mais c'est cette idée que ce qui fait notre spécificité c'est pas d'accroître c'est pas d'accroître les connaissances puisque là encore une fois la machine est absolument imbattable c'est plutôt d'introduire de nouvelles formes de vide de nouvelles formes de questionnement et le questionnement authentique celui qui n'apporte pas ou qui n'appelle pas une réponse je ne sais pas si la machine peut le faire précisément parce qu'il n'est pas encore là il n'existe pas et donc peut-être que ce lieu de la création est peut-être encore sanctuarisé mais c'est vrai que la bataille est rude les questions elles sont omniprésentes dans votre dernier roman Je suis Romane Meunier d'Alphine de Vigan puisqu'on a accès à tout le téléphone portable le téléphone intelligent le smartphone de cette héroïne et elle passe sa vie à poser des questions à Google à son application qui lui donne la date de ses prochaines règles à Yuka quand elle veut savoir si elle peut manger ou pas un aliment à combien de pas elle a fait par jour et ça je trouve que c'est vertigineux quand on vous lit puisqu'on fait tous ça Oui c'est ça en fait c'est vertigineux parce que probablement ça nous tend un miroir à quel point aujourd'hui le smartphone est devenu une espèce d'assistant personnel que nous avons dans notre poche et que nous utilisons même sans plus nous en rendre compte pour nous orienter pour nous nourrir pour tout ça je n'invente rien bien sûr ce qui me questionne c'est effectivement à quel point nous avons délégué une grande partie de notre relation au monde à un si petit objet et sans compter que toutes ces applications en fait elles vous mesurent c'est à dire que votre être est mesuré en permanence et vous référez à vos applications pour voir où vous en êtes de votre propre mesure ce qui est quand même assez étonnant c'est à dire que des algorithmes ont décidé d'une forme de enfin vous proposent une forme de maîtrise absolue sur vous-même qui évidemment est corrélée une déprise totale également et concomitante mais c'est quand même une certaine vision de l'homme assez réduite que celle d'être mesurée en tout lieu et en tout temps et c'est le temps qui se réduit aussi à travers ces algorithmes ces écrans ces intelligences artificielles vous en parlez toutes les deux très bien de manière différente et vous Mazarine Pinjot dans cet ouvrage inappropriable chez Flammarion vous faites le lien avec la démocratie je vous lis on ne peut penser la démocratie en dehors de la temporalité or internet comme les réseaux sociaux font fi de cette temporalité et vous amenez à ce moment-là un concept le présentisme oui alors c'est François Hartog qui l'a pensé c'est pas moi oui l'historien comme vous cité mais en effet je vais m'emprunter oui c'est l'une des dimensions qui met en danger la démocratie c'est pas la seule mais cette histoire d'immédiateté et qui met aussi en danger la formation on parlait tout à l'heure du fait de déléguer sa pensée à la machine pourquoi est-ce que c'est dangereux parce que la pensée elle nécessite un temps incompressible pour se déployer et cette temporalité c'est à la fois ça qui la structure c'est ça qui produit des pensées nouvelles et aussi une appropriation bien sûr et donc cette immédiateté des réseaux sociaux ou de l'intelligence artificielle générative puisqu'elle nous répond effectivement de façon immédiate crée un effet de transparence et là on a quelque chose qui est extrêmement dangereux et qui est un discours qui revient d'ailleurs très souvent cette idée d'intermédiation on serait dans une vraie démocratie parce qu'il y aurait une union il n'y aurait plus de médiation institutionnelle la presse est une médiation et bien d'une certaine manière on pourrait faire fi des journalistes pour avoir un accès direct et horizontal à l'opinion publique aux autres etc et donc il y a cette idée bizarre de dire s'il n'y a pas d'intermédiaire on est dans une vraie démocratie ce qui est évidemment une pure illusion puisqu'une vraie démocratie ne peut en réalité se garantir qu'à la faveur de médiation qui permette justement de transformer la parole de ne laisser filtrer qu'une parole qui est censée déjà avoir été argumentée etc or peut-être qu'il n'y a plus de médiation institutionnelle mais il y a une médiation qui est fondamentale qui est la médiation technologique et qui est d'autant plus dangereuse qu'elle est invisible c'est-à-dire que lorsqu'on écrit sur un réseau social ou qu'on regarde des infos sur une appli on ne voit pas par définition la technologie qui est la sous-temps c'est toute l'ambivalence des écrans un écran à la fois ça vous donne accès à et en même temps ça vous filtre c'est le mot même écran ça fait écran et le fait d'oublier qu'il y a cette médiation qui ne sont absolument pas neutres évidemment nous donne l'idée et l'illusion d'une forme de transparence or je pense qu'on est dans un double phénomène d'abord la transparence en elle-même doit être repensée parce que je pense que ça soit un idéal démocratique et ensuite alors il faudrait développer c'est intéressant que vous nous disiez je pense pas en tout cas je pense qu'il y a une forme idéologique derrière cette injonction à la transparence mais une forme idéologique qui va très bien de gens comme Elon Musk ou Mark Zuckerberg c'est peut-être l'objet dans votre prochain livre en tout cas est-ce qu'on ne peut pas se dire aussi que finalement on a beaucoup parlé de cette arrivée de Tchad GPT que ça allait tout changer et on voit là y compris sur les marchés financiers il y avait un très bon article dans les échos que ça ne prend pas tant que ça les entreprises ne prennent pas forcément le tournant aussi vite que tous ces patrons de big tech américains auraient aimé et il y avait aussi un excellent article cette semaine dans le New York Times qui montrait que les américains au moins 60% d'entre eux trouvent que Elon Musk et tous ces géants de la tech ont trop de pouvoir on peut faire peut-être confiance à notre humanité justement pour ne pas être dupe très bonne nouvelle merci Mazarin Pinjot le problème c'est que c'est un pouvoir extrêmement insidieux parce que encore une fois c'est toute la problématique des nouvelles technologies il n'y aurait pas de nouvelles technologies si on ne les utilisait pas c'est nous qui faisons vivre les nouvelles technologies mais comme tous les progrès techniques depuis l'histoire de l'humanité oui enfin on n'utilise pas la bombe atomique tous les 4 matins alors que nos smartphones on les utilise H24 et non seulement on les utilise mais on les co-construit mais derrière ça il y a quand même des algorithmes et il y a quand même des majors et ces majors c'est quand même elles qui décident de ces algorithmes c'est à dire que il y a une forme de préemption sur notre langage or le langage et on revient à la question politique le langage c'est censé être le lieu précisément de la démocratie s'il y a un régime politique qui s'intéresse au langage c'est bien la démocratie puisqu'elle fonctionne à travers un espace public on peut échanger des arguments on peut échanger des opinions or à partir du moment où il y a une préemption du langage par des algorithmes qui contiennent des biais et qui contiennent une certaine vision du monde comment voulez-vous qu'il puisse y avoir des échanges qui soient régulés qui soient garantis qui puissent produire de la pensée qui puissent produire quelque chose qui serait de l'ordre de la démocratie et donc c'est tout cet espace public qui est remis en danger parce que c'est d'abord un espace privé en réalité notre espace public aujourd'hui majoritaire c'est un espace privé Delphine de Vigan comment entendez-vous ce qu'est en train de nous dire Mazarine Pinjo j'ai l'impression moi d'entendre le mot addiction et quand je vous lis j'aime beaucoup la formule que vous avez son téléphone contient les heures tangentes qu'est-ce que c'est ce rapport au temps par rapport au téléphone et puis même quand vous écrivez l'appareil est un aimant oui je rejoins ce que Mazarine vient de dire c'est-à-dire que pour moi il y a une forme de leurre à croire aujourd'hui qu'on peut vraiment lutter contre ça l'addiction elle existe déjà et aujourd'hui de toute façon de fait on ne peut plus se passer de nos téléphones pour un certain nombre d'activités extrêmement quotidiennes et utiles quand Mazarine dit insidieux oui il me semble que c'est très insidieux et très insidieux la manière d'ailleurs dont toutes ces applications évoluent je pense par exemple à Instagram la manière aujourd'hui dont aujourd'hui on est soumis à ce flux incessant infini ce défilement infini il y a un moment donné où Instagram vous disait si vous étiez abonné à différents comptes vous êtes arrivé au bout de ce que vous avez des comptes auxquels vous êtes abonné vous êtes arrivé au bout de la mise à jour maintenant l'application ne le dit plus parce que précisément elle nous encourage en permanence à continuer sans fin donc oui il y a une forme de toute façon d'addiction mais même de dépendance réelle qui à mon avis rend très compliqué le fait de continuer à être ensemble de continuer à faire société on voit bien à quel point nous sommes enfermés les uns les autres dans des petites bulles idéologiques je rebondis sur ce que Mazarin disait par exemple tout à l'heure à propos du dictaphone pas du dictaphone des vocaux oui pour moi ça raconte quelque chose complètement de l'époque comment finalement on ne peut plus parler comment se parler ça devient presque intrusif téléphoner à quelqu'un et aujourd'hui il y a des gens qui vous disent c'est intrusif donc on envoie un vocal et l'autre dans sa bulle au moment qui lui convient prend la peine de répondre et bien on a réussi nous trois à parler ce matin et je vous en remercie Delphine Devigan romancière je suis Romane Monnier chez Gallimard et Mazarin Pinjot romancière et philosophe vous faites paraître inappropriable ce que l'intelligence artificielle fait à l'humain dans la collection Climat de Flammarion merci à toutes les deux merci à vous

merci à tous