L’IA appauvrit-elle notre humanité ? Conversation avec Mazarine Pingeot et Delphine de Vigan

France Culture Les matins de France Culture Astrid De Vilaine

Thomas, cadragénaire en perte de repère, se réveille un matin avec un portable qui n'est pas le sien. Il a accès à l'intégralité de ce téléphone intelligent, celui de Romane Monnier, jeune femme qui laisse des traces numériques à portée de doigt. Plongée dans son intimité est un vertige qui se dégage du dernier roman de Delphine de Vigan. Même vertige comme indomptable chez vous, Mazarin Pinjot, dans Inappropriable, ce que l'IA fait à l'humain, votre dernier essai publié chez Flammarion. Écran, application, vidéo courte, short scroll, mail, ordinateur, chat, intelligence artificielle, la vie au rythme des algorithmes et désormais pensée grâce à vous dans les fictions et les essais.

Vous déplorez la colonisation de nos vies privées comme politiques par les algorithmes et vous partagez cette inquiétude que fait le numérique à notre humanité. C'est pour ça que nous sommes très heureux de vous réunir ce matin. Bonjour à toutes les deux. Bonjour. Alors je commence par le début de vos ouvrages qui je trouve font écho l'un à l'autre. Vous Delphine de Vigan, vous faites entrer, je ne sais pas si c'est pour le bien de la littérature, vous allez nous le dire, tout ce qu'on voit sur nos téléphones portables toute la journée, dans votre livre, dans ces pages blanches de chez Gallimard.

Et vous commencez avec une page Google, comme si elle était copiée-collée sur votre incipite, la malice, un bar, un bistrot, avec 4,2, les notes, les avis des clients. Et puisque c'est ici que commence votre intrigue. Oui, oui, tout à fait. Il me semble que, en tout cas moi je n'avais pas envie d'ignorer ça dès lors que je m'emparais d'un sujet comme celui-ci. Autant y aller carrément et d'entamer le roman par cette page Google, ce qui effectivement peut surprendre, avant qu'on arrive évidemment très vite dans un récit plus classique qui sous-tend le roman. Mais ça me paraissait intéressant d'hybrider presque cette littérature blanche, ou dite blanche, avec justement ce contenu du téléphone.

Oui, puisque c'est G. Gallimard, je ne l'ai pas précisé en introduction. Mais c'est vrai que vous y allez, vous mettez aussi les vocaux. On a l'impression, et j'imagine que c'est fait exprès, d'une sans cesse alternance entre le texte et l'écran qui apparaît dans le texte. Oui, oui, j'avais vraiment envie qu'il y ait cet effet un peu de familiarité, d'immédiaté, quand on ouvre le livre, qu'on s'y retrouve, puisque pratiquement tout le monde aujourd'hui possède un smartphone, l'empoigne je ne sais combien de fois par jour, et donc qu'il y ait cet effet presque de miroir, notamment grâce à la maquette.

Vous, Mazarin Pinjot, c'est peut-être pas Linky Pit, mais c'est la première page, la formule qui m'a marquée, c'est la traînée de poudre, puisque vous parlez notamment de ces LLM, les Large Language Models, l'IA générative qui parle. Ça, c'est le point de départ de votre livre ? Oui, le point de départ, c'est l'IA générative, c'est-à-dire celle qui produit du langage original, comme n'importe quel être humain. Et donc, c'est le moment de bascule dans notre histoire.

Je pense que c'est vraiment un moment très, très important, où il n'y a vraiment plus de possibilité de distinguer l'homme de la machine à partir du langage, alors que le langage était, en tout cas dans la philosophie classique, c'est un auteur comme Descartes, pour ne pas le citer, l'indice de la pensée, donc l'indice de la reconnaissance d'un autre, et chez un autrui, d'un autre homme. Or, aujourd'hui, cet indice ne fonctionne plus, puisque la machine parle aussi bien, et encore une fois, elle produit des contenus originaux. C'est ça, la grande nouveauté.

Et donc, évidemment, ça produit en retour une réflexion à la fois sur ce qui fait notre humanité, mais aussi sur le langage et sur les transformations que ça va induire. Vous parliez, justement, de la page Google que Delphine a... Enfin, et pas uniquement, mais des SMS, etc. C'est très intéressant, je trouve, justement, de le voir publier, le format même de ce qu'on a l'habitude de voir sur nos écrans tactiles, dans la mesure où, précisément, c'est le format qui va transformer la langue. Le format induit des effets de biais sur notre langage, et donc nous adoptons, en quelque sorte, une langue qui est elle-même décidée, fabriquée, formatée par des algorithmes en amont.

Et donc, ça va transformer également notre langue, notre langue de tous les jours, notre langue quotidienne, peut-être à terme notre langue littéraire, mais ça, j'espère qu'on va encore résister. Delphine de Vigan, dans Je suis Romane Meunier, votre dernier roman chez Gallimard. Le langage, il est omniprésent et sous toutes ses formes. Oui, d'ailleurs, quand Mazarine dit résister, pour moi, résister, ça n'est pas ignorer, cette question, et précisément de l'intégrer dans un dispositif littéraire, ou en tout cas, j'aimerais qu'il le soit, c'est une manière de prendre ça en compte, et de donner à voir ces différents registres de langue.

Alors, évidemment, sans être dans quelque chose de complètement mimétique, parce que probablement, ce serait illisible, mais donner à voir, effectivement, la langue écrite des SMS, celle des vocaux, celle des enregistrements, du dictaphone, etc. Cette langue orale, ça me semblait vraiment intéressant de la donner à lire, malgré tout. Et on y est, on a vraiment l'impression de lire un vocal. Ces nouvelles notes que font surtout les jeunes. Et vous jouez également sur les générations dans ce livre, et également sur la chronologie. On va parler du temps, parce que le temps, c'est aussi un thème qui est présent à vos deux livres.

Mais comment vous l'avez réfléchi, cette chronologie alternée, presque, Delphine de Vigan ? Là, pour moi, c'est vraiment l'essentiel, presque, de l'architecture du roman, puisque, au fond, ce qui m'intéresse avant tout, c'est les découvertes que Thomas, ce personnage, ce héros, si je puis dire, fait dans le téléphone de Romain de Meunier, l'amène en permanence, en écho à sa propre histoire, à revisiter un certain nombre de moments clés de sa propre histoire. Donc, voilà, c'est, pour moi, vraiment un aller-retour permanent entre différentes formes de narration, entre différentes temporalités, puisque ça l'amène, effectivement, à se rappeler aussi de choses plus anciennes.

Et, en ce qui concerne Romain de Meunier, c'est pareil, il y a à la fois le présent et le passé qui est évoqué. Je vous propose d'écouter deux philosophes qui peuvent nous aider, et qui, je crois, vous ont aidé à penser les nouveaux usages du langage avec le numérique.

« Chacun connaît la célèbre affirmation de Descartes, je pense, donc je suis. » Nulle formule n'est plus souvent citée, nul point de la doctrine n'est plus souvent commentée. Cependant, si on la considère en elle-même, cette affirmation semble énoncer une évidence banale. Tout homme ne sait-il pas qu'il pense et qu'il existe ? Et faut-il beaucoup de génie pour comprendre que nul ne saurait penser sans être ? Ce n'est donc pas dans son contenu direct, immédiat, qu'il faut chercher le sens et la valeur de la formule de Descartes. Descartes reconnaît lui-même que cette formule est banale et qu'elle aurait pu tomber sous la plume de qui que ce soit.

Mais une vérité philosophique tire sa valeur et son sens de l'ordre dans lequel elle est prise, du moment où elle intervient. Si on la replace dans la philosophie de Descartes, dans l'ensemble de la pensée de Descartes, le « je pense donc je suis » va nous révéler toute sa force et toute sa richesse.

On vient d'entendre une archive de France Culture diffusée en 1955 et Mazarin Pinjot a trouvé le philosophe qui parle, Ferdinand Alquier, mort en 1985, qui parle de Descartes, c'est l'objet de votre thèse, Descartes, et puis surtout, c'est peut-être ça aussi le lien dans vos travaux, cette thèse sur Descartes, le langage et aujourd'hui la machine qui parle. Alors en tout cas, effectivement, ça a été l'un des points de départ de mon questionnement dans le livre, cette question du langage.

Du langage à plusieurs titres, c'est le langage à la fois comme l'expression de la pensée et donc de la philosophie, c'est le matériau même de la philosophie, et puis le langage dans la fiction, puisque c'est aussi le matériau de l'écrivain. Donc évidemment, l'avènement de cette IA générative va bouleverser ces deux champs, et c'est pour ça que c'est tout à fait important. Et voilà, quand il dit « je pense donc je suis », ce fameux cogito cartésien dont parle Alkier là, en fait, je ne vais pas faire un cours sur Descartes, mais ce qui est extraordinaire, c'est que ce « je pense, je suis », il fonctionne parce que tout à coup, lorsque je l'énonce, je fais l'expérience de ma pensée.

Évidemment, ça, la machine ne peut pas faire l'expérience de sa pensée. Évidemment qu'il n'y a pas une réflexivité de la machine au sens où elle éprouverait, où elle pourrait dire « je suis ». C'est justement ça la difficulté, c'est qu'elle peut le dire. Elle peut le dire, mais derrière, il n'y a rien. Donc elle peut tout à fait dire « je pense donc je suis ». Elle peut réciter un texte de Descartes, elle peut faire la démonstration même du discours de la méthode ou des méditations métaphysiques. Le problème, c'est qu'il n'y a pas d'intériorité, en quelque sorte. Et son langage, il est produit par des algorithmes, de façon statistique, et absolument pas par une façon logique.

Et donc évidemment que le fonctionnement même intérieur, en quelque sorte, du langage n'est pas le même, et pourtant il produit les mêmes effets. Et c'est ça le grand danger. Mais qu'est-ce qui vous effraie dans ces modèles de langage ? Alors il y a beaucoup de choses. Il y a beaucoup de choses, il y a aussi, je tiens quand même d'abord à le préciser, je ne suis pas du tout technophobe, je trouve que c'est une invention extraordinaire, c'est un outil magnifique, d'autant plus magnifique pour ceux qui ont déjà une formation suffisamment solide pour utiliser leur cerveau, pour utiliser leur esprit critique, et que ça peut être vraiment un allié de la recherche.

En revanche, pour les tout jeunes qui ne sont pas encore passés par ce travail laborieux qui consiste à apprendre, il va offrir la possibilité d'une vraie délégation, une délégation de la pensée. Donc ça c'est un premier danger, c'est le fait que pour toute une génération qui va être un peu sacrifiée, en tout cas tant qu'on n'a pas pris la mesure de la chose, cette facilité qu'il y a à déléguer le simple fait de penser. Auparavant, la machine permettait de faire des tâches qui étaient répétitives, pas forcément intéressantes. Aujourd'hui, la machine permet de penser.

Et déléguer la pensée, je pense que là, c'est vraiment l'ouverture vers toutes les formes de barbarie, de fascisme, et il y aura évidemment également des effets politiques. Mais en même temps, vous le précisez bien, surtout à la fin dans votre conclusion, vous écrivez qu'on a l'impression que ChatGPT sait tout, mais tout le monde sait que ChatGPT ne sait pas tout. C'est peut-être ça notre chance. Vous, ce que vous déplorez notamment pour les nouvelles générations, si je vous ai bien lu, c'est peut-être en fait le manque de doute. Alors, ChatGPT sait tout, dans la mesure où ChatGPT fonctionne de façon à répondre à toutes vos questions.

Il ne peut pas être pris à défaut de ne pas pouvoir répondre, et même quand il le dit, enfin, je veux dire, il annonce, voilà, peut-être qu'il n'existe pas cette... Je vais aller chercher dans tel endroit. Au point de se tromper parfois. Alors, bien sûr qu'il peut se tromper. Mais en revanche, il est fabriqué pour répondre. Il n'est pas fabriqué pour dire, écoute, je vais aller vraiment me poser la question pour de vrai, et peut-être que je n'aurai pas de réponse à ta question. Il n'est pas fait pour ça. Donc, effectivement, il est vraiment du côté du tout. Il est du côté de la puissance, il est du côté de la totalité.

Je pense que l'intelligence humaine, et c'est ça qu'il faudrait creuser, et c'est dans ce chemin-là qu'il faut s'installer, c'est le côté, enfin, c'est du côté du doute. Alors, on revient à Descartes, c'est du côté d'une forme de vulnérabilité, d'interrogation, de questionnement, mais d'un questionnement authentique, c'est-à-dire d'un questionnement auquel il n'y a pas une réponse nécessaire. Or, dans le dialogue entre moi et Tchad GPT, je pose une question, Tchad GPT répond, c'est-à-dire qu'on est dans un dialogue où rien de nouveau, rien d'imprévu ne peut se passer.

La vraie altérité, le vrai dialogue, ça serait avec quelqu'un qui pourrait se déplacer et me déplacer et montrer que ma question peut-être n'avait pas de sens ou en tout cas qu'il fallait peut-être la réinterroger elle-même. Et alors, on entre dans un vrai dialogue et surtout dans une expérience d'altérité, ce que ne peut pas faire la machine.

Delphine de Vigan, l'altérité et le doute, ce sont des notions qui sont très présentes dans votre dernier roman, Je suis Romane Monnier, et notamment dans un chapitre que j'ai beaucoup aimé, La Dispute, qui est une correspondance entre deux jeunes femmes, Romane Monnier et son amie Chloé, uniquement par mail, extrêmement forte, avec beaucoup d'émotions, et où finalement le doute et la confiance peut-être résolvent leur amitié, résolvent la question de la dispute. Oui, en fait, c'est effectivement une manière qu'a une amie de Romane Monnier en permanence remettre en question ce qu'elle dit. Et Romane Monnier, il voit une forme de tentative de prise de pouvoir ou de domination.

Mais cette question du doute et de la vérité, elle traverse en effet tout le roman, puisque Romane est un personnage qui, pour des raisons familiales, historiques, a grandi entre deux vérités, on va dire, contradictoires, et donc se pose en permanence cette question de la vérité. La question de la vérité, elle est ultra présente dans votre livre Mazarine Pinjot, « Inappropriable, ce que l'intelligence artificielle fait à l'humain ». Vous dites même, si j'ai bien compris, que l'IA cause l'ère de la post-vérité dans laquelle nous sommes. Alors, elle ne la cause pas, parce que l'ère de la post-vérité a commencé bien avant, mais c'est vrai qu'elle en propose la structure technologique.

C'est-à-dire qu'à partir du moment où le langage fonctionne de façon close, en quelque sorte, à partir d'une immense base de données, il ne fonctionne plus jamais, mais structurellement, je veux dire, ce n'est même pas une question idéologique, même s'il y a aussi de l'idéologie là-dedans. Mais avant même que ce soit une question idéologique, il ne fonctionne plus jamais en se référant à un réel extérieur. C'est-à-dire cette fonction de référentialité, dire, voilà, je suis en train de boire un verre d'eau, c'est vrai parce que, effectivement, je suis en train de boire un verre d'eau. Le langage de la machine ne fonctionne pas en fonction de ce réel qui serait extérieur à elle.

Il y a une forme d'autonomie, en fait, de la production du langage. Et donc, à partir du moment où le langage ne se réfère plus à une extériorité pour dire quelque chose du monde, alors, effectivement, il accomplit, en quelque sorte, la structure de la post-vérité qui consiste dans une indifférenciation, en fait, entre le vrai et le faux, peu importe que ce soit vrai ou faux. Quand Trump dit il pleuvait à ma cérémonie d'investiture, tout le monde sait que... Enfin, il faisait beau, au contraire, tout le monde sait que c'est faux parce qu'il y avait des caméras qui filmaient le fait qu'il pleuvait. Mais ce n'était pas très grave. L'important, c'était qu'on en parle, que ça crée du buzz.

Et l'important, surtout, c'était que, en fait, son langage fonctionnait selon une structure qui n'était pas celle de la référence au réel, mais selon des valeurs de consommation, selon des critères consuméristes, à savoir, est-ce que ça va marcher ou est-ce que ça ne va pas marcher ? Est-ce qu'on va consommer mon langage ou pas ? Or, on sait bien que pour consommer du langage, il vaut mieux que ce langage fasse appel à des émotions, à une forme de radicalité, à une polarisation. Et donc, on sait quel type de langage va mieux fonctionner sur le net plutôt qu'un autre.

Et ça ne favorise absolument pas, évidemment, ni la vérité, ni même l'idée d'en commun sur lequel on pourrait élaborer un débat, ce qui est le minimum syndical pour qu'une démocratie fonctionne. Delphine de Vigan, vous, c'est quoi la menace que vous voyez dans tous ces écrans ? Est-ce que c'est l'addiction ? C'est un peu ce qu'on ressent à la lecture ? Est-ce que c'est les données ? Est-ce que c'est l'identité ?

Cette question de la vérité dont Mazarin vient de parler, elle est très présente, effectivement, dans le roman, je le disais, donc à la fois pour le personnage à titre familial, mais aussi toutes ces questions de post-vérité, d'information sont très clairement posées par elle et les personnes qui l'entourent. Moi, peut-être ce qui me fait le plus peur si on reste sur cette idée du langage, c'est la manière dont ce langage produit par la machine simule finalement le langage humain. Cette manière de cette bienveillance, cette empathie simulée, le fait que la machine nous tutoie, le fait qu'elle dise « je ».

Et à un moment donné, dans le roman, Romane Meunier fait une recherche sur comment disparaître sans laisser de traces et la machine, c'est vraiment une recherche que j'ai effectuée pour le roman à un instant T et la machine lui dit « tu n'es pas seule, qu'est-ce qui se passe ? Tu peux me parler ? » « Je suis sans jugement. » On va en parler, on va continuer d'en parler. Ça, ça me fait très très peur. On va en parler juste après le journal de 8h, Delphine Devigan, Mazarin Pinjeau, vous restez avec nous.

Les Matins de France Culture, Astrid De Vilaine.

Et l'on reprend cette conversation et ce dialogue inédit ce matin entre vous deux, Mazarin Pinjeau, romancière, philosophe, qui fait paraître inappropriable ce que l'IA fait à l'humain dans la collection Climat de Flammarion. On vous doit aussi vivre sans chez Flammarion. C'était l'année dernière et ce serait important pour la suite de notre discussion avec vous ce matin, Delphine Devigan. Merci d'être là, romancière. Vous publiez « Je suis Romane Monnier » aux éditions Gallimard. Et je vous ai interrompue pour laisser la place au journal de 8h avec un peu de retard. Vous étiez en train de nous parler de l'intelligence artificielle comme confidente et en quoi ça pouvait vous effrayer.

En tout cas, Romane, elle utilise votre héroïne dans ce livre « L'intelligence artificielle » pour confier ses doutes. Oui, elle l'utilise à un moment donné où elle fait une recherche très particulière effectivement comme je le disais sur comment disparaître sans laisser de traces. Et ce qui m'a frappée quand j'ai effectué moi-même cette recherche pour le roman, c'est la manière dont l'IA nous répond. Comme je le disais, elle nous tutoie, elle fait mine d'être empathique, d'être bienveillante, elle emploie un langage qui est très proche d'une autre. Et on parlait tout à l'heure de « Elle sait tout ». Non, elle ne sait pas tout.

Et quand elle se trompe, elle le dit avec beaucoup d'assurance parce que moi, ça m'est arrivé de faire des recherches sur le chat GPT dont je connaissais la réponse et de voir qu'en fait, la machine vous répond avec une assurance absolument incroyable, une réponse totalement fausse. Et si vous dites « Non, tu te trompes », elle dit « Ah, excuse-moi », etc. et elle reproduit parfois une réponse qui est tout aussi fausse. Alors évidemment, après, elle continue d'apprendre. Mais voilà, c'est ce simulacre, en fait, cet anthropomorphisme qui me fait peut-être le plus peur. Je revoyais le week-end dernier le film « Her » de Spike Jonze qui date de 2013.

Et en fait, on y est, c'est-à-dire que ces images de personnes défilant dans la ville avec une petite oreillette qui les rattache à une sorte d'assistant, d'alter-ego, empathique, bienveillant, disponible 24 heures sur 24, dont la voix est incarnée. Alors évidemment, en l'occurrence, par Scarlett Johansson, ce qui contribue sans doute à la séduction, à la proximité. Mais on y est, en fait. C'est vraiment, c'est aujourd'hui. Joaquin Phoenix qui, dans ce film, en effet, tombe amoureux de son IA, de la voix de cette IA qui est incarnée par Scarlett Johansson. Mazarine Pinjot. Oui, en effet, c'est pour ça qu'on en revient au langage.

À partir du moment où quelque chose vous répond, nécessairement, il y a une projection anthropomorphique. C'est-à-dire que le langage ne peut pas évacuer cette dimension de la relation. Et c'est pour ça qu'il y a plusieurs fonctions du langage. On a parlé tout à l'heure de la fonction référentielle, celle qui fait que le langage dit quelque chose sur le monde. Il y a aussi la fonction fatigue. Il y a d'autres fonctions qui, en fait, produisent du lien. C'est-à-dire que parfois, on dit des choses qui, d'ailleurs, n'ont pas forcément d'intérêt, mais juste pour s'assurer de la présence de l'autre, juste pour échanger autre chose uniquement que du contenu, mais une forme de lien.

Et donc, oui, à partir du moment où votre chat GPT vous répond, nécessairement, vous projetez sur lui une forme d'humanité. Et il est là, le danger. C'est-à-dire que ce biais, il est intégré à l'algorithme. Et à partir du moment où il est intégré, ce n'est pas nous qui, oui, par faiblesse, par fragilité, projetons sur notre chat GPT des vertus humaines. Encore une fois, c'est intégré à la technologie. Et il est là, le danger. Parce qu'on sait bien que ça va à la fois produire de nouvelles bulles, mais également, ça va poser une vraie question sur ce dont on parlait tout à l'heure, cette question de l'altérité.

Comment on arrive à reconnaître l'altérité et comment on fait place à cette altérité dans notre vie dès lors qu'on est sans cesse connecté à son IA ? Vous pensez que les jeunes pourraient exercer une forme de confusion entre l'IA et les vrais humains ? Mais pas seulement les jeunes. Franchement, je pense qu'on se rend compte aujourd'hui que toute personne en situation un peu de vulnérabilité psychique peut, à un moment donné, se perdre. D'ailleurs, Mazarine cite un exemple dans son ouvrage d'un jeune qui s'est suicidé encouragé entre guillemets par son IA. Bien sûr, qu'il y a un danger dans ce simulacre et dans cette proximité.

Et je rebondis sur cette question du langage parce que Mazarine dans son livre oppose relation et connexion. Il me semble que ça, c'est très important. Et aujourd'hui, par exemple, quelque chose qui est complètement rentré dans le langage, c'est la manière d'utiliser le verbe partager jusqu'à présent. Il me semblait qu'on disait partager avec quelqu'un. Et aujourd'hui, sur les réseaux, etc., on dit je te partage, je vous partage. Et il me semble en fait que dans ce détournement un peu syntaxique que je ne sais pas très bien expliquer. D'ailleurs, j'ignore d'où ça vient parce que je pensais que c'était un anglicisme mais en fait, non.

Je te partage, c'est justement quelque part, moi j'entends je t'impose, c'est-à-dire je ne sais pas qui est en face, j'impose à ma communauté, enfin j'impose. C'est unilatéral et ça raconte quelque chose et je trouve qu'il y a beaucoup de choses dans l'évolution de la langue puisque Mazarine disait à l'instant oui aussi ça va influencer notre propre langue quand aujourd'hui les jeunes répètent très souvent en vrai, j'avoue, en fait, on dit beaucoup en fait plein de fois dans notre langage. Moi-même, j'ai eu un moment où je luttais beaucoup parce que j'avais tendance à dire en fait toutes les quatre phrases.

Je trouve que ça raconte quelque chose qu'on a besoin de se rassurer sur une forme sur les faits, sur le fait que ça existe. En fait, ça veut dire qu'on se base sur quelque chose qui existe et on sent bien que toutes ces nouvelles technologies elles nous emmènent effectivement, elles nous éloignent d'une forme de réalité, de réelle et que par le langage on essaye de lutter contre ça.

Mais c'est comme les vocaux, je reprends les vocaux, il y en a beaucoup dans le livre de Delphine, c'est hyper intéressant parce que c'est comme sur cette question du partage, c'est très étonnant de voir aujourd'hui lorsqu'on se parle, alors moi je ne le fais pas mais parce que je suis juste nulle et je ne sais pas le faire mais mes enfants en tout cas, ce n'est pas par avocale. Je sais mais ce n'est vraiment pas immédiat. Ce n'est pas instinctif. Ce n'est pas très instinctif. Il faut rester le doigt collé. C'est ça. Et puis je trouve que ça fait peur de s'enregistrer.

Bon, peu importe mon cas personnel, en tout cas ce que je trouve intéressant c'est que pour parler à l'autre, on s'enregistre et on envoie un enregistrement. C'est narcissique vous diriez ? C'est-à-dire qu'en fait on ne s'adresse plus à l'autre de la même manière que dans un réseau social lorsqu'on poste quelque chose, il n'est pas adressé. Et donc on assiste à un langage qui s'autonomise des sujets.

Et ça, ça va poser quand même un certain nombre de questions à la fois juridiques qui parlent, à qui est adressé un message et la question de l'imputabilité, de la responsabilité parce qu'une IA qui vous répond et justement qui répond à n'importe quel type de questions y compris des questions sur la manière soit de disparaître soit de disparaître réellement c'est-à-dire par exemple de se suicider qui est responsable qui est responsable dès lors qu'elle produit encore une fois un langage qui est original, un contenu qui est original dans le sens où il n'est pas un simple copier-coller d'un texte mais néanmoins la question de l'imputabilité va se poser y compris dans un champ plus élargi qui est celui de la création à partir du moment où des IA vont pouvoir écrire des livres faire de la musique etc.

Qui est l'auteur ? Et c'est toute la notion c'est très intéressant de se demander qu'est-ce que c'est qu'être un auteur ? Alors c'est une question qui a été beaucoup travaillée par la philosophie mais là en l'occurrence ça va aussi ouvrir les questions de droit d'auteur de responsabilité et donc on est face à ce nouveau type de problème qui naissent en même temps que l'explosion de l'IA générative. On va en écouter un d'auteur et son rapport à l'IA et puis vous réagissez Delphine de Vigure juste après.

Sur mon artisanat propre qui est celui de créer des univers imaginaires des personnages des trames narratives et des vrais cœur concepts je vois la chose arriver quasiment au même niveau que mon artisanat et je sais que ça va continuer à progresser. Donc on est face à une espèce pour moi de blessure narcissique très forte de quatrième blessure narcissique on les connait après Copernic après la naissance de l'inconscient après Darwin la quatrième c'est qu'on a une forme d'intelligence qui est artificielle qui est simulée mais qui produit des textes et qui produit des idées qui sont au même niveau que les meilleurs experts de leur domaine et qui très bientôt sans doute le dépasseront.

Donc moi quand j'écris quand je travaille et que je vois ça je suis là entre repousser ce qu'elle me propose et essayer de rentrer dans une espèce de crise d'ego ou d'orgueil ou de me dire ben non c'est un nouvel outil qui va encore déployer mon artisanat d'une façon encore plus fine peut-être mais il y a vraiment là en tout cas moi ça y est j'ai arrêté de dire non mais c'est bon c'est pas suffisamment puissant etc. c'est pas vrai c'est arrivé à un niveau incroyable.

Alain Damasio dans l'émission c'est ce soir sur France 5 le 19 février dernier Delphine Devegan vous partagez ce rapport Alia et je trouve qu'il y a une forme de modestie aussi de la part d'un grand écrivain de dire ben oui il est très fort cette intelligence artificielle je crois que dans son cas c'est Claude elle est très forte.

Oui ben je l'ai entendue cette émission je l'avoue qu'elle m'a pas mal effrayée j'ai jamais tenté enfin j'ai jamais exploré Alia sous cet angle là pour essayer de voir dans quelle mesure on pouvait se mesurer à elle en revanche ce qui me semble aujourd'hui quand même hors de sa portée ça rejoint des éléments que Mazarine a exprimés tout à l'heure c'est que Alia elle est là pour répondre à des questions elle produit un langage qui est essentiellement statistique qui n'a pas de sens en soi qui fait sens pour nous mais qui au fond est le résultat de calcul or il me semble que la littérature elle existe pour poser des questions et d'ailleurs Mazarine y fait allusion dans son essai en évoquant une interview de Philippe Roth où il explique à quel point heureusement les romans sont là pour poser des questions et non pas pour apporter des réponses et ça moi je crois que jusqu'à maintenant il me semble en tout cas en tant que romancière un livre comme Je suis Romane Meunier c'est un livre qui est fait de questions qui naît de mes propres questions de mes propres angoisses de ma propre intranquillité par rapport à l'époque dans laquelle j'évolue et je ne crois pas peut-être que c'est naïf je ne crois pas que pour l'instant l'IA saura produire quelque chose de cet ordre-là parce que précisément elle ne se pose pas de questions Mazarine Parjot je suis tout à fait d'accord sur cette idée que dans la création mais bon en même temps le danger il est présent il est présent et Damasio a tout à fait raison de dire qu'aujourd'hui l'IA peut écrire des livres de très bonne facture mais il y a quand même toujours cette question de reconfigurer un peu différemment la réelle à partir du moment où la base de données est déjà là est déjà présente même s'il y a ces phénomènes d'émergence même s'il y a quand même ces phénomènes encore une fois de production originale d'un contenu le romancier enfin le créateur il est quand même là pour introduire un écart pour introduire quelque chose dans un autre ordre et pour voilà pour inviter un lieu d'imaginaire qui est un petit peu à côté de ce réel enfin de ce réel numérisé qui est le lieu de l'IA et donc j'ose espérer mais c'est vraiment enfin voilà je le souhaite autant que je l'espère mais je ne veux pas en attester que le romancier se situera quand même à un endroit du questionnement du réel qui permettra de le montrer différemment qui permettra de le reconfigurer et pas d'une façon statistique et c'est peut-être à cet endroit-là que pourront encore se tenir les créateurs les romanciers les musiciens c'est-à-dire introduire quelque chose de neuf mais introduire quelque chose de neuf ce n'est pas introduire du savoir supplémentaire parce que ça là-dessus il y a l'état imbattable par définition c'est un savoir exponentiel et donc c'est ouvert à des ajouts infinis en revanche ce qu'elle ne sait pas faire c'est introduire du vide introduire du manque alors c'est en lien effectivement avec ce que vous avez développé dans votre ouvrage que vous avez la gentillesse de citer mais c'est cette idée que ce qui fait notre spécificité ce n'est pas d'accroître les connaissances puisque là encore une fois la machine est absolument imbattable c'est plutôt d'introduire de nouvelles formes de vide de nouvelles formes de questionnement et le questionnement authentique celui qui n'apporte pas ou qui n'appelle pas une réponse je ne sais pas si la machine peut le faire précisément parce qu'il n'est pas encore là il n'existe pas et donc peut-être que ce lieu de la création est peut-être encore sanctuarisé mais c'est vrai que la bataille est rude les questions elles sont omniprésentes dans votre dernier roman Je suis Romane Meunier d'Alphine de Vigan puisqu'on a accès à tout le téléphone portable le téléphone intelligent le smartphone de cette héroïne et elle passe sa vie à poser des questions à Google à son application qui lui donne la date de ses prochaines règles à Yuka quand elle veut savoir si elle peut manger ou pas un aliment à combien de pas elle a fait par jour et ça je trouve que c'est vertigineux quand on vous lit puisqu'on fait tous ça Oui c'est ça c'est vertigineux parce que probablement ça nous tend un miroir à quel point aujourd'hui le smartphone est devenu une espèce d'assistant personnel que nous avons dans notre poche et que nous utilisons même sans plus nous en rendre compte pour nous orienter pour nous nourrir pour tout ça je n'invente rien bien sûr ce qui me questionne c'est effectivement à quel point nous avons délégué une grande partie de notre relation au monde à un si petit objet et sans compter que toutes ces applications en fait elles vous mesurent c'est à dire que votre être est mesuré en permanence et vous référez à vos applications pour voir où vous en êtes de votre propre mesure ce qui est quand même assez étonnant c'est à dire que des algorithmes ont décidé d'une forme de enfin vous proposent une forme de maîtrise absolue sur vous-même qui évidemment est corrélée à une déprise totale également et concomitante mais c'est quand même une certaine vision de l'homme assez réduite que celle d'être mesuré en tout lieu et en tout temps et c'est le temps qui se réduit aussi à travers ces algorithmes ces écrans ces intelligences artificielles vous en parlez toutes les deux très bien de manière différente et vous Mazarin Pinjot dans cet ouvrage inappropriable chez Flammarion vous faites le lien avec la démocratie je vous lis on ne peut penser la démocratie en dehors de la temporalité or internet comme les réseaux sociaux font fi de cette temporalité et vous amenez à ce moment-là un concept le présentisme oui alors c'est François Arthog qui l'a pensé c'est pas moi oui l'historien comme vous cité mais en effet je lui emprunte oui c'est l'une des dimensions qui met en danger la démocratie c'est pas la seule mais cette histoire d'immédiateté et qui met aussi en danger la formation on parlait tout à l'heure du fait de déléguer sa pensée à la machine pourquoi est-ce que c'est dangereux parce que la pensée elle nécessite un temps incompressible pour se déployer et cette temporalité c'est à la fois ça qui la structure c'est ça qui produit des pensées nouvelles et aussi une appropriation bien sûr et donc cette immédiateté des réseaux sociaux ou de l'intelligence artificielle générative puisqu'elle nous répond effectivement de façon immédiate crée un effet de transparence et là on a quelque chose qui est extrêmement dangereux et qui est un discours qui revient d'ailleurs très souvent cette idée d'intermédiation on serait dans une vraie démocratie parce qu'il n'y aurait plus de médiation institutionnelle la presse est une médiation et bien d'une certaine manière on pourrait faire fi des journalistes pour avoir un accès direct et horizontal à l'opinion publique aux autres etc et donc il y a cette idée bizarre de dire s'il n'y a pas d'intermédiaire on est dans une vraie démocratie ce qui est évidemment une pure illusion puisqu'une vraie démocratie ne peut en réalité se garantir qu'à la faveur de médiations qui permettent justement de transformer la parole de ne laisser filtrer qu'une parole qui est censée déjà avoir été argumentée etc or peut-être qu'il n'y a plus de médiation institutionnelle mais il y a une médiation qui est fondamentale qui est la médiation technologique et qui est d'autant plus dangereuse qu'elle est invisible c'est-à-dire que lorsqu'on écrit sur un réseau social ou qu'on regarde des infos sur une appli on ne voit pas par définition la technologie qui la soutient c'est toute l'ambivalence des écrans un écran à la fois ça vous donne accès à et en même temps ça vous filtre le mot même écran ça fait écran et le fait d'oublier qu'il y a cette médiation qui ne sont absolument pas neutres évidemment nous donne l'idée et l'illusion d'une forme de transparence or je pense qu'on est dans un double phénomène d'abord la transparence en elle-même doit être repensée parce que je ne pense pas du tout que ce soit un idéal démocratique et ensuite alors il faudrait développer c'est intéressant que vous nous disiez je ne pense pas en tout cas je pense qu'il y a une forme idéologique derrière cette injonction à la transparence mais une forme idéologique qui va très bien de gens comme Elon Musk ou Mark Zuckerberg ce sera peut-être l'objet dans votre prochain livre en tout cas est-ce qu'on ne peut pas se dire aussi que finalement on a beaucoup parlé de cette arrivée de tchat GPT que ça allait tout changer et on voit là y compris sur les marchés financiers il y avait un très bon article dans les échos que ça ne prend pas tant que ça les entreprises ne prennent pas forcément le tournant aussi vite que tous ces patrons de big tech américains auraient aimé et il y avait aussi un excellent article cette semaine dans le New York Times qui montrait que les américains au moins 60% d'entre eux trouvent que Elon Musk et tous ces géants de la tech ont trop de pouvoir on peut faire peut-être confiance à notre humanité justement pour ne pas être dupe très bonne nouvelle merci Mazarin Pinjot le problème c'est que ça a un pouvoir extrêmement insidieux parce que encore une fois c'est toute la problématique des nouvelles technologies il n'y aurait pas de nouvelles technologies si on ne les utilisait pas c'est nous qui faisons vivre les nouvelles technologies mais comme tous les progrès techniques depuis l'histoire de l'humanité oui enfin on n'utilise pas la bombe atomique tous les 4 matins alors que nos smartphones on les utilise H24 et non seulement on les utilise mais on les co-construit mais derrière ça il y a quand même des algorithmes et il y a quand même des majors et ces majors c'est quand même elles qui décident de ces algorithmes c'est à dire que il y a une forme de préemption sur notre langage or le langage et on revient à la question politique le langage c'est censé être le lieu précisément de la démocratie s'il y a un régime politique qui s'intéresse au langage c'est bien la démocratie puisqu'elle fonctionne à travers un espace public on peut échanger des arguments on peut échanger des opinions or à partir du moment où il y a une préemption du langage par des algorithmes qui contiennent des biais et qui contiennent une certaine vision du monde comment voulez-vous qu'il puisse y avoir des échanges qui soient régulés qui soient garantis qui puissent produire de la pensée qui puissent produire quelque chose qui serait de l'ordre de la démocratie donc c'est tout cet espace public qui est remis en danger parce que c'est d'abord un espace privé en réalité notre espace public aujourd'hui majoritaire c'est un espace privé Delphine de Vigan comment entendez-vous ce qu'est en train de nous dire Mazarin Pinjo j'ai l'impression moi d'entendre le mot addiction et quand je vous lis j'aime beaucoup la formule que vous avez son téléphone contient les heures tangentes qu'est-ce que c'est ce rapport au temps par rapport au téléphone et puis même quand vous écrivez l'appareil est un aimant oui je rejoins ce que Mazarin vient de dire c'est-à-dire que pour moi il y a une forme de leurre à croire aujourd'hui qu'on peut vraiment lutter lutter contre ça l'addiction elle existe déjà et aujourd'hui de toute façon de fait on ne peut plus se passer de nos téléphones pour un certain nombre d'activités extrêmement quotidiennes et utile donc je quand Mazarin dit insidieux oui il me semble que c'est très insidieux et très insidieux la manière d'ailleurs dont toutes ces toutes ces applications évoluent je pense par exemple à Instagram la manière aujourd'hui dont aujourd'hui on est soumis à ce flux incessant infini ce défilement infini il y a un moment donné où Instagram vous disait si vous étiez abonné à différents comptes vous êtes arrivé au bout de ce que vous avez des comptes auxquels vous êtes abonné vous êtes arrivé au bout de la mise à jour maintenant l'application ne le dit plus parce que précisément elle nous encourage en permanence à continuer sans fin donc oui il y a une forme de toute façon d'addiction mais même de dépendance réelle qui à mon avis rend très compliqué le fait de continuer à faire à être ensemble de continuer à faire société on voit bien à quel point nous sommes enfermés les uns les autres dans des petites bulles idéologiques je rebondis sur ce que Mazarin disait par exemple tout à l'heure à propos du dictaphone pas du dictaphone des vocaux oui pour moi ça raconte quelque chose complètement de l'époque comment finalement on ne peut plus parler comment se parler ça devient presque intrusif téléphoner à quelqu'un et aujourd'hui il y a des gens qui vous disent c'est intrusif donc on envoie un vocal et l'autre dans sa bulle au moment qui lui convient prend la peine de répondre et bien on a réussi nous trois à parler ce matin et je vous en remercie Delphine Devigan romancière je suis Romane Monnier chez Gallimard et Mazarin Pinjot romancière et philosophe vous faites paraître inappropriable ce que l'intelligence artificielle fait à l'humain dans la collection Climat de Flammarion merci à toutes les deux merci à vous