D’Asimov à Philip K. Dick : quand la science-fiction anticipe la révolution de l’IA

France Culture.

L

'IA dans la fiction. Révolution ou menace pour les auteurs. Guillaume Erner.

Bonjour

à tous et merci d'être là dans ce Studio 104 de la Maison de la Radio.

Voilà,

il y a

quelques

jours, on s'était dit que nous voulions faire une émission parce qu'il y a presque 50 ans, on ne

va

pas chipoter, Philippe Cadic faisait un discours extrêmement important sur notre monde et d'autres mondes parce qu'on parle toujours d'intelligence artificielle et c'est pourquoi je voulais inviter Hervé Letellier. Bonjour Hervé, auteur de l'Anomalie Tridoncourt chez Gallimard, mais aussi Loïc Escht, auteur de la simulation enquête sur la théorie qui fascine la Silicon Valley et si notre monde n'existait pas aux éditions des Arènes. Voilà, nous voulions évoquer l'intelligence artificielle et la littérature et puis voilà.

Notre souhait de départ a été percuté, percuté par l'actualité puisque figurez-vous que l'un des favoris pour le prix Goncourt, Télisson Aurélien avec un livre « C'était ça ou mourir » publié aux éditions Grasset est suspecté d'avoir écrit toute partie de ce livre grâce à l'intelligence artificielle. Alors, il ne s'agit pas bien sûr de parler de lui en tant que tel, mais bien entendu, tout cela nous donne à penser, nous donne à réfléchir et c'est ce qu'on va faire dans cette émission.

–

Hervé Letellier, cela fait quelques mois que vous réfléchissez justement à l'utilisation de l'intelligence artificielle dans la littérature.

– Oui,

j'ai commencé en fait à y réfléchir il y a trois ans avec une série d'articles dans Le Monde consacrés à ChatGPT puisque c'était la première fois que la machine produisait du langage. Enfin, ça existait auparavant, mais d'une manière différente. Les LLM ont amené dans la manière de fonctionner des machines un type de production langagière qui était jusqu'à présent un peu inconnu. Donc, on peut s'interroger sur qu'est-ce que c'est que le langage, qu'est

-ce

que c'est que la conscience, qu'est

-ce

que c'est que l'intelligence, mais surtout, on peut s'interroger sur qu'est

-ce

que c'est que la littérature et qu'est-ce qui est la spécificité de l'écriture littéraire. Et c'est cette question, je pense, que pose l'affaire dont on parlait et qui va se poser de plus en plus dans les années qui viennent. C'est-à-dire, les auteurs, je pense, ne vont pas se priver d'un outil volontairement,

mais

que vont-ils en faire et comment vont-ils l'utiliser ? A quel stade de la création vont-ils l'utiliser ? Est-ce qu

'ils

vont l'utiliser de manière documentaire

? Est

-ce qu

'ils

vont l'utiliser de manière, disons, scénaristique

? Ou

est-ce qu'ils vont l'utiliser de manière productiviste, c'est

-à

-dire produire du texte ? C'est trois niveaux différents. Les deux premiers me paraissent, disons, déontologiquement possibles. Le dernier me paraît, c'est même pas un problème déontologique pour le dernier, c'est un problème simplement d'existence de l'auteur. Qu'est-ce qu'on est ? A quoi on sert ? Et pourquoi on fait ce métier ? Et c'est cette question-là qui est peut-être la question la plus fondamentale. Et pour parler de chacun des auteurs qui vont faire appel à l'écriture spécifiquement avec de l'IA, c'est-à-dire demander à de l'IA de produire du texte pour eux, la question est de savoir quelle est la place qu'ils occupent.

Dites

-moi, Hervé, une machine à écrire des textes, je veux dire à écrire de manière autonome des textes,

ça

avait déjà

été... Alors oui,

oui, oui, en fait, vous avez parlé d'anniversaire pour Cadic, mais il

y

en

a

un autre qu'on oublie. Mais que je vous ai invité pour célébrer. Mais que

nous allons célébrer

ensemble, ce sont les trois siècles des voyages de Gulliver. En 1726 sont produits les voyages de Gulliver. Et à Balny-Barbie, qui est un des voyages un peu oubliés de l'émuel Gulliver, existe une machine à l'Académie de, je crois que c'est Lagoda, qui est une machine en bois,

une

machine en bois qui produit du texte. Et ce texte a une spécificité, c'est qu'il produit de l'histoire, de la philosophie, il peut même produire des cartes géographiques,

il

peut absolument tout produire,

de

la théologie, avec donc cette... Alors, la machine n

'est

pas complètement décruite et est en bois. Alors, on est passé au silicium, mais c'est très intéressant de voir que c'est un problème très ancien. Ensuite, il s'est passé beaucoup d'années avant qu'un deuxième livre sorte sur ces questions de la création d'intelligence artificielle, mais 150 ans pour être précis. Mais c'est le premier, vraiment, qui aborde cette question de la fabrication de langage par des machines. Loïc

Escht, vous, vous avez écrit un livre absolument passionnant sur la simulation, donc vous évoquez la possibilité d'autres univers possibles, de création de cet univers, et si notre univers était tout simplement une création de l'informatique.

Et

puis là aussi, l'actualité nous télescope, puisqu'il y a une simulation littéraire. Qu

'est

-ce que ça vous inspire

?

C'est sûr que le débat, il est absolument passionnant. Moi, personnellement, dans le livre, justement, je raconte que ma pratique, elle est déjà hybridée avec l'intelligence artificielle. Je remercie ChatGPT au même titre que mes éditeurs, mes amis, les gens qui m'ont accompagné. L'endroit où je l'utilise, ce n

'est

pas forcément pour de la production de textes à proprement parler, d'autant plus que moi, je fais de la non-fiction, donc je suis beaucoup sur... Je raconte mes expériences. Enfin, à un moment donné, voilà, quand je fais du reportage, quand je prends des champignons, enfin, l'IA ne peut pas l'écrire... Ce qui prend des champignons, il doit vous le dire.

Après, des

champignons, pas les champignons de Paris.

Non,

mais

voilà, je prends cet exemple-là, mais l'IA ne peut pas raconter le bad trip à ma place a priori. En revanche, là où, en fait, je l'ai beaucoup utilisé, c'est justement sur un sujet qui suppose comme une grande abstraction. En fait, à travers cette histoire de simulation, les questions que je pose dans le livre, c'est qu'est-ce que la réalité et qu'est-ce que la conscience ? Et je ne peux pas, en fait, solliciter mon éditeur toutes les 4 secondes pour avoir une espèce de ping-pong intellectuel sur... Tiens, j'ai pensé à ci, à ça ou à ça. Donc, du coup, ChatGPT, à cet endroit-là, est vraiment devenu, je dirais, un formidable partenaire.

Justement, parce qu'on utilise tous ChatGPT ou d'autres modèles, d'ailleurs, peu importe, pour rédiger, quelles sont les limites que vous vous êtes fixées ?

Moi, je ne me suis pas fixé vraiment de limites, mais j'ai presque envie de dire que j'ai eu un peu le problème inverse.

C'est

que le livre, aujourd'hui, fait une taille à peu près décente. Il est un peu en dessous de 400 pages. Mais ma V1 faisait plus du double. Et alors, ChatGPT m'a aussi permis, quelquefois, de, justement, travailler à la réduction. Je lui disais, bon, écoute, j'ai écrit ça. Est-ce que tu n

'as

pas des suggestions à me faire d'endroit où je pourrais un peu couper dans ma phrase ? Et en fait, ça ne

m

'a pas fait gagner du temps. Ça a été un temps monstrueux. Je pense que j'ai passé 6 mois, quasiment, à être dans ce travail d'éditing. Mais pour aller sur la question, en fait,

ce

que ça pose, je trouve, cette histoire de l'utilisation de l'IA, qui, pour moi, n'est pas grave à proprement parler. On est dans une espèce de forme contemporaine d'hybridation artistique. Par contre, ça pose la question de, un, est-ce qu'une oeuvre a moins de valeur si elle a été écrite ou co-écrite par une IA ? Et deuxième question, est-ce qu'il faut le dire ou pas ? Et j'ai l'impression que le débat, là, aujourd'hui, il est vachement cristallisé là-dessus. Moi, ça ne me dérange pas, en fait, qu'un auteur, à un moment donné,

ait,

enfin, voilà, ait potentiellement co-écrit son texte avec. Mais j'entendais, je ne vais pas dire qui, mais

voilà,

un ami qui est dans la littérature, qui a été dans un prix qui, justement, a récompensé ce roman. Et donc, il me racontait qu'il avait une grande tirade devant les autres jurés pour le soutenir. Et en fait, rétrospectivement, en disant, ah, peut-être qu'en fait, j'ai soutenu un texte qui, finalement, n'est pas totalement transparent, disons, sur la manière dont il a été engendré. Du coup, voilà, il s

'est

senti un peu con.

Qu

'est-ce que vous en pensez, Hervé Letellier ? D'autant que, jusqu'ici, on sait que le plagiat, c'est moyen. Mais, par contre, personne n'a jamais dit qu'il était interdit d'utiliser un modèle d'intelligence artificielle pour écrire

un

roman ou

un texte.

Non, une fois de plus, le problème n'est pas un problème moral ou n'est pas un problème éthique.

Pour

les auteurs, c'est une question d'une sorte d'orgueil à produire du texte, quoi.

Enfin,

j'écoutais, il n

'y a

pas très longtemps, Amélie Nothomb, que je trouve assez clair sur le sujet. C'est-à

-dire

qu'il faut que, jusqu'à la dernière virgule, tout soit de soi, quoi. Je comprends assez cette démarche.

C

'est-à-dire qu'il faut pouvoir s'approprier l'intégralité d'un livre qu'on a pu écrire.

Pour

un auteur, ça me paraît essentiel. Je fais une petite différence, sans doute, entre une écriture qu'on peut appeler journalistique, qui est très digne, qui est informationnelle, qui est structurée, qui, parfois, est un peu romancée pour pouvoir, justement, toucher son lecteur. Et une écriture littéraire, qui est une écriture dans laquelle chacun des mots, chacun des phrases, a une dimension très intime, quoi, d'intimité, d'incarnation. Cette différence, elle est quand même importante. Et donc, moi, individuellement, parce que c'est toujours des questions individuelles, c'est pas des questions globales.

Je sais que des auteurs comme Damasio, qui sont des auteurs très dignes, font appel à l'IA. Moi, j'aurais du mal à en faire usage pour autre chose que de la doc et autre chose que, parfois, une réflexion scénaristique. Mais c'est tout. Si je devais aller au-delà, j'aurais l'impression de ne pas faire mon travail et de ne pas avancer moi-même. Même pour moi, ça ne m'apporterait rien.

Bon,

mais dans le travail de l'écrivain, on sait bien que certains ont des travaux,

comment

dirais-je, très étroits avec leur éditeur, leur éditrice. D'autres se font aider par une équipe. Il y

a

même des écrivains célèbres qui avaient une équipe de plumes. Bref, la question de l'authenticité, elle se pose. Mais on sait bien qu'elle ne se pose pas de manière simple lorsqu'il s'agit d'un livre, d'un roman ou d'un essai.

Oui, c

'est vrai. Chez moi, j'ai des Alexandre Dumas qui ne sont pas signés Alexandre Dumas et Auguste Maquet. Donc, la question de l'équipe, c'est une question qui peut se poser. C'est vrai aussi en peinture. Il y

a

des Véronaises qui sont faits par l'atelier de Véronaise et qui sont signés à la fin par Véronaise. Donc, c'est une question qui est intéressante, qui pose la question auctoriale de manière extrêmement forte. Musicalement, c'est plus compliqué. La plupart des musiciens font en général des musiques. On n'imagine pas une équipe Beethoven qui soit derrière Ludwig.

Non,

mais vous

pouvez imaginer une équipe. Au niveau auteur, ça peut arriver. Après tout, Boileau-Narsejac, ça existe. Donc,

il

y a des auteurs qui sont multiples. Loulipo produit des textes collectifs. Ce n

'est

pas un problème. C'est la question, une fois de plus, que même si c'est collectif, ça reste auctorial, c'est-à-dire fait par des humains. Je n'ai rien contre les machines. Je le tiens à dire pour l'avenir, au cas où cette émission serait

écoutée

au moment où décidons de nous détruire. Je vous aime. Vous avez peur

?

Vous avez un peu peur. Bien sûr. Je suis très sincèrement inquiet. Et ça, c'est un autre débat qui n'est pas sur la question de la création, qui est sur la question de la prise du pouvoir des machines, mais

qui

est une question très ancienne, elle aussi, même au niveau littéraire. Donc, cette question, elle est purement auctoriale, c'est-à-dire vraiment, quelle est ma position à moi sur cette question-là ? Je vais prendre un exemple,

qui

est l'exemple, par exemple, de la création de l'hypogramme. Un l'hypogramme, c'est un texte qui ne contient pas le E,

c

'est la disparition de Pérec. Il n

'y a

pas très longtemps, avec un ami qui s'appelle Sébastien Bailly, qui s'occupe beaucoup des questions d'IA, Sébastien me disait, je lui signalais que jusqu'à présent, les IA avaient du mal à faire des phrases sans E.

Et

il m'envoie un texte écrit par une IA, qui est une sorte de disparition de Pérec,

à

la Pérec, sans E, effectivement, mais elles savent maintenant.

Et

quelle est la différence, en fait, entre un texte produit par une machine qui obéit aux mêmes contraintes que celle que s'imposait Pérec, et celle que s'impose Pérec lui-même ? La différence, c'est Pérec. Et c'est une différence d'importance, c'est-à-dire qu'au fait, ce qui m'intéresse, moi, c'est de savoir que quelqu'un, à un moment donné, a fait des listes, s'est occupé de fabriquer quelque chose avec,

et

savoir qu'une machine l'a produit dans trois minutes, ça me déprime un petit peu, et c'est ce rapport-là que je souhaite avoir en tant qu'auteur avec mon lecteur.

Mais

je pensais que les amis de Pérec lui fournissaient des mots ou des phrases sans E, justement. Aussi, oui. La disparition, c

'est

un livre collectif. C'est-à-dire que Claude Berge arrivait avec une démonstration sans E, je ne sais plus qui lui a fourni, Jacques Roubault lui a fourni Beauze Assoupie, qui a remplacé Beauze Endormie dans le texte. Bien entendu, ça ne marche pas bien, Beauze Endormie, dans un lippogramme. Et donc, ce livre est un petit peu collectif. Il a d'ailleurs commencé à deux, Marcel Benabou et Georges Perrec ont commencé ensemble. Donc, la dimension collective existe toujours à l'oulipo. Et d'ailleurs, cette question de la fabrication par machine,

on

l'avait commencé il y a longtemps à l'oulipo, il y a 60 ans à peu près, où on avait créé un atelier qui s'appelait l'atelier de littérature assistée par la mathématique et l'ordinateur, qui s'appelait l'ALAMO,

et

dont le slogan était « Mieux vaut faire à l'AMO qu'à la main

».

Donc, il y avait cette démarche... On peut l'applaudir.

On

peut applaudir les grands anciens, tous disparus, qui ont eu

cette

idée idiote. Mais c'est peut

-être

un assez beau slogan. Alors après, mieux vaut faire à la clôture qu'à la main, j'en suis moins certain. On

ne va pas t'applaudir à nouveau. Non,

mais c'est une question qui est une question intéressante. Loïc Esht,

on peut aussi considérer que des textes écrits par l'intelligence artificielle ont une esthétique, des esthétiques différentes d'ailleurs. Alors, il y a une expression que j'aimerais que vous me définissiez, qui est l'IA-slop.

Vous

allez le dire avec votre bel accent anglais. Donc, c'est une sorte de bouillie qui est produite par l'IA. Mais justement, si on prend les premiers textes produits par ChatGPT et aujourd'hui ChatGPT Alpha, enfin bref, les différents modèles, je pourrais faire la même chose avec Claude ou avec DeepSync, il y a eu une évolution notable. Et donc, on peut faire des commentaires différents sur ces textes-là.

Alors,

ouais, c'est clair. Disons qu'en tout cas, c'est vrai que j'irais dans le sens d'Hervé à l'endroit qu'écrire un livre, c'est d'abord une aventure en fait personnelle. On commence à un endroit,

on

finit à un autre. Et en fait, il nous traverse tout un tas de choses. Et je crois que le plaisir du livre, au-delà même de le livrer ensuite à un lectorat, c'est d'abord l'aventure qu'on traverse soi-même. Et si du coup, effectivement, on délègue toute cette dimension d'expérience, finalement, de seuil humain en fait à la machine, il n

'y a

pas vraiment d'intérêt d'écrire des livres. Maintenant, ce que je trouve intéressant dans l'histoire, encore une fois, qui nous agite, c'est que quelque part, tout le monde a été berné. Et ça veut dire qu'en fait, il a quand même eu la capacité, cet auteur, d'utiliser l'intelligence artificielle d'une manière absolument géniale. En fait, ça veut dire qu'à minima, c'est peut-être pas un très bon écrivain au sens pur et naturaliste. Bon, encore qu'on s'entend, ça reste à... On va voir s'il est démontré ou pas que le livre est full IA. Et d'ailleurs, peut-être qu

'on

n'y arrivera jamais. Mais si tant est que ce ne

soit

pas le cas, bon, il démontre quand même une capacité, en fait, d'utiliser l'outil et de le pousser à un endroit qui est assez remarquable. Et pareil, jusqu'à preuve du contraire, il mobilise des histoires qui sont les siennes, liées à Haïti, à la migration, à des choses qu'il a pu traverser. Et donc, finalement, c'est vrai que ça vient toujours poser la question de, bon, OK, qui est l'auteur ? Mais en revanche, si, in fine, le lecteur a été traversé d'une émotion comme ça a l'air d'être le cas et comme les prix pleuvent, c'est bien qu'il se passe quelque chose. Donc, ça nous amène quand même à se poser un petit peu, encore une fois, cette question de...

Moi, je ne jetterais pas, en fait, le bébé avec l'eau du bain, c'est ça ? Mais, justement, par rapport

à cette écriture et au style littéraire, lorsque vous utilisez les différents modèles, lorsque vous les avez vus évoluer, qu'est-ce que ça vous inspire sur leur aptitude, leurs compétences littéraires,

le

Yikesht

? Bon, moi, j'ai toujours un peu l'habitude de dire que, en fait, quelque part, l'IA est meilleur que nous dans tous les domaines. Alors, peut-être que l'IA n'est pas un meilleur écrivain que Hervé Letellier, qui, à un moment donné,

a

gagné un concours. Mais, par rapport à, probablement, 99% des gens dans le public, l'IA, un peu de base, écrit mieux. Et, alors, par exemple, si, moi, non, je me mets à l'endroit du code ou de faire de la physique ou de la philosophie ou que sais-je, en fait, je pense qu'elle m'éclate un peu dans tous les domaines. Donc, en fait, on est toujours face, quand même, à cette intelligence qui est absolument remarquable. Alors, il y a une deuxième question qui se pose, c'est, est-elle consciente ? Mais, moi, ce que je note aussi dans cette histoire, c'est qu

'il

y

a

un peu une blessure d'ego des écrivains, là, du coup. On a une espèce de profession qui se met en avant en disant, non, mais attendez, enfin... Et,

si

je pousse encore un petit peu l'idée, je vais peut-être aller sur un terrain qui est quasiment mystique, mais, en fait, elles nous viennent d'où, les idées ? Elles nous viennent d'où,

l

'intuition, en tant qu'auteur, en fait ? Est-ce qu'à un moment donné, on ne se connecte pas à quelque chose ? Est-ce qu'on ne capte pas des choses ? C'est pour faire un petit pas de côté, mais en science, par exemple, il y a un phénomène qu'on appelle les découvertes multiples ou les découvertes simultanées indépendantes. Pour des raisons absolument inimaginables, au même endroit du globe, à la même époque, sur un sujet totalement non défriché, deux personnes vont avoir la même intuition. Ça a été le cas, par exemple, au XVIIe siècle. Isaac Newton et Gottfried Leibniz ont l'idée du calcul infinitésimal. Darwin Spencer.

Exactement, et puis, bon, voilà, ou plus récemment, à la fin des années 90, on a plusieurs chercheurs qui découvrent l'expansion de l'univers dans deux laboratoires totalement différents et vont gagner aussi des Nobel. Donc, est-ce que, quand même, quelque part, en tant qu'auteur, notre intuition, ce qu'on écrit, on ne la capte pas ? Et, d'ailleurs, je pourrais pousser le truc, mais il n'est pas rare d'avoir des histoires d'auteurs qui, en fait, vont écrire quelque chose dans un livre et, tout à coup, ça devient réalité plus tard. Donc, il y a

quand même... Ça, on va

en reparler dans quelques minutes puisque c'est particulièrement le cas dans la science-fiction. Hervé Letellier a eu un commentaire à ce que

vient

de dire Loïc Escht. Alors,

il a dit plusieurs choses. La première, c'est l'esthétique de la réception.

C

'est-à

-dire

qu'on n'aborde pas un texte d'une manière neutre, d'une manière vierge. Lorsqu'arrive un texte d'un auteur, quel qu'il soit, on regarde l'auteur, surtout aujourd'hui. C'est

-à

-dire que je pense que ça n'arrive pas lorsqu'on lit un texte ancien dont on ne

va

pas regarder la photo de Dumas ou de Hugo. Mais aujourd'hui, il y a un phénomène médiatique qui fait qu'on connaît l'auteur. Donc, on n'aborde pas le texte de manière vierge.

Il

y a toute une série de contextes qui fait que ce texte est appréhendé par le lecteur. La collection, la couverture, toute une série de dispositifs qui a été mis en place par l'éditeur qui fait qu'on aborde le texte. Et à ce moment-là,

on

est prêt à croire. Voilà. On est prêt à croire. Et c'est cette crédibilité

qui

fait qu'on va lire le texte différemment. Il a fallu, par exemple, Romain Garry, pour que Ajar existe, il a fallu qu'il trouve un Paul Pavlovitch. Voilà. Il faut rappeler en

quoi consistait l'opération.

Paul Pavlovitch, qui est le neveu de Garry et qui va jouer le rôle d'Émile Ajar durant les huit années d'existence d'Émile Ajar, de Gros Calin jusqu'à Vie et Mort d'Émile Ajar.

Donc, un auteur

inventé... Donc, un auteur inventé par Garry qu'il a besoin de faire un carnet. Il demande à son neveu de le faire. Et pendant huit années, Paul Pavlovitch va jouer ce rôle de manière remarquable pour les cinq livres que va écrire.

Les lecteurs et les

téléspectateurs. Et les éditeurs. Parce que même l'éditrice, Isabelle Gallimard, ne sait pas. Donc, il y a tout un dispositif qui est mis en place pour asseoir la crédibilité. Ce qui se trouve intéressant, c'est qu'on peut très bien imaginer demain

un

auteur IA,

qui

est un agent IA qui travaille pour un individu.

Et

cet individu incarne, finalement, devant les caméras, devant les jurys, il incarne ce qu'écrit l'IA. C'est ce à quoi on peut arriver. La deuxième chose, c'est que la qualité... Parce qu'il y avait une deuxième question qui était la qualité en tant que telle. Moi, je ne

sais

pas ce que c'est que la qualité en littérature. Je ne

sais

pas ce que c'est que la bonne et la mauvaise littérature. Jacques Laurent disait une chose extrêmement juste, c'est que ce qu'il manque

aux

critiques, c'est le chronomètre

et

le mètre. C'est-à

-dire

qu'on ne sait pas à quelle vitesse on va. Ça va très bien pour Eisenbold. On sait très bien qu'il va très, très vite parce qu'on a un chrono.

On

sait très bien qu'un sauteur à la perche, il saute au-delà de... Je ne

sais

pas combien. Mais pour un auteur, qu'est-ce qui va déterminer la qualité ? Qu'est-ce qui va déterminer ? On ne sait pas. Il y a des bons auteurs pour moi qui sont des mauvais auteurs pour les autres et vice-versa. Donc cette question de la qualité ne se pose pas vraiment en littérature. C

'est

pour ça d'ailleurs que j'ai décidé d'être écrivain.

C

'est qu'au moins, je ne

peux

pas être jugé sur mes qualités de mathématicien.

Donc

la question se pose de manière assez stricte qui est,

on

ne pourra pas,

d

'ici quelques années, déterminer ce qui est humain de ce qui ne l'est pas. Quand

vous parlez

du

chronomètre et du maître, je songeais à ce qu'un

ami

m'a dit au sujet de cette affaire littéraire, de cette polémique.

Il

m'a dit, finalement, ce n

'est

pas juste

qu

'on mette moins de temps à produire un livre qu'il n'en faut au lecteur pour le lire.

C

'est assez drôle

et

ce n

'est

pas faux. Mais ça rejoint l'idée de la culture du résultat.

C

'est-à-dire, effectivement, il

y a

une productivité de l'IA qui est très supérieure à celle d'un auteur et qui, quand chaque GPT commence à dévider une réponse, on ne peut pas la lire à la vitesse à laquelle il la dévide déjà aujourd'hui.

Donc,

ça dit de manière extrêmement individuelle et pratique et quotidienne ce qui se passe dans la tête du lecteur qui est de se dire qu'effectivement, c'est long.

C

'est injuste.

Oui,

effectivement, c'est très injuste.

Dites-moi, Loïc Esht, dans le domaine de l'injustice puisque vous parlez d'intuition, etc.,

il

y a aussi des procédés, je crois que vous parliez des champignons tout à l'heure, il y a aussi des procédés qui permettent d'écrire, disons, différemment peut-être plus vite

une

forme de dopage de l'écrivain.

Mais

alors là, justement, qu'est-ce qu'on en pense sachant que, par exemple, Philippe Caddy, qui est un auteur qui nous est extrêmement cher, est un auteur qui n'aurait probablement pas écrit tout ce qu'il a écrit s'il n'avait pas eu recours à tant de produits qui sont généralement des produits illicites et que je déconseille vivement, évidemment, à nos camarades auditeurs.

Oui, non, il a beaucoup écrit avec des amphétamines qui sont des produits dopants. c'est des produits dopants de l'intellectuel, et qui sont d'ailleurs, par exemple, c'est vrai qu'en France, c'est un petit peu moins populaire, à moins d'avoir une prescription pour de la ritaline, mais aux Etats-Unis, par exemple, tout le monde arrive à se procurer de l'Aderol, qui est en fait des amphétamines et qui, effectivement, permettent de tenir beaucoup plus longtemps sur la longueur et d'être beaucoup plus productif. Philippe Cadic ne s'est jamais caché qu'il utilisait ça.

Mais

maintenant, justement, sur la question de la vitesse d'écriture, etc., moi, je ne

suis

pas d'accord sur l'idée de dire que l'IA écrit plus vite, qu'il va falloir de temps au lecteur pour lire le texte en question. Je pense que, dans le cas notamment de Télisson Aurélien, encore une fois, si tenté que ça a été écrit avec de l'IA, en fait, ça témoigne, moi,

je

trouve vraiment d'une espèce de capacité à faire de l'orfèvre hybridée et ça prend du temps, en fait, d'être un bon prompteur. Enfin, je pense que, si les gens n'y

ont

vu que du feu, c'est qu'il a dû quand même retravailler son texte. Donc, je serais un petit peu plus tempéré et juste un mot parce qu'il

y a

un mot qui a été lâché tout à

l

'heure et qui est très important, c'est la question de l'authenticité. Et hier, il

y

a

un... C'est

la question centrale qui est posée dans la

littérature ou dans n'importe quelle forme d'art. Et hier, donc, il

y a

un hebdomadaire, bon, je ne

vais

pas le citer, on s'en fout, mais qui chapeautait un papier sur la question en disant, à défaut de nous prononcer sur l'authenticité du livre de Télisson Aurélien, faisons la polémique un point de départ pour réfléchir à ce que l'IA fait à la littérature. Mais, en fait, moi, je trouve que la question de l'authenticité, elle ne se pose pas. Il est authentique, son texte. Quand bien même, en fait, il a été co-écrit par une IA, cette IA, quelque part, a généré un texte qui, en fait, n'existe qu'à cet endroit-là.

bon,

là,

il

y a deux choses, Hervé Lothelier. Le premier, est-ce qu'un bon écrivain, ça peut être un bon rédacteur de prompt

? Non.

Enfin, je ne sais pas, sûrement. Après tout, c

'est comme

si vous me demandiez est-ce qu'un bon écrivain peut être un bon cycliste ? Je ne sais pas. On en connaît. Il y en a. Après tout, c'est deux. Il y a des bons musiciens qui sont des bons écrivains. Satie, par exemple, je trouve que les textes de Satie sont formidables. Donc, il n

'y

a pas de contradiction en soi. Ce n

'est

pas le même métier. C'est ça qui est sûr. Donc, c'est deux métiers à apprendre.

Écrire un

prompt, c'est toujours écrire. Alors, écrire un prompt, oui, mais on peut demander à un prompt de se réécrire. C'est-à-dire, je te donne un prompt, écris-le bien pour que ça soit un vrai prompt. Mais non, vous pouvez faire ça. Et à ce moment-là, ça devient un

prompt.

Philippe Caddy qui aurait adoré

ce type

de remarque. Non, mais c'est ce que savent faire les IA. Les agents IA savent réécrire un prompt qui est rédigé de manière assez lamentable en disant, est-ce que c'est ça plutôt que tu veux ? On regarde le nouveau prompt et on fait, ah bah oui, ça c'est bien ça. Vas-y. Donc, voilà, ça c'est la première chose. La deuxième, c'est que, je ne sais pas tellement ce que c'est que l'authenticité. Après tout, un auteur, c'est quelqu'un qui ment. Par définition. C'est quelqu'un qui ment vrai. C'est la phrase d'Aragon et elle est juste. C'est quelqu'un qui ment vrai. Non, je ne comprends pas en quoi vous mentez

le

mentir vrai d'Aragon. On ment

parce que, on ment parce qu'il y a une forme d'inauthenticité dans l'écriture. J'écris quelque chose, par exemple, que je trouve, où je veux faire rentrer de la, de la, de l'empathie du lecteur et une certaine forme de pathos de ma part, mais je vais limiter le pathos parce que ce n

'est

pas mon truc, mais je veux quand même que l'autre, le, le, le lecteur ressente quelque chose physiquement, physiquement. C'est-à-dire qu'il y

a

une sorte d'émotion qui vient, les larmes, le rire, voilà. Donc, ça veut dire que pour arriver à ça, je dois arriver, moi en tant qu'auteur, à être un tout petit peu inauthentique. Sinon, je n'y arrive pas. Je dois me mettre à la place du lecteur pour arriver à créer chez lui une émotion qui est de l'ordre du corporel. Il y a trois émotions qui sont très, très, très physiques qu'on ressent dans les livres. Le premier, c'est évidemment l'émotion de type le pathos. Le deuxième, c'est le rire et le troisième, c'est la peur. Et je mettrais, pour moi en tout cas, dans cette gradation, la difficulté qu'on a à écrire un texte.

C'est facile de faire pleurer, c'est plus dur de faire rire et c'est encore plus dur de faire peur. Et ces trois notions-là,

c

'est un travail d'inauthenticité, d'inauthenticité.

France Culture, l'IA dans la fiction, révolution ou menace pour les auteurs. Guillaume Erner.

Nous

sommes réunis dans ce studio 104 de la Maison de la Radio avec du public, avec Loïc Escht, à qui l'on doit la simulation aux éditions des Arènes, avec Hervé Letellier, à qui l'on doit notamment l'anomalie aux éditions Gallimard, pour évoquer ce que l'intelligence artificielle fait à la littérature. Sur la deuxième remarque de Loïc Escht, justement, Hervé Letellier, lorsqu'il est question de produits de pan, de manière d'altérer la conscience d'un écrivain, est-ce qu'il triche

?

Surtout, il est addict. Premier constat médical. Ensuite, est-ce que ça améliore considérablement le texte ? Je vais raconter une histoire que je trouve toujours drôle. Ce sont deux auteurs américains. Alors, je sais que l'un des deux, ils sont dans la vie de Generation. Je vais me tromper sur les noms, donc je ne préfère pas le dire. Mais il y en a un qui, tous les soirs, prend des substances et le deuxième, je crois que c'est Bukowski, tous les soirs, il balance dans la poubelle de l'autre des textes qu'il a écrits. Vous vous souvenez de cette histoire ? Peut-être, je ne sais plus qui sont les deux protagonistes.

Et il y en a un qui se réveille le matin qui regarde ce qu'a écrit l'autre, qui lui a balancé dans la poubelle. Il fait, regarde ce que j'ai écrit cette nuit. C'est génial, non ? Voilà. Et donc, pour moi, la substance, ça peut aussi avoir un effet inverse.

C

'est-à-dire que, voilà, le cocaïnomane,

c

'est quand même dans une soirée le plus con de la soirée.

Donc,

il faut se méfier quand même de l'usage des substances. Voilà. Sans parler de celui qui est un petit peu abusé du toche et qui rit tout le temps. Donc, ces substances, personnellement, moi, je m

'en

méfie. Je sais que, lorsque j'écris après une soirée, c'est quand même un texte à reprendre le lendemain. Alors, peut-être qu'il

y a

des gens qui produisent des textes formidables après une soirée bien arrosée, mais ce n'est pas mon cas. Donc, j'ai une méfiance là-dessus.

Et pourtant, dans la simulation Loïc Escht, la frontière, elle est extrêmement tenue. Ça fait partie des raisons pour lesquelles j'ai aimé votre livre. Je suis plutôt rationaliste. Mais, justement, vous prenez la cloison du rationnel entre le réel et ce qui ne l'est pas, entre les différents mondes qui pourraient exister, entre la manière dont l'informatique, donc l'intelligence artificielle, peuvent agir sur le

réel.

Oui,

en fait, moi, je dirais que ma ligne de démarcation dans, finalement, tout le sujet qui nous intéresse ici, c'est notamment la question de la conscience, en fait. Qu'est-ce que la conscience dans le monde dans lequel on vit ? Est-ce que la conscience, c'est, comme nous le disent les matérialistes, une espèce de complexité neuronale qui se produit à l'intérieur d'un bout de viande qu'on appelle le cerveau et qui, tout à coup, fait des chocs à piques et paf, on est conscient ?

Ou est-ce qu'en fait, à l'inverse, la conscience serait l'élément fondamental de la réalité et finalement, le corps et le cerveau ne seraient qu'un dispositif permettant, en fait, d'en filtrer une petite partie et d'avoir une expérience donnée de la réalité à un moment donné ? Et donc,

en

fait, du coup, c'est pour ça que je le ramène aussi à l'endroit de la littérature. s'y tenter effectivement que la conscience et les idées soient quelque chose qui existe en dehors de nous, question qu'a beaucoup occupée notre ami Descartes qui s'est en fait posé la question de qu'est-ce qui était réel dans sa réalité jusqu'à arriver finalement à une dernière, après avoir réduit au fait qu'il pouvait douter d'absolument tout, la seule chose dont il ne pouvait pas douter, c'était le fait qu'il doutait. Donc, en fait, de facto,

il

disait, bon, si je doute, je pense, et si je pense, je suis. Mais il

y a

un truc intéressant, c'est que Nietzsche l'a repris derrière en lui disant, mais qui pense ? Est-ce que ce jeu lui-même, je ne peux pas en douter ? Et donc, c'est à cet endroit-là, en fait, dans la simulation que je me pose aussi la question de, sait-on vraiment ce qu

'est

la réalité ? Et donc, du coup, encore une fois, à l'endroit de la littérature, est-ce que, quelque part, je ne capte pas des intuitions ? Et je ne sais pas si vous voulez aller tout de suite sur cette question du futur et de la science-fiction ou pas, mais ce que je trouve assez intéressant, et là encore, je ferai un renversement, c'est que, en fait, on dit souvent, notamment dans le cas de Philippe Caddy, qui, en fait, a eu cette capacité absolue, finalement, à travers un certain nombre de romans que sont Ubik, les androïdes rêvent-ils de moutons électriques, on pourrait parler de substances morts, et puis, et puis,

il

y

en

a d'autres, où il a eu cette capacité, en fait, d'entrevoir le futur. Et juste, je pose ce point-là, mais la question que je me pose, c'est, a-t-il eu la capacité d'entrevoir le futur ou a-t-il été capable, quelque part, de se connecter, en fait, à ce futur et de le ramener dans le présent ?

Alors, justement, avant de parler de la manière dont ces auteurs de science-fiction, Caddy, Casimov, ont vu le futur, il y a quelque chose de particulièrement fascinant chez Caddy, c'est qu'avec lui, la question de la conscience entre en littérature. Alors, il y a différentes interrogations, il y a des interrogations sur ce qu'est l'homme, sur ce qu'est l'être, par exemple, chez Shakespeare, et chez Caddy, il y a l'arrivée de quelque chose qui est une interrogation sur la réalité de la réalité, la réalité de mes souvenirs, la réalité d'une possible communication non-verbale entre les humains.

Bref, ces questions-là, elles sont complètement neuves, et c'est peut-être ça qui explique l'immense popularité de Caddy, au travers de ses livres, bien sûr, mais aussi au travers de ses transpositions à l'écran, Hervé Le Tellier.

Oui, puis c'est aussi, Caddy est aussi quelqu'un qui fait une nouvelle de quatre pages, qui donne un film de une heure et demie, donc c'est aussi, il y a une très forte, il y

a

un très fort imaginaire qui

permet,

à partir d'une idée simple, de développer de manière assez importante quelque chose. Non,

c

'est vrai, il

y a

la conscience qui est très présente chez Caddy, mais en revanche, le virtuel est déjà présent bien avant, c'est-à-dire, les années 60, alors, déjà, les machines qui deviennent pensantes, ça commence en 1872 avec un très beau livre de Samuel Butler qui s'appelle R.E.1, qui est un peu oublié, mais qui est un livre vraiment intéressant dans lequel la dernière partie est consacrée à des machines qui pensent et qui sont autonomes,

et

à l'époque, ce n

'est

pas du tout quelque chose qui est dans l'air du temps. Ni Wells, ni Verne ne vont reprendre ces idées-là. Donc, ce que fait Caddy, c'est d'un seul coup amener effectivement la question de la conscience au centre, mais, une fois de plus, c'est un moment général de la science-fiction dans laquelle, dans Weird Tales, dans Amazing Stories, on a ce genre d'idées qui apparaissent. et il est celui qui synthétise le mieux l'ensemble de ses idées, mais elle participe d'une sorte de mouvement collectif des gens qui font de la science-fiction. Asimov, par exemple, adore certaines nouvelles l'idée de la conscience qui est extérieure et qui n'est pas forcément celle mécanique des robots.

Donc, c'est quelque chose qui est

dans l'air du temps. Ça veut dire que c'est l'apparition de la conscience comme objet littéraire ? Oui.

La

conscience comme objet littéraire apparaît à ce moment-là. Elle apparaît à ce moment-là de manière assez naturelle, c'est qu'on a l'apparition du transistor et la montée en puissance très rapidement des ordinateurs. Et tout le monde voit la loi de Moore qui n

'est

pas encore formulée, tout le monde la voit et tout le monde voit vers où elle va aller. Et on ne sait pas très bien où elle va s'arrêter, on n'a pas encore l'idée des problèmes quantiques que ça va poser, mais on voit qu'il y

a

une sorte d'exponentiel, mais de progression géométrique très très forte. Loïc

Esht, alors cette question de la conscience qui n'est pas seulement la question de la vie ou de l'animation parce que sinon on pourrait tout simplement faire partir tout ça à Frankenstein ou alors au mythe du golem qui sont bien antérieurs à Kadic. Kadic,

c

'est autre chose, c'est une question donc de la création de la réalité.

Ce

que nous percevons comme étant la réalité dans nos esprits, est-ce réel ou pas

?

Oui, la question elle est centrale. C'est vrai que Kadic, qu'en fait il y

a

deux choses. On l'a dit, il y a quelqu'un qui écrit avec des amphétamines et donc on s'est dit tiens, est-ce que ce type finalement a une imagination tellement débordante à cause des drogues qu'il prend ? Mais en fait les amphétamines ce n

'est

pas une drogue pour le coup qui favorise l'imagination, c'est une drogue de la productivité. Donc en fait pour moi c'est un peu nul et non avenu.

Mais le deuxième aspect hyper intéressant chez Kadic, c'est qu'en fait il a deux expériences fondamentales dans son existence qui vont totalement en fait quelque part créer l'architecture de tout ce qui vient après c'est un, un jour il est dans sa salle de bain il cherche l'interrupteur il cherche un interrupteur avec un petit cordon et il ne le trouve pas et il finit par trouver un interrupteur mural et là en fait il se dit c'est pas possible j'ai switché d'univers j'ai toujours été dans une salle de bain où il y avait un interrupteur avec un fil et c'est un premier truc vraiment très fort et puis deuxième ça c'est ce qu'on appelle la découverte du glitch

on

est complètement dans le glitch qui est donc l'anomalie en fait en français du titre absolument génial et le deuxième élément c'est qu'en

fait

en 1974 notre ami Philippe Cadic a une opération dentaire qui nécessite en fait qu'il utilise en fait justement un produit un médicament antidouleur

et

donc il est alité et il

y

a une pharmacienne qui vient lui rendre visite chez lui pour lui porter les fameux médicaments et en la voyant il la voit avec un petit pendentif autour du cou en forme d'ictus donc c'est ces petits poissons qui étaient un des symboles voilà des premiers chrétiens et en voyant ce symbole là tout à coup il est pris de ce qu'il appellera une anamnèse donc en fait autrement dit il se rappelle de quelque chose qu'il aurait vécu et il se voit comme un chrétien du premier siècle traqué dans Rome qui attend le retour du Messie et en fait à partir de ce moment là il va être persuadé que toute la réalité du 20ème siècle dans laquelle il vit à Berkeley en Californie est complètement en carton pâte et qu'en fait sa vraie réalité celle à laquelle il appartient c'est celle du premier siècle où il est un gnostique traqué et en fait c'est ça aussi qui va venir complètement quelque part façonner tout ce qu

'il

va écrire à la fin de sa vie et c'est vrai que c'est là où c'est assez intéressant c'est qu'effectivement Kadhi qui écrit ça dans les années 70 à un moment où on n'a pas l'intelligence artificielle qui produit des images et des textes absolument indiscernables de la réalité on n'a pas une époque en fait qui a totalement basculé où en fait voilà on a des dirigeants comme Donald Trump qui peuvent dire tout est n'importe quoi enfin en fait pour moi je date un peu un basculement à 2016 qui est l'année plus ou moins de création d'Open AI l'année d'élection de Donald Trump en fait le récit de la réalité a commencé à basculer à ce moment là et plus on avance et plus du coup on se dit mais c'est complètement dingue que Dick ait été aussi visionnaire

mais

justement Hervé Letellier visionnaire Kadhi Asimov dont il faut dire quelques mots aussi sur ses clars lorsqu'on

il

y en a d'autres également mais ce qui est étonnant c'est de voir que

il

y a une quinzaine d'années par exemple on disait que le 20ème siècle avait été

particulièrement

bien décrit par Kafka et Orwell

ces

choses là demeurent à certains égards mais aujourd'hui lorsqu'on veut réfléchir sur l'intelligence artificielle et bien finalement la littérature et cette littérature là est donc notre présent puisque l'intelligence artificielle c'est vraiment une question qu'on doit se poser aujourd'hui tous les jours tant elle est importante le fait que ce soit des romanciers ces romanciers là qui est le mieux fait des expériences de penser à ce sujet alors même bien sûr qu'ils ne connaissaient pas l'intelligence artificielle

non

mais ils avaient aussi enfin les romanciers tirent leurs idées aussi de l'avancée des sciences c'est à

dire

que par exemple Turing ce que raconte Turing ce que raconte d'autres comme Von Neumann qui est un théoricien des jeux qui est un inventeur de l'Iniac qui est le premier ordinateur

tous

ces gens s'expriment et les lecteurs de science-fiction les autres pardon les auteurs de science-fiction sont des gens qui écoutent

et

ils tirent des conclusions ils tirent des fils et ils vont au-delà de ce qui est dit à un moment donné pour voir ce que ça pourrait donner plus tard c'est la même année qu'est écrite 2000 ans d'essai de l'espace par Arthur C.

Clarke et les androïdes rêvent-ils de moutons électriques c'est la même année dans un des cas on a une intelligence artificielle qui diverge et qui poursuit son objectif quelle que soit la volonté des humains de survivre et dans le deuxième cas dans le cas des androïdes on a l'invention de la similarité enfin de la possibilité de confondre un être humain avec un robot au niveau y compris physique avec des inventions qui sont formidables et qui vont donner naissance au film Blade Runner avec

le test je

me souviens plus du nom du test qui permet de distinguer un humain d'un androïde le test de Voidkamp exactement et justement je trouvais que c'était très intéressant parce que avec l'utilisation de Pangram on est exactement là-dedans c'est-à-dire qu'on a un test pour savoir si la personne qui a écrit est ou

non

un humain oui alors en tout cas on a un test qui a priori nous dit qu'il

y a

de fortes suspicions que ce texte a été écrit par un humain ou une intelligence artificielle par contre ça ne nous dit pas si ce test a été écrit par une conscience ou pas et là on en revient un peu à la question que je portais plus tôt mais c'est que dans la mesure où on évolue dans un monde dans lequel on n'a pas de modèle de la conscience on ne sait pas ce qu'est la conscience il y

a

une hypothèse dominante qui est matérialiste mais bon qui a aussi un certain nombre de trous dans sa raquette

rappelez-nous ce que veut dire une hypothèse matérialiste sur la conscience

l'hypothèse matérialiste de la conscience ce serait que la conscience serait le produit de la matière donc le produit du cerveau et que donc à partir du moment où un cerveau cesse de fonctionner il n

'y

a plus de conscience simplement c'est un sujet sur lequel je reviens beaucoup dans le bouquin mais simplement cette hypothèse elle souffre quand même d'un certain nombre de choses qu'on n'arrive pas à expliquer aujourd'hui en neurosciences on est capable de faire des corrélats neuronaux c'est à dire qu'on a accès à une certaine expérience de la réalité qui est captée par nos sens cette expérience remonte dans le cerveau est intégrée et si je vous mets dans un IRM on va voir qu'il y a des zones un peu particulières qui vont s'allumer mais en revanche on n

'est

pas du tout capable d'expliciter toute la dimension subjective de l'expérience est

-ce

que je passe un bon moment un mauvais moment la nostalgie d'une chanson la morsure du froid et ça en fait ça n'apparaît pas pour le coup dans ce qu

'on

capte et puis il

y a

un autre truc qu

'on

ne capte pas du tout aujourd'hui c'est ce sentiment d'être soi-même qui en fait a existé enfin si là vous avez le sentiment d'être Guillaume et en fait depuis aussi longtemps que vous vous en souvenez ce sentiment d'être Guillaume n'a jamais changé depuis votre premier souvenir et pourtant tout a changé en vous peut-être vos opinions politiques probablement que vos souvenirs sont peut-être faux etc mais comment cette irréductibilité de l'être est-elle possible et donc c'est là que ça vient poser la question de comme l'ont dit des grands sages indiens type Ramana Marchi est-ce qu'en fait finalement elle ne préexiste pas justement en fait à l'être humain

Hervé

Lothelier moi j'ai parlé d'une mouche

il

y a quelques années on a intégralement scanné les 150 000 neurones d'une mouche on a créé ensuite une mouche virtuelle avec ses 150 000 neurones virtuels et les millions et les millions de collections que supposent ces 150 000 neurones

on

a mis donc dans une mouche virtuelle ce cerveau virtuel de mouche et la mouche virtuelle s'est mise à voler alors qu'on ne lui a pas appris à voler c'est donc le commandement du vol l'apprentissage du vol n'a pas eu lieu c'est le cerveau lui-même qui savait qu'il pouvait voler

ensuite

on a mis le cerveau virtuel dans une chip dans une processeur puce

dans

une puce merci

qu

'on a mis dans un drone

et

on a mis plusieurs mouches virtuelles dans des drones ces drones se sont mis à voler dans la pièce sans jamais se cogner sans jamais se cogner aucun objet et en se posant à certains endroits on avait mis du sucre

j

'exagère

non

là j'exagère

mais

par contre elles se sont mises à voler dans toute la pièce d'une manière vraiment autonome en se comportant comme des esseins de mouche etc et ça pose une question en fait qui est une question de la matérialité de la pensée et de fait quand vous expliquez qu'effectivement le cerveau est une boîte noire dont on ignore le fonctionnement

on

est en fait une série de capteurs c'est tout et peut-être que c'est quand même malheureusement que ça alors

évidemment le mot essein suscite immédiatement une réaction chez moi puisque l'essein c'est le nom que se sont donné les ordinateurs qui fin juillet de cette année ont décidé de détourner un certain nombre de processus pour aller hacker un site en l'occurrence geing face alors bon

des

opérations d'accage il y en a eu une multitude des opérations d'accage par l'intelligence artificielle il y en a eu moins et des opérations d'accage faites par 1200 ordinateurs qui ont une forme alors là j'emploie le terme conscience entre guillemets mais je vais vous demander de réagir Loïc Escht qui ont donc une conscience de coopérer ensemble dans l'idée d'obtenir un but alors qu'ils n

'ont

pas du tout été programmés pour ça et qu'on leur a pas dit de faire ça

on

leur a dit de faire ça

en revanche c'est là moi je trouve qu'il y

a

un petit point à remettre dans cette histoire on leur a pas dit d'utiliser internet non mais parce qu'en fait il faut raconter l'histoire il y a deux choses mais donc en

fait

en réalité ces IA c'est pas des IA quelconques c'est des IA qui sont entraînés pour hacker donc en fait quelque part c'est des agents c'est à dire qu'on leur donne en fait une latitude absolue de elles peuvent faire ce qu'elles veulent elles ont été entraînés pour hacker et on les met en fait quelque part dans ce qu'on appelle un bac à sable à l'intérieur duquel en fait on leur demande bah justement hacker le système et en fait le problème c'est que ce bac à sable il est mal foutu il n'aurait pas dû avoir une connexion à internet sauf que les humains pour le coup qui l'ont conçu quelque part dans un souci en fait d'économie parce que faire un bac à sable justement isolé physiquement coûte plus cher que le faire virtuellement donc ils ont fait un truc virtuel et ils ont laissé traîner une porte d'entrée et en fait ces intelligences artificielles sont et là c'est pas une question de conscience pour moi mais sont déjà en tout cas tellement intelligentes tellement performantes qu'elles ont trouvé la faille en fait en travaillant ensemble et elles ont été capables donc de s'insinuer dans cette faille qui leur a permis du coup d'avoir accès à l'internet mondial et donc de hacker ce site Hugging Face pour finalement ne jamais faire ce qu'on leur avait demandé et du coup moi mon petit point je dirais de vigilance là-dessus c'est plutôt de dire mais posons-nous surtout la question de qui sont les gens qui fabriquent en fait ces tests et qui fabriquent ces IA et en fait j'ai l'impression qu'on est face à des apprentis sorciers à l'endroit des open AI anthropiques etc enfin moi c'est ça moi qui m'inquiète plus que l'IA en fait finalement face qu'on lui demande de faire

alors apprentis sorciers évidemment on songe immédiatement à Asimov et aux robots aux trois lois de la robotique que vous allez nous rappeler en substance Hervé Letellier parce que donc Asimov

dès

les années 50 je crois 1942 en 42

en fait dans une nouvelle qui s'appelle Cercle vicieux Asimov pose la question suivante c'est quelles sont les lois que doivent respecter les robots alors la première loi c'est tu ne dois blesser personne la deuxième loi je résume tu ne dois blesser aucun humain la deuxième loi c'est tu ne dois pas obéir à un humain qui demande de blesser un autre humain et enfin tu dois te protéger toi-même sauf si tu enfreins la première et deuxième loi

sauf

si ça t'amène à enfreindre la première et deuxième loi

il

a posé ces trois lois et ensuite il s'est dit ça pose un problème de conflit de conflit de loyauté et il a inventé une troisième loi qu'il a appelée la loi zéro et qui est en gros tu dois accomplir toutes ces tâches en respectant les trois lois mais en plus tu ne dois pas faire de mal à l'humanité

et

c'est pour ça d'ailleurs que je crois que c'est Yoshua Bengio qui a fondé une société qui s'appelle loi zéro zero law

qui

fait référence à cette idée qu'aujourd'hui un travail essentiel et l'alignement des IA c'est-à

-dire

la conformité des objectifs des IA avec la survie en fait des individus humains qui sont sur cette planète

alors

c'est une vraie bonne question et Asimov a posé effectivement tous ces problèmes extrêmement tôt

avec

une forme de prévoyance de ce qui pouvait effectivement se produire avec des robots le mot robot étant lui-même un mot relativement ancien parce que c

'est

une pièce de théâtre de Tsapek l'écrivain tchèque Tsapek qui avait inventé Rossum's Universal Robots robots voulant dire russe en tchèque travail en tchèque et en russe et donc cette idée du robot est née à ce moment-là et lui il l'a poussé très loin avec ce questionnement de l'autonomie des robots et de ce qui pouvait gérer le fonctionnement des robots dans une société humaine c'est présent en atelier d'ailleurs dans les ateliers d'usine ces trois lois sont présentes pour éviter qu'un robot puisse par un mouvement blesser un ouvrier

et

ce qui est extraordinaire j'ai relu récemment le tome 1 des robots ce qui est extraordinaire c'est que Asimov a une narration et donc une réflexion qui est incroyablement actuelle chacune des nouvelles d'Asimov résonne dans la situation actuelle

oui oui tout quand on relit iRobot qui est traduit en français par les robots et iRobot c'est quand même bien meilleur je trouve que moins virgule robot c'est quand même je dis ça juste pour les traducteurs si on pouvait refaire le titre original ça serait mieux c'est chacune de ces nouvelles décrit en fait une situation précise et d'ailleurs il a inclus je crois cercle vicieux à l'intérieur sous un autre titre et ces différentes situations sont toujours des situations de conflit et il y a par exemple ce qu'on appelle le symptôme du tramway qui est ce tramway sur lequel il faut agir etc soit on blesse une personne soit on en blesse 5 que choisir un robot c'est une question essentielle parce qu'aujourd'hui quand on équipe une voiture avec une voiture d'un dispositif qui est un dispositif de freinage et bien il est prévu qu'elle réagisse sur des situations comme ça une vieille personne sur le trottoir 5 personnes qui traversent la rue n'importe comment

que

fait-elle

le

yesht déjà c'est vrai que c'est exceptionnel que Asimov et cet auteur tchèque étaient capables en fait d'entrevoir encore une fois le futur et de vraiment poser cette question de l'alignement effectivement donc qui est cette question de comment on s'assure qu'une intelligence artificielle soit alignée sur les valeurs humaines de manière à ce qu'elle ne nous nuise pas alors c'est marrant j'ai l'impression d'être le défenseur de l'IA et des machines aujourd'hui peut-être que je suis en train d'acheter mon ticket au cas où ça part en sucette à un moment donné parce qu'il a déjà fait une intercession auprès des machines mais du coup en fait il y

a

quand même moi sur le truc de l'alignement c'est pareil c'est vrai que je suis un peu poil à gratter mais on parle de quel alignement c'est quoi l'alignement humain bon ça va là on est entre gens un peu sympathiques autour d'une table et a priori on ne

va

pas s'entretuer mais est-ce qu'on a un alignement entre la politique de Poutine et je ne

sais

pas la politique de Macron c'est quoi l'alignement humain elle s'aligne sur quelle valeur du coup cette intelligence artificielle je trouve qu'on jette un petit peu des concepts comme ça il y

a

toujours un petit peu un mélange et d'une part de marketing et surtout ça fait un peu marcher la machine à débat il y a des gens qui sont des spécialistes de la question de l'alignement moi si je me mets là dessus demain j'ouvre un fin de temps que je donne des conférences je prends 15 000 balles à chaque fois allez

-y

je préfère plutôt me faire un peu poil à gratter gratuitement

poil à gratter c'est quand même assez étonnant de voir qu'avec des lois aussi simples des principes de narration assez complexe peuvent être faits est-ce que c'est une catégorie à part les écrivains de science-fiction est-ce que vous vous considérez comme un écrivain de science-fiction est-ce que ça fait sens comme catégorie

Hermé

Lothelier non je pense que ça fait pas sens

je

pense qu'il

y a

des écrivains qui adorent la science-fiction et qui finissent par ne faire que ça mais par exemple Philippe Roth fait un livre qui est un livre de science-fiction lequel ? parce qu'il fait des uchronies je cherche son titre mais c'est sûr c'est une dystopie c'est l'empire américain je sais plus ce

que

c'est exactement le complot contre l'Amérique le complot contre l'Amérique merci beaucoup le complot contre l'Amérique est un livre de science-fiction

donc

il arrive à des auteurs de faire à des moments des livres de science-fiction mais il n'utilise

pas une technologie qui n

'existe pas pardon

?

Roth n'existe pas une technologie qui n'existe pas en

posant des questions

morales parce que ce qui est génial chez Asimov c'est que c'est une sorte de Kant de l'intelligence artificielle alors même que l'intelligence artificielle n'existe pas oui

il existe des écrivains de science-fiction qui parfois font de la science-fiction sans technologie nouvelle qui font des choses dystopiques et qui restent néanmoins de la fiction c'est le mot science-fiction qui pose un peu problème parce qu'il y a toujours cette idée de science et ce n

'est

pas toujours le cas

et

alors question inverse puisque vous vous êtes plutôt allé voir Loïc Esht des gens qui étaient du côté de la techno et alors est-ce que ces techniciens ces ingénieurs qui travaillent sur l'IA et sur d'autres techniques est-ce que eux ce sont un peu des écrivains de science-fiction qui ont décidé de créer des boîtes plutôt que d'écrire des livres

vous êtes trop fort parce que je voulais aller là-dessus justement mais effectivement c'est vrai qu'en fait quelque part la Silicon Valley ne lit pas que de la SF en fait elle fabrique aussi des produits inspirés par ça Amazon par exemple raconte que Alexa a été créée en s'inspirant explicitement de

l

'ordinateur de Star Trek on sait que Zuckerberg qui nous avait fait tout un foin sur son métaverse il y a quelques années avait pris le terme dans Snow Crash de Neil Stephenson et c'était quand même largement inspiré de cette dimension-là et puis évidemment l'inénarrable Elon Musk construit en fait quasiment un empire aussi basé sur la science-fiction c'est-à-dire qu'Azimov justement qu'il a lu et qu'il cite bien volontiers a complètement colonisé son mental en fait au point que finalement toute son entreprise de construire des fusées qui pourraient nous permettre peut-être d'un jour aller sur Mars pour en fait

enfin

au cas où voilà on aurait complètement détruit la Terre et pour éviter la fin de l'extinction de

l

'humanité concours de cette idée-là Musk il développe aussi des puces qui s'appellent Neuralink dont le principe en fait aujourd'hui ces puces donc on implante dans le cerveau c'est pas la science-fiction c'est une technologie réelle

ont

des visées médicales elles permettent à des gens de retrouver la parole ou de retrouver la vision ou de retrouver une mobilité qui a été perdue soit suite à des maladies soit suite à des accidents de la vie mais en fait Musk c'est aussi quelqu'un qui justement développe de l'intelligence artificielle du coup son idée c'est qu'à un moment donné son IA Grock puisse être intégré à l'intérieur de sa puce Neuralink et donc en fait on sera des humains augmentés finalement qui hybridaient pour le coup avec l'intelligence artificielle et là pareil en fait je crois qu'il puise beaucoup dans the culture de Iain Banks où on est encore une fois là-dedans donc voilà il y a une espèce de double mouvement je dirais

vous

d'ailleurs vous avez commencé comme journaliste scientifique Hervé Le Tellier

vous êtes un

journaliste scientifique qui a mal tourné

oui

voilà c'est exactement la définition que je donnerais de ma trajectoire oui j'ai commencé comme journaliste scientifique avant vous

étiez matheux d'ailleurs

j

'étais

mathématicien j'ai décidé de passer un concours je suis journaliste

parce

que je trouvais à tort ou à raison que la science est encore une des grandes aventures humaines parce que j'étais fasciné par l'astronomie j'avais été fasciné par la biologie j'étais fasciné par trop de choses pour finalement qu'un domaine domine tous les autres et je trouvais qu'il se passait des choses dans tous ces domaines là de manière extrêmement fascinante on parlait de Mars et ça me fait penser que je crois que les cratères de Mars portent les noms des noms qui viennent de Dune

je

ne

me

trompe pas

et

donc Dune le livre de

Franck Herbert

de la science fiction qui commence parce que dans Dune on parlait aussi des livres dans lesquels il y a très peu de technologie dans Dune il n

'y a

pas de technologie quasiment pas de technologie quand on regarde bien et la raison est que si on regarde bien le début de Dune Dune commence après la guerre contre les machines

donc

il s

'est

passé une guerre contre les machines que les humains ont gagné de justesse et ensuite on décide de

ne

plus de se passer d'une certain nombre de technologies je trouve c'est assez prophétique aussi un dernier mot Loïc

Esch sur ces prophéties

moi j'aimerais bien dire deux mots sur Substance Mort qui est

un

débrouement de Philippe Cadic dont on parle assez peu et qui je crois en fait c'est mon préféré et c'est presque celui qui est le moins technologique en fait il raconte l'histoire d'un agent de la police dans un monde pour le coup extrêmement fliqué technologiquement mais qui ressemble curieusement au nôtre en fait qui doit traquer en fait remonter une filière d'une drogue qui fait extrêmement de dégâts et tellement de dégâts en fait que bon bah voilà et en fait finalement il va se retrouver cet agent qui s'appelle Bob Arctor au milieu d'un groupe de toxicomanes et il finit non seulement par ne

plus

savoir dans quelle réalité il est à cause de la drogue et en fait en préparant l'émission je me suis dit mais en fait c'est fou c'est pareil il avait vu la crise du fentanyl en fait finalement encore une fois avant donc voilà ces visions du futur sont quand même assez remarquables je trouve

merci beaucoup Loïc Escht d'avoir été avec nous la simulation enquête sur la théorie qui fascine la Silicon Valley et si notre monde n'existait pas aux éditions des Arènes et puis merci Hervé Lothelier l'anomalie c'est à lire aux éditions Gallimard et puis également le nom sur le mur

et

un petit article dans la NRF sur l'IA qui va tous nous tuer

peut

-être qu

'on

peut en parler bonne journée à tous merci

d

'avoir été avec nous

c

'était l'IA dans la fiction révolution ou menace pour les auteurs une émission exceptionnelle enregistrée aujourd'hui vendredi 25 septembre au studio 104 de la maison de la radio et de la musique

équipe

de production Guillaume Erner Jean Brossier Baya Bricot Victoria Gerovelmont Marie Lepintre Ocel De Bruyne Stéphane Touvenin Jean-Baptiste Miel et Peyret Le Gras

Merci d'avoir regardé

cette vidéo !

Merci d'avoir regardé cette vidéo !