Faut-il bouder les œuvres écrites avec l'IA ou ne s'attacher qu'au résultat ?

On travaille avec les mots,

à

travers des images.

Ne

pas dire la chose, mais de le faire vivre au lecteur, pour que ça se sente.

Et

ça, c'est l'auteur Télison Aurélien. Son livre a été banni du Goncourt. C'était ça ou mourir, c'est le titre. C'était déjà un succès de la rentrée. Mais depuis que le scandale a éclaté, les ventes explosent. Alors, faut-il bouder les œuvres écrites avec l'IA, puisque c'est le soupçon, ou ne s'attacher qu'au résultat ? On en débat dans Les Grands Esprits se rencontre avec Éric Sadin, philosophe spécialiste des technologies numériques et auteur de l'ouvrage Le Désert de nous-mêmes aux éditions L'Échappé. Bonsoir.

Bonsoir.

Et Hugo Cazel-Dupré, chercheur en intelligence artificielle et cofondateur du collectif artistique Obvious. Bonsoir. Bonsoir. Éric Sadin, le succès du livre Post-Révélation vous surprend ? C'est l'effet curiosité ou peut-être une espèce de petit plaisir de transgresser l'interdit ?

Me surprend, je ne sais pas. Moi, ce que je remarque surtout, quand même, quand même, c'est que depuis ces dernières semaines, nous vivons un moment éminemment psychiatrique de l'histoire de l'humanité, quand même, quand même. C'est-à-dire qu'alors que l'été brûle, l'été a brûlé, l'Europe a brûlé des responsables, des chefs d'État et des responsables d'entreprises, bombent le torse, en investissant des dizaines de milliards et des centaines de milliards d'euros dans des gigafactories. C

'est

-à-dire que

c

'est un paradoxe total. Il y a quelques semaines, un jeune type d'entropique annonce démissionné sous prétexte que les IA vont venir tous nous tuer, c'est

-à

-dire un délire total, sans aucun fondement. C'est la pure spéculation. Et ça, c'est repris dans le monde entier. Donc, nous entretenons un rapport d'irrationalité totale.

Et

puis, quelques jours plus tard, cette séance comme ça, successive d'événements, qui témoigne de notre rapport d'irrationalité totale à l'intelligence artificielle, il y a l'affaire Aurélien. Alors, on en pense qu'on veut, mais il faut le prendre comme un marqueur d'une bombe à retardement qui couvait dès les débuts. Comment ne pas l'avoir vue dès les débuts ? Dès lors que des machines produisent des symboles, et s'étaient mises à produire du texte. En réalité, c'est ce que j'appelle Tanatologos, un langage de la mort, mais peu importe.

Et plutôt que d'avoir saisi, parce que c'est ça qu'il faut dire quand même dès le début, là on est quatre ans plus tard, c'est bientôt le quatrième anniversaire du lancement de ChatGPT et plus largement des IA génératives. Plutôt que d'avoir vu la gravité de tout ce qui s'est annoncé, parce que tout était écrit en réalité d'une certaine façon, des foules se sont jetées sur ces machines en disant que c'était cool et que ça leur permettait même plus d'utiliser leurs facultés les plus fondamentales. Et qu

'est

-ce qu'on a vu ? On a livré des

profs

et des enfants à eux-mêmes qui maintenant ne se mettent même plus à écrire.

C

'est-à

-dire

non seulement ils passent du temps sur TikTok du matin au soir, et maintenant ils ne savent même plus écrire. Et donc qu'est-ce qu'on entend pour terminer ? Oui,

mais

comme

ça c

'est quand même un débat !

Maintenant

c'est le temps des cyniques depuis quelques jours. C'est-à

-dire

des gens qui nous disent « et alors ? Et on va pouvoir écrire avec cela ? » C'est oublier ce qu

'est

l'acte d'écrire tout de même, sur lequel je reviendrai dans quelques instants si vous êtes d

'accord. On

va y revenir. Mais d'abord, Hugo Cazel-Dupré, vous, est-ce que vous vous félicitez finalement que les gens achètent et lisent un livre, même s'il est écrit de cette manière, sans doute avec l'aide de l'intelligence artificielle ?

Alors non, on ne se félicite pas qu'un auteur qui n'a pas forcément eu un procédé transparent sur son écriture du coup reconnaisse un succès au niveau des ventes. Nous,

ce

qu'on trouve qui est légitime, c'est d'utiliser un nouvel outil en toute transparence et de démontrer un nouveau résultat. C'est par exemple ce qu'on a fait dans un projet récemment qui s'appelle Molière Ex Machina, où on a essayé d'écrire la pièce que Molière aurait pu écrire après sa mort, en travaillant trois ans avec des experts de Molière, alors que Molière écrivait ses pièces en deux semaines. Et en sortant un texte qui est en tout point écrit avec l'IA, mais qui est revu avec des dizaines de milliers d'itérations avec des experts.

Parce qu

'on peut le faire, mais il faut le dire en fait, c'est ça ?

On peut le faire, il faut le dire et il faut le faire de la bonne manière. Sinon

c

'est une trahison en fait du lecteur ? Oui,

je pense que c'est une trahison. On vit dans une époque où l'IA fait nécessairement peur et je pense que ces peurs sont quand même justifiées d'une certaine manière. Il y a une psychose autour de l'IA et on ne peut pas vraiment la faire disparaître. Donc à cette ère de psychose, c'est important d'avoir de la transparence, mais comme dans plein de domaines artistiques je pense, et de ne pas tromper les lecteurs. Aujourd'hui ça suscite beaucoup d'intérêt, on veut le dire, parce qu'on est curieux. Mais je ne pense pas que la plupart des lecteurs sont très contents de se sentir trahis.

Et notamment les gens du Goncourt et des prises se sentent sûrement trahis parce qu'ils pensent que ça manque de transparence.

Justement la réaction du Goncourt a été assez radicale. Elle a sorti de sa sélection et elle a un peu jeté en pâture. En réalité, Tennyson Aurélien, l'auteur, Eric Sadin, vous pensez qu'il fallait procéder de cette manière-là pour ne plus être confronté à ce genre de problème à l'avenir

? Le

Goncourt est juste parfait. Ils ont été à la hauteur

de

l'événement parce que nous jouons avec le feu actuellement. C'est d'une extrême gravité. C'est-à-dire que nous sommes dans un relativisme absolu. Il n'y a plus de boussole de la raison, ni même de boussole morale. Il y a des gens qui disent que c'est un outil de plus, ce qui n'est en aucune manière le cas. Il y en a même qui font des comparaisons avec le dictionnaire ou Wikipédia. Enfin, c'est un gros test total. Car non, compter, ce n'est pas écrire, faire produire du texte par des machines, c'est tout simplement nous défaire de ce qui nous constitue le plus en propre, ce qu'il y a de plus singulier, de vital dans notre capacité à pouvoir témoigner de nous-mêmes dans le langage.

Et on oublie tout de même

que ces systèmes nourrissent ce que j'appelle le capitalisme linguistique. C'est-à-dire que chaque production de ces textes génère des profits pour des industries qui... Ça,

c'est une autre question. La question de l'outil, quand même, le fait de dire que ce n'est pas un outil, ça reste un outil. Moi, je ne pense pas qu'on puisse nécessairement dire que ce n'est pas un outil.

C

'est qu'on

peut plier ce qu'est l'acte d'écrire, parce que c'est à cela qu'il faut revenir.

Est-ce qu'on ne peut pas distinguer l'utilisation de l'IA, peut-être pour corriger la structure des phrases, améliorer le texte, ou l'utilisation de l'IA pour imaginer l'histoire ? L'intrigue, ce n

'est

pas la même faute ? Est-ce qu

'on

peut distinguer les

deux ? Et quand

bien même, en fait, quand bien même on arrive à créer des idées de scénarios qui sont intéressants, on n'a pas la capacité ou la volonté d'écrire la totalité du texte, on peut se poser la question de savoir si des idées brillantissimes peuvent quand même, à l'aide de l'IA, produire des romans qui vont intéresser et plaire aux gens. Donc, je pense qu'il y a quand même cette question de l'outil et de la manière dont il est utilisé qui est important, et effectivement, l'honnêteté de la personne qui l'écrit. Voilà, je pense que dans le cas d'Aurélien,

il

y

a

aussi, malheureusement pour lui, enfin, voilà, nous, on ne prend pas partie, mais il

y

a ce côté plagiat qui est ressorti aussi, qui a forcément, je pense, alimenté la polémique. Et donc, il faut forcément prendre cela en compte, je pense, dans la décision du Goncourt aussi, qui me semble exemplaire pour cette raison-là. Mais voilà, je pense qu'on peut quand même, avec un outil, l'utiliser d'une manière différente. Après, c'est aussi à l'audience de répondre et de savoir si elle a envie de lire ses livres ou pas. Moi, je ne

dis

pas que... Je ne force pas les gens à ouvrir un bouquin et à le lire. Par contre, si une audience trouve son intérêt dans ces œuvres-là, alors pourquoi leur interdire

?

Éric Sadin, tout est acheté

dans

l'IA

? Je le redis, c'est d'une gravité absolue. La personne qui vient d'intervenir dit que ça produit des idées brillantissimes nullement.

Non, c'est l'humain qui produit

des idées qui utiliserait cet outil pour

ensuite écrire son livre. C'est vraiment

différent.

Alors, attendez, laissez-moi terminer, s

'il vous plaît. Tout ça, c'est du schématisme logique. C'est extrêmement formaté, homogénéisé. Une fois de plus, écrire,

c

'est témoigner de notre singularité dans le langage, des voix toutes singulières, dans des formes de langage qui sont issues de l'effort, du travail, de la volonté de tracer des propositions nouvelles, des idées nouvelles, des perspectives nouvelles. Nous oublions trop rapidement qu'il y a quatre ans, nous vivons plutôt très bien sans toutes ces machines qui émanent de l'industrie de la tech. Alors, vous savez, moi, je crois que nous ne devons nullement plaisanter, ergoter sur des façons d'utiliser ou non. Je crois qu'il, vu la gravité, il faut être à la hauteur des enjeux.

Saviez-vous qu'à l'UNESCO, le 2 décembre dernier, il y a presque un an, j'avais lancé un appel mondial pour préserver les métiers de la culture et notamment ceux de l'écrit. Et j'avais appelé à des préconisations très concrètes concernant le monde de l'édition, ce que j'ai fait plus tard dans une tribune. Alors, j'en appelle à quatre mesures, si vous êtes d'accord, parce que tout le monde dit un peu, on est dans le subjectivisme, alors que notre maison, notre maison commune, la maison de notre créativité est en train de brûler. J'en appelle à quatre mesures, si vous êtes d'accord. Alors, très rapidement.

Eh bien, nous savons que déjà depuis janvier, les ventes en librairie sont en berne, que les librairies sont en difficulté, qu'il y a un recul qui est tragique, c'est tragique, du temps de lecture.

Alors, on ne va pas avoir le temps des quatre mesures. Je ne pense pas que ça apporte beaucoup de parler nécessairement de ces mesures-là. Alors,

écoutez, laissez-moi terminer, s'il vous plaît. Alors, j'en appelle. J'en appelle d'abord à quatre mesures très simples que nous aurions dû adopter depuis plusieurs mois.

Si vous

pouvez nous dire au moins une mesure, parce que là, le débat s'achève, hélas.

La première, c'est qu

'il

y

a

un accord entre tous les éditeurs à l'échelle nationale et mondiale pour investir dans des systèmes mutualisés en vue qu'il

y ait

une vérification toujours plus fiable des textes proposés. Deuxièmement,

que

dans les contrats... Donc,

il

faut

interdire tous les textes géniaux avec le livre. Attendez, laissez-moi terminer.

Dans les contrats liant, un auteur à un éditeur doit être stipulé que le texte qui a été livré n'a été en aucune manière pour la rédaction fait appel à des systèmes. Et enfin, il devrait être mentionné, ce qui commence à être le cas, sur les pages de garde du livre, que ce livre, ni aucune phrase de celui-ci, n'émane d'une IA. Parce que ce à quoi nous avons besoin, c'est d'établir un lien de confiance.

Merci. Merci beaucoup, Alexandre. Juste, vous voulez une réponse en quelques

mots ?

Voilà, je pense qu

'on

peut être plein de bonnes intentions et vouloir défendre la créativité. Mais voilà, de la même manière, il y a des métiers qui évoluent. Le métier de la création artistique, c'est un métier qui évolue. Mais les humains veulent continuer à créer. Ils ont des nouveaux outils pour continuer à créer et à développer leurs idées de manière différente. Je pense que ça, il faut l'encourager.

Il

faut, par contre, défendre la transparence et une manière de créer qui est visible pour tout le monde et qui permet à tout le monde de savoir ce qu'il est.

Merci à tous les deux d'avoir accepté de débattre. On va retrouver à présent Florian Gazan qui a sélectionné le meilleur d'RTL.

C

'est la story RTL après la pause.

Cette émission vous plaît ? Abonnez-vous au podcast sur l'appli RTL.

«

rogreen, gloing,

gloing, gloing, gloing, gloing, gloing »