Avec son nouveau livre, Abel Quentin lance "un appel citoyen" de "légitime défense" contre l'intelligence artificielle

Dans le grand entretien, nous recevons donc ce matin une voix critique de l'intelligence artificielle. Ça n'est ni un scientifique, ni un ingénieur, mais un écrivain. Remarquez pour ses romans, le voyant des Tempes et Cabane. Venez participer à la discussion, chers auditeurs, au 01 45 24 7000 et sur l'appli Radio France. Bonjour Abel Quentin. Bonjour. Merci d'être avec nous ce matin sur France Inter. Hier, vous publiez Sanctuaire, un pamphlet dans lequel vous appelez à boycotter l'intelligence artificielle générative. Rien que ça. Pourquoi cette radicalité, vous qui n'appartenez pas au monde de la tech, c'est un appel citoyen que vous voulez lancer ?

C'est un appel citoyen et ce n'est pas un appel radical en réalité. Moi, je revendique finalement une réaction mesurée. Parce que si on réfléchit en termes de légitime défense, vous savez, c'est un terme dans le droit pénal qui désigne une riposte proportionnée à un péril immédiat. Eh bien, si on considère qu'on est face à un péril existentiel, un péril qui menace rien, moins que finalement notre humanité, pas de la détruire, mais de la vilire. Si vous considérez ça, eh bien, vous êtes prêts à finalement envisager toutes les solutions.

Et je crois que c'est très important d'avoir un débat qui ne soit pas un débat au rabais sur les bons usages de l'IA générative, mais un débat qui pose toutes les questions avec une forme d'audace.

Mais ça, ce n'est pas radical ? Quand vous parlez de régression civilisationnelle, de suicide écologique, ce n'est pas radical ça ?

Non, c'est la réalité. Ce qui est radical, c'est l'aveuglement, c'est l'inertie. Mon dernier livre, Cabane, parlait justement d'inertie face au climat et nous replaçait au début des années 70, à ce moment où finalement, il y a les premiers lanceurs d'alerte et où on pouvait encore, je dirais, infléchir des trajectoires de façon pas trop coûteuse de l'humanité. Eh bien, à nouveau, on est en 1972, au moment, par exemple, du rapport du Club de Rome. C'est-à-dire qu'on est à un commencement.

Et il y a ce philosophe allemand, Antionas, qui dit qu'il faut prendre soin des commencements parce que c'est maintenant qu'il est possible encore d'infléchir ces trajectoires qui sont une fuite en avant autodestructrice.

Abel Quentin, on va détailler votre thèse, le personnage que vous mettez en scène pour précisément l'introduire et développer vos arguments, mais toujours sur cette question de la radicalité et de la nuance. Vous avez écrit un livre qui est un de vos plus grands succès, qui était Le Voyant des Temples, qui racontait l'histoire d'un professeur d'université qui était la victime d'une chasse aux sorcières, compte tenu du fait qu'il écrivait une thèse sur un afro-américain sans préciser qu'il était noir. Et c'était au fond une sorte d'éloge de la nuance, de la modération. Là, franchement, quand on dit simplement la solution avec l'IA, c'est d'arrêter de l'utiliser, il faut la boycotter.

On n'est pas exactement dans cette éloge de la modération, non ?

La nuance, ce n'est pas l'indécision. La nuance, ce n'est pas l'eau tiède. Le Voyant des Temples, c'est un livre que j'ai écrit beaucoup en pensant à Camus, écrivain de la nuance. Et Camus est également un écrivain qui nous alerte sur notre démesure. Il y a un texte très, très beau de Camus qui s'appelle L'Exil d'Hélène, qui est publié en 1948 et qui parle de la démesure, et qui parle de la folie de s'embarquer dans des aventures que nous ne maîtrisons pas. Et donc, mon livre, Le Voyant des Temples, était sous l'égide de Camus, écrivain de la nuance. Et ce livre-là est toujours sous l'égide de Camus, l'homme qui disait, il faut savoir s'empêcher.

Et aujourd'hui, il faut savoir s'empêcher. Alors, ce personnage, donc, qui s'appelle Michel Super, il faut que vous nous racontiez qui il est. Vous ferraillez contre lui pendant les 360 pages de votre essai. C'est un cas de sub qui utilise l'IA, qui en est ravi. Vous écrivez notamment, et c'est très drôle. Il fut l'un des premiers à interroger Tchad GPT il y a 4 ans. Il lui a demandé d'inventer une recette de tarte au couetche. Le robot s'est exécuté, et Michel Super s'est écrié « C'est super ! » et indéniablement, « C'était super ! » Pourquoi avoir voulu créer ce personnage, il faut dire, un peu tête à claque, Abel Quentin ? Alors, d'abord, parce qu'il n'est jamais interdit de rire.

Je pense que c'est toujours une bonne chose pour la santé. Parce que je voulais écrire un livre vivant, qui soit presque un dialogue. Alors, c'est vrai, un dialogue où mon contradicteur n'a pas tellement de place pour s'exprimer. Un dialogue tronqué. Et donc, j'assume ce côté pamphlétaire, ce côté, finalement, presque injuste, en tout cas très subjectif de mon propos. Donc, comment vous décrivez ce sujet ? Alors, Michel Super, c'est, vous savez, il y a un écrivain qui s'appelait Gunther Anders qui parlait des minimisateurs de métiers. C'est gens qui vous disent, en toutes circonstances, ça va le faire. Ça va le faire parce qu'il faut que ça le fasse, en fait.

Et qui confondent ça avec la lucidité. Qui confondent optimisme BA et méthode Coué avec une forme de lucidité. Et finalement, Michel Super, c'est lui. Donc, c'est un ingénieur, il a 52 ans. Et il pense que ça va le faire. Et vous, vous pensez que ça ne va pas le faire ? Je pense que ça ne va pas le faire.

Oui, mais ce que vous dites là, c'est qu'on est tous séduits par l'intelligence artificielle, alors que ce soit pour des tâches extrêmement rébarbatives, dans le travail, pour faire une recette de cuisine. Comment est-ce qu'on fait pour infléchir ce mouvement ? Parce que ceux qui s'en servent trouvent ça super ? Comme votre personnage ?

Nous sommes tous des Michel Super. C'est un peu le problème. C'est-à-dire que les séductions, elles sont immédiates. Les séductions, elles sont immédiates. Et surtout, elles sont réelles. Je n'ai pas écrit un livre pour expliquer que l'IA Générative n'apporte pas un confort immense dans nos vies, ne crée pas même des gains de compétitivité, ne nous épargne pas un certain nombre de tâches désagréables. Simplement, je crois qu'on est à un moment de l'histoire où il faut peut-être un peu sortir de notre couloir de nage et regarder les coûts. Les coûts, ils sont cachés. Les coûts, ils sont colossaux. Les coûts, ils sont parfois un peu moins palpables, un peu moins mesurables.

Ils sont parfois sur le long terme. Quels sont ces coûts ? Ce seront les coûts environnementaux, par exemple, qui sont énormes, dont on parle encore trop peu. Du fait de quoi ?

Des data centers ?

Du fait des data centers qui émettent du CO2, sont en train de nous empêcher plus que jamais, sont en train de nous faire dévier de nos efforts pour essayer d'enrayer la crise climatique. Ce sont des consommations monumentales d'eau pour refroidir les data centers. C'est les métaux rares, mais c'est bien sûr aussi une crise qui est une crise qui atteint l'art. Moi, je suis écrivain, et donc je suis très concerné lorsque se pose la question d'une littérature qui hybriderait finalement l'homme et la machine. Je crois que ça n'a rien d'anodin.

Et je crois qu'essayer de minimiser ça, de le mettre sous le tapis, d'être dans une forme de gêne muette, parce que c'est un petit peu ce qu'on observe parfois dans les milieux artistiques,

ça ne sert à rien. Donc quand, par exemple, Abel Quentin, vous avez l'écrivain de science-fiction Alain Damasio qui assume avoir recours à l'intelligence artificielle, un autre écrivain dans le monde qui s'appelle Vincent Ravalet qui disait s'en servir de manière totalement décomplexée, je le cite, comme un outil de création. À un moment donné, se dire quand on est écrivain, quand on est, pourquoi pas, scénariste de films, de séries, qu'on va céder de l'intelligence artificielle. Pourquoi ce serait quelque chose de totalement tabou ?

Alors déjà, moi, je voudrais saluer ces personnes dont vous parlez. Je pense, par exemple, Alain Damasio, parce que tout ce qui est dit participe à une démarche de clarification, permet un débat, permet que peut-être on puisse s'expliquer. Et moi, je trouve ça intéressant. Ça n'est pas tellement, d'ailleurs, ce type de démarche qui menace l'art. C'est au contraire une automatisation qui se fait à bas bruit, qui ne dit pas son nom, qui va créer une ère du soupçon généralisé avec la littérature comme un espèce de lieu marécageux où le lecteur ne saura jamais où il met les pieds, ce qui tient de l'homme et ce qui tient de la machine. Et donc, c'est davantage cela qui est extrêmement mortifère.

Moi, je crois que la littérature, comme disait Jean-Paul Sartre, est un compagnonnage, que c'est une rencontre entre un écrivain, une écrivaine et son lecteur et qui n'est absolument pas anodin et ça n'est absolument pas un changement de circonstance ou un changement de, je dirais, technique. C'est un changement radical que d'imaginer une littérature machinique. Et ce changement-là me paraît tout à fait mortifère.

Alors, on a des auditeurs qui veulent participer à cette conversation et je souhaite la bienvenue à Laurent qui nous appelle de Metz. Bonjour Laurent. Bonjour. Vous voulez faire entendre votre voix sur ce sujet ?

Moi, je pense qu'il en est de l'IA aujourd'hui comme d'Internet il y a 25 ans. C'est-à-dire qu'entre des mains de personnes très intelligentes et très cadrées, on en fait des choses très bien. Je pense qu'actuellement, le secteur médical va énormément progresser au niveau du diagnostic. Dans le domaine artistique, ça fait déjà des années que dans la composition musicale, vous avez des programmes comme Finale qui vous anticipent, qui vous proposent une ligne d'accompagnement de basses ou bien de pianos. C'est une forme de mémorisation de schéma. Et donc, si ça, c'est une forme d'intelligence, ce n'est pas de l'intelligence, c'est de l'hyper-mémoire, d'une hyper-mémoire qui est très ciblée.

Parce que l'IA, en fait, même génératif, ne travaille que sur des statistiques. Donc, même dans le domaine artistique, moi, je pense qu'entre les mains, de toute façon, quand on a un certain niveau musical, si vous utilisez un programme, comme le final, c'est que vous êtes déjà à un certain niveau musical. Donc, je pense que dans l'écriture, comme dans la médecine, comme dans le domaine géographique, cet outil entre des mains expertes, c'est génial. Maintenant, c'est comme Internet. Si vous mettez ça entre les mains de quelqu'un qui est immature, il va aller faire des conneries.

C'est intéressant ce que vous nous dites, Laurent, puisque précisément, Abel Quentin, vous partez du principe que dire que l'IA est neutre, ni bonne, ni mauvaise, que tout dépend des usages qu'on en fait, vous dites que c'est un raisonnement fallacieux.

Pourquoi ? Oui, là-dessus, j'emprunte à Jacques Ellul, grand philosophe de la technique, qui a expliqué très, très tôt, il y a 70 ans, que la technique n'était pas neutre, qu'elle était ambivalente. Ça ne veut pas dire qu'elle est foncièrement mauvaise, ça veut dire qu'elle n'est pas ni bonne, ni mauvaise, elle est bonne et mauvaise. Et qu'il y a une vue de l'esprit à imaginer qu'on peut neutraliser totalement ces aspects négatifs. Je vous donne un exemple. L'IA générative est prospère sur le pillage d'œuvres massifs. Alors, vous avez des gens qui vont vous dire oui, mais ça, c'est une circonstance, c'est quelque chose qu'on pourrait, par exemple, éviter.

Il y a un article d'un avocat qui s'appelle Cédric Dubuc, il y a quelques jours dans le monde, qui est absolument passionnant et qui montre bien que le pillage d'œuvres est structurellement lié à cette industrie. C'est-à-dire que si vous retirez le vol, cette industrie ne sera jamais rentable. Cédric Dubuc ne peut pas répondre aux questions

si elle ne va pas chercher les réponses.

Et cette industrie provisionne financièrement le coût des transactions qu'elle devra payer en ayant volé les œuvres d'art.

Donc, il y a une question qui est morale. Mais on entend effectivement cet usage-là. Mais si je prolonge la question de Laurent, qui prend l'exemple de la santé, et d'ailleurs, vous en parlez, et c'est une forme de concession que vous faites à votre propre argumentation, et qui, par ailleurs, fait le parallèle qui est intéressant, je trouve, avec Internet. On a entendu aussi des discours catastrophistes au moment d'Internet sur la façon dont cela pouvait détourner d'autres usages. À la fin, plus de 20 ans après l'apparition d'Internet, le monde ne s'est pas effondré, non ? Alors, deux points.

D'abord, la médecine, parce que c'est le lieu d'une confusion généralisée. Et je voudrais m'en expliquer, c'est très important. Évidemment qu'il y a des progrès inouïs qui sont en train d'être accomplis, qui vont être accomplis grâce à l'intelligence artificielle. Mais ce n'est pas le cas des intelligences, ce n'est pas le fait d'intelligence artificielle générative, celle dont je parle, bâtie sur des grands modèles de langage. C'est très largement le fait de ce qu'on appelle des IA étroites qui sont faites pour accomplir des tâches spécifiques. Donc, quand on vous explique que si on voulait rationner Tchad GPT, on empêcherait de guérir le cancer, c'est un mensonge absolu.

C'est une confusion qui sert très largement des intérêts privés. On peut parfaitement avoir AlphaFold, par exemple, qui est une IA étroite, qui a permis des recherches monstrueuses dans la recherche sur les protéines, des progrès monstrueux dans cette recherche-là et avoir une politique de régulation vraiment ambitieuse, vraiment drastique sur la prolifération des IA génératives.

Abel Quentin, vous êtes très agacé par ce que vous appelez les techno-fatalistes, ceux qui pensent que de toute façon l'IA est là, qu'on ne peut pas s'y opposer, qu'il va falloir faire avec. C'est le discours de Xavier Niel, par exemple, qui explique dans une interview que vous reprenez dans votre livre que cette technologie existe et va se développer de toute façon. Alors, il vaut mieux être optimiste et essayer de la transformer en avantage. Pourquoi ça vous agace autant, ça ?

Parce que c'est un discours qui se présente comme un discours pragmatique, en réalité, qui est un discours fortement idéologisé, qui est un discours qui porte un agenda et qui est un discours qui n'est pas neutre. Lorsque vous martelez comme un mantra sur toutes les ondes, – je ne dis pas vous lorsque certaines personnes le font – qu'on ne peut rien y faire, eh bien, vous empêchez, vous tuez dans l'œuf la possibilité d'un sursaut citoyen. Parce que moi, ce que je vois aussi, c'est des enquêtes d'opinion qui montrent une extraordinaire défiance d'un public qui, par ailleurs, adopte massivement ces outils-là.

Donc, il y a peut-être aussi une circonstance historique un petit peu inédite par rapport, par exemple, à l'Internet d'il y a trois décennies dont vous parliez. C'est une espèce de défiance, d'adhésion, répulsion. Il y a des mouvements citoyens extrêmement ambitieux. Aux États-Unis, il y a le Maine qui vient, par exemple, de signer un moratoire sur les data centers. On arrête de construire les data centers. Donc, en réalité, ce discours, c'est un discours performatif. Parce qu'on dit qu'on ne peut rien faire, eh bien, évidemment, on décourage toute volonté

de politiser ce sujet-là. – Et d'ailleurs, pour appuyer cet argument, vous citez l'exemple de l'interdiction des portables décidés au collège. Et vous vous félicitez de voir que cette mesure, elle est plébiscitée. C'est une sorte de bonne surprise qui est la preuve que là-dessus, on peut agir contre l'intelligence artificielle.

– Oui, exactement. C'est un exemple de l'histoire récente. Alors, il y a bien sûr des passerelles entre la révolution numérique et la révolution de l'IA. C'est évidemment deux ères aussi différentes. Mais il y a un enseignement historique. C'est-à-dire que pendant 15 ans, il y a eu un discours très défaitiste qui consistait à dire la seule chose qu'on peut faire, c'est éduquer à titre individuel l'usager pour qu'il y ait un usage responsable des réseaux sociaux. Il y a eu un tabou énorme sur la question de l'accès. La régulation de l'accès vous mettait dans la case des conservateurs réactionnaires bas du front. Et 15 ans après, eh bien, on y vient.

On y vient et puis on s'aperçoit que cette loi est votée, que cette loi est désirée et que cette loi est désirée d'ailleurs par les jeunes eux-mêmes qui sont visés par la mesure, qui demandent en fait à l'espace aux décideurs publics débrancher-nous, protéger-nous contre nous-mêmes. Donc, là-dessus, il y a, à mon avis, non pas une raison d'être optimiste parce que l'optimisme et démobilisateur ne sert à rien, mais pour reprendre un terme plus porteur de Georges Bernanos, un motif d'espérance.

Il y a une dimension qui est importante dans votre réflexion, c'est le temps, c'est ce culte de la rapidité que vous décrivez et on a justement une question de Jean-Louis au standard de France Inter. Jean-Louis de Marseille, bienvenue. Bonjour Jean-Louis.

Bonjour Florens, bonjour Benjamin, bonjour M. Camphé. Oui, effectivement, j'ai une réflexion sur le temps. Et je me posais la question, comment peut-on concilier le temps long qui est l'école de la conception réfléchie, à mon avis, avec le culte actuel de l'immédiateté qui est nettement incarné par les IA ?

Merci Jean-Louis. Très bonne question.

Oui, c'est vrai, la prolifération de l'IA génératif c'est aussi le triomphe de l'immédiateté, c'est le triomphe de la récompense immédiate comme le marché de l'attention, le marché des réseaux sociaux était également fondé sur les petites décharges de dopamine qui récompensait de façon immédiate et à court terme son usage. l'IA génératif qui vous permet de franchir tant d'obstacles et ce triomphe de l'immédiat qui vous promet de vous augmenter à très court terme et qui à long terme nous laissera durablement diminuer.

On va parler des solutions que vous esquissez. Juste un mot toujours sur le temps gagné, vous n'allez quand même pas à Belquentin nous faire l'éloge des formulaires Cerfa, non ? Parce que vous-même vous dites que vous êtes atteint d'une forme de phobie administrative, l'IA ça peut servir dans l'usage quotidien, on a commencé à déclarer nos impôts pour l'année précédente, l'intelligence artificielle peut-être dans les années à venir nous aidera à faire en sorte que ça aille encore plus vite, non ? Le formulaire Cerfa, c'est vraiment mieux que tout ça ?

Non, je ne vais pas faire l'éloge du Cerfa, juste la simple mention de ce mot me met des sueurs froides et vous venez de rappeler qu'il faut déclarer les impôts et je vais passer une très très mauvaise journée. Donc c'est vraiment quelque chose que je dis parce que presque au-delà de la blague, je suis absolument conscient de cette séduction-là. Et la question du boycott, ça n'est pas de nier ces séductions à court terme, c'est de considérer que l'IA générative bâtie sur ces grands modèles de langage est un fait politique et que vous ne pouvez pas en prendre les avantages et en neutraliser les inconvénients.

La posture du boycott, c'est d'ailleurs un choix politique, c'est celui de dire je ne peux pas détacher mon destin individuel, moi, usager qui en tire tel ou tel avantage, du destin collectif, de toutes ces conséquences dramatiques qui vont impacter nos milieux de vie, notre façon d'être au monde.

Alors, au-delà du boycott, qu'est-ce qu'on peut faire ? Nous avons Mathilde au standard de France Inter qui a justement peut-être une solution à nous proposer. Bonjour Mathilde. Bonjour.

Bonjour. Bienvenue, allez-y. Merci de prendre ma question. Alors, je vous appelle parce que j'ai un ami, Kevin, qui est professeur à l'université, lui, c'est la main de la vallée, en musicologie et il s'est rendu compte que beaucoup d'élèves utilisaient l'IA pour rédiger leurs devoirs. La question, c'était, est-ce qu'il serait, selon vous, possible de créer une forme de marqueur pour automatiser le fait que ce soit créé avec l'IA, déstampiller, en quelque sorte, les créations afin que ce soit officiel et c'est fait avec l'IA ? Un label.

Les obligations de marquage, elles sont déjà dans la réglementation européenne, simplement, elles ne sont pas respectées parce qu'il est très difficile de les faire respecter et qu'elles ont, par ailleurs, un champ d'application limité. Moi, je crois beaucoup à la labellisation, c'est mon idée de Sanctuaire qui a donné le titre au livre, c'est de créer des espaces où, finalement, on puisse être retiré de la compétition avec la machine.

Vous écrivez notamment à Belcantin, l'enfance, une filière universitaire, une maison d'édition pourrait être érigée en sanctuaire. Pardon, mais l'enfance en sanctuaire hors IA, ça fonctionne comment ? Ça fonctionne tout simplement. Je vous donne un exemple.

Il y a une société française qui s'appelle Compagnon et qui propose de donner des IA génératives aux enfants 8-13 ans parce que c'est extraordinaire et même le prétexte qui est extraordinaire qui est donné, c'est de les éloigner des écrans. Tout simplement, pour moi, c'est des produits qui devraient être retirés de la circulation, qui devraient être interdits parce que l'enfant doit... L'enfant, ce n'est pas du romantisme, c'est les neurosciences qui nous le disent. L'enfant, il a besoin d'être dans le dialogue sinon, il va avoir un retard de développement cérébral.

Donc, ça n'est pas des éducubrations humanistes, si vous voulez, c'est un état d'urgence et cette état d'urgence commande qu'un certain nombre, c'est une notion que j'avais un peu imaginée souple, c'est-à-dire qui peut désigner un lieu mais qui peut désigner une œuvre aussi. Moi, quand j'écris ce livre, je veux dire à mon lecteur, sanctuaire, c'est un sanctuaire. Ça, on a compris que vous n'utilisiez pas l'IA, il y a assez peu de doutes.

Pour conclure, simplement, Balquentin, vous trouvez que le débat sur cette question du développement d'intelligence artificielle, il n'est pas à la hauteur et notamment le débat politique, que la politique ne s'empare pas suffisamment du sujet ?

Sur la politique, il est carrément nul en fait, il est inexistant, c'est-à-dire qu'il y a cette ambivalence terrible d'un milieu politique qui l'utilise largement comme outil mais qui ne l'aborde pas comme sujet de société. Ça devrait être un sujet

de la prochaine présidentielle,

par exemple ? Ça doit l'être absolument. Si vous voulez, il faut avoir toute la réflexion dans les années 70 d'un philosophe comme Jacques Ellul, c'est de dire la technologie, et c'est plus que jamais le cas avec l'intelligence artificielle générative, elle modifie nos vies bien plus sûrement que telle ou telle politique publique qui pourrait mettre tout le monde dans la rue. Et vous allez avoir, d'ailleurs je pense par exemple à des gens à gauche qui vont faire état presque d'une complaisance assez étonnante vis-à-vis de cet outil qui va créer du chômage de masse, qui a aussi des dirigeants, je veux dire, il faut écouter ce que disent des Sam Altman, il faut écouter ce que dit Elon Musk.

Les visions de ces hommes-là voyagent avec leurs machines. Donc quand vous utilisez ces technologies-là aussi, vous utilisez des technologies qui véhiculent une vision de l'homme, une vision diminuée, obsédée d'efficience et d'optimisation.

La discussion est passionnante, merci beaucoup à Abel Quentin d'avoir été au micro de France Inter ce matin. La revue de presse à suivre. Sous-titrage Société Radio-Canada

Sous-titrage Société Radio-Canada Sous-titrage Société Radio-Canada