IA est-elle une idéologie ?

France

Culture, question du soir. Thomas Négarov. Dans

le monde d

'aujourd'hui,

nous dépendons presque entièrement d'un petit nombre d'entreprises puissantes pour prendre, au nom

de l'humanité tout

entière, les bonnes décisions concernant le développement de l'IA. Les préjudices liés à l'IA ne sont pas hypothétiques. Ils se produisent déjà sous nos yeux. L'IA offre de nombreuses possibilités de progrès pour l'humanité, mais cela dépendra des choix délibérés effectués dès aujourd'hui quant à sa conception,

son

déploiement et sa gouvernance.

Hier, Volker Turk, haut commissaire des Nations Unies aux droits de l'homme, ne condamne pas l'IA, mais s'en inquiète lourdement. Et il n'est pas le seul. Tel un rouleau compresseur, jour après jour, elle progresse sans que nous puissions l'arrêter ou même la freiner. Simple outil technologique au service de l'homme. A écouter les experts, elle s'autonomise au point de représenter à court terme un danger pour les sociétés humaines. Google, Microsoft, Meta, OpenAI, Anthropic investissent des centaines de milliards de dollars, convaincus que celui qui gagnera la course à l'IA gagnera le siècle.

Les États eux-mêmes s'alignent, la Chine et les États-Unis en tête, dans une compétition qui ressemble à s'y méprendre à une nouvelle guerre froide technologique. Mais à force de tout expliquer par elle, de tout résoudre par elle et de tout promettre par elle, l'intelligence artificielle n'est-elle pas en train de devenir autre chose qu'un outil ? Une croyance, un horizon, presque une religion du progrès qui ne dit pas son nom. L'intelligence est-elle devenue une idéologie ? C'est la question du soir.

Bonjour

Daniel Andler, merci d'être avec nous, mathématicien, philosophe.

Vous

publiez une réédition ou une édition en poche mais largement enrichie car le livre date de 2023 et vous m'avez dit juste avant de prendre l'antenne qu'il se passe tellement de choses qu'il faut remettre à jour quand on publie une édition en poche. De votre livre, intelligence artificielle, intelligence humaine, la double énigme qui sort donc chez Folio. Et vous nous direz que l'intelligence humaine ne sera jamais rattrapée par l'intelligence artificielle. Mais est-ce que ça nous protège ? Ça, c'est une question que je vous poserai dans un instant. Pour dialoguer, discuter avec vous, Ophélie Coelho. Bonsoir. Bonsoir. Chercheuse associée à l'IRIS, membre du Centre Intérêt et Société du CNRS.

Vous êtes peut-être un peu moins optimiste que votre autre invité quand vous mesurez à quel point la concurrence pour la maîtrise de l'IA ne fait qu'accélérer le processus. Vous avez notamment signé ce livre « Géopolitique du numérique » paru en novembre dernier aux éditions de l'Atelier. Et puis un journaliste est avec nous, Christophe Payet. Bonsoir. Bonsoir. Un journaliste et auteur de « Guerilla ». Alors, il

y a

un jeu de mots. « Guerilla ». « Guerilla ». « Guerilla », tout à

fait. « Guerre de l'IA

», qui paraîtra vendredi aux éditions du Seuil. Pour vous, il est encore possible d'inventer une autre IA que celle que nous promettent ce que vous appelez les techno-fascistes. On verra si cette guerre est à mener et si cette guerre peut être gagnée. On va commencer par l'été qui s'achève et cet été qui s'achève sur un vent de panique autour de l'IA. On entend depuis quelques jours, mais vraiment depuis quelques heures, quelques jours, une série d'inquiétudes qui se multiplient dans la bouche notamment d'anciens ingénieurs de l'IA qui quittent leur entreprise et qui disent « Dans dix ans, dans un an, dans trois ans, à moyen ou à court terme, l'IA va détruire l'humanité ».

C'est Jacob Coxon notamment qui l'a envisagé, lui, d'ici à dix ans. D'ailleurs, je vous pose la question dès maintenant. Allons-y. Vous me dites dans votre livre que l'intelligence humaine ne sera jamais rattrapée par l'intelligence artificielle. Peut

-être

que vous pouvez nous l'expliquer en passant, mais est

-ce

que ça nous protège ?

Non,

ça ne nous protège pas.

Je suis rassuré.

D'abord, peut-être une première chose, c'est qu'il y a beaucoup d'incertitudes. On fait tous comme si on le savait parce qu'on a lu, on a entendu, des gens autorisés, etc. Mais personne ne sait exactement comment les choses vont se développer. D'abord parce qu'il y

a

des questions de progrès technologique qui est imprédictible, contrairement à ce que disent un certain nombre de gens qui pensent que ça ne va faire caler en s'accélérant. Et deuxièmement, parce qu'il y a tant de facteurs qui interagissent qu'on ne peut pas deviner d'avance comment les sociétés, les éléments, les dimensions géopolitiques, etc. Je voulais juste dire, pour commencer, et surtout pas être trop long, que ce qui se passe depuis quelques jours est en fait discuté dans les milieux spécialisés depuis au moins dix ans. Et tout particulièrement depuis cinq ans. Je veux dire, on a depuis longtemps des gens qui nous disent « Attention, l'IA est épouvantablement dangereuse.

» Hinton l'a dit. « Je suis à Bengio, qui est le plus actif,

le

plus nuancé, le mieux informé, avec le plus d'autorité, le dit. »

L

'IA est extraordinairement dangereuse. Alors, ce qui s'est passé ces tout derniers temps, effectivement, et je dirais peut-être pas les derniers jours, parce que, pour aller un tout petit peu au-delà de

l

'actualité immédiate, ce qui se passe depuis, mettons, quelques mois, c'est la conjection de trois facteurs. D'abord, la révélation par sondage que les Américains sont maintenant hostiles dans une grande majorité à l'IA, donc une espèce de backlash considérable à cause des data centers, à cause de la menace sur l'emploi, et aussi un sentiment que, finalement, ça nous apporte peut-être de bonnes choses, mais ça nous apporte surtout de mauvaises choses, ça fait peser des risques existentiels ou autres. Ça, c'est la première chose.

La deuxième chose, c'est effectivement l'incident récent du Hugging Face, avec une IA agentique qui a commencé apparemment à développer des méthodes fourmées, insidieuses, pour sortir de leur cage et faire des dégâts. Et la troisième chose, quand même, on ne le dit pas tellement, c'est les récentes progrès de l'IA en mathématiques et dans les sciences, mais surtout en mathématiques.

Ça, ça

bouleverse complètement le milieu mathématique, est en ébullition à cause des récentes découvertes par l'IA d'un certain nombre de théorèmes mathématiques difficiles.

Tout s'accélère, tout va très vite. Ophélie Coelho, comment avez-vous réagi, vous, en entendant les propos récents ? Est-ce que vous dites, comme vous avez dit, « Mais ça fait des années qu'on l'entend, c'est juste que médiatiquement, ça arrive maintenant à vos oreilles, mais quand on suit le sujet depuis longtemps, on le sait. »

Ce

qui, d'ailleurs, ne dit pas que c'est moins dangereux ou moins grave. Allez-y.

Oui, alors effectivement, c'est un sujet qui revient régulièrement et qui, là, prend en pleine lumière. Mais, bon, prenons un peu de recul. Pour moi, quand on regarde l'histoire, la peur a toujours été un formidable outil de propagande.

Et

aujourd'hui, effectivement,

la peur... Ah, de propagande,

vous dites ?

Oui, effectivement. Je pense que là, pour le coup, on peut parler de propagande, de propagande commerciale et de propagande politique, en fait. De deux points de vue. D'une certaine manière, d'un côté, parce qu'on va vendre, effectivement, l'IA comme un danger pour l'humain. Donc, du coup, ça veut dire quoi ? Ça veut dire qu'il va falloir contrôler, qu'il va falloir être les plus forts, d'une certaine manière, pour pouvoir dominer cet objet qui devient plus qu'humain. Et de l'autre côté, il y a la peur. On va nourrir une peur contre la Chine. Voilà. Ça rappelle un peu Spoutnik, d'une certaine manière. Vous parliez de la guerre froide au début,

c'est

un peu ça. Et effectivement, la peur vient, en fait, alimenter cette... On peut vraiment, je pense, parler de propagande de ce point de vue-là.

Vous diriez donc qu'il n'y a pas de sincérité dans les propos de ces ingénieurs qui viennent devant les médias pour dire « Je démissionne ». C'est quand même assez sincère. « Je démissionne d'Anthropique », Jacob Cochon, parce que je considère que

c

'est trop dangereux et je ne veux pas faire partie de cette destruction de l'humanité. Il n

'est

pas sincère. Ils ne sont pas sincères. Eric Schmidt, patron de Google, qui dit aujourd'hui, « Effectivement, c'est un peu vrai. Même la sécurité d'Anthropique », qui considère qu'en effet, il y

a

peut-être un sujet. Ces gens-là ne sont pas sincères.

C

'est de la propagande.

Mais

quel point ?

Alors,

je

dirais qu'en fait, là-dedans, on ne saura jamais si ces personnes-là, en tant qu'individus, ont une place, une honnêteté ou pas dans ce qu'ils disent. Peut-être qu'ils auront ressenti une forme de culpabilité à un moment donné. Je ne serais pas non plus surprise qu'ils soient très accompagnés au niveau de la communication, qui est aussi un choix très clairement situé vers, justement, l'utilisation de cet argument-là qui, au final, sert les entreprises technologiques. C'est-à-dire qu'on a des récits qui se construisent. Là, c'est le récit plutôt US, américain, où on va montrer, en fait, les muscles et le pouvoir, la puissance de ces modèles. Et quelque part, ça veut dire quoi ?

Ça veut dire aussi qu'on est à la marge de la technologie. Qu'on y croit ou pas ? Moi, je suis assez de l'avis de monsieur sur ce sujet-là. Je pense qu'effectivement,

on

ne sait pas exactement dans quel sens ça peut évoluer. Par contre, je m'inquiète un petit peu de l'anthropomorphisme qui est toujours fait vis-à-vis de ces modèles-là. Mais il y a un récit chinois aussi. Il y a aussi un récit côté de la polarisation chinoise par ce récit, qui est un autre récit. Et les deux sont assez compatibles,

d

'ailleurs. C'est assez drôle.

Christophe Payet, est-ce que vous achetez, comme on dit aux Etats-Unis, cette théorie de l'insincérité, de la propagande ? Même si, si je mets en lumière les deux propos qui viennent d'être dits, quand on entend qu'il y

a

une majorité d'Américains qui n'y croient plus trop, qui n'en a pas envie, c'est peut-être aussi l'effet inverse de ce qui est produit par la propagande, ce que vous appelez la propagande de Félix Collier.

Moi, j'ai le sentiment que ces propos soient sincères ou pas, l'effet est le même. Et que finalement, peu importe.

C

'est-à-dire qu'effectivement, il y a les risques et les discours sur les risques. Les risques, bon, moi je ne suis pas ingénieur ou scientifique, je peux juste, entre observateurs, lire ce qui se dit sur, effectivement, des risques cyber qui ont l'air de plus en plus importants, etc. Les discours sur les risques, eux, ils parlent de risques existentiels. Et ils se concentrent sur la potentielle menace existentielle sur l'humanité.

Et

ça, je trouve que c'est très intéressant, parce qu'effectivement, ces discours sur le risque existentiel, je rejoins assez l'idée qu'il sert quand même l'intérêt économique de ces acteurs-là, parce que finalement, la peur et la fascination sont les deux revers d'une même pièce et vont ensemble. Et faire peur, c'est aussi fasciner pour son outil, c'est montrer que c'est une révolution suffisamment importante pour que les capitaux puissent affluer. mais sur la question de la sincérité, moi, je pense que, dans le fond, tous ces lanceurs d'alerte issus de l'industrie même,

qu

'on appelle parfois les doomers, donc c'est ces gens qui viennent de l'industrie de

l

'IA, qui nous annoncent l'apocalypse, et il

y

a eu plein de vagues, effectivement, ça fait des années qu'il y

a

des vagues comme ça d'annonces de l'IA-apocalypse, des vagues doomers, Je pense qu'ils sont plutôt sincèrement convaincus de ce qu'ils disent, parce qu'en fait,

ça

fait aussi partie de leur logiciel idéologique, de la pensée de la Silicon Valley, quelque chose comme ça, de quasi millénariste, de presque religieux, où on va jouer, effectivement, avec la création, avec l'hubris, et puis, en même temps, avoir un regard comme ça sur

une

potentielle destruction à venir de l'humanité. Vous

voulez

dire qu'ils sont

le produit de leur bain culturel, qui fait qu'ils ne peuvent pas penser l'IA autrement que comme l'IA qui va sauver l'humanité ou qui va le détruire

? Je pense que ça fait fondamentalement partie de leur conception de l'IA, mais de la technologie de façon plus générale, et en fait, ça, ça se retrouve dans

plein

de courants idéologiques qu'on retrouve chez ces techno-capitalistes de la Silicon Valley, comme l'altruisme efficace ou le long-termisme, en fait, qui sont des courants de pensée qui disent qu'il faut faire un calcul coût-avantage en essayant de préserver l'humanité sur le long terme, quitte à sacrifier, aujourd'hui, des humains et faire des sacrifices sur des choix écologiques, sociaux, etc.

On va écouter un des patrons de la tech et de l'IA aux Etats-Unis qui a plutôt l'image d'une vision éthique défendue par son entreprise. L'entreprise,

c

'est Anthropik. Le PDG, c'est Dario Amodei. Il a ajouté une demande d'agir. C'était dimanche.

Cette technologie

va progresser

bien plus vite que nous l'imaginons. Cela ne veut pas dire que nous devons paniquer aujourd'hui. Cela ne veut pas dire que nous devons tout arrêter. Je dirais que c'est un signal d'avertissement prévenant que nous devons ralentir. Mais pour faire ça, il faut qu'il y ait une implication du gouvernement.

Alors,

il y a deux dimensions que j'aimerais creuser avec vous. La première,

c

'est, j'y reviens quand même, la question de la sincérité d'Anthropik qui, en plus, est un moment important de son histoire capitalistique avec une introduction en bourse. Et puis, la question aussi de la capacité de l'État à légiférer. On écoutera Donald Trump. On peut mettre un peu dubitatif sur son désir de le faire. Ophélie Coelho d'abord et puis David, en avant de suite.

Oui,

honnêtement, sur ce sujet-là, je trouve ça finalement assez cocasse. C'est-à-dire qu'ils ont tout à fait la possibilité d'arrêter. Si vraiment, ils avaient peur de l'évolution de

l

'IA,

ils

peuvent aussi arrêter, Anthropik, et tous ceux qui sont dans cette industrie, de toucher ou d'aller un peu trop loin sur certains sujets ou de l'utiliser dans certains domaines comme la santé, etc. Or, c'est pas le cas aujourd'hui. Et donc, c'est un peu une manière de se déresponsabiliser, en fait, en disant, c'est pas notre rôle de légiférer, entre guillemets, ça va être à l'État de faire son boulot. Sachant qu'aujourd'hui, effectivement, l'État, quand on regarde l'État américain, même quand il met en place des politiques, par exemple, antitrust contre le géant Google, il n

'a

pas gain de cause, par exemple. Donc, aujourd'hui, il y

a

des limites aussi dans ce que peut faire l'État américain, réellement, concrètement, vis-à-vis de très grandes entreprises technologiques. David Ander, sur ce sujet ? J

'ai

déjà commencé à essayer. Non, je pense que dans le cas de... Il faut distinguer un peu. Dario Abedi est un type vraiment très intelligent, plutôt orienté, disons, d'une bonne gauche libérale. Je pense qu'il est assez sincère. Évidemment, il a beaucoup de fer au feu. Il a plusieurs impératifs, éthiques, économiques, etc. Je pense qu'il est sincère et il n'épouse pas les formes extrêmes à la Peter Thiel et autres de ce techno-fascisme dont on parle beaucoup. Je pense qu'il dit des choses relativement raisonnables.

D'une part, actuellement, l'IA d'aujourd'hui, sans même parler de celle de demain, est déjà potentiellement dangereuse parce qu'elle a des comportements de quasi-autonomie qui ont été illustrés très récemment. Et puis surtout, parce qu'entre les mains de gens malveillants, elle peut dès à présent faire des choses épouvantables, notamment en matière, évidemment, de cybersécurité et de bioterrorisme. Vous n'avez pas répondu à ma

première question tout à l'heure. Quand vous dites que l'intelligence humaine sera toujours supérieure à l'intelligence artificielle, est-ce que ça nous protège en tant qu'espèce

?

Alors, je le pense. Je suis assez optimiste. Je pense qu'on va maîtriser ce cheval fougueux de la même manière qu'on a pu maîtriser, finalement, d'autres technologies. Bien sûr, celle-là est très exceptionnelle, à beaucoup d'égards. Encore une fois, j'assiste sur le fait qu'on est très incertain, etc. Non, je pense que l'intelligence humaine va bel et bien se rendre maîtresse de l'intelligence artificielle.

Vous parliez de cheval fougueux. On va en écouter un autre, le président américain, qui justifie, ainsi, vous allez l'entendre, le fait de ne surtout pas légiférer sur le sujet.

Nous devançons la Chine dans l'IA. Nous sommes le pays le plus sophistiqué au monde. Et franchement, je veux que ça reste comme ça. Nous, nous pouvons mettre des garde-fous. Mais je pense qu'il y a beaucoup de forces négatives qui abordent le sujet alors qu'elles ne le devraient pas et elles mentionnent des choses qui n'arriveront pas. Mais celui qui gagne avec l'IA gagne, vous savez. C'est une expression que j'ai inventée et elle est vraie.

On

se croirait quasiment au XIXe siècle avec la maîtrise des mers. Celui qui contrôle les mers contrôle le monde. Contre celui qui contrôle l'IA contrôle le monde. C'est intéressant parce que ça répond un peu à ce que vous disiez tout à l'heure sur les doumeurs, ceux qui pensent que tout est définitif et universel dans le sujet. Ça pose aussi la question de l'idéologie, en fait. Que tenir l'IA, ce n

'est

pas que maîtriser un outil. C'est maîtriser aussi une vision, un récit du monde. Et on est déjà dans la question idéologique.

Oui, complètement.

En

fait, il y

a

vraiment cette idée-là où finalement

la

course capitaliste se transforme en quelque chose de bien plus grand à la fois dans le récit et je pense réellement dans les motivations de ces promoteurs où c'est plus que juste maîtriser une technologie qui va permettre d'avoir un monopole ou une avance. C'est cette idée, encore une fois, quasi religieuse, quasi mystique. D'ailleurs, on disait tout à l'heure que paradoxalement, le récit de la peur et de l'apocalypse servaient leurs intérêts quelle autre entreprise dans l'histoire a utilisé le récit de l'apocalypse pour servir son commerce, c'est l'église.

Et je pense qu'on retrouve quelque chose vraiment de cet ordre-là chez les promoteurs de cette IA dominante, hégémonique et avec un discours qui nous dit finalement c'est les risques, les grands risques existentiels de toute l'humanité face à cette progression de l'IA qui est inéluctable. Mais en fait, ça, ça masque quand même une autre réalité beaucoup plus prosaïque qui est quelques acteurs économiques

qui

développent des outils et pas face à toute l'humanité, face à aujourd'hui une partie de l'humanité dont certains sont déjà victimes de cette intelligence artificielle avec les annotateurs dans les pays du Sud et qui demain seront peut-être effectivement les victimes de risques sécuritaires. Mais c'est pas l'IA comme une entité en tout face à l'humanité comme une entité en tout.

David Dandler, si on fait un peu d'histoire de l'IA, au départ de l'IA, y a-t-il cette idéologie presque millénariste de renverser le monde, d'une idéologie quasiment une sacralité religieuse ? Y a-t-il ça chez les premiers qui ont pensé l'IA

? Alors,

je pense qu'il y a, ils sont effectivement, comme disait Hubert Dreyfus, un philosophe qui a été le premier à critiquer l'intelligence artificielle dès les années 60, rappelons que l'IA est à 70-75 ans d'âge, et donc déjà, Hubert Dreyfus voyait dans l'intelligence artificielle le, comment dire, la pointe extrême du rationalisme

de

la philosophie occidentale, l'idée de tout contrôler, de tout maîtriser, de tout mettre au carré de façon à améliorer la productivité,

l

'organisation, éliminer le mal, etc. Donc, ce n'était pas qu'un outil ? Non, ce n'était pas qu'un outil, c'était déjà quelque chose comme

une,

oui,

je

dirais une prothèse. Une méthode. Oui, une méthode, mais

c

'est une prothèse de l'intelligence humaine. C'est quelque chose qui prolonge l'intelligence humaine en s'imbriquant en elle. Ce n

'est

pas une IA qui va

être

coupée de l'intelligence humaine. On ne va pas couper la tête des gens, mais on va mettre ensemble, on va féconder, hybrider, en quelque sorte, l'intelligence humaine de l'intelligence artificielle de manière à acquérir ce rationalisme absolu.

France

Culture, question du soir. Thomas Négaroff.

L

'IA est-elle en train de devenir une idéologie ? A vous écouter, elle l'a un peu toujours été avec cette idée de la rationalité dominante, maîtrisée, cette méthode, cette prothèse, j'aime beaucoup l'expression et cette hybridation. Connaissez-vous Yasmine Sun ? C'est une essayiste américaine qui a développé il y

a

quelques mois la notion de populisme, IA. Et je la cite pour la mettre au cœur de notre discussion. Selon ce cadrage narratif, écrit-elle, de plus en plus influent, l'IA est comprise comme un projet conçu par des milliardaires hors sol à des fins sinistres. L'efficacité capitaliste, c'est-à-dire les licenciements et la gestion des populations, c'est-à-dire la surveillance, en les imposant à une masse qui n'en veut pas. Le populiste de l'IA ne se demande pas vraiment si le chat GPT lui est personnellement utile ou si les voitures autonomes Waymo sont plus sûres que les conducteurs humains. Non, l'utilité de l'outil disparaît au regard du bouleversement social qu'il représente

et

une nouvelle technologie devient la matrice d'une nouvelle politisation.

C

'est assez fort comme idée. L'idée que l'IA n'est pas et n'a peut-être jamais été un outil, elle fait corps l'hybridation avec ceux qui la possèdent, ceux qui la dominent, ceux qui la contrôlent. Ophélie Coelho.

C'est intéressant. Après, ça sonne comme une critique de ceux qui posent des questions, qui ont un regard critique sur l'IA, justement.

Vous entendez ça

?

Oui,

je

m'entends

ça, mais peut-être il faudrait que je lise tout le texte pour vraiment me rendre compte. Je pense qu'aujourd'hui, de toute façon, c'est quand même très important de continuer à voir l'IA comme un outil, de toute façon. et je pense qu'il y

a

quelque chose qu'on loupe un peu dans le processus, c'est-à-dire qu'au lieu de l'anthropomorphisation, on devrait dire que c'est un outil qui, à un moment donné, parfois, bug, ne fonctionne pas comme il devrait fonctionner, qui n'est pas suffisamment encadré. Et c'est là où je trouve qu'on fait monter parfois des récits, des histoires d'IA autonome qui a pris des décisions elles-mêmes, voire même à des émotions ou qui ne veut pas qu'on la désactive, etc. Alors qu'en réalité, ce sont des bugs, en fait, purement et simplement c'est-à-dire qu'à un moment donné, on s'est planté dans la configuration de ces outils. En fait, c'est vraiment ça. Et donc ça, c'est vraiment quelque chose, je trouve,

qui

pose, enfin moi, qui me pose problème quand même parce qu'à un moment donné, quand on connaît un petit peu, même si je ne suis pas mathématicienne, quand on connaît un petit peu comment se fait du logiciel, comment fonctionnent un peu ces modèles, on se dit quand même, il y a une extrapolation. Voilà. À un moment donné, quelque chose qu

'on

ne comprend plus qui apparaît comme de la magie. Voilà. C'est toujours cette idée-là. quand on ne comprend pas les choses, on a l'impression que c'est magique. Il y a un petit peu de ça. Mais effectivement, les problèmes que ça pose à la société doivent bien être mis en avant. Et ça, c'est important aujourd'hui. On doit vraiment en parler. On ne peut pas adhérer à une technologie sans poser la question de ce qu'elle provoque derrière.

Est-ce que, et je prolonge ce que vous venez de dire, Ophélie Coelho, Christophe Rieds, est-ce qu'il ne

faut

pas aller au-delà et considérer que ce n'est pas un outil ? Ou en tout cas, ce n'est pas un outil neutre

? Alors,

ce n

'est

pas un outil neutre, évidemment, car aucun outil n'est neutre, aucune technique n'est neutre. Ceci dit, moi, je fais la distinction, pour rebondir aussi sur la citation, je fais la distinction entre

l

'IA que j'appelle hégémonique,

c

'est-à

-dire

telle qu'elle est déployée aujourd'hui par ses acteurs dominants, et

l

'intelligence artificielle, en réalité, dans sa diversité, la diversité d'outils, de technologies derrière, qui sont cachés derrière ce mot un peu valise qui veut tout et rien dire. Et en réalité, aujourd'hui, on parle de l'IA telle qu'elle est déployée par ces acteurs-là, avec une obsession de la quête de puissance et de la super-intelligence,

et

en réalité, quand aujourd'hui, on débat, finalement, de l'encadrement, on parle de ralentir, on parle de mettre sur pause. En fait, ce n'est que du vocabulaire de la vitesse, de à quelle vitesse on va vers cette super-intelligence. Et on ne pose pas la question de la direction, c'est-à-dire de où est-ce qu'on emmène cette intelligence artificielle. Qu'est-ce qu'on veut faire avec ? Est-ce qu'à un moment donné, il ne faut pas remettre en question cette quête de la super-intelligence ? Et est-ce que l'IA ne peut pas être autre chose ? Et elle est autre chose.

Il y a des petites intelligences adaptées, des petits modèles adaptés à des usages précis qui ne sont pas forcément dans cette espèce de désir conquête de puissance permanente.

mais eux, ces géants de la tech, ils ont une vision.

Vous

dites, il n

'y

a que la vitesse.

Eux, ils ont

une vision, mais en fait, le problème, c'est que cette vision, elle est imposée comme étant la seule, comme si c'était le seul destin technologique, comme si notre seul destin vis-à-vis de l'intelligence artificielle, c'était cette course-là. Et effectivement, du coup, le débat se porte sur la vitesse à laquelle on va y arriver. Moi, je dis peut-être décalons le débat pour l'amener sur un terrain aussi politique de quelle technologie, pourquoi, comment.

Et donc, oui, l'intelligence artificielle, encore une fois, dans sa diversité, existe, mais qu'est-ce qu'on veut en faire et comment on se l'approprie pour des usages particuliers qui ne sont pas forcément une quête de puissance, encore une fois.

On

fait les collés et puis David Vendelard.

Alors, très intéressant justement de parler des technologies alternatives.

C

'est-à-dire qu'à un moment donné, effectivement, ce qu'on nous vend, c'est un modèle technologique particulier qui n'est pas du tout le destin. Il n

'y a

pas de fatalisme en fait en technologie. On peut en faire ce qu'on veut. Il

y a

une forme de plasticité, une forme d'inventivité. On peut aller dans plein de directions différentes quand on déploie des technologies. Là où agit la peur, d'ailleurs, c'est dans le fait qu'à un moment donné, dans l'accélération, dans la précipitation, on ne va plus vers des choix alternatifs. C'est-à-dire qu'on gomme, on coupe l'accès à des scénarios alternatifs. Ce qu'on pouvait éventuellement faire il y a cinq ans, aujourd'hui, avec l'implantation des infrastructures telles qu'elles s'étendent aujourd'hui, on pourra difficilement se faire vu le chemin sur lequel on s'est engagé là-dedans dans des grands modèles et dans des grands projets infrastructurels sur la durée. Pour

des

raisons techniques ?

Pour

des raisons technologiques, pour des raisons de choix technologiques. Ces infrastructures sont conçues

pour

ces modèles. Ils sont formatés,

ils

sont conçus de cette manière-là. On n

'est

pas sur un maillage infrastructurel, on est sur une concentration et sur des modèles qui concentrent. Et ça, on a justement parce que ces modèles technologiques, on va avoir un modèle technologique américain qui concentre énormément et qui est très dominant en Europe. Mais on a le modèle technologique chinois qui est aussi un modèle impérialiste différent qui s'adresse à d'autres acteurs. Et je rappelle quand même qu'en juillet dernier, il y avait la World Artificial Intelligence Cooperation Organization à Shanghai, justement. C'était une création à partir d'une conférence du même nom et qui rassemblait une grande partie des pays de BRICS+.

Il y a vraiment derrière un sens géopolitique à cette affaire avec une polarisation sur ces questions-là. Daniel Handler. Alors, d'abord, là aussi, c'est un peu une vieille histoire. Il y a des instituts un peu partout dans le monde, notamment au Canada où ils sont très actifs, en Grande-Bretagne et ailleurs, où on veut faire du AI for good, c'est-à-dire l'IA pour le bien. Et donc, ça fait un moment. Le problème, c'est que qui décide ? Qui est-ce qui va faire que l'IA va devenir tout à coup bienveillante, raisonnable, petit format, etc. Je pense que c'est une question assez complexe. Et j'ajouterais à la contrainte technologique la contrainte économique.

Je veux dire, les investissements absolument monstrueux, l'endettement absolument fabuleux de ces grandes entreprises les obligent à aller dans une certaine direction et ils ne

vont

pas retrouver des comptes positifs en produisant des petits systèmes sympathiques qui vont nous aider à faire nos courses le dimanche. Ce que vous dites,

Daniel Andelard, c'est que l'outil lui-même intrinsèquement

n

'est pas mauvais, ne pousse pas à l'accélération. C'est-à

-dire

que j'essaie de comprendre si l'outil lui-même est porteur de ces valeurs-là.

Non, je pense que non.

C

'est-à-dire... Vous n'êtes pas sûr ? Je ne

suis

pas sûr parce que l'outil offre... C'est enivrant, si vous voulez. Les gens qui développent ces outils, il faut quand même prendre en compte les progrès. Alors, il ne faut pas les exagérer. Je suis aussi déflationniste. C'est vrai qu'ils n'ont pas de vraies intentions, de vraies émotions, toutes ces questions de programmation.

C

'est des... Bon. Mais c'est une programmation très particulière qui est quand même largement auto-organisée. Personne ne sait comment ça marche ni pourquoi ça marche.

C

'est quand même, il faut le dire. On ne sait pas pourquoi les large language models, les modèles massifs de langage qui sont donc chat-GPT, etc. On ne sait pas pourquoi ça marche. Et par conséquent, on ne sait pas jusqu'où ça va aller. Et il y a quelque chose de très opaque.

C

'est-à-dire, on est quand même des apprentis sorciers. On est tombé, pas complètement par hasard, mais on est quand même tombé sur un phénomène qu'on n'attendait pas. Personne n'attendait. Ils n'ont pas dit on va faire ça et vous allez voir ça va marcher. Ils ont vu que ah ben tiens, on peut vectoriser les mots, c'est intéressant, des espaces sémantiques, géométrisés. Et puis,

il

y avait les réseaux à couches qui avaient déjà été inventés il y a 40 ans. Ils ont mis ça ensemble, ils ont commencé à jouer, ils ont constaté qu'ils ont des propriétés absolument affolantes. donc il y

a

quand même quelque chose dans l'outil malgré tout qui nous pousse au crime si vous voulez.

D'où la question que doit-on faire de cet outil qui nous pousse au crime et je reprends vos termes. La revue Le Grand Continuum a mis en ligne un discours de campagne important à cet égard dans l'état de Géorgie. On écoute le sénateur démocrate John Ossoff c'était dimanche. La situation

est

absurde. Cette semaine, on nous a de nouveau mis en garde contre une menace existentielle pour l'espèce humaine. Vous avez vu ça ?

Un

président compétent agirait sans délai pour protéger et rassurer le peuple américain. Il dépêcherait des inspecteurs dans les laboratoires de pointe, fortifierait la nation contre le bioterrorisme, exigerait une législation du Congrès et conduirait le monde vers un traité sur l'IA. Alors, en regardant ce scénario et l'état de notre vie politique, notre foi en l'avenir est ébranlée. Mais nous pouvons et nous allons reprendre la maîtrise de notre destin. Nous pouvons et nous allons honorer nos obligations envers nos enfants.

Un discours de campagne qu'on commence à opposer au populisme IA que je lisais il y a un instant, au progressisme IA. Là, on est chez vous, Christophe Payet. On est chez vous, pas parce que vous êtes de Géorgie ou

aux Etats-Unis,

mais parce que votre livre propose ça. Il dit

qu

'il faut battre le fer contre l'IA avec les outils de l'IA.

Oui, pas contre l'IA, mais contre, effectivement, l'IA hégémonique et il faut se réapproprier ces outils-là. Alors, ce n

'est

pas une solution miracle magique, évidemment, mais plusieurs choses quand même. La première,

c

'est que dans Qu'est

-ce

qu'il faut faire ? On entend beaucoup de oui, en Europe, il faut qu'on ait des champions européens, etc. Bon, je pense qu'effectivement, en Europe, il faut qu'on investisse dans certains modèles alternatifs avec du financement public pour des modèles open source, transparents, etc. Alors, effectivement, qu

'ils

n'auront jamais la puissance et les investissements en face, mais encore une fois, il faut peut-être remettre en cause cette quête de la superpuissance pour emmener l'IA sur d'autres terrains, d'autres usages. Encore une fois, se demander à quoi vont servir ces outils et qu'est-ce qu'il faut investir pour ça. Et surtout, moi, ce que je pousse dans guérilla, pourquoi ça s'appelle guérilla ? Parce qu'une guérilla, c'est quoi ? C'est le mode de combat spécifique aux guerres asymétriques. C'est-à-dire que, voilà, c'est le peuple face à une dictature.

Là, on est quand même typiquement dans un contexte extrêmement asymétrique avec, d'un côté, les hommes les plus puissants du monde qui font un peu ce qu

'ils

veulent finalement et qui sont plus puissants que des États. Comment nous, en tant que citoyens, on peut reprendre le contrôle de notre devenir technologique

?

Moi, j'appelle justement à s'approprier ces outils-là. Aujourd'hui, il existe ces outils alternatifs qui ont été créés pour le bien commun. Moi, j'appelle ça du commun numérique et je dis qu'il faut se le réapproprier et donc il faut que chacun, chacune, fasse cet effort

d

'aller s'intéresser, de finalement, pas utiliser ChatGPT, mais d'aller utiliser Eurya, qui est un modèle européen public, ou Olmo, qui est un modèle open source, d'aller, en fait, s'intéresser au travail que font

ces

développeurs, ces artistes, ces activistes qui, aujourd'hui, proposent autre chose. un exemple, en Afrique du Sud, il y

a

une chercheuse qui a créé un modèle qui s'appelle Incuba LM, qui est un modèle qui n

'est

pas un énorme modèle, ce n

'est

pas un LLM, c'est ce qu'on appelle un SLM, donc un Small Model Language, sauf qu'il est beaucoup plus pertinent que ces grands modèles dominants qui prétendent apporter des solutions à tout dans le monde entier, parce que déjà,

il

est entraîné sur des langues locales, le XOSA, le Yoruba, et donc en fait, il permet d'avoir des solutions concrètes pour faire de

l

'accès à la santé, pour faire de

l

'accès au service public. Et donc c'est tout ça qu'il faut mettre en lumière, qu'il faut soutenir par de

l

'investissement public et par aussi une réappropriation, j'allais dire, citoyenne.

Parce que vous considérez, parce que quand on regarde les grandes guérillas, les vrais guérillas, on n'utilise pas l'arme de l'adversaire, parce qu'on n'a pas les moyens de le faire souvent. On se plante qu'on n'a pas de napalme quand on est du Vietmine.

Alors on n'a pas de napalme, en revanche, on peut prendre le fusil du soldat et ça,

ça

fait partie, je me suis un peu amusé avec le manuel du guerrier héro urbain qui est vraiment un livre d'un révolutionnaire brésilien des années 60 qui dit il faut prendre à l'ennemi ses armes. Et bien je pense qu'il faut faire exactement la même chose, prendre à l'ennemi ses armes pour les retourner en quelque chose qui oeuvre pour l'émancipation plutôt qu'en une nouvelle forme de domination. Les guérillas sud-américaines n

'ont

pas rencontré un succès massif.

Ça après, on fait

ce qu'on peut, on fait ce qu'on peut, il faut essayer de se battre au moins.

Ophélie Coelho, comment vous entendez ça ? Est-ce que c'est de l'utopie ? Quand on a comme vous une connaissance technologique et capitalistique du secteur, on comprend, on voit très bien l'échelle politique, l'échelle locale, ce que ça peut produire aussi sur les langues, c'est intéressant ce que vous dites parce qu'on sait bien que l'IA générative aujourd'hui, elle nourrit des préjugés sexistes, bref, une société patriarcale peut-être dangereuse, des langues dominantes, on sait que tout ça, que ce rouleau compresseur existe avec l'IA. Est-ce que ça peut exister une contre-IA qui utiliserait les outils de l'IA

? Mais

en fait, je pense qu'il ne

faut

pas essentialiser trop les choses. Il y a déjà des petits modèles

et

il y en aura. Là n'est pas la question en fait. Il y en aura, il y aura des petits modèles spécialisés dans la santé, dans l'éducation, il y en a déjà et il

y

en aura.

Le

souci, ce n

'est

pas ça. Le souci, c'est ce qu'on a quand on a des très grandes entreprises qui sont donc des puissances économiques, des puissances politiques, des puissances technologiques qui vont quand même imposer des outils massivement utilisés dans les entreprises, dans les administrations et sur lesquels il y a quand même un versant aussi militaire dans lesquels l'investissement, si vous voulez, il est quand même concomitant. Je veux dire, entre l'usage commercial et militaire, il y a parfois

des petites

passerelles. C'est ça le vrai problème.

C

'est-à

-dire,

on pourra avoir des petites technologies alternatives par-ci, par-là et c'est très bien de les avoir parce que ça permet effectivement de contrôler. Je pense que la première chose à faire,

c

'est effectivement depuis des années, j'essaie de porter cette idée-là qu'il faut se concentrer sur les domaines qui protègent la société, la santé, l'éducation, la mobilité, l'énergie, la recherche, l'administration. En fait, il faut vraiment commencer par ça et il faut monter vraiment à l'échelle sur ces sujets-là. Mais néanmoins, dans un premier temps, il y aura ces modèles-là.

Le problème étant que si le modèle technologique actuel dominant continue à se développer, ce qui est totalement ce qui se profile, on ne répondra absolument pas à la question géopolitique derrière qui est celle des grandes puissances et de ce que ça représente comme danger militaire stratégique pour nos états, pour nos sociétés.

Daniel Handler, est-ce que la principale réponse à l'enjeu technologique de l'IA, ce n

'est

pas tout simplement de couper

? D

'arrêter ? D'arrêter plutôt que

de tenter

d'autres échelles,

d

'autres lieux, de la guérilla. Est-ce que ce n

'est

pas finalement d'aller se planquer

? Ce

serait une solution mais

je

ne la vois pas vraiment venir. Je pense que le problème de l'IA est un problème politique comme d'ailleurs le pape dans sa encyclique Magnifica Humanitas qui est un très beau texte que je recommande a bien compris que c'était un problème politique également religieux pour le pape mais pour moi qui ne suis pas croyant ni chrétien. J'ai lu ce texte et pour l'essentiel je suis d'accord avec lui. C'est-à-dire que c'est vraiment une dimension politique au plus grand sens du terme au sens le plus profond notamment à cause de ce que vous disiez à l'instant évidemment l'aspect militaire mais aussi l'aspect de guerre économique.

Il

faut se rendre compte qu'aujourd'hui si l'Amérique veut couper son IA peut nous couper de l'IA on est complètement paralysé comme on a vu avec le cas de ce juge à la cour de pénale internationale qui a été excommunié en quelque sorte et qui du jour au lendemain s'est retrouvé sans carte de crédit sans accès à ses comptes sans rien du tout. Donc cette dépendance par rapport aux Etats-Unis en Europe

qui

pourrait être une dépendance par rapport à la Chine dans une autre ère géostratégique géopolitique est quand même un souci. Donc il faut quand même il faut faire des petites choses je suis entièrement d'accord avec mes camarades ici mais en même temps il faut jouer aussi dans la cour des grands c'est-à-dire il faut vraiment acquérir cette puissance politique européenne qui nous permettra de tenir tête en quelque sorte et de recouvrir une certaine souveraineté.

Christophe Payette sur cette question de la souveraineté en fait c'est la souveraineté à toutes les échelles la souveraineté on en parlait avec Frédéric Gros il y a quelques jours à ce même micro sur la question de la propriété se réapproprier nos imaginaires notre créativité vous êtes journaliste culture donc ces questions-là vous touchent et la souveraineté géopolitique la souveraineté même énergétique toutes ces questions-là elles sont imbriquées à différentes échelles est-ce que la solution elle l'est aussi dans ce que vous racontez Christophe Payette ?

Oui effectivement la souveraineté ce n

'est

pas uniquement une question de puissance d'État c'est une question de se réapproprier son devenir technologique et vous demandiez est-ce qu'il faut couper ? Oui On entend de plus en plus effectivement une fronde anti-IA de rejet total de l'IA dans sa diversité avec on parle même de renouveau ludite voilà en référence à ces ouvriers anglais du textile qui s'étaient mobilisés contre les métiers à tisser et

qui avaient cassé

les machines voilà moi je n

'y

crois pas du tout à l'abolitionnisme en fait dire on va arrêter l'IA on va la faire disparaître

vous n'y croyez pas ou vous ne le désirez pas

?

Bah en fait je pense que c'est une impasse en tout cas c'est une impasse stratégique c'est-à-dire qu'à un moment donné penser qu'on va pouvoir faire disparaître de la surface de la planète une technologie qui s'est autant diffusée et qui de toute façon est là depuis vous l'avez dit des décennies en fait ça c'est une illusion c'est une impasse donc à partir du moment où elle est là qu'est-ce qu'effectivement on veut en faire et c'est la question politique qu'il faut se poser c'est qu'est-ce qu'on en fait comment on se la réapproprie et on fait en sorte de reprendre en main notre devenir technologique Merci beaucoup à tous

les trois pour ce débat qui m'a appris beaucoup beaucoup de choses Merci à Mathias Megy à la préparation de l'émission Marie-Lise de Saint-Salvi à la production déléguée et ce soir Léa Racine à la réalisation