La Silicon Valley commence à avoir peur de l'IA - 14/09

Tech

& Co, la quotidienne, le débrief de la tech.

Le

débrief de l'actu tech avec ce soir sur le plateau de Tech & Co, mesdames, messieurs. Eh bien Frédéric Simotel, ça va Fred ? Bonsoir François, bonsoir à tous. C

'est

à

dire

que tu as passé un bon week-end mon Fred.

Écoute, oui, à regarder les batailles de tous ces patrons.

On ne

pouvait pas y échapper. On n

'a pas

arrêté.

Nos

Instagram, nos machins.

Bien sûr, et on

compte les points entre les différents protagonistes. On va évidemment rentrer dans les détails dans un instant. Frédéric Simotel, journaliste à BFM Business. Bogdad Bodnar est avec nous aussi. Salut Bogdan. Bonsoir. Merci d'être avec nous. Bogdan qui est journaliste à La Tribune. La Tribune qui, vous le savez, est le cousin de BFM Business puisque depuis peu vous êtes rentré dans la famille Samas et J'aime Média. Et on est très heureux de te retrouver régulièrement. Merci. Et puis nous avons Bruno Guiguet-Mietti qui est avec nous. Salut Bruno. Bonsoir. Québécois Power est là, mesdames, messieurs. Il est avec nous en visio.

Bruno qui est journaliste animateur du carnet de l'actualité numérique. Vous pouvez regarder, écouter Bruno. Et chaque jour, vous avez ces 120 secondes de tech. Podcast à ne pas rater. Tout va bien aussi du côté du Québec, mon Bruno

?

Ah, ça va très bien. Comme le disait Frédéric, on a passé les dernières 48 heures à voir les échanges de part et d'autre. Et c'est à tous et chacun qui ajoute son opinion dans la discussion.

Exactement. Alors on va prendre le temps pour revenir un petit peu parce que, évidemment, c'est un sujet à tiroir. Parce qu'évidemment, après, il

y

a des conséquences géopolitiques à tout ça. Mais pour débuter donc, ce débat monte d'un cran aux États-Unis sur la régulation de l'IA. Et cette fois, ce sont les géants du secteur eux-mêmes qui tirent cette sonnette d'alarme. Enthropic, OpenAI, XAI, tous mettent en garde à quelques jours d'intervalle sur des progrès de l'IA jugés de plus en plus rapides, voire trop rapides. Entre les démissions de chercheurs, les incidents impliquant des agents IA, on sent bien que quelque chose est en train de basculer. Anthony Morel nous racontait tout cela ce matin.

Le détonateur,

ça

a été il y

a

quelques jours. On avait parlé d'ailleurs de la démission de Jacob Coxon, ce chercheur d'Enthropic qui accuse les géants de l'IA de jouer avec nos vies. Je le cite et ça, ça a ravivé toutes les craintes autour de cette question la plus vertigineuse du moment. Quel risque réel fait peser l'IA sur notre survie en tant qu'espèce ? Et dans la foulée, c'est vrai que les langues se sont déliées. On a vu sur les réseaux sociaux tout un tas de chercheurs de haut rang en intelligence artificielle qui expliquent que le danger n'est pas seulement théorique, qu'il est réel. Je pense à ce chercheur en sécurité chez Anthropic qui estime à 10% le risque d'une extinction de l'humanité dans la décennie.

C'est évidemment pas très rassurant. Alors Dario Amodei, lui le patron d'Enthropic, il assure que sa réflexion ne date pas de cette polémique. Il a publié un long texte ce week-end où il explique que son opinion s'est forgée ces derniers mois avec la multiplication d'incidents un peu étonnants. On se souvient par exemple chez OpenAI de cette intelligence artificielle qui n'était pas censée avoir accès à Internet, qui était parvenue à contourner les barrières qu

'on

lui avait imposées et à s'attaquer à de vrais systèmes informatiques. Évidemment, ça pose des questions. Et ce qu'il explique surtout, c'est que ça n'est qu'un début parce que ces risques vont être démultipliés avec l'arrivée de ce qu'on appelle l'amélioration récursive. C'est-à-dire en gros, pour le dire simplement, des IA qui vont s'auto-améliorer et qui font dépasser notre capacité à comprendre comment elles fonctionnent réellement. Il évoque la possibilité que d'ici quelques mois, un essaim d'agents IA puisse carrément prendre le contrôle de la totalité d'Internet et générer des centaines de milliards de dollars de dégâts. Scénario terrifiant.

Alors une fois qu'on a dit ça, au-delà des déclarations d'intention, qu'est-ce qu'on fait ? Anthropik dit « Donne des gages

»

d'une certaine manière.

Ils

disent « On va installer chez nous des évaluateurs tiers qui seront indépendants, qui auront accès à toutes les données de l'entreprise. Ils pourront publier des rapports en toute indépendance. » OpenAI a dit « Ok, on va faire la même chose ». Évidemment, tout ça, ça peut fonctionner que si tous les grands labos jouent le jeu et au-dessus de tous les États, parce qu'évidemment, personne n'a intérêt à ralentir tout seul. Il faut un accord, un peu comme celui qu'on a sur les armes nucléaires par exemple. Mais là, évidemment, ça devient beaucoup plus compliqué. On le voyait par exemple avec la position que prend Donald Trump qui n

'a

pas vraiment envie que les géants américains de l'IA ralentissent au risque de se faire dépasser par les Chinois.

Voilà, explication très claire d'Anthony Morel. Mais peut-être pour revenir au début de l'histoire, alors ça fait un moment qu'il y a cette petite musique de cette IA qui est dangereuse, qui pourrait être dangereuse pour l'humanité, pour la société. Mais malgré tout, ça s'est quand même accéléré cet été avec les différents piratages, on se rappelle de Hugging Face. Et quand on écoute en fait tous ces intervenants de l'IA, ces pontes de l'IA, certains ont peur de voir, en gros, des agents d'IA qui, dans quelques semaines, dans quelques mois, pourraient agir massivement sur Internet et pourquoi pas bouleverser Internet en fait. C'est ça le truc.

Et ça serait un peu comme une espèce de monstre qui nous échapperait finalement. Bogdan,

qu

'est-ce que... Alors j'imagine que comme Fred et comme Bruno, tu as suivi tous ces épisodes tout au long de ce week-end. Quel est ton point de vue là-dessus ?

Alors, c'est vrai qu'il y a un peu un côté.

On

a l'impression d'avoir un tigre qui s

'est

échappé d'un zoo et personne ne sait comment l'arrêter. Moi, mon point de vue, c'est que d'abord, ces entreprises, elles s'inquiètent à partir du moment où il y a des scandales. Donc, c'est bien beau d'intervenir

et

de lancer des grands discours quand en réalité, ça fait 4 ans qu'ils ont ces outils-là entre les mains. Enfin, rappelons qu'Amodéi travaillait déjà chez OpenAI depuis 2016. Donc, il avait parfaitement conscience de tous ces dangers. Là, on a l'impression que la technologie va bien plus vite que la cybersécurité qui l'entoure et qui est un pan essentiel. C'est un peu comme vendre une voiture sans avoir vérifié les freins. Donc, ce qui les inquiète en réalité, ce n

'est

pas tant les dangers dont ils avaient parfaitement conscience mais c

'est

le retour des investisseurs parce que personne n'a envie forcément d'une voiture qu'on ne peut pas contrôler. Et donc, ils sont un peu obligés de rassurer tout le monde sinon, cette bulle, elle éclate et toute cette manne d'argent qui est récupérée depuis 4 ans risque de disparaître assez rapidement.

Bruno, quel est ton point de vue là-dessus ? Alors, tu as suivi tout ça ce week-end.

C

'est quand même incroyable. Alors, on se dit aussi est-ce qu'il

n'y a

pas quand même de l'hypocrisie derrière ? Tout ce discours ambiant de la part du patron d'Opania et de la part du patron d'Entropique. Même Elon Musk s'est mêlé à la danse. Enfin bref, quel est ton point de vue là-dessus

?

Bien, il y a un contexte. De plus en plus, on parle d'encadrer l'industrie de

l

'intelligence artificielle. Et là, ce qu'on voit quand on lit la lettre qui a été écrite par le grand patron d'Entropique,

c

'est qu'essentiellement, elle est en train de décliner ce qui devrait être fait et comment ça devrait être fait. Donc, c'est lui qui veut dicter ce qui va être fait pour encadrer l'IA. Il ne veut pas que ce soit les États-Unis. Il ne

veut

pas que ce soit... Parce qu'il

y a

une pression pas de la part de la présidence, mais au Congrès, autant démocrates que républicains, eux, ont très peur. Et donc, ils sont en train de faire des pressions pour mettre en place un organisme qui pourrait encadrer la chose. Donc, il y a un problème pour les joueurs de l'IA. Tout le monde dit oui, oui, oui, on veut que ce soit encadré, mais on veut que ce soit encadré de la façon qu'on veut. À ça, il y a ça. Puis de l'autre côté, il ne

faut

pas oublier que cet automne, là, ça a été poussé au mois d'octobre, entrepique devrait entrer en bourse. Et donc, dans ce paysage-là, il se doit un peu, comme le disait notre collègue à la tribune, il se doit de rassurer les actionnaires du sérieux de leur affaire, du sérieux de leur approche, du leadership qu'ils ont dans l'industrie. Parce qu'Open&I, il l'a dit, l'entrée en bourse, ça ne se reprend pas en 2026, ça va se faire probablement en 2027. Donc, ils restent

qui?

Ils restent entrepiques. Ils doivent se positionner comme un leader. Puis entre-temps, ils sortent comme ça, les grands bons de l'industrie disent, oui, oui, il a raison, il a raison. Mais comme on l'a dit précédemment, depuis mars 2023, il y a des gens qui lèvent des drapeaux. Je pense à Yoshua Bengio à l'époque, à mars 2023, avec 2000 signatures. Encore la semaine dernière,

il

y avait Yoshua Bengio dans le Times qui sortait avec une entrevue. C'est là, c'est toujours là, sauf que de temps en temps, les grands patrons des boîtes sortent en disant qu

'il

y

a

des dangers. Ils sont tous sortis le mois dernier en disant que le cybercrime allait être très dangereux et que d'ici quelques mois, les gouvernements et les gens du public, pas les gens qui nous regardent, mais le secteur public devait se préparer à être attaqués par des agents IA. Alors, c'est à la fois un rappel, mais fait dans un contexte qui est un peu dramatique.

– Et puis, Fred, il

y

a eu l'histoire, Jacob Coxon, il y a quelques jours de cela, qui a mis un peu le feu aux poudres aussi. Pourquoi ? Parce que ce gars-là, qui était chez Anthropique, un poste assez élevé, a décidé…

–

Il

était

Chopin

et Rijs jusqu'avant.

– Oui, il était Chopin et Rijs jusqu'avant, un peu comme Dario Amoné aussi, qui a fait les deux.

– Il

est tout jeune, parce que je reviendrai, c'est important.

–

Oui,

et ce gars-là a dit « Je démissionne parce que j'ai l'intime conviction qu'on va droit dans le mur et que si on continue comme ça, l'IA va détruire l'humanité. » Waouh ! Déjà, on se dit… Enfin, la première question qui m'est venue ce week-end quand il

y

a eu tout ça, je me suis dit « Mais comment l'IA peut détruire l'humanité ? » Personne n'explique ça. C'est quoi ?

C

'est paralyser Internet, paralyser les hôpitaux,

paralyser les transports

? – Qui rentrerait dans les centrales écaires, qui rentrerait dans les systèmes d'aviation pour que les avions se rendent dedans.

– Donc, ça ferait exploser… – C'est ce qu'a émec de Terminator. – Après,

moi, je suis toujours un petit peu… Il faut voir aussi plusieurs choses. La première, Jacob Gosson, il a 27 ans. Il aurait… Bon, on sait que Geoffrey Hinton, qui est beaucoup plus âgé, avait déjà un petit peu sonné à tirer d'alarme, la sonnette d'alarme, tiré de la sonnette d'alarme,

j

'y arrive. Bill Gates, il y a trois semaines, a dit « Oui, quand je discutais avec les patrons, on voit qu

'il

y a toute cette méfiance. » Bon, après, on le voit depuis quand même quelques années, des jeunes ingénieurs un peu exaltés. On en a vu chez Google, qui ne voulaient pas que Google travaille pour l'armée. On en a vu chez Microsoft. Ils sont tous un petit peu… On en a tous aujourd'hui, les jeunes qui ont une nouvelle façon de voir le monde, qui ne veulent pas se laisser dominer tout ça. Bon, il faut voir la personnalité de ce jeune chercheur, c'est ça. Après,

on

voit qu'il

y

a beaucoup de gens qui lui ont envoûté le pas. Mais pas complètement sur les mêmes… Ils n'ont pas tous dit « Il a raison, il a raison ». Ils ont tous dit « Oui, il a raison de tirer la sonnette d'alarme, mais il faut qu'on regarde, il faut qu

'il y ait

un peu de contrôle ».

Donc,

ça a été une petite étincelle, mais tous les gens qui le suivent ne sont pas complètement à fond derrière lui. Il faut voir que tout ça… Il y a une guerre des talents aussi dans ces grandes entreprises-là. Donc, voilà, de dire « Nous, on est un plus éthique que d'autres ». Ce

qui est

intéressant, c'est que ce Jacob qui est parti de chez Anthropique faisait partie de la boîte qui avait le plus d'éthique, finalement.

Oui, c

'est ce qu'il pensait. Il était chez Open Air, il a dit « Ils n

'ont

pas assez d'éthique, je vais aller chez Anthropique ». Puis, il se rend compte qu'Anthropique… Et en plus,

ce

qui est dingue, c'est qu'il est parti deux mois avant que ses actions anthropiques deviennent actives. C'est-à

-dire

qu'il a renoncé. Il est parti, en fait, avant de pouvoir toucher beaucoup de cash. Finalement, ça veut dire quand même qu'il… Alors, soit il est en pleine dépression, il

ne va pas

bien du tout… Tu vois, il y

a

peut-être un côté exalté. Il s'est peut-être rendu compte,

il

dit « Attention, il faut mettre des garde-fous et partout ». Et il ne se sentait pas complètement écouté. Il a certainement raison sur pas mal de points. Maintenant, peut-être qu

'il

fait partie, justement, de cette nouvelle génération de jeunes un peu exaltés, qu'il faut écouter quand même, parce qu'ils sont dans ces développements-là. Mais attention, ce n

'est

pas un patron de labo majeur, etc. Il a fait parler de lui parce que, justement, il venait de chez Anthropique et qu'il a appuyé sur le point éthique, alors qu'Anthropique sont les premiers à dire « Attendez-nous, la main sur le cœur ». Tout ça vient, donc, dans cette guerre des talents, dans cette histoire. Open AI a annoncé que leur IPO, leur entre-en-bourse, ils le feraient que l'année prochaine. Anthropique est en pleine recherche. Il y a beaucoup de choses, je trouve, beaucoup de paramètres dont il faut tenir compte aujourd'hui par rapport à ne pas tout jeter, enfin, jeter le bébé avec l'eau du bain. Donc, voilà, mais c'est un petit coup de semence, mais c'est pas...

J'en ai discuté avec Anthony Morel,

je

ne

suis

pas complètement d'accord avec Anthony Morel quand il dit que c'est lui qui a mis le feu aux poudres et tout ça. Non, il a mis une petite étincelle. En fait,

ça a été

un

peu

la

goutte d'eau qui

a fait

déborder un vase qui était bien plein ces derniers mois, Bogdan.

Je rejoins complètement son analyse. Ce n

'est

pas un profil que l'on connaissait, si on prend un peu de temps. Alors, c'est un peu dur, parce que, de fait, son intention a l'air bonne, mais il n'était pas forcément connu dans l'entreprise. C'est dur aussi à dire,

mais

il faut toujours se méfier des jeunes qui ont les dents longues dans la Silicon Valley.

Donc,

on ne sait pas où

lui peut le faire. Leur

idéologie, on l'a vu dans la partie, aujourd'hui, de consommation d'énergie, etc., d'aller trop

loin. On peut très bien imaginer que ce garçon passe peut-être à une période... Il traverse une période un peu difficile. Non,

mais attends, on ne sait pas

ce que ça peut arriver,

tu vois.

On

va

faire son analyse. Non, mais

peut

-être

qu'il est en plein burn-out et que, d'un coup, il

balance ça sans trop réfléchir aux conséquences que ça peut avoir, tu vois. Oui,

c

'est d'accord. Alors, ce qui est intéressant... Oui, Bruno, vas-y, je t'en prie.

Non, je vais le dire. Ce qui sera intéressant de surveiller,

c

'est que dans six mois, s'il ne démarre pas sa boîte... Oui,

c'est ça.

...qui, elle, va s'occuper de

l

'encadrement ou de la sécurité des ZIGA,

ça ne serait pas sur le plan. Il n'y en a d'autres avant

lui qui l'ont fait, hein.

Oui, ou alors si, dans trois semaines, ils n'arrivent pas chez OpenAI, tu vois. Ce qui serait aussi possible. Alors, évidemment, toutes ces déclarations ont eu pas mal de conséquences et notamment une espèce de régulation qui est venue un petit peu dans le débat de la part de ces géantes de la tech. Alors, c'est quoi cette régulation ? Eh bien,

en

fait, OpenAI, Google Anthropik, aimerait bien avoir un gendarme de l'IA, c'est-à-dire un peu des évaluateurs indépendants qui seraient placés à l'intérieur des laboratoires, qui auraient quasiment les mêmes droits et les mêmes accès que les ingénieurs qui travaillent sur ces IA et qui seraient là pour dire « Attention, on va trop loin, ralentissez ce truc-là, etc. » Enfin, je... Mais qu'est-ce qu

'ils

peuvent faire ? Alors,

moi,

j'ai regardé, là, j'écoutais les chaînes américaines cet après-midi, ils disent « Qu'est-ce qu

'ils

peuvent faire ? » Suspension temporaire, ils disent « Écoutez, on ne bosse plus pendant six mois, on arrête tout pendant six mois. » Est-ce qu'ils peuvent dire « On réduit les investissements, bon, là, on sait qu'aujourd'hui, ça va être un peu compliqué. On limite la capacité des modèles, on va les brider, mais est-ce que tout le monde va dire « Attends, on doit développer des modèles hyper performants, on doit rentrer en bourse, on doit satisfaire les entreprises, comment faire ? »

Donc,

les audits indépendants, ça peut... Ça va ressembler à quoi, ces audits indépendants ? Est-ce qu

'ils

seront contraignants, très peu contraignants ? Tu vois,

c

'est ça qui est... C'est tout ce flou autour de ça. En plus, autre chose, on parle de OpenAI, Microsoft et Anthropik, bon, il y

a

les Chinois, l'Europe... La Chine, on va en parler juste après.

C'est

Google, pardon, me dit à l'oreille Léa Benahim. La Chine dit tout à fait autre chose. Tu vois, c'est une affaire un peu... On a l'impression que

c

'est une affaire entre patrons de labos, là, qui s'emportent un peu.

Oui, parce qu'il y a donc ce ralentissement et cette régulation, en fait. On part un peu dans tous les sens, et le ralentissement, ce n

'est

pas forcément la régulation. Ce n

'est

pas pareil, Bogdan.

Oui, et c'est surtout, voir des acteurs qui s'autorégulent dans la Silicon Valley, moi, je m

'en

méfie toujours, parce qu'en soi, alors on peut toujours être critique avec Bruxelles et l'Union européenne, on le voit que, du moins, l'Union européenne cherche à les réguler et ça les irrite et ils font tout pour les contredire. Donc, on a déjà des exemples d'organismes extérieurs qui tentent de les limiter, ne serait-ce que sur des technologies, et ça ne fonctionne pas du tout. J'ai vu passer sur X, anciennement Twitter, une proposition d'un ancien employé d'Enthropique qui parle de Mitter. Alors, Mitter, c'est une organisation qui est censée être à but non lucratif, qui en réalité est aussi financée par ces mêmes acteurs et qui a déjà accès en exclusivité à tous les nouveaux modèles.

Donc, ce ne serait pas... On pourrait voir, imaginer cette proposition-là arriver dans les prochaines semaines, et ça va tous les rassurer, parce que c'est une organisation qui dépend de ces mêmes acteurs. Ce qu'ils redoutent, c'est, comme tu dis, une régulation et la régulation, elle peut venir des États. Jusque-là, ils donnaient le moins de détails possible au pouvoir public. N'importe quelle attaque était plus ou moins détaillée dans des rapports de deux pages. Moi, je recommande à tout le monde

d

'aller voir le rapport du collectif Nightingale. Donc, la dernière attaque, on va dire un peu massive, qui a eu lieu, c'était contre une page Wikipédia en Allemagne. Et donc, c

'est

un collectif extérieur qui a mené cette analyse. On voit des choses assez folles, même si c'est très réduit. On voit qu'il

y a

une IA qui a tenté d'anonymiser ces échanges en les plaçant sur Tor, qui héberge, on va dire, le Darknet, pour vulgariser, ce qui est très inquiétant. Et ça, c'est des détails qu'on ne trouve pas dans les rapports de Penéiaï. Donc, s'il y a un acteur, il faut qu

'il

soit forcément extérieur, et il faut qu'il ne plaise pas à ces acteurs de l'IA.

Après, si on revient à cette volonté pour certains d'avoir une espèce de... Alors, j'exagère, mais imaginez un peu un Arceps de la régulation de

l

'IA, finalement, c'est ça ?

Un

Arceps de l'IA ? Non, juste une chose. Ce qui est intéressant dans cette histoire-là, c'est que est-ce que ce n'est pas aussi pour eux le fait de se dédouaner des responsabilités que peuvent avoir,

je

ne sais pas moi, une catastrophe liée à l'IA ? Tu vois ce que je veux dire ? C'est ça aussi, derrière tout ça. Je ne

sais

pas ce que tu en penses, Bruno, et puis après, Fred peut prendre la parole là-dessus. On a l'impression que tout le monde essaie de se dédouaner pour dire, écoute, on ne sait pas trop où on va, ça peut être dangereux, donc si on a des régulateurs, c'est eux qui finalement essuieraient les plâtres, quoi, et pas nous, finalement.

C'est exactement ça qui est en train d'avoir lieu. Quand ils sont sortis le mois dernier pour dire, faites attention, dans six mois, vous allez être victime d'attaques, des cyberattaques qui vont être engendrées par des agents IA. Si ce n

'est

pas se dédouaner, je ne

sais

pas ce que c'est, parce qu

'on

dit, on vous l'avait dit, c'est vous qui ne vous êtes pas préparés. Puis aujourd'hui, moi, je regarde, quand je disais tout à

l

'heure au début de l'émission que je voyais, je recevais plein de cas de communiqués de presse et de courriels d'entreprises qui sont dans l'IA et qui disent, oui, mais attention, parce que là, ce qu

'ils

sont en train d'avancer comme scénario de réglementation, ça va être décidé par quoi ?

On va

par 4, 5, 6 joueurs tous américains. Et là, nous, on devrait, qu'on soit canadiens, je pense à Coeur notamment, mais que ce soit Mistral ou que ce soit des taux de boîte qui font vraiment, qui ont leur IA, donc ils développent des modèles. On va devoir répondre à qui ? Et c'est des Américains qui vont nous dicter comment on va développer. C'est pour ça que la Chine n

'est

pas plus d'accord à cette approche-là qu'à d'autres pays.

Et on en parle tout de suite de la Chine, oui,

Fred.

Moi, juste deux choses. La première, c

'est

n'oublions pas l'état d'esprit américain. Je caricature à peine, enfin, je caricature un peu, mais le shérif, il était armé, mais tous les autres dans le village étaient armés aussi. Donc, tu vois, comment la loi a été respectée. Et puis, deuxième chose, moi, je trouve qu

'il

y

a

une attitude qui est très bonne. De tout ce qu'on a entendu, c'est Satya Nadella qui a dit il faut un code de bonne conduite. Il dit trois choses. Il est essentiel d'accélérer,

donc

le patron de Microsoft. Essentiel d'accélérer,

de

démocratiser les bénéfices de l'IA afin qu'ils le bénéficient à tout le monde. Ça nécessite un écosystème de pointe où les modèles propriétaires OpenSource peuvent coexister. Il faut, pour les entreprises, il est impératif qu'elles conservent un contrôle total sur leurs données et donc chaque organisation doit pouvoir construire sa propre boucle d'apprentissage. Moi, je trouve que c'est lui qui a le regard le plus juste et donc il appelle à un code de conduite. Et je trouve que dans toutes les réactions, c'est la sienne que j'ai trouvée la plus sensée.

Encore faut-il respecter ce fameux code de conduite, mais ça,

c

'est une autre histoire.

Oui, mais ça,

tu instaures les choses dans les... Oui,

oui, oui.

Tu bloques par les tokens, tu peux bloquer tout ça dans les développements.

On

part de la Chine qui répond sans détour à l'appel des patrons de l'IA à ralentir le développement de la technologie et c'est un non pour le gouvernement chinois qui qualifie le PDG d'Anthropic d'alarmiste et l'accuse de mener, je cite, une guerre froide technologique. Les explications d'Axel Aragon.

La Chine ne veut pas entendre parler d'une pause dans le développement de l'IA. L'appel des grands patrons américains à ralentir la technologie n'est autre qu'une tentative pour entraver les progrès chinois selon Pékin et son porte-parole Guo Jiakun.

Propager diverses théories de la menace, s'engager dans la confrontation et la concurrence malveillante ne fera que perturber

le processus de gouvernance

mondiale de l'IA.

Pour la Chine, l'IA est plus que jamais au cœur de la rivalité entre grandes puissances. D'ailleurs, aujourd'hui, Chen Nixon, le ministre chinois de la Sécurité d'État a même accusé des forces hostiles d'utiliser l'IA génératif pour fabriquer des rumeurs et mener des guerres cognitives contre le pays. Une inquiétude reprise par le porte-parole du ministère chinois des Affaires étrangères mais avec cette fois-ci un appel à la coopération. Le développement de l'intelligence artificielle concerne le bien-être commun de l'humanité tout entière. Toutes les parties doivent travailler ensemble pour faire progresser l'IA de manière ouverte, inclusive et bénéfique à tous.

Donald Trump ne compte pas ralentir le progrès tout comme la Chine l'autre superpuissance dans ce secteur. Ce sera un des grands sujets de discussion entre Xi Jinping et Donald Trump pour leur rencontre à la Maison-Blanche le 24 septembre prochain.

Voilà,

juste une petite précision concernant ce qu'on disait tout à l'heure concernant le ralentissement de cette IA. Donald Trump a dit qu'il était contre. On a oublié de le dire mais c'est quand même assez important. C'est-à

-dire

que vous avez quand même le patron de la nation la plus puissante au monde qui dit non, allez-y les gars, amusez-vous,

lâchez les

reines.

Il ne faut

pas freiner parce

que

sa croissance repose sur l'IA.

Voilà, c'est ça.

Et aucune responsabilité sur les conséquences que ça peut avoir. Sa fortune

et la

fortune de ses amis aussi. D'elle, tout ça. Bien sûr, évidemment. Bruno, ton avis sur justement le point de

vue

de la Chine.

En passant à ce que je disais tout à l'heure, c'est que le président n'est pas intéressé mais le Congrès, lui, et les démocrates et les républicains, donc c'est bipartis, eux sont en train de regarder pour créer quelque chose aux États-Unis. Pour ce qui est de la Chine, effectivement, il n

'y a

pas de surprise à voir qu'ils ne sont pas intéressés à voir les Américains décider quelles seront les règles qui vont encadrer le développement de

l

'intelligence artificielle. Il n

'est

pas dans leur intérêt d'être stoppés dans l'avancement, dans le développement. Et donc ça, c'est tout à fait logique. D'autant plus que quand on regarde à l'international, qui est en train de marquer des points? C'est la Chine. Encore récemment, il y avait le président chinois qui a lancé sa nouvelle politique de formation des pays étrangers qui viendront à Pékin, qui viendront en Chine avoir de la formation pour être capables de développer des modèles ouverts dans leurs pays respectifs. Alors évidemment, eux ne sont pas du tout intéressés à arrêter le développement de leurs outils pendant que les Américains vont réfléchir et siffler dans les airs. Bogdan.

Alors, ça va être un peu naïf, mais je fais souvent confiance à la Chine pour ce qui est de réguler une technologie qui peut être néfaste. Je prends l'exemple des réseaux sociaux. On sait que TikTok est complètement différent de l'algorithme qu'on a en Europe et celui qu'on a en Chine et qu'il y

a

même un contenu pédagogique que ce qu'on n'imaginerait jamais en Occident. Sur les jeux vidéo, je ne tiendrai jamais ce discours de les jeux vidéo portent atteinte à la jeunesse, mais pareil, il

y

a des limites pour éviter les addictions. Et on ne rigole pas là-bas, on ne discute

pas. Absolument,

tout le monde suit, c'est très cliché, mais c'est vrai. Sur l'IA, s'il y

a

un débordement dans les usages, s'il pourrait voir typiquement qu'il y

a

une baisse dans les niveaux de scolarité, je pense que la Chine serait la première à réagir dessus. Maintenant, si on parle purement du développement et de la course technologique, il est vrai qu'il

y a

un peu d'hypocrisie de la part des États-Unis parce que, et tu as commencé l'émission en parlant un peu d'apocalypse, la dissuasion nucléaire est un parfait parallèle pour l'intelligence artificielle. Pourquoi ? Pourquoi il

y

a une course ? Certes, il y

a

une course à trouver de la main-d'œuvre, à forcément développer des robots, donc à une nouvelle économie, mais il

y a

aussi une course militaire qui n

'est

pas du tout légère, mais on peut très bien imaginer que l'arme de demain, ce sera l'IA. On voit que la guerre d'aujourd'hui se fait par des drones. Si on a uniquement des robots et des drones qui se font la guerre avec l'IA la plus perfectionnée,

la

plus parfaite, on sait qu'on a une arme plus ou moins ultime. Donc la Chine, elle va logiquement et pragmatiquement atteindre cet objectif, tout comme les États-Unis.

Fred, alors évidemment ton point de vue là-dessus, et puis après, j'aimerais qu'on fasse une petite conclusion sur cette première demi-heure.

Deux choses. La première, la Chine est quelque chose qu

'ils

ne contrôlent pas, ils n'aiment pas, donc que les humains ne contrôlent pas,

ils

n'aiment pas, donc c

'est

une certaine chose. La deuxième, c'est que la Chine, elle n'est pas du tout dans le même état d'esprit. Les Américains, ils partent vers la super-intelligence, l'IA qui va réfléchir comme nous. Les Chinois, eux, ils sont beaucoup plus pragmatiques. C'est l'IA au service de l'industrie, l'IA pour construire des robots, l'IA pour que les robots apprennent, l'IA pour construire des voitures, l'IA pour construire des... Enfin, c'est l'IA au service de l'industrie. Les Américains... Oui, c'est beaucoup plus pragmatique. Les Américains, ils sont partis dans le domaine de la recherche,

ils

sont dans un autre couloir. Et donc, c'est pour ça que les Chinois disent aussi, attendez, eux qui continuent s'ils veulent, nous, c'est pour améliorer la vie,

c

'est pour améliorer notre productivité, c'est pour pouvoir proposer davantage de produits,

ils

ont avancé très vite sur la voiture électrique, sur l'espace, sur tout un tas de choses. Ils ont ce côté de

la

régulation.

Oui. Il nous reste une minute trente. On pourrait faire une heure et demie sur ce sujet-là, d'ailleurs. Je me demande s'il ne faudrait pas faire une nouvelle nuit de l'IA dédiée à ça, au danger éventuel ou pas de l'intelligence artificielle. Mais, en fait, on se rend compte que si demain, il y a une espèce d'emballement de cette IA, on n'a même pas un bouton sur lequel appuyer pour arrêter tout ça. C'est ça qui est terrible. Tu vois, autant, je ne sais pas moi, il y a une centrale nucléaire qui ne marche pas bien. Plus ou moins, tu sais où appuyer pour que ça, en tout cas, limiter

les dégâts. Vous

pouvez

retirer un câble

Ethernet. C'est ça. Ça, on peut le retirer sur le papier d'un

datacenter.

Oui,

mais aujourd'hui, il y

a tellement de datacenters qui sont en redondance, finalement. Tu vois, je ne sais pas si on aurait cette capacité, si on voit qu'il

y a

un emballement ou quelque chose de véritablement dangereux, de tout couper, si tu veux, de couper les vivres et d'arrêter, en fait, tout ça. Ça serait peut-être la première question qu'on pourrait se poser. Bruno, oui.

Oui, on a vu, il n

'y a

pas tellement longtemps, il y

a

quelques mois, la Maison-Blanche interdire la distribution de fables à Anthropique. Et eux, en 30 minutes, ils ont tout arrêté. Il

n'y a

plus personne qui avait accès. Après, ils ont remis les accès à leurs employés, ceux qui avaient le droit. Mais pour le moment, elle est là, la killing switch. Mais effectivement, il faut se poser des questions. Puis, est-ce qu'on doit avoir un droit souverain? Est-ce que si un jour, il y

a

une attaque qui se fait en France par un des agents, qu'est-ce que le bon président va faire? Est-ce qu'il va devoir téléphoner à Washington ou est-ce qu'il pourrait avoir quelque chose sur le territoire français ou européen qui leur donne le droit de fermer le circuit à ce moment-là et de ne pas tout fermer l'Internet en même temps?

Voilà.

Beaucoup de questions qui restent en suspens. Chacun gâche sa responsabilité. Voilà. Et on y reviendra, bien sûr. C'est l'un des gros, gros, gros sujets de cette rentrée. et on

y

reviendra,

de cette

rentrée.

et on y reviendra,