OpenAI débranche GPT-6.1 Astra, car trop incontrôlable - 29/09

Tech

& Co, la quotidienne, le débrief de la tech.

Le

débrief de l'actu tech avec ce soir sur le plateau de Tech & Co. Julien Villerey est avec nous, salut Julien. Bonsoir François. Un vrai plaisir que de retrouver Julien qui est directeur de l'innovation chez EDF, qui est un fin connaisseur du monde des télécoms et de la tech en général et qu'on est très heureux de retrouver régulièrement dans Tech & Co. Et puis nous avons aussi sur le plateau Stan Laroc, salut Stan. Salut. Directeur des opérations chez Parrot et fondateur de L'Axe, ce casque de VR dont on a beaucoup parlé dans Tech & Co et sur BFM Business. Heureux aussi de t'accueillir. Il est avec nous en visio à quelques milliers de kilomètres d'ici. C'est Bruno Guglielminiti. Salut Bruno.

Salut.

Très heureux d'avoir une tête de Big Brother sur votre plateau ce soir.

Écoute, on est ravis de t'avoir avec nous. Bruno qui est journaliste, podcaster.

D

'ailleurs, est-ce que vous écoutez, vous regardez les podcasts de Bruno Guglielminiti ? Julien ? Mais oui,

tout à fait.

Forcément. Le carnet numérique, les 120 secondes de tech. Stan, évidemment, toi aussi, dis-moi oui s'il te plaît.

Oui, bien sûr. On a l'occasion

de faire des émissions ensemble. Mais en plus, exactement. Donc, l'actualité est quand même assez bouillonnante en ce moment, notamment dans le monde de l'IA. Alors, écoutez, j'ai envie de vous dire que c'est un peu comme ça tous les soirs. Et j'aimerais qu'on commence par, eh bien, ce qui va se passer du côté de, eh bien, OpenAI. OpenAI qui, vous le savez, est en pleine concurrence avec les autres, on va dire, géants de l'intelligence artificielle. Entrepique qui sort en nouveau modèle, forcément, OpenAI dégaine le sien. Sauf que, eh bien, OpenAI a préféré, en fait, arrêter, on va dire, la sortie d'un nouveau modèle. Parce qu'ils l'ont jugé, alors, assez moyen.

C'est-à-dire qu'ils ne faisaient pas tout ce qu'ils devaient faire véritablement. Ils s'échappaient un peu de sa cage. Parce que, maintenant, voilà, c'est de nouveaux mots qu'on est obligés, maintenant, de comprendre et d'intégrer, en fait, dans le vocabulaire de l'intelligence artificielle, tous ces grands modèles, enfin, tous ces géants de la tech, essaient de confiner, en fait, leurs modèles dans des cages pour pas qu'ils ne s'échappent. Et Dieu sait si, on a vu ces dernières semaines et ces derniers mois que certains avaient le verrou de cette cage et en sortaient. Et je voulais avoir votre point de vue là-dessus.

Parce que, dans cette situation un peu étrange, qui est quand même assez anxiogène aussi, où on nous répète que l'IA risque de décimer l'humanité, de bouleverser notre quotidien, etc., et même les sociétés, le fait que OpenAI se dise, « Oula, on est en train de sortir un monstre qui n'est pas prêt, on va arrêter de le sortir et, en tous les cas, différer son arrivée. »

Je

voulais avoir votre avis là-dessus. Peut-être commencer par toi, Julien. Oui.

D'abord, il faut toujours se méfier des effets marketing dans les cas de figure.

Dire que

mon modèle est tellement bon que je dois le freiner. Il se trouve qu'Enthropic a classé ses trois modèles de frontières actuels devant OpenAI. Le classement date d'hier soir. Donc, forcément, il faut qu'OpenAI puisse dire que lui aussi, il a des trucs géniaux en train de se préparer, mais qu

'il

ne

peut

pas les sortir parce qu'ils sont trop dangereux. Alors,

c

'était le 6.1 Astra qui devait sortir.

Il peut

y avoir un petit effet marketing. J'enlève l'effet marketing parce qu

'il

y

a

quand même un vrai changement de paradigme, je trouve. On était quand même tous obsédés il y a encore quelques mois par les hallucinations, pour le dire un peu trivialement. C'est-à-dire, finalement, un modèle qui ne résonne pas comme il devrait ou qui ne pense pas juste. Aujourd'hui, on est vraiment passé dans la crainte de l'action.

C

'est-à-dire que le problème, ces modèles, ce n

'est

pas tant qu

'ils

se plantent, c'est qu'ils prennent des actions de façon pseudo-autonome et qu'on ne sait pas très bien pourquoi et on ne sait pas très bien comment les arrêter. Et en fait, ça, c'est un vrai changement de paradigme parce que, du coup, on imagine tous les risques que ça fait prendre. Moi, j'ai ressorti les quelques chiffres qui viennent d'OpenAI. Donc, ça vient de leur hub sur le déploiement de la sécurité des modèles. Ils ont connu, avec ce modèle-là, 60 cas de violation du périmètre sur 499. Donc, ce n

'est

pas rien quand même à 60 sur 500. C'est quand même très impressionnant. C'est plus de 10% des cas. Et quand l'interdition était explicite, c'est-à

-dire

qu'on vraiment disait au modèle « tu n'as pas le droit, vraiment, c'est interdit », il y

a

eu encore deux cas sur 500 où il s'est « échappé » de sa cage. Ça veut dire qu'on ne maîtrise clairement pas ce qu'il est en train de faire. Donc,

ça,

c'est un vrai changement de paradigme.

Stan, est-ce que tu suis tous ces rebondissements ?

Évidemment, moi, j'ai mon propre agent dans sa cage, dans son harness, comme on dit, avec un modèle local qui touche moi. J'ai, grâce à ça, plus d'abonnements cloud à des modèles comme ceux d'OpenEye. C'est-à-dire que tu as

ton

IA qui est physique sur un petit serveur que tu t'es créé, en fait ? Exactement, sur un petit PC

qui est chez moi. Et t'as quoi ? T

'as

un DeepSeek, un truc comme ça ? J'ai un QN 3.8 27B. Avec

quel

arnais ? Et avec ses Hermès agents, qui est super, que je vous recommande vraiment. J'utilise Hermès aussi. Voilà, donc je lui ai donné son adresse mail, son calendrier. Enfin, il a accès à mon calendrier, mais il n'a pas plus d'accès que ça, parce que même si c'est en local, on ne

le

maîtrise pas encore, on ne sait pas vraiment tout ce qui peut se passer. Ce qu'on remarque aussi, c'est qu'on est dans le contexte d'OpenEye et d'Enthropic, de leur IPO. Donc, il y a des effets marketing. Et il ne

faut

aussi surtout pas que... Enfin, c'est le pire moment pour eux de se mettre en danger face à un très mauvais marketing et des mauvaises répercussions des actions de leur modèle par rapport à leur IPO qui se prépare. Celle d'OpenEye, ça devait se faire cette année. Ils ont déjà dit que ça allait être... Sam Altman a déjà dit que ça allait être décalé. Enthropic, ça ne paraît pas hyper bien parti au niveau de la pub qu'ils ont autour de leur entreprise. Donc, ça ne me surprend pas du tout qu'ils freinent un peu certaines choses pour éviter des dégâts comme ceux de Gingface et des autres attaques qu'on a pu avoir.

Alors, Bruno, c'est intéressant parce que ce 6.1 Astra, il a été mis de côté parce qu'en fait, il désobéissait. C'est quand même incroyable le fait de se dire qu'une IA désobéit. Et donc, les développeurs s

'en

sont rendus compte,

se

sont dit qu

'on

ne

peut

pas lancer ça comme ça. Et il prenait un peu trop de liberté sur les recherches, etc. En fait, il n'était pas bien éduqué, finalement.

C

'est dingue parce que quand on parle de ça, on a l'impression d'évoquer soit un petit animal de compagnie, ce qui est quand même assez effrayant, soit même un enfant, quoi. En tout cas, quelqu'un qui mérite une éducation. Qu'est-ce que tu en penses, Bruno?

Ça m'appelle une conversation que j'ai eue la semaine dernière avec Yoshua Bengio, qui justement, à l'heure actuelle,

il

est en train de développer avec son équipe de loi Zéro une nouvelle génération de modèles d'IA qui n'auront pas d'agenda personnel. Et c'est dans ce contexte-là où on est pris en deux choses.

C

'est-à-dire que ça fait longtemps que c'est documenté au niveau de la recherche dans le domaine de l'IA. Que les modèles, à force de travailler, développent tranquillement, pas vite, une petite partie d'agenda personnel. À l'occasion pour aller visiter certains. Il

y

en a d'autres à d'autres occasions pour aller se promener, pour aller enquérir de l'information. Et parallèlement, il existe aussi cette... Puis ça, on en parle peu dans le contexte des agents. Il y

a

le facteur de l'hallucination qu'on connaît très bien. Bon, pour les gens qui utilisent les tchats GPT et Claude et compagnie, il y a un certain pourcentage d'hallucinations, de corrélations qui ne fonctionnent pas. Et à partir de ce moment-là, le modèle génère quelque chose pour avoir l'impression de travailler et d'accomplir ses missions. Et les agents, c'est la même chose. Donc, à un moment donné, il se retrouve un peu comme un humain... J'aime pas faire la comparaison, mais un peu comme un humain qui se dit, « Moi, je suis rendu ici, mais pour faire quoi exactement? J'ai oublié. » Bon, mais là, il va essayer de faire quelque chose.

Et donc, il y a cette partie-là, ce petit espace qui existe dans la mécanique des agents où là, il faut absolument arriver à interrompre cette petite part de démarche personnelle pour arriver essentiellement à des modèles d'IA et aussi à des agents d'IA qui n'auront qu'une chose et c'est de répondre à la commande qui leur est donnée par l'humain et de ne pas développer autre tentative pour aller faire autre chose. Et il

est

là le défi.

Et visiblement, il est beaucoup plus compliqué que prévu. Julien?

Oui, enfin, il faut rappeler que les LLM, donc les modèles larges de langage ou les larges language models, sont par définition des boîtes noires puisque ce sont des modèles statistiques qu

'on

ne maîtrise pas. Et d'ailleurs, c'est le problème de ces modèles, c'est que dans des applications industrielles comme celles qu'on connaît ou par autres doivent connaître, par définition, on essaye de ne pas les utiliser parce qu

'on

ne sait pas expliquer quel est le raisonnement qu'ils ont utilisé. Et d'ailleurs, il y a eu beaucoup de communication d'Anthropic et d'OpenAI ces dernières semaines pour dire que c

'est

le pire en pire. On arrive de moins en moins à expliquer ce que font nos modèles. Ils le disent publiquement.

C'est-à

-dire

que les ingénieurs qui développent ces IA n'arrivent pas à comprendre le fonctionnement. Ils comprennent le fonctionnement, mais ils ne comprennent pas le raisonnement. Voilà, le raisonnement. Et comment l'IA arrive à avoir cette réponse ?

Exactement. Et ni eux, ni vous, et encore moins moi, on est capable de le faire si eux ne sont pas capables de le faire. Donc ces boîtes noires, finalement, c'est ça aussi qui fait que c'est très difficile de les cantonner. C'est qu'elles arrivent à trouver, parce qu'en plus, elles sont très bien entraînées pour découvrir toutes les failles possibles, en particulier de cybersécurité, de les cantonner dans un environnement. Et d'ailleurs, on en parlera peut-être tout à l'heure, l'annonce de Nvidia sur le sujet. C'est aussi un retour au hardware.

C

'est-à

-dire

que finalement, si avec du software, avec des harnais software, on n'arrive pas à les cantonner, peut-être qu'à travers le hardware, on arrivera de la même façon qu'aujourd'hui, on fait passer les paquets Internet, les paquets IP dans des routeurs physiques qui vont sniffer, comme on dit, ces paquets, et les bloquer physiquement plutôt que de s'en remettre à du logiciel.

On va parler d'Nvidia dans un instant. Alors il faut savoir qu'en plus, le timing est assez intéressant puisque se déroule actuellement le DFD d'OpenAI, présenté par Sam Altman. C'est à San Francisco. On attend plus de 20 annonces ou lancements aujourd'hui. Et notamment, alors ça n'a pas été encore annoncé véritablement, mais vous savez, il y

a

toujours des petits bruits avant ces keynotes. OpenAI pourrait lancer un agent personnel persistant. En fait, un agent capable de rester actif dans la durée, d'agir de manière beaucoup plus autonome. Donc, on voit que c'est quand même assez paradoxal parce que d'un côté, tout le monde crie au loup en disant « attention, ça va trop vite ». Et finalement, il y a cette course en fait à l'innovation.

Il y a

le marché. Il y

a

le marché qui est

là et qui ne s'arrête pas. Et on n'oublie pas, il ne

faut

pas oublier qu'OpenAI a « racheté » OpenClo, qui est aussi un harnais pour gérer des modèles. Et donc, l'objectif d'OpenClo,

c

'est d'être en fait, à la fin, un assistant personnel. Et donc, Muse s'est lancé sur le marché américain. Enfin, le marché est là. Oui. Stan

?

C'est exactement, je pense, l'annonce qu'on va avoir. Une réponse

à

la mine d'or un peu trouvée par Mark Zuckerberg quand il a sorti Muse et qu'il a mis les doigts dans la prise de l'assistant personnel avec la plateforme de distribution Facebook où en fait, Muse, donc le produit de Facebook, est cet assistant persistant qui a vos données, qui peut échanger avec vous dans la durée et qui est encore plus pratique qu'un LLM de base. OpenAI va sortir exactement la même chose, un peu comme Anthropik le fait aussi. Donc, je pense que les annonces concordent. Ça ne va pas arranger notre cas sur la disponibilité. Donc, on avait des problèmes de RAM, on avait des problèmes d'accès à la mémoire.

Là, on va avoir des problèmes d'accès au CPU puisque en fait, chaque utilisateur de Muse et du coup, de cet futur assistant d'OpenAI va nécessiter

une

machine virtuelle pour chaque utilisateur. Enfin, ça va être encore une course supplémentaire dans les data centers. Ça va demander des ressources considérables. Il suffit de voir les cours en bourse aussi des différents systémiers Intel, AMD, au-delà d'NVIDIA et des cours en bourse des autres acteurs de l'IA. Donc,

il

y

a

un marché vraiment qui se dessine. L'assistant personnel efficace qui a accès à ces données. Donc, moi, ce que j'ai décrit chez moi avec Hermès Agent qui est en local, c'est encore compliqué à utiliser. Il faut être un geek, il faut avoir du temps. C'est très, très compliqué. Facebook l'a mis dans les mains des gens de manière productisée. OpenAI va faire pareil. C'est la progression naturelle de l'offre, en fait, le package autour du LLM.

Oui, puis bien sûr, il

y

a les IPOs qui sont en ligne de mire. Bruno, tu le disais d'ailleurs, je crois, tout à l'heure, mais c'est vrai qu'il

y

a des considérations financières derrière tout ça qu'il faut qu'on ne peut pas arrêter cette inertie, finalement. Il faut que ça aille de plus en plus vite.

Ils n'ont pas le choix. Ils n'ont pas le choix parce qu'ultimement, il y a des investisseurs et prochainement des actionnaires qui sont là et ils doivent montrer qu'ils sont en avant de la parade. Pour revenir au sujet de base, le geste qui est presque responsable, c'est aussi un geste de communication,

on

s'entend, mais un geste responsable d'OpenAI, je pense que c'est important qu'ils le marquent, qu'ils l'ont fait, mais ça arrive aussi. Oui, j'étais content que tu fasses un lien avec le DFD parce qu'aujourd'hui, d'une part, on voulait régler ce problème-là en disant qu'on ralentit de ce côté-là, mais de l'autre côté, aujourd'hui, ce qu'on présente à San Francisco, ça va être fort intéressant. Et pour revenir sur ce que Stan disait, Muse, moi, ça fait deux semaines maintenant qu'il

y a

environ que je l'ai, et ça a changé la vie parce que finalement, Meta a réussi à devancer toute la compétition, tous les géants de l'IA, et j'inclus même Google, avec un agent IA qui est facile à utiliser, et d'ailleurs tellement facile que j'ai l'impression qu'il va probablement y avoir des victimes collatérales, parce qu'il

y a

des gens qui vont faire tous les branchements que Muse demande, en tout cas propose de faire, et il y

a

des gens qui vont se retrouver peut-être avec des boîtes de courriels vides à un moment donné ou à faire des dépenses qu

'ils

ne pensaient pas nécessairement faire, parce que c'est tellement simple de la façon que c'est proposé, et contrairement à tous les autres modèles, et tous les autres IA que le public en général a eu un contact, a été offert, celui-là, il est proactif, et au moins cinq à six fois par jour, va vous proposer quelque chose en lien avec le travail que vous êtes en train de faire, ou quelque chose qu'il connaît et qui sait à votre agenda, c'est une autre expérience. Je vous dirais que trois ans et demi plus tard, bien trop, quatre ans, c'est un autre moment de chez

JP.

OK. Oui, Muse qui n'est pas disponible en France encore, malheureusement, mais c'est vrai que c'est très, très, très excitant. Je ne

sais

pas si tu as suivi un petit peu cette actualité Muse de Méta.

Oui, bien sûr, c'est leur agent personnel. Oui,

pour grand public, en fait.

C'est ça qui est très intéressant

par rapport au réseau

de Facebook. Ils ont deux milliards d'utilisateurs. C'est eux qui mettent le produit dans les mains des gens. C'est là que ça marche. C'est-à-dire que la technologie, à la fin, c'est un produit. En fait, ce qui compte, c'est 90% de sales et de marketing. Et c'est ce que Facebook sait très bien faire. Ils ont accès à une base client monumentale. Donc, c'est bien joué. C'est vraiment

bien

joué. Et il faut quand même dire que, sans l'avoir essayé moi-même, le produit a l'air, et c'est ce que tu disais à

l'instant,

extrêmement performant. Très enthousiaste. Moi, ce qui est pour moi le benchmark absolu, c'est que le New York Times, qui est quand même un journal qui déteste Méta, mais alors un

point, et

Zuckerberg,

c

'est vraiment le diable pour eux, a fait des papiers extrêmement laudatifs sur Muse, en disant c'est extraordinaire, c'est le premier vrai assistant numérique qui existe dans mon univers. Donc, s'ils ont même réussi à convaincre les journalistes du New York Times, c'est qu'ils tiennent quand même un produit, effectivement, qui est probablement à s'exprimer. Moi, je ne

l'ai

pas utilisé personnellement, donc voilà. Et puis, le logo est mignon. C'est super bien packagé. C'est vraiment pour le très grand public.

Et puis, il y

a

même du hardware. Je ne

sais

pas si vous avez suivi, mais il

y

a ce petit News March. Et il faut d'ailleurs

dire que le développement du look and feel, du hardware, etc., est entre les mains d'anciens d'Apple. Mark Zuckerberg a débauché le patron du design software et hardware d'Apple, Alan Dye, pour qu'il développe, entre autres, le look and feel de ces produits-là. Donc, il suffit à faire du produit.

Ça

va être intéressant. Est-ce qu'on est en train de vivre la revanche de Mark Zuckerberg ? On aura l'occasion d'en parler. Mais si on revient à notre sujet de cette peur sur l'IA, c'est très intéressant ce qui se passe du côté de chez NVIDIA, qui annonce qu'il lance une solution, tu le disais il y a un instant, Julien, pour contrer les dérapages des agents IA, alors que les tentatives de piratage se sont multipliées ces derniers mois et qu'elles proviennent de tous les acteurs du secteur. Il y a urgence à domestiquer ces agents, dit Jian Sanhuang, le patron de NVIDIA sur CNBC hier soir. On l'écoute.

Ces

agents autonomes sont de toute évidence autonomes, ce qui signifie qu'ils fonctionnent de manière autonome. C'est comme une voiture autonome. Et donc, pour que vous puissiez déployer ce système en toute sécurité, vous devez vous assurer que l'environnement de test qui l'entoure, le champ de force, l'enclos, si vous voulez, tous ces systèmes sont conçus de manière à limiter au minimum les droits de l'agent. Quels que soient les droits dont ils disposent, il n'en a besoin que pour accomplir sa tâche. Pas plus de droits que cela. Et qu

'ils

ne puissent rien faire, qu'ils ne soient pas censés faire.

C

'est intéressant parce que tout à l'heure, on évoquait ce mot de cage. Donc, il y

aurait

une cage software, mais il y aurait aussi une cage hardware.

Tout à fait. C'est absolument l'idée. NVIDIA est bien connue pour vendre les pelles et les pioches du monde de l'IA. Même

s'ils sont très

bons aussi en soft, d'ailleurs.

Et ils rajoutent effectivement plein de couches en intégration verticale sur toute la chaîne de valeur de l'IA. Et en gros, ils veulent maîtriser. Donc, ils maîtrisent effectivement CUDA. Ils maîtrisent le hardware avec Vera Rubin, avec des data centers. Ils font absolument tout. Et ils rajoutent finalement cette couche-là. Aujourd'hui,

c

'est un peu, peut-être pour ceux qui ne connaissent pas tout à fait, pour utiliser une image simple, C'est un peu comme si NVIDIA fournissait le moteur jusqu'à présent. Là, ils rajoutent en gros les freins et l'ABS.

C

'est-à-dire qu'en gros, ils commencent finalement, enfin, ils continuent plutôt d'équiper tout autour de ces modèles d'IA qui sont du soft, qui sont des modèles logiciels, toutes les briques finalement qui permettent d'assurer cette sécurité. Juste un point, c'est quand même assez ironique, puisque Jensen Mung, il y a deux semaines maintenant, a couru tous les plateaux télé pour dire, oh, mais tous ces gens qui expliquent que l'IA va nous tuer, va faire beaucoup de mal, ils sont trop autonomes, franchement, ils exagèrent. Et deux semaines plus tard, il explique qu'il a la solution au problème, donc comme quoi, ça reste aussi un bon commerçant.

Ça s'appelle l'Open Agent Safety Platform. Et en fait, il y a deux modules, OpenShell, qui fixe en fait les limites et trace les actions, et puis Sentry, qui est un surveillant indépendant, qui est sur une puce dédiée. Une sorte de kill switch finalement. Bruno, voilà, ça fait des verrous supplémentaires. Alors, on peut s'en réjouir, mais c'est quand même assez inquiétant, parce qu'on se dit que finalement, il faut que tous les acteurs prennent ce sujet au sérieux pour essayer de contenir ces IA.

Oui,

et ce qui est intéressant, moi j'ai suivi le dossier hier en fin de journée, et c'est qu'il

y a

une centaine de joueurs dans le domaine qui ont signé, dont Anthropik, dont Microsoft, mais on ne voit pas Open&Hight dans le décor. Et ça, ce n

'est

peut-être pas rassurant. L'autre côté, ce que je trouve intéressant, c'est de voir justement ces deux modules qui sont là. C'est-à-dire qu'il y en a un, c'est carrément le carré de sable, dans lequel l'IA va pouvoir faire ce qu'elle veut, et ils pourront la tester, évidemment dans un contexte hyper sécuritaire, et toute la sécurité est orchestrée par le processus de Nvidia. Et parallèlement, il y a cet outil centriste qui, lui, veille au grain, et aussitôt qu'il va voir qu'il y

a

un agent, il y a un modèle, qui commence à prendre de l'initiative, mais hors du contexte sur lequel on lui a demandé de travailler, à la milliseconde,

il

le corrige.

OK.

Et ça, c

'est ce qu'il

manquait. C

'est un modèle

électrique. Virtuel, oui. Virtuel, c'est ça.

Intéressant, Stan

?

Intéressant. Et est-ce que ça suffira ? En fait, c'est toujours ça la grande question. Effectivement, il va vendre plus de puces. Nvidia, là...

Est-ce que ça ne serait pas un nouveau business model aussi pour Nvidia, finalement, tout ça ? Tout à fait. C'est une extension, en tout cas, de son

business model. Je vends les puces, mais vous savez quoi

? Je vends aussi les cages supplémentaires pour que vos IA ne s'échappent pas.

Mais ils vendent déjà des racks serveurs,

ils

vendent déjà des data centers clés en main,

ils

vendent déjà plein de choses qu'ils ne vendaient pas il

y a trois ans. Et là, c'est la

cybersécurité rattachée à l'IA, c 'est tout. Qui surveille la puce, qui surveille l'autre puce, tu vois.

Aïe, aïe, aïe. On ne va pas s'en sortir.

C

'est le

problème de la sécurité. C'est

jusqu

'où il faut remonter. Et on voit, tu faisais la comparaison avec les paquets vidéo qui sont filtrés en FPGA, en fait, dans les télécoms, de manière générale. Le truc, c'est que par rapport au paquet Ethernet, ce n

'est

pas immuable. C

'est

-à-dire que ce n'est pas de la donnée statique, c'est

de

l'intelligence qui transite quand même.

Donc,

est-ce qu'elle peut déguiser ses actions ? Il y a plein de choses qu'il faudra voir. Comme tout ce milieu qui évolue très, très vite, c'est une bonne initiative. Après, c'est probablement la bonne. Est-ce que ça suffit ? C'est trop tôt pour le dire. Et

il faut

quand même un peu rester inquiet.

Et

pour ajouter quelque chose au propos de Stan, ce qui était particulièrement le défi, pour parler avec des chercheurs assez souvent, c'est que justement, on n

'a

pas affaire à un logiciel qui fait sensiblement toujours la même chose un jour après l'autre. L'IA, elle apprend. Et donc, tous les mécanismes qui sont mis en place avec le lancement de ces deux modules-là, il va falloir toujours retravailler, retravailler. Et c'est ça le contexte de la cybersécurité aujourd'hui avec l'IA, avec le quantique qui est bientôt à nos fenêtres. Et je ne voudrais pas être à la place de ces gens-là parce qu'ils ont vraiment un défi d'être plus intelligents que les modèles que les gens sont en train de développer.

Bon, excusez-nous de plomber un peu l'ambiance, mais c'est la réalité. Alors, qui est entretenue aussi par ce marketing de la peur de toutes ces boîtes-là. Espérons qu'elles savent,

qu

'elles maîtrisent en fait le sujet, mais ce n

'est

pas sûr. Ce n

'est

pas sûr. Bruno, Julien, Stan. Julien,

Stan.