Jean-Noël Barrot, ministre délégué chargé du Numérique, invité de "On n'arrête pas l'éco"

On continue la réflexion avec l'invité d'On n'arrête pas l'écho. Bonjour Jean-Noël Barreau. Bonjour. Vous êtes le ministre du numérique. Merci d'être avec nous pour décrypter l'info de la nuit. L'Union européenne s'est donc accordée il y a quelques heures sur une législation pour encadrer l'intelligence artificielle. C'est le premier texte au monde. Qu'en pensez-vous Jean-Noël Barreau ? Est-ce que c'est une avancée historique ?

C'est une étape dans un chantier qui s'est ouvert il y a 4 ans pour faire en sorte que l'intelligence artificielle puisse être introduite en Europe dans un cadre qui protège les citoyens et qui garantisse la confiance qui est nécessaire à l'adoption des systèmes d'intelligence. Comment ça marche ? Lorsqu'un fournisseur voudra mettre un système d'intelligence artificielle sur le marché en Europe à des fins qui peuvent présenter des risques pour la santé, la sécurité des personnes, il devra obtenir un label, un marquage CE, comme pour les jouets, comme pour les ordinateurs, comme pour les smartphones, faute de quoi son système pourra être retiré du marché dans l'Union Européenne.

C'est une étape, les discussions vont se poursuivre.

J'entends quand vous dites que c'est une étape et que vous le répétez, j'entends un enthousiasme mesuré.

Nous voulons...

Est-ce que Paris va valider ?

Nous voulons... Nous voulons, avec le président de la République, avec Bruno Le Maire, garantir que l'Europe soit en capacité de développer ses propres modèles. L'Europe a raté le train des GAFAM. Mais nous devons prendre un train d'avance sur l'intelligence artificielle. Parce que la meilleure des protections que nous pouvons offrir aux citoyens européens, c'est de mettre entre leurs mains des intelligences artificielles qui soient empreintes de notre vision du monde et de l'homme, qui soient forgées au feu de la langue et de la culture française. Et pour cela, il faut éviter d'écraser les innovateurs européens sous une réglementation qui soit trop lourde.

Donc nous allons examiner très attentivement l'accord qui a été trouvé cette nuit. Et dans les discussions qui vont nécessairement se poursuivre, notamment pour régler un certain nombre de détails, et le diable se cache souvent dans les détails, faire en sorte que la capacité d'innovation soit préservée en Europe.

Jean-Noël Barraud, ça a été le consensus à partir de 2021 quand l'idée de ce texte est apparue. Dans la dernière ligne droite, ça a été une bataille. En effet, sur ce thème, porté par la France, notamment plus souple que d'autres, sur le thème qu'il ne faut pas écraser les entreprises de l'intelligence artificielle européenne, il faut les laisser innover, mais ne mettons pas des règles trop strictes, alors qu'on entend que ça pourrait être très dangereux. On dit que Bercy a beaucoup écouté les lobbies.

Notre conviction, c'est que la domination technologique précède la domination économique et la domination politique. et le reportage que nous venons d'entendre tente à confirmer cette conviction. Et nous avons payé pour savoir que lorsqu'on emprunte des outils venus de loin, venus d'ailleurs que de l'Union européenne, comme les réseaux sociaux, les places de marché ou le cloud, nous avons entre les mains des outils qui ne correspondent pas toujours à nos valeurs, qui ne protègent pas toujours la vie privée.

Avec le DSA, le DMA mis en place par l'Union européenne, on est bien en train de réguler des réseaux sociaux qu'on n'a pas créés ?

Celui qui régule l'outil a toujours moins d'impact sur le cours des choses et sur la manière dont il va être utilisé que celui qui le conçoit. Et lorsque nous aurons, parce que c'est notre ambition, des intelligences artificielles forgées en Europe, alors elles protégeront beaucoup mieux la vie privée, les droits d'auteur, la dignité des personnes que des intelligences artificielles forgées ailleurs. Mais est-ce que nous voulons préserver ? A tout prix, c'est une nécessité vitale pour l'Europe.

C'est ce que vous avez défendu. Aujourd'hui, ce matin, vous n'êtes pas sûr encore que le texte n'est pas trop dur pour les start-up européennes de l'intelligence artificielle, pour être clair.

C'est un compromis. Nous allons examiner les détails, ligne à ligne, de cet accord trouvé en pleine nuit pour que dans les discussions qui vont se poursuivre, nous puissions porter précisément cette ligne-là, c'est-à-dire la nécessité absolue de pouvoir, en Europe, développer nos intelligences artificielles.

Alors, je le disais, l'Allemagne était plus souple que d'autres. La France aussi, c'est peut-être parce que nous avons des start-up prometteuses de l'intelligence artificielle. En France, on a Mistral AI qui lève des fonds, 100 millions, bientôt 450 millions, la prochaine levée de fonds. On a aussi le laboratoire de recherche de Xavier Niel, Rodolphe Saadé et Eric Schmidt, qui, ou taille, finance à hauteur de 300 millions. Jean-Noël Barraud, comment est-ce que vous pouvez être optimiste sur le fait qu'on va avoir un champion européen de l'IA quand on sait que, par rapport aux sommes que je viens de citer, Microsoft a mis plus de 10 milliards dans OpenAI et finalement, ça a donné ChatGPT.

Est-ce qu'on n'est pas en train de se faire de la méthode Coué ?

Nous avons tous les atouts pour avoir un train d'avance dans l'IA, là où nous avons pris un train de retard sur les GAFA dans les 10 années qui viennent de s'écouler. Nous avons les meilleurs talents du monde. Nous avons un patrimoine de données qui sont indispensables à l'entraînement et à la conception de ce type de modèles. Et nous avons un mix énergétique décarboné qui est indispensable pour alimenter la puissance de calcul nécessaire à la conception de ces modèles. Et nous allons continuer à investir dans ces directions-là. C'est ce que le Président de la République a avancé.

Des centaines de millions versus des milliards.

Vous avez raison, le risque, c'est que se reconstitue autour d'acteurs ultra-dominants dans le domaine du cloud, notamment, des GAFA de l'IA. Et pour cela, il faudra que nous appliquions un certain nombre de règles que nous avons déjà prises en Europe pour que la concurrence soit équitable et pour que l'accès à la puissance de calcul le demeure. Mais nous avons tous les ingrédients nécessaires à la conception de ces modèles. Ce qu'il nous faut empêcher, c'est la reconstitution d'une suprématie d'une poignée d'acteurs extra-européens qui nous imposent à terme leurs propres outils.

Vous parlez du cloud. Le cloud, c'est cet espace virtuel sans lequel l'IA, justement, l'intelligence artificielle, ne peut pas fonctionner. Mais ce cloud, aujourd'hui, il est aussi aux mains des Américains. Donc, est-ce qu'un jour, vous me dites, on peut arriver à des champions européens de l'IA, mais le cloud, lui, on n'est pas encore au cloud. Notre souverain européen, est-ce qu'à un moment donné, on arrivera à une souveraineté dans le numérique ?

Pour y parvenir, il faut d'abord rétablir des règles de concurrence équitables. Parce que si une poignée d'acteurs extra-européens se sont assurés une ultra-domination dans ce marché-là, qui est l'hébergement en ligne de nos données, c'est parce qu'ils ont déployé des pratiques anti-concurrentielles pour verrouiller les marchés et enfermer leurs clients, que ce soit des particuliers, des entreprises ou des administrations, dans leurs solutions propriétaires. Nous avons...

Il y a eu une action européenne là-dessus, mais ça ne veut pas dire que notre cloud... Mais où est notre cloud européen ?

Le projet de loi que je porte actuellement au Parlement introduit des interdictions pour ces pratiques commerciales déloyales qui vont desserrer le marché, qui vont permettre à des acteurs émergents dans le domaine du cloud, et nous en avons en France, de reprendre des parts de marché et qui vont permettre aux clients, particuliers, entreprises et administrations, d'avoir le choix. Et la souveraineté, c'est avant toute chose l'idée d'avoir le choix des solutions que l'on utilise.

Jean-Noël Barraud, je reviens au IA Act, au texte européen de cette nuit sur l'intelligence artificielle. On aimerait soulever un petit peu le capot, on a entendu vos réserves sur l'innovation. Si on soulève le capot et si on se souvient de la lettre de Sam Altman, entre autres, le patron d'Open AI, sur « Attention, c'était en mai », sur « Attention, l'intelligence artificielle fait courir un danger d'extinction à l'humanité comme les pandémies, comme les guerres nucléaires », est-ce que ce texte européen, ça nous protège des pires scénarios ?

Le vrai danger, je l'ai dit et je le répète, c'est que se reconstitue avec l'intelligence artificielle les GAFA, c'est-à-dire la suprématie d'une toute petite poignée d'acteurs qui imposent leurs règles au monde. Mais le danger qu'on a en tête,

nous, c'est l'intelligence artificielle qui reprend le contrôle, qui surpasse l'esprit humain, qui... Vous voyez, c'est 2001 aussi 17 espaces. Est-ce que ça, on s'en est prémis ?

L'intelligence artificielle est un outil, un outil qui peut être utilisé à bon ou à mauvais escient. Si nous concevons en Europe, et nous allons le faire, nos propres outils, alors ils seront conçus pour être utilisés d'une manière qui est conforme à la manière dont nous regardons le monde et dont nous regardons les hommes. C'est la raison pour laquelle nous tenons absolument à ce que ces modèles soient développés en Europe. Ensuite, évidemment, il faudra mettre un certain nombre de règles. Ce règlement européen est une étape. Il y a des discussions au niveau international, au niveau du G7, au niveau de l'OCDE.

Et comme vous le savez, c'est la France qui accueillera l'année prochaine le prochain sommet mondial sur l'intelligence artificielle qui permettra de faire converger les efforts de régulation partout dans le monde sur ces questions et notamment ces questions de prolifération d'outils d'intelligence artificielle à des fins malveillantes ou à des fins de déstabilisation politique.

Mais pour l'instant, par exemple, la notation sociale, on sait que c'est déjà interdit. Ça, c'est dans le texte ?

En Europe, elle est interdite et c'est une très bonne chose.

Jean-Noël Barraud, trois questions d'actu, si vous permettez. On va parler des cybermenaces à présent. C'est un de vos dossiers. Cette semaine, vous avez alerté les petites et moyennes entreprises. Est-ce que ça veut dire que vous êtes inquiet ?

Je suis inquiet et chacun d'entre nous devrait l'être. En réalité, la protection cyber devrait être une priorité pour chacun, que l'on soit un particulier, qu'on soit une entreprise, une administration. Il nous faut, c'est un devoir civique, nous protéger pour se protéger soi, mais aussi pour protéger les autres. Alors, nous accompagnons depuis 2021 nos grandes collectivités, nos grands établissements hospitaliers dans des programmes de cybersécurisation.

Et ce que j'ai annoncé cette semaine, c'est que nous allions aussi le faire pour des entreprises de taille moyenne qui, dans des secteurs critiques, si elles étaient attaquées, pourraient déstabiliser la vie économique et sociale de la nation avec des programmes pour les amener à relever leur niveau de cybersécurité face aux attaques.

Mais aujourd'hui, les PME françaises, elles sont particulièrement attaquées. Au niveau mondial, il y a une étude qui dit que les PME, c'est la moitié des cyber-extorsions.

Tout le monde est attaqué aujourd'hui parce que nous sommes entrés de plein pied dans la société et dans l'économie numérique. C'est une bonne chose à bien des égards, mais cela élargit aussi ce que l'on appelle la surface d'attaque. Et s'est développé en quelques années un vrai business de la cybercriminalité avec ces multinationales, avec ces sous-traitants, avec ces agents commerciaux. Et pour faire face à cette montée de la menace, il nous faut nous protéger. De la même manière que face à des virus, il nous faut nous vacciner.

Vous le dites, le ministre du numérique le dit, nous sommes dans une vie numérique. Alors il y a dix jours, Anne Hidalgo a quitté le réseau social X, l'ex-Twitter, racheté par Elon Musk. Voici ce qu'en dit la maire de Paris. Elle dit que c'est un vaste égoût mondial, une arme de destruction massive de nos démocraties. Pourquoi est-ce que, si c'est exact, vous le ministre du numérique, vous êtes encore sur X ?

Parce que la France a porté l'année dernière, au niveau européen, des règles extrêmement exigeantes qui vont désormais s'appliquer aux grandes plateformes de réseaux sociaux comme Twitter X, comme Facebook, comme Instagram. Donc ce n'est pas à nous, Européens, de quitter ces plateformes. Ce sont à ces plateformes de quitter l'Europe si elles ne respectent pas nos règles.

Jean-Noël Barraud, le ministre du numérique. Merci d'avoir accepté l'invitation. N'arrête pas l'écho. Sous-titrage Société Radio-Canada