Jean-Noël Barrot - Ministre français délégué chargé de la Transition numérique.

[Musique] [Musique]

bonjour bienvenue sur TV5 Monde bienvenue dans international émission réalisée en partenariat avec le journal Le Monde journal représentait cette semaine par Alexandre Picard bonjour Alexandre elle fascine elle inquiète elle est frais elle nourrit à la fois des rêves et des cauchemars elle suscite enthousiasme mais aussi angoisse l'intelligence artificielle est au cœur du débat public cette année particulièrement ces derniers jours en cause notamment l'alerte lancée en début de semaine par l'un de ses pères fondateurs un chercheur canadien Geoffrey Hinton une alerte qui a fait écho à la lettre ouverte publiée il y a un peu plus d'un mois maintenant des centaines d'experts y demandaient une pause dans le développement presque foudroyant de l'intelligence artificielle une pause de 6 mois pour discuter de ces dangers de la manière dont elle peut être mieux encadrée comment l'encadrer justement comment réguler son développement comment lutter contre ces dérives et ses dangers déjà présents pour répondre à ces questions de recevons Jean-Noël Barrault bonjour vous êtes le ministre français délégué chargé de la transition numérique et des télécommunications nous allons aussi parler avec vous d'autres sujets liés l'intelligence artificielle la souveraineté numérique la fracture numérique entre autres mais avant de vous entendre Jean-Noël barreau voici comme chaque semaine pour commencer cette émission notre instantanée il réunit dans un lieu consacré à la technologie mais qui est souvent déconnecté déconnecté de notre monde de notre réalité les gens parlent encore du changement climatique mais à la fin il ne parle que de l'économie nous n'avons pas encore franchi cette barrière n'est ce pas nous devons comprendre que nous sommes presque à un point de non-retours et comme je l'ai dit nous crions des technologies mais pour qui de qui parlez-vous des gens mais nous nous plaçons toujours pas les gens au centre de société faisons en sorte que les technologies se reconnectent se reconnectent à notre nature les paroles d'une jeune Brésilienne chat et souris membre du peuple autochtone pasitaire souris c'était à Rio de Janeiro cette semaine lors d'une grande réunion sur le numérique que vous connaissez bien Jean-Noël barreau le web ce mythe elle est venue cette jeune femme parlait de la protection de l'Amazonie que la technologie se reconnecte à la nature et qu'elle prenne mieux en considération les femmes et les hommes dans la lutte contre le ré climatique que dites-vous de ces paroles qu'est-ce qu'elle vous inspire quels sont ça la technologie doit toujours rester au service de l'homme et au service de ces de ses ambitions de ces défis et en particulier s'agissant du défi climatique la technologie est l'une des clés si nous voulons le surmonter l'une des clés et non pas la clé pour réellement lutter contre le réchauffement climatique je crois qu'il faut pas se contenter de s'appuyer sur la technologie qu'il y a des des gestes que nous pouvons adopter les Français l'ont fait l'année dernière lorsqu'il a fallu réduire notre consommation énergétique dans un élan de responsabilité de citoyenneté nous avons baissé de 10% notre consommation énergétique volontairement mais la technologie peut aider évidemment un certain nombre de secteurs aujourd'hui très émetteurs de gaz à effet de serre à réduire l'empreinte carbone chasse souris cette jeune femme convient d'entendre appel aussi les entrepreneurs du numérique à venir en forêt dans la forêt amazonienne est-ce que ça veut dire que que au-delà du de l'appel et du symbole et que les entrepreneurs du numérique que les femmes et les hommes qui travaillent dans ce domaine ne sont pas assez connectés vers la à la nature ne sont pas assez tournés vers la nature on pense trop aux puces électroniques et moins aux arbres et aux plantes je ne crois pas qu'il faille stigmatiser tel ou tel catégorie les entrepreneurs sont des citoyens comme les autres il leur appartient de faire les efforts auxquels nous devons toutes et tous nous astreindre pour que collectivement nous puissions relever ce défi il y a parmi les entrepreneurs des hommes et des femmes qui réfléchissent chaque jour à la manière dont la technologie peut offrir des solutions nouvelles pour réduire l'empreinte carbone des secteurs du logement du transport ou de l'industrie nous en avons beaucoup en France qui est devenu progressivement sans doute le principal hub pour le développement des des technologies vertes et des technologies pour le climat en Europe c'est donc une fierté que d'avoir cette génération d'entrepreneurs qui s'intéresse et qui se mobilisent grâce à leurs entreprises pour le climat bon le secteur du numérique a aussi une empreinte carbone on en parlera un peu plus tard dans dans cette émission on va continuer à parler des rapports entre numérique et environnement mais avant cela retour sur votre parcours Jean-Noël Barrault vous êtes finalement assez jeune encore en politique et on va le voir dans quelques instants dans le focus l'international il est signé cette semaine ou médialot et Julien Bouyer entre l'Assemblée nationale et vous Jean-Noël Barrault c'est une histoire de famille votre grand-père le résistant est député de Haute-Loire Noël Barraud ici à 1966 comme votre père pendant 30 ans Jacques barreau plusieurs fois ministre et figure du centre droit se démocrate chrétien à la fois libéral et humaniste qui a toujours combattu l'extrême droite s'effondre un certain 21 avril 2002 c'est dur pour des gens comme moi la politique avec le fond de la retraite c'est dur ce soir je suis content de Chirac et 20%

[Musique]

mais pour la France la politique française bascule donc au moment où vous entrez dans la vingtaine fort de cet héritage familial dans le langagement de mon grand-père Noël Barrault qui comme vous l'avez dit a été député à la Libération quelque chose qui m'a beaucoup inspiré parce qu'il fait partie de cette génération qui dans le le silence de la résistance s'est engagé au service des autres et au risque de sa vie parfois et c'est dans cette forme de de générosité et d'engagement que j'ai tiré l'inspiration de de ma vocation politique en 2017 à seulement 34 ans vous êtes élu une première fois députée des Yvelines sous la bannière du Mouvement Démocrate le modem partie centriste vice-président de la commission des finances de l'Assemblée nationale enseignant en finance des entreprises souvent décrit comme un technicien à l'ère du président Macron votre profil et rechercher début 2021 le ministre de l'Économie vous sollicite face aux conséquences de la pandémie après six mois passés à sillonner la France vous formulez 27 propositions pour la relance économique des territoires les plus fragilisés la stratégie c'est coopérer territorialisé régénérer l'année suivante vous entrez au gouvernement dans un domaine hors de votre champ d'expertise nommé ministre délégué chargé de la transition numérique et des télécommunications les acteurs du secteur doutent alors de votre capacité à gérer des dossiers du moment vous répondez par des propositions concrètes comme le blocage de l'accès au site pornographique pour les mineurs dès septembre 2023 et la sécurisation des établissements de santé autant de mesures qui soulève la question de la protection des données personnelles autre grand défi le développement fulgurant de l'intelligence artificielle qui pourrait cette fois faire basculer la société tout entière l'intelligence artificielle qui va bouleverser nos sociétés elle a d'ailleurs déjà commencé à le faire certains disent que ce bouleversement sera d'une intensité similaire à celle du changement provoqué par l'imprimerie au 15ème siècle est-ce que ça ça vous semble une comparaison pertinente et juste je crois qu'il faut d'abord rappeler que nous avons invité l'intelligence artificielle dans nos vies quotidiennes depuis un long moment maintenant et que de manière consciente ou inconsciente nous l'utilisons pour nous déplacer pour choisir un logement pour choisir une une vidéo ou un morceau de musique et même pour nous soigner et je crois que nous n'aurions pas pu trouver le vaccin contre la covid dans des délais si courts si nous n'avions pas pu nous appuyer sur l'intelligence artificielle et l'intelligence artificielle a déjà permis de découvrir des remèdes des maladies compensées incurable la nouveauté c'est l'éruption de l'intelligence artificielle générative qu'est-ce que c'est alors qui a la capacité à partir de l'analyse de de somme astronomique d'information d'en tirer des représentations des synthèses que ce soit des synthèses textuelles des images et peut-être un jour des vidéos c'est donc une promesse assez substantielle pour l'humanité qui va pouvoir d'une manière simple accéder à son propre patrimoine informationnel à travers des représentations produites par ces modèles et ça pourrait donc effectivement avoir un effet aussi considérable que l'effet de l'imprimerie dans l'Europe au 15e siècle c'est-à-dire une diffusion à très grande échelle des savoirs accumulés de l'humanité en début de semaine un chercheur canadien va continuer à parler de cette intelligence artificielle générative puisque c'est celle dont on parle plus on se tient généralement dans les médias à intelligence artificielle mais le génératif vous avez eu raison de le signaler je le disais en début de semaine un chercheur canadien qui est considéré comme l'un des pères fondateurs de cette intelligence artificielle générative a annoncé qu'il avait récemment quitté Google c'est pas commun de quitter une un groupe aussi important que que Google il s'appelle Geoffrey Hinton il dit avoir pris cette décision pour pouvoir alerter sur les dangers de cette intelligence artificielle et pour pouvoir en parler sans se soucier d'un éventuel impact sur l'entreprise sur Google cette intelligence et ces prochaines versions pourraient être un risque pour l'humanité c'est ce qu'il a dit au journal américain à New York Times une part de moi-même regrette l'oeuvre de ma vie qu'est-ce que vous vous dites quand vous entendez un tel chercheur tenir ce propos d'abord j'entends les inquiétudes les interrogations de mes concitoyens quand face à l'arrivée de tchat GPT un certain nombre de questions et d'inquiétude voire parfois d'angoisse peuvent émerger c'est l'une de ces intelligences artistiques l'une des manifestations l'intelligence artificielle était proposée au grand public en fin de l'année dernière enfin un système de dialogue on dit parfois un agent conversationnel puisqu'on peut à partir de messages qu'on adresse sur son interface obtenir des réponses qui peuvent sembler avoir une être émise par par un humain mais je crois qu'il faut d'abord avant toute chose écarter un certain nombre de fantasmes mais en particulier celui d'un remplacement de intelligence humaine par l'intelligence artificielle et c'est Blaise Pascal dont nous fêtons cette année le 400e anniversaire qui est peut-être l'un des tous premiers maticiens mathématicien qui le disait très bien puisqu'il avait lui-même inventé la première calculatrice la différence fondamentale entre la technologie et l'être humain c'est la notion de volonté et d'intention il n'y a pas de volonté artificielle pas encore il n'y a pas de volonté il n'y aura jamais de volonté artificielle l'intelligence artificielle ce sont tes logiciels qui traduisent l'intention et la volonté de ce qu'il les conçoivent en revanche c'est ces intelligences artificielles soulèvent un certain nombre de questions en matière de respect de la propriété intellectuelle matière de respect de la vie privée en matière de de risques qui peuvent être associés à leur utilisation ou de leur impact sur le marché du travail à toutes ces questions là il nous faut apporter des réponses est-ce que toutefois dans le la prise de parole de ce cherche quelque chose qui était donc chez Google et qui les a quitté il y a pas quelque chose enfin il y a des points qui sur lequel il insiste il dit j'ai changé d'avis sur l'idée que ces intelligences pourraient être dépasser l'intelligence humaine donc ça si je suis ce que vous dites vous pensez que ça c'est du fantasme cette idée d'une intelligence artificielle générale supérieure à l'humain donc beaucoup de d'Américains pensent possible ça ça vous paraît fumeu ou un peu infantasme je crois qu'il n'y a pas d'intention ni de volonté or de l'intelligence et de l'âme humaine ensuite il y a évidemment des tâches qu'aujourd'hui l'intelligence artificielle s'est accomplir qui sont inaccessibles à l'intelligence humaine mais que c'est en mettant cette technologie au service de l'homme que nous pouvons faire croître notre propre humanité à condition bien sûr comme d'autres technologies extrêmement puissantes que l'humanité a su parfois de manière un peu labor domestiquer que nous tirons le meilleur profit de cette technologie autre alerte elle a été lancée il y a quelques semaines par une centaine de centaines de chercheurs donc de d'experts aussi d'entrepreneurs le patron de Tesla qui était l'un de ceux qui avaient fondé d'ailleurs l'entreprise qui a proposé et qui propose chat Gipsy c'est ces chercheurs ces experts demandent à moratoire une pause de 6 mois dans le développement de l'intelligence artificielle je le disais en introduction vous êtes contre cette pose vous l'avez dit déjà Jean-Noël barreau pourquoi d'abord permettez-moi de rappeler que Elon Musk qui figure effectivement parmi les premiers signataires quelques jours à peine après avoir signé cette tribune appelant à un moratoire à lui-même créé une entreprise dont la vocation est de développer l'équivalent de ce dont il voulait arrêter le développement parce que vous voulez il y avait peut-être quelques quelques carrières pensées commerciales mais ceci étant dit même sans arrière commercial je considère que ce moratoire cette pause est une mauvaise solution que c'est une solution qui est à la fois indésirable et irréel réaliste irréaliste car mettre le la science ou prétendre qu'on puisse décréter un arrêt de la de la science à partir d'une tribune aux États-Unis ou en Europe c'est évidemment illusoire puisque la science continuerait à se développer ailleurs et notamment en Chine et indésirable car je crois que l'enjeu pour un pays comme la France c'est précisément de dompter de maîtriser cette technologie d'abord parce que nous en avons les moyens je parlais de Blaise Pascal tout à l'heure j'aurais pu parler du lauréat 2022 de la médaille field qui est un français depuis 400 ans la France n'a jamais cessé d'être une grande nation de mathématiques et ce n'est pas une surprise que dans tous les laboratoires de recherche en intelligence artificielle qu'il soit public ou privé on retrouve des Français ensuite parce que c'est une nécessité absolue dans la mesure où je le disais tout à l'heure c'est modèle sont des modèles de représentation du patrimoine informationnel de l'humanité il est donc un concevable que nous puissions nous appuyer sur des modèles qui ne reflèteraient pas notre vision à nous française européen de ce que c'est que le monde et de ce que c'est que l'humanité nous avons besoin de modèle qui sont forgés au feu de la culture française et de la langue française et enfin parce que c'est un enjeu de souveraineté nous ne voulons pas être une nouvelle fois dans 10 ans dans 15 ans entre les mains de géants du numérique issu de puissance étrangères Lequin qui est un des ponts comme je me suis une tonne de l'intelligence artificielle et qui est un cadre de chez métal maison mère de Facebook qui lui se veut un beaucoup plus rassurant il dit bah on réussira à les maîtriser ces systèmes on l'a déjà fait avant avec l'aviation c'est un des parallèles avec l'atome vous vous êtes sur cette ligne vous dites bon finalement faisons confiance à la science on a toujours réussi à se débrouiller il dit il dit prouvez-moi qu'on ne pourra pas en garder le contrôle alors que les autres disent prouvez-moi qu'on pourra garder le contrôle c'est un peu vous êtes sur cette ligne là ou si vous êtes optimiste je suis déterminé à ce que nous puissions tirer le meilleur profit je le disais c'est un enjeu important pour la pour la France et pour l'Europe que de maîtriser cette technologie c'est aussi un enjeu pour la France et pour l'Europe que de dessiner le contour des bornes ou en tout cas le l'encadrement que nous voulons fixer pour le développement de l'intelligence artificielle parce que voyez-vous en Europe nous n'avons pas attendu le moratoire de Monsieur musk où la demande de moratoire de Monsieur musk pour agir l'Europe est la première démocratie du monde à avoir décidé de se doter d'un cadre pour que le développement de l'intelligence artificielle puisse se faire en toute confiance en Europe ce projet de règlement est sur le métier depuis presque deux ans le Parlement européen est en train de finaliser sa position sur ce règlement avant que les discussions s'engagent entre la Commission le Parlement et le Conseil et l'aboutir à une adoption je l'espère dans les prochains mois mais qui puisse tenir compte dans la mesure du possible de l'irruption sur la dernière ligne droite de l'intelligence artificielle générale on va revenir sur cette question de régulation dans quelques instants je voudrais qu'on passe quelques quelques minutes à parler des dangers qu'on a déjà évoqué vous avez déjà commencé à évoqué Jean-Noël Barrault dont j'ai pour l'emploi notamment pour commencer un exemple dans les médias dans une radio en Suisse Couleur 3 une station publique suisse francophone pendant une journée le mois dernier son antenne a été confiée à l'intelligence artificielle reportage de nos partenaires de la RTS bonjour à tous et bienvenue dans saucisse 9 votre émission matinale préférée sur Couleur 3 parce que vous remarquez quelque chose de particulier et pourtant le studio de Couleur 3 ce matin ressemblait à ça vide personne derrière les micros c'est une intelligence artificielle qui a pris le contrôle de la chaîne pour la journée bonjour les avatars et les terriens ont duplex du futur Blaise bersinger pour les infos et la météo oui c'est ça qui fait peur c'est que ça ça c'est vraiment ma voix avec vraiment des choses que j'ai pas écrites et pas dites humoriste animateur et journaliste ont tous été clonés des textes rédigés par tchadjipiti et des voix de synthèse réalisées par une intelligence artificielle le clonage et bluffant vous êtes sur Couleur 3 c'est Virginie qui vous parle vous en dites quoi c'est assez impressionnant mais pas parfait l'intelligence artificielle n'est pas encore capable de remplacer la journalistes Couleur 3 fait l'impasse sur l'info pour aujourd'hui les textes écrits en tout cas c'est ce qui pourrait arriver dans les dans les mots les années qui viennent il y a beaucoup de métiers menacés des métiers administratifs notamment on l'a vu encore cette semaine avec IBM le président du groupe informatique a annoncé qu'il envisageait de remplacer 30% des emplois administratifs de son groupe dans les cinq prochaines années sans environ 8000 personnes ça va vite ça va très vite Jean-Noël barreau et ce qu'il faut trouver aujourd'hui un moyen de protéger ses métiers qui sont menacés dès aujourd'hui et qui le sont encore plus dans les mois qui viennent le reportage que nous venons de voir il est intéressant parce que il met en lumière deux risques en réalité associé au développement rapide de l'intelligence artificielle le premier c'est celui des de la propriété intellectuelle du respect de la création celle des journalistes c'est des artistes celle de des auteurs etc on pourra y revenir si vous le souhaitez et l'autre c'est évidemment son impact sur le marché du travail il faut d'abord bien avoir à l'esprit qu'on sait assez peu de choses sur la manière dont l'intelligence artificielle générative va modifier les tâches les compétences requises sur le marché du travail il y a évidemment des études comme d'habitude très alarmistes qui nous annoncent de des destructions d'emplois massives 300 millions je n'y crois pas je n'y crois pas je crois que certaines tâches seront remplacées que le travail va être profondément modifié mais que les emplois vont changer de configuration mais que vous aurez à côté de certains emplois qui pourraient être amenés à disparaître des emplois qui seraient amenés à être créés mais surtout on ne connaît pas très bien encore même si on commence à le soupçonner le type d'emploi qui seront le type de le type de travailleurs qui seront le plus directement concernés en soupçonne que ce seront plutôt des cols blancs que des cols bleus ce que l'on dessous ce que l'on n'arrive pas encore très bien à mesurer c'est parmi ces cols blancs qui seront les plus Bousquets il y a des expériences qui ont été menées par le MIT notamment qui montre que lorsqu'on a confié des un système de dialogue comme chat GPT à certains collaborateurs ce sont les collaborateurs qui étaient un peu moins un peu moins efficace un peu moins productif qui en ont le plus profité si bien que leurs différentiel de productivité avec les travailleurs les plus efficaces les plus productifs c'est réduit il y aura donc un Cerdon de conséquences qu'on ne sait pas encore maîtriser ce qui est certain c'est que vu la rapidité qu'on peut imaginer de diffusion de ces dispositifs qui sont encore pas du tout suffisamment fiables on l'a vu à l'instant pour remplacer des travailleurs directement si je puis dire et bien il faudra l'accompagner pour nous assurer face à cette transition là que les personnes qui seraient les plus directement bousquillées puissent trouver les compétences vers lesquelles se tourner vers lesquelles vers lesquels doivent adopter pour pouvoir trouver des solutions ou des alternatives à des tâches à des tâches qui viendraient à disparaître autre danger j'en aurai le barreau le développement de soldats robots des robots qui pourraient tuer c'est un développement aussi que craignent beaucoup de personnes de nombreux chercheurs notamment dont je ferai une tonne dont on a parlé il y a quelques minutes lui est opposé à l'usage de l'intelligence artificielle dans le domaine militaire quel est votre position sur le sujet l'intelligence artificielle est d'ores et déjà à utiliser dans le domaine militaire sans que est-ce qu'il faut l'arrêter sans qu'elle sans qu'elle sans que ça n'aille jusqu'à à prendre des décisions qui relèvent de la vie ou de la mort mais elle est utilisée notamment pour faire de l'analyse et on a une très belle entreprise française innovante qui qui qui développe des solutions qui sont très intéressantes de ce point de vue pour faire de l'analyse d'image satellites par exemple donc elle est d'ores et déjà utilisé je crois que il ne peut pas revenir à une intelligence artificielle de prendre des décisions à la place d'être humain s'agissant notamment de la vie ou de la mort mais vous comprenez ce risque c'est cela existe et technologie et elle présente des risques pardon vous comprenez ces crins je comprends évidemment ces craintes mais je crois qu'il ne faut pas se détourner d'une d'une technologie en considérant qu'elle puisse être intrinsèquement mauvaise ou au contraire de d'idolâtrer une technologie en considérant qu'elle soit fondamentalement ou intrinsèquement bonnes je pense que la technologie dépend de la destination qu'on lui donne et qui nous appartient de lui de s'agissant de l'intelligence artificielle de bien choisir cette destination on en parlera dans quelques instants encore une fois sur la régulation la désinformation maintenant c'est un autre danger intelligence artificielle cette des informations passe par des images générées par lia comme celle du pape en doudoune de luxe qu'on a pu voir sur les réseaux sociaux vous avez peut-être vu d'ailleurs c'est d'une fausse arrestation de l'ancien président américain Donald Trump également par des manipulations par des manipulations d'image de son Lia a pu faire tenir des propos aussi à des dirigeants des propos qui n'avaient jamais tenu ça a été souligné aussi cette semaine par Reporters sans frontières à l'occasion de la publication de son classement annuel ce danger concerne tous les pays tous les continents exemple en Afrique en Côte d'Ivoire avec cet extrait d'un reportage de cristal pear pour TV5 Monde l'intelligence artificielle fascine autant qu'elle inquiète donc on l'a l'impression que Macron s'est fait arrêter par la manifestants avec ces images ultra-réalistes difficilement détectables et très rapidement produite le risque de désinformation est amplifié même si des logiciels de détection apparaissent pour Siriac bogu il faut surtout sensibiliser à l'éducation aux médias ce développement critique là c'est d'emmener tout le monde à douter de tout au premier coup c'est à dire je reçois une information le mon premier truc au lieu de le partager au lieu de le véhicule et d'être un vecteur de d'amplification de cette fausse nouvelle c'est de m'interroger déjà cette nouvelle est-ce qu'elle est vraie cette photo est-ce qu'elle est vraie est-ce qu'elle n'a pas été prise par une IA un regard critique indispensable pour ne pas tomber dans le panneau des intelligences artificielles voilà développer l'esprit critique pour lutter contre l'intelligence artificielle vous opiniez pendant la diffusion de ce de ce sujet Jean-Noël Barros c'est la première des solutions développer l'esprit critique la désinformation c'est une des menaces les plus lourdes qui pèse sur nos démocratie et des outils comme ceux de l'intelligence artificielle générative accroisse ce risque avec une double menace celle de la diffusion de fausses informations et de et de déstabilisation du débat public dans nos démocraties mais aussi celle de jeter si l'on peut dire un voile de doute sur toute l'information disponible sur internet je pense que ce sont deux menaces majeures que ce type de fausses images d'hypertrucage comme on dit en français

[Musique]

font peser sur nous et face à cela je crois qu'il faut il faut poser un certain nombre de principes très simple le règlement sur européen sur l'intelligence artificielle dit par exemple qu'une image qui a été conçue avec de l'intelligence artificielle doit pouvoir être perçu comme tel par celle ou celui qui l'a visionne c'est-à-dire que il doit être très clairement indiqué que l'intelligence artificielle je crois que c'est ce principe là qu'il nous faut affirmer de manière très forte et par ailleurs je crois qu'il faut que ce principe là soit affirmé en Europe mais aussi dans les autres régions du monde et sa raison pour laquelle lors du de la réunion des ministres du numérique du G7 auquel je participais au Japon la semaine dernière j'ai fait intégrer dans la déclaration finale le l'objectif d'une prise en compte par les pays du G7 du risque de désinformation associée à l'intelligence artificielle générative vous vous êtes pour effectivement dans par exemple ce règlement européen inclure vraiment une obligation de de d'avoir un mécanisme qui permet de détecter a posteriori si quelque chose a été créé par une intelligence artificielle que ce soit une image ou même un texte parce que certains en parlent de mettre une sorte de filigrane dans des textes c'est ça dont vous parlez précisément ce qui figure d'ores et déjà dans le règlement européen c'est l'obligation d'afficher très clairement le l'information sur le fait qu'une image a été conçue avec de l'intelligence artificielle je crois qu'il serait pertinent d'éteindre d'étendre ce principe aux autres produits ou production de à partir de l'intelligence artificielle quel que soit le quel que soit le médium c'est-à-dire l'écriture la vidéo le son la voix c'est plus difficile non pour le la radio de savoir que une voix est générée par l'intelligence artificielle c'est plus difficile de l'indiquer sur une image ça se voit ça peut se rester fixe sur une voie c'est plus compliqué non vous savez lorsque on a voulu imposer à la publicité pour certains produits ou services des mentions obligatoires on a su le faire je pense qu'on sera donc le faire pour pour ce type de son là Elon Musk on y revient à annoncer qu'il travaillait vous l'avez dit tout à l'heure j'en aurai le barreau sur une nouvelle intelligence artificielle et qu'il a surnommé pour le moment trusses GPT donc la vérité un robot conversationnel sur la vérité son objectif dit-il et de rechercher ce qu'il appelle la vérité maximale il estime que ce que propose son concurrent tchat jppy et walk biaisé qu'est-ce que vous pensez de cette manière d'envisager l'intelligence artificielle générative je pense qu'elon musk n'a pas tout à fait ses preuves sur la capacité à je dirais à atteindre l'objectif qu'il s'était fixé de de mettre mieux en valeur l'information de qualité sur le réseau social Twitter et je pense qu'il serait bon qu'il parviennent sur Twitter avant d'essayer de le faire dans le cadre de l'intelligence artificielle générative mais au-delà de ça je pense que la question n'est pas de savoir si l'intelligence artificielle générative va va produire des ou va reconstituer la vérité comme je l'ai dit tout à l'heure il s'agit d'une technologie de la représentation mais et donc inévitablement ce que font ces intelligences artificielles c'est de réagencer des contenus pour les rendre plus facilement accessibles mais par le prisme d'une représentation du monde qu'il faut savoir assumer nous avons en Europe en France une représentation du monde une représentation de l'homme de l'humanité donc il y a des billets donc ça veut dire qu'il y a on peut appeler ça des représentations du monde mais il y a des biais en fonction des intelligences artificielles en fonction du lieu ou des pays dans lesquels elles sont elles sont conçues c'est ce que vous dites bien sûr ce que vous dites c'est que il est il peut assumer d'avoir une forme de politique de modération puisque c'est un peu ce qui se passe en fait de ce que ce qu'attaque Elon Musk c'est l'idée que en fait ce qui est produit par l'intelligence artificielle qui peut être aussi éventuellement soit faux mais aussi raciste ou sexiste etc on met des couches de modération pour ensuite éventuellement soit changer ce contenu soit le dire qu'on ne peut pas répondre sur ce point pour éviter justement des contenus qui seraient problématiques un peu comme on le fait sur les réseaux sociaux est-ce que ce principe ça vous paraît juste et est-ce que peut-être du coup on pourrait le réguler ou le rendre plus transparent comme ça a été fait aussi pour les réseaux sociaux comme je le disais sur les réseaux sociaux Elon Musk n'a pas réussi à faire éclater la vérité ou en tout cas à donner plus de poids à des contenus sourcés ou des contenus vérifiés ou des contenus de qualité ou compte de contenu émis par des par des sources fiables je doute qu'il y parvienne sur l'intelligence artificielle générale mais à nouveau il faut pas demander à l'intelligence artificielle générative de produire une vérité révélée quand on lui demande en réalité de réagencer des éléments disparates qu'elle aura trouvé ou qu'elle surdensé dans les échantillons sur lequel elle se sera entraînée quand vous lui demandez de les synthétiser de les résumer elle va les résumer de la manière dont ils sont résumés dans ces jeux d'apprentissage et la synthèse que l'on fait d'un texte dépend évidemment de la manière dont on se représente le monde et cette représentation du monde vous elle n'a pas de elle n'est pas une vérité révélée elle dépend de elle dépend de l'histoire des peuples elle dépend de la manière dont il se projette dans le monde etc donc il me paraît un peu vain de penser alors évidemment je vais mettre un petit bémol l'un des grands reproches qui a été fait à chat GPT au départ c'est de ne pas citer ses sources ou de ou d'affabuler lorsqu'il n'a pas la réponse à la question qui lui est posée ce sont des choses qui peuvent être corrigées mais pensez que l'on peut sortir des des représentations pour délivrer une vérité absolue à partir d'intelligence artificielle générative c'est à mon avis un projet qui est vain la désinformation peut avoir et a eu déjà des conséquences sur des élections sur le débat public est-ce que vous pensez que les mesures que vous évoquez actuellement qui ne sont pas encore tout à fait effective arriveront suffisamment vite pour éviter une catastrophe démocratique aux États-Unis alors l'intelligence artificielle générative était peut-être pas encore vraiment associé à la désinformation qui qui a pu exister là-bas mais ce que vous pensez que c'est ces mesures sont suffisantes et suffisamment rapides pour pouvoir éviter une forme de catastrophe démocratique parce que cela pèse un réellement sur nos démocraties ce risque c'est une bonne question nous avons d'ores et déjà mis en place un certain nombre de garde-fous au niveau européen avec le règlement sur les services numériques qui a été adopté la présidence française de l'Union européenne et qui impose aux grandes plateformes d'analyser et de corriger le risque systémique qu'elles font peser sur la démocratie en particulier du fait de la propagation de fausses informations et puis au niveau français avec la création souhaitée par le Président de la République en 2019 de vigilum une agence dont l'objectif est de faire échec ou de lutter contre les ingérences étrangères dans les processus électoraux et ça ça concerne la France ça concerne l'Europe et c'est très bien on va voir ce que ça ça va donner dans les dans les semaines les mois les années qui viennent mais pour des pays comme la Côte d'Ivoire dont on parlait tout à l'heure pour ces pays du Sud qui sont moins armés que les pays occidentaux et les pays du Nord comment faire et on sait qu'actuellement en Afrique de l'Ouest notamment au sel il y a une guerre informationnelle qui est qui se qui se joue et qui se livre autour de cette désinformation notamment avec la Russie comment faire comment c'est c'est ces pays peuvent-ils être aidé conseiller éventuellement par les pays comme la France ou les pays européens qui eux ont le savoir-faire je crois que les réflexions que nous avons aujourd'hui sur la manière d'encadrer le développement de l'intelligence artificielle en Europe peut servir d'exemple ou de je dirais de points de ralliement pour les autres régions du monde et les autres pays du monde et l'Afrique en particulier sur la manière dont il vont lutter contre la désinformation mais disons-le c'est un c'est un sujet qui qui est compliqué qui est un sujet qui est difficile qui suppose une mobilisation de la puissance publique mais pas seulement en réalité en s'est aperçu avec avec l'affaire qui a éclaté il y a quelques semaines c'est que ce sont les cellules d'investigation des médias qui ont permis de débusquer c'est c'est c'est mercenaires de la désinformation qui font commerce de de fake news pour déstabiliser des entreprises comme comme des états et donc et j'ajoute à cela ce qui était très bien dit par l'intervenant du reportage de tout à l'heure qu'il nous faut collectivement adopter un certain nombre de gestes barrières une forme d'hygiène numérique en développant un esprit critique face aux informations que l'on trouve sur internet la régulation parlons-en quelques instants vous en avez parlé vous en avez parlé le week-end dernier au Japon lors de la réunion du G7 numérique vous et les autres ministres souhaités une réglementation fondée sur le risque vous l'avez évoqué tout à l'heure mais qu'est-ce que ça veut dire fondé sur le risque la réglementation fondée sur le risque c'est l'approche qui a été retenue au niveau européen pour concevoir ce règlement sur l'intelligence artificielle plutôt que de dire d'un logiciel si oui ou non il est souhaitable désirable ou non la manière d'approcher le sujet et de réglementer la manière dont ce ou le l'usage qui en effet les différents types d'usages des usages il y a des usages qui sont interdits il sera interdit en Europe au terme de ce règlement quand il l'aura été adopté d'utiliser l'intelligence artificielle pour la surveillance généraliser des populations par exemple il y a des usages la notation sociale aussi la notation sociale il y a des usages pour lesquels l'utilisation de l'intelligence artificielle sera conditionnée à de la transparence sur la manière dont elle a été conçue et sur des audits avant la mise sur le marché de tel système c'est le cas pour les transports ou pour la santé puisque dans dans ce type de cas une défaillance logicielle peut engager des vies humaines et puis il y a des usages moins sensibles des usages récréatifs on peut penser aux jeux vidéo par exemple pour lequel l'usage de l'Inter de l'intelligence artificielle est libre nous avons par ailleurs pousser au niveau français pour que soit intégré dans ce règlement ce que l'on appelle des bac à sable réglementaires c'est-à-dire des exemptions pour les jeunes entreprises qui testent des systèmes nouveaux sous l'oeil attentif mais bienveillant du régulateur avant que ces obligations qui s'imposent en matière de transport ou de santé et bien ne viennent ne sont pas pour les petits structures par rapport au plus gros absolument pour faciliter le développement de l'innovation en Europe parmi les usages qui dans le règlement européen sont globalement interdits c'est l'identification biométrique c'est-à-dire l'idée de se servir de d'intelligence artificielle pour reconnaître les gens ou éventuellement des comportements quand ils vont se déplacer dans la rue etc mais il y a des exceptions qui sont prévues quand même pour certains cas d'usage par les forces de l'ordre il y a un débat sur jusqu'à quel point on va ouvrir ces exceptions quel est votre position sur ce point sur la il y a plusieurs choses il y a d'une part les ce que l'on appelle l'assistance à la vidéoprotection c'est à dire la détection grasse à l'intelligence artificielle de comportement anormaux ou de mouvement de foule qui permettent aux forces de l'ordre d'intervenir plus rapidement sans qu'aucune personne ne soit identifiée comme tel dans le dans les images qui sont captées par ces par ses vidéos se pose ensuite la question de la reconnaissance biométrique c'est-à-dire l'identification des des identification précise des personnes la reconnaissance biométrique existe déjà pour certains usages c'est le cas par exemple lorsque l'on va à l'aéroport et qu'on passe les portiques qui vont vérifier qu'on est bien la personne qui porte le passeport il y a effectivement une discussion y compris au Parlement à l'heure où nous parlons sur le périmètre de ou des autorisations je crois évidemment qu'il faut le qui qui faut utiliser ces technologies pour le strict nécessaire et lorsque elles peuvent véritablement permettre aux forces de l'ordre de dans des cas extrêmes de pouvoir et je pense en particulier à des cas de terrorisme ou d'abduction d'enfants de de parvenir à sauver des vies là où elle ne le pourrait pas autrement je crois que c'est c'est sans entrer trop dans le détail que c'est cela qu'il faut viser vous en avez parlé il y a un autre point sensible aussi c'est le droit d'auteur de nombreux créateurs artistes graphistes éditeurs de presse des codes informatiques estiment que les intelligences artificielles sont entraînées nourris par leur contenu et donc eux sont pillés sans autorisation certains réclament même une rémunération est-ce que vous y êtes favorable absolument je l'ai dit à Sam Altman le patron d'openhai lorsque je l'ai rencontré début janvier à San Francisco je lui ai dit que c'était une question de justice mais que c'était une question économique pour lui parce que il ne faut pas penser que celles et ceux qui aujourd'hui créent les contenus sur la base desquels ces modèles sont entraînés et développés vont continuer à offrir les contenus qu'il crée s'ils ne sont pas rétribués pour cela et je les procédures judiciaires sont engagées aux États-Unis par un certain nombre de d'organisations représentant la presse ou les auteurs et je crois qu'il nous faut rapidement trouver une solution pour que les créateurs soient dûment rétribués par celles et ceux qui au travers de l'intelligence artificielle générative et bien engrange des revenus sur cette base là la course à l'intelligence artificielle est lancée on en a parlé on a parlé des lots de musk de Sam Altman il y a aussi d'autres géants Microsoft Google Amazon Apple pour les États-Unis Baidu pour pour la Chine et l'Europe dans tout cela j'en ai marre vous en avez parlé un peu mais les entreprises européennes qui travaillent sur l'intelligence artificielle n'ont rien à voir a priori en termes de taille en tout cas avec ces géants du comment peuvent-elles exister face à je leur redis une nouvelle fois nous avons en France et en Europe les meilleurs spécialistes du monde en intelligence artificielle vous évoquez tout à l'heure Yann Lequin qui dirige la recherche en intelligence artificielle pour méta pour une entreprise américaine pas pour une entreprise américaine dont l'un des principaux laboratoires de recherche est à Paris qui lui-même est l'un des principaux employeurs de thèses Siffre en France c'est dire à quel point les entreprises qui développent l'intelligence artificielle dans le monde savent que c'est en France qu'elle trouve les meilleurs talents pour réciter François Chollet qui est chez Google ou Antoine board qui a quitté méta pour revenir dans une startup franco-américaine on voit et où Luc Julia qui après avoir inventé Siri et revenu en France travailler chez Renault je pense que nous avons les conditions qui se réunissent pour que des équipes se forment en France il y en a quelques-unes pour développer en France des modèles comme ou des systèmes comme comme chat GPT j'ai bon espoir que nous allons les autorités sur quelque chose comme ça dans le cloud dans la technologie sur d'autres domaines il y a eu des gros projets enfin des tentatives en tout cas de projets européens de financement etc de vraiment de un peu comme les américains savent parfois le faire de miser plus lourdement sur ça et ce qu'il y a quelque chose à faire dans ce domaine je crois pas Queen est reçu beaucoup d'argent public des États-Unis d'Amérique je crois que nous pouvons évidemment accompagner le développement de ces solutions la constitution et de ses équipes de ces entreprises qui se lancent qui se lancent dans le champ de l'intelligence artificielle générative par plusieurs moyens comme nous l'avons fait depuis 5 ans depuis que après le rapport de Cédric Villani le président de la République a lancé la stratégie nationale pour l'intelligence artificielle en soutenant à la fois la recherche universitaire une formation des talents et puis au travers de subventions le l'investissement et la croissance des entreprises s'agissant de l'intelligence artificielle générative je crois que nous avons et j'aurais dû le citer tout à l'heure nous avons aussi montré tout notre potentiel puisque avant même j'ai pété a été conçu en France un modèle qui s'appelle Blum dont l'initiateur était une entreprise française gingface ou en tout cas une entreprise créée par des Français qui était un modèle open source et émultylink nous avons la capacité à mon avis de créer en France et en Europe des modèles comme chat et vous voyez bien qu'avec ce que vous ce que vous dites là me fait penser toute proportion gardée avec le Minitel et et par la suite internet c'est à dire que il y a une création française et c'est très bien mais elle ne s'exporte pas comment vous l'expliquez ça qu'est-ce qui manque à la France ou à l'Europe pour proposer des produits et là en l'occurrence d'intelligence artificielle qui pourrait être diffusé dans le monde entier je pense que il y avait peut-être une question de de moments et je pense que le moment est venu où nous allons voir que cette technologie qui correspond très précisément à des compétences à des talents français va permettre au talent français de s'exprimer pleinement en tout cas moi je suis optimiste et nous allons dans les prochaines semaines pour répondre pleinement à votre question avec Bruno Le Maire avec le président de la République annoncé la manière dont nous voulons que cette stratégie nationale pour l'intelligence artificielle soit orientée de manière à tenir compte de l'éruption de l'intelligence artificielle générative et encourager le développement de ces solutions en France il nous reste à peine 10 minutes Jean-Noël barreau pour ces intelligences artificielles génératives européennes et françaises il y a un avantage par rapport aux autres c'est qu'elles sont multilingues elle travaille avec 5 voire cette langue en tout cas pour certaines d'entre elles sur le continent européen quelle est la place que le Français doit occuper dans le développement de ces intelligences artificielles et est-ce que ça devrait être un critère dans les données d'entraînement des modèles de ces langues absolument et quand vous dites que ces modèles sont multilingues vous êtes bien généreux parce que ils sont entraînés sur une sur un grand échantillon qui est celui d'Internet qui n'est pas réputé pour donner toute leur place aux langues de notre monde et en particulier aux langues rares c'était ce défi là que le modèle Bloom qui a précédé chat GPT essayé de relever et je pense que s'agissant de la France et de l'Europe il est indispensable que nous puissions développer des modèles entraînés et forgés au feu de la langue française de la culture française et au niveau européen des langues européennes et des cultures européennes est-ce qu'on pourrait imaginer comme ça a été dans le Cloud des régulations qui disent finalement on a besoin d'avoir quand même une certaine souveraineté donc on peut pas demain avoir un robot conversationnel qui interagira avec des lycéens français et qui seraient fait par openia par exemple cette entreprise américaine est-ce qu'on a besoin de maîtriser ses outils que ce soit derrière presse chez Renault ou que sais-je etc peut-être faudra-t-il en arriver là mais je crois qu'auparavant il nous faut créer les conditions pour que des modèles puissent s'entraîner sur des échantillons de taille très importante issues de la langue française de la culture française et puis plus généralement des langues européennes et des cultures européennes ça fait partie à mon avis des responsabilités de la puissance publique que de mettre à disposition c'est ces sommes de textes d'image de de vidéos de son que nous avons collecté tout au long de notre histoire et qui si effectivement nous nous dans nos vies et dans nos vies quotidiennes des modèles comme chat GPT et bien leur pourra leur servir de fondation rapidement j'en avais le barreau vous le disiez tout à l'heure il faut se former aussi à l'intelligence artificielle apprendre à l'utiliser il faut aussi être connecté pour pouvoir l'utiliser par la fille par la 5G ou autre il y a encore là des Français qui n'ont pas de bonne connexion aujourd'hui qui ne savent pas bien servir non plus des outils numériques est-ce que ce développement rapide de l'intelligence artificielle que nous vivons aujourd'hui ne va pas aggraver la fracture numérique qui existe déjà pour rappeler que la fracture numérique est un est un phénomène qui est très préoccupant un Français sur trois et éloigné du numérique soit parce qu'il n'est pas internaute parce qu'il ne se sent pas compétent c'est une proportion qui est plutôt en augmentation qu'en recul et ça n'est pas un phénomène générationnel c'est un fait social le visage des personnes éloignées du numérique c'est celui des ouvriers et des employés et donc il est évident que toutes ces technologies ne seront soutenables que si elle bénéficie à tous les Français ceci étant dit je considère notamment après avoir entendu lors de la réunion du G7 des ministres du numérique au Japon l'Inde ou l'Ukraine nous parlait de ce qu'ils avaient fait en matière d'inclusion numérique je considère que la technologie peut aussi être un vecteur d'inclusion numérique et que des solutions telles que le chat GPT une fois qu'elles seront fiabilisées permettront à un certain nombre de nos concitoyens qui aujourd'hui se sentent éloignés du numérique de 200 rapprocher et permettront à celles et ceux qui dématérialisent des services publics ou des services marchands de le faire d'une manière qui est plus accessible et plus et plus facile à appréhender pour pour celles et ceux qui ne sont pas très à l'aise avec ces outils cette semaine le Sénat a adopté une proposition de loi sur la qualité la pérennité des racailles des raccordements à la fibre on y est encore sur cette fracture numérique elle renforce les pouvoirs de contrôle des collectivités les droits des consommateurs pour vous donner un exemple si l'opérateur n'arrive pas à vous apporter internet chez vous et bien d'abord votre abonnement suspendu vous n'avez plus rien à payer au bout de 5 jours et au bout de 10 jours et ben il vous doit vous indemniser il y a une obligation de vous connecter le gouvernement était contre quel est votre réaction à cette adoption par le Sénat de ce texte le gouvernement était contre certains des articles de ce texte le gouvernement considère d'abord que en matière de déploiement de la fibre nous avons devant nous un très grand succès français puisque nous avons en disant rendu 80% des habitations éligibles à la fibre et que nous sommes 10 ans après le lancement de ce grand plan France très haut débit le pays d'Europe le plus avancé en matière de déploiement de la fibre il y a effectivement un certain nombre de problèmes de qualité qui proviennent notamment du fait que ce ne sont pas les mêmes acteurs qui déploient le réseau de fibres et que les acteurs qui raccordent le client final ces acteurs là ce sont les opérateurs commerciaux dont chacun a l'habitude ceux auprès de quel en souscrit les abonnements le fait qu'il y ait deux acteurs ça crée parfois une tentation de se rejeter la faute l'un sur l'autre les mesures que vous n'êtes citer le fait que le l'usager puisse être dédommagé ou en tout cas vous savez poser trop de responsabilités sur les opérateurs ET PAS sur les entreprises qui apportent la fibre en tout cas ils ont tendance parfois à se rejeter la responsabilité les deux mesures que vous avez citées le renforcement du pouvoir de l'ARCEP pour sanctionner en cas de défaillance et le fait de protéger les usagers lorsque leur connexion fibre est coupée sont deux mesures que je soutiens ce que le gouvernement ne soutenait pas c'était le renversement la responsabilité entre les opérateurs commerciaux d'un côté et les entreprises qui déploient la fibre on les appelle les opérateurs d'infrastructures de l'autre car à mon avis se renversement de responsabilité aurait provoquerait plus de retard plus de défauts que la situation actuelle l'environnement pour terminer on a commencé cette émission en parlant d'environnement on va la terminer sur ce sujet le numérique est un secteur qui pollue on le disait moins que d'autres mais qui polluent quand même via l'électricité qu'il consomme essentiellement il représente 3 à 4% des émissions de gaz à effet de serre dans le dans le monde est-ce que le développement de l'intelligence artificielle va aggraver cette pollution selon vous c'est possible aujourd'hui l'empreinte carbone du numérique c'est 2,5% de l'empreinte carbone de la France parliez de trois ou quatre pour le monde à 80% cet empreinte carbone elle provient de la fabrication des terminaux des équipements des téléphones des smartphones des ordinateurs cette empreinte elle est faible mais elle a vocation si nous ne faisons rien à progresser très fortement augmenter de 50% d'ici 2030 et être multiplié par 3 d'ici 2050 si nous voulons contenir cette empreinte carbone évitez qu'elle ne progresse alors il y a une mesure simple qu'il nous faut prendre c'est de d'allonger de 2 ans la durée de vie de nos équipements cela ça suppose évidemment qu'on y fasse attention à titre individuel mais qu'on développe aussi les filières de reconditionnement de recyclage de réemploi des appareils et c'est ainsi que nous parviendrons à maîtriser cette empreinte carbone en quoi et ce sera ma dernière question nous reste vraiment qu'avec quelques secondes en quoi l'intelligence artificielle peut-elle à puisqu'on a beaucoup parlé de cette intelligence artificielle dans l'émission peut-elle aider à lutter contre le changement climatique quelles sont si vous aviez une idée une mesure à nous à nous donner elle va permettre d'optimiser la consommation énergétique des bâtiments de l'industrie ou des transports elle va permettre grâce à une analyse beaucoup plus fine des sols par exemple en utilisant les images satellites de réduire les intrants dans l'agriculture voilà quelques exemples qui montrent qu'elle va nous permettre de contenir même et même de baisser drastiquement la consommation énergétique et l'empreinte carbone des secteurs les plus émetteurs je vous invite à ce sujet d'ailleurs à regarder le numéro de la vie à la terre sur le Maroc où on voit de jeunes ingénieurs marocains travailler sur ces sujets grâce aux nouvelles technologies à l'intelligence artificielle merci beaucoup Jean-Noël Barrault ministre français délégué à la transition numérique merci d'avoir répondu aux questions d'international Merci à VOUS alexandre Picard du journal Le Monde et merci à vous de nous avoir suivi international revient la semaine prochaine d'ici là vous pouvez revoir cette émission sur notre plateforme TV5 Monde plus.com et sur notre site internet décidément on ne quitte pas le numérique bonne fin de semaine

[Musique]