🔴 IA générative, protection des données & utilisation du contenu généré : rapport d'information

protection des données personnelles et d'utilisation du contenu généré elle a été confiée le 3 mai dernier à nos deux rapporteurs Monsieur Philippe Pradal et Monsieur Stéphane rambau qui m'ont rejoint vous avez depuis effectué un travail approfondi sur ce sujet difficile ce qui explique que vos travaux é un peu plus longs que prévu en tout cas plus long que ceux des précédentes missions d'information sujet vaste et le bureau de la commission l'avait retenu pour mission qui avait un intitulé qui était aussi une invitation à bien inscrire ses travaux dans le champ des compétences de notre commission concerné sous l'angle du droit civil du droit pénal des relations avec les administrations et en tant que rapporteur vous aviez vous êt forcé pardon d'identifier les principaux risques et opportunités que présente cette technologie l'intelligence artificielle générative plein de promesses qui se dével développe très rapidement et qui est déjà très utilisé par nos concitoyens vous n'z pas je crois pas négliger les enjeux européens sur ces questions principalement au titre de la protection des données qui sont évidemment essentiells si nous voulons aboutir à une régulation efficace et convient bien sûr sur cette question de soutenir la créativité de l'innovation technologique mais aussi de lutter contre les abus les détournements que nous pourrions rencontrer et que nos concitoyens auxquels nos concitoyens sont confrontés eux ou leur liberté fondamentale au cours de ces travaux vous avez rencontré une quarantaine de person vous avez pardon mené une quarantaine d'auditions de tables rondes rencontrant de nombreux chercheurs et d'universitaires des administration des autorités administratives indépendantes vous êtes aussi rendu à Bruxelles pour rencontrer la Commission européenne et donc nous comptons sur vous pour éclairer la commission sur les opportunités et les difficultés de cette technologie pour exposer vos propositions une un peu plus d'une traine afin de réguler l'intelligence artificielle générative sans pour autant ralentir ou compromettre son essort annoncé c'est donc à vous que je cède la parole dès ce matin pour la présentation du rapport que vous avez commis allez-y monsieur le rapporteur merci monsieur le Président 30 novembre 2022 coup de tonner planétaire la société américaine bien sûr open sort chat GPT 3.5 et en une semaine il y a 1 million d'utilisateurs ce que Facebook avait mis près d'un mois à acquérir alors qu'est-ce que c'est chat GPT c'est un robot conversationnel mais bon comment ça marche ben tout simplement on lui pose la question par un prompte un prompte c'est en fait une commande on lui a on lui a posé la question par exemple ben fais-moi un une dissertation avec une introduction deux parties deux sous-parties une conclusion et puis je te donne un thème et ben par exemple l'état ce monstre froid bien en 43 secondes a eu 5 pages et qui vaut 16 à science pot voilà c'est ça euh euh chatjpt 3.5 et en fait c'est un robot conversationnel donc on lui dit mais en fait euh ton ton sujet il est pas il est pas complet ah excuse-moi il nous dit excuse-moi en fait c'est tiré de la véritable phrase de friedck Nietzsche l'État est le plus froid de tout le monstre froid donc en fait quand on essaie de le piéger et ben il nous répond voilà ce que c'est que le chat GPT alors c'était basé le 30 novembre 2022 sur quand même un socle de 175 milliards de données et c'est déjà fantastique et 4 mois après il y a eu un deuxème coup de tonner en avril open nous sort le chat GPT 4 alors chat GPT 4 il est payant OK et en fait il est basé sur 1 milliard de milliards de données donc en 4 mois on passe de 175 milliards de données de paramètres le socle à 1 milliard de milliards donc pour ceux qui connaissent un petit peu qui ont des notions de de mathématique on passe de 17 à la puissance 12 à 10 à la puissance 18 hein donc 10 à la puissance 18 c'est quand même 180 après le 10 c'est c'est vertigineux c'est même c'est même sidéral on sait que en ce moment open mais il y a je prends un exemple d'Open il y en a bien d'autres dans tous les pays d'ailleurs en Chine qui travaillent qui qui ont aussi des des des robots conversationnel et Open travaille sur bien sûr le 3.5 le le 5 chat GPT 5 bon qui est pas encore sorti alors euh euh c'est c'est vertigineux ça nous ça nous donne des perspectives aux citoyens des perspectives immenses en gain de temps sur sur beaucoup de plans mais il y a bien sûr il y a le revers de la médaille voilà le rever de de la médaille d'ailleurs c'est passé un peu inaperçu mais cet été à Hollywood il y a une grève bon une grève à Hollywood c'est c'était peut-être la première fois une grève pourquoi parce que l'intelligence artificielle générative ça ne génère pas que du texte ça génère aussi de la photo de la vidéo et en Californie ils ont peur de quoi et ben ils avaient ils ont peur que le l'AG et bien produisent des séries de télévision produisent des films et c'est arrivé à leur place voilà d'ailleurs il y a les société de livres aussi qui ont une grande peur voilà donc ça c'est c'est pour brosser un petit peu le tableau donc face à cet engouement pour l'IAG face aux perspectives que ça peut apporter et face aussi à certains risques le l'Assemblée nationale comme la dit euh le président de notre commission des lois Sacha alier a décidé la création d'une mission d'information euh sur l'intelligence artificielle générative mais nous sommes en commission des lois donc on a restreint c'est en matière de protection des données personnelles et d'utilisation du contenu généré voilà donc c'est une préintroduction là et je vais laisser la parole à mon collègue Philippe Pradal corapporteur euh euh de cette [Musique] mission excuse-moi j'ai coupé m président merci monsieur le Président euh merci Monsieur rau corrapporteur donc effectivement cela a été rappelé hein rapidement au mois de mai 2023 notre commission N a confié cette mission sur les intelligences artificielles génératives et plus particulièrement sur les risques qu'elle POS en matière de protection des données et de d'effets sur les contenus générés l'exercice de rester dans le périmètre de la commission des lois n'a pas été facile dans le sujet est vaste étant rapidement un certain nombre de sujets ont ont montré que des sujets économiques des sujets de protection du droit d'auteur des sujets d'innovation des sujets de culture d'éducation se sont posés pour autant nous avons essayé de n'éviter aucune question mais deempiété sur le travail de personne nous pensons aussi c'est peut-être la seule conclusion écrite qui qui n'apparaît pas dans le rapport qui est de dire que ce sujet est lancé et que très certainement il devra préoccuper à la fois et l'ensemble de nos commissions et l'ensemble du Parlement et l'action des pouvoirs publics pendant encore un certain nombre d'années au cours des 8 mois de de travaux qui nous ont été généreusement octroyés par Monsieur le Président et je l'en remercie nous avons pu au travers de d'à peu près 50 auditions euh séquencer nos auditions selon la logique suivante d'abord nous avons voulu rencontrer le monde académique ce qui nous paraissait important de faire un état de l'art d'autant plus que nous avions l'immense chance de pouvoir profiter de de l'excellence de la recherche française sur le sujet la France est à la fois pionnière et une référence en matière d'intelligence artificielle aujourd'hui la quasi-ttalité des laboratoires dans le monde qui travaillent sur l'intelligence artificielle ont à des postes clés des gens issus de la recherche français ou issu des organismes de formation français c'est un point important donc il nous paraissait important de faire le tour avec un périmètre français au sens large européens dans les faits de du monde académique sur ce qu'est l'intelligence artificielle et sur les les risques qu'elle peut qu'elle peut créer ensuite nous avons tenu à rencontrer des institutions autorités administratives indépendantes grandes administrations et enfin le monde de l'entreprise avec une une volonté affirmée partagée et à mes yeux nécessaire de ne rencontrer le monde de l'entreprise que sous forme de collectif et de ne pas rencontrer des entreprises individuellement à l'exception d'un cas qui était la société mistrale parce qu'il nous paraissait important d'avoir le point de vue de collectif et non pas d'entreprise individuellement afin d'éviter une forme d'hallucination ou de biaet pour employer deux termes qui sont fréquents en matière d'intelligence artificielle le premier constat que nous pouvons poser à ce stade c'est qu'il s'agit bien sûr d'un phénomène difficile à circonscrire dont les effets aujourd'hui ne sont que très imparfaitement connus il est il est de bon ton de dire que les métiers qu'exerceront les gens dans 20 ans une part significative d'entre eux n'existe pas en encore en matière d'intelligence artificielle je pense que ce que nous pourrons faire avec les intelligences artificielles dans 20 ans aujourd'hui c'est même pas que nous ne le connaissons pas c'est que nous n'arrivons même pas à l'imaginer même pour ceux qui sont les plus inventivs voir les auteurs de scienceces-fiction les intelligences artificielles génératives qu' qu'on appellera peut-être par commodité yagé plus tard sont une forme d'intelligence artificielle visant à créer des contenus originaux nous avons bien sûr l'idée du texte qui paraît être l'aspect le plus naturel mais aujourd'hui les intelligences artificielles générative peuvent créer tout un tas d'autres choses on pense aux images commence à rentrer un petit peu au-delà de ça la connexion des des dispositifs d'intelligence artificielle avec notamment les apports des neurosciences peuvent demain conduire à créer des odeurs et à créer des odeurs non perceptibles mais qui nous emènent à penser ou à ressentir un certain nombre de choses ou à provoquer un certain nombre de rédaction l'utilis de réaction pardon l'utilisation d'infrason peut également créer un confort ou un inconfort donc on voit que nous sommes face à un champ des possies extrêmement vaste et qui fait que nous devons vont nous interroger sur les modalités d'exercice de l'esprit critique par rapport à des choses qui sont créées principalement au moyen de machine même s'il y a toujours une intervention humaine cel a été rappelé par Stéphane rambau concernant ce qu'on appelle les les promptes dans le langage chat GBT en fait les commandes que nous donnons à ces systèmes ces systèmes sont toujours des systèmes probabilistes à ce stade aujourd'hui les même les recherches les plus avancées ne sont pas sortis de ces dispositifs là même s'il y a des pistes qui existent sur le fait de d'être dans des systèmes plutôt syntaxiques que probabilistes mais aujourd'hui savoir que la plupart de ces modèles la quasi totalité de ces modèles qui produisent des résultat connus du grand public fonctionne sur la base de probabilité c'est ils associent en utilisant le nombre de paramètres qui a été indiqué et qui effectivement vertigineux la proximité par exemple de mots pour ten dire un texte en disant bah le plus probable dans le contexte qui m'est sollicité que le mot suivant soit celui-là puis le suivant puis le suivant puis le suivant une intelligence artificielle et c'est l'impropriété de de langage qui est est utilisé ne sait pas ce qu'elle répond aujourd'hui même les chercheurs les plus avancés sur le sujet nous ont dit qu'on n pas encore de perspective d'une intelligence artificielle qui serait consciente d'elle-même et qui serait consciente de ce qu'elle produit je partage cette ce soulagement cela dit je pense que il ne faut pas considérer ce point comme acquis définitivement mais en revanche à ce stade euh c'est vraiment pour le coup de la science-fiction d'avoir des intelligences artificielles qui qui disent enfin qui savent ce qu'elles disent pour autant ça ne veut pas dire qu'elle ne trompe pas les personnes avec qui elle dialogue et le fameux test de Turing que Turing auquel d'ailleurs Turing avait échoué euh c'estàd qui vise à identifier la capacité de l'homme à pardon je je reprends qui vise à à mesurer la capacité de l'homme à identifier lorsqu'il dialogue avec une machine plutôt qu'avec un autre être humain aujourd'hui les intelligences artificielles génératives notamment un certain nombre de de bottes conversationnelles passe cette épreuve au la main et les humains n'arrivent pas à savoir qu'ils sont en train de parler à une machine alors nous sommes bien sûr face au au dilemme et que nous connaissons depuis toute invention humaine soit il nous appartient de faire des intelligences artificielles génératives des exosquelettes qui nous permettront d'aller vers cette réalité qui est aussi un peu effrayante d'une humanité augmentée lui permettant de faire des choses qu'elle ne sait pas faire ou qu'elle ne pourrait pas faire sans l'aide des intelligences artificielles soit nous pouvons et nous devons faire face à tous les usages détournés de ces intelligences artificielles qui ouvre un champ malheureusement accru sur des des phénomènes qui relèvent du droit pénal mais sur lequels nous pensons que le droit pénal devrait être adapté notamment les phénomènes de harcèlement les phénomènes d'information minst les phénomènes de diffamation d'injure publi ne négligeons pas aussi le fait que aujourd'hui ces intelligences artificielles ne sont pas françaises ne sont pas européennes n'ont pas été construit dans un environnement respectueux des données et des droits de l'homme tels que nous les connaissons et que donc la manipulation par des entreprises étrangères ou des entités étrangères ou enfin des entités qui n'ont pas les mêmes objectifs que nous et la même vision que nous des droits de l'homme peut-être opéré certaines personnes parle de de véritaable révolution hein comme celle de l'industrie automobile au fin du 19e ou celle de l'informatique dans les années 1970 euh donc face à ça il apparît donc nécessaire de réguler la conception des des UAG pour protéger nos principes et nos donné mais sans brider l'innovation hein donc il faut quand même se rappeler que Elon Musk il y a lui-même donc un des un des pairres d'Open même s'il a il a quitté cette société américaine avait demandé il y a quelques mois un moratoire de 6 mois et ce moratoire avait été signé par plus de de 100 ingénieurs et et cadres experts dans l'intelligence artificielle générative bon ça n'a pas été parce que la machine étant lancée c'est difficile d'arrêter le le le progrès donc nous avons pu étudier la diversité des outils de régulation et leur faisabilité alors au stade de la conception et de la mise sur le marché il est possible de contrôler le fonctionnement des algorithmes ainsi que les biaets éventuels pouvant apparaître volontairement ou non de la phase d'apprentissage du modèle il est également souhaitable de contrôler les données d'entraînement pour s'assurer qu'elle ne porte pas atteinte à la protection des données personnelles et du droit d'auteur ça c'est au stade de la conception maintenant au stade de l'utilisation des tests pourraient être réalisés de manière aléatoire ou sur la base des plaintes des utilisateurs des billiss peuvent en effet apparaître du fait des informations renseigné auprès des IAG par les utilisateurs puisque celle-ci est généralement en apprentissage continu on peut avoir on peut demander à avoir une obligation de marquage des contenus bon c'est difficile dans le cas des texes hein mais c'est robuste dans le cas des images et des vidéos ça permettrait également à l'usager de toujours distinguer les moments où il interagit avec une intelligence artificielle de ceux où il interagit avec un humain parce qu'il nous a semblé indispensable dans le cadre par exemple des campagnes électoral pour limiter la diffusion des fake news bon j'y reviendrai tout à l'heure un peu plus loin donc nous considérons que certaines obligations n'ont pas forcément besoin de relever du droit dur et du contrôle systématique mais devrait relever plutôt du droit souple en mettant en place des standards pertinents et des outils préventifs associés à des contrôles réguliers et des sanctions élevées il serait possible de préserver la capacité d'innovation de l'Europe tout en soumettant des modèles issus d'autres continents à nos règles mais pour l'instant mon sentiment personnel est que nous régulons parce que nous sommes en retard d'un point de vue technologique enfin pour terminer cette première partie il faut rappeler que le contrôle des intelligences artificielles génératives demandera des compétences techniques très élevé ben oui parce que pour contrôler il faut quand même connaître sur le bout des doigts ce la matière que l'on contrôle et nous avons en France au sein de l'acnil ou du pôle d'expertise de la régulation numérique le péren mais ça sera pas suffisant si le phénomène continue de croître aussi rapidement il sera donc utile de s'appuyer sur la coopération avec les sociétés concernées et entre les régulateurs des différents pays l'échelon pertinent de régulation euh est apparu clairement comme l'échelon européen en capitalisant sur les effets positifs du rgpd euh on on a constaté avec le rgpd que à la fois la taille du marché européen et la technicité apportée pour régler un certain nombre de sujets avait permis d'imposer un certain nombre de règles à des acteurs extraeuropéens s'il voulit travailler sur le marché européen et la complexité du respect d'un certain nombre de règles fait qu'il y a pas un produit euh qui est créé pour l'Europe en matière technologique ou un produit créé pour les autres parties du monde ce qui fait qu'en fait les règles du rgpd ont en quelque sorte contaminé ou eu un effet viral sur l'ensemble des dispositifs c'est pour ça que l'échelon européen nous paraît le seul pertinent avoir un retenir un échelon national ne serait pas efficace pour la raison que cela condamnerait définitivement les entreprises françaises à ne respecter que le référentiel français être incapable de de procéder à la diffusion de leurs produits sur d'autres parties du territoire le règlement sur l'intelligence artificielle européen dont le calendrier c'est s télescopé avec euh nos travaux euh et que nous avons travaillé quasiment en temps réel jusqu'à jusqu'à la rédaction du rapport a prévu une régulation avec deux axes d'abord une régulation par rapport à la taille des modèles euh estimant que plus le modèle était grand plus il devait avoir une régulation et un contrôle important par les autorités l'autre point c'est sur les les risques et les usages c'est-à-dire en identifiant dans une terminologie bien connu du monde angloaxon en matière de l'audit euh classant le les risques présentés par l'usage et considérant que plus le risque présenté par l'usage est important plus le contrôle doit être élevé pour autant cette régulation européenne peut-être complété par des spécificités nationales et nous pensons qu'il y en a un certain nombre plus plus dans le sens d'un accompagnement que dans le sens d'une réduction des possibilités offertes et notamment nous pensons que la le droit la réglementation doit permettre doit contribuer à l'émergence d'acteurs de rang mondial sur le territoire européen et singulièrement sur le temps sur le le territoire français en effet nous l'avons dit une intelligence artificielle générative efficace aujourd'hui il faut des serverveaux nous les avons ils sont formés en France et le monde entier nous les pique il faut des ordinateurs extrêmement puissants et pour alimenter ces ordinateurs il faut une énergie fiable et bon marché sur un territoire politique stable nous pouvons penser que la France et l'Europe remplissent ces conditions et puis il faut des données et nous avons en Europe et en France singulièrement à la fois des données des données qualifiées des données sûres et surtout des données sur lesqueles nous avons une expérience de protection et d'usage donc à ce titre la la France nous paraît avoir des atouts pour autant la gouvernance aujourd'hui de l'intelligence artificielle nous paraît un peu nébuleuse pour dire les choses de façon un peu excessive il nous paraît important d'organiser de rendre plus visible cette direction sans retourner à la logique d'un plan nous pensons que la réussite de l'intelligence artificielle en Europe et en France suppose qu'une direction soit donnée une direction pluriannuelle avec des moyens et une gouvernance lésible un pas a été franchi avec la désignation d'un coordinateur national depuis maintenant plusieurs années nous pensons qu'il faut là nous pensons aussi qu'il faut distinguer cette la coordination de ces initiatives et les autorités de régulation qui doivent jouer leur rôle après réflexion si laacnil doit conserver un un rôle éminent de par son expérience en matière de de contrôle d'utilisation des données et de par le travail qu'elle a conduit sur l'intelligence artificielle depuis longtemps pour autant d'autres autorités administratives indépendantes comme l'arcom et l'arcepp ont aussi leur rôle à jouer l'idée est de maintenir les compétences de toutes ces AAI mais en procédant à une coordination et à une spécialisation que là aussi l'environnement de l'intelligence artificielle sache quel est le rôle de chacun et quelles sont les prescriptions produites par chacun enfin cela a été dit je n'y reviens que très rapidement le droit souple et probablement le meilleur mode de régulation tant il faut de la réactivité et de la rapidité pour un certain nombre de choses étant il faut s'habituer même si cela peut choquer les les juriste de culture française et européenne que nous sommes à avoir plutôt des des lignes directrices et des bacs à sables que des des documents de droit dur enfin à titre personnel je recommande pour qu'un signal fort soit envoyé que l'intelligence artificielle soit déterminé comme une priorité qu'à l'instar de ce qui a été fait sur le logement et qui doit être poursuivi soit créer quelque chose qui ressemble à 1 % intelligence artificielle qui impose une obligation d'investissement pour les entreprises dans l'intelligence artificielle ou un minimal la participation à un fond nous ne créerons des géants de taille mondiale en Europe que si nous prenons conscience collectivement qu'il faut aussi des financement pour développer de l'intelligence artificielle sur notre territoire intelligence artificielle respectueuse de notre modèle alors tout à fait et il ne faut pas laisser au garfemes américains le monopole de l'intelligence artificielle générative c'est pourquoi les pouvoirs publics français et européens doivent soutenir l'innovation en France nous avons beaucoup de startup qui ne demandent qu'à se développer ce soutien des pouvoirs publics à l'innovation peut également passer par la commande publique certaines administrations ont commencé à réfléchir et il y a quelques actuellement une expérimentation pour mettre en place un robot conversationnel en direction des usagers l'IAG est également utilisé par la gendarmerie nationale et la justice bon la gendarmerie est le service public le plus avancé en matière d'AG on l'a vu parce que dans les 50 audition auxquell nous avons procédé Philippe et moi on a eu beaucoup d'administration et c'est vrai que la gendarmerie nous a apparu être à la pointe dans ce domaine bon justice aussi utilise l'IAG pour détecter les fraudes ou croiser les enquêtes mais ces initiatives des pouvoirs publics en France sont encore isolés et très limités or les besoins de l'État ou des établissements et entreprises que l'État contrôle sont nombreux et peuvent nourrir l'innovation et financer dans le domaine régalien il est même indispensable que nous puissions utiliser des solutions françaises ou à minima européenne or actuellement nous prenons des solutions qu'on appelle des solutions surétagère fourni par les gfames nous risquons donc de nous rendre dépendant et nous le devenons dépendant cette inquiétude est légitime puisqu'elle s'illustre dans d'autres domaines informatiques je prends l'exemple assez récemment dans le cadre de l'hébergement des données faute d'alternative française et européenne laacnil a autorisé la création d'un entrepôt de données de santé basé sur le traitement automatisé de données personnelles c'est la plateforme ilf data hub qui sera hébergée sur le cloud de Microsoft pour une alors on dit pour une donnée une durée de 3 ans l'acnil alerte pourtant sur les risques d'application des lois américaines à porté extraterritoriales c'est seulement en priorisant les entreprises françaises et européennes dans dans la commande publique que les données des Français seront protégées les administrations ne sont pas encore suffisamment elles se sont pas encore suffisamment saisie de la question nous recommandons un grand audit des dans les administrations en associant les agents pour identifier les usages pertinents de l'IAG à partir des besoins du terrain et dans le respect du maintien d'un contrôle humain enfin les rapporteur que nous sommes nous nous sommes intéressés au traitement des usages détournés de l'IAG dont Philippe a parlé car celle-ci peut faciliter la commission de certaines infractions par exemple les faux la tromperie le le plagiat la manipulation d'information les infractions de presse et cetera il nous semble nécessaire d'adapter notre droit pénal pour préciser que ces infractions sont également constitué lorsqu'elles sont commises par l'intermédiaire ou avec l'aide d'une intelligence artificielle générative nous pensons même nécessaire de créer des infractions spécifiques notamment pour couvrir le phénomène des deep fakes ces trucages permettent de créer des vidéos ou des photos hyper réaliste les conséquences de ces contenus à l'heure des réseaux sociaux peuvent être terribles et risquent de saperer la confiance des citoyens dans l'information en général nous pensons notamment aux campagnes électorales et ça ça nous concerne tous ce que nous proposons c'est un principe général un utilisateur doit toujours savoir s'il a affaire à une intelligence artificielle ou pas cela passe par par quoi cela passe par le marquage des contenus comme je l'ai dit précédemment mais aussi par des sanctions sévères et elles existent déjà lorsque ce principe n'est pas respecté nous avons rencontré les représentants des principaux réseaux sociaux qui essayent de détecter et de signaler les images produites par de l'intelligence artificielle notre droit doit également aller en ce sens et ce principe de transparence sur l'usage des IAG doit également s'appliquer aux travaux scolaires ou universitaires enfin enfin nous devons avoir une réflexion sur le régime de responsabilité en cas de dommage causé par une IAG qui est responsable d'un contenu généré celui qui a conçu le modèle celui qui le fournit celui qui l'utilise nous avons décidé d'écarter l'idée d'un régime de responsabilité sans faute des IAG qui rendrait les concepteurs responsables des usages détournés car cela entraverait l'innovation en revanche il faut une répartition claire de la responsabilité lorsque des modèles sont conçus sans respecter certains standard et conduisent à l'apparition de billets nous proposons donc une adaptation du régime de la preuve car il est très difficile pour un utilisateur de démontrer les failles d'un modèle ce doit être compteur ce doit être au concepteur pardon de s'expliquer et nous recommandons de faciliter les actions de groupe dans ce domaine pour établir le rapport de force entre utilisateur et fournisseur de diag c'est de cette manière que nous pourrons rendre compte de ces innovations respectueuses de nos droits et les mettre au service de nos citoyens merci monieur le rapporteur jeelle intervention des différents orateurs sur l'mission d'information sont une durée de 2 minutes maximum donc je vais appeler les différents orateurs monsieur bouff Valente merci monsieur le Président messieurs les rapporteurs je tenais tout d'abord à vous remercier pour la qualité de ce rapport éclairant sur les enjeux de l'intelligence artificielle en l'occurrence générative qui inexorablement s'impose à nous jour après jour votre présentation l' relevé au même titre que la première phrase de l'introduction de votre rapport l'intelligence artificielle générative et intrinsèquement neutre autrement dit nous devons nous montrer agile et habile dans l'appréhension de cette technologie afin d'en faire un bénéfice et non un préjudice cependant l'adaptation de nos usages se doit d'être collective et s'accompagner d'une réglementation claire accessible et précise je serai assez bref sur les différentes réglementations européennes sur le sujet qui comme vous le relevez demande encore un travail d'adaptation mes interrogations seront néanmoins plus vastes sur les risques collectifs de cette technologie leur possibilité d'encadrement ou d'accompagnement la première d'entre elles porte sur les risques sociaux il est indéniable que que cette technologie présente des facteurs d'accroissement de la productivité indispensable dans notre monde globalisé mais si les mutations technologiques peuvent entraîner des licenciement pour motif économique vous relevez que l'intelligence artificielle générative est moins susceptible de supprimer des emplois que de redéfinir les compétences nécessaires pour les occuper aussi ce besoin de formation peut-il reposer sur la capacité du modèle actuel dans cette même logique de réaffectation des compétences dans quelle mesure pensez-vous que cette technologie puisse être appliquée dans l'accompagnement de nos services publics dans les territoires les plus isolés je pense notamment aux informations délivrées aux usagers par exemple enfin concernant les risques d'influence extérieure que vous développez dans le renforceain le renforcement humain de cette technologie avez-vous ciblé des risques d'ingérence de puissance étrangère je vous remerci Monsieur G merci le sujet de l'intelligence officiel est l'un des grands défis du 21e siècle alors que les grandes puissances mondiales développent des technologies l'Union européenne se contente elle de les réguler au risque d'être dépassé et de disparaître du concert des nations l'approche craintive de de l'Union européenne vis-à-vis de l'intelligence artificielle présente aujourd'hui des risques que nous ne pouvons pas sous-estimer l'iact permet de protéger les droits fondamentaux de nos concitoyens des menaces actuelles de l'intelligence artificielle comme la nondcrimination l'accès à la justice ou encore le respect de la dignité humaine et de la vie privée le texte encadre également l'usage exceptionnel de certaines technologies de surveillance dans le cadre d'actes terroristes ou d'enlèvement d'enfant alors si cette loi euh pose un cadre juridique nécessaire à l'utilisation et au développement de l'intelligence artificielle elle contient de nombreuses imperfections parce que euh dans un contexte où l'Union européenne accuse un retard technologique et commercial en matière d'intelligence artificielle l'élargissement excessif de ces règles normatives pourrait pénaliser l'innovation par ailleurs il ne faut pas non plus sous-estimer les pénalités de l'intelligence artificielle en matière de protection des populations de sécurité et de lutte contre la délinquence or comme le précise votre rapport la Représentation permanente de la France auprès de l'Union européenne a indiqué que le texte élaboré par le Parlement pourrait conduire à un recul des possibilités offertes aux États-membres par ailleurs en matière de détection des contenus numérique à caractère discriminatoire ou pédo pornographique d'ailleurs le texte ne prévoit aucune mesure visant à soutenir les acteurs européens du numérique les quelques mesures prévues pour dynamiser l'innovation bénéficieront donc non pas à nos seules entreprises mais à tous nos concurrents à terme les contraintes administratives parfois excessives risquent d'entraver l'innovation la protection de nos citoyens et la concurrence sur le marché entre des acteurs monsieur le rapporteur petite question rapide et j'en termine donc est-ce que ce texte constitue un véritable obstacle pour attraper le retard de la France en matière d'intelligence artificielle et quelles sont vos préconisations pour créer un environnement plus favorable au développement du secteur merci Monsieur Philippe latombe oui merci monsieur le Président d'abord remercier les deux co-rapporteurs pour le gros travail qu'ils ont fourni et leur dire à quel point je partage en tant que membre de laacnil leur proposition numéro 7 euh puisque c'est une des propositions que nous avons fait avec Philippe Gosselin euh dans le cadre de la mission que nous avions eu sur les images de sécurité trois petites questions vous avez vu certainement que mid journé avait décidé de modifier ses condition général d'utilisation pour la campagne américaine en interdisant l'utilisation de m-journée sur les images de du président enfin du président Biden actuel et de son concurrent Donald Trump est-ce que aujourd'hui vous pensez que nous devrions l'ancrer dans la loi enure nous aussi et pas simplement uniquement rester dans des conditions générales d'utilisation ce qui était la crainte que nous avions avec les réseaux sociaux et que on pourrait peut-être ne pas reproduire deuxième question que nous avions soulevé avec Philip Gosselin aussi dans le cadre de notre mission les questions concernant le droit pénal nous avons fait une alerte sur l'utilisation des de fake dans le cadre des procès pénaux il n'y a rien dans la loi de programmation du ministère de la Justice sur ce sujet est-ce que vous avez pu investiguer ce point et partagez-vous en partie notre crainte sur l'utilisation de telles images en cadre de procès qui rendrait la le la la tâche très difficile pour les magistrats de déterminer si effectivement l'image est réelle pas réelle et si elle doit être re écarté comme preuve ou intégré dernier point je voilà la question sur la souveraineté des modèles de fondation notamment pour l'administration vous l'avez dit je partage mais vous le savez et je suis très heureux que vous l'ayez dit les craintes concernant le le els data hub et l'utilisation des données de santé avec de l'intelligence artificielle comment est-ce qu'on fait pour corriger le tir nous avions essayé dans la loi serine de pouvoir le modifier en en changeant l'hébergement non pas en en hébergeur donné de santé mais en secnum cloud pour justement permettre à des entreprises françaises de de pouvoir conserver la maîtrise des données et servir ensuite de modèle de fondation ça n'avait pas été suivi notamment par une partie de la majorité est-ce que c'est pas le moment maintenant dans le cadre de ce que vous avez pu voir avec votre rapport de modifier un certain nombre de de ces points pour permettre une véritable souveraineté et sur les données et qui permettront ensuite la souveraineté sur les algorithmes je vous remercie monsieur RV Solignac merci monsieur le Président merci aux deux rapporteurs pour le leur travail je suis toujours assez étonné lorsqu'on parle d'intelligence artificielle de de voir comment on on l'évoque comme étant une perspective en devenir c'est une réalité pleine et entière du moment et je crois même que le politique est très très très en retard à l'égard de cette réalité qu'on qu'on court après les conséquences de de l'utilisation de l'IA dans un certain nombre de domaines et qu'il faut cesser de de le voir comme quelque chose de vertigineux dans dans tout c'est possible euh tout est déjà considérablement bouleversé par lia et et d'ailleurs ce qui est étonnant c'est que c'est probablement dans l'histoire la première révolution technologique qui frappe des cerveaux et non pas des bras et pourtant ces cerveaux ne paraissent pas comprendre que il faut aller plus vite que ce que que ce que nous allons dans les protections nécessaires alors à cet égard s'agissant de ces protections nécessaires je voudrais vous interroger sur sur un fait qui me semble quand même assez important c'est que s'agissant d'IA tout est à peu près entre les mains de privé euh il y a pas d' public il y a un peu de recherche il y a pas d'entreprise publique en tout cas bon euh l'Europe régule certains le regrettent ça a été ça a été dit tout à l'heure l'Asie ne régule pas du tout les États-Unis très peu et laisse le soin à leur grosse plateforme de prendre leur responsabilité je voudrais savoir comment vous vous voyez cette espèce de dichotomie c'est-à-dire que l'Europe a des règles vertueuses mais de ce point de vue- là ça ne la rend pas forcément compétitive et donc est-ce que vous souhaitez comme ça a été dit tout à l'heure moins de règles pour être plus compétitif ou plus de règles pour être mieux protégé puis la deuxième question directement liée à ma remarque d'aucun défendre le principe ou le concept du nia super forte comme étant la seule capable de jouer quelque part des fonctions de gendarmerie à l'égard des autres Z et ça ça suppose d'avoir une stratégie publique pour construire une une IA super forte est-ce que c'est quelque chose que que vous avez évoqué quelque chose sur lequel vous vous êtes penché notamment pour vous avez regretté la dépendance au GF j'ai pas tout à fait compris l'alternative qui pouvait être la votre est-ce que celle-là pourrait en être une je vous remercie merci Madame Misa martan merci beaucoup de me donner la parole merci pour le travail que vous avez fourni lia générative est donc quelque chose de tout à fait particulier puisque à partir de données elle crée des des contenus qui sont des contenus nouveaux euh vous-même l'écrivez dans votre document et ce à plusieurs reprises nous sommes à l'aube d'une révolution ou déjà dans cette dans cette révolution qui se déroule sous sous nos yeux et en même temps vous êtes toujours dans cette tension entre protection des données et la question de l'innovation qui en tant que tel serait vertueuse parce que elle est elle est innovante et euh et donc de devrait être l'objet d'un certain soin euh sincèrement de notre côté nous considérons qu'il lu fallu avant toute chose une forme de diagnostic parce que quand on est à l'aube ou déjà dans une forme de révolution ça vaut le coup que l'être humain s'interroge les technologies ne sont pas vertueuses en elles-même n'est-ce pas elle elle demande elle demande réflexion et elle demande surtout d'avoir une analyse qui soit une analyse pluriel et qu'on ait recours par la même aux aux sciences sociales des questions de sociologie des question d'impact sur sur la psychologie utté par exemple UTT intéressante euh lorsque nous avons fait le travail de loi bioéthique nous avons décidé d'interdire un certain nombre de choses pourtant nous sommes en capacité de les faire mais l'être humain a posé cette limite de dire il faut interdire alors nous ne sommes pas forcément pour l'interdiction vous le savez mais il lu fallu nous en sommes certains une forme de moratoire qui nous aurait donné le temps de faire un diagnostic global première chose et deuxième chose j'y reviendrai dans la deuxème question d'avoir la capacité d'assurer notre souveraineté nationale sur un sujet qui n'est pas un petit un petit sujet c'est le moins qu'on puisse dire merci voilà ce que je peux dire à cette étape merci merci président à mon tour saluer le travail de nos collègues rapporteurs qui sont issus des Alpes Maritime et du Var et donc qui comme moi on en partage la la technopole de sopia antipolice je rappelle que la technopole de sopia antipolice est une des des grandes technopoles européennes qui accueille un des quatre instituts 3iaia qui accueille une maison de l'intelligence artificielle qui rassemble les meilleurs chercheurs mondiaux du secteur actuellement en France et on vient d'ailleurs de clôturer le sopia Summit le weekend dernier qui est devenu un un événement incontournable dans le domaine de l'IA à l'échelle à l'échelle mondiale moi je voudrais revenir sur deux recommandations qu'ont formulé nos nos rapporteurs les recommandations 9 et 11 concernant laacnil au printemps dernier laacnil a émis euh dans son plan d'action le souhait de de travailler sur une IA respectueuse et notamment envers les entreprises j'ai vu que dans vos recommandations il y avait une volonté de transformer l'acnil en une haute autorité chargée de la protection des données du contrôle de l'intelligence artificielle qu'est-ce que vous entendez comment vous voyez évoluer les choses et surtout est-ce que cette évolution de l'acnil ne risque pas d'être un frein par rapport au développement des start-ups qui travaillent dans le domaine de l'IA et est-ce que la protection des données qui est un vrai sujet ne serait pas dans une compétition internationale un frein par rapport au développement de de ce qui foisonne autour des start-ups et je pense notamment à l'écosystème de sopie antipolice qui est vraiment une source de de start-up dans l'IA très importante merci Monsieur Didier Le Maire merci monsieur le Président messieur les rapporteurs chers collègues en préambule je tiens également à saluer l'important travail réalisé par les deux rapporteurs sur cette question au combien importante qu'elle intelligence artificielle générative je connais également leur engagement sur ces questions et la qualité de ce rapport en témoigne sur le fond comme vous le soullignez l'intelligence artificielle générative constitue un nouveau champ d'opportunités infini mais également des risques qu'il convient de contenir je ne reviendrai pas sur celle-ci vous les avez parfaitement exposé à l'instant je souhaiterais avoir néanmoins votre avis sur la position qu'il serait souhaitable que nous législateurs français adoptions sur l'IAG votre rapport met clairement en exerg la difficulté de réguler sans brider ce nouvel outil à cela s'ajoute un réel enjeu de souveraineté européenne et nationale contenu des enjeux notamment sur la collecte des données vous étiez clairement pardon vous éccrivez clairement que pour attirer les inv urs et les cerveaux certains pays pourraient utiliser leur législation pour créer un environnement plus favorable au développement de l'intelligence artificielle cette concurrence a déjà commencé le Royaume-Uni ayant décidé en mars 2023 d'assouplir son régime de protection des données jusqu'àors aligné sur le rgpd afin de faciliter l'usage des données personnelles sans le consentement de l'utilisateur à des fins précises par ailleurs à l'heure où nous pensons davantage le droit comme une contrainte que comme un outil pour soutenir l'innovation vous proposez de promouvoir un Airbus de l'IAG sur la base d'une coopération intergouvernementale entre pays européens volontaires ma question est la suivante au regard des nombreuses auditions que vous avez mené cette recommandation est-elle d'ors et déjà envisagée par certains acteurs quel obstacle auriez-vous identifié pour le développement d'un tel projet je vous remercie monsieur Jérémy yordanuf merci monsieur le Président euh ce rapport est intéressant dans le sens où il vient éclairer un sujet vraiment fondamental pour notre pour notre époque mais pour ma part je reste sur ma fin sur deux sur deux sujets le premier c'est la question philosophique que vient apporter l'intelligence artificielle euh à ma connaissance vous n'avez pas auditionné vous n'avez pas recherché dans cette direction là c'est une technique qui vient bouleverser notre civilisation c'est euh mon collègue Solignac l'a dit tout à l'HE à l'heure c'est une technologie qui vient pour la première fois s'attaquer à ce que c'est faire le cerveau humain et euh et inévitablement ça va changer les rapports sociaux la façon dont la société se construit le rapport au travail ça va bouleverser un certain nombre d'équilibre et c'est ça qui qu'il faut qu'on puisse appréhender et non pas uniquement réguler euh bien sûr il faut il faut être souverain sur les données bien sûr il faut poser un cadre mais il faut d'abord s'interroger sur quells sont les limites de cette technologie Jusqu'où est-ce qu'on peut aller philosophiquement éthiquement avec l'intelligence artificielle et dans votre rapport il y a pas de réponse à cette question je suis un peu étonné quand même de de de cette absence de de réflexion sur ce point vous soulevez des questions mais vous n'y répondez pas et en fait aujourd'hui on a besoin de réponse c'est il suffit pas de dire tout ça c'est en suspens et le risque que vous appréhendez dans votre rapport c'est que l'approche soit trop prudente mais en fait le risque r il est pas là le risque c'est que on fasse n'importe quoi et le risque l'autre risque que vous mettez sous silence c'est le risque environnemental on sait que la data génère demande une une énormément de d'électricité pour pour faire tourner les les ordinateurs pourquoi pas mais il faudra choisir c'estàd que demain est-ce qu'on utilise l'intelligence artificielle et qu'on arrête de se déplacer en voiture est-ce que voilà il faudra faire des choix on le sait et vous ne faites aucune préconisation sur les questions environnementales et sur la le la question de de l'énergie je voudrais vous entendre sur ce point merci monsieur le Président Monsieur le Rapporteur donc faut-il s'inquiéter quand la réalité rattrape la fiction voire voir la dépasse ce qui nous semblait encore impossible il y a quelques années c'est infiltré dans tous les pans de notre société aujourd'hui au fond ce n'est pas tant l'intelligence artificielle qui s'invite partout y compris dans notre assemblée euh qui pose le le le le problème ou les innovations qu'elle porte mais plutôt ces failles ces faiblesses et surtout les abus et les détournements qui peuvent tant résulter donc nous allons insister sur deux points en ce qui nous concne qui sucit des inquiétudes chez nos concitoyens d'abord les deep fake ce que vous appelez en bon français les hyper trucages qui consiste à utiliser l'intelligence artificielle pour générer de fausses photographies ou vidéo donc nous savons que les victimes se multiplient d'abord les femmes qui voient leur visage utilisé sur des vidéos dans sans leur consentement les associations de défense des droits des femmes nous alertent déjà ce ne sont pas seulement des célébrités qui deviennent des cibles potentielles mais toutes nos concitoyennes notre crainte est que notre droit ne protège pas ses victimes comme c'est trop souvent le cas dans cette course numérique les innovations arrivent vite et nos lois ne suivent pas au même rythme certes le code pénal réprime les différentes formes de montage en particulier lorsqu'ils ne sont pas manifestes cependant est-ce qu'un contenu produit par lia rentre sous le coup de la loi ce n'est pas certain il nous semble qu'il faut avancer rapidement sur le sujet notamment avec le projet de loi sren le second point c'est évidemment la reconnaissance faciale nous voulons revenir sur la affaire qui a fait grand bruit en novembre dernier l'acnil donc à la suite d'une enquête journalistique a initié une procédure de contrôle contre le ministère de l'Intérieur donc on rappelle que la police et la gendarmerie auraiit eu recours à la reconnaissance faciale en toute illégalité depuis 2015 un recours sans base légale sans limite et sans contrôle du juge en dehors de ce scandale nous sommes sur ce point au cœur des dangers que peut représenter pour nous il a pour nos libertés publiques les plus fondamentales donc monsieur la rapporteur je me doute que vous n'avez pas mené l'enquête avec laacnil mais avez-vous travaillé sur le sujet et pour quel résultat je vous remercie madame batrice Roulot c'est moi merci monsieur le Président je remercie les rapporteurs ce rapport nous apprend une bonne nouvelle c'est que l'Europe et surtout la France sont en avance dans le domaine de l'intelligence artificielle celle-ci ouvre des opportunités nouvelles et des avancées considérables en matière scientifique elle permettrait un traitement efficace des données générant un surcroix de productivité il est donc capital tant du point de vue géopolitique économique d'encourager le développement de l'intence de l'intelligence artificielle générative cependant cette évolution ne peut se faire dans l'anarchie qu son développement incontrôlé présente plusieurs risques vous citez dans ce rapport risque d'influence extérieure d'apouvrissement intellectuel risque environnemental social avec la réduction de la masse salarial risque auquel il faut rajouter celui de la déshumanisation il est en effet étant de se dire qu'une consultation juridique ne passera peut-être plus par l'expertise et la finesse d'analyse d'un avocat et qu'avec les déserts médicaux les patients devront parler à un robot qui établira un diagnostic aussi faut-il réguler actuellement l'Europe essaie de mettre en place un cadre protecteur on parle d'élargir les compétences de l'acnil ainsi qu'un marquage du contenu de l'intelligence artificielle et nous y sommes favorables mais nous nous interrogeons davantage sur l'autorité qui permettra de contrôler les dangers venants de l'extérieur ou les dérives venants de l'Intérieur ne pensez-vous pas que cette Haute Autorité chargé de réguler devrait être pluriel qu'elle devrait comprendre des représentants d'instances extérieur indépendantes mais aussi des représentant de l'état de nature à garantir la sûreté de l'État et une instance représentative du peuple des députés par exemple pour permettre un contrôle des dérives de l'utilisation de l'intelligence artificielle générale je vous remercie et enfin Monsieur Jordan Guitton oui merci monsieur le Président messieurs les rapporteurs tout d'abord je tienis à remercier les rapporteurs pour le travail sur ce dossier qui est important cette mission sur l'intelligence artificielle générative donc évidemment une source d'avenir pour notre pays vous parlez à à plusieurs reprises de l'importance des investissements dans ce domaine et vous vous évoquez notamment la nécessité de trouver un juste équilibre entre investissement et protection des données c'est vraiment ce qui nous rassemble ce matin et et dans ce dossier dans le classement des pays qui investissent le plus dans l'intelligence artificielle la France se trouve à la 6e place avec près de 7 milliards d'euros investis contre 18 milliards pour le Royaume-Uni et compre bien sûr 250 milliards pour les États-Unis sur la période 2013-2023 pour les investissement privés ma mes questions porteront donc sur tout d'abord les investissements que la France doit porter pour être encore plus attractive sur ce sujet tout en garantissant une protection totale des données il nous faut trouver finalement un cadre d'investissement public et privé favorisé quel serait-il selon vous messieur les rapporteurs ensuite il est nécessaire d'agir rapidement sur la fuite des cerveaux qui est aussi un sujet quand même national quelle recommandation portez-vous sur ce domaine notamment les investissements sur les centres de recherche sur les bourses aux chercheurs ou encore pour le financement à l'embauche des emplois qualifiés dans l'intelligence artificielle et enfin sur l'intelligence artificielle elle-même la France semble avec l'Europe à un tournant juridique et politique c'est évidemment l'enjeu du siècle comment fait faire en sorte que notre pays garde la main sur les futurs ou actuels acteurs privés afin de ne pas en devenir dépendante comme on peut le voir avec les géants du numérique actuel sur d'autres continents et de manière globale il est important que le politique et donc l'humain garde la main sur ces technologies donc je pense que c sujet nous apporte beaucoup de questions auquelles nous attendons des réponses madame Eline cabidi merci monsieur le Président ma question elle concerne un domaine bien particulier qui est celui de la recherche médicale on je je vois bien dans les dans le rapport cette volonté d'encadrer l'utilisation de l'IA peut-être l'encadrement plus que le la répression dans un premier temps et le la volonté bien évidemment de promouvoir la recherche et de ne pas trop brider l'innovation et l' l'impératif de protection des données sauf que s'il y a bien une matière dans la laquelle il faut euh que l'on puisse partager mettre en commun les données c'est bien la recherche médicale parce que plus on a de données en commun plus on est capable d'analyser et donc plus on est capable de trouver des solutions dans ce domaine de la recherche médicale il semble donc il y avoir une contradiction entre d'un côté donner accès eu au plus de données possibles pour que l' a a une bonne base de de travail et d'un autre côté la protection des données des malades notamment est-ce que vous avez envisagé cette contradiction dans votre rapport et avir est-ce que vous avez des pistes de réponse madame Danielle benau merci monsieur le Président et merci aux collègues pour ce travail sur un un sujet extrêmement à la fois passionnant et qui implique pour notre société des changements je crois fondamentaux comme l'ont dit je pense plusieurs collègues euh il y a un enjeu fort dans le développement de l'intelligence artificielle générative euh et pas simplement sur la la la question de de la protection des données mais en fait c'est quel usage à quel usage vont être vont être euh mises les les potentialités de de de ces développements technologiques et surtout quelle est la vision de de la société euh que nous nous portons euh dans laquelle ces cette intelligence artificielle générative peut jouer un rôle de progrès euh et et d'amélioration en tout cas pour nous d'amélioration des conditions matérielles euh pour le plus grand nombre et de ce point de vue-là en tout cas nous avons une approche qui considère que ça peut être et ça devrait être euh des techniques qui sont développées pour le bien commun et qu'il faut un investissement y compris public massif euh pour cela pour encadrer pour faire en sorte que ce soit utilisé à bonne tient et c'est pour ça que nous voudrions aussi vous interpeller sur le rôle de la recherche publique dans le développement de de ce secteur scientifique y compris en matière de recherche pas simplement technique informatique et mais comme l'a dit notre collègue tout à l'heure sur les sciences sociales les sciences humaines voilà l'implication que le développement de ces techniques devrait avoir et a déjà en fait sur notre société euh et bien sûr sur le développement technologique parce que ça pose aussi la question justement de la souveraineté de la capacité à développer dans le domaine public avec des moyens publics et du coup avec un contrôle public euh ces techniques nous assurent une souveraineté sur sur sur elle et qui nous semble fondamentale bien messieur le rapporteur vous avez la parole pour répondre aux questions des collègues mais merci beaucoup qu'il me soit permis misis en en introduction réponse de de remercier bien sûr tous tous ceux qui ont qui ont pris le temps de de d'analyser ce rapport et et pour la qualité des interventions et remercier ceux qui nous ont accompagné dans ces moments à savoir les administrateurs de l'Assemblée François jolier et ludovicque Pinau même si Ludovic Pinau nous est infidèle depuis quelques temps nous le remercions quand même et également nos collaboratrices direct à Louise d'Isy pour Stéphane rambau et Caroline Ken pour moi euh sur trois trois temps de répones sur sur un premier point je crois que ce ce rapport à a atteint son objectif ce que vous avez identifié qu'effectivement nous posons plus de questions que nous n'apportons de répones ben c'est un peu la démarche socratique hein c'est que je pense qu'effectivement il aurait été extrêmement présomptueux de notre part de prétendre apporter des réponses pour la raison je dirais méthodologique qui est que nous sommes en commission des lois nous souhaitions pas faire un rapport général et que nous pensons en plus que ce sujet tout le monde doit s'en emparer il y a parmi les les recommandations qui a pas qui on pas été peut-être complètement identifié le fait que nous pensons que notre office parlementaire des choix technologiques doit s'emparer du sujet mais de façon permanente c'est je pense que les intelligences artificielles génératives sont un sujet qu'il va falloir suivre tout le temps et je je crois savoir que d'autres commissions sont en train de réfléchir au fait de lancer des missions d'information ça ça me paraît très important donc oui un certain nombre de de questions notamment qui ont tré au aux sciensces humaines qui ont été constamment à notre esprit mais sur lequel il nous paraissait pas dans le champ de la commission des lois opportun d'y répondre sauf à s'exposer au risques que nous avons notamment vécu hier soir de vouloir créer une science d'État et ceter bon je je plaisante la la question il y a j'essaierai de faire une réponse globale à à l'ensemble des des interventions JEI fort intéressante et et en tout cas qui qui éclaire la la poursuite des travaux en fait la question des intelligences artificielle générative pose la question du quel droit pour quel juge est-ce que notre système juridique est adapté à ces réalités et est-ce que la façon dont nous jugeons au sens large est adapté on voit qu'il y a des sujets techniques qui se posent des sujets d'expertise on a évoqué le sujet du mode de preuve on ajet évoqué le sujet du du compus réglementaire on a évoqué le sujet de la responsabilité qui est responsable d'une information mensongère qui est responsable de son utilisation donc on voit bien que là cela vient percuter une conception traditionnelle de façon assez forte et le la notion du droit bien sûr nous avons identifié que des évolutions importantes devaient être effectuées notamment sur le droit pénal j'ai la conviction qu'elles ne suffiront pas et que ce n'est pas avec nos outils actuels du droit voire même notre conception actuelle du droit que nous arriverons et cela vient percuter et cela a été dit l'émergence de droits privé notamment ces Conditions Générales d'Utilisation voire même le fait d'être déférencé dans des réseaux social qui aujourd'hui peut créer un préjudice d'image un préjudice commercial extrêmement fort et sur lequel nous n'avons aucune voix de recours et aucun respect des principes fondamentaux de notre droit un procès équitable ni en terme de délai même si ça va beaucoup plus vite que la la justice habituellement ni en terme de droit de la défense et donc on voit bien que là ce cela vient cela vient percuter à ce stade nous n'avons pas de réponse là-dessus mais je crois que il faut accepter aussi de faire émerger des outils de droit souple y compris dans notre propre système juridique faute de quoi nous aurons toujours non pas une réponse de retard mais une réponse de retard est toujours inadaptée et c'est pour ça que notamment les autorités administratives indépendantes nous paraîent sur un certain nombre de sujets même s'il faut prendre garde à ce qu'elles ne deviennent pas des juridiction pouvoir porter un certain nombre de sujets notamment par leur capacité à à émettre des règles dites de droit souple et en assurer le le respect la question de la souveraineté est également un sujet qui a été évoqué de plusieurs façons j'iraai bien alors d'abord je voudrais non pas m'inscrire en faux mais apporter le le témoignage de ce que nous avons entendu la la crainte en matière d'intelligence artificielle c'est pas la fuite des cerveaux c'est que les cerveaux ne bougent plus pour que les la recherche en intelligence artificielle la recherche publique la recherche privée la recherche dans les entreprises françaises européennes et mondiales et cetera fonctionne et soit la plus efficace possible il faut que les gens ne restent pas dans le même laboratoire du moment où ils commencent à travailler sur leur thèse au moment où ils prennent la retraite et donc c'est très important d'organiser comme çav très bien le faire notamment les États-Unis cette circulation à au cours de la vie professionnelle et et de la carrière entre la présence dans des entreprises privées et la présence dans laboratoire de recherche publique le fait de circuler entre entreprisees publ et privé et d'avoir cette cette capacité à infuser notre conception de l'intelligence artificielle dans un certain nombre de de comportements et de méthodes aujourd'hui quand on est pris à part par Monsieur Lequin qui dit mais il faut faire attention à ce que ce soit les anglo-saxons qui contrôlent pas l'intelligence artificielle à terme c'est quand même extrêmement intéressant ce monsieur travaille pour un garfemme et il nous dit moi parce que je suis issu de la recherche académique française j'ai envie VI que la façon dont j'ai appris de travailler sur les intelligences artificielles deviennent la règle et aujourd'hui c'est par la circulation des cerveaux qu'on y arrivera et c'est certainement pas en en dressant des barrières donc ça je je voulais le dire l'opposition innovation réglementation elle est facile à poser extrêmement difficile à appliquer pourquoi parce que bien sûr il faut préserver l'innovation et nous pensons nous et c'est ce que nous avons essayé de mentionner dans ce rapport que la réglementation peut venir au service de l'innovation dans la mesure où on a accepte et ce sera un combat qui sera pas forcément facile à tous les niveaux et pas uniquement au niveau européen pour dire qu'à un moment donné cette technologie des intelligences artificielles étant émergente le retard technique que nous avons mais certainement pas conceptuel et largement rattrapable si nous donnons les moyens de le rattraper et les moyens de le rattraper c'est quoi c'est à un moment donné créer une forme de privilège de priorité d'accès notamment à la commande publique euh à un certain nombre d'entreprises non pas parce qu'elles sont françaises parce qu'elles sont européennes mais parce qu'elles respectent les principes que nous souhaitons voir respecter en matière d'intelligence artificielle générative je crois que le sujet qui est en cause là et quand on a parlé du risque d'acheter sur étagère c'est quand on nous explique et euh un certain nombre d'acteurs nous ont expliqué qu'en fait le retard de l'Europe était tellement établi que ça servait à rien d'essayer de le rattraper que notre seul aujourd'hui voie de de secours ou voie pour exister c'est de travailler sur la base de modèles qui ont été faits sur nos données sans rest aucune règle avec des bis des hallucinations et des boîtes noires que nous ne décrypterons jamais et que nous implémentions des petites intelligences artificiel complémentairire qui vont utiliser ces modèles donc entre guillemets la matière première vous l'abandonnez savoir comment ça fonctionne vous nous demandez même pas en revanche vous vous choisissez la couleur de la voiture nous pensons que c'est pas la c'est pas la solution et que pour cela le retard est rattrapable parce que nous avons les cerveaux et je me permets de le redire et d'insister pour rattraper ce retard il va va falloir peut-être à un moment donné n pas dresser une barrière mais dire parce que nous voulons des intelligences artificielles respectueuses frugales voilà ce que nous voulons et voilà pourquoi nous privilégions et voilà pourquoi nous demandons aux administrations publiques ça sera pas difficile en matière de règles de la commande publique mais peut-être aussi au grand donneur d'ordre privé ou tous les gens qui travaillent de près ou de loin avec la commande publique de respecter un certain nombre de règles et de s'engager que ce ne soit pas uniquement le produit initial qui respecte mais toute la chaîne de production tant les intelligences artificielles génératives sont partout pour être sûr d'être bien Rév ce matin j'ai écouté France Info et j'ai entendu avec grand plaisir que EDF confie à AWS le stockage de ses données EDF voilà la recherche nous avons eu des débats extrêmement intéressants et sur lequel je crois que nous étions unanimes même si ça a beaucoup crié dans l'hémicycle sur le fait que DF était un Florant industriel que nous devions protéger ce floron industriel va aujourd'hui prendre ses données et les confié à un acteur qui nous jure la main sur le cœur qui respectera les données et cetera aujourd'hui si nous leur demandons enfin ils ne savent même pas s'ils sont capable de de respecter ce qu'ils nous disent essayez d'exercer votre votre droit qui est prévu dans le rgpd pardon d'employer le termeaction du optout vous écrivez à chat GPT voilà désormais les données qui n concent nous oubliez quoi j'exerce mon optout je sais pas ce qu'ils vont vous répondre plutôt je ne sais pas ce que le robot conversationnel va vous répondre mais en revanceche il est assez peu probable que cette réponse soit suivie des faits voilà donc je pense que cette ce sujet de la de la souveraineté nécessitera de mettre la réglementation au service de la souveraineté et de l'innovation et et qui a pas d'opposition alors oui nous avons employé le terme d'erbus alors pourquoi parce que euh je crois que ce dispositif fonctionnera nous pourrons créer des géants de taille mondial sur le territoire européen et je le redis non pas parce que ils sont en Europe mais parce qu'ils respecteront de façon native les modèles que nous souhaitons avoir notamment en matière de protection de données et transparence des algorithme Airbus qu'est-ce que c'est c'est sur le territoire européen l'alliance d'acteurs qui disent nous avons un proj projet commun c'est pas tout le monde c'est les gens qui veulent et je pense qu'il faut avoir sur ce même modèle là pour ceux qui partagent sur le territoire européen la même conception de protection des données et de la volonté d'intelligence artificielle et je dirai un mot sur l'aspect environnemental frugale et respectueuse et ben la volonté de créer en commun quelque chose qui peut fonctionner il y a des initiatives qui sont faites mais plutôt au niveau autour du commissaire breton d'une grande entreprise européenne je pense qu'aujourd'hui étant donné que tous les pays européens n'ont ni les mêmes objectifs ni la même volonté il ne sert à rien d'essayer d'associer tout le monde il vaut mieux associer exclusivement euh ceux qui veulent euh nous l'avons dit la protection des données est complètement essentiel je pense que euh pour répondre à Monsieur àoi viive sur le le sujet de de la enfin de la reconnaissance faciale on est déjà un train en retard si je puis me permettre enfin je veux dire c'est le le sujet est très important le sujet est très symbolique aujourd'hui il est il est pas complètement fondamental et des gens qui travaillent notamment je pense à la société vidthtics euh qui travaille sur dans le cadre des Jeux Olympiques sur les choses estime aujourd'hui qu'il y a potentiellement plus de risques sur les détections de mouvements que sur la reconnaissance faciale en matière de protection des libertés individuelles et donc ils sont très très avancés sur le fait de dire on peut tout à fait construire aujourd'hui des As frugales en matière de respect des données y compris en matière de reconnaissance faciale n'utilisons pas la reconnaissance faciale comme une forme d'épouvantail elle n'est certainement pas la solution à tout elle n'est certainement pas le démon qu'on a voulu présenté le contrôle social fonctionne en Chine assez peu sur la reconnaissance faciale il fonctionne sur tout un tas d'autres paramètres donc c'est c'est un point sur lequel je souhaitais insister enfin sur l'aspect énergétique oui l'intelligence artificielle pose un problème alors dans l'état actuel des technologies tant que les ordinateurs quantiques ne sont pas aussi avancés qu'on imagine on a aujourd'hui des consommation énergétique qui augmente cela dit c'est un sujet important c'est un sujet qui fait queaujourd'hui euh les constructeurs de grands modèles pensent qu'on est peut-être un petit peu au bout d'un système mais mais la recherche arrive à établir quand même et notamment la recherche française qu'aujourd'hui on n plus obligé d'entraîner les modèles sur des données aussi aussi grande sur un nombre de données aussi importants et bien sûr que nous aurons des choix à faire globalement si nous voulons maintenir notre niveau de vie aujourd'hui il n'est pas tout à fait certain que le dimensionnement de l'intelligence artificielle générative et de ses usages soit lié à à sa consommation énergétique et à son impact environnemental enfin dire sur les aspects sociaux et qui est un petit peu le point le point noir non pas enfin le point aveugle de ce rapport aujourd'hui tous les gens qui arrivent à quantifier l'effet des intelligence artificielle générative sur le monde du travail sur l'évolution du travail ont une boule de cristal il n'ont pas de vérité scientifique cela a été dit c'est la première ENF c'est une des premières révolutions industrielles qui touche l'école blanc de façon massive plutôt avec un phénomène observé actuellement qui est que ça permet de rapprocher la productivité des gens identifiés comme les meilleurs par rapport aux gens qui étaient peut-être identifiés comme moins excellent on en est qu'au début ça va probablement modifier la façon de travailler ça va probablement modifier un certain nombre de métiers un certain nombre de métiers vont être créés ce qui est à peu près clair c'est que en dehors du fait queon est dans une grande incertitude il y a [Musique] une un choix à faire à un moment donné dans le niveau d'intervention humaine qu'on mettra au côté des intelligences artificielles mais ça c'est pas un choix qui sera comment par des mouvements sociaux c'est un choix qui sera commandé par une volonté managériale dans les entreprises et politique dans les pour l'action publique ce que je crois notamment mais ça a été évoqué je ne crois pas que les intelligences artificielles et les botes conversationnelles quel qu'il soit seront une alternative à la présence des service public il doivent être un outil qui permettront au servic public d'être plus efficace et meilleur si on arrive à délivrer du temps d'agent plus attentif à l'usager parce que l'intelligence artificielle et son be conversationnelle leura permis de faire des rech cherche plus rapide on aura gagné c'est un petit peu la notion d'exosquelette que que j'évoqué mais certainement pas une notion de remplacement imaginons des maisons France service avec un robot conversationnel qu'on appellera Marianne pour rester des républicains je pense que ce serait un échec assuré et c'est en tout cas pas la direction dans lequel à titre personnel je souhaiterais que notre société aille merci moi moi aussi comme Philippe je vous remercie à tous pour ce foisonnement de questions bon qui montre l'intérêt que vous avez pour l'intelligence artificielle générative alors dans dans les questions là j'ai j'ai repéré trois enfin quatre axes tout d'abord vous questionnez beaucoup sur l' Act c'est normal on en parle beaucoup ensuite sur les mécanisme de régulation d'une manière plus générale de l'IAG et ensuite sur les investissements publque dans l'intelligence artificielle et la lutte contre la fuite des cerveaux et enfin euh sur la question philosophique le bouleversement de la civilisation donc dans un premier euh paragraphe je dirais sur li à acte en fait l'Europe l'Europe parce que l' acte donc c'est c'est c'est fait à Bruxelles euh l'Europe se veut être en équilibre entre le modèle anglosaxon très libéral sans contrainte le modèle américain et un modèle très dirigiste régulateur comme la Chine bon mais auparavant je vais faire un peu d'historique l' acte n'est pas né comme ça par hasard il y a déjà l'Union européenne possède déjà un cadre juridique depuis longtemps pour la protection des données mais qui s'applique imparfaitement c'est vrai à l'intelligence artificielle d'abord c'est le règlement général de la protection des données en vigueur depuis 2008 depuis 2018 pardon comme son nom l'indique protection des données il est mis en application en France par l'acnil et au niveau européen par le contrôleur européen pour la protection des données le rgpd a été doublé depuis septembre 2022 par le Règlement sur les marché public le fameux DMA qui vise à mettre fin à la domination des gfames c'estes géants de l'internet les gfames ce sont des contrôleurs d'accès c'est-à-dire ces acteurs ayant une forte influence sur les marchés intérieur et le DMA les oblige à se conformer à une série d'obligations et d'interdictions d'ailleurs sous peine de sanction importantes des amendes qui peuvent atteindre 10 % du chiffre d'affaires mondial total du contrôleur d'accès et même 20 % en cas de récidive c'est colossal hein voilà donc le DMA s'est vu compléter du DSA du digital service Act qui est le Règlement sur les services numériques depuis août 2023 euh le DSA surveille et responsabilise les services en ligne et protège les droits des internautes donc le DSA lutte entre autres contre la haine en ligne la désinformation ou la vente de produits illégaux pour contrôler le respect du DSA chaque État membre de l'Union européenne désigne un coordinateur des services numérique en France c'est l'arcom qui est cette autorité de régulation de la communication audiovisuelle et numérique là aussi des amendes fortes jusqu'à 6 % du chiffre d'affaires mondial peuvent être infligés en cas de non respect en France il y a le projet de loi de sécuriser et réguler l'espace numérique le sen qui veut adapter le droit français aux contraintes du DMA sur les marchés publics et du DSA sur les services numériques en dehors du DMA et du DSA il y a aussi le Data acte c'est le Règlement sur les règles harmonisées en matière d'accès et d'utilisation équitable des données adopté en juillet 2023 donc c'est tout neuf le Data Act soutient l'utilisation de données dans le respect du droit de l'Union européenne mais tous ces textes s'appliquent ils ne s'appliquent qu'indirectement à l'intelligence artificielle et notamment à l'intelligence artificielle générative car la question de la protection des données ne va pas couvrir l'ensemble des risques existants lié à l'IAG le rgpd effectivement ne permet pas d'imposer un étiquetage des contenu ni de contrôler les biens introduits par un algorithme ou par la méthode de l'entraînement alors li à acte proprement dit en l'absence de règlement spécifique sur l'intelligence artificielle la concurrence des modèles extra européens risque de menacer la capacité de l'Europe à faire émerger des modèles conformes à ces principe c'est pour cela que le Parlement européen et le Conseil de l'Union européenne sont pas parvenu mais tout récemment le 9 décembre 2023 à un accord provisoire sur de nouvelles règles de contrôle des systèmes d'intelligence artificielle selon une échelle de risque alors il y a les systèmes à risque inacceptabl mais qui sont considérés comme une menace pour la sécurité des personnes alors ça ce sont des systèmes interdits carrément ensuite il y a les systèmes à haut risque qui demande une évaluation a priori par exemple les véhicules autonomes les robots chirurgicaux ensuite il y a quatre systèmes de risque ensuite les systèmes à risque limité les chat debotes les utilisateurs doivent savoir et je l'ai dit tout à l'heure si ils interagissent avec une machine ou avec un humain et enfit enfin il y a les IA à risque minimal ou nul qui sont librment utilisables par exemple les jeux vidéos et l'intelligence artificielle générative se situe entre les systèmes à haut risque et des systèmes à risque limité il y aura des contrôles a priori sur les AG sur la qualité des données d'entraînement et du modèle statistique sur le marquage des contenus sur le contrôle des bis et cetera et des contrôles à postériori sur la qualité des réponses les hallucinations dont parlait Philippe tout à l'heure sur le traitement des plaintes la régulation elle est nécessaire pour s'assurer que les IAG sont dignes de confiance et doit s'imposer à l'ensemble des acteurs y compris extrauropéens l'IA acte recommande d'assoir les règles de droit dur avec les règles de droit souple qu'on appelle aussi la compliance visant à prévenir les dérive mais sans brider l'innovation et les usages alors sur le le mécanisme de régulation de l'IAG maintenant la régulation oui les pouvoirs publics et et on l'a dit déjà ont le devoir de protéger les citoyens contre les risques inhérents de l'IAG qui n'en est qu'à ses débuts on est à l'aube de cette révolution d'abord protéger les données des utilisateur en particulier les données à caractère personnel et celles soumis au droit d'auteur ensuite réguler pourquoi pour limiter le risque de biais d'influence extérieure et d'atteinte au principe républicain enfin pour protéger les citoyens contre l'ustilation détournée des IAG la France est souveraine pour adapter son droit pénal aux nouvelles menaces par exemple les hypertricages qu'on appelle les depfex la manipulation de l'information la définition du faux du plagiat mais attention la régulation le contrôle ne doit pas gêner l'usage mais aussi et surtout l'innovation la est très avancé en matière d'IAG grâce à ces start-up et l'acnil apparaît comme la mieux amène on l'a dit et on l'a écrit dans notre rapport à même d'assurer le la mission de réguler les IAG car elle a un volet conseil et accompagnement en plus de son volet sanction contrôle elle a un volet je le répète conseil accompagnement auprès des start-ups et ça c'est important enfin les investissements publics dans l'IA et la lutte contre la fuite des des cerveaux la la lutte contre la fuite des cerveaux c'est une de nos 33 recommandations parce que c'est vrai j'ai entendu dans vos questions est-ce que vous avez des des recommandations sur tel ou tel sujet il y en a pas assez on en a quand même fait 33 et l'une d'entre elles c'est la lutte contre la fuite des cerveaux il faut effectivement soutenir financièrement nos chercheurs français dans le domaine de l'IAG au moyen de quoi au moyen de bourse et de la mise à disposition de capacités de calcul et des jeux de données à disposition des petites entreprises bien entendu il faut favoriser l'investissement dans l'IAG au sens large mais nous sommes en commission des lois et on ne peut pas trop empiéter sur le domaine dans le domaine de la commission des affaires économiques ou celle du développement durable par par contre on peut parler du rôle des pouvoirs publics dans le domaine dans le développement des IAG trop peu à ce sujet trop peu d'administrations utilise les IAG à ce jour nous avons adressé à l'ensemble des administration métier un questionnaire sur le rapport avec l'IAG seul la dacj la direction des affaires criminelles et des grâces du ministère de la Justice et la gendarmerie nationale nous on répondu il serait donc utile que voir le jour une instance de dialogue interministériel tourner vers les technologies mais aussi et surtout vers les usages nos recommandations à la matière sont donc à la fois de prévoir une stratégie pluriannuelle en matière d'IAG comprenant un volet consacré à son usage dans les administrations d'internaliser les compétences en matière de développement d'application d'AG à partir de modèle d'AG et enfin de prévoir une instance permanente de dialogue entre les administrations sur l'usage des IAG à ce sujet je vais faire quand même une mention spéciale euh à la gendarmerie nationale parce que dans le domaine des expérimentations dans le domaine régalien la gendarmerie nationale est l'administration qui nous est apparue la plus mature dans son utilisation de l'IAG la DDG la DGGN identifie en effet de nombreux risques sécuritaires directement lié à l'usage de l'IAG à court terme c'est la désinformation et la fraude à l'identité à moyen terme c'est la création de nouvelles molécules des des cellules souches ou encore des virus et à long terme ce sont les attaques cyber plus performants comme comme les attaques dites adverses qui modifient l'interprétation l'interprétation des systèmes d'IA et donc pour lutter contre ces risqu la DGGN a développé ses propres outils d'AG par exemple en s'appuyant sur des bases de données du son du texte des images euh à des fins pour visant donc qui lui sont propres hein cesagés qui lui sont propres à la DGPN elle a mené un travail d'apprentissage de système dia visant à détecter le détournement des iagés à des fins délictuelles ou même criminel elle dispose ainsi par exemple d'un logiciel de détection des hypertrucages la gendarmerie et j'en finirai par là va encore plus loin en utilisant l'AG comme une technique d'enquête par exemple en rajeunissant ou en vieillissant des portraits de personnes à des fins d'identification criminalistique ou de recherche de de personnes disparu voilà donc ça c'est l'intelligence artificielle générative euh mis dans le sens positif puisque c'est mis dans le sens de la lutte contre la criminalité voilà ça n'empêche pas tous les risques qui peut y avoir aussi si toute cette technologie est mise euh euh dans un but négatif voilà déjà intervenu une fois bien merci messieurs les rapporteurs ce que je vous propose c'est de mettre au voix et vous le savez l'autorisation de publier le rapport de nos rapporteurs sur le site de l'Assemblée nationale donc qui vote pour cette autorisation de publier le rapport qui vote contre elle est adopté merci beaucoup merci monieur le rapporteurs et puis on se retrouve pour ce qui nous concerne mercredi non pas la semaine prochaine mais dans de semaines après la suspension de nos travaux parlementaires Merci à VOUS oui les memes du bureau