MISSION D’INFORMATION SUR L’IA : AUDITION DE MME CORINNE NARASSIGUIN ET M. ALEXANDRE SABATOU

Hop là ! Et nous reprenons donc nos travaux et nous avons le plaisir d'accueillir Alexandre Sabatou, député et peut-être tout à l'heure madame Corine Narassica, sénatrice pour débattre de la question de l'intelligence artificielle dans le cadre d'une mission d'information créée par la commission permanente euh des affaires culturelles et de l'éducation. Mission d'information dont le titre est évidemment consacré à au changement qu'induit l'éruption de l'intelligence artificielle dans le monde et dans les métiers et dans le domaine de la culture et évidemment aussi dans ce de l'éducation et de l'enseignement supérieur.

Donc merci d'être parmi nous chers collègues. Vous avez rédigé dans le cadre de l'Office parlementaire des choix scientifiques et techniques un rapport intitulé Chat GPT et après bilan et perspective de l'intelligence artificielle et dont le contenu a retenu notre attention. Ce document est le fruit d'un long travail.

Bonjour madame la sénatrice. Pardon, nous avons démarré. J'en prie, prenez place tranquillement.

Donc ce document est le fruit d'un long travail engagé à l'été 2023. Vous y analysez un certain nombre d'enjeux dont certains sont placés au cœur de notre travail. je pense à la création artistique et à la connission donc à la transmission des connaissances.

Il nous a donc par utile de vous que vous puissiez nous exposer le fruit de vos recherches. Euh et je voudrais commencer par une alors donc le principe c'est vous avez 10 minutes de proposinaire. J'essaierai de de bon de ne pas trop vous interrompre mais au bout de 10 minutes, il faut laisser madame la rapporteur madame Calvez vous assaillir de questions.

Mais j'aurais moi une question liminaire. l'érruption de l'IA générative et notamment son aspect conversationnel ont on crée un fort débat public sur la question de savoir si l'intelligence était intelligente. Et nous avons depuis quelques auditions déjà rencontré des points de vues assez assez opposés, contradictoires, divergents.

Certains qui seraient des technoptimistes considèrent qu'il n'y a pas d'intelligence artificielle et que le mot intelligence en fait est un anglicisme qui signifie information et que l'IA n'est pas intelligente, elle est simplement un système de d'assemblage de données à l'aide d'algorithme très puissant et en utilisant des de big data, hein, c'est-à-dire des milliards et des milliards d'informations. Donc les tenants de cette thèse considère qu'il n'y a pas de risque dans la généralisation dans dans de l'IA dans le dans la vie publique, dans la vie économique, dans la vie scientifique et culturelle puisque d'une certaine manière bon l'homme garde la main. En plus il est souligné parfois que l'accumulation des données du big data trouve une limite objective.

C'est-à-dire que lorsque tout aura été chargé, téléchargé, si je puis dire, euh et bien euh il n'y aura plus de de sources nouvelles, sauf dans la création humaine précisément. Donc ça c'est la thèse de ceux qui sont plutôt favorables à l'IA et qui ne voi son arrivée dans notre dans nos sociétés pas forcément d'un mauvais œil. D'autres au contraire sont purement catastrophistes.

On en a eu quelques-uns. Le professeur Savin par exemple nous a décrit un monde apocalyptique. Il a parlé de rupture anthropologique.

Il nous a appelé à interdire par tous les moyens possibles l'usage de l'IA dans les domaines de la culture et l'éducation notamment. Il considère que la d'une certaine manière l'humanité elle-même est en danger de mort. Alors sur ces positions très tranchées et que j'ai un petit peu caricaturé, je l'admets, quels sont vous vos vos vos conceptions après le travail que vous avez réalisé ?

Je vous remercie. Merci monsieur le président, madame la rapporteur, merci pour cette invitation. Tout d'abord, j'aimerais rappeler le contexte plus en détail où ce rapport sur l'IA a fait l'objet d'une sisésine de l'OPEX par l'Assemblée nationale et le Sénat qui est quand même chose chose assez rare pour mettre à jour le rapport vilani qui avait été fait en 2018 et qui avec l'arrivée de l' générative avait été quasiment rendu caduc.

Je précise au tout début de notre intervention également que notre rapport s'évolou extrêmement général. On n'est pas rentré dans les sujets, donc on va essayer de répondre au mieux à vos questions, mais le but était vraiment d'éclairer le parlement sur la technologie et les enjeux qu'il y avaient. Donc dans le rapport, on a quand même été assez pragmatique, à savoir qu'on ne voulait pas réglementer la technologie en elle-même, ce qui est voué à l'échec parce que la technologie continuera d'évoluer.

Et finalement, dans les premières boutures de l'IA act, ils ont essayé de réduire, restreindre les capacités de puissance, des choses qui n'avaient pas tellement de sens pour vraiment traiter le sujet. Et donc une des grandes conclusions du rapport, ça a été de s'attaquer au sujet actuel et de réglementer les applications de l'IA mais pas la technologie en elle-même. Et quand on pense aux applications qui posent problème notamment, ce sont les deep fake, les manipulations de l'opinion et tous les sujets culturels et d'éducation que que vous avez amené.

Comme on va pas traiter ces les sujets certaines conclusions, j'aimerais juste les rappeler que nous appelons via ce rapport ou même si nous étions trois rapporteurs, quatre avant la dissolution de partis différents, on a réussi à se mettre d'accord sur des grandes lignes directrices à savoir favoriser une régulation internationale voire mondiale sur ce sujet pour éviter de bayonner l'innovation de nos entreprises et pour éviter que nous accumulions un retard sur ce sujet, mais également développer la filière française de l'IA sur toute la chaîne de valeur. C'est-à-dire qu'aujourd'hui euh ces dernières décennies, on s'est surtout appuyé sur la partie software, la partie applicatif sans se poser la question de la partie industrielle de fabriquer justement ces cartes graphiques, ces woofers qui sont nécessaires à cette technologie pour que la France reste souveraine sur ce sujet. Également la mise en place de politique publique de l'IA avec des objectifs et des outils de suivi et d'évaluation.

Car ce qu'on a regretté lors de ce rapport, c'est de voir que l'IA était surtout utilisé comme un moyen de communication. On mettait IA pour faire beau pour le mettre devant, mais finalement souvent ce n'était pas suivi des faits. Également défendre la place de la culture, des données françaises dans l'intelligence artificielle.

Je pense qu'on y reviendra au cours de cette audition à savoir pourquoi c'est quelque chose d'extrêmement important qu'on défende notre langue. Donc comme je le disais, la culture et l'éducation sont deux sujets que nous avons abordé lors de nos auditions. Mais notre rapport se voler très général pour comprendre la technologie et ses enjeux.

Et le rapport n'a pas fait de conclusion vraiment sur les sujets des droits d'auteur que vous trouvez important et nous aussi sur comment éduquer nos enfants. Mais on a eu des auditions, on en a parlé donc on pourrait essayer de les partager avec vous. Monsieur le président, avant de laisser ma parole à ma collègue sénatrice et rapporteur pour répondre rapidement à votre question sur l'éruption de l'IA générative, nous sommes plutôt IA optimistes sans se voiler la face sur les dangers de l'IA, mais on est sur la ligne de Yan Lequin qui est français et qui est un des papes de l'intelligence artificielle à savoir que l'IA euh ne sera pas une IA générale qui prendrait le contrôle de l'humanité comme on pourrait voir dans certains films de science-fiction, mais je retiens une phrase de il me semble que c'était Cédric Villani que vous avez auditionné il y a quelques temps que j'ai trouvé juste à savoir que Lia doit nous donner une réponse plausible mais pas nécessairement une réponse correcte.

Et je pense que ici nous sommes tous familiers avec l'IA. Moi un test que j'aime faire c'est que si vous demandez à Lia une capitale les frontières d'un pays, elle sera capable de vous les donner. elle sait chercher l'information et vous les fournir.

Par contre, si vous lui demandez tout simplement "Je voudrais une carte de l'Europe de telle année avec le nom des pays dedans" et ben vous verrez une carte qui ressemble à l'Europe mais foncièrement vous verrez des noms de pays qui sont mélangés dans les Balcans comme il y a eu par exemple beaucoup de changements de frontière c'est vraiment un flou artistique complet et donc c'est vraiment l'illustration du fait que l'IA est plausible mais pas correct et finalement vous donne une réponse moyenne une réponse moyennée parce que c'est le c'est c'est le cœur de l'intelligence artificielle connexionniste et on reviendra sur les différences d'IA si vous le souhaitez. Yan Lequin a exprimé lorsqu'on l'avait vu donc qui est à la tête de Lia chez Meta donc c'est-à-dire Facebook qu'on arrivait au niveau de la couche de granite. Les grandes avancées technologiques qui ont été fait dans l'IA générative ont été faites et que là on arrive sur du granite.

C'est très dur de grappiller et d'avancer d'améliorer vraiment vraiment les produits et donc très loin du catastrophisme que vous avez que vous avez mentionné. La vraie question est de savoir quelle est la place de l'humain et de l'IA. Nous pensons que l'IA est un outil qu'il faut savoir s'en servir et qu'elle n'a pas vocation à remplacer l'humain mais au contraire à l'accompagner et à l'augmenter selon selon les sujets.

On doit pas se reposer sur ça car on en verra pas sur la partie éducation sinon ben on délle toutes nos fonctions cognitives à une machine et on devient une espèce d'idiocratie. Et je laisse la parole à ma collègue sénatrice. Merci monsieur le député.

Monsieur le président, madame la rapporteur, merci euh pour cette invitation. Je vais simplement peut-être compléter ce que mon collègue député Sabatou vient de vient d'exposer. Euh on voit que l'IA évolue extrêmement vite qu'en réalité notre notre rapport a été publié en en décembre 2023 et il y a déjà des évolutions, il y a déjà par certains aspects, il est déjà obsolète.

Et donc c'est peut-être ce qui est ce que ce qui doit nous poser question et en particulier sur les questions de la création puisque c'est là où on voit aussi les bons technologiques qui sont assez considérables sur sur la la capacité de l'IA aujourd'hui à produire des images des vidéos l'audio qui est de plus en plus difficile à à distinguer de la réalité alors que à l'époque ou de notre rapport on pouvait encore distinguer assez facilement des images produites par Lia parce qu'il y avait des gens avec six doigts et trois bras et cetera. Voilà, donc ça va très très vite et et ça et ça montre aussi effectivement sur la l'approche de la régulation européenne que on a besoin finalement de revenir à ce qui avait été fait au départ. C'est-à-dire que euh tout le le l'IA acte avait d'abord été pensé sur la la question de la régulation par l'évaluation des risques et la la régulation des usages.

Et puis il y a eu un mouvement de de mouvement de panique quand il y a eu chat GPT qui a débarqué et donc ils ont amendé finalement tout le travail qu'ils avaient déjà fait sur l'IA Act et ils y ont ajouté ce que Alexandre Bato disait tout à l'heure des régulations qui étaient basées sur la taille des algorithmes, la taille des modèles et cetera. Alors qu'en réalité déjà nous quand on a on a fait ce euh on a on est allé notamment aux États-Unis euh euh avec les les chercheurs notamment du NIST euh euh à Washington euh où euh il nous avait déjà expliqué que euh il y avait euh déjà des modèles plus petits dont on pensait que il y avait un risque tout aussi élevé qu'avec les modèles plus grands. Et puis après la sortie de du de notre rapport, il y a eu bah l'IA chinoise qui est sortie avec encore une autre manière de de de calculer enfin de faire le bier génératif sur des modèles beaucoup plus petits.

Et donc on voit bien que c'est pas effectivement la voie de la la régulation la régulation par la par les la technologie ne peut pas fonctionner. Et donc il va se poser cette question quand même au niveau européen de notre de la capacité et c'est peut-être là où il y a une petite divergence quand même entre les entre les rapporteurs sur parce que on est d'accord sur le fait qu'il faut une gouvernance au niveau au niveau mondial et que et que on a besoin au niveau français de se préoccuper de la question de notre souveraineté et de la question de notre de notre notre contrôle de la chaîne de valeur. Mais on a aussi besoin vraiment de travailler au niveau européen sur cette question de la régulation et de comment la régulation européenne doit doit aussi être beaucoup plus agile pour pouvoir évoluer pour voir être enfin à la fois très très clair sur les principes et suffisamment souple dans son application pour pouvoir être efficace dans la maîtrise des risques sans bloquer l'innovation et c'est notamment les questions qui vont se poser sur les questions éducation et culture euh mais pas uniquement sur le travail aussi.

Vous avez des questions sur cette sur cette questionlà euh sur ces questions-là. Et donc je je crois que c'est vraiment cette question de la l'agilité, le fait que la le législatif en général est assez en retard quand il s'agit de réguler la technologie et c'est encore plus criant avec Lia parce que c'est une technologie qui évolue extrêmement vite et effectivement là où on était tous d'accord c'était c'est avec cette approche qui est de de refuser le catastrophisme. C'est pas de dire que il y a pas de risque existentiel, il y en a.

Mais euh c'est de dire que euh euh c'est pas pour tout de suite en tout cas euh même si euh là on il y a de nouveau des évolutions parce qu'il y a beaucoup d'hybridation de technologies différentes d'IA et on sait pas très bien où on va avec ça et que peut-être que on commence à avoir peut-être une autre une forme d'intelligence réelle qu'on ne comprend pas qui est différente de l'intelligence humaine mais voilà mais en tout cas le fait de d'être obsédé par les grandes questions catastrophistes et le les les les univers dystopie qui font un peu encore science-fiction, c'est que on regarde pas les risques qui sont juste devant nous. Euh et c'est ça qu'on a voulu mettre en valeur dans dans le rapport, c'est de dire que il faut être conscient bien sûr du fait qu'il y a des risques existentiels euh mais qu'il y a beaucoup d'autres risques qui sont juste devant nous et que si on se préoccupe pas de cela euh et bien on ne contrôlera absolument plus rien. Et donc c'est pour ça qu'on a essayé de mettre l'accent sur des sur des sujets qui sont même si effectivement l'OPEX on on fait pas de la proposition législative.

C'est pas le rôle de l'OPEX de faire de la proposition législative. euh on a essayé de de se concentrer sur euh la question de l'état de l'art et la question de la compréhension des risques et des et des opportunités aussi de l'IA euh qui sont euh on va dire plus immédiates et plus euh transversales. Voilà.

Merci beaucoup. Je passe la parole à madame la rapporteur. Pardon.

Merci monsieur le président. Euh chers collègues parlementaires, merci d'avoir rappelé votre travail. vous l'avez mis en contexte et en soulignant euh et bien que tout allait très vite et donc c'est on apprécie votre recul dessus et votre conscience que tout va très vite.

Vous dites qu'il faut pas réglementer la technologie mais ces applications. Vous avez pu lors de vos travaux évoquer l'éducation, la culture. pas forcément ce sur quoi vous vous êtes concentré, mais aujourd'hui au sein de cette mission d'information, je vais vous inviter à à revenir et développer ce que vous avez pu voir dans vos travaux ou après puisque le sujet étant tellement passionnant, j'imagine que vous l'avez bien suivi même après le rendu de votre rapport en décembre 2023.

Concernant ce que je qualifierai de l'amont du développement des modèles d'IA générative, c'est la question de la sélection, de l'utilisation des données qui parfois sont des œuvres, qui parfois ne sont que dans une seule langue ou dans plusieurs langues. Et c'est là où on va poindre un paradoxe, c'est que d'un côté, on a envie que les données, les œuvres qui sont celles de notre histoire culturelle, que ce soit française, européenne ou on va dire occidentale plus globalement, soit dans les génératives et en même temps se pose la question du respect du droit d'auteur avec l'autorisation et la rémunération que cette propriété intellectuelle demande. Selon vous aujourd'hui, quel est le respect ou non de la du droit de la propriété intellectuelle par les développeur d'IA ?

Comment répondre à ce paradoxe d'être présent mais aussi de garantir cette propriété intellectuelle ? Vous avez mentionné, monsieur Sabbatou, spontanément la question de la langue. Quelles sont d'après vous les initiatives heureuses qui permettraient de répondre ce paradoxe et plus précisément comment réformer, encadrer mieux li alors pas la technologie mais ses applications pour respecter le droit d'auteur mais aussi contribuer à la diffusion des œuvres et de notre culture.

Euh effectivement, on a on a euh depuis le départ enfin depuis le début des des génératives, ce sujet de du respect du droit d'auteur euh et euh et et et de deux côtés en réalité, c'est-à-dire à la fois à l'entrée, à la sortie euh et et qui est de plus en plus crayon justement parce que les les génératifs qui sont de de plus en plus performantes. Je crois qu'aujourd'hui il y a très peu de respect du droit d'auteur parce qu'il y a pas de moyen de le réguler véritablement que il y a acte justement pour l'instant au niveau de la commission européenne, il y a quand même eu un une forme de faiblesse he de la la Commission européenne euh parce que il y avait une exigence de transparence sur les données utiliser les données d'entraînement la transparence sur les données d'entraînement pour pouvoir vérifier le respect du droit d'auteur et éventuellement considérer les possibilités de rémunération des artistes euh et euh et que en réalité on n' pas aujourd'hui d'accord à ce sujet-là et il y a une énorme pression euh des euh des big tech qui euh qui sont de nouveau extrêmement forts depuis la présidence de Donald Trump parce qu'il y avait une petite volonté de régulation avec la présidence Paidon qui commence penser à se mettre en place avec une conscience quand même sur ces questions de de création de protection de protection des des créateurs de contenu euh et notamment il y avait eu déjà des grèves aux États-Unis et cetera sur ce sur ces questionsl mais aujourd'hui on voit bien que l'Europe est la est la seule le seul espace organisé politique où on a une volonté de régulation qui est exprimée et on est un peu un peu seul et euh et on a du mal à résister aux pressions euh aux pressions de de l'industrie. Euh sur ce sujet-là, euh il y a une je dans votre questionnaire, vous mentionnez une une proposition de loi qui a été déposée euh au mois de au mois de décembre là très très récemment à la suite d'un rapport sénatorial.

Euh c'est un pas dans la bonne direction, il me semble, cette volonté de considérer que justement puisque de toute façon il y a pas de transparence, tant qu'on narrive pas à faire la transparence, c'est peut-être un moyen de pression intéressant. Je sais pas si euh sur le long terme c'est vraiment la bonne solution, mais en tout cas c'est un moyen de pression intéressant de dire que bah puisque on n' pas la transparence et bien on va considérer que a priori par défaut on va considérer que euh il y a des données propriétaires qui ont été utilisées et que le droit d'auteur n'a pas été respecté et que donc il faut une forme générale de de de rétribution pour pour les artistes. Je je crois que c'est pas une question nouvelle en réalité parce que la question du plagiaat, la question elle pas elle est pas nouvelle.

La question de l'utilisation des œuvres depuis qu'on a la numérisation, elle est c'est c'est une question qui est assez globale. Il y a eu justement il y a question de la la licence globale qui avait été évoquée il y a quelques années déjà à partir de la question des contenus numériques avant même la question de l'IA générative. Euh je pense qu'il faut y revenir.

Euh il faut il faut de nouveau réfléchir à ces questions de euh des licences globales. Mais quand nous on a fait nos nos auditions, c'était encore à à un état très exploratoire. C'est-à-dire qu'il y avait un il y avait une évaluation des problématiques et pas encore vraiment de pistes très sérieuses mais sur la table pour réguler parce que il y a euh il y a il y a beaucoup de euh de de de complexité à à à à ce sujet et de question je pense de rapport de force politique en réalité.

Et j'ai vu que c'est qu'est-ce qu'il y a ? Il y a c'est plus c'est plus d'un point de vue de l'information, mais il y a un pays nordique, je crois c'est cemark où toutes les j'ai vu ça il y a quelques jours dans la presse euh toutes les organisations de presse se sont mises ensemble pour euh faire pression euh sur face aux plateformes américaines. Donc avec une forme de de lobbing unitaire au niveau national, un réseau national euh pour se mettre ensemble parce que ce qu'il y a c'est que les on sait que les bigtech bah elles elles agissent d'autant plus facilement que elles font pression de manière indépendante sur différentes entités.

Et donc là, il y a il y a une question aussi effectivement de comment est-ce qu'on s'organise, comment on organise au niveau national et au niveau européen euh pour pouvoir résister et queon laisse pas aussi les pouvoirs politiques seuls face à ces questions-là, qu'on on essaie aussi d'organiser au-delà uniquement de la Commission européenne, mais au niveau des pays, au niveau de au niveau des euh euh des groupements d'artistes et cetera qui peuvent être tous ceux qui peuvent être intéressés. Je pense que c'est là où il y a une il y a une question de rapport de force pour pouvoir obtenir cette question de la transparence euh sur les données d'entraînement et après se posera à une autre question qui est euh qui est la question de la propriété intellectuelle sur les œuvres qui sont créées et et à qui elles appartiennent. Euh beaucoup de choses ont été dites par ma par ma collègue.

Moi ce que le message que j'aimerais faire passer notamment dans cette audition, c'est de dire qu'en fait LIA n'a pas créé de nouveaux problèmes. C'était typiquement les sujets de droit d'auteur mais c'est des sujets de plagia mais sauf que Li a rendu extrêmement accessible, extrêmement facile à utiliser. Et donc c'est pourquoi j'aimerais inviter tous nos collègues à se renseigner un peu sur la technologie et intégrer l'IA dans euh chaque sujet qui leur tient à cœur dont celui du droit d'auteur.

Moi, je suis pas du tout expert dans le droit d'auteur, donc j'aurais du mal à vraiment euh à vraiment euh vous vous répondre là-dessus. Mais voilà, le constat il est là, c'est qu'aujourd'hui il y a pas de respect du droit d'auteur qu' on qui ont été fait sauf à quelques exceptions près. Donc il faut vraiment trouver une manière de redistribuer les revenus qui sont utilisés.

Mais le problème vient de la technologie en elle-même, c'est-à-dire que l'é génératif qui est lié à connexionniste, personne n'est capable de vous expliquer pourquoi on a eu ce résultat, pourquoi on a eu ce résultat, pourquoi quelle données d'entraînement ont été utilisé pour arriver à ce résultat. Donc finalement, même si on écrit à la manière 2, on sait pas vraiment sur quelle donné l'IA s'est appuyé. Et donc on peut pas avoir un système simple qui dirait euh avec ce résultat, je redistribue 1 % de l'argent qui a été généré à partir de ça euh à à l'auteur de l'œuvre.

Donc c'est ça qui est extrêmement compliqué. Et donc un point bien important que ma collègue sénatrice a mentionné, c'est la transparence sur les données d'entraînement pour comprendre comment l'IA a été faite, sur quoi elle a pu s'appuyer pour se faire et j'insiste aussi sur le fait que la réglementation doit se faire à un niveau le plus large possible. Euh pour beaucoup l'échelon européen est le bon.

Je pense que l'échelon mondial, il faut pas l'abandonner parce que les plus les I les plus performantes aujourd'hui sont aux États-Unis et en Chine. Et donc si on les exclut, bah finalement on exclut peut-être 80 90 % du marché des IA des IA génératifs. J'aimerais insister sur le point de pourquoi c'est important qu'on ait des IA qui s'appuyent sur des données françaises.

Il faut bien comprendre que une langue est complexe, mais une langue c'est ce que je dirais les métadonnées de la langue. C'est une manière de réfléchir, c'est une culture, c'est une vision du monde, une vision des choses. Donc finalement, il n'y a qui lut qui lit pardon toutes les œuvres françaises va s'imprégner d'une manière de penser à la française, de voir le monde à la française.

Et donc si on laisse des IA s'entraîner que sur des données soit orientales en Chine ou anglo-saxonne aux États-Unis, on va s'enfermer dans des visions des mondes qui ne sont finalement pas les nôtres parce que je crois sincèrement que la France est un pays à part avec une vision à part et donc c'est pour ça pour répondre avec à votre question qu'il faut travailler ces bases de données. On a quand même des archives très conséquentes en France, peut-être pas encore parfaitement numérisé, mais Lina pour ne citer qu'elle a beaucoup d'archives exploitables que ce soit notamment les vidéos qui pourront servir demain à d'entraînement de nouveaux modèles. Et donc c'est pour ça que j'insiste sur le fait qu'il faut défendre euh par exemple Mistralia qui est euh notre notre licorne qui sur le les I génératives qui est importante parce qu'elle s'est beaucoup appuyée sur des données françaises donc traduit une manière de penser à la française et donc pour que la France réussisse à incarner sa voix dans le monde de demain dans le numérique, il faut à tout prix qu'on arrive à garder cette société, à l'aider à se développer peut-être.

Mais euh voilà, j'ai vu qu' il s'était un peu délocalisé en Suisse récemment. Voilà, il faut donner les moyens pour que cette société reste en France pour qu'on puisse peser demain sur euh sur l'IA. Merci beaucoup.

Euh si on reste sur la question de l'amont, on pourra ensuite aborder la question de l'aval et du statut de ce qui est généré avec l'IAG. H en fait, on on sent qu'il y a une invitation de votre part à ce que les acteurs de la culture s'organise, se regroupe. Vous faisiez mention d'une initiative des organes de presse d'un autre pays européen.

Donc il y a l'idée de de pousser de façon armée à une négociation, faire poids. Quels sont quelle est d'après vous la le rôle des parlementaires à pouvoir accompagner ces négociations ? Aujourd'hui, il en existe qui sont d'un génèle d'IA avec un organe de presse, c'est assez disparate.

Comment le rôle des parlementaires peut se faire d'accompagner est-ce que ces accords, ces licences ou ce chemin vers une licence globale s'il le fallait ? Quel est le rôle des parlementaires en ce sujet ? Le rôle des parlementaires, enfin moi du moins, c'est comme ça que j'envisage mon mandat, c'est euh de porter porter les sujets la voix de nos citoyens.

On représente la nation et non pas simplement nos nos circonscriptions. Et donc ces sujets, il faut s'en emparer, il faut discuter avec eux pour justement légiférer dans le bon sens. encore une fois sans bloquer la technologie parce que la technologie elle arrivera et si on la bloque trop chez nous en France, elle se développera ailleurs et du coup on aura pas d'acteur et on va utiliser les technologies les technologies étrangères.

Mais c'est également se renseigner sur leur situation pour voir comment on peut les accompagner et aussi quel quelle place de l'IA on aurait dans le monde de la culture, comment on s'en en parle. de dans les questions, vous avez posé par exemple euh la question du du doublage. Euh l'IA apporte une solution mais un risque également parce qu'elle pourrait remplacer euh ses acteurs.

Mais sauf que un acteur ça ne fait pas que lire un texte, c'est ça interprète une intention, un sous-texte, une évolution euh une une évolution psychologique du personnage, là où en fait LIA va faire que imiter euh des patterns vocaux mais ne comprendra pas le sens dramatique global. Donc finalement sur les métiers du doublage, j'ai vu qu'il y avait des associations qui avaient été créées à l'occiné, je crois que vous allez aussi les les interroger, ça ne va pas les remplacer parce que je pense que euh ces acteurs ont une vraie plus-value comparée à une IA qui serait qui serait purement synthétique. Mais derrière, il faut pas se voiler la face non plus.

Euh si vous êtes cinéphil ou euh que vous aimez des films étrangers que vous voulez voir, tous ne sont pas traduits. Euh nous avons pas forcément les moyens de payer des acteurs pour tout traduire. Et donc l'IA permettra de traduire ou de doubler euh des films, des séries un peu niches que vous trouverez dans des pays étrangers pour lesquels on ne pourra pas pourra pas financer euh financer des acteurs.

Il y a également un aspect marketing pour rester sur les doubleurs avec certaines voies qui sont connues comme Christophe Lemoine ou Boris Rélinger qui pourrait attirer des personnes. On a vu dans des dessins animés qui étaient sortis au cinéma où il s'était appuyé sur des youtubeurs connus pour faire venir des enfants. Donc c'est vraiment un atout marketing et donc je ne crois pas que LIA va remplacer totalement euh les voix les voix du cinéma de doublage que que nous avons.

Mais ça pose la question, vous l'avez mentionné sur tout ce qui est rémunération. Par exemple, on voit qu'aujourd'hui on est capable de cloner la voix d'un comédien. Et donc là, tous ces sujets, c'est de voir au cas par cas avec le le comédien si il autorise explicitement via un contrat de prêter sa voix pour qu'elle soit réutilisée, la limiter dans un périmètre de temps et associer une rémunération par rapport avec ça.

Mais la voix d'un comédien appartient à ce comédien ou à ses héritiers ou à ses héritiers. Et donc c'est à eux de voir mais la rémunération doit rester doit rester pour les comédiens parce que sinon finalement on tue on tue globalement toute création artistique. Et pour rassurer également, j'ai rarement vu, j'utilise l'IA quotidiennement, j'ai rarement vu des idées de génie disruptif sortir.

Comme je vous l'ai dit, c'est quelque chose d'assez moyen. Le monde de la culture a raison de s'inquiéter en partie parce que dans beaucoup de métiers comme celui du doublage sur lequel j'aimerais rester, c'est des métiers assez précaires. on fait par film.

Si vous êtes connu, vous arrivez à avoir un cachet. Mais même tout ça, c'est assez assez peu rémunéré. Donc c'est tout ça qu'il faut qu'il faut encadrer.

Et derrière notamment en France, le cinéma est beaucoup subventionné. On peut mettre des conditions à ça, à savoir que il y ait pas d'usage de LIA ou autre pour la production des films. Enfin voilà, le politique, le législateur peut peser de son poids sur ce sujet.

Oui, je crois que je crois que on a je disais tout à l'heure, il y a on a besoin que à différents niveaux chacun s'engage parce que ce sont des ce sont des sujets qui qui traversent la société et que personne personne ne pourra y faire face seul aucune organisation. les parlementaires, notre rôle c'est d'accompagner euh tout cela et euh que ce soit pour la presse ou pour les artistes euh ils sont euh ils voient au quotidien comment est-ce que la li est en train de transformer leur univers, leur leur euh leur travail, en quoi est-ce que c'est parfois des aides à leur travail et en quoi est-ce que c'est à l'inverse un risque, une menace pour pour leurs emplois ou pour la voilà pour la façon dont il dont ils travaillent pour leur propre création. Euh euh et donc il faut faire avec eux.

On peut pas il faut pour pouvoir les défendre, il faut faire avec eux. Euh on a en France toujours défendu euh le modèle d'une exception culturelle à la française parce qu'on a toujours considéré c'est pas qu'il y a une exception culturelle de la culture française mais c'est qu'il y a une en France euh la considération que la culture est une exception et que on doit considérer la question culturelle de manière totalement différente de ce qu'on peut de de des autres domaines qui sont commerciaux alors que la culture est aussi commercialisable et Et et donc cet esprit là, il faut le porter. Il faut le porter au niveau français, mais il faut pouvoir le porter aussi au niveau européen.

Et peut-être je crois que on peut le porter plus de manière plus forte qu'on a pu le faire dans le passé au niveau même international parce que justement la menace de l'IA est une menace nouvelle y compris voilà dans des dans des dans des secteurs comme l'industrie hollywoodienne par exemple où ils ont pris conscience qu'il y a besoin de protéger les créateurs de manière beaucoup plus forte que ce qu'ils avaient pu considérer jusqu'à présent, même si ça n'empêche pas Netflix aujourd'hui de faire de revendiquer, de faire des scénarios avec de l'IA et voilà. Euh mais euh on a aussi je crois dans plus dans le grand public euh une prise de conscience du fait que ben il y a des choses qui avec l'IA qui sont exceptionnel mais aussi on a aussi besoin de protéger la création humaine. Euh là on a vu c cette cet hiver avec cette publicité intermarché euh avec le loup qui a fait qui a explosé dans le monde entier et notamment parce que c'était une création 100 % humaine quasiment.

Ça faisait partie aussi de la raison pour laquelle ça a explosé au niveau mondial, non seulement parce que c'était sympathique comme voilà comme publicité, mais aussi parce que dans ce monde où aujourd'hui on a de lia partout, tout d'un coup, on a vu quelque chose qui était une création 100 % humaine. Et donc on voit bien aussi quand même que il y a cette sensibilisation de de l'opinion publique. Donc il faut aussi pouvoir s'en servir.

Et quand on est aussi parlementaire, on doit aussi pouvoir aussi s'appuyer sur ce qui euh ce qui est compris aussi par nos concitoyens et et pouvoir travailler avec eux aussi sur ces questions parce que eux-mêmes en tant que consommateur de l'IA, parfois il ne c'est comme quand on avait les problèmes de enfin maintenant c'est il y a eu d'autres modèles qui se sont qui ont émergé par rapport à la question de la du piratage de la musique numérique des enfin de des contenus numériques avec les les plateformes de de toutes les plateformes de streaming qui posent d'autres questions mais qui ont changé de modèle commercial de la commercialisation de la création, mais aussi parce qu'il y a une sensibilisation du grand public euh sur la question de la spolation des artistes finalement euh parce que bah c'est pas parce que c'est un sur internet que c'est gratuit. Bah c'est un peu le même travail qu'il faut refaire avec Lia. Euh et et je crois qu'aujourd'hui on a on commence à avoir une petite maturité aussi du grand public sur ces questions-là.

Il faut pouvoir s'appuyer dessus pour pouvoir euh euh aussi euh adapter. Finalement, je crois qu'on a pas besoin de tout réinventer en matière de droit. de droit de propriété, c'est comment est-ce queon euh comment est-ce qu'on a on adapte, moi non plus, je suis pas spécialiste du droit de la propriété intellectuel, mais voilà, comment est-ce qu'on on adapte le droit d'auteur et le droit de la propriété intellectuelle aux évolutions euh de de l'IA aujourd'hui.

Monsieur le président, je peux je peux rebondir très rapidement ? Oui, c'est vrai par rapport à à ce que vous avez dit, chers collègues sur sur le la grève qu'il avait eu à à Hollywood et l'exemple du streaming est intéressant parce que je me souviens que ça avait fait beaucoup parler, fait beaucoup couler donc parce que ça revoyait tout le système financier de comment était vu la musique. Mais il faut de la même manière pour l'IA, il faut voir que ces changements peuvent être une opportunité pour les petits. par exemple, j'ai noté et je je ne savais pas mais ça facilite l'histoire des petits artistes.

Aujourd'hui, par exemple Jules et ou Angèle s'était fait connaître via des plateformes de streaming ou via des vidéos des vidéos sur internet ce qui aurait peut-être pas été possible dans le modèle ancien. Et donc, il faut faire attention en tant que législateur à pas défendre un système qui n'aurait peut-être plus de sens avec la nouvelle technologie où l'IA pourra peut-être aider des personnes qui ont un peu de génie mais peu de moyens, rendre accessible le fait qu'il puisse produire quelque chose, se faire connaître et derrière devenir peut-être créateur, vidéaste, vidéaste de demain. car encore une fois l'IA ne crée pas le talent mais permet au contraire d'amplifier et ça bénéf ça bénéficiera surtout à ceux qui ont cette petite singularité qui font qu'ils ont du talent et que et que ça marchera.

Donc il faut faire attention, faut faire attention à ça. Mais la vraie question et je pense qu'on a bien compris là, c'est de voir comment on adapte le système de rémunération pour que personne ne soit laisé, qu'on arrive à faire perdurer ce système tout en permettant à des petits de s'en sortir et d'y entrer. Un autre un autre rebond pour reprendre le l'expression parlementaire à propos de la gouvernance ou de la régulation.

Euh nous parlementaires, c'était le cas ce matin aussi avec deux autres sénateurs, nous nous préoccupons au fond de la sauvegarde du modèle culturel français et de l'exception culturelle française à travers l'IA euh pour essayer d'en d'en distinguer les aspects positifs pour la production artistique car il peut y avoir il y a des aspects positifs mais également pour essayer d'éviter les écueils principaux que cela présent représente notamment pour les artistes même et pour tous les professionnels des arts. De même, il faudra enfin nous y viendrons le moment venu interroger sur la question de la fonction enseignante sous à l'air de l'IA générative et conversationnelle. Bien, ça c'est que nous faisons en tant que parlementaire français.

Tout à l'heure, vous rappeliez madame laatrice que au niveau européen, on a un act bon qui est un peu comme dirait Salvator Dali une montre molle quoi. C'està dire que bon c'est c'est l'Européen quoi. Donc c'est c'est assez mou.

On le voit pour la question agricole en ce moment, je ferme la parenthèse. Bon euh mais qui a intérêt à réguler c'est dire nous européens, nous avons cette sensibilité parce que nous avons une culture du droit et une culture aussi de la culture, c'est-à-dire des des comment de la production de l'esprit de la de la inginosité de la créativité. Nous sommes pas les seuls bien sûr au monde mais croyez-vous que la Chine et que les G femmes veuillent être régulés ?

Est-ce que est-ce est-ce qu'au fond en appeler à une régulation mondiale, puisque c'est le terme que vous avez utilisé tous les deux, ne relève pas un peu de l'utopie ? Il y a plusieurs choses. Certaines gafam appelé de leur vœux les régulations parce que finalement, si vous voulez, c'est c'est des multinationales, donc elles ont les équipes pour le faire et elles savent que ça va tuer la concurrence des petits qui n'auront pas de services juridiques pour s'y adapter.

Mais ils jouent également un double jeu où ils essayent de de passer entre entre le entre les gouttes. Euh le problème qu'on risque d'avoir avec une régulation que locale, c'est que certains produits ne seront accessibles qu'ailleurs que chez nous et que ça augmente la productivité là-bas et pas chez nous. C'est extrêmement compliqué.

Enfin, il y a vraiment un juste milieu à trouver. Par exemple, on parlait du milieu du cinéma. Euh on a un cinéma français, je pense qu'on est capable localement de dire comment se passe la rémunération, qu'est-ce qu'on met en avant, avoir une vraie identité euh sur ce sujet.

Euh par contre sur la gouvernance mondiale, c'est compliqué. Euh ça va être ça va être un rapport de force, mais si on est assez euh à peser, bah sinon à quoi ça sert l'ONU ? À quoi ça sert l'OMC ?

Enfin, l'OMC est un mauvais exemple pour le coup. Mais ce que veux dire, je je pense qu'il faut essayer parce que on risque de prendre du recul et il y a des blagues sur internet qui sortent où les Américains sont très bons pour pour développer. Nous, on est très bon pour réguler mais finalement il y a rien qui sort.

Donc, j'insiste sur la prudence de il faut trouver le juste milieu. Ça veut pas dire que qu'on doit soutenir le Far Wouest américain au Chinois qui ne respecte rien. Enfin, je pense qu'on veut pas un crédit social à la chinoise avec des caméras reconnaissance faciale à tous les coins de rue.

Il y a juste au milieu à trouver. Oui, je pense qu'entre la Chine et le et le les États-Unis, on a deux modèles déjà complètement différents en réalité parce que la Chine, ça reste un pays autoritaire et donc il y a d'autres formes de régulation. C'est-à-dire que euh ils utilisent ils ils utilisent ils autorisent des usages que nous on considère complètement non éthique, mais c'est euh euh parce que eux ils y voient leur leur intérêt d'un point de vue politique dans un régime autoritaire.

Euh par contre, je pense qu'il y a d'autres usages. Il y a il y a enfin eux ils ont des régulations assez fortes par rapport à à d'autres us et d'ailleurs ils ont pris du temps à sortir de l'IA système expert qui était parce qu'ils avaient eu beaucoup d' en réalité dans leur industrie mais sur des systèmes experts et ils ont ils ont pris du plus de temps à passer sur la diagénérative pas juste parce que il y a eu un un fossé technologique qu'ils ont dû rattraper mais aussi parce que je enfin il y avait une question de de savoir comment eux ils allaient contrôler quelque chose qui leur paraissait pour le coup lèg générative assez vite incontrôlable. C'est-à-dire euh et et donc ça pour eux c'est quand même un un énorme un énorme sujet. euh aux États-Unis, ce que on a quand même ressenti quand on était là-bas et que on a discuté avec les on échangait avec les les compris euh ceux qui sont dans les open ou euh ou churanthropie et cetera, il ils étaient en réalité quand même assez demandeurs de régulation effectivement parce que étant déjà là prêt à s'adapter, ça leur permettait peut-être d'être effectivement mais euh sur faire sur le marché ce qu'ils ont pu faire aussi avec le quand on a fait le RGPD et que et que ça a d'abord profité aux grosses entreprises en réalité qui avait les capacités de de bah de de d'être de se mettre en conformité mais aussi parce que en réalité ils savent qu'il y a quand même une inquiétude dans la population sur les risques qui sont associés à l'IA et que et que comme en plus aux États-Unis c'est un pays de procès c'est de euh finalement pouvoir dire que c'est c'est pas eux qui ont inventé une norme de sécurité, que c'est ils se ils suivent une norme qu'on leur impose.

C'est aussi une façon de se dédoiner si jamais il y a un problème en disant "Mais non mais moi on a on a fait on est on est conforme." Voilà. Et donc je il y a il y a quand même il y a et y compris c'était aussi ce qu'on avait compris de l'état d'esprit dans lequel le le l'exécutive order de Biden euh sur euh sur la mise en place d'une première forme de régulation aux États-Unis se mettait en place, c'est-à-dire y compris en en accord avec les big tech américaines, avec les G femmes parce que il se rendait compte qu' il fallait quand même pouvoir dire parce qu'il y a quand même cette question le lia de confiance euh qui finalement est un est un atout marketing aussi.

Euh et donc voilà, donc il y a il y a un peu cette entre deux qui veulent ils veulent bien un peu de régulation mais pas trop parce qu'ils veulent quand même pouvoir expérimenter, innover sans être trop embêté. Euh et puis surtout ils veulent dicter la régulation qui leur convient. Euh voilà.

Donc donc c'est pour ça que nous on a nous au niveau européen, on a intérêt parce que on est on a un marché qui est quand même un énorme marché et quand même à la fin, on voit bien que finalement le RGPD c'est est devenu une norme qui s'est un peu imposée partout parce qu'une fois qu'il faut s'adapter au marché européen, bah on réinvente pas la route dans les autres marchés quoi. Voilà. Donc on a un enjeu à à définir quel est le bon niveau de régulation au niveau européen.

Donc effectivement sur les sur les risques et les usages par rapport aux questions aux questions éthiques, aux questions de respect de l'état de droit, question de responsabilité sociale et responsabilité environnementale. Ouais, merci beaucoup. Alors, c'est je pour rebondir sur vos propos, c'est vrai qu'il y a eu un éveil des acteurs de la tech à tout ce qui est respect du droit de la propriété intellectuelle pour revendiquer que eux ne se fassent pas copier par leurs concurrents.

Et c'est vrai qu'ils sont alors ils l'utilisent parfois en disant "C'est mon secret des affaires, je vais pas vous livrer ma recette." Et du coup, ça les éveille un peu à être euh plus attentif au respect des autres parce qu'ils se disent que eux c'est aussi leur euh leur capital qui est qui est en jeu. J'aimerais maintenant partir sur l'éducation avec une première question et qui rejoint la question de l'éveil et de l'interpellation des citoyens sur les enjeux de l'intelligence artificielle.

On a il y a quelques années en 2018 en Finlande une initiative qui a été lancée par le gouvernement et les entreprises finlandaises qui était d'éduquer en tout cas de sensibiliser 1 % de la population finlandaise aux enjeux et aux principes de l'IA. Euh cette initiative s'est euh trouvée au cœur de la présidence finlandaise du Conseil de l'Union européenne puisque ils ont pu donner ces éléments qui s'appellent Elements of AI dans plusieurs langues. Euh est-ce que vous avez eu connaissance de cette initiative ?

Euh qu'en pensez-vous sur cette question de l'éducation de la population en général et pas seulement des plus jeunes d'entre nous ? Oui. Euh oui, on en a entendu parler et on on s'en est même euh c'est dans une de nos recommandations justement parce qu'ils ont quand même réussi le coup de force de former 1 % de leur population avec euh avec ce module.

Pour moi, la formation et pour nous, je pense sans te trahir, la formation est peut-être l'une des choses les plus importantes à faire parce qu'on ne fera pas de révolution technologique de l'IA sans prendre le peuple par la main pour l'emmener pour l'affaire parce que le but de ces formations, c'est de démystifier l'IA. Vous l'avez dit en propos introductif, il y a encore les images de la science-fiction avec Terminator, beaucoup de films qui alimentent qui alimentent ses craintes et donc dans l'esprit populaire, c'est important qu'avec ces formations, on arrive à expliquer ce que peut faire Lia et ce dont elle est incapable. Et je pense qu'avec le rapport qu'on a fait, les discussions qu'on arrive à avoir, le fait d'en parler le plus possible aux gens en les formant, on arrivera justement à faire ça, à démystifier et à comprendre que je pense qu'on en reparlera notamment au niveau de l'emploi, on sera capable de leur expliquer que non, LIA ne vous remplacera pas directement euh mais elle vous servira pour être meilleure, pour traiter plus de dossiers, euh pour gagner du temps, peut-être finir plus tôt ou du moins comme vous aurez travaillé plus sur la même plage horaire, logiquement, vous devriez être payé plus.

Bon, on sait que ça se passe pas nécessairement comme ça, mais la formation est essentielle et j'insiste sur le fait qu'il faut former toute la population. Euh je pense qu'au niveau de l'éducation, donc que ce soit euh primaire, secondaire, étude supérieur, c'est nécessaire, mais également former les gens qui travaillent parce qu'il est pas question que quelqu'un qui est rentré sur du travail à 35 ans soit laisé pendant 20 ans et et n'est pas de carrière, mais également les adultes et les retraités. Euh moi je suis assez effaré.

Enfin, il y a des deep fake qui sont quand même assez grossiers. Euh bon, sans vouloir me mettre à dos toutes les vieilles personnes de France, mais euh les mêmes parents qui nous expliquaient attention à ce que vous voyez sur internet sont les premiers à me m'envoyer des des montages assez grossiers pour me dire pour me dire c'est vrai. Et donc c'est pour ça que j'insiste qu'il faut accompagner toute la population pour prendre du recul et pour éviter tous les effets de des informations qu'on connaît et les possibles ingérances étrangères qui peut y avoir notamment notamment au niveau des élections.

L'information, c'est vraiment le maître mot. Il ne faut laisser personne de côté, étudiant, retraité, actif. Tout le monde doit y passer pour bien comprendre et accompagner cette révolution et ce changement.

Pourriez-vous revenir sur les Ah pardon, vous vouliez compléter ? Oui. Non, juste effectivement, je crois qu'on on a une une population qui a de quasiment de Tous âge aujourd'hui utilise enfin il y a plein de gens même de Tousage qui demandent achète GPT des choses euh et qui effectivement ne comprennent pas comment ça marche, ne se rendent pas compte du taux de d'erreur euh qu'il y a parce que ils comprennent pas ce que c'est le le le le mode de probabiliste de des génératives.

Et donc ça c'est vraiment un sujet aujourd'hui qui a qui est que il y a il y a beaucoup de gens qui utilisent de l'entravail. c'est le enfin le la question du de l'utilisation d' caché euh et donc cette question de la formation, cette question de l'éducation depuis le plus jeune âge est extrêmement importante. Euh le modèle finisé, c'est un un effectivement un modèle qu'on sur lequel on s'est appuyé pour faire des propositions.

Et on voit bien que comme Lia va très vite, c'est vraiment une question de de d'expliquer les fondamentaux finalement pour que pour que chacun aussi comprenne comment les choses évoluent et que mais il y a aussi un aspect qui est quelque part d'un travail toujours à recommencer parce que justement parce que ça va très vite, il y a il y a un un un aspect qui est nouveau avec l'IA par rapport aux autres technologies qui Et ça ça va être vrai aussi dans le enfin en particulier vrai dans le monde du travail, c'est le fait que il y aura quasiment des mises à jour de formation à faire de manière régulière. Il y a des choses à repenser de manière très régulière. On a fait des recommandations aussi sur le fait de la question du dialogue social et mais c'est pas comme si c'est pas comme quand on a on fait une grande réforme du travail quand on a fait je sais pas la réforme des 35 heurs.

On a fait on a fait des grandes conférences sociales pour voir comment on réorganise le travail avec les 35 heures. Bah on peut pas faire ça juste une fois en fait. qu'il faut en faire très régulièrement parce que très régulièrement ça va bouleverser euh la manière dont on pense, dont on travaille, dont on réfléchit, dont on interagit.

Euh et donc ça c'est quelque chose de très nouveau aussi euh auquel on n'est pas encore préparé en réalité, c'est le fait que c'est c'est la formation continue dans le le pour à toutes les générations et pour et pour longtemps. Ouais, c'est la question de l'éducation tout au long de la vie. Pourriez-vous peut-être revenir sur les avantages de LIA pour que vous identifiez hein, en matière d'acquisition des connaissances et d'apprentissage, euh quelles pourraient être les applications concrètes et vertueuses là pour le coup euh de l'IA ou de l'IA génératif dans le champ scolaire.

C'est plutôt sur l'éducation scolaire et sur l'enseignement supérieur, sur le monde du travail, on le laissera un peu de côté même si j'y accorde beaucoup d'importance, mais déjà voilà, quelles sont les utilisations vertueuses que vous identifiez euh pour nous permettre d'acquérir des connaissances et d'apprendre ? Alors, on a un peu abordé ce sujet de manière, comme on l'a dit, de manière très générale dans le dans le rapport. Donc euh mais euh euh on a eu des échanges intéressant notamment à San Francisco avec un avec everyone euh qui est un petit groupe de de chercheurs de chercheuses d'ailleurs essentiellement des Françaises euh qui donc qui sont basés à San Francisco en San Francisco et qui travaillent sur l'impact euh des en particulier de l'intelligence artificielle donc sur le développement des des enfants et donc leur leur développement.

Et donc à la fois, il y avait les aspects euh les aspects positifs et les aspects risques par rapport à ces choses-là et notamment le fait qu'il faut faire très attention au côté risque euh à la la difficulté pour les enfants de diffère la différence entre le monde virtuel et le monde le monde réel. C'était déjà le cas même avec du virtuel assez grossier type jeux vidéo en 3D ou quand même quand on est adulte, on sait que c'est pas vrai. Euh mais quand on est quand on est enfant, c'est beaucoup plus beaucoup plus compliqué.

Donc un un jeu vidéo, un enfant trop jeune, si on lui explique pas que quand il vole dans un jeu vidéo, c'est juste un jeu et c'est virtuel, peut-être que demain il va monter sur le toit et décider qui s'est volé. Donc c'est quand même un peu dangereux. Voilà.

Et donc ça, cette question là, c'est encore plus euh exacerbé par la le réalisme de ce que peut produire l'é aujourd'hui et donc la l'incapacité de de différencier le le virtuel du réel. Donc ça c'est un ça c'est la le premier risque. Et le deuxième risque c'est le fait que euh il faut s'il y a utilisé trop tôt, ça peut devenir une béquille.

Et donc on est incapable de d'apprendre à penser par soi-même sans sans demander d'abord à Lia ce qu'on doit penser. À l'inverse, il y a de vraies opportunités justement si on sait utiliser l'IA si les éducateurs savent utiliser utiliser Li à Boncian qui est que bah c'est beaucoup plus facile de produire des contenus pédagogiques qui sont adaptés aux particularités d'un enfant et en particulier pour l'école inclusive pour des personnes des enfants avec des difficultés d'apprentissage spécifique avec des handicaps et cetera et donc finalement ça peut être une manière pour des enseignants de gérer des classes avec des des niveaux homogènes et des personnes avec des des élèves avec des avec des des particularités, des différences des différences importantes en terme de de capacité d'apprentissage euh et de produire plus facilement des des contenus pédagogiques adaptés. Mais ça ça veut dire aussi un enseignant qui sait enseigner et qui sait ce dont l'enfant a besoin et qui donc demande à Lia de les aider à produire de manière beaucoup plus rapide. euh beaucoup de enfin des contenus pédagogiques.

Donc on on en revient toujours à cette à cette question de l'IA euh générative qui est euh le problème essentiel, c'est que euh ça sert euh c'est c'est euh euh c'est très utile euh quand on a déjà soi-même une expertise et qu'on sait quoi demander à et qu'on sait contrôler le contenu, le la qualité du contenu qui est produit. Euh donc c'est ce qui veut bien dire que l'IA a une aide mais l'IA ne pourra pas remplacer euh l'acquisition d'une expertise humaine pour pouvoir utiliser correctement Lien. Pour compléter, je vous invite vraiment à auditionner onei.

C'est c'est très intéressant parce qu'en fait il travaille avec des gens qui sont psychologues et qui voient les étapes de développement de l'enfant. Et voilà ce qu'elle expliquait c'était avec les casques VR en fait on pouvait être au fond de l'océan avec une baleine qui passe à côté. Bon ben l'enfant avait pensé qu'une baleine pouvait vraiment voler entre guillemets à côté d'eux que eux pouvaient être au fond de l'océan.

Donc c'est c'était très intéressant de ce point de vue-là mais aussi ils expliquaient que parfois vous voyez sur certains applications d'apprentissage de langue entre autres les mécanismes de récompense n'étaient pas forcément placés au bon endroit et ne vous facilitait pas vraiment l'apprentissage de la langue et que c'était juste on vous envoyé des trucs à l'écran pour vous éblouir mais finalement ça ne vous aidé pas vraiment. Euh le point essentiel pour moi et la vraie opportunité, c'est le fait que Lia pourrait devenir un professeur particulier et à diminuer les inégalités. Vous êtes tout le monde est à l'école républicaine.

On apprend tous ensemble et sauf que quand on est à la maison, bah les inégalités reprennent avec des parents qui sont capables de passer du temps avec leurs enfants pour les aider à comprendre, faire des exercices à côté et ceux qui sont un peu laissés pour compte. LIA au contraire pourra être là. adapter les contenus, les rythmes aussi les supports aux besoins individuels.

Ça sera vraiment pas un cours qui est adapté à tout le monde mais vraiment adapté à votre personne. On parle souvent du système éducatif en disant bah les laisser pour compte qui ne sont pas capables de suivre dont la méthode n'est pas adaptée. LIA permettra ça.

Euh ça pourra faciliter l'accès au savoir en reformulant des notions complexes. Bah parfois on comprend pas avec la première mais au bout de la troisème fois où on m'a expliqué trois fois la même chose en multipliant les exemples. Peut-être que c'est plus clair.

Ella à l'inverse de votre père ou votre mère est beaucoup plus patiente aussi parce qu'elle n'a pas d'autres choses d'autres choses à faire et donc ne sera pas énervé qu'un enfant repose n fois la question. Chose que tu as très bien dite aussi euh faut éviter la béquille. Et donc là, c'est Daniel Handler, on vous donnera si vous voulez les les coordonnées, philosophe un peu mathématicien qui lui expliquait sa manière de voir les choses qui me semblent étaient très intéressantes, à savoir qu'il faut séparer les apprentissages, le lire, écrire, compter, mais aussi tout ce qui développe votre raisonnement, votre manière de penser de l'utilisation de l'IA.

Lia est là pour soutenir mais n'est pas là pour remplacer parce que si vous n'êtes pas capable d'avoir une pensée construite, l'IA pensera pour vous mais finalement vous n'aurez rien dans la vie de tous les jours. Vous serez vraiment dépourvu. Et donc ce qu'il conseille c'est vraiment d'avoir deux types de cours en parallèle.

Un où vous êtes seul avec votre crayon et votre papier à répondre à des questions, montrer votre manière de raisonner et un autre où vous pouvez vous appuyer sur l'IA pour pour avancer. Vous venez d'aborder la question de de l'IA en dehors de l'école. Est-ce que vous iriez jusqu'à dire que l'IA à l'école plutôt non mais plutôt oui pour plus de personnalisation et suivie et de réduction des inégalités à l'extérieur ?

Non, je ne pense pas. Je pense que les professeurs doivent être formés pour apprendre parce que je peux mettre cinq personnes différentes devant devant Unia, on aura pas les mêmes résultats parce que Unia faut savoir lui parler, comment lui demander les choses et c'est l'art du prompte et ça ça s'apprend et donc je pense que les professeurs devraient être là pour aider les enfants, les élèves à savoir comment prompter pour avoir les solutions à leur question. Nous saluons l'arrivée de Rodrigo Arenas, membre de la commission et très très versé sur les questions éducatives.

Donc je suppose qu'il aura des questions. Juste pour compléter là-dessus, je suis d'accord avec ce que vient de dire Alexand Savatou. Le problème c'est que il faut aussi d'abord former les enseignants et qu'aujourd'hui on a on a même quelques petits problèmes de moyens dans l'éducation nationale déjà pour pouvoir faire fonctionner l'école.

Puis moi je suis dans un département la sandé où on est en on a on a un un sujet de de voilà de de moyen insuffisant en général pour pour l'éducation nationale. Euh et donc là on voit bien que Lia euh va être un révélateur et un amplificateur des inégalités déjà existantes en réalité par rapport à cette question de l'appropriation liée à l'école. H en matière de d'enseignement supérieur et de recherche.

Donc là, on est sur une mission d'information sur l'intelligence artificielle et les connaissances. Les universités, les grandes écoles produisent de la connaissance. Quelles sont les opportunités offertes par LIA de créer ses connaissances et de les diffuser ?

Je dans le dans le monde de la recherche, l'enseignement supérieur, enfin de la recherche en tout en tout cas euh il y a moins d'inquiétude en réalité aujourd'hui par rapport à la question de l'IA, c'est que il y a une question évidemment de aussi d'appropriation des outils mais enfin il y a il y a une expertise et une maturité qui fait que justement l'intégration de l'IA dans la recherche est finalement plus plus facile et moins inquiét euh parce que je crois que les risques sont aussi euh mieux maîtrisés parce que par ailleurs, il y avait déjà des utilisations de l'IA avant il a génératif, beaucoup déjà dans la recherche notamment dans la santé, dans l'imagerie, enfin il y a il y a beaucoup de domaines où il y avait déjà des IA spécialistes de des IA système expert euh IA de apprentissage neuronal et cetera euh qui était déjà qui faisait déjà partie du quotidien des chercheurs et de l'enseignement et dans l'enseignement supérieur. Et donc le la migration vers la le l'IA génératif demande une adaptation mais qui se fait je crois plutôt bien aujourd'hui. La question va être sur les générations les générations qui qui viennent et et parce que l'IA générative étant comme on l'a dit connexionniste et donc privilégiant les les raisonnements inductifs, euh on a quand même besoin dans la dans la recherche fondamentale dans la et en général dans la dans la recherche aussi de continuer à développer euh les raisonnements déductifs.

Euh et donc et donc la la question de la prévalence de l'IA générative, en tout cas dans sa forme actuelle, on sait pas comment elle va évoluer, euh pose un petit peu quand même question sur l'impact que ça va avoir à terme sur sur la manière dont on dont on fait avancer la la recherche. Disons que je crois qu'il y a globalement une une conscience assez élevée de ces problématiques dans le domaine de la recherche aujourd'hui. Je reviens éventuellement compléter ma réponse et et vous donner l'occasion, c'est par rapport à la diffusion aussi avec les fausses informations ou les fausses sources qui peuvent citer des articles de recherche qui n'existent pas.

Euh donc euh quelle euh opportunité mais aussi euh quel risque pour la diffusion de la connaissance scientifique ? Question euh importante. Je je réponds d'abord à votre première euh première question.

Pour moi, c'est vraiment une opportunité parce que vous l'avez dit justement, il y a un travail de recherche de source. Maintenant, je réponds directement à votre question. En fait euh là ces problèmes de source inventées viennent souvent d' générative généraliste.

Là on pourrait imaginer, il me semble que c'est déjà le cas, il y a des chercheurs qui travaillent pour répertorier dans une spécialisée générative spécialisée sur encore plus de données avec toutes les publications dans Nature et cetera. Et donc là ça sera ça sera factuel même les IA aujourd'hui vous pouvez leur demander la source elles sont capables de vous les de vous les fournir si si vous les demandez. Donc à partir de ce moment-là si vous cadrez suffisamment la demande devrait pas y avoir de problème de d'où viennent d'où viennent la donnée.

Mais justement l'IA va servir parce que vous savez queaujourd'hui les publications il y en a énormément alors qu'avant c'était très ciblé sur sur une technologie. Maintenant, il y a dès qu'on arrive à modifier un tout petit peu une molécule, il y a une publication qui est faite et donc si vous êtes chercheur en chimie ou je ne sais quoi, euh pour rattraper 1000 publications, vous avez pas le temps de tout lire, même si vous lisez que l'abstract. Et donc l'IA permettra de faire le tri, euh vous dire lesquelles sont importantes pour vous pour vous aider justement à avancer dans votre travail.

Et ça c'est quelque chose qu'on ne voit pas mais qui prend énormément de temps énormément de temps aux chercheurs. Mais ça les aidera aussi je pense à Alpha Fold qui a qui a permis de gagner l'un des derniers prix Nobel qui permet de modéliser et de prédire. Et donc quand vous êtes un chercheur, votre temps est contraint, vous pouvez pas faire toutes les expériences que vous pouvez et ben avec des logiciels dia spécialisé comme ça, bah vous pouvez modéliser, prédire et ça vous dira quelle expérience vous devriez faire pour limiter le taux le taux d'erreur et vous permettre d'avancer d'avancer plus vite et vers les pistes les plus prometteuses. mais également l'IA, vous le savez, c'est un ça permet l'analyse de données massives et donc avec ça, il y a certains voilà, j'avais noté quelques quelques aspects par exemple sur la génomique, l'astronomie.

Bon, il y a énormément de données à traiter permet cela et donc vous permet d'avancer et de vous concentrer sur les sujets qui vous intéressent. Euh pour rester un peu sur le plan de la question éducative, euh parlons de l'enseignement supérieur, de l'enseignement supérieur, du point de vue des étudiants, donc pas de la recherche. Euh si on voit que dans l'enseignement scolaire, le professeur demeura central dans les acquisitions et dans la transmission des connaissances, ne serait-ce que pourrait et et enfin enseigner aux enfants à se servir et à comprendre l'intelligence artificielle ou à rédiger les promptes, donc des questions permettant de s'en servir intelligemment.

Donc la question n'est pas trop l'enseignement scolaire que celle de l'enseignement supérieur. Dans un livre récent de le docteur Alexandre et monsieur Babau, ils ont intituler leur leur livre Ne faites plus d'études. Bon et ça s'adressait aux étudiants.

Il parlait même de génération sacrifié en considérant que l'université dans ce mode d'enseignement était un modèle totalement obsolète et que un étudiant donc capable de maîtriser Chat JPT par exemple ou un agent conversationnel génératif et cetera pouvait très bien se passer d'aller au cours et qui pouvait se s'autocultiver s'autoinstruire. Qu'est-ce que vous en pensez ? Est-ce que on peut acquérir de la culture grâce à l'intelligence artificielle générative en se passant d'un professeur à l'université ?

Bon, on a auditionné monsieur Laurent Alexandre. Bon, il aime bien les coups d'éclat. Euh je pense qu'il exagère beaucoup pour euh faire parler et en ça je le remercie parce que au moins il ouvre le débat et on se pose on se pose ses questions euh pour utiliser Lia régulièrement.

Quand on sait quoi lui demander, on arrive à avoir des réponses mais parfois c'est un peu flou et je pense que c'est arrivé à chacun d'entre nous. On le corrige et après il dit "Ah oui, c'est vrai, vous avez raison." Bon quand on est un étudiant seul devant sa machine, c'est compliqué de savoir vraiment ce qu'il en est.

Moi, je pense que aujourd'hui c'est pas possible de remplacer le professeur parce qu'il connaît sa matière, il sait comment l'amener de manière pédagogique, dans quelle direction. Unia finalement n'a pas de programme ou alors faudrait vraiment la travailler. N'a pas de programme pour vous faire apprendre étape par étape.

Qu'est-ce qu'il faut quelle base il faut apprendre avant pour maîtriser pour comprendre ça ? Comment y revenir ? Ce qu'un professeur est censé être savoir faire avec pédagogie.

Donc voilà, moi je suis pas aussi inquiet que lui. Oui. Non, ça serait quand même assez inquiétant si on devait uniquement se confier no l'enseignement supérieur euh au aux IA génératives, y compris si elle si euh elle s'améliore et que et qu'elle euh et et qu'elle produise moins d'erreurs.

C'estàd qu'au fur et à mesure, elle commence à devenir bon le taux de fiabilité augmente petit à petit, mais elle continue à faire à faire beaucoup d'erreurs. Mais surtout parce que la qualité de liage génératif dépend de la qualité des données sur lesquelles on les entraîne. Il y a quand même il y a quand même un un sujet.

Je vois pas comment très on voit pas très bien comment on peut devenir euh acquérir des compétences suffisantes pointu dans un domaine particulier pour pouvoir pour exercer un tel ou tel ou tel métier euh uniquement en est en s'entraînant tout seul avec de l'IA sans avoir sans avoir un un expert. Il y a ça reste ça reste uniquement un outil qui doit venir aider, appuyer, faciliter le travail d'un enseignant. Mais ça peut pas remplacer aujourd'hui les enseignants.

Euh on on on pourrait avoir des débats justement sur la différence qu'on a entre le rapport d'un professeur avec sa classe de 25 élèves en CP et puis un professeur en cours magistral devant 400 élèves qui l'écoutent plus ou moins et avec elle avec lesquels il n'interagit pas forcément beaucoup. Mais je voulais revenir sur des expérimentations. On a dans le questionnaire mentionné euh l'Alpha School qui est euh à Austine.

Je sais pas si vous avez eu l'occasion de regarder, mais l'idée c'est de consacrer euh deux heures aux matières classiques, aux fondamentaux de la lecture, des mathématiques qu'ils étudient avec des logiciels DA et le reste de la journée, c'est plutôt sur des connaissances pratiques ou des compétences tel que teles que l'esprit d'entreprendre, la prise de parole en public. Euh alors c'est une école qui se développe à San Francisco, Miami et cetera. Euh il y a un élève scolarisé à l'Alpha School d'Austine depuis 4 ans qui a ainsi déclaré "On n'est pas freiné par ses camarades ou parce que le professeur enseigne." Que vous inspire cette nouvelle méthode pédagogique ?

Je connaissais pas. J'avoue que j'ai découvert l'école, j'ai regardé très rapidement. Euh bon, moi ce que je note quand même, c'est que c'est un peu une niche, hein.

J'ai vu que le coût annuel de la scolarité était entre 40000 et 75000 dollars. Donc ça s'adresse vraiment pas à tout le monde. Et donc ça s'adresse globalement à une minorité très favorisée avec un environnement familial structurant et un fort capital culturel.

Donc c'est clairement pas un modèle qui est duplicable duplicable en masse. Euh lire, écrire, raisonner enfin et compter, ce sont pas des compétences que l'on acquiert par optimisation logicielle et ça a l'air quand même très tourné euh comment dire mercantil, je dirais euh sa prise de parole. Bon voilà, c'est je suis pas sûr que ça soit vraiment transposable transposable dans le public.

Après ce qu'il faut rappeler aussi c'est que l'école c'est aussi un lieu d'apprentissage du cadre commun de la de d'apprendre la vie en société et donc ça c'est pas c'est pas oublié. Donc je pense pas que le futur qu'on doiv rêver pour l'école c'est chacun dans une cabine avec un professeur particulier pour avancer. Oui, je connaissais pas non plus.

J'ai regardé al pour avoir vécu longtemps aux États-Unis, ça m'étonne pas trop. C'estàd que c'est euh c'est très américain de faire des expérimentations comme ça avec des méthodes complètement révolutionnaires et et qui et qui sont basé sur un sur un espèce d'effet de mode tout d'un coup et on et on bascule complètement dans l'extrême euh et avec alors les les coûts sont élevés mais sont assez assez euh moyens finalement par rapport à beaucoup d'écoles privées aux États-Unis. En réalité hein, c'est le coût de coup de la scolarité quand on paye pas beaucoup d'impôts.

Voilà. Euh euh et euh euh c'est assez en réalité c'est assez effrayant de de d'en arriver là et de considérer que c'est la voix du futur. surtout justement quand on sait le le taux d'erreur que font des IA aujourd'hui déjà de considérer que 2 heures uniquement par jour sur tous les savoirs fondamentaux ça suffit et qu'en plus on peut on peut faire ça par unia et quand on sait que justement les I sont capables de dire beaucoup de bêtises.

C'est assez effrayant. Le la seule chose qui est finalement un petit peu rassurante, c'est que ils estiment quand même que il y a quand même tous les autres enseignements ou a priori avec des êtres humains, c'est quand même des choses qui relèvent beaucoup de l'interaction sociale. Donc ils sont quand même pas oublié qu'on doit rester on doit garder un minimum d'interaction humaine dans dans l'apprentissage et l'enseignement.

Mais enfin, je crois que c'est vraiment pas un je suis pas sûr que ce soit un modèle qui fasse enfin qui Ouais. qui Oui, exactement. Qui fait école qui se qui se propage euh qui se diffuse largement aux États-Unis.

H bonjour à tous, bonne année à tout le mondement. Meilleur vœux. Euh merci de de votre présence.

Euh aujourd'hui, l'intelligence artificielle, qu'elle soit générative ou autre, est déjà utilisée par l'éducation nationale. Certes, elle est encadrée, vous avez peut-être eu l'occasion d'en parler, pardonnez-moi de de mon retard. Euh est-ce que vous vous imaginez, est-ce que vous pensez, est-ce que vous avez évalué euh la préparation de de l'école française à cette évolution technologique incontournable au-delà de la formation des enseignants ?

Parce que dans dans l'école, il n'y a pas que les enseignants qui font l'école. Il y a aussi les associations, les parents d'élèves, tout ce qui fait la ce qu'on appelle la communauté éducative. Que ça plaise à certains ou pas, ça existe et ça permet d'éduquer un enfant.

C'est une loi française depuis 2015, la loi de la coéducation. Donc à partir de là, étant nous sommes dans le temps de de la loi, nous allons la respecter. Est-ce que vous pensez qu'aujourd'hui l'école a pris ce chemin de de sa transformation, non pas de son adaptation, mais de son intégration d'une évolution technologique aussi majeure que l'a été l'imprimerie en son temps ?

Juste pour repréciser, voilà, notre rapport sur l'intelligence artificielle était quand même très général. C'est c'est plutôt nos positionosition qu'on exprime sur sur des sujets aussi précis. Il me semble que il y a des choses qui sont en train d'être faites pour sensibiliser les élèves, il me semble au primaire à l'intelligence artificielle, les classes de 4e seconde aussi pour pour les aider à ça.

C'est un premier pas. Je pense que la marge de progression est immense. Après voilà, vous connaissez très bien les sujets éducatifs, il y a énormément de sujets.

Est-ce que il y a suffisamment de moyens qu'on peut y allouer pour le faire ? Je j'en mets pas ma main à couper. Euh voilà, dans dans la vision qu'on a défendu euh et qu'on a mis en avant, il y a des changements à faire qui peuvent être fait, il me semble pas à à grand coup, mais euh ça demandera une vraie stratégie et un vrai chef pour fixer un cap pour faire ce changement et ça sera pas ça sera pas facile.

Oui, je crois assez globalement ce qu'on a ce qu'on a ce qu'on a noté dans le rapport c'est l'absence de stratégie nationale sur beaucoup de sujets et et dans l'éducation ça en fait partie en réalité. et que il y a il y a des initiatives mais qui sont toujours on a l'impression qu'on reste toujours au milieu du gay. On fait on fait deux trois trucs et puis on s'arrête là et il y a il y a pas de stratégie globale aujourd'hui suffisante clairement.

Ce matin, nous avions Jean-Cédric Vilani que vous avez mentionné notamment pour son travail sur la stratégie nationale de l'IA et parmi ses regrets au-delà de la question de l'égalité fam, il y avait l'éducation et lui recommandait ce matin qui ait une initiation généraliste à la programmation pour les élèves de primaire et de collège. Or aujourd'hui, si je veux programmer, je juste à demander à un agent conversationnel de m'établir les lignes de code que j'aurais mis du temps à le faire. Est-ce que c'est encore utile d'être initié de manière généraliste à la programmation, au codage ?

Moi je pense que oui, peut-être pas dans le sens expert, mais au moins comprendre toute la partie algorithmie, c'est-à-dire la manière de réfléchir pour arriver à ce résultat, comprendre ce qu'une machine ce qu'une machine peut faire. Euh même moi en tant que député, je me suis servi pour faire des un peu de VBA sur Excel pour mieux faire. Et je savais exactement quoi demander à l'intelligence artificielle.

J'avais réfléchi à l'algorithmie et c'est lui finalement qui m'a fait qui m'a fait le code derrière. Mais je pense qu'au niveau de la structure, c'est important d'être capable de lui parler et de comprendre comment c'est fait pour avoir un résultat un résultat correct. Mais je pense pas qu'il faille faire des experts développeurs de tous les primaires.

Ça ça servira à rien. Mais au moins comprendre. Oui, c'est plus une question de enfin une forme de culture générale sur le le fonctionnement des algorithmes et le et les bases de les bases du code pour que chacun comprenne parce que aujourd'hui il y a un sujet de toute façon il y a on a un sujet de boîte noire avec les I aujourd'hui qui est un un énorme enfin les I génératives euh y compris chez les enfin ça fait partie des des des énormes sujets de recherche pour le coup.

On a besoin là de mathématicien très très pointu pour essayer de de comprendre exactement que que comment fonctionne finalement ces agénératives en réalité parce qu'on a on a on continue à à s'interroger sur la la manière dont en réalité produit sous ces résultats. Donc euh on voit bien et les codeurs les meilleurs utilisateurs de l'IA pour coder sont des codeurs eux-mêmes en réalité parce qu'ils savent ils savent quoi demander. Euh donc oui, si c'est pour faire des un petit site internet effectivement on peut demander à CH GPT mais enfin si on veut faire des choses un peu plus compliquées c'est mieux de comprendre les bases du code quand même.

Rodrigo Arenas. Oui, merci. Pour préciser un peu euh ma ma question tout à l'heure, euh vous avez abordé dans votre rapport euh les questions stratégiques euh notamment une des aspects un peu anxiogènes aussi de non pas que je sois angoissé, loin de là, mais de comment est-ce que la France décroche en fait par rapport euh euh notamment euh aux grands pays qui euh qui ont développé des des des instances.

Pour cela, aux États-Unis d'un point de vue privé comme les GF femme et cetera, en Chine c'est un autre modèle et en Russie encore un autre. Ça pose évidemment des problèmes démocratiques et des biais que que nous connaissons et contre lesquels nous devons être alertés. Mais euh quand quand je vous dis ça, c'est que nous sommes entre en ce moment en train d'engager en tout cas le président de la République est en train d'engager la France dans le fait de retirer les outils numériques des élèves.

Euh et du coup ça devient un peu en contradiction avec l'idée de s'approprier une technologie. Je je précise dans mon propos qu'il n'it pas besoin d'utiliser une machine électronique pour apprendre à coder puisqu'il y a beaucoup de méthodes qui sont faites avec de du bois tout simplement avec des petites boules. C'est c'est quelque chose qui est assez connu pour celles et ceux qui comme nous intéressons à l'éducation.

Donc j'en fais pas un obstacle technologique d'ailleurs. Euh j'aimerais bien avoir votre votre avis là-dessus. Comment est-ce que vous comment est-ce que vous imaginez concilier euh le fait que la France et l'Europe d'une certaine façon se dote d'une stratégie émancipatrice puisque le codage n'est pas forcément privé ?

D'ailleurs, le début des codages était partagé et libre. Donc je je il y a une vision à avoir là-dessus quelle serait la vôtre. Ensuite voir comment est-ce que vous imaginez ça dans un dans un cadre géopolitique plus large puisque le président Trump a dit clairement que si la France mettait en place de de sanctionner les G femmes en mettant par exemple un couvre-feu comme numérique et bien nous aurions des sanctions économiques inhérentes.

Donc comment est-ce que vous imaginez ce développement en France au niveau européen peut-être ? Comment vous imaginez en fait que que nous d'un point de vue éducatif nous nous dotions de d'outils autonomes dans ce contexte très très agressif dans lequel nous trouvons puisque même notre grand serveur OVH est dans l'incapacité aujourd'hui de faire face par retard justement à ces grands monstres numériques que qui ont été produits ces 20 dernières années comme tu veux. Beaucoup de questions chers collègues.

Oui. Euh non, vous avez mentionné des points très importants, notamment avec les notions de conflit et donc là on rejoint nécessairement les questions de souveraineté et donc oui, tous les collègues rapporteurs étaient d'accord pour qu'il y ait une IA souveraine qui qui soit développée. Pourquoi pas une IA propre à l'école qui donne pas les réponses tout de suite mais qui emmène les élèves en les challengeant et en parlant avec eux.

Et donc on l'a mentionné au début d'édition, mais notre vision pour la France c'est que la France soit présent sur toute la chaîne de valeur de l'intelligence artificielle, de la construction des microprocesseurs jusqu'au développement des applicatifs pour ne pas subir la pression la pression des Américains euh si on voudrait taxer les G femmes. Notamment ce qu'on a regretté dans le rapport, c'est que l'IA a fait le fruit de beaucoup d'effets d'annonces mais finalement peu de choses ont suivi. Le président Emmanuel Macron a joué de sa notoriété du fait que il développait la startup nation.

C'est vraiment quelque chose qui lui a été associé et donc à chaque fois il parlait d'IA. Mais en travaillant le rapport, on a remarqué que finalement dès qu'un projet était lancé, il était pas suivi et donc il y avait pas de suite et donc c'était juste finalement des effets d'annonce. et que malheureusement ça montre les contradictions que vous avez montré en disant qu'on retire les faits numériques des enfants et derrière on leur dit il va falloir apprendre de apprendre avec de lire.

Donc voilà les contradictions. Oui. par exemple sur justement sur c d'enlever les les outils numériques, c'est c'est vraiment c'est vraiment la politique de l'annonce plutôt que de chercher quel est le bon équilibre en réalité parce que il faut à la fois il y a une vraie question sur l'addiction aux écrans sur la dépendance maintenant à l'intelligence artificielle et le fait que si c'est une utilisation non maîtrisée un trop trop jeune âge que ça devient un problème aussi de développement intellectuel pour pour les les les jeunes.

Et donc et donc la question c'est pas d'intervenir totalement, la question c'est de savoir à quel moment est-ce que à l'école on a on a aucune aucun accès aux écrans et à quel moment on a un accès qui est qui est accompagné, qui est éducatif et cetera. Donc ça c'est vraiment c'est toujours le c'est vraiment la question de du bon équilibre en réalité. qu'on a posé et sur ces questions stratégiques euh il faut faire au niveau français, il faut faire aussi bien sûr au niveau européen sur la question de des data center des des de la maîtrise des données de des données et la différence on a parlé tout à l'heure des données protégées par la propriété intellectuelle mais il y a toute la question des données de qu'est-ce qui relève des données publiques et comment est-ce que elles doivent être euh euh aussi euh accessibles.

Euh on a on a euh aussi la la régulation européenne sur ces questions-là. Euh il y a la question effectivement des applicatifs open source aussi. Euh et donc comment est-ce que on on favorise aussi le développement euh des applicatifs open source qui permettent à euh un plus gros écosystème de d'acteurs différents de développer des IR, de développer des applicatifs euh et que on soit le moins dépendant possible euh des grosses des grosses compagnies euh américaines ou ou chinoises.

Donc ça c'est vraiment et là où là où on a besoin de de vraies pensées stratégiques, de vraies politiques stratégiques, c'est et au niveau français et au niveau européen. Au niveau européen, on a conscience des problèmes, mais on a toujours beaucoup de de de difficultés à développer une vraie politique. qu'on est on est on est capable au niveau européen de pointer le doigt de de de pointer tous les sujets sur lesquels on doit s'améliorer.

Mais après, il y a pas vraiment les politique ne suivent pas. Et au niveau français, malheureusement, ça a beaucoup été le cas aussi parce que il y a il y a aussi un côté et on l'a vu au début de l'année après le sommet de l'IA ici en France, le sommet sur la sécurité, c'est il y a eu beaucoup d'annonces y compris d'annonces de de de gros budget à mettre dans le développement de de l'IA et dans une maîtrise des risques. Mais on a compris en réalité que ce qu'on faisait, c'est qu'on demandait à ce que le privé investisse là-dedans plus que le public.

Et donc ça ça peut pas fonctionner. C'està-dire que on peut pas demander au public de tout faire, mais on peut pas non plus demander au privés de tout faire. les pays qui s'en sortent le mieux sont ceux qui trouvent les les bonnes euh les bonnes dynamiques de partenariat public privé euh avec un vrai pilotage stratégique.

On a on a des acteurs en France, on a l'INREA qui aujourd'hui essaie de se positionner pour être un vrai acteur stratégique qui devient que l'inria devienne pour l'intelligence artificielle ce que le KNES peut être pour le spatial ou ou le le CEA pour l'énergie atomique. Mais on met pas les moyens. C'estd que là sur la le sur les les les discussions budgétaires, ils en sont à mendier quelques milliards d'euros.

He c'est enfin c'est c'est dramatique. C'est vraiment dramatique. Merci pour vos réponses.

Je fais partie d'un d'un groupe qui critique énormément les les la politique budgétaire sur le CNRS. Donc je pense qu'on on a l'air d'être en phase là-dessus. En tout cas, ce que ça conditionne comme méthodologie de recherche liée au crédit que que vous dites là.

Ma dernière question sera plus toujours sur les question éducative. On sait que l'intelligence artificielle mais l'internet d'une façon générale a tendance à à au niveau des langues à privilégier les bases de données qui sont alimentées par les locuteurs. La langue de la République constitutionnement est le français.

Mais il s'avère que euh l'histoire de France est longue et que il y a des régions qui ont leur langue locale, leur coutume locale, leur tradition locale. Et euh nous avons euh justement la chance, je pense que c'est une chance, en tout cas ça n'engagera peut-être que moi, euh d'avoir euh la représentation nationale et des compatriotes sur tous les continents, en tout cas sur tous les océans. Donc à partir de là, euh nous avons tendance à oublier que justement nos compatriotes qui sont dans d'autres océans ou même au sein de l'hexagone des frontières hexagonales ont aussi des langues différentes.

Et est-ce que vous pensez que cet investissement dont vous parlez doit aussi s'orienter pour que les bases de données qui se développeraient en l'occurrence fasse en sorte que ces langues soient représenté voire peut-être surreprésenté pour que les algorithmes ne les effassent pas parce que nous avons une vraie difficulté aujourd'hui notamment avec les applications qui viennent du groupe Google qui tend notamment avec les traducteurs automatiques à effacer les langues quand elles n'ont pas assez de locuteurs parce qu'il n'y a pas les bases de données pour cela. Donc évidemment euh je pense à nos compatriotes breton, Basque, Corse, Francontoi, tout ce qui a fait euh l'histoire de la langue française qui évidemment je ne vais pas la prendre ici euh à à sa à sa langue euh selon métissage. Nous nous parlons aujourd'hui une langue qui n'est pas celle d'il y a 20 ans et fort heureusement.

C'est une langue est vivante et il faut il faut l'accepter comme telle. Donc comment est-ce que vous pensez qu'on peut avoir euh cet équilibre dont vous parlez madame et peut-être monsieur aussi entre la langue officielle qui est le français mais aussi les langues régionales et locales qui existent ? dans le casre d'une intelligence artificielle qui dans son fonctionnement algorithmique et de d'alimentation des bases de données aura tendance à les faire disparaître.

Alors, on n' pas travaillé spécifiquement sur la question des des langues Oui. des langues régionales. On avait quand même mis l'accent sur la le fait que il y a il y a il y avait une prédominance évidemment des I entraînés sur des modèles sur des sur de l'anglais sur différents types d'anglais d'ailleurs mais mais sur de l'anglais enfin beaucoup américains évidemment. euh et euh et que donc il y avait un enjeu euh et une pour euh faire pour que l'Europe euh s'assure que la diversité culturelle européenne soit bien représentée aussi dans le développement euh de l'IA et que c'était euh euh aussi euh un facteur de face qu'on a il y a quand même un risque de de d'uniformisation accélérée qu'on connaît déjà depuis un moment mais d'uniformisation accélérée sur sur le modèle culturel anglo-saxon américain à travers l'IA et à travers la domination des des IA américaines.

Euh et donc même si maintenant on a la concurrence des IA chinoises mais euh et donc il y a il y a il y a quand même cette question de développer les bases de données avec des données qui sont effectivement des données de qualité dans toutes les langues européennes sur lesquelles entraîner les IA. Euh je pense que cette question, elle est reproductible euh effectivement euh au niveau euh au niveau français pour les langues régionales, mais là il y a il y a une question aussi de de massification des données euh disponibles en réalité numérique. Donc ça c'est un c'est un enjeu différent parce que autant chaque pays de l'Union européenne peut mettre à disposition des données dans sa langue officielle pour queon puisse favoriser l'entraînement d'IA sur toutes les langues européennes autant sur les les les langues régionales.

Selon les langues régionales en question, on va avoir un problème de disponibilité des données numériques là. Donc là, c'est mais je pense que c'est la même logique qui s'applique sur le fait que effectivement on a intérêt à ce que ces données existent euh et que les puissent s'entraîner aussi sur ces langages qui doivent pas disparaître. Oui.

Très bien. Nous arrivons au terme de cette audition. Nous vous remercions madame Calvez et moi-même pour avoir pris de votre temps et pour nous avoir éclairé.

C'est un moment très parlementaire et et ça nous a bien fait avancer. Je voudrais dire que nous avons eu d'une certaine manière un moment conversationnel où nous avons produit ensemble de l'intelligence. En tout cas, il faut l'espérer.

Je vous remercie beaucoup.