Audition d'Isabelle Ryl, directrice de la Paris School of AI

Donc chers collègues, madame la rapporteur, madame, le Sénat a donc décidé la constitution d'une commission d'enquête dont l'objet de travailler sur les mécanismes de financement des politiques publiques par les organismes, sociétés ou fondations de droits privés et les risques en matière d'influence, d'absence, de transparence financière et d'entrave au fonctionnement de la démocratie. Le champ d'action de ces financeurs privés est large. Les sphères associatives, éducatives et culturelles semblent avoir leur faveur.

Le travail de notre commission d'enquête consiste donc à analyser les règles encadrant les interventions des organismes, sociétés ou fondations de droits privés dans les politiques publiques précées et d'évaluer les risques en matière d'influence de cette non transparence financière. Ce type de formation donc commission d'enquête appelle à un certain formalisme juridique. Donc avant de vous donner la parole, je dois vous rappeler qu'un faux témoignage devant notre commission d'enquête est passible des peines prévues aux articles 434-13, 434-14 et 434-15 du code pénal.

Je vous invite donc à prêter serment, dire toute la vérité, rien que la vérité, en levant la main droite et en disant je le jure et je vous remercie par ailleurs de nous faire part de vos éventuel lien d'intérêt. Madame R, je jure. Je vous remercie.

Nous avons consacré un cycle d'audition aux questions liées aux technologies de recommandations personnalisées, notamment celles basées sur l'usage de l'infit de excusez-moi de l'intelligence artificielle et leur capacité à orienter durablement les comportements ou les représentations des utilisateurs sans que ceci en ait pleinement conscience. Ces auditions ont mis en exergue un certain nombre de sujets tels les conséquences liées à l'usage d'outils d'apprentissage personnalisé reposant sur des partenariats avec des acteurs privés que nous avons souhaité évoquer avec vous. Votre audition doit nous permettre d'analyser les mécanismes à l'œuvre, de mieux comprendre l'ampleur des évolutions et puis les mutations court, les stratégies déployées et d'imaginer des moyens de protection si cela s'avère nécessaire sans pour autant bloquer le système.

C'est important le maître mot de nos travaux et la transparence. Madame la directrice, nous allons vous donner la parole pour une courte introduction et je vous demande de ne pas dépasser 10 minutes avant que la rapporteur les membres de la commission d'enquête vous pose des questions. Avant cela, je laisse la parole à notre collègue rapporteur Colombe Brossell pour qu'elle vous présente les axes de travail de notre commission d'enquête.

Merci beaucoup madame la présidente. Bonjour madame et merci de votre présence. Euh trois phrases d'introduction, moins pour vous exposer les axes de travail que pour revenir auprès de nos collègues.

Euh on a donc monté il y a de cela quelques semaines une séquence de travail avec un certain nombre d'acteurs des gafames mise en en lien en discussion avec une chercheuse et en fait à l'origine nous avions prévu de vous convier à cette même table ronde. Il se trouve que vous étiez en déplacement à l'étranger et donc on vous voit aujourd'hui alors un peu en décalage finalement avec cet échange que nous avons eu mais avec le plaisir de de vous accueillir en vous seul en lumière. La la par school of est finalement l'un des outils qui a été créé, mise en œuvre dans le cadre de la stratégie nationale sur l'intelligence artificielle.

Euh ça a maintenant euh quelques années euh 2019 peut-être si ma mémoire est bonne euh avec euh un montage qui euh allie euh financement public important mais également financement privé. Et c'est intéressant pour nous de pouvoir échanger avec vous sur la façon dont cette organisation tissé au fil du temps. ce partenariat permettent aussi euh de pouvoir construire des des outils en lien avec cette stratégie nationale et la façon dont vous vous prémunissez de là où vous êtes contre d'éventuelles stratégies d'influence ou d'ingérence étrangère.

Euh et je dis ça au regard des des partenaires privés qui qui sont les vôtres et qui sont donc euh pour certains des représentants loin de la souveraineté européenne, on va dire ça. Madame Rise, vous avez la parole. Euh madame la présidente, madame la rapporteur, mesdames et messieurs les sénateurs, merci beaucoup.

Alors, comme vous l'avez indiqué, je suis actuellement directrice de la Paris School of AI de l'université Paris Science et Lettres qui en fait elle toute nouvelle puisqu'elle a été crée en 2025 et mais je suis par ailleurs directrice de l'IA cluster prairie, c'est toujours un petit peu compliqué les montages français qui lui est bien l'un des neuf IA Cluster de la stratégie nationale en IA qui a commencé effectivement en 2019 et qui a été renouvelé récemment. Euh cette ce cluster est porté par l'université Paris Science et Lettres mais comprend aussi le CNRS Linrial Institut Pasteur et l'université Paris Cité. Il y a donc environ 130 chercheurs ainsi que leurs doctorants, leurs post-doctorants sur des qui travaillent sur les méthodologies ou les technologies réelles du cœur de l'IA, donc statistique, machine learning, traitement des langues, vision par ordinateur, robotique et autres, mais aussi leur application pour faire progresser d'autres sciences en chimie, en biologie, en médecine évidemment.

Mais on a aussi tout un volet de scientifiques qui s'intéresse à l'impact de l'IA sur la société, par exemple des sociologues ou des économistes. Le les donc au sein de Prairie, on retrouve les trois missions qui sont classiques pour une université formation, recherche et innovation. Et donc à ce titre, nous avons bien évidemment de très nombreuses relations avec des partenaires industriels, notamment pas parce que on souhaite aller vers l'industrie, mais également parce que c'est une obligation dans le cadre du financement accordé par France 2030, nous avons obligation d'aller chercher un certain montant de financement privé.

Donc l'appareil School of AI a été créé dans cette dans cette dynamique pour y regrouper un certain nombre de formations déjà existantes et en créer de nouvelles. En particulier, cette année, nous avons ouvert un bachelor en IA, donc premier niveau après le le bac, un bachelor international et un master IA et société qui réunit là la les doubles compétences IA et puis tout ce qui est euh science sociale computationnelle. Donc l'utilisation de l'IA par les étudiants et les enseignants chercheurs est évidemment un sujet de réflexion important pour nous.

D'autant plus difficile que la technologie évolue à une vitesse en commune mesure avec le temps institutionnel de la création des maquettes voire même des règlements de scolarité qui indiquent ce qui est qui est utilisable ou pas. Et donc les réponses que je vais vous donner aujourd'hui reflètent de ma connaissance ou de mon opinion sur le domaine à cet instant et ne serait certainement pas les mêmes dans quelques années voire même dans quelques mois. Donc tout d'abord le tech enfin l'impact de la technologie sur l'éducation euh c'est comme dans beaucoup d'autres domaines un potentiel important mais il faut prendre du recul et ni céder à l'affollement qui des grandes déclarations qui nous viennent souvent de l'ouest de l'Atlantique et ni ce ni le maître au banc de la société puisque ça va vraiment être un outil accélérateur.

Il faut que nos étudiants soient pleinement prêts à l'utiliser, l'intégrer dans leur vie professionnelle mais de manière réfléchie. Et donc bien évidemment, il n'est pas question pour nous de laisser l'étudiant seul face à son ni génératif préféré qui pourra l'emmener là où il le souhaite. Euh alors le reste de mon propos parlera essentiellement d' générative mais il existe d'autres choses dans autour de l'enseignement que vous avez dû voir.

Et par exemple une société française comme Nolège que vous avez peut-être rencontré utilise LIA pour créer des contenus interactifs adaptés et cetera. Donc faire vraiment quelque chose de de comment de d'attractif pour les étudiants mais à partir du contenu de l'enseignant et donc il est parfaitement maître de son contenu et de ce qu'il souhaite transmettre. Il ne s'agit pas d'aller questionner un chatbot qui va répondre quelque chose dont on ignore la provenance.

Donc votre questionnement sur l'influence que peuvent avoir les technologies d'IA, donc maintenant essentiellement générative sur les comportements, les représentations et est à mon sens très très extrêmement importante. Alors, je suis loin d'être spécialiste du comportement et de ces choses-là et je pense que dans ce dans ce domaine là, au sein en tous les cas de l'université PSL, c'est le département d'études cognitives de l'École normale supérieure de PSL qui devrait vous apporter les meilleurs détails. Mais en tout cas le l'influence est nette et il est il s'avère qu'aujourd'hui quasiment tous les étudiants utilisent l'IA générative de manière quasi quotidienne.

Donc bien évidemment, une fois qu'on a admis cette existence, cette utilisation massive de l'intelligence artificielle générative sauvage ou encadrée, se pose également la question de l'équité face aux ressources puisque ces ces usages sont en général gratuits mais les versions payantes sont beaucoup plus efficaces. Euh et donc l'idée pour l'université de mettre à disposition des outils ou pas. Et donc il a toujours été enfin en tous les cas à mon sens une manière de d'influence mais pour moi pas d'influence sur le comportement mais plutôt économique des grands acteurs de mettre à disposition des outils dans les écoles et universités simplement pour apprendre aux étudiants à s'en servir et les habituer à les avoir à disposition habitude qu'ils garderont probablement dans leur avenir professionnel par la suite.

Ça a été le cas avec une suite bureautique célèbre, mais ça a été le cas quand j'étais jeune maître de conférence. Nous avions encore des langages de programmation dans lesquels certains compilateurs étaient payants et bien évidemment c'était mis à disposition des des universités. Nous retrouvons exactement les mêmes choses aujourd'hui et en particulier une des grandes fac enfin une des grandes des grands coûts d' Nvidia, c'est pas c'est bien évidemment d'avoir la plus grande parté de la production de puce, mais également d'avoir une plateforme logicielle propriétaire pour y accéder et donc d'avoir entraîné des générations de jeunes à utiliser leurs outils.

Euh pour les IAD génératives, je pense que c'est un peu la même chose. un certain nombre de d'entreprises sont en train de créer une dépendance économique puisque euh même l'usager personnel est très vite tenté de mettre quelques euros s'il en a les moyens pour avoir une version un peu plus puissante. Et pour les entreprises, le coût de l'usage de ces modèles est extrêmement important.

Donc on est en train d'assister à la mise en place d'une dépendance économique avec le risque que les les coûts enfin les les prix augmentant un peu à la fois, on se retrouve dans un cercle vicieux d'une dépendance totale. Alors côté université un une alliance s'est mise en une alliance s'est mise en forme pour envisager un modèle avec Mistral comme beaucoup d'autres administrations françaises l'ont faite. est une donc l'avantage c'est le modèle français ça reste une entreprise donc ça ne caisse pas complètement le le problème économique les puisque évidemment comme vous l'avez entendu forcément très souvent ces I ne sont pas neutres en fonction de du corpus sur lequel elles ont été entraînées leur comportement peut-être différent et bien évidemment sans aucune malignité de la part d'une entreprise qui produirait un modèle diagénératif les corpus disponibles sont par exemple beaucoup plus nombreux en [grognement] angle dans en langue anglaise ou même en langue espagnole que dans d'autres langues y compris la nôtre.

Donc tout ça entraîne des biais voulus ou pas mais euh qu'on ne peut pas ignorer. Le risque que l'utilisation de ces différents algorithmes puisse ensuite avoir une influence à long terme sur les sur tout ce qui se produit dans l'université, sur tout ce qui se produit au-delà dans la décision publique. C'est un risque qui est je pense avéré mais pas inévitable.

C'est toujours la même question de du recul qu'on a par rapport à l'outil, par rapport à l'usage qu'on en fait. Et c'est là que je pense et toute la mission de l'université aujourd'hui, c'est de parvenir à éduquer la prochaine génération d'étudiants de manière à ce qu'ils aient le même regard sur ces outils que vous et moi qui sommes nés dans un monde où il n'existait pas. à savoir être capable de les de les de juger leurs résultats, d'avoir le bon sens paysan minimal, de d'avoir l'intuition.

Aujourd'hui, la plupart des étudiants ou des des jeunes ne savent pas poser une division, mais c'est pas très grave. Du moment qu'ils s'aperçoivent que si on multiplie, je ne sais pas moi, 100 par un milliard, ça peut pas faire 12. Il y a une notion d'ordre de grandeur de de logique et c'est là qui est toute la difficulté pour nous aujourd'hui d'inclure complètement il y a générative et les modèles dans l'éducation sans pour autant se laisser euh laisser les étudiants comment céder à la facilité à l'apparisse.

Donc pour ça nous nous n'en sommes qu'au début de l'histoire et euh et c'est à nous de gérer ça au mieux. Je vais m'arrêter là pour ce propos liminaire et je suis à votre disposition pour répondre à vos questions. Madame la rapporteur, merci.

Côté vertigineux à la à la dernière phrase que vous venez de prononcer. On est au début maintenant à nous de gérer. Merci beaucoup pour ces [grognement] ces propos introductifs.

Madame R. Euh je je vous avez posé le le fait que les universités françaises s'étaient organisé pour ne pas être dans une spirale de dépendance vis-à-vis des des acteurs économiques de de li générative et notamment américaine et chinoise. C'est le sujet qui est devant nous.

Est-ce que pour autant ces acteurs économiques font partie euh des acteurs privés qui travaillent que ce soit avec Prairie ou avec l'établissement que que vous dirigez ? Alors, dans j'aiécouté la l'audition précédente et j'auraiis à peu près la même réponse que mon ministre Dieu merci, c'est qu'il y a une différence pour moi entre l'enseignement et la recherche. Ouais.

C'est-à-dire qu'on on bénéficie assez rarement euh voir pas du tout de financement direct privé sur l'enseignement. Par contre, bien évidemment, nous avons un grand nombre de partenariats de recherche et effectivement parmi ceuxci euh des différents alors je vais pas dire tous parce que c'est pas vrai, mais un grand nombre des producteurs diagénérative américains euh chinois non. D'accord.

Nous avons à une époque été fortement courtisé, je pense comme beaucoup d'autres établissements français par un grand groupe de télécommunication chinois. Euh mais sans sans jamais donner suite. D'accord.

Euh parce que finalement ce qui est compliqué, mais j'imagine que ça doit être compliqué pour vous comme pour vos homologues et vos pères, c'est d'arriver à tenir cet équilibre qui ne doit pas être si simple que ça. Ces acteurs existent, ils sont d'ailleurs leaders sur sur ce marché là. Et donc ce sont aussi des acteurs avec lesquels vous vous travaillez dans le domaine de la recherche et en même temps le fil le fil de la souveraineté est construit avec Mistral.

Euh comment enfin pardon pour euh la trivialité de de ma question, mais est-ce que parce que ce sont des acteurs qui ne sont pas souverains, euh est-ce que ça induit euh ou ça a induit dans le passé et comment est-ce que vous vous prémunissez du fait que ça puisse arriver ? Est-ce que ça a un impact sur les projets de recherche, soit en terme de de développement, soit sur des sujets qui de fait ne seraient pas abordés ? Je je vous donne un exemple pour illustrer mon propos.

Peut-être que l'exemple est complètement à côté de de la plaque, mais longtemps euh la question de la sobriété énergétique de l'IA n'a pas complètement fait partie euh du modèle global de discussion et d'échange et de développement économique sur ce sujet. Et ceux qui parlaient à l'époque de la question de la sobriété énergétique paraissait être un peu des oaos illuminés. Bon, de fait aujourd'hui c'est un sujet qui a été intégré par tout le monde sur le fait que le développement de li générative n'était pas sans impact du point de vue des ressources.

Est-ce que c'est c'est cette participation de de ces acteurs qui sont en même temps les producteurs et les et les initiateurs ? Est-ce que ça empêche un certain nombre de sujets ? Je je parle en terme de recherche d'émergé.

Est-ce que ça les freine ? Est-ce que est-ce qu'il y a des des irritants qui sont plus identifiables ? Et du coup, comment est-ce que vous de là où vous êtes, vous arrivez à vous prémunir de cette forme à la fin de stratégie d'influence qui ne qui ne dirait pas son nom puisque tel est le fil que que nous tirons.

Alors, je vais commencer par la conclusion puis je vous expliquerai com à peu près, j'essaierai de vous expliquer comment j'arrive là. Je pense et j'espère alors peut-être suis-je naïve que nous ne subissons pas d'influence les pour pour plein de raisons différentes déjà nous avons une position relativement privilégiée. C'est-à-dire que au sein de Prairie, nous avons des chercheurs qui sont d'une très grande renommée et qui ont donc le choix de ce qu'ils font qui sont nous sommes relativement bien financés. en a et par les clusters en particulier.

C'est-à-dire que pour moi, je verrai pas un évitement de sujet, mais peut-être plus si à un moment donné vous avez dans un domaine de recherche un manque cruel de financement, effectivement, vous ne trouverez peut-être pas le moyen de financer quelque chose qui n'intéresserait aucune entreprise. Ce n'est pas notre cas aujourd'hui. Et par ailleurs, ce même poule de chercheur est en général assez brillant pour recevoir enfin pour obtenir des les fameuses bourses C, la Commission européenne qui sont aussi des financements importants et totalement libres.

Donc nous ne sommes pas dans une nous ne sommes pas en famine. Voilà. Donc déjà c'est un point qui évite qui qui permet d'être plus raisonnable pour faire ses choix.

Par ailleurs, dans ces grands groupes que vous mentionnez, un grand si on refait l'histoire, on est d'abord très très content qu'ils se sont installés à Paris. Si il y a alors entre 2015 et 2017, ils avaient choisi parce qu'à l'époque ils hésitaient, ils ils hésitaient entre Londres et l'Allemagne. S'ils étaient allés ailleurs, on ne parlerait peut-être pas de Paris de la même manière sur le sur les chiquers mondial de Lia.

Donc ils sont là, sont des voisins un peu encombrants. Voilà. Mais nous sommes contents de les avoir.

Dans ces grands groupes, dans les grands laboratoires de recherche, un très grand nombre des chercheurs viennent de chez nous et donc ça rend le dialogue extrêmement facile. On n'est pas dans une relation à construire et donc les sujets qui pourraient être des irritants par moment sont beaucoup plus faciles à traiter parce que deux personnes qui se connaissent pressent leur prennent leur téléphone et puis et puis en parlent. Donc dans ce dans ce contexte-là, je ne pense pas euh qu'on subisse une influence sur les sujets de recherche qui sont choisis dans d'autres contextes.

Bon, après c'est Étienne Blanc. Donc comme j'étais un peu court pour trouver une question qui a du sens, je suis allé sur chat GPT qui m'aide dans la réaction de ma question. Voilà.

Mais je le dis voilà, je pense que dans ce domaine, il faut avoir une certaine sincérité. Voilà. Non, c'est c'est une question.

Les les fondations privées qui participent au financement de de l'école ont-elles ensuite accès à des travaux ou à des expertises qui sont susceptibles d'influencer les politiques publiques ? Alors euh comme quoi l'outil est utile euh je alors dans euh la Paris School of AI au sens strictensus ou dans le cluster, nous n'avons pas à ce jour de financement de fondation privée. À notre grand regret, nous aimerions beaucoup collecter plus de M Senat mais ce n'est pas le cas pour le moment.

Euh quoi que j'ai nous avons une entreprise euh j'ai peut-être dit une bêtise parce que ça passe peut-être par leur fondation mais c'est une grande entreprise française euh qui qui nous donne du McNena sans sans aucun contreparti sur des travaux un peu plus côté SHS et impact. Il y a des euh des travaux qui peuvent être menés euh alors je sais pas si je sais pas si on appelle ça influencer les politiques publiques, mais en tous les cas des position papers ou des travaux comme ça qui peuvent être publiés mais qui de ce cas sont publiés Ubi Torb ne sont pas à destination d'un d'un donateur ou même d'un partenaire quelconque. On on n'est pas dans ce dans ce côté-là euh sur la sur tout ce qui est le sujet de votre de votre qui vous intéresse beaucoup sur la transparence puisque vous avez annoncé c'est aussi un sujet qui est pris très au sérieux et qui est aujourd'hui tout à fait géré par exemple dans chez à NERIPS la grande conférence autour de machine learning et statistique la plus grande conférence en IA du monde. l'usage de lia générative est autorisé pour la rédaction des papiers mais dans un certain nombre de cas et donc ils sont listés par exemple pour peaufiner la grammaire pour en gros des petits détails de rédaction et c'est c'est aussi autorisé si c'est un élément méthodologique de la démarche scientifique mais à ce moment-là ça doit être documenté par contre c'est strictement interdit pour les reviewers ceux qui relisent les papiers puisque effectivement leur devoir de confidentialité et qu'ils ne peuvent pas partager avec une autre personne le contenu de du document qui leur soumis, y compris avec un LM.

Donc ça c'est parfaitement documenté et c'est un problème de confidentialité et ça ça le risque d'emballement de ces de ces de ce du système qui serait basé sur l'usage massif de l'IA dans ce sens-là même si ça sort un peu d'autre commission c'est d'avoir et bien des deux côtés vous avez deux interlocuteurs. L'un utilise l' pour rédiger, l'autre pour relire et au final on a un apprissement complet du du domaine intellectuel là où on a plus à craindre pour moi d'influence d'influence ou de c'est pas c'est pas tant sur l'influence que reste sur les travaux qu'on a. Nous, notre problème c'est le la débauche, c'est l'attractivité que peuvent avoir des entreprises ou d'autres pays vis-à-vis des personnes conformes puisque nous n'avons pas euh n'avons pas de secret de fabrication d'un silicone ou autre.

C'est le modèle qui est publié, les publié et c'est la capacité du chercheur à créer le suivant qui est importante. Et donc c'est ça, c'est ça notre notre trésor de guerre sur lequel nous veillons. Merci.

Et et c'est d'ailleurs paradoxal parce que en effet le principal risque c'est certainement de voir partir des talents qui ont été formés, accompagnés voilà par l'université et [grognement] le et le cluster. Et quand quand on échangeait tout à l'heure, quand vous avez dit en fait la plupart des chercheurs dans ces groupes non souverains viennent de chez nous et c'est ce qui facilite le contact et donc c'est finalement assez paradoxal. Comment est-ce que on on assure le fait que voilà les la on leur donne envie finalement à ces chercheurs de rester dans dans un cadre qui soit celui de de la recherche ou qui soit celui de la souveraineté européenne plutôt que transatlantique.

Ça n'est pas forcément toujours facile. Euh d'abord, on veut pas forcément les faire de la rétention parce que le la recherche scientifique, elle se joue à l'échelle de la planète et il est très important que des Français aillent travailler dans les laboratoires étrangers, dans les universités étrangères. D'abord pour se former à une autre manière de penser, à d'autres techniques et puis aussi pour apporter le point de vue qui est qui est développé dans nos universités.

Là où nous commençons à être en mauvaise posture, c'est quand le sol devient négatif puisqueà l'inverse, nous nous attirons beaucoup de jeunes personnes ou de chercheurs d'autres pays. Aujourd'hui, dans les deux formations que j'ai mentionné tout à l'heure que nous avons ouvertes à rentrer qui sont à vocation internationale, donc la première année de Bachelor en I et la première année du master I société, nous avons dans chacune des deux formations 20 nationalités pour un groupe de 30 d'un côté, un groupe de 45 de l'autre. Et donc ça c'est quelque chose que nous souhaitons mais nous souhaitons aussi que les bons étudiants formés ensuite se fixent en partie chez nous et pas c'est c'est nécessaire.

Par contre là comme je vous le disais où nous nous entrons dans une zone un peu risquée c'est quand notre sol devient négatif. La pétence pour la recherche par rapport à l'entreprise elle existe quand même encore beaucoup. Nous avons, comme vous l'avez déjà entendu, je pense beaucoup, un problème de salaire, pas seulement vis-à-vis des grands groupes étrangers, mais même vis-à-vis d'autres universités européennes.

Donc ça c'est quelque chose sur lequel il faut travailler. Et nous avons sur certains sur certains sujets des complications administratives qui peuvent un peu comment comment dire essouffler les gens au bout d'un certain temps qui ont des facilités plus évidentes dans d'autres domaines. Par contre, nous avons quelque chose qui est quand même extrêmement précieux, c'est la liberté académique qui a beaucoup existé dans d'autres dans des grands groupes outreatlantiques qui avaient vraiment des laboratoires de recherche qui étaient organisés enfin qui qui donnaient la même liberté que dans nos laboratoires académiques avec peut-être un peu plus de moyens au sens de moyen de calcul, de moyen de recherche et plus de salaire.

Euh le tour de vis qui a été donné par les patrons de la tech nous a euh rendu service en quelque sorte. Ça a rétabli un peu l'équilibre et euh et par ailleurs sur des sujets que vous évoquiez au départ, la sobriété euh je pense qu'il ne faut pas faire l'erreur de penser que tout y a est générative. Oui, beaucoup de recherches actuelles ne sont pas sur l'IA générative pour plein de raisons.

D'abord parce qu'il y a beaucoup de choses qui sont sans y générative. Il y a beaucoup de choses qui ne peuvent pas se faire avec de l' générative simplement si vous voulez un résultat exact. C'est c'est bête mais voilà.

Euh si vous voulez quelque chose qui s'embarque, si vous voulez faire voler un système de reconnaissance dans un drone, bah vaut mieux qu'il consomme pas toute la batterie du drone euh avant qu'il soit arrivé à destination. Euh vous préférez qu'il l'allucine pas quand il va choisir de se poser quelque part. Et voilà.

Euh donc ça c'est très important. Par ailleurs, toute la phase qui qui cons enfin qui consiste toute cette course au gigantisme, cette ce combat entre les différentes grandes firmes américaines qui va qui aura le plus grand modèle. Nous ne sommes pas taillés pour la course.

C'est pas le métier de chercheur de faire un modèle plus gros que le voisin. Et donc les sujets qui sont traités sont plutôt par nature plus fru à part évidemment là je parle pas besoin de calcul par exemple en astrophysique ou autre mais la recherche en y a aujourd'hui en machine learning ce n'est pas forcément sur ce type de solution et les gens qui cherchent la solution de demain c'estàd la génération qui ira après n'ont pas forcément non plus des en tête de faire quelque chose de gigantesque. De toute façon, on n pas les moyens.

Donc c'est moi j'ai j'ai juste petite une petite dernière question. H le sujet de l'IA euh et le sujet de l'influence c'est pas tant ce qui sort, c'est ce que on a utilisé donc à la fois l'algorithme mais à la fois les dosers, tous les intrants euh et la façon dont on rédige qui fait qu'au bout du compte, on a une influence enfin une réponse qui peut ou pas avoir valeur d'influence ou en tout cas fonction d'influence auprès de de celui ou celle qui en bénéficie. ça peut être un collectif pour le coup et la réponse peut être la même sur un sujet alors que c'est pas forcément euh la réponse admise au regard de l'intérêt général.

Donc la question qu'on se pose finalement c'est à la fois celle de la transparence, c'est-à-dire des algorithmes, d'où viennent les données ? Parce que quand les IAS sont fermés, c'est il y a pas de problème. C'est à partir du moment où on va sur la toile.

Si un moment on y répond, je vous allez dire que je fais une je suis en guerre contre les platistes, mais si sur la toile on ne parle que de la terre est plate, au bout d'un moment l'IA générative va sortir la terre est plate. C'estàd que c'est l'occurrence, la fréquence qui fait les choses. Euh et le deuxième sujet, c'est la rédaction des promptes en fait et de la commande.

Et pour le coup euh là, c'est vraiment un sujet éducatif. que vous évioquer cette question de l'esprit critique du bon sens paysan enfin tous ces sujets-là. En réalité, c'est à cet endroit-là que ça se manifeste ces capacités, ces compétences là et ce qu'on a pu faire acquérir au aux générations futures euh enfin de maintenant et celles qui vont venir.

Et donc comment est-ce que cette question de la transparence d'une forme d'éthique, d'un regard critique sur les outils tels qu'ils sont conçus ? parce qu'on voit bien que à un moment il y a un espèce de de une espèce d'effervescence positive à tout est possible donc on y va on y va on y va et il y a pas de régulation et est-ce que ces sujets-l sont abordés dans votre dans votre école alors le il y a beaucoup de questions dans votre question le effectivement le fait que alors quand on parle de modèles qui sont qui ne sont pas fermés et qui ne sont pas qui ne sont pas utilisés cloisonnés sur des sources de données propriétaire. Euh effectivement, il est très difficile surtout sur les modèles les modèles les plus connus de savoir sur quoi ils ont été entraînés.

Quand bien même on le saurait vu la quantité de données, ça serait extrêmement difficile. Enfin, ça serait difficile de rester autre chose que macroscopique, mais même ça, on l'a pas. Donc, il y a il y a un enjeu de ce côté-là.

Alors, de plus en plus, vous avez la possibilité de demander les sources des données de manière à aller le vérifier vous-même euh dans la dans le prompt. Indique-moi d'où viennent d'où viennent tes informations. Euh là où effectivement je vous rejoins sur le la Terre qui est plate, c'est sur l'influence le j'ai beaucoup de mal personnellement à croire à l'influence que pourrait avoir par exemple un régime étranger de type États-Unis. pour biaiser votre décision de sénateur français en allant fa tuner le le l'occurrence de que vous êtes en train d'utiliser pour fausser vos réponses.

C'est c'est quand même très très tordu et très sophistiqué. Par contre, quand vous avez des puissances comme la Russie ou la Chine ou si on va de l'autre côté plus à l'ouest qui sont passé mettre dans l'art de la création et de fausses informations, en fait la les deep fake influencent globalement assez peu la population parce qu'on voit assez vite que c'est pas tout à fait vrai, que c'est que les enfin les gens ont quand même un certain à part évidemment des groupes de complotistes qui s'auto qui s'auto-entretiennent Mais la plupart des gens avec leur bon sens savent très bien au bout d'un moment chercher discerner le vrai du faux. Par contre ces masse de données peuvent empoisonner l'apprentissage des modèles.

Et là un vecteur de d'influence massive non ciblé et ça c'est une porte ouverte importante à l'influence. Donc euh comment évaluer la qualité des réponses à part justement faire ça ? expliqué.

Et ensuite effectivement le problème du prompt c'est que pour bien trouver faut savoir ce qu'on cherche et que donc c'est très difficile pour quelqu'un qui ne connaît pas du tout un domaine de bien poser la question du premier coup et donc de bien avancer pas à pas. Donc c'est quelque chose qui est beaucoup plus fastidieux que ce qu'on imagine. J'ai un collègue chercheur qui trouve, je vous citerai pas lequel, un des modèles absolument merveilleux.

C'est c'est un des meilleurs chercheurs de machine learning que je connaisse. Il utilise énormément son modèle diagénérative pour ses papiers de recherche mais en disant par exemple est-ce que tu penses que j'ai oublié une référence importante ? Tiens oui, tu devrais regarder tel papier.

Et donc il regarde le papier, il le lit et il en retire lui-même ce qu'il a en retiré. il estime que c'est une bonne référence ou pas, mais parce qu'il connaît son domaine. Si vous j'imag j'imagine que vous n'êtes pas chercheur en machine learning, si demain vous demandez à votre modèle quel papier dois-je lire en premier, il peut vous donner quelque chose de parfaitement pertinent, n'importe quoi.

Ou le papier le plus cité par la Chine, la Russie ou voilà. Et donc si vous n'avez pas la capacité à analyser ce qui vous est remis là, vous êtes complètement euh pied point enfin pied point lié devant le le contenu qui vous distance. Et donc là, c'est très important effectivement apprendre à faire des promptes.

Euh c'est important. On a fait euh on a mis en ligne un j'ai oublié le titre mais un un espèce de mou grand public qui doit s'appeler un truc du genre l'art du prompt pour essayer d'aider tout un chacun à maîtriser ça. Mais effectivement quand les quand quand vous voyez des choses extrêmement sophistiquées qui ont été produites avec de l'IA, c'est en général enfin c'est 100 % du temps je pense par des gens qui qui auraient pu le faire moins vite de manière moins précise, de manière moins large mais qui aur qui aurait eu la capacité de le faire parce qu'ils ont ils ont eu la capacité de poser la bonne question.

Très bien. Et donc vous avez le sentiment qu'il y a une police qui s'instaure, en tout cas une vigilance au moins à défaut d'avoir pour l'instant les alertes pour présent s'emparer de cette question et et en quelque sorte l'institutionnaliser dans l'écosystème. Ah bah oui, je pense les il y a il y a un enjeu finalement de de formation.

Il y a un enjeu important de formation mais on est dans le bon terau pour faire ça parce que on a effectivement à la fois les spécialistes d' les enseignants et ce sont des enseignants chercheurs. Si un enseignant chercheur n'est pas capable de se questionner, de se remettre en question, de remettre en question sa pratique, il y a un problème. beaucoup plus difficile quand je ne sais pas moi si vous imaginez prend un métier au hasard chez les notaires par exemple, c'est peut-être beaucoup plus difficile de de s'adapter rapidement à ce type d'évolution au sein des universités, des écoles, on est dedans.

Donc c'est quand même le l'endroit où où ça doit bien se passer. Sinon ça laisse augurer de mauvaises choses pour le reste de l'écosystème. Très bien.

Merci beaucoup. Merci. Merci.

Merci. Évitamment et puis les éléments complèementaires que à l' de cet échange que vous jugerez utile pour contribuer à la la commission d'enquête. Merci beaucoup.

Merci madame.