MISSION D’INFORMATION SUR L’IA : AUDITION DES REPRÉSENTANTS DE L’INRIA

qui est chercheur et madame bah vous n'avez pas de je vous en priechal. Bon très bien, enchanté madame. Parfait.

Donc fondé en 67 dans le cadre du plan calcul, l'INERIA est aujourd'hui, après avoir changé de dénomination l'opérateur public de référence en matière de recherche en sciences et technologies du numérique. Pensé comme point de rencontre entre le monde académique et l'industrie, il a vocation à soutenir la recherche fondamentale et appliquer à laquelle nous souhaitons donner la parole dans le cadre de notre émission d'information. De fait l'INRIA est d'ors et déjà engagé de a déjà engagé de nombreuses initiatives en matière d'intelligence artificielle. création d'un laboratoire dédié labor labor euh programme de recherche copiloté avec le CEA et le CNRS, participation à la civ nationale pour l'évaluation et la sécurité de l'IA et bien d'autres sur lesquels vous allez avoir mesdames monsieurs, l'occasion de vous exprimer dans quelques instants.

Donc le la règle de fonctionnement de notre audition est simple. Vous avez 10 minutes 10 un peu plus de propoliminaires et ensuite madame la rapporteur vous posera les innombra questions qu'elle a préparé à votre intention. Je vous en prie.

Alors vous appuyez sur le bouton. Voilà. Merci monsieur le président, madame la députée messieurs.

Euh merci de votre invitation. D'abord le je ferai un propoliminaire beaucoup plus court pour laisser davantage de temps à mes collègues. Donc Pierry Boudier qui est directeur de recherche et spécialiste justement des sujets d'IA et d'éducation et plus largement d'éducation d'ailleurs de numérique au service de l'éducation.

Euh et Juliette Sénéchal qui est l'adjointe du directeur général délégué à la science d'Inria qui s'occupe des sciences humaines et sociales qu'on essaie de davantage faire travailler avec nos numériciens et numériciennes parce que le numérique est dans tout et et même s'il y avait d'ors et déjà y compris dans la dans l'équipe de de Pierre Vouiller des des non numériciens et numériciennes des non mathématicien ou ou informaticienne ou voilà euh on a décidé de faire monter en puissance ces collaboration entre sciences humaines et sociales et sciences du numérique. Monsieur le président, vous en avez dit quelques mots et Inria, c'est aujourd'hui environ 4000 personnes que nous salarions directement et 5000 dans nos 230 équipes projets qui sont répartis sur une dizaine de sites en en France. Nous embrassons toutes les sciences du numérique.

Alors, naturellement l'intelligence artificielle, mais aussi la cybersécurité, l'informatique quantique, euh le calcul haute performance, enfin des des voilà. Euh et donc dans nos équipes euh y compris les équipes qui ont euh décidé justement de de croiser leur euh leurs compétences et leurs recherches avec les sciences humaines et sociales. Il y a eu des initiatives comme par exemple le la Boria qui s'intéresse à l'impact de l'IA sur le travail, mais il y a aussi des des des équipes dont celles de dont celle de de Pierre Bouvde qui travaille depuis longtemps sur le numérique et l'intelligence artificielle au service de l'éducation et dans toutes nos équipes qui font de l'IA directement ou en en proximité parce qu'il y a de nombreux domaines scientifiques qui peuvent contribuer à transformer l'éducation et la culture.

Je pense à aux équipes qui font de la de la réalité virtuelle ou de la simulation, de la visualisation, voilà qu'on ne range pas forcément dans le l'IA. Il y a beaucoup de compétences qui peuvent éclairer les travaux de votre mission d'information. Donc c'est pour ça que j'ai j'ai souhaité non seulement que Pierre Yve Odey soit participe et réponde à à à vos questionnement mais également que Juliette Sénéchal dont la discipline et le droit que Juliette Sénéchal qui connaît bien le le règlement pour l'intelligence artificielle soit aussi présente pour éventuellement répondre à aux questions que vous que vous vous posez.

Et voilà, euh notre notre engagement en tant qu'établissement public, c'est de mettre l'excéence scientifique et les les capacités d'innovation de nos de nos équipes et de nos partenaires au service de la souveraineté numérique. Et sur les sujets que vous traitez, c'est un sujet absolument central. Merci madame.

Il se trouve par le plus grand des hasards que hier soir sur France Culture, il y avait une émission où votre président était interviewé en détail. J'étais sur la route de Paris et j'ai suivi ça avec beaucoup d'intérêt et j'ai mesuré à ce moment-là la puissance de votre institution et évidemment son caractère stratégique hein pour notre pays et pour sa souveraineté. Donc je suis très heureux, ça s'est bien trouvé de que nous puissions vous recevoir aujourd'hui monsieur.

Alors on enchaîne directement sur les questions ou comme monsieur Oiller avez-vous un proposinaire ? Alors juste vous nous aviez adressé un un questionnaire qui est toujours indicatif comme tu le souhaites Pieril. Soit tu alors moi j'ai préparé un un voilà un propos qui répond à un certain nombre des questions mais jeu pardon excusez-moi.

Oui. Donc j'ai j'ai préparé un propos qui répond à je dirais la plupart des questions qui ont trait à l'éducation mais qui est structuré de manière un petit peu différente des questions. Donc je OK.

Très bien. Allez-y développez. Je vous en prie.

Donc merci beaucoup pour cette invitation et bonjour. En deux phrases, de quelle perspective je parle ? J'ai dirigé ces deux dernières décennies des équipes à l'interface entre l'intelligence artificielle et les sciences cognitives euh qui essaie de comprendre la curiosité, ses mécanismes chez l'humain, son rôle dans les apprentissages euh et qui le l'ont fait dans trois directions.

Une première direction a été de développer des modèles et des théories pour comprendre mieux la curiosité chez les humains en utilisant en partie des outils d'intelligence artificielle. D'essayer de transposer un certain nombre de ces principes dans des machines pour faire des machines plus flexibles, plus autonomes que celles qui existent aujourd'hui. Et enfin de les appliquer à deux grands domaines.

Le premier c'est l'aide à la découverte scientifique. Aider physiciens, des chimistes, des biologistes à explorer euh des nouveaux domaines grâce à des algorithmes de curiosité. et puis l'éducation, essayer de mettre à profit les euh compréhensions nouvelles que nous avons sur la curiosité pour développer des interventions pédagogiques qui un certain nombre d'entraînes utilisent des technologies éducatives pour euh soit par exemple favoriser l'apprentissage des mathématiques ou des langues par la curiosité ou soit directement pour muscler la curiosité.

Et ça ça nous a amené à collaborer avec un certain nombre d'entreprises euh françaises du monde des technologies éducatives, en particulier par exemple euh Évidence B avec laquelle je collabore et pour laquelle je fais du conseil scientifique. Et euh cette collaboration a par exemple amené au développement du logiciel Masecon qui est déployé aujourd'hui dans l'ensemble des classes de seconde en France en interaction avec le ministère de l'éducation. C'est aussi une activité qui nous amène à collaborer avec des structures comme Pix qui, vous savez, joue un rôle très important pour la culturation des plus jeunes, mais bien au-delà aussi au monde du numérique.

Et en ce moment même, je les accompagne pour construire la formation Pixia qui sera euh officiellement déployée dans les jours qui viennent euh à destination dans l'ensemble des 4è et des secondes euh mais aussi des CAP en France. Alors, je vais faire quelques points pour résumer ce qui est, de mon point de vue sont des défis et des opportunités euh au sujet de lien et de l'éducation. Premier constat, on a aujourd'hui une vague d'usage massif chez les jeunes euh qui commence à peu près à partir des classes de 4e 3e.

Euh la plupart des enfants euh commencent à utiliser les logiciels diagénératives le plus souvent comme des raccourcis pour faire leur devoirs dans un contexte scolaire. mais très vite euh généralise ces usages euh chaque fois qu'ils vont chercher une information euh une connaissance sur n'importe quel sujet. Ça peut être un sujet quotidien de quelles sont les prochaines baskets qui vont vouloir acheter, mais ça peut être aussi tout simplement pour comprendre l'actualité.

Beaucoup d'entre eux ne passent plus du tout par la presse euh voire même les influenceurs. Euh ils utilisent directement des logiciels diagénérative. Et ça c'est important parce que la manière peut-être la plus importante de voir l' générative, c'est comme une technologie de transmission culturelle.

Donc qu'est-ce que ça veut dire ? Ce sont des systèmes qui sont entraînés sur des corpus de textes et d'images qui encodent les valeurs, des préférences, des croyances, des stéréotypes euh qui représentent la culture des humains qui ont écrit c ces textes ou fabriqué ces images. Et euh et et tous ces élements culturels vont être reflétés dans les discussions que vont avoir les gens avec.

Donc ça veut dire que par exemple un enfant qui interroge euh un de ses logiciels pour comprendre ce qui se passe à Gaza, pour comprendre euh par exemple les événements de la plastiennan mienne, pour comprendre euh euh ce qui se passe au Groenland, et bien il va pas avoir les mêmes réponses en fonction de s'il pose la question par exemple à Grock, euh à Mistrral ou à des logiciels diagénératif chinoises. Euh et donc ce qui est très important de comprendre, c'est qu'aujourd'hui ce sont des logiciels qui vont avoir une influence culturelle majeure en particulier sur les futurs citoyens. Euh et même si on en a conscience et qu'on veut volontairement décider d'éviter cette influence culturelle, on ne peut pas y échapper.

Parce que sur les réseaux sociaux, par exemple, il y a beaucoup de euh personnel de personn de personnages de personnes qui sont simulées grâce à ces logiciels et qui sont déployés par des institutions qui veulent faire de l'influence. par exemple euh sur internet, beaucoup de textes ont été générés par ces systèmes. Donc très difficile d'y échapper.

Donc déjà recommandation, ça veut dire que il est extrêmement important d'éduquer euh tout le monde mais les jeunes en particulier à l'intelligence artificielle. Pas simplement d'un point de vue technique mais aussi d'un point de vue culturel. C'est c'était l'une des l'un des enjeux qui d'ailleurs avec mon collègue Didwan nous ont amené à écrire le livre c'est pas moi les c'estes liens.

La deuxième chose, c'est aussi très important de s'assurer que les jeunes vont pouvoir avoir accès quotidiennement à la fois dans le contexte scolaire mais au-delà à des modèles diagénératives qui sont à la fois l'état de l'art et qui sont alignés avec les valeurs que nous voulons défendre en Europe. C'est pas forcément le cas aujourd'hui. Deuxième point, ça c'était un défi, une opportunité extraordinaire.

Lia est en train aujourd'hui de bouleverser la manière dont on fait des sciences, dont on fait des découvertes, dont on fait avancer les connaissances. Euh vous aurez vu que euh l'année dernière deux prix Nobel ont été décernés à des équipes d'IA en chimie et en physique. Celui de chimie a été décerné pour le logiciel Alpha Alpha Fold euh qui euh permet de résoudre un problème fondamental qui est celui de la prédiction de la structure euh des protéines à partir de leur séquence d'acide aminé qui est à la fois fondamental du point de vue de la compréhension du vivant mais aussi extrêmement important d'un point de vue applicatif pour mettre au point par exemple des nouvelles molécules dans le domaine de la médecine.

C'était un problème qui était resté ouvert et extrêmement difficile depuis des dizaines d'années et ce n'est qu'un exemple marmit plein d'autres qui ouvrent des perspectives incroyable. Dans les mathématiques aujourd'hui, vous avez par exemple certains des plus grands mathématiciens du monde comme Teron Stao qui utilisent qui explorent aujourd'hui l'utilisation de ces systèmes pour faire avancer la frontière des mathématiques. Un défi qui se pose, c'est donc euh les sciences aujourd'hui se déroulent comme ça.

Comment adapter dans le contexte scolaire l'enseignement des sciences à ce nouveau contexte ? Peut-être qu'au 21e siècle, on peut se dire que enseigner les sciences sans parler d'IA, c'est un petit peu comme au 20e siècle, enseigner les sciences sans parler de mathématiques, faire de la physique sans faire de mathématiques. Et puis la deuxième chose, c'est que ben comme c'est un outil et une méthode de plus en plus importante, c'est aussi important que la communauté scientifique elle-même dans l'enseignement et la recherche puisse avoir accès au modèle état de l'art et à des ressources suffisamment avancées.

Il y a beaucoup de travail encore à faire sur ce sujet. Et enfin euh le sujet qui directement combine défis et opportunités, c'est celui de l'école. Lia aujourd'hui démultiplie un problème qui existe depuis fort longtemps, mais le rang encore plus saillant, c'est celui du sens de l'école.

Beaucoup d'enfants ont dans leur poche un téléphone qui en quelques secondes peut répondre à à la plupart des choses qui leur sont demandées à l'école. Et donc de manière un petit peu spontanée, beaucoup d'entre eux se disent "À quoi cela sert-il que j'aille à l'école ?" Et bien je pense que cela reflète euh le fait que collectivement nous avons échoué à expliquer aux enfants et à discuter avec le monde enseignant comment expliquer aux enfants quel est le sens de l'école.

Peut-être que par exemple quand les enfants font des mathématiques et qu'ils apprennent tel ou tel théorème, et bien nous avons échoué à leur expliquer que ce qui compte, c'est pas le théorème lui-même. C'est pas de savoir le théorème. C'est le chemin qui a amené à apprendre à résoudre ce théorème.

C'est l'effort et la curiosité qui ont amené à résoudre ce théorème. Peut-être que ce que nous avons échoué à leur expliquer, c'était que l'école n'était pas un lieu qui était là pour sélectionner et pour noter et pour comparer aux autres, mais un lieu dans lequel on peut s'épanouir, dans lequel on peut assouvir un besoin fondamental de l'humain qui est celui de de connaître, d'apprendre et puis aussi apprendre quelque chose qui va être utile toute leur vie, c'est apprendre à apprendre. Et ça ça nécessite de remettre deux choses au cœur de l'école qui ne sont pas spécifiques à l'intelligence artificielle mais qui seront très utiles dans son rapport, c'est la curiosité et le goût de l'effort.

Quelque chose qui est associé à ce défi là, c'est qu'évidemment beaucoup d'enfants à qui on n pas expliqué ces choses-là et bien utilisent ces outils d'intelligence artificielle pour se décharger cognitivement, pour remplacer les efforts qui auraient été nécessaires à ce qu'ils apprennent, par exemple un certain nombre de choses par exemple dans le contexte de leur devoir à la maison. Il y a des solutions qui sont potentiellement à trouver. Euh beaucoup d'enseignants aujourd'hui ont commencé à prendre les choses à bras le corps et à expérimenter.

Mais on n' pas encore une vision très claire. Il faut de l'humilité, il faut du temps. Ce qui est très important de mon point de vue, c'est de redonner de la liberté et du temps d'exploration aux enseignants, de la possibilité de partage et que collectivement nous nous soyons humbles.

On va pas forcément trouver tout de suite la solution. Et la deuxième chose qui me semble extrêmement importante, c'est de développer les capacités d'esprit critique, de curiosité, ce que d'un point de vue scientifique, on appelle la métacognition, le goût de l'effort, le goût du dépassement de soi. On peut y travailler.

Dans mon équipe, par exemple, on a développé depuis quelques années des interventions pédagogiques qui sont basées sur les sciences de la cognition et qui visent justement à développer ça. Et certaines d'entre elles en fait utilisent des outils d'intelligence artificielle, par exemple des outils d'intelligence artificielle générative et conversationnelle pour entraîner les enfants à poser des questions curieuses. C'est quelque chose qui qui est pas qui vient pas comme ça.

Ça s'entraîne, ça se muscle. Euh c'est ça aussi sur lequel on travaille. Par exemple dans la collaboration avec Pixia dans lequel il y a des modules qui sont faits pour entraîner les enfants à développer un savoir de conversation critique avec l'IA.

Mais plus généralement, quand on travaille la conversation critique avec Li, on on la travaille dans tous les contextes. Et ça ça ça m'amène à une dernière partie rapidement. Il y a aussi des opportunités qui sont assez extraordinaires de l'utilisation de l'IA pour l'éducation et qui sur la base de principes de sciences de l'éducation et de sciences cognitives quand ils sont bien compris et utilisés dès le départ peuvent amener à des outils qui peuvent personnaliser les apprentissages et s'adapter à la diversité des enfants, la diversité des profils, la diversité de leurs histoires.

C'est ce sur ce type de sujet par exemple sur lequel j'ai travaillé avec un certain nombre de d'entreprises du domaine de des technologies éducatives. Par exemple, on parlait du tout à l'heure du logiciel MIAconde avec l'entreprise évidence B. Et bien, il y a dedans des technologies de personnalisation qui sont basées sur deux décennies dans mon équipe de travaux sur la curiosité et qui permettent de comprendre que par exemple ce qui motive le plus le cerveau humain et les enfants en particulier, ce sont les activités sur lesquelles il s'aperçoit qu'il progresse le plus.

Et donc ce qui est important, c'est pour chaque enfant identifier progressivement quels sont les exercices sur lequels il va le plus progresser. Les algorithmes qu'on a développé qui sont basés sur l'apprentissage par renforcement qui est l'un des ingrédients d'ailleurs de la révolution de liagénérative mais qui existe depuis bien plus longtemps sont au cœur de ces logiciels. Et ce qui a été très important dans ce processus encore une fois c'est le temps.

Nous avons mis des années à développer de manière itérative des expérimentations d'ailleurs d'abord à petite échelle. Ça a commencé un nouvel Aquitaine dans quelques classes en mettant les enseignants au cœur du processus et puis en ne se contentant pas de se de remesurer l'impact sur les performances disciplinaires, mais en mesurant aussi l'impact sur la motivation, sur le rapport à l'école qui est peut-être le plus important. Et c'est ça aujourd'hui qui amène à ces collaborations qui sont extrêmement riches.

Et donc je terminerai sur une recommandation pour stimul Je voulais juste dire aussi que plus récemment il y a une étude d'impact qui a été faite euh avec Adaptive Mat qui est une autre un autre logiciel que Mia seconde mais similaire pour le primaire et qui montre des résultats extrêmement intéressants en particulier vis-à-vis des filles. Vous savez qu'il y a pour les mathématiques quelque chose qu'on ne comprend pas encore totalement mais qui est que les filles à partir de la classe de CP et bien recule dans leur performance par rapport au garçon. Il y a un certain nombre d'hypothèses.

Peut-être l'une des hypothèses par exemple c'est qu'elles ont un un rapport avec l'erreur qui est plus complexe, un rapport avec le fait que le les autres dans la classe quand elles font des erreurs et bien peut-être un certain nombre d'entre elles vont être plus affectées par cela. En tout cas, ce que nous observons, c'est que quand elles utilisent ces systèmes, il y a un certain nombre d'indicateurs qui font qu'elles en bénéficient, semble-t-il, encore plus que les garçons. Et peut-être que ça reste une hypothèse à vérifier, il faut il faut avoir de l'humilité.

Mais peut-être que c'est parce qu'on les met dans un environnement dans lequel il y a plus de liberté pour faire des erreurs, il y a plus de liberté pour devenir confortable avec l'erreur et qui a quelque chose de fondamental. Euh et dernière recommandation, il est absolument nécessaire pour stimuler cet écosystème de lui donner le temps de l'itération, de l'exploration, de l'expérimentation, de le décorréler d'un agenda qui peut être parfois politique euh dans lequel par exemple on va vouloir soutenir un une filière mais sur des projets relativement courts, par exemple de 2 ans et parfois même plus courts. En fait, pour apprendre et pour progresser dans ce domaine, il faut penser loin.

Voilà, je m'arrêterai ici. Excusez-moi. Merci beaucoup.

Merci monsieur pour ce développement. Madame la rapporteur, je vous en prie. Merci beaucoup.

Et bien, par vos propos introductifs, vous avez illustré l'importance de l'INRIA pour nous permettre de comprendre justement comment l'IA change nos vies. Vous avez fait écho à des défis, des opportunités et puis vous avez consacré aussi tout un moment sur l'école qui combine défis et opportunités. Si je reviens sur le le défi de la de la de l'IA comme technologie de transmission culturelle, vous avez pointé l'utilisation aujourd'hui des agents conversationnels pour répondre et aux plus jeunes d'entre nous à des questions aussi bien sur les dernières tendances vestimentaires que pour comprendre les actualités chaudes ou moins chaudes.

Quelle est la différence entre l'utilisation d'un moteur de recherche tel que nous le faisons depuis des années qui peut nous donner des réponses différentes selon qui l'utilise et puis les réponses qui vont être suggérées via notre interrogation des agents conversationnels. Est-ce que vous y voyez une différence ? si vous pouvez souligner en quoi cette différence a comme conséquence sur notre cohésion sociale.

Euh merci pour cette question. Euh probablement vous la posez parce qu'il y a un point commun qui est celui que quand on fait des recherches sur un moteur de recherche, on peut aussi tomber sur des points de vue biaisés. Mais il y a une différence qui est extrêmement importante, c'est que ce sont des logiciels qui quand ils conversent le font avec un ton, une expertise qui va aller taper dans des biais cognitifs humains et qui va rendre le contenu des arguments qu'il présentent souvent plus convaincant.

Par exemple, si on va les interroger et puis en posant les questions d'une manière qui indique qu'on a tendance à penser plutôt telle opinion plus aucune autre, ce sont des logiciels qui vont pour la plupart d'entre eux avoir tendance à renforcer cette opinion, à aller trouver des arguments qui vont dans le sens de ce que les utilisateurs dis. C'est ce qu'on appelle la psychofensie. Par ailleurs, c'est renforcé par le traitement de ces logiciels par les médias de manière générale qui les présentent souvent comme des systèmes super intelligents qui reprennent le message qui est porté par un certain nombre des grandes entreprises pour elles-mêmes se donner de l'importance et euh trouver un certain nombre d'investisseurs.

Et souvent le message que la plupart des gens reçoivent, c'est tout simplement ce sont des systèmes qui sont plus intelligents que les humains qui nous battent dans plein de domaines et donc bah probablement que ce sont eux les plus experts. Et donc si c'est s'ils me disent ça, pourquoi j'en doutterai ? Et puis enfin euh un certain nombre de ces systèmes, ça va encore plus loin, construisent des liens émotionnels affectifs avec leurs utilisateurs, ce qui est ce qui d'abord peut être particulièrement dangereux vis-à-vis des enfants.

On a vu des drames récemment, mais qui mais qui participent à l'effet de conviction très forte et de court circuitage de des circuits de l'esprit critique, on va dire. Je vous en prie. Je vous remercie.

Si je puis me permettre de rajouter un un petit euh aspect sur ce qui vient d'être dit, c'est que aussi ce qui est important dans un moteur de recherche, c'est que vous avez un classement de toute une série de liens vers des sites internet qui portent des informations différentes. Donc en fait, vous conservez une variété de points de vue au travers de tous les sites vers lesquels vous pouvez vous diriger. tandis que dans une logique d'agent conversationnel, vous avez une forme de synthèse et qui finalement ne traduit pas nécessairement la totalité et la variété de l'ensemble des des positions que vous retrouverez dans les différents sites d'internet qui ont été classés.

Merci beaucoup. Alors, c'est un un un défi et merci de l'avoir souligné. Vous avez parlé en terme d'opportunités sur tout ce que LIA permet dans le domaine de la recherche d'aller approfondir notre connaissance du vivant, notre planète, notre notre galaxie.

Comment jugeriez-vous aujourd'hui l'utilisation de l'IA dans les domaines scientifiques en France comparé à d'autres pays ? Alors, c'est difficile d'avoir une vision qui synthétise tout parce qu'en fait il y a beaucoup de diversité. D'abord ce qu'on peut dire c'est que dans la plupart des projets d'IA les plus avancés dans le monde, il y a souvent des Français que ça soit en France ou à l'étranger, que ça soit dans le monde académique ou dans le monde privé.

C'est probablement relié à une tradition de formation d'excellence dans un certain nombre de domaines, y compris celui des mathématiques et de l'informatique. C'est difficile à expliquer mais c'est c'est assez vrai. Par ailleurs, dans le domaine de la de de l'aide à la recherche scientifique, il y a certains domaines dans lequels il y a par exemple des projets qui sont vraiment à la pointe et excellents.

L'un d'entre eux, c'est celui de l'utilisation de l'intelligence artificielle pour la recherche en mathématiques. Il y a aujourd'hui des projets émergents en France, à Paris, en particulier à NRIA par exemple, il y a ce qui s'appelle un défi Inria qui est un rassemblement de tout un tas d'équipes qui s'intéressent à l'utilisation de la tenace artificielle pour développer la capacité des systèmes à faire des preuves automatiques ou alors à mettre au point euh des programmes dont on va être capable de vérifier la le le le bon comportement. Euh et puis euh est à noter que dans ce contexte-là, il y a aussi un certain nombre d'entreprises françaises qui commencent à de l'intelligence artificielle comme Mistral par exemple dont l'un des premiers pas euh dans le domaine de l'IA pour les sciences est justement celui de l'IA pour la recherche en mathématiques.

Euh donc ça c'est un domaine un exemple dans lequel on il y a beaucoup de il y a beaucoup de ressources en France. Euh néanmoins euh du côté académique, il est important de garder en tête euh que ce sont des recherches qui nécessitent à la fois des talents euh et qui nécessent aussi des ressources euh des ressources en calcul. On a la chance d'avoir des ressources en calcul qui sont euh extrêmement utiles en France, par exemple avec la plateforme Janz.

Euh recruter des talents, ça dans le monde académique en France, ça reste un vrai défi. Ça reste un vrai défi. Euh par exemple parce que euh le le les salaires qu'on peut proposer à ces talents sont incomparables avec ceux qui sont proposés dans les autres pays, y compris dans le mode académique.

Merci beaucoup. pour revenir sur vos propos sur l'école qui combine Ah pardon, vous avez une de j'ai pas vu sur le sur l'école. Euh donc vous reconsacrez l'idée de curiosité.

Je ne peux que être d'accord avec cette volonté. L'idée est plutôt de d'amener les gens à apprendre à apprendre. Je voulais revenir sur les mots que vous avez utilisé, se muscler, éviter de se décharger cognitivement.

Est-ce que vous pourriez revenir peut-être sur une expérimentation sur laquelle vous avez pu travailler ou accompagner pour qu'on puisse combiner la mise en valeur de la curiosité mais aussi de la prise d'effort ? Quelle est la bonne gratification à donner à l'apprenant ? Pardon ?

On on fait effectivement des expériences qui sont assez variées. Un exemple d'expérimentation que nous nous avons fait récemment concerne effectivement celui de l'entraînement à poser des questions curieuses dans le contexte scolaire, dans la classe. Euh on sait à la fois que l'expression de la curiosité euh et la liberté d'expression de la curiosité est absolument essentielle pour l'épanouissement et l'apprentissage.

Et malheureusement dans le contexte scolaire, c'est souvent quelque chose qui tout simplement ne se passe pas. euh parce que euh il y a beaucoup de d'obstacles euh de type variés. Alors, d'abord, il y a des obstacles, on va dire socio-émotionnels.

Euh la classe est comprise par les élèves comme un environnement dans lequel il va être pas très bien vu de poser des questions euh en pour lesquelles on ne connaît pas la bonne réponse. Les les élèves par exemple ont souvent la priori que s'il posent une question pourqu en fait les autres soit vont dire bah il est un peu bête, il connaît pas les réponses, soit c'est le faillot du prof et cetera. Enfin voilà, tout tout un tas de choses un peu farfelues comme ça, mais qui sont la réalité.

Un autre obstacle, c'est que même les professeurs qui ont la la plus grande sensibilité et bien sont souvent pris dans le flow des activités quotidiennes avec tout un tas de contraintes et et et les scénarios pédagogiques qui sont mis en œuvre sont souvent des scénarios dans lequels c'est l'enseignant qui pose des questions et l'élève qui est mis dans la situation d'y répondre. il vaut mieux qu'il ait la bonne réponse. Euh l'enseignant ne aussi a relativement peu l'occasion euh de se de se mettre lui-même dans la dans la peau euh de celui qui va euh jouer le rôle d'un modèle de curiosité, c'est-à-dire poser des questions qui l'intéressent et montrer qu'il ne connaît pas la réponse et que c'est une bonne chose, que c'est totalement OK de ne pas connaître la réponse et qu'ensemble on va pouvoir y chercher.

Euh ça peut être vécu d'ailleurs parfois comme inconfortable pour pour un enseignant de de montrer qu'il y a quelque chose qui qu'il ne sait pas. Euh et alors surtout je je j'aimerais dire quelque chose, c'est pas du tout de la faute des enseignants, c'est plutôt une une question écosystémique de la manière dont l'école est organisée, dans dans de la culture de de l'école de manière générale. Et donc il y a aussi des obstacles tout simplement cognitifs euh et sémantiques.

On s'aperçoit par exemple que les élèves euh même quand ils s'aperçoivent que intuitivement il y a quelque chose qui intéresse, ils voudraient savoir, ils savent pas forcément toujours poser la question, formuler la question d'un point de vue linguistique. Donc toutes ces choses-là se muscl et par exemple récemment nous avons fait deux thèses dans lequel on met au point des petits scénarios pédagogiques alors qui sont sous la forme d'une application dans lequelle il y a un agent conversationnel que nous avons mis au point et sur lequel on va montrer par exemple des petits textes à des enfants par exemple sur pasteur sur les volcans et puis on va leur donner des indices progressivement de manière à à les amener à formuler des questions qu'on appelle d'un point de vue scientifique divergente curieuses des questions qui ont rapport avec le texte, mais la réponse n'est pas dans le texte, qui nécessite idéalement des explications, des développements. Euh et puis au fur et à mesure, on va leur donner de moins en moins d'indices et puis on va les amener à essayer de poser des questions dans un autre contexte et puis on va on va mesurer tout un tas de choses, par exemple comme à quel point ils se souviennent de des choses qu'ils auront, on lu, à quel point si on leur donne de nouveaux contenus à explorer et qu'on leur donne pas d'obligation et de quelle manière ils vont spontanément les explorer.

Et donc on a eu des résultats qui sont qui sont très positifs, qui sont très encourageants. Encore une fois, il faut de l'humilité. Euh ça reste des expérimentations qui sont à ce stade à une petite échelle.

Et puis l'autre chose qui qu'on peut observer quand on fait ces expérimentations, c'est que c'est l'effet de ces de ces interventions est écosystémique. Il nous est arrivé de d'abord développer une intervention comme celle-ci. Elle fonctionne très bien avec beaucoup d'indicateurs et puis ensuite on a voulu la faire passer à l'échelle. par exemple faire que ce soient les enseignants eux-mêmes qui la mettent en œuvre dans leur classe sans qu'on soit là.

Et là, on s'aperçoit que l'effet n'est pas le même. Et l'effet n'est pas le même parce que par exemple, ils vont présenter l'activité ou l'outil ou le logiciel d'une manière qui est un tout petit peu différente de la nôtre. Euh et ça ça peut avoir un impact qui est qui est assez important et c'est important de l'avoir en tête parce que euh en fait cette expérience qui dont je vous parle qui est faite chez nous à petite échelle, il y en a d'autres qui sont faites à beaucoup plus grande échelle pour des logiciels euh dont on a parlé et euh et il est important euh quand on fait des expérimentations de comprendre que quand on a eu un résultat qui est qui est dans lequel on a identifié des limites mais aussi des forces, très souvent ce qu'on évalue c'est pas uniquement par exemple le logiciel, l'outil, mais la situation et l'écosystème dans lequel il a été déployé.

C'est-à-dire que un système par exemple qui a été déployé euh euh avec une population d'enseignants qui a été volontaire et qui montre des résultats positifs, il va pas forcément être déployé avec les mêmes résultats. Si on si par exemple de manière top down, de manière un peu euh euh euh pardon dirigé dirigé, on on décide du jour au lendemain en disant à tous les enseignants, vous êtes obligé de l'utiliser, utilisez-le et cetera et puis on les forme pas et puis on les accompagne pas. Là, dans ce cas-là, ils vont ils vont tout de suite avoir une perspective, une attitude vis-à-vis de l'outil qui est très différente et ça va se ressentir de la part des élèves et et le résultat, l'impact va pouvoir être très différent.

Donc c'est extrêmement important de garder les enseignants au cœur, de les accompagner, de les motiver et voire même je dirais de leur donner du pouvoir dans le choix des outils pédagogiques qu'ils vont pouvoir utiliser. Il y a des pays par exemple dans lesquels les les outils d'intelligence artificielle pour le monde de l'éducation ne sont pas décidés de manière descendante par le ministère et imposé à tout le monde. ce sont les enseignants qui vont pouvoir proactivement étudier les solutions, les choisir et ça ça a beaucoup d'avantages.

Ça a le premier avantage que les enseignants se sentent beaucoup plus en responsabilité et donc se sentent plus motivés. Et puis ça aussi un avantage de permettre une plus grande diversité des approches et des expérimentations et d'avoir un écosystème un petit peu plus fluide. Si je puis me permettre de rajouter alors si si je puis me permettre juste de de rajouter aussi un petit élément sur cet aspect qui est un aspect vraiment central, c'est que l'éducation est saisie par le règlement sur l'intelligence artificielle non seulement au titre des pratiques interdites d'IA parce que certaines pratiques vont être interdites lorsqu'elles viennent saisir les émotions des élèves dans un contexte éducatif.

Donc a une première chose. Ensuite les systèmes d'intelligence artificielle qui vont être développés dans le cadre de l'éducation sont considérés comme des systèmes d' à haut risque, c'est-à-dire haut risque pour la santé, la sécurité et les droits fondamentaux. Donc, il y a tout un écosystème cette fois-ci de gestion des risques qui doit être mise en œuvre quand on veut déployer ce genre de système parce que voilà, il faut mesurer les impacts de manière très précise.

Et puis la dernière chose, c'est que sur lequel il va falloir réfléchir aussi, c'est que lorsqu'on est face à des systèmes d'IA qui sont développés par des on va voilà qui qui intègrent en leur sein ce qu'on appelle des gros modèles d'intelligence artificielle, et bien il faut réfléchir sur les risques systémiques qu'il crée. Donc là, quand vous parliez de déchargognitif ou justement de peut-être de moindre esprit critique qui serait développé, bah voilà, il va falloir commencer à à questionner ces questions de l'impact réel sur l'esprit critique de l'humain, du développement de c de ces systèmes dans le secteur de l'éducation. Je vais à mon tour ajouter à au propos de de Juliette Sénéchal.

Euh naturellement les règlements dont dont l'Union européenne s'est doté sont contestés, on l'entend beaucoup. Euh et on peut entendre les partisans de l'innovation expliquer que il y a des freins importants à l'innovation, mais quand même ces règlements sont issus de délibération et d'une et d'un souci effectivement des risques systémiques que peuvent nous nous faire courir ces ces systèmes et pays après pays et j'espère à l'échelle de l'Union européenne. Nous nous dotons euh et je crois que vous vous l'avez évoqué, monsieur le président, dans votre proposinaire de justement de regroupement de compétences pour évaluer les risques que et et surveiller les risques que nous font courir ces ces systèmes et puis mettre effectivement le le vraiment le l'état de l'art de la science au service de la mise en œuvre des des régulations que dont dont dont l'Europe à tout le moins c'est c'est c'est doté.

Euh la deuxième chose que je voulais ajouter l'illusion puisque Juliette Sénéchal a a fait référence au grand modèle. C'est l'illusion sur lesquelles repose en particulier les les le l' générative qui est de regrouper toute la connaissance du monde. On entend ça, ça n'est naturellement pas le cas puisque ça regroupe ce qui est numérique, ce qui est accessible euh et préhensible par les machines.

Euh voilà. Mais il y a des tas de connaissances qui ne sont pas euh sous cette version. Et donc il y a des risques aussi de d'occultation, de disparition de ps entier euh de la culture si nous n'y prenons pas garde.

Heureusement euh à l'échelle européenne comme à l'échelle euh française, il y a des stratégies nationales qui mettent la recherche sur le numérique et sur l'intelligence artificielle au cœur. il ne faudrait pas euh relâcher l'effort parce que on voit bien euh qu'on est vraiment sur un euh sur une lisière euh où on pourrait euh ben basculer dans la perte de de possibilités de retour en arrière ou au contraire dans la capacité à garder la maîtrise de notre destin collectif. Merci beaucoup.

Je vais rester sur la culture et interroger non plus seulement là la question de la curiosité mais la question de la créativité. Aujourd'hui, on a des outils di génératif qui nous permettent tous de générer des vidéos, des sons, des musiques sans avoir eu forcément le temps d'en apprendre dans ne serait-ce que les bases. Est-ce que avec l'intelligence artificielle générative, je suis créatif ?

Si oui, à quelles conditions et quelles sont les opportunités mais aussi les défis pour les industries culturelles et créatives européenne que porte li enfin l'IA génératif. Euh alors c'est c'est une question importante euh que les les laboratoires scientifiques ont commencé à étudier mais pour lesquels on en sait pas encore beaucoup dans le sens où il y a un certain nombre d'études qui qui ont voilà qui qui qui ont commencé à apparaître par exemple où on utilise des tests de créativité de la littérature de psychologie et puis on compare des élèves ou des adultes qui ont qui ont été entraînés sur une tâche avec l'accès à ces outils puis une autre population sans l'accès à ces outils et puis ensuite on on leur propose des problèmes du même style et puis on regarde à quel point les solutions qu'il trouvent sont créatives et dans dans quand quand on fait ce genre d'expérimentation pour l'instant effectivement on s'aperçoit que peut-être que parfois à court terme euh le résultat quand on a utilisé le logiciel diagénérative peuvent être intéressants. Mais sur le long terme euh c'est assez négatif.

Mais cependant, c'est un cadre assez contraint. Euh il faut prendre du recul et s'apercevoir aussi par ailleurs que euh bah dans le monde artistique, il y a tout un tas d'artistes qui ont commencé à s'approprier euh les outils diagénératives de manière créative euh et qui produisent des œuvres extrêmement intéressantes euh qui savent prendre du recul, qui savent qui savent les critiquer, qui savent voilà qui et qui explorent eux-mêmes et c'est probablement que ce sont eux qui sont à la à la à la frontière et à la pointe de cette questions sur la créativité. Et puis dernière petite chose et puis ensuite je passerai la la parole, c'est que si on revient à Lia pour les sciences tout à l'heure, dans les sciences aussi, il est question de créativité.

Euh ce qu'on observe aujourd'hui, c'est que un certain nombre de logiciels diagénératifs permettent à des scientifiques de trouver des solutions à des problèmes en physique, en design de matériaux, en chimie, en mathématique, en informatique euh auxquel il n'avait pas pensé euh qu'il n'avaient pas trouvé. Euh et donc ici, on peut dire que le système composé euh euh de des scientifiques et de ces outils était capable de produire des solutions nouvelles et pertinentes et c'est la définition même de la créativité. Bien.

Alors, c'est une question qui n'est pas aisée. Alors là, euh sur ce euh sur cette question en fait de de la créativité, je la joindrai à nouveau à la à la notion de risque systémique parce que euh finalement le la question qui se pose c'est est-ce que l'humain ne risque pas de perdre sa créativité ? Donc puisque finalement euh on pourrait l'être délégué à une intelligence artificielle.

Et donc ça c'est un vrai sujet de la place de l'humain puis enfin dans dans la société dans laquelle il vit alors que euh finalement c'est un principe humain qui construit avec sa créativité la société qu' dans laquelle il veut vivre. Donc voilà. Donc là il y a vraiment la nécessité de penser de manière très très interdisciplinaire à la question.

Euh et clairement c'est pas une question juridique, c'est pas une question informatique, c'est une question qui est vraiment au confluent des différentes disciplines et c'est un petit peu aussi justement la logique de de la création d'un d'un poste de d'adjoint à la direction scientifique de l'INRIA en charge des sciences humaines et sociales parce que l'idée c'est vraiment d'agréger une pluralité de disciplines qui sont capables de penser ensemble à ce genre de question. Et donc là, on a besoin d'anthropologue, on a besoin de sociologues, on a évidemment besoin des informaticiens et des mathématiciens. On a besoin aussi des des juristes pour essayer de de comprendre quels sont véritablement les enjeux.

Et c'est pour ça que cette logique euh du concept de risque systémique, c'est-à-dire quel va être l'impact pour la société euh de euh finalement euh permettre à des intelligences artificielles d'être extrêmement performantes finalement pour produire un certain nombre de choses. Donc quel va être l'impact sur la société ? Ça c'est ça doit être pensé maintenant de manière commune pour justement que les humains qui font société décide ce qu'ils veulent vouloir pour l'avenir.

Voilà. Donc donc c'est il y a une part politique mais il y a une part aussi de d'un ensemble de de disciplines qui qui sont saisies sur ces sur ces sujets-là. Et comme le le disait Sandrine Mazutier, voilà dans le cas de Linria, il y a également Linésia qui est justement un institut qui est là pour saisir ces questions des risques systémiques entre autres.

Voilà sur lequel travaille peut-être petite précision Inria est mandaté par l'État pour coordonner le volet recherche de la stratégie nationale en intelligence artificielle. Donc Inria, ça n'est jamais que Inriia, c'est toujours Inri et ses partenaires des universités, d'autres organismes nationaux de recherche. Voilà.

Donc c'est un une porte d'entrée sur un une des des communautés scientifiques beaucoup plus vastes. Une dernière question qui fait écho à un des outils de vérification des des faits. Vous avez développé Starcheck Stat Check pardon.

Euh moi je voulais savoir puisque dans cette question de qui est au cœur de notre mission d'information, on crée euh on diffuse plein de connaissances ou parfois pas de connaissance. comment vous avez développé cette chèque et comment ça peut être utilisé euh dans plusieurs domaines. Donc Stad Cheek a été euh développé euh dans le casadre d'une collaboration entre une équipe de notre centre de saclet euh qui s'appelle Sédar de de avec euh avec les équipes de de avec des équipes de journalistes au départ euh et singulièrement de de Radio France.

Euh mais naturellement c'est un c'est un un outil à vocation euh euh universelle j'allais dire avec cette euh visée qui est de de permettre de rassembler très rapidement euh quasi euh instantanément euh et donc en recoupant des sources dont le support technique n'est pas du tout le même. Il y a des tableaux de chiffres, il y a des propos, il peut y avoir des des déclarations orales, des voilà des sources et des et des données de nature euh différentes, la possibilité de vérifier des assertions à un instant de tel ou tel. Voilà, c'est le le le projet de départ.

C'est scientifiquement très compliqué euh d'arriver à faire ça. Euh mais c'est une ambition voilà stimulante et qui a au départ été conçu euh en appui de de rédaction de journaliste. Si je puis rajouter un petit élément.

Donc simplement effectivement par rapport à la question que vous vous évoquez de la possibilité d'utiliser dans des contextes différents. effectivement dans le cadre d'un contexte éducatif le le fait de pouvoir vérifier dès lors que on est face à à des élèves ou à des étudiants qui sont face à des génératives, le fait de pouvoir vérifier des éléments qui sont présents dans euh et sont produits, des réponses qui sont produites parce que ça peut être utilisé dans des contextes variés finalement, mais ce n'est pas initialement l'objectif de la recherche qui avait été faite dans le cas de l'équipe SénAR. Après, aucun pour compléter, aucun outil, aucune technologie, quelle qu'elle soit n'arrivera à euh contrer une tendance lourde de d'ertion absolument fausse et de remise en cause de de sources qui sont tout à fait fiables. le le les les travaux de de de nos collègues de l'équipe Sédar et des et des journalistes de Radio France.

Euh ils partent pour il ils considèrent comme acquis le fait que des données de LINC ne sont pas contestables. À partir du moment où vous contestez toutes les institutions, plus rien ne devient incontestable. Voilà.

Donc c'est le c'est pour ça qu'il me semble important sur ces sujets di et DI générative mais dia en général euh qu'un corpus de valeur commune euh soit défini et défendu à l'échelle du continent euh et c'est ce que nous essayons de servir par nos travaux. C'est en effet un enjeu de souveraineté. Vous avez parfaitement raison.

Bien, nous arrivons au terme de nos échanges. Mesdames, monsieurs, merci beaucoup pour avoir éclairé nos travaux. Je retiendrai pour ma part évidemment le fait que l'IA en matière d'éducation si peut représenter un danger en matière de curiosité et de sens de l'effort, elle peut aussi les augmenter.

Et ça, je vous remercie beaucoup monsieur Odiller pour votre contribution à c à ce point-là qui est qui est capital. Et je retiendrai aussi puisqu'il faut penser enfin c'est madame le le rapporteur évidemment qui sera qui rédigera le rapport mais il faut déjà penser à ce que nous dirons à la commission et aux recommandations que nous pourrons faire. Je suis moi très sensible au euh à l'aspect opératoire de la la préparation du corps enseignant à l'usage de l'IA et je retiendrai volontiers votre idée d'éviter ce que vous avez appelé le top down, c'est-à-dire le descendant, le vertical en matière d'usage parce qu'en effet pour avoir été enseignant comme vous sans doute euh tout ce qui vient du sommet est déjà un petit peu comment dirais-je vu avec une certaine distance et si en plus c'est fait sans préparation et sans sans formation, c'est vous à l'échec.

Donc moi je retiens cette recommandation comme étant probablement une piste à explorer et nous en parlerons avec le ministère de l'éducation nationale que nous auditionnerons prochainement. Merci encore pour votre présence. Merci