MISSION D’INFORMATION SUR L’IA : AUDITION DE VINCENT LUCIANI

Très bien. Bonjour à tous. Nous voici réunis à nouveau pour une audition dans le cadre des travaux de notre mission d'information dont le titre est création, diffusion et acquisition des connaissances. comment l'intelligence artificielle transforme notre éducation et notre culture avec l'audition de monsieur Vincent Duani cfondateur et président directeur général de la société Artefact et de monsieur Thba Mutielli Simonski qui l'accompagne et à qui je souhaite évidemment avec madame la rapporteur la bienvenue au sein de notre commission et que je remercie d'avoir accepté notre invitation après plusieurs années passées au sein du cabinet McKinze monsieur vous vous spécialis dans les enjeux liés à la donnée et à l'intelligence artificielle des fondés Artefact en 2018.

Cette société de service international située à l'intersection du conseil de la science des données et des technologies de l'IA et des marketing a pour ambition de faciliter et d'accélérer l'adoption de la donnée et de le afin de produire un impact positif sur les organisations comme sur les individus. Votre démarche se caractérise par une approche résolument transversale au croisement des savoirs scientifiques et des pratiques professionnelles. Vous êtes aussi à l'origine du sommet international Adopt AI AI sans doute qui réunit des acteurs privés et des enjeux de démocratisation de l'intelligence artificielle organisé sous le patronage du président de la République.

À cette occasion, vous avez notamment travaillé sur les modalités d'adoption des nouveaux outils technologiques à l'échelle sectorielle. Par ailleurs, vous avez initié en partenariat avec MK2 un festival de court-métrage produit à l'aide de l'IA visant à mettre en lumière les expérimentations en cours et les nouvelles potentialités ouvertes par la révolution numérique. Dans cette perspective, il nous a donc semblé particulièrement utile d'entendre votre analyse et votre retour d'expérience sur les transformations profondes que l'intelligence artificielle opère aujourd'hui dans les domaines notamment de l'éducation et de la culture.

Donc je vais vous céder la parole si vous voulez bien pour un propinaire de 10 minutes. Après quoi madame la rapporteur vous posera les questions prévues évidemment à l'ordre du jour. Je vous en prie.

Alors pour reprendre la parole, vous appuyez sur le bouton. Est-ce que vous m'entendez bien ? Oui.

Monsieur le président, madame la rapporteur, monsieur madames les parlementaires qui nous suivent à distance, écoutez, c'est c'est un plaisir d'être là et un vrai bonheur de voilà d'être entendu sur ce thème qui me paraît vraiment crucial et important pour notamment pour notre futur génération. Euh bah comme vous l'avez mentionné, moi je suis un observateur attentif du marché de l'intelligence artificielle parce que j'en ai fait mon métier depuis maintenant 12 ans. Euh je suis moi-même utilisateur très poussé.

J'utilise une dizaine d'outils d'IA quotidiennement. Euh et voilà, vous l'avez mentionné Artefact donc on accompagne des entreprises euh et donc j'observe vraiment euh avec un œil attentif l'évolution du marché du travail parce qu'on accompagne les moyennes grandes entreprises, on va dire en France et à l'étranger. On embauche beaucoup de jeunes qui ont entre 25 et 30 ans.

La moyenne d'âge chez Artefact, ça doit être 27 ans. On a à peu près 2000 collaborateurs. Donc on voit vraiment l'évolution aussi de la demande du marché de travail pour les jeunes pour les jeunes embauchés.

On a monté une école aussi chez Artefact. On a formé à distance et en présentiel plus de 100000 collaborateurs cette année. Et on a aussi un institut de recherche euh qui trava qui a notamment produit un un papier de recherche en partenariat l'année dernière sur le futur du travail.

Euh à titre personnel, je suis aussi papa de deux petites filles et donc voilà, je suis assez investi, très investi dans l'éducation et je suis marié. Ma femme est conservatrice du patrimoine où je suis aussi très voilà enfin je suis observateur attentif à titre personnel. Voilà.

Euh je suis très promateur de l'IA dans le cadre de mes activités professionnelles. Aujourd'hui, je vais essayer d'être un peu plus réservé. Alors, je tiens à vous préciser et préciser au membres de la commission, je suis pas un expert ni de l'éducation ni de la culture.

Donc, ce que je vais vous partager aujourd'hui, c'est ce sont des observations personnelles tirées de l'enseignement. Alors, je voudrais commencer par dire que l'IA constite une rupture notamment pour l'éducation, c'est une rupture cognitive. Si on fait l'évolution de ce qui s'est passé dans les dans les révolutions industrielles précédentes, on a automatisé finalement les bras, les muscle, la force.

Aujourd'hui, on vient automatiser toute partie du raisonnement cognitif. Ça touche particulièrement l'éducation parce que l'IA générative est basée sur les ce qu'on appelle les larges langages modèles, donc les modèles de les les grands modèles de données qui sont construits sur finalement la syntaxe, le vocabulaire et donc qui ont développé des capacités pour produire du texte. Et donc effectivement, ça touche une énorme partie d'éducation.

Ce qu'on a aussi découvert dans les modèles, c'est une capacité de raisonnement. Je je dois dire qu'au départ, les modèles n'ont pas été construits pour raisonner. Ça a été une conséquence et une découverte.

On parle de la découverte du cognitive. Les chercheurs eux-mêmes qui ont produit ces modèles ont été surpris de la puissance de raisonnement de ces modèles. Et aujourd'hui, ces modèles sont capables de raisonner.

On estime qu'ils ont un QIL quand ils passent le test du cuil, vous devez les savoir, de plus de 140 aujourd'hui. Voilà. Et donc, on peut se poser un certain nombre de questions.

À quoi vont apprendre finalement si la machine sait déjà tout ? Qu'est-ce qu'il faut apprendre ? Parce que vous le savez, une statistique de l'OCDE qui a beaucoup circulé.

L'obsolescence aujourd'hui des compétencences estimée à 2 ans en moyenne. Il y a une cinquantaine d'années, c'était 30 ans. Donc il y a une obsolescence des compétences et on le voit nous quotidien.

Quel est le rôle du professeur finalement quand les quand les élèves peuvent le contredire et comment incarner finalement une posture dans sein d'un établissement sein d'une classe ? Quelle méthode d'évaluation ? Euh parce que effectivement on est en droit de se dire que si tous les outils peuvent répondre aux questions, comment est-ce qu'on va faire pour interroger les élèves demain ? finalement qu'elle est le rôle de l'école qui historiquement était un lieu de transmission de connaissance et donc je comprends tout à fait l'intérêt de cette commission.

Euh alors, je veux tout de suite vous donner mon point de vue. Euh il a euh à mon sens notamment les outils type chat GPT euh produit ce qu'on appelle l'illusion du savoir. Je considère pas que l'IA, c'est le savoir.

C'est autant le savoir que si vous si vous déplaciez avec une clclopédie en 24 volumes et finalement elle produit l'illusion du savoir, ce qui peut avoir un un certain nombre de BIA. On y reviendra. Selon moi, le savoir étant quand je regarde dans la définition duousse euh ça nécessite un travail et un effort.

Euh le fait d'avoir accès à une connaissance ne constitue pas un savoir. C'est important de le constituer. Euh d'ailleurs, on a montré il y a eu pas mal d'études hein, qu'on montre que quand on donne de l'intelligence artificielle à par exemple des développeurs et qu'on leur fait passer des tests, ils sont brillants pendant le test.

Si on retire l'IA quelques minutes après, ils savent plus rien faire. Et donc on a on a une euh un finalement une illusion, c'est il y a il y a pas d'autres mots. Euh et donc il peut être empé emplié par des phénomènes qui ont été très documentés par exemple euh par des par des chercheurs en sciences cognitives comme le phénomène Dominic Kugger.

On a l'impression de tout savoir alors qu'en fait on ne sait rien et donc il faut faire attention, ça peut amener un certain nombre de biaiss. Je vois je vois deux types de biais. Le premier c'est une perte de capacité cognitive.

C'estàd qu'en fait à force d'utiliser ces outils, on en perd finalement des capacités importantes comme la mémoire, la capacité de raisonnement profond, une capacité d'abstraction, une capacité de comparer finalement avec un esprit critique des résultats. Et le deuxième biais qui est important pour moi, c'est la perte du sens de l'effort. Finalement, comme comme je comme je l'ai partagé, apprendre finalement ça nécessite de travailler avec effort.

Et je pense qu'en fait un des risques de l'IA, c'est de perdre le sens de l'effort. En revanche bien utilisé, je pense que l'IA constitue un outil très puissant qui va falloir et donc on pourrait y revenir finalement adapté en fonction des différents âges et des maturités des élèves. Je pense qu'il faut voir bien au-delà de chat GPT.

C'estàd qu' en fait le grand public a l'impression que finalement cet outil se résume à un questionnement réponse. Aujourd'hui, je pense que c'est c'est bien au-delà. Alors, j'y vois une vraie valeur pour le tutora à domicile.

Euh finalement, euh on s'aperçoit que euh quand on accompagne via un mentorat, euh et ben les élèves progressent énormément. Alors, rien ne remplacera un menteur, un euh une session de mentorat avec une personne physique. Euh néanmoins, bah comme vous savez, une immense inégalité euh pour certains élèves qui ne disposent pas soit des capacités financières, soit du temps des parents pour faire ça.

Et donc là, alors il y a pas eu de retour, donc il faut mon faut le piloter via des études, mais je considère que c'est une source d'opportunité très importante notamment pour les lycées et les études plus poussées pour pouvoir finalement réduire ses inégalités, pour pouvoir travailler soi-même via finalement c'est très facile de générer des quiz ou des questionnaires pour améliorer la connaissance d'un domaine. Euh l'autre aspect que je vois, c'est développer des nouvelles compétences. Aujourd'hui, il y a une révolution qui est en train de se passer dans le monde du code ou du coding où finalement on pouvait coder à partir de de 20 ans ou 22 ans.

Il fallait déjà un savoir-faire assez assez puissant. Aujourd'hui, moi avec mes enfants, on apprend à coder avec ce qu'on appelle du coding. On peut développer ses compétences à des très jeunes âges.

Et donc pour moi, je vois pas l'IA comme une source de remplacement finalement d'un savoir-faire existant, mais plutôt comme une capacité de développer des nouvelles compétences. Je pense notamment donc au code qui est très important. Je pense au domaine artistique.

Euh on peut beaucoup plus facilement apprendre à jouer de la musique, on peut beaucoup plus facilement apprendre des langues ou encore les langues étrangères. L'enseignement sur les langues étrangères à l'éducation nationale n'est pas bon. Je considère qu'on est très en retard par rapport à d'autres pays et donc ça serait une peut-être une solution pour apprendre plus facilement des langues avec quelque chose de plus intuitif.

Euh j'y vois aussi des opportunités très concrètes pour les enseignants euh qui donc il y a un rapport qui est sorti récemment qui consacre que qu'une heure sur de leur travail à enseigner. L'idée ça serait de leur libérer du temps pour qu'ils puissent enseigner. Donc le GRAL, ça serait finalement de corriger les copies automatiques.

On n pas encore mais il y a un certain nombre de choses qui peuvent être intéressantes pour les enseignants pour animer des cours, pour par exemple proposer des exposés, pour personnaliser par exemple des exercices si vous avez des enfants qui sont plus en avance faire des exercices plus difficiles, d'autres un peu plus en retard comment adapter les exercices. Ça c'est quelque chose que je que je considère étant très importante. Et il y a une valeur évidente pour l'administration.

Donc c'est on parle pas beaucoup mais artefact est spécialisé làdedans donc je j'étais obligé d'en parler gérer des données de mutation par exemple qui peuvent être très chronophag simplifier guider parcours sup qui est une source de stress à la fois pour les enseignants, pour les enfants, pour les parents d'élèves. Et donc ça, je pense qu'il y a il y aurait des des cas d'application très forts. Mon point de vue là-dessus, c'est qu'il faut faire un principe de progressivité.

Il faut pas le faire trop tôt et pas n'importe comment. Je considère que en primaire, il faut tabler sur les fondamentaux. Euh les classements à la fois Teams et PISA en France sont catastrophiques.

Il faut à tout prix renforcer les mathématiques dans un monde qui va être de plus en plus technologique. Euh la meilleure chance qu'on puisse donner à nos enfants, c'est les de les de d'en faire des stars en math. Il faut à tout prix renforcer les mathématiques et développer ces compétences qui me semblent cruciales pour le futur.

Si on sait faire des maths, finalement, on pourra interagir avec des machines et développer un raisonnement abstrait, développer la capacité de de raisonnement dont on parlait tout à l'heure. Et donc ça me paraît essentiel en même temps que des soft skill, ce qu'on appelle les soft skill donc en français donc c'est des des matières on va dire plus vivantes ou ou interdisciplinaires. Par exemple travailler l'oral qui est moins travaillé que par exemple dans les établissements angloaxons via des pièces de théâtre du travail en groupe des exposés qui me paraît important de renforcer à l'heure où en fait l'IA va finalement automatiser des tâches.

On se rend compte et nous on le voit tous les jours dans notre métier que en fait ce qui va rester c'est plutôt une capacité d'orchestration, de communication, de dialogue et qui me paraît essentiel de développer. Euh un peu plus tard, je pense qu'au collège, au lycée, on peut beaucoup plus confronter les élèves de l'IA via des expériences en classe. Euh et puis on peut mettre en place des tutorats.

Donc un bon exemple, c'est ce que fait la Chine aujourd'hui euh qui a accéléré énormément sur la création de ces plateformes. Alors euh en fait selon moi, euh il y a des tas d'avantages à construire des plateformes parce que notamment on va pouvoir empêcher le copiercoller. des études ont montré qu'en fait si on enlève le copiercollé, les élèves retennent beaucoup plus les informations parce qu'ils vont poser des questions et réécrire eux-mêmes et se réapproprier le contenu que finalement si on fait du copiercollé.

Donc parmi les choses à faire sur ces plateformes, c'est enlever le copiercollé, mettre en place un mode un peu ce qui a fait Open avec le mode study on Learn où en fait vous pouvez questionner une leçon et donc ces plateformes peuvent incorporer des principes pédagogiques et ça ça me semble essentiel qu'on puisse les développer dès le collège et dès le lycée. Voilà. Euh dans les cycles supérieurs, ce qui est important avec l'IA, c'est pas d'apprendre l'IA, c'est d'apprendre ce qu'a fait la Chine, ce qu'on appelle les programmes IA plus, IA plus santé, IA plus marketing.

Et en fait, on va se on va comprendre que c'est la capacité intericiplinaire qui va être hyper importante de développer. Euh le président de la République l'évoquait il y a il y a quelques années. Euh finalement, ce qui va être important, c'est développer des masters spécialisés avec de l'IA en plus euh des disciplines importantes.

Voilà. Euh le rôle de l'enseignante pareil irremplaçable. Euh mais euh il va être transformé.

Je pense que c'est important. Rien de remplace un très bon professeur. Et en fait, on le voit, il y a des études qui sont sorties récemment euh qui montrent qu'en fait, il y a un écart incroyable quand le professeur est jugé comme étant un bon professeur par rapport à un mauvais professeur.

En revanche, on va pouvoir l'augmenter. Euh par exemple, on va élargir son champ avec des nouveaux outils. Euh il va pouvoir construire euh des nouveaux exercices et automatiser un certain nombre de tâches avec voilà peut-être demain via ces plateformes la capacité de d'automatiser le le la le compte-rendu et et la rédaction des copies.

Euh voilà. En conclusion, euh je considère que euh c'est une révolution qui est importante, qu'il faut à tout prix s'y s'y attacher. Euh la technique, ça prend très facilement.

Donc l'enjeu, c'est pas tellement d'apprendre LIA, c'est plutôt d'apprendre euh qu'est-ce que LIA peut faire de plus. Je considère qu'il faut solidifier la base, c'est la priorité. Et après, il faut utiliser l'IA pour explorer des nouveaux domaines.

J'ai voilà, j'ai mentionné le code. La balance me semble très positive, mais sans doute il y a un besoin de lancer une expérimentation à grande échelle. Aujourd'hui, on manque un peu de retour d'expérience sur ce que peut faire l'IA et donc je serais favorable à lancer des expérimentations dans certains lycées ou dans certains collèges qui veulent faire le le pas.

Euh voilà, le potentiel est très gros. Faut le mettre en place de façon séquentielle avec une vraie réflexion sur finalement en fonction de la maturité et la plasticité des cerveaux des enfants. Euh le bon parallèle, je terminerai sont les échecs.

Il y a pas eu il y a jamais eu un aussi bon niveau euh mondial aux échecs, ni autant de joueurs que depuis que la machine balhomme dans tous les jeux possibles. En revanche, il y a il y a eu un certain nombre de réflexion et aujourd'hui les les joueurs d'échec finalement participe à des communautés, s'entraînent via des robots, apprennent sur YouTube et donc il y a toute cette espèce d'écosystème qui a été mis en place et finalement le le résultat est très bon. Donc la bataille n'est pas perdue.

Finalement ça reste intéressant de jouer aux échecs et voilà, je trouve c'est une belle source d'inspiration. Voilà. Euh je vois que les 10 minutes sont passées.

Alors, j'avais j'ai aussi un petit résumé sur la culture, mais je vais peut-être vous laisser pour poser les questions et je répondrai au fur à mesure. Très bien. Merci beaucoup pour ce proposiminaire.

Je passe la parole à madame le rapporteur. Merci. Merci monsieur le président.

Merci pour vos développement et effectivement on aura l'occasion de de revenir sur la culture. Mais je voulais revenir sur ce que vous disiez. Lia est une rupture cognitive.

On fait la différence entre l'IA générative et puis l'IA d'avant. Vous avez parlé du raisonnement dont serait doté aujourd'hui l'IA. Est-ce que c'est grâce à l'IA génératif ?

Est-ce que vous pouvez revenir puisque vous accompagnez ces révolutions depuis plus d'une dizaine d'années ? En quoi l'arrivée de l'IA générative et notamment chat GPT qui n'est pas le seul outil bien sûr est un changement pas seulement parce que c'est de l'IA mais que là on a changé de de d'échelle en fait. Oui.

Donc l'IA, la déficience de l'IA existe, vous devez savoir, depuis plus de 50 ans. Il y a eu plusieurs ruptures. Le li d'avance, ce qu'on appelle l'IA d'avance, c'est ce qu'on appelle dans le jargon le machine learning, donc les machines apprenantes.

Le la grosse différence avec l'IA génératif, c'est queen fait on partait d'un algorithme qui était neutre, qu'il fallait entraîner sur un ce qu'on appelle un dataset, donc un un ensemble de données et qu'on allait travailler sur un cas précis. Euh la différence avec les générative, c'est qu'ell elles embarquent de la connaissance euh du fait qu'elles ont été pré-entraînées sur à peu près aujourd'hui euh ce considérant tout le corpus de textes euh de vidéos euh disponible et donc ell elles embarquent de la connaissance qui est préfabriquée. Euh et donc on considère que c'est une c'est une rupture importante euh parce qu'il y a un certain nombre de cas qu'on pouvait pas du tout faire avant.

Donc moi quand j'ai commencé mon métier, on était incapable de construire de laisser une machine, construire du texte. Quand on faisait des chatbot par exemple, il fallait écrire la réponse là aujourd'hui à la main. Et finalement le le l'IA venait choisir la meilleure réponse par rapport à à la question qui était posée.

Là aujourd'hui, l'IA est capable de produire du texte complètement sans avoir été préconçu si vous voulez. Donc c'est c'est vraiment une rupture très importante. Et donc il y a deux types de modèles d'IA aujourd'hui dans les mod dans les dans les grands modèles.

Il y a les modèles de texte et les modèle de raisonnement. Par rapport à cette capacité de produire du texte, ces modèles ont aussi été entraînés de façon additionnelle pour fournir du raisonnement. Et donc en fait la façon dont on a fait ça, c'est qu'on a on a payé des chercheurs et des des spécialistes pour améliorer la qualité des données pour un raisonnement poussé.

Euh et donc aujourd'hui, on est capable, les IAS sont capables de répondre à euh alors j'ai fait le test récemment, mais euh elle elle rentre son problème à à l'école polytechnique euh sans aucun problème. Elle passe tous les tests avec succès et et sur des sur des sur des questions qui n'ont pas été posées précédemment. Donc elles sont aussi capables de généraliser, de faire d'un raisonnement déductif ou inductif et d'aller produire du nouveau contenu.

Voilà, elle ne passe pas aujourd'hui la barre postdoc. J'avais testé à l'époque avec mon mon père qui est chercheur en physique et donc quand on pose des questions précises sur des théorèmes de math avancés, elles ne sont pas capables d'y répondre. Donc on estime que le niveau aujourd'hui de raisonnement c'est le niveau d'un d'un PhD ou d'un voilà mais c'est bien au-dessus du bac et bien au départ des études supérieures.

Donc je considère c'est une rupture cognitive dans ce sens. Après euh la voilà c'est elles ont aussi leurs limites. Euh aujourd'hui euh elles sont pas capables de euh de euh alors Yan Lequin l sa société là-dessus mais elles sont pas capables de de de créer une compréhension du monde physique.

Euh et donc par exemple si on lui demande si un objet si on décale un objet, qu'est-ce qui va se passer ? Elles sont pas capables de comprendre qu'elle va tomber de la table. Donc elles ont aussi des limites par rapport à ce que peut faire un cerveau d'enfant.

Mais sur tout ce qui est, on va dire connaissance, texte et raisonnement, elles sont très avancées. Merci beaucoup. Vous avez euh justement euh par votre réponse souligné euh le rôle des données euh comme fondamental.

C'est vrai que notre mission d'information, on parle de la création, de la diffusion, de l'acquisition des données. On aurait pu y ajouter un autre point qui est l'utilisation des connaissance euh dans la création même de ces modèles. Euh on a des connaissances qui paraissent disponibles, d'autres pas.

Comment vous faites par rapport au clients que vous accompagnez justement pour les avertir de cette question de la maîtrise des données ? Les données, est-ce qu'il faut qu'elles soient diverses ? Est-ce qu'il faut que respecter la le fait qu'elle soit libre de droit ?

Comment on a une connaissance fine ou parfois pas assez fine des données qui ont servi aux entraînements de ces modèles ? Alors euh avec la nouvelle loi l'IACT qui est qui est progressivement en train d'entrer en vigueur, il y a une obligation de partager un certain nombre d'informations sur les données qui ont été utilisées euh avec un niveau de granularité qui est discutable. d'aujourd'hui, il y a une très enfin beaucoup de débats sur finalement le la grenurité.

Donc c'est je je ça ça fait partie des des choses qui sont encore en discussion dans les décrets d'application. Euh mais il y a une obligation en tout cas de partager ces informations au-delà d'une certaine taille notamment de modèle au certains niveaux de cricité. Euh donc ça c'est pour les données d'entraînement euh qui constituent finalement la moitié du travail.

Euh l'autre moitié du travail consiste à euh utiliser les capacités de raisonnement de ces modèles pour aller les appliquer euh à des à des applications chez nos clients qui ne marchent que si eux-mêmes mettent à disposition leurs données. Et donc en fait, on se retrouve avec deux types de données. des données qui sont en fait ouvertes, qui ont été incorporées dans le modèle, dans les dans les poids du modèle et en fait dans le modèle se souvient et des mod des données privés qui appartiennent finalement aux institutions bah publiques ou privées qui vont euh utiliser les capacités de raisonnement des modèles appliqués à leur données.

Vous avez raison de souligner que l'Act a encore à être affiné la granularité. On a souvent un débat entre d'un côté euh des ayant droits sur des données qui voudraient que chacune des données utilisées pour les modèles euh soit de manière transparente euh que ça fasse l'objet d'une information. Et de l'autre côté, vous avez les entraîneurs, enfin on va dire les développeurs de Model DIA qui disent "Attendez moi, si je dois livrer chacune des données qui m'a servi, peut-être que ça va à l'encontre même de mon secret des affaires.

Comment aujourd'hui euh vous sentez vous en tant que conseil euh appliquer on va dire une sécurité, une sécurisation pour vos clients ?" J'ai bien compris que d'un côté, on a la phase d'entraînement et de l'autre côté, on va avoir la phase d'utilisation avec des données propres. Mais comment garantissez-vous à vos clients que les modèles qu'ils utilisent ne vont pas forcément euh ils ne vont pas se retrouver en insécurisation juridique parce qu'on va leur dire "Vous avez utilisé un modèle qui est contesté parce qu'il a utilisé des données qui étaient soit fausses soit euh qui étaient soumis à des droits d'auteur.

Comment les rassurer ou les rendre encore plus exigeants là-dessus ? Al c'est c'est une bonne question. Aujourd'hui, il y a pas de réponse parfaite.

Euh nos clients au départ avaient une grosse réserve notamment sur ce sujet et finalement euh il y a une telle euh accélération et une telle pression de la part de des concurrents, de la part finalement de l'entreprise elle-même, de la part des collaborateurs qui a une en fait une une fuite en avant euh sur ces sujets. Il y a il y a alors dans les dans les défis et dans les questions que nos clients se posent, celles-ci en fait partie mais il y en a beaucoup d'autres. Donc pour les lister, il y a des il y a des risques de sécurité de leurs propres données parce que vous avez mentionné finalement un un mésugage de la donnée d'entraînement qui pourrait leur retomber finalement mais quelque part ils sont en deuxième rempart derrière les sociétés elles-mêmes et donc il se protègent aussi derrière les les les contrats qu'ils ont avec avec les propres sociétés.

C'estàd que Mistral, Open AI, Anthropique s'engage finalement à à titre d'exemple, je sais qu'Open AI s'engage à payer les frais d'avocat par exemple s'ils ont si leurs propres clients sont attaqués. Euh mais donc les crains des clients sont plutôt l'fu de leurs propres données. Euh des risques de réputation parce que en fait on sait que ces IA peuvent faire des erreurs et donc ça ça ça le risque de réputation fait très peu à nos clients.

Il y a eu il y a eu des affaires comme ça où euh des compagnies aériennes ont remboursé des billets qu'elles auraient pas dû rembourser par exemple. Euh suite à voilà suite suite à une une mauvaise interprétation de l'IA sur les conditions de remboursement. Il y a une je crois que c'est American Airline qui a remboursé euh un billet qu'elle aurait pas dû.

Donc ça fait voilà ça ça fait un esplendre. Euh il y a aussi euh euh voilà, il il y a beaucoup il y a des risques de souverains. Euh donc finalement, ils ont aussi peur finalement que via ces sociétés qui sont pour la plupart américaines euh et l'impact du cloud act leur donnait puisse être réclamé par le gouvernement américain.

Euh on va aussi avoir des alors pas des risques mais plutôt des risques économiques liés au fait qu'en fait ils sont en situation de monopole et donc pas toujours d'alternative et donc problème finalement de dépendance économique. Donc finalement voilà, il y a une il y a dans dans tous ces risques, le risque finalement de du de de de la non enfin voilà du du de la mauvaise utilisation d'une donnée d'entraînement d'un modèle, c'est dans le top 20 des risques mais c'est pas le premier qui ressort de France. Merci beaucoup. pour parler à enfin pour passer à l'éducation, vous avez parlé de l'illusion du savoir et puis vous avez parlé aussi d'un autre euh on va dire de d'un autre mauvais côté, c'est peut-être la perte du sens de l'effort euh aujourd'hui.

Comment euh soulever et dépasser cette illusion du savoir et gratifier un effort récompensé ? Comment d'après vous dans le domaine de l'éducation qu'on se place de chez les plus petits mais aussi l'enseignement supérieur, comment redonner ce sens de l'effort ? Je voilà, moi je considère qu'on peut pas apprendre si on n pas de faire un certain effort.

Donc le savoir magique n'existe pas. Euh je je crois pas que euh ce soit à cause de l'IA qu'on ait la perte de l'effort. Euh finalement c'est euh on est dans une je dis peine société mais on va l'évolution de notre société fait qu'en fait on a accès à tout facilement.

Euh le savoir finalement ça fait partie d'une d'une voilà d'une d'une liste de choses sur lesquelles on a des des on peut accéder à des choses très facilement. Selon moi, il faut réfléchir sur la façon technologique et et la façon dont on va encourager l'usage de ces plateformes. L'exemple que je donnais tout à l'heure du du copiercollé pour moi est assez parlant.

Des études ont montré finalement que si on on utilise la fonction copiercollée et donc finalement l'effort est minime pour répondre à une question, c'estàd qu'en fait on va poser la question de l'instituteur dans chat GPT, on copie la réponse et on la met directement dans le texte. il y a aucun capacité cognitive qui a été déployé. Donc on mesure le signal électrique, c'est zéro.

Euh et euh il y a aucun effort de rétention et donc on se souvient de rien. Si on utilise l'IA pas de cette fonction là mais finalement on on vient alors beaucoup de la plateforme le propose mais on vient charger télécharger le contenu du professeur et demander à Lia par exemple de nous fabriquer un questionnaire de tester nos connaissances de de nous relire nos réponses sur des questions précises. Alors là finalement on n'est pas du tout dans cette logique de délégation cognitive.

On est vraiment dans une logique d'augmentation où en fait l'IA joue le rôle quasiment d'un professeur. Donc alors je pense que pour pouvoir faire ça, il faut une certaine maturité. Donc sans doute à partir de 14 15 16 ans, on va pas demander ça à un enfant de 8 9 ans.

Mais voilà, donc en fait pour moi c'est faut faut placer l'IA dans une logique de gamification mais qui vient travailler l'effort cognitif et pas finalement remplacer cette cette via une délégation où on vient complètement mettre une réponse toute faite par l'exemple que vous donnez notamment du copiercollé qui est pas né avec Lia mais qu'on a utilisé aussi avec d'autres outils de de traitement de texte par exemple est-ce que ça conduirait à ce que on ne note plus le résultat final mais qu'on note le raisonnement et les échanges qu'il y a eu entre l'utilisateur de l'IA et les réponse de ce que cet agent convionnel lui a donné. Alors sur la question des notes, alors euh déjà, il y a des il y a des solutions techniques. Euh c'est-à-dire que en fait euh si on si on si on encourage le développement de plateformes numérique sur lequel on empêche le copiercoller, on peut par exemple décider euh de les de que le l'enseignant puisse puisse avoir accès aux historiques de production du contenu.

Et donc on est capable de voir finalement que il y a un élève qui a travaillé, qui a fait de l'effort, qui est revenu en arrière, qui a rédigé les choses et en fait voir accès à l'historique, c'est tout bête mais ça permet de voir de décomposer comment euh l'enfant raisonnait. Donc ça ça permet finalement euh de valider l'efforts et donc quelque part de de mettre une note. Euh je je pense qu'on peut continuer à mettre des notes sur les devoirs euh à l'école dès lors que euh on n'a pas accès à l'informatique.

Donc faut à tout prix ne laisser aucun portable traîné, aucun aucun accès à l'informatique et alors on peut quand même continuer à évaluer sur un support écrit, il y a pas de problème. C'est sûr que les supports à la maison sont de plus en plus difficiles à évaluer peut-être en dehors de ces plateformes numériques. Parce que si on crée ces bonnes plateformes numériques, elles sont pensées pour que l'élève puisse travailler dessus en en interdisant le copiercoller, alors on va pouvoir continuer à faire des évaluations à l'écrit.

Mais il y avait déjà une énorme hétérogénité lorsque le parent accompagnait les devoirs, les parents qui accompagnaient pas les devoirs. Donc finalement, c'est un problème qui existait déjà. Euh au-delà ça, je crois qu'on peut aussi encourager, mais qui est un problème qui existait avant l'IA, euh l'évaluation à l'oral euh qui est déjà euh très soutenu sur un centre de de concours.

Euh le concours de Chissu par exemple, c'était c'était euh ça faisait partie vraiment des sélections. On peut beaucoup plus l'encourager plutôt euh au collège, au lycée, même en primaire. Et donc ça ça me paraît être des compétences importantes à développer et donc on pourrait commencer à évoluer les élèves dessus.

Euh il y a quelque chose que l'IA peut pas aussi remplacer, c'est le travail en groupe. Et donc ça, on pourrait aussi beaucoup plus évaluer euh les travaux en groupe où là finalement l'IA peut être un support intéressant mais euh va pas remplacer finalement des discussions et puis euh se mettre d'accord entre les élèves. Donc ça c'est des choses voilà.

Donc réfléchir finalement à les solutions technologiques qui permettent de continuer à évaluer les travaux écrits tout en tout en complétant les évaluations écrites par des évaluations sur lesquelles il y a à moins d'impact. l'oral, le groupe et si je peux me permettre un complément sur la notation de la qualité du raisonnement, des entreprises ont déjà commencer à intégrer une session où on n'évalue pas le rendu du candidat mais la qualité de ses interactions et des questions qu'il a posé à l'intelligence artificielle. Oui, je voudrais revenir un petit peu sur votre propos liminaire.

Là, vous avez avec beaucoup de pertinence, si vous permettez ce compliment, pointer les enfin clairement indiquer que il y avait une illusion du savoir si il y avait un risque d'illusion du savoir et que l'IA ne pouvait pas remplacer l'effort intellectuel cognitif qui est l'apprentissage au fond. Vous avez également euh indiqué un terme de piste pratiquement opératoire hein euh pour un apprentissage de l'IA de du primaire à l'université. Donc ça amène la question suivante.

Avez-vous en tant qu'entreprise de service des contacts avec des institutions éducatives françaises ou étrangère dans ce domaine-là pour leur proposer au fond parler d'une plateforme qui pourrait être construite ? Je pense que c'est une idée à creuser sérieusement et nous verrons bientôt le ministère de l'éducation nationale à ce sujet. Mais avez-vous vous-même déjà entrepris quelque chose dans cette direction là ?

Alors nous-même, comme je mentionnais en introduction, on a construit une école et donc via l'école, on a notre propre plateforme sur laquelle on dispense des cours. Alors chaque élève dispose de son ia personnalisé pour faire des recommandations sur les modules à suivre. Donc on a déjà cette logique d'accompagnement individualisé euh et on favorise des compétences hybrides.

Alors c'est on va à la fois avoir des formations physique, des e-learning, des formations à distance et puis on va encourager euh les élèves à aussi développer certains modules. Donc il y a voilà recommande ces modules. Donc nous on utilise la possibilité de suivre de façon personnalisée tous ces élèves.

Euh à titre professionnel, on a aussi on accompagne aussi certains états dans les dans les pays du golf. qui sont aussi très euh je pense en avance sur sur cette logique. Donc je pense aux Émirats Arabes Unis ou l'Arabie Saoudite qui qui développe un programme très poussé et très en avance sur l'éducation.

Un rapport qui est sorti de de Microsoft la semaine dernière indiquait les Émirats arabes unis comme étant les premiers à utiliser l'IA dans le monde. Il y a plus de 64 % des Émirati enfin des la population des Émiratsunis qui utilisent l'IA. Et je dois noter que la France était très bien classée.

Elle était, je crois, 4e ou 5e de mémoire bien avant les États-Unis en terme d'usage de l'IA individuel par les citoyens. Voilà. Si on se place du côté de la culture, vous avez dit d'ailleurs que on pouvait avoir des nouvelles compétences chacun, notamment on pouvait créer euh créer aujourd'hui, c'est l'activité, c'est la source de rémunération de nombreux artistes ou auteurs.

Comment on peut encore reconnaître l'originalité dans les œuvres ? Comment vous vous voyez de votre point de vue ? artefact la répartition de ce qui est la touche créative.

Est-ce queon peut être tous créateurs demain ? Et si il est possible encore d'en consacrer le le les vrais le vrai essence humaine ? Comment on va pouvoir considérer que ce qui est un contenu qui sort d'un agent qui nous permet de de créer de la musique, de la vidéo, de l'image ?

à partir de quand on reste un créateur ? Alors moi làdessus, j'ai un point de vue assez clair, c'est que on ne dissocie pas la création artistique de l'auteur. Je considère pas que Lisia puisse créer des œuvres ou la culture.

Pour moi, tout ce qui est issu des plateformes qui permettent de faire du contenu, c'est pas de l'art, c'est de euh finalement de le quelque chose qui s'assimile à la la production des réseaux sociaux. Aujourd'hui, je peux faire des vidéos très facilement sur TikTok ou sur n'importe quelle plateforme. Je considère pas que c'est de l'art parce que c'est c'est une vidéo et sur des plateformes type Suno, aujourd'hui, on peut fabriquer de la musique automatiquement.

Je considère pas que c'est de l'art, je considère que c'est une production qui est quelque chose du même niveau qu'une photo sur Instagram. Donc il faut vraiment distinguer, je crois, euh les artistes qui vont utiliser l'IA, qui utilisent l'IA. Alors, faut savoir que dans le domaine du cinéma, les gens utilisent l'IA depuis quasiment 10 ou 15 ans déjà pour faire du traitement du signal.

C'estd que quand vous enregistrez quelque chose et que vous avez une bande sonore derrière, c'est une intelligence artificielle qui vient filtrer le son. Et donc là, en fait, c'est c'est c'est cette industrie est vraiment habituée à avoir des révolutions technologiques successives. Euh, elles ont eu les euh les effets spéciaux, la VFX, le son 3D.

Donc c'est voilà, c'est des gens qui incorporent finalement dans leurs habitudes de travail l'intelligence artificielle. Et je crois tout à fait que ça va être à la fois une source de simplification sur la chaîne de la valeur de la construction de du cinéma parce qu'on parlait du cinéma euh et à la fois une nouvelle source de créativité. En revanche, je considère que tout le contenu donc aujourd'hui euh sur Spotify ou dieser on estime que alors dans votre question il y a marqué 18 %.

On estime qu'aujourd'hui c'est plutôt 30 % du contenu qui est créé par des intelligences artificielles. Voilà pour moi et d'ailleurs les plateformes sont assez d'accord parce qu'elles le nettoient régulièrement. Euh c'est du contenu qui alors c'est pas qu'il vaut zéro, enfin il vaut zéro si si il vaut zéro parce que la coût de production vaut zéro, l'effort vaut zéro.

Donc il y a aucun effort artistique, il y a pas de il y a pas d'évolution. Donc voilà euh je considère queon dissocie pas la le l'art de l'artiste mais qu'en revanche, il faut laisser l'artiste pouvoir s'exprimer avec les nouveaux outils dont l'IA fait partie. Vous avez parlé beaucoup d'expérimentation.

Il y a euh je sais pas si un projet, je sais pas si c'est une expérimentation, mais qui euh qui est les communs numériques auquels vous prenez part avec la BNF, mais aussi l'INA. C'est très important justement cette notion de commun numérique, comment on les identifie ? Est-ce que vous pouvez nous parler de ce projet et les leviers et éventuellement les contraintes que vous rencontrez dedans ?

Et donc on a été soutenu par la BPI et le voilà le France 2030 qui nous accompagnait là-dessus. Donc ça c'est un projet qu'on a soutenu avec l'entreprise Mistral et l'entreprise Giscar qui a remporté voilà l'appel à projet des des communs numériques. Donc on a décidé de s'associer avec la la BNF notamment.

L'idée était de produire des modèles plus petits, plus sobres en langue française qui qui soit des modèles open source. Donc le premier modèle sort dans quelques semaines. Euh donc on va sortir euh a priori euh un modèle euh plus adapté sur euh la langue française.

Donc on a utilisé les données de la BNF qui était publique, donc tous les toutes les données notamment texte audiovisuel d'avant 1950 qui était en en libre accès en accord avec la BNF. et on a travaillé avec la société Ardian aussi qui nous a donné accès à 50000 rapports PDF de société côté ou non côté pour améliorer la la la connaissance des modèles sur le domaine financier notamment. Donc on va produire un peu deux grandes catégories deux grandes catégories de modèles.

Un modèle meilleur sur les données financières en open source et un meilleur modèle sur le français. Voilà, ces modèles seront disponibles à priori dans dans quelques dans quelques semaines sur les langues notamment. Donc vous parlez du français, on a cette ambition de voir dans les futurs modèles intégrer aussi une autre langue pour pas qu'elle disparaisse.

Qu'est-ce que vous constatez dans vos observations au niveau international ? Vous nous mentionnez à l'instant un moindre usage des Français des outils d'IA. Qu'est-ce que vous constatez aussi sur la puissance des langues et sur les entraînements ou sur la politique volontariste de certains pays euh de faire que leur contenu dans leur langue soit présent ?

Et si oui, quel prix quoi ? Alors, je mentionnais que les Français étaient plutôt actifs he sur l'usage des IAS. On est 4e pays qui utilise le plus les I au monde.

C'est c'est alors c'est étude Microsoft à vérifier qui est pas parfaite évidemment mais voilà. Alors, ces modèles ont été entraînés sur la base du contenu du web. euh sans biais dans le sens elles ont pas surpondéré une langue par rapport à une autre et le le web aujourd' constitué à 90 % le contenu du web estué à 90 % de l'angle anglaise.

Et donc en fait ces modèles reflètent aujourd'hui euh finalement euh ce qu'il y a sur internet. Et alors, il faut pas se satisfaire de ça. C'està-dire qu'aujourd'hui, c'est pas parce que on a des des euh des de contenu de piètre qualité sur internet que les modèles doivent intégrer ce ce ces contenus de piètre qualité.

C'est pour ça, moi je pense qu'on à titre euh individuel que c'est important de développer aussi des modèles surpondérés euh sur du français, surpondéré sur notre culture, surpondéré sur notre éthique. Euh en fait, on s'aperçoit que ces modèles euh vont à la fois refléter ce qu'il y a sur internet, mais ils vont aussi refléter la culture et les ambitions de leur propriétaire via alors juste pour rentrer un petit peu dans la technique, il y a deux phases d'entraînement d'un modèle. Il y a une phase qu'on appelle du préraining où en fait il y a très peu de biais dans cette phase-là.

Euh, on vient aspirer du contenu sur internet et entraîner les modèles à répéter les mots qu'on voit sur internet. Et il y a une deuxième phase qui est beaucoup plus sujet à débat qui s'appelle le post training. En fait, on embauche des gens pour euh choisir dans les réponses possibles la meilleure réponse.

Et sur cette étape là, en fait, il y a il y a il y a des biais vraiment forts qui arrivent parce que en fait, en fonction des personnes que vous choisissez, vous allez avoir des gens qui vont préférer une réponse A ou une réponse B. Et donc c'est important aussi euh d'avoir des efforts pour avoir des annotateurs français en langue française avec une culture, on va dire française européenne qui viennent aussi choisir des réponses sur des questions un peu sensibles. Euh donc là, on pense à l'actualité actuelle.

Voilà. Est-ce que c'est une bonne chose que Donald Trump s'autorise à envahir le Groenland ? Oui, non.

Alors, je pense qu'en fonction des modèles, on aura pas la bonne réponse et donc c'est important d'avoir aussi ce type de modèle qui reflète potentiellement des meilleures réponses pour nous. Une dernière question, c'est sur l'interdisciplinarité. On peut regretter que parfois notre système éducatif français n'en le développe pas assez.

Est-ce que justement l'IA est un potentiel pour consacrer un peu plus d'interdisciplinarité ? C'est un potentiel immense. Euh nous on l'observe tous les jours.

Euh c'est c'est beaucoup plus simple d'aller creuser dans un domaine connexe quand on a accès à l'IA que quand on a pas accès à l'IA. Donc chez nous, on a des gens qui euh commencent à euh pouvoir euh traiter avec des juristes beaucoup plus facilement euh parce que Li brousaille un peu le chemin. On a des gens qui avaient pas de capacité, je reprends mon exemple des développeurs qui avaient pas de capacité à développer du code, qui peuvent euh commencer à à craquer des premiers problèmes avec de codes alors qu'ils qu'ils ont jamais été formés sur du code. des on peut penser dans la recherche des médecins dans la santé qui sont pas des informaticiens qui vont pouvoir avec leur propre finalement main sans sans devoir demander l'aide de développeur tester des protocoles finalement via des applications numériques.

Donc je crois que ce potentiel d'interdisciplinarité il est immense. C'est quelque chose qui à mon sens a été très bien compris par la Chine qui développe tous ces programmes IA plus. ça s'appelle plus parce que c'est IA plus santé, IA plus banque.

Voilà, c'est quelque chose à développer selon moi dans tous les cursus notamment dans les études supérieures où en fait l'IA doit quelque part intégrer les modes de travail de la société de demain. Et donc c'est pas en apprenant finalement ce que c'est l'IA, mais c'est apprenant comment appliquer l'IA dans les nouveaux modèles. Moi, je suis vraiment pour l'expérimentation appliqué dans des domaines déjà spécialisés comme la santé, la finance, le marketing et ou la culture.

Messieurs, merci beaucoup pour ces éclairages. Euh, ça a été très précieux de vous entendre, notamment sur la question évidemment sur la question culturelle, mais sur la question éducative qui me tient particulièrement à cœur. J'ai j'ai noté un nombre de pistes intéressantes et je voulais vous encourager à vous rapprocher des institutions éducatives de notre pays, soit au niveau institutionnel, soit directement auprès de l'université parce que il faut que nous fassions, comment dirais-je que nous regroupions nos forces de manière à ce que l'IA puisse s'implanter utilement dans le dans le système éducatif français à tous les niveaux.

En tout cas, merci encore de votre contribution. Merci monsieur président. Merci madame pour toi.