MISSION D’INFORMATION SUR L’IA : AUDITION DE LUC JULIA, DIRECTEUR SCIENTIFIQUE DU GROUPE RENAULT

Bien monsieur Julia, bienvenue au sein de cette commission, de cette mission d'information dont le titre est le suivant : création, diffusion et acquisition des connaissances. Comment l'intelligence artificielle transforme-t-elle notre éducation et notre culture ? Madame Céline Calvez, rapporteur et moi-même sommes heureux de vous accueillir pour débattre pendant 45 minutes de la de la question de l'impact que représente enfin probablement l'intelligence artificielle générative notamment sur notre système éducatif sur l'enseignement supérieur et sur le monde de la culture dans ces différentes composantes.

Donc le principe c'est que nous vous donnons la parole pour 10 minutes pour un proliminaire si vous voulez bien et ensuite madame Calvez vous posera les questions qu'elle voudra bien vous poser pour faire avancer le débat. Tout ce que vous aurez pas pu dire pendant les 10 premières minutes de toute façon sera nécessairement évoqué par madame la rapporteur. Vous avez donc la parole.

Voilà. Euh ben je vais vous parler d'intelligence officielle générative. Déjà, il faut poser un cadre qui est sa définition.

Ça veut dire quoi l'intelligence générative depuis 3 ans, exactement 3 ans qu'elle est accessible au public. Euh et on dit raconte à peu près tout et n'importe quoi. Euh donc je vais revenir un tout petit peu sur sur l'histoire de l'intelligence artificielle en général.

Euh déjà l'intelligence artificielle existe depuis 70 ans, depuis 1956 exactement officiellement. Donc c'est pas jeune, c'est pas euh c'est pas exactement euh quelque chose qui est sorti il y a 3 ans. Euh et d'ailleurs, je vais mettre l'intelligence artificielle, je vais les mettre au pluriel maintenant.

Donc je vais parler des intelligences artificielles parce qu'elles sont multiples et variées depuis ces 70 dernières années. Donc on s'est euh on a fait diverses I. Euh ces que des mathématiques.

Euh donc il faut un peu respirer et puis souffler surtout et comprendre que ce ne sont que des maths depuis l'origine. Euh et ça a commencé dans les années 50 par des statistiques. Ça pas très très bien marché.

Il y a eu après des de la logique, beaucoup de logique dans les années 60 70 80 90. Donc c'est ce qu'on appelait des systèmes experts qui marchaient relativement bien mais c'était des systèmes logiques. C'est-à-dire queon donnait des règles et ces règles on les suivait et ça donnait donc des arbres de décision globalement et ça a marché relativement bien puisque c'est arrivé jusqu'en 1997 euh à euh quelque chose qui qui s'appelait de Blue, d'IBM qui a battu Casparov le champion du monde de l'époque aux échecs.

Donc des machines qui avaient l'air intelligente et je vais surtout insister sur l'air. C'estàd que elles sont spécialisées en général dans des domaines très très particuliers. Donc là en l'occurrence vos échecs.

Si vous essayez de faire jouer 10 blue au dames, ça vait rien. OK donc il faut très clair quand on crée des systèmes et c'est nous qui créons les systèmes. Quand on crée des systèmes, on crée des systèmes quand ils marchent bien en général c'est parce qu'ils sont hyper spécialisés.

Depuis les années 90, euh d'autres types d'IA sont arrivés à nouveau alors inspirés des anciens des vieux vieux des premiers types d'IA, donc des I statistiques qui sont basés sur des modèles. Pourquoi dans les années 90 ces ces IAS sont arrivés ? Parce que euh des données sont arrivées, beaucoup de données à travers internet, d'accord ?

Internet est arrivé avec ce qu'on appelle le big data normalement. Et ce big data donc bah par définition c'est beaucoup de données et quand on a beaucoup de données donc on fait des statistiques. Euh on a commencé dans les années 80 90 euh à faire des ce qu'on appelait du machine learning qui est certainement donc du apprentissage des machines.

Je vais dire en en anglais un peu he bon euh apprentissage des machines c'était créer des modèles donc qui étaient vraiment spécifiques pour faire de la reconnaissance reconnaissance de tout et n'importe quoi mais des modèles spécialisés. Donc ça c'était avec les données qu'on avait à l'époque et on choisissait, on pouvait choisir parce que le nombre de données utilisé était de l'ordre de 100000 1 million de de morceaux de données, on va dire, pour créer ces modèles. Euh après est arrivé dans les années 2010 le deep learning.

Donc c'est un peu pareil que le machine learning mais avec plus de données globalement. C'est des c'est ce qu'on appelle des réseaux de neurones. Alors, il y a des couches dans les résones de rent donc plus de couches, c'est pour ça que c'est deep.

Euh, ça va profondément dans les couches. Et ce deep learning en fait, c'est se caractérise par encore plus de données. Et en là, maintenant, on parle de 10 millions 100 millions morceaux de données.

Donc, ça commence à être intéressant et peut-être hors contrôle. Et justement arrive donc 2018-29 pour les scientifiques, 2022 pour le public. arrivent les I génératives qui sont toujours des modèles statistiques, toujours des modèles mais cette fois-ci avec des milliards de données.

D'accord ? Donc on parle de milliards et de en français billion de données, donc 1000 milliards. Euh et là en gros bah ces données, c'est on on commence à avoir une idée enfin les gens qui poussent ces génératives au départ poussent une idée des d'IA plus générique, plus général.

Donc ce qu'on appelle en anglais, artificial general intelligence donc quelque chose qui va être intelligent, omnipotent. Alors bon, il y a des opinions. Euh la mienne, c'est que c'est ridicule, ça ne sert à rien et surtout plus c'est générique, moins c'est bon.

Et c'est ce qu'on a constaté d'ailleurs avec euh le public qui a pris en main ces ces IA parce que si elle n'était pas révolutionnaire point de vue mathématique parce que c'était juste plus plus de données, plus de capacité de calcul et cetera, elles sont révolutionnaires ces I les dernières là, donc les IAS génératives par le prompt. le prom qui permet à n'importe qui de faire n'importe quoi et on a vu ça évidemment beaucoup et ce prompte donc il se caractérise par le fait qu'on peut s'adresser à ces IA en langage naturel et donc on a plus besoin d'être un spécialiste pour les utiliser et donc on a vu une prise en main par le public en janvier-février 2023 on a vu une prise en main par le public de Césia parce que c'était facile de s'adresser avec elle d'avoir un dialogue avec elle un dialogue en langage naturel et donc On a commencé à pousser ces I pour qu'elles fassent vraiment n'importe quoi, c'est qu'elles seront capables de répondre à n'importe quoi et donc d'être générique. Mais on voit aussi à ce moment-là que les la pertinence de CIA est faible.

Alors, il y a des chiffres, hein, on peut toujours discuter les chiffres évidemment, mais en février 2023, il y a une étude de la université de Hong Kong qui montre que en gros, on a des pertinences pour les IA sur des sur des questions génériques d'à peu près 64 %. C'estàd que 36 % du temps elles vous disent n'importe quoi. Alors, vous allez me dire c'était février 2023, donc ça fait 3 ans, ça fait longtemps et maintenant c'est mieux.

Et la réponse c'est non, c'est pas mieux en fait. C'est pire parce que il faut comprendre que ces intelligences artificielles génèrent des données, des données qui sont elles-mêmes utilisées pour les prochaines intelligence artificielle. Et donc le problème c'est que donc les données qui étaient mauvaises, les 36 % de données qui étaient mauvaises sont retrouvées dans les nouveaux modèles.

Donc les nouveaux modèles en fait utilisent des données de tous les jours he la météo, des données qu'on peut nous créer et cetera, plus les données qu'on appelle synthétiques qui sont ces données générées par les IA. Et donc en fait aujourd'hui une nouvelle étude qui est regardé qui est une étude de Newsard qui date de septembre 2025 donc ça c'est avanthier donc ça fait très très peu de temps. Et les études de New l'étude de New ces IA ont toutes à peu près perdu 1 % par an de pertinence.

C'estàd qu'aujourd'hui par exemple pour chat GPT qui était donc à 64 % en février 2023 GPT à peu près aujourd'hui à 60 %. OK ? Donc la le problème de la généricité, c'est que plus vous allez avoir des I qui se veulent génériques, qui se veulent donc général, moins elles vont être pertinentes.

Par contre depuis ces 3 années, on a eu l'opportunité quand même de regarder un peu comment ça marchait et ces n'ont pas été seulement prises en main par le public mais aussi par les entreprises. Et donc ce qui est remarquable dans l'utilisation de CIA, c'est que il y a eu bon le hype en janvier-férier 2023, il y a eu un peu de désamour tout de suite. Après ça suit la courbe de Garner, vous savez la courbe de Garner qui est hype puis après je suis pas content et puis après ça rebondit des fois ça rebondit et puis je commence à trouver des cas d'usage qui sont des cas d'usage intéressants.

C'est ce qui se passe dans les entreprises aujourd'hui en général on trouve des cas d'usage qui sont beaucoup plus spécialisés d'accord on utilise les mêmes méthodes. Donc c'est des méthodes d'IA qu'on utilise de générative mais on les fait on les spécialise tellement on fait ce qui s'appelle du fine tuning. C'estàd que je vais mettre les données dans lesquelles j'ai confiance et ces données dans lesquelles j'ai confiance elles vont créer donc un modèle qui va être un modèle dans lequel je peux avoir aussi confiance.

Et effectivement les pertinences, on arrive à quelque chose de 96 97 98 % de pertinence, ce qui est évidemment à ce moment-là utilisable. Mais ces I sont donc hyper spécialisées dans les domaines dans lesquels elles ont été euh pour lesquels elles ont été créées. Voilà, donc c'est pour ça que il faut comprendre comment ça a été adopté, il faut comprendre comment ça a été comment c'est utilisé aujourd'hui, comment c'est bien utilisé.

Donc ce que je considère bien utilisé, c'est quand on a des bons niveaux de pertinence et comment c'est mal utilisé bah par ces I qui se veulent générique et qui n'ont en fait aucun intérêt. J'aime bien comparer en général l'IA en général si j'ai vraiment à parler d'IA au singulier, je parle de l'IA comme une boîte à outil. Une boîte à outil dans laquelle il y a des outils aussi différents que le marteau, la s tournevis.

Et ce qui est intéressant c'est pas la boîte à outil. Ce qui est intéressant c'est les outils. Donc le marteau, le tournevis et l'assis.

Et évidemment, je vais pas m'amuser à planter un une vis avec un marteau. D'accord ? Le clou, ça va marcher.

La vis c'est idiot. D'accord ? Et en plus de ça, le marteau, je peux l'utiliser pour taper la tête du voisin, ce qui est encore pire.

Ça veut dire quoi ? Ça veut dire que tous ces outils, quels qu'ils soit, ils ont un pouvoir de nuisance. Je peux m'utiliser très mal et donc faire très mal.

Je peux l'utiliser pour des trucs idiots, planter la vis. Je peuxutiliser pour quelque chose de très utile, le clou. D'accord ?

Donc tous les outils sont potentiellement dangereux mais à la fin c'est pas l'outil qui est dangereux, c'est moi. C'est moi qui tient le manche du marteau et donc c'est moi qui décide. Donc c'est l'humain qui décide comment on utilise ses là.

Merci beaucoup pour ce propos introductif monsieur Julia. Maintenant la parole est à madame la rapporteur. Merci monsieur le président.

Merci beaucoup Luc Julia de nous avoir éclairé sur ce qui relève de la statistique, ce qui relève du génératif, ce qui relève du spécialisé ou du généraliste. Moi, je voulais revenir sur une notion avec vous sur quelle est la différence entre être génératif ou être créatif. Alors ça tombe bien, j'ai écrit un bouquin récemment qui est dont le titre est IA générative pas créative parce que justement ces IA ne créent strictement rien.

Il faut être clair que les IA par définition ce sont des modèles. Un modèle bah je vais prendre modèle sur le modèle. D'accord ?

Et donc quand je moi humain veux créer quelque chose, je peux utiliser l'outil évidemment. Et donc grâce au prompt dont j'ai parlé juste avant, je vais pouvoir avoir ma créativité, ma créativité d'humain va être potentiellement exacerbée par l'outil. C'estàd que je peux maintenant, grâce à cet outil, grâce à à ce prompt, lui demander de générer ce que j'ai envie.

Alors, je peux faire quelque chose comme génère-moi une vache verte sur la tour Effel et ça va me générer autant de vaches vertes sur la tourfel que je veux. Mais la création, la créativité là-dedans, elle est dans ce que moi j'ai eu comme idée de lavage verte sur la tour Effel. C'est peut-être une idée complètement débile, mais c'est mon idée et ma créativité donc je la fais passer à travers cet outil et l'outil va me générer des vaches vertes sur la tour Effel parce que dans le modèle quelque part, il y a des vaches, il y a des trucs verts et il y a des tours FF.

Et donc ça va amalgamer ça et ça va donc générer des vases ver sur la Tourel. Et ce qui est donc magnifique avec cet outil et c'est ce qui permet d'être nous-même plus créatif, c'est que je peux avoir un dialogue avec cette IA et donc je peux raffiner cette cette vase verte sur la tour FL. Je peux avoir donc le dialogue non pas ici mais au deuxième étage mets la plus petite et cetera et cetera.

Et donc petit à petit, je vais pouvoir grâce à l'IA et grâce à le langage naturel et à mon langage naturel qui est donc beaucoup plus simple, un langage beaucoup plus simple de créativité maintenant, je vais pouvoir façonner quelque chose qui va avoir euh plus l'air de l'image mentale que je m'étais faite au début de cette vase verte sur la tour Effel. Voilà. Donc il faut juste comprendre que euh quand on dit et on entend souvent ça dans les médias et ailleurs, on dit l'IA a créé ça.

Euh c'est c'est un abus de langage. Lia n'a rien créé du tout. C'est moi qui ai créé en utilisant LIA comme un outil comme j'aurais utilisé le marteau, le burin pour créer une sculpture.

C'est exactement pareil. Merci beaucoup. Donc cette promesse de d'être tous un peu créateurs, elle est quand même mise au défi en parlant de la façon dont on pourrait croire que Lia a demandé un tout petit peu d'impulsion de l'humain et puis parfois ce dialogue que vous mentionnez où on est en train de raffiner ces idées.

D'après vous, est-ce qu'il faut encore se poser la question d'un seuil où à partir du moment où il y a un prompte, il y a une créativité et par rapport à au contenu généré avec l'IA, créé avec l'IA, est-ce que ça c'est est-ce que on peut les considérer comme des œuvres d'art ? Et quelle est la capacité de nous humains d'apprécier ce qui a été l'impulsion humaine ? commencé par la fin euh c'est impossible c'estàd que il y a absolument une impossibilité sauf quand c'est vraiment très moche qui a été généré là on se on se rend compte quand même que c'est bizarre ou quelque chose mais il y a des trucs qui sont générés par les humains, qui sont créés par les humains qui sont bizarres aussi.

D'accord ? La première fois que Picasso a sorti une toile cubiste après avoir fait son parcours, on va dire générique, d'accord, il il s'est mis à faire du cubisme. Ça a fait bizarre.

Donc finalement, cette créativité de l'humain a aussi choqué et puis on s'est demandé euh si c'était vraiment euh humain finalement. Bon, mais ça mise à part donc pour revenir à la dernière question, euh il est très très compliqué de savoir ce qui est généré par une machine euh et de pouvoir dire que c'est généré par une machine. Et c'est de plus en plus compliqué, hein.

C'est pour ça d'ailleurs qu'on a les fake news, les deep fakes, enfin tous les tous les choses qu'on entend aujourd'hui et qu'on peut faire facilement et que n'importe qui peut faire facilement euh avec ces outils. Maintenant, quant à la créativité, ma créativité, grâce à l'outil, je pense que ce qui est généré par LIA, c'est de l'art. C'est de l'art parce que c'est moi qui l' qui est gé c'est moi qui l'ai défini.

C'est moi qui donc est créé à travers et donc on peut considérer que c'est de l'art. Je donne un exemple tout simple. Moi, je suis nul en dessin, mais alors nullissime.

Euh, depuis 2 3 ans, je suis très fort. Et donc, pourquoi je suis très fort ? Parce que j'ai choisi les bons outils.

D'accord ? Mais tout ce qui est généré par CIA, c'est moi qui l'ai créé. Et donc je considère que c'est mes créations et que ces créations ont une valeur.

C'est encore une fois il faut il faut se remettre un peu dans l'histoire et regarder un peu derrière nous les évolutions de l'art en général. Alors, je suis pas un spécialiste de l'art, vous allez certainement pouvoir en interroger qui sont qui sont bien meilleurs, mais on voit très bien que les sculptures par exemple ont évolué au cours du temps avec les outils qui étaient disponibles. Et donc au début quand on parle des grottes de Lasco ou autres, s'il y avait des des sculptures, c'était grossier, c'était bon pas tellement affiné, on va dire. et petit à petit parce que l'outil, parce que le burin, parce que euh les petites choses qu'on a utilisé pour être de plus en plus affiné, on arrive à des sculptures absolument extraordinaires dans la Grèce antique mais aussi évidemment beaucoup plus tard.

Donc l'outil fait que euh ce qui est généré est de plus en plus peut-être de qualité. D'accord ? Et c'est vrai qu'aujourd'hui avec les IA donc qu'on a la qualité de ce qu'on de ce qu'on génère est absolument extraordinaire potentiellement.

Oui, une question si vous permettez. Donc vous nous disiez tout à l'heure au fond c'est presque un abus de langage. L'intelligence artificielle n'est pas intelligente.

C'est ce que nous disait aussi ce matin monsieur Olivier Ray qui nous a démontré que comme Lia ne comprend pas ce qu'elle fait, elle n'est donc pas intelligente. Bon, c'est tout à fait rassurant. Cependant, tout à l'heure, il y avait là un philosophe qui nous a euh effrayé en en décrivant l'apocalypse, l'ouragan, hein, de la destruction de l'intelligence humaine, même de l'humanité.

D'autres philosophes d'ailleurs sont ce point sont de son avis. Alors, pensez-vous que ce soit un faux débat ? Alors, d'abord, bon, effectivement, l'intelligence artificielle c'est un de langage.

En 1956, quand on a utilisé le mot intelligence artificielle, on vous parlait pas d'intelligence martes comme en français, mais c'est un mot anglais. Le mot anglais a deux sens, mais le sens premier c'est information. C'est comme dans la CIA.

D'accord ? Donc la CIA c'est pas de l'intelligence, c'est de l'intelligence euh d'espion quoi, hein. Donc d'information.

Bref, donc c'est pour ça que c'est un abus de langage. Malheureusement, on a mis à fantasmer dessus nous humains parce que c'est beaucoup plus excitant de parler de l'intelligence artificielle, de se comparer à nous-même que que de faire autre chose. Euh pour ce qui est de la des philosophes et des fois des philosophes de jardin ou de pas côtill qui racontent à peu près n'importe quoi sur l'IA, il y a un danger, il y a un danger de tout lâcher.

Aujourd'hui, j'entends une petite musique surtout dans la jeune génération qui dit "J'ai pas besoin de m'éduquer parce que Li fera à ma place." Ça c'est une bêtise absolument absolue. Donc oui, il y a un risque d'idiocratie.

Il y a un risque de devenir idiot parce que on va tout lâcher. On va dire les y vont le faire, c'est pas la peine que je le fasse. D'accord ?

Pourquoi c'est idiot ? aussi ce résonnement même est idiot parce que évidemment les IA c'est nous qui les faisons, donc c'est nous les spécialistes et si on s'éduque pas dans un dans un endroit particulier et ben on va avoir un gros problème parce qu'on va pas on va plus être les spécialistes de Césia. Et ces IA comme j'ai dit tout à l'heure, elles sont pertinentes, c'est des statistiques et donc vous avez entendu dans la bouche que je suis allé jusqu'à 99 % mais je suis jamais allé à 100 % parce que 100 le 100 % n'existe pas en statistique.

Et donc du coup ça veut dire quoi ? Ça veut dire que de toute façon moi spécialiste, une fois que je vais générer quelque chose avec l'IA, je vais aller vérifier les choses surtout quand c'est des IAS spécialisés justement dont on parlait tout à l'heure. Donc il faut surtout pas lâcher l'éducation dans n'importe quel métier d'ailleurs dans lesquels on peut utiliser l'IA.

Et ces I peuvent être utilisés dans n'importe quel métier, dans n'importe quelle tâche des métiers. D'accord ? et ça va pouvoir les remplacer ou les augmenter.

On peut y revenir. Mais pour revenir donc à l'iducratie, elle est tout à fait possible parce queon peut devenir on peut tout lâcher comme j'ai dit et c'est un peu ce qu'on a fait tous là, je peux vous prendre un témoin avec le GPS, on est devenu idiot GPS, d'accord ? Et donc on fait confiance à cette machine ici alors qu'elle va nous amener dans les bouchons.

Alors que nous quand on connaît un peu Paris, on sait comment les éviter. D'accord ? pas tout le temps mais mais bon on il y a il y a quand même des choses il est sûr aujourd'hui je vois les gens qui se comportent devant le GPS ils ne font confiance qu'à ce machinl donc on est des idiots GPS et ça c'est embêtant parce qu'on a tout lâché et donc on a plus de notion du tout de nord sud et cetera voilà donc c'est possible mais l'apocalypse j'y crois pas en fait je crois au contraire je crois qu'à un moment donné on va se rendre compte collectivement parce que justement il y a des discours comme le mien qui font que on dit faisons attention Attention quand on utilise ces machins là, c'est super chouette dans plein de domaines, mais c'est aussi dangereux.

D'accord ? Donc prenons conscience du du truc. Et donc quand on a confiance quand on séduit collectivement, je parle pas forcément de l'éducation à l'école là, je parle de l'éducation générale comme ça.

Et donc plus on parle de ces chosesl et plus on dit la vérité dessus et on arrête de fantasmer dessus mais on dit la vérité. Moi, je suis persuadé que à un moment donné, on va dire que cette lumière, cette lumière qui est la lumière de l'IA qui est censée être le truc qui sait tout, on se rendre compte que ça c'est pas tout. Et quand on donne des chiffres de 60 % de pertinence, ça calme un tout petit peu.

Donc on va se calmer à un moment donné, donc on va se rendre compte de ça et à un moment donné donc on va commencer à faire bah plus de fact checking. C'est ce que font les journalistes depuis quelques temps. Au début, les journalistes avaient très peur de lire.

Il s'était dit "Oh là là, on va se faire remplacer et cetera. Mais petit à petit, les journalistes se met se rendent compte que de toute façon l'IA va être une aide pour eux et puis il va falloir que ça va les obliger aller checker les informations. Et ça les oblige à quoi en fait ?

Ça les oblige à faire leur métier, à faire ce qu'ils auraient dû faire depuis le début. D'accord ? Donc on respire, on se calme, on arrête de dire n'importe quoi sur ces I qui vont nous remplacer, qui vont nous tuer et cetera.

C'est pas Hollywood euh les les I c'est pas euh Terminator, c'est pas Her. D'accord. Ce sont des outils mais ces outils sont encore une fois potentiellement dangereux si je tiens pas le manche correctement.

Merci beaucoup. Donc ces outils euh vous avez expliqué un peu plus tôt qu'ils étaient mis à disposition beaucoup plus facilement à tout le monde puisque il suffit de parler, on peut écrire donc ça permet d'être beaucoup plus en capacité de les utiliser. Mais vous avez souligné qu'il faut continuer de à s'éduquer, il faut continuer à apprendre.

Il y a plusieurs décennies, il fallait apprendre par cœur. Il y a quelques temps, on voulait apprendre à apprendre. Vous faites référence à la nécessaire enfin au nécessaire esprit critique.

Mais aujourd'hui, je dois apprendre quoi ? Et vous avez dit de manière très pertinente que ce n'est pas qu'une histoire d'enfant, c'est une histoire aussi tout. Mais il faut que j'apprenne à faire quoi ?

Ben parfois, il faut réapprendre cet aspect critique. Donc apprendre à pas juste suivre la la masse et euh et se dire que on peut douter. Donc il faut réapprendre le doute.

L'esprit critique, c'est aussi le doute. Et donc il faut il faut se remettre dans euh dans l'esprit du siècle des lumières en fait. Donc on a oublié parce que tout était facile, tout était facile, tout était tout était simple mais en fait l'esprit du siècle de lumière c'est quoi ? c'est le doute, c'est dire, c'est contester la la réalité.

Donc bon, pas contester tout le temps. Vous les Français, vous aimez bien contester en permanence, donc peut-être pas tout contester. Mais en tout cas, quand c'est des choses qui sont générées ou ou on sait pas d'ailleurs si elles sont générées ou pas par les CIA, aller chercher d'autres sources, aller nous-même, le travail journalistique dont je parlais tout à l'heure, bah l'effectuer un tout petit peu nous-mêmes.

Vous savez, je donne beaucoup de conférences dans les écoles et une autre corporation qui a très peur, en plus les journalistes, les enseignants. et et cette corporation, je leur fais faire un exercice en fait qui est assez simple et qui fait réaliser non seulement aux élèves mais aussi aux profs bah leur différence. Le prof est le sachant normalement.

D'accord ? Et les élèves sont les apprenants. Donc les élèves surtout quand ils arrivent à un certain âge, ils pensent qu'ils ont déjà tout appris.

D'accord ? Donc ils ont aucun respect pour le pour le pour le sachant. C'est la réalité dans beaucoup d'écoles.

Et ce que je fais comme exercice, que je fais faire comme exercice, c'est le suivant. C'est je dis bon, je suis la je suis la maîtresse et et je dis aujourd'hui les gars, on va utiliser le chat GPT dans un exercice. Les gamins, ouais super, on va utiliser le chat GPT, c'est bien.

Et donc on va commencer par écrire un prompt. Et ce que je vous demande, c'est de faire en sorte que l'IA me génère deux pages en deux pages la biographie de Victor Hugo. Voilà, tout simple.

Donc déjà premier exercice, écrire le prompt. C'est déjà pas mal parce que écrire le prompt, donne-moi la biographie. Ah donne, il y a 2 N.

Ah oui, d'accord. Bon, donc on essaie de pas faire trop de photographe dans le dans le prompt. Le prompt génère donc le prompt est là.

Donne-moi la biographie du Victorio en deux pages. OK. J'appuie sur le bouton 15 secondes, ça me génère la biographie de Victor Hugo en deux pages et les gamins madame c'est bon, on a fini.

Non, c'est là que ça commence. Donc ce qu'on va faire, on va faire on va faire un truc incroyable. On va relire.

Ah bon ? C'est toutes les tous les mots de deux pages. Ouais.

Ouais. Donc on relit le truc petit à petit. Victor Hugo est né le 26 mars 180 à Besançon.

Blab bla bla bla bla. Encore une fois le sachan hein. Donc il connaît la vie d'ictor Hugo.

Et donc là la prof, la maîtresse dit "Attendez, il y a un petit problème. Victor Hugo, il est né en février 1802, pas en mars." Ah bon ?

OK, on continue. Une fois qu'on a fini donc c l'exercice de de lire le machin là ou d'un quart d'heure, euh on a trouvé en statistiquement euh entre 3 et 5 erreurs dans la page, dans ces deux pages. Donc ça fait quoi cet exercice en fait ?

Ça fait deux choses. D'une part, ça remet le sachant un tout petit peu sur un piedestal. Alors, pas très haut mais un tout petit peu plus.

C'est que le le prof, la prof, le l'instit devient un peu waouh. C'est des trucs. OK.

Et ça fait quoi au gamin ? Ça fait euh "Mais ce truc ça marche pas bien en fait. Je vais avoir des problèmes." Mais alors maîtresse, finalement c'est quoi le c'est quoi le la solution ?

Ah ouais. Ah bah ouais. Ça c'est bien, c'est une bonne question.

La solution bah tu vas chercher ailleurs. Comment tu aurais fait sans générative il y a 3 ans ? Tu aurais été sur Wikipédia peut-être ?

Bon bah ouais va sur Wikipédia mais même Wikipédia peut-être que tu es pas sûr. Sais il y a des livres, il y a des trucs les trucs avec les pages là que tu as jamais ouvert c'est pas mal non plus. Donc esprit critique doute et curiosité. aller chercher ailleurs, aller voir ailleurs si euh s'il y a des trucs bien.

Merci. Alors, on a une profusion de connaissances qui sont euh soit dans les livres que vous euh mentionniez euh soit euh sur la page Wikipédia. Aujourd'hui, nous produisons des connaissances avec les outils d'intelligence artificielle qui viennent s'ajouter aux connaissances vérifiées euh et reconnu depuis depuis des dizaines voir des centaines d'années.

Je peux avoir exercé mon esprit critique aujourd'hui. Comment je pourrais utiliser les outils d'intelligence artificielle pour me permettre d'iser davantage l'esprit critique et me retrouver parmi cette masse d'information ? dont je n'arrive plus vraiment à voir quelle est la vérité dans ces informations.

C'est compliqué. C'est que c'est très très compliqué. Comme on disait tout à l'heure, les fake news et les deep fake sont de plus en plus réalistes et donc c'est compliqué de savoir ce qui est vrai et ce qui est faux.

Donc l'exercice son esprit critique, c'est aussi euh aller bah consulter d'autres d'autres source humaine aussi et en groupe ou quelque chose. Essayer de de savoir de comprendre ce qui se passe. Quand vous voyez ce qui se passe aux États-Unis aujourd'hui, hein, c'est chez moi, euh vous voyez que c'est compliqué la vérité.

C'est que il y a la vérité de Trump et puis il y a la vérité. Euh et aujourd'hui la vérité de Trump euh elle est contestable par certains, mais c'est difficile à contester parce que c'est c'est Dieu, c'est le c'est c'est la la lumière de du du siècle d'avant le siècle des lumières justement qui est celui qui nous dirige que ce soit Dieu ou le roi. C'était donc l'époque à cette époque là.

Donc donc c'est super compliqué et c'est pour ça qu'il faut des esprits illuminés. Donc des gens qui vont qui vont venir contester un peu tout ça et qui vont venir expliquer comment on pourrait faire pour essayer de démêler le vrai du faux. Et c'est compliqué utiliser des outils des intelligence artificielles pour faire ça.

C'est possible d'utiliser l'outil mais quelque part l'outil encore une fois c'est moi qui va tenir le manche parce que l'intelligence artificielle comme on a dit tout à l'heure ne sait rien. Elle ne connaît pas. Elle connaît pas la vérité.

Elle ne fait que sortir du modèle des trucs. Et ces trucs comme on a dit tout à l'heure, les modèles étant de plus en plus gros puisque maintenant ils ont ils ont englobé glant tout internet, on sait très bien que sur internet, il y a pas que des trucs vrais. D'accord ?

Et donc le problème c'est qu'effectivement il sort des trucs qui sont potentiellement faux mais qui sont vrais dans le contexte des domaines. Donc ça veut dire qu'on sait plus et utiliser une IA qui va les dépatouiller tout ça sert à rien en fait. Sauf si je la guide pour lui dire je crois que nana et donc ça va me me faire ce que j'appelais le foning autre truc qui s'appelle le rag.

ça va les chercher seulement dans les endroits où je vais lui dire d'aller chercher parce que j'ai confiance en ces endroits-là. Donc euh à la fin euh le la façon dont on va pouvoir euh savoir si c'est vrai ou si c'est faux, c'est quand on va avoir des données de confiance. et c'est de confiance euh c'est à nous de c'est à nous de les choisir.

Et ça m'amène un un point qui est pour moi super important et sur lequel je je veux insister un peu ici dans sur quand il y a marqu culture, c'est que justement on entend souvent les data scientistes, les gens qui font CIA, on entend souvent qu'il disent euh il nous faut des des belles datas, des datas bien pas biaisés. En fait, c'est pas possible. Les datas sont de toute façon biaisé. ces gros modèles dont je parle, ils ont des datas donc ils sont fausses des donc c'est de toute façon biaisé et donc nous en France en Europe on n pas assez biaisé ça veut dire quoi c'estd que toutes ces I aujourd'hui la plupart des IAS sont des I de la côte ouest américaine et sont des I qui répondent comme des bons petits écoliers américains et vont répondre des choses qui sont bah comme les Américains mais pas comme moi j'ai envie qu'à répondre moi bon français d'accord ça veut dire quoi ça veut dire que si vous demandez aujourd'hui à euh qui qui a inventé l'aviation, ils vont vous répondre les frères W en 1903.

Moi, je vous répondrai Clément Ader 1890 13 ans avant. D'accord ? Et ça, ça veut dire quoi ?

Ça veut dire que il faut pas hésiter et il faut biaiser les IA. C'est qu'il faut dire je vais culturellement décider ce que je veux que les I répondre. Et donc on peut créer des modèles.

C'est pas ce que fait Mistral encore hein. Mistrral est toujours un peu américain même si on l' sens en tant que boîte française machin. Mais les les les datas qui sont utilisées, les données qui sont utilisées sont toujours des données euh du web.

Le web est à 77 % américain. OK ? Donc il faut pas hésiter à biaiser les les domaines les datas pour pouvoir créer des modèles qui soient des modèles français, européens, africain, singaporien et que pour que chacun soit fier en fait de ce que va lui répondre Nia et ça va répondre on va pouvoir plus confiance peut-être dans ces I là quand on va les biaiser.

Donc il faut biaiser et il faut pas en avoir peur parce que c'est c'est que comme ça qu'on va qu'on va y arriver. Et il faut donc c'est un peu ce qu'on a fait, ce que ce que la France a fait très bien et c'est le seul pays du monde qui a fait ça avec le cinéma, ce qu'on appelle l'exception culturelle. L'exception culturelle du cinéma dans les années 50 pour combattre Hollywood, c'était une super idée en fait parce que ça nous a mis bah sur un truc de côté où on a fait des trucs un peu spéciaux à la française, d'accord ?

Et avec les sous qui allaient bien et tout ça. Donc ça ça amène des sous. Je sais que vous avez des problèmes de sous aujourd'hui.

Euh mais ça amène évidemment un un un certain budget qu'il faut avoir pour faire ça. Mais cette exception culturelle pour le cinéma, il faudrait la faire aussi pour les IA. Merci chers collègues.

Vous avez une question, je prie. Oui, je vais repartir de votre comparaison avec l'IA outil outil outil comme un autre ou pas. Euh moi je perçois l'IA pas forcément comme un outil comme les autres parce qu'en fait quand on prend l'art l'outil on arrive à l'identifier en voit qu'il y a utilisation de l'outil et on arrive à sourcer d'où vient l'outil.

C'est-à-dire que si on voit une œuvre d'art de de Van Gog, une œuvre impressionniste, on voit bien qu'il y a un apport qui est lié à une technique différente et on sait que ça va venir soit du du peintre, soit d'une école, mais on arrive à identifier d'où d'où ça vient en fait. Et et Lia, moi me dérange parce qu'on arrive pas à décrypter l'outil dans l'œuvre réalisée. En fait, il y a œuvre réalisé mais on n'est même pas capable de dire s'il y a utilisation de LIA ou pas, comment faire la différence.

Donc c'est un vrai sujet de comment est-ce qu'on décrype dans l'outil dans la création finale utilisation de l'IA ou pas. Est-ce qu'il faut pas un label sans IA pour conserver la spécificité du sens IA ? Enfin, je me pose beaucoup de questions là-dessus.

Je suis professeur de français. Ça pose des questions notamment pour l'écriture du la disparition de génie aussi de de ce que peut amener un écrivain qui va créer de lui-même, de son cerveau par rapport à ce qui va être créé effectivement par tout à chacun. C'est formidable mais comment est-ce qu'on fait la différence ?

Et j'ai une deuxième un deuxième sujet, c'est venu d'un coupin graphiste qui utilise l'IA qui nous dit on peut plus retourner en arrière mais qui se pose beaucoup de questions sur l'impact écologique. Il est chef d'entreprise mais il a noté que ces datas prennent de plus en plus de place. Enfin, jeais pas utiliser ces mots, mais il s'inquiète beaucoup sur la le stockage des données.

Bon, je vais revenir sur le l'aspect écologique après parce qu'il me tient particulièrement à cœur effectivement c'est un problème euh pour ce qui est de la créativité donc et et surtout bah vous êtes prof de français, vous avez certainement vu des élèves qui ont produit des choses qui ont généré qui ont fait générer Alia des choses qui étaient censées être des rédactions machin blabla. Il y a quand même toujours aujourd'hui, même si c'est compliqué de définir ce qui a été utilisé, comment ça a été utilisé, il y a certain une certaine platitude de ce qui sort, de ce qui est généré par Cais. Et pourquoi il y a une plattitude ?

Parce que ça vient d'un modèle. Et donc, je ne fais que recopier finalement ce qui est déjà existant. Quand il y a une une lueur, une vraie créativité parce que nous humains, on crée pas tous les jours, on n'est pas des génies.

Je veux dire vraiment on fait des trucs, on copie beaucoup, on on a de l'expérience. C'est comme ça aussi qu'on acquire. Ouais.

Ouais. Donc bon et mais ce qu'il y a c'est que à un moment donné, vous parliez de Van Gog, moi je parlais Victor Hugo, je parlais de euh de de Picasso. À un moment à un moment donné l'humain a un coup de génie et fait un truc qu'on a jamais fait avant.

C'est ça la vraie créativité. La vraie créativité c'est faire quelque chose que jamais quelqu'un n'a fait avant. C'est ce que j'appelle moi aussi l'innovation dans les domaines technologiques.

L'innovation c'est quand vous faites quelque chose qui est jamais existé. Et ça c'est pas possible par l'IA. L'IA n'innove pas parce que l'IA est plate.

L'IA ne fait que recopier le modèle. Donc vous prof de français, vous avez vous vous sentez le truc et puis quand vous avez 10 copies qui sont qui qui se ressemblent beaucoup, vous dites quand même le machin bon ça sent mauvais quoi. Donc on est toujours capable et puis quand on a on a très peur aujourd'hui des musiques qui sont générées par ces par ces ordinateurs là par ces I où on voit des mais c'est une platitude crasse.

Je veux dire, c'est c'est absolument inintéressant. Quand je vais demander quelque chose comme je peux demander de de faire écris-moi, joue-moi un morceau de musique comme les Beatles, je peux demander ça. Il va me générer un machin qui au son ressemble un peu à du Beatles, mais je veux dire c'est d'une c'est c'est plat, c'est bon, c'est pas bon.

Mais ça va s'améliorer, ça va de mieux en mieux. D'accord. Donc mais par contre un truc où je vais vous challenger un tout petit peu, c'est sur on sait pas d'où ça vient.

En fait, on sait d'où ça vient. Lia, elle a pas été créée toute seule. C'est moi qui l'ai créé.

C'est nous. Mais c'est moi qui l'ai créé. Ça veut dire quoi ?

C'est que moi, je suis capable de vous dire comment je l'ai créé et je suis capable de vous dire vers quoi elle va tendre. C'est c'est que des statistiques, hein. Donc je suis capable de dire voilà les données que j'ai prises, voilà les algorithmes que j'ai utilisé et voilà vers où ça va aller.

Et ça les créateurs des IA. Donc aujourd'hui les Open AI, les Google et cetera sont capables de dire ça. Ils peuvent le dire.

Est-ce qu'ils ont envie de le dire ? Ça c'est une autre histoire. Est-ce qu'on peut les obliger à le dire ?

B ça c'est votre boulot. D'accord. Donc euh c'est après le régulateur qui doit décider ce qui doit être dévoilé ou pas.

D'accord. Merci monsieur Julet. Vous venez de repréciser d'ailleurs que quand on conçoit un modèle d'IA, on sait ce qu'on a mis dedans, on sait comment on l'a fait et on sait vers quoi on veut euh on veut l'emmener.

Euh on sait que ces modèles sont euh et s'entraînent sur des milliards des milliards de données euh dont certaines sont soumises à euh des droits d'auteur, de la propriété intellectuelle. Euh on a quand même un paradoxe par rapport à l'utilisation de toutes ces données. Vous avez dit tout à l'heure, il faudrait biaiser les IA parce que leurs datas sont biaisés.

Euh comment vous arrivez à concilier le droit de la du respect de la propriété intellectuelle et la nécessaire présence de notre culture, de notre francophonie, de notre histoire sur ces modèles ? Est-ce que l'on doit appliquer le droit d'auteur ? Est-ce qu'on doit forcer à la souveraineté par la présence de ces datas dans les IA ?

Comment on arrive à concilier les deux ? Alors la souveraineté c'est plus compliqué, on va y revenir après. Mais il est évident que les IA primaires, on va dire celles qui sont arrivées 201822 ont pillé internet.

Et sur internet, c'est pas parce que il y a un truc, une un texte, une image et cetera qu'elle n'a pas de copyright. D'accord ? On peut très bien arriver sur des textes du New York Times ou je ne sais quoi qui sont des textes du New York Times copyright New York Times mais je peux les lire librement.

C'est ce qu'on fait ces Elles les ont pillé donc elles les ont lu librement elles les ont intégré librement dans leur modèle. Donc aujourd'hui vous voyez aux USA je je connais pas trop ce qui se passe ici mais vous voyez aux US procès qui ont lieu en ce moment toujours depuis 4 ans maintenant que ces ces ayants droits ont découvert que leurs datas ont été pillés. Bah ces endroits sont en conflit avec Open AI, avec Google et cetera.

D'accord. Euh donc le New York Times justement est en conflit avec Open AI depuis maintenant 3 ans, d'accord ? Pour essayer de bah dépatouiller les machins et savoir ce que qu' leur doit ce qu'il leur doit finalement.

Mais vous voyez aussi maintenant que les bonnes IA, donc celles qui sont qui se veulent correctes et qui veulent arriver sur le marché un peu plus clean parce que effectivement ils reconnaissent qu'ils ont pillé des choses avant. euh ils achètent les données. On voit ça avec le Washington Post et Open AI justement.

Donc euh Open AI achète les données du Washington Post aujourd'hui. Open achète les données du monde aujourd'hui. D'accord ?

Pour pouvoir faire en sorte que leur modèle courant soit avec des données auxquelles ils ont droit. OK ? Les premiers à faire ça, c'était Adobe euh dès 2000 2022.

Adobi a décidé euh dans son moteur de génération d'images de l'intérieur de Photoshop qui s'appelle Firefly, Adobe a dit toutes les images que j'ai utilisé pour créer le modèle dans de Firefly, toutes ces images-là, geni les droits. D'accord ? Et donc du coup quand vous lisez les CGU, ce qu'on fait jamais, mais ce que vous quand vousz les CGU, les conditions sign d'utilisation, il y a marqué tout ce qui est généré par LIA, c'est à vous et donc c'est vous qui devenez euh responsable. par rapport à l'ayant droit.

Bon, l'ayant droit viendra pas vous embêtez-vous parce que vous avez pas assez d'argent en fait pour ça. Donc l'ayand droit petit à petit se rend compte que c'est les générateur d'IA qui sont à la faute et donc c'est pour ça que les endroits attaquent aujourd'hui les IA. Et quand vous voyez le nombre de procès qu'il y a aujourd'hui, c'est des centaines de procès qui ont lieu entre les différents endroits et les IA.

Donc petit à petit, ça se fixe. D'accord ? C'estd que c'était une sorte de de choses intéressantes technologiquement.

Au début c'était un essai puis cet essai est devenu énorme. Puis on s rend compte que tout le monde s'est mis utiliser. Donc bon, c'est devenu un peu hors de contrôle.

Mais comme j'ai dit, les bonnes IA, celles qui essayent d'être des bonnes IA font en sorte que ils achètent maintenant leur contenu. Donc du coup, les modèles qui en qui en sont qui en découlent sont des modèles propres avec la IPI. C'estàd que bon ça contient des choses mais qui ont été payées déjà aux ayants droits.

Donc ça c'est pas trop mal. Alors il y en a qui s'en foutent hein. Grock euh ils s'en foutent.

Donc Grock c'est l'IA de euh des Lon Musk rien à Donc ça c'est clair. Mais bon les y a les plus propres essayent de faire ça. Donc ça c'est un fait.

Maintenant pour ce qui est de la souveraineté et ben la souveraineté est liée au ce biais dont je parlais. Je veux dire, il faut pas il y a il y a pas photo hein. Si on veut être souverain et si on veut garder la main sur ce que racontent les donc avoir Clément Ader au lieu de dire les F rights, bah il faut biaiser et donc il faut choisir les données, il faut aller les acheter aussi correctement mais acheter que les données du monde de l'IB de l'UMA de je sais pas quoi.

D'accord ? Mais il faut les acheter à ses ayant droits parce que sinon effectivement on fait quelque chose de pas bien et ça c'est au régulateur de décider. Très bien.

Merci beaucoup monsieur Julien. Notre audition tire à sa fin. Nous allons vous remercier des éclairages que vous nous avez apporté.

Si vous voulez les compléter par une note écrite, vous pouvez les adresser à la à la mission bien entendu hein si vous êtes frustré d'un certain nombre de questions ou plutôt de réponses que vous n'avez pas pu nous apporter. Donc pour vous dire ce que cela va produire, madame la rapporteur rédigera son rapport d'ici fin mai début juin et la commission décidera qui sera beaucoup plus nombreuse qu'aujourd'hui, je vous rassure, décidera ou non, mais elle décidera très probablement de la publication de ce rapport. Donc il nous reste à vous remercier.