MISSION D’INFORMATION SUR L’IA : AUDITION DE RAPHAEL DOAN, ESSAYISTE

de travaux et nous avons le plaisir d'accueillir monsieur Raphaël Don pour cette mission d'information sur la création, la diffusion, l'acquisition des connaissances et la question de savoir comment l'intelligence artificielle transforme l'éducation et la culture. Aujourd'hui, nous allons parler plus spécialement de la culture. Donc vous avez été au fonctionnaire, vous exercez aujourd'hui des fonctions au sein du cabinet de conseil Accuracy et c'est en tant qu'essayiste surtout aujourd'hui entrepreneur et expert dans le domaine des nouvelles technologies que vous êtes parmi nous cet après-midi.

Merci encore d'avoir pris ça votre temps pour nous rejoindre. Ma collègue rapporteur Céline Calvez et moi-même. Nous vous remercions donc d'avoir accepté notre invitation.

En parallèle de vos responsabilités diverses, vous avez consacré un certain nombre de travaux aux possibilités offertes par les outils d'intelligence artificielle dans la production et la diffusion des savoirs. Vous avez également développé une réflexion prospective sur leur usage qui nous intéressera tout particulièrement. Vous êtes notamment l'auteur de Si Rome n'avait pas chuté paru en 2023.

Un récit chronique est coécrit avec l'appui d'outil d'intelligence artificielle. Ce livre a été présenté comme l'un des premiers livres d'histoire écrit et illustré avec ce type de technologie. Il est sur mon bureau, je vais commencer à lire prochainement.

Vous avez également cofondé cofonderé Vestigia qui permet d'appliquer divers outils d'intelligence artificielle à la recherche historique ainsi rendu accessible au plus grand nombre. Grâce à vous, il est loisible à tout à chacun d'interroger le Napoléon Bonaparte sur n'importe quel sujet, sur les différentes initiatives et plus particulièrement sur votre vision des effets de l'IA en matière de création et de diffusion et d'acquisition des connaissances. Nous serons heureux de vous entendre.

Donc je vous passe la parole pour une un prop proliminaire si vous permettez d'à peu près 10 minutes. C'est resseré et ensuite madame la rapporteur vous posera les questions qu'elle a préparé pour vous. Je vous en prie.

Alors vous appuyez sur le bouton. Très bien. Merci beaucoup monsieur le président, madame le rapporteur pour votre invitation.

Je suis très honoré de pouvoir parler devant vous aujourd'hui. Euh je voudrais commencer par un une anecdote qui me vient d'un article récent du New York Times qui est paru il y a quelques semaines, je crois qui parlait des voitures autonomes. Un autre sujet mais qui n'est pas sans lien avec le le nôtre qui est écrit par un médecin un neurochirurgien qui analyse les données de des voitures Wimo que vous connaissez. ces voitures autonomes qui sont largement déployées maintenant sur les routes américaines et qui montrent que les ces voitures réduisent de 90 % les accidents graves qui surviennent à leur passagers par rapport au conducteurs humain.

Et il dit que dans son expérience de médecin, lorsque un on fait des essais sur un nouveau médicament et que le médicament s'avère tellement efficace au début de l'expérimentation que cela devient quasiment impensable en fait de ne pas continuer de ne pas donner tout de suite l'accès à ce médicament au groupe placebo, celui qui n'a pas bénéficié du du médicament, il faut le faire bien sûr. et il dit à la fin de l'article, quand on voit l'efficacité pour réduire les accidents de la route de ces voitures autonomes, en fait, est-ce que nous ne sommes pas tous le groupe placebo à qui on devrait en fait étendre cette expérimentation et la généraliser ? Et je me demande depuis si nous ne sommes pas tous le groupe placebo d'autre chose avec l'usage de l'IA dans l'ensemble des domaines de la vie humaine.

Puisque dans les voitures autonomes bien sûr, on voit évidemment quand il y a un problème, c'est quand quand ça quand la voiture a un accident, quand il y a un crash, quand il y a des morts, c'est visible. S'il y a une décision de justice par exemple qui est mal rendue, on voit moins évidemment la nature du problème. On voit moins qu'il existe et peut-être que alors soit aujourd'hui soit demain, on se rendra compte qu'en fait des systèmes autonomes eux aussi par intelligence artificielle rendent de bien meilleures décisions de justice que celle que rendent les juges humains.

Je vous le dis, j'ai été magistrat moi-même pendant pendant plusieurs années. Euh et que donc quand il faudrait passer en fait, enfin l'éthique devrait imposer de passer de manière très large à des systèmes automatisés. de décision pour quelque chose qui nous paraît aujourd'hui assez impensable comme la la supériorité de la machine sur l'humain pour rendre une décision de justice.

Mais on pensait aussi assez impensable que les voitures autonomes soient à ce point efficace dès maintenant dans la conduite automobile. À partir de là, euh ma position sur euh sur le sujet que vous avez euh soulevé vient d'une sorte de fascination personnelle que j'ai eu en en 2020 en découvrant le le modèle d'OP AI GPT3 qui était le le oui le donc le trè modèle bien sûr de langage fait par Open AI mais qui était celui qui était plus facilement accessible au public à l'époque sur le site de Peni. C'était avant Chat GPT et ça se présentait encore sous la forme d'une d'un outil de compétion de texte.

C'était pas vraiment un chatbot, c'était pas un agent de conversation. On lui donnait le début d'un texte et il finissait le texte. Et moi qui avais fait une formation, bon je suis pas ingénieur he je vous avez compris, je je viens d'une formation littéraire.

J'avais fait du latin et du grec pendant mes études. Donc peut-être la formation la plus opposée à l'intelligence artificielle et au numérique qu'on puisse imaginer. Mais justement, je trouvais ça fascinant qu'on en soit arrivé au stade où un ordinateur est capable de créer du texte original, cohérent, totalement inédit. il ne fait c'est pas une base de données, il ne recrache pas des morceaux de textes qu'il a déjà vu avant.

À chaque fois, le texte est nouveau. Et h et je trouve que ça révélé quelque chose d'étonnant euh d'imprévisible, c'est que le texte lui-même comme euh comme médium, le langage en fait est euh beaucoup plus puissant qu'on aurait pu l'imaginer encore car il a on arrive avec ce médium là à faire à l'ordinateur des choses qui paraissaient inaccessibles auparavant. Donc traduire très bien euh du texte, ce qui a était quelque chose dont mes professeurs me disaient euh 10 ans auparavant que on arriverait jamais bien à faire une traduction euh correcte d'une langue dans une autre.

En fait, on y arrive absolument parfaitement. Euh mais aussi de réaliser toutes les tâches en fait qu'on peut réaliser avec du texte, que ce soit réaliser donc des tâches disons intellectuelles, mais aussi simplement s'orienter dans le monde et dans les idées ou dans les les actions qu'on peut qu'on peut réaliser par le biais de l'écrit. Et de ce point de vue-là, je pense qu'on est vraiment en train de vivre une révolution anthropologique.

Je crois ça a déjà été dit par certains de vos invités d'ailleurs auparavant euh que je situerai dans la l'histoire longue de du rapport à l'écrit. Je suis pas sûr qu'on puisse voir plus de trois révolutions de notre rapport à l'écrit. Il y a évidemment l'invention de l'écriture elle-même bien sûr qui a permis d'automatiser la mémoire puisque c'était la première fois qu'on avait la technologie pour éviter d'avoir à apprendre par cœur les informations dont on voulait souvenir.

Euh et cette automatisation de la mémoire a permis la naissance de l'administration, de la littérature, la comptabilité. plein de choses assez assez essentielles. Deuxième révolution, l'invention de l'imprimerie bien sûr qui elle a permis d'automatiser la communication des idées, en fait la reproduction des idées et donc leur communication et elle a donné naissance à la probablement à la science moderne en permettant d'échanger les idées entre scientifiques beaucoup plus rapidement et de manière plus sûre. et aussi je pense à une forme de en tout cas au libéralisme dans un sens très large puisque ça permet aussi d'avoir la presse écrite, d'avoir la circulation des idées dans un espace démocratique et cetera et je ne vois pas d'autres révolution que celle que nous vivons aujourd'hui où nous en sommes non plus donc à l'automatisation de la mémoire ni de la copie des idées mais à la génération du texte et des idées.

C'est la première fois dans l'histoire que nous avons du texte qui n'a pas été écrit par un être humain et ça peut effrayer et je comprends ceux que ça effrait mais moi je trouve ça assez fascinant qu'on ne soit capable justement de faire ça. Alors à partir de là le le risque qui nous paraît enfin qui me paraît important aujourd'hui c'est celui d'une sorte de double complaisance. Première complaisance, ce serait celle de l'humanité envers elle-même au sens où nous avons souvent la tentation de nous dire que il y a une spécificité humaine irréductible et que les machines ne sauront jamais faire telle ou telle tâche parce que ce sont des machines et que nous nous sommes humains, que nous avons, je ne sais pas, une âme, un esprit, des choses qui feraient que par définition la machine serait incapable de réaliser.

Et puis on se dit jusqu'ici aucune machine ne nous a dépassé en tout donc ça n'arrivera jamais. Euh je pense que c'est je vois aucune raison de le penser plus exactement. Euh ell les machines surpassent déjà les humains sur beaucoup de tâches si on les prend séparément.

Euh y compris des tâches très intellectuelles. Notamment la plus avancée aujourd'hui c'est probablement la programmation. les créature de code où les modèles actuels, les grands modèles de langage actuels sont vraiment à un niveau très très expert de production de code.

Euh et je pense que ce n'est pas déraisonnable de faire la projection que les machines finiront par exceller sur l'ensemble des tâches humaines et que nous sommes en voie d'y parvenir dans un bon c'est difficile de faire une prédiction exacte mais enfin dans un nombre d'années qui ne se calcule plus en siècle et peut-être plus non plus en décennies. Et d'ailleurs, c'est ce à quoi travaillent les la plupart des chercheurs dans les grands laboratoires américains. C'est ce que croi aussi la plupart des jeunes chercheurs français aujourd'hui, ceux qui veulent travailler sur l'intelligence artificielle.

Mais des gens comme Demis Saabi chez Deep Mind ou Dario Amodi chez Entropique ont vraiment cette idée en tête que dans pas si longtemps que ça, on arrivera à ces machines avec une intelligence artificielle qu'ils appellent général et c'est pas de la science-fiction pour eux et ce sont pas non plus des gens des lubérus. Euh la ça c'est la première complaisance donc de de nous-même envers nous-même en quelque sorte. une deuxième complaisance qui est plus propre à l'Europe qui est cette idée que en fait l'Europe n'aurait pas trop à envier les Américains sur les progrès de l'IA parce que soit les Américains ce que font les Américains ne seraient pas si bien que ça, serait pas si performant que les modèles ne en fait font beaucoup d'erreurs, ne servirait à rien, se tromperait beaucoup, que c'est une bulle financière qui risque d'éclater à tout moment ou que les performances des modèles stagnent et qu'en fait on atteint ce qu'on appelle un mur et que on n pas les cours courbe de croissance que promettent les les laboratoires américains.

Et de l'autre côté, cette complaisance prend aussi la forme d'un de l'idée que l'Europe pourrait être le continent vertueux. Et le meilleur exemple que j'ai en date de cette idée-là, de cette complaisance, c'est une étude de l'ADEM qui a été publiée au début du mois qui présente l'expansion des centres de données en Europe et les investissements qu'on fait dans les data center comme un risque qu'il faudrait il propose des scénarios pour pour essayer d'endiguer la création de data center en disant que c'est une impasse stratégique dangereuse pour les pour la la politique environnementale et donc en fait propose de s'arrêter là et d'essayer d'avoir des une ambition frugale pour pour l'Europe. La réalité c'est que même si on voulait mettre beaucoup de moyens dans cette dans le rattrapage de des Américains, on aurait des difficultés pour la première la première raison étant que les Américains investissent dans l'intelligence artificielle parce qu'ils en ont les moyens.

Ce sont les cashfow des gafames et que nous nous n'avons en fait pas d'équivalent pour réaliser ce genre d'investissement qui qui chez eux ne repose en fait pas tant que ça sur de la dette par exemple contrairement à ce qui s'était passé lors de la bulle internet. L'autre point à avoir en tête, c'est que même si le gain de productivité n'est pas encore flagrant, même si les économistes sont un peu divisés sur la question, Philippe Agon a a fait récemment à papier pour dire qu'il y avait quand même en décelet une première trace de gain de productivité dû au LLM dans l'économie, mais de toute façon, c'est normal qu'on ne voit pas encore bien les choses. La Dynamo a mis 30 ans à se refléter dans les chiffres de productivité.

Donc c'est assez normal que les entreprises et le tissu économique ne se mettent pas d'un coup à gagner des dizaines de points de de productivité. Alors la là où je vois quand même une opportunité malgré donc cette ce retard que nous avons objectivement, c'est que d'une part c'est une technologie qui dans son dans son fondement même dans ses principes n'est pas si compliqué qu'on ne puisse pas limiter la copier. Euh ce qui manque c'est des moyens, mais on a aussi beaucoup de modèles en open source qui sont euh qui sont diffusés, que ce soit par des créateurs français euh en cas mistral américain ou chinois.

Et donc cela permet et même en s'appuyant sur les ressources américaines de euh d'essayer d'accélérer sur l'adoption par euh la société dans son ensemble de ces de ces outils parce que moi je suis absolument persuadé qu'il représente effectivement dans les années à venir des gains de productivité très importants et plus largement en fait des gains de créativité. On y reviendra ensuite, je pense. Et le par un certain paradoxe, je pense que même si la recherche s'arrêtait aujourd'hui, avec les modèles dont nous disposons aujourd'hui, il y aurait déjà en fait de quoi quasiment remodeler toute la société, toute la production culturelle, toute l'administration et toutes les entreprises.

Donc l'Europe pourrait je pense et la France en particulier essayer de viser l'excellence dans l'adoption de l'intelligence artificielle. Et en matière culturelle, puisque c'est l'objet de de votre mission, je dirais qu'elle est même plutôt bien placée culturellement précisément parce que la France a toujours été pionnière des révolutions technologiques appliquées à la matière artistique. Je pense à la la photographie bien sûr que qui a été inventée en France et non seulement elle été inventée en France mais les premiers artistes photographes sont aussi français.

Euh il en va de même pour le cinéma et les avec les Fè Lumière ou euh ou Charmè et euh aujourd'hui encore du jeu vidéo où la France a une industrie de première classe et euh avec de très grands artistes. Donc finalement les Français sont très ouverts et très dynamiques quand il s'agit d'adopter des nouvelles technologies euh pour en faire des euh des produits culturels et artistiques. Et donc je vois pas de raison de ne pas être non plus parmi les premiers à s'en emparer euh aujourd'hui en ce qui concerne l'IAage narrative parce que d'abord elle permet de faire plus avec moins et que souvent ce qui manque en France c'est justement les moyens par rapport aux géants américains ou chinois et euh et je suis absolument certain par exemple que il y a de nombreux réalisateurs potentiels qui n'ayant pas accès à un gros studio ne pouvaient jusqu'ici pas faire le film qu'ils avaient en tête mais qui pourront le faire dans pas si longtemps au fur et à mesure que les moyens de création vidéo s'améliore.

Donc en conclusion et pour pas m'étendre trop longuement dans c ce propos préliminaire, je pense qu'il faut d'abord reconnaître la révolution anthropologique qui est en cours. Je comprends ceux qui voilà qui qui ont une sorte de réticence esthétique à l'idée que les machines prennent de plus en plus de place y compris dans notre vie cognitive et culturelle. Mais comme disait de Gaulle, on peut regretter la lampe à huile ou la la marine à voile, mais on doit même pas s'arrêter, on peut pas arrêter la marge du progrès technique.

Et si on abandonne donc ces deux complaisances que j'ai évoqué, celle qui dénigre la machine au nom de l'humain et celle qui dénigre aussi les avancées du reste du monde, on peut agir sur quand même beaucoup de leviers et je pense que l'angle que vous avez pris de passer par la culture et la création artistique intellectuelle est assez bon puisqu'il permet de renforcer l'influence française sur un dans un domaine où nous sommes particulièrement doués. Merci pour ce proposinaire qui ouvre en effet bien des perspectives et probablement bien des questions. Madame la rapporteur, je vous en prie.

Oui, merci monsieur le président. Alors, vous nous avez parlé de cette révolution anthropologique et vous avez comparé celle de l'écriture et de de l'invention de de l'imprimerie. Ça permet effectivement de voir les pas vers lequels on nous emmène sur la génération des idées celle cette fois-ci.

Euh parfois, on a euh des craintes que l'IA ne soit finalement qu'une seule façon de faire euh de rendre encore plus paresseux notre cerveau. Euh mais en quoi l'interaction entre l'humain et l'IA peut au contraire nous permettre d' partenariat cognitif vertueux et nous permettre justement de développer nos connaissances, nos facultés cognitives ? Oui, il y a vraiment deux manières de s'en servir aujourd'hui.

Je dis aujourd'hui parce que ça se trouve dans 5 ans tout ça sera totalement périmé parce que la manière de s'en servir aura beaucoup changer. Mais soit on délègue absolument tout ce qu'on fait déjà à de l'intelligence artificielle, on ne fait plus rien et on ne pense plus rien euh sans et ensuite on passe son temps à garder Netflix et à rester sur le canapé. Euh soit on délègue beaucoup mais pour faire plus de choses et dans ce cas-là pour apprendre plus de nouveaux domaines, pour explorer plus d'idées, pour J'ai l'impression que beaucoup de gens euh s'en servent quand même dans cette deuxième optique.

Euh je ne connais pas pour l'instant tant de gens que ça qui s'en servent pour ne rien faire et tout déléguer à la machine. Euh ça peut arriver au travail. Donc ça c'est un peu embêtant.

C'est le ce que certains appellent le shadow AI, l'idée que les salariés sans le dire à leur patron utilisent chat GPT. et essaie en fait de de faire moins de travail à domicile. Mais sur l'aspect disons euh cognitif euh j'ai l'impression qu'en général les gens sont aussi plus curieux et se se voilà essayent de d'explorer plus de de voix.

Moi évidemment c'est plus comme ça que je m'en sers. J'essaie de enfin je fais des choses que je n'aurais clairement jamais faites euh sans ça. Les projets dont vous avez parlé de d'utiliser du code et de l'IA pour sur l'histoire, c'est quelque chose que je n'aurais pas pu faire sans accès à l'intelligence artificielle.

Aujourd'hui, je code beaucoup parce que le l'IA me le permet. Euh c'est vraiment quelque chose que je n'aurais pas intégré dans ma vie. Euh autrement et puis de manière plus générale, Lia est un tellement bon pédagogue.

Euh on peut apprendre des choses de manière si granulaire avec euh l'accès au grand modèle de langage que euh je je j'apprends des choses que je n'aurais pas apprises non plus sur des domaines qui sont très éloignés des miens. Donc d'avoir accès à ces ce genre d'outil est quand même, je trouve un gain net pour l'individu à la condition bien sûr que la flemme ne dépasse pas la curiosité. Alors, je ne sais pas ensuite dans quelle mesure l'un va l'emporter sur l'autre à grande échelle quand tout le monde s'en sert tout le temps.

Sachant qu'en plus, on est dans une un moment où vous savez les capacités qu'on appelle agentique des IA se développent beaucoup et où ça c'est plus rapide parce que ça permet d'éviter l'aller-retour permanent de devoir dire à la machine ce qu'elle doit faire mais d'un autre côté, on perd un peu aussi la vision de ce qu'elle fait techniquement quand on code par exemple. Donc bon, tout cela peut encore évoluer dans les années à Merci beaucoup. Vous avez parlé de l'individu et c'était aussi à l'individu de dépasser sa flemme et d'avoir de la curiosité.

Avec la les IA, on a une grande capacité à produire des contenus personnalisés. Alors, adaptés aux préférences de chacun, ça peut l'emmener vers ses apprentissages, mais les contenus sont personnalisés. Alors, comment on peut avec cette plus grande personnalisation possible garder une société du commun et comment ce cette génération des idées ne serait pas la génération et bien en fait de frontière entre les individus ?

Oui, ça c'est un vrai risque mais qui me paraît d'ailleurs plutôt poursuivre un risque qui préexistait à l'age narrative que qu'un risque nouveau inédit. Euh le je me souviens des des chiffres assez frappants sur euh certaines séries télévisées euh américaines ou française dans les années 50 qui réunissaiit quasiment 2/3 des foyers euh quand elle passait et donc tout le monde avait vu les mêmes contenus. C'est vraiment plus du tout le cas aujourd'hui.

Alors c'est encore moins le cas au moment où Netflix pourra par exemple générer entièrement une série spécifiquement pour vous en sachant ce qui vous plaît et cetera. Mais c'est déjà en fait peu le cas aujourd'hui parce qu'il y a tellement de contenu euh et les algorithmes de recommandation sont suffisamment bons pour vous orienter en fait dans le labyrinthe de tout ce qui existe pour vous proposer quelque chose que votre collègue de bureau n'aura pas vu le lendemain à la machine à café. Donc finalement cette dispersion du contenu culturel, elle est déjà là.

Enfin je suis pas sûr que l' générative représentera un saut qualitatif énorme. Ça fera ça va peut-être accentuer un phénomène qui préexistait à l' générative. Mais je suis d'accord que c'est un vrai problème parce que finalement enfin une grande partie de la civilisation de la de la culture en général vient de cette capacité à parler des mêmes choses.

Le le plaisir aussi de voir un film, c'est de pouvoir en parler avec d'autres gens. Donc je pense que c'est d'ailleurs pour cette raison que il y aura un moment une sorte de limite à cette ultrapersonnalisation. Peut-être qu'on aura deux deux vies culturelles séparées en quelque sorte. une partie qui est consacrée à consommer des contenus qui sont faits expressivement pour nous parce que on aime telle chose très très précise et que ça nous fait plaisir de la voir.

Et une autre partie où ce qui nous fait plaisir c'est justement de voir quelque chose en commun avec d'autres gens. C'est possible que les deux apparaissent à la fin et un peu de la même manière que il fut un temps où je pense à avant l'époque industrielle où un des grands loisirs qu'on avait c'était de d'écouter les histoires que se racontait les uns et les autres au coin du feu et c'était donc des histoires très personnalisées. Euh et en même temps on on aimait aussi lire des livres qui étaient eux publiés pour l'ensemble de de du lectorat.

Donc peut-être qu'on reviendra en quelque sorte à cette double double vision de la consommation culturelle. Merci beaucoup. Vous avez coécrit Chirom n'avait pas chuté avec Chat GPT.

Ça pose la question de l'auteur. Chat GPT a été entraîné avec une masse considérable d'écrit qui vous ont précédé. Comment vous appréciez justement le rapport entre les œuvres qui ont servi à alimenter et à entraîner les IA ? et puis ce travail d'auteur, de co-créateur et puis au final comment on gère les droits d'auteur d'une œuvre qui a été générée avec Lia.

Peut-être deux manières de répondre. La première d'abord en tant qu'auteur traditionnel puisque j'avais fait auparavant plusieurs livres que j'avais écrit à la main entièrement euh et j'en ai fait un autre ensuite que j'ai écrit à la main entièrement à la manière traditionnelle. Donc et moi-même, je sais que ces livres là, les livres précédents que j'avais fait avaient été enfin été présents sur les plateformes de piratage et qu'ils ont probablement été téléchargés dans l'ensemble des données qui ont permis d'entraîner les modèles.

Donc en quelque sorte j'ai payé mon mon du mon écho en un certain sens et ça ne me pose pas vraiment de problème d'ailleurs à titre en tant qu'auteur. Ensuite le je pense que si au-delà des questions de droit parce qu'à la limite tout ça peut encore bouger que ce soit par la jurisprudence ou par le travail législatif en terme moraux ou éthique je pense que le problème est surévalué le problème des droits d'auteur dans l'entraînement des des IA pour deux raisons. d'abord que chaque auteur est une goutte d'eau et vraiment enfin même moins qu'une goutte d'eau dans l'ensemble des données qui servent à entraîner un vrai modèle de langage de sorte que même si on trouver un système pour essayer de donner une sorte de pourcentage de l'utilisation du modèle à l'auteur il gagnerait quoi peut-être un demi centime par an enfin et je pense que c'est déjà exagéré donc il y a quelque chose d'un peu un peu vin d'un point de vue quantitatif ensuite parce que ces machinesl ne contiennent pas les livres en eux-mêmes dans leur dans leur paramètres c'est le grand modèle de langage, c'est un ensemble de valeurs numériques, donc les fameux paramètres, les poids.

Et ces paramètres sont ajustés pendant la phase d'entraînement qui se produit sur des livres qui peuvent effectivement être protégés par le droit d'auteur. Mais une fois que cet entraînement est fini, ils ne contiennent pas les livres mêmes et peuvent pas euh vous redonner entièrement le livre si vous leur demandez. Donc je trouve que le le procédé ressemble beaucoup à un auteur humain qui a lu des livres et qui s'en inspire pour écrire ses propres livres.

Et d'ailleurs, ça a été un un argument retenu par un juge américain dans un procès qui a impliqué la société anthropique qui avait téléchargé illégalement beaucoup de livres pour faire ses entraînements et le juge avait distingué l'illégalité du téléchargement illégal enfin de des livres et la phase d'entraînement qui elle ne lui paraissait enfin lui paraissait rentrer dans ce que les Américains appellent le fair use. Donc une notion que nous avons pas en Europe mais le raisonnement me paraît tenir en terme éthique. Alors, en terme éthique et et il se pose quand même la question de la concurrence entre la prolifération d'œuvres qui vont être fait grâce à l'IA et puis euh le travail et la rémunération euh de ceux qui le font.

Alors, en particulier euh dans le domaine du texte, comment voyez-vous les réponses possibles à ce défi ? C'est difficile à estimer. Le ce qui est intéressant d'abord, c'est que les ceux qui ont été les plus durement frappés, qui ont réagi le plus vivement aussi, ce sont les illustrateurs plutôt.

C'est c'est le monde de l'image qui a réagi d'abord avec les modèles de diffusion d'image. Euh je pense parce qu'il voyait que une grosse partie de leur gagne pouvait disparaître rapidement. Il y a des trois grands artistes qui évidemment eux n'ont pas de crainte à avoir, mais pour beaucoup de jeunes illustrateurs par exemple qui reposent sur des petits job notamment en début de carrière, tous ces petits jobs maintenant je pense sont déjà quasiment tous disparus à cause de la l'existence des modèles diagératif.

Pour le texte, c'est un peu différent parce que finalement il y a peu de gens qui dont le les revenus principaux reposent sur la génération enfin la création de textes. En tout cas pas dans la le monde de l'édition. Il y a peu il y a assez peu d'auteurs qui vivent de leur livre simplement.

Je crois qu'il y avait une étude américaine qui pour les Américains, pour les États-Unis montrait qu'il y avait moins de d'auteurs qui vivaient très bien de leur livre que de milliardaires en proportion du nombre de d'écrivains. Donc en fait, c'est assez rare finalement de d'avoir un vrai revenu tiré d'écriture de livres. Euh donc ça a été je moins de réactions épidermiques de la part d'auteur sur le fait que il y avait maintenant une sorte de concurrence économique par l'existence de grands modèles de langage.

C'est plutôt pour des métiers plus spécialisés comme les traducteurs ou ce genre de de métier que là il y a une vraie concurrence mais je pense malheureusement pour eux que il en va de ces métiers là comme d'autres métiers qui ont disparu auparavant lors de la révolution industrielle et que de la même manière que beaucoup de métiers manuels ont été automatisés après l'invention de la machine à vapeur ou de l'électricité, de même là aujourd'hui on a la machine à vapeur du cerveau et ça va avoir les mêmes effets. Donc clairement il y a des métiers qui vont disparaître et je ne puisse pas sûr qu'on puisse faire grand-chose. En tout cas, je pense même que ce serait plutôt néfaste d'essayer de soutenir artificiellement certains métiers sans laisser faire la destruction créatrice en l'occurrence.

Après, c'est une autre question de savoir si cette destruction sera tout aussi créatrice qu'elle l'a été lors de la première révolution industrielle. Mais ça c'est une un autre grand débat. Vous combinez l'intelligence artificielle avec l'histoire.

Euh de quelle manière l'IA peut nous permettre d'approfondir nos connaissances de l'histoire ? Alors là, au niveau presque de la recherche, mais aussi de quelle manière LIA peut nous permettre de diffuser et de faire aimer davantage l'histoire au plus grand public. Alors, c'est un large sujet.

En ce qui concerne la recherche, il y a beaucoup de choses qui sont déjà en cours à plusieurs niveaux. La première, c'estutiliser des modèles DI spécialisés, donc vraiment du machine learning plus classique, pas forcément des des grands modèles de langage pour des tâches qui sont impossible aux êtres humains. Le meilleur exemple que j'ai en tête et dont je parle à tout le monde, c'est le le un concours qui a été organisé par un milliardaire américain sur des papirusses conservés à Herculanum, donc cette ville voisine de Pompéi où se trouvait une villa romaine qui a été ensevelie par l'éruption du VésUV et dont on a retiré des papierusses des livres carbonisés et c'est extrêmement difficile de les ouvrir, de les déplier et de lire l'encre qui reste dessus pour essayer de retrouver de nouveaux textes antiques.

Don, on sait qu'ils sont là malgré tout et en fait, on arrive à le faire avec des scanners 3D puissants et des algorithmes DI qui arrivent à identifier l'encre et les lettres euh sur ces scans 3D, ce qui est vraiment quelque chose d'impossible à faire à l'œil nu. Et donc on a déjà récupéré depuis l'année dernière de nouveaux textes épicurien qui n'avaient pas été connus, enfin qui n'avait pas été lu en fait tout simplement depuis 2000 ans. Donc c'est assez assez fascinant de se dire que Lia permet justement d'ailleurs de récupérer de nouveaux textes humains qui avaient disparu et il y a beaucoup de d'initiatives dans ce sens-là.

Je crois qu'il y a un projet aussi euh mené en France pour les archives de Notre Dame. Euh pareil là, c'est moins qu'on arrive pas à le faire à l'enu, c'est plus qu'on a pas la main d'œuvre pour le faire parce que déchiffrer des manuscrits médiévaux, c'est ça demande une expertise très particulière. Il y a peu de gens qui savent le faire, mais de pouvoir le faire donc massivement avec un ordinateur, ça libère beaucoup de de connaissances en fait que qu'on aurait pas pris le temps de découvrir autrement.

Ensuite, il y a aussi le le simple fait de pouvoir servir des grands modèles de langage pour accélérer le travail de l'historien, pour l'aider à trouver de nouvelles idées, à critiquer les siennes, avoir ce cette relation de disons de oui de dialogue critique comme s'il avait une sorte de cocher chercheur avec lui. Et il y a déjà des des historiens qui s'en servent beaucoup de cette manière-là et ça marche ça marche très bien. Donc donc on va voir je pense de plus en plus de de perspectives et de voix s'ouvrir par ce billet là.

D'ailleurs Google et les pas mal de grandes entreprises travaillent enfin font du Mena en quelque sorte aussi dans en la matière. Il y a un projet de Google intéressant qui s'appelle ANAS comme qui euh qui sert à faire de la de la du déchiffrement d'inscription latine et de la datation enfin la proposition de datation d'inscription latine. Il y a plein d'applications possibles dans le domaine et j'ai pas répondu sur votre question sur la vulgarisation très rapidement.

Je pense que ça va permettre en fait de faire des produits de vulgarisation, que ce soit des films, des séries, des bandes dessinées de ou pourquoi pas du texte de meilleure qualité que ce qu'on voit souvent aujourd'hui. Par exemple, beaucoup de séries ou de films ont de très mauvais costumes, de très mauvais accessoires ou ne sont pas tournés au bon endroit. des choses qui sont des détails, mais je trouve que c'est important pour quand on essaie de de donner le sentiment d'une époque passée.

En fait, le voilà le costume ce n'est pas rien quoi. Enfin, ça ça compte et ça donne une l'esthétique d'une époque. Et souvent les producteurs n'ont pas les soit pas l'envie, soit n'y pensent même pas, soit n'ont pas les moyens aussi de faire des costumes adaptés exactement à la période qu'ils font.

Et maintenant, c'est quelque chose qui devient vraiment faisable avec des outils d'IA générative pour on a beaucoup critiqué d'ailleurs les erreurs historiques de l'IA en matière d'image par exemple récemment, mais on commence à avoir des modèles qui permettent de donner les bonnes références, d'avoir le retour assez exact par rapport à ce qu'on lui donne comme référence. Donc je pense qu'on va voir se développer de plus en plus ce genre d'outil et moi je me suis passionné pour l'histoire grâce aux bandes dessiné quand j'étais petit et si on peut avoir plus et de meilleure qualité encore de contenu de ce genre, je trouve ça tant mieux. Dans quelle mesure vous pensez que les LIA va nous permettre de cultiver la curiosité et l'interdisciplinarité ?

Alors l'interdisciplinarité, je je pense que c'est un grand point effectivement puisque ce sont des modèles qui sont experts en beaucoup de choses. C'est l'intérêt même des grands modèles de langage, c'est d'être des généralistes. Et même si on critique souvent leurs hallucinations, elles sont quand même elles se réduisent de plus en plus et quand on regarde toutes les courbes, c'est le cas.

D'autant plus quand elles peuvent euh elles-mêmes de manière agentique aller chercher les informations soit sur internet, soit dans une base de données qu'on lui donne. Euh donc finalement, c'est comme avoir accès à un expert de tout et la et ça et je pense que ça recelle beaucoup de possibilités. Les chercheurs sont souvent ultra spécialisés aujourd'hui et ne serait-ce que de pouvoir en quelque sorte enfin avoir l'équivalent de demander à un collègue d'un autre domaine si ça lui évoque quelque chose, si une nouvelle découverte lui évoque quelque chose, ce qu'il en pense et de voir s'il y a pas des applications dans ce domaineelà euh de manière très rapide.

Euh ça ouvre déjà beaucoup de perspectives. C'est on a'ura pas besoin de solliciter euh 40000 collègues qui ont autre chose à faire euh avant de trouver euh peut-être un cas d'usage extrêmement pertinent euh éventuellement de le creuser avec des collègues humains. Donc il y a beaucoup de voilà de de connexions qui peuvent se faire qui ne se font pas aujourd'hui.

Peut-être même de manière automatique. On peut imaginer aussi que toutes les nouvelles recherches soient d'université soient mises en lien en permanence et que il en sorte des des mises en des rapprochement intéressant. Euh et sur la curiosité, j'imagine que c'est plus un ça va décupler celle qui existe.

C'est quelqu'un qui n'a aucune curiosité sans doute pas de devenir plus avec ces outilslà. Mais mais si on est un tout petit peu curieux, le fait d'avoir comme ça la capacité de tout expliquer ou de tout investiguer de manière aussi rapide, c'est quand même assez crucial. On pourrait dire que ça existait déjà depuis Wikipédia et et Google, mais là la grande différence c'est que c'est on peut le l'interroger en langage courant. ce qui permet de poser des questions beaucoup plus sophistiquées que ce qu'on aurait posé à Google ou ce qu'on aurait trouvé sur Wikipédia et et donc enfin c'est vraiment sans fin ce qu'on pourrait en faire.

Le Ouais, le principal risque ce serait que enfin aujourd'hui en tout cas je trouve c'est justement qu'on passe notre temps à répéter "Ah c'est ils disent n'importe quoi. Donc faut pas s'en servir, faut s'en servir parimonieusement à cause de ça." C'est quand même beaucoup moins vrai aujourd'hui qu'à 2 ans.

Alors c'est vrai que les choses vont vite et pour un élève aujourd'hui qui est au collège ou au lycée, je pense qu'il y a quand même très très peu de de risque qu'il tombe sur une vraie mauvaise information pour des sujets de niveau secondaire. Donc moi, je considerais au contraire de s'en servir beaucoup pour explorer justement des idées, des sujets d'intérêt et de pas réprimer cette curiosité là. Vous avez développé un site qui invite à comparer des œuvres générées avec Lia à celle des des grands maîtres.

Euh est-ce que il nous est facile ou de plus en plus difficile de les distinguer ? et quelle est quelles sont les conséquences éventuelles sur et on vous demande peut-être de revenir dessus sur le péril de la vraie semblance. Oui, j'avais fait ça parce que je je voyais beaucoup de gens dire que les images générées par RIA, alors c'était il y a 2 3 ans en plus 3 ans maintenant on voyait tout de suite que c'était de l'IA, c'était pas du vrai AR et cetera.

Donc je trouvais ça quand même amusant d'essayer de tester pour voir si vraiment les gens arrivaient à distinguer. Alors il y a il y a quelques bon contraintes puisque c'est sur ordinateur donc on voit pas le tableau. Enfin par exemple, il s'agissait de tableau en l'occurrence on le voit pas en vrai donc il y a pas le l'aspect matériel mais enfin euh en en montrant des images, on aurait pu penser que les gens qui disent que Lia que ce que produit Lia n'a pas d'âme que c'est pas c'est pas de là et cetera trouverait à 100 % celles qui sont les images faites par IA et celles qui ne sont pas et en fait pas du tout c'est vraiment pas le cas du tout.

Euh donc j'avais fait exprès de trouver des de enfin de comparer des tableaux peu connus de grands maîtr et des générations d'images paria qui qui imitait de pastiches de des mêmes euh des mêmes peintres. Et en fait, je trouve même que ces pastiches fonctionnent mieux en tant que pastiches que ceux que font aujourd'hui des peintres qui essayent de faire des pastiches. Je prends un exemple euh de détail, mais les dans les films historiques, il y a souvent des besoins de faire un tableau avec l'acteur ou l'actrice principale par exemple qui est représentait comme si c'était une contesse du 18e siècle.

Euh et je trouve que dans quasiment tous les films, il n'arrive pas à trouver quelqu'un capable de faire un tableau comme leur fait un peintre du du 18e siècle. Et en fait, on y arrive vraiment extrêmement bien si on entraîne un modèle d'IA à faire ça en l'entraînant spécifiquement sur ces sur des peintures 18e. Donc en un certain sens en fait l'IA est meilleur que nous pour distyler l'esprit artistique d'une époque euh ou d'un courant artistique.

Ensuite, la question c'est plutôt est-ce que nous on a envie de voir des œuvres qui sont faites par une machine enfin qui ne sont pas faites par un auteur ou par un artiste ? Mais là, c'est plutôt un problème de enfin quasiment psychologique de notre part. En réalité, c'est pas tellement je pense que les images sont pas forcément de moins bonne qualité en elles-même.

Donc l'œuvre n'est pas moins bonne. Enfin, ça dépend lesquel he mais euh je pense qu'il y a certaines images faites par I qui pourraient très bien en terme de pure qualité objective se trouver dans un musée. Mais peut-être que les humains ne s'intéressent tout simplement pas à ce qui n'est pas fait par des humains.

C'est possible aussi. Un peu comme si on nous disait que un tableau a été fait de manière totalement aléatoire. Il s que par hasard ça tombe sur le quelque chose de plaisant visuellement.

Peut-être qu'on serait pas intéressé non plus. Euh je pense qu'il y aura les deux. Je pense que il y aura un peu comme la la musique, l'enregistrement de la musique, la possibilité de d'enregistrer le son n'a a plutôt redonné en quelque sorte une sorte de prestige à au live et au concert où on va pourvoir l'artiste lui-même.

De la même manière, il est possible que on ait une partie de la production culturelle où on est tout à fait d'accord avec le fait que ce soit automatisé où on m partie automatisé. une autre partie où on est content de voir le peintre qui prend ses euh son aquarelle et son pinceau pour euh pour faire l'œuvre le même. Et peut-être que le plaisir qu'on aura ce sera de le voir faire.

Ça c'est quelque chose que la la l'avenir anthropologique nous dira, je crois. dans le côté positif de ce que vous dites, c'estàd que cette utilisation et ces proliférations d'usage de l'intelligence artificielle ne nous ferait que plus aimer ce qu'on considère peut-être comme naturel, exceptionnel. Votre mention du live, c'est un un exemple.

Est-ce que vous en auriez d'autres comme ça sur le ce qu'on pourrait valoriser d'autres ? Oui, en fait je pense peut-être même que si on prolonge les courbes et les perspectives, les seules occupations qui restent, ce sont celles où il y a un intérêt intrinsèque à ce que ce soit un humain qu'il fasse. Euh imaginons, on peut imaginer que peut-être il y aura des hôtels euh disons d'entrée de gamme qui où tout sera autant démoatisé.

Il y aura des robots humanoïdes qui vous accueillent, qui font la chambre, enfin bref. Et peut-être que les hôtels haut de gamme, ce sera justement ceux avec un excellent service humain parce qu'on sera content d'avoir des gens. Bon, mais le seul intérêt en quelque sorte, ce sera que il y a un humain.

L'humain ne fera pas mieux son travail que le robot, enfin mais peut-être que on aura quand même un premium à l'idée que ce soit un humain qui le fasse. Pour la musique. Donc c'est je pense c'est c'est pareil.

Même si on a déjà aujourd'hui des je crois dans le les tops des chansons sur Spotify, on voit arriver déjà des chansons qui sont entièrement générées par RIA où les gens qui les écoutent ne savent pas forcément que c'est le cas. et une étude qui avait montré que pour des choses, c'était pour des poèmes. On montrait aux participants des poèmes écrits par des grands auteurs anglais et des poèmes écrits par IA.

On leur disait pas lesquels étaient lesquels et globalement les participants trouvaient que les poèmes écrits par IA étaient meilleurs jusqu'à ce qu'on leur dise que en fait ils avaient été faits par. Donc bon, c'est paradoxe et un peu l'hypocrisie finalement qu'on a tous avec ça. On croit tous que on sait et donc voilà, peut-être que simplement il y a une partie où on abs une partie de la production culturelle, on acceptera de fermer les yeux sur le fait que c'est pas fait par un humain et l'autre partie où on ne fera que chercher ça.

Euh je pense sera oui pareil pour peut-être la gastronomie. J'imagine que dans tous les toutes les applications sera le cas. dans les le roman aussi euh c'est très probable que Lia fasse de meilleurs romans dans pas longtemps que même les bonnes production euh littéraire.

Le nouvel avait fait un un duel entre J GPT et Harvé Leotellier euh le prix concours et euh Harv Tellier a lui-même reconnu que l'incipite qu' avait fait euh non c'était Claude d'ailleurs, c'était un autre modèle. Claude était vraiment très bon et il disait les écrivains ont intérêt à à se à s'améliorer encore parce que il y a de la concurrence. Bon, ils le disent d'ailleurs de manière un peu en plaisant, mais c'était vrai.

Mais ça se trouve la plupart des lecteurs veulent lire quelque chose d'Hervellier, quoi. Et ils ne veulent pas lire un roman anonyme entre guillemets. À voir.

Il y a dans les années 60, il y avait tout le courant structuraliste de Roland Bart par exemple qui qui avait théorisé la mort de l'auteur et qui disait alors il savait pas du tout que ça allait vraiment arrivver technologiquement mais il disait bien que pour lui enfin le mouvement de l'histoire c'était en quelque sorte la disparition de la figure auteur c'est qu'on on devrait enfin on finirait par ne plus s'intéresser à qui a écrit un texte et que le texte lui-même devrait avoir sa logique interne propre et on ne devrait plus considérer finalement que les mots leur relations entre eux et il avait des textes qui en un certain sens préfiguraient complètement d'un point de vue philosophique. Euh ce que c'est que la production de texte Paria aujourd'hui, c'est assez frappant d'ailleurs. Monsieur Dan, merci beaucoup pour cette audition tout à fait passionnante qui ouvre des perspectives un peu vertigineuses d'ailleurs, hein, puisque manifestement euh et il y a de la concurrence comme vous dites, hein, ça va très vite.

Mais je retiens tout de même, enfin nous retenons tout de même que la France est bien placée parce que c'est un sujet évidemment qui nous intéresse en tant que parlementaire dans ce dans ce dans ce mouvement finalement de bouleversement profond de la création par l'éruption de l'IA. La France est bien placée parce qu'elle a c'est une forme de d'abord d'habitude historique et puis de curiosité intellectuelle et puis d'hab d'habileté dans ce domaine. Vous avez cité la photographie, le cinéma et cetera et et les films d'animation aussi hein.

Donc et donc là-dessus, c'est c'est quelque chose qui qui ouvre des perspectives intéressantes pour nous en temps en terme de souveraineté numérique. C'est c'est toujours un sujet qui nous préoccupe beaucoup. En tout cas, merci beaucoup monsieur Merci à vous.

Merci beaucoup.