MISSION D’INFORMATION SUR L’IA : AUDITION DE ANTONIO SOMAINI

Bien, nous pouvons commencer l'audition. Bienvenue à monsieur Antonio Soménie qui nous fait l'honneur et le plaisir de nous rejoindre pour cette audition de la mission d'information. Je répète à chaque fois, désolé hein, consacré à la création, la diffusion et à l'acquisition des connaissances. comment l'intelligence artificielle transforme notre éducation et notre culture.

Tel est le thème de notre travail qui durera à peu près 6 mois. Donc la première phase de nos auditions était consacrée à ce que nous pouvions appeler une introduction à l'intelligence artificielle avec des chercheurs, des experts, des entrepreneurs. Nous avons essayé de saisir en quoi cette technologie au pluriel puisque on nous a bien expliqué que les intelligences artificielles étaient multiples représentaient une rupture cognitive, anthropologique, philosophique.

Nous entamons cet après-midi une deuxième phase consacrée aux usages et effets de l'intelligence artificielle sur la création. La trisème et dernière phase qui sera organisée au printemps visera à s'intéresser plus avant aux enjeux éducatifs. Il n'est pas interdit d'en parler aujourd'hui.

Ceci étant posé, nous avons le plaisir d'accueillir pour commencer monsieur Antonio Soménie qui est professeur de théorie du cinéma, des médias et de la culture visuelle à l'université Sorbonne nouvelle et membre de l'Institut universitaire de France. Ma collègue Céline Calvez et moi-même vous souhaitons monsieur le professeur la bienvenue au sein de cette commission. Il nous a parut important d'associer autant que possible des universitaires à la conduite de notre mission et vous en êtes un éminent représentant.

Vos travaux porte notamment sur les liens entre la création et les nouvelles technologies. Vous entendre nous a parut d'autant plus pertinent que vous êtes particulièrement intéressé à l'évolution de notre rapport aux images notamment mais pas uniquement cinématographique dont on peut dire sans trop s'avancer qu'il sera profondément affecté par la montée en puissance de l'intelligence artificielle. Vous nous pourrez également nous dire un mot si vous le souhaitez des conclusions que vous tirez de l'organisation de l'exposition Le Monde selon l'IA présenté au jeu de paume l'an dernier et donc vous avez été l'un des commissaires.

Donc sans plus attendre, je vais vous passer la parole pour un propinaire de 10 minutes à la suite de quoi madame la rapporteur vous posera des questions qu'elle a préparé à votre attention. Je vous en prie. Merci beaucoup pour cette introduction.

Merci de m'avoir invité pour cette audition. Euh donc je préparé un proposinaire d'une dizaine de minutes qui touche déjà certaines questions qui m'ont été posées avec le questionnaire et après je serai prêt à répondre à vos questions et je vous adresserai ce propos et mes réponses aussi par écrit à la suite de cette audition. Donc je commence avec une présentation.

Je suis professeur de théorie des cinéma, des médias, de la culture visuelle à l'université Nouvelle et lors des quatre dernières années, j'ai aussi été professeur en divité dans deux universités américaines à Yale en 2022 et à Harvard en 2024. et 25. Je suis aussi membre seior donc de l'ensite universitaire de France où je travaille sur un projet de recherche intitulé l'impact de l'IA sur la culture visuelle et les pratiques artistiques contemporaines.

En parallèle avec mes activités de recherche et d'enseignement, je suis aussi commissaire d'exposition d'art contemporain de photographie et de cinéma. En 2005, j'étais en effet commissaire principal de l'exposition le monde selon l'eum. Une exposition qui sous des formes variées sera présentée cette année dans des importants musées d'art contemporains en Allemagne, à Francfort et au Brésil dans les villes de Campinas et de Sao Paulo.

En ce moment, je travaille aussi un nouveau projet d'exposition toujours sur et art contemporain pour le musée d'art, architecture et technologie du Lisbonne au Portugal. Depuis presque 10 ans, mes activités de recherche concernent l'impact des technologies dites d'intelligence artificielle sur la culture visuelle contemporaine. Ces recherches m'ont permis de constater que l'IA est en train de transformer profondément la nature et le rôle des images au sein de nos cultures et de nos sociétés.

Algorithme et réorganise actuellement la manière dont les images sont captées, générées, modifiées, diffusées, décrit et vu les caméras de nos smartphones contiennent des modèles DI qui interviennent au moment même de la prise de vue, effectue, sans que leurs uurs utilisateurs en soient conscients plusieurs opérations de réglage d'automisation des modèles d' générative commercialisé par des sociétés privées américaines comme Open AI, Mid Journey, Google, XAI ou méta permettent à un vaste public de produire ou modifier des images fixes en mouvement à partir de prompt écrit et cela pourrait faire la diffusion à travers les réseaux sociaux d'une masse d'images générées souvent répétitiv et stéréotypé pour lequel on utilise désormais le terme anglais de AI slop. Des algorithmes de recommandation régissent la circulation et la réception des images à travers les réseaux sociaux comme TikTok, Instagram, Facebook et ex. Et finalement des modèles de vision par ordinateur et de reconnaissance faciale largement largement adopté non seulement par les géants de la tech mais aussi par les États analyse sans cesse les images qui circulent sur internet pour en extraire des informations et des données.

En général, on peut donc dire que la culture visuelle contemporaine est entièrement innervée par des systèmes d'intelligence artificielle qui transforment notre rapport aux images et notre imaginaire. Parmi les derniers développements dans ce domaine, j'aimerais en souligner trois en particulier. Premier, le fait que le champ de lien générative, quand on parle d'images mais aussi de textes, est concentré aujourd'hui dans les mains d'une poignée de société privée américaine qui agissent dans un cadre de forte opacité sans donner accès au modèle ni au dataset d'entraînement. un cadre très problématique et même dangereux à mon avis compte tenu de la position hégémonique de ces sociétés à travers le monde à l'exception de la Chine qui a son propre écosystème diam deè phénomène la prolifération d'images des vidéos hautement photoréaliste mais généré paria une prolifération qui remet radicalement en question la confiance déjà fortement affaiblie dans la valeur documentaire des images photographiques et vidéographiques. une perte de confiance donc envers l'idée que les images puissent être documents, témoignage, preuve 3è point l'utilisation d'images générées par I souvent sous la forme de même de memes hautement provocatoire et capable de circuler de manière virale comme nouvelle forme de communication politique de la part de gouvernements comme l'administration Trump aux États-Unis, les gouvernements de Miley en Argentine ainsi que de partis comme l'AFD en Allemagne ou la LGA en Italie et beaucoup d'autres.

Pour ce qui concerne les pratiques artistiques dans le champ visuel et audiovisuel, l'impact de l'IA est très différent selon les domaines. On peut pas parler de la même manière de l'art contemporain dans les musées et les galeries, des films agrobudgets, du cinéma documentaire ou expérimental, des séries télévisées, de photographies de reportage ou de la photographie publicitaire, de l'illustration, du graphisme. souvent je trouve on fait un peu l'erreur de parler de création en général quand en fait ce sont des domaines des mondes de la création et de l'art très très différencié dans ces différents champs selon les situation l'a joue des rôles différentes.

D'un côté elle remplace des techniques des opérations et risque de conduire à la dispation disparition de certains métiers ou capacités professionnelles. de l'autre, elle donne accès à des outils qui permettent en large public d'avoir accès à la création d'images fixes et en mouvement de son, de musique, de voix synthétique. Dun côté, comme je l'ai déjà dit, elle attire un vaste public vers un nombre réduit de modèles d' générative produit par une poignée de société américaine avec un effet de concentration problématique.

De l'autre, quand on fait recours à des modèles d'IA open source en libre accès, elle ouvre la possibilité de concevoir ALIA autrement comme une forme de création plus ouverte, collective, transparente. L'utilisation des modèles open source permet aussi de réduire de manière très important le coût énergétique de l'utilisation des modèles LIA. Générer une image avec chat PT, donc un modèle privé par exemple n'a pas du tout le même coût énergétique et le même impact environnemental. que générit une image avec le modèle Stable diffusion en accès libre téléchargé sur son propre ordinateur.

Face au tournant technologique majeur que nous sommes en train de vivre, l'art contemporain joue à mon avis un rôle particulièrement important. En 1964, dans son livre Understanding Media pour comprendre les médias, les théoriciens des médias canadiens Marshall Mclécrivait que face à la transition en cours à l'époque entre ce qu'il appelait l'âge mécanique et l'âge électrique dont le médium était central était pour lui la télévision, les artistes étaient souvent en train de produire des œuvres qui agissaient comme je le cite des social navigation charts, des cartes de navigation sociale capable de proposer au public des coordonnées pour s'orienter dans un contexte entièrement bouleversé par des nouvelles technologies. Aujourd'hui, je crois que nous sommes dans une situation semblable.

Face aux transformations anthropologiques profonde que nous vivons actuellement, il y a des artistes capables de produire des œuvres qui nous aident à réfléchir sur ce qui passe. que ce soit pour dénoncer les risques posés par le déploiement massif de système de surveillance de reconnaissance sociale ou pour analyser l'impact environnemental de ces technologies que ce soit pour redécouvrir ce qui est propre à l'humain face à des systèmes qui imitent l'humain ou pour développer des nouvelles formes d'interaction avec l'IA en développement notamment du système d'IA ouvert collectif transparent respectueux des droits d'auteur. Plusieurs de ces artistes étaient présents dans l'exposition au jeux de paume.

Je pense à Kate Crawford, Vlader, Trevor Pagden, Hitler Steiner, mais aussi ici en France où il y a une scène très riche d'artistes qui travaillent de manière critique avec Lia, Grégory Chatonski, Julien Prévieux, Gunola Vagon, Justine Mar et d'autres. L'expos de pomme était une exposition qui présentait le travail d'artistes français internationaux qui pendant les 10 dernières années ont réfléchi sur ce qui veut dire faire expérience du monde selon ou à travers l'arm. Un autre mot, ce que veut dire percevoir, imaginer, penser, se souvenir, écrire, travailler, interagir avec les autres dans un monde où des algorithmes, des modèles d'IA s'infiltre à travers toutes les strates de nos cultures et de nos sociétés.

Le bilan de l'exposition au jeu de paumé très positif. L'exposition a été visitée par 90000 visiteurs qui deviendront beaucoup plus si on prend en compte son itinérance en Allemagne et au Brésil. Elle a fait l'objet d'une large couverture de presse avec plus de 400 articles compte-rendus, entretien à travers journaux, radio, télévision en France et à l'étranger.

Le l'équipe du jeu de pont m'a dit qu'il s'agit de la plus large couverture de presse dans l'histoire du musée. Depuis sa transformation, il y a 20 ans, un espace d'exposition dédié à l'art contemporain, la photographie et le cinéma. Il s'agit aussi, je pense, d'un exemple de comment une exposition d'art contemporain peut contribuir au débat public en France et ailleurs sur les enjeux sociétaux de l'IA.

Et c'est ce que j'espère pouvoir faire aussi en Allemagne, au Brésil et au Portugal. Je me permets quand même de proposer ici quelques mesures qu'on pourrait prendre dans le champ de l'art pour faire face à cette situation. Tout d'abord, plusieurs artistes m'ont signalé que leurs demandes de subvention pour la production d'œuvres impliquant du lien ont été rejetées par le CNC, par d'autres instances, souvent en raison du fait qu'il y avait de l'IA dedans.

Et cela je trouve est vraiment problématique. Il faut que les instances qui soutiennent la création artistique puissent avoir des commissions spécifiques pour ça et puissent aussi soutenir cette nouvelle forme de création en tenant de compte que la création avec n pas un bloc uniforme mais qu'il y a plusieurs approches, plusieurs méthodes. Ensuite, il est important aussi de favoriser une réflexion sur ce que veut dire faire de l'art avec l'IA pour développer au niveau français une politique des auteurs avec l'IA, c'est-à-dire des approches à qui soient en ligne un peu avec la l'importance que la France dans le champ du cinéma, de la photographie, de l'art en général a toujours donné au rôle des auteurs.

Je termine finalement avec quelques remarques sur mes activités d'enseignement et surtout sur les problèmes qu'il y a pose à l'université en tant que enseignant chercheur. Euh en France, il me semble, le débat sur l'IA et sur ses enjeux est très riche et varié. Et cela est vrai aussi pour les universités et pour pour mon université en particulier, la Smont nouvelle où nous avons créé un observatoire sur l'IA destiné à devenir dans les années à venir, on l'espère un forum de discussion très important.

Il y a quand même des euh points que j'aimerais souligner et dont j'ai un peu parlé aussi avec des collègues en vue de cette audition. Euh plusieurs m'ont souligné le fait que ne pas avoir accès à un qui soit souveraine et sûre au niveau européen freine l'adoption d'une stratégie institutionnelle. Les enseignants par exemple de l'ass nouvelle demandent souvent des abonnements à différentes IA. et notre université qui a accord avec Google, notre système email est géré par Google leur propose Gemini ly pour passer à l'échelle.

Il y a aussi la question de la sécurité des conversations des données qui circulent dans les échanges avec ce chatbot. Cette situation que nous avons à la surmande nouvelle est la même dans d'autres universités, dans la plupart des universités orientées art lettre langage ou euh SH SHs, sciences humaines et sociales et euh les investissements au niveau bien sûr national européenne dans une souveraine il y a souveraine sûr pour les institutions de l'État dont les universités semblent donc être une priorité. Ensuite, les stratégies concernant liées à les universités au niveau français devraient impliquer, il nous semble, non seulement les universités orientées vers les sciences dures, mais aussi les universités orientées AL et SHS qui sont celles qui peuvent donner une grande contribution à la réflexion sur les enjeux cognitifs politiques et societaux de l'Iran.

C'est au sein de ces universités qu'on peut réfléchir sur comment construire des responsables et adaptés aux valeurs d'inclusivité, de diversité culturelle, des coresponsabilités qui sont en ce moment, il faut le dire, largement ignoré par les gens de la tech américain. Finalement, notre université en particulier a répondu à l'appel CMA, compétence et métier d'avenir avec un projet qui s'appelle Integria, intégré l'IA dans les formations hal et sh. Euh et on on fait toute une série d'initiatives pour augmenter la connaissance de lien au niveau de la licence, du master et bien sûr du doctorat.

Ceci dit, on constate des graves formes de paresse cognitive, une grave perte de maîtrise de l'écriture et des processus d'élaboration d'une pensée critique et originale. Et ceci est en train de se passer partout, non seulement en France, mais je peux vous l'assurer en ayant en étant rentré il y a seulement quelques semaines de Harvard, la même chose se passe aux États-Unis et donc il faut œuvrer pour sensibiliser les étudiants au Bia des génératives et aux enjeux cognitifs, éthiqu et juridiques liés à leur utilisation. Et en général au niveau universitaire, il faut renforcer il nous semble l'éducation à l'informatique au médias numérique et à quel que soit la discipline et les formations.

Euh finalement plusieurs collègues m'ont souligné aussi le risque de que les institutions, les universités deviennent dépendantes de modèles qui pourraient disparaître ou être désactivés. Modèles d'IA de sociétés d'IA qui font faillite, modèles DI qui sont désactivés parce que obsolet et cetera et cetera. Voilà, je termine avec ces remarques.

Je vous remercie encore beaucoup et je suis là pour répondre à toutes vos questions. Merci beaucoup monsieur Sem pour ce propos liminaire. Je passe la parole à madame la rapporteur.

Merci monsieur le président. Merci monsieur Soménie. Alors vous avez abordé la question de la souveraineté, de la sécurisation des données et puis la question de la fin de ces modèles.

Moi, je voulais les prendre. au début et le début c'est notamment l'entraînement des modèles et l'entraînement sur des données qui sont parfois des œuvres et donc issues de la création artistique. Je voulais avoir votre point de vue sur la question de l'autorisation et de la rémunération des auteurs, artistes ou ayant droit sur l'utilisation de leurs œuvres pour l'entraînement des IA.

Euh que pensez-vous des pratiques actuelles euh et euh comment éventuellement on pourrait euh rendre les choses un peu plus justes au niveau du partage de la valeur ? Oui, je pense que idéalement euh il faudrait que les artistes puissent euh donner l'autorisation, l'utilisation de leurs images couvertes par d'auteur pour l'entraînement de Model DIA et qui puisse être rémunéré euh pour l'utilisation de ce modèles qui ont été entraînés avec leurs œuvres. Euh ceci dit, la situation actuelle semble empêcher cette possibilité, mais il y a des projets artistique de grande échelle que je suis avec beaucoup d'intérêt, notamment un projet qui est mentionné aussi dans les questions qui on ont été envoyées qui s'appelle Public Diffusion, développé par deux artistes basés à Berlin, Holly Hernon et Matt Dryhst.

Ce modèle est un modèle en libre accès qui a été entraîné avec 40 millions d'images qui sont soit libre de droit, soit donné volontairement par des artistes qui ont décidé de participer à cet entraînement. Et euh ils ont ces artistes ont aussi élaboré un cadre judérique qui permettra la rémunération euh des artistes qui ont participé à ce projet euh une fois que le modèle sera accessible et commercialisé. Donc il y a des possibilités alternatives.

Il faut pas penser que la situation actuelle est la seule possible. Et à mon avis, ce serait bien qu'au niveau européen, pas seulement français, on on aille dans cette direction. Merci beaucoup.

On a effectivement eu des auditionnés qui nous ont fait part de leurs initiatives. Par exemple, des sénateurs ont déposé une proposition de loi qui au niveau français inverse le la charge de la preuve et demande au développeurs de modèle d'IA de prouver qu'ils n'ont pas utilisé des œuvres. Qu'en pensez-vous ?

Et ça me semble une revendication juste peut-être très difficile à mettre en place quand il s'agit de modèle entraîné avec souvent des milliards euh d'images et euh et donc euh je pense que le la solution c'est passe soit par la création vraiment de nouveaux modèles dont voilà des datacas d'entraînement au début sont conçus de la manière que je viens de décrire euh soit peut-être à travers des formes juridiques de rémunération des artistes qui euh peuvent montrer que leurs œuvres ont été utilisées. Mais là, on entre dans un cadre juridique que je ne maîtrise pas assez. Euh mais c'est très compliqué parce que si on pense par exemple au modèle stable diffusion euh qui est le modèle en accès libre, euh il a été entraîné en 2022 avec 5 milliards d'images texte connectées et d'ailleurs ce sont les mêmes artistes que j'ai évoqué qui ont euh créé une plateforme qui s'appelle Have I been trained ?

Est-ce que j'ai été entraîné ? Qui permet à des artistes de savoir si certains de leurs images sont finis dans ce dataset d'entraînement. Mais le problème c'est que les sociétés privées américaines ne dévoilent pas du tout leur dataset d'entraînement.

Donc comment pouvoir découvrir si des œuvres ont été intégrées dans cette data ou pas ? Merci. Ça fait ça fait écho à à l'opacité et la concentration que vous avez pu vous avez pu mentionner plus haut.

Vous avez dans votre propos introductif bien souligné qu'il y avait d'un côté euh des I qui remplaçaient aussi bien des techniques qu' aussi des métiers, mais que aussi et peut-être paradoxalement ça permettait au grand public de devenir créateur. Et donc, j'ai envie de vous poser la question : "À quel moment on devient créateur ? Et à quel moment les interactions entre nous les humains et euh ces IIA nous permettent de garder ce qui fait l'originalité de la création ?

Alors, en effet, encore une fois, selon les différentes champs du du champ de la création artistique, il y a des situations très différentes dans certains cas. En effet, euh les modèles d'IA générative permet de bypasser, on pour on pourrait dire à toute une série d'opérations, de métiers et de compétences qui donc risquent de mener à la suppression de certains emplois ou à la réduction de certains emplois et cetera. Euh en même temps euh de l'autre côté, il y a cet accès, cette possibilité qui s'est déjà manifesté il y a plusieurs années avec la l'arrivée de YouTube, la démocratisation des euh des caméras numériques ou encore les smartphones et cetera. euh la possibilité pour un plus grand public euh d'accéder à des formes de création visuelle et audiovisuelle qui peuvent éventuellement devenir des formes d'art.

Alors, la question de quand euh une création visuelle audiovisuelle devient euh de l'art, c'est une question qu'on peut aborder d'un point de vue presque sociologique. Je dirais c'est le moment où cette création est présentée dans un cadre marqué comme artistique, galerie, musée, programmation filmique et cetera. Et donc il y a eu euh euh quelqu'un qui l'a reconnu comme artistique et qui le propose en public dans un cadre artistique.

Euh je trouve difficile de de de d'établir des critères de valeur abstraites qu'on appliquerait pour savoir si une image est art ou pas. C'est un peu le système de l'art qui euh fait euh voilà produit c ce type de de différenciation. Mais c'est vrai qu'aujourd'hui euh quelqu'un qui n'a aucune compétence par exemple de tournage avec une caméra ou de logiciel de montage, euh captation des sons et cetera peut produire des films, peut produire des œuvres euh et euh et cela donc ouvre un potentiel élargissement du champ de l'art.

Euh je ne parlerai pas de démocratisation, c'est un terme que j'utilise très peu par rapport à ça parce que le la situation que nous avons euh en ce moment est d'une grande concentration euh on pourrait dire presque hégémonique, oligarchique de Modè DIA, mais c'est quand même voilà c'est l'accès à des moyens de création pour un public qui n'y avait pas accès jusque ici. Voilà. Et pour ce qui concerne la part humaine dans le processus de création, ce que je pu constater en suivant de près le travail des artistes que j'ai inclu dans l'expo je de paumme, c'est que leurs choix, leurs idées, leur envies et cetera étaient toujours très présent même quand ils utilisaient des modèles d'IA.

Donc on est loin de l'idée qu'on crée un film ou une œuvre avec trois mots et un clic. C'est quelque chose de beaucoup plus complexe euh qui souvent passe par l'enchaînement des différents modèles, par tout un travail non euh à travers tout le processus de création euh et cetera et cetera. Donc il faut un peu sortir de cette idée que avec Lia la création artistique devienne entièrement automatisée parce que ce n'est pas le cas.

Merci beaucoup. Vous avez fait euh part de euh du refus de soutien de subvention par certains organismes pour des œuvres qui intégraient euh l'IA. Euh vous sembliez le regretter.

Est-ce que vous pouvez préciser euh quel est le risque de ne pas se voir se reconnaître le caractère d'œuvre euh pour les artistes mêmes, mais aussi pour l'ensemble de la création universelle ? En gros, est-ce que on n'est pas en train de passer à côté d'une reconnaissance de ce qui est l'art et d'être un peu décourageant aussi pour l'utilisation de LIA dans le cadre de la de la création ? Oui.

Alors, ce dont j'ai parlé est quelque chose que j'ai appris en discutant avec certains des artistes français qui ont participé à l'expo, qui ont demandé des subventions et qui les sont vu refuser de la part d'instances comme le CNC et d'autres en raison du fait qu'il y avait de l'IA. Ce sont des demandes qui ont été faites en 2024. Donc, il est possible qu'aujourd'hui la situation soit changée un peu.

En tout cas, ce qui me semble important, c'est que dans les commissions qui évaluent ces propositions, il y a des gens qui sont vraiment compétents euh pour ce qui concerne le relation entre AR et A. euh et euh qui puisse donc évaluer euh ses projets et reconnaître le statut euh proprement artistique quand c'est le cas et ne pas les condamner ou les rejeter euh d'emblé euh parce que on fait recours à à Delia. Il est possible que ces réponses négatives aient été une sorte de réflexe dans une situation assez initiale 2024, qu'aujourd'hui les choses se soient développées un peu, mais c'est un vrai problème.

Euh et je ne pense pas qu'on ait besoin de créer, moi je suis vraiment contre l'idée de créer une sorte de label AI art. Euh je pense que l'a comme le numérique vont s'infiltrer dans tous les domaines de la création artistique. Et donc je pense que euh c'est au KNAP, c'est aux institutions qui soutiennent la photographie, aux celles qui soutiennent le cinéma de savoir évaluer ces demandes.

Il faut pas créer quelque chose adoc pour un secteur artistique qui serait celui de l'art avec. Euh à mon avis euh il faut vraiment pas séparer la création avec de l'ensemble de la création artistique. Merci beaucoup.

Surtout que vous avez pu souligner que parfois on utilise l'IA sans le savoir euh et donc il faudrait pas se voir disqualifié parce qu'on a utilisé un outil dont on pensait qu'il était exemple de d'IA et pourtant on l'a on l'a on l'a utilisé. Vous êtes un spécialiste de la culture visuelle. Euh je voulais savoir devant la prolifération d'images comme vous le disiez qui semble réaliste.

Qu'est-ce que vous pouvez constater déjà chez le public dans son appréhension des images qui l'entourent ? Qu'est-ce qui depuis l'arrivée en tout cas la démocratisation de l'IG fait changer dans notre regard et quels sont les opportunités mais aussi les dangers que vous voyez dans cette évolution ? Euh pour ce qui concerne cette circulation massive d'images photoréalistes mais généré paria, je vois surtout des dangers, des dangers de perte de confiance comme je disais dans la valeur documentaire, dans la valeur de témoignage, de preuves des images, dans des situations politiques très tendues comme celle qui se passe en ce moment aux États-Unis où des centaines de vidéos circulent sur ce qui se passe avec ICE, l'immigration et cetera et cetera.

Je vois dans les réseaux sociaux énormément de vidéos fausses euh qui peuvent avoir des milliers dizaines des milliers centaines milliers de likes de retransm rediffusion et cetera et cetera. Et là c'est un vrai problème. Il faut absolument développer des outils de détection des images générées.

Je sais que certaines sociétés de l'IA vont dans cette direction. Par exemple Google l'a fait pour les images générées avec Jemini. Le problème c'est que Jemily n'est que un des outils possibles.

On peut générer des images avec chatt Mrrock et cetera et cetera. Donc, il faudrait qu'il y ait peut-être une intervention au niveau législatif qui oblige à insérer dans pas seulement au niveau visuel mais au niveau de la construction du du du fichier numérique de ces images, quelque chose qui permet de de détecter comme image générée. Autrement, on risque voilà de de perdre cette confiance déjà quand même très affaiblie dans la valeur de preuve des images photographiques avec voilà peut-être une augmentation ultérieure de ces chambres écho de de ces disons des cette polarisation du panorama politique de méfiance envers ce qu'on voit, ce qu'on écrit et cetera et cetera.

Après dans le champ de l'art, beaucoup d'artistes s'imparent de cette ambiguité et en font quelque chose de très très intéressant d'un point de vue artistique, notamment par exemple en produisant des documents qui ont l'air d'être des documents d'archives qui nous font penser l'histoire autrement, qui proposent des histoires alternatives, contrefactuelles et cetera, mais ce sont quand même des phénomènes euh intéressantes quand ils sont présentés à l'intérieur dans un espace artistique, quand ce sont des quantités énormes d'images photorist qui circule sur internet. Là, je vois surtout des dangers et des problèmes. Vous parlez d'une une incitation à ce qu'on puisse détecter les images qui ont été générées, notamment en mettant dans les fichiers mêmes ou dans les processus même qui ont on ont fait générer les traces de cette intervention.

Quel est pour vous le rôle ou le devoir de ce que doit être les générateurs enfin pardon les les moteurs d'IA dans dans cette détection ? En fait, vous avez parlé euh de de Google qui l'a mis en place mais de manière partielle. Est-ce qu'il y ait de l'intérêt de ces euh de ces ces pardon de ces I euh d'indiquer ce qu'elles permettent de faire ?

En ce moment, il y a des situations très très différentes. La position de Google n'est pas du tout celle de XI, la société de d'lon Musk euh et d'autres. Donc, mais peut-être qu'au niveau européen, encore une fois, on pourrait obliger à mettre ses marqueurs dans les images générées.

Après, les réseaux sociaux sont des réseaux quand même qui existent au niveau global, donc une législation qui s'impose au niveau européenne, on peut pas l'appliquer ailleurs et cetera, mais je les réseaux sociaux comme Instagram par exemple invitent les utilisateurs à signaler s'ils ont fait recours à quelque form. mais c'est laissé aux utilisateurs et donc c'est pas très et d'autres Grock en particulier en ce moment euh semble être poussé par une vision qui n'a aucun intérêt à voilà à promouvoir le fat checking et le contrôle de la véracité de certaines informations semble aller vraiment dans la direction opposée. On parle des outils de détection.

Je pense que vous vous invitez aussi à ce qu'on encourage l'esprit critique tout en conservant la confiance des population dans la valeur de ce qu'est une image ? Quel est d'après vous le rôle des artistes à aiguiser cet esprit critique ? Est-ce que les artistes qui utilisent l'IA peuvent nous aider à adopter la le bon esprit critique ?

Absolument. Oui. Euh ce sont exactement le type d'artiste que j'ai choisi pour l'exposition au jeu de pomme.

Euh des artistes qui euh abordent li un terme critique par critique, je veux pas nécessairement dire un terme négatif, mais un terme réflexif, un terme qui invite le public à réfléchir sur les enjeux de cette technologie. Et donc il y en a qui par exemple ont fait des œuvres qui soulignent euh les biais inhérents au système de reconnaissance faciale des émotions. Euh d'autres qui alertent sur les risques du déploiement massif des systèmes de visision artificiel.

D'autres encore qui essayent de donner visibilité à ces millions de travailleurs du clic qui travaillent dans le monde, surtout dans le sud global pour contribuer à l'entraînement de ce modèle et d'autres encore qui nous invitent à à réfléchir sur les enjeux de de l'IA générative. Donc le rôle de l'art est très très important mais j'aimerais souligner aussi le rôle de l'université. Il faut que nous puissions former nos étudiants à tous les niveaux.

Là je parle d'université mais bien sûr on pourrait parler de lycée de collège et cetera. euh mais euh développer une vraie alphabétisation par rapport à ces technologies. euh une capacité de savoir comment au moins en termes généraux comment elles fonctionnent, comment ils sont entraînés. euh connaître les biens, par exemple, savoir que au moment actuel, les données d'entraînement proviennent surtout euh du monde occidental, surtout des pays euh des des États-Unis et des pays européennes qu'il y a toute une série de cultures qui sont complètement sous-représentées euh de langues que l'IA peut parler mais euh seulement en création des traductions mais en faisant tout son raisonnement et et son entraînement avec des données en anglais et cetera et cetera.

Il faut vraiment éduquer euh les jeunes à connaître ces outils euh pour que cette paresse cognitive qu'on constate euh soit au moins mise en question. savoir que s'ils délèguent entièrement leurs pensées, leur manière d'écrire à des modèles, il délèguent à des modèles qui ont vraiment des des des potentiels mais aussi des limites très très importants. Le le fait de de montrer qu'il faut douter de chacune des images que l'on peut voir, est-ce que ça ne conduirait pas les populations à ne plus vouloir voir d'images ?

De la même façon qu'on a parfois beaucoup d'informations, on peut constater chez certains une fuite en disant de toute façon il y a trop d'information, je ne sais pas par où commencer donc je le fais. Est-ce que vous avez déjà perçu une fuite de l'image parce qu'on arrivrivait plus à distinguer ce qui était une véritable image d'une fausse image ? Mais ça fait longtemps, je dirais presque un siècle qu'on parle de de ce que les Allemands appellent le builder flot, le flux d'images qui nous envahit, qui nous aveugle et cetera.

Et ce flux a n'a pas cessé d'augmenter euh avec l'introduction d'Internet, des réseaux sociaux et cetera et j'ai pas encore vu de réger des images. général, ce que je vois c'est malheureusement la tendance un peu à canaliser son attention envers certains euh champs médiatique qui peuvent être pour certains TikTok, pour d'autres Instagram et cetera et des jeunes qui par exemple reçoivent leurs sources d'information même sur des questions politiques et cetera de ces réseaux sociaux là. Et donc on c'est pas qu'on rejette les images en général mais on regarde seulement celles qui arrivent là.

Et si là dedans, il y a toute une masse de AI slop comme on l'appelle, voilà, il y a une perte d'orientation, une perte de confiance à la voilà la capacité des images de documenter, de témoigner. Et ça, c'est un scénario auquel on n'est pas préparé à l'idée qu'il puisse y avoir une telle méfiance envers l'image, le visuel. Euh pour l'instant, je constate pas ce rejet, mais c'est un phénomène assez nouveau, donc il faudra voir ce qui se passe dans les mois et années à venir.

Merci beaucoup. Euh la France peut s'en orgueillir à l'instar aussi d'autres pays européens, mais d'avoir une véritable place dans le monde pour son cinéma, mais aussi plus largement pour les industries culturelles et créatives. Euh vous avez une expertise particulière sur le visuel.

Comment voyez-vous la position de la France sur le cinéma euh par rapport au à ce que les autres nations euh promuvent euh en terme de cinéma ou d'audiovisuel en général ? Est-ce que la France tient son rang en embrassant justement ce qui est ce qui peut-être aidé par les IA et depuis plusieurs années ou est-ce qu'on est en train éventuellement de se laisser envahir par d'autres offres parce qu'on narriverait pas assez à prendre conscience de ce que Lia transforme dans notre façon de voir. Moi, je pense que ce qui a fait historiquement la force de la France dans le champ du cinéma a été notamment ce que j'appelais avant le cinéma d'auteur, euh le fait de pouvoir développer et défendre une politique des auteurs.

Et je pense que le moment est venu maintenant de appliquer le la même type de le même type de stratégie et de politique envers la création avec. Il faut développer des formes de financement, des espaces de réflexion, d'enseignement, de pédagogie pour développer euh une politique des auteurs dans le champ de l'art avec Lia. Euh et la France, je trouve euh pourrait vraiment continuer sa mission et et prolonger cette politique qui a eu autant de succès lors voilà du dernier demi-siècle en faisant une politique dans ce sens.

Euh j'ai j'ai constaté vraiment la richesse euh dans tous les sens du terme euh intellectuel, créative, expressive euh des artistes qui travaillent avec l'IA en France et je pense que on peut euh être vraiment protagoniste dans ce champ mais il faut voilà une quelque formaire mais aussi en terme voilà d'espace de réflexion de de de centre d'étude. Je sais pas si quelque chose de de l'équivalent des grandes écoles de la photographie du cinéma en tout cas accompagner une politique des auteurs dans le champ de la création avec Liam. Oui, monsieur le professeur, à la fin de votre propre, vous évoquez la question euh en tant que enseignant chercheur hein de de l'université et vous avez utilisé deux expressions enfin un petit peu inquiétantes paraissent cognitive et puis baisse du la de la maîtrise de l'écriture.

Ça c'est encore pire si je puis dire. Ça va peut-être de pair mais enfin pour l'apparissive bon on a toujours des étudiants plus paresseux que d'autres hein d'autres qui bon euh au fond ça ça ne fera pas beaucoup de différence entre ceux qui savent utiliser et ceux qui se laissent au fond remplacer par elle. Mais sur la question la maîtrise de l'écriture c'est beaucoup plus préoccupant.

Est-ce qu'il existe à votre connaissance des recherches sur ce point là spécifique dans le domaine universitaire ? Qu'est-ce que Qu'est-ce que l'université entreprend pour se défendre elle-même, si je puis dire, en matière de transmission ? Est-ce qu'il y a des des des équipes qui réfléchissent à cette question là ?

Parce une question apparemment universelle, enfin en tout cas, je ne sais pas ce qui se passe en Chine, mais en Occident, manifestement, le phénomène Vous parliez de Harward est est très répandu, pas seulement, c'est pas franco-français. Alors, je voulais savoir s'il existe des pistes pour faire face à ce à ce défi tout de même. Certainement, il y a des équipes de recherche qui travaillent là-dessus.

Je ne suis pas nécessairement la personne plus indiquée parce que mon domaine est plutôt image, culture, visuelle, art visuel, mais je suis sûr que dans les champs des études littéraires, des études linguistiques, on se penche là-dessus. Euh quand je parlais de paress cognitive, c'est le fait de s'habituer en situation où on donne quelques promptes à modèle d'IA et on lui dit "écris-moi un dossier sur ça ou le professeur m'a donné à lire ces trois textes, écris-moi un texte à partir de ces trois". Et voilà. et on délègue, on délègue, on délègue.

Ça je le vois partout chez mes enfants aussi malheureusement et et donc c'est un vrai problème. Donc la la réponse des universités est très variée mais pour l'instant à mon avis pas vraiment la hauteur. Et ce qui m'a frappé à à Harvard était le fait que là-bas la politique semblait être plutôt celle de faire ainsi que tout le tout le monde universitaire de Harvard intègre l'IA dans sa manière de fonctionner plutôt qu'aller euh chercher les étudiants qui en font l'utilisation.

Il y avait une grande tolérance et plutôt l'encouragement à s'imparer des modèles d'IA qui étaient donnés. Donc c'était la manière dont Harvard abordait ça. Chez nous à la S nouvelle, on a donné aux étudiants un guide d'IA pour augmenter leurs connaissances et on demande à chaque enseignant de choisir quels usages sont permis et quels sont interdits pour se faire un peu une idée aussi.

Mais on n'est pas encore vraiment préparé et c'est un scénario vraiment un peu préoccupant. Euh et surtout aussi parce que Li remplace aujourd'hui de plus en plus aussi la recherche sur Google. Ça remplace Wikipédia.

Personne presque va plus regarder les sites internet mentionnés dans une recherche sur Google. On se contente de la réponse a proposée par Jini ou de la réponse fournie. Et là, c'est une concentration massive du savoir dans les réponses d'une poignée de 4 5 6 sociétés privé américaine.

Euh c'est vraiment quelque chose de très très préoccupant. dans les activités de recherche, si je peux aller voir ce que donnent les réponses d'un moteur de recherche, il m'est plus difficile d'aller voir ce qui va être répondu au prompt éminemment différents des uns et les autres. Est-ce que à votre connaissance, les chercheurs ont accès au résultats des requêtes, des promptes de personnes qui utilise un un des agents conversationnels ou est-ce que il y a encore une plus grande opacité que ce que l'on peut voir ?

Et ça nécessite aussi la combinaison entre le respect des de la vie privée, des données privé, mais aussi l'accès à ce qui est vraiment disséminé comme connaissance auprès de des différentes populations. Vous dites si les des chercheurs ont accès à des données par exemple concernant les questions posées à chatt par exemple à ma connaissance non. on il y a des questions voilà de de de privacy, des questions d'opacité des modèles et cetera.

Euh donc on peut pas faire des études de type même sociologique sur quelles sont les questions posées plus en général et cetera. On sait qu'il y a ces usages d'ordre émotionnel affective qui se développent énormément. Euh mais à ma connaissance, ces sociétés ne fournissent pas ces informations.

Euh donc parfois, on se base sur les documents que ces sociétés produisent pour raconter un peu ce qui se passe. Anthropic en particulier est une société qui adopte une posture un peu plus ouverte, transparente, mais voilà, ce sont quand même toujours des sources provenant de société elles-mêmes. Bien, nous arrivons au terme monsieur Semni de notre échange.

Nous vous remercions beaucoup pour ce que vous avez apporté à cette à cette audition. Moi, je retiens en particulier le fait que selon vous la création artistique reste radicalement humaine et que et que donc d'une certaine manière vous vous envisagez même la création d'un 10 art qui serait là assisté par l'IA mais qui aurait ce statut quand même de création artistique et ça c'est une piste intéressante je pense pour nous tous. Merci encore et vos retour chez vous.

Merci beaucoup. M.