L'IA menace-t-elle l'humanité ? | Chaque voix compte - 16/10/2026

Bonsoir à tous et bienvenue dans chaque voix compte sur LCP. Je suis ravie de vous retrouver pour une heure de débat en direct de l'Assemblée nationale et puisque c'est vendredi et que chaque voix compte, et bien c'est à vous que nous donnons la parole pour une émission consacrée ce soir à à l'intelligence artificielle au moment où les alertes mais aussi les les appels à la réguler se multiplient. Comment garder le contrôle ? Comment ralentir un progrès qui semble aujourd'hui dépasser l'humain dans de multiples domaines ? Comment vivre avec Lia sans la laisser nous dévorer ? Et bien, on en parle ce soir avec vous Nicolas Bonet. Bonsoir. Bonsoir. Vous êtes député du puit d'ô, ingénieur informatique de formation et vous avez notamment produit cette année un rapport

sur les usages de l'intelligence artificielle au sein de l'Assemblée nationale. Vous travaillez aussi beaucoup sur l'IA au sein du palais Bourbon. Merci d'être là au côté de Sandro Godzi. Bonsoir. Merci d'être là. Député européen Rw. Vous êtes un des grands spécialistes de l'IA au sein du Parlement européen. Vous avez d'ailleurs déposé et fait adopter il y a quelques jours un amendement sur la non prolifération de l'IA. Ça alors, vous nous direz ce dont il s'agit. Et puis bonsoir Laurence de Viller. Bonsoir. Merci d'être avec nous ce soir Laurence. Vous êtes professeur en intelligence artificielle à la Sorbonne. Vous êtes également chercheuse au CNRS à Paris saclé. Un grand merci d'abord à tous les trois d'avoir accepté de de jouer le jeu de ces questions-réponses avec notre

public. J'ai autour de moi des étudiants, des graphistes, des mathématiciens, des avocats, beaucoup d'intelligence naturelle qui ont vu Lia débouler dans leur métier ou dans leur futur métier sans crier gare. Quel usage en fait vous ? Quelle barrière attendez-vous ? C'est de tout cela dont on va parler mais aussi de de plein d'autres choses puisque c'est bah c'est vous qui décidez, c'est votre émission, c'est vous qui allez la faire. Je compte sur vous et chez vous et bien installez-vous confortablement parce que chaque voix compte. C'est parti.

C'est vrai que plus un jour ne passe sans que l'intelligence artificielle ne démontre ses ses capacités extraordinaires. Il y a une semaine, l'entreprise Open AI a annoncé la résolution de plus de 700 problèmes majeurs en mathématiques. Là, ce matin, on a appris que Lia avait permis de percer le secret d'une lettre codée de Napoléon aux armées françaises sur laquelle les historiens se cassaient les dents depuis 200 ans. Bon, oui, l'intelligence artificielle nous épate mais elle commence aussi sérieusement à nous effrayer. Thiba Enoc,

pas un jour sans une déclaration qui la concerne. Love it, qu'on l'aime, qu'on la déteste, qu'on en ait peur. est bien là. Elle est en passe de devenir un facteur déterminant de la prospérité mondiale. Enthousiasmante pour les uns, je crois que ce sera l'outil le plus extraordinaire et le plus bénéfique jamais créé. Dangereuse pour les autres. Une utilisation abusive de l'IA pourrait concerner les armes biologiques. Ces risques sont bien réels. Des cris d'alarme qui se multiplient décrivant l'IA comme une menace. Début septembre, le chercheur Jacob Coxon quittait l'industrie à grand bruit. Les gens qui construisent LIA croient sincèrement qu'elle pourrait tous nous

tuer d'ici la fin de la décennie. Des propos choc, après un incident majeur survenu cet été, le 21 juillet, Open E révélait que deux ces IA, agissant de façon autonome et sans autorisation avaient piraté la plateforme Ugging Face. Dans une lettre ouverte publiée le 14 octobre, 225 chercheurs mondiaux alertent à leur tour. Sans changement immédiat, de tels incidents vont se reproduire et ceux qui viendront seront bien plus dommageables. Un discours face auquel un homme fait la sour d'oreille. Donald Trump. Le président américain ne veut pas entendre parler de régulation du secteur. Les géants de Lia sont appelés à s'autodiscipliner. Une absurdité du propre aveu du

président de Microsoft. Il existe plus de règles de sécurité pour une brique de lait que pour l'IA. Si nous pensons qu'il s'agit de la technologie la plus puissante jamais créée, nous devons dire aucune entreprise ou technologie ne devrait être au-dessus des lois. Des débats sur la régulation mais aussi sur l'emploi. À mesure que l'IA pénètre le monde du travail, ses effets se font déjà sentir. D'après une récente étude de la Banque de France, Lia a déjà commencé à freiner les embauches, en particulier chez les jeunes. Lia a déjà commencé à freiner les embauches. Je voudrais d'abord donner la parole à à François. Bonsoir François. Enfin, bonsoir maître, puisque vous êtes avocat au barreau de Montpellier et vous présidez aussi la commission prospective et innovation au conseil. Je voudrais

d'abord vous entendre sur ce qu'on vient d'entendre dans le reportage, il y a plus de sécurité pour une brique de lait que pour l'intelligence artificielle. Vous en tant qu'avocat, ça raisonne cette phrase en vous ? Alors oui et non dans le sens où en effet il y a une réglementation qui existe au niveau européen. On a cette chance-là au niveau européen d'avoir eu une réglementation avec l'act qui est entré en vigueur. On a la chance d'avoir des députés européens ici. À l'inverse aux États-Unis à l'innovation. Il faut pas freiner l'innovation. Euh en Europe, on a vraiment une vision différente, c'est-à-dire qu'il faut quand même réguler. Il faut avoir une vision à mon avis également euh de souveraineté parce que euh dans le cadre des débats et dans le cadre de la politique internationale

actuelle que l'on voit, il faut impérativement que l'Europe ait une vision d'une IA souveraine et autonome et encore plus au sein des professions libérales comme les avocats. Donc concrètement vous dans votre cabinet d'avocat, vous vous servez de l'IA de quelle façon aujourd'hui ? Alors, j'ai la chance de faire partie d'un cabinet cabinet fidal qui est au niveau national qui a quelques antennes au ciel à l'international mais surtout on est 1200 avocats, près de 2000 collaborateurs sur 87 bureaux. Donc on a cette chance là d'avoir pu développer notre propre IA maison en circuit fermé et avec une garantie, une autonomie qui nous permet d'avoir en vase clos, j'ai envie de dire la le respect de la secret professionnel. À l'inverse euh quand dans le cadre de mes fonctions au

Conseil national des barreaux, j'ai pu voir que parmi les 80000 avocats de France, tout le monde n'a pas cette possibilité d'investir massivement dans la sécurité des données. Et donc il y a un vrai sujet euh pour éviter une fracture au sein des avocats et plus généralement au niveau de l'accès au droit pour les justiciables parce que c'est important d'avoir des sécurisés. Ça c'est intéressant mais pour un un profane comme moi qui n'est pas fait de droit, Lia vous sert à quoi ? Alors, l'IA matériellement, ça nous permet d'aller plus vite sur des tâches à faible valeur ajoutée, comme on le disait avant. Euh, par exemple, euh de la revue documentaire, de la comparaison de version 1, version 2, version 3, euh de la traduction. Tous ces éléments-là qui avant nous prenaient un peu de temps

va nous permettre d'avoir de plus d'efficacité sur des documents de synthèse plus rapidement. Est-ce que ça vous sert à trouver les jurisprudences par exemple quand vous avez un client qui arrive dans votre cabinet ? Alors, c'est un cas d'usage qui a été euh notamment développé par les éditeurs juridiques. Euh, ils sont nombreux sur la place. Et donc oui, euh les éditeurs ont développé également des surcouches DI qui permettent en fait, c'est plus des rags euh pour ne pas rentrer dans le détail technique, mais c'est plus des moteurs de recherche améliorés pour simplifier qui vont permettre d'aller chercher plus rapidement la présence. C'est un autre cas d'usage. Est-ce que vous vous fixez des lignes rouges en tant qu'avocat ? Je pense naturellement à au moment où vous

écrivez votre plaido ? Alors, j'ai envie de dire le travail se fait surtout en amont dans le cadre de la recherche des écritures plus que au niveau de la plédoir bien sûr, mais là c'est l'humain et je envie de dire c'est là où vraiment l'avocat reprend toute sa place, c'est évident mais les lignes rouges qu'on peut se fixer, c'est dans le cadre des travaux qu'on a en amont puisque c'est important de respecter un élément fondamental, c'est notre secret professionnel. C'est vraiment ce qui est un pilier, j'ai envie de dire, d'une société démocratique, c'est d'avoir des avocats qui ont un secret professionnel sûr et certain et qu'il ne va pas y avoir de fuite de données. Et donc le respect de ce secret professionnel, il est fondamental et cette ligne rouge que

vous évoquez, c'est de ne pas porter atteinte au secret professionnel. D'où la nécessité d'avoir des intelligences artificielles sécurisées qui respectent le secret professionnel. tous les avocats en en conscient ou vous avez vu en tant que dans votre dans votre poste au barreau euh vous avez vu des avocats justement interroger des intelligences artificielles en fournissant des données personnelles de clients. Alors, c'est toujours pareil, il y a des personnes qui respectent plus ou moins, j'ai envie de dire, les lignes rouges. Et oui, malheureusement, il y a certains avocats qui ont franchi certaines lignes, mais tout comme par méconnaissance, par mes connaissances ou par, on va dire soucis économique également puisque avoir des I souveraines, sécurisé qui

secret professionnel, ça a un coût et donc il y a sur le marché des solutions qui sont non souveraines, gratuites et qui portent à atteinte potentiellement à ce secret et certains confrères malheureusement ont pu tomber dans la facilité de mettre des informations dessus. En effet, est-ce que quand même ça a supprimé des postes au sein de de votre cabinet ? Alors euh est-ce que ça ça en menace ? En tout cas, il y a il y a au niveau de mon cabinet, je sais que on a une politique qui a à l'inverse est de d'équiper l'ensemble des collaborateurs des outilia, de les former pour au contraire les augmenter. C'est-à-dire que nous ce qu'on veut c'est des avocats qui ne sont plus que avocats mais qui ont également des compétences en matière india. Et euh de l'autre côté, au niveau

plus national, au Conseil national des barreaux, ce qu'on a constaté euh c'est une réalité et on y travaille le le 4 novembre prochain, on va y travailler avec des jeunes, c'est justement que il y a eu un gel un peu des recrutements. C'est une réalité. Oui, il faut pas il faut pas se mentir. Par contre, à mon sens, c'est un gel temporaire le temps que justement les cabinets sachent où aller et surtout d'avoir de des jeunes collaborants qui soient formés avec les compétences à ce titre. Vous avez face à vous deux élus et une très grande experte. Quelle question vous aviez envie de leur poser ce soir ? Alors, dans le cas de la préparation, en effet, une question qui pouvait être soulevée à mon sens et on parlait tout à l'heure des des débats budgétaires. On

sait notamment que l'accès au droit est un élément fondamental dans une démocratie. Ça c'est un postulat de base. On sait également que cet accès au droit potentiellement peut être attaqué par défaut de moyens. Plusieurs leviers sont identifiés notamment par les institutions représentatives. Pourquoi pas une baisse de la TVA à 55 au lieu de 20 % ? Ça permettrait de faciliter pour les particuliers. Pourquoi pas un crédit d'impôt ? Alors, je sais que c'est pas la tendance actuellement, mais c'est un point à envisager. Mais au-delà de ça, pourquoi pas et c'est sur la base du rapport qui a été établi par le Sénat, envisager des expérimentations avec les commissions d'accès aux droits au niveau départemental et permettre justement au justiciable d'interroger

par l'intermédiaire d'une intelligence artificielle, mais en bout de course d'avoir des avocats qui interviennent. Ce qui garantirait une meilleure un meilleur accès au droit, l'utilisation des nouvelles technologies tout en garantissant une expertise et un conseil, celui de l'avocat. Donc quid d'une éventuelle expérimentation en ce sens ou d'éventuelles aides en matière budgétaire. Al c'est bien parce qu'à l'heure de l'intelligence artificielle, ils étaient tous les trois à prendre beaucoup de notes pendant que vous parliez. Peut-être d'abord Nicolas Bonet puisque il est question de parlement là français puisquil parlait du Sénat. Qu'est-ce que vous pouvez répondre à alors enfin l'idée d'avoir un un rag que enfin je vais reprendre le terme que vous employez, c'est-à-dire un espace en

tout cas d'IA générative parce que c'est vrai que j'aime bien souvent préciser quand on parle du term de ces grands modèles de langage qui sont li générative mais il y a plein d'autres applications li donc c'est important d'être précis donc on parle en tout cas d' générative et quand on parle de rague c'est parce que on maîtrise les documents qu'on lui a fournis effectivement si on lui fournit par exemple toute la loi française mais pas Wikipédia et pas plein d'autres choses, on a une certaine on peut avoir une confiance renforcée dans la réponse et on a beaucoup plus de chance que l'IA génératif soit capable de sourcer aussi d'où vient en fait les éléments dont elle nous sourcer les réponses qu'elle nous qu'elle nous apporte. Donc mettre au point un rag public pour plus

facilement être capable de comprendre le droit, de comprendre à quoi on a droit ou au contraire à quoi on a pas droit avant d'aller voir un avocat. Ça paraît quelque chose de très intéressant. Après, j'ai pas entendu parler d'un tel projet pour l'instant, mais porter ce projet en parler avec le ministre le ministère de la justice en tout cas au sens large, ce serait quelque chose d'intéressant effectivement pour favoriser l'accès au droit parce que je suis d'accord avec ce que vous avez dit hein, aujourd'hui, on a une justice qui est souvent trop lente et on a beaucoup on a de plus en plus de personnes qui se plaignent d'avoir du mal à accéder à leur droit. Euh bon, on l'a vu récemment encore avec le les violences sexuelles et sexistes où beaucoup de personnes

disent "Bah moi, j'ai déposé, ça débouche sur rien alors que j'amène beaucoup d'éléments" par exemple. Donc des fois, c'est peut-être que manquant de maîtrise de la loi, on est des personnes n'arrivent pas aussi à porter les éléments attendus qui permettent d'avoir un traitement derrière. Euh donc en tout cas oui enfin moi je trouve ça intéressant comme ça fait partie des bons usages clairement de des quand il y a des données publiques telles que la loi favoriser l'accès favoriser l'accès à favoriser l'intelligibilité en tout cas de de la loi me paraître un bon usage de lien générative. Pourquoi ça vous fait sourire Laurence ? Non mais pourquoi on met pas ça en place assez vite là ? Parce que en fait pas ministre de la justice, on pourrait le faire. En fait, il y a

beaucoup d'endroits où on pourrait utiliser l'IA à Boncian et bon, on le voit pour la santé, ça s'accélère mais pour l'administration, faut aussi accélérer les propos avec évidemment des gardes fous et des gens qui vont vérifier tout ce qui se passe et des audites. C'estàd en fait une surveillance continue. H Sandro Godzi, j'irais prendre les points de François ce qui étaient fort intéressants et je les partage B. Tout d'abord, il a rappelé une chose en général sur l'intelligence artificielle quand on a travaillé au niveau européen et c'est le bon niveau, c'est que on peut pas et et appréhender la question de mettre les au service de nos intérêts et nos valeurs si on travaille uniquement au niveau national. On s'est fait critiquer, on a dit que l'Europe fait que des règles. Ce

qu'on fait en au niveau européen d'essayer de développer un modèle qui soit alternatif à celui américain et celui chinois. Celui américain, tout est privé, les big tech font tout et le contraire de tout. Ils font ce qu'ils veulent, ils utilisent nos nos données personnelles et cetera et les modèles chinois qui est la grande l'autre grande puissance de l'IA où tout est contrôlé de façon verticale par l'État où on fait de l'annotation sociale où c'est un algorithme qui décide si si on est un bon citoyen. Nous on au niveau européen, on a essayé de de développer une trisème voie 3è voie qui d'un côté veut promouvoir au maximum et combler les retards qu'on a accumulé parce que dans l'innovation liée à l'intelligence artificielle au sens large et n'en parlons pas pour les langages les

modèles de langage, on a accumulé un retard énorme par rapport aux américains chinois. Donc on doit rattraper ces retards, mais aussi on doit travailler sur la la gestion de ces transitions. On on rentre dans une on est dans une nouvelle époque avec l'IA et au niveau européen, on vous travaillez beaucoup sur la formation sur la formation parce que c'est la seule réponse pour éviter au niveau du marché de travail les côtés négatifs des li à savoir des des des la risques de perdre de perdre des emplois. Après, vous l'avez dit et ça vaut pour la pour les droits, ça vaut pour les mathématiques. On va en parler finalement les bons modèles européens veut assurer qu'il y ait une vérification humaine. H c'est ça.

Et c'est autour de la du contrôle de la vérification humaine qu'on doit travailler. C'est pour cela qu'il faut former. Hm hm. Moi aussi, j'utilise la pour mon travail mais je demande jamais à la explique-moi une loi. Je dis écoute, je dois légiférer dans le domaine du marché du marché durable de l'environnement. Tu peux me dire quelles sont les lois existantes au niveau national mais j'ai une compétence. Je peux pas méfier complètement l'algorithme z0. C'est ça. C'est là-dessus qu'on doit travailler. Je voudrais entendre Elias. Elias, bonsoir Elias. Elias, vous avez 19 ans, vous êtes étudiant en classe prépa à Paris. Et alors, s'il vous plaît, je voudrais que vous nous racontiez d'abord comment vous êtes arrivé jusqu'à ce plateau. Bah alors, tout à fait. Euh alors, c'est

avec l'intelligence artificielle que je suis venue ici parce que j'avais vu plusieurs émissions de ce type avec des débats et je me suis dit bah pourquoi pas candidater à mon tour pour participer au débat parce qu'en tant que citoyen c'est important de participer au débat de dire ce qu'on a à dire de dire ce qu'on pense et Chat GBT voilà celui ce modèle là m'a proposé plusieurs émissions de de type débat citoyens et après avoir vu plusieurs extraits, bah j'ai décidé de candidater à cette émission pour vous êtes tombé sur chaque voix compte sur chat GPT. Oui, il l'a proposé parmi plusieurs options et j'ai regardé chaque option attentivement et voilà. Euh le reste du temps, comment est-ce que vous vous servez de l'intelligence artificielle ? Vous êtes étudiant en classe prépa.

Oui, tout à fait. Moi, je me sers de l'intelligence artificielle dans le cadre de mes études. Euh c'est très utile. Class prépa de quoi ? Euh pour les écoles de commerce GE ECG. Euh c'est très utile pour ficher ces cours notamment, c'est très utile pour faire des graphiques qui permettent de mieux comprendre les leçons. Euh évidemment, ça remplace pas l'apprentissage humain naturellement, mais c'est un outil comme un autre et comme chaque outil doit être utilisé intelligemment et abonnéciant. Il y a des choses que vous vous empêchez de faire ? Bah oui euh quand même euh c'est-à-dire que je vais pas déléguer tout mon travail à à Chat Gipt. Euh si euh par exemple il y a quelque chose que je comprends pas, j'essaie d'abord de le comprendre par moi-même. Bon et puis si

jamais je vois vraiment que après toute une séquence de réflexion, j'y arrive pas, je lui demande de l'aide sans jamais lui demander directement la solution parce que ça ne fait pas réfléchir. Et en même temps, si vous êtes là, c'est parce que Lia, elle vous interroge aussi sur votre propre avenir. Oui, tout à fait. J'imagine qu'on aura l'occasion d'y revenir, mais l'intelligence artificielle, c'est aussi un défi pour les jeunes aujourd'hui pour le marché du travail. On sait que l'intelligence artificielle, elle va transformer durablement le marché du travail. Elle va créer de nouveaux emplois, mais elle va en détruire ou en menacer certains. Donc évidemment, ça nous interroge en tant que jeune. Mais est-ce que vous vous avez l'impression que dans la filière vers laquelle vous

vous dirigez, il y a déjà des portes qui se ferment et d'autres qui s'ouvrent par ailleurs ? Mais est-ce qu'il y a des des débouchés où vous vous dites "Ben là, il faut plus y aller Euh non, j'avoue que je reste optimiste. Je suis bien conscient du toute la transformation que que Lia va apporter, mais enfin je demeure optimiste quant aux perspectives professionnelles des jeunes en France. Euh j'espère en tout cas que l'intelligence sir que l'intelligence va pas faire disparaître tous les emplois. Je ne pense pas. Vrai dire quelle question vous vouliez poser à nos invités ? Oui, alors tout à fait. Je voulais poser la question suivante. En fait, on parle beaucoup de régulation et à juste titre, mais on parle de réguler une technologie qu'on ne maîtrise pas en Europe, qui on

n'est pas souverain. Et en fait, ce que ce que je crains en centrant le débat sur la régulation, c'est de se retrouver dans une situation comme avec les GS femmes où on est obligé de réguler des entreprises qui ne sont pas européennes et qui pourront entamer un bras de fer avec les démocraties européennes. C'est pour ça que mon avis, il faut se concentrer sur comment créer les conditions pour faire émerger des champions. Et là, je m'adresse particulièrement à au députés européens que vous êtes en fait parce que aujourd'hui, comme l'a rappelé Ursula Vlan, il y a de l'épargne qui n'est pas utilisé en Europe, qui n'est pas valorisé pour permettre aux entreprises de l'innovation, bah de de trouver des fonds pour investir hein. Et c'est justement, on parle aussi ça au niveau

français avec des retraites qui ne sont pas capitalisées par exemple, qui ne vont donc pas servir à des fonds de pension pour investir dans des dans des intelligences artificielles. Et donc moi ce que je voulais savoir c'était au niveau européen comment est-ce qu'on fait pour créer justement cet écosystème financier favorable à l'émergence de grands champions de l'intelligence artificielle européen et je suis tout à fait d'accord avec vous. Après, il y a un débat qui est un peu superficiel et qui tend à dire que les retards de l'Europe, c'est à cause de la régulation. C'est pas ça parce que on a introduit la régulation sur les il y a 2 ans et on a accumulé un retard dans les derniers 20 ans. Oui. C'estàd on a mis des freins avant d'installer le moteur.

Non non non, ça veut dire que ce n'est les retards européens ce n'est pas à cause de la régulation, c'est à cause de ce que votre nomas. ce que Elias nous disait, c'est dans l'investissement et dans le soutien économique et financier l'innovation qu'on a eu un problème. Quand on dit "Ah bah les retard européens est dû à la régulation, non, la régulation est nécessaire." Mais on doit aussi créer notamment un marché privé financier qui puisse être intéressant et attractif en Europe pour financer des projets dans les start-up et cetera parce que on a beaucoup de start-ups, on a beaucoup de petites entreprises dans le domaine de l'IA qui font un bon travail. Du moment où il demande un financement, il trouve pas des gens qui les un marché financier qui

qui sont intéressants en Europe, ils vont aller et l'argent en Californie. Donc comment vous expliquez qu'il ne trouvent pas ? on trouve pas parce que les marchés financiers trop fragmentés. Et euh la proposition de la Commission que nous soutenons c'est de créer un marché des investissements et des épargnes européens intégrés pour justement euh et de trouver la la liquidité est là seulement que elle n'investit pas dans des projets européens parce qu'il y a pas un marché suffisamment efficace. Il y a pas un archéque. Il y a pas un archéonique des investissements de et c'est ça que nous devons créer. Il y a encore trop de barrières, il faut éliminer les barrières mais j'insiste, les problèmes c'est les manques d'investissement ça pas la présence pas la présence des régulations. Je sais pas

si vous avez lu hier la tribune d'Arthur Mench, le patron de Mistralaya et dans le c'était dans le journal Le Monde. Laisser les modèles d'IA aux Américains et aux Chinois placerait l'Europe dans une dépendance sans équivalent dans l'histoire des civilisations. Et alors c'est intéressant parce qu'Arthur Mench il compare l'erreur que l'Europe est en train de faire à celle qu'elle a déjà faite avec internet quand elle a développer les usages tout en laissant les plateformes aux autres et c'est comme ça que les GFAM ne sont pas européenn d'ailleurs. Il y a aussi plus de 50 milliards dans les programmés dans les budgets européens publics pour travailler sur l'Cloud européen sur les instructures européennes. où nous devons travailler sur un double régistre d'un

côté investissement publique pour un i cloud européen pour des infrastructures stratégiques pour la cybersécurité et créer un marché qui puisse financer un marché des capitaux privés qui puissent financer des projets en Europe au lieu de laisser partiron aux États-Unis et c'est ça qu'on est en train de négocier. Nicolas Bonet on est en pleine discussion budgétaire en ce moment à l'Assemblée nationale. Ça parle aux députés en ce moment cette question de des investissements dans l'intelligence artificielle ? C'est pas c'est pas le budget d'État qui investit directement dans l'entreprise, pas plus d'ailleurs qu'aux États-Unis. C'est effectivement parce qu'il y a de l'investissement privé qui décide de se tourner vers certaines entreprises en faisant visiblement suffisamment

confiance à cet investissement enfin à au fait d'aller dans ce type d'investissement. Euh pourtant, il me semble qu'au niveau États-Unis, c'est quand même assez risqué parce qu'il y a une une importante bulle autour de l'IA qui pourrait quand même éclater un jour parce que pour l'instant les grandes entreprises qui font l'IA sont déficitaires. Elles ont investi massivement dans de très grands data centers et aujourd'hui c'est absolument pas rentable. Moi j'ai l'impression qu'elles mise beaucoup sur le fait aussi progressivement de nous rendre assez dépendant de leur système et progressivement de nous faire payer du coup de plus en plus cher pour y accéder parce qu'il faudra bien rembourser les gros investissements qu'ils ont fait aux États-Unis là-dessus. Alors nous, c'est

sûr queon a du retard pour l'instant sur ce domaineelà qui a déjà été, il y a toujours un avantage à celui qui a réussi à sortir en premier. C'est pour ça d'ailleurs que sur le moteur de recherche Google est leader. C'est pour ça que sur les systèmes d'exploitation Microsoft et leader, ils sont sortis en premier, ils ont réussi à envahir le marché. Nous, ça va être difficile de rattraper à mon avis le retard si on décide de dire qu'il faut faire exactement comme on fait les Américains. Donc, on a aussi à mon avis un autre modèle à inventer peut-être un peu moins coûteux mais plus avec un ratio plus intéressant en terme de coût financier, de coût environnemental et de performance. Ça sera peut-être ça sera peut-être pas exactement chat GPT, mais je pense qu'il faut qu'on

trouve autre chose pour aller aussi sur un autre créneau. Je suis pas sûr que si on essaie de faire un exactement comme chat GPT, on arrive vraiment à le distancier aujourd'hui. Quand dites-vous, Laurence ? Oui, je pense que ça fait plusieurs moments où on discute de ces systèmes 3 qui seraient européens et qui seraient effectivement des systèmes plus petits par exemple ou adapté à des tâches plus réduites. Je pense qu'il faut aussi comprendre qu'on a besoin d'éduquer énormément. Il suffit pas de trouver des budgets, il faut trouver un marché de gens qui sont prêts à faire confiance à ces systèmes. Et vous pensez qu'il n'existe pas en Europe pour le moment ? Bah, on voit des tensions comme c'est en train de monter aux États-Unis d'ailleurs sur l'utilisation de l'IA parce que on

envoie des aspects délétaires, on a des des discours qui sont extrêmement délétaires sur les conditions d'utilisation, de contrôle, ces machins. Je me permets de vous interrompre, mais est-ce que vous notez un C'est quelque chose d'assez récent dans ce basculement vers un récit un peu négatif de l'intelligence artificielle ? Oui, je pense qu'on a basculé de d'un enthousiasme un peu fou à une réalité. C'est à comprendre qu'effectivement on n pas de grand à partal. sur l'Europe que on n' pas encore cette puissance de financement et que on n' pas éduqué les gens les citoyens devrait être plus éduqué sur l'IA. Ça fait 10 ans ou 11 ans. Chacun c'est un peu autoforé. Non mais ça n'a rien à voir. C'est pas parce que vous utilisez l'IA que vous êtes formé. Faut ouvrir le capot de la

voiture et parur l'autoforation justement ça fait que on ouvre le capot de la voiture soi-même et elle roule n'importe comment. Non non non mais vous l'utilisez sans comprendre les rouages qui sont dessous. Et pourtant il y a des concepts qu'on peut amener assez facilement. Moi, je lutte pour que l'école, par exemple, des CM1, CM2, on a des on ait en fait une démystification des usage pour les les enfants très jeunes qui comprennent que c'est à la fois des talents qu'on fera demain qu'on va former parce qu'ils seront curieux et puis avoir l'esprit critique par rapport à ces machines et pas tout gober. On fait ça à l'université. J'ai des cours entiers sur l'épistémologie, tout ça. C'est à comprendre de façon technique mais aussi surtout philosophique aussi

quels sont les contraintes, quels sont les enjeux éthiques et ça c'est quelque chose qu'on doit faire que comment écrire un prompte correctement. C'est mais non mais moi je vous le dis en tant que parent quand vous discutez avec des enseignants aussi aujourd'hui il y a une population qui est divisée en deux parties. C'est-à-dire il y a ceux qui savent très bien s'en servir et il y a ceux qui sont encore en train de balbuer. Je suis désolé c'est pas écrire un prontre correctement. Ça c'est vraiment pas le sujet. C'est savoir que si je fais un prom de telle façon et je fais son inverse, j'aurai des réponses qui vont me surprendre. C'est challenger Ilia. C'est pas savoir le faire correctement. Il y a pas de correctement, c'est challengé. Et si on se comprend ce que c'est que la

température des facteurs qu'on a mis à l'intérieur qui font que ça crée ou plus ou moins ou si on fait si on comprend mieux les différents I l' prédictif, l'IA générative, l'agentique, je vais vous raconter une petite histoire sur l'IA si vous voulez bien. On a parlé de tous ces I qui sont capables d'aller chez Hungin Face, trouver des solutions dans s'échapper de leur terrain de jeu et cetera. On anthropomorphise ces machines en fait, elles optimisent la tâche qu'on leur a donné. OK ? Alors, je vais prendre un exemple d'un Australien qui a besoin, qui a un agent qu'utilise lui pour ses tâches personnelles, gérer ses mails et cetera et il lui demande de réserver un cours de sport. Or, Lia va chercher à travers les réseaux à trouver le cours de sport. Or, il y a pas de

place. Lia va optimiser. Elle va trouver une faille, elle en trouve une dans ce système qui est qu'on peut désinscrire les gens. Bah, elle en disinscrit un et elle met son propriétaire à la place. Donc les failles existent partout. Lia n'a pas de morale. Lia n'a pas de moral, n'a pas d'intention, n'a pas d'intuition. Elle est pas alignée à nous par qu'on sa qu'il aurait fallu que quand il lui demande de réserver un cours de sport, il aurait fallu lui dire évidemment tu ne piques pas la place de quelqu'un. Voilà. Respecte. Mais en fait on confond tout parce que en ce moment on voit arriver avec les mathématiques ces sujets énormes que l'IA est très forte parce que ce sont des cadres particuliers. Merci pour la transition Laurence. Merci pour la transition parce que ce dont

vous parlez, c'est ce que dit Hugo Dumini le copain qui a été récompensé de la médaille Fields en 2022, le prix Nobel de Math. Depuis une semaine, il est anéanti parce qu'il il raconte même qu'il a pleuré toute une nuit quand il a appris que l'intelligence artificielle venait de résoudre 700 problèmes de math dont plusieurs sur lesquels il travaillait depuis des années. Bon bah, il est arrivé en quelques heures et écoutez-le, il en parle ce soir à Maité Frémon pour LCP. écoutez-le parce qu'il a aussi une question à vous poser. Bah, c'était une partie de mon monde qui s'écroulait. C'est sûr que c'est un bouleversement très intense. Moi c'était problème sur lequel j'ai travaillé pendant presque 20 ans. C'était presque devenu mes amis. C'était des J'avais une

relation avec ces problèmes. C'était tout un cheminement vers ces ces choses-là. Et donc ce bouleversement intense, ça a été en fait une un choc pour beaucoup d'entre nous, même si on savait qu'il allait arriver. Et dans mon cas en plus, ça a été extrême parce que quasiment tous les problèmes de mon domaine ont été résolus. Je pense qu'on avait bien préparé le terrain et donc du coup ben l'intelligence artificielle a su regrouper les choses pour résoudre quasiment tous les problèmes sur lequels je travaillais. Donc ça le lendemain était le surlendemain pour moi. Les représentants de la République et les représentantes, quel est à vos yeux le rôle qu'on veut laisser à l'humain dans le contrôle de cette technologie ? Parce qu'il faut faire bien attention que si

par exemple on décrète que les sciences deviennent une boîte noire qui nous produit juste des réponses mais sur lesquelles on a aucune compréhension, le jour où il y a un problème, il y aura personne pour prendre la responsabilité d'expliquer et de savoir comment réagir à ce problème. Les maths, c'est aussi de la philosopie. Je peux je peux répondre bien sûr grâce à des gens comme lui. Moi, j'aurais jamais compris que la l'intelligence artificielle avait résolu 700 modèles mathématiques. Lui, il a les compétences pour vérifier. Donc, tout d'abord, il faut continuer à travailler sur les compétences humaines parce qu'il faut assurer qu'il y ait une vérification humaine. On peut faire un nouveau job ça parce que pour l'instant

c'est gratuit. On on peut Oui, mais attendez donc il faut travailler parce que ce matin et hier il y avait un grand mathématicien italien et un autre que vous connaissez en France le premier Roberto Baptiston et le deuxè Cédric Vilani qui disait exactement les mêmes choses. Ils disent en ce moment chez les mathématiciens c'est Apocalypse Now. H oui ça c'est Cédric qui disait ça. Baptistan disait la vérification reste centrale. Pourquoi ? Parce que nous voulons une une humaine. Nous avons une approche humaniste à l'A. Nous pouvons pas tout déléguer. C'est pour cela que l'IA que nous vons en Europe ne sera jamais une boîte noire. Ne peut pas être une boîte noire. Ça va être une boîte qui peut être éclairée par les compétences. C'est là qu'il faut travailler. Et aussi vous disiez de cet

algorithme qui a éliminé de la piscine mais c'est du pont la piscine ou tennis du tennis mais c'est du pont. Bah, il faut aussi voir quels sont les éléments qu'on donne pour entraîner l'algorithme. Et ça, ça vaut pour la la la la cours de tennis, mais ça vaut aussi pour la géopolitique, ça aussi pour la diplomatie. C'est pour cela qui entraîne aujourd'hui les algorithmes quand il doit analyser des grandes questions géopolitiques. Si on laisse faire, on laisse faire ça aux Chinois, aux Américains, l'algorithme donnera des réponses compatibles avec les valeurs et les intérêts chinois-américains et pas européens. C'est ça le travail que nous devons faire. Oui, mais c'est en ça où il faut beaucoup plus de recherche. Nous, on a des thèses entières pour aller regarder si les

systèmes sont contaminés. C'est-à-dire en fait est-ce que ils se connaissent par cœur les réponses et donc quand on les évalue, c'est tout à fait non vrai quoi. C'estàd qu'ils savent par cœur en fait comment répondre. Et il y a des tricheries partout. Tant qu'on a'ura pas ce savoir-faire dans les mains, tant qu'on saura pas obligé aussi les géants numériques à nous mettre nous donner de façon plus transparente les méthodes qu'ils ont utilisé pour les mathématiques par exemple, on ne saura pas vraiment ce qui se passe. En recherche. On n'a pas les mêmes capacités de calcul pour arriver au même résultat. Ça vous parle Ellie ? Je ne sais pas. Alors par ailleurs, je n'ai pas mis mes lunettes, hein. Donc Ah voilà, Ellie est là-bas. Ellie, bonsoir. Alors bah Ellie,

vous êtes mathématicien. Je vous souhaite une médaille fields un jour. Je lis sur votre fiche que vous êtes un ancien chercheur en intelligence artificielle. Je peux dire dans quel entreprise ? Oui. Bah moi je chercheur en y de confiance chez Talès. Et vous êtes aussi membre du collectif PAOS IA. De quoi s'agit-il ? Oui donc effectivement merci pour l'invitation. Je travaillais moi chez Tales, je faisais de la recherche en IA de confiance et donc j'ai quitté l'entreprise pour plusieurs raisons liées aux problématiques que pose l'IA et aussi pour des raisons personnelles lié au militaire. Euh donc moi aujourd'hui je vais recentrer le débat plutôt sur ce qui est d'ailleurs en grand titre encore sur l'écran ici euh l'écran d'avant excusez-moi. Euh c'était les problèmes existentiels liés à la

perte de contrôle des IA. Euh donc Posia, c'est une association dont je fais partie bénévolement qui alerte et qui en tout cas essaie d'alerter les citoyennes, les citoyens, les décideurs et décideuses politiques sur l'urgence à agir vis-à-vis de cette question. Et euh l'association donc qui en fait partie d'une confédération d'associations internationale n'a qu'une seule revendication et elle est très claire, c'est l'obtention d'un moratoire à l'échelle internationale sur le développement des IA les plus avancés au moins jusqu'à ce qu'on arrive à apporter des des preuves scientifiques raisonnables de la sûreté du développement. Ah oui, vous voulez même pas qu'on freine, vous voulez qu'on arrête là. Exactement sur les IA de pointe. Donc là, attention, c'est très distin. Donc

l'assau n'est pas du tout anti, c'est-à-dire qu'elle ne se prononce pas sur ce qu'on doit faire des autres IA. On parle beaucoup de chat GPT, c'est très loin de ce qui est à la pointe aujourd'hui dans les labos euh d'entropique et d'op hein. En interne, ils utilise des dizaines, des centaines, des milliers d'agents qui sont beaucoup plus avancés que chat GPT, même en version payante, qui mènent une grande partie de la recherche pour donner suite aux générations suivantes de ces modèles. Et en fait, on est proche d'un point qu'on appelle l'autoamélioration récursive, c'est-à-dire à partir duquel les IA elles-mêmes en autonomie vont pouvoir générer leur successeur. De là en fait découle des conséquences assez catastrophiques plutôt rapidement potentiellement, c'est-à-dire d'une part

une explosion des capacités parce qu'en fait s'il y a en autonomie est capable de générer son successeur, bah si on fait tourner ça en parallèle sur tous les serveurs et cetera, sachant comme on l'a déjà beaucoup dit ici qu'on est aujourd'hui incapable de comprendre réellement ce qui se passe à l'intérieur de nos réseaux de neurones, et ben on va être face à une explosion de capacité à une étape où aujourd'hui déjà les IA de pointe démontrent des capacités de hacking, de ingénierie sociale, de résolution de problèmes biologiques. et cetera extrêmement avancé. On ne sait pas jusqu'où ça peut aller. Et de là, bah potentiellement c'est un saut dans l'inconnu, c'est une perte de contrôle et c'est pour ça que le directeur du MI5 he donc le l'équivalent de la DGSI britannique a dit que ça posait

effectivement la semaine dernière et donc vous l'avez mis en extrait au début que c'était un un risque grave potentiellement d'extinction de la race humaine. Nicol Bonet peut-être est-ce que vous voulez répondre comment faire pour éviter l'extinction de la race humaine ? Je peux éventuellement articuler une question sur laquelle il pourrait agir éventuellement. Et ma question plus précisément effectivement pour le parlementaire que vous êtes en France, ce serait d'abord d'essayer d'envoyer un signal en portant par exemple une proposition de loi visant à interdire ou en tout cas empêcher mécaniquement l'émergence de super intelligence. Donc ça, on a des leviers euh ce sont des leviers d'abord physiques parce que lié à une empreinte physique, que ce soit la

l'utilisation, le besoin en plus, le besoin en énergie, le besoin en euh en infrastructure mais aussi euh via des mécanismes de transparence, on en a un peu parlé des audits éventuellement croisés et cetera. Voilà. Donc, seriez-vous prêt à porter ça ? Alors moi je serais prêt à porter ça, il y a pas de problème parce qu'effectivement je considère que les J notamment agentique qui sont capables de se comporter en fait un peu comme un être humain devant un ordinateur donc potentiellement pour peu qu'elles aient la con des connaissances en hacking et elles sont capables de plus en plus d'en avoir aller faire à peu près tout et n'importe quoi. Et et donc c'est c'est vrai que c'est potentiellement assez dangereux. C'est beaucoup plus dangereux que quelqu'un qui interroge un LLM comme on

a pu l'évoquer avant où il y a des risques plutôt psychosociaux de se dire du coup euh ben est-ce qu'on a des pertes de connaissances parce qu'on n'est plus capable au bout d'un moment d'avoir un regardique sur ce qui est généré. Donc ça c'est ce qu'on a un peu évoqué avant et sur long terme d'ailleurs peut-être même de parce que pour l'instant on a encore beaucoup de gens qui sont formés évidemment euh sur les sujets qu'il y a en train de de faire à notre place. Donc on a encore ce regard critique mais dans 10 20 30 ans, il y aura peut-être de moins en moins de personnes qui auront eu ces formations parce que de plus en plus auront auront été formés directement avec et ces outils n'auront pas appris à le faire. Mais sur votre sujet en tout cas, oui, moi je suis quatement prêt à le porter.

Après, je sais pas exact, c'est c'est pas évident à formuler parce que les enjeux que vous décrivez euh qui sont des enjeux déjà de l'ordre du matériel, parce qu'évidemment c'est une grosse empreinte matérielle qui est d'ailleurs aussi un problématique écologique, pas uniquement en terme de de ce que ce capable de faire elle-même ensuite une super intelligence, mais c'est euh c'est du matériel qui est un peu dématériorisé dans le sens où il peut être finalement n'importe où que le data center par exemple qui héberge cette superage soit en France ou en Allemagne ou aux Émirats arabes unis. Voilà que sais dans dans tous les cas de n'importe où dans le monde, on peut accéder là et faire tourner des choses. Donc la régulation, elle est complexe. C'est pour ça que

c'est plus un enjeu presque monde d'ailleurs qu'un enjeu qui peut se gérer au niveau France. Je pense qu'on serait déjà plus armé pour une démarche comme ça au niveau Europe et encore plus si on arriv au niveau que j'ai pris c'est l'initiative à laquelle vous faisz référence justement. J'ai une initiative qui va être approuvée et ça va devenir la proposition du Parlement européen au niveau global de faire une sorte de convention international sur la non prolifération de l'IA à trop à trop haut risque ou alors des armes biologiques et cetera auxquelles aussi les directeurs de Microsoft faisaient référence et j'ai ma position et la position rappelez pour ceux qui auraient raté cet épisode mais il expliqué que une intelligence artificielle à qui on avait demandé comment comment fabriquer

une arme chimique il il répond exactement et nous voulons interdire au niveau global la prolifération de ce type d'intelligence artificielle et c'est j'en ai j'en ai parlé aussi au représentant des Nations-Unies en juillet quand j'étais là pour les Parlements européens et il y a de plus en plus la sensibilité de ce sujet mais comme vous disiez justement c'est un sujet qui se traite un minima au niveau européen mais en réalité au niveau global comme on a fait avec les armes nucléaires. On a fait un traité des non prolifération des armes nucléaires. Ça a marché pas toujours mais ça a marché pour le 80 % des cas et je crois que c'est un bon modèle à suivre aussi pour les pour les problèmes que vous justement très justement vous indiquez. Après, si j'ai bien compris, le problème

qui était mis en avant, c'était l'autonomie d'Uniia. C'est qu'au bout d'un moment une UNIA, une super intelligence devienne autonome et s'est passé cet été. Voilà, au-delà de la cricité des infos qu'elle peut nous donner comme des infos sur des armes chimiques, c'est sûr que c'est très dangereux, mais c'est aussi que carrément elle fasse ce qu'elle veut, elle fait ce qu'elle veut, elle trouve des failles et on devrait obliger les grands les géants du numérique déjà à travailler autant en cybersécurité que en IA. Pourquoi est-ce que à chaque fois, enfin je sais pas si vous pouvez rajouter ça dans vos préoccupations mais en tout cas il me semblerait sain que on avance sur les IA et on avance sur les les gardes de fou en même temps. Ça demande de la technalignement

aujourd'hui les meilleurs chercheurs sont unanimes sur le fait qu'on a pas d'idée de comment le résoudre donc on est en retard sur ces sujets. Mais mais là c'est ça c'est la conséquence ça c'est la conséquence d'un modèle sur lequel moi je m'inscris en faux que c'est les modèles américains dans lequel on a laissé tout faire tous les contrats de tout au secteur privé au big tech et les big tech attaquent notre législation parce qu'en Europe on on a interdit les activités a des dela à très haut risque. C'est vraiment des modèles différents et maintenant il faut travailler. C'est c'est un bras de fer qu'on doit faire. Il est encore temps ou c'està Oui, il est encore temps parce que d'abord il faut raisonner au niveau mondial, on est quand même en Europe plus avec beaucoup d'alliés de

démocratie au Japon où on va au Canada, moi je reviens du Canada où il y a beaucoup d'acteurs en fait qui pensent la même chose. Donc si on arrive concrètement à mettre cette force là, on est un marché énorme. Tout à fait. Ceux qui doit jouer ça, ceux qui pensent ça, par exemple, il y a eu cette alerte de Jacob Coxon cet été, ceux qui pensent ça, ils s'en vont chez Enhropic par exemple, il reste pas. C'est c'est beaucoup plus pondéré cette histoire là. Je pense qu'il faut pas rester sur juste ce côté c'est un cas particulier mais de toute façon c'est beaucoup plus large que ça et le monde académique s'est prononcé bien avant sur ces sujets effectivement et puis c'est vrai que dans le monde académique tout le monde n'est pas d'accord ils ont fait des sondages sur tous les gens qui étaient

dans les meilleures conférences en IA on est à 50y quoi. Il y a les gens qui disent 10 % de 5 % de la probabilité de finant si on met un avion dans lequel on met toute l'humanité et qu'il a 10 % de chance de s'écraser a priori c'est pas raisonnable quoi. Mais il faut comprendre aussi qu'il y a pas de mesure scientifiques derrière tout ça. Ces propos, ils sont anxiogènes, mais on ne sait pas dire ce que c'est qu'une une super intelligence. On ne sait pas dire ce que c'est que l'âge général. On ne sait pas dire à quoi correspondent ces 10 %. Donc on manipule à chaque fois très de façon très sophiste en fait les choses qui sont pas avérées sur là. parce que on sait pas effacob 10% effectivement on peut en question le chiffre mais un peu de la même façon que

si moi je vous demandais quelle est la probabilité que le 10e décimale de pi soit 12 vous me diriez peut-être que c'est 10 % de chance que ce soit 1 alors que dans les faits il existe la réponse du tout ce que je veux dire juste le fait qu'on nit pas connaissance du modèle glob connaissance parfaite de des probas en fait ne veut pas dire qu'on ne peut rien en dire et mais mais de toute façon c'est pas très important ce qui compte c'est que le consensus scientifique Il il évolue et il évolue vers le constat qu'on est en train de perdre le contrôle sur ces chosesl y compris des gens qui n'ont aucun lien avec les entreprise big tech qui fournissent ces IA. L'Institut britannique de l'IA a reproduit les mêmes pertes de contrôle un peu malgré elle. Elle alerte, elle tire la sonnette

d'alarme. Le MI5 d'ailleurs a emboîé le pas. Et Laurence, ça vous parle parce que je vais je vais reprendre la métaphore de la voiture, mais vous ça fait des années que vous essayez de comprendre ce qu'il y a sous le capot et en fait ben on est beaucoup en fait à essayer de comprendre comment on peut aligner UNIA et comprendre comment les mécanismes dans les couches cachées jouent. Donc on avance petit à petit, on parle de Jspace, on parle de plein de choses en ce moment de l'amélioration de ces systèmes. À chaque fois, faut retrouver en fait des images qui soient où les citoyens puissent comprendre en fait ce qui est en train de se passer avec Alpha Go. Par exemple, si je reviens à ce jeu de go, c'était un jeu qui était cadré. C'est même s'il y avait un énorme

possible de probabilité immense, c'était cadré. C'estàd que lesonf avaient un rôle très simple et c'était sur un cadrant avec un nombre de positions. Les mathématiques sont quelque chose de très formel et par exemple les gens pensent que là on a atteint une intelligence super parce que ça résout des problèmes de mathématiques très formalisés. C'est facile plus facile d'aligner sur les mathématiques que d'aligner sur un humain et ses décisions. Donc on a besoin de travailler sur les vertes les vraies pertes de contrôle. et je suis tout à fait d'accord avec vous pour ça. Je pense que pour alerter vraiment, il faut que les citoyens soient capables de comprendre le discours. Et le discours, c'est en ça que je voulais juste dire critiquer en fait les les effets comme

ça là de storytelling de tout le monde. On a besoin de clarifier, de simplifier et d'embarquer dans une formation à peu près tout le monde sur ses niveaux. Oui, mais là il y a il y a une évolution parce que aux États-Unis nous ont ils ont passé des années à nous critiquer parce que c'est parlementa européen, ils veulent tout réguler mais c'est catastrophique et terrain. Maintenant tout le monde à Washington même les Républicains par des gardes fous pour mettre des gardes fous justement au problème que vous signalez. Donc il y a un travail à faire mais comment il y a une prise de conscience qui commence à à se faire encore deux personnes qui doivent s'exprimer. Je voudrais vraiment les entendre ce soir sur ce sujet, il existe une alliance aussi entre tous les

grands géants du numérique avec Yan Lequin qui pilote sur les stratégies. Donc il faudrait rabouter toutes ces bonnes alors il y a le qui est un sceptique vis-à-vis des risques de l'IA entre autres il a levé un milliard d'euros l'an dernier pour pour démarrer son entreprise. Donc le à nouveau là les procès d'intention qu'on fait aux grandes boîtes on peut l'appliquer à Lequin je pense sans grand problème. Bon parmi les métiers qui sont bouleversés par l'intelligence artificielle on va redescendre de la sphère des des mathématiques pour aller vers le graphisme. Bonsoir Charline. Bonsoir Charline. Vous êtes graphiste. Vous avez 32 ans. Vous dirigez votre propre studio de graphisme. Quel est aujourd'hui votre rapport à ? Alors moi, je dirige un studio de photographie et c'est vrai que

mon rapport à LIA me permet aujourd'hui de d'automatiser certaines tâches. Il y a des logiciel maintenant qui sont mis en place pour pouvoir retoucher de manière un peu plus automatisée, mais je trouve que il faut garder quand même une grande part de l'humain et de d'intelligence émotionnelle et de créativité dans mon métier. Parce que le moins qu'on puisse dire, c'est que votre métier, bah il fait partie de ceux qui ont vraiment été bouleversés par l'arrivée de l'IA. Et ça nous a sans doute tous un peu sauté aux yeux cet été quand on a découvert que toutes les affiches des fêtes de village où on se promenait ou tous les vides greniers bah étaient devenu euh à peu près à peu près les mêmes. Je sais pas si on peut le voir là. Voilà, on le voit à l'antenne. Euh et il y a une espèce de

de calque qui s'est créé etation voilà une espèce de standardisation artistique. Oui, tout à fait. Je pense que et c'est là en fait que vous parlez d'humain vous. Voilà. Je pense que dans la photographie, il y a aussi beaucoup de d'intelligence artificielle qui sont euh enfin de de photos qui sont reprises pour faire de la communication avec des faux visages, des fausses personnes. Euh et ça, je trouve ça vraiment dommage justement d'enlever ce ce côté-là humain et émotionnel dans dans la photographie. Mais par exemple, vous vous avez constaté vraiment une baisse de vos carnets de commande là depuis un an. Vous arrivez à vous maintenir ? Parce que euh Oui, parce que vraiment dans ma communication justement, j'ai rajouté de l'humain, j'ai compensé Lia avec ma communication qui est beaucoup

plus basée sur l'humain, sur le fait de de de proposer une expérience humaine avant tout, de partager des moments avec mes clients, de voilà, je suis vraiment restée, j'ai compensé l'intelligence artificielle avec l'humain. Hm. Vous avez des questions à poser ? Euh quelles seraient euh les mesures qui pourraient être prises pour protéger justement euh tout ce qui est euh euh les œuvres visuelles et artistiques des artistes ? Il y a des il y a déjà des choses qui ont été faites par exemple pour les personnes qui font du doublage. C'est vrai que certains ont commencé à avoir la démarche de se dire il faut que je dépose en quelque sorte ma voix pour que ma voix puisse pas être réutilisée abusivement parce que il n'y a généré du

des propos avec avec ma vo ça ça a été fait c'est bon. Alors je dis bah c'est pas quelques moi quelques personnes l'ont fait mais tout le monde ne l'a pas fait et ce qui est sûr c'est que c'est pas une démarche qui serait généralisable à l'ensemble de la population. Par contre, évidemment, quand on est prouve, quand son métier est tourné autour de sa voix, euh là, faire cette démarche, c'est sûr que ça ça paraît beaucoup plus important, même indispensable effectivement aujourd'hui. Après, il y a la question des œuvres aussi évidemment qui ont été chargées. C'est vrai que quand on voit les affiches qui étaient montrées là, c'est pas évident de savoir euh finalement quelle œuvre l'IA génératif qui a fait ça a utilisé pour produire ce résultat. Donc, c'est très difficile derrière de

C'est des vraies affiches qu'on vous a mises là. C'est dans c'est dans des des commun cet été, voyez, on les reconnaît assez facilement. faire on les voit partout maintenant ce type d'affiche et en fait avant c'était des choses du coup on faisait la même chose en beaucoup moins en joli ou des fois d'ailleurs il y avait pas de visuel, il y avait juste du texte sur les réseaux et cetera quand il y avait un événement mais maintenant on voit qu'on a toujours des très belles images et on se rend tout de suite compte que c'est fait par par exemple je suis le comité des fêtes de la faire témas je me dis ah j'aimerais bien pas avoir la même affiche que les autres ça veut dire qu'à un moment dans mon intelligence artificielle il faut que je lui dise ne fais pas la même affiche que les aut si

on veut vraiment une affiche différente on va voir des professionnels. plus simple, mais par contre c'est pas ce qu'il faudrait, c'est surtout que on arrive d'une façon ou d'une autre à ce que les œuvres qui sont chargées dans un modèle euh soi déclaré et qui puisse y avoir un peu comme ce qu'on évoquait une époque pour les œuvres cinématographiques quand il y avait beaucoup de de piratage qui a une rémunération qui soit fait auprès de toutes ces un dédommagement auprès de toutes ces œuvres. C'est un peu ce qu'on a avec la avec l'assassine d'ailleurs pour la musique aujourd'hui, mais qu'il puisse y avoir que en gros ce qu'on charge les données qu'on charge dans un modèle, on soit obligé de les déclarer et qu'on mette ensuite en place un système de de coup de rémunération

d'adminisation. ce que vous demandez trouve en une partie en réponse sur la loi sur l'intelligence artificielle européenne parce qu'on a imposé au big tech aux plateformes qui utilisent justement des œuvres couvertes par les droits d'auteur pour entraîner l'algorithme de publier régulièrement des sommaires de tous les éléments qui ont utilisé et donc en hauteur a la possibilité de vérifier si son ouvrage a été utilisé et demander ce qu'il lui est dû suivant les droits d'auteur c'est que mais nous voulons aller plus loin. Ça c'est un premier pas. Nous voulons aller dans la direction dans laquelle un auteur peut enlever son son ouvrage dire mon ouvrage ne peut pas être utiliser par entraîner un algorithme ou alors donner un consensus. Mais déjà on a

commencé à aborder cette question qui est fondamentale parce que d'un côté d'un côté vous savez pas parce que on vient de la mettre en œuvre dans votre cas non mais vous savez mieux que moi et les plateformes ont tous les mécanismes pour vérifier s'ils ont utilisé et un ouvrage couvert par ça vous est arrivé de de voir certaines de vos créations euh reproduites par l'intelligence artificielle ? Ça m'est pas arrivé personnellement, mais c'est vrai que par exemple quand je mets un copyright sur mes photos, il peut être enlevé par l'intelligence artificielle et ça, j'en ai conscience. Donc bon, il y a des choses pour pas lier à ça. Mais c'est vrai que il est facile de reproduire une œuvre aujourd'hui en en mettant deux photos. Voilà, c'est un sujet fondamental.

C'est un sujet fondamental pour lequel l'Europe a proposé de mettre des filigrammes dans les photos, vidéos, signatures de voix et cetera. Sauf que comment on fait pour maintenir la signature alors que c'est réutilisé par des outils qui ne sont pas prêts à l'utiliser en fait. Non mais j'ai dit que on a ouvert une brèche sur un domaine que vous saviez bien était les phosest totales et les droits et toutes les asso que c'est fini mais je dis que toutes les associations des auteurs nous disent c'est un pas en avant. C'est un pan avant parce que les plateformes ont ont la possibilité de montrer ce qu'ils ont utilisé comme pour entraîneur. Après, il faut aller bien sûr beaucoup plus loin parce que on est vraiment à l'année zéro de cette question. Mais pour la recherche. Oui, absolument.

Parce que dans notre secteur en fait, il y a plein de publications sur ces sujets-là. Donc, c'est pas encore assez mature. Ouais. Et donc on est dans cette course effrainée où Li avance et les chercheurs sont toujours en train de trouver des astuces et ça ils ont pas le même pouvoir de calcul et c'est absolument anormal que il y ait pas de la recherche académique qui soit au courant de ce qui se passe notamment pour les mathématiques. Je reviens là-dessus. Je veux dire, c'est 28 médailles filt dans le monde qui expliquent on a gâché leur terrain de jeu et je comprends très bien aussi ce qui leur arrive, c'est horrible mais qui ont même pas de preuve et de d'éléments suffisants pour aller regarder comment ils ont fait parce qu'il faut apprendre du chemin. Le chemin c'est le plus

important pour l'instant, il faut qu'il dépassent peut-être leur sidération aussi. Non non mais c'est pas que ça. Il faudrait qu'il puissent avoir accès aussi à finalement la façon dont ces systèmes ont été mis en œuvre, à partir de quelle donné et cetera. Et c'est d'ailleurs ce que ce qu'explique Axy très bien Cédric Vilani ce matin dans le F où il dit le problème c'est qu'aujourd'hui il faut bien comprendre que les mathématiques c'est pas seulement le résultat c'est d'abord le chemin par lequel on n'est parvenu à à ce résultat et ça et ben jusqu'à preuve du contraire c'est encore la tâche des mathématiciens c'est que je disais sur la vér ça vaut aussi pour les créateurs pour être compétitive éimer de sa créativité de l'humain si on continue à produire pour les pour les fêtes

dans les villages des affiches toutes pareil, il y aura quelqu'un qui a qui utilise sa créativité qui va être beaucoup plus compétitive par rapport à ce qui produisent la tradition artificielle. On est dans une phase de transition épocal et c'est vrai que il y a beaucoup de choses à faire. Par exemple, on se démontre justement pour aller dans votre sens au niveau européen, on doit réfaire complètement les lois sur les droits d'auteur. On doit voir comment on les adapte pour être efficace. Ça c'est une grande question. Il y a des débats et il y a des positions d'un côté de l'aut. Merci merci de m'apporter cette transition Sandro Godzi parce que je vais me tourner maintenant vers Martin. Martin, où êtes-vous ? Bonsoir Martin. Martin, vous avez 21 ans, vous êtes étudiant en journalisme.

Tout à fait. D'abord, elle est où la frontière pour vous entre Lia qui vous aide et Lia qui bosse à votre place ? elle est elle est assez assez proche hein euh aujourd'hui. Euh on le voit très bien euh Li réadige des articles qui sont tout à fait corrects et on aurait du mal vraiment à différencier avec un un article rédigé à par un journaliste et euh et on peut se poser la question du danger. Qu'est-ce que Lia va nous remplacer en tant que journaliste notamment sur cette question de la presse écrite qui est déjà elle-même en paire de vitesse et avec Lia qui est vraiment encore Oui. Oui. Vous parlez de perte de vitesse. C'est les chiffres qui ont été publiés le weekend dernier. Je sais pas si vous les avez vu passer au au mois de septembre la désertion des sites

internet d'information en France au profit sans doute de l'intelligence artificielle mais vous allez nous le dire. - 43,5 % pour le journal Le Parisien et son site internet. - 32,5 pour le site de Libération, - 28 pour celui de BFM - 217 pour le Figaro, - 196 pour le monde. Ça ça ça forcément ça vous ça vous inquiète parce que vous vous dites journaliste web, je vais peut-être me diriger ailleurs mais déjà que la presse écrite est déjà plus là, on avait remplacé par le web. Toujours là la presse écrite, attention. Oui, elle existe mais malheureusement elle est en paire de vitesse et il y a encore que deux journaux aujourd'hui qui sont rentables avec la presse écrite et euh qui sont le monde et le Figaro et sinon les autres sont pas tous rentables. en web, on pensait que ça allait pouvoir

redynamiser et en fait la li vole les données de tous les journaux et en fait si on veut demander une information d'actualité, on va plus chercher dans un journal et on va se diriger vers l'IA qui va nous proposer l'information sans les pubs. Et c'est ça qui va mettre en en péril les journaux, c'est qu'on ne voit plus les pubs qui se permettent de rémunérer les journaux. Donc il y a une frontière qui qui a été dépassée déjà par l'IA qui est celle de de la du vol de données. Et outre ça, même nous en tant qu'étudiant, on va arriver avec notre master de journalisme. Il va nous rester pas grand-chose à à comme job qui vont nous être proposés parce que ce qu'on nous propose en début de carrière

comme junior, c'est euh bah c'est des c'est des choses que font déjà beaucoup mieux LIA, beaucoup plus rapidement et c'est beaucoup moins cher. Alors, comment est-ce qu'on va nous protéger de Lia ? Il y a qui lui répondre. Nicolas bon on vous a on vous a pas entendu depuis un moment. Je vous on vous écoute. Il y a enfin il y a il y a deux choses différentes dans ce que vous avez dit. Euh il y a d'abord comment est-ce qu'on for fabrique l'information. Et c'est vrai que là il y a la capacité à la fois de faire potentiellement gagner du temps au journalistes dans la rédaction. Donc peut-être de faire de plus de autant de publications avec moins de journalistes. Donc c'est vrai que c'est un un danger potentiel pour journalistes. Mais on peut aussi se dire

qu'il y aurait peut-être moyen que à un nombre de journalistes équivalents, vous arriviez à produire des comp davantage de contenu ou des contenus de peut-être d'une qualité un peu supérieure. Donc là, il pourrait y avoir un rôle positif. En tout cas, moi j'ai rencontré des journalistes qui sur ce rôle-là étaient pas mécontent. Par contre, il y a d'autres choses que ça induit, c'est qu' des gens qui ne sont pas journalistes, parce que ça c'est pas un phénomène nouveau qu'aujourd'hui avec les réseaux sociaux, il y a tellement de façons de diffuser de l'information aujourd'hui d'ailleurs qu'on est saturé d'information et justement euh UNIA peut permettre de générer quelque chose qui donne l'impression d'être une information qualitative parce que ça va être bien rédigé, parce qu'on aura

peut-être des images d'ailleurs artificielles fabriquées et bah vu qu'en général ce sera gratuit d'accès parce que ça n'aura pas coûté grandchose à faire, de plus en plus de personnes par manque d'information, par manque de formation à ce qu'est l'information et là où on peut faire confiance parce que ça a été travaillé par des professionnels, par des journalistes et là où au contraire c'est quand même beaucoup moins fiable par manque de formation du citoyen sur où aller chercher l'information, bah ce qui s'était déjà passé c'est-à-dire le fait de d'aller chercher l'info non plus sur des auprès de médias enfin de de professionnels, de journalistes écrits, télé, radio et d'aller plutôt vers ce qu'on trouve sur les réseaux sociaux y compris quelle que soit la source sans

se poser cette questionlà, c'est vrai qu'il y a accentu ça plus après l'autre problématique que vous disiez qui euh et celle celle de le fait que Silia dans ces moteurs de recherche arrive à capter l'info qui normalement était payante et la restitu. Là, il y a un gros enjeu à légiférer là-dessus parce qu'évidemment c'est purement et simplement du vol. Et d'ailleurs, avant même que Lia facilite ça, il y avait déjà eu cette plainte auprès de moteur de recherche qui récupérait déjà d'ailleurs des informations publiées sur des sites payants et en les mettant en ligne gratuitement. Donc ça c'est pas non plus nouveau mais c'est vrai que c'est encore favorisé par le par l'IA générative. Moi ce que je vois souvent c'est les mêmes articles. La presse pour moi c'est

différentes idées, différentes façons de voir le monde et donc ça challenge ce que on vit dans la société avec des cultures différentes. Or de plus en plus c'est comme pour les images qu'on a vu avant c'est du copiercollé. Les faits sont pas vérifiés donc on a un besoin urgent que les journalistes restent en place. Alors peut-être que demain ils seront aidés par la société pour rester en tant que vérificateur mais on a besoin urgent de diversifier et de garder cela. Je suis d'accord avec vous mais c'est vrai qu'aujourd'hui on voit que ne serait-ce qu'avec une des pêche à FP euh en fait on a juste à la rentrer dans l'IA et en fait ça nous sort un article. C'est pour ça on a je suis d'accord avec vous sur le fait qu'on a des articles qui se ressemblent de partout. Oui.

C'est là où il faut rester vivant et puis les jeunes parce que vous avez parlé plusieurs fois du problème des jeunes doivent être embarqués dans cette histoire. Moi je pour je vais vous donner un autre exemple qui n'a rien à voir sur la médecine sur la détection de cancer précoce. En 2016 donc un autre pruring qui s'appelle Joffroington avait dit le métier va disparaître parce que les deep le deep learning est plus a plus de performance si vous voulez qu'à un médecin pour regarder le départ d'un cancer sur une radio. Bon c'est faux. Aujourd'hui, 10 ans après, il y a un manque de radiologue au à New York par exemple parce que ce métier, il a été dévasté par cette idée qu'ils allaient être remplacé et en fait ils se sont débrouillés pour intégrer cet outil

intelligent qu'il y a dans leur métier. Ils sont pas supprimé des radiologues, ça fait des radiologues augmentés. Exactement. Donc sur ce métier-là, ils ont réussi à le faire et c'est un des moteurs pour moi de comprendre comment on fait cette transition, comment on fait que le journaliste demain soit augmenté de cette capacité d'aller travailler sur plein de d'informations qui arrivent mais qu'il soit capable aussi d'avoir sa raison propre, son propre esprit critique. Et ça pour moi c'est uneation. Ça plume et sa plume. Sandro Godzi, il y a un aspect qui a qui votre prénom Martin qui Martin a soulevé. Je suis d'accord avec ce qui dit. Après, il y a la question encore une fois des droits d'auteur et des droits et là jusqu'à ce stade, on a une régulation européenne

qui commence à aborder la question. Il y a eu des négociations entre les associations des éditeurs et les grandes plateformes. Il y en a une en Australie, il y a en Italie, il y a une en France. Là, c'est le moins, nous devons faire beaucoup plus pour soutenir les associations des éditeurs dans ces dans ces travails de négociation parce qu'il est clair que les rapports de force selon moi sont encore trop inégales et donc c'est là que l'autorité publique d'intervenir soutient des associations qui prétendent à être rémunéré pour la partie de l'article que l'algorithme a utilisé pour en produire un autre. Oui mais c'est c'est c'est un thème qui est objet des des négociations et des travails législatifs très importants. Bon, je vous avais dit que ça passait très vite une heure. Notre temps est

expiré. Ça y est. Je voudrais vous remercier d'abord d'être venu tous avec votre intelligence naturelle ce soir sur le plateau de chaque voix compte. Cette émission est rediffusée ce soir à 23h30 et puis vous la retrouvez à tout moment sur lcp.fr. Je vous donne un rendez-vous ce soir à 21h sur LCP. Ne manquez pas en immersion. Grand reportage consacré ce soir à la mobilisation lycéenne de Toulouse à la Bretagne en passant par la scène Saint-Denis, un magazine qui sera suivi d'un débat présenté par Elsa Mondingava. Merci Laurence de Viller d'être venu ce soir. Votre livre savoir vivre avec Lia aux éditions de Noël. C'est pas un algorithme hein. Garanti. Ah non le concours on passera la Molin pour voir si c'est marche pas bien. Je vous remercie tous les trois

sincèrement aussi d'être d'être venu ce soir dans chaque voix compte. Merci infiniment et je vous souhaite à vous une très belle fin de semaine sur LCP. Bye bye.