L'IA va-t-elle nous voler nos voix ?

France Inter. Bonjour à toutes et à tous, soyez les bienvenus sur France Inter. La Commission européenne est en train de signer en ce moment même un texte très attendu, le code de bonne pratique pour l'IA générative, notamment dans le domaine de la création. Ce texte est non contraignant mais décisif pour l'application du futur règlement européen sur l'intelligence artificielle, l'IA Act, qui entrera définitivement en vigueur en août 2026. Alors un petit rappel, l'IA générative, qu'est-ce que c'est ? Il s'agit d'une intelligence artificielle capable de générer du nouveau contenu à partir de données existantes. Cela peut être des textes, des images animées ou non, des sons, des vidéos.

Alors aux géants de l'intelligence artificielle que sont OpenAI, Google et Mistral notamment, le code impose donc désormais plus de transparence. Il leur faudra documenter ce qu'ils utilisent pour entraîner leur modèle et respecter le droit d'auteur. Mais les fournisseurs et développeurs sont encore libres de se conformer ou non à ce code. Pas encore de sanctions donc à ce stade. Ce qui explique sans doute la forte défiance des créateurs. Les artistes européens redoutent une transparence insuffisante. Les Etats-Unis quant à eux poussent dans l'autre sens. Meta refuse de signer et l'administration Trump dénonce un texte hostile aux entreprises américaines.

Alors comment savoir si une IA a appris à chanter avec votre voix, à composer avec vos notes ou à écrire avec vos mots, si elle ne dit pas ce qu'elle a ingéré ? L'Europe est prise en étau entre la pression des GAFAM et celle des artistes. À un an de l'entrée en vigueur de l'IA Act, elle tente néanmoins de poser un cadre. Le bras de fer ne fait que commencer. L'IA peut-elle collaborer sans copier, créer sans voler ? On en débat jusqu'à midi 45. Chers auditeurs, chères auditrices, si le débat vous anime, si vous avez des questions à poser à nos invités, vous pouvez participer à ce débat.

Réagissez sur l'application Radio France ou envoyez-nous vos notes vocales sur le WhatsApp de l'émission au 01-45-24-7000. Pour en débattre aujourd'hui, j'ai le plaisir d'accueillir en studio Brigitte Lecordier. Bonjour Brigitte. Bonjour. Vous êtes comédienne et directrice artistique dans le doublage, voix française du personnage Sengoku de Dragon Ball Z et de Oui Oui notamment. Vous êtes aussi à l'origine de la mobilisation Touche pas à ma VF, on en parlera. Touche pas à ma VF. Touche pas à ma VF, tout à fait. Marc-Olivier Deblanc, bonjour.

Bonjour Saskia.

Vous êtes avocat spécialiste en droit de la création, fondateur du cabinet Barnet Avocat et par téléphone, l'auteur, compositeur et interprète Friandia. On en parlera. Benoît Carré, bonjour. Bonjour. Et enfin, depuis Bruxelles, depuis la Commission européenne, Thomas Régnier, porte-parole de la Commission en charge du numérique. Bonjour à vous Thomas Régnier.

Bonjour.

Alors avant de se pencher sur des réflexions juridiques, éthiques, philosophiques, il faut tout d'abord peut-être comprendre le fonctionnement des IA génératifs. Quel peut être son impact dans le domaine de la création ? Et je vais tout d'abord me tourner vers vous, Marc-Olivier Deblanc.

Alors, il faut effectivement comprendre, peut-être partir d'une distinction fondatrice qui est la distinction entre l'IA analytique, l'intelligence artificielle analytique et l'intelligence artificielle générative. L'IA analytique, c'est un outil en réalité. C'est une base de données qui va permettre de définir des systèmes, des patterns et de les reproduire pour des fins de recherche. Donc c'est tout à fait louable et on peut s'en servir dans le domaine de la musique, dans le domaine de l'édition littéraire, pour faciliter certaines tâches. Bon, ça a été utilisé depuis longtemps.

À ne pas confondre, par exemple, avec les supercalculateurs, comme on a vu que le champion du monde d'échecs, il y a une quinzaine d'années, a été battue par l'ordinateur type Blue. Et très récemment, et là c'était de l'intelligence artificielle, le champion du monde de Go a été battu par une machine d'intelligence artificielle. Donc ça, c'est un mélange de supercalculateurs, c'est-à-dire d'algorithmes et d'intelligence artificielle. Quelle est la différence ? C'est qu'auparavant, et l'intelligence artificielle analytique, c'était le cas, c'était des analyses d'algorithmes, de méthodes, de systèmes pour aboutir à des résultats sur des bases de données.

La différence avec l'intelligence artificielle générative, c'est qu'elle génère, si je peux me permettre, c'est-à-dire qu'elle génère du contenu. Alors on va se poser la question de savoir si ce contenu, ce sont des œuvres ou pas. Et si ce contenu est protégeable ou pas. Et le vrai sujet qui nous concerne tous ici, c'est que l'intelligence artificielle générative utilise des bases d'entraînement qui, elles-mêmes, utilisent des contenus préexistants qui sont protégés par le droit d'auteur ou par les droits voisins du droit d'auteur.

Alors à quel moment, et je vais vous demander ça à vous, Thomas Régnier, je le rappelle, porte-parole de la Commission européenne en charge du numérique, à quel moment, justement, l'Europe a-t-elle senti qu'il fallait créer une réglementation au niveau européen ?

Alors permettez-moi peut-être de commencer juste par un commentaire, une réflexion un peu plus générale sur l'intelligence artificielle de manière générale. On est face à une avancée qui va littéralement bouleverser notre histoire et nos vies. Pensez par exemple à l'imprimerie, l'électricité à l'époque, Internet. Aujourd'hui, l'IA est la nouvelle avancée que nous allons devoir accompagner aujourd'hui. On ne se pose plus la question en Europe, est-ce qu'on veut de l'IA ou est-ce qu'on ne veut pas de l'IA en Europe ? Il va falloir qu'on vive avec l'IA, mais on veut une IA responsable.

Une IA, une intelligence artificielle qui ne va pas remplacer les médecins, mais par contre, les aider à sauver des vies, à traiter les cancers, à produire plus de nourriture, à concevoir une énergie propre. Aujourd'hui, c'est vraiment dans cette inscription, dans ce volet politique-là, dans cette vision politique-là, que la Commission européenne travaille. Alors, sur votre question plus précise...

Oui, voilà. Pourquoi faut-il réglementer ?

Tout à fait. Pourquoi faut-il réglementer l'IA ? Parce que l'intelligence artificielle, bien entendu, présente un certain nombre de risques. À commencer par nos artistes, nos écrivains, nos musiciens. Comment leurs droits d'auteur sont respectés aujourd'hui quand ces géants de l'IA entraînent leur modèle ? La question qu'on se pose aujourd'hui ne vient pas simplement dans le contexte de l'intelligence artificielle, mais c'est quelque chose que nous réglementons déjà depuis 2019, avec notre directive sur les droits d'auteur qui a été transposée dans tous les États membres, qui définit justement des règles très claires en matière de protection de nos artistes.

Brigitte Locordier, on va demander à une personne directement concernée, je le rappelle, comédienne et directrice artistique dans le doublage. Quels sont les risques ? Quel est peut-être l'impact que cette IA générative a eu jusqu'ici

sur votre carrière ? Nous, en fait, on risque de complètement disparaître comédien de doublage, parce que nous, en fait, on se moque des droits d'auteur. Nous, ce qui est important, c'est que nos voix, nos datas, se baladent partout, on ne sait pas où, il n'y a aucune traçabilité. Et nous, on a fait un collectif, justement, Touche pas ma VF, pour représenter tous les comédiens. les syndicats et l'association Les Voix vont voir, effectivement, le CNC et toutes les associations qui nous défendent pour, effectivement, les droits d'auteur et tout ça. Mais nous, fondamentalement, notre lutte, elle n'est pas là-dessus, elle est sur un doublage humain fait par des humains.

C'est-à-dire que notre inquiétude à nous, c'est, vous, vous avez grandi avec nos voix, les gens nous respectent et nous aiment pour ça, et demain, les enfants grandiront avec des robots, seront, comment je veux dire, seront abreuvés par des voix synthétiques et est-ce qu'on peut laisser ça ? En fait, nous, on parle plus d'éthique et de philosophie et en plus, notre métier à nous, comédiens, de doublage, c'est une exception culturelle, il faut le savoir.

Partout dans le monde, il y a du doublage, mais ce doublage français est unique au monde et voilà, on peut le traiter comme une exception culturelle, je pense que notre juriste pourra nous en parler et voilà, et c'est là-dessus que nous, on se bat. C'est pour des humains, des voix humaines faits par des humains, du travail humain faits par des humains. Voilà. Marc-Olivier Deblanc. Oui, alors c'est très intéressant ce que vous dites puisque le droit d'auteur à la française, il ne faut pas oublier que c'est la France qui a littéralement inventé le droit d'auteur versus le copyright aux Etats-Unis.

C'est un droit d'auteur personnaliste qui est fondé sur le génie humain, sur la création, sur l'interprétation, c'est-à-dire au bout de la chaîne, une intervention humaine. Alors c'est très intéressant puisque le code de la propriété intellectuelle ne définit pas l'œuvre, il ne définit même pas ce que c'est qu'un auteur. En revanche, il définit l'originalité. Et l'originalité, c'est l'empreinte de la personnalité de l'auteur ou de l'artiste interprète. Alors, il y a aujourd'hui un dispositif parce que moi, je me bats contre l'idée qui consiste à dire qu'il y a un flou juridique.

Bon, il n'y a pas de flou juridique puisque vous venez de parler du guide des bonnes pratiques qui va être signé aujourd'hui par la commission.

Qui est en train d'être signé en ce moment. Voilà, il y a la directive

dont monsieur vient de parler. Aujourd'hui, on a l'intégralité du dispositif législatif pour mener des actions en contrefaçon de droits d'auteur ou de droits voisins. Mais, la subtilité, c'est que l'intelligence artificielle, c'est une machine, mais ce n'est pas une machine qui reproduit, c'est une machine qui apprend d'elle-même. Et, elle provoque une atomisation des contenus préexistants. Et c'est une machine qui vole parce que nous, on nous a volé nos voies, on ne nous a pas demandé notre avis. Et alors, je vous donne un exemple, c'est la vinaigrette.

C'est-à-dire que quand vous faites une vinaigrette, une fois que vous avez mélangé l'huile et le vinaigre, vous ne pouvez plus séparer l'huile vinaigre. Et vous ne pouvez même pas dire là et le vinaigrette. Et là et l'huile. Et c'est le problème, c'est que la voie de madame et la voie de ses 1000 ou 1500 collègues qui font la même chose, on va la mettre sur une base d'entraînement, on va mélanger et on va rendre le tout, c'est une forme de maelstrom où rien n'est identifiable. Ce qui, nous, juristes, nous pose une difficulté pour les actions en contrefaçon.

Si vous vous rappelez du sample, le sample, c'était on utilisait un extrait d'enregistrement dans une oeuvre musicale ou un enregistrement nouveau. Ce n'était pas compliqué, il suffisait de comparer l'enregistrement préexistant avec le nouvel enregistrement et dire il y a une copie de l'un par l'autre. Sauf que là, on a une sorte de hyper atomisation et hyper mélange qui fait qu'on ne peut pas identifier ce qui a été volé ou pas. Donc, il va falloir collectiviser, mutualiser et trouver des solutions pour protéger les artistes interprètes, pour protéger les auteurs et à la fin, et ça, ce n'est toujours pas fait, aujourd'hui, on parle de labellisation mentionnée quand c'est de l'IA.

Aujourd'hui, on parle de transparence, c'est-à-dire déclarer ce qu'on met sur les bases d'entraînement. Mais demain, il va falloir régler la question peut-être d'un droit sui generis, alors c'est un mot un peu barbare, mais le droit sui generis, ça veut dire d'un droit spécifique pour l'intelligence artificielle puisque le bouleversement est tellement phénoménal qu'il va falloir créer de la norme spécifique et ensuite évoquer la question de la répartition des rémunérations éventuelles.

Et on va continuer à en parler, bien sûr. Benoît Carré, je le rappelle, auteur, compositeur et interprète, vous, l'intelligence artificielle, elle tient une place certaine dans votre oeuvre, dans votre création. Est-ce que vous, vous travaillez, et je vais reprendre les mots de Marc-Olivier Demeland, en toute transparence ?

Oui, je travaille, en fait, j'aime travailler en toute transparence parce que je pense que c'est la condition pour que l'IA au service de la création soit vraiment un partenaire. C'est-à-dire que si on joue avec une IA qui a été entraînée sur des données qu'on ne connaît pas, qu'on ne maîtrise pas, on a l'impression de jouer avec une espèce de machine impersonnelle qui va produire des résultats qui vont peut-être parfois nous inspirer, mais en même temps, on a l'impression que c'est un peu aléatoire.

Et donc, moi, mon expérience, puisque j'ai commencé à travailler avec des chercheurs, une équipe de chercheurs dirigée par François Pachet chez Sony CSL en 2015, l'idée, c'était vraiment de confronter la recherche aux besoins des créateurs et des créatrices et de confronter ensuite les œuvres des créateurs et des créatrices au public. Et on a fait plusieurs albums, j'ai fait plusieurs albums sous le nom de Skigue, qui ont été fabriqués avec des outils d'IA, mais en toute transparence puisque l'idée, c'était... Justement,

de tester, d'essayer.

Exactement, les artistes avec qui j'ai travaillé sur cet album, par exemple, Hello World, Stromae ou The Jazzman, Médéric Collignon, ce qui nous intéressait, en fait, c'était de nourrir la machine, ce super calculateur extrêmement puissant avec des partitions, des musiques de notre corpus ou de notre... qu'on avait envie d'entendre transformés par l'IA.

Et c'est ça, toute la nuance, ils étaient au courant et consentants.

Voilà, c'est comme quand vous achetez un aliment, vous aimez bien savoir ce qu'il y a dedans. Un aliment transformé, je veux dire. Donc, c'est un peu la même chose. Et donc, moi, je plaide pour une transparence et aussi, surtout, la capacité pour les artistes de personnaliser l'IA, c'est-à-dire de leur permettre de leur donner à l'IA les données initiales pour qu'ensuite, l'IA transforme ces données-là. Parce que ce qu'a dit très bien Marc-Olivier Deblanc, c'est qu'on ne sait pas ce qui se passe à l'intérieur de ces réseaux de neurones. C'est très difficile de tracer, même si on peut commencer un peu à le faire. Et c'est ça qui est intéressant.

Quand on donne, c'est un peu comme nous quand on se promène dans la rue et qu'on vit, toutes ces données, toutes nos sensations sont transformées dans notre cerveau, dans notre inconscient. Et puis, on va ensuite se mettre au piano ou à la guitare et on va générer des morceaux. Mais c'est un peu la même chose, c'est-à-dire qu'on ne maîtrise pas et on ne maîtrise pas tout. Et ce qui est intéressant avec l'IA, c'est qu'on peut reproduire un peu ce mécanisme-là.

Et on va continuer à en parler. Comment faire une bonne vinaigrette, si je reprends votre expression à tous ici autour de cette table. l'IA peut-elle être un bon partenaire dans tous les domaines ? Il y a aussi le sujet des enjeux d'éthique. Que faire alors de la voix d'une personne disparue ? La suite de notre débat, c'est juste après ce titre « L'inconnu en personne » de Bertrand Belin.

Je n'ai pas connu en personne Les inconnus en question Ni après, ni avant Ni d'ailleurs, ni d'ailleurs D'Adam Mais j'entends leur Dans le désert,

Dans le désert,

J'entends leur pas Dans la prairie, En ville, Sur une place, Dans l'allée des cimetières, Dans l'allée des grandes surfaces, À l'appel du printemps, Je les entends Se faire des promesses De hauteur D'argent Je n'ai pas connu en personne Ni après Ni d'air Ni d'ailleurs Au bord d'une île Dans un cul de sac Un autre Accroupi dans la flac Le doigt dans une année Pas connu en personne

Et pour reprendre les mots de Bertrand Belin, le fait de ne pas connaître en personne les inconnus Comme dans ce titre « Ceux qui se cachent derrière une voix ou des mots ouvrent-ils un champ libre à l'IA générative On continue notre débat jusqu'à midi 45 Et vous pouvez réagir sur l'application Radio France Nous envoyer vos notes vocales sur le WhatsApp de l'émission au 01 45 24 7000 Comme Francis qui nous écrit « Ceci est-il utile d'imposer des règles à une super intelligence qui trouvera toujours le moyen de les contourner Et pourquoi on ne demande pas leur avis aux citoyens pour savoir s'ils acceptent la création d'une forme d'intelligence qui dépasse la simple intelligence humaine » Alors évidemment il y a énormément de questions qui se posent vous vous en doutez à ce sujet Il y a notamment aussi ces sociétés implantées en Ukraine en Israël à Dubaï qui moissonnent déjà des films et des séries pour entraîner les systèmes d'IA générative à créer des voix synthétiques reconnaissables ou non d'ailleurs et ce sans autorisation ni consentement des comédiens sans oublier les applications Philippe Pétieu est acteur et directeur artistique il est spécialisé dans le doublage il est français il est surtout connu à la voix d'Omer Simpson évidemment et lui a fait les frais de l'IA générative comme il nous le raconte

Oui parce qu'il y a des applications qui arrivent sur internet et notamment il y a eu une application qui se proposait de parler avec les voix des Simpson notamment avec ma voix là avec mon avocat on a initié une action en justice c'est compliqué parce que l'application elle est à Hong Kong donc au niveau législation c'est un peu compliqué mais on espère avoir gain de cause au moins faire interdire cette application en sachant très bien qu'il y en a d'autres qui vont fleurir très rapidement mais on veut quand même déjà marquer le coup et puis faire cesser ce genre de pratiques parce que c'est du vol en plus c'est une application payante donc les gens font de l'argent avec notre travail avec notre création voilà où on en est actuellement

Thomas Régnier porte-parole de la commission européenne en charge du numérique est-ce que ce genre de démarche a des chances d'aboutir est-ce que l'IA Act va changer quelque chose

alors l'IA Act le règlement sur l'intelligence artificielle toutes les provisions toutes les dispositions qui touchent justement à l'IA générative entre en application demain donc le 2 août 2025 donc le débat que nous menons aujourd'hui arrive vraiment à point nommé qu'est-ce qui va changer exactement demain pour les fournisseurs d'intelligence artificielle générative ils vont devoir justement publier un résumé de données d'entraînement comment leurs modèles ont été entraînés qu'est-ce qu'ils ont ingéré afin d'advenir les monstres qu'ils sont aujourd'hui est-ce qu'ils ont respecté les droits d'auteur comment fonctionne le modèle quels sont les risques quelles sont les mesures d'atténuation de ces modèles tout cela sont des informations qui devront être transmises à la commission européenne justement à partir de demain alors il y a effectivement différentes façons pour un grand fournisseur d'intelligence artificielle générative de se conformer à ces obligations qui sont donc dans le règlement sur l'intelligence artificielle l'une de ces façons de se conformer est justement ce code de bonne pratique de bonne conduite que nous venons d'endosser juridiquement avec les états membres ce code je rappelle rapidement et brièvement son histoire a été développé par plus de 1000 parties prenantes donc c'est vraiment l'industrie les détenteurs de droits d'auteur qui ont développé ce code qui va aujourd'hui nous servir de standard de conformité alors je peux d'ailleurs vous annoncer un certain nombre de premiers signataires de ce code que nous venons d'annoncer tout juste depuis Bruxelles alors il y a Mistral bien entendu mais il y a aussi des géants comme Google Amazon Anthropik ou Microsoft qui viennent de signer ce code

alors est-ce une obligation une invitation en quelque sorte à respecter ce code à ce stade je reste avec vous Thomas Régnier qu'est-ce que ces fournisseurs ces développeurs risquent en cas de non-respect de ce code

alors le code de bonne conduite est une des façons potentielles de se conformer aux obligations qui entrent en application demain c'est suivre ce code quand on le signe le signer est volontaire si vous le voulez donc si vous signez ce code nous partons du principe que vous allez respecter les dispositions du code nous allons bien entendu surveiller cela de près si vous décidez comme méta vous l'aviez évoqué dans vos remarques introduitives de ne pas le signer de ne pas le signer vous allez devoir par contre nous prouver que vos moyens de vous conformer à notre législation sont tout aussi efficaces que le code que vous décidez de ne pas signer donc on va bien entendu vous suivre de très près vous poser davantage de questions pour s'assurer que vous aussi méta vous respectez les obligations donc signer le code c'est volontaire respecter notre réglementation c'est une obligation

donc vous poserez des questions mais est-ce qu'il y aura des sanctions ?

les sanctions sont possibles donc si on ne signe pas le code de nouveau aucune sanction par contre en cas de non conformité au règlement sur l'intelligence artificielle les sanctions peuvent être extrêmement lourdes pour ces fournisseurs d'intelligence artificielle à savoir 7% du chiffre d'affaires annuel mondial d'un tel fournisseur si vous êtes en enfreinte aux interdictions du règlement sur l'intelligence artificielle donc les modèles que nous ne voulons absolument pas voir sur le sol européen et jusqu'à 3% si vous enfreignez d'autres parties du règlement sur l'intelligence artificielle

Marc-Olivier Deblanc Brigitte Lecordier qui est avec moi ici en studio est-ce que ces annonces vous rassurent ? Je me trompe pas plus ou moins

Brigitte Lecordier plus ou moins oui en fait tant qu'on peut cadrer toute cette affaire ce sera bien nous à la Dami comédien de doublage nous avons signé ce qu'on appelle un opt-out c'est-à-dire le fait qu'on ne puisse pas utiliser nos voix sans c'est le droit de retrait d'un comédien pour que l'IA ne puisse pas exploiter votre voix Exactement après ce qu'on sait c'est que nos datas effectivement se baladent partout et tant qu'il n'y aura pas un cadre justement pour ces espèces de datas qui sont partout tant qu'il n'y aura pas une législation ou quelque chose pour empêcher ça réellement nous serons en danger et il faut se dire que quand même moi je parle pour le doublage mais au doublage il y a quand même c'est un milliard de chiffre d'affaires par an c'est pas rien c'est ça aussi qui risque de disparaître et il faut se dire aussi que beaucoup de gens supportent cette VF qui est hyper importante je vous parlais du sondage IFOP qui disait que 85% de la population écoute les animés les films les tout en VF majoritairement

Et puis ce sujet soulève aussi il y a encore d'autres enjeux j'en parlais juste avant qu'on écoute notre titre de Bertrand Belin c'est des enjeux d'éthique notamment en ce qui concerne la voix des personnes disparues je vous propose d'écouter ici et ça va être ça va faire réagir notre invité qui est au téléphone Benoît Carré auteur, compositeur réinterprète regardez

vous avez reconnu

Brigitte Lecordier ici on a un titre d'Edith Piaf Congoliste ou BBL de Théodora revisité ici par Benoît Carré qui est avec nous il y a-t-il trop de restrictions selon vous ?

je vais juste préciser je n'ai pas fait ce titre donc j'entends là que c'est la mélodie une mélodie de Piaf sur les paroles de Congolaises ou BBL c'est ça ?

c'est exactement ça

oui oui non c'est moi je n'ai pas fait ça mais ce que je trouve revenons-en à votre oeuvre à vous alors oui ce que je trouve important en fait c'est qu'on sache vraiment de quoi on parle par exemple sur le clonage vocal le clonage vocal pour le chant par exemple c'est quand même à distinguer de la synthèse vocale qui peut être utilisée pour le doublage la synthèse vocale en fait c'est vraiment la recréation de la voix avec son rythme sa prosodie etc tout ce qui la caractérise son timbre alors que le clonage vocal par conversion vocale ce que j'utilise moi par exemple ce qu'utilisent tous les gens qui font des fakes vous savez des fakes de Angèle qui chante d'Amso etc The Weeknd et Drake qui font un duo tout ça en fait c'est une technologie qui est différente parce que ça oblige la personne qui fait ces fakes à chanter donc à vraiment utiliser sa voix et son expressivité pour ensuite que son timbre soit remplacé par celui du clone

et je vous propose au nom carré pour me rattraper de vous écouter le faire réellement ici avec un morceau du groupe PNL que vous chantez à travers la voix de Dalida

aujourd'hui je crois qu'on peut dire que la chanson qui me va bien en 2025 c'est Autrement de PNL je crois qu'elle décrit très bien ce paradis bleu et mélancolique dans lequel je vis

c'est encore une démarche différente de ce qu'on a écouté un petit peu plus tôt Benoît Carré

Oui l'idée c'est de créer des ponts entre le passé et le présent de faire des hommages inversés c'est à dire qu'en fait des artistes disparus rendent hommage à la chanson d'aujourd'hui et moi je suis comme une espèce de directeur artistique d'une maison de disques un peu spéciale où j'imagine des reprises par des chanteurs des chanteuses disparues avec des affinités imaginaires que je peux créer avec la chanson d'aujourd'hui donc l'idée c'est vraiment de faire des reprises ce sont des chansons impossibles et l'idée c'est de faire des reprises qui mettent en valeur la chanson qui l'éclaire la chanson d'aujourd'hui d'une façon différente et quand je joue ces chansons en concert je vois des adolescents qui crient sur les paroles de Tiff du rappeur Tiff ou de la chanteuse Mickey chantée par Gainsbourg ou Nino Ferrer donc il y a vraiment en fait c'est une démarche à la fois artistique qui mobilise toutes mes capacités de chanteur puisque je dois chanter les chansons je dois les interpréter et ensuite évidemment ma voix est transformée et convertie en fait avec le clone que j'ai choisi

vous travaillez en toute transparence attendez Benoît Carré vous travaillez en toute transparence mais est-ce que vous payez des droits justement

sur ces morceaux ?

je paye c'est-à-dire que les chansons que je reprends par exemple si je reprends la chanson de PNL qui s'appelle Autre monde c'est une chanson que vous avez entendue c'est PNL qui perçoit voilà PNL perçoit les droits mais pour l'instant elle n'est pas sortie moi je ne sors pas ses chansons c'est un projet que j'interprète en concert mais que je n'ai pas encore que je pense ne pas sortir sous forme de disque parce que ça pose effectivement beaucoup de questions la question de alors les questions de droit d'auteur ça c'est réglé c'est les ayants droit qui touchent les droits de la chanson et la question d'interprétation elle reste posée parce qu'effectivement je chante mais il y a une partie de moi qui n'est plus là c'est la partie de l'autre du clone qui est son timbre de voix qui est peut-être son vibrato des choses comme ça la façon dont elle prononce ou il prononce les mots et ça c'est difficile de dire est-ce que c'est l'interprétation où est l'interprétation est-ce que c'est celui qui chante ou est-ce que c'est le timbre qui est remplacé

vous l'entendez les questions sont encore nombreuses dans ce débat Benoît Carré je vous propose de faire une pause musicale à midi et 34 minutes avec une chanteuse une vraie une vivante avec sa propre voix et sans IA c'est Alani ici avec ce titre Something You Said

De ville

sur France Inter

nous sommes toujours en direct sur France Inter pour ce débat de midi autour de l'intelligence artificielle générative et bien de ce je vais y arriver de tous ces bouleversements qui nous occupent notamment du côté de la commission européenne je voulais juste revenir avec vous parce que vous m'avez fait des grands signes Brigitte Lecordier comédienne et directrice artistique dans le doublage pour rebondir juste avant la musique ici Alani Something You Said sur les propos de Benoît Carré par rapport à toute cette question justement de l'éthique d'utiliser de la voix

d'une personne disparue moi ça me pose des questions effectivement de manière éthique c'est à dire est-ce qu'on peut faire dire à quelqu'un qui est décédé qui est mort de n'importe quoi sans son consentement sans l'avoir consulté avant est-ce qu'il a envie de chanter cette chanson de cette façon-là est-ce qu'il a envie de dire les mots qu'on lui met dans la bouche voilà c'est un vrai problème d'éthique que nous soulevons aussi avec Touche pas ma VF ça me fait penser aussi

à l'émission Hôtel du Temps dans laquelle Thierry Ardisson il y a quelques années il n'y a pas si longtemps d'ailleurs ressuscitait des personnalités grâce à des deepfakes donc ces vidéos et il utilisait aussi le clonage vocal pas pour toutes les émissions mais pour certaines en tout cas il y a eu pardon qui lui consultait quand même les familles des défunts au préalable même s'il n'en était pas obligé allez-y

il y a eu une vidéo d'ailleurs avec Silverstone qui utilisait la voix d'Alain Dorval qui est décédé et où il y a eu un trailer qui a été fait une bande-annonce une bande-annonce et les gens ont sursauté et tant mieux il y a eu un élan

sur les réseaux sociaux effectivement

du coup ils ont arrêté une aide

donc on est resté au stade de la bande-annonce tant mieux est-ce que la voix des personnes disparues est protégée convenablement ici en France et je me tourne vers vous Marc-Olivier Deblanc

alors oui alors ça relève non pas de la propriété intellectuelle ça relève ce qu'on appelle les droits de la personnalité alors que c'est assez subtil puisque les droits de la personnalité s'éteignent à la mort de la personne concernée je voudrais abondir sur ce que vous avez dit qui est fondamental c'est les fakes aujourd'hui techniquement juridiquement ce dont on vient de parler ce sont des faux artistiques donc la question de l'autorisation et du consentement elle est fondamentale mais vous savez on dit souvent on n'arrête pas le progrès mais au sens littéral du terme le progrès c'est un train en marche non on n'arrête pas le progrès on peut être contre l'IA mais on peut aussi être contre la pluie ça ne va pas changer grand chose il faut prendre le train en marche il faut réguler il faut contrôler il faut sanctionner le cas échéant mais il faut aussi penser à ce degré de sensibilité nous autour de cette table on a et les auditeurs de France Inter certaines sensibilités aux droits d'auteur sensibilité à cette éducation artistique qu'on a eu mais quelle est la sensibilité des jeunes qui reçoivent je vous donne un exemple il y a eu un projet qui s'est appelé The Velvet Sundown qui est sorti sur internet sur toutes les plateformes musicales dont on a découvert après coup que c'était un faux groupe il n'y a aucun artiste interprète derrière qui était uniquement généré par l'intelligence artificielle il n'en demeure pas moins qu'ils ont plus d'un million d'auditeurs par mois sur Spotify et qu'il y a des titres qui ont dépassé les 25 millions c'est à dire qu'il faut faire de la pédagogie le centre du dispositif des dispositifs législatifs et des dispositifs discursifs d'éducation à aux droits d'auteur et il faut indiquer

aussi que c'est fait par de l'IA indiquer effectivement et ça je crois que c'est prévu effectivement dans le code qui est justement en train d'être signé à la commission européenne Benoît Carré on va quand même vous laisser répondre ici qu'est-ce que vous en pensez c'est vrai c'est une question d'éducation d'information

je voudrais dire deux choses en fait la première c'est que tout dépend de l'intention de l'artiste là moi mon intention c'est un peu celui du marionnettiste j'assume le fait que ce sont des clones je laisse aussi les artefacts je n'essaie pas de rendre le truc absolument parfait ça ne m'intéresse pas ça ne m'intéresse pas non plus d'être dans une espèce de tromperie parce que je montre dans mes performances live que je chante et les personnages sont vraiment des fakes mais c'est assumé et ça c'est une chose importante parce que moi mon but ce n'est pas de créer des fakes pour des fakes mon but c'est de provoquer une émotion voilà ça c'est la première chose la deuxième chose sur les droits des attributs de la personne effectivement ils sont les ayants droit les ayants droit n'en héritent pas donc il faudrait qu'ils prouvent qu'il y a un préjudice moral ça c'est un fait après sur sur Velvet Sounddown je trouve que c'est très intéressant cet exemple que vous citiez Marc-Olivier Deblanc parce que ça pose la question du comportement des plateformes par rapport au morceau 100% généré par IA parce que là on voit bien qu'il y a un peu une tromperie dans cette histoire c'est que on met en ligne un groupe qui s'appelle Velvet Sounddown on ne dit pas que c'est 100% IA c'est a priori parce qu'on ne sait même pas on n'est pas encore sûr de ça mais ça sonne quand même bien 100% IA alors qu'il y a par exemple une plateforme que tout le monde connaît qui s'appelle Deezer qui a créé un outil qui permet de détecter les morceaux qui sont 100% IA et qu'est-ce que fait Deezer elle ne met pas en ligne ces morceaux dans le sens où elle n'empêche pas de les mettre en ligne ils sont en ligne mais ils ne sont pas du tout recommandés c'est-à-dire qu'ils sont comme placardisés et donc c'est une attitude différente et qui évidemment rend les morceaux 100% IA beaucoup moins efficaces et beaucoup moins nocifs parce qu'il faut rappeler qu'on se dirige là vers un pourcentage énorme de chansons générées par IA déposées sur les plateformes on est à 30% bientôt donc c'est énorme et donc il faut que les plateformes c'est à elles à mon avis de prendre ça en main ce que fait très bien Deezer il y a aussi l'IA peut servir beaucoup à contrer les mauvais comportements du business par rapport à l'IA l'IA peut détecter les morceaux d'IA l'IA peut détecter les clones vocaux etc

l'IA est finalement capable de tout je vais reprendre la parole Benoît Carré parce que le temps avance j'ai ce message de Romain qui nous dit ceci via le Whatsapp de l'émission à force de trop de régularisation ici pour protéger les comédiens ne risque-t-on pas de placer l'Union Européenne à la queue du train de l'innovation ne peut-on pas vivre avec notre temps et je vais vous poser cette dernière question rapidement Thomas Régnier qui est encore avec nous au téléphone avec ce règlement de la Commission Européenne est-ce qu'on ne tue pas tout ce qui est innovation en Europe ?

Effectivement non aujourd'hui nous innovons en Europe la présidente de la Commission Européenne a annoncé lors du sommet de l'IA qui s'est tenu à Paris au mois de février la présidente a annoncé effectivement que nous allons investir massivement dans nos infrastructures pour être sûr que les modèles d'IA puissent se développer en Europe pour que l'IA en Europe puisse être compétitive avec celle des Etats-Unis ou de la Chine par contre nous avons besoin d'un règlement et nous l'avons très clair pour protéger justement les droits d'auteur pour protéger nos artistes pour protéger nos citoyens entre autres donc le règlement est fondamental mais il doit marcher main dans la main avec nos efforts en matière d'innovation permettez-moi peut-être juste de conclure en matière de droits d'auteur sur le fait que nous agissons très clairement nous prenons ces craintes extrêmement au sérieux depuis Bruxelles nous agissons pour protéger les détenteurs de droits d'auteur et aujourd'hui nous agissons sur des faits très concrets là où aux Etats-Unis on se pose encore la question et là où probablement en Chine on ne se posera jamais cette question

L'Europe avance donc merci beaucoup Thomas Régnier d'avoir été avec nous merci aussi à Benoît Carré par téléphone merci à nos invités en plateau Brigitte Lecordier et Marc-Olivier de Blanc pour ce débat de midi signer la pétition voilà merci aussi à Philippe Pétieu merci à toute l'équipe du débat de midi Louise Morfoy c'est au romanci pas la programmation Annaé Balista et Ryan Saibine stagiaire une programmation musicale de Thierry Dupin une émission réalisée par Antoine Larcher avec à la technique Alex Olaré au Ouajou au Tinois et merci enfin à nos documentalistes Carole Roy et Nomi bon cours