UN FAUX COUP D’ÉTAT EN FRANCE : MACRON DEVIENT FOU À CAUSE DE L’IA

Alors en dernière partie, une vidéo montrant un coup d'état militaire en France. Une journaliste en duplexe, des soldes armées, un hélicoptère devant la tour Effel. Tout semble réel et pourtant tout est faux.

Cette séquence entièrement générée par l'intelligence artificielle a été vue près plus de 13 millions de fois sur Facebook dans l'hexatagone ou encore à l'international au point qu'un chef d'état africain a alerté directement Emmanuel Macron et l'Élysée. Mais ce n'est pas le plus troublant. Malgré une demande officielle, MTA a refusé de retirer la vidéo, estimant qu'elle ne contrevenait pas à ses règles.

Une situation qui interroge frontalement notre capacité collective à protéger le débat démocratique face à la désinformation de masse. L'intelligence artificielle change la nature même des fake news, plus crédit, plus viral, plus dangereuse. Et d'ailleurs à quelques mois des échéances électorales majeures, on se pose la question de savoir qui contrôle l'information aujourd'hui.

Et pour en parler, nous recevons Gérald Auboi, journaliste spécialiste des médias et des enjeux démocratiques à l'air numérique. [musique] Bonsoir Gérald, merci d'être avec nous ce soir. Alors justement en quoi cette fake news justement marque-t-elle un changement de nature par rapport aux intox traditionnels ?

Alors effectivement depuis quelques temps, on voit fleurir sur les réseaux des vidéos extrêmement photoréalistes, hein. Donc ces vidéos sont générées en fait sont fabriqués par des algorithmes donc que Open AI ou des acteurs numériques américains en fait produisent. Donc là, très probablement, on a affaire à une vidéo soit produite par un modèle qui s'appelle Vero qui est développé par Google ou par Sora qui est un modèle qui est développé par Open AI, hein, c'est le plus probable.

Après, il y a des modèles chinois qui sont équivalents et effectivement bah ça apporte une une vérité une vérité supplémentaire à à la fake news. C'est pas nouveau ceci dit puisque on avait déjà les deep fake et les deep fake ça fait longtemps qu'ils existent qui posent en fait un certain nombre de problèmes. On se souvient des deep fake avec Zelenski au tout début de de la guerre en en Ukraine qui avait failli provoquer en fait un retrait des troupes des troupes ukrainiennes.

Donc voilà, c'est c'est un un pas de plus vers la crédibilité des des des fake news. Et selon vous, est-ce que on peut c'est encore pertinent de parler de fake news ou on devrait plutôt trouver un autre mot, un autre vocabulaire ? Oui.

Alors, c'est pertinent mais après ce qui ce qui est intéressant en fait là dans cette situation euh un peu un peu décalée, c'est que ça euh c'est on va dire c'est Emmanuel Macron qui est donc victime en fait euh euh de façon interposée par euh de de cette de cette vidéo. Et c'est d'autant plus cocasse entre guillemets que Emmanuel Macron a porté hein depuis quelques mois maintenant un effort non dissimulé pour pousser LIA dans le dans le paysage français à la fois sur l'implantation data center mais aussi le gouvernement français lui-même a utilisé l'intelligence artificielle générative de la même manière pour communiquer ce qui lui a valu un peu quelques déboirs puisqueil y a eu des des erreurs assez grossières commises. Il a fallu retirer des photos. on voyait des soldats allemands participer à la libération française qui avait été voilà donc donc on voit bien qu'en fait c'est un peu l'arroseur arrosé d'un côté on promeut énormément cette type de technologie et de l'autre bah oui évidemment on en devient victime forcément quoi.

Et justement qu'est-ce que l'IA donc change concrètement en fait dans la production de la désinformation en gros est-ce qu'on n'est pas déjà dans une phase où le faux est presque indiscernable du vrai ? Ah oui, le faux est indiscernable du vrai. En gros, c'est une question de proportion, hein.

Donc euh là, ce qui est un peu étonnant, c'est qu'effectivement euh la la réaction soit si vive. On se rend bien compte quand même que euh dans les réseaux d'information des États, euh la la une simple vidéo ne ferait pas l'affaire en réalité. et que oui, qu'un un chef d'état africain ou d'autres puisse lui envoyer la photo la vidéo en se posant la question, ça ça me paraît quand même un tout petit peu étonnant, c'està-dire qu'il y ait quand même des services de renseignement de la presse.

Bref, voilà, il suffit de regarder très rapidement les choses. Maintenant, effectivement, c'est vrai que dans certaines circonstances, ça peut poser problème puisque ces médias en fait circulent à travers des messageries, hein, essentiellement et ça peut éventuellement, selon que le canal soit bien soit bien choisi provoquer un certain nombre de d'effets indésirables. Alors ça peut être par exemple sur la vaccination, ça peut être sur en Ukraine quand il y avait eu justement cette cette ce deep fake, ça peut être sur d'autres points.

Mais pour l'instant, on est relativement préservé. Même aux États-Unis quand il y a eu donc les dernières élections présidentielles, on s'attendait à davantage en fait de fake news. Très honnêtement, elles sont pas venues du côté des deep fake, elles étaient voilà humainement réalisé, on va dire.

Et justement, comment est-ce qu'on peut expliquer que que MTA donc Facebook qui tient Facebook, Instagram, WhatsApp, euh donc ces grands réseaux sociaux refusent justement de retirer en fait une vidéo qui annonce un coup d'état fictif. Alors là, on est un peu dans un espèce de de d'embrouliot un peu à la fois juridique et un laisser faire entre guillemets, euh de la part des États. C'est-à-dire qu'en gros, aux États-Unis, MÉin dispose en fait d'une protection hein, c'est l'article 240, c'est une section 240.

Donc c'est un article qui permet en fait d'agir en tant que plateforme et de ne pas avoir de responsabilité sur les contenus qui sont qui sont diffusés. Donc MTA n'est pas un média au sens strict alors que en réalité elle l'entreprise agit comme un média en en affichant ou pas en fait la la capacité enfin le certains types de de contenu. Et donc là typiquement c'est le c'est le cas.

Il faut se rappeler qu'en janvier euh de l'an dernier, MTA avait annoncé euh retirer en fait de la modération. Euh elle avait assuré en fait la responsable France avait assuré que en France ça ne serait pas le cas, qu'il y aurait toujours des modérateurs. On se rend compte que là vraisemblement il y a un sujet et puis effectivement que peut faire un état vis-à-vis euh de de MÉTA ? bah tout simplement en fait appliquer des sanctions he tout bêtement puisque il y a des représentants légaux sur le sol français, il y a des représentants légaux sur le sol européen et là pour le coup il faut avoir une position ferme et et complètement unequivoque en disant bah voilà en réalité on a vous avez franchi un certain nombre de limites et et ce n'est pas possible.

Donc ça peut être des sanctions légales, ça peut être des sanctions financières, mais c'est vrai qu'il y a un laisser faire depuis des années et des années. Et les deep fake typiquement ça a été ça, c'était dès le départ la grande majorité en fait de production de deep fake, c'était pas du tout des deep fake de désinformation mais des deep fake pornographiques qui mettaient en en cause des femmes du quotidien. Et là, pour le coup, personne n'a protesté évidemment et c'est bien un peu le sujet, c'est-à-dire que quand ça ne touche pas un un homme blanc de 40 ans, vraisemblablement, il y a peu de chance pour que euh ça touche quoi que ce soit.

Ouais, malheureusement. Et justement, est-ce que ça veut dire que ces plateformes en fait sont devenues d'une certaine façon aussi des acteurs politiques ? Alors oui, oui, bien évidemment.

En fait, ils ont pris une là depuis quelques années, notamment avec l'émergence de l'IA générative, on l'a vu hein, que ce soit Open AI, Microsoft, Google et cetera, ce sont devenus des acteurs majeurs de de l'économie. Alors, aux États-Unis, mais aussi on essae en Europe euh on essaie d'attirer les capitaux, les investissements pour pouvoir bah justement créer une forme de euh de de potentiel d'hypothétique rebondissement euh euh économique. Alors évidemment, il y a une vraie une vraie un vrai rapport de force qui s'installe entre les États et ces ces ces ces entreprises qui font qui sont valorisées à plusieurs milliards, qui ont parfois le PIB d'un petit pays et qui ont l'oreille de Donald Trump là en ce moment.

Euh on en a parlé en début de journal, mais effectivement voilà, le fait d'avoir un un un comment dirais-je ? Un président américain euh presque dans sa poche euh ça aide quand même à euh voilà euh forcer un peu euh les autres présidents à faire des choses. Justement, Emmanuel Macron a réagi hier en expliquant qu'il avait appris l'existence donc de cette vidéo, vous l'avez dit par l'intermédiaire d'un de ses homologues africains.

Il a ensuite chargé donc MTA sans le nommer. On écoute. Moi président de la République comme auraient dit certains et je demande à mon équipe quand même ce trucl c'est pas possible en plus dans cette période demander tout de suite à la plateforme de le retirer.

La plateforme Pharao s'appelle Facebook. Elle dit il faut retirer ce truc. Regardez c'est de manière évidente ça crée le chaos.

C'est exactement ce que vous dites. C'est inquiétant. Et votre client qui vient voir ce chl il dit un coup d'état à l'Élysée avec un colonel qui a pris le pouvoir et cetera peut être inquiet. réponse de Facebook, ça ne contrevient pas à nos règles d'utilisation.

Refus de retrait. J'ai tendance à penser que j'ai plus de moyens de pression que qui que ce soit. En tout cas, c'est peut-être plus simple pour leur dire que c'est grave si c'est moi qui appelle, bah ça marche pas.

Donc vous voyez qu'on n'est pas équipé comme il faut. Donc je suis pour un débat libre ouvert mais ces gens-là se moquent de nous. Ils se foutent de la sérénité des débats publics, ils se moquent de la souveraineté des démocraties et donc ils nous mettent en danger.

Comment on peut réagir justement à ce discours du président Emmanuel Macron ? Il y a comme un désaveu aussi sur son impuissance face à cette intelligence artificielle d'une certaine façon. Bah en fait, c'est le symptôme d'une tendance qui s'installe depuis longtemps.

C'est-à-dire que la tech aux yeux de tout le monde et probablement de de des téléspectateurs n'est pas un sujet politique quotidien. C'estàd que c'est en réalité bon voilà c'est le téléphone qu'on a dans la main, l'ordinateur qu'on utilise au boulot mais pas plus que ça. En réalité, il s'agit d'un sujet éminque quand il s'agit d'entreprises qui pèsent plusieurs milliards de dollars qui ont la capacité de dire non à un président, de dire non à un état, d'infléchir en fait leur politique économique, leur politique d'infrastructure, de peser en fait sur le l'équilibre démocratique à l'intérieur même des frontières, et bien effectivement on se rend compte que là ce sont en fait de véritables questions politiques. l'algorithme au sens strict du terme, la tech, l'intelligence artificielle, ce sont des sujets dont les citoyens doivent se saisir.

Nous, on essaie de de faire ça sur Ste mais l'idée c'est vraiment d'apporter ce débat là, d'expliquer en fait la la comment dirais-je, la manière en fait dont les les ces ces ces technologies ont un impact sur nos vies. Et là véritablement, c'est un peu le défaut de de d'Emmanuel Macron. d'Emmanuel Macron, c'est que il a apporté en fait dans le débat public la question de l'intelligence artificielle comme étant un élément économique de développement et pas du tout comme étant un élément politique.

Or, on se trouve bien dans cette situation là où aujourd'hui on a un problème de souveraineté à la fois sur les réseaux sociaux mais aussi sur les infrastructures et sur un ensemble de domaines où il faut à un moment donné que les gens se positionnent et qu'on décide collectivement si oui ou non c'est autoriser de laisser Facebook proférer ce genre de enfin laisser proliférer ce genre de vidéo en France ou en Europe. Et justement selon comment expliquer que les services de lysé n'ai pas vu cette vidéo avant. On a l'impression que comme si ça avait touché le président, c'est parce que son homologue africain lui a envoyé et donc lui a posé des questions.

Ouais, je pense qu'il y a une petite chose comme ça puisqueil y avait eu une vidéo qui avait circulé à l'occasion de Vivateek il y a encore pas très longtemps où Emmanuel Macron faisait face à un robot voilà et qui avait été pareil une vidéo qui avait été détournée. Décidément il est il est au centre de l'attention de de Lia peut-être. c'est son son implication dans le secteur qui fait ça.

Mais globalement, ils avaient détourné cette vidéo en essayant évidemment de aussi de le ridiculiser, en essayant de de proposer sa démission et cetera. Et donc en fait, c'est une vidéo qui a tourné. Bon, il y en a un certain nombre, il y en a eu aussi sur Bogitte Macron, il y en a eu sur un ensemble de choses.

Donc clairement en fait, c'est une personnalité publique, un président, voilà, il y en a des tonnes sur Donald Trump, il y en a des tonnes sur Vladimir Poutine et sur d'autres. C'est en fait, je pense que là, il a été piqué au vif naturellement. Je pense que très honnêtement quand on voit la vidéo, enfin il faudrait quand même avoir en tout cas au niveau d'un service d'état, je pense que c'est s'inquiéter pour pas grand-chose.

En revanche, effectivement, c'est vrai que n'importe quel citoyen étranger qui est pas tout à fait au courant de ce qui se passe en France peut se poser la question 2 minutes, surtout avec l'actualité où on les médias étrangers relais incendies. Et là effectivement avec la révolte des paysans ou d'autres choses, ça peut effectivement créer une forme de doute de trouble. Et justement Emmanuel Macron a proposer aussi de labelliser les médias pour distinguer les bonnes des mauvaises informations.

Est-ce qu'on n'est pas aussi en train de franchir selon vous une ligne rouge, celle où le pouvoir politique commence en fait à définir en gros ce qui est une information légitime et celle qui ne l'est pas ? Oui. Oui, complètement.

Alors là pour le coup, je pense que là c'est c'est allé beaucoup trop loin. C'est c'est pas moi qui le dit, il y en a plein plein plein d'observateurs le sont de cet avis. il existe déjà un conseil de de l'ordre entre guillemets de des journalistes.

Alors, c'est pas un conseil comme les avocats et cetera, mais c'est un conseil de déontologie en fait qui va voilà sur ses du public essayer de de rendre un avis de voilà euh et c'est fait sur le modèle belge. Peut-être que c'est une initiative effectivement à à renforcer, à financer pour pouvoir obtenir voilà quelque chose, un équilibrage, on va dire sur la les contenus un peu comme l'ARCOM pourrait éventuellement se prononcer sur les contenus audiovisuels. Bon mais après là en l'occurrence le problème ne vient pas des médias.

Les médias n'ont rien fait de particulièrement mal. C'est sauf à considérer que Facebook est un média et dans ce cas-là effectivement il faut l'intégrer dans ce dispositif là. Non, là c'est un problème de réseaux sociaux, c'est un problème de curation en fait et de modération sur tous des contenus dont dont tous les réseaux euh sociaux, toutes les plateformes se sont désengagées, hein.

X le réseau de de d'Elon Musk a a désinvesti massivement sur cette question de la vérification des faits. Méta également, bon voilà, on se Google également aussi enfin toutes les plateformes d'influence on ont largement désinvesti cette question du fact checking et c'est un vrai problème. On peut pas en fait, il devrait y avoir une une obligation légale au niveau européen pour opérer sainement d'un volume d'un quota de de de de comment dirais-je de de modération avec des obligations de résultats pour bah empêcher que justement le débat démocratique ne soit pollué par des influences extérieures ou intérieures.

Et justement, on a moins de 100 jours des municipales puis il y aura encore des présidentiels. Quel impact justement ce type de fake news peut avoir sur des élections pardon locales ou nationales ? Alors, on a on a eu quelques exemple.

On a eu notamment en en Slovaquie en fait au à le à la veille du scrutin donc en plein weekend en fait une une fake news qui avait été donc un fichier audio qui avait été dévoilé et c'était pas pour rien, c'était pour donc le premier ministre en fait de de la Slovaquie et c'était donc le candidat de de gauche qui était ciblé et donc qui avait été mis en cause par cette par cette piste audio. Finalement, bah évidemment, comme on était dans une période de moratoire, on pouvait pas parler de cette chose là, on pouvait pas débunker l'affaire et le candidat a perdu les élections et il s'est avéré que quelques jours plus tard seulement que en réalité il s'agissait d'un deep fake. Bon voilà, donc ça c'est un cas particulier.

Il y a eu d'autres cas un peu plus tangents mais qui n'ont jamais réellement fini par se concrétiser par des pertes. Peut-être aux États-Unis, à New York et cetera, des candidats qui ont été ciblés. Bah là, typiquement, on peut pas faire grand-chose si ce n'est que contrer au moment où ça arrive un certain nombre de choses et pour retrouver les personnes qui sont à l'origine en fait de de la vidéo ou du son qui fake en question, c'est extrêmement compliqué.

Ça demande des moyens d'investigation euh police et cetera euh qui qui sont peut-être pas forcément disponibles aujourd'hui. Et c'est voilà, c'est donc encore une fois un choix politique en fait. Il faut soit on agit sur cette question là et on se dit que voilà on y met les moyens, soit en fait on considère que ça fait partie du paysage et que c'est quelque chose avec lequel il va falloir composer pour les restes le reste des années à venir quoi.

Et justement l'Australie s'est emparé du sujet, il a interdit les réseaux sociaux les réseaux sociaux pour les moins de 16 ans. Est-ce que interdire justement ces réseaux sociaux au moins de 15 ou 16 ans, la France prévoit en tout cas, on sait pas si ça va être le cas pour les moins de 15 ans. Est-ce que c'est une mesure selon vous selon vous utile ou plutôt c'est un écran de fumée ?

Non, je pense que c'est vraiment un écran de fumée. Ça servira pas à grand-chose en fait. La question en fait d'interdire en fonction d'un âge ou d'un d'un en fonction de d'un volume horaire de d'utilisation n'a pas beaucoup d'importance.

C'est-à-dire qu'on peut passer 3h par exemple à chercher sur les réseaux sociaux des réponses à à des questions compliquées. Je ne sais pas moi une recette de cuisine mongol du 15e siècle pour pouvoir faire un plat particulièrement sophistiqué ou alors on va passer 3 heures à scroller et à regarder des chats et des chiens en train de rigoler. Ça n'a pas du tout le même effet.

On s'en rend bien compte qu'il y en a un un une action qui a qui a un effet intellectuel, l'autre pas du tout. Et donc en fait, c'est vraiment sur l'usage en fait qu'il faut qu'il faut se pencher et ça malheureusement on va pas être derrière les gens. Donc en réalité c'est uniquement vers les plateformes qu'il faut se tourner en terme de régulation.

Forcer ces plateformes à en fait à faire attention au contenu qu'elles diffusent. Ce sont des médias elles font att en fait elle elles vous recommandent en fait des contenus à travers des algorithmes de recommandation qui sont pareils hein de c'est de l'intelligence artificielle encore une fois mais dans la recommandation. Et donc en fait là aussi c'est pareil euh euh dans les cas extrêmes, on se retrouve avec quand même des contenus qui montrent des vidéos avec des décapitations, des problématique de viol et cetera et c'est assez violent.

Et donc en fait il faut être conscient que à un moment donné bah ces plateformes doivent en fait euh atteindre des résultats euh objectifs et quand bien même elle ell elle ell elle dirait elles prétendraient qu'elles n'en sont pas capables et ben il faut les forcer à le faire. Sinon bah il peut y avoir des sanctions. Justement il y a quelques jours, il y a eu aussi donc après la diffusion massive de fausse vidéo généré par LIA, on a eu aussi une cyberattaque qui a visé directement le ministère de l'intérieur.

Est-ce que on n'est pas aussi en train de changer de nature de menace ? Le ministère de l'intérieur a répondu en disant qu'ils allaient mettre maintenant une un code à vérification à deux facteurs. Donc c'était quelque chose qui qui faisait pas avant.

On l'a vu aussi avec le Louvre, avec le mot de passe. Du coup euh on a on a rapidement voilà pour conclure, on est plus seulement on a l'impression face à de la désinformation mais aussi face à une mise en danger finalement directement des institutions. Oui.

Oui. Alors ça c'est en plus c'est vraiment le la recommandation que on pourrait faire à n'importe quel de vos spectateurs, c'est-à-dire de mettre toujours un code de vérification à double à double facteur de pas mettre de de mot de passe un 2 3 4 ce genre de choses. Et donc en fait là voilà pas de date de naissance ou de voilà et donc du coup effectivement là on peut se poser la question vraiment de de du sérieux de de la sécurité de ces dispositifs là.

Non mais je pense qu'en fait là ce qui est inquiétant en fait dans le casadre du ministère de l'intérieur c'est notamment par exemple la la collecte des informations par le ministère de de l'intérieur précisément plutôt que vraiment la viol la la la brèche de de sécurité. C'est-à-dire que en fait le ministère de l'intérieur par le biais d'un certain nombre de dispositifs notamment la vidéosurveillance algorithmique et notamment d'autres dispositif surveillent énormément les les citoyens et donc en fait c'est autant de données personnelles qui sont relâchées dans la nature si jamais il y a une brèche ou un vol de données et là bah précisément c'est un peu le problème. contrôler aussi la collecte de données dans l'espace public même y compris par le gouvernement ben en fait peut permettre de prévenir en fait de se prémunir contre d'éventuellement d'éventuelles fuites qui seraient problématiques.

Ça n'empêche il y a une légitimité à collecter un certain nombre d'informations, mais il y a peut-être des informations qui sont trop collectées et que qu'il faut auquel il faut faire attention. Merci beaucoup. [musique]