Catherine Morin-Desailly : "il faudrait une transparence totale des algorithmes TikTok"

Vous écoutez Bonjour Chez Vous, un podcast de Public Sénat. Catherine Morin de Seuilly, vous êtes sénatrice union centriste de la Seine-Maritime et vous étiez la rapporteure du texte qui vise à protéger les mineurs des risques de l'exposition des réseaux sociaux. Vous avez beaucoup travaillé ici au Sénat sur ce sujet. Ce texte sera-t-il appliqué en septembre ? Comme le souhaite notamment Gabriel Attal, comment protéger nos enfants des réseaux sociaux ? On va en parler dans quelques instants, mais d'abord on commence. Comme tous les jours, parlait une de la presse régionale. On en a sélectionné trois, on va les regarder ensemble.

D'abord la une de l'Alsace, l'antavirus, le temps des questions. L'époque des conférences de presse sanitaire qui est donc revenue. On l'a vu hier, la ministre de la Santé qui a fait le point sur ce qu'on sait et ce qu'on ignore de ce virus des Andes connu depuis 40 ans. La deuxième une, c'est la vôtre, celle de Paris-Normandie. Artisans, pourquoi la facture va augmenter ? La crise au Moyen-Orient a des répercussions économiques jusqu'en France avec l'augmentation du coût des matières premières. Celle-ci va se répercuter sur les clients des artisans locaux, comme l'explique la Confédération de l'artisanat et des petites entreprises du bâtiment.

Et puis la dernière une, c'est celle de l'Union. Violence faite aux femmes, les ados prient pour cible. Après le meurtre de Chloé, cette collégienne de 14 ans dans l'Aisne, c'était le 6 mai. De nombreuses questions se posent sur les mécanismes d'une violence qui touche non seulement les femmes, mais aussi désormais les jeunes filles. De quelle une avez-vous envie de nous parler ?

Je veux bien parler des artisans et des conséquences de la guerre en Iran. Si le conflit devait durer encore plusieurs jours, je crois que les conséquences seraient extrêmement graves. Et on voit déjà les premiers effets. J'en parle d'autant plus volontiers que je suis aussi conseillère régionale de Normandie. Et la compétence économique, c'est une compétence régionale. L'accompagnement de nos entreprises qui traversent des difficultés, qui affrontent des questions de nécessaire restructuration ou tout simplement qui vivent ce type d'aléas économiques, c'est notre préoccupation.

Vous le sentez sur votre territoire ? La Paris-Normandie, c'est votre presse locale. On le rappelle, vous le dites, vous êtes conseillère régionale de Normandie. Vous le sentez, vous avez des remontées, des cas concrets de personnes

qui ont commencé depuis au moins trois semaines à peu près à remonter les difficultés à venir et les difficultés qui s'avéraient d'ores et déjà. Les carnets de commandes aussi qui sont moins importants. Déjà, nous avions un contexte économique compliqué, on le sait. Les conséquences aussi de la dette de l'État, des budgets affectés parfois, par exemple, au secteur du bâtiment, en prenant celui-ci, on voit qu'il y a un ralentissement aussi de l'activité économique et que, encore une fois, les conséquences de la guerre déclenchée par Donald Trump peuvent être tout à fait désastreuses. En tout cas, nous sommes extrêmement préoccupés.

Allez, venons-en au cœur de notre entretien, la question des réseaux sociaux et comment, notamment, protéger nos enfants des réseaux sociaux. D'abord, cette actualité, elle concerne TikTok. Plusieurs familles ont décidé d'attaquer TikTok en justice après des drames impliquant leurs enfants. Est-ce que vous y voyez un tournant dans la responsabilité numérique des plateformes ?

Pas franchement, parce que ce qui se passe avec TikTok, on l'a identifié, on l'a diagnostiqué, on a apporté des propositions de solutions. Il y a déjà trois ans, ici au Sénat, je rappelle que je faisais partie de cette commission d'enquête TikTok avec M. Maluré, et que nous avions complètement décortiqué les problématiques liées à TikTok, et nous avions formulé des recommandations extrêmement exigeantes et sévères qui s'adressaient forcément à l'Europe. Pourquoi l'Europe ? Parce que c'est l'Europe qui est chargée de réglementer cette société de l'information.

Et nous trouvions qu'à l'époque, les textes votés au niveau européen, notamment le Règlement sur les services numériques, autrement appelé DSA, ce règlement n'allait pas assez loin. D'ailleurs, dans des rapports préalables, nous l'avions ici au Sénat. J'avais fait partie de ceux qui avaient remonté à Bruxelles un certain nombre de préconisations, de préoccupations. Et si on avait appliqué ce que nous proposions à l'époque, peut-être qu'on n'en serait pas encore là. On y est encore, parce que ce problème de jeunes, c'est extrêmement grave. Les familles ont raison de déposer plainte, mais ce n'est pas la première fois que ça se produit. On a déjà eu des cas similaires aussi graves.

Mais là, le phénomène prend une ampleur telle qu'il est urgent d'agir. D'où cette procédure judiciaire ? C'est bien, du coup, que ça passe par une procédure judiciaire ? Oui, tout à fait. D'ailleurs, je voudrais signaler que l'ARCON, donc l'autorité de régulation qui est chargée de surveiller les réseaux sociaux, a déjà lancé et provoqué des enquêtes sur TikTok. Donc, ce n'est pas nouveau. Donc, TikTok sait qu'il est au banc des accusés, ne change pas ses méthodes, reste très opaque comme structure, continue à utiliser son algorithme extrêmement addictif et cible explicitement les jeunes. On parle de guerre cognitive dans notre rapport. On y est, donc il est urgent, en effet, de légiférer.

Mais justement, dans votre rapport, vous parliez de cet algorithme particulièrement addictif avec des chiffres qui sont assez alarmants. en 2022, c'est ce que vous disiez, les mineurs en France passaient en moyenne 1h47 par jour sur TikTok, c'est ce que vous avez chiffré. Il n'y a pas moyen de contrer cet algorithme ?

Il faudrait qu'il y ait une réglementation européenne extrêmement sévère que nous appelons de tous nos voeux. Nous avons fait je ne sais combien de propositions de résolutions européennes sur le sujet allant dans ce sens. Il faudrait d'abord la transparence totale des algorithmes. Il faudrait ce qu'on appelle un « safety by design » qui veut dire une conception des algorithmes, en tout cas de toute application qui utilise un algorithme, qui soit vérifiée. C'est comme un médicament quand on le met en circulation. Avant, on fait des tests pour vérifier sa nocivité, sa potentielle nocivité. C'est la même chose. Et il faudrait instaurer ce « safety legacy by design », nous l'avons demandé.

Et puis, je pense aussi qu'il faudrait que le modèle de ces plateformes, qui est un modèle toxique, puisque c'est la publicité en échange d'une fausse gratuité et un algorithme extrêmement enfermant, il faudrait que ce modèle économique soit complètement revu.

Juste, pourquoi on ne peut pas instaurer un contrôle d'âge et un blocage du temps ?

Pour l'instant, il n'y a pas de législation sur le contrôle d'âge, si ce n'est que les plateformes, alors on parle de TikTok, mais il y a aussi Instagram avec des effets tout aussi dangereux, méta, etc. C'est 13 ans déjà. Mais il n'applique même pas la question des 13 ans. Donc nous, ça, on l'a demandé. C'est la raison pour laquelle il y a des propositions de loi en cours. Et vous avez évoqué…

Oui, on va y venir, mais juste pour terminer sur TikTok. Alors d'abord, comment on explique que TikTok, réseau social chinois, en Chine, il y ait des contenus très pédagogiques, très éducatifs, très encadrés pour les enfants, et ce ne soit pas le cas en Europe où les contenus sont plus négatifs.

Parce que TikTok est sous l'égide du Parti communiste chinois. Sa stratégie, c'est de préserver sa jeunesse, d'où cette régulation extrêmement stricte. Voilà. On s'en fiche, en revanche, des Européens, en tout cas des Occidentaux et de par le monde. Et donc, il y a même une stratégie de guerre cognitive, qui est l'affaiblissement de notre jeunesse. C'est une forme de guerre hybride, voilà, qui ne se dit pas, mais qui est réelle. Et notre jeunesse se trouve touchée par l'ensemble de ces réseaux.

Dans votre rapport, vous disiez aussi que si TikTok ne suit pas les recommandations, il faudrait suspendre TikTok. Est-ce que le gouvernement n'est pas assez sévère sur le sujet ?

Encore une fois, ça relève de la réglementation européenne. Dans des cas extrêmes, le DSA peut prévoir la suspension, en effet, des réseaux sociaux. Et je pense qu'il faudrait y aller direct. Là, maintenant, il y a trop d'enquêtes, il y a trop de faits graves avérés. Et donc, c'est ce que nous préconisons, d'ailleurs, dans notre texte de loi. C'est une liste, ici au Sénat, on a parlé d'une liste, qui désigne explicitement ces plateformes, ces réseaux sociaux, dont on connaît les modèles extrêmement toxiques et dangereux.

Tant qu'ils fonctionnent de cette façon-là, tant que les algorithmes sont opaques, tant qu'on assiste à une forme d'enfermement des jeunes avec des phénomènes extrêmement graves, je crois qu'il faut interdire ces plateformes.

Et alors, justement, la question de l'interdiction des réseaux sociaux mineurs, elle est en débat en France, elle est en débat dans l'Union européenne. Steve, c'est une question qu'on s'est déjà posée ici. On aimerait savoir où on en est exactement de cette interdiction. Est-ce que nos enfants pourront encore accéder à Instagram et TikTok au mois de septembre ?

La sénatrice nous répondra dans quelques instants, mais en tout cas, c'est une priorité d'Emmanuel Macron, l'interdiction des réseaux sociaux au moins de 15 ans dès la rentrée prochaine. Et cette semaine, Oriane, la présidente de la Commission européenne, a fait un pas en direction de la France. Écoutez Ursula von der Leyen.

Actuellement, le droit européen autorise les États à choisir l'âge minimum

que doivent avoir les utilisateurs des réseaux sociaux. La France milite pour porter cet âge à 15 ans. D'autres pays, comme l'Allemagne, poussent pour un âge à 16 ans.

Et c'est un sujet qui revient souvent dans l'actualité. On a un peu l'impression que cette interdiction est impossible à faire respecter.

Alors, un texte est actuellement dans les tuyaux du Parlement. Il a été adopté par l'Assemblée nationale, c'était au mois de janvier. Le principe est simple, interdiction des réseaux sociaux aux mineurs de 15 ans. Le Sénat a également voté pour ce texte en précisant les contours de l'interdiction. Les sénateurs proposent un dispositif à double détente. Certaines plateformes doivent être purement et simplement interdites, après avis de l'ARCOM et décret en Conseil des ministres. D'autres doivent pouvoir rester accessibles aux mineurs à condition d'avoir obtenu l'autorisation des parents. On va suivre bien évidemment le parcours législatif de ce texte.

Madame la Sénatrice, mais déjà, est-ce que vous saluez la main tendue par la Commission européenne cette semaine ?

Je la salue d'autant plus que moi-même, j'ai proposé au vote du Sénat une résolution européenne. Elle a été votée en août dernier. Elle est partie à Bruxelles. C'est devenu la résolution du gouvernement français qui demande explicitement à la Commission de traiter cette question du seuil d'accès à ces réseaux sociaux. J'ai demandé un certain nombre de mesures d'ailleurs, qui est la responsabilité pleine et entière des plateformes, la transparence des algorithmes, le safety by design, que je viens d'expliquer. Donc, fort de ces résolutions, je pense que dans d'autres pays européens, on le voit, on commence aussi à bouger, à faire des propositions qui vont dans ce sens.

Donc, il y a une pression forte désormais sur la Commission européenne qui aurait dû, je le dis avec fermeté, puisque j'ai travaillé sur ces sujets au sein de la Commission européenne du Sénat depuis plusieurs années, qui aurait dit depuis longtemps, aller beaucoup plus loin dans l'exigence, la responsabilité, la redevabilité des plateformes.

Juste pour tous les parents qui nous regardent aujourd'hui, est-ce qu'à la rentrée du mois de septembre, les réseaux sociaux seront interdits au moins de 15 ans ?

Tout dépend du délai que va prendre la Commission européenne pour répondre à la proposition du Parlement français sur ce texte de loi que vous avez évoqué, que nous avons voté. Il faut qu'il soit notifié à Bruxelles. Pourquoi faut-il qu'il soit notifié à Bruxelles ? Parce que, comme je l'ai expliqué, la réglementation du numérique dépend de l'Union européenne.

Et donc, il faut que ça soit... Qu'est-ce que ça veut dire, notifié ?

Ça veut dire qu'on envoie notre texte, tout simplement, à la Commission européenne, qui l'étudie et qui voit que si c'est compatible avec le droit européen. Mais en même temps, on est dans un processus assez atypique d'urgence. Beaucoup de pays en Europe font la même chose. Donc, la Commission européenne est au pied du mur. Et fort des propositions des différents pays, dont celui de la France, qui est un peu précurseur, elle doit enfin prendre ses responsabilités.

Vous n'êtes pas tout à fait certaine qu'au mois de septembre, ça va passer ?

C'est la date souhaitable et souhaitée qui a été évoquée. Mais il faut le temps aussi de la législation. L'essentiel, c'est d'avoir un objectif à atteindre le plus rapidement possible. Et d'un point de vue technique, comment ça va se passer ?

C'est-à-dire qu'il y aura quoi ? Une application pour vérifier l'identité et l'âge des utilisateurs ?

Oui, c'est cela. Et d'ailleurs, il faut le temps, on parle d'une application au 1er septembre, mais il faut aussi le temps que les solutions techniques de vérification de l'âge soient mises au point. Il faut qu'elles le soient aussi dans le respect, parce que c'est la crainte des Français qui les expriment, il faut qu'elles le soient dans le respect de la protection des données personnelles des individus. Parce que quand on veut s'identifier, il faut donner un certain nombre de données de soi-même. Et donc, il faut avoir la garantie que ces données ne seront pas, par ailleurs, conservées, exploitées de mauvaise façon.

Donc, il faut qu'on soit sur le strict contrôle de ce qu'on appelle le règlement général sur la protection des données. Donc, ces solutions techniques, elles sont à l'étude, par, bien entendu, le ministère concerné, le ministère du numérique, avec les différentes entreprises. Donc, on peut espérer que ça aille assez vite. Il le faut, en tout cas. Et il faut, encore une fois, que ça se fasse dans le respect de la protection de la vie privée.

Sur les contenus et les conséquences psychologiques qu'ont la consultation de contenu sur nos jeunes. On parle beaucoup des contenus qui sont liés à l'anxiété, à la violence, voire au suicide. Est-ce que les plateformes en font réellement assez pour protéger nos enfants ? Ou est-ce qu'on est un peu dans une sorte de réaction après, malheureusement, des drames ?

Le problème des plateformes, c'est leur modèle économique. Elles ne cherchent absolument pas à vérifier ce qui se passe sur leur réseau, contrairement à ce qu'elles disent. D'ailleurs, elles n'ont aucun statut qui leur confère une vraie responsabilité, comme, par exemple, un éditeur. Elles sont simples hébergeures, donc elles n'ont pas de responsabilité. C'est ce sur quoi, moi, je me bats. Donc, elles laissent les algorithmes éditorialisés, en quelque sorte, des contenus, qui, par le biais des algorithmes, parce que ça fait un clic rémunérateur, ça fait de la publicité, et du coup, ça fait des recettes que la plateforme engrange.

Donc, elle a intérêt, en fait, à ce que ces contenus continuent de circuler, voire s'amplifient. Son algorithme y travaille, et c'est bien le drame, c'est-à-dire que des jeunes qui sont concernés, qui sont anxieux, dépressifs, etc., il suffit qu'ils aillent taper, comment dirais-je, un certain nombre de mots-clés, par exemple, suicide, eh bien, ils se voient proposer très rapidement, en moins de 40 minutes, quantité de propositions qui vont dans ce sens, qui est dramatique, qui devrait être interdit. Mais il n'y a pas de sanction pour l'instant. Il n'y a pas de sanction pour l'instant. Alors, la sanction, c'est... Contre les plateformes, j'entends.

C'est le règlement sur les services numériques. Numériques, en fait. Dit quoi ? Quand les signaleurs de confiance ont identifié ces problématiques, l'ARCOM, l'autorité de régulation, signale immédiatement ça à Bruxelles, et il y a une commission d'enquête qui est enclenchée, qui potentiellement aboutit, si c'est bien démontré, à une sanction qui peut aller jusqu'à 6% du chiffre d'affaires. Ça a déjà abouti, il y a déjà eu des sanctions. Il y a déjà eu des sanctions, il y a déjà eu des enquêtes. Nous avons vérifié tout ça, d'ailleurs, au Sénat. C'est notre travail. Mais le sujet, c'est que quand on constate des faits aussi graves, je pense que c'est même pas une question de sanctions.

En plus, ces plateformes, elles sont tellement riches que 6% de leur chiffre d'affaires, finalement, ça leur fait peut-être pas grand-chose. S'il faudrait tout simplement suspendre ces réseaux qui sont extrêmement dangereux. C'est une non-assistance au danger que vivent nos jeunes. Donc, c'est absolument dramatique. Mais on parle de ça, mais parlons-y de la désinformation et de la manipulation de l'information. Les jeunes vivent aussi ce type de phénomène.

Nous allons y venir, mais on le disait tout à l'heure, suspendre TikTok, c'était dans votre rapport. Est-ce que c'est si facile que ça à faire ?

Bien sûr. Comment dire ? En Inde, TikTok a été supprimé quelques semaines, justement, suite à des phénomènes aussi graves. Pourquoi la Commission européenne,

l'Union européenne, elle est trop naïve, trop laxiste ?

C'est-à-dire qu'elle s'est attachée beaucoup à développer un marché unique du numérique au profit du développement économique et de l'innovation. C'est tout le débat que nous avons d'ailleurs aujourd'hui sur l'intelligence artificielle. Donc, c'est vrai qu'elle est sur une ligne de crête. Mais pour autant, elle a tardé à légiférer et à réguler sur cette problématique des plateformes qui a été identifiée par le Sénat, je rappelle, dès 2013. Donc, ça fait plus de 10 ans que nous avons signalé ces problématiques. Et donc, elle a attendu jusqu'aux récentes années pour légiférer. Mais comment on suspend TikTok ?

Ces plateformes se sont développées, ont organisé leur lobbying, elles sont extrêmement puissantes. Et donc, pour légiférer, il faut leur opposer une grande fermeté. Sans compter que cette prise de conscience était un peu différenciée selon les pays. L'Europe n'a pas toujours été non plus complètement homogène sur le traitement à accorder à ces plateformes. Maintenant, elle le devient parce qu'elle se rend compte que sa jeunesse est attaquée avec des faits extrêmement graves. Donc, il y a une prise de conscience, un réveil un peu tardif, mais il y a un réveil révèle. Comment on suspende TikTok ? Comment on fait ? Concrètement ?

Ça peut passer par les serveurs, les fournisseurs d'applications. En tout cas, officiellement, c'est interdit.

Vous parlez de jeunesse un peu sacrifiée. Est-ce qu'il y a une génération sacrifiée, la génération grosso modo des 10-18 ans pour laquelle on n'a pas pris conscience à ces taux de l'effet dévastateur des écrans et des réseaux ?

Oui, vous avez raison de parler de génération. Moi, quand je fais mon premier rapport sur la formation à l'heure du numérique, c'était en 2018. Donc, 2018, vous voyez, c'est la génération que vous évoquez. c'est une génération qui s'est vue proposer aussi un accès aux écrans illimités parce qu'il y a la question des réseaux sociaux mais aussi la question des écrans. C'est deux choses qui s'articulent mais qui peuvent aussi être différentes. On en revient d'ailleurs de cette surexposition aux écrans et l'utilisation des écrans à tout va dans certains pays européens. on voit qu'à l'école, on va revenir strictement au papier, à l'écriture, finis les tablettes.

Donc, on se rend compte que finalement, l'addiction aux écrans combinée à l'addiction renforcée par les algorithmes des réseaux sociaux fait que les jeunes, ils y passent beaucoup de temps, ils ont des difficultés de sommeil. Qui dit difficulté de sommeil dit tout le reste. Propension à la dépression, fatigue générale, physique, mentale. Bref, on se rend compte des effets. maintenant, c'est très documenté. Les recherches ont été conduites. Donc, maintenant, on se rend compte des effets toxiques, néfastes. Mais est-ce qu'il n'y a pas aussi des parents

qui sont un peu dépassés par l'usage numérique que font leurs enfants ? Et est-ce qu'ils sont suffisamment accompagnés ? Je crois que les parents,

ils doivent se poser la question pour commencer de leur propre consommation des écrans et des réseaux sociaux. Parce qu'on parle beaucoup de technoférence. Les meilleurs spécialistes et scientifiques disent que les jeunes, ils sont sur leurs réseaux sociaux aussi. parce que les parents, ils sont également. Et donc, parfois, on voit le portable se substituer à la relation enfant-parent, à faire partie de la vie familiale au moment du repas. Le téléphone devrait être proscrit, par exemple. Et donc, ça, je crois que tout ça renvoie à une hygiène numérique qu'on devrait toujours avoir.

Parce que nous-mêmes, nous-mêmes, on parle des jeunes, mais nous-mêmes, nous sommes quelque peu accros à ces réseaux sociaux au détriment de beaucoup de choses.

Il y a les réseaux sociaux, il y a aussi le sujet des intelligences artificielles qui fait de plus en plus un parti de nos vies avec son lot de questions sur la fiabilité, la souveraineté, la sécurité. Pour en parler, nous sommes avec Patrick Molinoz. Bonjour, merci beaucoup d'être avec nous, président de la communauté de communes du pays d'Alesia et de la Seine, co-président de la commission numérique de l'Association des maires de France. Est-ce que l'intelligence artificielle est aujourd'hui un outil d'aide pour les élus ? Comment vous vous êtes emparés, vous, de votre côté ?

D'abord, je voudrais rebondir sur ce que Madame la sénatrice vient d'évoquer, que l'on partage absolument. Je pense que, globalement, les responsables politiques n'ont pas su, pas pu prendre la mesure de ce que les réseaux sociaux étaient en train de bouleverser. J'ajouterai simplement après ce qu'elle vient de dire, pas seulement auprès de la jeunesse. C'est une menace générale pour la démocratie et dans le contexte géopolitique actuel, c'est une menace extrêmement grave. On pourrait presque qualifier les réseaux sociaux d'armes aujourd'hui.

Et moi, j'ai un principe sur le numérique en général, c'est que je ne comprends toujours pas pourquoi on ne traite pas le sujet de la vie numérique ou de l'espace numérique exactement dans les mêmes termes que le sujet de la vie physique dite réelle. Pourquoi ce que l'on interdit dans la vie physique serait autorisé dans la vie numérique ? L'anonymat, la diffamation, le mensonge permanent, la manipulation, etc. Ça, c'est un vrai sujet. C'est une complexité, ma sénatrice l'a dit, ça fait plus de dix ans que le Sénat s'y intéresse, le français s'y intéresse. Cette difficulté va être démultipliée, est d'ores et déjà démultipliée par l'intelligence artificielle.

Comme à chaque grande révolution technologique, elle peut produire le pire et le meilleur. Je ne reprendrai pas l'exemple habituel de l'atome, mais c'est exactement ce à quoi nous sommes confrontés aujourd'hui. L'intelligence artificielle, c'est un outil merveilleux et c'est un danger absolument terrifiant en même temps.

Il faut donc que l'on apprenne à réguler, il faut qu'on apprenne à utiliser, il faut que l'on donne les moyens, qu'on se donne globalement les moyens, alors au plan européen, au plan national, de faire en sorte que ceux qui sont le dernier maillon de la chaîne, c'est-à-dire les citoyens, et juste avant eux, les communes et les intercommunalités, ne soyons pas seuls pour combattre une espèce de léviathan de monstres que nous n'avons pas les moyens en réalité de maîtriser.

Donc l'intelligence artificielle, c'est un outil qui peut être utilisé pour travailler plus vite, pour résumer, pour programmer, pour analyser, mais pour le faire correctement, je vais vous faire une image par rapport à un véhicule, une voiture, dans une voiture, il y a une carrosserie, il y a un carburant, il y a un moteur. L'intelligence artificielle, le moteur, c'est l'algorithme. Il faut qu'il soit transparent, c'est comme pour les réseaux sociaux, madame la sénatrice l'a dit. Le carburant, c'est la donnée, ce que l'on donne à manger, entre guillemets, à l'intelligence artificielle, et il faut que cette donnée soit propre, soit vraie, soit réelle.

Parce que ceux qui nous disent ne vous inquiétez pas de l'intelligence artificielle, à la fin, c'est l'homme et la femme qui décident, si elle décide sur des bases qui sont fausses, elle ne peut pas de données, elle ne peut pas prendre des décisions qui sont justes. Et puis ensuite, il y a évidemment la carrosserie, c'est les réseaux, c'est la capacité à organiser, à donner accès à ces intelligences. Donc on les utilise, tous les secteurs les utilisent, les secteurs économiques et évidemment les politiques les utilisent.

Moi j'ai des témoignages notamment de journalistes, de confrères à vous, qui me disent qu'au cours des dernières municipales, on n'a jamais vu autant de documents distribués, de documents électoraux distribués dans des petites communes, enfin dans des communes avec peu d'habitants et que très probablement cette prolifération de documents qui souvent se ressemblait beaucoup dans les termes étaient des produits d'intelligence artificielle générative.

Patrick Molinos, juste que Catherine Morin-Dessay il est bien le temps de vous répondre parce que c'est très intéressant ce que vous dites et notamment sur les conséquences sur notre démocratie, c'est une arme, dit Patrick Molinos.

Bien entendu, certaines cyberattaques proviennent aussi des réseaux sociaux, qu'on se le dise, manipulation de l'information, c'est Edward Snowden qui nous le dit dès 2014, c'est un lanceur d'alerte, il y a eu la manipulation avérée de certains scrutins électoraux, notamment en Europe et on voit bien la prolifération de la mauvaise information, de la désinformation et que ça fait partie, c'est une des composantes de la guerre. On parle de guerre hybride, eh bien ça en fait partie et certains pays en dehors de l'Europe ont intérêt à manipuler aussi l'Europe parce qu'eux ne souhaitent pas que du bien à l'Europe, cherchent vraiment la déstructuration de l'Europe.

Donc on voit que c'est une arme contre laquelle il faut s'organiser, contre lequel il faut bien entendu légiférer dans une grande exigence. Et quel pays pourrait nous attaquer ? On sait très bien que la Chine, je l'ai évoqué via le phénomène TikTok, les Russes qui ont manipulé les élections européennes, pardonnez-moi, américaines de 2016 mais aussi certaines élections européennes. Donc on le sait, c'est avéré, c'est la raison pour laquelle on a mis en place un système assez efficace tel que Viginium. Ce que je voudrais dire, ce qui est très important, c'est au-delà de la régulation, c'est la prévention de l'éducation.

Nous avons voté un texte au Sénat le 18 décembre dernier, complémentaire du texte sur l'interdiction d'accès aux réseaux sociaux avant 15 ans, qui est un ensemble de mesures sociales, éducatives, de prévention des mesures sanitaires pour faire en sorte que la communauté aussi des adultes soit bien au courant de la manière dont elle doit, comment dirais-je, aider et acculturer les jeunes. Et tout ça sert, bien entendu, aux adultes eux-mêmes. L'intelligence artificielle, c'est la nouvelle étape et M. le maire a eu tout à fait raison d'en parler. C'est extrêmement préoccupant.

Merci beaucoup. Merci Patrick Molinoz d'avoir été avec nous, le co-président de la commission numérique de l'Association des maires de France et merci à vous, Catherine Morin-Dessailly, d'avoir été notre invitée pour nous parler de ce sujet passionnant.

Retrouvez l'intégralité de nos podcasts sur la plateforme Public Sénat. Sous-titrage Société Radio-Canada

Sous-titrage Société Radio-Canada