Effets psychologiques de TikTok : représentants de Meta, X et YouTube | La séance est ouverte !

Bonjour à tous. Ravi de vous retrouver sur LCP. Les députés poursuivent leurs auditions pour mesurer l'impact de TikTok sur les mineurs.

Après les influenceurs, ils auditionnent les responsables de MTA X et YouTube France avec une question majeure. Comment ces plateformes arrivent-elles à modérer les contenus critiques, notamment ceux qui portent sur le suicide ou la scarification ? Quelle est la responsabilité des plateformes ?

Direction tout de suite la salle la Martine pour écouter ces auditions. Lorsqu'on a auditionné euh des des jeunes notamment euh qui ont été victimes, voilà, des réseaux sociaux, certains évoquaient TikTok, euh un jeune évoquait les soucis qu'il avait eu avec Instagram euh sur des contenus euh qui euh prenaient ou en tout cas qui évoquaient l'automutilation euh et en particulier la scarification et qu'il avait été un peu enfermé dans dans ses contenus, qu'il avait eu du mal à s'en sortir. Alors quand on l'a vu, il allait mieux et c'est une bonne chose.

Mais est-ce que vous vous avez ces sujets que ça soit automulation et puis promotion du suicide, ce sont pas des sujets nouveaux ? Je sais que vous vous en êtes saisis. Est-ce que vous pourriez peut-être nous dire comment vous maintenant vous arrivez à gérer la modération de ces contenus ?

Comment vous avez évolué là-dessus ? Et comment vous arrivez peut-être à gérer la modération de ces contenus qui sont parfois détournés, enfin en tout cas qui utilisent parfois des hashtags ou des mots détournés pour que finalement on arrive à faire émerger ces contenus. Voilà, peut-être une question qui est peut-être plus ciblée sur sur MTA du coup.

Oui, merci beaucoup. Euh la député, je pense que ça serait intéressant de connaître à quelle époque il a il a vécu ces ces choses terribles. Je pense que on ne peut que reconnaître que dans ce cas, il y a quelque chose qui va pas.

Voilà. Euh on on fait de notre mieux et on doit faire plus que notre mieux. Donc j'entends aussi que notre travail d'expliquer ce qui marche mais j'ai envie de dire c'est aussi de reconnaître quand ça va pas.

Bon l'évidence il y a un problème. Euh maintenant qu'on a dit ça, qu'est-ce qu'on fait ? Donc la logique des comptes pour adolescents que j'ai mentionné en ouverture de l'audition aujourd'hui, c'est justement d'adresser le point des contenus.

Pas que il y a le temps passé, il y a les contacts, mais la question des contenus. Donc j'ai revu mes notes et donc effectivement l'idée c'est que ces publics aujourd'hui ne soient plus exposés à des contenus du type promotion de la chirurgie esthétique, des questions de violence, de mutilation et cetera et cetera. Donc justement, c'est d'avoir une expérience avec des contenus adaptés à l'âge euh et qu'on on arrive même si c'est pas à 100 %, mais il faut viser les 100 % toujours à à ce que ces choses ne soient plus vues par ces par ces jeunes.

Je crois que le DSA est très exigeant dans le domaine de la protection des mineurs, mais au-delà des questions de réglementation, nous le sommes tous, qu'on soit parents ou pas parents. Donc aujourd'hui, je dirais que sur sur dans ces domaines, les comptes adolescents sont l'expression, je dirais pratique produit même quelque part de l'idée que il faut offrir un cadre adapté à ces publics et d'adresser notamment ses contenus. On vous enverra les détails de comment ça fonctionne, mais aujourd'hui en tout cas tous les jeunes éligibles au compte ADOS, c'était mentionné par Aurore, sont dans ces comptes ados, qu'il soient déjà inscrit sur la plateforme ou qu'ils souhaitent s'y inscrire.

Oui, donc c'est effectivement donc il y a des restrictions sur le contenu sensible, ce qui inclut les contenus relatifs au suicide, l'automutilation, chirurgie esthétique, enfin tous ces toutes ces choses-là. Et j'ajouterai en plus de des comptes ados la question de la supervision parentale qui permet couplé au compte à dos aux parents de aussi essayer de se cossaisir du sujet parce que évidemment que les plateformes sont acteurs actrices de ces problématiques fondamentales mais du coup pour que les parents puissent aussi voir les comptes que les adoss suivent les sujets qu'ils consultent pour pouvoir également engager la discussion sur sur ces sujets-là. Évidemment, encore une fois, ça ne se substitue pas au rôle des plateformes et au compte ados et à nos à notre obligation de restreindre la visibilité de ces contenu.

C'est juste un outil supplémentaire. Alors juste un point, pardon, j'ai oublié ce que nos partenaires comme il enfance point de contact qui justement pour répondre à votre question nous disent attention, il y a une nouvelle pratique d'eux parce que on l'a vu dans d'autres domaines, dans les discours de haine, dans l'antisémitisme et cetera, il y a des mots qui sont détournés dans ces domaines aussi. C'est là où je veux dire saluer leur travail parce que sans eux on ferait on n'arriverait pas à détecter certaines tendances et donc trusted flager le 318 enfin tout ce qui a été mis en place qui en France notamment ou génération numérique pour l'éducation numérique.

Il y a beaucoup il y a un écosystème français comme remarquable aussi dans la prévention et l'action dans la dans ces domaines du numérique sur lesquels il est normal que l'on travaille. Donc ça c'est plus la partie je dirais stratégique et évaluation du quotidien. Oui.

Donc pour compléter ce qui a été ce qui a été dit par MTA, en fait il y a deux aspects en fait de ce problème là. Il y a question de l'exposition effectivement à des contenus qui font la promotion du suicide ou de l'automutilation qui appelle à une modération de ce point de vue-là. Mais il y a aussi la question en fait de bah comment on protège les gens qui ont ce type de comportement sur la plateforme et ça c'est un autre volet qui est volet également enfin tout aussi important.

Et en fait donc ce qu'on peut mettre en face par exemple, c'est que quand les gens recherchent ce enfin ces termes de façon consciente en fait sur le réseau, par exemple, ils vont rechercher des des termes de type bah je sais pas comment enfin lier au suicide ou l'automutilation en tout cas en fait chez nous ça va les renvoyer vers notre partenaire qui est SOS amitié et en fait SOS amitié est une hline qui peut leur apporter de l'aide et un soutien en fait de ce moment-là parce qu'en fait bah l'idée évidemment par rapport à ce type d'utilisateur c'est aussi qu'il puisse trouver de l'aide par rapport au fait qu'il vont sur un réseau social pour pour enfin faire des recherches par rapport à ce type de pratique. Il faut voir aussi que dans toute la coopération qu'on a en France avec les forces de l'ordre et notamment Faros, ça fait partie de leur mandat. Et donc nous, ils nous ont contacté de temps en temps parce qu'en fait un utilisateur sur le réseau n'avait pas en fait forcément posté un contenu illégal mais avait posté un contenu en fait où il pouvait porter atteinte à 6 jour ou mettre sa vie en danger.

Et à ce moment-là en fait nous on donne notre ligne direct à Pha. Enfin, ils ont mon numéro de téléphone personnel mais entre autres. Euh et en fait, ils peuvent nous appeler puisqu'on puisse en fait agir rapidement et notamment remonter à l'utilisateur parce que nous dans ces cas-là, on va partager les données utilisateurs à Faros pour qu'en fait il remonte à la personne mais pour euh protéger cette personne en l'occurrence.

Merci. Alors vous dites que en effet euh sous si on tape si demain je tape scarification, je vais tomber sur un contenu de de qui va me m'orienter vers une plateforme vers SOS amitié ou autre. Est-ce que les mots détournés vous arrivez à les inclure aussi à faire en sorte qu'il bénéficient aussi lorsque je je tape par exemple scarification et que le a je le je je mets un 4 à la place, ce qui est quelque chose qui revient souvent par exemple, est-ce que vous arrivez à vous adapter finalement à des des mots clés détournés par notamment le jeune public ?

Est-ce que ça par exemple si je tape sur Instagram là scarification mais en utilisant pas forcément les bonnes lettres, est-ce que vous arrivez à à détecter ça aujourd'hui ? Alors oui, évidemment, on pourrait faire le test mais vous avez pas, j'imagine un compte adolescent même si on pourrait s'y tromper mais parfois mais mais blague à part, c'est pour dire non mais on pourrait faire les tests. Mais l'autre chose aussi, c'est que oui sont les variantes de l'être sont pris en compte mais il faut aussi reconnaître que les jeunes ont beaucoup plus d'imagination.

Donc c'est c'est pas toujours évident. C'est pour ça que après ça c'est là où les partenaires sont quand même importants dans ces domaines. Et ça c'est quelque chose qui nous est beaucoup remonté par I enfant justement cette question des mots détournés.

C'est monsieur Soter tout à l'heure qui parlait du reportage qu'il avait eu sur l'œil du du 20h de France 2. Effectivement, il parlait euh de ça notamment sur toutes les problématique de euh pédopornographie et ça évidemment c'est des choses sur lesquelles on travaille notamment avec les TR Pluger. Ouais. pour pouvoir identifier justement ces ces nouvelles orthographes notamment YouTube.

Oui. Alors, je je précise juste que euh les contenus incitants au suicide à l'automutilation ou au troubles alimentaires qui sont destinés à choquer ou à susciter du dégoût ou qui vont présenter un risque particulièrement important pour les spectateurs ne sont pas autorisés sur la plateforme. Le le deuxième élément, c'est que on met en place des des panels et notamment des fenêtres intersticielles entre les résultats entre la requête tapé par quelqu'un en relation avec l'automutilation, le suicide, les troubles alimentaires et les résultats de recherche très concrètement et c'est le travail de nos équipes de YouTube santé qui travaillent avec les établissements de santé en France et avec des partenaires comme le 3114 au numéro national de prévention du suicide et la Fédération française anorexie boulimining.

C'est c'est c'est le travail de de ces équipes là d'aller aider ses partenaires santé à mieux mettre en valeur en réponse à certaines requêtes des contenus qui font autorité. Donc des contenus qui proviennent de l'établissement de santé, des CHU, des médecins qui sont par ailleurs aussi. On a d'ailleurs reçu les influenceurs de santé ici.

Exactement. Il y a de plus et le conseil national de l'ordre des médecins fait un un gros travail pour essayer de cadrer les choses avec une charte du médecin créateur et on les a beaucoup aidé sur le sujet. Euh euh mais donc typiquement si vous tapez des mots clés, certains mots clés relatifs au sujet dont on vient de parler sur YouTube, vous ne verrez pas de résultats de recherche s'afficher.

Vous verrez une page qui vous redirige vers euh donc le soit le 314, soit la Fédération française d'anorexie Bouimi euh et et qui vous demandera si vous souhaitez quand même accéder à ces pages de résultat de recherche. Et puis pour information, on essaie de développer énormément, enfin nos équipes YouTube santé essaie de développer énormément le contenu relatif à la préservation de la santé mentale sur la plateforme et et à ce jour on évalue parce que c'est quelque chose qu'on quantifie et qui est disponible sur le site de de l'organisation YouTube else. On quantifie à environ 35000 les contenus relatifs à la santé mentale pour la France qui totalise 180 millions de vues.

C'est pas du tout anecdotique et c'est quelque chose sur lequel on veut on veut accélérer. Merci. Alors juste je me suis livré un petit exercice, j'ai tapé skinny sur X et je tombe immédiatement enfin très rapidement sur un contenu avec près de 50000 vues, 4000 likes, 200 retweets.

I be soon skinny trust. Donc avec quelqu'un qui euh se mesure avec une carte bleue, l'épaisseur du ventre et l'autre voilà un ventre un peu plus épais et des traces de scarification. Vous voyez, ça c'est dans les premiers résultats qui ressortent.

Alors, je prends X, hein, mais euh voilà, on a euh la même chose en terme de signalement qu'on a pu recevoir euh par exemple euh sur euh sur euh des réels euh sur euh sur Insta avec euh voilà euh notamment autour de la communauté d'Ophénia, je sais pas si vous connaissez cette influenceuse, et donc des des des on pourra vous montrer si vous voulez les les les screens hein, mais globalement des clarifications assez récurrente sur sur les réels. Donc voilà, soit des rechutés en silence avec des marques de sang sur des mouchoirs, soit des vraiment des scarifications avec du sang qui coulent des des pl chez ces jeunes en fait un très jeunes en général qui suivent cette influenceuse particulièrement et qui voilà qui qui qui gagne beaucoup d'argent avec ces jeunes qui qui ont à malêtre certain. Voilà.

Donc comment vous faites pour modérer a priori ces contenus ? enfin voilà ou dès la publication. Enfin, je sais pas parce que là, c'est plutôt du visuel, même si euh voilà, c'est marqué c'est rien qu'une petite entaille.

Donc enfin voilà, par exemple, enfin je vous montrerai après parce qu'on va pas les diffuser à l'écran ces contenus, mais voilà, c'est assez c'est assez choquant et ça existe même si je tiens à le dire euh il peut arriver sur plus souvent que ce qu'on repère sur TikTok, par exemple, on tape zèbre, on tombe sur des zèbres, on tombe pas sur des scarifications. Non, mais je t'ai je tiens à le dire euh voilà, en tout cas sur Insta. Non, bien sûr, on est preneur de ces contenus et aussi si ça peut nous être remonté encore une fois par les signaleurs de confiance, c'est toujours un excellent levier pour nous pour aller enfin agir plus rapidement.

Et comment vous expliquez que ça passe entre les mailles ? Enfin, est-ce que vous avez mis des dispositifs spécifiques de détection ? Enfin, comment je pense aussi la question qui est posée, c'est est-ce que les mineurs voient ce contenu qui déjà en ce sont des mineurs et qu'il le voi ou qui le publie les deux ?

Bon donc effectivement oui, il y a un problème. Voilà donc il faut qu'on voit ce point là. Je veux bien qu'après la vous me parlez de ça.

OK. Ouais. Voyez et ça globalement c'est le sujet qu'on a avec TikTok de manière très importante.

Mais l'intérêt de cette audition aussi c'est de dire que ces problématiques là ne sont pas spécifiques ou isolées qu'on les observe partout. Alors euh j'ai pris euh X parce que j'ai X et méta physiquement, mais par exemple sur YouTube, alors on n'a pas euh forcément euh observer ce type de chos-là, mais on a d'autres types de contenus qui sont pas moins problématiques. On parlait tout à l'heure de la désinformation en santé et j'avais eu l'occasion euh voilà une rencontre organisée par YouTube justement qui visait à évoquer cette charte de l'ordre des médecins.

Peut-être que monsieur Guirois s'en souvient de de dire "OK, très bien, mais on a le compte de monsieur Cadasat Novas, 2 millions d'abonnés qui fait la promotion du crudorisme et dont les pratiques ne sont pas non plus sans danger." Voilà. Donc, comment est-ce qu'on peut mieux réguler ça ?

Est-ce que vous avez des suggestions d'évolution de la base légale ? Parce que peut-être que il y a aussi question de droit, enfin voilà, il y a toujours cette question de la liberté d'expression du droit. Et dans ce cas-là, puisque nous notre rôle c'est aussi d'éventuellement faire évoluer le droit, si vous avez des suggestions ici, on est preneur.

Je peux je peux peut-être répondre sur ce point. Euh effectivement, nous aujourd'hui, on n' pas de base euh pour pouvoir prendre euh une action sur les contenus que vous avez mentionné euh que ça soit en vertu du droit ou nos conditions d'utilisation. Euh ce qui est particulièrement regrettable parce que je crois que ce monsieur il a fait l'objet de dizaines de signalements à la MIVILUDE et on travaille aussi avec la Milud sur ces questionsl Ouais. et pas je je une condamnation peut-être pour je sais plus je demande si c'est pas exercice illégal de la médecine ou des choses comme ça mais mais qui ne tient pas vraiment à ses propos au propos qu'il tient et et et cette personne n'a pas été condamnée en raison des propos qu'il tient.

Donc peut-être qu'il y a un vide juridique à combler. Euh en tout cas, soyez rassurés, on travaille avec euh avec les autorités sur ces questions et on essaie d'échanger le maximum d'informations euh sur des créateurs ou des créatrices problématiques sur la plateforme. Parfois, on n pas nécessairement la base pour le faire et vous le savez, c'est une question qui est extrêmement importante pour nous notamment au regard du du règlement pour les sur sur les services numériques qui nous oblige à prendre des actions en vertu de critères extrêmement précis et donc soit le droit dans un pays donné, soit nos conditions d'utilisation.

Euh euh sans cela, on est euh on est ensuite euh susceptible d'être poursuivi par ces personnes-là si on prend une action sur leur sur leur compte, sur leur chaîne, sur un de leurs contenus euh qui n'était pas euh qui n'était pas approprie et et ça arrive euh de manière assez régulière. Donc c'est c'est vrai qu'on ça il y a des contenus qu'on ne souhaite pas voir sur la plateforme en l'état actuel du droit, c'est un peu compliqué de de d'avoir une base juridique solide pour le faire. Donc ce que vous dites, c'est que vous nous incitez à revoir peut-être le droit en la matière sur des zones qu'on appelle des zones grises, qu'il s'agisse de des propos que vous évoquez ou peut-être la question du sexisme, du masculinisme puisque ça a fait l'objet d'une actualité récente, continue et subsistante.

Vous vous diriez que voilà, vous avez besoin que le droit soit voilà plus clair sur ces sujets-là pour que vous puissiez vous-même retirer le contenu. En d'autres termes, est-ce que vous ne pourriez pas vous-même durcir vos conditions, votre règlement interne parce que vous seriez finalement poursuivi par les les créateurs de contenu dès lors que le droit lui n'interdit pas ce genre de propos ? Alors, je pense qu'il y a deux éléments.

Euh d'une part, euh le le fait que ces gens ne soient pas condamnés pour ces propos euh par un magistrat ou par un tribunal euh pose problème. Et si on avait ce genre de décision de condamnation, ça serait évidemment beaucoup plus simple pour nous euh de de de prendre une action sur ces contenus. Et et je pense que vous avez tout à fait raison, madame la rapporteur, sur des propos euh sexistes euh ou sur des propos misogynes euh et et on a encore fait faire une analyse juridique cette semaine euh parce qu'on est extrêmement diligente dès qu'on a reçu certains signalements euh par un avocat spécialisé en droit de la presse euh et et qui nous a donné enfin qui nous a rendu 10 pages sur pourquoi est-ce que ces contenus en l'état actuel du droit ne violent pas la législation française, ce qui je pense est un problème et et et c cette cet avocat spécialisant droit de la presse nous expliquait que ces contenus pouvaient être vus comme choquants ou nausés à bon euh mais quand l'état actuel du droit, il ne il ne franchissait pas la ligne.

Quant à la la différence avec nos conditions d'utilisation, je pense qu'on si ces propos ne ou si ces comportements bien que potentiellement choquant ne ne franchissent pas enfin si s ne sont pas réprimés en l'état actuel du droit et si le législateur n'a pas jugé utile de les réprimer, c'est un peu compliqué pour nous de de de dire que nous allons le faire par le biais de nos conditions d'utilisation. Mais évidemment, elles ont vocation à évoluer dans un sens comme dans un autre. Donc on si si le si le droit français vient à réprimer certaines choses, nos conditions d'utilisation peuvent aussi avoir vocation à évoluer.

Mais j'aimerais bien parce que peut-être de manière générale, c'est des questions qu'on se pose. Par exemple, dans les conditions générales d'utilisation de YouTube, nous nous autorisons pas les contenus qui incitent à la violence ou à la haine envers certains individus ou groupes d'individus en fonction de caractéristiques suivantes, sexes et cetera. Ça, on le retrouve globalement dans toutes les conditions générales d'utilisation.

Comment ça se fait que vous ne pouvez pas être parfois mieux disant que le droit en vigueur ? Est-ce que vous pouvez pas vous-même avoir une part de bah pas de libre arbitre, enfin si de libre arbitre d'une certaine manière et avoir des conditions générales d'utilisation plus protectrices que celles qui régissent l'espace social en général ? Bah je peux je peux répondre pour ce qui est YouTube mais euh mais c'est toujours une mise en balance assez délicate entre euh liberté d'expression et euh suppression contenu potentiellement choquant.

Je je encore une fois je je pourrais vous faire parvenir à site confidentiel euh la la l'analyse de de cet avocat mais qui me semble extrêmement précise. Vous savez que on a des jurisprudences assez claires dans l'Union européenne sur la liberté d'expression y compris quand elle concerne des contenus choquants et je pense qu'on peut s'en féliciter parfois. Enfin, je pense que je pense que c'est des c'est c'est des décisions qui ont permis de faire en sorte que que que des journaux satiriques euh qu'on connaît parfaitement puisse encore exercer librement dans notre pays.

Donc c'est c'est une mise en balance particulièrement compliquée entre liberté d'expression et suppression de contenu choquant. Après encore une fois si le droit doit évoluer, je je pense qu'il y a pas de raison que condition d'utilisation n'évolue pas. Ouais, peut-être que MTA et X vous pouvez réagir là-dessus sur le fait que pourquoi est-ce que vous vous n'avez pas des conditions générales d'utilisation qui finalement soient plus vertueuses aujourd'hui que le droit et qui vous permettrait finalement d'avoir des personnes qui viennent sur votre plateforme qui doivent accepter les conditions générales d'utilisation et qui donc acceptent évidemment par exemple en l'occurrence de ne pas tenir de propos sexistes.

Ça peut paraître évident. Vous pourriez être mieux disant, on va dire. Je pense que euh en fait, je pense qu'on doit regarder l'intention et l'impact.

Euh l'intention, on peut la partager, mais peut-être pour rebondir un peu sur ce que dit Thbo, faut pas toujours euh regarder le DSA un peu comme quelque chose d'intouchable. Je pense que le DSA, elle mérite de créer un cadre général qui dit "Vous devez mettre en place des moyens de modération, expliquer comment ça marche." Voilà.

Mais euh aujourd'hui la question qui se pose à nous, ce que je vois à la pratique, c'est que état par état, situation par situation, cas particulier pard le quotidien, euh les mêmes questions se se reposent aujourd'hui. Euh être mieux disant, je je pense que parfois on l'a été. Euh je je mentionnais tout à l'heure le cas du euh de le de du nid de l'holocauste.

C'est même aujourd'hui donc modéré même dans des pays où ces propos sont autorisés. Euh voilà au titre de la liberté d'expression. Euh mais mon message de ça, c'est de dire on peut faire évoluer ces conditions mais on devrait pas nous laisser décider seul de le faire.

Et donc je pense qu'il faut créer un système dans lequel où euh avec des parties prenantes, avec l'ARCOM, avec vous, euh il faut que ce soit un parce qu'il faut quand même un minimum de consensus parce qu'on pourrait prendre des décisions euh pour bien faire qui ne correspondraient pas finalement en terme d'impact ou même on pourrait être critiqué dans notre légitimité à le faire. Après tout, qui êtes-vous pour dire ce que je peux dire ou ne pas dire que c'est un débat que sur lequel on est confronté au quotidien ? Donc mon message aujourd'hui c'est dire il y a la régulation, elle est là, on peut pas faire 100 aujourd'hui.

Elle ce cadre est quand même précis, il a été spécifiquement créé pour nous. Mais dans le quotidien de tout ça, je pense que c'est important que ce discours, ces engagements multiacteurs se poursuivent. L'observateur de la haine créé par la loi d'Itavia à l'Arcom, ben il doit vivre, j'ai envie de dire le groupe de contact permanent du ministère de l'intérieur n'a pas été réuni depuis plusieurs mois.

Il avait été créé pour réunir les plateformes et l'État pour parler précisément de ces sujets notamment de terrorisme mais pas que. Aujourd'hui, on pourrait l'étendre. Donc je pense que j'entends ce que vous dites mais mon point de vigilance c'est de dire on n' pas vocation à décider seul de ce qu'on peut dire ou ne pas dire parce que quelque part vous nous donnez un pouvoir aussi qui est parfois peut être critiqué dans l'autre sens que j'ai connu.

Donc c'est pas une manière de me cacher pour dire je ne veux rien faire. Je dis je sais pas moi je peux rien faire personnellement mais ce que je dire mais c'est plutôt de dire c'est important de maintenir voilà cette approche multiacteur et qu'on soit bien d'accord. On a signé par exemple à l'arc la la charte alimentaire donc c'est un sujet euh donc de dire mais comment on est plus vertueux dans ces domaines ?

Comment on peut aller plus loin ? Donc on y travaille avec la RPP. Donc c'est un exemple récent que que j'ai en tête.

Euh voilà, donc il y a des zones sur lesquelles on peut avancer, mais ce qui est bien dans ce processus par exemple, c'est que vous avez une autorité publique, vous avez les entreprises, vous avez bref la RPP, vous avez des instances et après au terme de ce processus, on peut dire "OK, on avance ensemble mais quand la plateforme décide seule et j'entends vos intentions, euh j'ai vu des cas où on se plaignait aussi dans l'autre sens." Donc en fait, il faut juste qu'on qu'on si au terme de ces processus, on peut se dire ben voilà, il y a certes le DSA qui est un peu tout là-haut à Bruxelles et qui existe et qu'on doit appliquer, mais à l'échelle de notre pays, dans le cas de notre consensus démocratique, social, de ce qu'on considère être acceptable ou pas acceptable, comment on fait pour que ça s'applique de manière beaucoup plus au quotidien sur des cas en plus nouveaux ? Parce que ce que vous décrivez, il y a des choses qui sont nouvelles pour nous, on n pas Voilà.

Donc je suis peut-être pas assez clair dans ma réponse mais je je pense qu'on doit pas se décider seul. Ce serait mon message que j'aurais à dire aujourd'hui même avec les meilleures intentions du monde. Et je sais que c'est pas facile à entendre parfois ce que c'est même c'est même difficile à entendre parce que je vais prendre un seul exemple.

Oui. Mais je m'attendais à votre réaction. C'est pas le la politique sur la nudité par exemple.

Ouais. Pourquoi vous avez une politique très proactive sur la nudité et pas sur le sexisme dans les propos ? Est-ce que c'est pas presque plus choquant d'entendre un homme qui appelle à battre les femmes que de voir un bout de téton ?

Alors, soyons très clair, déjà sur la nudité, je je pense que on parle beaucoup de des mineurs. Euh oui, avoir une politique stricte sur la nudité, même très stricte, empêche que des mineurs consultent des images même à caractère pornographique sur lesquels ils n'ont évidemment rien à faire. Deuxième point, il y a ce qu'on appelle le revenge porn.

Par exemple, quand vous avez des photos qui sont prises d'une ex petite amie et qui sont mis sur les réseaux, quand vous avez une politique de nudité très stricte, normalement grâce à un algorithme, vous pouvez arriver à bloquer ce type de contenu. Donc moi, j'assume totalement une politique de nudité hyper stricte. Certains la qualifient de puriten, mais elle a le mérite d'être efficace.

Justement, et j'allais répondre à votre dernière question. Après euh ce que si des paroles sont tenues pour dire il faut taper ou attaquer telle ou telle personne, ce sont des propos qui doivent être modéré. Donc là, on parle pas de sexisme un peu du café du commerce si j'entends bien.

On parle de propos qui incitent à la violence. Tout à fait. Enfin la violence envers les femmes par exemple.

Voilà. Ou à euh donc ça doit faire l'objet d'une modération. Et si nous ne modérons pas, nous avons des comptes à rendre.

Moi, je n'ai pas là-dessus de de désaccord de principe, heureusement d'ailleurs, mais je vois pas le le je ne vois pas le voyez le le si on va revenir parce que c'est au cœur de la question. Euh vous nous dites bon, on peut pas être vraiment plus dur que le droit parce que liberté d'expression dans les propos mais finalement la publication d'une image est en soi une expression. On est d'accord ? l'expression d'une image avec de la nudité, vous censurez alors qu'en fait rien dans le droit n'interdit en soi d'avoir des gens enfin aujourd'hui vous avez un peu amélioré mais avant quand on mettait une photo d'une statue grecque, elle était elle était censurée sur M.

Aujourd'hui les statut grecs non. Par contre parfois on a des des des sportifs ou des gens qui nous ont dit "Moi, j'ai j'ai mis voilà, j'étais un peu je revenais de ma séance de sport, je crois que on l'a dit dans une audition he et hop mon contenu a été banni." Donc voyez bien qu'il y a il y a de il y a l'impression d'un de poids de mesure.

Voilà, pour être très clair, euh déjà on peut faire appel. Donc on fait des erreurs de modération et l'idée c'est ce que d'ailleurs ce que la réglementation demande, on doit pouvoir faire appel. Donc quelqu'un qui a été euh fait l'objet d'une surmodération peut faire appel et heureusement normalement son contenu doit être rétabli.

Mais je réitère, on parle pas que de nudité un peu topless façon émission de du grand cabaret. Parfois, on parle de nudité que que des mineurs ne doivent pas regarder. Mais là pour le coup, on est d'accord avec vous en fait attention je dire tout ce qui est contenu pornographique euh enfin oui oui.

Mais mais du coup, ça veut dire qu'on va moins tolérer le contenu pornographique et encore on vous demande pas de le tolérer que du contenu qui pourrait être selon vous conforme à une liberté d'expression mais sexiste. Est-ce que ça pose pas un problème ? puisque là on parle des effets que ça peut avoir notamment sur des personnes qui sont vulnérables comme les mineurs quand on a des influenceurs qui promeent en fait des des normes de genre inégalitair et c'est quand même contraire à par exemple la devise républicaine.

Non mais il faut à ce moment-là un il faut les condamner. Euh deuxièmement euh il y a je réitère, il y a des contenus qui peuvent être de l'ordre du sexisme, du café du commerce que l'on entend à la télévision ou dans des produits disponibles si on prend une émission comme Frenchy Shore sur Paramoon Plus, c'est de voilà, ce sont des choses qui peuvent choquer et qui sont peut-être visibles par des mineurs. Donc on parle pas de réseaux sociaux.

Donc on est dans un environnement malheureusement où le sexisme existe encore partout et en tout lieu. Il existe aussi malheureusement sur les réseaux sociaux parce que il y a pas aujourd'hui une loi qui le condamne Ubi et Torby. Maintenant, pour être très clair, là où les règles doivent se focaliser, c'est sur les attaques, les appels à la violence qui vont bien au-delà de ce qu'on peut appeler et ce qui peut nous choquer ici d'un sexisme du café du commerce, mais qui sont qui sont là de l'appel à la violence et qui portent atteinte à la sécurité des personnes.

Et dans ce cas, il est évident que les règles doivent s'appliquer si elles ne sont pas appliquées. À ce moment-là, on a des comptes à rendre. Mais je je je vous alerte juste sur le fait que euh on on n'érquera pas malheureusement nous le seul sujet du sexisme euh en l'éliminant.

D'ailleurs, il faudrait le définir parce que parfois euh bon voilà, on parle pas de choses d'appel à la violence, on parle de de de du sexisme un peu d'atmosphère si on peut dire. Il faudrait pouvoir le définir et après comment on agit sur ces contenus. Donc voilà, c'est alors pourquoi les réseaux sociaux et pas sur d'autres types de contenu numérique que l'on peut voir et librement accessible par le grand public.

Donc je pense que là encore il faut avoir une perspective assez 360. Non, mais ce qu'on enfin pour rebondir sur ce que ce qu'Arthur de la porte vous expliquait, c'est que on a le sentiment du coup que vous arrivez à à appliquer une forme de principe de précaution notamment sur le sujet de la nudité pour en effet éviter que les mineurs qui peuvent se promener sur sur la plateforme puissent être confrontés à ce type d'image. Mais qu'en revanche ce principe de précaution, vous décidez de ne pas le mettre en œuvre sur d'autres formes de contenu problématiques.

Mais parce que euh on peut pas, c'est difficile le chance de censurer une parole. A priori euh les gens s'expriment sur une plateforme, si ça tombe sur le coût de la loi ou des règles de la plateforme, à ce momentlà, ils sont sanctionnés à postériori. Euh c'est la règle générale, je dirais, en matière de d'expression, si j'ai bien euh compris le droit applicable.

Donc il est quand même difficile euh de prendre des décisions un peu torb je supprime le sexisme. Euh imaginons qu'on arrive à définir très précisément de quoi on parle parce que il faudrait être précis sur les critères et après dire bon ben on y va et puis par ailleurs, le sexisme prospère partout et en tout lieux dans la société. Bon voilà, OK mais une fois de plus je pense que c'est pas un choix qu'on devrait faire seul.

Voilà. Euh sincèrement donc je j'invite toutes les parties prenantes à vraiment avancer ensemble et pas juste nous laisser cette responsabilité et notamment la définition de ce qui est vraiment attendu et le type de contenu que vous souhaitez qu'on le retire. Euh mais les choses peuvent évoluer mais mais voilà, soyons bien au clair plutôt sur la méthode, je dirais.

Très bien, on aura ce débat je pense sur la question de la vérification de l'âge, mais personnellement, j'ai du mal à comprendre l'argument qui est de dire il faut qu'on avance groupé et personne ne doit prendre la décision avant les autres. Mais vous êtes des entreprises privées, on est dans une société, une économie de marché. Vous pourriez aussi considérer que le fait d'avancer euh d'être en avance sur les autres en terme de pratique vertueuse pourrait vous donner un avantage concurrentiel sur vos les autres plateformes.

Donc vous pourriez aussi faire ce choix inverse de dire "Nous, on va être meilleur que les autres et on va pratiquer une modération peut-être un peu plus comme je le disais principe de précaution que les autres. Ça vous rendrait peut-être plus attractif que les autres plateformes. Oui, mais là aussi le paradoxe c'est vous confiez une entreprise privée une une priseation complète de la liberté d'expression qui n'est pas totalement le sens le sens de ce qu'a voulu le législateur ces dernières années puisqu'il nous demande de rendre des comptes en terme de d'absence de modération mais aussi en matière de surmodération.

Si on regarde ce que dit le conseil constitutionnel sur la loi Avia, c'était frappant. On a dit on peut pas laisser les plateformes décider en 24 heures de ce qui est illégal ou pas illégal contraire à la Constitution. Bon pas de chance.

Euh le DSA aussi euh pose de ses jalons. Donc je une fois de plus, je pense que on souhaite pas aller vers ce système d'ultra privatisation de la liberté d'expression et donc j'invite vraiment à avoir plutôt une logique multiacteur. Voilà euh c'est je ne dis pas que les sujets posés sur le fond ne sont pas pertinents.

Bien au contraire, j'en ai connu des dizaines et celui-là est évidemment important, mais je pense qu'il faut être juste la manière dont on décide sur des sujets extraordinairement sensibles en fait dès qu'il s'agit de retirer du contenu ou des comptes, même si ce sont des choses que l'on n'aime pas sincèrement. Dis-lez. Oui, merci beaucoup.

Peut-être je voulais réagir sur cette question. Merci madame la rapportrice. Non, je suis très sensible à votre question.

Ça fait partie des sujets sur lequel on réfléchit enfin de façon tout à fait permanente quand on pense à la question de la modération. Effectivement, c'est vraiment toujours une question d'équilibre. En soit ce que vous disiez par rapport au sexisme chez nous en fait et franchement je pense que ce sera aussi le cas des des autres plateformes mais je vais quand même parler pour pour X.

En fait, on va interdire la conduite haineuse sur base de catégories protégées et donc le le genre et le le enfin l'orientation sexuelle sont des catégorie protégé. Après, ce qui est compliqué, c'est qu'une fois qu'on a dit ça euh si vous voulez en fait, il y a certains contenus où ça va être on va pouvoir clairement déterminer cette attaque et il y a d'autres en fait où la façon dont s'est tourné et cetera, c'est pas vraiment clair. Et pour nous, c'est un peu ça qui est toute la difficulté.

C'est-à-dire sur certains types de contenu, c'est assez clair, sur d'autres, c'est pas clair. Mais en soit, si vous voulez, sur ces sujets-là, potentiellement par rapport à ce qui est reconnu dans laall LC, sur ce qui se constitue de la haine, on peut aller plus loin. Mais c'est la question en fait de par rapport à ce qu'on voit, quelle décision on va prendre et honnêtement c'est vraiment pas évident, ça a l'air mais c'est vraiment pas évident.

Et sur certains cas, c'est vrai qu'on va se dire "OK, là, on prend la décision, on modère." Et sur d'autres cas, c'est vrai qu'on a franchement un doute et en fait souvent dans le doute, on va plutôt avoir tendance à laisser en ligne qu'à modérer dans le sens on va se dire voilà dans le doute on on préfère privilégier la la caisse les gens à s'exprimer. Après ce que vous disiez aussi par rapport aux termes détournés et cetera, c'est vrai que nous là-dessus euh et je rejoins Antoine sur ce sujet-là, c'est vrai qu'il y a ce que la loi peut faire en terme de ce qu'on retire avec la loi ou avec nos règles.

Il y a il y a forcément une approche toujours un tout petit peu binaire, je veux dire, c'est toujours un peu qu'est-ce que qu'est-ce qu'on va appliquer. Mais après, il y a la question en fait de recueillir de l'information par en fait des associations qui vont avoir une expertise sur le sujet. Nous en tant que plateforme, on va quand même traiter d'un ensemble de sujets qui est assez large et en fait pouvoir travailler des associations qui ont une expertise particulière euh c'est très intéressant pour nous.

On en avait discuté un petit peu avec l'ARCOM dans le cadre de ce qu'ils vont faire avec les signalurs de confiance. C'est ça que nous pouvoir enfin nourrir cette discussion, je pense que ça nous permettrait de mieux appréhender des phénomènes et en fait de savoir où placer le curseur. Je reviens sur l'exemple qui a pris euh monsieur le président sur la maigreur. dirait que enfin moi de temps en temps ça m'interpelle aussi quand je vois par exemple bah des campagnes pour des marques de mode en fait avec des mannequins très maigres et en fait je veux dire nous enfin quel est le enfin je veux dire c'est toujours une question de curseur c'est-à-dire ça ça c'est vu que c'est enfin comment dire ce que je veux dire c'est que vu que c'est autorisé dans l'espace public on va toujours un petit peu regarder ce qui se fait ailleurs pour appliquer la enfin de la modération sur notre service et donc en soi la question de l'apologie de la maigreur c'est compliqué à savoir ce qui peut faire de l'apologie est-ce qu'une campagne de publicité fait de l'apologie de la maigre URO franchement ça se discute.

Est-ce qu'effectivement le poste qui vote monsieur de la de la porte peut enfin correspondre à quelque chose qui est interdit chez nous ou quelque chose où en fait voilà c'est un peu contestable mais ma fois c'est pas interdit. Donc tout ça c'est vraiment des réflexions assez compliquées mais mais euh mais enfin tout à fait à disposition là-dessus pour pour vous faire part nos réflexion. Et pour X, s'agissant de de votre plateforme, le les contenus pornographiques aujourd'hui sont acceptés.

Euh alors oui, donc il y a une particularité par rapport au contenu pour adultes. Euh alors c'est pas une décision qui tient de X en fait, c'est une décision qui est enfin qui est antérieure au rachat au rachat de de la plateforme. Euh les contenus pour adultes en fait.

Alors ça, si vous voulez, il y a pas forcément une décision par rapport à ce type de contenu de manière particulière, mais en fait c'est plus en fait une question qui qui s'inscrit en fait dans la question de la liberté d'expression par principe et dans la mesure où c'est des contenus qui sont pas des contenus illégaux. Après, c'est des contenus qui sont restreints notamment pour les publics mineurs mais pas seulement. En fait, de manière générale, en fait, la règle sur la plateforme, c'est que les comptes qui euh enfin qui produisent ce type de contenu doivent être derrière un filtre de visibilité sur le compte.

Ça veut dire qu'en fait le compte n'est pas visible, sauf si on clique dessus. Ils ne sont pas euh à des zones à haute visibilité de la plateforme. Euh, ils peuvent pas être enfin les gens ne doivent pas pouvoir tomber dessus, sauf s'ils le cherchent de façon active.

Et pour les situations mineures, ils sont dans un système de edge getting par rapport à ça. Mais vous avez raison, c'est pas interdit pour autant, c'est restreint. Merci.

Mais pour aller plus loin parce que c'est vrai que bon au-delà de son nom X, il y a beaucoup de contenu X, on est d'accord ? Ça je c'est ma première question. Ça dépend ce que vous entendez par beaucoup.

Euh après en soit nous c'est un contenu qu'on restreint, on n'interdit pas mais on le restreint. Après, vous voyez aussi éventuellement parce que c'est une discussion que j'avais eu dans une autre instance, mais il faut voir que certains contenus en fait c'est des liens vers des sites tiers ou du spam ou du coup on modère pour le coup. Ce serait là même si on avait modéré quand il y a parce que par exemple quand on dit voilà un extrait l'intégralité sur mon compte Only fan, vous modérez ou vous vous modérez pas ?

Bah ça normalement si c'est un un un contenu qui renvoie vers un autre compte et qu'on et qu'on considère que le compte est malveillant, on va modérer en bloquant le compte. Ma question Ma question c'est si je suis acteur porno que j'utilise X pour poster des extraits de mes vidéos et que derrière je renvoie vers mon compte Fan, c'est autorisé ou c'est pas autorisé ? C'est restreint.

Du coup, vous allez être derrière un filtre de visibilité ou en fait c'est autorisé. Alors oui, comme j'expliquais, le contenu pour adultes, c'est autorisé. Après, il faut voir au contenu spécifique parce que tout n'est pas autorisé.

C'est vraiment de la nunité pour pour adultes qui est consentie. Donc, il y a certains types de contenu qui va être qui va être interdit. Donc, c'est vraiment très granulaire l'application de cette politique et euh et ça va dépendre en l'occurrence de de ce que vous enfin.

Par exemple là, si je mets une vidéo, nouvelle vidéo avec machin, euh voilà, la vidéo en exclusivité sur son compte MIM, paf, le compte MIME, ça c'est autorisé. Honnêtement, je c'est compliqué pour moi de vous répondre parce que je suis pas à la modération, mais si c'est consenti derrière un fil de visibilité et sur un compte restreint, a priori c'est pas interdit. Si c'est du contenu qui est qui est qui est légal et du contenu pour adulte, c'est pas voilà.

Donc c'est du contenu pour adulte. vous, j'ai jamais mis à aucun moment ma pièce d'identité pour euh avoir accès euh à ce contenu. C'est normal ou c'est pas normal ?

Ah pardon, je suis pas sûr de comprendre votre question. Ben en fait là, je vais sur la page euh X influenceur. Je viens de vous lire un bout de son poste X, le dernier, enfin je viens de l'ouvrir comme ça et euh et qui renvoie par ailleurs vers son compte MIM pour avoir l'intégralité.

Donc il y a une stratégie de monétisation, c'est-à-dire que X sert de d'appart en fait un peu de teasing. Euh et pour avoir accès à cette ce bout de vidéo porno, j'ai mis aucun euh aucun dispositif. Enfin moi j'ai jamais mis mon ma pièce d'identité pour me faire pour avoir accès à ça.

C'est normal ou c'est pas normal ? Bah là en l'occurrence le contenu est pas sur X vu qu'il est sur mime. Donc en fait en l'occurrence nous ce qu'on va faire c'est Non je vous parle non c'est sur X.

Là je vous lis un contenu qui est sur X. OK. D'accord. qui me renvoie vers un compte mim avec une un bout de vidéo porno.

Bah écoutez, là je pense qu'on rejoint la question de la vérification de l'âge qu'on évoquait, c'est-à-dire pour les minor je pense que l'idée c'est pas de vérifier l'âge des utilisateurs. Exemple, je suis majeur. Ouais.

Mais je pourrais être mineur puisqu'on m'a jamais demandé mon âge. Oui. Oui.

Mais justement c'est toute la question autour de la vérification de l'âge et donc de ce qu'on va mettre en place pour vérifier l'âge des des utilisateurs. Vous allez mettre ou ce que vous avez mis. Nous on a des obligations juridiques à mettre en place une solution à partir de l'été dans le cadre de l'online safety code européen qui va donc toucher les utilisateurs français.

Donc on doit mettre en place en fait des des systèmes en fait de ouais de vérification de l'âge comme ça qu'on le traduirait je pense en français edge assurance permettant en fait de savoir avec une certitude très importante l'âge des utilisateurs. La question de la carte d'identité évidemment sensible comme vous le savez ça fait partie des données personnelles et donc du coup nous on va regarder un petit peu ce qui est au niveau de ce qui est recommandé en fait notamment par le régulateur irlandais par rapport à ce qu'on peut mettre en place et a priori c'est plutôt un système qui fonctionne avec un tiers des confiance. Nous en fait, on n' pas forcément l'information euh sur l'utilisateur.

Enfin, l'idée c'est de pas d'avoir d'information par rapport à l'utilisateur pour limiter en fait le passage le le l'échange de données personnelles et en fait de juste savoir si l'utilisateur auquel on a affaire est un mineur ou un majeur. C'est un sujet sur lequel on a beaucoup travaillé et je pense que mes homologues le le en témoigneront au cours des derniers mois au niveau français mais également au niveau européen. Et donc dans le cadre en fait bah donc à la fois pour nous de l'online safety code irlandais mais également dans le cadre du DSA de l'article 28, on a en fait toute une checklist de ce qu'on doit mettre en place pour protéger les mineurs en fait qui intègre la question de la vérification de l'âge.

Et donc aujourd'hui nous c'est un sujet qu'on prend très au sérieux que vous avez complètement raison et je rejoins totalement là-dessus c'est la pierre angulaire en fait d'un dispositif efficace pour protéger le mineur. Tant qu'on ne sait pas l'âge de la personne qui est face à nous on peut pas le protéger efficacement. Et donc en fait, il faut qu'on puisse mettre un système en place qui est à la fois respectueux de la vie privée, mais à la fois qui vérifie l'âge de la personne avec une forte certitude sans avoir la personne face à nous.

De ce point de vue-là, il y a les initiatives qui avaient été euh euh mentionnées euh par Thbao d'un point de vue de ce que de ce que peut mettre Google en place pour nous transmettre des informations. Euh mais nous, notre point de vue en fait, c'est que bah la plateforme doit faire sa sa part du travail, mais qu'en fait si on a un écosystème qui euh sur toute la chaîne euh de valeur en fait du du téléphone, jusqu'à l'opérateur, jusqu'à la plateforme, mais enfin s'échange les signaux pour savoir si la personne est mineure ou majeure, on protège mieux les enfants en ligne. Je pense qu'il y a un vrai momentum là-dessus au niveau international et donc on doit y arriver.

Ce serait facile s'il y avait pas des enjeux d'un point de vue de la vie privée. En fait, il y a quand même un équilibre à trouver d'un point de vue du respect des différents droits et à mettre en place un système proportionné. Et c'est ce à quoi on travaille actuellement.

En tout cas, une chose est sûre, c'est qu'aujourd'hui, vous n'avez aucun dispositif de vérification de l'âge. Vous pourrez vous pouvez créer un compte sur X sans qu'on vous demande de justifier votre âge et donc vous pouvez accéder directement à du compte à du du contenu pornographique. C'est une réalité aujourd'hui.

Donc, j'entends le besoin d'équilibre entre différents droits, mais le droit de à protéger nos jeunes n'est pas respecté de toute évidence aujourd'hui. J'avais une question moi peut-être pour vous tous qui porte sur le fait qu'on a été beaucoup finalement sollicité sur le sujet de votre rôle en tant qu'espèce de plateforme intermédiaire. Je m'explique, beaucoup de contenu peut être diffusé, contenu problématique peut être diffusé sur Snapchat et puis finalement relayé euh sur peut-être Instagram, peut-être X et ensuite renvoyer vers bah voilà des plateformes un peu plus obscures comme MIM ou euh ou encore j'ai oublié le nom de l'autre, Only Fan.

Merci. Comment est-ce que vous arrivez à bah à gérer votre votre rôle d'espèce d'intermédiaire mais qui de toute évidence quand même sert à un contenu qui n'est pas un contenu acceptable ? Est-ce que vous arrivez à identifier ces comptes ?

Je pense notamment on a reçu un influenceur l'année la semaine dernière qui était beaucoup plus présent sur Snapchat finalement mais dont les les les contenus étaient massivement reproduits sur TikTok ou peut-être je sais pas exactement si celui-ci était sur Instagram mais sur voilà plusieurs plateformes. Comment est-ce que vous gérez ça ? Euh je veux être sûr de bien répondre à votre question.

Bon après le fait qu'il y ait des gens présents sur différentes plateformes aujourd'hui, bon voilà c'est une réalité. Après, je crois quand même que les formats techniques sont un peu différents parce que Snap, c'est du contenu euh de disparition en éphémère au bout de 24 he c'est beaucoup de la vidéo. Enfin voilà, je nous euh c'est vrai qu'Instagram c'est très photo maintenant ou les reels voilà ce genre de de choses.

Euh donc le le sujet je je sais pas, je pense qu'ils sont présents, ils adaptent leur contenu. Donc je sais pas s'il y a un sujet problématique en tant que tel. Là où je veux être très clair aussi par contre, c'est que si et ça nous arrive de voir de recevoir des demandes mais bon c'est comme ça euh telle ou telle personne a mis des liens vers Only fans ou des sites pornographiques, là par contre son compte peut Instagram peut être retiré parce qu'il y a onutorise pas le contenu porno sur la plateforme mais si vous renvoyez vers du porno en dehors de la plateforme en disant viens voir mon compte femm là aussi on est susceptible de prendre une action de modération qui peut vous conduire à la fermeture de votre compte et c'est déjà arrivé et certains et certaines s'en plaignent.

Bon voilà, mais euh j'espère avoir répondre à votre question parce que je je voilà je je vous les compléter euh Non, mais je pense que il y a il y a un point qui est effectivement assez important, c'est que on nous dit souvent, enfin on nous dit souvent ça qu'en gros c'est on a l'impression que c'est les mêmes contenus qui sont sur toutes les plateformes, mais en fait c'est il y a aussi ce sujetl et les personnes qui diffusent ce genre de contenu sont souvent assez intelligentes pour ne pas pour vraiment être à la limite. et ne pas diffuser en tous les cas sur Insta des c'est quand même ça le sujet des contenus qui seraient qui qui passerait pas le fil de la modération. Donc on a bien conscience que c'est des influenceurs ou des créateurs de contenu, peu importe qui sont sur des plateformes et qui sur certaines plateformes postent du contenu problématique et que du coup ça leur fait aussi un relais.

Mais il se trouve que sur Instagram spécifiquement, il ne publie pas le même contenu. Nous, on a quand même pas mal de témoignages de lien vers des comptes mim depuis Insta. Mais ça, on est preneur typiquement parce que ça comme le dit Anton, c'est pas autorisé.

Donc ça, on est preneur de ces retours là parce que juste ça ne devrait pas être sur la plateforme. Pardonnez mon ignorance. Mim, c'est quoi ?

C'est comme Only fan et tous ces trucs. Oui. OK.

Oui. Ou oui. D'ailleurs, on a même eu l'occasion de faire des tables rondes avec Mim et et les équipes de MTA.

Donc, vous les avez sans doute déjà croisés. en terme d'affaires publ expert dans ces domaines mais euh si c'est comparable onifan il y a il y a une difficulté voilà qui doit être réglée évidemment. Voilà, c'est c'est la même chose et c'est vrai que ça c'est très très fréquent mais pour le coup vous vous dites que vous fixez pour objectif de modérer ce style de contenu ce qui n'est pas du tout le cas pour X pour le coup.

Bah alors enfin comme je disais tout à l'heure, tout dépend un petit peu du enfin du contenu en fait si c'est un enfin des liens en fait vers du contenu qu'on enfin qu'on qu'on considère comme étant interdit sur la plateforme, on va le modérer. C'est un peu compliqué sans mais comme vous autorisez la pornographie et que par ailleurs c'est des systèmes de vidéo à la demande, vous n'avez pas accès au type de contenu sur MIM, vous allez pas aller consulter le contenu qu'il y a sur MIM, c'est du contenu de charme ou du contenu pornographique. vous autorisez des liens vers cette plateforme, vous n'avez aucune capacité de contrôler ce que contient le lien.

Par contre, vous laissez les liens. Honnêtement, j'en suis j'en suis pas sûr qu'on les autorise. Je veux dire, là, je suis je suis pas absolument certaine que c'est quelque chose qu'on autorise.

Après, c'est pas parce que vous le trouvez que ça veut dire qu'on l'autorise par ailleurs he si c'est pas ça a pas forcément été signalé et cetera et cetera. Ça peut aussi être du spam. Il y a une grosse partie de ces liens qui qui pe 70000 vues.

Enfin, vous voyez, je suis je voilà, je je vais vous montrer on fan, je viendrai vous voir après, vous verrez. Enfin, c'est que c'est que du porno. Alors, c'est des vidéos porno par ailleurs.

Donc, c'est des vidéos porno avec un lien vers mime. Bon ben voilà, c'est pas c'est pas c'est pas compliqué. C'est il suffit de voilà, on a même reçu un influenceur qui fait ça dans cette commission.

Mais après, ce que je peux vous proposer éventuellement, c'est que vous m'envoyez les liens en particulier. Comme ça, nous on peut regarder ce qu'on appliquerait côté modération et comme ça on vous dit spécifiquement sur tel contenu, on va appliquer, on va appliquer c, on va appliquer ça. Après pour répondre à la question de est-ce qu'il y a certains contenus qu'on peut retirer enfin qui seraient retiré sur certaines plateformes, mettons les absent toujours sur Snapchat qui seraient sur Snapchat et euh et qu'en fait on retirait sur X.

En soi, il y a quand même des dispositifs dans lequel dans lesquels on peut les faire et je pense notamment à la nulité non consentie. En fait, il y a des dispositifs typiquement comme Stop and CII où en fait on a on partage en fait ce qu'on appelle des euh des bases de de de H. Enfin, c'est un mécanisme en fait technique en fait qui permet de ça donne en fait une une enfin une carte d'identité au contenu, une empreinte au contenu.

Et en fait si euh il y a par exemple la du contenu euh intime non consenti qui est partagé sur Snapchat, Snapchat peut nous l'envoyer en disant "Attention, nous on a eu un signalement sur ce type de contenu, retirez-le également sur X, également sur les autres plateformes." Donc ça marche sur ce type de contenu également sur tout ce qui est la question de l'exploitation sexuelle des enfants. fait partie de pas mal de dispositifs comme la Tech Coalition, Internet Watch Foundation qui font qui ont en fait ce type de dispositif et le terroriste.

Donc je veux dire potentiellement là-dessus, il peut y avoir des réflexions autour de autour de ce type de de dispositif également parce qu'on parce que ça existe et qu'on le fait déjà sur certains contenus. Vas-y, vas-y. Euh, ah bah si, pardon et Thier Ter, on avait deux questions.

Mais je ça je on était lancé dans notre phase X mais je sais pas si vous souhaitez pour Oui, parce qu'en fait pendant ce temps là, les conversations s'enchaînent et du coup, on narrive pas forcément à réagir sur les é. Bon, donc je vais d'abord réagir au propos de monsieur Battesti tout à l'heure qui était tout à fait intéressant. La question c'est de savoir comment modérer les contenus pour pouvoir protéger nos notamment nos enfants mineurs.

Donc j'ai bien compris que c'était compliqué pour vous mais vous avez mis le doigt sur quelque chose qui me semble extrêmement important pour lequel j'ai une différence d'appréciation avec même la rapporteur. Je crois que vous avez souligné et je suis je vous rejoins sur ce point euh pour modérer un contenu. Donc si vous si nous laissons les grandes plateformes que vous êtes qui êtes de grands acteurs commerciaux qui avaient une puissance commerciale de frappe absolument énorme, il faut le dire.

Moi vous vous êtes uniquement au départ des des sites enfin des sites commerciaux marchands. Vous avez un modèle économique, vous n'êtes pas des élus, vous n'avez pas été choisis par la population. Par conséquent, vous laissez à vous et à vous seul la responsabilité de choisir ce qui doit être modéré, c'est le risque d'une dérive. qui à mon sens menace notre démocratie.

Donc je ne suis pas d'accord avec cette approche- là et je pense que c'est vous nous renvoyez finalement à nous législateur la responsabilité de définir ce que doit être un contenu que vous devrez après modérer et exécuter selon les indications que nous portons. Et du coup, je trouve cette approche, moi je suis je vous rejoins sur ce point. Je n'ai pas envie que le choix de dire ce qui est bien, ce qui est mal, ce qui est bon, ce qui est mauvais reviennent à des personnes qui n'ont pas été élues et dont les choix n'ont pas été définis par la représentation nationale que nous incarnons aujourd'hui.

Donc ma question d'abord c'est de savoir est-ce qu'il serait vous avez parlé de groupe de contact avec le ministère de l'intérieur tout à l'heure mais peut-être est-ce que ça ça ne serait pas utile pour faire évoluer constamment parce qu'on peut entendre que il faille que nous législateurs fassions ou sous la forme d'un d'un acte défini par le ministre en charge nous puissions faire évoluer au fur et à mesure les règles et les réglementations pour que vous puissiez vous y conformer ? Ça ça sera ma première question et sur le sujet des liens qui ont été évoqués, le renvoie vers des liens, ma question c'est existe-l des moyens techniques pour couper automatiquement tout lien vers ces sites dès lors que c'est un mineur qui cherche à activer ce lien ? Voilà, faitz mes deux questions.

Alors, évidemment, oui, sur le le processus de dialogue, je trouve ce qui est intéressant, c'est que il faut pas se mentir, le DSA et le règlement les règles européennes laissent très peu de marge finalement au législateur national quand on parle de réguler les plateformes. J'ai ici euh une lettre de la Commission européenne de août 2023 adressée à la France sur les PPL dites majorité numérique et l'autre influenceur et qui est en fait un cours de droit européen qui vous dit bah il y a le principe du pays d'origine puis il y a le DSA et puis a la notification donc au final bon bah voilà vous pouvez rien faire. Bon mais c'est c'est c'est ainsi.

Donc je pense qu'il faut regarder cette réalité. Maintenant une fois qu'on a dit ça je vous rejoins. C'est comment on le rend vivant quelque part.

C'est que c'est ces règles, elles sont macro, mais comment on rentre un peu plus dans le micro ? Aujourd'hui, il y a beaucoup trop d'instances avec lesquelles nous sommes en interaction. Nous avons notamment l'ARCOM, c'est normal, qui est notre coordinateur national.

Nous avons hérité du groupe de contact permanent mais qui n'est plus réuni ou si ce n'est quand il y a des crises euh et c'est plutôt piloté côté ministère de l'intérieur. Euh et puis de crise en crise ou de ça, nous avons tel ou tel euh ministre qui souhaitent nous convoquer euh pour nous demander des comptes et nous dire de retirer tel ou tel contenu en dehors des cadres d'ailleurs que je viens de décrire. Vous voyez ce que je veux dire ?

Donc donc on a une démultiplication des instances dans lesquelles ces questions se posent et sur lesquelles on cherche collectivement à agir. Je dis pas que j'ai la réponse magique à ce problème, mais je pense que nous qui avons quand même une culture pour le coup française de la centralisation de l'efficacité administrative et si on de trouver quelque chose qui fonctionne dans l'appareil d'État et l'ARCOM semble être le premier choix le plus évident mais surtout évitons une démultiplication ou les convocations un peu sur le moment en fonction de l'actualité parce que ces choses demandent une constance en fait et un dialogue permanent. Je parle pas de cette commission aujourd'hui qui voilà participe à cette réflexion est très utile mais je parle plus de d'autres dépénomènes que j'ai pu constater.

Il faut il faut aujourd're dialogue et d'action qui soit réel et et surtout qui soit réuni sur une base régulière et pas seulement en fonction des situations. Mais voilà, je voulais pas être trop long sur Mais d'expérience, je sais que ça a permis quand même de faire avancer pas mal de choses et on a tous les outils en place, on a toutes les intelligences pour le faire. Donc euh faisons-le et ça peut être euh évidemment une avancée très euh très très importante.

Voilà. Euh l'autre point sur les les liens euh sur les mineurs, écoutez, de toute façon, l'avantage de ces liens-là, c'est que ils sont pas autorisés euh de manière générale. Donc c'est pas que la question des mineurs.

Donc les liens only fan sur Instagram, que vous soyez majeur ou mineur, on vous autorise pas. Enfin, ces liens sont pas autorisés, on peut doivent pas être proposés. Donc, ils font l'objet d'une modération.

Euh l'idée c'est d'avoir des automatismes qui permettent évidemment d'agir à grande échelle aussi dans ces domaines. C'est des choses qu'on retrouve aussi dans le domaine de la protection du droit d'auteur si je si je comprends bien. Donc oui, ces technologies existent.

J'en ai pas le détail disons technique aujourd'hui mais en tout cas oui ça ça c'est c'est évidemment il faut les automatises permettent d'agir à grande échelle mais j'ai pas le détail technique de comment ça marche mais évidemment voilà donc trouvons je dirais les marges que le DSA le droit européen nous permettent et elles existent mais sont surtout en fait dans la mise en œuvre plus que dans la réglementation-moi ça veut donc dire que le jour où là dans les semaines qui viennent vous allez être obligé de contrôler l'âge de manière efficace on vous le souhaite vous aurez donc déjà en place les outils qui qui vous permettront immédiatement d'empêcher tout redirection vers un lien de ce type là. En tout cas, ces liens sont pas autorisés quel que soit l'âge d'utilisateur. Donc quelque part là, c'est pas le cas le plus difficile que vous présentez puisque ces liens ne sont pas autorisés.

Si je peux permettre madame Jé, on avait dit qu'on dans la dernière partie. Voilà. Mais mais Br clair voilà c'est de toute façon l'avantage c'est que ces contenus sont pas autorisés.

Donc allons tout à fait monsieur Seter. Merci monsieur le président. de de nombreuses questions pourraient venir.

Je vais essayer uniquement de me cantonner à deux si vous me le permettez. La première, pour revenir sur la question de de la modération. Est-ce qu'il y a une hiérarchisation qui existe dans les types de contenus qui vous sont signalés ?

Est-ce que certains contenus suivant le type de signalement, car parfois quand on regarde sur vos plateformes, les motifs de signalement appelant à modération, il y a une priorisation. Si oui, quelle est cette priorisation euh dans le traitement de la modération et des signements qui vous est fait ? Ça c'est ma première question.

Ma seconde question euh vient sur le process de modération. Est-ce que vous pourriez nous détailler à partir du moment où il y a intervention d'un acteur physique et humain en dehors de de l'IA pour le contrôle de la modération ? Quel est le process dans chacune de vos de vos plateformes pour cette modération en terme de contrôle, d'action de contradictoire s'il y a, s'il n'y a pas de contradictoire à ce niveau-là et est-ce que ce process vous interpelle ? car là aussi dans les auditions, on a eu euh euh parfois différents retours euh suivant si ce sont des utilisateurs euh permettez-moi du terme lambda euh qui vous fait euh un signalement si ce sont des euh des partenaires euh de associatif ou de structures qui font le signalement ou si c'est l'ARCOM, est-ce qu'il y a des prises en compte différenciées de ces signalurs de confiance ou de ces partenaires avec qui vous travaillez sur la modération ?

Je je tâcherai des d'être disons bref, mais évidemment c'est c'est un sujet très assez pas complexe mais du moins étendu. Euh déjà, est-ce qu'il y a des différences ? Oui, c'est que quand on lit les règles, c'est normal, il y a des types de contenu qui dès qu'il s'agit de porter atteinte l'intégrité des personnes, évidemment, ce sont des contenus qui doivent être modérés en priorité dès qu'on parle de menaces ou ou de choses de de ce genre.

Donc, je vous rassure sur ce point euh il y a des précisions assez détaillées de les contenus rouges, dire ce que vous pouvez jamais dire et puis d'autres, ça dépend un peu du contexte. Bon, voilà. Bah si bah le cyberharcèlement, la menace, la violence, les proposineux, enfin tout ce que l'humanité malheureusement peut produire de pire.

Vous voyez ce que je veux dire ? Euh et qui peut s'exprimer sur sur ces réseaux. Donc des choses qui sont pas bordeur, qui sont vraiment une menace de mort, des choses.

Voilà, vous je pense que vous avez une vision de de ce que je veux dire, mais la liste est assez précise, mais vous comprenez ce que ce que je souhaite exprimer pour les signaleurs. Euh effectivement, on a euh euh déjà tout à chacun peut signaler et peut tout signaler d'ailleurs. Donc c'est important de le rappeler aussi bien un commentaire qu'une publication euh et cetera et cetera.

Donc on invite chacune et chacun à le faire. Euh c'est évidemment très utile. Euh bon après il y a aussi du bruit dans les signalements.

C'està dire que on a remarqué aussi que parfois les gens signalent juste ce qu'ils n'aiment pas. Ce qui est pas forcément peut faire l'objet d'une modération mais les soirs de match de foot ou de tel ou tel artiste, je vous garantis que il y a des du bruit en plus. Mais parce que bah à partir du moment où on accepte tout signalement, bah c'est normal, les gens signalent tout et et c'est pas toujours pertinent.

Mais c'est mieux comme ça, c'est que c'est mieux qu'on puisse tout signaler et avec des catégories adaptées dans les outils de de signalement. C'est très important dans ces catégories parce qu'après ça permet d'aller vers des équipes de modération que ça soit harcèlement, c'est une équipe, discours de c'est une équipe. Donc il y a des spécialités aussi et c'est important que ces canaux c'est puissent s'exprimer.

Ensuite, on a les deux types de signaleurs de fond confiance. Je dirais l'État en premier lieu hein, c'est Pharaos, on y revient toujours mais on a une excellente collaboration avec eux H24 donc c'est très important parlait de process tout à l'heure que quand l'État en gros veut nous signaler des choses passe paros parce qu'il y a une qualification juridique, il y a il y a des garanties je retour de ça du fait de l'état de droit mais avec des processes. Donc j'invite vraiment à ce que ça soit fait dans ce cadre là.

Euh et puis nous avons des signaleurs de confiance comme euh I Enfance euh ou point de contact qui sont reconnus par euh le DSA/LARCOM pour pour faire ce travail. Donc un accès direct à nos équipes de modération. Vous voyez c'est c'est multiforme.

Donc c'est tout à chacun euh l'État et aussi des euh entités je dirais privées pas entreprises mais privées qui peuvent nous nous signaler. Et donc voilà malgré tout ça, il peut rester encore des difficultés. on est là pour en parler mais c'est aujourd'hui quand même quelque chose d'assez euh d'assez robuste et qui produit des résultats.

Voilà, je voulais pas être trop long parce que peut-être que mes confrères ont des choses à dire mais j'ai l'impression que monsieur Guois est est là depuis longtemps et que il a pas pris la parole. Donc si vous souhaitez réagir à ces éléments et à ce qui a été dit précédemment, vous êtes évidemment le bienvenu. Avec plaisir.

Euh je je veux pas répéter ce qu' a très bien dit Antoine parce qu'on fonctionne à peu près de la même manière côté YouTube. Euh sur la question de la hiérarchisation selon le type de signalement, c'est évident. Euh vous constaterez si vous lisez nos euh rapports de transparence disponibles à la fois euh euh sur le site de de YouTube et sur le site de la Commission européenne qu'on retire euh énormément de spam euh tous les trimestres.

Plusieurs millions de vidéos euh sont euh avant tout du spam, des contenus qui visent à rediriger les utilisateurs hors plateforme pour les faire cliquer sur des contenus ou de manière générale leur faire dépenser de l'argent ou les emmener sur des sites de faible qualité. Et ça c'est les choses qu'on peut appréhender extrêmement facilement avec l'intelligence artificielle. C'est les schémas. la machine va se va se nourrir des actions précédentes de de de ce que vont rajouter également des modérateurs humains.

Et infiné, on aboutira à un score de pertinence lorsqu'on prendra des actions de modération qui sera extrêmement élevé et qui laissera penser que enfin qui nous permettra d'opérer à grande échelle et de supprimer massivement ce type de contenu. Il y a il y a des contenus qui sont assez faciles à appréhender parce que comme ça a été rappelé à plusieurs reprises, certaines de nos plateformes n'autorisent pas la nudité. Bon bah là, typiquement un algorithme qui va tourner et qui va pouvoir détecter un pourcentage de chair euh devrait être aussi assez assez efficace.

C'est comme le comme le disait Anton, les il y a d'autres contenus qui vont être plus compliqués à modérer euh parce que il va falloir se poser la question plusieurs fois de si ça relève de la liberté d'expression ou si ça franchit clairement la ligne. Et parfois euh je pense qu'il faut pas il faut pas s'en cacher. Parfois nos modérateurs prennent des mauvaises décisions.

C'est pour ça qu'on a des des mécanismes d'appel qui permettent de de faire appel quand on est créateur et qu'on a vu sa vidéo retirée et qu'on pense que c'est injuste et de voir son contenu revu par une autre personne qui peut-être aura un avis inverse. Et peut-être un bon exemple de ça pour être totalement transparent, c'est ce qui s'est passé pendant le pendant le Covid. Nos modérateurs ne pouvaient plus effectuer leur leur métier correctement puisque ils étaient confinés. et pour protéger leur famille.

L'idée c'était quand même pas qu'il soit au milieu du salon en train de modérer des contenus potentiellement extrêmement choquant au milieu de leur famille. Et donc on s'est beaucoup plus reposé sur le machine learning et sur l'intelligence artificielle pendant cette période. Et en fait ce qu'on a constaté c'est c'est qu'on on on surmodé en fait.

Donc le le la possibilité qui était offerte aux gens qui avaient vu leur contenu retiré de faire appel a été extrêmement importante pendant cette période là. et on a constaté un taux de remise en ligne post appel euh qu'on avait jamais atteint euh justement parce qu'on peut pas uniquement se reposer sur la machine euh sur le fait que sur sur votre question euh monsieur le député sur la sur est-ce que la prise en en en compte du signalement est différenciée selon qu'il enfin selon la le le type de signalant à part pour les signalurs de confiance absolument pas. Euh on revoit à peu près euh on revoit tout signalement euh peu importe le le le la personne dont il émane.

Euh et je dirais même que on est assez maximaliste parce que on on revoit si vous nous faites un signalement euh sur un contenu euh pour pédopornographie et qu'en fait il il doit être retiré euh en vertu d'incitation à la haine, on revoit tout contenu à l'ône de toutes nos politiques au cas où un signalement aurait été mal effectué. pas forcément euh volontairement, mais involontairement de la part d'un signaleur. Juste une petite question sur l'appel, ça peut être un algorithme qui juge en appel.

Non, tu es pas forcément un modérateur humain. Je veux pas vous dire de bêtises, monsieur le président, mais je crois que chez nous, c'est revu par un modérateur humain systématiquement. Je je je veux pas je je vérifie ça et je vous fais un tour, mais je crois bien.

Merci. parce que j'ai l'impression que chez TikTok, c'est que c'est aussi une revue algorithmique. Donc peut-être que ce qui explique que le taux d'appel soit enfin que le le taux de réponse positive en appel soit plus faible.

Ouais, mais enfin bon, pour métonira le schéma vos équipes, mais que c'est un appel humain et qui plusisait le le la possibilité de faire un vrai appel est aujourd'hui demandé par la législation. Donc c'est un truc à prendre très au sérieux. C'est pas juste un gadget donc soyons clair.

Ouais. Et juste pour compléter sur l'appel, c'est trois niveaux différents. Une première vérification, si on n'est pas d'accord, une deuxième vérification et enfin une troisième vérification à chaque fois humaine qui vient faire tomber les deux premières sans compter la possibilité de d'avoir aussi recours au conseil de surveillance qui est un organe indépendant pour également faire un un dernier appel.

Et chez X, c'est pareil. Euh oui, tout à fait. C'est toujours une modération humaine au niveau au niveau des appels.

Je peux peut-être également compléter parce que c'est un petit peu la même chose chez notre plateforme par rapport à ce qu'évoquait MTA et YouTube, mais plus sur votre question sur comment s'effectue la modération, enfin disons un petit peu genre au enfin dans le process en fait. Donc quand c'est de la détection, voilà, c'est de la machine et donc la machine va automatiquement le faire. Quand c'est un modérateur humain en fait donc la personne va faire un signalement du coup sur X.

Sachez qu'aujourd'hui pour la France, il y a deux types de signalement. Il y a le signalement sous les règles, il y a le signalement dans le cadre du DSA. Donc je vais commencer par le signalement dans le cadre des règles.

Donc vous signalez, il y a un petit parcours de signalement. On essaie de le rendre à la fois simple mais aussi quand même avec plusieurs questions parce que nous ça nous permet en fait par rapport à aux questions à laquelle la personne répond, ça nous donne des information par rapport au signalement que la personne effectue. Ensuite en fait le contenu va être entre guillemets envoyé à la personne en charge de la modération qui évalue le contenu.

Si c'est assez clair au niveau de enfin de la violation de nos règles, bah du coup on va appliquer la décision de modération en conséquence. Donc il y en a plusieurs. Donc suspendre le compte, suspendre le contenu, placer le contenu derrière un filtre et cetera et cetera en fonction de la règle qui s'applique.

Euh ça arrive en fait qu'il y a des cas où il y a besoin en fait de faire appel à d'autres équipes plus spécialisées. Et donc par exemple, on peut avoir un contenu où la personne qui révise euh n'est pas forcément certaine en fait de la modération importée. Et en fait, quand c'est comme ça, en fait, on va travailler avec différentes équipes en interne euh pour essayer en fait de faire la meilleure évaluation possible par rapport au contenu et d'appliquer la règle.

Évidemment euh enfin comme l'a très bien dit Thbo, il y a des moments où on fait aussi des erreurs, ça peut arriver et nous dans ces cas-là, on peut euh enfin la personne a aussi la possibilité de faire appel, mais en gros, c'est comme ça que ça se passe. Donc tout ça signifie en fait que dans le moment où nous on fait notre révision et notre analyse, le contenu reste en ligne. Et donc en fait pendant ce lapse de temps, euh le contenu en fait reste en ligne vu qu'on du temps qu'on a pas déterminé nous une violation une violation potentielle.

Mais mais grossièrement, c'est comme ça que ça fonctionne. Oui, je sais pas si vous souhaitez rajouter quelque chose côté YouTube ou si c'est bon pour vous. Euh madame le rapporteur.

Alors avant peut-être de passer à la question de la vérification de l'âge, j'avais une question peut-être à vous poser sur votre la vision que vous avez de la modération chez TikTok. Euh vous avez forcément un avis. J'imagine que vous observez euh tous vos concurrents et que chaque plateforme finalement observe la façon dont les règles sont appliquées sur les autres.

Et donc si vous pouvez nous dire un mot sans langue de bois, ce sera pas retenu contre vous, je pense dans tous les cas. Donc ça serait pertinent. Voilà, passons franche.

C'est la première fois qu'on me demande de m'exprimer sur une plateforme concurrente. La réponse simple serait de dire "Je ne le fais pas, mais je sens que vous serez un peu déçu." Alors, je vais essayer de formaliser une réponse quand même.

Euh déjà, je je parle un peu d'expérience, mais ça va vous étonner ce que je vais dire. Je pense qu' il peut pas y avoir une il y a pas excès d'honneur ou d'indignité. Je je je sais qu'il y a beaucoup de d'anciens de métas qui sont partis chez TikTok pour faire de la sécurité, de la safety dans notre langage, de la modération et tout ça et et on peut pas douter, je pense, du fait que ils veulent bien faire.

Bon euh donc je voudrais souligner ce point. L'autre point aussi c'est euh qu'on est dans une logique, je dirais presque de secteur aujourd'hui et qu'on a tous intérêt à progresser collectivement. Moi je j'entends beaucoup les réseaux sociaux en fait.

Parfois entre quatre murs, on me dit "Ah, c'est un peu mieux avec vous que chez les autres ou c'est ou alors ça va être l'inverse." Vous voyez ce que je veux dire ? Mais quand on est dans l'espace public, j'entends beaucoup les réseaux sociaux.

Mais pourquoi ? Parce que c'est ce que vous mentionnez tout à l'heure, quand une loi se fait, c'est pour les réseaux sociaux. Voilà.

Et donc ce que je pense c'est plutôt un commentaire pour TikTok mais aussi pour nous tous, c'est de dire de toute façon il y a des domaines commerciaux ou techniques dans lequel nous sommes concurrents. Mais dans les domaines de la modération des contenus, de la safety et des jeunes, on n pas vocation à l'être. Et d'ailleurs, on travaille très bien ensemble, on se voit, on est souvent dans les mêmes bureaux, les mêmes commissions.

Enfin voilà. Moi mon intuition aujourd'hui c'est ça. Donc c'est de dire queles que soient les difficultés des uns des autres, elles existent sur TikTok, vous avez mentionné chez Instagram, donc je pas faire de langue de bois, chacun a ses problèmes.

Mais Infiné, c'est tout le secteur qui est impacté par tel ou tel problème chez l'un et chez l'autre. Et et donc on ne peut que s'inviter collectivement à progresser dans ces domaines. Voilà.

Euh donc c'est un message pour nous-mêmes, pour les autres, pour soi-même. Voilà. sans donner de leçons à qui que ce soit parce que c'est pas simple.

Mais euh voilà ce que j'aurais à dire. J'improvise un peu ma réponse parce que j'avoue que je on me la pose jamais mais j'essaie de me dire bah voilà au lieu de dire quelque chose de particulier sur quelqu'un et qui fera un peu une ligne dans la presse, c'est pas ce que je souhaite. Ce que je souhaite c'est de dire bon bah si on fait un zoom arrière, on s'est dit OK il faut il faut que ce secteur de façon progresse.

Voilà, il faut reconnaître que en fait on n pas d'intérêt individuel à laisser filer des problèmes pour soi-même, mais aussi parce qu'au final ça suscite des régulations qui nous touchent tous. Et moi, j'ai pas intérêt à regarder un peu de l'autre côté de la rue en disant "Hahah, aujourd'hui, on parle d'un tel, on parle pas de moi et c'est très bien parce qu'au final quand il y a une régulation, bah c'est aussi pour nous. Je parle d'expérience".

Voilà. Donc voilà ce que j'aurais à dire sur le sujet mais en toute humilité. Oui, donc merci pour cette question.

Effectivement, on a pas l'habitude d'y répondre. Je rejoins assez bien ce que ce que disait Antoine. En plus, j'ai un avis très mal informé sur la question parce que je ne suis moi même pas utilisatrice de de TikTok.

Mais en tout cas, ce qu'on observe, c'est vrai. Donc à la fois, je pense sur les règles de modération, il y a aussi une réalité, c'est que c'est toujours un petit peu adapté à la réalité d'un service en particulier. Je pense qu'on a tous un petit peu en fonction de la façon dont on travaille dont fonctionne pardon notre produit bah une modération qui est adaptée par rapport à ça.

Après c'est ce qu'on observe à la faveur bah de ce type de réunion et d'autres c'est qu'en fait il y a une forme de standardination de la façon dont on approche ces ces problèmesl mais aussi à la fa à la faveur de la régulation parce que finalement le DSA nous offre un cadre formalisé. On est tous très grande plateforme au sens du DSA et donc dans ce sens-là on tire un petit peu plus dans le même sens. C'est vrai que même si si le DSA s'applique au niveau européen, on voit qu'il y a quand même un effet d'influence en fait à la fois sur d'autres juridictions mais aussi sur l'évolution en interne bah de nos réseaux parce que c'est vrai que enfin ça peut arriver de temps en temps qu'on mette en place quelque chose qu'on doit mettre en place dans le cas du DSA puis qu'en fait on se dit voilà on va l'étendre parce que finalement ça a du sens et cetera.

Donc je pense que voilà, dans ce sens-là, c'est vrai que on voit qu'il y a une forme de de standard de standardisation et après c'est vrai qu'aujourd'hui on est un certain nombre de réseaux sociaux, mais qui sait demain, il peut aussi en avoir d'autres qui apparaissent et qui émergent et que je veux dire c'est pas forcément un espace qui euh qui est totalement figé et d'ailleurs TikTok l'illustre, c'est bien parce que c'est un réseau social qui est qui est un peu plus récent de ce point de vue-là. Je sais pas si vous souhaitez Ouais, peut-être de mon côté juste je pense que je serai la personne la meilleure placé pour parler de TikTok parce que j'utilise moi-même pas l'application. Ce que je veux juste préciser et ça a été rappelé par par Aurore côté méta précédemment, c'est que la plupart du temps, on nous dit cette personne a vu son compte sur telle plateforme supprimée, pourquoi ne faites-vous pas de même ?

Je je malheureusement enfin les les les créateurs vont poster des contenus extrêmement différents selon qu'il poste sur un réseau social ou sur une plateforme de partage de vidéos ou de streaming comme on est qualifié côté côté côté YouTube. Et donc c'est pas parce qu'une plateforme a pris euh en vertu de ses conditions d'utilisation euh une action sur un contenu ou sur un un créateur ou un influenceur que on pourrait euh unilatéralement faire de même. Donc donc donc je voulais juste rappeler ce point-là parce que parfois on nous oppose ou alors il y a une forme de il y a une forme de course en disant "Attendez puisque vous pouvez m'expliquer, on l'a vu il y a pas très longtemps dans une réunion où toutes les plateformes étaient présentes.

Pourquoi tel acteur est plus vertueux que tel autre ? Parce qu'il a supprimé ce compte et vous vous ne l'avez pas fait." Donc je pense qu'il faut il faut il faut se méfier un peu des décisions de modération.

Euh et madame la députée GNT, je je vous rejoins sur ce point. euh des décisions de modération qui seraient prises de manière concertée par l'ensemble des plateformes en se disant bon ben en fait on se concerte ça s'appelle une entente hein euh pour euh couper les comptes unilatéralement de telle personne peu importe si euh on a bien constaté une matérialité d'infraction sur sur chacune des plateformes. Alors merci beaucoup pour vos réponses franches et spontanées.

Vous vous pourriez vous auriez pu peut-être si on met de côté la la question de la modération, vous avez est-ce que vous diriez que quand même TikTok de la part de de par rapport à son algorithme qui est assez redoutable euh vous est une source d'inspiration ? Non, je je sais pas je je pense que il y a pas d'inspiration dans ce sens-là. Je pense que nous avons notre propre identité.

Facebook existe depuis quand même 2004. Puis il y a eu Instagram, puis a eu WhatsApp qui ont leur propre identité et je pense que les gens cherchent sur un produit ce qu'il ce qu'ils attendent et ils ont pas forcément envie que Insta soit comme TikTok. Ça a été mentionné que parfois il y a des des des tendances.

Par exemple, quand tout le monde fait de la vidéo, bon ben on retrouve un peu de la vidéo partout et cetera et cetera. Mais mais je pense qu'il faut être très très attentif à ça. Chacun est comme il est mais je pourrais parler de d'autres types de sources de contenu.

Voilà, il y a des l'identité du service d'audovisuel public. Bah c'est pas celui de d'une chaîne privée, enfin je dire et cetera et cetera. Donc voilà, il faut rester dans cette idée.

Donc je crois pas qu'il y a une source d'inspiration en tant que tel. Mais peut-être une petite parenthèse, on en revient au sujet du jour. Euh c'est c'est pas mal de s'inspirer les uns des autres des des protection des mineurs qui fonctionnent.

Euh euh ça c'est une scène émulation, je pense que le les pouvoirs publics euh peuvent encourager. Euh on parlait de standardisation tout à l'heure. On est dans le champ à la fois de la conformité à la loi parce que c'est mais parfois c'est aussi des choses qui sont développées par pure ce que vous disiez madame là depuis tout à l'heure bonne volonté au sens je décide moi je prends l'histoire des comptes à dos d'Instagram au hasard mais c'est un peu le cas c'est notre dernière création voilà et pour Facebook et toutes nos plateformes bon bah si le législateur pense qu'il faut créer un système dans lequel demain bah c'est un peu la clause du mieux disant bah quelque chose que vous estimez être intéressant sur une plateforme devrait être obligatoire chez tout le monde.

C'est là où l'État joue son rôle. À mon avis, si je peux me permettre, c'est un peu l'objet de cette commission. C'est-à-dire que on doit faire des préconisations et l'idée c'est de d'essayer de prendre le meilleur de ce qui existe partout sans absoudre personne puisque c'est pas notre rôle.

Bah c'est parfait. Très bien. Mais avec une interrogation néanmoins, c'est que nous dans notre idéal, il faudrait le meilleur et le plus producteur.

Et ça se trouve ça ça se trouve chez aucun d'entre vous finalement mais chez d'autres réseaux éthiques qui ont pas forcément le même modèle économique et qui cherchent pas forcément la viralité mais parfois qualité enfin ou même ce qu'on pouvait retrouver au départ chez chez chez X, c'est-à-dire des flux chronologiques ou chez chez Facebook hein. Enfin voilà, quand on avait un mur qui défilait sans qui a une logique de présentation du contenu qui soit différente de celle de la pure chronologie, euh bref, on pourrait dire qu'on revient à ça mais sauf qu'en fait on nous dirait vous imissez dans notre modèle économique voilà alors qu'en fait c'est ce modèle économique qui en soit est problématique. Euh et donc enfin en fait jusqu'où est-ce qu'on peut aller ? jusqu'où le droit national peut aller enfin et vous l'évoquiez tout à l'heure, on est quand même confronté à tout ça.

C'està-dire qu'on peut souhaiter une amélioration par le haut, une uniformisation par le haut, mais en fait à un moment vous êtes les mêmes à nous dire "Ah, attendez, c'est pas conforme au droits européens, ce qui a pas un paradoxe." Oui, mais nous n'avons pas ni voulu ni souhaité ni organiser l'Union européenne et le droit européen. C'est c'est là aussi dans un paradoxe, on est dans des méga plateformes qui ont des échelles continentales, il était plutôt logique de les réguler à l'échelle continentale.

Donc je pense que c'est c'est plutôt voilà, on est d'accord là-dessus. Euh mais ce que je veux dire par là, c'est que rien n'empêche une forme de mise en œuvre nationale dans la marge que les législateurs se sont donnés eux-mêmes. Donc aujourd'hui, on on en est là.

Mais là encore, je pense que sincèrement modèle économique/ashmineur, aujourd'hui on l'a dit, il y a pas de publicité pour les mineurs. Donc on est, il faut aller un peu au-delà de ça et on est plutôt aujourd'hui dans des produits qui sont quoi ? Les contenus sont-ils ou pas adaptés au mineur ? le temps passé quand on parle de de d'addiction, c'est à définir mais ces phénomènes peuvent exister.

Donc il y a la question du temps passé, il y a la question de qui contacte qui sur les réseaux sociaux et il y a la question de la supervision du contrôle parental. Dans tous ces domaines, en fait il peut y avoir des outils à développer, que ça soit ce que les entreprises font d'elles-mêmes et ce que les régulateurs ou l'État leur leur demanderaiit de faire. Mais euh vous parlez de réseaux socio-éthiques, je je sais pas de quoi on parle exactement.

Euh on m'a souvent mentionné euh Mastodon, mais une étude de Stanford a montré qu'il y avait aussi beaucoup de problèmes avec Mastodon. Donc donc il faut voilà qu'on se mette aussi d'accord sur ces notions. Euh c'est pas small et beautiful, c'est c'est de se dire bah sur ces plateformes, il y a des outils et euh et je pense que le rôle de la standardisation aujourd'hui me paraît tout à fait important.

Mais comme d'autres domaines finalement de la vie économique quand on parle de sécurité des personnes et des biens. Donc il faut aller vers vers ça. Mais je je pense qu'il y a une marge, il faut la faut la faut la trouver.

On peut pas juste dire on fait rien ou il y a le DSA. Bon voilà, il y a une marge entre les deux. Merci beaucoup.

Alors je suis un peu frustrée parce que vous auriez pu admettre quand même que TikTok vous a tous un peu inspiré. Je enfin le le flux continu de vidéos très courtes c'est quand même et vertical. C'est quand même une forme de marque de fabrique TikTok et euh j'ai j'ai un peu le sentiment, je pense pas être la seule, que finalement vous vous avez quand même tous un peu pris cette ce qui fonctionnait effectivement très bien en terme de captation de l'attention, ce voilà ce dispositif qui est qui est né sur TikTok.

Peut-être qu'on peut donc n'hésitez pas si vous avez envie de réagir et de me dire qu'en effet c'est le cas. Mais si on se concentre sur la vérification de l'âge, parce qu'en fait en effet s'il existait aujourd'hui un dispositif efficace de vérification de l'âge, on vous embêterait entre guillemets néant beaucoup moins parce que voilà si on avait la certitude absolue qu'un enfant de moins de 13 ans ne peut pas arriver sur votre plateforme et ne peut pas voir le contenu disponible sur votre plateforme, ce serait quand même une avancée évidemment énorme et euh ça n'est pas le cas aujourd'hui. ce que vous la publicité que vous qui existe de votre part que j'entends régulièrement sur les ondes qui est de dire allez-y, mettez en place une réglementation européenne, ce serait vraiment super et ça nous aiderait énormément.

Elle peut quand même faire sourire voir enfin c'est je veux dire c'est faites-le. Enfin, vous avez la capacité technique aujourd'hui n'importe quelle plateforme a la capacité technique de mettre en place une forme de dispositif de vérification de l'âge. Et vous, ma question c'est est-ce que vous comprenez quand même qu'on soit un peu énervé en tout cas dans notre objectif nous de protection efficace des mineurs en vous entendant vous renvoyer la balle finalement ?

Non, moi je le ferai pas. J'attends que les autres le fassent. Non, je le ferai pas.

Il faut que ça vienne de de tout le monde. Et finalement, on en est encore à être aujourd'hui en train de discuter de de de contenu nocif pour les plus jeunes. Euh discussion qu'on aurait beaucoup moins si on était garanti que un enfant de moins de 13 ans ne peut pas aller sur la plateforme.

Donc pourquoi vous ne mettez Ouais, la question simple c'est pourquoi est-ce que vous mettez pas avant tous les autres un dispositif de vérification de l'âge efficace qui pourrait vous permettre de sortir voilà plus vertueux que les autres ? Quand vous avez un compte aujourd'hui euh adolescent euh sur Instagram, euh on doit quand même connaître votre âge. On fait pas rien dans ces domaines.

Euh on vous demande de déclarer votre âge. Euh nous avons aussi des signaux qui permettent de douter de votre âge grâce à de l'IA ou à des ou des signalements qui peuvent être faits par des proches. Et si vous avez menti moins de 13 ans, votre compte peut être supprimé euh tout de suite.

Euh ensuite, si vous avez ce compte adolescent et que ça vous embête un peu et que vous voulez dire "Ben en fait, j'ai pas 14 ans, j'ai 19 ans, sur le passage vers la majorité, on va vous vérifier ceinture et bretelle qui est grâce à la reconnaissance de la morphologie du visage ou d'autres types de dispositifs qui sont très efficaces et qui ont faire leur preuve et j'aurais pas pu vous parler de ça même il y a 2 3 ans." Voilà. Qu'est-ce qui reste en fait ?

C'est ce que vous mentionnez. C'est est-ce que Kevin a 13 ans ou pas ? Bon.

Euh sauf que le comment vérifier l'âge de Kevin âge de 13 ans ne se pose pas la même manière pour un majeur de 18 ans parce qu'on a pas forcément les euh il y a des vérifications tiers. Enf je sais qu'il y a beaucoup de choses qui se développent aujourd'hui mais euh même dans la communauté d'expert on sent bien qu'il y a une difficulté qui est pas la même que est-ce que j'ai 18 ans, pas 18 ans. Voyez parce que est-ce que j'ai une carte bancaire ou pas ?

Est-ce que j'ai une carte d'identité ou pas ? Voilà à 13 ans, c'est pas le cas. Donc la première brique de ça et c'est aussi le sens de la campagne, mais je je vais m'en expliquer, c'est de dire quand on a 13 ans 12 ans au moins, bah le téléphone il est pas arrivé par magie dans vos mains.

Euh la ligne elle a pas été créée par magie non plus. C'est-à-dire qu'il y a un rôle quand même du parent qui est réel. Voilà qui comme dans tout autre acte d'éducation, j'ai envie de dire.

Donc et la meilleure source d'information pour savoir si Kevin a 13 ans ou pas, ben ce sont quand même ses parents. Voilà. Alors, cela étant dit, parce qu'on vit pas dans le monde idéal dans lequel Kevin fait ce que ses parents lui disent, euh il reste donc la question euh de cette vérification d'âge.

Nous, cette campagne, elle est simplement de dire une chose simple, c'est que la la solution, elle peut être que industrielle parce que ce que dit cette campagne, c'est dire nous devons faire plus et mieux en matière de vérification d'âge nous-mêmes. Donc, il y a pas un défaut de responsabilité. D'ailleurs, on le dit dans notre contribution pour le le DSA, mais que euh dans la vie de Kevin, il y a pas que les réseaux sociaux, il y a les sites, il y a les jeux vidéos, il y a tout ça dans son expérience numérique.

Et donc si on centralisait ce contrôle de l'âge pour que toute son expérience numérique après découle de cette information, qu'elle soit dans la carte SIM, peut-être dans l'App Store et cetera, ça peut être la solution. Et donc je peux même saluer les efforts aussi de de Google qui ouvre des API sur son App Store pour qu'il y ait une meilleure communication entre euh les plateformes et cette App Store pour voir comment on peut faire ceinture et bretell, j'ai envie de dire par là et pour avoir une meilleure vérification de l'âge. Franchement, la réflexion, elle est exactement la même que que pour que pour un métha, on doit mettre en place de la vérification de l'âge pour protéger les utilisateurs mineurs tout autant et peut-être davantage d'ailleurs par rapport au fait qu'on autorise le le contenu pour adultes en l'occurrence.

Mais donc effectivement fait tout l'enjeu derrière tout ça c'est arriver à savoir quel âge à la personne sans avoir la personne face à soi. Ce qui est en fait notre cas parce que c'est vrai que bah l'utilisateur en fait qui est sur le réseau en fait effectivement il a acheté son téléphone après l'opérateur téléphonique et nous en fait on sait pas qui on sait pas qui on a. Euh, il faut faire aussi un petit peu attention sur le fait de bah vérifier ses utilisateurs avec une grande certitude qu'en fait si on enfin si on si on travaille avec un système qui est pas parfait et qui fait des erreurs et ben du coup ça enfin ça ça met un coup de pied dans l'édifice.

Donc nous on avait rencontré un certain nombre de enfin de tiers de confiance en fait qui pourraient nous aider sur ce plan de la vérification de l'âge et je suis d'accord avec Antoine je pense qu'on va y arriver je pense qu'on va un vrai momentum même au niveau mondial parce qu'il y a pas la France qui se pose ce type de question il y a les États-Unis il y a l'Angleterre où on va avoir des vérifications qui vont s'imposer à partir de juin 2025 dans le cadre de l'OSA il y a c'est quoi les les vérifications qui sont mises en Angleterre donc en Angleterre on doit mettre en place un highly effective edge assurance en particulier c'est comme ça que la loi le dit donc en En fait, il faudrait travailler avec un tiers en l'occurrence en fait qui permet d'estimer l'âge avec un haut niveau de certitude. Quand on parle de la biométrie, he c'est le cas, la biométrie est pas forcément infaillible mais l'idée c'est que ça fasse le moins d'erreurs possible. erreur quand même qui est conséquente, il peut être de plusieurs années.

Alors oui, et c'est pour ça que donc parmi les vérificateurs qu'on avait rencontré, on avait certains doutes parce que notamment il y avait des erreurs qui étaient fait par rapport au genre de la personne et par rapport à la couleur de sa peau. Donc c'est pas idéal si vous voulez, c'est potentiellement discriminatoire si on travaille avec un tiers qui fait des erreurs par rapport au fait si la personne en face est une fille ou un garçon et cetera et cetera. Donc en fait ce qu'il faut voir en fait euh c'est et je comprends vraiment votre illustration par rapport au fait que ça avance pas assez vite et cetera parce que ça on l'entend tout à fait mais il faut qu'on puisse mettre en place un système qui quand même à la fin fonctionne.

Enfin donc c'est un petit peu ça l'idée. Après il y a quand même effectivement l'application qui est développée en ce moment au niveau européen et question de l'identité européenne. Donc nous on voit que franchement ça va être à brève ou moyenne échéance que le système va fonctionner mais c'est vrai que si on avait la solution technique parfaite devant nous bah on se poserait pas toutes ces questions là.

Le truc c'est qu'effectivement euh euh c'est un ensemble de signaux et c'est un ensemble d'indications qui nous apporte une grande certitude. Et effectivement, c'est toujours plus facile si vous avez la personne face à vous parce que si vous collectez pas des données, je pense que les citoyens français seraient pas d'accord avec le fait que X collecte toutes les cartes d'identité de tous les usurs en France pour protéger euh un un nombre de mineurs qui est plus faible sur la plateforme. Et donc il faut trouver une solution qui coche un peu toutes les cases de protection de la vie privée, efficacité et proportionnalité. et et donc c'est là-dessus qu'on travaille mais encore une fois je pense que si on se repalle dans 6 mois, il y aura des vrais avancées qui ont été faites.

Voilà pour cet extrait de la table ronde avec les représentants France des plateformes MTA X et YouTube. Audition devant la commission d'enquête de l'Assemblée nationale sur les effets psychologiques de TikTok sur les mineurs. On a compris que contrôler l'âge sur les réseaux ce n'est pas si facile.

Au-delà de la déclaration de bonne intention, encore faut-il avoir les moyens de rendre cette mesure effective. C'est la fin de cet épisode. À bientôt sur LCP.