Révélations, témoignage... Facebook dans la tourmente #cdanslair 30.10.2021

Bonsoir et bienvenue dans C'est dans l'air. Ce dont nous allons parler ce soir concerne 3 milliards et demi de personnes. Et en fait tout le monde. 3 milliards et demi, c'est le nombre d'utilisateurs de Facebook à travers le monde. Et le réseau Social Star est en pleine tempête en cette fin octobre. Il subit les révélations d'anciens salariés sur le thème « Facebook préfère le profit à l'humain ». Des dizaines, des centaines de documents sortent dans la presse, les Facebook Papers.

Et c'est dans ce contexte que le fondateur du réseau, Mark Zuckerberg, a annoncé jeudi soir le changement de nom du groupe Meta en référence à son nouveau grand projet de monde virtuel, Metaverse, dans lequel il va investir 10 milliards de dollars rien que cette année. Comment éviter les dérives dans ce monde virtuel alors que la régulation des réseaux sociaux est déjà très insuffisante ? Question clé à l'aube d'une campagne électorale en France où ces réseaux auront certainement un rôle clé. Révélations, témoignages, Facebook dans la tourmente, c'est le titre de notre émission ce soir. J'attends vos questions, SMS, Internet, réseaux sociaux, tiens, tiens. Quatre invités pour répondre.

Nicolas Bouzou, vous êtes économiste et directeur du cabinet de conseil Asterès. Dominique Cardon, professeur de sociologie à Sciences Po, directeur du Medialab, le centre de recherche de Sciences Po spécialiste dans le numérique, et auteur de cet ouvrage « Culture numérique ». Nicole Bacharan, politologue, spécialiste des États-Unis, dernier ouvrage en date « Les grands jours qui ont changé l'Amérique », c'est chez Perrin. Et puis Véronique Reil-Soult, vous êtes présidente de Backbone Consulting et spécialiste des réseaux sociaux. Bonsoir à tous les quatre. Bonsoir. Et merci d'être avec nous. Nicolas Bouzou, sujet grand public et technique que les réseaux sociaux partont de la base.

Facebook, plus de 9 milliards de dollars de bénéfices au troisième trimestre cette année. Quel est le modèle économique ? Comment Facebook et tous les réseaux, d'ailleurs, gagnent-ils leur vie ? Alors, ce n'est pas la même chose pour tous les réseaux sociaux. En réalité, Facebook gagne sa vie grâce à la publicité. Si vous êtes utilisateur de Facebook, ce qui est probable, vu qu'ils sont en effet plus de 3 milliards dans le monde, et bien vous ne payez pas. Vous avez d'autres réseaux sociaux qui ont des modèles un peu hybrides. Si vous prenez TikTok, dont on parlera peut-être, donc là ce sont des vidéos extrêmement courtes, plus d'un milliard d'utilisateurs dans le monde.

C'est une entreprise chinoise. En fait, c'est un business model un peu dual. C'est-à-dire qu'il y a de la publicité, mais vous pouvez aussi acheter des produits via le réseau social qui va récupérer une commission de cette façon-là. Mais ce qui me frappe, en tout cas avec Facebook, c'est que le business model est très simple, la publicité, et il est extraordinairement performant. Vous avez rappelé le chiffre au troisième trimestre de cette année. Et j'arrondis un peu vers le haut, vous me pardonnerez, mais 30 milliards de dollars de chiffre d'affaires, 10 milliards de dollars de bénéfices. Sur un trimestre, c'est quand même absolument colossal.

Alors même que c'est un trimestre, je ne dirais pas qu'il a été difficile pour Facebook, mais qui était peut-être très légèrement décevant, notamment parce que beaucoup de gens utilisent Facebook via Apple, et que les iPhones rendent le ciblage publicitaire un peu plus difficile. Donc vous voyez quand même que c'est un modèle extrêmement performant. Juste une dernière chose, très rapidement, sur les réseaux sociaux, ce qu'il faut bien comprendre, c'est que ce sont des business models qui s'auto-alimentent, qui génèrent un effet boule de neige, parce qu'un réseau social, il est d'autant plus attractif qu'il y a de nombreuses personnes dessus.

Un réseau social avec 100 000 personnes, c'est sympathique, mais vous n'êtes pas obligé d'y être. Un réseau social avec 3 milliards d'utilisateurs, si vous n'y êtes pas, vous vous rendez compte que c'est beaucoup plus compliqué. Donc il faut bien avoir en tête aussi le fait que ces réseaux sociaux, quand ils marchent, ils se développent extrêmement vite en raison de ce qu'on appelle cet effet boule de neige, ça s'appelle l'effet réseau. Alors restons sur Facebook, Dominique Cardon.

Pas d'abonnement, la publicité, ça veut dire qu'il faut que les personnes restent le plus longtemps possible, c'est une économie de l'attention, et l'algorithme est programmé pour que nous restions le plus longtemps possible sur le fil.

Voilà, alors c'est le grand principe de l'algorithme. Il faudrait juste dire que ce que révèlent les Facebook files actuellement, c'est qu'en réalité, Facebook ment sur les chiffres de 3 milliards et demi. Et c'est pour ça que l'autorité boursière est en train de regarder de près. C'est plus, c'est moins. Mais les réseaux sociaux, ils trichent toujours sur leur nombre d'utilisateurs.

Vous savez, vous êtes, c'est le gré d'activité, et puis parfois vous n'êtes pas très très actif, ou vous revenez juste parce qu'on vous fête votre anniversaire, puis vous revenez sur Facebook, et Facebook dit que c'est un utilisateur actif, il vend un nombre d'utilisateurs au marché publicitaire en vendant de l'attention. Et donc, la technique... 3 milliards et demi, du coup, je précise, c'est ceux qui utilisent Facebook au moins une fois par mois, en tout cas, c'est le chiffre qui circule. Et alors, ce qui apparaît, c'est que, bon, nous n'entrons pas dans cette question. Non, mais c'est intéressant.

Déjà, il y a de l'opacité là-dessus.

Oui, il y a de l'opacité sur de nombreuses questions, enfin, une étude qui a été révélée par les récentes affaires. Donc, économie de l'attention. Il faut passer du temps. Et donc, en réalité, l'algorithme qui va filtrer les informations que je vais voir dans mon fil d'actualité, mais ça vaut pour Facebook, comme pour Twitter, comme pour d'autres, cherche à optimiser le temps que je vais passer dessus. Et il a plein de variables. Il va avoir des centaines de variables sur chaque contenu qui se présente. Et il va mettre des points sur ces variables afin d'optimiser une seule valeur, le temps que je passe dessus. Et c'est pour ça que ces débats sur les algorithmes sont complexes.

C'est qu'ils engagent Facebook et sa responsabilité. Elle est évidente dans la manipulation de certains facteurs ou certaines variables de l'algorithme, mais elle engage aussi les utilisateurs dans ce qu'ils regardent et ce qu'ils font, puisqu'en réalité, nous sommes accrochés à l'algorithme de Facebook.

Si je consulte plus régulièrement et plus longtemps des contenus dans lesquels il y a une polémique haineuse, parce que deux personnes sont en train de se disputer, j'ouvre les commentaires, je suis en train de regarder, je passe du temps, je donne à Facebook un signal sur mon comportement et ma conduite qui est une trace, qui est enregistrée par l'algorithme, qui en conclut que si je veux garder les utilisateurs plus longtemps, il faut que j'encourage l'invective et la dispute.

Et on fabrique comme ça un monde de capture de l'attention dans lequel parfois, on regarde une sorte d'écologie de la qualité de l'information, qui est quand même un sujet très important, on va en parler pour les présidentielles, fait qu'on ne favorise pas les meilleurs critères dans la sélection de l'algorithme qui nous est produit. Il y a une co-responsabilité, dites-vous, en quelque sorte.

Alors il y a une co-responsabilité des utilisateurs de Facebook, et je voudrais dire aussi, peut-être on peut le dire tout de suite, des médias et des journalistes, parce qu'en réalité, nous avons tous, il y a toute une série de débats dans lesquels les rédacteurs en chef de certaines émissions de plateau construisent le thème de leur actualité en regardant les trending topics de Twitter. Trending topics, c'est les thèmes les plus...

Alors c'est les thèmes qui sont remontés, qui sont remontés par les traces des utilisateurs qui ont donné à l'algorithme le sentiment qu'il y avait quelque chose qui était plus visible, qui je vais inviter sur les plateaux, les endroits où il y a de la polémique, et je vais d'une certaine manière prendre en otage le débat public, parce que des groupes de personnes qui en réalité ne sont pas si nombreuses que ça, sur Twitter, sont en train de faire montrer des thèmes, et qu'il y a des rédactions dans des médias importants qui sont des algorithmes d'une certaine manière.

Et leur algorithme à eux, c'est de chercher la controverse, la polémique et le sujet qui fâche, et en construisant comme ça, ils font l'émission. Vous voyez que c'est une co-responsabilité dans laquelle nous sommes tous pris. Tous engagés. Tous pris.

Donc si on veut un meilleur système informationnel, il faut évidemment réguler Facebook, mais il faut aussi s'occuper de notre attention à nous, et puis regarder un petit peu dans l'écosystème des médias quelles sont les pratiques éditoriales des grandes rédactions de journaux importants qui ont une forte visibilité, ou de médias qui ont une forte visibilité, qui peuvent constamment être aussi soumis à cette idée que l'invective fait de l'audience, fait du temps, et du coup devient le cœur de la production de l'information.

Et Nicole Bachar, en vous, qui suivez de très près tout ce qui se passe aux États-Unis, la controverse, elle est très, très puissante en ce moment contre Facebook sur le thème, le réseau social choisit le profit plutôt que l'humain. Alors je crois que ça fait longtemps quand même que ce réseau social choisit le profit au lieu de l'humain, même si le point de départ, on s'en souvient, c'était Harvard, un groupe de copains, en quelque sorte, qui voulaient se connecter, d'ailleurs pour trouver les plus jolies filles et les meilleures. Au départ, c'est sympathique et détendu.

C'est samedi soir, et c'est vrai que je me souviens quand ils sont installés en Californie, je vivais là-bas, ils se sont installés à Palo Alto, ils avaient réaménagé des locaux dans un quartier hyper sympa, mais qui était un vieux quartier académique de Palo Alto avec des professeurs qui sont là depuis des décennies, qui n'étaient pas du tout impressionnés par les gamins de Facebook. Donc Facebook avait invité tout le quartier, parce qu'il y avait des problèmes de place de parking, on en était là, à manger des sushis, etc. La boboïtude cool. La boboïtude totale avec les terrains de basket, les lieux de repos, de convivialité, etc.

C'est une entreprise très dure, c'est une énorme bureaucratie, c'est même quelque chose d'ailleurs qui commence à peser dans leur fonctionnement. Et le moteur de Facebook, certes, connecter les gens, les connecter pour gagner de l'argent. C'est vraiment aussi simple que ça. Et alors on parlait de boboïtude, là, ce qui se passe aux Etats-Unis et ce qui est révélé dans la presse et devant le Congrès, c'est qu'on ne maîtrise plus l'algorithme. Au fond, au sein de Facebook, on ne maîtrise plus cet algorithme. Absolument, ils sont obligés de le reconnaître.

Alors c'est vrai que c'est une entreprise qui, malgré toutes les controverses dont on parle ensemble aujourd'hui, est financièrement, économiquement florissante. Ils ne sont pas du tout au bord de coulée. Mais ils ont perdu leur image cool et sympathique. Et ils doivent reconnaître à travers différentes révélations. Et ça n'est pas terminé. Ces fameux leaks, ces fameux papers dont vous parliez, ça va continuer à alimenter la presse pendant pas mal de temps. Ils sont obligés de reconnaître que, un, ils vivent effectivement sur la controverse, les propos ou les échanges qui vraiment suscitent la colère, en quelque sorte. Et en plus de ça, ils n'arrivent pas à modérer.

Certes, ils font des gros efforts aux Etats-Unis là-dessus. Ils le font également en Europe. Mais on a vu que, par exemple, en Inde, il y avait eu des débordements physiques, alors, pour le coup. Il ne s'agissait pas seulement de choses derrière les écrans. Parce que Facebook ne peut pas mettre autant de moyens, autant de gens, parce qu'à un moment, ce sont des personnes qui doivent intervenir pour contrôler, modérer les propos les plus dangereux d'une certaine façon. 0,5% des bénéfices consacrés à la régulation, ça ne suffit pas. On détaillera cela.

Véronique Reissoult, dans ce contexte, Mark Zuckerberg nous annonce jeudi soir que le nom du groupe, alors pas du réseau, mais du groupe va changer et il nous présente ce projet Métaverse qu'on va détailler. Il y a une petite diversion, une logique de « Ouh là là, j'ai un problème, je braque les regards vers autre chose ». Ce n'est pas très spécifique à un groupe numérique ou aux réseaux sociaux. Quand vous avez une crise et quand c'est compliqué, quand votre réputation est largement entachée et que, on va dire, comme un certain président disait, tout vole en escadrille au-dessus de votre tête, globalement, vous changez de nom. C'était Chirac, le président en question.

C'est une technique assez classique, souvent efficace, mais ça ne change rien au fond du sujet. Et dans le cas de Facebook, regardez, vous n'avez pas beaucoup cité depuis tout à l'heure le nouveau nom Facebook. Qui est donc Méta. Voilà. Et puis Méta, en soi, on peut en parler. Dans chacune des langues, ça a un sens particulier. Je ne sais pas si c'est un nom si rassurant que ça, si positif. En tout cas, si l'idée, c'était de rassurer un peu, Méta, je ne sais pas, ça rassure tant que ça.

Dominique Cardon ? C'est une grosse ficelle, quand même, cette diversion. C'est une énorme ficelle. Et qui est dans l'imaginaire du numérique depuis tout le temps, puisque c'est l'idée, en réalité, de créer un monde virtuel, dans lequel depuis, soit en réalité virtuelle, soit en réalité augmentée, mais en fait, en gros, on sort de 18 mois de confinement, mais on veut nous mettre un masque pour rester chez soi, derrière un masque, dans lequel on se promène dans le monde entier. On va travailler, on va s'y vertir, on va acheter, on va acheter, parce qu'il y a évidemment des partenariats avec toute une série de marques qui sont proposées.

Mais on voit bien cette idée, qui n'est pas complètement juste, à mon avis, de faire de Facebook une sorte d'état de grande puissance, est en train, en fait, de fabriquer le monde. C'est-à-dire qu'ils font des murs, des scènes, des tables, etc. Ils veulent emmener tout le monde, ils veulent nous mettre sur une sorte d'arche de Noé, nous transporter dans un monde virtuel, qui est un monde Facebook, c'est-à-dire que c'est un monde fabriqué par Facebook, et nous dire que c'est le futur de la technologie. C'est assez Silicon Valley, cette idée de dire que, finalement, on a des problèmes avec les terrestres.

Il nous dit, vous ne vous sentez pas assez responsable des fractures et des difficultés, parce que j'insiste encore, les problèmes de l'algorithme de Facebook, c'est les problèmes de notre société. C'est des problèmes concrets, c'est des tensions, c'est des clivages, c'est le fait des fragilités de nos sociétés, qui sont reflétées, et évidemment amplifiées par Facebook. – Marc Zuckerberg nous dit, c'est terrestre m'ennuie, il me crée des problèmes, on va déménager dans le métaverse.

– Alors, ça fait quelques années, depuis le Brexit et l'élection de Trump, que les critiques montent sur les effets délétères des réseaux sociaux. Ils prennent donc davantage d'ampleur, avec un témoignage venu de l'intérieur de Facebook, une ancienne ingénieure, elle-même spécialiste des algorithmes et de la lutte contre la désinformation, et c'est donc ce moment de crise qu'a choisi le PDG Marc Zuckerberg pour changer le nom du groupe et médiatiser un nouveau projet de monde virtuel. Léa Demir-Djian et Aurélie Sanner.

– Le groupe enseignement appelé Facebook devient MetaMeta. – C'est l'annonce qui a fait la une de toutes les chaînes américaines.

– Facebook s'améliore avec Meta.

– Le groupe Facebook change de nom et de logo. Dans une vidéo, Marc Zuckerberg joue la carte de la révolution et crée son monde virtuel.

– Nous avons rapproché les gens de manière inédite. Nous avons beaucoup appris étant confrontés à de nombreux problèmes. Maintenant, il est temps de mettre à profit tout ce que nous avons appris et de participer à l'écriture du prochain chapitre.

– Le géant californien se lance dans le Metaverse, un monde numérique parallèle où règnent hologrammes et avatars. – Hé, est-ce que tu viens ?

– Oui, je dois juste trouver quoi mettre. Super.

– Le pari du monde virtuel, quand le réel n'est pas franchement au beau fixe. Car depuis plusieurs semaines, Facebook est en pleine tourmente. Au début du mois d'octobre, panne géante, WhatsApp, Instagram, Messenger, les applications du groupe s'arrêtent brusquement de fonctionner pendant six heures. Pour Facebook et son patron, les scandales s'enchaînent. Une ancienne cadre révèle à la télévision le fonctionnement des algorithmes du réseau social. Frances Hogan s'appuie sur des milliers de documents qu'elle a collectés. – Nous vivons dans un monde où les informations sont pleines de contenus qui suscitent la haine, la colère, la division. Cela diminue le civisme et notre confiance mutuelle.

Cela diminue notre capacité à vouloir prendre soin des autres. La version de Facebook qui existe aujourd'hui déchire nos sociétés et provoque des violences à travers le monde.

– Vous dites que la désinformation, les contenus hostiles sont attrayants pour les gens ? – Très attrayants. – Et cela les fait rester sur l'application ?

– Oui. Facebook a compris que s'il modifie son algorithme pour qu'il soit plus juste, les gens passeront moins de temps en ligne, ils cliqueront sur moins de publicité et donc Facebook gagnera moins d'argent. – Des révélations qui inquiètent même les autorités américaines. Deux jours plus tard, Frances Hogan est auditionnée par le Congrès. Elle raconte les enquêtes internes menées par les dirigeants du groupe auprès de jeunes utilisateurs d'Instagram, propriétés du groupe Facebook. – Les recherches en interne de Facebook, sur Instagram par exemple, contiennent des citations d'enfants qui disent « Je me sens mal quand j'utilise Instagram, mais je sens bien que je ne peux pas m'arrêter.

Je sais que plus je reste sur Instagram, plus je me sens mal, mais je ne peux pas ne pas y aller. Ils en veulent toujours plus. » – Et si l'algorithme de Facebook avait échappé à son créateur, était devenu incontrôlable ? En pleine crise, Mark Zuckerberg est sommé de réagir.

– L'argument selon lequel nous mettons délibérément en avant du contenu qui rend les gens en colère pour des profits est complètement illogique. « Je ne connais aucune entreprise technologique qui ait pour objectif de développer des produits rendant les gens en colère ou déprimés. »

– Dans la tourmente, le titre perd 15% de sa valeur en bourse. Alors ce changement de nom, manœuvre de distraction ou bien véritable réorientation technologique, le patron de Facebook France se défend de tout calcul.

– L'actualité est l'actualité. Mais le projet, évidemment, était préparé depuis longtemps. Mark Zuckerberg lui-même, cet été, avait commencé à esquisser, à parler publiquement de ce métaverse.

– Avec son univers parallèle et ses avatars, Mark Zuckerberg compte recruter, dans le monde réel, 10 000 personnes en Europe. Une façon, peut-être aussi, de corriger son image.

– Nicole Bacharan, est-ce qu'on mesure ce que risque exactement Mark Zuckerberg avec ce nouveau scandale des Facebook Papers ? Question téléspectateurs ? – Non, c'est quand même difficile à dire parce que de là à prouver que vraiment, sciemment, Facebook et Mark Zuckerberg ont construit des systèmes d'algorithmes pour alimenter la haine dans le monde, ça me paraît extrêmement difficile. Un peu plus dangereux pourraient être des documents qui montrent qu'ils en sont conscients, qu'ils ont été prévenus. et que là, ils n'ont pas forcément réagi ou réagi d'une manière… – C'est un peu ce qu'on retient, c'est-à-dire que c'était sûr en interne et ça n'est pas sorti. – Voilà, exactement.

Et là, ce qui est très dommageable pour eux en ce moment, c'est les comparaisons avec l'industrie du tabac, qui avait d'ailleurs changé de nom. Philippe Maurice, au moment de la crise, a changé de nom. Et les managers de l'industrie du tabac clamant partout que, un, non, il n'y a pas de danger à fumer du tabac, ou deux, on n'est pas sûr. Voilà, on n'a pas de… – C'est la même logique ? – On n'a pas de preuves. – Oui, c'est la même logique. – C'était absolument la même logique. – Sur le tabac, à l'époque, je ne sais pas si vous vous souvenez, mais il y avait une même propagande. C'est-à-dire que c'était bon pour la santé.

C'était très bon pour les femmes, ça permettait de s'épanouir, de grandir, enfin bon, c'était formidable. Mais là, c'est un peu pareil. Alors évidemment, sur un autre sujet, mais on vous explique que ce métaverse, il va être formidable. On va vivre des choses incroyables, on n'aura plus de limites. Enfin, voilà, non seulement on change de nom, mais on raconte que ce qu'on va faire va être parfaitement positif. Sachant qu'il y a quand même un petit point qui est, Laurent Solis a raison, c'était annoncé depuis longtemps. – Oui, on se doute qu'il y a un programme. – C'est pas récent. – Le changement, non, est une réalité, mais ça faisait longtemps.

Et puis après, je ne sais pas si on le développera sans doute après, mais il y a plein d'éléments qui montrent que oui, c'est très inquiétant et c'est très angoissant, un peu comme la cigarette en son temps, mais on peut précipiser. – On va le faire, je voudrais qu'on s'arrête sur ces Facebook Papers ou Facebook Files. Nicolas Boujou, vous en retenez quoi, vous, de ces… Est-ce que vous avez appris beaucoup de choses, au fond ? – Non, non, je n'ai pas appris grand-chose.

Ce que j'en retiens, c'est que, je ne suis pas très étonné, la régulation a un coup de retard dans cette affaire et que, en fait, l'enjeu du métaverse, qui, à mon avis, adviendra, c'est que le régulateur tire les leçons de ce qu'il a raté avec les réseaux sociaux, je dirais classiques, et qu'il arrive à anticiper un certain nombre de choses. Je vais vous donner un exemple qui est très concret, qui est celui de la lutte contre la haine en ligne. Il est clair que l'algorithme de Facebook a beaucoup de mal à lutter contre la haine en ligne pour une raison, d'ailleurs, qui peut se comprendre, c'est que, parfois, la haine en ligne est très difficile à analyser par un algorithme.

Je vais vous donner un exemple très concret. Si on dit, par exemple, sur les réseaux sociaux, on s'adresse à quelqu'un, on lui dit « il vaudrait mieux pour toi que je ne rencontre pas ta fille ». C'est évidemment quelque chose qui est extrêmement menaçant, mais un algorithme ne va peut-être pas l'analyser comme étant quelque chose de menaçant. Si vous le prenez mot à mot, à la limite, ça pourrait presque passer pour quelque chose de bienveillant. Donc, que faut-il pour pouvoir vérifier ce type de contenu ? C'est très simple, il faut des gens. Il faut énormément de gens.

Il faut des milliers, des dizaines de milliers de personnes qui sont capables de contrôler les contenus qui font l'objet d'un signalement. Facebook a des milliers de personnes, mais enfin, on voit bien que ce n'est pas suffisant. Et on est un certain nombre à pratiquer le débat public et à savoir qu'on est victime de contenus extrêmement menaçants, voire carrément des menaces de mort qui restent des jours ou des semaines sur les réseaux sociaux. Donc là, vous voyez, alors ça, c'est un sujet aujourd'hui qui est pris à bras-le-corps par l'Union européenne. Il y a des directives aujourd'hui qui sont en discussion, mais on voit bien qu'on a un coup de retard.

Le métaverse, vous pouvez avoir le même type de problème, mais je dirais dans un univers virtuel, c'est presque pire. Ça ne veut pas dire qu'il faut, à mon avis, jeter le métaverse, mais ça veut dire qu'en termes de régulation, là pour le coup, les États doivent être sur le coup. Sur la régulation, Dominique Cardon, encore dans les pays de langue anglaise ou française, il y a des moyens humains, mais pour préparer cette émission, j'ai écouté une précédente interview que vous avez donnée, Birmanie, trois personnes pour assurer la régulation ?

Mais ça, on le savait aussi. Je suis d'accord pour dire qu'on n'apprend pas énormément de choses et que la comparaison avec le tabac est un peu exagérée dans ces affaires, mais c'est qu'en réalité, ils n'ont pas les moyens, ils n'ont pas pris toute la responsabilité. Et d'une certaine manière, les réseaux sociaux ont pris une emprise sur les nouveaux circuits de l'information que possédaient les médias traditionnels, mais ils n'ont pas pris la responsabilité qu'avaient les rédactions.

Et donc, cette responsabilité d'un monde qui va mal, encore une fois, la haine, ce n'est pas Facebook qui la produit, c'est les utilisateurs qui la produisent, et qui sont encouragés par toute une série d'entreprises pour l'encourager et pour la mettre en place. Ils ont entre 15 et 30 000, on n'arrive jamais à savoir les chiffres modérateurs. Encore des chiffres qui ne sont pas clairs ? Oui, c'est une des difficultés. Ils ont fait d'énormes progrès depuis 2015-2016. Ils recrutent, ils recrutent, ils recrutent. Mais c'est insuffisant.

Et puis, l'air de rien, vous savez, les affaires de droit des médias, c'est la 17e chambre du tribunal de Paris, et quand ils traitent une affaire, ils passent des journées dessus. Pour un seul énoncé, dans lequel il y aurait de la diffamation, de l'injure, de la haine. Là, vous en avez des millions tous les jours. Donc, la solution ne peut être qu'un mélange d'algorithmes et de modération humaine qui soit associée à ça, avec une vraie connaissance des langues. La langue arabe, par exemple, on sait que le nombre de modérateurs en langue arabe est très, très insuffisant pour toutes les plateformes. Parce qu'on parle de Facebook, mais pour toutes les plateformes. Véronique Reissoult.

En fait, oui, bien sûr, la régulation, elle est très compliquée. On n'a pas forcément le temps là, mais il y a aussi l'intelligence collective qui n'est pas utilisée, qui est sans doute la clé, parce que ce qui est très compliqué, c'était juste pour revenir sur vos propos, ce qui est très compliqué dans la régulation, c'est que le sujet, par exemple, de la haine et des propos, qui décide de quoi ? Et donc, c'est pour ça que le collectif serait sans doute plus intéressant de laisser les internautes entre-décidés. Alors, pardon, dites-en un peu plus sur cette intelligence collective.

C'est juste que, par exemple, vous prenez, je vais prendre un exemple, Reddit, par exemple, qui est un réseau social qui est peu développé en France, mais qui existe beaucoup aux Etats-Unis, avait lancé un jeu concours. Il voulait faire une œuvre d'art avec plein de petits pixels, d'accord ? Chacun devait poser un pixel. Bien évidemment, puisque les réseaux sociaux, c'est notre monde en 3D, vous avez eu des horreurs qui sont tout de suite sorties. Je vous passe les immeutes. Oui, on a compris. Si on régule, on aurait dû dire, on arrête tout de suite cette expérience qui est malheureuse.

Ils ont laissé ouvert et les internautes eux-mêmes ont corrigé et ont recouvert ces immondices de très jolies choses et c'est devenu quelque chose de bien. Donc, pour vous dire que l'intelligence collective, c'est parfois plus fort que l'intelligence artificielle. Mais je voulais juste vous dire quelque chose qui vous concerne directement, parce que c'est votre cœur de métier, sur la régulation.

Le vrai sujet sur les métaverses et sur ce monde qui est en train de se créer, c'est le sujet des crypto-monnaies, de la blockchain et du fait que s'ils obtiennent l'autorisation d'avoir un mode de paiement dans ce monde virtuel que nous ne pouvons plus réguler, et c'est le cas quand vous êtes sur les cryptos, là, c'est la porte-monnaie. Là, on est dans la question d'Yannick, les géants Internet sont-ils devenus plus puissants que la plupart des pays ? Oui, c'est très dangereux et je pense que c'est un vrai sujet que les économistes et les États doivent vraiment… Là, on peut faire quelque chose, on peut anticiper, il est encore temps. Après, on ne pourra plus rien faire.

Nicolas Bouzou, puis il y a deux minutes. Non, non, sur la question que vous venez de poser, qui est celle d'un téléspectateur, je pense, d'une téléspectatrice. En fait, les États ont beaucoup de mal à avoir les compétences humaines qui permettent de réguler les réseaux sociaux. Pourquoi ? Parce que ces entreprises… On parle de Facebook, mais en fait, c'est vrai de beaucoup d'autres entreprises. La Chine, on en parlera, a exactement les mêmes problèmes. Ces entreprises sont très grandes, elles sont devenues très riches et elles peuvent payer des salaires qui sont des salaires absolument considérables. Et du lobbying.

Et du lobbying, mais elles peuvent payer des salaires considérables dans un environnement de travail qui est quand même, malgré tout, assez excitant. Enfin, je veux dire, ce n'est pas rien de diriger une division d'intelligence artificielle chez Facebook. Vous avez énormément de moyens, etc. Les États en face ont beaucoup de mal à très bien payer les gens, ils ont beaucoup de mal à attirer les meilleurs talents pour réguler. Donc, on a malheureusement ce différentiel de compétences qui rend assez difficile la mise au point d'une régulation. Parce que la question de la régulation des réseaux sociaux, la difficulté, elle n'est pas morale.

On sait quand même se mettre d'accord sur ce qui doit être autorisé ou pas sur les réseaux sociaux. La difficulté, c'est une difficulté de compétence, une difficulté intellectuelle, une difficulté concrète. Comment on fait ? Comment on fait pour interdire ? Comment on fait pour réguler un algorithme ? Donc, c'est vraiment un problème de capacité à attirer les personnes qui vont permettre de réguler. Une façon de réguler aux États-Unis, Nicole Bacharan, il y a eu la loi anti-trust à une époque, alors ça a mis du temps à s'appliquer. Mais c'est aussi une des questions posées par Facebook, une question de position dominante.

On peut très bien imaginer que l'État décide de démanteler, de découper en petits morceaux ? En tout cas, c'est quelque chose qui est discuté et c'est quelque chose qui est redouté par Facebook. Cette position qui n'est pas un monopole, mais presque, notamment si Facebook continue à acheter des applis et différents autres... Rappelons que Facebook, c'est aussi Instagram et WhatsApp, autre chose. Voilà, ils peuvent tout à fait, ils en ont le projet d'ailleurs d'acheter d'autres réseaux. L'idée qu'ils pourraient être découpés, si j'ose dire, en tranches pour obéir ou être convenables, disons selon les lois anti-trust, est un de leurs problèmes.

Et c'est aussi une des raisons de ce projet Métaverse. Parce que quand on passe à la réalité virtuelle, là franchement, les lois anti-trust, elles sont très très loin de pouvoir s'en occuper. Donc ce serait une manière d'échapper à cette question-là, à la volonté peut-être du législateur de casser le monopole. À ce stade du débat, Dominique Cardon, juste dire, pardon, mais Métaverse à plein d'égards, c'est génial. Ça fait partie de la culture du numérique. Les enfants, les parents et grands-parents qui nous écoutent connaissent le jeu Fortnite. C'est un monde virtuel. On a connu Second Life. Ça fait partie, on ne va pas interdire cela.

C'est une évolution technologique naturelle, d'une certaine manière.

Alors, je ne sais pas si elle est naturelle. Elle est dans l'imaginaire des pionniers depuis Snow Crash de Neil Sevenstone, qui est le roman de science-fiction qu'ont lu tous ces ingénieurs. Du coup, ça vient régulièrement dans l'histoire du numérique. Et régulièrement, je n'allais pas dire que c'est des échecs, il y a un endroit spécialisé qui est celui des univers de jeux virtuels, d'imaginaire virtuel, dans lequel ça a réussi extraordinairement bien pour toute une série. Et c'est un énorme marché pour le jeu. Mais tous ceux qui ont essayé de dire, non, on ne va pas simplement y mettre du divertissement, de la féerie, du fantastique. On va aussi travailler, acheter, etc.

Ça va être en 3D, etc. Ça a toujours échoué. Dans l'histoire du numérique, Second Life, je ne sais pas si vous vous rappelez que Nicolas Sarkozy, pendant la campagne électorale, avait été construire une île sur Second Life parce qu'il pensait que c'était là qu'on allait faire de la politique.

Il n'était pas le seul, au passage. Il n'était pas le seul.

Google avait lancé des Google Glass et tout le monde était absolument effrayé, etc. Même les salariés de Google ne voulaient pas porter les Google Glass dans l'entreprise. Revenons à la... Et donc, cette idée de nous transporter dans l'univers virtuel complètement, je ne suis pas sûr. Vous voyez, les réseaux sociaux, ça a réussi parce que c'est une technologie qui est venue équiper quelque chose où il y avait une attente sociale préalable, c'est l'associabilité, la conversation. En fait, c'est que de la conversation. Et ça nous a apporté ça aussi parce qu'on peint le tableau en noir, mais il y a eu aussi... Et c'est absolument essentiel.

Et aujourd'hui, on ne reviendra pas en arrière sur cette... Et on était bien contents de les avoir pendant le confinement. Cette formidable émancipation technologique que nous offrent les réseaux sociaux pour converser, discuter et mettre en réseau la société. Il y avait quelque chose de préalable. Là, l'attente à l'égard d'un transport dans des mondes virtuels, au-delà de l'univers du jeu et du divertissement, mais pour l'univers du travail, je ne suis pas sûr qu'il soit complètement...

Deux questions rapides et réponses rapides, s'il vous plaît, sur la régulation. L'idée d'une cour suprême chez Facebook, c'est-à-dire qu'on consulterait des hauts magistrats, des intellectuels, etc. Est-ce que ça peut marcher ? Et par exemple, détail technique très concret, obligé à lire un article avant de le partager, ça, ça semble assez simple à mettre en œuvre.

Ça peut marcher ? Ça peut être mis en œuvre ou pas ? Ah, moi, je crois beaucoup à plusieurs solutions. Je reviens. La cour suprême, c'est l'invention qu'a mis en place Facebook, qui est assez hypocrite, mais en même temps qui est une bonne solution de régulation. C'est qu'en réalité, Facebook fait ce qu'il veut. La section 230 de la loi de 1996 aux États-Unis dit qu'il n'y a pas de responsabilité. Les plateformes sont des hébergeurs, elles ne sont pas éditeurs. Et ça a été très bénéfique à l'économie numérique. Je pense qu'il faut maintenir cette idée-là. Mais évidemment, elle est très hypocrite, puisqu'elle permet à Facebook de faire ce qu'il veut.

Et du coup, il a des normes privées, mais qu'il essaye d'une certaine manière d'harmoniser avec des grands principes internationaux des droits humains à travers une cour suprême de juges auprès desquelles ils remettent ses propos. Une solution est évidemment le design et l'autorégulation. Et alors, c'est vrai que moi, je crois beaucoup à ces principes d'intelligence collective. C'est-à-dire qu'en partie, les modérateurs de Facebook, comment ils travaillent ? C'est parce que les utilisateurs de Facebook font des signalements. Ils font des signalements et ils travaillent avec ces statistiques de façon très proche.

Mais plutôt que de censurer, parce qu'en réalité, ce qui se passe aujourd'hui, c'est que sous la pression des États, sous la pression de l'opinion publique, sous la pression de toutes les élites américaines qui sont absolument furieuses et qui, en fait, en veulent à Facebook à cause de Donald Trump. Ce n'est pas de votre faute, Nicolas Bachelard. Non, non, mais j'avisais. Mais on est en train, en réalité, Facebook est en train d'avoir une modération des contenus qui est exorbitante par rapport aux droits publics. Sur la désinformation, sur l'effacement de toute une série de comptes, etc. C'est problématique. Il y a des solutions par le design.

Il y a des solutions par le design des interfaces. Quand Twitter met sa petite information, ça a des effets. Il y a 40% de gens qui ne partagent pas l'information.

Et par la transparence aussi, parce que quand on signale, on ne sait pas ce que ça devient. Si on avait un retour et si c'était un peu plus... Transparence, intelligence collective. Je note ces deux expressions. Alors, ces questions autour des réseaux sociaux, elles sont d'autant plus importantes que nous entrons dans une année de campagne électorale. Prenons Twitter. Tiens, pour changer, près de 7,5 millions d'abonnés pour Emmanuel Macron, 2,6 millions pour Marine Le Pen, 275 000 pour le pas encore candidat Éric Zemmour. Comment faire campagne sur les réseaux ? Élément de réponse avec Laszlo Gellaber et Erwann Elion.

Retrouvez-moi désormais sur TikTok. Je prépare mon débat avec Zemmour. C'est le troisième.

Ouais, ça n'est pas en derrière moi. Sur TikTok, Facebook, Twitter, à chacun son petit mot. Les candidats à la présidentielle raffolent de ces réseaux sociaux. Une manière pour eux de faire campagne à moindre frais. Comme avec cette mise en scène d'Anne Hidalgo qui se plaint d'un distributeur de billets de train. Une vidéo aux allures d'amateurs, déjà vue plus d'un million et demi de fois.

Les machines remplacent les humains, ça va pas quoi.

Elle aime aller au contact, Anne Hidalgo. À l'ancienne.

Bonjour. Ça va, bonjour.

Sur ce marché parisien, la candidate du Parti socialiste enchaîne les sourires et les poignées de main devant les caméras. Un bain de foule qu'elle compte bien relier sur son compte Twitter, très suivi selon elle.

J'ai un million cinq cent mille followers, donc c'est pas nouveau pour moi les réseaux sociaux. D'accord ?

À quelques mètres d'elle, un photographe immortalise les meilleurs moments. Des photos soigneusement choisies et aussitôt publiées sur les réseaux sociaux. Un précieux outil de communication pour partager son quotidien.

Bien sûr que j'utiliserais les réseaux sociaux. Je suis, depuis très longtemps, je devais être une des premières politiques à être sur Twitter, mais aussi sur tous les autres réseaux sociaux. C'est normal, tous les moyens doivent nous permettre de dialoguer avec les Françaises et les Français.

Parler directement aux électeurs, c'est aussi tout l'intérêt de la France insoumise. La situation d'extrême volatilité dans la tête. Au meeting de Jean-Luc Mélenchon ce jour-là, un atelier où les militants apprennent à diffuser les idées de leurs candidats favoris sur Internet.

Le conseil que je vous donne, allez-y, essayez, même si au début vous allez faire 500, 600 vues et que c'est décevant.

Antoine Léomant est l'architecte de la campagne numérique de Jean-Luc Mélenchon. Pour lui, une priorité, être le plus visible sur les réseaux sociaux. Une manière de court-circuiter les médias traditionnels.

Là où, dans certains médias, on va avoir des formats très courts et toujours avec des thèmes qui ne vont pas être forcément les thèmes qui vont nous intéresser davantage, nous, on utilise les réseaux sociaux d'abord pour faire passer nos thèmes, nos propositions et on va créer des formats qui vont correspondre à ces thèmes. Et si je veux vous parler de la 6e République, ça ne peut pas se faire en deux minutes d'une matinale où par ailleurs, il faut parler immigration, sécurité, islam parce que c'est les sujets du moment.

À six mois du premier tour, des équipes peaufinent déjà en coulisses leur stratégie numérique. Même sans candidats officiellement déclarés, à La République En Marche, ces militants twittent vite et beaucoup. Pour diffuser leurs idées au maximum d'internautes, ils utilisent des hashtags, des mots-clés très courts qui font référence à l'actualité du moment.

On va utiliser les hashtags mais on va surtout réagir à l'actualité. Parler d'un sujet qui n'intéresse personne ou qui ne fait pas l'écho d'actualité, forcément, ça va être très difficile. Donc, ce que l'on va pousser en termes de sujets, c'est vraiment des sujets d'actualité. Et c'est vrai qu'on va se retrouver avec des hashtags pour tenter finalement de créer une tendance.

Depuis un an, cette agence scrute justement ces tendances. Elle a développé un logiciel nommé Lucie qui observe l'opinion des Français sur Twitter. Cet analyste s'est intéressé au hashtag Génération Zemmour, à première vue très partagé sur le réseau social. En réalité, une illusion. Le mot-clé est surtout relayé par Samuel Laffont, proche d'Éric Zemmour, suivi par près de 34 000 personnes. C'est-à-dire que Lucie nous montre que 0,08% des Français utilisent ce hashtag Génération Zemmour en un mois, ce qui est très peu.

Par contre, grâce à l'influence de Samuel Laffont, qui sert vraiment de plaque tournante à ce hashtag, ils arrivent à toucher d'autres parties de l'extrême droite, notamment les soutiens de Marine Le Pen qui sont de près de 90% à voir ce message. Et aussi, au-delà de ça, les journalistes. On peut avoir l'impression d'un raz-de-marée ou en tout cas d'un sujet qui fait le buzz et dont tout le monde parle, mais très souvent, c'est un biais de perception de la part soit des médias, soit des journalistes, soit des utilisateurs de Twitter qui restent dans la fameuse bulle Twitter et donc qui ont l'impression que tout le monde ne parle que de ça.

En fait, non, ce n'est pas tout le monde, c'est juste les gens qu'eux suivent. D'après un baromètre qui classe les politiques selon leur poids sur les réseaux sociaux, le polémiste a gagné 58 places en quelques semaines, juste derrière Emmanuel Macron en tête du classement, grâce à ses 20 millions d'abonnés sur plusieurs plateformes. L'impact politique des réseaux sociaux. Nicole Bacharan, avec 5 ans de recul, les réseaux sociaux ont-ils fait élire Trump ? En grande partie. Vraiment, en grande partie. Il a régné. Il y a eu une chute de téléphone. Vous voyez, ça, c'est l'effet des réseaux sociaux. Il a régné par Twitter, véritablement. Il a commencé à tweeter dès 2011.

Et bon, il était déjà très connu à cause de son émission de télévision. Donc, c'est parce qu'il était très connu que les gens allaient le suivre sur Twitter. Pardon, mais Twitter a beaucoup, beaucoup amplifié. Ça lui a permis de donner... Je voulais faire prendre votre souffle, Dominique Cardan, sur cette question. Qu'est-ce qu'on dit aujourd'hui, 5 ans après ? Les électeurs de Trump ne sont pas forcément des adeptes des réseaux sociaux. Est-ce qu'on peut dire que les réseaux sociaux l'ont fait élire ?

Moi, je ne pense pas, moi. Et il y en a beaucoup d'enquêtes qui disent qu'ils ont joué un rôle. C'est absolument évident. C'est Fox qui a fait élire... Donc, c'est un média traditionnel. C'est un média absolument traditionnel. Alors, vous avez une nouvelle circulation de l'information qui s'est mise en place que votre reportage montrait magnifiquement. C'est que vous avez les caves de l'Internet à très faible visibilité qui produisent toute une série de bruits politiques très organisés, très militants. Vous avez des militants, quand même, ils sont très, très peu nombreux, mais ils bombardent, ils bombardent, ils bombardent.

Et ils bombardent des choses qui sont reprises par des gens qui sont à un niveau un petit peu plus intermédiaire faire entrer dans les médias centraux. Et c'est quand c'est les médias, les grands médias qui reprennent des bruits qui viennent des périphéries que tout d'un coup, on change l'agenda politique. Parce que ce qui est au cœur, ce n'est pas tellement diffusé d'informations, c'est d'arriver à dire la question centrale que vous allez vous poser pour l'élection, c'est cette question. Et celle-là, elle a été produite par cette...

Et là, on sait, dans le cas américain, on sait que la question de la scandalisation de la boîte mail d'Hillary Clinton et des affaires autour d'Hillary Clinton a fait plus de une sur le New York Times que le programme d'Hillary Clinton. En 2020, lors de l'élection de Joe Biden, Donald Trump a bien essayé, avec l'histoire du fils Biden qui aurait déposé son ordinateur chez un marchand qui aurait trouvé dedans des compromissions avec la Chine et de la pédocriminalité, il a essayé de lancer la même affaire, en réalité. Le New York Times a fait un article magnifique, il faudrait le donner en exemple, vraiment.

Il a dit, nous allons parler une seule fois de cette information, c'est faux, nous n'en reparlerons plus. Et nous passons à autre chose. Et nous passons à autre chose. Et du coup, ils n'ont pas été aspirés comme ils l'ont été précédemment et comme nous le sommes aujourd'hui avec l'affaire Eric Zemmour, ils n'ont pas été aspirés dans une sorte de processus qui a fait émerger au centre du débat public des thématiques qui ont été en fait produites à la marge de l'espace, de l'espace numérique, et là, les réseaux sociaux jouent un rôle.

Nicolas Bouzou, il y a des électeurs plus adeptes des réseaux sociaux et donc des candidats qui le favorisent davantage ? Oui, les réseaux sociaux sont favorables aux idées les plus radicales, voire les plus extrémistes. On le sait très bien, Gérald Brenner notamment, mais il y en a d'autres a très bien montré ça, a montré qu'au fond, plus une idée était radicale, plus elle était retweetée. Je vais vous donner un exemple encore très concret. Hier, l'INSEE a annoncé une croissance économique au troisième trimestre de 3%. C'est historiquement élevé. Si je tweet sur les réseaux sociaux, 3% de croissance, c'est historiquement élevé, mais il y a quelques dangers, etc. Ce sera très peu retweeté.

Si je tweet 3% de croissance, l'INSEE ment. Alors là, je peux vous dire que ça va être très fortement retweeté. Ce sera faux, mais ce sera retweeté. C'est un petit peu l'inverse de la télévision et même j'oserais dire que c'est un peu l'inverse de C'est dans l'air. Si à C'est dans l'air, je dis 3%, les chiffres sont faux, vous allez vous dire, c'est bizarre et vous me réinviterez. Vous allez vérifier et vous ne me réinviterez pas. Donc vous voyez que les réseaux sociaux sont quand même très favorables à un certain type d'idées. Je ne dis pas qu'il ne faut pas consulter les réseaux sociaux.

Mais je dis que pour des raisons d'hygiène démocratique, quand on veut être un bon citoyen, on est sur les réseaux sociaux et on regarde aussi et on lit une presse qui est filtrée. On a absolument besoin de conserver cette presse. Diversité des médias dont parlait Dominique Cardon tout à l'heure. Véronique Reissoult, vous dites il y a 3 temps au fond pour une campagne sur les réseaux sociaux. Oui, vous avez le premier temps c'est le temps de la curiosité. On l'a passé, mais ça se mesure très bien sur les réseaux sociaux.

Il suffit d'aller regarder sur Google Trend et vous savez déjà si les gens vont se renseigner parce qu'effectivement on va souvent s'enseigner sur les réseaux sociaux ou tout simplement dans les moteurs de recherche. Le deuxième temps, c'est celui dans lequel nous sommes, c'est celui de l'intérêt. On rejoint la fameuse histoire de M. Trump qui disait on ne vote pas pour quelqu'un qu'on ne connaît pas et auquel on ne s'intéresse pas. La réciproque n'est pas vraie, mais c'est un premier temps. Curiosité, intérêt. L'intérêt. Et puis après, vous avez deux autres phases, l'adhésion et le vote qui vont ensemble et on est loin de ce sujet-là.

Et si nos téléspectateurs veulent voir ce qu'est la notion d'intérêt et de bruit sur l'ensemble des réseaux sociaux, pas que sur Twitter qui n'est qu'anecdotique pour les Français, je les invite à aller sur le site de Backbone Consulting parce qu'on a mis à disposition de chacun un outil qui vous permet de regarder c'est quoi la masse des messages, de qui on parle le plus, quel est le candidat. Est-ce que ce que vous dites, vous les journalistes, c'est les sujets dont parlent les Français ? Est-ce que c'est les sujets dont parlent les candidats ?

Bref, je les invite à aller regarder parce qu'en fait, c'est un sujet de massification et juste pour répondre sur ce que vous disiez sur, eh bien oui, si vous disiez des choses horribles, ça serait plus repris. En fait, les principes de viralité, on les connaît très bien sur les réseaux sociaux et c'est ce qu'on appelle le commerce de l'ego. C'est-à-dire que ce que vous allez faire va devoir vous flatter. Soit parce que, alors vous allez partager quelque chose qui est beau, en politique c'est rare, quelque chose qui est drôle. Ça peut arriver. Ça peut arriver. Monsieur Mélenchon et son verre de lait, fraise, c'était drôle. Donc ça a été pas mal repartagé.

Soit c'est intelligent, c'est-à-dire vous apportez une connaissance que les autres n'ont pas, donc c'est une façon de vous valoriser. Soit c'est une polémique et ça vous permet d'exister par rapport aux autres. Et les militants, leur boulot, c'est quoi ? C'est, on l'a vu tout à l'heure, faire du bruit, de l'écho. Donc il faut que ce soit le plus partagé, le plus liké, le plus commenté. Et donc leur boulot, c'est forcément d'utiliser ces leviers. Alors drôle, ça serait sympathique que ce soit toujours ça. Malheureusement, c'est souvent polémique et excessif. Et le but, il est de sortir, on parlait tout à l'heure des bulles.

Là, quand les militants parlent entre eux, s'ils tapent tous ensemble ce que on décrit là, vous faites du bruit entre vous. C'est bien, vous faites beaucoup de bruit, mais il n'y a que vous qui l'entendez. Le sujet, c'est de sortir et de faire en sorte que vous gagnez petit à petit d'autres communautés, donc d'autres bulles. Et Nicole Bacharan, pour faire le lien entre les deux plateaux, celui sur la politique et la régulation, on a maintenant un certain nombre d'exemples où on sait que lors de campagnes électorales ou d'événements politiques importants, il y a eu des bombardements de fake news par des groupes de pression étrangers, des armées de trolls étrangères. Oui, absolument.

C'est vrai que les réseaux sociaux, ce n'est pas seulement le lieu des campagnes électorales et des filtres d'électorat qui sont plus ou moins importants, mais sur les réseaux sociaux plus valorisés. C'est vraiment le lieu de toutes les ingérences étrangères. Ingérence russe dans l'élection de Donald Trump en 2016, à nouveau en 2020 d'ailleurs, et c'est passé tout près d'une réélection de Donald Trump avec des méthodes beaucoup plus sophistiquées. À l'heure actuelle, pour le référendum en Nouvelle-Calédonie sur l'indépendance ou non du territoire, on sait que la Chine est à l'œuvre à travers les réseaux sociaux.

Emmanuel Macron avait mis en avant les médias russes, pas simplement les réseaux sociaux, mais médias et réseaux sociaux manipulés par le Kremlin au moment de son élection en 2017, où à la dernière minute sont sortis des fake news sur des comptes offshore, etc. On savait directement d'où ça venait. La Turquie utilise beaucoup les réseaux sociaux en France, notamment pour alimenter l'idée que la France est une puissance ou un pays anti-musulman, anti-islam. Donc c'est vrai qu'on est au-delà même de la question de la représentativité des réseaux sociaux par rapport à l'électorat français, mais c'est un lieu dangereux pour la démocratie. Nicolas Bouzou.

Oui, il ne faut pas être dupe avec le nombre de repartages, de retweets, pour deux raisons. Première raison, il y a énormément de faux comptes. Il est parfaitement avéré que les partis politiques les plus radicaux sont ceux qui créent le plus de faux comptes. Ça, c'est la première chose. La deuxième chose, c'est que vous avez aussi des algorithmes qui, eux-mêmes, arrivent à retweeter, par exemple sur Twitter ou en tout cas à repartager. C'est la raison pour laquelle il faut quand même prendre de la distance.

C'est-à-dire que quand on voit une personnalité politique qui se vante d'avoir 2 millions d'abonnés sur Twitter, par exemple, ou qui se vante d'avoir des vidéos vues plus d'un million de fois, voilà, il faut quand même se dire que je ne veux pas faire de procès d'attention, mais sans doute la technologie aide à obtenir ce type de résultat. Une campagne électorale sur les réseaux sociaux est-elle plus facile qu'une campagne par tractage et confrontation ? Qu'en dites-vous ? Disons que vous avez plus de discussions. Après, oui, il y a le sujet des bots mais qui, paradoxalement, a un peu tendance à diminuer. Les bots, c'est les robots qui se font repérer.

Après, plus facile, je ne sais pas, vous pouvez demander à un militant, je pense que ce n'est pas si simple que ça, on l'a vu tout à l'heure, d'arriver à être partagé, repris. Qu'est-ce qu'on en dit à Sciences Po, Dominique Cardon ?

Les gens de marketing politique, regardez les budgets que distribuent les partis, ils comptent beaucoup plus sur la campagne réelle que sur la campagne sur les réseaux sociaux. c'est beaucoup plus efficace. Je peux ajouter un tout petit mot et puis on va parler de la Chine. Pour être plus optimiste sur le numérique parce que vous voyez bien qu'on voit tous les problèmes. Vous avez vu que j'ai cherché

à l'être tout à l'heure en vous provoquant un petit peu.

Et c'est incontestable. Mais le numérique, il apporte aussi plein de choses. À la veille d'une campagne électorale, moi je voudrais me faire l'écho d'un appel des indépendants qui est un manifeste signé autour du Fonds pour la presse libre qui mène une campagne autour de tous ces nouveaux médias indépendants qui sont apparus. Il y a 70 médias qui sont là, ils sont jeunes, ils sont curieux, ils font de l'investigation, ils sont souvent un peu précaires. C'est des collectifs de pigistes, c'est Blast, c'est Street Press, c'est AOC. C'est toute une série de médias indépendants qui pourraient nous ouvrir la fenêtre constamment sur cette fenêtre-là.

On a l'impression que l'agenda médiatique est en train de se refermer sur quelques thèmes qui sont propulsés par quelques plateaux de télévision et puis des stratégies, il faut le dire, commerciales et politiques pour nous les mettre en tête. Alors que si on ouvre le web, on peut respirer, on peut trouver plein d'enquêtes absolument passionnantes, on peut trouver des choses qui décrivent la réalité du monde mais dans sa complexité, dans son intérêt, dans sa diversité. On a les médias qui sont là, cette presse indépendante est là et voilà, moi je vous encourage à la soutenir à travers la campagne qu'on mène au fond, parce que j'en suis membre, au fond pour la presse libre.

Alors, message noté, reste la question de la régulation des réseaux sociaux malgré tout et c'est bien d'ouvrir la fenêtre. Il y a la méthode chinoise, alors elle est, vous l'imaginez, un tantinet radical. Explication, Mathieu Lignot et Benoît Thébault. Tic Tac pour TikTok. Le temps sur le réseau social est maintenant compté pour les jeunes chinois. 40 minutes par jour pour visionner ces petites vidéos. Après les jeux vidéo, nouvelle mesure du parti communiste chinois pour préserver la santé des enfants. Une bonne nouvelle pour cette maman, elle est venue voir un psychologue pour son fils accro au portable.

Il regardait son téléphone quand il mangeait, quand il traînait. Il était tout le temps sur son téléphone. On avait l'impression qu'il devenait une autre personne.

Le gouvernement est dur à ce sujet et utilise cette nouvelle politique en dernier recours. Avec sa mise en œuvre et avec le système de reconnaissance faciale, on peut vraiment empêcher les mineurs de trop utiliser Internet. C'est une très bonne mesure. Tic, c'est aussi un moyen supplémentaire de contrôler l'usage d'Internet. dans un pays où la censure est partout. Le parti communiste surveille. Impossible de trouver des informations sur des sujets ultra sensibles. Comme Taïwan, le Tibet, le massacre de Tiananmen ou la persécution des Ouïghours. Des milliers de mots-clés sont bloqués. sur ce site de partage de vidéo, des employés surveillent les internautes chinois.

Et voici leur chef, très fier de sa mission. Nous sommes des employés de nettoyage. Sauf que nous ne nettoyons ni des routes ni des maisons. On nettoie le cyberespace. L'année dernière, la Chine aurait dépensé 5,5 milliards d'euros pour sa censure d'Internet. Le prix a payé pour protéger le parti communiste chinois et éviter toute contestation.

Notre exemple d'incident le plus marquant a été le moment où un gouvernement local voulait

construire une usine d'incinération à côté d'une ville en Chine.

Sans doute à cause d'une mauvaise communication des autorités, des citoyens ont commencé à manifester et ils se sont rassemblés. On a ciblé la manifestation, on a tracé un cercle GPS de 10 km à la ronde et tous ceux dans ce cercle ne pouvaient plus

diffuser de vidéo. En fin de compte, on a empêché la situation de s'aggraver. Une censure assumée et qui va encore plus loin avec des algorithmes. Ils analysent les messages de près d'un milliard d'internautes chinois. L'intelligence artificielle permet d'anticiper les sujets qui risquent de devenir sensibles. Elle permet de faire remonter les bruits de fond.

Vous voyez, une situation à la gilet jaune comme on a pu la connaître en France aurait probablement été grâce au système de surveillance chinois anticipée et en fait, Xi Jinping est en train de réaliser presque le rêve ou le fantasme de Mao qui était de contrôler intégralement à la fois la vie physique mais aussi de plus en plus la vie virtuelle et la vie intellectuelle de ses comptes citoyens. censure de ses propres réseaux et interdiction de certains sites étrangers. C'est la grande muraille numérique. Résultat, aucun GAFA en Chine. Baidu remplace Google, Weibo Twitter, WeChat, c'est la version chinoise de WhatsApp et Youku remplace YouTube.

Derrière ces sites, des multinationales comme Alibaba et Tencent. Elles collectent des milliards de données personnelles. Mais là encore, le parti communiste veille au grain pour éviter qu'elles ne deviennent trop puissantes. Nous avons beaucoup travaillé sur la formulation de normes nationales et réglementations pour guider et inciter les entreprises et les plateformes à remplir leur devoir de protéger les données personnelles. Nous avons lancé une opération ciblée pour lutter contre la collecte et l'utilisation illégale d'informations personnelles au moyen d'application. Mais malgré ce contrôle drastique, les Chinois arrivent parfois à déjouer la censure.

Pour preuve, cette série Squid Game fait un carton planétaire y compris à Pékin. Elle est pourtant diffusée sur Netflix, un site interdit en Chine. Nicolas Bouzou, après tout le mal qu'on a dit des réseaux sociaux depuis le début de cette émission, c'est formidable la Chine. Ils ont trouvé la solution ? Non, ils n'ont pas du tout trouvé la solution. En fait, la Chine a une position très ambivalente par rapport aux réseaux sociaux. mais par rapport à ce qu'on appelle les BATX qui sont l'équivalent chinois des GAFA. C'est-à-dire que d'un côté pour eux, ce sont des outils... GAFA, juste pour ceux qui... Google, Amazon, Facebook, Amazon.

Et vous avez à peu près les mêmes, c'est à peu près le même type d'entreprise en Chine. Ce sont pour la Chine des attributs de la puissance parce que ce sont quand même les entreprises du XXIe siècle qui maîtrisent les technologies, notamment le numérique et l'intelligence artificielle. Et donc les Chinois voient bien l'intérêt, y compris l'intérêt géopolitique, d'avoir des entreprises comme Baidu, comme Alibaba, comme... Oui, ce sont vraiment elles qui maîtrisent les données, l'intelligence artificielle, etc. Donc c'est très important d'avoir ces grosses entreprises. Et en même temps, les Chinois voient bien les problèmes de régulation.

Alors eux, ils sont très inquiets des problèmes, en effet, de droit de la concurrence. C'est-à-dire qu'à partir du moment où ces entreprises deviennent trop grosses, elles peuvent décourager l'entrée sur le marché de start-up. Et ça, c'est quelque chose qui peut être mauvais pour l'innovation. Or, les Chinois sont absolument obsédés par l'innovation. Donc ça, c'est le premier souci. Donc ils sont en train de prendre des mesures drastiques en matière de droit de la concurrence. Le deuxième sujet, c'était très bien dit dans le reportage, c'est le sujet des données. C'est-à-dire que ces entreprises, évidemment, disposent de milliards de données et notamment d'images.

Et le gouvernement chinois considère qu'il est anormal que ces données soient l'apanage du secteur privé. Et donc, ils sont en train de mettre en place des outils qui permettent à l'État de se saisir de ces données. Je ne sais pas si tout ce que fait la Chine de ce point de vue-là est parfaitement adroit, pérenne, parce qu'il faut bien voir aussi qu'il y a parfois des menaces un peu voilées sur ces entreprises, sur leurs dirigeants. On demande aux dirigeants, par exemple, de donner beaucoup d'argent à des bonnes offres proches du Parti communiste. Enfin bon, vous voyez que tout ça est quand même parfois un peu impressionniste et un peu compliqué.

Mais en tout cas, ce qui me semble très intéressant, c'est cette tension entre d'un côté, on a besoin de ces entreprises, il faut les encourager parce que c'est la puissance du XXIe siècle et de l'autre, elles nous font peur et elles posent des problèmes, des problèmes politiques et aussi, et c'était très bien dit dans le reportage et ça inquiète beaucoup les Chinois, des problèmes sur l'éducation des enfants. Au fond, est-ce qu'avoir des dizaines de millions de petits Chinois qui sont sur TikTok plusieurs heures par jour, est-ce qu'en termes d'éducation, c'est une bonne chose ? La réponse est non. Est-ce que l'interdiction à la Chinoise est la bonne façon de faire ?

Je ne sais pas, mais en tout cas, le problème est posé. Est-ce que dans un pays totalitaire comme la Chine, on a des bonnes solutions de régulation dans lesquelles on peut piocher, Nicole Bacharan ? Ils ont éliminé la question de la liberté qui est celle, évidemment, qui nous apporte le meilleur et le pire sur les réseaux sociaux. Tous les problèmes que les réseaux sociaux posent sont liés au fait que c'est un espace de liberté. Ils s'y expriment des choses formidables. On peut y réunir des gens pour faire des choses formidables. Ils s'expriment des choses très dangereuses et très haineuses. En Chine, cette question-là est résolue. Il n'y a pas de liberté.

La censure de l'Internet chinois, elle est dirigée directement par Xi Jinping. Ça va faire bientôt dix ans qu'il est au pouvoir. Son pouvoir est de plus en plus consolidé. Il est président à vie. Et les réseaux sociaux, les plateformes sont responsables des contenus. La question, est-ce que ce sont des médias, est-ce que ce sont des tuyaux, c'est résolu. Ils sont responsables intégralement des contenus.

Ils sont chargés donc d'exercer la censure, de surveiller les citoyens et leurs mauvaises pensées, de collecter les données, mais également de diffuser la pensée de Xi Jinping, c'est texto, de contribuer à l'influence internationale de la Chine et de censurer tout ce qui peut nuire justement à l'influence et à l'image de la Chine. Et ce n'est pas juste virtuel. On parle en Chine d'environ un milliard d'internautes, deux millions de censeurs dont les méthodes sont virtuoses, se modifient sans arrêt au gré des situations, au gré des nouvelles technologies, mais ça veut dire aussi beaucoup d'arrestations. Ce n'est pas juste des réseaux ou des sites fermés, c'est des personnes qui disparaissent.

Véronique Raïtzoult, sur cette question, on perd au fond ce qui fait le sel et le meilleur des réseaux sociaux avec les méthodes à la chinoise. C'est ce que nous dit Nicole Bacharan. Nicole Bacharan a parfaitement raison, c'est le sujet des libertés étant résolues, c'est ce qui fait la force et la faiblesse des réseaux sociaux, c'est ce qui fait la force et la faiblesse du web globalement. On voit bien qu'il peut y avoir le meilleur, on en parlait il y a quelques instants et le pire aussi, c'est notre société en 3D. Après, il y a juste un tout petit poids. Je ne souhaite pas du tout qu'on devienne comme les Chinois mais le sujet de l'éducation c'est un vrai sujet.

Je rappelle que les patrons des GAFAM mettent leurs enfants dans des écoles où il n'y a pas d'écran. Je rappelle que pour eux le métaverse c'est formidable pour les autres mais leurs propres enfants ne doivent pas y être. Donc peut-être qu'il y a un sujet quand même en soi. Alors évidemment fermer les tuyaux, interdire, mais c'est compliqué. On voit bien les conflits que ça crée dans les foyers avec les adolescents. Tu n'as pas le droit Je vous confirme ça, oui.

C'est très compliqué donc je ne suis pas bien sûr pour des méthodes coercitives comme la Chine mais c'est vrai que ça pose une question qui est compliquée et que l'éducation comptait sur la compréhension des adolescents et peut-être un peu... Allez, nous en revenons à vos questions. Dominique Cardon, que révèlent les Facebook Papers ? Qu'est-ce qu'on en retient ?

La liste serait très longue. En réalité, Francis Hogan intervient après une dizaine déjà de révélations de salariés de Facebook qui le disent et puis en réalité ce que disent ces Papers qui sont très étranges parce que parfois c'est simplement des captures d'écran du système de communication interne des salariés. Donc ça nous dit quand même quelque chose et imaginez une entreprise dans laquelle les salariés font des critiques sur les algorithmes de l'entreprise de façon publique au sein de l'organisation. Donc c'est parfois ça les Papers pas entièrement.

Moi je trouve que l'endroit le plus nouveau et le plus central c'est autour de ce qu'on a évoqué tout à l'heure c'est-à-dire en fait c'est cette idée d'une entreprise monde mais fabriquée depuis Menlo Park dans la Silicon Valley et qui prétend réguler l'ensemble et du coup on voit que c'est complètement instable selon les pays et que du coup il y a des enjeux de régulation très très compliqués parce que on ne peut pas réguler la pyramide pas entrer dans la mécanique de la régulation très complexe que met en place le Digital Service Act pour l'Europe mais c'est l'idée qu'en réalité les Etats vont poser des cahiers des charges à des autorités de régulation qui vont vérifier ensuite que Facebook a bien modéré tel ou tel contenu et s'est comporté correctement en faisant un audit avec une transparence des algorithmes.

Bon ça va pour la France pour l'Allemagne etc. Mais qu'est-ce qu'on fait au Vietnam ? Parce que là le gouvernement il dit à Facebook le cahier des charges qu'il lui donne c'est vous m'effacez tout ça qu'est-ce qu'il fait en Chine ? En réalité ce qu'on vient de voir c'est que les entreprises privées et l'Etat partagent les données ensemble et que donc du coup on a une régulation qui devient liberticide.

Or le numérique on l'a dit ça a été très bien dit mais vraiment il faut y insister c'est un droit à la liberté de parole qui n'avait jamais été donné dans nos sociétés parce qu'on dit toujours la liberté d'expression existe depuis les grandes révolutions démocratiques du 18ème siècle mais en réalité c'était des élites parlantes qui parlaient les hommes politiques les journalistes les experts là tout le monde peut parler et la nouveauté avec laquelle il faut qu'on se confonde c'est de trouver une régulation intelligente qui ne cherche pas à refermer la boîte de la liberté expressive mais qui en même temps qui parvienne à donner aux gens suffisamment d'intelligence collective suffisamment d'apprentissage collectif pour éviter ces comportements toxiques dans lesquels nous coproduisons avec les algorithmes des effets absolument néfastes et toxiques.

Question de Catherine en Côte d'Or Nicolas Bouzou alors on l'a déjà abordé mais pour ceux qui nous ont rejoint en cours d'émission est-ce qu'en changeant de nom Facebook veut se racheter une virginité après ces nombreux scandales ?

Écoutez je ne sais pas alors déjà Facebook le réseau social continue de s'appeler Facebook Instagram s'appelle Instagram mais Whatsapp s'appelle Whatsapp Google avait fait ça il y a quelques années Google l'entreprise elle ne s'appelle pas Google elle s'appelle Alphabet très peu de gens le savent très peu de gens le savent au fond et quand C'est dans l'air fait une émission sur Google on dit Google et on ne dit pas Alphabet donc je ne suis pas sûr que ça fonctionne nécessairement mais je crois que il ne faut pas nécessairement y voir une entourloupe je crois que ce projet de Metaverse donc Meta vient du projet de Metaverse c'est quelque chose qui est très important pour Facebook parce que Facebook est une entreprise qui doit évoluer qui a finalement assez peu évolué depuis son existence elle doit évoluer elle doit trouver de nouvelles sources de revenus elle est prête à investir énormément d'argent des montants considérables et d'ailleurs je déconseille de mépriser ça et de dire simplement le Metaverse ça va rester un truc de loisir etc Facebook vous l'avez dit va mettre 10 milliards de dollars là-dedans Facebook en dépit de tous ses défauts je vais vous dire en tant qu'économiste citoyen ils ne sont pas mauvais je préférerais quand même que ce soit une entreprise française ou européenne en dépit de tous ses défauts voilà et je pense qu'on devrait quand même se poser sérieusement la question de savoir pourquoi nous en Europe et en France on n'a pas été capable de faire émerger ce type d'entreprise capable d'investir 10 milliards de dollars sur un projet pour tout un tas de raisons parce que l'université publique ne fonctionne pas comme elle devrait avec le secteur privé parce qu'on n'a pas assez de marché de capitaux parce que les régulations au début des entreprises pas après mais quand elles débutent sont sans doute trop strictes donc il y a beaucoup de sujets mais en tout cas je pense que c'est un magnifique sujet de réflexion Véronique Reissoult vous qui parliez d'éducation en question de Romane beaucoup d'ados passent plus de 6 heures par jour sur leur téléphone en scrollant à l'infini comment les en détourner ?

Il y a plein de techniques plein je vais vous en donner deux la première bien sûr c'est facile à dire mais c'est les éduquer aux sources et aux conséquences mais il y en a une qui est dans certaines écoles c'est fait vous avez des gens qui viennent à peu près en troisième donc au début de l'adolescence bien que l'adolescence c'est plus en plus tôt mais voilà et qui demandent aux élèves qui s'invitent dans les réseaux qui créent un pseudo qui deviennent amis avec toutes les personnes qui rentrent dans la classe et qui disent bonjour en fait on se connaît bien donc vous avez les adolescents qui rigolent et qui balancent quelques anecdotes un peu violentes qu'il a pu collecter sur les réseaux et ça permet d'entamer un débat et de leur dire finalement ce que vous faites sur les réseaux est-ce que vous le feriez dans la cour de l'école est-ce que vous iriez danser en slip dans la rue et bien non et je ne crois pas et donc du coup ça permet d'avoir un débat mais ça c'est un tout petit bout pour quelques ados c'est compliqué enfin voilà c'est tous ensemble de nouveau on va revenir à l'intelligence collective qui sera définitivement le thème des réseaux sociaux c'est tous ensemble qu'on peut arriver à faire bouger des choses mais c'est très compliqué et c'est sans doute tout petit très jeune et c'est comme ça que les patrons des GAFAM le prennent donc on devrait se demander s'ils le font comme ça peut-être que c'est la bonne solution L'Europe pourrait-elle censurer les réseaux sociaux étrangers et créer les siens Dominique Cardon ?

Censurer les réseaux sociaux étrangers l'Europe on voit bien qu'il y a des grandes difficultés et en même temps quand on regarde le débat sur la régulation aujourd'hui c'est fascinant de voir à quel point le modèle européen est en train de devenir une référence aux Etats-Unis sur le RGPD qui est le règlement général sur la propriété des données les Américains ils vont se dire finalement peut-être que les Européens ont trouvé un moyen de domestiquer un peu le prélèvement absolument abusif excessif et non consenti des données des utilisateurs créer des réseaux européens en Europe c'est de lancer un écosystème numérique en réalité on a une économie numérique qui est à droite qui est habile qui est bien nourrie par la recherche etc mais c'est vrai qu'il y a un problème dans le développement et dans la propulsion en tout cas moi je dis c'est plutôt dans les étapes intermédiaires c'est pas à la naissance c'est dans les étapes intermédiaires qu'il y a un problème de difficultés même s'il y a des entreprises européennes créer des nouveaux réseaux sociaux c'est aussi quelque chose qui est imaginable parce que moi je voudrais dire et là c'est le débat entre Alphabet, Google et les réseaux sociaux c'est que l'histoire des réseaux sociaux quand on les suit depuis longtemps comme moi ça change on a eu Friendster il y a beaucoup de morts c'est ça que vous dites et puis Facebook Facebook site propre pas Instagram et WhatsApp mais Facebook va pas bien du tout aujourd'hui en termes d'usage donc en fait en réalité on voit que les générations elles passent d'un réseau à un autre attendez après avoir parlé de milliards de profits Facebook va pas bien du tout

c'est-à-dire

perd des utilisateurs Facebook le site Facebook si on y enlève Messenger parce qu'en réalité Messenger aspire le réseau de messagerie et en réalité vous savez très bien que les jeunes aujourd'hui ont complètement déserté Facebook dans les grands pays occidentaux pour organiser des événements voilà ils y sont pour quelques

y a-t-il des réseaux sociaux qui ne soient ni américains ni chinois Nicole Bacharan je ne les connais pas je vous l'avoue ce qui est déjà ce qui est déjà une réponse ceux qui sont voilà non mais vous voyez c'est ce que je vous disais c'est une question absolument clé et qui travaille manifestement beaucoup nos téléspectateurs et beaucoup de questions sur ce thème là mais c'est vrai dans le domaine du numérique en règle générale regardez on vient d'avoir en France une magnifique introduction en bourse d'une de nos plus grandes sociétés numériques qui s'appelle OVH qui a été introduite à 3,5 milliards d'euros quelque chose comme ça mais les GAFA valent entre 500 et 1000 milliards d'euros donc ça n'est pas du tout le même type de taille d'entreprise nos plus grosses entreprises du numérique sont minuscules par rapport aux chinoises et aux américaines allez Dominique Cardon après avoir dit beaucoup de mal on parle souvent des méfaits des réseaux sociaux quels bienfaits ont-ils apportés à l'humanité vous en avez dit un mot mais on peut terminer là-dessus

ils nous mettent en relation ils encouragent toute une série d'expériences ils peuvent augmenter l'estime de soi ils peuvent la diminuer aussi ils ont sur toute une série de thématiques politiques apporté de l'air et de la nouveauté dans le débat souvenez-vous des révolutions arabes mais Black Lives Matter Me Too etc il y a une vivacité réelle des réseaux sociaux et surtout ce que je voudrais dire c'est qu'on ne reviendra pas en arrière parce que parfois dans le débat on a l'impression qu'on voudrait refermer cette boîte et ça je crois qu'on n'y arrivera pas

merci à tous les quatre d'avoir participé à cette émission qui se termine à présent lundi vous retrouvez Axel Detarlet à la présentation de ces dernières très bon week-end d'avoir regardé cette vidéo

d'avoir regardé cette vidéo