Influences étrangères : audition de Google France

bien chers collègues je vous propose de poursuivre notre audition en accueillant Monsieur Frédéric Géraud de l'escas qui est directeur des relations international institutionnel pardon de Google cloud France de thibo guirois directeur des relations institutionnelles de Youtube je tiens à préciser que cette audition est publique et je vous en remercie on a eu un un débat nous sommes convenus d'une audition publique peut-être qui se conclura par une séquence à Hu clos ce qui ne veut pas dire que dans la première parti vous ne devez pas nous dire des choses et nous intéresser mais j'ai nous avons compris et nous avons intégré qu'il avait peut-être un certain nombre de choses qui devaient être évoqué à huclos nous accueillons aussi monsieur Grou directeur technique de la filiale de Google dénommé mendiant qui pourra dans ce cadre s'exprimer sur l'activité de sa société avant de vous donner la parole il me revient de rappeler qu'un faux témoignage devant la commission d'enquête et passible des peines prévues aux articles 434 13 14 et 15 du code pénal je précise également qu'il vous appartient le cas échéant d'indiquer vos éventuels liens auou conflit d'intérêt en relation avec l'objet de notre commission d'enquête je vous invite à prêter serment de dire toute la vérité rien que la vérité en levant la main droite et en disant je le jure J je vous en remercie euh sur un plan pratique peut-être c'est vous très bien euh on a nous une contrainte horaire on a le ministre à 16h30 c'est bien ça euh il est tradition de ne pas trop le faire attendre euh donc si vous pouvez concentrer à vous trois votre propos introductif en 10 minutes un quart d'heure après je demanderai au rapporteur de poser quelques questions et de nous laisser un peu de temps pour que les membres de la commission les plus assidus puissent aussi s'exprimer je vous donne la parole avant tout nous tenons à vous remercier sincèrement toute la commission d'enquête monsieur le Président Monsieur le rapporteur pour cette invitation faite à Google à venir nourrir le débat parlementaire vous aurez également l'occasion d'échanger avec mon collègue de YouTube et aussi avec un expert de mandian et à hlos juste après merci encore à monsieur le Président d'avoir accordé ce hclos pour mandian car mandian est aujourd'hui le seul organisme privé capable d'attribuer une attaque à un état votre commission d'enquête travaille sur un sujet crucial pour nos démocraties Google en a fait la dure expérience en 2009 avec l'opération Aurora une importante cyberataque chinoiseant visant une trentaine d'entreprises principalement américaines mis au jour par Google nous avons fait alors le choix difficile et conscient en de le faire savoir de partager cette information et ce malgré les risques nous reviendront mais la cybersécurité est avant tout un sport d'équipe euh basé sur le partage et la confiance en tracteur de tout type public et privé car ces attaques constituent une menace pour la démocratie les pirates informatiques volent des informations sensibles qui sont ensuite délibérment délibérément diffusé pour nuire aux personnalités politiques à ce titre nous souhtions souligner le fait que nous apprécions particulièrement le crédau de l'association française intercerte France dont le CER de l'ANC fut à l'origine leur crédo étant partage échange confiance et cela nous va fort bien chez Google nous sommes des gens sérieux pragmatiques nous avons donc souhaité travailler avec les meilleurs pour protéger nos solutions et produits nous collaborons donc de manière étroite avec viginum et Lancy et pour mettre en accord notre ambition de protéger au mieux tous nos clients Google cloud a fait l'acquisition de la société mandian mi222 pour la somme de 5,4 milliards de dollars mandiant est spécialisé dans la détection des menaces et la réponse à incid en cas d'attaque mandiant a créé l'acronyme apt pour advanced persistent threat SEP de vos collègues parlementaires dont Monsieur Olivier cadick ont eu récemment connaissance qu'ils avaient été ciblés et victimes de Apt 31 une entité liée au ministère de la Sécurité chinois c'est mandian qui a mis au jour et attribué à la Chine ce groupe d'attaquants à moins de 2 semaines des élections européennes nous allons vous exposer dans notre propos come Google face à ce type de moment critique sont des élections sur tout un continent agit alors que près de 400 millions de citoyens se préparent à voter dans moins de 10 jours il est primordial que le gouvernement le législateur et l'industrie collabore pour faire face aux menaces qui pèsent sur ce processus démocratique nous prenons cette responsabilité très au sérieux nousous sommes ainsi engagés à fournir des informations de haute qualité au aux électeurs à protéger nos plateformes contre les abus et on y reviendra avec la plateforme YouTube à développer des outils tels que syint ID qui permet du water marking pour aider à détecter les contenus générés par l'INT igence artificielle à équiper les campagnes et les équipes de campagnes des meilleurs outils de sécurité de formation adéquate et gratuitite et enfin à publier toujours gratuitement des analyses de menaces en ligne et échanger des informations avec les gouvernements notamment via notre équipe mandiant nous pensons qu'il faut prioriser le risque de la désinformation Google et ses paires de l'industrie travaillent en étroite collaboration pour lutter contre la désinformation sur toutes les plateformes et partager des renseignements sur les menaces avec nos partenaires gouvernementaux néanmoins malgr malgré l'état d'alerte accru concernant les menaces basées sur l'intelligence artificielle telleles que des images ou des vidéos manipulé il est essentiel que nous restions également vigilant face aux opérations plus conventionnelles y compris les opérations dites de piratage et fuite ha and leak les services de renseignement étranger continuent en effet de cibler les communications électroniques de haut responsables de l'Union européenne dans le but de recueillir des informations politiquement sensibles qui peuvent être divulguées de manière sélective à des fins politiques bien que la désinformation sophistiquée alimentée par l'intelligence artificielle a retenu beaucoup d'intention d'attention jusqu'à présent Google et sa filiale mandiant ont observé relativement peu de cas de manipulation politique via l'intelligence artificielle nos recherches indiquent que même les auteurs de menaces les plus sophistiquées sont opportunistes il n'est peut-être pas nécessaire pour eux de recourir à de la propagande générée par l'intelligence artificielle lorsqu'il est plus facile et moins coûteux d'exploiter des logiciels vulnérable pour voler et diffulguer des communications légitimes des responsables politiques européens il est crucial que les autorités gouvernemental évalue correctement les risques alternatifs les risques pardon relatifs et veille à doter les candidats politiques les responsables électoraux les personnels des campagnes les journalistes et les citoyens des outils et également de la formation récurrente pour repérer et bloquer les tentatives notamment d'amsonage où tout effort qui serait lié à l'insécurité de leur propre compte nous faisons je tenais à signaler des réunion d'information avec chaque équipe de campagne politique depuis déjà plusieurs scrutins nous formons au bon geste l'ensemble des partis sans distinction nous pensons que c'est notre responsabilité nous pensons aussi que les entreprises technologiques devraient être responsable d'une meilleure sécurité nous sommes convaincus que la responsabilité d'une bonne que la responsabilité d'avoir une sécurité de meilleure tenue ne doit pas incomber uniquement aux citoyens et aux usagers les fournisseurs des technologies c'est-à-dire les entreprises devrait être tenu responsable de la création de produits numériques intégrant de solide fonctionnalité de sécurité par défaut ce qu'on appelle en anglais scurity by design les responsables gouvernementaux et les citoyens privés devraient pouvoir être sûr que leur système de messagerie ne contiennent pas de vulnérabilité critique les resp les les agences gouvernement ment ne devrait pas être contrainte à des offres logicielles fort complexes les clés de chiffrement devraient être renouvelées régulièrement les réseaux enfin devraient être construits avec des protections de sécurité en couche pour empêcher les acteurs malveillants d'exploiter un seul compte de test qui une fois compromis permet de prendre le contrôle complet pour être pratique vis-à-vis de cette commission d'enquête voici les trois recommandations que nous avons fait au gouvernement américain la semaine dernière à propos du très récent rapport du 2 avril 2024 du cyber safety Review Board des États-Unis et ce rapport était à propos de la découverte de lacune majeur de sécurité chez un grand fournisseur entraînant d'importantes violations de la sécurité nationale des États-Unis 1 se procurer des systèmes et des produits sécurisés dès leur conception c'est cette notion de security by design la sécurité numérique ne peut pas être un ajout aprèscou au produits existant google estime que chaque produit logici ci doit d'abord faire l'objet d'un examen de sécurité rigoureux dès le début de la phase de conception et tout au long du cycle de vie du produit nous avons partagé notre approche avec d'autres acteurs du secteur lors de la dernière RSA conf frence qui est la plus grande réunion annuelle sur les questions de cybersécurité et d'autres acteurs sont venus cossigner un nouvel ensemble de principes de sécurité By Design 2 il faut donner une place à la sécurité lors les décisions d'achat il faut qu'un expert sécurité a une vraie voix au chapitre lors des achats les évaluations de sécurité des produits technologique ne devrait pas s'arrêter lorsqu'un produit répond aux normes d'accréditation du secteur public le cycle de vie de la gestion technologique doit inclure la capacité de déclencher des recertifications de sécurité pour les produits souffrant d'incident de sécurité majeur et ainsi prendre en compte les performances passées lors de la prise de décision d'achat les respons des achats devrait ainsi tenir compte des données existantes telles que les défauts de produits conduisant à des violations antérieures des systèmes notamment gouvernementaux 2 des informations sur les vulnérabilités les plus exploitées régulièrement 3 le suivi des directives de cybersécurité émis par des agences gouvernementales comme l'any ou des associations type intercerte en France 3 atténuer la monoculture et l'extrême dépendance Google et d'autres comme intercerte France et je vous invite à lire leur communiqué de presse du 29 février dernier qui s'intitule anatomie d'une dépendance C tous ces acteurs voient un risque de longue date pour les organisations du secteur public français qui utilisent le même fournisseur pour leur système d'exploitation pour leur messagerie électronique pour leur logiciel de bureotique pour leurs outils de sécurité cette approche augmente le risque d'une qu'une seule violation m à mal tout un écosystème ce qu'on appelle en anglais single point of failure les gouver nement devrait adopter une stratégie multiournisseur développer et promouvoir des normes ouvertes pour garantir l'interopérabilité permettant ainsi aux organisation de remplacer plus facilement les produits non sécurisés par d'autres plus résistants aux attaques enfin les régulateurs devraient enquêter sur les pratiques restrictives en matière de licence logicielle qui entrav la diversité le libre choix et donc la sécurité de l'écosystème des fournisseurs des couringant ainsi d'innovation en conclusion monsieur le Président chers rapporteurs chers parlementaires chers administrateurs nous souhaitions aujourd'hui apporter avec sérieux notre contribution à vos travaux notamment cette idée que le partage d'information est un levier primordial que la cybersécurité est un sport d'équipe et le domaine de l'intelligence artificielle ne dérogera pas à cette règle il nous apparaît aussi nécessaire de progresser tous ensemble avec la plus grande rigueur et en écoutant toutes les parties prenantes ce que vous faites aujourd'hui merci à nouveau je laisse maintenant la parole à mon collègue thbaau guilroy pour les aspects YouTube merci Frédéric monsieur le président monsieur le rapporteur mesdames et Messieurs les sénatrices et et les sénateurs je vous remercie également pour cette invitation sur à cette audition sur la question de la lutte contre les inences étrangère et je vais tâcher d'être concis pour vous résumer la manière dont nous appréhendons la question de la lutte contre la concret évidemment euh don nous appréendons la lutte contre la désinformation sur la plateforme Youtube alors tout d'abord peut-être pour remettre les choses dans leur contexte et pour vous donner une idée des volumes YouTube aujourd'hui c'est 500 heures de contenu mis en ligne chaque minute dans le monde sur la plateforme euh c'est 41 millions utilisateur pour ce qui est de la France qui passe 37 minutes par jour en moyenne sur la plateforme euh et par trimestre c'est 7 à 8 millions de vidéos environ retiré dans le monde entier pour non bien sûr je je vais je vais faire je vais faire je tâer de le faire merci ce qui est retiré bien sûr 7 à 8 millions de contenus retirés par trimestre dans le monde pour non conformité à nos Conditions d'utilisation à notre règlement de la communauté euh on dispose chez YouTube de trois leviers principaux pour lutter contre la désinformation le premier c'est le retrait des contenus je viens d'en parler qui violle nos conditions d'utilisation qui franchissent la ligne le second c'est la le fait de ne plus recommander les contenus qui sont à la limite de franchir la ligne mais qui ne la franchissent pas y compris au regard de nos Conditions d'utilisation ou de la loi française et le troisième c'est le fait de remonter de de mettre en avant les sources qui font autorité les sources fiables sur la plateforme pour ce qui est des de retirer des les les contenus qui franchissent la ligne on a de grill de lecture nos équipes de modération sont doté de degis de lecture la première c'est nos Conditions d'Utilisation j'en parlais notre règlement de la communauté Youtube qui est librement accessible à toute personne qui en fait la recherche et la seconde c'est la législation locale donc typiquement le droit français on peut se féliciter d'ailleurs que la différence entre la législation locale et nos Conditions d'Utilisation soit assez ténu en ce qui concerne la France on a évidemment quelques spécificités françaises on est en période électorale donc je pense à la à la période de silence électoral la veille qui débute la veille du scrutin mais euh de manière générale la législation locale et nos conditions d'utilisation sont assez alignées euh on dispose évidemment de politiques très claires sur des question comme la lutte contre le harcèlement la lutte contre le terrorisme euh la sécurité des mineurs ou encore l'incitation à la haine euh nous avons la nécessité de faire évoluer nos politiques de manière constante puisque la menace et les contenus problématiques évoluent eu même de manière constante notamment à l'ône des récents événements je peux je pense notamment euh au conflits euh au proches rient euh ou au conflit en Ukraine ou encore à la pandémie de covid-19 qui a mis nos équipes de modération à l'épreuve euh donc il nous appartient et c'est une tâche particulièrement complexe de tracer des lignes claires entre ce qui est autorisé et ce qui doit être supprimé de la plateforme euh de le faire dans un délai contraints euh et de prendre souvent des décisions extrêmement complexes euh c'est d'autant plus vrai en terme de lutte contre la désinformation puisque des contenus de désinformations peuvent avoir un effet particulièrement préjudiciable dans le monde réel euh je pense à des contenus qui typiquement euh euh expliquer que des antennes relaes 5G participai à la diffusion du covid et qui ont mené à des émeutes et à la destruction de ces antennes ou par exemple des contenus relatifs à un scrutin qui visaient à an nuuir au bon déroulement du scrutin euh puisque je parle de de contenu relatif aux élections et aux échéances électorales euh je vous précise également que nous avons des politiques de contenu spécifiquement dédié aux élections euh il s'agit pour nous dans ce cas d'appréhender trois types de contenus les contenus qui visent à manipuler les éle à les induire en erreur notamment quant à la date d'un scrutin quant au moyens de voter ou aux conditions à remplir pour pouvoir voter euh on pense également à des contenus qui visent à décourager les électeurs d'aller d'aller voter de se rendre aux urnnes pour être très concret nous avons par exemple vu des vidéos qui expliquaient aux utilisateurs qui pouvaient voter par SMS ou via un site web ou des vidéos qui expliquaient aux utilisateurs que la participation au scrutin était conditionnée au plus aux personnes ayant plus de 50 ans euh les personnes qui posent des vidéos chez nous ont parfois beaucoup d'imagination ces mêmes politiques s'applique au contenu qui vise à remettre en cause l'éligibilité des candidats et donc là je pense à un cas très concret on se rappelle tous de cette de cette fake news de cette fausse information relative au certificat de naissance de Barack Obama prétendant qu'il ne pouvait pas concourir à l'élection présidentielle aux États-Unis c'est même politique vise enfin à appréhender typiquement des incitations à interférer avec le le scrutin et euh à entraver ou à interrompre des opérations de vote euh typiquement nous voyons des contenus régulièrement qui incitent les spectateurs à créer des fil d'attente devant les bureaux de vote afin de dissuader les personnes d'aller voter euh des contenus qui vont inciter les utilisateurs à pirater des sites web gouvernementaux pour retarder la publication des résultats ou enfin des contenus qui vont inciter les utilisateurs euh à créer des conflits physiques avec des assesseurs ou des personnes présentes dans le dans le lieu de déroulement du scrutin évidemment pour créer ces politiques nous nous rapprochons d'experts d'associations de chercheurs d'institution pour développer et renforcer systématiquement ces politiques pour être très concret nous avons plus de 20000 personnes qui travaillent sur les questions de modération chez Google surtout les fuseaux horaires 24h/24 7 jou sur 7 nous disposons également de ce qu'on appelle un intelligence desk donc une sorte de bureau de renseignement dont le but est d'anticiper la menace pouvant arriver sur la plateforme et donc dont le but est de regarder ce qui se passe non pas uniquement sur la plateforme mais sur d'autres plateformes des réseaux sociaux des messageries privées ce genre de choses pour faire en sorte que lorsque le contenu arrive chez nous et on puisse l'appréhender le plus rapidement possible s'il arrive un jour chez nous je vous le disais on retire 7 à 8 millions de vidéos par trimestre dans le monde entier euh pour les derniers chiffres que l'on peut communiquer 8,3 pour le premier trimestre 2024 euh c'est important de noter contenu des volumes que 96 % de ces vidéos sont d'abord signalé par des machines donc de manière automatique et donc pas par des êtres humains euh 83 % de ces vidéos c'est un chiffre dont on est assez fier également euh sont retirés en ayant généré moins de 10 vues ce qui est notre boussole pour nous assurer que ces contenus ne soient pas euh vu par trop de personnes 83 % des vidéos sont retirées en ayant généré moins de 10 vues 10 vues euh pour ce qui est de la France euh sur l'année 2023 euh nous avons retiré un peu plus de 200000 contenus euh ayant été mis en ligne depuis la France donc on peut se féliciter cela mise en regard des chiffres à plusieurs dizaines de millions pour le monde entier on peut se féliciter que le chiffre soit relativement bas pour la France euh et toujours pour l'année 2023 3000 de ces contenus ont été retirés pour violation de notre notre politique relative à la désinformation pour être tout à fait complet euh également sur le 1er trimestre 2024 nous avons retiré 1,4 milliard de commentaires du texte on se B énormément je le disais sur l'intelligence artificielle donc pour appréhender ses contenus pour les signaler pour qu'ils soit envoyés ensuite pour revue humaine mais en fait on se rend compte qu'une revue humaine est le plus souvent indispensable dans de très nombreux cas on a besoin de d'évaluer le contexte autour d'un contenu autour d'une vidéo notamment je pense typiquement à des contenus qui peuvent être filmés sur des zones de guerre est-ce que c'est un contenu apologétique ou est-ce que c'est un contenu purement informatif mise en ligne par un média la décision ne sera pas la même en fonction de du but de la personne qui a mise en ligne la vidéo euh je pense aussi à des propos qui sont tout simplement repris pour être dénoncés notamment par des médias euh là encore la personne qui va revoir ce contenu signaler doit impérativement tenir compte du contexte euh je précise également que nous disposons d'un réseau de signaleur de confiance concept qui dont YouTube est à l'origine et qui a été repris dans le Règlement sur les services numériques euh digital services Act euh donc on en est particulièrement fier euh réseau qui comprend pour la France euh des associations comme y enfance euh le CRIF euh SOS Racisme point de contact évidemment phos et évidemment d'autres services de l'État et je précise enfin mais Frédéric on a on a déjà parlé que nous travaillons étroitement avec viginum LARCOM ainsi qu'avec le ministère des Affaires étrangères sur les questions de lutte contre la désinformation notamment international le deuxième pilier je vous le disais c'est le fait de réduire la visibilité et la viralité des contenus qui ne violent pas nos conditions d'utilisation mais qui sont à la limite de les de les violer euh puisqueà priori il est tout à fait licite de dire que la terre est plate euh ou que personne n'a jamais marché sur la Lune y compris en droit français on estime que ces contenus qui sont à la limite de violer nos Conditions d'Utilisation représente un pourcentage extrêmement faible moins d'1 % des contenus présents sur la plateforme pour autant on estime que ce pourcentage est toujours trop élevé donc je vous le disais dans ce cas-là ce qu'on va faire c'est qu'on ne va plus recommander ces contenus tout simplement on va choisir et c'est une politique de l'entreprise de ne plus les mettre en avant de faire en sorte qu'ils ne soi plus recommandés sur la plateforme et ça fonctionne euh puisque les chiffres que nous avons montrent que lorsque ces contenus ne sont plus recommandés leur visibilité baisse de 70 % le troisième pilier sur lequel on s'appuie et là encore c'est une politique totalement assumée et de manière transparente par la plateforme c'est le fait de remonter de mettre en avant les contenus qui à l'inverse font autorité alors vous allez me dire qu'est-ce qu'un contenu qui fait autorité et comment le déterminons-nous on se base évidemment sur la pertinence et la fraîcheur du contenu on se base sur le corpus que nous connaissons déjà dans Google actualité euh et on se base évidemment sur le plus souvent sur des médias sur le fait qu'un qu'un qu'un émetteur de contenu soit un média par exemple un éditeur de presse euh donc typiquement en France on va faire remonter de manière proéminente les contenus de France 24 France Info Euronews et bien d'autres euh le contenu est affiché et remonté de manière encore plus proéminente lorsque un événement particulier arrive et dans ce cas-là sur la page d'accueil de YouTube vous avez une section qui s'appelle breaking news euh en bon français ou dernières actu et qui va afficher typiquement le live d'un média français pour être sûr que nos utilisateurs tombent d'abord en premier lieu sur une source qui fait autorité euh on a pu voir notamment lors des élections de mi mandat en 2022 aux États-Unis que ce concept fonctionnait puisque on estime que 85 % des utilisateurs qui ont cherché des informations relatives à ces élections tombé sur des sources qui faisaent autorité d'abord dans les résultats de recherche de YouTube la la seconde manière de de remonter et de flécher à nos utilisateurs des sources qui font autorité c'est d'afficher des panneaux d'information sous les vidéos que vous avez peut-être déjà vu lorsque vous visionnez des contenus sur Youtube vous verrez que vous avez des panneaux qui s'affichent sous la vidéo et qui vont notamment vous donner des informations alors sur potentiellement des sujets qui pourrai être relatif à des théories du complot bien connu je pense au 11 septembre typiquement mais également sur des médias qui sont financés potentiellement par des fonds publics ou par des gouvernements vous verrez cette ce panneau d'information sous le sous la vidéo euh euh c'est également le cas euh pour des sources de santé qui font particulièrement autorité lorsque vous cherchez le nom de certaines maladies sur Youtube que vous tombez sur des vidéos qui sont mises en avant euh je pense à la PHP à différents CHU avec lesquels on travaille vous verrez que ces sources sont particulièrement signalées comme faisant autorité dans un domaine euh et puis euh dernier élément sur lequel on apporte de la transparence sur ce sujet et et pas des moindres euh ce sont les contenus potentiellement synthétiques ou étant ayant été généré par intelligence artificielle et nous avons annoncé il y a quelques mois que ces contenus étaient désormais labellisés donc très concrètement ce qui se passe c'est que si vous êtes créateur de contenu sur la plateforme lors de la mise en ligne de votre vidéo on va vous demander de préciser si ce contenu contient éventuellement un élément qui a été généré ou altéré par intelligence artificielle eu et ensuite ça va déclencher sur la vidéo l'apparition d'un label d'un panneau d'information donnant de la transparence à l'utilisateur alors on n'est pas on n'est pas parfaitement naïf on sait pertinemment que certains utilisateurs auront des des des intentions malveillantes et ne déclareront pas au moment de la mise en ligne de la vidéo cette altération du contenu à charge pour nous et on entraîne nos modèles de machine learning pour détecter ces contenus là de le faire à postériori et de labelliser ces vidéos à postériori et de prendre des sanctions pour les utilisateurs qui n'auraient pas prédéclaré ou déclaré correctement euh ces vidéos euh ces sanctions elles peuvent aller évidemment simplement de la labellisation du contenu lorsqu'on estime que l'intention n'est pas malveillante à la suppression du contenu à la suppression de la chaîne à la démonétisation également pour certains utilisateurs qui bénéficient de notre programme de monétisation euh puisque je parle de la monétisation je voulais également préciser et et et j'en termine par là que celle-ci n'est pas accessible à tout le monde sur la plateforme on demande un historique de bonne conduite donc une personne arrivant avec un contenu particulièrement malveillant et souhaitant le monétiser ne peut pas le faire sur Youtube euh puisqu'on demande euh à une personne d'avoir au moins 1000 abonnés et d'avoir un historique de 4000 he de visionnage au cours des 12 derniers mois pour pouvoir prétendre à notre programme de monétisation voilà je vous remercie et je suis à votre disposition merci monsieur le Président euh comme le temps nous est compté je vais d'abord remercier vous remercier pour vos interventions qui sont extrêmement précis sur à la fois sur les questions de cyber et donc les trois propositions que vous nous faites qui je crois euh on peut se se retrouver dedans et en même temps sur le le modèle je ve dire de du tout mais comment à la fois tout ce travail de de de suivi de ce qui est mis euh alors première chose c'est que pour beaucoup de de de chercheurs ou donjouraliste ou ce ce qu'on peonter il y a le fait que j'allais dire Madame Goulet dirait une croyance populaire pour reprendre l'histoire de sa grand-mère mais parfois sur le fait que on puisse imaginer que c'est vrai que le modèle économique des plateforme et le le le bill algorithmique peut peuvent être l'un et l'autre des accélérateurs de de de campagne de désinformation là-dessus quelle est votre vision sur cette cette ce propos qu'on le retrouve assez fréquemment d'ailleurs dans les auprès des chercheurs oui je pense que c'est un élément qu'on a longtemps et souvent entendu euh côté YouTube et dont on a enfin qu'on a particulièrement prise en compte notamment pour modifier nos algorithmes de recommandation il y a maintenant plusieurs années je crois que la modification la plus importante date de 2019 mais de toute façon nos algorithmes sont modifiés plusieurs centaines de fois par par an euh effectivement le le but est d'éviter l'effet de bulle de filtre ou de chambre déco les Américains disent de rabbit hall eu et donc typiquement on en a pris conscience on a pris conscience des critiques qui étaient faites euh à l'égard des algorithmes de recommandation et on l'a modifié euh notamment pour privilégier des critères de qualité et rétrograder des euh euh contenu qui était de piètre qualité et qui n'avait pour vocation que d'attirer tout simplement des clics de la part des internautes euh on est particulièrement attentif euh au succès de ces modifications algorithmiques et on ce qu'on a pu constater dans différentes études indépendantes publiées très récemment c'est que c ce phénomène n'est plus observé sur la plateforme en tout cas en ce qui concerne YouTube euh donc on est on est on est plutôt à l'aise avec le fait que aujourd'hui il y a énormément de diversité intégrée dans l'algorithme de YouTube merci sur la sur le le vous avez évoqué l'ensemble des contenus retirés avec les trois classifications et cetera vous expliquons à chaque fois en indiquant bien sûr que l'a était j'ai envie dire avec mes mots la la source première d'identification de contenu à classer donc retrait et cetera remonter mais en indiquant quand même que il y a la nécessité d'un d'un visionnage humain et alors juste parce que on peut imaginer on regarde l'ensemble des contenus présent dans YouTube notamment comment ça se passe concrètement sans vouloir être trop dans le détail mais dire ça veut dire quoi concrètement puisque ça veut dire combien de personnes et comment tout ça fonctionne dans votre modèle oui je je va je vais tcher d'être concret je vous l'ai dit on a 20000 personnes qui travaillent sur ces questions de modération on est évidemment soumis au règlement en tant que très grande plateforme au Règlement sur les services numériques donc on publie un rapport de transparence tous les 6 mois je veux pas dire de bêtises je crois que le dernier date d'avril 2024 en indiquant pays par Pay pays et langage par langage notre nombre de modérateurs euh donc on est très transparent là-dessus on indique également le rôle de l'intelligence artificielle et donc de l'apprentissage automatique euh dans la modération des contenus euh et on en rencontre auprès de la Commission européenne qui euh qui qui euh mène des études sur la conformité des plateformes euh au Règlement sur les sur les services numériques euh donc très concrètement c'est une combinaison de revue humaine et d'apprentissage automatique euh qui nous permet d'être extrêmement efficace et et d'appréhender ce ce les contenus problématiques le plus rapidement possible je je je précise également que euh euh je précise également que euh nous disposons de mécanisme d'appel c'est-à-dire que si euh le contenu a été retiré euh peut-être de manière abusive euh ou parce que les erreurs humaines existent euh euh la personne qui a vu son contenu retiré est en capacité de faire appel euh du retrait euh et donc le contenu sera réexaminé euh c'est un point extrêmement important euh on a vu lors de la pandémie euh de covid-19 lorsque nos modérateurs n'étaient pas en capacité de travailler euh de manière satisfaisante tout simplement parce qu'ils étaient chez eux et queon ne souhaitait absolument pas exposer les familles modérateurs au contenu qu'il revoi on s'est davantage reposé sur l'intelligence artificielle sur l'apprentissage automatique et on a constaté qu'en fait on avait un taux d'appel et un taux de retrait qui était beaucoup plus importimportant parce que les machines faisaient plus d'erreur forcément on faisait moins appel à à l'humain euh et donc lorsque les choses sont rentrées dans l'ordre et que nos modérateurs ont pu reprendre leur travail de manière de manière normale et de manière satisfaisante voilà les choses sont sont rentrées dans en l'ordre donc c'est une combinaison de revue humaine et de et de et d'apprentissage automatique et alors ma mon autre question la question suivante euh donc peut-être la réponse se fera dans la seconde partie de l'audition mais là on est sur la logique de alors cyber atttaque contenu posant problème la question de logique d'ingérence c'estd on peut imaginerun logique de globale de de plusieurs comptes portant sur des contenus assez similaires ou proches et cetera vous avez cité notamment l'opération euri en 2019 et c'est plus récemment face certains de nos collègues est-ce que là-dessus vous pouvez nous en dire plus on considère que c'est la deuxième partie c'est comment concrètement au l d'identification vous pouvez remonter une filière et dire là il y a une logique d'ingérence globale c'est une attaque structurée organisée avec une finalité précise si c'est ça je on peut attendre on va on va vous répondre dans la deuxème partie avec joie d'accord alors TR très vite au-delà de comment considérez-vous parce que un des sujets que nous avons dans la lutte contre les ingérances éidment que vous faites vous via vos vos supports d'indiquer ce que vous AZ dit vos politiques et cetera et cetera comment vous est-ce que est- comment avez-vous un avis sur justement comment j'ai envie dire renforcer la résilience d'une société au global et non pas forcément que vos utilisateurs sur ce que sont les mécanismes d'ingérance ce que l'approche technologique notamment la question de Lia et cetera et cetera donc là-dessus avez-vous des préconisations des propositions une vision sur comment une une société un pays peut développer son sa résilience face à des phénomènes d'ingérence notamment informationnelle alors le le maître mot est pédagogie hein il ne vous étonnera pas et donc c'est par l'apprentissage et la pédagogie que on pourra faire monter l'ensemble d'une société et l'ensemble des générations la composant des CPS générationnels pour une meilleure prise de conscience des outils disponibles des des des moyens de protection disponibles mais aussi des bonnes Ré action des bonnes pratiques à avoir et donc ça passe par par un apprentissage alors google a mis en place maintenant il y a une dizaine d'années spécifiquement en France un vaste programme qui s'appelle Google atelier numérique qui aujourd'hui a couvert plus de 800000 citoyens et citoyennes sur le territoire français et pour cette cette chambre haute pour qui les territoire a un attachement particulier on va même J à avoir six estafettes entre guillemets des minivan qui vont jusque sur les places de village pour délivrer de manière gratuit des séances de formation aux bons usages de protection en matière de protection de l'enfance en matière de e-commerce en matière de tous ces risques qui sont liés avec l'arrivée des usages numériques donc ce cette ce Google atelier numérique qui préexiste dans chacun de vos territoires depuis maintenant de nombreuses années et avec le des partenaires chaque fois locaux hein les chambres de commerce locales avec les capacités de Pôle emploi en local ou voilà on vient essayer de contribuer de faire notre part pour que chacun en prenne mieux conscience et soit capable d'utiliser ses outils il faudrait démultiplier ces efforts et c'est là aussi que l'éducation nationale au travers de programme dédiés a un rôle à jouer très certainement pour que l'ensemble de la population monte en gamme entre guillemets sur ces questions merci euh autre question Google traite des données conséquentes de beaucoup de his français de par à la messagerie de faire l'ensemble des outils dévelopé par Google quelle est votre vision votre vos obligations face à la question de l'extraterrorialité du droit américain qui pourrait ou qui devrait je pose la question faire en sorte que dans C certains types de cas vous soyez-vous dans l'obligation de d'informer de rendre ces données là qui pour on peut considérer c'est une forme aussi d'ingérence on sait bien que notre j'allais dire notre compagnon de route américain parfois aussi des logiques d'ingérence et on peut consider que cela ça peut être une forme donc quelle est la politique justement sur ces questions au regard de l'extratrialité et donc de la protection des données de citoyens français ou d'entreprise alors on y répond de manière extrêmement sereine d'abord parce qu'on est ni un état ni un gouvernement et qu'on a pour politique de d'être en parfaite compliance en conformité totale avec les cadres réglementaires les lois et les règlements de chacun des pays dans lesquels on opère d'accord donc on respecte la loi je pense que c'est important déjà de de le dire au début sur les la question de l'extraterritorialité donc je pense que vous n'avez pas cité un certain nombre de lois mais peut-être que vous faites référence au clou Act ou à FISA voilà vous avez pas été suffisamment précis sur ces sur ces lois il se trouve que nous avons des rapports de transparence qui sont édités tous les semestres et qui disent à l'ensemble de nos usagers quelles sont les demandes que nous avons reçu de tel état et dans quel cas nous avons dû donner ces données ou pas donc nous avons d'abord un premier une première étape qui est de la transparence vis-à-vis des demandes que nous recevons de tous les gouvernement on peut rentrer après ça dans les chiffres si vous le souhaitez hein c'est on en a et et je donne un exemple précis par tous les gouvernements un précis un gement en particulier ah le un exemple précis euh américain alors sur sur la partie Google cloud platform euh sur l'année 2021 nous avons reçu euh sur les deux trimestres 2021 euh 23 demandes d'accès à des comptes euh sur ces 23 demandes demandes nous en avons contesté 100 % en justice donc nos avocats sont allés monter au front et sur ces 23 demandes 20 nous avons eu gain de C sur 20 pour des vises de procédure des vises de forme et dans trois de ces demandes sur les 23 le juge américain en l'occurrence a décidé qu'il fallait donner ses demandes et nous obéissons à la règle de la même manière que nous obéissons aux règles française et je souhaitais aussi souligner en matière d'extraterritorialité que la France aussi a un certain nombre de mécanismes qui existent notamment un au sein de la loi de programmation militaire qui a été publiée le 13 juillet dernier et qui permet de mettre des sondes qualifiées ou marqueur technique directement dans les Data Center sans décision du juge là contrairement à la partie américaine et pour pouvoir capter l'intégralité des données et non pas seulement les métadonnées donc nous en tant qu'acteur privé on se conforme à à la loi et au règlements dans lesquels on opère et peut-être pour compléter la réponse de de Frédéric évidemment nous répondons également aux réquisitions judiciaires et aux demandes des autorités françaises en tout cas Google le fait nous recevons je crois entre de mémoire entre 10 et 15000 demandes par an des autorités françaises et nous sommes en capacité de communiquer des données dans 83 % des cas ce qu'on estime être un chiffre assez élevé les 17 % restant étant potentiellement des comptes sur lesquels nous disposons plus des données ou tout simplement des erreurs ce genre de chos ou les données dans lesqueles les cas dans lesquels les données auraient peut-être été écrasées donc on collabore extrêmement efficacement avec les autorités français sur ce point merci ben ça est fini pour moi en sachant pece queprès la partie d'après mais cèges oui le petit point de complément il est que ces données en tout cas chez Google qu'elles soit au repos ou en transit sont chiffrés à l'état de l'art et que donc ce que le lorsque le juge par décision nous y oblige ce sont bien des données chiffrées que nous livrons et nous n'avons pas les clés elles sont chez le client ou chez un tierce que le client a décidé de de d'utiliser je je pensais que cé important ah oui merci monsieur le Président mais merci Monsieur pour vos explications j'ai j'ai une observation et une question la première c'est que toutes les précautions que vous prenez finalement un devoir de prudence et et toutes les les mesures que vous prenez de de modération euh conduis à penser que vous agissez comme un éditeur sans lettre euh juridiquement parlant puisque en fait vous prenez toutes ces toutes ces précautions c'est celle qu'on vous demande de prendre et vous prenez bien naturellement avec une une marge en plus de de d'amélioration de de ces procédures de précaution au fur et à mesure des années je pense que au fur et à mesure du temps évidemment quand on a travaillé sur le terrorisme jeend toujours le même avec André rchard il y a 10 ans votre vos mécanismes de de retrait vos mécanismes de protection étaient moins élaborés qu'aujourd'hui donc il y a eu évidemment beaucoup de progrès moi je j'étais très intéressé par la décision d'achat et la ce dont vous avez parlé c'est la sécurité au moment de l'achat des des des process et notamment vous savez que Microsoft notamment est est largement utilisé par les administrations françaises par l'armée pour pour héberger les donné notamment du Data els mais pas seulement et puis du du des prêts garanti par l'État au moment du covid enfin tout ça a été largement débattu est-ce que vous pourriez développer ce point sur la sécurité au moment de l'achat parce que ça me semble vraiment très intéressant est-ce que vous pourriez développer un peu pour qu'on puisse éventuellement élaborer des des préconisations dans notre rapport sur ce point-là qui me semble tout à fait déterminé non merci beaucoup de votre question alors en fait au moment où la décision se prend d'acheter des solutions informatiques des solution numérique euh notre recommandation est que il y ait un expert sécurité alors de l'entreprise hein mais qui ait au moins le même poids dans la décision que l'acheteur qui va peut-être regarder la durée du contrat le coût final pour l'entreprise nous pensons que la sécurité devrait avoir un poids beaucoup plus fort dans la prise de de décision au moment de cet achat mais il se trouve aussi que bien souvent il y a dans des suite logicielle entre guillemets des contrats de renouvellement et on pense aussi que là il faudrait avoir une attention particulière pour savoir à cet instant T ce produit est-ce qu'il a eu des vulnérabilités critiques est-ce qu'elles ont été soulignées est-ce que l'éditeur de ce logiciel il a remédié ou pas et pour permettre ensuite à l'entre prise alors l'acheteur met en mode collégial j'imagine avec ses experts sécurité de se dire on va reprendre cette solution ou on ne va pas la reprendre et donc c'est c'est là c'est ce moment qui est crucial et où la sécurité nous paraît ne pas avoir pour l'instant encore le bon poids espèce de clause de revoyure au moment de oui ou quand il y a une information qu'il y a une faille critique dans un produit que peut-être à ce moment-là les directions des achats se posent plus de questions ou soit plus en alerte pour prendre une décision plus consciente la fois suivante tu voulais poursuivre sur les marchés publics non non non non non bon on va passer à la 2è partie de notre réun