Colloque international : Exploitation sexuelle en ligne - Discours de Delphine O

Merci beaucoup. Bonjour à toutes et à tous. Je suis Delphine O, je suis ambassadrice pour les droits des femmes au ministère de l'Europe et des Affaires étrangères et je vais vous livrer quelques réflexions, quelques pistes sur le cadre international dans lequel s'inscrit la lutte contre les cyberviolences sexistes et sexuelles et vous partager aussi quelques informations sur ce que fait la France dans ce domaine. D'abord, je voulais revenir sur la question du lexique et à dessein, j'utiliserai aujourd'hui le terme « cyberviolences » dans mon propos oral.

Je sous-entends évidemment « cyberviolences sexistes et sexuelles » mais il faut savoir que dans le cadre juridique international, nous utilisons un terme qui est bien plus compliqué et bien plus long, mais qui en fait reflète et capte une réalité plus complexe. Ce terme, c'est le terme de « violences en ligne fondées sur le genre et facilitées par la technologie ». C'est un petit peu long, comme vous le voyez. Ce terme recouvre de nombreuses réalités, de nombreux types de violences qui visent de manière prédominante les femmes et les filles. Je vais les mentionner.

Je m'excuse parce que ce sont beaucoup d'anglicismes, le « flaming », qui est une série de messages délibérément hostiles et insultants qui vont s'adresser à une victime, les « comptes fisha » ce sont des faux profils destinés à humilier une personne en ligne, le « revenge porn », qu'on ne souhaite plus utiliser comme terme aujourd'hui, puisqu'on parle de « diffusion non consentie d'images à caractère intime ». « raids numériques », « slut shaming », « body shaming », la « sextortion », le « doxing » qui est la divulgation de données personnelles, etc. ce sont des violences qui ont lieu en ligne, principalement contre les femmes et les filles.

Mais il y a aussi des violences qui ont lieu « offline », dans la vraie vie, mais qui sont facilitées par les nouvelles technologies. Je pense par exemple au « airtag », ce sont des petits instruments qui ont été créés par Apple pour retrouver son téléphone. Et en fait, ce sont des petits objets comme ça que des conjoints ou ex-conjoints violents vont insérer subrepticement dans le sac à main de leur conjointe ou ex-conjointe pour pouvoir les pister et on a vu dans certains cas aussi l'utilisation de nouvelles technologies de contrôle à distance d'un frigo, d'une porte, d'une voiture pour pouvoir pister ou exercer des violences contre les femmes. Voilà.

Simplement, c'était un petit point technique mais c'est important de comprendre l'étendue et le périmètre de ce qu'on appelle les cyberviolences. Dans le cadre multilatéral, et je parlerai principalement du cadre onusien, puisque vous avez déjà beaucoup entendu parler ce matin du cadre européen. Donc je ne reviendrai pas sur la directive européenne sur les violences faites aux femmes ni sur le règlement européen sur les services numériques. Dans un cadre international, nous n'avons pas, dans les textes juridiques internationaux fondateurs du droit des femmes, de références aux cyberviolences.

Pour une raison très simple, c'est qu'à l'époque, ces violences n'existaient pas, puisque je pense notamment à la CEDAW de 1979. Je pense évidemment à la déclaration de la plateforme d'action de Pékin, 1995, où la question des violences en ligne n'existait même pas. nous avons un vide juridique multilatéral international lorsqu'il s'agit d'adresser ces cyberviolences. Les choses commencent à changer tout doucement. En 2022, la Commission sur le Statut de la Femme, l'organisation des négociations annuelles des Nations Unies sur les questions des droits des femmes, a choisi comme thème la question de la technologie.

Alors on a beaucoup parlé notamment de l'accès, l'inégal accès des femmes aux technologies, aux métiers de la technologie mais c'est aussi la première fois que nous avons pu négocier, nous, les 193 États membres de l'ONU, sur la question du langage concernant les cyberviolences. L’an dernier a été particulièrement riche, en 2024, en matière d'adoption de textes sur les questions des cyberviolences : je pense notamment au pacte pour l'avenir et au pacte numérique mondial. C'est la première fois depuis les objectifs du développement durable que tous les États membres de l'ONU se mettent d'accord sur un texte global.

Et dans le pacte numérique mondial, nous avons réussi à faire inscrire la mention des cyberviolences, plus exactement des violences sexuelles et fondées sur le genre, qui ont lieu, qui sont permises ou sont amplifiées par l'usage des technologies. ce n'est pas un texte normatif, c.a.d contraignant d'un point de vue juridique mais cela a quand même été le résultat d'une bataille avec de nombreux États progressistes qui ont poussé pour l'inclusion de ces cyberviolences.

Au même moment, en septembre de l'an dernier, la France a présenté une résolution à l'Assemblée Générale des Nations Unies pour la première fois : une résolution qui s'intitule « L'élimination de la violence à l'égard des femmes et des filles dans l'environnement numérique. » Donc là, le sujet était expressément, précisément la question des cyberviolences. C'est une résolution biannuelle qui est portée par la France et les Pays-Bas sur la question des violences et tous les deux ans, on change de thème. Et c'est intéressant parce que pour la première fois, ce texte a été adopté avec le soutien de 170 États. Et c'est une première historique, d'habitude, nous avons plus d'oppositions.

Ce texte mentionne notamment la lutte contre les discours de haine en ligne, la nécessité d'imposer aux plateformes la suppression des contenus violents, l'encouragement aux plateformes à éliminer des contenus qui sexualisent ou exploitent les femmes et les filles et la nécessité de la lutte contre l'impunité. c'est une résolution qui est non contraignante mais en droit international, notamment sur les droits des femmes et des filles, on avance pas à pas et on commence d'abord par des résolutions non contraignantes. Je pense aussi à une initiative multilatérale qui a été lancée en 2022 assez récemment, par les États-Unis.

qui s'appelle le « Partenariat global pour l'action contre les violences fondées sur le genre en ligne ». Ce partenariat, c'est la première coalition internationale d'États qui ont décidé de se coordonner pour agir contre les cyberviolences sexistes et sexuelles. C'est une coalition qui comprend aujourd'hui simplement une vingtaine d'États on dirait que c'est pas beaucoup, mais c'est déjà un bon début des États du Nord et du Sud et la France l'a rejoint en 2023.

Cette coalition est très importante parce qu'elle permet à tous ces États, justement en amont des grandes négociations internationales, comme le Pacte pour l'avenir, comme l'Assemblée générale des Nations Unies, de se coordonner et de pousser pour la reconnaissance des cyber-violences sexistes et sexuelles. Et donc la France l'a rejoint il n'y a pas très longtemps. Je voudrais également mentionner une initiative qui m'est chère, puisque j'en ai été à l'origine au sein du Ministère de l'Europe et des Affaires étrangères, que nous avons lancée en 2023, qui s'appelle le « Laboratoire pour les Droits des Femmes en ligne ».

Alors encore une fois, là c'est un titre, j'ai dû beaucoup batailler contre mes collègues qui trouvaient que c'était un titre pas très sexy, mais j'y tenais absolument parce que je voulais absolument qu'on ait le terme « Droits des Femmes » et pas seulement « Protection des Femmes ». Ce laboratoire, ce n'est pas un laboratoire scientifique, c'est à la fois la première plateforme mondiale d'échange et de coordination dans la lutte contre les cyberviolences, et c'est aussi un incubateur de projets internationaux de lutte contre les cyberviolences.

Et il se trouve que cette même semaine, mardi de cette semaine, nous avons organisé la présentation des 5 premiers projets internationaux portés par des associations féministes de terrain des pays du Sud, soutenues par le ministère des Affaires étrangères, pour lutter contre les cyberviolences. Il s'agit d'associations féministes, d'associations d'Afrique du Sud, donc d'ONG si vous voulez, d'Afrique du Sud, du Nigeria, de Palestine et de République dominicaine. Et qu'est-ce que nous faisons ?

Nous avons fait un appel à projets mondial l'an dernier, nous avons reçu 140 candidatures du monde entier, et nous les finançons pendant un an pour déployer, développer des solutions technologiques innovantes qui vont permettre de lutter contre les cyberviolences. Nous en avons déjà plusieurs exemples en France, des applications qui permettent aux femmes victimes de cyberviolences d'avoir accès aux ressources nécessaires, mais elles sont très rares dans les pays du Sud. Et nous avons vu notamment des applications, des chatbots, des programmes de sensibilisation et d'éducation, notamment parmi la jeunesse donc ça c'est notamment une initiative lancée par la France.

Maintenant je voudrais parler plus précisément de la question de l'intelligence artificielle, et je finirai là-dessus, je crois qu'elle a déjà été un petit peu mentionnée aujourd'hui, qui est un peu la nouvelle frontière de ces cyberviolences. Là encore, le paysage multilatéral est en cours de construction. Il n'est pas vide, je mentionnerai notamment l'UNESCO, qui a été la première agence multilatérale à produire des recommandations sur l'éthique de l'intelligence artificielle en novembre 2021, donc il y a déjà quasiment 5 ans. Ces recommandations mentionnent explicitement le risque de discrimination et de violences fondées sur le genre qu'entraîne l'intelligence artificielle.

Ces recommandations ont été souscrites par tous les États membres de l'ONU. le Conseil de l'Europe, dont on connaît le leadership en matière de lutte contre les violences faites aux femmes, va également produire sa propre recommandation sur l'impact des systèmes d'intelligence artificielle, leur potentiel de promotion de l'égalité de genre, et les risques en matière de discrimination, qui sera également très important dans le cadre de ce Conseil de l'Europe.

Je voudrais parler de l'intelligence artificielle parce que malheureusement, comme toutes les nouvelles technologies, aujourd'hui l'IA est principalement utilisée, pour amplifier, exacerber, démultiplier les cyberviolences, notamment sexuelles, contre les femmes. Il faut savoir que la toute première fois que le terme de deepfakes a été utilisé, c'était en 2017, sur le réseau social Reddit, et c'était déjà, la toute première fois, pour désigner un deepfake à caractère pornographique.

On a beaucoup parlé des deepfakes dans le cadre de la désinformation, des campagnes électorales, mais aujourd'hui 96% des deepfakes sont à caractère pornographique, 99% de ces deepfakes pornographiques visent des femmes et des filles. Et ça va beaucoup plus loin, et c'est là que je vais vous terrifier : c'est que dans le metaverse, cet univers à la fois en ligne mais hors ligne, qui est aussi une des réalités de demain, sont créés des avatars en 3D de personnes réelles, qui sont mises en scène dans des situations pornographiques. Je ne sais pas si je vous ai largué là, mais c'est pour vous dire à quel point on va loin.

Je voudrais citer les propos de Clare McGlynn, qui est l'experte mondiale en matière de diffusion non consentie d'images à caractère intime et de deepfakes pornographiques, c'est une professeure de droit à Durham University au Royaume-Uni. Elle était une de nos intervenantes lors de l'évènement du Laboratoire pour les droits des femmes en ligne cette semaine à Paris, dans le cadre du sommet sur l'intelligence artificielle. Elle dit deux choses sur les deepfakes. Il y a deux idées reçues, deux idées fausses. La 1ere, c'est que ces images ne sont pas réelles, puisque ce sont des images qui sont créées par l'IA. Mais en fait, ces images sont tout autant réelles pour les victimes.

la 2eme idée reçue, c'est que le mal causé est moins important parce que ces images ne sont pas réelles. Mais en fait, les victimes de deepfakes pornographiques, pour elles, c'est exactement la même chose. Elles décrivent la diffusion de ces deepfakes comme une agression sexuelle, voire comme un viol. Il faut savoir que les deepfakes pornographiques, ça ne concerne pas que les actrices, les chanteuses, les stars de la Jet set et c'est déjà un problème si ça les concerne.

N'importe qui, c'est-à-dire probablement toutes les personnes qui sont ici dans cette salle, qui a à un moment posté dans sa vie plus d'une cinquantaine de photos d'elle-même sur Internet, sur Google, peut être victime de deepfakes pornographiques. Il suffit de rassembler une cinquantaine de photos de la personne, d'aller sur un site de création de deepfakes pornographiques, et pour quelques dizaines d'euros, vous créez un deepfake pornographique et une fois qu'il est sur le Net, c'est quasi impossible de le retirer. Maintenant, où en est-on de la lutte contre les deepfakes pornographiques ? En France, il n'y a pas aujourd'hui de réglementation sur le sujet.

Mais il commence à y avoir un début de coopération multilatérale. Je voudrais mentionner deux exemples, et je finirai là-dessus. D'abord, le Royaume-Uni est en pointe sur ce sujet et la question de la criminalisation est importante puisque lorsque le gouvernement britannique, il y a quelque temps, a annoncé son intention d'initier un projet de loi sur la criminalisation des deepfakes, à caractère pornographique, il faut savoir que le plus grand site mondial de création de deepfakes pornographiques a bloqué lui-même l'accès à tous les utilisateurs britanniques, à son propre site de peur de répercussions légales. Donc ça marche.

Deuxième exemple, qui a été mentionné tout à l'heure par Alyssa, Telegram. En Corée du Sud, il y a quelques mois, il y a eu un immense scandale de deepfakes et un coup de filet de la justice contre des dizaines et des dizaines de boucles Telegram privées, mais en fait avec des milliers de personnes, voire des dizaines de milliers de personnes, où circulaient des deepfakes pornographiques qui a donné lieu à une mobilisation massive de la société, notamment la société civile féministe, et au vote d'une loi qui impose une peine jusqu'à 10 ans de prison à toute personne qui va soit diffuser, soit créer des deepfakes pornographiques.

Il faut savoir que l'un des étudiants, qui a été pour le coup condamné à la prison, un jeune garçon aussi, un peu plus de 20 ans, avait créé de milliers de deepfakes pornographiques des étudiantes de l'université. C'était pas des actrices, c'était de ses copines ou pas copines, en gros de femmes, de jeunes femmes étudiantes qu'il connaissait à l'université. Pavel Durov, donc le CEO de Telegram, a été arrêté à Paris aujourd'hui, le régulateur sud-coréen bénéficie d'une coopération extrêmement étroite avec Telegram qui, depuis ce scandale, retire systématiquement et dans les 48 heures, les deepfakes qui lui sont signalés. Ce qui n'était pas du tout le cas avant. Voilà, je vais m'arrêter là.

Je ne voulais pas vous terroriser. Simplement pour vous dire que nous commençons à travailler au niveau multilatéral sur ce sujet. Nous faisons face au même backlash auquel nous faisons face sur d'autres sujets liés aux droits des femmes, sur les droits sexuels et reproductifs, sur le droit à l'avortement et lorsqu'on pousse pour une reconnaissance de ces cyberviolences sexistes et sexuelles, nous faisons face à la même opposition d'un certain nombre d'États, parce que ce sont aussi des États ou des gouvernements qui parfois eux-mêmes utilisent les cyberviolences pour silencier notamment les voix féministes.

Mais la France est très engagée sur ce sujet, je peux vous l'assurer et nous continuous ce travail à l'intersection des enjeux de genre et des enjeux numériques, notamment sur la question des cyberviolences. Merci beaucoup.