SURVEILLANCE DE MASSE : TOUT SUR LA LOI VOTÉE AU SÉNAT

nous on était opposé par principe à ce texte puisqueon voulait pas l'améliorer c'est pas la la marge d'erreur qui est le problème c'est vraiment la technologie en elle-même qui est est vraiment problématique une entreprise française a exporté des technologies de reconnaissance faciale vers la Chine donc il faut faire attention à ce genre d'argument aussi où si on veut être tout à fait cohérent ce genre d'exportation devrait pas non plus avoir lieu aujourd'hui la notion de terroriste elle peut être assez floue et quand Gérald harmanin parle d'écoterrorisme et qu'on se rend compte que les militants antibacine par exemple sont extrêmement surveillés et par des par des techologie qui devrait être encadré aussi et ben on voit bien que même les gardes de fou qu'on essaie de mettre là peuvent être détournés pour attaquer du militantisme politique plus large que du terrorisme c'est une proposition de loi votée ce lundi au Sénat qui est passée complètement sous les radars eux focalisé le même jour sur la motion de censure à l'Assemblée nationale qui pour la 17e fois n'a fait que sourire Elizabeth borne mais ce n'est pas ce qui nous intéresse ici aujourd'hui car en parallèle de ce moment très médiatique et politique évidemment les sénateurs et sénatrices adoptai une proposition de loi relative à la reconnaissance biométrique dans l'espace public par 226 voix contre 117 votant 343 exprimé 343 pour 226 contre 117 la proposition de loi est adoptée mais que prévoit le texte ici proposé par les républicains qui par ailleurs domine le Sénat par reconnaissance biométrique nous devons comprendre que l'on parle ici de toutes les différentes technologies existantes pour identifier une personne à partir de ses caractéristiques physiques et biologiques il a donc de quoi s'alarmer d'une possible dérive vers une société de la surveillance de masse mais le rapporteur LR Marc Philippe d'bres tient à nous rassuré ce n'est qu'à titre expérimental pour 3 années le système de contrôle sera renforcé et un rapport final sera rendu public pour péréniser modifier ou supprimer les dispositions et pour mieux comprendre les enjeux de ce texte qui va maintenant poursuivre sa route à l'Assemblée nationale j'ai invité aujourd'hui le sénateur ELV Thomas Dosu et katiar rou chargé de pldoyer pour Amnesy France alors madame rou monsieur Dosu bonjour bonjour comment allez-vous très bien très bien merci d'être là aujourd'hui pour cet entretien d'actu alors madame rouge j'ai rapidement résumé dans l'intro que vous avez entendu à l'instant les contours de la loi sans rentrer dans le détail est-ce que vous avez des choses à ajouter pour que tout le monde puisse bien comprendre de quoi il s'agit quand on parle de de reconnaissance pas faciale mais biométrique alors la reconnaissance biométrique dans l'espace public effectivement c'est l'identification de personnes sur la base de leurs données biométriques donc ce sont effectivement des données physiques mais aussi physiologique comportemental qui font l'objet d'un traitement algorithmique et qui permettent donc d'identifier des personnes et cette proposition de loi traite de la reconnaissance biométrique dans l'espace public et et va donc permettre si elle était adoptée de pouvoir surveiller tout le monde tout le temps dans l'espace public oui parce que ça s'apparente à la surveillance de masse et justement monsieur deessu vous vous avez siégé lundi vous étiez dans le ventre de la bête on disait tout à l'heure pour voter contre ce texte comme toute la gauche et les écologistes au passage mais avant de vous demander quelles étaient vos motivations pour voter contre même si on devine un peu les contours ici je vous propose d'écouter une partie de celle de la sénatrice communiste Ian assassassi tout de suite nous savons que c'est dispositif comporte des risques de discrimination d'erreur d'atteinte aux libertés fondamentales et nous pouvons les balayer d'un rever et nous ne pouvons les balayer d'un revers demain ce que c'est ce que nous confirme la knil en pointant le fait que je cite les bases de données utilisées pour le calibrage des algorithmes les femmes les gens de couleur les personnes différentes sont moins bien identifiés par des intelligences artificielles faisant peser le risque de leur occasionner plus de contrôle moins de liberté de plus comme le soulligne la Quadrature du Net je cite les comportements dit suspect ne sont que la matérialisation de choix politiques subjectifs et discriminatoire qui se focalise sur les personnes passant le plus de temps dans la rue qu'ell soit humaine ou algorithmique l'interprétation des images est toujours dicté par des critères sociaux et moraux et l'ajout d'une couche logicielle n'y change rien alors elle avance là on l'entend l'argumentation de la discrimination pour pour justifier son choix pour rejeter ce texte est-ce que vous partagez cet argument avec elle oui tout à fait enfin toutes les études qui ont été faites sur les les différentes technologies qui ont été déployées aux États-Unis par exemple on ont mis en avant ces billets par exemple la marge d'erreur pour identifier un homme blanc aux États-Unis c'est de 0,8 % une femme de couleur c'est 34 % il se trombe voilà donc on a on voit bien qu'il y a déjà dans les technologies un biais intrasec après il y avait aussi nous on était opposé par principe à ce texte puisque on voulait pas l'améliorer c'est pas la la marge d'erreur qui est le problème c'est vraiment la technologie en elle-même qui est est vraiment problématique juste c'est ce que je voulais vous demander est-ce que vous aviez d'autres alors là c'est tout tout en bloc mais qu'est-ce qui vous gênait le plus en fait elle c'était la discrimination je crois mais le plus pour vous C comprendre ce texte de loi il il ériigeait en premier article l'interdiction de principe de la de la surveillance de la reconnaissance faciale et puis après il y avait CIN articles d'exception pour différents méthodes ou cadre dans lequel ça pouvait être utilisé et donc nous on voulait s'opposer à toutes les exceptions puisque ça a été dit c'est une technologie de surveillance de masse en fait ce texte il arrive après le texte les les Jeux Olympiques qui permettait qui permet d'expérimenter la vidéosurveillance algorithmique c'est un peu différent mais c'est grosso modo pour détecter les comportements qui pourrai être problématiqu dans l'espace public mais il Gérald haranin avait mis comme ligne rouge la reconnaissance faciale et le Marc Philippe dobress Le le sénateur de droite a voulu proposer sa loi puisque globalement lui il voulait intégrer la reconnaissance faciale aussi à l'expérimentation Joo c'est pour ça qu'on a eu ce texte mais c'est vraiment un texte qui pérénise et qui va disséminer cette technologie dans l'espace public même avec des exceptions en réalité on va ouvrir la porte à quelque chose de dont on ne veut pas c'est-à-dire la surveillance de masse et pourtant des garantie pour ne pas tomber dans cette fameuse surveillance de masse de cette société de surveillance existe dans le dans la PP la prion de loi je vous propose d'écouter justement le rapporteur sur ce point nous avons donc voulu avec mon collègue Arnaud Benet définir collectivement un cadre garantissant que nous ne tomberions pas dans une société de surveillance c'est-à-dire comprenant des lignes rouges et également définir une méthode et un régime de contrôle comme en matière de bioéthique il s'agit de fixer dans la loi des grands interdits applicables à tous en particulier aux acteurs publics interdiction de la notation sociale interdiction de la catégorisation d'individus en fonction de l'origine ethnique du sexe ou de l'orientation sexuelle sauf s'il s'agit de recherche scientifique interdiction de l'analyse d'émotion sauf à des fins de santé ou de recherche interdiction de la surveillance biométrique à distance en temps réelle je viens de le dire dans l'espace public sauf exception très limitée avec la dég garantie considérable pour cela nous avons posé dans ce rapport trois principes généraux le principe de subsidiarité pour que la reconnaissance biométrique ne soit utilisée que lorsqu'elle est vraiment nécessaire le principe d'un contrôle humain systématique afin qu'il ne s'agisse que d'une aide à la décisions et le principe de transparence pour que l'usage des technologies de reconnaissance biométrique ne se fasse pas à l'insu des personnes et soit évalué de manière indépendante nous avons choisi pour ces exceptions une méthodologie claire reviendrait la voie expérimentale alors Monsieur dessu vous avez donc malgré ces garanties exposé à vous et vos collègues vous avez pas été convaincu par cette garantie pourquoi parce que en fait à chaque fois on nous pose une ligne rouge comme un comme un chiffon rouge c'estàd que sur la loi Jo c'était la reconnaissance faciale et puis là sur la reconnaissance faciale ça sera la notation sociale on dira attention on va pas toucher la notation sociale mais en fait en réalité le principe même de reconnaissance faciale est acté dans le texte de loi et donc là il est problématique et même quand on rajoute une liste d'exception en fait elle est amenée à s'agrandir et donc on va on va propager ces technologies on va les installer sur les caméras sur toutes les les dispositifs de surveillance qu'on a et puis derrière après les exceptions il y aura plus qu'à les enlever je prends un exemple le fichier ADN le fichier ADN il a été institué en 98 pour suite à l'affaire guigorge pour ficher les les agresseurs sexuels et il était normalement circonscrit aux personnes condamnées aujourd'hui 20 ans après même un peu plus de 20 ans après il y a plus de 3 millions de personnes qui sont fiché dans ce dans ce fichier et qui sont des gens qui sont non condamnés il y a des syndicalistes maintenant qui sont fichés et donc on voit bien que dès qu'on on met des lignes rouges elles sont amenées à se déplacer et donc nous on était sur un un principe de base qui était l'interdiction de la reconnaissance spciale dans l'espace public pour empêcher la dissémination de cette technologie justement Katia pour vous alors pour amnestie on imagine bien on connaît he votre ligne sur ce sujetl euh pour revenir un peu à l'argumentation de la discrimination parce que c'est large finalement on parle quand on parle de discrimination on peut penser à racial mais pas que vous venez d'indiquer les syndicats à l'instant ça peut être aussi dehors de politique euh beaucoup de personnes on encore à penser que puisqu'on a rien se reprocher dans nos vies on pense être propre et tout va bien on n pas de quoi s'opposer à la surveillance pourquoi s'opposer à la surveillance pour vous alors c'est l'argument sous forme de lieux commun qu'on sort souvent j'ai rien à cacher j'ai rien à me reprocher alors finalement c'est pas si problématique si ça peut aider à lutter contre la criminalité contre le terrorisme mais encore faut-il le prouver en réalité il y a effectivement ces enjeux de discrimination qui sont liés à la fois à la manière dont sont conçus ces systèmes ça a été dit ce sont des biaiss humains qui peuvent être encodés dans l'algorithme et ensuite avec la puissance informatique renforcé euh il y a un choix de données à à l'entrée et puis ensuite il y a toutes les fonctionnalités qui qui font que ce sont si des choix humains qui vont façonner on va dire la le le système et puis après il y a l'utilisation qui en est faite et l'utilisation là aussi elle peut être tout à fait discriminatoire nous on l'a documenté notamment à New York avec l'utilisation de la reconnaissance faciale dans des quartiers majoritairement à population non blanche qui venaient renforcer les pratiques desjà la raciste existante de la police new yorkaise par exemple on voit comment ensuite ces outils qui ne sont neutres que d'apparence en réalité puisque dans leur conception même et dans leur utilisation ça vient emporter absolument donc cette neutralité en réalité elle n'existe pas alors bien alors même qu'elle est avancé donc oui il y a ces enjeux de discrimination qui sont extrêmement difficiles à à à prévenir et puis il y a l'impact sur la vie privée parce que quand on parle de surveillance ou d'ingérence dans la vie privée le droit international parle de critères très stricts de nécessité et de de proportionnalité là on parle d'une surveillance de masse qui par définition ne sera jamais proportionnée donc toujours contraire au droit international avec un effet dissuasif très fort et effectivement on on peut y réfléchir à deux fois quand on se sait quand on se sent surveillé avant d'exprimer une opinion publique avant d'aller en manifestation par exemple non pas parce qu'on a quelque chose à se reprocher mais tout simplement parce qu'on va modifier son comportement du fait de cette surveillance donc cette surveillance peut aussi avoir un impact dans l'exercice même de nos droits qu'on va autorestreindre en ité du fait de ce dispositif oui ce sont nos droits fondamentaux qui qui vont être impactés et en l'occurrence aucune garantie technique ou juridique ne peut éradiquer complètement ce risque sur les droits humains et donc c'est effectivement pour ça qu'on demande également l'interdiction totale c'està-dire à la fois en temps réel et à postériori de la reconnaissance faciale à des fins d'identification tant par les acteurs publics que privés et justement durant C 10 minutes de prise de parole réglementaire monsieur dobress a précisé un point qui fait débat c'estàdire le cadre juridique prévu on écoute la prévention du terrorisme en troisième lieu créer un cadre juridique permettant là aussi de manière subsidiaire et par exception le recours ciblé est limité dans le temps à des systèmes de reconnaissance biométrique sur la voie publique en temps réel c'est surtout ça qui fait débat sur la base d'une menace préalablement identifiée à des fins de sécurisation de grands événements face à un risque terroriste ou à des risques d'atteintes grav à la sécurité des personnes alors on entend sur la base d'une menace préalablement identifiée face à des risques entre autres d'atteintre grave à la sécurité des personnes Katia encore une fois est-ce qu'on peut attendreun telle loi si jamais elle passit ou du moins comme elle est présentée aujourd'hui en ces termees qu'elle soit utilisé vous avez prononcé le mot il y a quelques instants pour s'attaquer au droit de Greff par exemple ou de manifester c'est ce qu'on on se demande bien c'est c'est c'est la crainte c'estàd que effectivement une fois que ces technologies sont en place une fois qu'il y a une base légale on revient pas en arrière elles sont utilisées et et la la marche est de plus en plus haute ça a été dit il y a d'abord eu ce débat sur la loi JO avec la vidéosurveillance algorithmique on nous a présenté la reconnaissance sociale comme un repousoir maintenant on en est là à chaque fois on va plus loin et nous on a pu documenter dans plusieurs régions du monde l'utilisation de ces technologies à postériorie parce que c'est pas qu'en temps réel en réalité le problème il a aussi la question à postériorie de gouvernement qui ont ét un cadre très très précis encore une foisavant s'en disant que c'est vous allez pouvoir vous expprer juste après mais c'est vrai que c'est un cas très précis de crime de de terrorisme et cetera alors il y a il y a deux choses c'estd que euh l'efficacité en terme de prévention elle reste àouvée en réalité de ces de ces de ces technologies comment on peut prévenir de potentiels actes terroristes l'anticipation l'analyse des comportements aujourd'hui ça fait quand même débat au sein de la communauté scientifique sur ces même technologie et puis le côté apostéerie on a documenté des autorités de certains États qui allaient après arrêter après coup des manifestants pacifiques par exemple qui avait aussé s'exprimer osé critiquer la politique du gouvernement donc les garanties qui sont avané ne sont pas de nature à rassurer et à véritablement prévenir les violations de droits humains monsieur lu oui les les mesures de surveillance sur l'antiterrorisme elles sont assez cadrés déjà elles existent ce cadre le cadre qui décrit existe déjà pour unant de technique de surveillance ça n'empêche pas qu'aujourd'hui la notion de terroriste elle peut être assez flou et quand Gérald armanin parle d'écoterrorisme et qu'on se rend compte que les militants antibassines par exemple sont extrêmement surveillés et par des par des technologies qui devrait être encadré aussi et ben on voit bien que même les gardes de fous qu'on essaie de mettre là peuvent être des tourn pour attaquer de du militantisme politique plus large que du terrorisme et la menace aux bien et aux personnes ça peut recouvrir un cadre assez large et donc il faut faire très attention quand on nous explique ce cadre là puisque derrière il y a aussi des notions qui peuvent bouger et c'est aussi une forme de fuite en avant dans la technologie pour lutter contre le terrorisme on pense que en cadrillant l'espace public de caméras en mettant la reconnaissance faciale on va pouvoir prévoir et anticiper certains actes de terroriste la ville de Nice he je vous coupe mais elle est un exemple ouai mais la ville de Nice justement prenons l'attentat de de de de Nice euh la réalité c'est que le camion qui a servi à cet attentat était sur la promenade des anglais pendant 24 heures surveillé par les caméras et que ça n'a pas empêché l'acte de de de se dérouler et donc on voit bien que on peut pas se reposer sur la technologie pour lutter contre le terrorisme en tout cas ça ne peut pas être le l'alpha et l'oméga de notre lutte antiterroriste alors justement vous faites partie de l'opposition de de de de gauche et cette opposition de gauche parle d'un risque d'une société à la chinoise on l'entend un peu partout est-ce que c'est pas un peu exagéré Katia que dans que de parler parler même si on on on a je me en écrivant cette question je me souvenais de la disposition de genen not par exemple qui permet aux gendarmes de noter dans leur fichier que tel manifestant personne contrôlé présente un problème de santé alors qu'il n'est pas médecin ou est syndicaliste CGT ou quoi que soit est-ce que malgré cela il y a deux questions est-ce que le risque est avéré pour de vrai d'aller jusque aussi loin et est-ce que dans la loi française aujourd'hui il existe des choses déjà difficile déjà qui vont dans ce sens je pense que ce qu'il faut entendre derrière cette réflexion c'est c'est le risque d'aller vers ce genre de société ce qu'il faut entendre c'est euh la place la responsabilité aujourd'hui qu'on veut collectivement donné à ces technologies l' a et partout aujourd'hui pénètre notre quotidien notre vie quotidienne nous suis dans nos déplacements nous identifier dans la rue peut déterminer parfois notre accès aux études supérieurs ou à tel ou telle prestation sociale ou soins de santé c'est déjà là en réalité la question de la régulation elle se pose et la question de la régulation c'est aussi les lignes rouges et quand on réfléchit aux lignes rouges nous ce qu'on demande c'est que les droits humains soient au cœur de de ce débat là alors effectivement on nous dit souvent vous dépignz une société dystopique on en est pas là la France c'est pas la Chine c'est pas la Russie mais évidemment on n'est pas en train de dire les tous les contextes nationaux seeval on est en train de dire quelle responsabilité quelle place on veut donner aux technologies dans nos vies et dans nos sociétés et il faut dictter leur régulation par les droits humains c'est ça le message en réalité qu'il faut passer parce qu'on a pas forcément envie effectivement d'arriver sur un modèle de surveillance permanente comme en Chine soit dit en passant la France une entreprise française a exporté des technologies de reconnaissance faciale vers la Chine euh donc il faut faire attention à ce genre d'argument aussi ou si on ve être tout à fait cohérent ce genre d'exportation devrait pas non plus avoir lieu donc voilà c'est aussi le message qu'il faut entendre derrière cette cette inquiétude euh parce que généralement effectivement cette fite en avant euh on on voilà on revient jamais après autant d'investissements sur sur ces technologies on a du mal après à se restreindre mais est-ce que c'est pas crier au loup et après du coup perdre la bataille les gens avortent de dire ah là là c'est je pense pas puce qu'en fait il y a une forme de gourmandise de des des des personnes enfin de la droite sécuritaire sur ce genre de technologie mais c'est aussi parce que vous l'avez dit la France veut se se porter comme une championne des technologies de surveillance il y a des entreprises derrière il y a des il y a des intérêts financiers très lourds derrière derrière le cadre du du marché d'ailleurs on avait porté deux trois amendements pour essayer de mettre en avant cette hypocrisie puisquon avait demandé à ce que les données captées par ces algorithmes ne puissent pas être vendues à l'étranger ce qui a été refusé puisque globalement quand on apprend aux algorithmes à se à à repérer les comportements on doit pouvoir le vendre à d'autres régimes peut-être moins regardant moins régulés sur ces technologies là et donc même les les algorithmes qu'on va développer ici pour protéger par exemple pendant les Jos ils vont être éduqués parce que c'est comme ça que ça fonctionne et puis derrière ils vont servir à d'autres marchés et donc c'est vraiment euh euh une société c'est un marché sécuritaire international qui en train de se développer c'est pas cri au loup c'est des vrais enjeux financiers il y a d'autres pays qui sont très très en pointe là-dessus Israël ou la Chine mais effectivement la France veut jouer sa part du marché là-dedans donc c'est pas uniquement un fantasme c'est un marché comme un autre pour pour plusieurs personnes et c'est déjà là comme disait à instant ka alors je le disais tout à l'heure toute la gauche et les écologistes ont voté contre face aux droites Unies il faut le dire au Sénat qui ont fait adopter ce texte lundi alors je vous propose d'écouter le sénateur socialiste cette fois-ci Jérôme Durin collègue avou qui a d'ailleurs été pourtant corappor coauteur par donc du rapport sénatorial sur la reconnaissance faciale et s exprimé pour le coup contre euh le projet de loi on l'écoute tout de suite crain cependant que le format de notre discussion de cet après-midi ne nous permettent pas de rencontrer le même succès cela est compréhensible nous ne sommes et je dis ça avec tout le respect que j'ai pour l'initiative parlementaire nous ne sommes que dans une niche nous ne dispositionons nous ne disposons pas d'étude d'impact et l'avis de Madame la Ministre démontre que ce texte n'est pas porté à bras le corps par le gouvernement et puis surtout il y a l'agenda d'examen notre débat peut sembler confus à l'extérieur de cet hémicycle parce qu'il intervient quelques semaines seulement après la promulgation du projet de loi sur les jeux olympiques que j'ai déjà évoqué il y a quelques semaines nous avons été nombreux et je m'inclus dans ce nous à débattre des mesures concernant la vidéoprotection algorithmique sur les Jeux Olympiques et à répéter souvent avec sincérité non il n'y aura pas de reconnaissance faciale au JO cela a été dit avec sincérité pour plusieurs raisons nous avons été nombreux à penser qu'il était trop tôt que les réticences exprimées dans la société autour de l'utilisation des algorithmes sans données biométriques créaient suffisamment de réticence pour éviter d'aller encore plus loin avec la reconnaissance faciale de manière plus pragmatique de nombreux acteurs nous disent qu'il est trop tard que mettre en place les systèmes de reconnaissance faciale prend du temps et que rien ne serait de toute façon opérationnel pour les Jeux Olympiques il parle de de bain un peu confus qui pourraitêtre passer pour confus à l'extérieur de de de l'hémicycle mais pour ma part en entendant monsieur Durin à l'instant alors il serait trop tôt pour lui pour aller sur ce terrain si loin sur le terrain mais en même temps trop tard pour que so tout opérationnel pour 2024 la confusion est-ce qu'elle est pas un peu là je ne sais pas vous qui avez écouté à l'instant ici mais ces arguments me semblent un peu en décalage avec la position en fait de de votre de votre groupe à vous celui des communistes et cetera ma question est toute simple est-ce que ce sujet n'est fait débat en fait dans la sénatoriale c'est pas clair apparemment je vais pas prendre la parole pour Monsieur Durin mais là il a tenu la position qui est celle du gouvernement en réalité la ministre disait exactement la même chose c'est trop tôt et trop tard pour les j mais trop tôt pour l'instant pour avoir ce débat pas contre mais pourquoi pas plus tard puisqueen fait il y a un règlement en ce moment qui est en discussion au niveau européen qui a même été qui a même été voté au Parlement le Parlement qui qui a fixé un principe d'interdiction stricte mais on sait bien qu'il y aura une discussion avec le trilogue c'estàd les les gouvernements plus la commission où là on va essayer de faire rentrer des exceptions et donc ce qu' ce qu'il explique là à la tribune c'est globalement la position gouvernemental puisque Dominique fort qui était au banc à ce momentlà disait exactement la même chose c'est trop tôt on l'avait fixé comme ligne rouge au moment des joio donc on reste sur cette position là et après encore une fois il y a une gourmandise ver vis-à-vis de ces technologies on a envie on nous les vend comme une solution à tout un tas problème de sécurité et donc quelque part certains ils sont tentés ouais et de son côté la quadrature que vous connaissez bien du net que j'ai contacté hier confirme dans un tweet qu'on voit à l'écran que je cite cette proposition de loi est tellement hors sujet et hors sol que chose rare nous avons refusé de participer aux auditions lorsque nous on nous l'a proposé rappelant notre position ferme sur la surveillance biométrique ce texte ne pouvait être amélioré d'aucune manière et doit être rejeté alors pour la quadrature ce texte vous l'avez dit tout à l'heure je crois n'est qu'une initiative de la droite pour faire passer par la fenêtre quand par la porte c'est pas arrivé avec la loi olympique la loi Go 2024 alors on imagine qu'Amnesty internationale partage cette lecture vous allez me dire c'est pas le cas notamment sur ces garanties qui ne sont pas suffisantes donc question tout simple est-ce qu'il existe est-ce que c'est possible d'avoir des garanties suffisantes ou alors à l'instar de de la cature amnesti c'est genre niet on veut rien c'est pas possible d'amender pas possible de de cadrer en de manière très claire on rejoint complètement la position de de la Quadrature du Net lorsqu'il s'agit de technologie de surveillance à des fins d'identification surveillance de m donc reconnaissance faciale euh je précise à des fins d'identification parce qu'il y a des usages qui sont un peu moins problématiques typiquement la reconnaissance faciale a des fin d'authentification o on vérifie qu'une personne est bien celle qu'elle prétend être donc c'est une vérification de de d'une image donnée de manière consentie avec par exemple un support comme le comme le passeport a priori ça pose moins de problème en matière de droits humains mais quand il s'agit de l'identification donc on va capter capturer un certain nombre de visages dans une foule sans le consentement à l'insu des personnes et qu'on va croiser ces images avec des des milliers des millions de de visages issus de de base de données là on est dans une surveillance de masse ce que disis au début ça sera jamais proportionné et donc à des fins d'identification on considère qu'il faut absolument l'interdire interdire non seulement l'utilisation mais le déploiement et l'exportation donc effectivement la position elle est très claire et encore une fois pour les acteurs publics comme les acteurs privés ce ne sera jamais compatible avec les droits humains selon nous un dernier petit extrait qu'on va regarder ensemble c'est toujours dans un sou de rassurer on peut comprendre et de marquer le cadre parce que pour le coup on va ça sera une des questions qui va arriver après est-ce qu'on peut encore y échapper ou pas mais pour marquer ce cadre pour définir les limites monsieur debress a insisté sur l'aspect expérimental comme je parlais dans l'intro très contrôlé encore une fois et limité dans le temps on écoute ça s'agissant de la gouvernance de ces dispositions nous avons proposé un système de contrôle que j'ai déjà évoqué juste à l'instant et comme je le redis également l'encadrement des expérimentation pour une durée limitée de 3 ans à compté de la promulgation de la loi abouti à des rapports annuels auprès du Parlement comme nous l'avons fait pour la loi sile j'en ai été le rapporteur je peux en parler enfin un rapport final d'évaluation qui peut aboutir à pérenniser modifier ou à supprimer totalement les dites dispositions une réaction qui veut réagir non l'expérimentation c'est toujours le le fonet pour avancer doucement parce que évidemment l'institutionnalisation de cette cette technologie fait peur au grand public public et donc c'est un moyen d'accoutumance pour le pour le grand public et de de de d'avancer pas à pas et puis à la fin on dira bah c'est pas du tout intrusif vous voyez bien il se passe pas grand-chose et donc on va continuer enfin personne n'est dupe là-dessus ils ne le sont pas dupes non plus mais bon ça fait partie du discours global pour sur ce genre de développement de technologie qui fait qui est frais la population en réalité he si on faisait un sondage dans le grand public sur le déploiement de la grance faaciale je pense qu'on aurait on aurait on aurait des surprises et donc je pense voilà ça fait ça fait partie de du jeu généralement mais en même temps si s'il y a un rapport à la fin qui permet d'en sortir c'est quoi le risque je me permet de faire la du diable mais c'est vrai s'il y un rapport ave que la démocratie fonctionne bien que vous êtes pour protéger les institutions et population ça dépend ce qu'on demande au rapport si on demande de savoir si ça fonctionne ou ça fonctionne pas le rapport peut nous dire ça fonctionne et à la fin bah si ça fonctionne on continue enfin ça dépend le donneur d'ordre fera tout un rapport on l'écrit on lu donne lesentations qu'on veut à la commande en tout cas néanmoins avec la recru d'essence de tout ce qui permet cela c'est dire la les technologies les IA qui sont pas partout même dans nos métiers à nous enfin dans beaucoup de métiers on parle de 80 % mais aussi les objets connectés et sans oublier on l'a vu à la à la fin de sa prise de parole il a fait référence à sa à à son expérience de maire où il parle de terrorisme et c'est sincère j'imagine comment dire le contexte politique qui dépque que celui du terrorisme mais celui aussi des des des des combats sociaux qui peut permettre aussi une avancée vers plus de autoritarisme est-ce qu'on peut est-ce qu'on va pouvoir longtemps échapper à ce genre de législation Katia alors si je peux réagir l'idée c'est pas forcément d'échapper à ce genre de législation encore une fois réguler l'intelligence artificielle c'est important et c'est effectivement ce qui est en train d'être fait au niveau de l'Union européenne avec l'adoption de de la position du Parlement européen qui est une une position qui est beaucoup plus protectrice en matière de droits humains que que ne l' celle du conseil de de liueu et et donc des États-membres qui là encore ont introduit tout un tas d'exceptions aux interdictions d'utilisation de la reconnaissance faciale et autres donc effectivement dans un contexte de sécurité nationale pour le maintien de l'ORD l'application des lois contexte de migration euh tout ça effectivement serait exemp des des des interdictions euh là aujourd'hui ce qui est important c'est c'est c'est non pas de se dire on va laisser le le les zas se développer de manière sauvage l'idée c'est de se dire quel développement de l'IA respectueux des droits humains et conforme au droits international relatif aux droits humains le texte qui a été adopté aujourd'hui est un texte très protecteur pas assez malheureusement il y a encore des manquements parce que même si les les grands grand système on va dire de surveillance de masse du texte du Parlement européen tout à fait aujourd'hui on entend on pouvit confondre voilà parlementou ou là là du Parlement européen c'est le règlement UE sur la la régulation des systèmes d'intelligence artificielle interdit les principaux systèmes de surveillance de masse et de surveillance discriminatoire ciblé pour autant tout le pan qui concerne le domaine de la migration c'est que les personnes migrantes réfugiées demandeuses d'asile ne sont pas protégé par par ce règlement parce que c'est systèmes sont interdits mais pas dans le contrôle aux frontières par exemple or on sait très bien qu'il y a des abus et des violations des droits humains tous les jours du fait du développement de ces technologies donc oui ces technologies se développent oui elles sont dans nos vies oui elles sont quasiment incontournables elles font déjà partie de notre quotidien et c'est pour ça que c'est important de mettre des gardesfous des lignes rouges mais des lignes rouges qui sont dicté par le respect des droits humains et des libertés fondamentales c'est ça le cap c'est ça la boussole alors le cas on comprend il va falloir légiférer pour encadrer hein on pourrait penser au drones par exemple les drones sont arriv le cas législatif est arrivé après il faut évidemment alors on a entendu he le gouvernement n'est pas à l'initiative de cette PPL évidemment alors on peut imaginer que ce texte ne survivra pas en l'état à l'Assemblée nationale est-ce que on peut dire qu'il est mort dans l'œf et que c'est bon c'est bon non faut pas se dire ça non on est dans un contexte où le gouvernement cherche une majorité et peut-être qu'il aura besoin des républicains à un moment autre dans C dans dans cette configuration et en fait ça fait partie d'un CRE de proposition de loi que les républicains font voter au Sénat en ce moment sous les radars vous l'avez dit au début d'émission mais qui font voter et qui mettront dans la corbeille de la mariée au moment où il faudra trouver une majorité avec ce gouvernement ou ou quand ils arriveront au gouvernement un jour ou l'autre et donc il faut être très attentif très vigilant et ce ce texte peut encore prospérer et dernière question à tous les deux peut-être même si vous avez pas la même le même rôle dans tout ça on on est une chaîne où où on parle beaucoup aux citoyen et au citoyens qui d'ailleurs finance notre média pour restre complètement indépendant des forces politiques et de l'argent qu'est-ce que vous leur dites aux citoyens et citoyens sur ce terrainlà en dehors de leur rôle d'aller voter d'aller élire pendant les entre deux deux moments où ils sont appelés auxurnn ils font quoi sur ce terrain là les gens pour lutter alors déjà il faut se poser la question du besoin parce que c'est ce qui revient souvent on lui dit toujours qu'on a besoin de ces technologies qu'elles sont nécessaires qu'elles sont efficaces il faut questionner ça en réalité on l'a vu avec le le débat autour de la loi Jio il y a pas eu de débat publ il y a pas eu de débat véritablement démocratique la procédure accélérée a été déclenchée sur ce texte or c'est un tournant en réalité ce texte et ceux potentiellement qui vont qui vont être adoptés un tournant encore une fois sur la place ce qu'on va accorder aux technologies dans nos vies quotidiennes ça nous concerne ça nous concerne toutes et tous en réalité donc il faut pouvoir questionner il faut pouvoir alerter il faut pouvoir interpeller se poser à la fois la question du du besoin de notre rapport à ces technologies et surtout essayer de de de sortir et de déconstruire un peu ces lieux communs du j'ai rien à cacher j'ai rien à me reprocher les technologies sont neutres c'est pour ma sécurité parce que ça c'est un peu cette petite musique qu'on entend euh quotidiennement et qui augmente effectivement ce ce niveau d'acceptabilité parce qu' s repose toujours un peu plus loin le recours à ces à ces technologies de surveillance on voit bien que les autorités sont depuis quelques années dans cette cette tendance à avoir de plus en plus recours à à aux technologies de surveillance il faut questionner ça aujourd'hui c'est vraiment un bon moment parce qu'on en parle tous les jours et donc les citoyens et les citoyennes doivent être partie prenante de ce débat le bon de la fin pour vous je vous remercier déjà de d'accorder du temps à la question des libertés publiques comme comme aujourd'hui parce que c'est pas une question qui fait la une en réalité de des médias nationaux il suffit de voir l'co qui a été donné à cette proposition de loi et le peu de sénateurs qui étaient en séance ce jour-là et et malheureusement donc moi ce que ce que je dis c'est aux citoyens c'est de rester vigilant par rapport à tout ça et de ne pas hésiter à interpeller leurs élus parce que c'est aussi une question de principe d'autonomie de liberté dans l'espace public et donc on a besoin de faire de cette question des liberté publiqu un vrai débat partagé et qui ne reste pas un débat d'experts de du périmètre de telle ou telle technologie et bien le message est passé merci à tous les deux d'avoir accepté l'invitation aujourd'hui à bientôt quant à vous chez vous merci d'avoir suivi cet entretien d'actu si vous l'avez apprécié likez commentez partagez et bien sûr abonnez-vous au médiia en vous rendant sur lemediatv.fr/stien on compte sur vous puisque le média n'est financé que par vos abonnements et vos dons nous permettant une liberté éditoriale pardon totale chose rare dans le paysage audiovisuel français merci pour votre soutien et à très bientôt