Audition φ - L'encadrement de l’intelligence artificielle

bonjour bonjour à tout le monde merci d'avoir pu vous rendre disponible pour qu'on puisse échanger ensemble autour de cette affaire d'intelligence artificielle en lien plus particulièrement même si ça ne soulève pas que cette question en lien donc avec les libertés fondamentales auxquelles nous sommes attachés en essayant d'élargir le focus comme l'on dit parfois au-delà du pays de notre pays la France avant d'aborder peut-être le sujet qui nous rassemble ce soir je vous propose qu'on fasse un petit tour de table Hugo peut-être tu commences le bonjour à tous Hugo bernicide et peut-être du Nord de la France insoumise qu'on met des autres collègues donc de la commission des lois aussi et moi c'est mon deuxième mandat contrairement à mes deux jeunes nouveaux collègues et donc j'ai suivi à la commission des lois évidemment tous les toutes les tous les textes successifs qui ont pu avoir un lien avec l'usage des intelligences artificielles et ça va de la captation des données en masse pour les services des impôts qui avait été aussi un des événements de la monture précédente jusqu'au drone en passant par les textes anti-terrorisme boîte noire de captation des URL et autres et on a fait un petit détour au tout début du mandat précédent puisque c'était aussi la transcription de la directive européenne du rgpd évidemment et donc l'adaptation française et que les débats qu'on a eu lieu voilà merci je prends le relais du coup Noémie levain la Quadrature du Net une association qui défend la liberté dans l'espace numérique ou par le gros combat évidemment la lutte contre la surveillance et avec l'apparition de l'intelligence artificielle dans l'espace public à travers la vidéo sur un saltovithmique qui nous a pas mal mobilisé ces derniers temps en France mais du coup on va parler aussi au niveau européen avec ce règlement voilà bonjour Katia roux je suis chargée de pédoyer à ministère International France j'y suis les questions liberté d'expression droit d'information mais aussi technologies et droits humains qui est une thématique sur laquelle on travaille maintenant de depuis plusieurs années et essentiellement sur les enjeux liés à la surveillance de masse ou la surveillance ciblée mais aussi la question des algorithmes et des réseaux sociaux donc on sait évidemment penchés sur les différents projets de loi qui ressemblois ces dernières années en France mais notre action se situe aussi très largement au niveau international avec des recherches sur l'impact de ces technologies sur les droits humains je suis spécialisé depuis plusieurs années en droit de l'intelligence artificielle et notamment j'ai publié deux ouvrages sur iya et robots il y a un autre qui viennent paraître sur le droit des algorithmes je suis député de la Savoie à la commission des lois avec Elisa et Hugo et je serai vraisemblablement coup chef de fil sur la prochaine loi numérique et moi je suis un passionné des outils qui permettent de se libérer de la surveillance généralisée et je repense à votre article peut-être que je mets les pieds directement dans le plat mais à votre dernier article sur les mises en examen pour détention et usages d'outils de chiffrement et bien évidemment à ce compte là je crois qu'on est nombreux dans cette Assemblée nationale à être passible de la loi si elle est à ce point répressive merci Jeff donc moi je suis Elisa Martin ma circonscription situe en Isère et je suis également membre de la commission des lois et encore une fois je vous remercie pour pour votre présence qui nous est bien sûr très précieuse le fait d'être député en tant que tel ne signifie pas que nous soyons naturellement spécialiste d'un certain nombre de sujets qui tout de même sont complexes moi ce que je vous propose c'est bien sûr rapidement de vous faire un point sur l'état de ma de notre de notre réflexion pour que vous puissiez d'autant plus nourrir cette réflexion en ayant mesuré la où nous en sommes du coup Hugo bernalis il a dit je suis une jeune députée au moins si ce n'est en âge tout au moins un coup sûr dans cette dans cette fonction et j'ose dire que ma première confrontation à ses affaires d'intelligence artificielle c'est jouer au travers de la loi dites Jeux Olympiques et autres dispositions chacun a compris que tout se jouait dans autre disposition d'ailleurs on aurait pu appeler la loi autre disposition aux Jeux Olympiques suite été plus clair si ce n'est plus honnête mais bien sûr je ne dirai pas ça et ce qui était ce qui est tout à fait symptomatique symptomatique dans cette dans cette loi qui a été adoptée par par l'Assemblée nationale assez largement d'ailleurs c'est le recours à la vidéo surveillance algorithmique pour nous fait plutôt sens vers une société de la surveillance généralisée et de ce point de vue elle le recours à cette technologie nous paraît contradictoire d'emblée je le dis avec un certain nombre de liberté fondamentales le droit à la vie privée la liberté d'aller venir la possibilité de l'expression Pacifique évidemment du champignons nous paraît contradictoires dans la mesure où elle est massive cette surveillance et dans la mesure où elle est très intrusive et qu'au fond même les garanties qui pouvaient nous être donnés je crois à partir de 95 sur l'installation déjà très importantes dans le pays d'un certain nombre de caméras de vidéos surveillance information publique la capacité à dire dans quel air dans quel espace se déploie ces modalités de surveillance paraissent évidemment beaucoup plus complexe quand on parle de vidéosurveillance algorithmique appuyée de surcroît sur d'autres technologies Hugo faisait allusion à l'instant à cette question de drone donc c'est la mobilité en plus des outils de surveillance donc il y a encore une fois nous paraissent contradictoires avec un certain nombre de liberté qui si elles sont fondamentales ça n'est pas juste pour se faire la voix mais c'est bien ce qui va nous garantir aussi le fait que nous soyons des citoyens et pas seulement des êtres humains qui se baladeraient sur sur un espace public bien que là encore une fois cela interroge aussi sur la protection de notre vie privée nous ne sommes pas des gens butés donc nous avons aussi examiné le caractère d'efficacité de la VSA en lien avec ce que nous a dit puisqu'on nous on nous a dit non non vous vous trompez d'ailleurs vous êtes un peu trop léger dans votre vision des choses les Jeux Olympiques arrivent il faut absolument va recevoir des millions de personnes etc il faut absolument qu'on donne et qu'on garantisse la sécurité de de ces personnes nous nous en doutons d'abord parce que l'expérience nous l'indique par exemple si on regarde ce qui s'est passé en octobre 2021 à Séoul étant entendu que ce qui était prédéterminé comme type d'événements à repérer c'était des mouvements de foule il y a eu un mouvement de foule il y a eu je crois 180 morts et malheureusement bien sûr et cette affaire de VSA n'a strictement rien empêché le deuxième élément c'est justement cette affaire de pré-événement quels sont-ils on n'en sait rien finalement et si l'on va sur les sujets qui sont les sujets les plus effrayant qui sont des modes terroristes on a bien vu au cours du temps que les modalités de mise en oeuvre des attentats étaient forts différentes entre ce qui s'est passé au Bataclan ce qui s'est passé sur les terrasses ce qui a pu se passer dans un certain nombre d'églises etc donc ne serait-ce que pour ces deux raisons là mais Hugo et puis peut-être Jeff aussi complètement Jean-François compléteront bien sûr à loisirs donc ne serait-ce que pour ces deux raisons là nous interrogeons aussi l'efficacité de cette affaire là peut-être le savez-vous nous sommes précis je crois sur le vocabulaire nous préférons parler de sûreté plutôt que de parler de sécurité la notion de sûreté la protection des citoyens à l'égard des institutions et alors là ouais ça marche là c'est sûr on est en plein dedans quoi parce qu'il nous semble justement que la protection des citoyens à l'égard des institutions n'est plus assurée par ce type de par ce type de de montage technique il y a la question des biais bien sûr et les expériences diverses et variées qui ont pu être menées disaient que au fond d'abord c'est l'être humain qui programme tout cela l'être humain malheureusement n'est pas un heureusement aussi est lourd de sa vie et lourde c'est préjugés donc quand on programme et qu'on dit peut-être faire gaffe à ceux qui mettent des baskets et puis des sweats à capuche on sent bien qu'on est porteur de préjugés bien évidemment quand on observe ce qui se passe dans une gare et qu'on dit faudrait peut-être veiller à ce qui marchent dans l'autre sens ou à ceux qui s'arrêtent c'est vrai pourquoi s'arrêter dans une gare c'est des lieux de transit donc a priori on s'arrête pas et on va s'apercevoir là aussi quand on parle l'expérience dans une logique un peu empirique puisque je pense qu'il faut croiser les deux les deux dimensions une dimension théorique et une dimension plus empirique ben on s'aperçoit que c'est quand même souvent les plus démunis les pauvres gens qui vont être visés et que dire naturellement des militants particulièrement des militants écolos mais sans doute on y reviendra donc il y a la question des biais qui reviennent à la programmation qui est faite heureusement encore une fois par par des êtres humains et finalement ceux qui vont être repérés ceux qui vont clignoter ce dont on va dire qu'ils ont des comportements anormaux suspects bon là aussi le vocabulaire en soi est intéressant voilà ce qu'on peut dire dans une première intention la deuxième intention est quand même le poids des industriels on n'est pas complètement naïf on sait bien que la sécurité d'une manière générale représente des des marchés de milliards d'euros que la France est dans cette compétition là en tout cas ces industriels qu'ils ont d'ailleurs besoin pour rendre efficace leur fameux logiciel de les entraîner c'est sans aucun doute pour cette raison là que le plat le possible recours à la VSA dépasse largement en deçà et au-delà le temps même des Jeux Olympiques donc cette affaire l'industrielle bien évidemment il nous semble que si l'on parle d'intelligence artificielle on ne peut pas seulement parler d'application et que ça vaut peut-être le coup de remonter d'un cran dans notre réflexion d'abord contradictoirement si je reviens à cette notion de VSA il y a quelque chose de l'ordre du rapport à l'Autre qui nous a interrogé l'autre est-il potentiellement quelqu'un qu'il faut surveiller quelqu'un qui peut être dangereux quelqu'un qui est notre ennemi ou plutôt potentiellement celui avec lequel je peux coopérer et dans toutes les dimensions possibles progresser avoir de meilleures conditions de vie etc donc il y a quelque chose qui se joue dans le rapport à l'autre quand on est là je crois que l'on peut tordre le cou à quelque chose qui traîne par là et qui dirait que le danger de l'intelligence artificielle c'est qu'il deviendrait plus performant que les êtres humains nous n'y croyons pas en tout cas moi je n'y crois pas ce qui caractérise notre humanité c'est d'abord et avant tout l'empathie sans doute un peu d'ailleurs les animaux mais je ne veux pas tout ouvrir toutes les boîtes en même temps donc ce qui nous caractérise prioritairement c'est l'empathie c'est à dire la capacité à ressentir ce que l'autre ressent je ne crois pas que l'intelligence artificielle et cette capacité là bien évidemment l'intelligence collective dont l'humanité tout de même capable de faire preuve pas toujours je le reconnais mais tout de même une cape et qui va avec une capacité de coopération et une capacité à repérer un certain nombre d'incohérences je crois que c'est vrai quand on parle de diagnostic en matière de médecine qui sont posées via l'intelligence artificielle c'est un peu cette espèce de mythe ou ce truc là qui traîne dont je voulais modestement tordre le cou mais plus fondamentalement encore ce qui nous paraît inquiétant mais c'est vrai aussi de ces ordits de ces téléphones portables de Google bon tout ça là c'est que nous craignons que cela participe d'un rétrécissement du point de vue et donc par la même du point de vue de l'opinion on a souvent constaté ça twitter etc il est logiciels d'une façon générale nous renvoie à ceux qui pensent comme nous alors bien sûr qu'on y trouve du confort Parce qu'on se dit c'est génial on est hyper majoritaire c'est pas toujours vérifier au moment des élections ça veut dire qu'il y a un au-delà je suis d'accord mais ça veut dire qu'il y a un au-delà de cette entre soi dans lequel ce recours au logiciel je pense nous enferme donc et là c'est pas une question de régulation c'est un fait et d'ailleurs ce logiciel qui écrit des discours des dissertations à notre place peut-être devrait-il être quasiment interdit au plus jeune pour justement lutter contre se rétrécissement de la pensée cette enfermement dans les opinions qui sont toujours les mêmes ce qui est très embêtant parce que si je tire cette logique là jusqu'au bout c'est par cette capacité de création par cette nouveauté que l'humanité quand même a pu avancer et a pu découvrir un certain nombre de choses et ça nous paraît être quelque chose qu'il est impératif de de préserver et le dernier élément alors là qui moi vraiment me sidère c'est qu'on ne sait pas comment ça marche à la fin de l'histoire on ne sait pas comment ça marche alors je vais prendre une référence qui est discutable mais que j'assume ceux qui ont lu Harry Potter vont comprendre Harry Potter et donc un apprenti sorcier qui va fréquenter une école il y a une figure paternelle majeure y compris dans sa dimension de faiblesse qui est dans ce bouquin et qui est le directeur de l'école que cet enfant fréquente qui s'appelle Dumbledore et Dumbledore dit Harry Potter quelque chose de majeur il lui dit n'utilise jamais une magie que tu ne comprends pas et j'avoue que cette affaire de boîte noire me fait beaucoup penser à ça pardon si la référence vous paraît vous paraît discutable bien qu'en terme de littérature jeunesse c'est un ouvrage qui a beaucoup qui a beaucoup de de qualité pour conclure parce que j'ai sans doute été trop longue et je vous prie de m'en excuser mais je voulais vraiment qu'on puisse vous faire part de là où on en était de notre réflexion de notre vision que j'espère quand même un peu fine parce que je pense qu'on a beaucoup travaillé et qu'on essaie d'avoir des opinions qui sont assises et construites sur sur des arguments c'est pour cette raison là qu'un peu presque en désespoir de cause on a proposé à l'Assemblée mais nous n'avons pas réussi à emporter l'adhésion peut-être un moratoire autour de ce sujet qu'on prenne le temps de réfléchir et qu'on permette à l'Union européenne aussi qui elle mène une réflexion plus profonde je sais pas mais en tout cas plus ancienne que le Parlement français l'Assemblée nationale pardon française sur ce sujet donc c'est pour ça aussi qu'on a évoqué cette notion de moratoire et qu'on a évoqué aussi mais peut-être le terme est-il discutable le fait de mettre en œuvre à l'image des lois bioéthiques une sorte de cadre techno éthique bon il faut voir plus précisément sans doute ce qui se cache derrière c'est ce qu'on met derrière cette notion de techno éthique mais je veux évidemment m'arrêter immédiatement et donner la parole à Hugo s'il le souhaite à nos invités tu aurais pu compléter voir contredire parce qu'il y a des choses que j'ai dites d'entrée qui est la vidéo surveillance algorithmique donc on va parler mais moi ce qui m'intéresse c'est vraiment le l'usage algorithmique dont tout un tas de domaines différents est-ce qu'il est inoffensif dans certains domaines par exemple utile ou en matière de détection de la fraude fiscale le data mining est un gros machin qui est utilisé par la Direction générale des finances publiques depuis maintenant une dizaine d'années avec des résultats en demi-tente voilà qu'est-ce que ça comme impact sur les administrations sur les comportements humains en tant que tel et quels sont les enjeux qui sont qui sont derrière ça pas juste en matière de sécurité même si c'est là nous intéresse d'abord qui a déjà été très bien présenté c'est qu'on est on est comment amené à se poser la question de l'avantage sociétal de l'intelligence artificielle parce que on a des raisons de craindre qu'on entre là dans une logique de prêt-à-penser prêt-à-oreille à savoir qui détourne finalement les jeunes les enfants les écoliers les lycéens de de l'effort de s'approprier la connaissance par le raisonnement et à la fin on perd et la connaissance qui nous appartient plus puisqu'elle est prédigérée elle est préconçue et l'intelligence qui a permis de cheminer dans la réflexion donc voilà juste pour compléter ce qui moi me semble également un des potentiels dangers des outils d'intelligence artificielle on sait qu'aujourd'hui d'ailleurs on a des universitaires qui observent que leurs élèves ont de plus en plus souvent recours tchat GPT par exemple pour constituer des parts importantes de leur mémoire ou de leur thèse et c'est à ce point détectable en raison de la perfection en quelque sorte de de la formulation que ces mêmes élèves sont obligés d'inscrire des fautes d'orthographe volontaire pour dissuader le professeur de d'identifier une origine d'intelligence artificielle voilà pour le petit côté humoristique mais bien vous voulez commencer vous souhaitez commencer alors moi je sème toujours la pagaille c'est un principe Alexis mais est-ce que juste de manière à pas trop vous déranger parce qu'en plus on fait un peu de bruit et tout Alain que nous avons suivi un reportage peut apparaître pas trop tard dans les intervenants [Musique] on fait comme ça on fait comme ça c'était moi je crois parce qu'il y avait cette idée d'avoir une vision internationale et merci beaucoup pour ces éléments parce qu'il y a beaucoup de choses qui ont été dites pas trop pas trop répété mais l'idée c'était de pouvoir effectivement en premier lieu parler des enjeux droits humains de Lia on regarde du droit international donc il y a beaucoup de choses finalement qui sont déjà été dites donc pour ne pas répéter simplement rappeler en préalable que des organisations internationales et des institutions internationales ont déjà souligné à de multiples reprises en réalité les les enjeux et les risques de liés en matière de droits humains et je pense notamment à l'Assemblée générale des Nations unies qui tous les deux ans travaillent sur cette résolution vie privée à l'ère du numérique qui qui très clairement reconnaît l'impact potentiellement néfaste sur les droits humains en l'absence de garantie réglementaire technique juridique et éthique donc on part pas de rien aussi au niveau international en termes de positionnement des institutions internationales mais c'est assez compliqué de parler largement de l'IA parce qu'effectivement ça touche à tous les deux semaines et ça touche à tous les droits fondamentaux donc du point de vue d'Amnesty International on a un peu resserré sur certaines technologies qui étaient parmi les plus problématiques ça veut pas dire que d'autres n'auront pas des effets ou des impacts potentiellement néfastes donc c'est vrai qu'on s'est beaucoup concentré sur les technologies qui permettent de surveiller d'identifier de cibler des personnes notamment dans l'espace public et sur les grandes catégories de droits qui sont consacrés et garanties par les la plupart des textes au regard du droit international on va retrouver des choses que vous avez déjà mentionnées sur le droit à la vie privée évidemment comme un enjeu essentiel sur les libertés fondamentales encore d'expression de réunions pacifiques et on y viendra peut-être j'avais pas forcément prévu parler de ça mais au regard de ce que vous avez dit sur la liberté d'opinion et l'impact aussi sur la capacité de se forger des opinions éclairés et potentiellement effectivement le l'impact sur des élections sur les jeunes également c'est des choses qu'on a qu'on a pu documenter et donc effectivement au regard du droit international si on prend ces c'est déjà ces trois bloc sur la vie privée le droit international garantit la protection de droit à la privée et que tout ingérence dans ce droit et forcément donc légal prévu par la loi mais aussi nécessaire et proportionné à l'objectif recherché et c'est là qu'il enjeu parce qu'il appartient en législateur et on l'a vu pour le coup dans les débats concernant la loi Jo mais peut-être qu'on aura l'occasion d'y revenir que cette démonstration là de la nécessité est rarement fait en réalité souvent on confond la nécessité de garantir la sécurité avec la nécessité de recourir à ce type de technologie pour le faire et c'est là tout l'enjeu parce que des moyens moins attentats aux libertés il en existerait mais il y a cette croyance cette fois dans l'effet nécessairement vertueux des technologies qui permettent un peu parfois par facilité de répondre un peu à tous les problèmes qui peuvent se poser et c'est le cas évidemment pour les technologies de vidéo surveillance algorithmique s'il vous plaît avec les technologies les logiciels intelligence artificielle c'est le cas pour les technologies de reconnaissance biométrique à distance avec la reconnaissance faciale par exemple lors d'événements manifestation ou autre et tout cela a aussi un impact évidemment sur les libertés ça a été dit et au regard du droit international encore il y a 2 aspects il y a à la fois cette émission cette restriction abusive des libertés d'expression de réunions pacifique ou d'associations qui là encore doivent répondre aux critères de nécessité de proportionnalité c'est pas nodun que ces critères ont été posés ce sont des critères strictes et sans cette démonstration la restriction est-il légale mais il y a aussi cet effet dissuasif on a pu le dire et le redire on agit pas pareil on se comporte pas pareil quand on se sait se pense au même service ce sang observer et surveiller et donc ça peut avoir un impact sur l'exercice de nos droits fondamentaux on peut y réfléchir à deux fois avant d'exprimer une opinion critique on peut réfléchir à deux fois avant d'aller en manifestation et tout cela est effectivement intrinsèquement lié et donc cette ingérence injustifiée dans le droit de la vie privée va impacter toute une série d'autres droits et évidemment ça a été dit aussi les aspects de discrimination qui interviennent à plusieurs titres vous avez mentionné les billets discriminatoires dans la conception même de ces technologies qui vont emporter encoder des biais discriminatoires humains mais dans la manière après dont ils sont ces outils utilisés pour potentiellement cibler tel ou telle catégorie de personnes sur la base de données biométriques qui sont censés être protégés et là on voit encore que ce sont souvent malheureusement les personnes qui font déjà l'objet de discrimination qui sont déjà les plus stigmatisés qui vont être ciblés ça vient renforcer des avantages sociaux existants donc on a au sein d'Amnesty International c'est de documenter et ça c'est compliqué en fait pas de documenter l'impact sur trois humains parce que dans le discours on le comprend logiquement on comprend cette cette impact disproportionné ce manquement à la à la démonstration alors on a on a mené plusieurs recherches encore une fois au niveau international on a essayé de se pencher sur différents aspects on a tout un volet d'une campagne sur la reconnaissance faciale qui a documenté comment l'utilisation de ces outils à New York précisément venez amplifier les billets racistes de la police new-yorkaise on a pu le documenter voilà de plusieurs manières à la fois dans la le déploiement de l'infrastructure en elle-même parce que ce sont les quartiers majoritairement population non blanche qui vont voir se déployer c'est ces technologies là en tout cas c'est c'est l'infrastructure de surveillance qui sont déjà les quartiers où il y a le plus de fouilles de contrôle d'identité et donc infini ce sont essentiellement les personnes noires les communautés latina qui vont être impactées par cette reconnaissance faciale et cette surveillance qui par définition ne sera jamais proportionnée on a plus documenter ça on a plus documenter très récemment pour aller dans une autre région du monde l'utilisation de la reconnaissance faciale par les autorités israéliennes qui vient renforcer le système d'apartheid dans les territoires palestiniens occupés on a montré comment à Hébron ou à Jérusalem Est les caméras de vidéosurveillance finalement était ordonné le ou en tout cas impliqué des des restrictions dans les déplacements des Palestiniens des Palestiniennes c'était ses caméras et 7 technologies qui pouvaient déterminer si oui ou non la personne pouvait passer le checkpoint c'est ses caméras qui vont une à deux caméras tous les 5 mètres à Jérusalem S qui va pouvoir effectivement surveiller contrôler la population et notamment dans les lieux de rassemblement les lieux de mobilisation là où les personnes ont l'habitude de se rassembler pour se mobiliser pour leurs droit donc tout ce système finalement certes c'est un outil mais c'est un outil qui plaçait entre les mains d'un régime qui qui souhaite contrôler et maintenir nos pression et domination sur une partie de la population extrêmement dangereuse et effectivement c'est beaucoup plus facile aujourd'hui avec ces technologies pour les autorités israéliennes de renforcer ce système d'apartheid et puis alors je le mentionne ici parce que vous avez parlé aussi de ces enjeux liés à la liberté d'opinion difficile très difficile en réalité à démontrer aussi alors sur ce sujet là on a pu aussi enquêter par exemple sur la responsabilité de facebook devenu méta et des algorithmes de recommandation qui effectivement vont recommander et vont en fait façonner notre vie en ligne et tous les contenus qu'on voit sont déterminés par cet algorithme mais on a pu documenter la responsabilité la responsabilité de Facebook dans le nett des techniques d'héroïne gars au mielmar en montrant en comment dans les mois et les années qui ont précédé les atrocités de 2017 en réalité les messages de haine ont été amplifiés par les algorithmes de Facebook sur sur des mois et des années donc et amplifié les appels à la haine à la discrimination et finalement on contribue à l'émergence de violence dans le monde réel le monde physique et là encore on regarde du droit international et des responsabilités très claires vis-à-vis des entreprises qui se rendent complices de ce genre de violation de droits humains donc je dirais la difficulté elle est aussi de pouvoir documenter les violations parce que effectivement par définition ce sont des des entreprises pas très transparentes le secteur de la surveillance reste un secteur opaque quand il s'agit de demander des comptes ont il s'agit de demander de des obligations de redevabilité de transparence c'est beaucoup plus dur le secteur est éminemment concurrentiel en plein essor et aujourd'hui on nous sort beaucoup et j'en viens à la place de la France qui était le dernier point que je devais aborder mais je crois qu'il va être très largement abordé après donc je vais pas trop déborder mais on nous sort beaucoup l'argument les arguments donc sécurité d'un côté on a besoin de ces technologies pour lutter contre la criminalité et lutter contre le terrorisme encore une fois sans autre forme de démonstration et puis l'argument les arguments économiques qui qui veulent que sinon on le fait pas de toute façon d'autres le front et puis ne vaut-il pas mieux une entreprise française finalement qui développe ces logiciels plutôt qu'une entreprise chimia chinoise ou autre ça dit en passant on a aussi documenté il y a quelques années le fait que des entreprises enfin une entreprise française avait pu exporter ces technologies de reconnaissance faciale il est bien pour ne pas la citer à la Chine directement aux autorités chinoises chargées de la sécurité et notamment de la surveillance des populations ouibours donc voilà on peut aussi se poser la question de la peut-être le discours et les parents et les actes voilà donc peut-être qu'on y reviendra aussi après sur la place de la France bonne élève ou mauvais élève en ce qui concerne la loi Jo on a tendance à dire plutôt très mauvais élève puisque première est un membre de l'UE a créé une base légale pour la vidéo surveillance algorithmique mais à d'autres égards également et puis et puis voilà de pouvoir effectivement avoir un temps de débat et merci de d'avoir organisé cet échange parce que ce débat est souvent confisqué la procédure accélérée sur la loi Jo ou d'autres projets de loi voilà dès lors alors même alors même qu'il s'agit de ton nom souvent dans notre rapport d'archéologie dans dans la manière dont la place et le rôle qu'on l'a accordera dans dans nos sociétés pour pour le futur donc j'en arrête là mais mais peut-être qu'on pourra aussi creuser l'angle de ces aspects pour laisser la parole aux autres intervenants merci je crois que c'est l'Europe après si j'ai bien compris je pense même plus je pense que lia les IA les systèmes d'IA ont besoin d'un avocat car si vous avez complètement raison sur les angoisses les appréhensions les tendances on est loin me semble-t-il des questions fondamentales qui se posent et que le Parlement européen a voulu commencer à résoudre vous indiquer que pour moi et je vais mettre en perspective tout l'apport du Parlement et de la Commission sur ce domaine-là et notamment la porte du parlons qui a été majeur dans l'évolution du texte c'est que les IA sont neutres technologiquement complètement neutre technologique les dérives sont humaines et non pas artificielles et les gains de l'IA sont majeurs au regard des défaits économiques et politiques et je vous propose de cheminer à travers cette ligne directrice en ayant comme enjeu les apports que le Parlement français pourra peut-être ajouter un fléchir par rapport au travail extrêmement important fait par les parlementaires européens 4 éléments de réflexion les enjeux c'est régulations contre innovations et ce qui est sûr c'est qu'aujourd'hui la régulation est nécessaire je ne crois pas un moratoire j'ai pris une position contraire mais je crois la nécessité d'une régulation maintenant pourquoi parce que les systèmes d'intelligence artificielle sont sorties des laboratoires et ont envahi les juridictions bien évidemment mais aussi les usines les entreprises et même nos domicile alors quel est le défi mais des filles c'est faut-il avoir une réglementation sur lia elle existe dans le monde plus d'une centaine de réglementations elle existe déjà dès la loi de 78 sur l'article 10 aujourd'hui le règlement général pour la protection des données personnelles article 22 lia et déjà un outil de droit mais la question que pose des parlementaires et la commission c'est faut-il continuer à faire des réglementations verticales il y a un droit des drones intelligents il y a un droit des robots intelligents il y a un droit des navires intelligent il y a un droit même de la justice électronique avec des algorithmes tant en France qu'aux États-Unis et l'approche des parlementaires et de la commission c'est de passer d'une réglementation verticale à une alimentation horizontale vrai pour tous les systèmes et ça c'est vraiment une très grande avancée de l'Europe dernier élément au-delà de toutes les dérives mais qui sont humaines qui n'ont rien à voir avec l'intelligence artificielle pour moi l'enjeu c'est la mixité comment vivre avec les intelligences artificielles et comment surtout réduire la fracture intelligente après la fracture informatique à la fracture digitale l'enjeu c'est bien l'IA pour tous et pas il y a interdit il faudra bien évidemment je ne nie pas les dérives mais ce n'est pas l'enjeu alors une définition parce que mettons-nous bien d'accord quand même sur une définition peux-tu me donner la définition de Lia peux-tu me donner la définition de Lia je crois que je ne suis pas voilà où on en est maintenant peux-tu me donner la définition de l'intelligence artificielle l'intelligence artificielle est un système basé sur une machine qui est pour fonctionner avec différents niveaux d'autonomie et qui peut générer des prédictions des recommandations deux règles autonomie et prédictions ce qui est un enjeu plus que les dérives d'utilisation par les humains contre les humains c'est l'autonomie de ces systèmes c'est-à-dire la capacité d'apprendre intelligence c'est apprendre et dans le cas du projet du Parlement je voudrais vous donner très rapidement et pour vous dire qu'il y a énormément de choses à ajouter bien sûr les principes de la régulation tels que le Parlement européen le retient et la Commission et l'organisation de la régulation ce qui est intéressant c'est que c'est la première fois malgré le risque que la technologie neutre c'est de penser qu'elle est tellement grave en termes de dérives qui va falloir la soumettre cette technologie non pas aux règles uniquement techniques pilotage par les risques en matière de sécurité par les risques en matière de santé mais pilotage par les risques en matière des droits fondamentaux tels que la baie présentée la Commission et le Parlement a rajouté les risques liés à l'état de droit les risques liés à la démocratie et les risques liés à l'environnement ainsi il y a se trouve déjà si ce texte passe dans une enveloppe dans une enveloppe qui est quoi c'est que la technologie doit obéir ou alors l'ensemble des règles auxquelles les humains doivent obéir et c'est ça la règle et c'est ça l'enjeu pourquoi parce que c'est pas la dérive qui est la question c'est l'autonomie de lire deuxième élément c'est d'avoir un système en Europe d'une organisation des intelligences artificielles en cas de catégorie les intelligences artificielles interdites parce qu'elles sont contraires à l'achat des droits fondamentaux à l'article premier qu'est la dignité les IA qui ne sont pas interdites mais qui sont à haut risque sur lequel vous consacrerai un paragraphe particulier qu'est-ce que les intelligences Fabrice je vous rappelle que différence avec les automates elles sont autonomes elles apprennent deuxia dans deux espaces différents auront des comportements totalement différents la mienne ici qui est ok Google retravailler à travers le droit de l'IA et bien elle m'est propre bien évidemment et elle a des miens peut-être ceux des autres dont j'ai pas réussi à les enlever donc des Y a interdites les iaorisk les IA transparence l'enjeu c'est le test de Turing il est important de savoir que je suis en phase une intelligence artificielle et non pas en face d'un humain c'est pour moi la question fondamentale et puis les IA qui sont effectivement exclus comme aisia militaires mais au-delà du pilotage par les risques et par les valeurs la vraie règle c'est comment lutter contre la fracture intelligente comment éviter l'esclavage technologique comment éviter la domination de ceux qui auront comme moi par exemple une intelligence artificielle à tout moment parce que je peux lui poser encore plein d'autres questions sur les modèles de base sur l'article 5 parce que je l'ai oublié je peux lui poser la question pas le faire maintenant c'est pas utile mais si je lui demande peux-tu me donner effectivement la liste des systèmes interdits alors moi je les connais les systèmes interdit c'est ceux qui sont trahi en dessous du seuil de conscience oui mais alors une intelligence artificielle qui est autonome qui ne doit pas travailler en dessous du seuil de conscience elle qui n'a pas conscience comment fait-elle c'est cela les vrais dangers les dangers n’est pas un comportement anormal de certains humains les dangers c'est la capacité d'autonomie et de contrôler et l'enjeu juridique il est là comment on fait des IA autonomes des USA un visage humain le deuxième élément que je voulais vous indiquer c'était les notations sociales on peut discuter sur la notation sociale mais c'est un vrai enjeu politique le troisième c'est de pas utiliser les IA face à des personnes vulnérables c’était évident et enfin c'est la reconnaissance biométrique à distance en temps réel encore que la reconnaissance du métrique en temps réel est intéressante à trouver entre technologies et politiques un écart regardez ce qu'on a fait sur la vidéoprotection les obligations de sûreté étaient tellement importantes en matière de vidéoprotection peut y trouver un point d'équilibre entre 3 la vie privée article 7 des droits fondamentaux le droit à la sécurité et le droit à la dignité alors qu'est-ce qu'on a fait bah on l'a considéré que si chacun était dehors en anonymat il faut aller trouver un point d'équilibre et ce point d'équilibre c'est à moi peut-être que le délai était un peu trop long que si la victime n'apparaît pas dans moi alors on supprime on supprime effectivement la preuve c'est vers ces éléments là ce qui est important c'est de ne pas regarder me semble-t-il ce que peuvent faire les humains avec Léa full interdire et puis bref c'est comment inventer de nouveaux droits au service des biens communs et au service de l'humanité deuxième chose que je faisais sur l'organisation de la régulation et encore un gros travail sur l'organisation de la régulation sur les systèmes à risque parce que le gain il est majeur il faut trouver un centre de gravité entre liberté sécurité dignité mais l'apport pour la société de ces systèmes d'intelligence artificielle en justice je travaille j'utilise moi Zia au quotidien dans mon métier d'avocat en médecine en construction en matière de pilotage d'avion de voiture et voiture autonome c'est sûrement la certitude de baisser le nombre de morts en conséquence de cette niveau-là la question qui se pose c'est quelle régulation et la régulation c'est clair c'est trouver d'abord que tout le monde puisse utiliser l'IA que Léa devienne un bien commun un droit à la mixité et pas droit à l'interdit un droit au partage des connaissances et non pas un droit à la réduction des connaissances et avant de brider l'innovation je pense que ce qui est important c'est de la mettre à disposition de tous avec une démarche de bien commun bien sûr qu'il faudra faire des interdits dans les données au moins 5 j'en ai bien d'autres que j'ai en tête et peut-être que ben non bien évidemment français aura des choses à dire sur les autres interdits mais c'est dans les permis qu'il faut aujourd'hui réguler en disant par exemple que ce qui est vrai dans le monde réel doit être aussi vrai dans le monde de la 19ème siècle et ce qui est interdit dans le monde réel doit être interdit dans le monde intelligence artificielle il y a avant d'interdire un bar extrêmement important pour construire nouvelle ses nouvelles intelligences et pour ne pas aller trop loin c'est vrai que le règlement a mis en place un comité européen bien sûr il a mis en place aussi des compétences locales pourquoi pas la CNIL qui a montré effectivement une compétence certaine en ce domaine c'est une expérience depuis des années mais aussi d'autres organisations qui pourraient je dirais avoir le pouvoir notamment le Parlement par sa capacité à suivre ce qui va se passer à dire mais ok sur le papier sur le papier de créer des droits même si on ne peut pas les mettre en oeuvre tout de suite il y aura bien des gens qui essaieront de plaider pour eux elle est défend j'aurais conclure pour pas être trop loin vous avez compris que c'est plutôt un plaidoyer pour l'intelligence artificielle a réguler à réguler plutôt qu'à interdire à réguler plutôt que interdire mais regardez la France a été à exporter le terme n'est pas très joli mais à permettre aux droits de l'homme de se développer dans le monde entier la loi informatique et liberté c'est 70% du règlement général sur la protection des données personnelles c'est les droits de l'homme numérique et je crois que notre façon de travailler au droit la façon dont nous approchons les libertés fondamentales plutôt qu'au date et à dire examinons tous ensemble comment réguler une intelligence artificielle qui devient demain une intelligence artificielle mondiale humaniste et partager par l'ensemble des terriens on peut rêver bienvenue lisière alors du coup je vais enchaîné aussi sur le règlement européen la proposition de la Commission sur les sujets spécifiques de de traitement de données biométrique puisqu'il y a une tension qu'on voit vraiment entre entre la France et l'Europe alors ça a été dit le règlement européen c'est surtout un composition de régulation et nous très vite on a on a vu les limites de cette proposition en terme de données personnelles parce qu'on a les changer de paradigme avec ce fameux rgpd et surtout ça le texte parallèle qui va directif police un peu ça cousine en matière de d'enquête et de et de police parce que le rgpd la justice et des grands principes généraux fourni sur la proportionnalité alors qu'avec le règlement sur l'intelligence artificielle on passe voilà une appréciation ça a été dit en fonction des risques et du coup de prendre les technologies dans leurs ensembles et donc ça voudrait dire que des technologies en tout cas des photos des cas particuliers qui passeraient pas le test de proportionnalité du règlement du rgbd de la directive police serait autorisé au contraire avec cette approche sectorielle à risque et du coup nous et d'ailleurs toutes les associations européenne à les critiqué à cette approche qui pensait plus en termes régulation économique par secteur que de protection des des droits humains et l'exemple de traitement de données biométrique et hyper parlant puisque dans le rgpd et la directive ils sont interdits par principe il y a des exceptions il y a très peu d'exécutions en matière politique d'ailleurs il y en a genre 3 alors que si on prend le règlement sur l'intelligence artificielle il y a quasiment tout est autorisé pardon on peut parler donc dans dans le règlement prévoit la catégorisation biométrique qui est à haut risque la reconnaissance des émotions qu'il y a au risque la reconnaissance faciale en temps réelle et a posteriori qui est à haut risque sauf pour l'État qui est potentiellement interdit par ce fameux article 5 qui pose les lignes rouges de qu'est-ce qu'on veut dans l'Union européenne ou non sauf qu'il y a tellement d'exceptions à cette interdiction qu'en fait elle est elle est autorisée donc on pourrait se dire pourquoi pourquoi interdire c'est la question qui a été posée à main droite interdire et c'est parce que justement là où je suis absolument pas d'accord avec mon voisin c'est que des technologies sont potentiellement dangereuses surtout quand on les donne à l'état et donc donner des technologies de contrôle de reconnaissance ça doit forcément être pensé en termes de où sont la limite et je pense que l'histoire récente et pas que nous montre qu'effectivement il y a des il y a des choses qui ne peuvent pas être donné à l'état et en ce sens là déjà des technologies sont pas neutres dans leur dans leur application et donc cette question de ligne rouge est intéressante et nous à la quadrature c'est vraiment le seul angle de ce règlement sur lequel on a travaillé c'est essayer du coup de faire passer toutes les technologies qui sont interdites dans leur GPD dans cette dans cet article 5 et c'est un peu la bataille qui s'est menée au Parlement puisque la proposition de la Commission était vraiment pas bonne et il se passait une dynamique assez intéressante au Parlement européen où il y avait une proposition de résolution déjà des euros députés sur sur l'interdictionnaire reconnaissance sociale donc elle va énormément de valeur mais qui montrait déjà le début d'une dynamique il y a nos partenaires de du réseau edri qui ont lancé une campagne qui s'appelle clear face pour que les personnes se mobilisent une pétition européenne sur la question de la reconnaissance sociale donc il y avait quand même cette dynamique et voilà c'est le Parlement c'est quand même l'expression de la démocratie donc aujourd'hui c'est vraiment là dessus que les que les efforts sont mis et avec donc l'idée de danser les interdictions de mettre la reconnaissance faciale sans aucune exception à posteriori en temps réel que ce soit par dans l'espace public ou non la catégorisation biométrique la reconnaissance des émotions et il y avait quand même une grande absente de cette de ce texte c'est la reconnaissance de comportement en France qu'on peut faire rentrer dans la catégorisation biométrique dans la reconnaissance des émotions mais qui effectivement était pas dans la proposition et qui a pas tellement été ajouté là à l'heure actuelle dans la décision de Parlement et ce qui s'explique par le fait que en fait c'est cette vidéo sur un algorithmique qui propose la reconnaissance de comportement et très française dans le sens où c'est un marché très français ces applications où nous on a eu la loi Jo on a plus documenter ces dernières années il y a beaucoup de villes de France qui qui font ça mais quand on parle avec nos homologues européens ils sont beaucoup alors travaillent aussi là dessus mais c'est vrai que c'est la reconnaissance faciale en objectif prioritaire ce qui se comprend mais en fait il y a vraiment une stratégie aussi et un effet de minimisation de ce qu'est la vidéo suivante et donc ça a été dit en introduction pour nous c'est vraiment tout aussi grave que la rencontre spatiale c'est un projet un outil vraiment de contrôle et de discrimination et un projet de qu'est-ce que l'espace public en fait où ça ne serait que des flux avec des anomalies à détecter et qui portent en soi vraiment une un projet de contrôle et à nouveau en fait les les la manière dont c'est fabriqué et aussi l'application qui en fait et politique et c'est en ça que les technologies ne sont jamais neutres il y a il y a vraiment cette question là donc on a beaucoup beaucoup parlé ces derniers mois avec la loi sur les jeux olympiques et donc vous pour revenir au contexte au contexte européen il y avait donc ce règlement sur l'intelligence artificielle est vraiment on voit que la France a fait bon à part en fonçant sur la pour légaliser la vidéo sur et comme je disais parce que à ce contexte économique politique français ou énormément d'entreprises demandaient une loi énormément de villes avait commencé à mettre ces technologies en place il y a dans lesquels sur la légalité et nous c'est la discussion c'est la position qu'on a qu'on a tenu et à nouveau c'est pour revenir à ce que je disais au début on se on fondait l'illégalité sur le rgpd la directive police qui sont des bons textes qui sont des textes protecteur et où le règlement sur l'intelligence artificielle nous on pense que c'est ça va affaiblir la protection des droits fondamentaux d'où cette idée de vraiment mettre la ligne rouge hyper haute pour regarder le même niveau de protection et ce qui interdit dans le rgpd doit rester interdit dans le règlement sur l'intelligence artificielle donc alors qu'il y a ce débats qui ont lieu depuis maintenant deux ans la France a donc ce que je les ai fait bon à part à passer cette loi faut savoir quand même que tous les yeux sont obligés sur la France en tout cas des autres associations qui sont qu'est-ce qui se passe parce que il y a ce précédent aussi la position de la France dans les institutions européennes la France qui a présidé le conseil l'année dernière alors la position du Conseil est toujours été prise sur la présidence de la République tchèque mais qui était pas non plus très bonne sur les questions de technologie biométrique et aussi la France dans les dans le Parlement européen où on savait que les euros députés rignaux notamment et de droite sont vraiment pas ceux qui vont pousser pour pour le plus de protection de la liberté quand en fait et aussi au sein du Conseil aujourd'hui avec l'Espagne et l'Italie pousse pour le plus exception qu'on sait qu'il y a un autre dynamique notamment portée par l'Allemagne et d'autres pays pour pour mettre des interdictions de reconnaissance faciale et donc prendre la mesure de qu'est-ce qu'une technologie peut potentiellement faire quel dommage elle porte en elle si on la donne entre de mauvaises mains même si en fait potentiellement un état à des applications forcément oppressives et ça je pense j'y pense le les drones sont un bon exemple nous on pense que la les technologies de surveillance c'est souvent quasiment systématiquement utiliser contre les personnes enfin les minorités les personnes précaires les personnes plutôt dans un rapport de force faible et les drones ça fait un mois que ça existe enfin ça existe c'était déjà un mois que la légalisation a été lancée c'est utiliser principalement manifestation donc les personnes militantes la préfecture des Alpes-Maritimes la mise en frontières la frontière italienne donc les personnes ignorantes et c'est utilisé dans les quartiers populaires pour lutter contre l'euro 20 ou je ne sais plus ce qu'elle a ce qu'elle a le prétexte mais voilà donc les les personnes étrangères les personnes militantes les personnes précaires c'est toujours des populations faibles qui sont la cible de surveillance et donc donner une nouvelle technologie à l'état on sait que si aujourd'hui on nous parle de colis abandonné demain ce sera nécessairement appliquer dans ce rapport de force là donc on peut on peut faire le choix politique de ne jamais lui donner et du coup du coup aujourd'hui on attend on a avancé dans les dans les discussions au niveau européen puisque la les commissions c'est le règlement sur l'intelligence artificielle il y a deux commissions qui sont saisies a rendu sa position il y a trois semaines et un vote en plénière la semaine prochaine et pour le coup c'est plutôt bon signe sur ces fameuses lignes rouges où la plupart des technologies biométriques sont dans les interdictions sauf la reconnaissance des comportements mais qui a priori va arriver en plénière mais c'est vrai que c'est le c'est le petit hic après voilà ça peut rentrer dans la catégorisation biométrique la reconnaissance des émotions mais il y a ce travail à faire et en fait au niveau de la France qui a fait son [Musique] ce texte loi JO de son côté ça pourrait être en fait d'une manière de stopper la sévérité là même si après la imaginons que la le vote en plénière soit aille dans les bonnes la bonne direction il va y avoir les trilogues qui vont durer qui peuvent durer 6 mois comme ils peuvent durer 5 ans avec comme on l'a dit la France qui assume totalement de pousser pour le vraiment le plus d'exception en tout cas le moins d'interdictions ça des interdictions pour qu'il y ait plus exceptions possibles [Musique] dans ces dans ces interdictions donc ça peut être un combat un combat de longue haleine après la question de l'opposition notamment l'opposition de la société civile on voit on voit qu'elle est là on voit qu'il y a quand même que ces technologies sont remportent pas l'adhésion on voit quand même qu'il y a un questionnement de cette de cette croyance sur technologie et de sécurité qui qui arrive et qui est bien présent on l'a vu avec le débat sur la loi JD il y a quand même une mise en lumière de comment fonctionne ces technologies à une volonté de comprendre en fait que cette vidéo sur Instagram n'hésitez pas à une baguette magique que la technologie on l'a dit c'est impliqué des choix des préjugés des applications du coup nous on pense que tout n'est pas perdu mais clairement en tout cas le ce qui peut ce qui peut rétablir l'équilibre aujourd'hui pour la France c'est l'Union européenne et clairement même si je sais que voilà il y a eu les débats mais au vu des la composition des deux chambres et des rapports de force c'est compliqué et au vu surtout du projet politique de du gouvernement et de la majorité de d'utiliser ces technologies qui est poussée ici et en Europe les relais et les soutiens devant des autres pays et des autres des autres députés clairement et donc à suivre ce qui se passe la semaine prochaine et dans les mois dans les mois à venir sur les questions de technologie géométriques voilà petite question c'est que comment nous parlementaires on peut arriver à créer une synergie de discussion avec nos autres collègues députés quand finalement on s'entend dire très facilement par tous tous les camps de la droite un petit peu autoritaire que celui qui n'a rien à se reprocher n'a rien à craindre d'exposer ces données personnelles ou sa vie privée voyez un petit peu ce à quoi on nous on a été confronté pendant l'étude des textes Jo 2024 c'est à dire qu'on a regardé presque avec les yeux en disant mais finalement toute personne étant dans dans une démarche honnête n'a absolument rien à craindre d'être exhibé sur auprès de système qui finalement vocation à rester enfermé dans des boîtes c'est à dire entre les mains d'entreprise bien souvent privées d'ailleurs puisqu'il y a ensuite la question de la privatisation de la détention de ces bases de données de ces données pluviométrique par exemple donc nous on a un travail difficile à faire comprendre que tel comportement qui aujourd'hui est toléré accepté ou considéré comme honnête demain avec un autre type de régime tout à fait basculer dans un comportement nécessitant une forme de répression et à ce moment-là il sera bien trop tard pour aller dénoncer la centaine de caméras qui font le tour de cette rue dans laquelle on se trouve vous voyez ça c'est et puis ça me fait penser à la question du Panoptique qui était cette utopie carcérale qui voulait se monter en modèle de société ou finalement voir sans être vu pour les gardiens de la prison c'est finalement un espèce d'idéal de de de maintien de la discipline de l'ordre donc on a un effet panoptique avec tous ses yeux qui nous regardent dont on sait pas qui est de l'autre côté de l'oeil et qu'est-ce qui est fait des informations que l'oeil s'approprie maintenant avec des moyens de pas non plus sophistiqué puisque vous parliez tout à l'heure par exemple des de systèmes qui sont capables de détecter des émotions grâce à des capteurs de température d'activités cérébrales un peu comme de l'IRM en quelque sorte ou bon on voit qu'il y a quand même voilà un certain nombre de problématiques et ça va être difficile d'expliquer parce que les gens ils ont pas ils ont de la pétanque pour utiliser les outils mais pas pour comprendre comment ils fonctionnent donc nous on va avoir besoin de de faire oeuvre de pédagogie même si c'est un mot un peu infantilisant pour ceux à qui nous s'adressent mais malgré tout ça va être difficile ce n'est pas en commission des lois qui est en commission mais quelque part ça m'intéresse beaucoup l'intelligence est à morale et la technologie est neutre ça c'est la seule fois sur lequel je voudrais le réseau si vous prenez effectivement un marteau soit vous faites de la charpente avec soit vous fracassez un crâne l'usage qui en effet il est bien humain et sur les intelligences artificielles on peut entendre celle qui sont complètement les premières qui ont servi la médecine c'est-à-dire l'apprentissage par des milliers d'images et on reconnaît les mélanomes de manière beaucoup plus efficace que par exemple des gens des dermatologues ça d'accord le problème comme vous l'avez comme vous l'avez dit c'est l'intelligence artificielle qui apprend par elle-même donc par des situations de programmation de d'échec réussite et sur ces intelligences artificielles l'humain qui est le professeur entre guillemets le papa la maman va faire des bières il y a deux billets dans ce type d'intelligence celui qui la probable et celui qui l'utilise donc on arrive sur des billets humains qu'on ne pourra plus contrôler donc le législateurs que nous sommes en fait pour y avoir réfléchi et je pose cette piste je dirais qu'il y a une solution simple et radicale dans tous les procès tout ce qui est production numérique n'a pas de valeur juridique point ça va calmer un peu les esprits et et franchement après l'utilisation qui en effet là on l'a vu pour les JO on a les crédits sociales qui a commandé qui a commencé en Chine et l'utilisation qui va être fait vous le disiez on va constater que c'est sur les opposants politiques on va constater que c'est sur les responsables syndicaux on le sait donc quel que soit le régime de toute façon que vous prendrez il aura ses tendances à vouloir contrôler les peuples donc ça c'est ce que je pose sur la table et ma question est la suivante est-ce que vous pensez que on pourrait arriver à dire que dans n'importe quel procès le numérique n'a aucune valeur juridique ça ça m'intéresse vraiment peut-être du coup si pour prolonger un peu la ce qui a ce qui a été dit tout ce qu'on s'est dit m'inspire trois remarques une première que vous allez sans doute juger anodine voire discutable mais quand même il y a eu un certain nombre d'auditions qui sont des auditions qu'on dit institutionnelles pour préparer l'examen de la loi et donc nous avons pu donc c'est suscité par ceux qui sont les rapporteurs de la loi et donc dans ces auditions institutionnelles on a auditionné un des préfets di interministériels et une petite dame dont j'ai découvert les fonctions ça m'a surpris d'ailleurs qui est donc responsable des libertés publiques au ministère de l'Intérieur et l'un et l'autre on dit que de toute façon aujourd'hui l'enjeu pour la France et pour leur mission c'était d'augmenter l'acceptabilité sociale pour arriver à la reconnaissance faciale ils m'ont dit après on s'éloigne peut-être de ce qu'on essaie là de cerner mais je suis obligé on est d'accord je suis obligé de considérer au nom de quel projet politique on veut développer ça la deuxième c'est que quel que soit la deuxième c'est que quel que soit nos réticences on a bien conscience que là il y a un chant qui quoi qu'il arrive est à investiguer mais on préférerait peut-être que ce soit plutôt la recherche publique même si on sait qu'elle est mauvaise état en France mais admettons qu'elle soit en meilleure état qu'elle est des moyens comme l'acnil quand on lui dit qu'elle pourrait avoir un rôle plus important faut lui donner les moyens pour qu'elle laisse là bref peut-être plus la recherche publique que les industriels tous azimuts qui eux aussi ont pas forcément un projet politique mais à coup sûr un projet commercial qui n'est pas toujours complètement d'ailleurs délié du projet du projet politique la troisième chose que je veux discuter davantage avec vous c'est qu'est-ce qu'apprendre est-ce que apprendre c'est simplement une dimension de neurones qui fonctionne comme des circuits électriques puis ça ça s'allume et ça se ferme si je prenais ça s'allume et ça s'éteint si je prenais l'image de des ampoules je crois qu'elle est vraie sur le plan du fonctionnement de parler juste en tout cas sur le plan du fonctionnement neuronal mais apprendre notre cerveau baigner dans un des fluides dans un liquide qui transmet lui aussi des informations beaucoup plus lentes et qui sont pas d'informations électriques et qui participent du raisonnement l'intelligence et de l'apprentissage exactement c'est là où je vais en venir alors d'une façon peut-être plus simple dans l'apprentissage et je pense que la dimension d'émotion de rapport à l'objet du savoir lui-même à l'objet de la réflexion et existe dans les apprentissages y compris des gosses on le sent bien voir dans nos propres apprentissages à nous pourquoi il y a des choses qu'on arrive qu'on arrive à comprendre beaucoup plus facilement et à manipuler que d'autres il y a priori c'est pas qu'une question déterminer bien là où je veux en venir donc moi c'est quand même cette notion d'apprentissage que que je discute parce que je crois qu'apprendre va au-delà de de cet aspect de truc qui clignote quoi voilà [Musique] vraiment il me semble que vous avez et c'est un outil magnifique l'intelligence artificielle par cette indépendance Saverne un nouvel objet juridique nouvelle espèce moi j'ai défend l'idée il y a personne était juridique desire pour trouver très très loin elle est déjà reconnue en creux elle est déjà reconnue en creux de loin en loi il y a s'installe en creux d'accord pour moi pour moi il n'y a pas de responsabilité mais vous verrez répondre à votre question je crois pas c'est pour ça autorisés le Parlement a pris cette question Parlement européen quelques missions et et on a une super directive qui va avec qui va avec le RSI il y a un projet de directive responsabilité extra contractuelle qui extrêmement bien faite aussi oui parce que je pense que dans tout ce que vous dites c'est juste il n'y a pas une critique enfin moi je me situe pas dans ce champ moi je suis uniquement dans le champ de réflexion qui est on a un nouvel objet juridique à nouveau c'est pas un animal c'est pas un objet un objet qui est capable de battre un humain c'est plus un objet autre chose sur la télé autre chose cette autonomie là elle est à construire elle est à construire certes à certains moments par des interdits par des permis et pas plein d'autres choses l'autonomie des IA elle est autonome par rapport à ce qu'on voulait les humains totalement autonomes c'est pour ça qu'il y a ce mot autonomie dans la définition et c'est cela qui est l'enjeu de la construction du monde de demain c'est comment veut-on construire cette autonomie et pour moi il y a trois réflexions le rgpd oui 1978 ce qui fait de chacun d'entre nous la vraie réponse contre l'État je dis pas qu'il faut pas lutter contre l'État jamais jamais vous ne pourriez pas faire jamais par contre ce qui était important c'est au niveau d'avoir de nouveaux droits qui nous manquent c'est pas les rcpd vous savez bien né avec que nez dans tous ses états en dessous la ligne de flottaison il nous manque un droit fondamental nous humains c'est le droit de propriété sur nos données personnelles qui fait de chacun d'entre nous le possesseur l'archivisme le vendeur peut-être le locataire tout ce que vous voulez mais c'est mon droit mais donner et déjà par rapport à un état le fait de donner un pouvoir en soi-même sur ces données plutôt que d'interdire mon image mon comportement et le problème liberté sécurité dignité la pré enjeu de demain c'est pas d'interdire le numérique mais ces données les droits sur le numériquement ça c'est la première droite fondamentale que l'Alésia devront respecter et quelque part elles devront respecter mes droits fondamentaux dans mon droit de propriété se met dans les personnel avant tout le reste deuxième droit qui interpelle cette IA autonome c'est effectivement le fait que tous ceux qui décident d'utiliser des IA autonomes après une certaine période elles doivent être mis en bien commun c'est quelque part si on veut changer la civilisation qu'elle existe aujourd'hui qu'on donne une prime aux innovants il y a pas à discuter au marché mais que quelque part à partir d'un certain niveau comme endroit la concurrence lorsque l'enjeu mondial ou en tout cas l'enjeu est très large faut prendre les mains que c'est système ils appellent ça des machines ces systèmes qui marchent sur des machines deviennent des biens communs alors c'est intéressant parce que Google des liens communs bien public c'est un peu différent si les biens publics sont pas forcément communs et les biens communs sont pas forcément appropriés par le public c'est au service de l'humanité c'est à dire que quelque part ils ne sont pas au service du marché et vous avez raison je comme vous a pris cette position là sur la charte si je me mets au service de et 3 milliards d'êtres humains en trop 3 milliards donc qui décide que c'est au service de l'humanité pas tout seul alors là le marché est stylée heureusement qu'ils sont là vous ah non la question peut mais c'est vous tous troisièmement je vous donne le troisième élément le troisième élément qui s'intéresse à la spécificité de dire l'autonomie la capacité d'apprentissage c'est-à-dire de faire quelque chose que personne ne lui a appris avant ça c'est vraiment très important aujourd'hui c'est ça l'enjeu je vous donne un mot je vous donne un mot sur sur 10 points et que la filière m'ont rappelé on lui a appris à jouer au jeu de Go et au jeu de goal abattu effectivement le champion champion européen après on lui a on lui a appris l'ensemble des jeux que tout ce qui pouvait exister à la gagner il y a contre le comment dire le champion du monde mais la troisième il y a c'est celle-ci qui est danger c'est celle-ci qui est dans le RSI mon système c'est celle-ci qui est un enjeu de liberté au sens fondamental c'est que la troisième la troisième et on lui a pris que les règles du jeu et donc dans ce qu'on appelle il y a le titre elle a joué contre des milliers de parties et aujourd'hui elle a battu bien évidemment les humains et à l'abattu effectivement la présente hier qui connaissait toute l'histoire de l'humanité sur les jeux de mots l'enjeu de ces Ia qui sont à régler c'est celle-ci c'est important la biométrie bien sûr de toute façon il y a bien longtemps que c'est réglé par la 95 et pas par le rgpd par ailleurs parce que le rgpdc de la rattraper mais il a pas réussi c'est pour ça que ça c'est continué il y aurait d'autres droits sur la vidéoprotection inventée par exemple il y en a un qui manque que droit à la vie privée son joli droit ça n'aura un peu ancien il faut garder il faut garder ces articles 7 droits fondamentaux plus protégé mais ce qui est plus important c'est pas le droit à vie privée aujourd'hui dans le monde aujourd'hui avec plaisir c'est le droit à l'intimité c'est le droit à l'intimité c'est le droit de pas détecter des choses que j'ai enfouis au plus profond de moi-même et que pendant l'ensemble des signaux faibles que j'aimais qu'on peut les voir mais ces droits-là il existe pas c'est eux qui réclament effectivement peut-être un petit peu votre regard plutôt que des interdits et une organisation plutôt que dirait une condamnation et donc voilà les trois droits qui sont à construire dans un monde d'intelligence artificielle qui honnêtement si on regarde l'ensemble des secteurs d'activité sous réserve des attitudes anormales bien sûr ou des dérives voire plus graves on discute pas de ça mais ce que nous devons construire ce que nous pouvons construire c'est une intelligence artificielle humaniste et qu'est-ce que ça veut dire eh bien il faut se poser cette question mais d'abord pour moi c'est la troisième règle qui manque c'est que tout ce qui est interdit aux humains tout ce qui est interdit aux humains dans cette sorte de droit humain à vocation générale doit être interdit Auxia et ça ça me paraît je peux poser le principe vous pouvez poser le principe beaucoup d'humidité doit nous dire que elle fera ce qu'elle veut on peut la mettre sur les normes alors moi je voudrais je voudrais agir sur le droit à la vie privée ce qui répondra peut-être à cette question sur le je n'ai rien à cacher ce qui sera aussi en lien avec le taux d'acceptabilité parce que tout ça effectivement extrêmement libre alors moi je me suis dit dans le choix dans le champ des droits humains effectivement je suis pas d'accord avec ce côté désuet ou dépassé du droit à la vie privée précisément parce que quand on regarde ce qui recouvre le droit à ce que recouvre le droit à la vie privée et c'est aussi une des réponses que parce qu'on a été confronté au même question rien à cacher j'ai rien à me recocher où est le problème globalement c'est un petit peu ça et quand on parle du droit à la vie privée effectivement parce que les pouvoirs publics les autorités publiques nous nous répètent que c'est utile que ça va voilà nous aider à garantir la sécurité le taux d'acceptabilité monte et on se dit finalement ma vie privée comparée à ça etc etc le droit à la vie privée il y a plusieurs composantes c'est au regard du droit international c'est effectivement la protection contre l'immiction arbitraire dans dans sa vie privée mais c'est aussi le contrôle des des données qu'on nous concernant partage des données de concernant et c'est aussi la possibilité de jouir d'un espace pour exprimer son identité personnelle c'est ça aussi et il y a toutes ces dimensions là dans le droit à la vie privée donc cette notion d'intimité que que vous mentionnez de notre point de vue elle est déjà intégrée dans ce droit à la vie privée qui est consacré par le droit international et la question aujourd'hui c'est que les droits existants ne sont pas appliqués et donc les interdictions parler des interdits qu'il faudra probablement effectivement adopter pour un certain nombre de technologies qui posent des risques inacceptables pour les droits humains ce qui est la formulation dans le cadre du règlement UE rien que cette interdiction là ces interdictions là aujourd'hui elles ne sont pas du tout acquises on l'a vu dans le cadre des débats parlementaires au niveau européen et avant avec le Conseil de l'Union européenne il y avait effectivement un certain nombre d'interdictions qui étaient posés avec beaucoup d'exception par les États membres du conseil notamment en ce qui concerne les domaines de l'application des lois du contrôle aux frontières de de la sécurité du maintien de l'ordre qui sont les domaines les plus problématiques en matière de droit divin quand il s'agit d'utiliser ces technologies là au Parlement européen là encore il y a il y a aussi des des interdictions qui ont été posées mais avec toujours un débat sur un posteriori en temps réel alors en temps réel ça a été interdit à posséder sous condition mais l'enjeu il est là et matériaux ils vont en temps réel les problèmes en matière de droits humains se pose donc ces interdits qu'il faut poser aujourd'hui sont pas posés ils sont pas acquis et et il y a un gros risque la semaine prochaine effectivement que tous les acquis du de la décision votée en commission il y a quelques semaines soit des tricoter puisque il y a beaucoup enfin tous les amendements qui va être passé et que effectivement le PPP et d'autres groupes poussent pour avoir un texte moins protecteur des droits humains et au niveau des du Conseil de l'UE aussi donc il y a plusieurs choses il y a il y a des droits qu'il faut défendre qui existent et qui sont déjà suffisamment globalement pour intégrer ces différentes dimensions y compris l'intimité et qui permettent aussi quelque part de faire comprendre que le je n'ai rien à cacher c'est pas simplement voilà garder son petit jardin secret c'est aussi l'expression d'une identité identité personnelle c'est aussi la condition de possibilités d'autres droits quand je disais tout à l'heure on se comporte pas pareil quand on se sait sur verrier même quand on se pense surveiller on en a tous fait l'expérience on parle pas pareil on n'agit pas pareil quand on quand on est seul ou quand on regarde quand on a une caméra fixée sur nous quand voilà c'est humain évidemment on a et pas parce qu'on a quelque chose à se reprocher tout simplement parce que voilà parce qu'on intègre ce regard là quand ma miroir et et évidemment on alterne notre comportement et là où ces problématiques c'est que ça peut aller jusqu'à l'autocensure ça peut aller jusqu'à s'abstenir d'exercer un certain nombre de nos droits fondamentaux par peur d'un jugement parce que on veut pas forcément que qu'on ait cette image de nous etc etc donc le droit à la vie privée le général a caché qu'on a rien à m'encoucher en soi posons-nous la question est-ce que est-ce que est-ce qu'on sera à l'aise avec les en étant suivi en permanence avec une caméra qui nous suit comme ça même les personnes qui n'ont rien à cacher et a fortiori quand en plus ça peut être utilisé de manière abusive par des autorités qui présument d'une intention de commettre des infractions ou vont travers cette analyse de comportement prédictive etc c'est compliqué donc il faut dérouler un peu ce fil et c'est compliqué c'est compliqué parce que justement il y a ce discours ambiant et cette petite musique du on en a besoin c'est important voilà il faut sacrifier une partie de nos libertés pour garantir la sécurité c'est pas si grave et là le taux d'acceptabilité monte et ça ça va de pair plus il monte plus je n'ai rien cacher monte et faut remettre les droits fondamentaux au centre et c'est pas si ça c'est pas si simple parce que il suffit pas de dire il y aura des interdits c'est bon on va interdire les technologies qui sont problématiques parce que même là même là en s'achote même là c'est c'est compliqué de faire passer ses arguments là parce que c'est même contrat argument qu'on arrive à démonter ils sont ils sont reversés dans le débat pour empêcher d'avoir un cas de véritablement protecteur et on tourne en rond donc c'est pour ça que mon appel effectivement à l'interdiction claire en temps réel a postérie à l'interdiction de technologie de reconnaissance faciale à des fins d'identification par les acteurs privés par les acteurs publics des règles harmoniques soient claires pour tout le monde et qui permettent tout simplement de garantir les droits fondamentaux qui nous et qui nous aussi prémunissent de ces abus potentiels qui ne sont peut-être pas là aujourd'hui mais qui pourraient être là demain et une fois que la technologie est en place on pourra plus revenir en arrière et se dire bah oui plutôt de donc c'est c'est tout ce c'est beaucoup plus dur de de de faire cette démonstration là parce que quand on arrive avec cette IA qui fascine voilà on peut parce qu'il y a des usages qui sont pas forcément problématiques en matière de droits humains il y a des usages effectivement dans la médecine ou autre on peut on peut imaginer des finalités qui sont vertueuses qui au contraire vont vers voilà même si là aussi il y a des limites et même servir justement la question de la cohérence entre les informations et c'est pour ça que la plupart l'être humain là tout à fait et l'approche parle pas l'approche par les risques qui a été adopté elle est intéressante il y a des risques du règlement il y a des il y a des usages parce que ce sont les usages qu'on questionne qui sont fondamentalement incompatibles et les humains ces usages là il faut les interdire il y a des usages qui posent des des des questions on est au risque et il y a besoin d'une régulation il y a besoin de davantage de transparence il y a besoin il y a besoin d'un cadre voilà et il faut pouvoir analyser sa finement il faut se donner le temps de se débat là avant peut-être de poser de nouveaux droits mettons appliquons ce qui existe et et posons un cadre qui soit ambitieux qui soit protecteur et sur la question peut-être de de je sais pas si vous voulez réagir là-dessus sur la question de l'utilisation dans les procès amour sur cette question le rgpd à part être trop technicien mais quand même un petit peu le rgpd ne traite pas de la vie privée d'ailleurs et donc on a inventé un énorme texte qui a été convoité qui était avant la directive 95-46 et qui était surtout la loi la loi des droits de l'homme numérique de 1978 Parlement ici qui est devenu un processeur d'université mondial il y a des lois qu'une centaine de lois sur ce qui a été pensé dans cette maison si on a inventé dans cette maison le droit aux données personnelles c'est bien que la vie privée qui est ancienne n'était pas suffisant et le rgpd ne parle jamais depuis plus alors comme des fichiers déversaires en parler d'Abbie privée article premier dernière ça mais par citation donc faisons attention oui vous avez raison oui la raison mais sans être trop technicien de tire votre attention que ça dépend entier de droits qui ne sont pas adressées par l'autonomie de ses intelligence artificielle alors son interdit n'est pas grand chose à dire moi je crois plutôt je crois plutôt à l'encadrement de la biométrie que ce soit avec santé ou avec ce poste avec effectivement une commission particulière mais vous aurez pas mais ça je voudrais cette barre le nom vraiment politique parce que d'abord tous les autres pays continuant les utiliser et parce que dans les technologies il vaut mieux les encadrer que les interdire mais bon c'est super pour une politique oui simplement dire on a inventé le rgpd parce que la vie privée n'était pas suffisante pour traquer effectivement les dérives de l'informatique je pense qu'aujourd'hui les textes qu'ils existent sont incapables de le rester incapable d'être assez énorme contacteurs qui sont quand même un bien pour l'humanité dans tous les secteurs d'activité même les émotions même la détection des émotions est extrêmement intéressante et liberté parce que ça ça coûte pas mal de choses qu'on se dit pourquoi c'est écrit la langue Informatique et Liberté c'est effectivement il y avait l'apparition d'informatique et il y a eu ce fameux scandale enfin en tout cas un projet étatique de recouper énormément de fichiers qui est en train de se créer pour donner un identifiant unique à chaque Français et du coup il y a eu un scandale à partir de à partir de ce fichier parce qu'on s'est rendu compte des capacités que donner l'informatique et que donner la possibilité de rationaliser l'information de la trier beaucoup plus facilement avec évidemment quand même pour le dire le spectre de la Seconde Guerre mondiale dans les esprits et donc là on a vraiment pris juste la capacité d'un outil on se dit si on donne cet outil à l'état il peut potentiellement savoir énormément de choses sur sa population et la contrôler on se dit ok il faut l'interdire la réguler la création de la CNIL mais c'était vraiment l'idée de des dangers potentiels parce que on avait donc pareil le fichage quand ça a été créé on s'est pas dit c'est un petit carton c'est sympa et ensuite et ensuite j'ai eu les dérives enfin voilà faut prendre tout dans son contexte de couper mais si le Parlement dans ces pays-là a fait un texte merveilleux qui est devenu un standard mondial c'est pas rien c'est parce que le Parlement et le président de la République à l'époque genre je me fais de déco dans un article de Philippe Boucher ou la SAS français qu'il y avait un numéro que tous les Français portaient un numéro dès leur naissance et que ce numéro il était identifiant à homme de femme il aurait se passer et que ce numéro était extrême en dangereux et qu'il est toujours là après la seconde manière qu'on l'a appelé le numéro de sécurité sociale qu'on a cantonné à faire social qu'il s'était tendu à faire fiscal mais la charge émotionnelle c'était pas tant le fait de créer c'était une bonne idée de la du Parlement qui était il y a des gens des droits mais le savent pas et ceux qui ont pas le droit ils savent qu'ils n'en ont pas encore ce qu'aujourd'hui vous avez vu sur le RSA cette date de cela mais c'est qu'on a été avancé que cette numéro a été mis sous Vichy et qui est identifiant et nous vivons encore avec ce numéro qui est parmi sur la chose les plus dangereuses pour les droits humains certains pays les ont interdit dont on passe des numéros comme on a nous avons nous le système au risque liberticide le plus fort alors que nous sommes les exportateurs les communicateurs les droits et à des paradoxes partout derrière pardon de cette technicité mais c'est important merci du coup bah je vous invite quand même à lire ce qui c'est ce qui se disait dans les années 60 et 70 puisqu'il y avait des réflexions plus globales sur la sur l'informatique sur qu'on ne retrouve pas aujourd'hui avec l'intelligence artificielle si je peux me permettre exportateur droits humains vous voyez on est plus enfin le pays lui-même ne malheureusement se positionne plus tout à fait de la même manière vous voyez à l'échelle monde quoi et [Musique] c'est sûr et du coup cette réflexion là de se dire on va on va limiter en fait une technique c'est parce que il y a pas enfin on peut pas présenter d'un côté il y a la technique et de l'autre côté il y a l'humain et c'est quelque chose qu'on a beaucoup entendu avec la gauche par le Conseil constitutionnel c'est c'est OK parce que un humain valide la décision derrière et en fait pour la pour par exemple pour revenir sur la vidéo surveillance algorithmique pourquoi elle est pas neutre et parce qu'elle a une technologie très complexe je me permets de vous expliquer comment ça fonctionne en fait chaque étape est faite par un humain et chaque étape est l'expression d'un choix mais en fait le on peut présenter la chose comme un biais c'est de se dire que il y aurait une un potentiel objectif et ce n'est pas possible en fait c'est à dire que il y a un vrai c'est de se dire qu'on pourrait débviaser technologique il est neutre à partir du moment où l'humain intervient ou justement ça fonctionne c'est reflète les conditions de sa conception les conditions ça fabrication et ensuite il y a effectivement l'usage est-ce que je disais surtout quand on le donne à l'état là aussi c'est très politique mais ce que je veux dire c'est que ça conception déjà et politique et la VSA et la VSA c'est un exemple très facile à poser si on s'adarde 3 minutes tu commences à marche il y a d'abord faut choisir un jeu donc c'est un apprentissage de comportement que déjà quelqu'un a décidé de définir comme suspect déjà on a un premier un premier oui voilà nous on appelle ça un choix un choix politique c'est une décision c'est pas un piercing décision c'est important parce que le vraiment dire que il y a une réalité dédiée qui est possible ce qui est pas le cas avec ce type de technologie très complexe et du coup il y a soit là ensuite on va apprendre sur un jeu de données à nouveau on a beaucoup d'ondu avec la loi vidéo qui pourrait y avoir un jeu de données neutre à nouveau en fait si on prend la rue il y a pas de de rue où il y a le même nombre d'hommes le nombre de femmes reflè situation sociale géographique etc et c'est pas grave mais il faut en avoir conscience et après il y a toutes les questions d'apprentissage très complexe de boîte noire dont on a parlé et à la fin on n'a pas juste un outil neutre on a le reflet d'énormément de choix oui mais enfin c'est du coup c'est pour ça que les la technologie ici particulièrement complexe mais on peut pas se dire que c'est l'usage qui en fera qui en fera ces dangers explicite sachant qu'elle là elle c'est une technologie qui est déjà discriminante parce que dans le sens où il y a des choix à chaque niveau ou même la technologie fait des choix en sélectionnant des données en particulier et un autre exemple c'est par exemple à aux États-Unis ils ont voulu développer un logiciel de prédiction de la récidive qui étonnamment a des pourcentage extrêmement élevé de personnes afro-américaines et on pourrait se dire ah zut c'est biaisé il faut mieux apprendre au logiciel non en fait la justice américaine est raciste c'est je crois que ça c'est assez clair il y avait un nombre surélevé de personnes afro-américaines dans les prisons donc c'est sûr que on allait le le logiciel allez faire ce genre de décision et en fait penser que juste un problème technique et qu'on va pouvoir le résoudre alors que le problème généralement les politiques oui mais du coup c'est pour ça que les mots ont une importance et de c'est important parce que je crois qu'on s'est pas compris j'ai dit que la technologie la décision de dire c'est politique c'est une décision politique je vous l'accorde quand je dis qu'à partir du moment la personne qui programme l'algorithme elle crée des décisions des dièses que vous voulez donc déjà il y a un problème et la deuxième c'est l'utilisation et l'apprentissage vers la magie c'est exactement ce que j'ai dit on est d'accord et ce que je dis c'est pour ça que je suis arrivé à la conclusion tout ce qui est numérique n'est pas une preuve et j'ai pas eu de réponse là c'est ça qui m'intéresse parce que vous pourrez faire et je parlais de preuve juridique je parlais justement de l'humilité qu'on doit avoir et Julia une fois qu'on l'a lancé il y a de ce type là on maîtrise plus rien et c'est pour ça que j'en suis arrivé moi dans ma réflexion à me dire toutes les preuves produites de manière numérique dans le cadre d'un procès doivent être bannis c'était la question que je vous posez parce que quoi qu'on fasse on sera en difficulté à cause de ce que vous dites et vous avez raison mais la question elle va au-delà de la preuve elle va juste dans qui prend du coup une décision avec un tel outil par exemple avec la VSA c'est qui prend une décision d'être et c'est pour ça que ce des respons réalité c'est vraiment et c'est vraiment c'est quelque chose que je voulais plutôt dire en conclusion mais de se dire Célia qui a trouvé que ce soit pour des algorithmes de contrôle à la CAF pour la VSA se dire Célia il y a un humain derrière c'est du coup effacer donc les 90 % du travail qui fait paria ou c'est 90 % de décision qui sont déjà politiques donc c'est effectivement qu'il y a la preuve dans dans tous ces questions là mais il y a la question des autres décisions qui sont prises par l'État et qui peuvent mettre en prison qui peuvent enlever des droits etc donc c'est donner un caractère un vernis objectif quelque chose qui n'est pas quelque chose fondamentalement de ne pas utiliser honnêtement enfin l'intérêt de ces discussions enfin merci en tout cas de me donner la possibilité vous vous regarderez là encore j'aurais pas être technicien on regarderait l'article 10 du RSI ils traitent de cette question très peu Parlement européen va m'intérêt ce sont pris les pouvoirs sur ce niveau là sur article 10 et sur les 10 vous avez raison sur les billets il y en a il y en a trois niveaux il y a les billets du concepteur il y a une biody dirigeants qui peuvent imposer la salle il y a les biais effectivement de l'utilisation et puis habillé des mises en oeuvre mais dans la caser du projet d'article 10 qui est soumet une sanction pénale extrêmement lourde sont financière permanente extrêmement longue parce que c'est un des enjeux de la discrimination [Musique] ok on aura trouvé le responsable ou en tout cas on aura trouvé pour la SPA elle fait tout ce qu'il faut faire pour ne pas l'être enfin une approche par les interdits il y a rien à dire ah et politiquement je l'ai bien vu non j'ai même des réserves parce que si à la fin on s'en remet qu'à l'algorithme pour savoir comment détecter parce qu'elle le fait bien mieux la machine que l'homme les mets la laine ou ce genre de choses à la fin comment on fait pour les cas qui ne sont pas les cas d'espèces et que l’œil humain du coup aurait détecté qui nous détectera plus parce que la machine lui a dit qu'il y avait rien et que ça des responsabilise lui lorsque l'humain dit la machine m'a dit qu'il y avait rien j'ai pas de ma faute ou alors la machine m'a dit qu'il y avait quelque chose c'est pas de ma faute non plus vous avez raison c'est un vrai jeu mais c'est un enjeu de budget c'est un enjeu effectivement d'efficacité sociétale sur la lutte contre certains cancers le dépistage le plus rapidement possible alors je crois que ces appréhensions ces angoisses et ce caractère anxiogène il est juste le bal lutter contre il me semble que nous pouvons inventer un arsenal juridique en évitant effectivement peut-être d'autres règles qu'il faut protéger vous avez tout à fait raison mais je pense qu'on peut créer un droit nouveau qui comme on l'a fait sur informatique liberté ou comme on l'a fait sur la vie privée ou comme elle a fait survita discrimination à droite nouveau pour tenir compte à la fois des gains extrêmement importants pour la société derrière l'intelligence artificielle et puis aussi la compétitivité de la France et aussi les autres pays tout en ne laissant pas effectivement le tout ou rien il y a un enjeu entre le tout interdit et le tout permis et cet enjeu là et bien il pourrait parce qu'on l'a vous l'avez fait dire que vous vous l'avez fait déjà deux fois on peut peut-être en tout cas ça vaut le coup d'essayer de le dessiner pour ceux qui ne mettront pas l'interdit et qui auront un permis trop large par rapport à ce qu'on peut atteindre des droits humains et bien il y a un enjeux de droits humains il faut appliquer les droits humains classiques bien évidemment d'indiquer mais il faut aussi aujourd'hui en créer d'autres face à ce défi du gain politique économique et social et des risques justement je voudrais signaler que dans cette discussion que nous les législateurs on a ensemble lorsqu'il s'agit de s'emparer de ces questions encore une fois on se retrouve avec un certain nombre de députés qui à ce jour une majorité qui font ce tête baisser dans tous les droits possibles pour l'intelligence numérique et la vidéo surveillance etc donc eux ils ouvrent tout et donc finalement nous on se retrouve alors qu'on aurait pu être effectivement dans une démarche et une posture plus proche de celle que vous préconisez mais on en est pas là nous on se retrouve à devoir nous lutter contre les digues complètement éclatés qui s'offrent à nous par cette comment dire acceptation inconditionnelle de de tout permettre et du coup on s'est retrouvé bizarrement un posteriori à devoir vivre attendez soyons un petit peu prudent on a eu exactement finalement la même logique avec l'étude sur la le développement des énergies nucléaires on leur disait bon écoutez admettons vous soyez des nucléosatres et qu'on puisse pas finalement de cette de ce développement massif des énergies nucléaires au moins quand même prenez la précaution d'avoir des organes de contrôle et de sécurité et je voudrais juste finir sur le fait que on a à ce stade de là une intelligence artificielle qui finalement pour satisfaire des fonctions se dotent d'un organe d'organes qui sont les algorithmes qui sont les organes de la machine en les deux sortes et on a une telle on va dire incarnation avec ses organes et la logique de fonctionnement que on pourrait presque imaginer doter les intelligences artificielles d'une personnalité morale c'est ce que j'ai fait comme idée oui mais après j'aimerais bien qu'on puisse vous vous entendre encore davantage et après on viendra à la faire de la personnalité morale c'est quand même moi en première partie c'est intéressant parce qu'il y a beaucoup de chercheurs par exemple qui prônent le principe de la présomption de nos conformités c'est un enjeu qui qui est en discussion et notamment dans la communauté scientifique ou de chercheurs ingénieurs alors on sait pas on sait pas penché sur le sujet plus que ça mais pour le coup quand on fait le parallèle avec d'autres secteurs c'est intéressant est-ce que si on prend le secteur pharmaceutique est-ce que les médicaments avant d'être commercialisé avant d'être utilisé mis sur le marché doivent être testés et il faut prouver qu'ils sont pas nocifs le secteur de l'aviation par exemple un avion on part du principe que ils veulent pas et on fait on fait des tests jusqu'à ce qu'on est sûr à 100% parce qu'on va monter dedans et potentiellement mourir si ce crash on fait des tests pour s'assurer qu'il va bien voler et donc il y a cette il y a ce débat autour de cette présomption de non-conformités qui voudrait que pourquoi le secteur de l'IA ne pourrait pas aussi fonctionner comme ça à savoir on doit prouver que telle ou tel système n'est pas nocif n'est pas n'a pas d'impact négatif sur les droits humains c'est une question et je trouve que c'est intéressant aussi de réfléchir dans ce sens là parce que dans d'autres secteurs dans d'autres industries parfois plus matures voilà on a on a déjà en réalité ce positionnement là on n'aurait pas ça ne viendrait pas à l'idée de de prendre des médicaments qui n'ont pas été testés avérées est-ce que est-ce que cette ces exigences là ne doivent pas être aussi posées pour un secteur comme celui de l'intelligence artificielle c'est une question qui peut se poser qui peut être discutée des entreprises qui développent ces solutions là notamment en matière de surveillance reconnaissance faciale des comportements ce qui nous disent en fait c'est que en gros un coup de temps en temps on va prendre le logiciel on va lui injecter des images qu'il va devoir analyser et s'il nous fait des réponses positives alors que normalement elle devait pas l'être aussi je sais pas dans les images on les met quelqu'un qui est noir qui insulte à capuche est-ce que ça va matcher en mode c'est un délinquant c'est c'est ça et en gros ils disent on va injecter ça écoute en temps la Louvre et puis s'il fait une réponse positive alors que normalement on voulait pas mais on dirait que ça va pas saluer mais bon c'est encore une fois de la postériori et quand bien même les on n'aura jamais toute l'intégralité de ce qui est possible de voir par la technologie elle-même qui filme en continu il y a une limite à l'équation regardez le Parlement c'est l'article 6 c'est le projet le projet il est c'est ce que vous dites vous avez tout à fait raison et je pense que les parlementaires européens ont entendu dans l'article 6 du projet du projet de règlement alors c'est pour les systèmes à au risque que il doit y avoir avant la travail dans ces missions de marché mise en service et utilisation des résultats et bien avant il faut démontrer effectivement la conformité par un tiers extérieur et que cette conformité elle est soumise à 7 obligations dont le contrôle humain donc c'est déjà le cas pour les systèmes à Auris si dans le cas du trilogue s'était retenu je pense qu'il faut peut-être encore plus le renforcer en question si on voulait donc l'approche a été celle-ci donc de créer une prévention et pour aller dans votre sens sur la responsabilité et bien l'idée c'est que si ces systèmes à haut risque créer effectivement un dommage à une victime quelle qu'elle soit c'est un suicide là 29 mars 2023 chaque GPT je n'invente pas parce que je suis j'ai vraiment je ce sujet intelligence artificielle un Belge se suicide après six semaines de discussion avec un chatbot issu de chatte BD qui s'appelle Élisa donc je veux dire par là je pense que qui se suicident ça répond à votre question et pour te répondre en fait la dernière question ils ont mis sur une intelligence artificielle au niveau des chiens ils ont mis un espèce de chien robotisé ils ont juste mis des capteurs visuels d'accord et des capteurs et il a appris à marcher tout seul donc au bout d'un moment on est on va très très loin dans les intelligences artificielles c'est pour ça que j'ai toujours pas ma question tu as la réponse numérique sont peuvent être bidonnées par l'intelligence artificielle le local non plus de valeur voilà et c'est vraiment nous législateur c'est peut-être le le pas le plus important où est-ce qu'on met l'utilisation de quelques profs qu'elle soit numérique et je crois que il y a trois mois que je bosse pas dessus donc j'ai trois mois de retard mais je vais rattraper mon retard quand j'avais vu ce suicide là j'étais Farré et quand j'ai vu qui conversent avec un être humain d'accord et donc et quand j'ai vu effectivement les intelligences artificielles ce qu'on donne de capteur optique et qui a enfin un petit chien qui a pas marché tout seul c'est pour ça que je dis qu'on la motricité après dans votre sens et sur la question des preuves j'ai pas tellement de position je pense qu'il faut limiter les interviews mettre en place des nouvelles régulations parce que pour aller dans votre sens toute épreuve numérique sont pas complètement si mauvaises que ça par exemple dans les droits qui sont à définir on met bien on met bien le numéro mais bien un numéro de pour les voitures numéro d'immatriculation je pense que parmi les droits qui sont à créer ce serait de créer effectivement l'obligation pour tous les algorithmes qui sont mis à discussion par le secteur public ou pasteur privé ils sont aujourd'hui déposés en projet du rsias ils seront déposés pour un secteur public dans une base de données gérée par la commission mais il y a tous les autres qui ne sont pas au risque de commencer à mettre un numéro d'identification comme numéro d'immatriculation des voitures et de dire ce numéro de mastication un responsable personne physique en charge effectivement un minim de l'éthique de cet algorithme je pense que là encore on peut construire des choses entre tout et rien mais je suis un désespéré optimiste et du coup vous êtes souvent coupé mais nous aussi oui non rapidement sur cette question justement des tests de conformité etc avant la mise sur le marché je l'évoquais mais juste pour insister dessus c'est quand même assez regrettable que dans le projet de règlement lieu la partie exportation est pas du tout été intégrée parce que on peut se retrouver dans le cas de figure d'une de système qui serait interdit au sein de lieu mais qui seront qui sont dangereux et l'impact sur les droits humains inacceptable et on va quand même les exporter donc là les entreprises européennes se rendraient complices potentiellement de violation de droits humains à l'extérieur des frontières de lieu donc ça c'est déjà un paradoxe on est habitué mais bon si on peut si on peut éviter de développer tous les jours mais mais là où on est en train de construire un règlement qui pourrait justement éviter que ça se produise encore plus si on pouvait tirer aussi un peu les leçons et sur la question des biais et de la correction des billets justement ça ça ne résout ça répond à une partie du problème parce que effectivement la partie ou l'impact discriminatoire de ces technologies notamment de reconnaissance faciale à des familles d'identification il y a cette question dédiée et des erreurs avec du fait de la sous-représentativité par exemple de femmes noires dans les données d'apprentissage effectivement il y a des taux d'erreurs plus grands et donc des situations d'arrestation arbitraire ou autre qui peuvent ou de discrimination mais paradoxalement augmenter ou le niveau de précision quand on arrive dans le deuxième cas de discrimination c'est à dire l'utilisation abusive pour cibler spécifiquement certains groupes de population là le fait d'avoir une précision encore plus grande peut être dangereux pour les pour les populations visées je prenais l'exemple de la Chine tout à l'heure et de la surveillance des huit jours c'est ça dont il est question c'est reconnaître à distance et puis après de pouvoir davantage les contrôler les mettre dans des camps etc donc civile enfin beaucoup beaucoup d'organisations se retrouvent autour de cette demande et le règlement lieu pourrait permettre pour le coup si voilà si on est assez ambitieux dans les demandes de couvrir tous ces cas de figure en interdisant à posteriori et en temps réel ce genre de ce genre d'utilisation donc c'est c'est toujours un peu frustrant de voir on essaye de poser quelques garanties et puis on va pas jusqu'au bout et le fait de pas aller jusqu'au bout ça dénature la garantie en elle-même parce qu'au final il y aura quand même et toujours les mêmes la plupart du temps du Conseil constitutionnel sont les garanties de façade et d'ailleurs donc c'est voilà c'est important de voir que c'est aussi dans l'exception que tout se joue et que les plus impactés sont encore plus affectés et sur pourquoi on arrive toujours à posteriori aussi faire le constat nous on a fait et qui est dommage c'est que ces garde-fou c'est garanti on les avait à peu près on sait pouvoir les avoir avec cette fameuse loi de 1960 1978 et avec la CNIL et ce qu'on a pu observer c'est parce que ces textes nous on fait une interprétation de du rgpd qui met dans le traitement de données biométrique tout un tas technologies et la CNIL n'a pas voulu nous suivre ou en tout cas ne s'est pas positionné là-dessus il y avait une volonté non plus politiques quand ces technologies sont apparues de dire ok stop ça apparaît en fait là c'est pas légal on arrête tout au contraire elle accompagné le marché oui et c'est pour ça qu'on se retrouve avec un cran de retard avec un marché qui est là des technologies qui sont là et un manque de volonté politique parce que vraiment à nouveau qu'on regarde comment elle a été créée pourquoi elle a été créée elle a été créée pour surveiller l'état en tout cas pour vérifier que l'État n'abuse pas de ses capacités de surveillance et il y a eu un glissement de son rôle pour devenir un peu une autorité de régulation économique et donc et donc c'est aussi comment on pense nos garde-fouilles parfois le droit n'est clairement pas suffisant et prendre en compte les les contacts et contacts politiques et aujourd'hui donc il y a ce règlement européen qu'on essaye le plus optimiste possible mais il y a aussi la configuration politique malgré tout voilà des textes qui passent parce que sur le papier ils ont l'air d'avoir des garanties et ensuite dans la pratique ça va c'est ce que dit aussi Katia qui sont à appliquer toujours sur le même sur les mêmes personnes mais c'est dommage en fait qu'on regarde l'histoire de la CNIL c'est dommage ça commence quand même assez bien sur une bonne non mais c'est vrai et c'est des choix c'est clairement des choix politiques de lui enlever moins de moins d'attribution de bon l'écouter plus générale qui était reprise dans le rgpd à chaque fois de ces autorités là parce que nous on voit qu'on a la chance de leur plein de textes différents donc plein d'autorités différentes de rester sur l'arcom avec les pouvoirs de l'ancien dans la loi de programmation militaire il faut que je suis intervenu on m'a dit NON NON faut surtout pas qu'on soit en avance au niveau européen parce qu'on a des devait faire planter nos ego alors qu'en fait la vérité c'est que si c'est pas ça la position qui mise dans la loi c'est pas ça qu'on va défendre mais on nous montre comment toutes ces autorités finalement les libéraux pensent que même celle-là il faut les réduire au strict minimum de ce qu'elles sont capacité de faire pour ne pas brider l'innovation le marché surtout l'innovation c'est par principe bien donc comme ça c'est plus simple l'argumentation alors c'est moins contestable et et donc on a on se retrouve dans des discussions ou sur le rgpd ou même sur la loi fake news qui a été censurée par le Conseil constites on nous explique que ce n'est pas possible de donner telle compétence à la CNIL parce que c'est monstruelles ne pourra pas le mettre en oeuvre et donc on renvoie aux entreprises elles-mêmes fabricantes et utilisatrices de technologie potentiellement problématique de se faire leur propre auto-agulation et donc on dit que les autorités de régulation doivent contrôler les autorités d'auto régulation dans les entreprises en question et à chaque fois on peut le même constat je pense juste un change complètement de sujet délinquance économ omique et financière les conformités des banques avec la prix la crise de 2008 combien il y a eu d'affaires scandaleuses posent 2008 alors qu'elle est départements conformité alors que il y a les superviseurs ACPr à MF etc tout un tas d'autorité donc à un moment donné la question de se dire je reprends le marteau du début si le marteau n'existait pas il fracasserait ou comme ça ok serait plus compliqué pour les charpente mais fracassons vous nous expliquez moi c'est une toute petite je vous en prie oui évidemment justement sur le règlement UE c'est que lors du débat il y a quelques semaines en commission inko et l'idée il y a eu cette amendement qui permet finalement alors ça reste pas aux entreprises de de décider elle-même si leur si leur technologie sont oui ou non finalement à au risque c'est exactement ça c'est à dire que c'est voilà et ça c'était pas c'était ça a été introduit alors il y avait beaucoup de choses qui ont été entre introduites lors des débats qui allait dans le bon sens et ça pour le coup ça pourrait presque ruiner tous les efforts parce que parce que finalement le règlement c'est le risque ça devient juste un voilà une orientation que les entreprises devraient suivre il suffirait qu'elle déclare que leur système ou leur technologie ne sont pas au risque et ensuite il faut faire la preuve que si et en fait voilà on retourne on change la preuve et ça c'est extrêmement dangereux alors du coup voilà et ça et ça c'est apparu enfin voilà ça a été c'est pas par hasard et et on a l'impression qu'on a gagné sur certains aspects et puis hop ça pourrait être complètement économique je suis une entreprise je veux développer une nuage je veux la mettre sur le marché si on dit d'emblée que je dois faire la preuve que Alva jamais faire de billets être nickel vous avez des droits humains etc va falloir que je le budgétisme de test etc à la fin mon truc il est plus rentable c'est pénible on l'obligation de respecter les droits humains au dernier droit français en confrontation avec le secret des affaires parce que finalement quand on va dire ouvrez-nous la boîte pour voir qu'est-ce qu'il y a dans cet organe et d'intelligence artificielle ah non non non ça c'est notre savoir-faire ne marche même déjà plus puisque la plupart des IA sont une bonne source et donc on peut rentrer effectivement rentrer à l'intérieur de ce que fait l'entreprise et là il y a le secret des affaires qui va qui va sur Gérer versus bien sûr sur la question de la personnalité morale juridique autonome je vois vous amendez très vite votre proposition en disant il faut qu'il y ait un être humain physique qui soit associé ça me semble être une être une évidence parce que le potentiel des responsabilisant juridiquement et tout court en fait maintenant il est il est énorme c'est un coin aujourd'hui il manque quelque chose dans la du point de vue de la responsabilité moi j'ai pas l'impression qu'il manque quelque chose du point de vue de la responsabilité on a du mal à engager la responsabilité des industriels les commerciaux et des gens ça on rechigne pour des raisons plus ou moins plus ou moins abables mais j'ai pas l'impression que ça le problème et rajouter du coup une personnalité morale autonome de l'algorithme c'est justement pour ceux qui seront à la manœuvre des entreprises etc se mettent un nouveau filtre supplémentaire avant qu'on les atteigne eux enfin c'est pour lancer la diffusion je vous propose de partir de là je crois que pour moi dans l'état des technologies sur les 5 à 10 ans qui viennent donc il faut rester aussi limité [Musique] je me situe dans la réflexion juridique en dehors du nid à consciente et en dehors du niAme humaine c'est-à-dire que l'idée c'est de c'est qu'on est en présence d'une nouvelle espèce d'un nouveau système juridique que vous voulez l'appeler moi je l'ai appelé espèce mais c'est une espèce artificielle qui est hors responsabilité c'est un schéma qui sort du schéma de responsabilité ou dit encore autrement un schéma de responsabilité sans faute on dit encore autrement un schéma de dommages c'est-à-dire un peu comme alors davantage d'analysé pas très intelligence que je dis c'est-à-dire que des moments où une victime et face à un dommage causé par une intelligence artificielle au sens de dispensaire d'une certaine autonomie la définition aujourd'hui pas pendant une tomate donc personne ne le contrôle pas plus un humain il peut avoir une responsabilité par rebond une responsabilité public mais qu'il n'y a pas de responsabilité objective de quelqu'un qui a dit à Léa fait ça à la suite des processus d'apprentissage c'est une responsabilité tout le temps la victime doit être protégée c'est sûr cette base que se situe le projet de règlement de directives principales de réponse c'est une directive pour la responsabilité des conséquences de l'IA en matière extracontractuelle pas en matière contractuelle si vous voulez dès le moment sur la personnalité juridique quand on a voulu créer des droits et des devoirs on a créé pour les humains une personnalité juridique avec des limites et puis quand on a voulu concentrer une activité humaine à travers une structure capitalistique on a inventé les personnes morales et personne morale donc voilà alors bien évidemment personnalité juridique générale des personnes physiques personnalités juridiques particulières les personnes morales pourquoi ne pas dessiner ou c'est ce qu'on fait avec d'autres une personnalité juridique singulière on reconnaît bien ça à des fleuves aujourd'hui en Espagne à une lagune doté si toutes les humains ou des personnalités juridiques toutes les personnes âges juridiques vous avez compris ils sont pas humaines et donc quelque part est en train de se créer doucement dans rien de secret doucement une personnalité juridique en creux c'est un peu trop tôt en terme d'AC possibilité sociale mais on y va et c'est simplement ce que je montre qu'on y va on y va comment on y va par cette responsabilité effectivement on s'en fout il y a pas de foot c'est pas des humains pas d'inconscience donc par contre il y a des victimes et donc dire que c'est un humain très en amont parce que c'est lui comme pour les médicaments c'est lui qui a mis sur le marché très bien on crée une responsabilité en tant que tel mais on pourrait aussi inventer une autre forme avec intervention du marché assurantiel elle s'en fiche c'est serielle quand il y en a un il y en a tous la différence de l'humain et pas aléatoire on verra ils vont tous faire la même bêtise tout ce coffee sous réserve de l'apprentissage plus ou moins différenciante donc de plus en plus on commence à dire qu'ils doivent s'identifier elles doivent dire aux humains que c'est eux en Californie si effectivement l'entreprise qui a mis le système d'intelligence artificielle sur le marché ne l'a pas dit elle se prend une responsabilité qui est celle que comme si c'était un humain alors que si elle me dit donne aux autres humains à dire attention c'est pas un humain donc sorte de transparence à la principe de précaution il y a effectivement de mettre une personne c'est dire que quelque part il y a une personne physique humaine qui doit prendre la décision une personne physique humaine qui doit assumer la responsabilité ce qui veut pas forcément dire qu'elle doit payer à la place du robot ou que d'autres simplement à l'incarme c'est aussi d'imposer une raison d'être parce que je pense que il y a énormément d'algorithmes différents il y aura des algorithmes qui joueront sur le secret des affaires et peut-être que ça a une ralentissement de marché mais des algorithmes qui sont déposés en opasos et peut-être des algorithmes qui seront en secret des affaires dont le dirigeant qui incarne la mise à disposition de ce système voudra lui donner une raison d'être et les conditions exemple que ils ne savent jamais un sacrifice humain vous avez une telle règle dans la charte en Allemagne vous avez une source en graine de chartes dans le monde qui aujourd'hui organise ses droits c'est aussi c'est aussi la présomption de conformité c'est à dire que moi je crois je crois à ce que le marché effectivement quand quelqu'un dit je ne suis pas dans un système à risque c'est une décision qu'il prend c'est à dire que là il va échapper à tout l'article 6 et suivant ce qui est énorme je pense qu'il faut croire aussi quelque part aux gens innovants mais qui l'assure une responsabilité civile et la pénale c'est à dire que le doute ne doit pas profiter à celui qui a effectivement passé à travers le la présomption de conformité l'obligation de contrôle avant de mise sur le marché là encore on peut dessiner des droits et derrière l'ensemble de ses droits c'est peu à peu reconnaître une personnalité juridique avec un droit d'Esté avec être condamné et on y va doucement on est en train de donner des droits à ces algorithmes tout simplement parce qu'ils sont indépendants des humains et que il faut bien tenir compte de cette indépendance c'est là où je pense qu'on a on a un vrai débat en fait je pense parce que je dis parfois que lorsque je vous entends j'ai le sentiment que vous êtes un peu dans ce SMIC là mais peut-être je me trompe pas le mythe que j'essayais tout à l'heure de dénoncer qui est une espèce de de capacité pour lia finalement être plus fort les êtres humains ce qui se passe aujourd'hui c'est que si vous regardez tous les secteurs d'activité d'accord je parle pas des secteurs qui vont être remplacés par les cirques moi il me semble que les dangers ici sont des termes c'est un danger de l'État c'est vraiment donc mais tout ce que vous dites juste mais les enjeux aujourd'hui sur sur cette autonomie de lire c'est il y a tellement d'intérêt à utiliser ces systèmes et ils sont en général tellement meilleur que l'enjeu n'est pas Tom qui soit supérieur ou inférieur ils ne sont évident ils le sont ils le sont pas discuter ils ne sont ils le sont sur monofonctionnel monocontextuel mais ils ont rien à voir il faut oublier les comparaisses humains je pense que c'est une erreur c'est c'est un biais juridique d'entrée si on oublie d'entrer que c'est pas des humains ils ont pas se comporter par des humains et qui n'ont pas ils comporter tous ces libèrent ça donne quoi la société dans laquelle on veut vivre est une société non pas tellement qui est juste aux fausses les IA pour les 10 ans qui viennent c'est c'est vrai faux c'est les deux en même temps c'est ça ce paradoxe c'est combien de fautes j'admets mais qui sont vraies et combien de vrai que je n'admets pas qui sont faux c'est ça l'enjeu tous les systèmes aujourd'hui de reconnaissance biométrique ou de lutte ou de lutte sont sur ce critère là et ça c'est un vrai défi pour les démocraties c'est un vrai défi c'est dans quel dans quelle civilisation veut vivre entre les vrais faux et les faux vraies les Ian n'ont rien à voir avec la comparaison eczéma et la deuxième défi le deuxième défi c'est l'esclavage technologique c'est à dire que le taux de dépendance comment on lutte contre le taux de dépendance c'est quel impact a la technologie pour modifie les comportements humains est en position regardez elle est positive après c'est après il y a le niveau politique il faut pas l'énergie je reste vous avez compris que ça restait au niveau technique d'accord c'est plus facile c'est plus facile je vous donne je vous donne quand même un élément un élément de réflexion par rapport à ça si vous avez un système qui est tout le temps meilleur en moyenne vissée en matière médicale que ses anime en matière d'avocale l'enjeu c'est l'esclavage technologique vous l'avez avec le GPS aujourd'hui vous allez on a tous abandonné les cartes et on a tous abandonné de ça il y en a pas un seul qui veut revenir et pourtant ce serait tellement bien si un jour on était perdu dans la forêt pourquoi parce que le gain est tellement important et que c'est vrai qu'on est en dépendance mais en même temps le GPS l'algorithme du GPS il est efficace il connaît effectivement les accidents il connaît les zones de blocages biarris je m'appelle le vrai enjeu c'est comment on construit une société démocratique où l'esclave et lui-même demandeur à cet esclavage et puis encore un autre enjeu bien plus important que celui du contrôle de l'État il est important mais je pense que les enjeux posés par lia ces eugénisme technologiques c'est-à-dire les hommes augmentaient le monde demain c'est pas un monde uniquement je pense qu'on peut résoudre tous les problèmes de l'État qui serait en défiance sous réserve effectivement du politique bien sûr et le monde demain c'est ceux qui auront comme je l'avais là d'accord pezia et ceux qui en ont pas et que cette façon il y a les pieds mais la discrimination technologique et le génisme technologique c'est un vrai enjeu d'où la notion de bien commun parce que les déséquilibres ils vont venir de là ils ne vont pas venir de l'État l'état il est ce qu'il est aux demandes il est assez régulé en tout cas pour des États démocratiques comme les moins en moins bah ouais bah sauf qu'on obser non mais je suis désolé mais c'est on est enrigation je suis d'accord au fond mes yeux les libertés qui sont propres aliades aujourd'hui il faut prendre les problèmes d'hier qui peuvent revenir et qu'il faut garder en mémoire grâce à cause de moi mais il faut s'intéresser aussi à ces nouvelles questions d'où la personnalité juridique qui permettrait effectivement me semble-t-il de donner une solution en créant à chacun d'entre nous à voir sur ces images j'ai vu quand même que les personnes morales en matière de délinquance économique et financière ça permet juste de dédouaner des personnes physiques qui avaient les doigts dedans voilà dans bien des cas mais c'est possible [Musique] le risque qu'il existe mais je pense que une démocratie peut et doit les encadrer sous réserve de délimites comme cellules ce effectivement qui nous ont été présentés mais quand même moi je le savais quand même à votre continuation c'est que l'intelligence artificielle permet une industrialisation des réponses à des besoins qui soit de service de produits ou virtuel on va dire et cette réponse industrialisée à des besoins elle remplace cette machine donc des hommes donc elle commet des dégâts en quelque sorte sur la société dans la mesure où finalement elle colle au chômage de grands potentiellement et elle le fera de quantité énorme de gens de main d'oeuvre et donc il est nuisible en quelque sorte à l'emploi humain donc il va falloir imaginer comment on peut taxer tout ça aussi plus tard parce que cette question de la taxation des machines elle va être encore plus prégnante maintenant avec l'intelligence artificielle qu'elle était déjà avec les machines qui remplacent l'homme donc on va pas ouvrir ce débat merci et voilà et puis on va rester là une petite phrase donc Katia non mais c'est en fait c'est un débat qui qui doit continuer c'est à dire qu'en fait là là il va y avoir quand même une échéance qui est vraiment importante le trilogue va aussi permettre parce qu'on peut revenir sur le règlementieux le trilogue aussi permet de rebattre un petit peu les cartes on part a priori avec un texte qui est pas très ambitieux du côté du Conseil on sait pas ce que ça donnera la semaine prochaine du côté du Parlement européen on espère que la base de négociation sera la plus ambitieuse possible on va pousser tout faire pour ça quelques jours il y a quand même un enjeu très fort à la fin donc là il y a quand même voilà je pense qu'il faut il faut pas il y a un certain occasions là qu'il faut pas manquer faire passer des messages pour que la France aussi soit affichée dans ces manquements dans le cadre de ces débats on l'a fait au moment des JO parce que bon c'était flagrant et en plus à un moment où il y a beaucoup de lois qui sont en train d'être de passer à leur même que même voilà le pglise jusqu'à je veux pas ouvrir mais qui enfin article 3 mais qui avec une expérimentation de trois ans on va avoir a priori le règlement eu avant attendons mettons effectivement un peu d'énergie pour que ça ça soit relativement protecteur et rien passé qui pourrait détricoter tout ici non non mais bien sûr on sait très bien ce que veulent les expérimentations une volonté d'imposer à lui une autre ligne de droits humains de de enfin voilà de liberté fondamentale etc ça permet d'objectiver aussi un petit peu le débat de sortir des peurs et des fantasmes liées à l'IA d'avoir d'aller au-delà des enjeux géopolitiques économiques philosophique qui touche à alia pour replacer le débat sur les droits humains et les placer au centre de la régulation non c'est un peu notre message et c'est le retour de la console je retourne exactement c'est pourquoi c'est un projet au niveau européen et de effectivement si l'Europe nous on décide de mettre les droits humains au cœur et de mettre des lignes rouges qui ne sont pas celles des autres pays parce qu'on entend beaucoup oui mais les États-Unis en fait nous l'Union européenne on va pas le faire et c'est OK parce que c'est ça notre vision notre vision de la société c'est ça c'est ça qu'il faut porter et si comme tu dis la France refuse en fait de suivre de suivre les autres pays et finit par être isolé à la déjà refusé d'appliquer le droit de l'Union européenne plusieurs fois en matière de surveillance voilà du coup effectivement l'attaquer en manquement faire des choses sur il y a encore des des même si elle a une graisse particulière au sein de l'Union européenne des équilibres qui vont peut-être bouger à force vraiment qu'on voit l'attention qui est portée sur les Jeux Olympiques sur cette loi à travers l'Union européenne nous c'est ce qui nous intéresse c'est voir les équilibres qui bougent et on espère qu'en tout cas le l'Union européenne va plutôt infléchir dans le bon sens pour vraiment isoler la France et effectivement les choses qui se passent qui sont vraiment pas belle à voir du tout désolé mais en ce moment en conclusion des péter si j'étais drôle il savait pas trop dire si j'étais drôle ou pas ok et en plus c'est pas la base de données même si c'est antérieur à 2021 j'étais déjà là avant 2021 parce qu'il faut une formule directement c'est à dire que les technologies de demain pour qu'elles soient opérationnelle aujourd'hui mérite et droits anciens mais aussi des droits nouveaux sur les droits nouveaux mais merci merci pour les personnes