Colloque "Femmes et IA : briser les codes"

mesdames les présidentes monsieur le Président mes chers collègues mesdames et messieurs je suis heureux de vous accueillir ce matin à l'initiative de la délégation au droits des femmes de la délégation à la prospective et de l'Office parlementaire d'évaluation des choix scientifiques et technologiques pour réfléchir aux conséquences du développement des intelligences artificielles sur l'égalité entre les femmes et les hommes à la veille de la Journée internationale des droits des femmes je pense aux femmes afghanes aux femmes iraniennes à toutes les femmes qui partout dans le monde subissent le règne de la violence de l'impression et de l'invisibilisation chaque jour et pas seulement le 8 mars le combat pour la liberté et leur combat nous oblige je voudrais saluer en préambule l'esprit collectif qui a présidé la réunion de ce colloque le sujet aurait pu être traité par le prisme de l'égalité à la délégation au droits des femmes par le prisme de la technologie à l'Office Parlementaire monsieur le Président d'évaluation des choix scientifiques et technologiques sous l'angle madame la Présidente de l'impact économique de l'intelligence artificielle à la délégation à la prospective le le résultat aurait sans doute été moins riche que ce que vont raorter les trois tables rondes qui vont vous être proposés au cours de la matinée merci donc à Dominique Verrien Christine Lavarde et Stéphane Piednoir d'avoir joué collectif et d'avoir privilégié la transversalité je voudrais aussi saluer tous les chercheurs qui sont venus aujourd'hui nourrir notre réflexion y compris en bande dessiné pour moi-même la représentation nationale a besoin de ce lien fort je le dis avec la recherche et l'université pour éclairer nos travaux et je souhaite que ce lien soit encore renforcé enfin et surtout je voudrais remercier les concepteur du sujet du colloque qui nous permet d'inscrire à l'agenda politique un impensé des politiques publiques à première vue la technologie à l'instar des anges n'a pas de sexe l'intelligence iiciel est essentiellement perçu à travers l'emploi l'économie la souveraineté ou encore la cybersécurité et pourtant il suffit de lire votre programme de la matinée pour mesurer les enjeux de l'intelligence artificielle en terme de parité égalité d'accès à l'emploi puisque les femmes occupent des emplois plus exposé à l'automatisation par les intelligences artificielles notamment les emploi du secteur tertiaire ces destructions d'emploi sont à mettre en regard des créations d'emploi que l'intelligence artificielle peut générer cependant dans ce secteur les femmes sont minoritaires voire très minoritaire au chiffr qu'on m'a transmis et qui quelque part m'ont conduit à réfléchir seulement 20 % des employés occupant des fonctions techniques dans les entreprises d'apprentiss automatique sont des femmes 12 % des chercheurs en intelligence artificielle au niveau mondial et 6 % des développeurs de logiciel professionnel sont des femmes j'ai l'impression en voyant vos têtes que mes chiffres sont exacte il faut donc promouvoir la formation et l'embauche pour permettre aux femmes d'accompagner cette grande révolution technologique ce qui doit nous conduire à réfléchir à l'égalité face à l'orientation et à la formation rentré 2022 les femmes les jeunes filles ne représentent que 40,60 % des effectifs de l'enseignement de spécialité de mathématiques 14,6 % des sciences informatiques et numériques et seulement 13,6 % des effectifs des sciences de l'ingénieur ces choix d'enseignement de spécialité préfigurent me semble-t-il largement l'orientation postbac des élèvesff ne constituent que 17 % des effectifs d'étudiants mathématique ingénierie et informatique voilà des chiffres qui sont assez révélateurs d'une situation sur lequel il me semble on doit se pencher nous avons aussi des rapports des débats sur parcours su les orientations diverses et variées je me permettais de prolonger les débats en hémicycle et les réflexions sur ce point égalité des chances puisque les algorithmes peuvent parfois reproduire et amplifier les stéréotype de genre c'est je crois un point qui mérite une réflexion voyant les visages je vois que en tous les cas ma petite réflexion personnelle parce Queau moins l'intérêt de ce cololloque c'est aussi de m'avoir forcer à réfléchir il suffit pas d'avoir un vice-président délégué maintenant c'est nouveau à l'intelligence artificielle mais pour gérer un certain nombre d'angoisse aussi qui existe de la part de ceux qui aujourd'hui ont la crainte pour leur emploi c'est aussi une réalité mais parce que je suis un optimiste résolu je crois que l'intelligence artificielle peut être une chance pour les femmes comme pour les hommes mais cela nécessite qu'on identifier les écueiller cela nécessite qu'on anticipe pour assurer une forme de transition juste et équilibré le défi est de taille doit nous mobiliser dans tous les secteurs que ce soit à l'école à l'université je reviens aussi sur l'orientation que j'ai évoqué il y a un instant dans les entreprises dans les laboratoires de re cherche et bien sûr au Parlement et j'oserais dire aussi nous avions une agora hier sur un tout autre sujet dans les familles pour que quelque part il n'y ait pas une forme de stéréotype anticipé dans dans les familles voilà ce que je souhaitais vous dire en vous souhaitant une matinée qui sera riche de de propositions et de prise de conscience très bonne matinée ici dans l'hémicycle mdicis qui est donc consacré à une femme on l'a préféré à l'hémicycle Cléo mais vous comprendrez pourquoi très bonne [Applaudissements] matinée monsieur le Président du Sénat madame la présidente de la délégation à la prospective chère Christine monsieur le Président de l'Office parlementaire d'évaluation des choix scientifiques et technologi cher Stéphane chers collègues mesdames et messieurs je remercie tout d'abord de nouveau chaleureusement notre président Gérard Larché d'avoir accepté d'inaugurer ce colloque inédit commun à trois structures institutionnelles donc comme je l'ai dit la délégation au droits des femmes la délégation à la prospective et l'Office parlementaire d'évaluation des choix scientifiques et technologiques je le sais particulièrement attentif aux travaux que mène la délégation au droit des femmes en faveur de l'égalité entre les femmes et les hommes mais aussi très favorable à la mutualisation des travaux entre instances sénatoriales de façon générale voici qui est fait le sujet de notre coloque ce matin femme et intelligence artificielle femme et Ia briser les codes répond à ce double objectif à la fois mettre en lumière un domaine dans lequel les enjeux d'égalité sont déterminants et réfléchir ensemble de façon interdisciplinaire à la façon de lever les obstacles au déploiement d'une intelligence artificielle C générative plus égalitaire dans sa conception ses pratiques et ses résultats à l'occasion de la Journée internationale des droits des femmes nous avons choisi de mettre en lumière un domaine dans lequel modernité et égalité doivent aller de paire un domaine où les avancé scientifiques et numérique ne doivent pas laisser la moitié de l'humanité sur le bord du chemin et si pour une fois on peut s'y prendre un peu à l'avance c'est bien notre matinée de débat s'articulera autour de trois tables rondes qui nous permettront de répondre à trois questions aujourd'hui fondamentales du point de vue des droits des femmes dans le domaine de l'intelligence artificielle d'abord pourquoi si peu de femmes dans les métiers de Lia cette première séquence sera animée par notre collègue Lord Arcos sénatrice de lesesson et vice-présidente de la délégation au droits des femmes elle est issue d'un territoire où ces jeux sont majeurs et voilà plusieurs années que toutes les deux nous voulons nous battre pour travailler sur les femmes dans les sciences et faire rentrer plus de femmes dans les sciences et reconnaître mieux les femmes des sciences ensuite lia est-elle sexiste question volontairement provocatrice qui sera soulevée par notre collègue sénateur Stéphane Piednoir on a choisi l'homme pour se poser cette question là président de l'opexte instance commune à nos deux assemblées parlementaires et pour avoir participé à une mission d'information sur l'ubérisation de la société qui est justement bien dirigé par l'A on voit que il y a des B sexiste à peu près partout enfin comment je commence à répondre mais enfin comment faire de l'IA un atout pour l'égalité femmes homme cette 3è et dernière séquence sera animée par notre collègue Christine Lavarde donc présidente de notre délégation à la prospective cette délégation a choisi pour thématique annuelle de travail lia et l'avenir du service public dans le but de réfléchir à la façon de mettre cet outil au service de l'intérêt général et d'exploiter son potentiel son potentiel sans rien céder sur nos libertés notre humanité et notre souveraineté je laisse donc sans plus tarder la parole à Lord Arcos pour l'introduction de notre première table ronde dont je vous rappelle que c'est pourquoi si peu de femmes dans les métiers de Lia merci beaucoup madame la Présidente cher Dominique monsieur le Président du Sénat cher Gérard cher collègues mesdames et messieurs je suis très heureuse d'animer cette première table ronde de la matinée consacrée à la place des femmes dans les métiers DEA et aux solutions pour attirer davantage de femmes dans ce secteur comme l'a dit Dominique la place des femmes dans les filières et métiers scientifiques est une problématique qui me tient particulièrement à cœur je suis sénatrice de lessonne nous avons sur notre territoire un bel écosystème scientifique et technologique autour du plateau de sa clé cependant la faible présence des femmes dans cet univers est un sujet de préoccupation majeure au niveau mondial selon le Réseau des femmes pour une éthique de l'UNESCO seul 20 % des employés occupant des fonctions techniques dans les entreprises d'apprendre age automatique 12 % des chercheurs en intelligence artificielle et 6 % des développeurs de logiciel professionnels sont des femmes en France 18 % des ingénieurs de l'informatique sont des femmes nous avons peu de raison d'espérer une amélioration de ces statistiques lorsqu'on regarde la situation dans l'enseignement supérieur et même dans l'enseignement secondaire et primaire seulement 30 % des étudiants dans les formations d'ingénieurs et des sciences fondamentales et appliqué et 20 % des étudiants dut informatiqu sont des femmes seulement 15 % des lycé des lycéens qui choisissent la spécialité numérique et sciences informatiques sont des filles et dès le plus jeune âge les filles sont moins encouragées que leurs camarades garçons dans les discipline scientifique alors qu'elles y réussissent tout aussi bien à la délégation au droits des femmes nous croyons beaucoup au pouvoir des rôles modèles et des réseaux de femmes pour inciter les jeunes filles et les femmes à rejoindre des secteurs considérés à tort comme masculins or les femmes qui travaillent dans l'IA sont invisibilisés le New York Times a publié en décembre dernier un classement des personnalités c'est clés de l'IA pas une seule femme ne figurait dans ce classement pourtant de nombreuses femmes ont joué un rôle pionnier dans l'IA a commencé par la rechercheuse feake qui a lancé un programme de reconnaissance d'image par machine learning dès 2007 et qui a diriger la division de l'IA chez Google le manque de diversité de parité dans le secteur de l'IA accroit le risque de biais sexistes dans la conception des algorithmes au détriment des femmes mais aussi de la performance de l'IA s'il était besoin d'un arguments supplémentaires pour convaincre les concepteurs de ces logiciels pour ne prendre qu'un exemple on sait que les logiciels de reconnaissance faciale reconnaissent davantage les hommes blancs que les femmes noires alors que ces constats sont désormais connus pourquoi la situation ne s'améliore-t-elle pas pourquoi y y a-t-il toujours aussi peu de jeunes filles qui rejoignent les filières scientifiques pourquoi sont-elles moins incitées à poursuivre des études scientifiques que leurs camarades garçons tous c pourquoi nous invite à rechercher des solutions des solutions pour casser les stéréotypes dès le plus jeune pour contrer les billets que peuvent avoir les professeurs et conseillers d'orientation pour encourager les jeunes filles et femmes à se lancer dans les métiers scientifiques pour inciter les établissement d'enseignement les laboratoires de recherche et les entreprises à recruter davantage de femmes et pour développer le mentorat et la mise en réseau de femmes pour discuter de ces différents sujets et être en force et force de proposition nous accueillons ce matin Elias j professeur des universités en économie et mathématiques titulaire de la chair UNESCO femm et sciences à l'université paridophim créée à votre initiative monsieur Sarah Cohen bouakia professeur des universités chercheur au lisn je vais quand même dire pour les gens d' initié laboratoire interdisciplinaire des sciences du numérique et directrice adjoin de l'Institut d'ataa de l'Université Paris saclé qui mobilise plus de 1200 chercheurs et enseignants chercheurs issus de 46 laboratoire hélè Dex vris directrice RSE et Copilot du groupe femme ETA au laboratoire de l'égalité qui a élaboré un Pact pour une a plus égalitaire avec des propositions concrètes pour recruter davantage de femmes dans l'IA merci à vous trois pour votre présence ce matin et je laisse sans plus tarder la parole à Monsieur elas [Musique] jignici c'est très bien pouve fa bien monsieur le Président du Sénat mesdames les présidentes monsieur le président mesam Madam les sénatrices messieurs les sénateurs mesdames messieurs je suis absolument ravi d'avoir l'opportunité de de m'exprimer devant vous auprès de donc de cette assemblée sur un thème qui met'est particulièrement cher celui des liens entre femme et intelligence artificielle que je replace dans le cadre plus large de de celui de mon domaine qui est celui des femmes et des sciences alors juste pour commencer par une petite anecdote il se trouve que pas plus tard que que mardi j'étais à Toulouse à l'initiative de l'Institut des des hautes études de l'éducation et de la formation ça se passait au lycée Pierre-De ferma et en arrivant devant le lycée j'avais un groupe de de d'adolescents devant moi trois quatre adolescents qui discutaient donc je j'entendais leur discussion et puis il y en a un qui dit il n'y a pas un seul prof d'espagnol et l'autre qui lui dit oui mais tu as vu il y a pas non plus un seul prof d'anglais et le troisième répond oui oui ce sont des métiers de femmees c'est dire combien effectivement les stéréotypes et les rôles modèles sont extrêmement importants extrêmement prignants et c'est très jeune que nos adolescents nos enfants se font des idées sur les métiers les filières qui sont pour les hommes qui sont pour les femmes qui sont pour les personnes issues de milieu défavorisés qui sont plutôt pour ceux qui ont les codes qu'il s'agit ici de briser donc on voit que ça se passe très tôt euh ça se passe tellement tôt que une étude qui a été publié par par notre chair en janvier dernier qui a été conduite par mon collègue Thomas Breda montre que c'est dès le CP qu'il y a un décrochage en mathématique entre fille et garçon à l'entrée du CP on a exactement les mêmes compétences au milieu du CE1 il y a déjà un écart qui se creuse et cet écart n'est évidemment pas lié à un problème de compétence de la part des filles mais elle ne se positionne plus au top de la classe dans cette discipline là et elles vont tout de suite se reporter sur d'autres disciplines et il s'agit donc de comprendre pourquoi pourquoi ce décrochage non seulement se fait entre CPS CE1 mais va se faire ensuite tout au long de la scolarité les chercheurs parlent de l'quy pipeline de de de tuyau percé où on perd les filles au fur et à mesure comme dans un tuyau d'arrosage qui serait percé d'un d'un peu partout et donc comprendre les raisons et puis surtout comment est-ce que l'on peut agir là-dessus alors évidemment j'ai parlé des des des des rôles modè on on on parle de l'information on parle de du mentorat mais malheureusement ça ne suffit pas il faut aller beaucoup plus loin parce que on sait par exemple la recherche montre que euh les pays dans lesquels les filles réussissent le moins bien en science sont les pays dans lesquels les personnes issues de milieu défavorisés réussissent le moins bien en science la corrélation est très forte ce qui veut bien dire que c'est une question d'organisation sociale que c'est une question de prise en compte des inégalités et des différences et non pas simplement une question d'information et et et de modèle parce que dans le monde globalisé dans lequel nous vivons bien finalement les les modèles on peut s'en saisir partout quel que soit le le pays dans lequel ils évoluent on peut les voir sur les réseaux sociaux mais il y a plus que ça il y a des différences entre entre pays qui sont extrêmement fortes un autre élément qui nous interpelle c'est que les pays dans lesquels donc tout à l'heure c'était les pays dans lesquels les filles réussissent le moins bien mais il y a la question de la réussite mais on peut très bien réussir et pour autant ne pas pas poursuivre des études scientifiques donc ce que l'on montre également c'est que les pays dans lesquels les filles poursuivent le moins des études scientifiques au niveau du supérieur sont paradoxalement les pays les plus égalitaires les pays les plus développés c'est-à-dire notamment notre pays et à tel point que l'on a appelé ça le le le paradoxe norvégien parce que la Norvège s'était attaquée au premier problème qui était celui de la moindre réussite des filles en science donc des programmes euh ont été mis en place pour renforcer en quelque sorte les compéttences des filles et puis au bout du compte on s'est aperçu que certes elles ont amélioré leur niveau mais elles ont continué à ne pas s'orienter vers les études scientifiques à tel point que un on a remis en cause ces programmes qui étaient coûteux en disant mais finalement ça ne sert à rien de dépenser de l'argent public puisqu'elles ne poursuivent pas donc l'objectif attendu n'est n'est n'est pas là ça c'est un moindre mal ça ça a aussi conduit à dire mais puisque dans les pays égalitaires respectueux des droits les filles ne font pas d'études scientifiques c'est que probablement elles n'aiment pas ça on va quand même pas les forcer fin de l'histoire passons à autre chose évidemment la réponse est beaucoup plus compliquée ça n'est absolument pas parce qu'elle n'aime pas ça on sait les sociologues montre que dans les pays les plus égalitaires on a on est un peu soumis à la à la comment dire à l'injonction de l'expression de soi il faut s'identifier et se chercher une identité et l'identité la plus naturelle à laquelle se raccrocher c'est l'identité de genre et l'on a démontré également que c'est justement dans ces pays les plus égalitaires que les stéréotypes sont les plus forts et donc on en arrive à cette question des stéréotypes qui est absolument essentiel euh ce qui veut dire qu'il faut arriver à changer le regard des des filles sur les différentes filières sur les différents métiers mais pas que le regard des filles c'est aussi le regard des garçons c'est aussi le regard de la société dans son ensemble et trop souvent quand on parle de stéréotype quand on parle parfois de oui mais c'est parce que les filles ont moins confiance en elles c'est parce qu'elles sont plus avers au risque finalement on fait porter le problème au filles en disant ben voilà ben elles n'ont qu'à devenir un peu plus courageuse elles n'ont qu'à faire ceci elles n'ont qu'à regarder celles qui les ont précédé et puis euh euh le problème sera réglé non c'est le regard de que la société dans son ensemble porte sur les filles et sur les garçons et sur les métiers et sur les filières et sur les et sur les les compétences et notamment j'ai tendance à penser que lorsque l'on dit que les filles sont plus averses au risque ou ont moins confiance en elles ça n'est pas qu'elles sont plus averses ce risque c'est que elles font face à un risque plus élevé parce que si une fille s'oriente vers les études scientifique et qu'elle échoue on va dire bah oui vous voyez bien ça n'était pas fait pour elle donc le risque qu'elle porte est beaucoup plus important que celui que va porter un garçon et donc c'est pour ça qu'il faut changer le le regard dans son ensemble et pour ça comme je disais ça va au-delà de ce qui veut pas dire qu'il faut pas le faire il faut des témoignages il faut du mentor il faut des rôles modèles mais il faut aussi se donner des objectifs il faut aussi se donner des priorités il faut se donner des moyens en matière d'orientation en matière d'information en matière de structure même de nos filières de formation et et et d'éducation et je crois que que mes collègues vont vont en parler tout à l'heure mais peut-être que notre enseignement supérieur par exemple qui est très organisé très en silo pour l'essentiel bien sûr il existe plein de de filière mixte et cetera mais s'engager dans des études qui sont purement mathématiques ou purement informatiqu ça peut peut-être plus coïncider avec le le le point de vue et l'imaginaire d'un garçon et moins avec celui de de de d'une fille dans le contexte dans lequel on vit encore une fois il s'agit pas d'essentialiser les choses mais dans le contexte dans lequel n nous nous trouvons et donc il y a probablement des choses à faire en la matière et surtout se fixer des objectifs fris on parlait tout à l'heure de de de de l'orientation des choix de majeur donc de de de spécialité d'enseignement de spécialité de on peut choisir les les mathématiques les mathématiques expertes le le l'informatique et cetera au lycée donc il est extrêmement important là aussi que toute l'information soit disposible disponible vous avez parlé des conseillers d'orientation qui doivent être particulièrement briefé sensibilisé mais pas que eux parce qu'on sait que les enseignants les proviseurs sont des prescripteurs les familles sont prescriptrices donc il y a vraiment euh un un un partage de l'information qui est absolument essentiel alors quelques raisons d'espérer quand même parce que on voit que c'est un un nœud extrêmement compliqué à à à à aborder quelques raison d'espérer bien la la situation est très variable selon les pays et si en Corée du Sud il n'y a que 25 % de femmes dans les filières scientifiques la Tunisie que je connais bien compte 55 % de femmes dans les filières scientifiques donc on peut arriver à des situations dans lesquelles il y a plus même de femmes que d'hommes je sais pas si c'est souhaitable mais en tout cas la parité elle est quelque chose de tout à fait accessible et souhaitable l'autre élément le Sénégal est passé en moins de 10 ans de 10 % de femmes dans les filières scientifiques à 29 % de femmes dans les filières scientifiques ce qu'il veut dire que la rien n'est inscrit rien n'est gravé dans le marbre ce sont des solutions extrême des situation extrêmement évolutive alors certes c'est plus facile de passer de 10 à 30 que de 30 à 50 mais en tout cas faire bouger les chose euh est possible ça n'est pour l'instant malheureusement pas le cas en France ou en tout cas on ne bouge pas forcément dans la bonne direction on sait que par exemple le nombre de doctorantes dans la tech a baissé on a fait - 6 % en euh entre 2013 et 2020 alors qu'en Europe on faisait plus 19 %. donc on doit s'interroger également donc on peut faire bouger les choses mais encore faut-il les faire bouger dans la bonne direction et je conclurai là-dessus merci [Applaudissements] beaucoup merci Monsieur Jny on verra si nos collègues ont quelques questions à vous poser mais je passe tout de suite la parole à Sarah Cohen bouakia donc qui est donc directrice adjointe de l'Institut d'ataya de l'Université Paris saclé merci bonjour à toutes et à tous donc je voudrais commencer par vous remercier de me donner l'honneur de vous présenter aujourd'hui quelques points autour de l'intelligence artificielle pour toutes à l'Université Paris saclé alors en bonne enseignante que je suis d'intelligence artificiel je ne peux pas m'empêcher de démarrer par un peu recadrer si j'ose dire le texte l'intelligence artificielle n'est pas née il y a un an avec un certain logiciel dont on parle de plus en plus cette a générative qui qui remplit nos médias aujourd'hui l'intelligence artificielle ne saurait se limiter à cette IA générative néanmoins elle est présente dans nos vies depuis longtemps de façon plus ou moins consciente elle est présente dans nos téléphones évidemment dans nos téléphones intelligents comme on le dit pour nous déplacer d'un point à un autre elle est présent évidemment sur les réseaux sociaux pour nous faire un certain nombre de recommandations elle est présente aussi jusque dans notre téléviseur pour nous conseiller le meilleur film à regarder ce soir pour se détendre en famille et j'ai mis des petits chats en bas à droite parce que au moins cet élément-l ne va pas être polémique mais on a tous eu cette vague de châon hein toutes ces petites étudiantes ces petites adolescentes qui cherchaient châon sur Internet bien je voudrais insister sur le fait que si aujourd'hui quand on tape chaton dans votre moteur de recherche préféré vous trouvez autant d'images de chaton c'est d'abord qu'il y a eu un certain nombre de personnes qui ont anoté des images ça ne vient pas tout seul il y a rien qui permet uneia a de fonctionner sans humains des micro travailleurs un certain nombre de personnes sont derrière l'ensemble de ces images ensuite bien sûr lia elle apprend elle apprend vite et bien néanmoins il y a toujours un humain un expert qui se cache au départ derrière une intelligence artificielle la dernière image c'est celle que j'ai mis en haut à droite de mon slide c'est celle qui vous montre que l'intelligence artificielle je suis comme vous monsieur Larcher je suis une optimiste de l'IA elle va nous aider cette intelligence artificielle elle va nous guider elle va donner des conseil mais en aucun cas elle ne remplacera les experts alors ben comme beaucoup de j'allais dire de régions en France l'Université Paris saclé n'a absolument pas attendu l'année dernière pour construire un grand institut d'intelligence artificielle et donc l'Institut d'ataya existe depuis de très nombreuses années et du coup paf bon c'est pas grave je sais continuer sans mon slide donc vous vous savez le remettre en route ou ok bon donc on est au niveau de on est super merci donc au niveau de la recherche comme vous le disiez madame daros nous sommes sur plus d'un millier de chercheurs 58 laboratoires nous avons aussi bien sûr des relations fortes avec un grand réseau d'entreprises et au niveau de la formation étant directrice formation de cet institut nous avons aujourd'hui 530 modules d'enseignement qui concernent l'intelligence artificiel réparti dans 64 éléments de formation c'est-à-dire des parcours de master ou de licence alors vous le savez probablement l'Université Paris saint-clé est plutôt bien classée dans les classements internationaux et j'allais dire ça un coup ce coup c'est une structure assez complexe on va pas se mentir d'où l'ensemble de ces logos que vous voyez arri à l'écran c'est la rançon de la gloire alors dans ce contexte nous avions en fait toutes les billes en 2022 pour justement répondre à un appel un appel à manifestation d'intérêt sur compétence et métiers d'avenir en intelligence artificielle dans lequel avec Frédéric Pascal nous avons proposé le projet sac School qui a été lauréat donc 11,5 million d'euros pour massifier pour diversifier les enseignements de l'intelligence artificielle dans notre université on parle ici de tout niveau tout domaines depuis la culturation la culturation y compris des personnels de l'université de toute et tous dans cette assemblée pour ceux d'entre vous qui ne sont pas experts en IA pour légiférer pour réguler il est particulièrement important de comprendre les concepts sous-jacents à l'IA je reviendrai aussi sur le fait que nous visons tout milieu et tout âge comme l'a dit Monsieur Joan précédemment alors un premier chiffre l'Université Paris sa clé c'est 48000 étudiants ce que j'ai fait ici c'est que j'ai pris pour une année spécifique des pourcentages qui sont présents et qui finalement coïncident avec les pourcentages nationaux que vous avez donné précédemment et je ne vous avais pas contacté donc vous voyez je suis je suis heureuse de savoir que ça coïncide bien donc vous voyez sur des filières un petit peu technique en butut DUT on est à 12 % c'est quand même un chiffre particulièrement faible la licence d'informatique où nos double diplôme dans lesquels on va faire des mathématiques difficiles et de l'informatique difficile on est entre 20 et 30 %. alors la bonne nouvelle c'est que les filles elles réussissent plutôt mieux en moyenne que les garçons et du coup elles sont quand même en proportion un petit peu plus nombreuses lorsque l'on passe dans des filières à bac + 5 donc là ça y est on commence à à dépasser vraiment les 20 %. alors je vous ai pris l'une des écoles d'ingénieur qui est présente donc dans l'université Paris saclé centrale Supelec et j'ai projeté non pas sur l'informatique mais sur même la spécialité intelligence artificielle et on est autour de 20 %. et le message que je voudrais envoyer c'est que l'intelligence artificielle ne doit pas être laissé ni aux élites ni aux mathématiciens et aux informaticiens il est urgent qu'elle s'ouvre et l'interdisciplinarité ne doit pas rester un vœux pieux un mot clé et on le voit dans les chiffres nous avons monté à l'Université Paris saclé un certain nombre une fois encore de licences double diplôme qui sont des licences particulièrement sélective particulièrement difficile dans lesquelles on ne mélange pas les disciplines on a des personnes qui vont être particulièrement doté à la fois en informatique et en science de la vie par exemple et là vous voyez les chiffres ils sont clairs on est sur 40 60 % des effectifs que ce soit à niveau bac + 3 ou plus tard à bac + 5 ou finalement on tend vers une parité voyez une formation comme l'amage dans laquelle on a de l'informatique et de la gestion des entreprises on a quand même 40 % ce qui par rapport à d'autres formations avec de l'informatique à l'intérieur tempant vers de meilleurs chiffres donc pour moi l'interdisciplinarité elle est clé pour intégrer plus de filles en science alors deuxième élément puisque vous parliez de briser les codes effectivement il nous faut donner les codes et je rejoins complètement ce qui a été dit jusqu'à ce matin ce sont les jeunes filles qui ne sont pas si j'ose dire nés dans les mêmes milieux que les autres qui ont le plus de mal aujourd'hui en France à se retrouver dans ces différentes filières très sélectives informatique mathématique et donc nous avons mis en place des bourses d'excellence qui pousse finalement la mixité et à l'intérieur de cette mixité favorise particulièrement la parité évidemment et l'excellence deuxème point quelle que soit leur raison les filles posent un certain nombre de questions elles sont fondamentalement inquiètes elles l'expriment et donc un autre objectif a été de rassurer globalement les filles mais aussi les garçons vers le fait que les mathématiques et l'informatique ne devaient pas faire peur et donc le fait d'avoir mis en place un tutorat par les pairres d'étudiantes vers les étudiantes joue un rôle clé aussi dans le fait de dédramatiser de démystifier cette difficulté un dernier point et une fois encore je nous sens aligné euh il faut agir tôt on a parlé du CP c'est exactement le genre de profil qu'on a ici hein les petites jeunes filles que vous voyez avec leurs couette elles sont à la fête de la science en train d'apprendre à comprendre comment fonctionne un algorithme de Deep learning grâce justement à des petits robots qui vont leur expliquer ce système sur la photo que vous avez au- dessous vous avez finalement un groupe cette fois en licence et attention en licence ni ni d'informatique ni de mathématique en licence justement ici science de la terre et physique et on a été particulièrement surpris depuis plusieurs années de voir à quel point un certain nombre de révélations ont eu lieu c'est-à-dire que des jeunes filles qui n'étaient absolument pas partis pour faire de l'intelligence artificielle B se sont révélé particulièrement intéressantes on a pu les remettre à niveau et elles sont aujourd'hui dans des filière justement en intelligence artificielle dans les petits clichés qu'on voit apparître hein les Simpsons nous mettent ce que les adolescents appellent des geeks ou des nerdes quel que soit le le le cliché sous-jacent je leur préfère aujourd'hui les décodus du numérique du CNRS que je vous invite à regarder elles ont des des petits visages tout aussi sympathique et elles sont à mettre entre entre toutes les mains voilà une fois encore je vous remercie euh tout niveau tout domaine c'est l'interdisciplinarité qui est clé ouvrir aux différents milieux et et à tous les âges merci [Applaudissements] beaucoup merci beaucoup madame Cohen Boulakia en regardant les images je me rappelle en effet de ce qu' a créé George charpac avec la main à la patte et on n jamais fait mieux je pense pour inciter nos nos nos nos élèves très jeunes à à pouvoir s'intéresser en effet à la science madame hlè Dex van rus donc copilote du groupe femme ETA au labor de l'égalité à vous la parole alors merci beaucoup bonjour à toutes et à tous merci pour cette invitation j'avoue que là c'est très ambitieux je passe en dernier tout ce que je voulais dire a quasiment à 90 % déjà été dit donc je je vais essayer de rebondir c'est ça la répétition entraîne la simulation d'accord donc je suis hlène d ris copilote de du groupe de travail les femmes etia au laboratoire hisire de l'égalité je peux vous annoncer avec fierté que nous avons lancé mardi soir le guide des bonnes pratiques pour une a plus égalitaire entre les femmes et les hommes donc oui effectivement nous avons également lancé le pacte en 2020 mais je voudrais juste revenir sur le Laboratoire de l'égalité quelques instants pour dire que c'est un groupe de donc le groupe de travail les femmesa existe depuis plus de 2017 euh le le Laboratoire de l'égalité promeut avant tout l'égalité professionnel entre les femmes et les hommes et s'est emparé du sujet de Lia depuis plus de enfin avant 2017 pourquoi parce que nous avons constaté que lia générait des inégalités de genre les générait les diffusait les amplifiait et les reproduisait donc c'est pour ça que en tant que lanceur d'alerte le Laboratoire de l'égalité s'est emparé du sujet de la nous avons fait un certain nombre de travaux le Pacte pour une a plus égalitaire où on travaille avec de nombreuses associations le cercle intérêt l'arborus et cetera parce que nous sommes pas en compétition mais en collaboration pour mutualiser pour mutualiser nos savoirs et nos savoir-fa et nous avons également lancé le livre les femmes enfin lia pass sans elle donc de Flora habernhheim et Flora Vincent préfacé par Cédric Villani nous avons organisé l'année dernière le mois de Lia égalitaire et pourquoi je vous en parle et je vais pas continuer très longtemps mais pourquoi je vous en parle parce que ça a été un vrai détonnateur euh le le mois de juin euh comportait cinq euh mardis et tous les mardis midi nous organisions avec les cinq parties prenant euh association entreprise recherche médiia école euh des webinars sur l'IA quels étaient leurs Insight par rapport à chacun de leur de de de le de leur angle de vue et on a recueilli un tel euh telle collecte d'informations qu'on s'est dit on peut pas laisser ça comme ça donc on a voulu continuer plus loin cruncher la data et en fait nous avons lancé donc une grande enquête sur l'IA mais en prenant juste trois parties prenantes les écoles les entreprises et la recherche nous avons été récompensé par la Fondation des femmes des femmes puisque nous avons reçu le Prix un des prix de la Fondation des femmes sur notamment l' l'économie financière des femmes et remise par Isabelle Rome et donc mardi pour revenir à ma Genèse mardi nous lancions officiellement ce ce ce guide qu'est-ce qui est important quand on parle a quand on parle des femmes on a beaucoup parlé on est tous alignés très clairement que ce soit Sarah iè bref on est tous aligné dans cette salle pour dire que il nous manque des femmes mais pourquoi est-ce qu'il nous manque des femmes donc il y a vous avez parlé de responsabilité entre guillemets au tout début de cette session pour moi enfin pour nous la responsabilité elle est tripartite il y a la il y a la responsabilité des parents de l'éducation et des entreprises vous avez cité un moment tout à l'heure que les parents avaient également leur responsabilité parce que et ça on l'a vu quand on a fait nos interviews pour notre guide on a interviewé des écoles d'ingénieurs donc on va pasevenir sur les chiffres qui ont déjà été cités on sait que on a moins de 27 % des de filles qui sort des écoles d'ingénieurs qui manque 100000 femmes ingénieures aujourd'hui en France et c'est vrai que en tant que pays civilisé et je veux dire très avancé on se demande pourquoi est-ce que on a perdu 50 ans parce que la bascule s'est faite en 84 également quand on a eu la réforme du bac avec les les problèmes de math et cetera mais j'ai perdu mon fil pardon vous disiez tout à l'heure euh les parents oui donc on a interviewé un certain nombre de directeurs d'école et très clairement il y a très peu de filles dans les écoles d'Inger évidemment quand il y a les salons de l'étudiant les salons d'orientation qu'est-ce qu'on fait on met les filles en avant pour attirer les filles pour leur dire bah venez regardez on est on a aussi des filles il y a pas que des garçons et en fait on voit souvent que les donc les filles viennent jamais seules elles viennent souvent avec le avec leurs parents et quand elles s'avanceent vers un stand d'école d'un g la plupart du temps ce sont les parents qui leur disent ah non non non c'est pas la peine n'y va pas c'est pas pour toi c'est pas un bon milieu c'est pas un bon environnement tu vas souffrir donc là responsabilité des parents euh responsabilité des écoles entre guillemets que se passe-t-il au niveau de l'orientation on l'a déjà évoqué tout à l'heure il y a un problème d'orientation l'orientation arrive bien trop tard pour les filles quand on parle d'orientation en seconde c'est fini c'est trop tard elles ont déjà décidé donc ça veut dire que il faut parler d'orientation bien avant et si on veut parler d'orientation dès le collège dès le primaire ça veut dire aussi qu'il faut démystifier dégenrer les métiers de la et donner envie le fameux marketing de la de la désirabilité donner envie aux filles d'aller dans les métiers de du numérique de l'informatique comment est-ce qu'on peut faire ça ça veut dire que dès le le le primaire et je voudrais saluer le le l'équipe 40 l'école 42 et notamment Sophie Vigier qui avait qui a œuvré pour que il y ait des des des cours dès la primaire et je crois que c'est CM1 ou CM2 des cours de coding des cours de sensibilisation à l'informatique au numérique et cetera dès l'école primaire donc ça ça a été ça a été acté je crois que son on en a la 2è 2e année scolaire sauf que là à nouveau on rencontre un problème de la même façon qu'on a eu le problème de l'anglais quand on a dit ah il faut que les petits Français parlent anglais super on s'est dit on va commencer en maternel en primaire donc ça c'est c'était génial sauf que qui enseigne le le l'anglais ce sont les profess enfin ce sont les instituteurs les institutrices qui n'ont pas forcément de vocation à le faire et là on se retrouve dans la même thématique on veut apprendre aux enfants on veut les sensibiliser au coding à l'informatique et en fait on n' pas les ressources donc ça veut dire que c'est aussi la responsabilité des profs et là c'est c'est il y a a quelque chose qui va pas donc mes connaissances métier problème de d'orientation problème de de de stéréotype comment on fait pour montrer aux petites filles et aux petits garçons donc on dé genre comment on fait pour leur expliquer qu'il y a pas de métier réservé aux garçons et que les filles ell pe elles peuvent être pilotes astronaut tout ce qu'elles veulent donc là aussi sensib sensibilisation comment on fait pour leur montrer et effectivement il y a les décodeuses il y a les petites filles et je salue aussi le le travail de de de d'association for formidable comme le woman and girls inch digital ladies qui girls WOD qui sensibilise les filles à dire et les garçons c'est bah venez on va vous montrer ce que c'est de façon très concrète et là on reparle des usages comment on parle comment on leur montre que bah c'est pas comment on démystifie en fait et c'est c'est c'est leur montrer l'intérêt et c'est le fait quand on parlait des décodeuses ou les petites filles qui sont en train de construire un robot et ben c'est ça c'est leur montrer que tous les jours lia est dans nos vies et tous les jours elles peuvent contribuer parce que si les filles contribuent contribuent ça veut dire que on les on les embarque dans les stèmes dans les filières scientifiques et ça c'est la première base comment on on on construit le vivier et comment on encourage les femmes à rejoindre les les les à embrasser des carrières scientifiques on a parlé du fameux phénomène du tuyau percé donc effectivement euh au bout de 8 à 10 ans il y a 50 % des femmes qui quittent pourquoi est-ce qu'ell quittent elle quitent parce que B ça on en parlera après avec l'autre table ronde de marine et cetera mais parce que effectivement elles sont pas accueillies et il y a un problème d'environnement ce problème là on le retrouve dans les écoles quand on a lancé le le mardi soir la soirée pour le le le guide des bonnes pratiques on avait Aline Aubertin qui était avec nous donc femme mat numérique mais aussi pardon femme ingénieur et aussi directrice de l'IFEP quand elle a pris la direction de cette école d'ingénieur en fait elle a commencé par faire une chose très simple et là on n pas du tout dans le film the hiedden figures mais presque c'est-à-dire que les toilettes des filles étaient à l'autre bout du bâtiment il y en avait que enfin qu'une toilette pardon parler de ce genre de détail mais ce sont des détails qui comptent parce que si on accueille pas les filles dans les dans les écoles d'Inger si on leur montre pas que elles ont de la valeur que on les attend et que ça passe aussi par les les représentations et par les rôle modè les les le film the hiedden figures les figures de l'ombre je pense que ici tout le monde connaît les figures de l'ombre avec euh Margaret Hamilton Dorothy Vogan et cetera ctherine Johnson bien évidemment ça c'est d'utilité publique il faut montrer il faut donner envie il faut montrer qu'on a des représentations et quand on parle des rôles modè les rôles modèles c'est bien sûr qu'on a toutes nos Simon bien sûr qu'on a the hiidden Figur mais montrons des rôles modèles qui sont qui soient accessibles aujourd'hui un rôle modèle c'est super on parle de réigeant mais les rôles modèles au quotidien ça peut être un professeur ça peut être une quelqu'un une chef d'entreprise je pense aussi à Elisabeth Moreno parce que elle est hyper charismatique parce que elle elle connaît l'entreprise de de la tech et en fait on a besoin de représentation et effectivement quand on pose la question à n'importe qui c'est ah ben tiens c-toi un rôle modèle dans la tech ou un rôle modèle à qui on pense on va penser à Steve Jobs on va penser à Marc Zuckerberg super maintenant si on dit bah citez-moi quelqu'un un rôle modèle au féminin et ben là on est un peu plus embêté donc il faut absolument amener ces représentativités ces questions de rôle modè donner envie euh je voudrais juste terminer sur deux choses le la question du numérique le numérique est un secteur en grande grande croissance normalement un secteur en croissance il évolue entre il prend 2 2 2,5 % de croissance par par an le numérique on est plus de 5 % donc on a vraiment c'est une manne de de de de de métier dans lequel il faut s'investir dans lesquel il faut s'emparer ma dernière chose que je voulais dire c'est également c'est que nous au Laboratoire de l'égalité et notamment avec notre guide on essaie de changer le paradigme on essaie de changer cette vision et là on l'a aussi embrasser arrêtons de penser que le arrêtons de penser que le numérique il y a et négatif bien sûr qu'il y a des destructions d'emploi mais évidemment que l'autre jambe c'est il y a des créations d'emploi aujourd'hui on dit aussi qu'il y a 2 tiers des enfants en maternel qui auront un un métier qui n'existe pas encore on dit aussi que les femmes vont être le plus touchées par le fait que bah toutes les tâches automatisées elles sont c'est le rapport de mins de 2023 qui dit que on est plus de 11 11,8 % qui dit que les femmes vont être touché de plein fouet oui c'est vrai mais parce que il faut aussi embrasser cette transformation et en fait arrêtons de dire de stigmatiser lia arrêtons de dire que tout est négatif on vit suffisamment dans un environnement qui est hyper négatif pour pouvoir essayer d'avoir des choses positives de changer de paradigme et de penser que on peut essayer que c'est aussi une marque de progrès que ce soit dans l'automobile que ce soit dans le médical l'IA est une source de progrès et l'humain ne sera jamais remplacé par le par l'IA ça c'est clair et je terminerai en disant que c'est ces inégalités de genre dans l'IA le fait qu'on manque de filles et qu'il faut encourager les filles dans les dans les stèmes mais pas que on peut très bien être créative marketing et cetera parce que il est vrai qu'on en que comment statistiquement on envoie les filles où elles sont sur représentées dans les métiers dire disons féminin la com la RH le K ah oui ça c'est sûr elles sont sur représenté avec des salaires moins attractifs en revanche si on basculait dans la dans la tech on s'aperçoit qu'elles sont sous représentées et que les elles sont mieux payées donc donc ça veut dire qu'il faut que la tech est forcément un levier d'émancipation sociale et financière et que cette réduction des inégalité n'est pas qu'un simple combat de femme on n'est pas que des femmes à dire il faut y aller on est et ça concerne aussi les hommes parce que les hommes sont nos alliés donc cette cette réduction des inégalités n'est pas qu'un simple combat de femme c'est un sujet sociétal dont tout le monde doit s'emparer je vous remercieors je permets deux observations en terme de modèle euh vous allez me dire si c'est aussi un stéréotype mais beaucoup de jeunes filles vont faire des études scientifiques quand elles ont elles-mêm une maman ingénieur ou dans les sciences alors ça peut être aussi en réaction de pas vouloir faire la même chose que la maman mais en général en tout cas moi sur le plateau de sa clé j'en vois beaucoup et j'ai j'ai j'aime bien les notes positives l'École polytechnique le fait mais aussi beaucoup d'écoles d'ingénieurs d'aller en effet dans les classes et pas qu'au lycée pour montrer enfin casser ses stéréotypes montrer que peut-être que les filles sont plus dans les sciences appliquées hein on dit toujours que peut-être le côté Scien dur et plus compliqué qu'on a besoin de concrétiser en fait certaines choses moi j'ai souvent dit à Cédric bilani qui aurait pu être ici aujourd'hui que si j'avais appris les maths avec lui je pense que j'aurais pas été traumatisé comme je l'ai été c'est c'est c'est vrai que je je je pense qu'on a peut-être une autre façon parler avec le professeur de mathématique monsieur Piednoir dans quelques instants peut-être mais je pense qu'il faut en effet aussi changer peut-être la méthode en fait et la pédagogie qu'on qu'on peut avoir et et je pense que c'est très important et je retiens une autre aussi observation positive sur l'interdisciplinarité pourquoi parce que j'avais soulevé vraiment enfin dénoncé on va dire ce qui est pour moi un scandale de la réforme du bac d'avoir retiré les m dans le Tron commun en Première et Terminale je me souviens parce que c'était l'isabeth borne qui était au bon à ce momentl du prier comme première ministre elle ne le savait pas ou en tout cas c'était pas revenu à elle donc en tant qu'ancienne élève de Polytechnique elle est tombée de sa chaise euh ils l'ont remis dans le en première mais ne le mettant pas en terminal dans les deux dernières majeures ça sert à rien donc je dois dire que cette interdisciplinarité peut peut-être sauver en effet ces filières en tout cas ou en tout cas cette représentativité des femmes parce que sinon ça serait c'est c'est définitivement fermé pour elle si dès le rentrée de lycée pour mieux passer son bac avec le bien évidemment le contrôle continu et ben elle prennent autre chose donc voilà pardon d'avoir été un peu un peu longue mes chers collègues ou ou autres intervenant si vous voulez poser des questions à nos trois intervenants nous avons un petit peu de temps n'hésitez pas vas-y vas-y Dominique moi moi je vais rebondir parce que je trouve ça intéressant surtout euh alors si je prends dans l'ordre ce que Monsieur J vous nous avez dit c'est-à-dire que dans dans les pays les plus égalitaires c'est là que les filles vont le moins mais aussi c'est là où en fait ceux qui sont les moins aisés vont aussi le moins facilement évoluer or donc c'est plus une remarque je pense que aller dans les sciences l'avantage c'est que en fait on apprend tout à l'école et on n pas besoin d'avoir une grosse culture familiale avant ce qui n'est pas le cas par exemple pour rentrer à sciencep il vaut mieux avoir quelques codes et une famille plutôt euh accompagnante pour pouvoir y accéder alors que les sciences en fait ça n'est pas le cas et donc c'est une façon effectivement de pouvoir s'élever socialement que d'aller dans les sciences et et moi je le vois dans ma famille ils ont commencé par être technicien puis les enfants de techniciens sont devenus ingénieurs et puis voilà et après bah après ça permet d'aller partout et il faudrait pas les perdre ensuite faudrait effectivement qu'on continue à à en garder mais euh mais c'est relativement intéressant et c'est vrai que euh 2ème sujet aussi sur comment on fait pour attirer plus facilement les filles ou ou les garçons euh nos stéréotypes sont très forts également à vouloir que dans un couple euh ce soit l'homme qui rapporte l'argent et la femme du coup quand elle travaille est un métier qui est du sens non mais et c'est un peu comme ça qu'on le fait et on voit moins euh parfois on explique moins le sens au niveau des sciences or il y a énormément de choses et c'est vrai que l'interdisciplinarité permet d'aller vers ça puisque et je ferai une remarque sur l'école spécial travaux publics dont je suis issue ils ont commencé à avoir plus de filles arrivé dans la filière bâtiment quand ils ont fait le double cursus architecte ingénieur c'est qu'il y avait la conception du bâtiment et la façon de le faire tenir et bien il y avait plus de sens à le créer plus le faire tenir que que à ne faire que que la partie purement technique et donc là effectivement ça permet d'augmenter donc l'interdisciplinarité effectivement c'est une chose que je retiens dans nos travaux futurs c'est quelque chose de d'intéressant je serai pas plus longue mais merci beaucoup c'était effectivement très intéressant vous voulez réagir allez-y oui je voulais dire que quand on parle de code évidemment il y a les codes sociaux culturels et cetera qui sont très difficiles à à acquérir quand on ne part pas du d'un bon pied mais a aussi tout simplement les codes de l'orientation euh bien sûr si on a choisi des études scientifiques si on choisit l'intelligence artificielle et cetera on a de fortes chances d'avoir après un métier rémunérateur mais encore faut-il le savoir euh il y a des études aux États-Unis qui ont montrer que dans les choix même dans le supérieur le choix des des major donc des des des disciplines principales et bien les filles ne choisissent pas des filières qui sont moins sélectives ou euh moins euh ou plus ou moins difficile que celle que choisissent les garçons donc si on classe les filières par sélectivité les filles font des choix équivalents à ceux des garçons en revanche si on classe les filières par niveau de rémunération 10 ans après avoir obtenu son diplôme on s'aperçoit comme par hasard que les garçons ont choisi les filières les plus rémunératrices et les filles se sont euh étalé plus largement sur l'ensemble des des des filières ce qui veut dire que cette informationl quelles sont les carrières qui sont derrière quelles sont les possibilités qui sont derrière que si je prends pas l'aspect math je risque de ne pas pouvoir ensuite accéder à tel et tel filière de de d'enseignement les jeunes ne le savent pas ou ne le savent pas de manière uniforme sans compter que on a parlé du rôle des parents tout à l'heure c'est vrai que l'injonction à peu près générale que donne les parents et il faut bien travailler à l'école mais il y a une injonction secondaire qui est peut-être plus donnée au garçons qu'au fils c'est oui mais si tu n'arrives pas à être bon en tout concentre-toi sur les mathématiques sur la physique enfin sur les disciplines scientifiques et la fille elle on va la laisser choisir de manière libre et cette liberté a priori euh la liberté c'est une bonne chose mais c'est une bonne chose quand on est bien informé donc on revient toujours à à à à cette question et là encore le rôle des parents si un garçon qui est bon en tout dit j'ai décidé de faire des études d'histoire ou de français on va lui dire ah mais c'est dommage quand même tu pourrais faire ingénieur en revanche si la fille est bonne en tout et dit j'ai décidé de faire des études d'histoire ou de français ou de philosophie on va lui dire mais l'essentiel c'est que tu t'épanouisses ma fille et à la limite peut-être même que si elle dit je vais faire des études d'ingénieur on va lui dire mais tu es sûr c'est vraiment un univers qui est extrêmement dur et ça n'est pas faux on le voit tous les jours dans nos écoles d'ingénieur dans nos dans nos filières scientifiques il y a un sexisme ambiant et ceci explique cela c'est parce qu'il y a très peu de filles et beaucoup coup de garçons qui va y avoir une pression extrêmement importante il va y avoir des agressions sexistes et sexuelles c'est ce que montre notamment Clémence Perronet dans ses travaux qui montre que les filles finalement sont exposées tout au long de leur scolarité à toute une série de mini agressions sans parler des grosses agressions mais de de mini agressions qui vont avoir pour effet de les éloigner des disciplines et des parcours scientifiques donc ça n'est pas que une question encore une fois de de modèle il il y a vraiment des problèmes de société profonds à à abord de manière courageuse et alors moi je voulais rebondir sur ce que vous venez de dire par rapport à ces agressions et par rapport à minis agressions et cetera c'est qu'en fait il y a une prise de conscience de la part des écoles qui a ce sexisme ambiant et donc on arrive de plus en plus à une tolérance zéro de que ce soit les agressions verbales les les les choses extrêmement déplac et cetera et donc ça c'est aussi le fait qu'on que les lignes sont sont en train de de de bouger et je voudrais juste si vous me l'autorisez une mini mini digression quand on parle de métier rémunérateur moi ça me fait ça m'évoque le fait que évidemment il y a un écart salarial entre les femmes et les hommes alors il y a deux choses il y a un on manque cruellement d'éducation financière que ce soit alors les G en fait l'éducation financière on n a pas on a juste nos parents qui nous disent tu ouvres un un un t d'éparne logement tu tu épargnes et puis bref des choses très très basiques mais qui sont pas poussé les garçons eux se vont davantage tendre vers faire cette éducation financière donc pour moi c'est très important de de créer une éducation financière pour les filles enfin pour les garçons mais aussi et surtout pour les filles deuxièmement pourquoi elles sont moins payées parce Queen fait les filles à l'entrée ell enfin les femmes pardon elles ne négocient pas leur salaire les hommes négocient leur salaire de la même de la même façon quand on elles ont elles ont avancé dans dans leur carrière elles n'osent pas elles n'osent pas demander des augmentations moi je pars du principe ce qui ne se dit pas ne se sait pas donc si on ne demande pas d'augmentation et comme disait également l'ancien ce de de SAP Gérald Carsenti un compliment n'est pas une augmentation donc là aussi il y a il y a du travail à faire non madameen boul voulait peut-être réagir et puis après Stéphane je voulais re dire sur le sur le la partie interdisciplinarité et peut-être aussi la partie école pour dire que finalement en France on est quand même toujours dans un vocable assez élitiste dans lequel on a des grandes écoles ces grandes écoles qui finalement ne représentent pas en terme de pourcentage une sortie sur le marché aussi importante que le pourrait le faire des universités je me permets aussi de faire un petit clin d'œil sur un certain nombre d'articles qui sont sortis dans la presse récemment donc qui montrent que les doubles diplômes diplôme de Licence sélectif que nous avons aujourd'hui permettent aussi bien que des classes préparatoires aux grandes écoles d'entrer dans ces très grandes école d'ingénieur et que justement la proportion des filles y est plus forte puisque par défaut elles ont l'impression que la compétition y sera moins importante donc voilà je pense que l'université aussi elle a besoin de elle est multiforme et elle a besoin de de s'ouvrir deuxème point sur l'interdisciplinarité je voudrais insister sur un point là c un peu comme quand on a ces écoles d'ingénieurs qui sont l'élite et puis le reste qui reste un petit peu la masse l'interdisciplinarité a souvent tendance à être vu comme pas vraiment quelque chose la discipline ça c'est quelque chose de sérieux l'interdisciplinarité c'est quand on est bon ni dans l'un ni dans l'autre d'accord là encore on y a un sacré travail à faire l'interdisciplinarité c'est pas tout mélanger c'est devenir particulièrement fort dans les deux une fois encore les doubles diplômes de licence ce ne sont pas des étudiants qui ne savent faire ni l'un ni l'autre ce sont des étudiants qui ont un double diplôme à l'arrivée ils sont meilleurs dans la première des disciplines et dans la deuxè je commence moi je je voulais vous poser la question enfin de de deux sujets sur lequel j'aurais voulu vous entendre c'était d'abord le premier sujet qui est la reconversion parce qu'on a beaucoup parlé d'amener les filles avant vers les métiers de Lia mais aussi de la manière dont on peut attirer des femmes dans les métiersa une fois qu'elles sont dans le parcours prof professionnel et surtout à la lumière des de la variété des métiers de Lia donc on peut même avec un background d'études non scientifique on peut être être amené vers les métiers de Lia et certains d'entre nous en sont la preuve et puis deuxième sujet sur lequel j'aurais bien voulu vous entendre aussi c'est les phénomènes qu'on voit aussi de désertion des femmes qui ont qui ont suivi des mes carrières scientifiques enfin des des études scientifiques qui ont entamé des carrières scientifiques et puis à partir d'un âge euh partent si vous pouviez peut-être merci marine effectivement deux choses il me semblait que la première je je l'avais plus ou moins mentionné en disant que effectivement on a besoin de filles dans les stèmes mais pas que il y a de la place pour tout le monde dans l'a et le but c'est bien sûr d'avoir des femmes ingénieures qui soient au cœur du réacteur pour justement construire les les les algorithmes mais que plus on avait de femmes qui étaient présentes et pas simple ement euh dans au cœur du réacteur mais également bah marketing parce qu'on a besoin de créativité et cetera donc ça c'était une une chose dont on avait besoin et notamment pour la diversité qui est source de performance et je voulais aussi revenir effectivement je l'ai j'ai oublié de le mentionner donc merci de me le rappeler la reconversion et je pense à social Builder d'Emmanuel laroc que ce soit pour les femmes qui sont en milieu défavorisé ou les femmes en réinsertion en reconversion pas réinsertion mais reconversion quel que soit leurs leur âge euh Emmanuel fait un travail formidable où on n pas besoin d'avoir quel que soit le le niveau qu'on est quel que soit le bagage académique qu'on est ou pas du tout ou pas on peut effectivement euh donner un nouveau tournant à sa vie et et ça ça peut être aussi un petit pas de côté merci marine oui merci je vourrais d'abord apporter un un double témoignage de mon ancienne vie j'étais professeur de mathématiques il se trouve que j'ai enseigné d'abord une bonne partie dans le secondaire puis ensuite dans le supérieur dans les fameuses classes préparatoires aux grandes écoles et dans le secondaire le premier témoignage c'est ce qui m'a marqué un épisode avec dans une classe de seconde euh il me semble-t-il où je faisais des petit exercices de d'intersection dans l'espace qui pose généralement des petits soucis de de de visualisation et une une jeune fille qui qui butait sur un tel exercice et à qui j'aiessayéis d'expliquer tant bien que mal que c'était pas si compliqué que ça et qu'on pouvait s'y prendre mais elle m'a dit non non mais ne vous donnez pas de mal moi de toute façon je suis une fille et donc on sait bien que la vision dans l'espace c'est pas fait pour les filles et franchement j'ai failli tomber de ma chaise euh parce que je et j'ai pas je l'ai interrogé j'ai d mais d'où tu sors ça euh elle elle était incapable de me dire euh ouais ce qui était on était en seconde ça rejoint ce que vous disiez tout à l'heure je sais plus qui disait ça que finalement en seconde les les jeux sont faits et sans doute que les stéréotypes sociaux sont déjà totalement ancrés euh qu'on a entendu des des des choses euh des communications et que désormais on est sur des sur des rails enfin voilà ce ce témoignage là ça vaut ce que ça vaut parce que c'est un exemple parmi d'autres et j'aime pas la démonstration par exemple en bon matthux évidemment mais euh néanmoins ça ça c'est assez révélateur le deuxième témoignage du coup quand j'étais euh enseignant en classe préparatoire euh me fait dire que bien sûr le vivier des des des jeunes filles en en séries scientifiques lorsqu'il y avait encore une série yes que je regrette à titre personnel et bien ce vivier déjà en terme de de parité extrêmement déséquilibré mais le choix des classes prépa j'étais dans un lycée où donc on avait des bags scientifiques et ensuite on avait des classes prépa scientifique et littéraire bien sûr mais aussi ECS c'est ce qu'on appelit les les prépas à chaussée management et bien le le déséquilibre est encore plus grand dans les classes prépa scientifiques où là je sais pas il y a une fille pour pour 15 garçons en gros que dans les écoles de management où on est quasiment à parité systématiquement on est à parité ce qui me fait dire peut-être que ça vous je voudrais vous entendre là-dessus mais c'est une suggestion le fait de s'enfermer pour les filles de s'enfermer dans un cursus entièrement scientifique peut faire peur alors que dans un cursus qui est ouvert hein le pour ceux qui ne connaissent pas la prépa HC c'est des mathématiques à haute dose d' très bon niveau mais aussi beaucoup de langues beaucoup de littérature beaucoup d'histoires géo de de géopolitique et cetera donc ça c'est c'est c'est peut-être un billet qu'il faut sur lequel il faut travailler et puis j'ai quand même une recommandation j'ai entendu ma collègue Lord D'cos tout à l'heure parler de sciences dur c'est une bataille c'est une bataille que je mène déjà depuis plusieurs années je je je ne comprends pas pourquoi enfin comment voulez-vous donner envie à des jeunes de vous inscrire dans un cursus vous allez faire des scices dur waouh déjà on a on a découragé la moitié du public et peut-être des jeunes filles qui sont encore plus sensibles à cette cet aspect aspect des choses on fait l'effort pour les sciences humaines et sociales de dire les choses en intégralité d'ailleurs on éutilise volontiers l'acronyme SHS qui ne choque personne je pense que de dire science exacte et expérimentale c'est pas le bout du monde si on invente un nouveau sigle s de par exemple je pense que on est capable de le faire on en a tellement dans No dans notre quotidien franchement je pense que ça peut jouer science dur à qui ça peut qui ça peut faire rêver dans notre payso oui merci beaucoup merci pour vos présentations et puis ceux qui ont déjà rebondi aussi peut-être un peu des des petits témoignages personnels qui peuvent aussi ajouter à à la discussion euh moi j'ai fait des j'ai fait parcours matsup et j'ai fait une école d'ingénieur en en télécommunication et je l'ai fait dans à la fin des années 80 2e partie des années 90 donc à une époque où on avait le boom naissant de l'Internet et des réseaux mobiles donc on aurait pu penser parce que justement ces sciences qu'on appelle dur à tort effectivement pouvaent démontrer qu'il y avait là une une une opportunités des opportunités économiques de métier dans dans des extrêmement diversifié enfin c'est sur dans le numérique enfin quand même avec beaucoup de de perspectives que ça allait peut-être pouvoir susciter plus de vocation et je me souviens d'avoir discuté une dizaine d'années plus tard avec euh le le directeur de de mon école d'ingénieur et qui en fait s'inquiétait du fait que on était déjà pas nombreuse à l'époque euh que il y avait eu un recul même en fait du nombre de de de jeunes filles de de jeunes femmes étudiantes dans cette école d'ingénieur euh parce que il y avait eu entre-temps euh la la la réputation du monde justement de l'entreprise dans le numérique d'un monde très masculin extrêmement dur avec des horaires très avec des horaires très difficiles qui ne permettaient pas un bon équilibre entre vie personnelle et vie familial et que les femmes et peut-être effectivement ça fait partie aussi de des stéréotypes et des attentes qu'on a d'elle dans la société mais peut-être aussi une approche plus équilibré en général parce que de par les les charges qu'elles ont en général dans la la société de rechercher plus sûrement un équilibre plus que une rémunération voilà et donc je pense que la la question effectivement du monde de l'entreprise encore aujourd'hui et et là on voit avec lia justement l'interdisciplinarité peut être beaucoup plus encore plus mise en avant grâce à l'IA parce qu'on voit bien et ça devient grand public le nombre de domaines où on peut intervenir dans l'IA mais je ne suis pas sûr que on sache valoriser les métiers et le travail dans le milieu professionnel privé en particulier et la recherche c'est encore un autre sujet mais que je connais moins bien moi j'ai travaillé essentiellement dans le privé toute ma vie et aux États-Unis et en France et et je je crois que il y a il y a vraiment ce sujet de comment est-ce qu'on valorise les métiers et et très tôt pour effectivement pouvoir agir sur sur la question de de l'orientation le plus tôt possible pour casser ces ces ces stéréotypes et et je pense justement parce que j'ai travailler et aux États-Unis et en France on a globalement euh quand on est une femme dans des milieux masculins en général en politique c'est vrai aussi et et et en particulier dans le monde scientifique on a ni le bénéfice du doute ni le droit à l'erreur et je crois que c'est encore plus marqué en France que ça ne l'ai aux États-Unis et donc ça aussi c'est vraiment un effectivement un problème d'éducation en général et de casser les stéréotypes pour les femmes qui jeunes filles les filles qui l'ont intériorisé et pour les garçons aussi voilà merci beaucoup oui je crois je crois que le la baisse effectivement du nombre de filles dans les filières de l'informatique donc il y en a moins aujourd'hui qu'il n en avait dans les années 80 certes c'est probablement lié à l'image qui a été véhiculé sur sur les métiers mais ça n'est pas non plus un hasard dans les années 80 l'informatique était é une discipline de service aujourd'hui ça devient une discipline reine elle devient un enjeu de pouvoir et comme par hasard les femmes s'en retrouve évincé donc il y a il y a il y a un vrai sujet alors bien sûr elle s'en retrouve évincé de manière indirecte via les images qui sont colportés et cetera mais ça n'est pas un hasard et il faut se poser je pense aussi les questions en terme de rapport de force ou en tout cas d'enjeu de de de de pouvoir les les les les les deux trois autres éléments que que je voulais souligner alors juste pour pour l'anecdote mais lorsque je suis arrivé en en classe préparatoire à l'époque on faisait encore du du dessin industriel ou du dessin technique et j'y arrivais tout aussi bien que la jeune fille que que vous décriviez c'est-à-dire que que je je n'arrivais pas à voir dans l'espace et à la première difficulté mon professeur me dit non mais c'est normal vous les maghrébains vous ne voyez pas dans l'espace bon ben c'était réglé c'est-à-dire qu'à partir de ce moment-là j'ai arrêté d'investir dans cette discipline je me suis reporté sur d'autres alors il se trouve qu'en en prépa c'était pas la discipline la la plus importante donc ça ne m'a pas porté préjudice mais le fait est que on peut très vite enclencher des mécanismes de censure en disant bah c'est pas fait pour moi je passe à autre chose je vous rejoins également sur le fait que les filles ont tendance effectivement à à chercher des des des des filières des formations qui sont pluridisciplinaires elles vont s'investir plus uniformément c'estàdire on le voit dans le résultat dans le secondaire une fille qui est bonne en français est très souvent aussi bonne en math et aussi bonne en histoire et aussi bonne en langue et cetera alors que les garçons va avoir des profils plus pointus euh ce qui fait que elles vont plus avoir le choix aussi c'est-à-dire si elle sent que les choses sont tendues du côté des maths ou de l'informatique pour quelque raison que ce soit elle a la possibilité de se reporter aussi vers d'autres types d'études ce qui sera moins le le le le cas de du du garçon et donc offrir des filières qui sont mixtes qui proposent de la pluridisciplinarité c'est une manière de les attirer et en plus ça correspond à des besoins de la société donc ça n'est pas pour faire plaisir aux filles c'est que c'est un un réel besoin de de de la société et d'autre part prendre en compte dans les critères de sélection ces compétences là c'est aussi un moyen d'avoir plus de filles tout à l'heure je parlais de Toulouse donc il se trouve que je comme je disais tout à l'heure je je je reviens de Toulouse je discutis avec des enseignants de l'INSA Toulouse ils ont 40 % de filles à l'INSA Toulouse plus que dans les autres INSA tout simplement parce que dans leur critèrees de sélection à l'entrée ils prennent en compte évidemment les notes de mathématiques de physique mais ils prennent aussi en compte les notes de langue les notes de français avec un poids qui fait que les filles se retrouvent non pas avantagé parce qu'elles ne sont que 40 % mais enfin leurs compétences sont pleinement prises en compte et donc peut-être qu'il faut aussi que l'on réfléchisse à nos critères de sélection parce que c'est trop facile de se dire ah ben nous on a juste pris les meilleurs et bah tant pis ça n'était que des garçons on va faire avec alors non euh excusez-moi si vous avez d'autres aè question on va passer peut-être quand même au au la deuxième table ronde pour laisser le même temps à peu près euh mais madame vous pourrez peut-être reposer la question à mon avis sur la deuxème table ronde merci beaucoup aux trois intervenants et et je voudrais avoir un aussi un un remerciement pour Mathilde quê et toute l'équipe de la délégation d'avoir organisé d'avoir orchestré cette table ronde très intéressante maintenant madame Présidente je vous cède la parole pour la deuxème table ronde et bien pour la passer immédiatement à Stéphane Piednoir merci chers collègues présidente de délégation droits des femmes et et prospective mes chers collègues mesdames et messieurs alors alors je vais introduire cette deuxème table ronde en tant que président de l'OPEX pour l'OPEX cette le sujet qui nous réunit ce matin est vraiment d'une grande importance je vais oublier de saluer le premier vice-président de l'OPEX qui est à mes côté pour ceux qui ne connaissent pas le fonctionnement c'est une délégation bicamérale 18 députés 18 sénateurs et on alterne la présidence entre donc l'Assemblée nationale et le Sénat tous les 3 ans donc j'ai j'ai pris la la relève de Pierre Henriet en novembre dernier donc je disait que c'est un sujet qui intéresse l'Office parlementaire d'évaluation des choix scientifiques et technologiques à à à double titre d'abord bien sûr parce qu'il s'agit d'intelligence artificielle et donc qui est au cœur des des travaux de l'opexte et s'il est un sujet aujourd'hui que où tout choix technologique est en même temps un choix politique c'est bien celui de l'intelligence artificielle qui va conférer le pouvoir une partie du pouvoir en tout cas l'Office a d'ailleurs déjà publié plusieurs travaux en la en la matière avec des des en tenant compte des évolutions spectaculaires des dernières années qui ont conduit les bureaux de l'Assemblée nationale et du Sénat de saisir l'OPEX puisque c'est comme ça que nous nous travaillons et nous avons plusieurs rapporteurs qui qui se consacrent actuellement à à à ces à ses progressions les députés hugette tigna et Alexandre SABATOU d'un côté et les sénateurs Corine narassigin qui est présente et Patric Gez qui est également présent spécialiste du numérique qui sont au travail depuis plusieurs semaines avec leurs auditions et qui rendront leur rapport probablement au printemps la fin du printemps c'est l'horizon qui est fixé par ailleurs c'est le deuxème deuxème point la faible présence des femmes dans les métiers scientifiques on vient de largement d'évoqué sur la première table ronde est aussi une préoccupation de de longue date de l'Office Parlementaire nous avions d'ailleurs organisé un grand colloque sur le sujet en juin 2018 à l'Assemblée nationale là aussi avec la délégation au droits des femmes sur ces deux aspects donc l'intelligence artificielle et la place des femmes dans les métiers scientifiques et dans les sciences je vrais évidemment saluer le rôle de de Cédric Villani mdaille fields il y a quelques années ancien député ancien président de de l'opexte et par ailleurs auteur en en 2018 du rapport qui était à l'origine de la stratégie nationale de notre pays en matière d'intelligence artificiel avec notre première table ronde donc nous nous sommes interrogés sur la place des femmes dans les métier de l'intelligence artificielle voyons maintenant ce qu'il en est du côté des IA elle-même avec une table ronde consacrée à la question des biais algorithmique et plus précisément des biaets de genre des intelligences artificielles pour le dire de manière provocatrice comme l'a dit la présidente Dominique Verrien tout à l'heure et qu'elle m'a gentiment confié ce ce rôle en tant qu'homme lia est-elle sexiste voilà ce qui va nous occuper sur cette deuxième table ronde alors un petit parallèle avec la langue anglaise qui ass ceciie de de particulier qu'elle n'oblige pas à choisir la plupart du temps entre masculin et féminin ou du moins plus rarement qu'en français on peut penser au nom des des métiers par exemple et pourtant si vous demandez à une IA générative comme alors dal je le dis en en en francisé m journ de représenter une personne exerçant tel ou tel métier sans préciser s'il s'agit d'un homme ou d'une femme on va en fait j'allais dire avoir des surprises finalement pas de surprise vous aurez presque que toujours un médecin une infirmière un PDG et une secrétaire je vous passe les différences d'âge de de physique et tout le reste mais alors comment se fait-il qu'on qu'on en soit arrivé là avec des des IA qui finalement reproduisent voir amplifient les stéréotypes c'est évidemment si on on ressort ce type de d'image faut bien comprendre que c'est l'objet de la Table Ronde il y a un problème spécifique à l'intelligence artificielle à l'apprentissage par intelligence artificielle par opposition à la informatique classique qui est codé et donc qui qui est fondé sur des règles programmées explicitement par la main humaine avec des orientation qu'on peut déterminer à l'avance pour lia on ne dit pas à la machine qu'il y a des métiers d'hommes et des métiers de femmees elle l'apprend toute seule on la laisse construire ses propres règles à partir des données utilisées pour son entraînement et si 90 % des secrétaires sont des femmes et bien une réalité statistique devra deviendra un biais algorithmique c'est-à-dire une règle prescrite est potentiellement discriminatoire mais alors que faire on peut évidemment contraindre lia au moment de de sa réponse avec un une règle particulière on parle d'alignement dans ce cas-là tu représenteras autant d'infirmi que d'infirmière voilà une possibilité mais on on perçoit bien les limites d'une telle solution forcément ponctuelle arbitraire chronophage et cetera on peut aussi et surtout intervenir en amont sur les données d'entraînement d'apprentissage et sur les algorithmes alors comment selon quel critère décidé par qui difficile de de répondre les IA sont aujourd'hui des des boîtes noires pour un certain nombre d'entre nous qu'il dont le secret est assez difficile à percer donc il faut commencer par comprendre comment tout cela fonctionne c'est pour ça que je vous propose de de passer d'abord la parole à Jessica Hoffman dont c'est le métier chez chez Google dans le cadre du programme de recherche père pour people ai research si je ne m'abuse merci monsieur le Président bonjour à toutes et à toutes alors je me présente je suis ancienne élève de l'École normale supérieure de Paris le ns où j'ai fait mes études en informatique puis je suis partie faire une thèse à ut Austin l'Université du Texas Austin une thèse en nia puis j'ai fait un post doctorat sur l'implémentation algorithmique de l'éthique pour arriver à Google où je suis dans l'équipe d' responsable voilà donc euh le thème de la Table Ronde c'est li sexiste donc pour order le sujet euh je vais commencer par un exemple l'exemple du recrutement donc si on a un algorithme à qui on veut apprendre qui a embauché on va lui donner un historique de CV on va lui dire qui a été embauché ou non ensuite l'algorithme va apprendre tout seul quels sont les paramètres importants donc il va par exemple apprendre que l'école qu'on a faite est importante que les stages qu'on a fait sont importants et normalement il va apprendre que par exemple nos passents sont pas très importants bon euh malheureusement comme l'a dit monsieur piennoir on si s'il y a eu en fait des discrimination avant l'algoritthme va apprendre tout seul en fait qu'être une femme c'est pas bien et donc c'est vraiment dommage donc il y a une candidate qui arrive et l'algorithme va lui donner un mauvais score un score moins bon que si c'était un homme donc c'est mathématique li va refléter les BET des données donc à la question l Estelle sexiste il y a une réponse et la réponse c'est oui d'un pour pour un chercheur en fait c'est une non question li a est sexiste l' a réflète les bis de la société donc elle est sexiste donc voà donc moi je vais vous dire aujourd'hui ce qu'on peut faire pour lutter contre voilà donc li c'est très large de la même façon qu' mathématique il y a l'algèbre la géométrie c'est des domaines très différents et des techniques très différentes on y a je veux dire qu'il y a trois principaux domaines la classification la recommandation et les générative donc la classification c'est ce qu'on vient de dire donc si on a des données après on les classifie par exemple est-ce qu'on doit embaucher quelqu'un ou non euh là les problèmes de sexis c'est surtout des problèmes d'erreur par exemple la compétence égale on va dire qu'on n'embauche pas une femme mais on va embaucher un homme je vous ai pas donner cet exemple par hasard en fait il y a eu un énorme scandale en 2018 où on a vu que un des algorithmes utilisés parce que les algorithmes de recrutement sont utilisé aujourd'hui donc l'un des algorithmes utilisés était sexiste et avait aussi beaucoup d'autres problèmes voilà donc ça c'est pour la classification ensuite la recommandation c'est par exemple vous êtes sur Youtube vous avez fin de regarder votre vidéo et vous en propose une autre là les problèmes de sexisme c'est surtout des problèmes d'invisibilisation du contenu des femmes et enfin générative générative c'est les modèles avec lesquels on peut discuter comme Gini de Google ou chpt donc c'est des modèles qui peuvent inventer des choses par exemple des poèmes même et là les problèmes de sexisme sont surtout des problèmes de stéréotype voilà moi ma recherche concentre sur l' générative donc aujourd'hui je vais parler d' générative donc pas de classification ni de recommandation alors il faut savoir qu'il une révolution technique en 2018 ce qu'on peut faire aujourd'hui n'a rien à voir avec ce qu'on pouvait faire avant il y a vraiment eu un avant et en après aujourd'hui la technologie qui est derrière les génératives s'appelle les large language model LLM c'est ça LLM et ils sont entraînés avec tout ce qui est en accès libre sur Internet euh la façon dont ça marche c'est ça apprend quels mots sont dit dans quel contexte avec quels autres mots ça apprend aussi à faire attention au bonne au mots importants euh donc par définition un large language model ça apprend des corrélations donc ces corrélations vont lui permettre de faire des phrases qui sont grammaticales mais aussi à répondre de façon normale donc c'est en répondant de façon normale qu'on a l'illusion que la le modèle comprend en fait mais tout est dans ce normal parce que normal ça veut dire stéréotype donc les stéréotypes ils peuvent être complètement inoffensifs par exemple si on dit le chat est très souvent le modèle va répondre mignon parce que internet ça adore les chats mais si on dit les femmes sont là les réponses peuvent être très toxiques parce qu'Internet n'est pas forcément très gentil avec les femmes donc si on utilise les LLM comme ça si on fait rien pour lutter contre ils vont être toxiques donc aujourd'hui personne n'utilise les LLM tel quel on fait fait des mesures de par-dessus pour les rendre plus éthiques eu donc la première idée qu'on qu'on a c'est ah bah si les LNM sont toxiques parce qu'ils ont vu des données toxiques on a qu'à donner aucune donnée toxique ça ça marche pas donc parce que déjà il y a pas consensus sur ce qui n'est pas discriminatoire mais ensuite même s'il y avait consensus si on avait une définition et tout marcherait bien il faudrait qu'il y ait des humains qui vérifient que les données qu'on lui donne sont non discriminatoires et ça ça donne peut-être des millions d'exemples peut-être des milliards s'il y a beaucoup d'humains qui s'y mettent mais c'est insuffisant pour entraîner un large language model dans l'ARGE model on est au moins dans du million de millions donc moi je vais vous parler des autres techniques donc il y a toute une branche de recherche aujourd'hui qui est la branche de model alignment donc en français alignement de modèle qui cherche à aligner les modèles avec des valeurs éthiques donc ces valeurs ça peut être par exemple le respect ou la véracité des faits donc il existe beaucoup de techniques comme il y a du ed donc il y en a beaucoup et à chaque fois c'est l'idée c'est la même on a des exemples qu'on veut émuler et dans le cas du reinforcement le des exemples qu'on veut éviter et le modèle va apprendre on peut faire beaucoup avec ces techniques et souvent en fait c'est pas un problème technique c'est un problème de ressource donc si vous reteniez qu'une seule chose de mon intervention ça serait ça s'il vous plaît on peut faire beaucoup de choses et mais peu d'organisations aujourd'hui qui se donnent les moyens humains et financiers d'implémenter ce qu'on sait déjà faire voilà après il y a une particularité de Lia française qui est qu'il y a un manque de données en français aujourd'hui une énorme partie des données qu'on a en français c'est des données qui sont en anglais traduites automatiquement par une machine en français donc c'est pas du vrai français et on a besoin de ces données on a besoin de ces données pour deux raisons la première c'est comme on l'a dit le Modelle alignment donc à faire en sorte que les les modèles soient donc plus éthiques donc on a besoin de données éthique pour ça mais aussi la vérification la vérification c'est très important ça permet de faire en sorte que quand quelqu'un dit e mon algorithme n pas n'est pas sexiste on puisse vérifier que c'est vrai on n pas besoin de leur faire confiance donc la vérification c'est aussi important on a aussi besoin de donner en français pour ça voilà en conclusion vous avez posé la question li éel sexist la réponse c'est oui euh mais j'espère j'espère que ma présentation vous a donné vous a montré qu'il y a des solutions prometteuses aujourd'hui donc le sujet de des biaiss en dans l'IA donc pas seulement sexisme le racisme l'homophobie aussi c'est un sujet que de recherche très actif qui est très active depuis de nombreuses années on na pas attendu l' génératif pour ça en tant que chercheuse à Google je me permets aussi de rappeler qu'en 2018 Google a sorti une sorte de charte éthique les principe d'Unia responsable qui encourage entre autres à ne pas créer ni ni amplifier les les discriminations existantes donc c'est une charte qui guide le développement des produits de Google h et on il a créé aussi une équipe internationale de qui qui fait uniquement de l' responsable donc c'est l'équipe dans laquelle je fais partie et donc on encourage toute la communauté à se doter de de chartes similaires de charartes éthique similairire et aussi surtout de se donner les moyens de les suivre voilà merci je vous remercie de votre attention merci pour votre intervention donc nous allons poursuivre en cherchant à identifier les les les biaiss que vous avez décrit en pratique comment mesurer le leur impact et quelle mesures concrèt peut-on mettre en œuvre pour pour les prévenir alors je vais citer l'Institut montagne qui s'était penché sur ces questions dans un rapport en en 2020 euh est-il toujours d'actualité à à à l'heure de chat GPT et pour ça je vais euh donner la parole à au rapporteur général de ce de de ce rapport donc Tania perel mur coffondatrice de la Fondation abéona pour unea responsable qui va nous dire euh essentiel de ce rapport ou autre chose tout ce qu'elle voudra euh bonjour euh mesdames des sénatrices euh monsieur les sénateurs euh merci beaucoup de de de m'accorder C temps euh et je suis ravie de de pouvoir partager avec vous mes réflexions euh sur ces sujets très importants mais d'abord je vais me présenter euh donc je suis ingénieure de formation euh j'ai fait mes études à l'école d'ingénieur d'université de Colombia et euh donc aux États-Unis et et ce qui m'a marqué profondément marqué à à cette époque c'est que c'était juste un seconde promotion de de grandes universités américain qui qui a accepté les filles dans la formation d'ingénieur on était 10 % des des filles c'était peut-être quelques années avant le début de de de d'innet et de de Boom internet et il y avait presque pas de femmes qui travaillaiit sur ces sujets des technologies qui qui allaient changer notre monde et et pas parce qu'il voulaient pas mais simplement parce qu'ils étaient exclus euh donc ça m'a profondément marqué et ensuite pendant toute ma carrière et tout mon travail dans les infrastructures et euh technologie des données euh j'étais très attentive à Cees sujets de représentativité des femmes euh et c'est pour cette raison euh que en 2018 j'ai cfondé la Fondation abeona pour promouvoir intelligence artificielle responsable et pour contribuer à un monde plus juste plus durable et plus inclusif effectivement euh une des premières constat que nous avvez fait dans cette fondation ce que dans il y avait des billets dans les algorithmes que les gens avaient peur que les gens comprenait pas de quoi il s'agit s'agit mais que tout toute la recherche toutes les travaux toute discours sur Cees sujets euh venait des des États-Unis et donc on on s'est dit que c'était très important de situer à ça en France et on a créé C cette groupe de travail pour regarder euh regarder ces ces sujets euh et donc euh j'ai euh on a produit un rapport je suis rapporteur général de de ce rapport et donc c'est à ce titre que je vous parle aujourd'hui et comment on change les slides voilà donc pour répondre à votre question est-ce que l'intelligence artificiel et et et sexiste euh je vais je vais les regarder un peu différemment et je veux dire que contrairement à ce que dit Jessica que la en soit elle elle n'est pas sexiste parce que c'est une technologie par contre elle est programmée par des humains et elle est entraînée sur les bases des données euh qui sont des réflets de ce qui se passe dans notre société aujourd'hui et donc les résultats délivrés par CTA peuvent avoir un bien B des gendre bien évidemment et on distingue deux types de billets euh billets des sociétés donc ça c'est les billets qui sont présents dans les données euh qui sont utilisé par l'algorithme pour apprendre et les billets techniques ça c'est les billet qu'on introduit pendant les processus de développement d'algorithme et et a comme comme c'était dit avant va évidemment standardiser et diffuser largement ces Biet euh une fois qu'il sont appris mais qu'est-ce que c'est un biais si on revient sur Cees sujets c'est simplement un écart entre ce que dit l'algorithme et les résultat justes mais les questions plus compliquées qu'est-ce qu'on entend par les résultats justes comme vous avez évoquer sénateur pied noir je vais donc pour répondre à à à à ces questions euh j'ai je vais vous présenter euh juste quelques exemples euh les premiers exemples c'est évoqué déjà par Jessica on mais comme vous avez dit c'est bien de de répéter qu' qu'on qu'on qu'on apprend bien euh les données euh peuvent être abisées mais la sélection des données faites par les ingénieurs et peutv aussi créer des bis dans les algorithmes et euh c'est cet exemple de 2018 ça c'est un exemple de société américaine Amazon qui a décidé de de automatiser les recrutements et donc ils ont appris ils ont donné à l'intelligence artificiel les données qu'ils avaient à leur disposition c'est-à-dire le les CV des personnes qui travaillaient déjà sur chez Amazon sauf que les plupart de ces personnes étaient des hommes l'intelligence artificielle a bien et avant compris que que pour les futures recrut il faut que ce soit des hommes et écarter le les CV pas seulement des des femmes mais même des hommes qui euh avaient les mot femmes dans leur CV par exemple ceux qui faisaient dans leur temps libre l'entraînement de de de d'équipe des basket basketteuses donc vous voyez bien que que que c'est en question assez assez complexe 2è exemple euh je vais parler des articles de Wikipédia et et et ça euh c'est important parce que comme comme c'était dit précédemment euh l'IA générative aujourd'hui apprend beaucoup sur ce qui est présent sur Internet il avait un équipe de chercheuse qui a remarqué que dans les articles Wikipédia il y avait beaucoup moins d'articles arle sur les femmes que sur les hommes euh donc ils ont elles ont décidé de donc quand ils ont regardé ça ils ont vu par exemple qu'il y avait pas d'article sur Dana Strickland qui a prix Nobel de physique euh donc il a évidemment il y avait les articles sur deux autres prix Nobel mais mais les femmes manquaient il elles ont décidé de moissonner les largement les données sur sur internet pour euh pour trouver les données et générer automatiquement les articles sur les femmes euh et en ramanant ces données il il s'est rendu compte de de deux choses que les données disponibles sur les femmes étaient beaucoup plus court que les données sur les hommes il y avait beaucoup moins d'information et quand ils avaient des information il avait un petit peu d'information sur la profession des femmes et ensuite ça passait tout de suite à leur maris et à discussion sur qu'est ce qu'il font leur maris ici c'est revenit sur les femmes il y avait par exemple sur les actrices ou sur l'autres personnalités il y avait toujours les descriptions de physique des femmes qui évidemment était pas présente sur l'article sur les hommes donc si on utilise ce genre de données pour nos intelligence artificielle générative elle veut évidemment bien reproduire ses stéréotypes et ses B et et et donc c'est c'est c'est de ça qu'on doit faire attention un autre exemple euh exemple d génératif euh Chad GPT je vais vous lire un petit poème qui était émis par cette Chad GPT il y a j'ai fait ça il y a un an j'imagine que depuis ils ont essayé corriger ces bet mais dans tous les cas euh j'ai demandé euh pour me faire un poème sur une femme une blouse et les poèmes en français je vous le lis si vous voyez une femme en blouse des laboratoires elle ne fait que nettoyer les sols bien sûr mais si vous voyez un homme en blouse de laboratoire ses connaissances et compétences sont à votre porté avec un peu de détour on se demande de quel détour s'agit-il mais c'est évidemment en biais euh et euh si on demande un e génératif de faire un photo d'une femme en blouse on a toutes les chances de d'obtenir une femme qui qui fait les ménages ces choses-là doivent s'arrêter et bientôt euh les derniers exemples qui qui même pas en intelligence artificielle mais c'est des données c'est c'est euh c'est un exemple où les les les les personnes ont entraîné euh un algorithme sur les données existantes donc c'est un exemple qui est un peu contraversé c'est l'exemple de la CAF la CAF a décidé euh de euh faire la prévention de fraudes et donc à trouver des des profils des allocateures susceptible d'avoir commis des irrégularités je pense que c'est un exemple très bien connu c'est pas un EA c'est c'éit fait manuellement et donc ils ont décidé eux-mêmes quels sont les critères de de ce CELI dit fraud ils ont identifié les familles Monop monoparental qu' on sait très bien qui sont à 80 % des femmes et donc ils ont stigmatisé des femmes et on a fait ça manuellement et je vous diraiis que l'IA si était déployé sur ce dossierers elle fera mieux que que que les personnes qui ont qui ont créé ça donc lia est pas toujours mauvais il y a des choses que l' a fait bien et pour trouver et détecter des billets ça peut être très très utile quels sont les solution que peut-on faire donc bien évidemment il y a les solutions techniques qui étent évoqué par Jessica très en détail je vais pas rentrer beaucoup dans ce détail mais je veux juste dire qu'il faut tester des algorithmes euh j'ai oublié voilà il faut tester des algorithmes et exiger les transparences et des paramètres des contrôlabilité et surtout comprendre sur quel donné ces algorithmes étaient entraînés mais il me semble que les solutions sont surtout des l'ordre sociétal et politique si la société est sexiste li a à toutes ses chances de devenir sexiste et sur ça qu'il faut travailler donc euh si les femmes sont mieux représentées dans les métiers technologiques comme c'était dit avant et si la représentation de notre société plus égalitaire alors les technologies d' elle le sera aussi donc il faut avoir plus de femmes dans les métiers scientifiques et technologique il il faut également former les citoyens qui comprennent les enjus de des ces technologie et qu'il y a les pas les peurs mais la compréhension à la Fondation abiona on a avec des partenaires on a créer un cours sur intelligence artificielle qui est gratuit disponible sur Internet qui a pas besoin des préquis mathématiques qui est accessible cible à tout le monde et on a ajout formé et sensibilisé àia plus de 300000 personnes en France cette cours est également traduit en anglais on a fait dans les sens invverse on a commencé en français ensuite on a traduit en anglais et on espère que il y a plus de personnes qui vont aller se former sur ces sujet il y a Canada par exemple aujourd'hui qui a repris les flambeaux et qui essaie de former ses citoyens et pour aller plus loin en France on a créé l'Institut ila et sociité avec deux partenaires euh École Normale Supérieure et Université de Dauphine et la mission d'institut rechercher informé formé et influencer et on espère que euh on produira et vous verrez plus de nos travaux il faut que que c'est C sexisme s'arrête et il faut que les femmes soient visibles dans notre société je vous remercie merci oui on comprend que c'est finalement un travail de longue haleine puisqu'il faut ça doit passer par une féminisation des métiers et des formations scientifiques avant que lia comprenne qu'il y a autant de de de femmes que d'hommes ou en tout cas davantage qu'aujourd'hui dans les dans ces métiers pour pour conclure cette table ronde on va aborder les les enjeux de la sensibilisation des des acteurs et des utilisateurs de l'intelligence artificielle et c'était l'objectif que c'était précisément donné le le cercle interel avec son groupe femme etia dont nous accueillons aujourd'hui la responsable marine raberin directrice du segment éducation chez lenevau et à qui je laisse donc la parole je vous remercie merci de m'accueillir monsieurs messieurs les sénateurs mesdames les sénatres eu alors je voudrais avant de rentrer dans mon propos plus en détail revenir sur deux points d'abord me présenter effectivement je suis issue plutôt de de carrière commerciale puisque je suis directrice du segment éducation au niveau Europe chez lesenvau et en fait à travers cette présentation c'est effectivement représ enfin réfléter le propos qu'on a évoqué tout à l'heure qui effectivement pour pour agir sur les questions d'IA il n'est pas nécessaire d'avoir des carrières scientifiques d'avoir embrassé des carrières scientifiques mais il faut de la curiosité et c'est à l'image finalement de tout le groupe qui s'est emparé de ce sujetl au au sein du cercle interel où en fait on retrouve une diversité de métier de profil très très varié avec effectivement des spécialistes et des experts notamment de l'IA mais pas que on a aussi des personnes issues du monde du business comme moi de la Supply Chain des ressources humaines et cetera et cetera donc ça c'était un premier point et puis et puis deuxième point pour faire le le lien aussi avec ce que ce que vous venez de dire Madian per muter sur les biais je voudrais les exemples de biiais je voudrais en rajouter deux euh que je cite souvent le premier c'est aussi des biaiss dans le monde de la finance et ça rejoint aussi ce qu'on a évoqué plus loin il y a il y a cette cet exemple qui revient souvent qui est euh celui d'une de l'Apple card qui en fait qui accordit des crédits moindres aux femmes qu'aux hommes à à situation sociopressionnelle égal équivalente euh donc donc on parle effectivement de de de besoins d'éducation à la finance mais enfin si effectivement les algorithmes en sont aussi à à discriminer les femmes sur ces sujet là ça va être compliqué et deuxième sujet qui me tient à cœur en tant que avec mon ma casquette de directrice de l'éducation c'est des biaiss qui avaient été mis en avant par une étude de Stanford sur les orientations scolaires donc on vient au cœur justement de en est quoi avec la table ronde numéro numéro 1 où en fait effectivement certains certains outils euh basé sur l'intelligence artificielle amenait à à aux femmes à à considérer de manière moindre les carrières dans dans les mathématiques notamment voilà donc encore trop d'exemples sur ces sujets là alors qu'est-ce que qu'est-ce qu'on peut faire finalement moi le le propos mon propos aujourd'hui c'est de vous montrer en écho aussi à ce qui je fais notamment chez Google et dont Jessica Hoffman parlait tout à l'heure qu'est-ce que peuvent faire les entreprises sur ce sujet-là donc pour vous remettre dans le contexte euh d'abord vous expliquer qui est le cercle interel donc le cercle interel c'est une association de réseau de mixité euh de d'entreprises 15 entreprises du secteur technologique et industriel donc il sont au cœur finalement de de ces entreprises potentiellement productrices et au moins utilisatrices d'intelligence artificielle le cercle interel en fait réunit ses Réau qui agissent pour l'égalité pour plus d'égalité professionnelle entre les femmes et les hommes un peu à l'image aussi de ce que fait le Laboratoire de l'égalité depuis de nombreuses années eu et finalement en 2018-29 devant ces ces quelques scandales notamment de d'outils de recrutement on s'est dit non c'est pas possible ça fait 20 ans qu'on travaille sur ces sujets là on va quand même pas se faire saper tout ce travail par des outils d'intelligence artificielle alors regardons de plus près de quoi il s'agit et puis voyons ce qu'on peut faire et donc effectivement l'idée c'était de se dire qu'on puisse accompagner les entreprises qui vont de plus en plus utiliser donc produire voir utiliser des des des solutions d'intelligence artificielle et puis les aider les accompagner dans la manière dont elles pourront justement s'assurer que l'usage ou le ou le déploiement de ces de ou la production de ces outils soit de fait de manière responsable et non sexiste donc il ne viennent pas entraver finalement tous les affforfaits sur les questions d'égalité professionnelle femme homme on voulait aussi parce qu'on était finalement des entreprises représentantes de ces secteurs technologiques industriels montrer qu'il était possible d'agir et donc être pionnière sur ces sujets-l et donner l'exemple et puis proposer une démarche qui soit simple accessible y compris donc pour des grosses entreprises comme les nôtres mais aussi pour des start-ups y compris aussi pour des écoles ENF tout acteur qui a envie d'agir et qui a envie de de de comprendre les bases qu'il faut poser pour agir sur ces questionsl alors la la démarche que l'on propose elle a elle est le fruit d'une recherche qui a duré à peu près 1 an en 2018 et 2019 où on a fait l'inventaire de toutes les bonnes pratiques qui qui qui avaient déjà été émises et valorisé et créé euh jusqu'à présent et puis aussi de bah de nos connaissances d'expertes dans dans les différents domaines et finalement il y a une convergence et c'est là où les travaux d'intérêt l'ont du sens parce que c'est une convergence de de point de vue de différentes entreprises donc on a un espèce de consensus sur la bonne démarche à employer effectivement on se rejoint sur le fait que cette démarche c'est un en bon Fran anglais un journ c'est c'est un voyage c'est un c'est un c'est une démarche dans le temps qui doit s'inscrire dans le temps et on propose effectivement qu'elle commence par un engagement déclarer déclarer qu'on a cette volonté de faire quelque chose on sait peut-être pas comment faire mais on le dit qu'on a envie et donc pour se faire effectivement on en a parler tout à l'heure s'engagé sur des chartes eu euh et et le et et le et le et le dire publiquement ça a plusieurs intérêts d'abord ça permet au niveau de l'entreprise de s'encrer de d'avoir un premier point de départ sur une le début d'une démarche mais en le en le disant publiquement c'est aussi créer une émulation dans son écosystème d'entreprise euh et de de partenaires et se dire ah bah tiens si lesenovo S cette charte bah peut-être que les concurrents vont regarder de quoi il s'agit peut-être que nos partenaires commerciaux vont regarder de quoi il s'agit nos nos fournisseurs vont regarder de quoi il s'agit et donc on crée une émulation une curiosité sur ce sujet-là aujourd'hui on a on a une une quinzaine d'entreprises qui justement ont déjà signé la charte qu'on a proposé donc il y a la charte femme etia pour une a responsable et non sexiste et qui justement est là pour les aider à prendre position deuxième deuxième démarche et s'évaluer finalement on pense que les les entreprises y compris les entreprises technologiques sont très matures sur le sur la manière de sur la compréhension de leur état de leur état de de fait sur les questions de traitement de l'IA c'est pas si simple et c'est pas si évident pour les petites entreprises par pas manque de moyens par pour les grosses entreprises parce qu'il y a tellement de choses qui se font dans leur entreprise que pouvoir identifier tout ce qui se passe c'est pas si évident donc la première des démarches de de se poser les bonnes questions et de s'évaluer en fait on a créé pour se faire une grille d'évaluation qui va reprendre sur sur certains sur les sept grands thèmes sur lequels on pense qu'il est nécessaire d'agir et je reviens je les présente juste après on va expliquer à quoi ça ressemble d'être exemplaire sur sur chacun de ces sujetsl et puis donc quel est à quoi ça ressemble d'être un niveau de de on va dire de démarrage et puis à quoi ça ressemble d'être exemplaire et l'entreprise elle va pouvoir s'identifier en faisant aussi des audits internes et pouvoir définir son niveau de maturité sur le la manière de de de se préoccuper et d'embrasser cette question d' a de égalitaire et et non sexiste donc ça c'est une première chose c'est une grille d'évaluation qu'on met à disposition tout ceci est gratuit on met à disposition des entreprises ce n'est pas un audit c'est vraiment quelque chose dont les entreprises vont s'emparer et elles vont pouvoir procéder à leur propre évaluation leur autoévaluation et c'est en ce sens que la première étape qui est celle de Seng elle est importante quand on a déclaré après on peut com on peut on peut mobiliser les ressources nécessaires pour faire cette auto-évaluation et puis une fois qu'on a identifié où est-ce qu'on en est quels sont nos points forts quels sont quels sont les les les domaines où où se la pêche et bien pouvoir commencer à passer à l'action alors pour cela le cercle intérêt a créé une boîte à outils qui va justement permettre aux entreprises en fonction de là où elles ont envie d'évoluer et d'avancer bah d'aller chercher des outils concrets à mettre en place pour pour tout de suite passer à l'action et pour tout de suite commencer à se mettre dans le dans une dynamique de changement et pour se faire en fait et je reviendrai juste après non seulement ce sont des outils que l'on a nous-même produit mais c'est aussi des outils dont on a fait l'inventaire dans notre écosystème et et en fait on va mettre en avant un certain nombre de de démarches d'initiatives que d'autres partenaires dans dans cet écosystème qui qui travaille qui œuvre sur ces sujets dia responsabl et non sexistes ont développé et donc on se on se on se on se fait on a un point on met un point d'honneur à à valoriser toutes les initiatives qui vont dans le bon sens et puis dernier pilier c'est celui de devenir exemplaire donc tendre vers l'exemplarité montrer qu'il est possible d'agir partager les bonnes pratiques encore une fois j'en reviens finalement au point de départ qui est en en créant une émulation autour de soi on emmène d'autres personnes à se poser les bonnes questions donc voilà ça ce sont les quatre les quatre démarches et j'aiévoquéis tout à l'heure euh qu'elle s'appuyit sur SEP cette domaine particulier sur lequel on pense qu'une entreprise peut agir et finalement ça recoupe un petit peu ce qui a été dit précédemment donc on va retrouver des choses similaire et finalement c'est bien normal qu'on se retrouve sur sur ces sujets là j'espère que vous voyez bien je me rends compte que c'est peut-être pas si facile que ça à lire mais je vais vous les je vais vous les donner donc la première chose et c'est la première bulle en haut tout en haut c'est la mise en place d'une gouvernance au sein d'entreprise cette gouvernance qu'on préconise d'appeler un comité Ia et c'est ce qui finalement a été fait dans certain entreprises elle va être la garante euh de euh d'une appropriation de ce sujet à un niveau suffisamment haut dans l'entreprise pour que ça ne soit pas remis en question et pour pour que ça euh pour que la démarche soit inscrite de manière stratégique dans les enjeux de l'entreprise donc la cette cette mise en place d'une gouvernance elle est clé pour tout ce qui va venir après ensuite si on si on se déroule un petit peu sur la la droite c'est aussi faire en sorte que l'entreprise se euh s'approprie euh se se cultive finalement sur tout toute la partie légale mais aussi les les sur les les sujets de de de conformité de la conception donc il y a un certain nombre de de fondamentaux à connaître quand on agit sur ces sujets-l et que l'entreprise soit suffisamment acculturé à ses fondamentaux pour démarrer sur de bonne base ensuite on va arriver aux aspects plus techniques donc qui ont été évoqués avant donc c'est effectivement avoir des actions particulières sur le choix et le traitement des données donc effectivement on en a suffisamment parler lia utilise des des données issues du présent mais surtout du passé donc faire en sorte effectivement de travailler sur la classification des données donc ça c'est c'est un un champ qui est très important ainsi que la définition de l'algorithme la question qu'on pose à ces à ces données peut-être qu'elle est déjà bisé en tant que tel donc aussi s'assurer de la de l'éthique de l'algorithme et savoir si euh le l'algorithme euh si l'objectif traduit par l'algorithme en fait lui-même n'est pas porteur de biais et puis ensuite savoir comment euh et c'est là aussi où l'importance de la gouvernance comment ces solutions qu'on qu'on va mettre en place qu'on va utiliser comment elles évoluent dans le temps parce qu'on a vu que des outils qui à la base n'étaient pas biaisés sont devenus biaisés par par l'apprentissage h et euh c'est comme ça que des assistants vocaux sont d ont commencé à devenir racistes et sexistes alors queévidemment à l'origine ce n'était pas ce n'était pas le cas donc il est important que une fois que c'est ces ces solutions sont lancées sur le marché entre guillemets ben pour garantir leur performance et quand je parle de performance et tant bien performance commerciale que éthique finalement les deux se rejoignent bien on s'assure qu'il a une un suivi de la de la la manière dont se comporte ces ces outils dans le temps et puis ensuite on arrive à des aspects qui touchent un peu plus les les sujets qu'on a évoqué juste avant qui est la diversité des équipes d'IA effectivement pour procéder un choix et un traitement des données éthique ainsi que construire un algorithme qui soit non biaisé non sexiste bah finalement il faut que les équipes d'IA les plus diverses possibles les plus féminisées possibles on l'a dit mais pas que effectivement d'avoir des des cultures diverses pour que finalement C ces équipes soient naturellement prête à à à identifier peut-être des choses que d'autres personnes n'auraient pas identifié donc ça c'est très important et et d'où l'importance effectivement de ce dont on a on a parlé lors de la Table Ronde numéro 1 et puis dernier aspect qui est la sensibilisation et la responsabilisation vous l'avez dit juste avant c'est quel est le rôle de l' entreprise dans son écosystème et aussi au sein de son entreprise il est pas question simplement de de former ou de sensibiliser les équipes il c'est l'ensemble de ces salariés qu'il faut sensibiliser un exemple concret les ressources humaines le département va va potentiellement être amené à utiliser des outils basés sur de l'IA pour du recrutement pour la gestion de carrière si c'est si c'estes populations et c'est ces métiers là sont pas sensibilisés au fait que attention cet outil potentiellement il peut être contreperformant euh pour telle ou telle raison et ben quelque part on va potentiellement avoir un trou dans la raquette donc il est important de de sensibiliser l'ensemble des salariés sur ces sujets-là effectivement des formations gratuites sur sur l'IA sont sont à disposition pour pour amener les fondamentaux à l'ensemble des des des des des équipes dans les entreprises et puis quel est le rôle externe de l'entreprise aussi c'est bah ce que je fais aujourd'hui euh ce que Jessica Hoffman fait également c'est venir en parler expliquer ce qu'il en est expliquer comment les entreprises agissent et montrer qu'il est possible de le faire et puis s'investir dans l'écosystème qui uvre pour ceci ENF pour se faire et j'en viens à mon slide suivant qui est je crois qu'on l'a vu dans toutes les présentations ce matin c'est que on n arrive pas seul à chaque fois on a toujours nommé des voilà on a parlé de de d'interdisciplinarité on a parlé de partenariat on a parlé de travail en commun ben c'est ce qui se passe aussi pour interel mais c'est à l'image finalement de de de de tout ce qui se passe aujourd'hui sur sur ces sujets-là c'est faire en sorte que euh on on favorise l'effet boule de neige qu'on favorise euh le le le le travail commun pour pouvoir créer des choses plus de choses et des choses plus efficaces et c'est vrai que j'aime j'aime ass à certaines des certaines des des associations et des des partenaires avec lesquells on travaille le Laboratoire de l'égalité depuis 2018 hein euh le wom's forum femme ingénieur des partenaires aussi académiques comme Berkley euh impactia dont je vais citer un exemple tout à l'heure et puis Arborus et donc justement c'est une introduction à à l'un des autres délivrables que le cercle interérel a produit donc au-delà de ce Pact qui explique c'est cette démarche en quatre piliers c'estes fondamentaux et qui qui revient et qui met à disposition les outils on vient également de lancer en collaboration avec un pactia un module de formation donc là on rejoint sur la table ronde numéro 1 euh euh qui s'adresse en fait à l'ensemble des écoles par particulièrement école d'ingénieur mais aussi école enfin de manière plus générale t tous ceux qui vont former les personnes qui demain vont travailler sur ces sujets là d'IA ou vont être amenés à à utiliser des outils d'IA donc c'est un module de sensibilisation de 3 He qui est mis à disposition gratuitement pour l'ensemble des des des écoles ou des centres de formation qui le souhaitent ou on va mettre à disposition non seulement le jeu de de de présentation les slides mais aussi le Guide du formateur les exercices pratiques donc vraiment pour prendre en main en fait ce cette session de 3h et pouvoir être déployé de manière autonome au sein des écoles l'objectif de cette formation elle est de comprendre ce qui est un billet de genre parce que est expliquer à des jeunes qu'un Bill de Gen c'est finalement parfois revenir sur certains fondamentaux pouvoir les déceler donc à quel moment effectivement on on enfin identifier en fait les billets de genre pouvoir comprendre à quel moment dans le développement du soltion d' a ces billets peuvent s'isser donc effectivement ça revient un petit peu à au SEP au SEP chambres don que j'expliquéis tout à l'heure donc ça peut être au moment des algorithmes au moment du choix des données eu donc limiter effectivement cette propagation et puis faire comprendre qu'il y a des méthodes et des outils que c'est pas une boîte noire on l' on l'a dit précédemment il y a un moyen d'agir il y a il y a des exemples concrets aussi de la manière dont on peut renverser la tendance h donc c'est voilà c'est des choses qui sont apportées de tout un chacun et chacune sur ces sur ces sujets-là donc euh plutôt pour des un public on va dire étudiant lycée c'est un peu jeune mais plutôt étudiant ou pour des organismes de formation intra entreprise donc d' aussi l'importance de la formation de l'IA pour tout tout salariés donc 3h j'ai dit tout à l'heure et puis donc on met tout à disposition pour que euh pour que les les organismes qui s déployer ce ce ce cette formation et est tout à disposition h donc ça c'était le le bah la fin mon de mon intervention il me semble que je voulais rajouter quelque chose mais ça va me revenir peut-être un près peut-être un peu après voilà merci Merci à VOUS oui effectivement on va pouvoir prolonger peut-être avec les questions qui vont venir les dernière dernière étape de votre intervention oui Dominique Verrien merci beaucoup pour pour cette intervention et qui m'amène à me poser une question est-ce que on risque pas demain d'avoir euh plusieurs plusieurs alors c'est idio ce que je vais dire mais des i à de vitesses c'estàdire des des propositions qui nous seront faites qui se serviront de l'IA mais qui l'utiliseront pas de la même façon c'est les les entreprises effectivement qui auront mis les moyens pour y mettre de l'éthique et celles qui ne l'auront pas fait sauf que quand nous on sera client de ça c'estàd qu'on aura besoin d'avoir des services qui seront produits par de l'a générative comment est-ce qu'on pourra faire le tri est-ce qu'on aura pas une des propositions finalement assez peu chèes avec de l'IA euh je dirais pas peu performante mais au moins peu éthique et puis du coup d' a éthique mais qui coûterait plus cher et qui serait pas abordable de la même façon et un risque de voir gagner celui qui serait moins éthique donc si on parle des i génératives aujourd'hui il y a euh très peu d'acteurs qui sont activement en train de développer ces i ces acteurs se trouvent majitairement aux États-Unis euh il faut beaucoup de moyens pour développer ces parce que il faut il faut un infrastructure et et et les calculs nécessaires pour le faire et et ça va pas être apporté de tout le monde de développer cesza euh il y a quelques il y a un il y a deux deux entreprises en France qui qui sont en train de le faire euh mais mais les autres acteurs sont sont ils sont présents en France mais ils sont majoritaement à américains et et donc euh il faut il algorithmes qui sont développés ils sont pas transparents et on a très peu de vue sur comment l'apprentissage est est faite donc euh c'est c'est un grande question moi je voudrais rajouter qu'il y a aujourd'hui les large language model il y en a beaucoup qui sont en open source c'est-à-dire dont le code est accessible à tout le monde et on peut c'est des modèles qui sont pas forcément aussi performant que le meilleur modèle des autres des autres entreprises mais c'est quand même des très très bons modèles et donc là pour pour le coup c'est gratuit parce que voilà c'est accessible non je voulais simplement commenter vous avez raison ah pardon vous avez tout à fait raison et et d'où l'intérêt aussi de d'équiper euh tout un chacun sur des fondations enfin des des un savoir fondamental sur sur ce qu'elle y a et peut-être inciter la curiosité pour aller comprendre effectivement est-ce que c'est comment ces ARS ont été développés est-ce que l'entreprise a une démarche éthique sur ce sujet-là et puis voilà se montrer curieux h euh je voulais juste ajouter que pour le coup l'Europe aussi s'est donné doté d'une réglementation et donc qui impose un certain nombre d'obligations nouvelles que les modèles soient open source ou non avec des obligations de transparence sur les données d'entraînement une documentation technique donc c'est déjà une façon de fournir un certain nombre d'éléments en particulier sur sur les les les grands modèles de langage et le deuxème point c'est qu'il y a aussi des initiatives qui se développent de certification ou de labellisation de certains systèmes di justement dans une démarche responsable et éthique donc c'est peut-être une piste aussi pour essayer de garantir un certain nom d'éléments dans dans ce sens prier viceprésident de l'OPEX qui voulait poser une question oui merci je voudrais evenenir sur le à la fois la la question initiale qui qui nous est posée sur liya Estelle le sexisme vous avez répondu de manière très succinte en disant que oui il y y a les sexistes moi je m'interroge vous avez toutes et tous évoquer le fait que lia est d'abord une un processus humain de création humaine et donc je m'inérage sur le fait que est-ce que c'est vraiment lia qui est sexiste ou bien est-ce que sont les programmateurs de il y a qu' qu' le sont euh c'est un peu provocateur de de le formuler comme ça mais je voudrais simplement savoir selon vous si euh et où se situe le processus de création du sexisme dans la la fabrication des programme Ia moi je je veux bien juste rajouter une petite chose c'est que en fait on parle effectivement lia est sexiste pourquoi parce que 88 % des algorithmes sont créés par des hommes qui inconsciemment ou non reproduisent leur biais donc ça passe effectivement par des formations par des descstructions de biais et évidemment également aussi par une un cadre éthique qu'on doit poser pour la construction la vérification à chaque étape de la construction des algorithmes voilà je peut-être que Jessica veut vas-y oui oui alors la réponse c'est les deux euh donc donc de base lia va refléter les billets de la société donc si on a une société qui historiquement est sexiste on va forcément avoir une ea qui va être sexiste après on peut faire des choses pour lutter contre et donc avoir unea moins sexiste et donc il y a beaucoup voilà mais par contre c'est vrai que étant donné que la les créateurs ont aussi leur biais ça peut rajouter encore des problèmes et donc il y a eu beaucoup de de choses qui ont été parlé notamment la diversité des équipes et ce genre de choses pour essayer de lutter contre mais donc c'est pas l'un ou l'autre c'est tout à la fois puis on a oublié de dire aussi que les les ce sont des outils autoapprenants donc ils se nourrissent de ce qu'on leur inculque entre guillemets et je voudrais juste faire un un petit bah petit un petit clin d'œil il y a une pub en ce moment où il y a deux TR semaines de sels force qui était absolument excellente sur les algorithmes enfin il y avait marqué il y avait une affiche où il y avait les algorithmes sont d'excellents élèves mais qui sont leurs professeurs donc voilà je rajouterai il y a non seulement le les les données de départ qui sont sexistes parce qu'elles reflèteent la société il y a éventuellement les les programmateurs qui vont développer les les les les outils mais il y a aussi les utilisateurs c'est-à-dire si vous n'êtes pas choqué par le résultat si vous avez un un un outil d'aide aux ressources humaines qui ne va recruter que des hommes blancs et que vous ne vous posez pas la question et bien ça va continuer alors que si vous reparamétrez votre outil en disant ben je voudrais un peu plus de diversité je voudrais un peu plus de ceci ou de cela c'est aussi un moyen de de de corriger le tir alors peut-être que si permettre d'un point de vue pe très naïf c'est que j'ai l'impression que quand on a un directeur des ressources humaines qui est biaisé dans sa sélection c'est très difficile à démontrer parce que bah vous avez juste les données des recrutements qu'il a fait il en a pas fait des milliers l'avantage avec unea c'est que vous pouvez la tester en lui balançant euh 2000 CV et puis voir ce qu'elle va sortir comme résultat donc elle est peut-être aussi biaisé que nous mais au moins on peut le démontrer peut-être plus facilement je finirai allezy je voulais juste ajouter à tout ça ce qui était déjà dit que Léa est en miroir de notre société c'est on peut l'utiliser pour exactement comprendre où sont li et moi je voulais peut-être un peu élargir le sujet le ressérer après l'élargir quand on parlait de la diversité des équipes on a parlé effectivement la difficulté à recruter des femmes parce que le vivier de femmes itifique et moindre mais on l'a rapidement évoqué aussi tout à l'heure le la désertion des femmes une fois qu'elles ont rentré qu'elles ont embrassé une carrière scientifique et puis qu'elles s'en vont au bout de 10 ans parce qu'effectivement elles évoluent dans un contexte qui peut être où elles peut être victime de sexisme ordinaire ou non ordinaire d'ailleurs et et simplement évoquer ici un autre rôle très important des entreprises sur effectivement le le fait de favoriser une atmosphère de travail qui soit respectueux non sexiste euh et qui permettent à chacun de s'exprimer et donc le rôle des réseaux euh c'est ça je voulais mettre ça en avant le rôle des réseaux dans les entreprises euh et c'est c'est sur quoi on agit avec le cercle interérel c'est faire en sorte que on équipe les entreprises avec des moyens pour favoriser cette atmosphère de travail qui soit stimulante euh pour toutes et tous Patrick Chaz merci monsieur le Président euh alors tout d'abord vous moudrez pas monsieur président de rappeler effectivement les les travaux de l'OPEX qui ont été évoqués tout à l'heure sur les nouveau développement de de de l'IA donc à ce stade nous avons déjà rencontré une vingtaine de chercheurs et d'acteurs majeurs de de de l'IA et bien sûr sommes très attentifs d'entendre des des femmes les auditions nous démontrent d'ailleurs que que les femmes ont beaucoup à dire sur le le monde de la tech et euh on peut déjà finalement en déduire euh qu'il faut je je je le crois vraiment juste les écouter davantage néanmoins moi j'aurais une question à vous poser c'est c'est dire finalement que pouvez-vous nous suggérer comme recommandation principale pour faire en sorte que ça change bah c'est euh il faut peut-être retourner la question parce que la réponse elle est d'abord politique euh que ça change il faut il faut il faut que que la société c'est à comprendre ce qui se passe et et et il faut y aller il faut y aller il faut faire des choses c'est juste du coup une remarque c'est une des raisons pour lesquelles nous faisons cette table ronde cher Patrick et ravi que tu sois là et que des sénateurs puissent la la suivre et je sais pas elle est enregistrée elle est filmée enregistrée donc nous pourrons la diffuser très largement pour ceux qui l'aurit loupé je ne vois pas d'autres questions à ce stade sur cette deuxè table ronde écoutez je vous remercie toutes les trois pour les pour l'avoir alimenté et puis je vais passer repasser la parole à la présidente qui la repasse immédiatement à Christine Lavarde merci beaucoup euh Dominique donc effectivement la délégation à la prospective du Sénat alors euh faut que je la présente un petit peu puis qu'elle existe depuis 2009 et c'est une délégation qui n'existe pas à l'Assemblée nationale c'est une spécificité de la chambre haute et donc cette délégation elle a pour vocation de réfléchir aux grandes transformations de la société aux changements qui opèent à la fois en profondeur et en même temps euh sur le temps long en fait pour dire finalement un peu tous ces changements où normalement euh les parle mentaire consacre paradoxalement assez peu de temps trop peu de temps parce qu'en fait on a toujours autre chose à faire quelque chose de plus urgent et donc en fait cette délégation elle nous offre un peu une pause une une respiration dans nos travaux et donc heureusement il y a quand même des moments comme cette matinée où nous avons pris le temps le temps de réfléchir à des sujets d'ailleurs l'égalité hommes-femmes qui sont pas forcément au cœur des des réflexions de la délégation à la prospective et donc c'est la raison pour laquelle je tiens ti à m'associer au remerciement de président Larcher de la présidente Verrien et du président Piednoir pour tous les intervenants et de l'UR D'cos aussi qui ont pris eux aussi du temps ce matin pour venir partager avec nous et puis avec les les visionneurs les auditeurs je ne sais comment on les appelle sur leur expérience en matière d'intelligence artificielle et de place des femmes dans la société alors effectivement ce matin nous avons choisi nous intéresser à l'évolution de la place des femmes dans la société ou à la révolution de l'intelligence artificielle parce qu'on voit bien que et nous on l'a vu dans une audition de la délégation à la prospective l'intelligence artificielle pourrait vraiment venir bouleverser notre manière de travailler mais aussi notre notre manière de vivre et on avait avant même cette audition décideré vraiment collectivement à l'intérieur de la délégation de s'intéresser à l'impact que pourrait avoir l'intelligence artificielle sur les services publics et c'est pour ça d'ailleurs un certain nombre de rapporteurs étaient présents ce matin Anne Ventalon Bernard fialer on a décidé de travailler sous forme de de notes thématiqu qui auront vocation à être assez brèes et à toucher indépend de ce qui concerne nos politique publique donc les travaux sont déjà quasiment terminés pour ce qui est intelligence artificielle et finances publiques très avancé pour intelligence artificielle et santé et vont débuter ensuite pour intelligence artificielle éducation intelligence artificielle et environnement et assez naturellement parce que nous sommes au Sénat intelligence artificielle et et territoire donc finalement ce matin c'est une autre petite brique que nous pourrons ajouter au travail de synthèse et c'est et bien évidemment en fait l'objet de cette dernière table ronde en fait elle est un peu le pendant de la première table ronde puisque dans la première table ronde on se demandait ce que l'intelligence artificielle pourrait en ce que les femmes en fait pourrai apporter à l'intelligence artificielle et maintenant je vais demander à nos deux prochaines intervenantes de nous dire enfin de nous exposer leur vision de ce que l'intelligence artificielle euh pourrait apporter aux femmes alors j'en suis convaincu hein l'intelligence artificielle générative elle pourra concrètement bénéficier aux femmes dans de multiples domaines en fait partoutù ces outils pourrai venir réduire des inégalités que ce soit l'emploi l'éducation la santé le droit et quand on voit qu'aujourd'hui alors l'exemple le plus connu est certainement la RATP qui équipe ces agents de mutation d'exoquelette mais on voit bien que l'exosquelette il fonctionne notamment en parti en se reposant sur l'intelligence artificielle demain peut-être que certains métiers qui étaient jusqu'à présent interdits ou fortement euh décommandés aux femmes pourrai s'ouvrir euh à elle donc c'est la raison pour laquelle un peu à l'instar du président Larché ce matin il y a de nombreux raisons d'être d'être optimistes mais à la délégation à la prospective nous sommes optimistes et en même temps euh prudents parce que nous nous identifion aussi un certain nombre de dangers et d'ailleurs certains ont été largement évoqués évoqués ce matin mais si on s'intéresse à ce que lia pourrait apporter aux femmes en fait aujourd'hui on est quand même obligé de reconnaître qu'on manque beaucoup de chiffres on ne sait pas encore s'il a aura un impact différent sur les métiers selon qu'ils sont majoritairement occupés par des femmes ou par des hommes on ne sait pas lesquels seront augmentés ou remplacés et puis euh je parlais je parlais des risques et je pense que devant la présidente à côté de la présidente au délégations aux droits des femmes je suis quand même obligée de dire qu'aujourd'hui les femmes souffrent et sont même un peu persécuté et notamment dans un phénomène qu'on a qui n'a pas encore été cité mais qui est celui des deep fakes et donc je veux ici parler en fait des fausses vidéos pornographiques qui sont généré par l'intelligence artificielle parce que aujourd'hui Oni 96 % de ces fausses vidéos ce ne sont pas des discours de Biden de Poutine transformés mais ce sont des images pornographiques fictives de jeunes femmes qui elles sont réels et qui ont été détourné alors il y en a une connue he Taylor Swift qui a fait 100 millions de vues mais il y a aussi des anonymes dont la photo aura été utilisée alors insû donc vous voyez il y a beaucoup de choses à dire sur ce sujet je suis sûr que nos deux intervenantes elles aussi auront un discours optimiste et nuancé et en en effet je vais céder la parole alors à Sacha Rubel qui va pouvoir montrer qu'en ayant fréquenté les mêmes écoles on peut être chacune des deux côtés de cette table qui n'est pas ronde et qui est aujourd'hui responsable des affaires publiques sur les sujets d'intelligence artificielle chez Amazon Web Service et qui est aussi membre du réseau d'experts de l'OCDE sur le sujet et Laura la pardon Lisi qui jusqu'en 2023 était directrice d'étalable alors je pense que un très grand nombre ici ont déjà utilisé les les services d'étalab qui est en fait le le pôle numérique le pôle donné de la direction interministérielle au numérique donc je pense que toutes les deux en plus vous avez en commun dans vos expériences passées d'avoir une expérience assez longue dans des pays en transition donc ce sera intéressant aussi je pense de nous éclairer sur la manière dont vous vous voyez comment aussi l'intelligence artificielle peut peut permettre peut-être à ces pays aussi d'avoir une transition qui sera plus écologique que la manière dont nous nous sommes développé dans le passé donc ça nous éloignera peut-être un peu de la la table ronde mais je suis persuadée que vivre dans un monde meilleur ça participe aussi de l'égalité entre les hommes et les femmes donc sans plus tarder je vous laisse la parole je ne sais pas laquelle de vous deux veut commencer al hop euh bonjour à toutes et à tous euh et et merci euh de de m'avoir donné la la parole aujourd'hui euh et merci aussi à tous les participants et participantes pour vos travaux parce qu'effectivement c'est c'est un sujet extrêmement important alors c'est vrai que c'est pas facile de passer après deux tables rondes et beaucoup de choses ont déjà été dit mais j'ai j'ai choisi aujourd'hui effectivement d'être aussi optimiste et de donner des exemples d'utilisation de l'intelligence artificielle en faveur de l'égalité entre les femmes et les hommes et de les illustrer ça fait écho aussi à vos travaux à travers le prisme de l'action et de la décision publique puisqueeffectivement pendant plusieurs années j'ai dirigé donc étalable ce ce service interministériel qui a commencé par travailler sur la politique de la donnée mais qui effectivement assez vite est venu se se pencher sur cette question de de l'intelligence artificiel donc d'abord je voudrais rappeler qu'effectivement on n pas attendu l'intelligence artificielle G générative pour travailler sur sur cette question dans dans le service public et d'abord aussi rappeler que l'usage des sciences des données des algorithmes et de l'intelligence artificielle est de plus en plus fréquent dans la dans la sphère public avec quelques particularités qu'il est quand même important de de rappeler d'abord que cet usage là il répond aux grandes lois du service public donc les règles de continuité d'adaptabilité donc faire en sorte aussi que le service public soit euh produit à la fois en intégrant le progrès technique mais aussi en fonction des attentes de la société et ce principe là il est il est vraiment important et effectivement aussi évidemment d'égalité devant le service public euh que par ailleurs les algorithmes qui sont utilisés dans le secteur public ils ont des des spécificités propres par rapport aussi à ceux qui peuvent être utilisés dans le dans le secteur privé ils sont censés opérer au service de l'intérêt général euh ils servent très souvent à exécuter le droit donc ils doivent produire respecter la loi et rien que la loi même si on peut avoir justement des moments d'interprétation et qui pose un certain nombre de questions et qu'ils sont souvent aussi incontournables parcours sup doit passer par ce systèmeel euh mais que justement dans la Déclaration des Droits de l'Homme et du Citoyen l'article 15 dit la société est en droit de demander comptes à tout agent public de son administration les algorithmes publics sont aussi en particulier lorsqu'ils aboutissent à des des individuelle ils obligent ils sont obligés par un certain nombre de règles de transparence de redevabilité et d'explicabilité et donc l'acteur public peut pas non plus utiliser des algorithmes complètement boîte noire il y a un certain nombre d'obligation qui qui s'y impose mais donc pour revenir au sujet des 2014 on a commencé à à travailler donc à étalable sur les premiers projets de Data Scien et à l'époque on voit bien queon appelait ça data science machine learning et on sentait qu'on avait du mal aussi à faire comprendre ce qui étaaient ces techniques là euh il y a eu j'ai trouvé un un certain saut en 2018 quand Cédric Villani a fait son rapport sur l'intelligence artificielle parce que rien que le fait d'appeler ça intelligence artificielle il y avait un côté ça pouvait faire un peu peur mais c'était plus facile de de se projeter dans ce que pouvait être les usages et donc j'ai trouvé que c'était c'était déjà un premier euh une première étape vers l'accessibilité aussi de de de ces outils là mais donc je vais vous raconter ce qu'on a fait à ce moment-là dans ce qu'on a appelé le laboratoire le Lab Ia de l'État qui a été créé suite au rapport de Cédric Villani et donc qui était une petite équipe interministérielle qui visait à à justement identifier les opportunités d'amélioration du service rendu aux usagers mais aussi de la façon dont ce service public était produit en utilisant les sciences des données et l'intelligence artificielle et donc une des premières missions et encore une fois le parallèle peut être fait avec d'autres organisations c'était que ce labia il avait une mission de sensibilisation aux questions éthique aux questions des biaiss aux questions de transparence et de redevabilité algorithmique donc on a mis en lien aussi avec un certain nombre d'acteurs de la recherche des actions on a mis en place des actions pour sensibiliser les agents publics aux règles auxquelles été soumises les algorithmes publics mais aussi aux questions de biais et notamment de biais de genre qui qui pouvait en découler donc il y a d'abord on a on a pris en compte ces questions de sensibilisation assez tôt euh la deuxè action qu'on a mise en place et alors c'était plus facile pour nous parce qu'on était une petite équipe mais à étalable dans les recrutements et aussi au travers d'un programme qu'on a appelé entrepreneur d'intérêt général qui recrutait une soixantaine de profils par an venu de l'extérieur parce qu'en fait le sujet c'était aussi que nativement dans l'administration il y avait pas forcément toutes les compétences disponibles et donc ce programme recrutait une soixantaine de personnes des développeurs des experts de la donnée data scientist des designer et donc on a mis un point d'honneur à ce que dans ce programme et dans les équipes d'étalabes on est une parité dans les équipes et encore une fois pas seulement dans les dans les chargés de politiqu publique mais aussi effectivement dans les dans les compétences techniques donc le deuxième sujet C effectivement la diversité dans les recrutements et la mixité dans l'équipe euh alors c'était des petits programmes encore une fois c'était pas le cas c'est pas aussi facile on connaît la difficulté des recrutements dans le service public mais ces programmes là qui avaient une certaine visibilité nous permettaient là encore de sensibiliser à l'importance de de ces questions et troisièmement on a accompagné des administrations à mettre en place des projets de de scienceces des données et d'intelligence artificielle donc je voudrais là donner quelques exemples de cas d'usage dans lesquels l'intelligence artificielle en particulier dans la sphère publique euh peut aussi agir en faveur dans le de de l'égalité entre les femmes et les hommes donc le premier les premières catégories d'exemples c'est effectivement dans le domaine du du travail et de l'emploi et donc on voit bien que l'utilisation de l'intelligence artificielle générative va permettre effectivement d'automatiser un certain nombre de tâches et notamment administratives et que pour rappel la fonction publique elle est particulièrement féminisée 63 % au global et dans la territoriale c'est 61 % et dans l'administration d'État c'est 57 % donc on sent bien que effectivement les femmes vont être particulièrement impacté par par ces usages là mais je pense aussi que ça va supprimer un certain nombre de tâches qui sont rébarbatives de la pénibilité de la surcharge de travail parce que c'est aussi ça et donc typiquement pour faire des compte-rendu de notes des synthèses on va pouvoir quand même des avoir un fort gain de de de productivité et je voudrais juste citer l'exemple mais vous avez dû le le voir de la Direction générale des finances publiques qui a mis en place un système pour la gestion des amendements qui a été testé sur sur le le projet de loi de finance et qui a permis de traiter 10000 amendements de façon extrêmement efficace à la fois parce que ils ont utilisé ce système là pour attribuer les amendements au bons service les regrouper par par catégorie mais aussi en faire des résumés euh donc des amendements de plusieurs pages parfois très documenté en faire des synthèses et donc on voit bien quand même que il y a une partie d'allègement pardon adop ouais ça on peut on doit pouvoir faire une étude pour pour le mesurer mais donc dans son disait qu'on manque de de chiffres quand même sur l'impact sur le travail c'est vrai mais dans le le rapport d'AOT 2023 de l'Organisation Mondiale du travail çaattend quand même à corroborer cette analyse là les femmes qui sont plutôt dans dans des emplois de bureau euh dans les pays euh plus développés c'est pas le cas dans les pays effectivement à moindre revenu mais seront quand même particulièrement exposé mais ce que dit cette étude làà c'est que on voit aussi des opportunités d'augmentation ou en tout cas de de venir compléter ces métiers-là et donc il y a quand même une partie de de réduction aussi de chargge et ça libère du temps pour faire autre chose euh par ailleurs juste pour donner quelques exemples aussi on peut imaginer assez facilement des usages de l'intelligence artificielle pour dégenrer ou avoir une écriture égalitaire d'un certain nombre de documents et de textes et là encore le service public en produit beaucoup mais je suis allée hier soir sur Choisir l'emploi public la plateforme des offres d'emploi du service public et donc on a un certain nombre d'obligations maintenant égalitaire dans les titres dans les intitulés des postes on met hommes-femmes mais alors dès qu'on rentre dans la fiche de post c'est toujours le secrétaire général il sera chargé d'eux le directeur il sera chargé d'eux des usages comme ça en fait aujourd'hui i ça se règle j'ai demandé à chat GPT de rédiger une F une fiche de poste en langage égalitaire et inclusif et ça se fait très facilement donc on est capable je pense de voir aussi un certain nombre d'amélioration en faveur d'un langage qui soit qui soit beaucoup plus beaucoup plus inclusif un autre exemple c'est effectivement dans le domaine de l'accès au services public et au droits et donc on voit là que il y a un certain nombre de robots conversationnels qui ont déjà été testés par l'URSAF enfin depuis plusieurs années mais que là on a de nouvelles expérimentations en la matière et notamment dans l'appui aux agents dans les maisons Fran servic pour répondre aux questions des usagers traiter leurs questions et là on voit aussi que on a beaucoup de de gains poss possible en la matière ça prépare en fait les réponses que les agents vont pouvoir faire lors d'une prise de rendez-vous en sourçant aussi toutes les toutes les informations donc avec des exigences de de traçabilité parce que ça va citer les fiches dans servicees public sur lesquels la réponse s'appuie et cetera mais donc ça je pense que c'est aussi et si on y ajoute en plus le speech to Text et donc la la possibilité de convertir du langage oral en en texte écrit ça va faciliter aussi l'interaction en particulier pour les personnes qui sont éloignées du numérique avec les services publics et donc l'accès au Dr donc je pense que là aussi on a toute une une une part d'amélioration possible et et vraiment dans la vulnérabilité il y a il y a 13 millions de personnes aujourd'hui qui sont encore éloigné du numérique et dans les la vulnérabilité numérique il y a effectivement des questions d'équipement d'accès et de connexion mais il y a aussi tout ce sujet de la maîtrise de l'écrit et même la maîtrise et l'isance avec le langage administratif et donc là on a aussi toute une nouvelle source d'opportunités et qui ça a été dit touchera aussi les personnes les plus vulnérables et donc en particulier aussi également les femmes un dernier exemple c'est dans le domaine des médias sur typiquement des des outils qui qui s'améliorent vraiment de jour en jour mais qui permettent de mesurer très finement le temps de parole entre les hommes et les femmes dans les médias on a un outil qui a été développé par Lina qui s'appelle Ina speech segmenter et qui permet de découper très finement à l'oral le le les voix et donc d'identifier le genre des des locuteurs donc c'est utilisé par exemple par l'arcom dans son rapport annuel mais on peut aller sur des analyse beaucoup plus fine et ça PUA mon mon prochain propos mais ça a été par exemple utilisé dans une étude sur le l'analyse du documentaire à la télévision en première diffusion de de janvier 2024 et donc on voit des choses que on pouvait assez facilement identifier avant par exemple seulement 25 % des femmes euh sont ont leur documentaire diffusé en première diffusion contre 75 % d'hommes voilà ça c'est des réalités qu'on pouvait assez facilement mesurer mais là ils ont mesuré ce qu'ils ont appelés les voix du savoir et donc ils ont mesuré 3500 heures de documentairire en primetime sur les 5 dernières années et là on on voit bien que le temps de parole des hommes est deux fois et demi supérieur à celui des femmes et donc j'en viens à l'opportunité là c'est que ça a été dit tout à l'heure on a aussi des opportunités de mesurer beaucoup ou plus finement et de factualiser et donc d'agir derrière sur un certain nombre de choses voilà donc je pense aussi qu'effectivement l'intelligence artificielle c'est aussi une opportunité effectivement de regarder de mesurer d'analyser les bases de données les données d'entraînement ça a été dit les modèles en eux-mêmes et leurs résultats et et un certain nombre de choses et de de de valeurs effectivement qui sont perpétrées derrière et donc je je l'ai mentionné tout à l'heure mais je crois crois aussi que l'Europe s'est doté d'une réglementation qui qui va permettre aussi d'agir et se doter vraiment de de d'outils de façon de façon nouvelle sur ces questionsl euh mais pour terminer je voudrais juste prendre l'exemple d'un d'un autre projet sur lequel on a travaillé assez tôt qu'on avait appelé data juste et donc qui a été un projet très décrié mais qui visait en fait à l'initiative du ministère de la Justice à établir un barê diffusé à tout le monde sur l'indemnisation des préjudices corporels donc il y a des barêes aujourd'hui qui existent des associations de victimes et c'est des choses qui étaient sous le mentau quoi et donc l'idée là c'était de dire on va analyser les données de jurisprudence notamment d'appel enfin judiciaire et administrative pour voir si on est capable de fournir un barê qui servira à la fois à donner de l'information à tout le monde sur l'indemnisation des préjudices mais aussi d'appuyer la décision des magistrats dans dans leur jugement euh et aussi de désengorger les tribunaux puisque l'espérance cétait que ça se règle à l'amable donc ça traitit il y a un traitement qui a été autorisé par l'acni enfin par le le un traitement qui a été créé pour traiter des données y compris des données donc c'était il y avait pas les noms prénoms mais c'était des données très sensibles et aboutir à ce barê là et et donc très vite on a vu aussi que la question des biaiss était extrêmement compliquée euh un homme et une femme victime d'un accident et avec un préjudice à la poitrine comment on va les indemniser une femme n'était pas du tout indemnisée de la même façon qu'un homme ça pose un certain nombre de questions enfin on peut en discuter mais un autre exemple qui est plus subtile c'est l'indemnisation se fait en anticipation des revenus futurs et en fait on constate que à la base il y a une très forte inégalité entre le salaire des hommes et des femmes pour un métier similaire est ce qu'on corrige estce qu'on corrige pas enfin voilà donc finalement le pour pour diverses raisons mais notamment aussi de complexité de gestion et d'organisation et de coût à il traiter justement ces questions de de biais et des algorithmes le projet a été abandonné mais je trouve que ça ça pose effectivement les bonnes questions qui sont est-ce qu'il faut débiaiser ou pas est-ce que pour correspondre à un idéal et si oui lequel et qui en décide et comment et et donc je pense queil y a effectivement des questions de moyens derrière ça a été dit tout à l'heure mais en particulier aussi dans l'administration publique il va falloir mettre des moyens pour pouvoir traiter convenablement ces questions dans la façon dont le service public va va intégrer ces outilsl y compris donc bien sûr sur les questions éthiques euh ça va être des questions techniques et qui sont pas simples euh mais je trouve que pour le coup l'intelligence artificielle générative a rendu quand même un formidable service aussi c'est qu'elle a rendu visible et beaucoup plus accessible et compréhensible toutes ces questions-là vous m'az invité il y a 2 ans on aurait été quand même encore plus dans des travaux d'experts euh euh beaucoup moins de personnes se seraient intéressé au sujet sur la question des biais hugging face a mis en place un outil qui s'appelle l'explorateur de biais et qui permet de comparer des modèles et donc des représentations imagées d'un certain nombre de métiers et et voilà c'est des outils qui en fait on voit tout de suite ce qui se passe ça n'a pas été dit mais Google récemment avec ce qui a été qualifié de EW sur géini a montré aussi la difficulté justement y compris sur l'alignement de de de traiter ces questions là en fait et même si techniquement il y a des choses qui sont faciles ce qui a été aussi soulevé sur sur le sujet de Sea c'est aussi la culture interne de Google en faveur de de la diversité de de l'équité et de l'inclusion et qui a pu aussi effectivement faire dévier les outils qui étaient mis en place donc ça a été dit c'est aussi le reflet de la culture et de l'organisation interne et donc je crois que c'est éminemment une une question politique démocratique de gouvernance et et pour terminer puisqu'on est au Sénat je trouve que le fait que des conventions citoyennes ce soit mise en place et et rendu des avis et se soit intéressé à ces questions y compris sur la question de de des inéquité de genre ça a été fait à Rennes Montpellier va bientôt rendre un avis c'est vraiment aussi le signe que voilà le le on va ouvrir un débat s'ouvre et plus on aura de parties prenantes les entreprises les associations la recherche le politique évidemment qui qui s'y Pench plus on pourra en discuter collectivement et du projet de société que qu'on voudra avoir voilà [Applaudissements] merci je suis ravie de suivre l'URE sur tous ces exemples passionnants et surtout merci beaucoup madame la Présidente Lavarde pour l'invitation je m'excuse d' avance pour mes fautes de français je mets tout au féminin que je trouve plutôt comm une engagement et et aussi approprié pour ce jour-là euh si vous demandez à une service de liage générative qui est Sacha Rubel ils vous diront que je suis une espionne russe que je suis un formateur de joueurs d'échec et que je suis un homme et je vous assure que je suis ni de ces troislà euh mais surtout comme évoqué par madame la Présidente j'ai passé le plupart de ma vie en travaillant sur comment mettre la femme au centre de la transformation numérique euh pour 13 ans à l'ONU et maintenant dans le secteur privé à AWS et j'aimerais juste partager avec vous une petite anecdote qui réflète aussi ce que Monsieur Jini disait au début euh quand je vivais à Dakar euh je dirigeais le premier camp euh de formation consacré à former des jeunes femmes euh pour le codage et un jour une femme qui travaillait dans la mode qui avait 16 ans s'est présentée à la porte en disant je ne sais pas en fait si cette chemin c'est pour moi moi j'aime beaucoup travailler dans tout ce qui est créative elle a passé la journée dans cette formation et à la fin de la journée elle a dit en fait je me suis pas rendue compte à quel point la technologie peut être un chemin de la créativité et ça retourne un peu à à tout ce qui a été dit aujourd'hui c'est que je pense qu'il y a une recadrage à faire sur qu'est-ce que ça veut dire de travailler dans la technologie et je parle de ça parce que je ne suis pas euh fort en math je suis par formation une anthropologue et mon doctorat était consacré sur les enjeux des aspects sociétal et éthique sur les enjeux de l'intelligence artificielle et une des plus grandes bloqueurs de l'adoption de l'IA en France et au-delà c'est le fait que nous nous avons pas assez de personnes autour de la table qui réfléchissent sur ces enjeux de responsabilité et la manque de confiance dans ces technologies c'est le bloqueur numéro 1 de l'adoption donc en fait pour assurer qu'il y a une adoption de cette technologie dans une manière responsable il faut pas simplement plus de diversité de comment on comprend travailler dans la technologie mais il faut aussi plus de diversité de perspective et bien entendu la femme est au centre de ces anjeux là j'aimerais juste réfléchir un peu sur une une débat qui a eu lieu aujourd'hui beaucoup sur l'idée queil a une miroire des billets de notre société et je dirais en fait lia n'est pas une miroire des qui existe dans notre société li a une loupe et ça représente une une opportunité extraordinaire parce que tout d'un coup surtout avec la croissance de l' génératif on est en face d'une réalité qu'on peut plus nier et c'est une réalité qui est dans nos algorithmes mais c'est une réalité qui est aussi dans nos sociétés avec les gens qui étaient évoqués avant qui créent ces algorithmes donc je pense que et je suis comme vous madame la Présidente Lavarde très optimiste sur ce que ça représente au niveau niveau de l'opportunité pour utiliser cette technologie pour adresser justement les défis qui sont juste en face de nous plusieurs personnes au au début de cette coloque a déjà partagé des statistiques concernant la présence des femmes dans ce milieu j'aimerais apporter avant de faire une une exploration en profondeur pour rebondir à ce que lur a dit sur les cas d'usage concret un peu les enjeux au-delà de la présence sur les enjeux économiques euh de ce qui existe actuellement vis-à-vis des femmes dans cette secteur aujourd'hui les femmes ont 13 fois moins de Chan que les hommes de déposer un brevet technologique selon l'OCDE les femmes ne déposent que 7 % des brevets dans le domaine des nouvelles technologies dans le pays du G20 et seulement 10 % des start-ups on des fondatrices c'est grave pour que lia soit un atout pour les l'égalité de genre nous avons besoin pas simplement de plus de femmes dans ce secteur mais des équipes diversifiées qui stimulent l'innovation et je dirais là c'est pas simplement une question éthique c'est bon pour le monde on est tous d'accord ici que c'est essentiel d'avoir ces diversité mais c'est aussi bon au niveau économique pour les entreprises françaises cultiver la diversité c'est une impérative éthique mais c'est un impératif économique les entreprises diversifié ont 25 % plus de Chan de surpasser leurs concurrentes le BCG a également constaté que les entreprises avec une diversité supérieure à la moyenne génèent plus de revenus grâce à l'innovation 45 % plus de Total que celle avec une diversité inférieure à la moyenne en parallèle l'Institut de recherche du Crédit Suisse a également constaté que les les entreprises comptant une ou plusieurs femmes au conseil d'administration avaient un rendement moyen des investissements plus élevé et une meilleure croissance moyenne que les entreprises avec des conseils d'administration composés des hommes uniquement à l'échelle des équipes ils ont également constaté que les équipes mixtes prennent de meilleures décisions commercial 73 % du temps donc ça veut dire pour créer des solutions de Lia qui sont bons pour la société et aussi bons pour l'entreprise il faut la diversité j'ai adoré dans dans les discussions avant et je suis ravi d'être là depuis le début pour pour rebondir sur toutes les les idées brillantes qui étaient échangé plusieurs entre vous a évoqué l'importance du du mentor monsieur Larcher monsieur Jouini vous avez évoqué également et je dirais que c'est pas simplement une question de de mentorat entre les femmes c'est aussi le besoin d'avoir des hommes champions et qui championnent des femmes c'est pas une question de femmes c'est une question de tout le monde et c'est une des raisons pour laquelle on a une programme au sein de abdules qui est consacré à cette question de monora qui encourage justement ces échanges entre les femmes mais qui encourage également des HE for champions donc les champions je vois Monsieur J qui est très impliqué à l'ONU en train de sourir qui justement on a besoin de cet aspect de de championnat euh pour les hommes et pour les femmes je veux juste rebondir un peu Monsieur J j'étais très heureuse au début vous avez évoqué cette question de paradoxe du genre que les pays avec le plus d'égalité de genre en fait souvent à le moins des des femmes qui poursuitent des carrières dans ce domainelà je pense que la clé de cet aspect là et ce que je retire de de votre présentation et aussi la réflexion de ce matin c'est qu'en fait on a besoin que les équipes qui construisent les systèmes de ya soit aussi diversifié que les communautés qui utiliseront ces systèmes sinon on va pas s'en sortir et je pense que cette problème et défi une des manières dans laquelle on peut l'adresser c'est la question des compétences et et j'aimerais juste saluer l'énorme travail la fondation abeona et et Tania et Anne bouverreau qu'ils ont mené pour rendre accessible ces types de compétences parce que nous on vient de publier un rapport qui étudie justement le marché français et les blockurs qui existe au niveau de l'adoption de l'IA et la question de compétenence et une des plus grandes bloqueurs et ça c'est pas simplement pour les femmes mais aussi pour les hommes 61 % des entreprises ont déclaré l'incapacité à trouver du personnel doté des bonnes compétences numériques freine leur performance et leur investissement dans l'IA du côté des salariés français la formation est clairement insuffisante seulement 13 % des citoyens français suivent des formations pour accueillir de nouvelles compétences numériques et les principaux obstacles pour poursuivre ce type de cours c'est la question du coût et c'est une des raisons pour laquelle justement nous on a investi dans une engagement qui s'appelle ai ready qui met à disposition plus de 80 cours gratuites en ligne qui forme pas simplement sur les enjeux techniques de qu'est-ce que c'est l' a mais aussi qui forme sur les questions des enjeux autour de billet d'explicabilité euh fairness donc accuracy et ces enjeux là parce que c'est pas juste une question technique c'est aussi une question sociologique au niveau de comprendre que juste parce que c'est faisable techniquement ça veut pas dire nécessairement qu'il faut qu'on le crée et c'est là où où ces enjeux de formation est absolument essentielle inclus sur ces aspects de billet et d'égalité j'aimerais juste pour 2 minutes réfléchir un peu avant de parler des exemples concrets parce que une de vous dans les échange a évoqué que c'est pas simplement une question de compéten c'est aussi une question d'investir dans les femmes et euh pour répondre aux questions du sénateur de tout à l'heure concrètement quelle est votre recommandation une des choses qu'on voit c'est qu' il y a une manque justement d'investissement des fond fondatrices femmes et une manque d'éducation sur comment transformer ces idées géniales en action avec la connaissance nécessaire d'entreprise et c'est une autre dimension sur lequel on travaille à AWS avec plein de partenaires privés et publics c'est c'est d'accompagner justement des entrepreneuses féminins sur comment transformer leurs idées pour aller jusqu au marché et ça c'est un aspect justement de formation essentielle c'est technique c'est éthique et c'est commercial et cette triptique là c'est quelque chose dans notre entreprise accompagne encore une fois pas simplement des personnes actifes qui est importante parce que on a vu que des connaissances dans l'IA peut augmenter salaire jusqu'à 4 47 %. donc l'indépendance financière de l'avenir de la femme dépend de sa capacité de se mettre au centre de cette révolution technologique qui va toucher toutes les aspects de notre vie après j'aimerais parler un peu de comment on voie les risques des données et de liia et et je terminerai sur le côté optimiste mais euh ce sera naïve de ne pas reconnaître que il y a des défis qui existent dans le déploiement de l'IA et on avait évoqué l'or l' articulé comme toujours brillamment il y a par exemple le risque des données de recrutement d'industrie à prédominance masculine si on crée des bases de données basées sur ces informations là le résultat va être biaisé en anglais on dit garbage in garbage out on met la poubelle dedans la poubelle sort lia ce n'est pas magique et donc une des choses absolument essentielles c'est de justement pas simplement assurer la diversité d'équipe mais aussi d'assurer que les bases de données sur lesquelles les solutions de li sont entraîné sont diverses c'est une opportunité extraordinaire de changer justement le billet qui existe dans notre société et de montrer voilà ce que à quoi notre société peut ressembler et aller vers là la deè deè aspect que j'aimerais souligner et ça a fait la Une partout dans le monde c'est les enjeux de la reconnaissance faciale qui utilise l'a et les données déséquilibrées dans le domaine de la reconnaissance faciale et les risques que ça représente et là je dirais pas simplement pour des femmes mais aussi pour les autres groupes marginalisés si la majorité de base de données ressemble à la majorité des codeurs qui sont en train de créer ces systèmes qui sont souvent pas représenté tive actuellement de cette salle ou de notre société j'aimerais terminer pour juste partager quelques exemple de ce que nous faisons avec nos clients pour que l'IA soit une atout pour l'égalité de genre et également ce que nous on cré à l'intérieur de notre société pour assurer que nos propres bases de données sont limité au niveau de billet euh j'étais ravie que vous parlez lors de de hugging face qui est un des grands partenaires de AWS à avec giscar en France où on travaille beaucoup sur comment justement rendre à disposition dans une manière logicielle libre des ressources qui aident des développeurs et des entrepreneurs à évaluer le billet dans leur système lors vous avez déjà parler de la question de pratique d'embauche et la possibilité de justement que lia soit une risque mais aussi une opportunité d'assurer par exemple que l'IA soit utilisé dans une utile de filtrage de CV pour aider à augmenté le taux d'embauche des femmes et une de nos clients a utilisé ce système et le taux d'embauche des femmes dans cette entreprise a augmenté de 14 %. juste en utilisant cet outil pour enlever les billets après il y a les questions de détecter et signaler les termes biaisés dans les offres d'emploi que vous avez évoqué quand justement euh on voit qu'il y a des billets et et j'en parle ouvertement parce que à la fois Tania et Jessica a parlé de cette ex exemple en 2018 de la question de l'outil de recrutement qui était créé par Amazon qui était biaisé pour un peu clarifier que cette projet n'a jamais été lancé au public que ça a été exploré seulement au niveau de trial de beta à l'intérieur de l'entreprise avec de human in the loop donc quelqu'un qui était dans le Loop et en fait quand on a vu que ça ne marchait pas on l'a enlevé du la l'examen du PA donc c'était jamais utilisé en PU et d'ailleurs cette expérience ça nous a encouragé après de faire et toujours mieux c'est de se dire en fait il y a une problème il faut l'adresser comment est-ce qu'on peut utiliser des outils de l'IA pour l'adresser et d'ailleurs cette expérience nous a mené à créer une solution de l'IA qui s'appelle sage Maker clarify qui maintenant détct automatiquement des billets et les enlèv des des bases de données donc il faut apprendre apprendre on fait des erreurs mais il faut apprendre et pour apprendre il faut faire ce type d'expérience dans une situation très contrôlée euh pour assurer justement que on améliore nos services et on améliorera le manière dans laquelle on utilise l'IA pour détecter les billets lors vous avez parlé des textes juridiques je pense que c'est un exemple essentiel parce qu'il y a beaucoup de billet dedans et et les chatbot également donc je ne vais pas en parler mais je dirais dernièrement avant de passer à ce que nous on fait et en clôturant que en fait moi je suis élevée en Afrique de l'Ouest je j'ai passé la plupart de ma vie en Afrique de l'Ouest et je vous raconte une anecdote quand je vivais à ce moment-là en Afrique de l'Est en Éthiopie quand je suis arrivée là-bas je voyais quand je sortais de mon bureau plein d'élèves surtout des femmes contre un mur du de l'immeuble de l'Union africaine et j'ai demandé à taxi au taximan je comprends pas en fait qu'est-ce ce que les centaines de femmes font là pour contre le mur de l'Union africaine à 17h pendant la semaine et le taximan m'a expliqué en fait ces femmes pour étudier il faut qu'ils ont accès au wifi et en fait ils ont chopé le code Wii de l'Union africaine pour pouvoir télécharger l'information nécessaire pour avoir accéder à leur cours et elles veulent pas rentrer parce que si elle rentre elle a a des autres responsabilités et elle veut étudier donc elle se met contre cette mur pour pouvoir accéder à l'information nécessaire pour étudier je suis autodidacte jusqu'au lycée qui é très difficile je vous dis pas à quel quel âge j'ai mais à l'époque c'était DHL qui m'envoyait des cours à distance avec l'IA génératif et avec l'IA il y a une opportunité extraordinaire pour combler également le le la faille qui existe au niveau de l'accès à l'éducation dans les pays en voie de développement surtout pour des femmes et et c'est c'est quelque chose aussi sur lequel on travaille à AWS encore une fois avec des partenaires publics et privés c'est rendre justement le contenu d'éducation accessible au plus grand monde possible pour que les femmes soient pas laissées à l'écart surtout dans les autres pays dans leur cheminement dans l'éducation et ça représente une opportunité formidable dernièrement j'aimerais juste parce que présidente Lavarde vous en avez évoqué et je pense que c'est essentiel et c'est un peu le elepant in the room on dira en anglais c'est qu'est-ce que tous ces outils représentent pour les gens euux de harcèlement pour les femmes en ligne et tout ce qui est la sexualisation de l'image de la femme en ligne et j'aimerais partager avec vous juste deux cas d'étude qui a fait en sorte que j'intègre AWS du secteur public une c'est que encore une fois en parlant de l'Afrique en Afrique de l'Ouest une des plus grandes problèmes des jeunes femmes c'est que elles ont pas accès à une compte en banque pourquoi ils ont pas accès à une compte en banque ils ont pas une carte d'identité nationale et en fait on travaille beaucoup dans les zones rurales pour assurer que des femmes qui ont aucune autre manière d'avoir une accès à une compte en banque peuvent grâce à l'IA à travers la reconnaissance faciale accéder à leur à une compte en banque et avoir une indépendance financière deuxièmement euh et c'est celles-là qui ont cette cétude qui a fait en sorte que j'intègre AWS on travaille beaucoup avec une organisation qui s'appelle Thorn qui est une organisation abus non lucrative dédié à l'arrêt de propagation de matériel d'abus sexuel pour les mineurs surtout les femmes et à lutter contre des trafiquants d'enfants encore une fois souvent des femmes avec les services de l'IA de AWS les outils de Thorn ont permis d'identifier 5894 victimes de la traite des enfants à des des fins sexuelles encore une fois surtout des femmes et de secourir 103 enfants dont les abus sexuels ont été enregistrés et distribués le temps d'attente d'enquête avec l'IA c'est réduit par 65 % grâce à cette technologie donc ça veut dire au niveau concret il y a des opportunités extraordinaires d' utiliser ces technologie pour faire face à ces défisl dernièrement et en clôturant on a plusieurs services de Lia générative comme code Whisperer mais aussi notre modèle de fondation et stageemer clarify que j'ai évoqué tout à l'heure qui enlève automatiquement en utilisant lia des contenus BIA biaisés qui est en ligne et qui réduit justement ces risques là mais je pense que l'essentiel et qu'est-ce qu'on peut faire pour opérationnaliser ça en France mais aussi au-delà et et j'aurais quatre recommandation pour finir une c'est que il faut tester on parle beaucoup dans le casre du G7 où la France est très impliquée sur les questions de Red teaming il faut tester il y a les erreurs comme l'exemple que j'ai cité de 2018 de cet outil il faut pas mettre sur le marché un outil qui n'est pas testé pour les aspects de l'IA responsable dont l'UR a évoqué tout à l'heure inclu la question de billet et de accuracy deuxièmement il faut des modèles de transparence et c'est une des choses qu'on fait au sein de AWS en créant ce qu'on appelle des service cards qui met à disposition au public qu'est-ce qui est le donnée qui est entraîné pour créer cette modèle pour qu'il comprennent d'où vient ces données et quels sont les risques et aussi comment l'utiliser cette service et comment ne pas les utiliser également dernièrement euh madame la Présidente Lavarde vous avez parlé de cet enjeu de de continuer en ligne il faut avoir une approche interopérable à ce qu'on appelle le le watermking de identifier quand quelque chose qui est en ligne est créé par l'A générative surtout audiovisuel qui a des enjeux particuliers pour l'égalité de femmes en ligne et je terminerai en disant que nous on est convaincu que la responsabilité ça mène la confiance que la confiance ça mène et ça encourage l'adoption de Lia et que l'adoption de l'IA amène à l'innovation qui est bien pour la France et bien pour le monde mais pour ça il faut la coopération euh il y a aucune de nous qui a les réponses et pour avoir des réponses il faut des collocques comme ça avec le secteur privé le secteur public les chercheurs la société civile qui est autour de la table pour réfléchir à à construire justement l'avenir de cette technologie avec l'égalité au centre donc merci beaucoup pour cette initiative et et et surtout pour [Applaudissements] l'invitation merci beaucoup finalement on pourrait presque s'arrêter après vos propos par vous avez fait une synthèse de la matinée mais il y a peut-être des questions qui ont été suscitées par vos vos exemples à toutes les deux oui bien sûr oui je voudrais peut-être rebondir sur le le le point concernant les brevets les femmes africaines le wifi et et qui justement ne rentrent pas chez elles parce qu'elles savent qu'elles seront prises par d'autres tâches en lien avec le thème de la première table ronde et et et en même temps faisant écho à à à à la question de la désertion qui a été posée tout à l'heure euh sur les brevets euh nous avons fait une étude dans le cadre de de la chair femme et Scien sur 130 pays 20 millions de de brevets et on a examiné analysé le 1 % des brevets les plus cités donc les brevets les plus efficace là la bonne nouvelle c'est que il y a elles ne sont peut-être que 7 % dans les pays de l'OCDE à déposer des brevets mais elles sont 15 % dans le top 1 % ce qui prouve bien qu'elles sont économiquement plus efficaces elles ne se dispersent pas à déposer des brevets qui ne servent à rien et qui sont coûteux mais elles vont déposer des brevets plus efficaces ce qui est plus ce qui a été plus choquant en tout cas en conduisant l'analyse c'est qu'on s'est aperçu que c'était 15 % dans les pays de l'OCDE mais 45 % dans les pays de l'exsphère d'influence soviétique alors une première explication c'est qu'effectivement dans les pays de de type soviétique l'homme et la femme sont traités à égalité c'est avant tout de la force de travail et chacun est mis sur les postes de travail là où il sera le plus efficace donc ça c'est une première chose mais en analysant de plus près et c'est là que les politiques publiques interviennent on s'aperçoit aussi que le taux de brevets successful déposé par des femmes est plus élevé dans les pays où les infrastructures d'accueil de la petite enfance sont les plus développées et donc là ça répond bien à cette question du temps dont on dispose ou dont on peut disposer euh qui peut conduire jusqu'à la désertion euh ou l'évitement ne rentrant pas chez soi euh pour pouvoir pour pouvoir travailler donc voilà ça c'était juste un témoignage et je voulais poser une question plus plus précise parce que oui on voit bien enfin en tout cas la recommandation fait sens il ne faut pas mettre sur le marché des produits qui n'ont pas été testés testés et encore testés mais n'y a-t-il pas aussi la solution de facilité chez les producteurs de logiciel et d'outils qui consiste à mettre sur le marché pour faire tester en fait le produit par les utilisateurs et puis l'améliorer avec la version 5.8 12.4 et cetera je suis ravie de cette question merci beaucoup Monsieur J on parle beaucoup dans le cadre de le euai Act actuellement de cette idée de regulatory Sand boes des bacs à sable régulatoires une des choses qui se échange au niveau international et Tania est très proche de de ces conversations également c'est est-ce qu'on devrait avoir des types de sandboxes euh pour la mise en marché du produit ou et encore une fois c'est dans le cadre du travail de la France aussi en tant que leader de réflexion dans dans cette travail de G7 sur le code de conduite cette question de de third party evaluation de l'évaluation d'une troisème partie sur justement la mise à disponibilité sur le marché de de ces ces outils là une des exemple qui est souvent cité dans en parlant de est-ce qu'on devrait avoir une type de testing c'est le comparaison à avec le milieu médical c'est que en fait on on mettra pas sur le marché en général un un médicament qu'on a pas justement fait le nécessaire pour assurer qu'il y a pas des effets Noves et et c'est une des engagements que nous avons pris dans le cadre des des engagements volontaires à l'époque à la Maison Blanche mais aussi dans le cadre du G7 c'est justement cette cette question de de Red teaming à la fois par nos propres équipes mais aussi par ces ces questions de pour assurer que s'il y a des risques ou des menaces que c'est adressé avant que ce soit mise en marché pour le public en sachant que AWS c'est une entreprise qui fait du B2B mais je pense que c'est quelque chose d' absolument essentiel et particulièrement importante pour tout ce qui concerne le B2C moi j'aurais une question pour madame lui mais vous aurez certainement aussi des avis dans des travaux antérieurs de la délégation à la prospective on s'était intéressé alors c'était pas on appelait pas ça encore intelligence artificielle mais euh à la suite de la de la crise de la covid on a pu observer que l'usage des données par l'État est quelque chose contre lesquel les citoyens ont une réticence très forte alors même qu'ils sont capables de donner leur données euh à Amazon à Facebook au gfam sans aucune difficulté derrière avec les conséquences qu'on a pu évoquer tout à l'heure avec des vidéos mensongères vous qui avez été à la tête d'étala pendant un certain nombre d'années est-ce que vous avez le sentiment que les choses vont évoluer dans le bon sens est-ce que vous avez réfléchi à la manière aussi de comment finalement introduire une sorte de confiance entre les citoyens et l'État et ce problème c'est pas que le covid et gfem parce que si on remonte un peu plus loin dans l'histoire il y a toute histoire de fichiers ou en fait on a eu le sentiment d'être on était fiché parce que c'était l'État et comment est-ce qu'on peut juste justement améliorer ce point parce que je pense que ça sera demain aussi une des difficultés pour la propréation de l'intelligence artificielle son développement surtout si on est attaché aux questions d'éthique et autres qui peuvent être soulevé c'est très juste je pense que la réponse elle est vraiment dans une action publique qui soit plus dialogante plus ouverte sur l'extérieur et qui accepte aussi de de montrer plus comment elle travaille l'élaboration de de des services publics ou des politiques publiques ça doit se faire de façon plus enfin avec une gouvernance plus ouverte donc le sujet de de l'exploitation des données c'est un bon c'est c'est un bon exemple l'Open Data l'ouverture et le partage des données publiques c'était une façon de répondre déjà à c'est ces défiances qu'il peut y avoir sur l'action de l'État en disant on on montre on rend compte de nouveau en diffusant proactivement des données d'un certain nombre de données dont dispose l'administration et et on les ouvre et on fait en sorte aussi que ça puisse stimuler l'innovation et ça crée même des usages extérieurs mais il y a toujours cette question effectivement de défiance par rapport à l'action de l'État et et puisqu'on parle de de la période du covid c'est intéressant parce que on a vu les travaux de Guillaume rosier qui était un tiers extérieur à l'administration qui traitait alors qui récupérrait même au début sous le manteau les données de même du ministère de la Santé sur la diffusion de de l'épidémie mais le fait qu'il soit un tiers externe qui analyse ses données en fait il y a eu une une forme de enfin il a pris une voix prépondérante dans la façon dont dont dont on communiquait sur la propagation de l'épidémie alors même que par ailleurs le ministère de la Santé et gouvernement.fr il y avait des tableaux de bord donc on sent bien que il y a effectivement euh cette ces craintes euh par rapport à à ce que peut faire l'administration et le sujet des échanges de données aussi entre administration euh et un une autre question d'ailleurs parce qu' il y a beaucoup de choses qu'on peut améliorer dans le service public en partageant des données entre deux administrations mais là aussi il faut rendre compte et c'est intégré maintenant dans France Connect par exemple on rend compte à l'usager de comment les données circulent d'une administration à l'autre donc il y a tout ce travail à faire effectivement de de de de rendre compte au maximum de des US qui sont fait mais mais c'est vrai que dans le domaine de l'intelligence artificielle ou même du scoring enfin on a cité l'exemple de de la CAF tout à l'heure enfin c'est c'est c'est extrêmement crispant et même si dans ce qui explique aussi la CAF dans ce scoring qui était fait c'était une façon de justement lutter contre les le non recours aussi enfin il y avait un côté très positif c'était pas seulement cibler les contrôles mais c'est vrai que on a des enfin une angoisse et des risques qui sont qui qui qui sont là réel je pense qu'il faut mettre là aussi des des sécurités dans la façon dont les services publics sont construits et encore une fois dans la façon dont la production de l'action publique est faite donc avoir des instances de dialogue avec la société civile des comités de citoyens des entreprises la recherche enfin et et plus on aura des instances comme ça plus ça contribuera à restituer la confiance mais mais il y aura toujours une réticence effectivement vis-à-vis d'un État qui peut par ailleurs envoyer aussi des signaux et devenir plus totalitaire attends non madame qui à qui j'avais coupé la parole du coup Prem bonjour je m'appelle sigrit trandel je fais partie du cercle interel donc qui promeut la place des femmes dans les entreprises et j'ai aussi mon entreprise pour aider les femmes dans leurs négociations commerciales pour prendre prendre le pouvoir sur leur avenir financier et économique les discussions qu'on a eu tout à l'heure qui étaient vraiment extrêmement instructives m'ont quand même amené à à me poser la question sur le le chisme qu'il existe entre ce que les écoles d'ingénieurs mettent en place pour attirer les jeunes filles et la situation législative des entreprises je m'explique ma petite mon petit témoignage ma fille a voulu faire une école d'ingénieur j'ai fait mout JPO journée porte ouverte pour aller voir des écoles ingénieur et aucune aucune n'a parlé de la place des jeunes filles donc j'ai dit à ma fille je pose une question ne m'en veux pas je levais la main en demandant à chaque fois Monsieur Madame quelle est la monsieur en général quelle est la politique de votre école par rapport aux jeunes filles et c'était sur le plateau de saclclé qu'avez-vous changé dans votre gouvernance par rapport aux événements des écoles du plateau de saclé et qu'est-ce que vous faites pour attirer les jeunes filles la réponse la plus surprenante a été un monsieur qui m'a dit oui alors nous on a un peu progressé sur notre taux de jeune fille on est passé de 7 à 11 bon euh notre gouvernance on a on a nommé une dame qui est responsable égalité homme-femme j'ai trouvé cette dame mais elle n'a pas pas su quoi me dire et enfin je nomerais pas ni l'école ni le monsieur il m'a dit écoutez qu'est-ce que vous voulez qu'on fasse les jeunes filles ne veulent pas venir on va quand même pas leur filer des points en plus pour qu'elles viennent ce à quoi j'étais un peu sans sans sans sans voie et moi ce qui m'étonne vraiment pour avoir vu beaucoup d'écoles c'est que il y a le sujet n'a pas vraiment été pris enfin de ce que j'ai vu le sujet n'a pas été pris à bras lecp Aline Aubertin fait partie du cercle interel donc effectivement elle est très active dans son école àp elle est la l'une des rares femmes qui représente qui qui préside une une école d'ingénieur et à côté de ça les entreprises sont de plus en plus poussées par les lois pour avoir des femmes dans leur gouvernance la Loire ric1 qui est formidable va obliger les entreprises à avoir plus de féminisation comment on fait pour les deux au milieu et moi j'ai eu des discussions très intéressantes avec ma fille à qui je disais ma chérie tu sais il y a quand même pas beaucoup de jeunes filles dans ces écoles d'ingénieurs ça ne te posera pas de problème pas du tout et elle m'a dit un truc que je trouve génial elle m'a dit mais maman quand je sortirai de mon école d'ingénieur je vaudrais de l'or j'étais très surprise parce que j'avais jamais eu ce discours avec elle mais c'est ça qu'il faut leur faire comprendre c'est que effectivement il faut leur montrer que c'est applicatif et moi je lui quand elle me disait ah petite je voudrais je voudrais travailler avec les enfants je vais montré une vidéo de unboxing de de de jeunes enfants qui recevaient une protèse parce qu'ils avaient eu une main coupée et je lu ai dit tu vois tu peux t'occuper des enfants aussi en faisant ça du coup elle est alors je sais pas c'est un rapport mais elle est passionnée par la mécanique et c'est ce qu'elle veut faire donc leur faire comprendre que les sciences c'est peut être très appliqué pour faire des choses très concrètes et qu'en plus ils seront bankable ils auront un job et pourront faire des tas de choses ça me laisse optimiste mais en revanche la situation des écoles d'ingénieurs et le leur comportement m' m'a vraiment laissé sans voir mais écoutez ça va me permettre de conclure c'est parfait euh juste quand même pour rebondir sur votre remarque après quand quand la loi de Marie-Pierre iixin a été votée donc qui était copéimerman 10 ans après euh le Satec faisait son assemblée générale et m'avait invité à intervenir et c'était vraiment leur sujet c'est comment on va faire pour avoir des femmes mais bon euh il faut le dire aussi le président donc m'a accueilli en disant madame le sénateur et m'a dit vous savez nous avons beaucoup de mal à trouver des directeurs femmes et là je lui ai expliqué que le jour où il chercherait des directrices il en trouverait probablement plus facilement il trouverait plus facilement des femmes c'estàdire que mais ça montre bien que c'est dans la tête c'est tant qu'on cherche des hommes on a du mal à à effectivement trouver des femme ce qui est assez logique et donc tant qu'on aura pas fait évoluer ça euh et bien euh on a encore une petite difficulté donc je pense qu'il y a encore un peu de travail à faire effectivement dans nos esprits et mais elle vaudra de l'or ça c'est évident et y compris d'ailleurs même chez les techniciennes parce qu'on se rend compte que enfin je sais que j'avais euh mais c'était amusant parce que nous étions quand même trois plusieurs sénatrices ingénieures dans cette salle comme quoi alors bon en même temps on a quitté le métier donc c'est dommage mais euh mais ça permet de porter la parole des ingénieurs ici aussi euh mais je je je j'avais rencontré des jeunes femmes et je leur disais que elles gagneraiit quand même mieux leur envie aller faire du dessin industriel que effectivement à aller être la niem qui va essayer de postuler pour aller dans une crèche même si on a besoin de gens dans les crèches mais on a aussi besoin de dessinatrice industrielle et objectivement une femme c'est très très bien dessiné aussi euh alors très rapidement parce que là je conclus parce que moi à midi j'ai une CM une commission mix paritaire juste un petit point de détail Roland lescur notre ministre de l'Industrie a a créé le Cercle le collectif industriel dont je fais partie également petit clin d'œil puisqu'on parle des réseaux de femmes et le le industriel vise la reféminisation de l'industrie française comme quoi on est tous connectés et on sait qu'on a tous un rôle à jouer voilà donc c'est vraiment un sujet global on l'a attaqué par l'intelligence artificielle mais c'est un des c'est une une des facettes qui est à traiter mais qui sera très importante justement pour comme vous le disiez nous aider à compter mais nous aider à voir le monde autrement euh comme comme il pourrait être plus que comme aujourd'hui il est vis-à-vis des femmes et c'est plutôt donc de façon positive que je vais clore ce colloque en vous remerciant tous personnellement j'ai appris énormément de choses et je suis sûr que je ne suis pas la seule ça nous laisse un grand chantier encore mais ça n'est pas grave c'est un premier pas et nous allons continuer et sachez que nous serons à vos côtés pour faire évoluer euh tous ces sujets lorsqu'il faudra le faire de façon plus politique et [Applaudissements] législative