Qu'attendre de l'intelligence artificielle ? | conférence AMFIS 2023

donc nous sommes euh réunis aujourd'hui pour aborder un sujet qui a une actualité de plus en plus marquante on l'a vu depuis le début de l'année avec le développement de chat GPT les discussions autour de ce sujet à savoir la question de l'intelligence artificielle et nous avons donc deux intervenants euh pour nous en parler euh je commence par toi manuel donc euh je ne suis pas sûr qu'il soit forcément nécessaire de te présenter en détail tu es le coordinateur national de la France insoumise député euh desbouches du de Marseille tu as touché à l'intelligence artificielle dans ta vie professionnelle tu as été également rapporteur fictif au Parlement européen sur le cadre éthique intelligence artificielle et robotique et sur la stratégie européenne sur les données donc des sujets que tu connais bien et que tu pour lesquels tu as une certaine affection et à ma droite Anna lombert qui est membre du Conseil national du numérique et qui autrice du livre schizophrénie numérique qui si je ne me trompe pas é est également disponible à l'espace du livre donc ce que je vous propose c'est que je vais laisser la parole à nos deux intervenants d'abord à manuel et ensuite à Anne et après nous prendrons plusieurs salves de questions merci merci Kevin bonjour à toutes et tous merci d'être venu nombreuses nombreux comme ça sur une conférence qu'on a mis sur un sur un sujet qui est pas forcément un sujet qu'on a l'habitude d'aborder dans nos universités d'été mais tu l'as dit qu' a un sujet qui rentre un petit peu dans l'actualité et honnêtement on avait une interrogation sur le nombre de personnes ça allait intéresser donc je suis content de voir que il y a pas mal de gens qui sont intéressés par par par ce sujet euh parfois quand on parle d'intelligence artificielle des journalistes des gens qui me disent mais vous êtes pour ou vous êtes contre l'intelligence artificielle je c'est pas vraiment la question euh et donc l'idée de de ce premier moment d'échange enfin il y en a déjà eu un plutôt sur le capitalisme numérique avantier mais ce premier moment d'échange à la France insoumis sur cette question c'est on commence à traiter cette question et on a préparé avec avec Anna lombert et moi je vais faire une une une première présentation autour de quelques points quelques éléments de contexte peut-être démonter une idée reçu un peu un myth qui est le myth de l'intelligence artificielle dématérialisée où il y a pas de travail derrière il y a pas de force humaine derrière qui se se mobilise un point sur les dangers parce que quand on dit vous êtes ou contre c'est souvent parce que on voit les les points négatifs les les menaces les risques les inquiétudes que peuvent faire peser l'intelligence artificielle et puis en même temps un dernier point sur des propositions parce que le problème c'est pas l'intelligence artificielle en soi c'est qu'est-ce qui peut être fait de l'intelligence artificielle et donc la question de quel est le un cadre de régulation quelle proposition on pourrait porter sans avoir honnêtement la prétention de faire des propositions qui soient exhaustives mais peut-être d'ouvrir un peu le débat et Anna lombert réagira peut-être avec parfois des éléments peut-être d'accord parfois des éléments de de critique l'idée c'est que l'échange soit stimulant entre nous et puis ensuite on vous laissera la parole pour qu'on puisse aussi échanger échanger ensemble le contexte sur ce sujet de l'intelligence artificielle il a été un peu abordé par Kevin en introduction mais c'est vrai que cette année alors que ça fait depuis plusieurs années qu'on parle d'intelligence artificielle bien sûr depuis plusieurs décennies même he si on regarde les travaux scientifiques sur le sujet les premières première publication sur ce sujet c'est dans les années 80 donc ça fait longtemps qu'on parle d'intelligence artificielle mais cette année ça a un peu explosé aux yeux du du grand nombre avec notamment la la question de de chat GPT ça a été abordé et avec des premières prises de position ou des premières décisions soit de de de chercheurs d'intellectuels d'État qui disent attention il y a des risques faut pas faire n'importe quoi sur sur ce sujet cette année au mois de mars il y a eu notamment un courrier qui a été signé par 1100 personnes dont le Elon Musk le fondateur d'Apple Steve vosnac des professeurs spécialistes d'intelligence artificielle qui appelaient les laboratoire de recherche et de développement en intelligence artificielle à faire un une pause à interrompre immédiatement les les les les les développements parce que en gros il y a une inquiétude où ça va on sait pas trop et cetera il y a eu aussi une décision c'était le même mois au mois de mars les autorités italiennes qui ont ouvert une enquête judiciaire sur Chat GPT en reprochant à chat GPT de pas rest respecter la législation sur les données personnelles et de pas avoir de de système pour vérifier l'âge des des usagers mineurs il y a aussi des inquiétudes qui ont été exprimé par exemple par les éditeurs de presse qui disent il y a une difficulté avec les algorithmes d'intelligence artificielle et qui s'interrogent sur qu'est-ce qui va advenir de la presse y compris de la presse en ligne si vous avez des algorithmes qui peuvent absorber l'ensemble des articles et les et les les et les reproduire donc rien n'oblige ensuite à à à à attribuer l'information au média qui l'a produit donc ça fait peser aussi un certain nombre d'inquiétudes sur ce sujet c'est pareil sur l'industrie l'industrie du du disque et le 1er 2 novembre il y aura un sommet international sur l'intelligence artificielle qui va avoir lieu en Grande-Bretagne et qui a pour objectif de d'examiner les risques de l'intelligence artificielle et discuter sur la manière avec laquelle ils peuvent être atténués on va dire par une action coordonné à l'échelle à l'échelle internationale ça c'est juste quelques éléments du contexte pour dire oui le sujet de des opportunités et des la balance entre les opportunités et les risques de l'intelligence artificielle est un sujet qui est un sujet d'actualité particulièrement chaud vu ces différentes initiatives et et prise de de position maintenant je voudrais juste essayer peut-être de de démystifier un un myth une croyance ou ce sentiment que finalement quand on parle d'intelligence artificielle et du numéque de manière générale on voit les machines on voit les algorithmes et on donne l'impression on donne le sentiment on fait comme si finalement il y avait rien derrière et on cherche à invisibiliser le fait que derrière tout ça il y a du travail humain il y a une consommation de ce travail humain mais le système capitaliste de manière de mon point de vue volontaire cherche toujours à essayer d'invisibiliser cette dimension parce que si elle n'était pas indivilisé invisibilisé pardon ça poserait la question de la rémunération de ce travail humain voilà et quand on donne l'impression que c'est les machines qui font bah les machines on a pas besoin de les payer VO donc ça pose un certain nombre de de questions de sujet et ça ouvre un débat qui est vraiment de mon point de vue ou un sujet qui est de mon point de vue vraiment le l'impensée le non dit quand on aborde ces questions d'intelligence artificielle c'est toute la problématique sociale qu'il y a derrière derrière de ce qu'on appelle les travailleurs du clic c'est-à-dire ces gens qui euh passent à longueur de journée du temps dans des endroits d'ailleurs c'est souvent pas le cas en France c'est plutôt dans des pays où les conditions de travail sont beaucoup plus beaucoup moins développé que que chez nous et qui passent leur journée à cliquer à aider les algorithmes d'intelligence artificielle à être entraînés en disant ça c'est un chat ça c'est un chien ça c'est un chat ça c'est un chien voire parfois à répondre à la place de l'algorithme de la intelligence artificielle quand il est pas capable d'y répondre hein quand vous allez demander à un algorithme d'intelligence artificielle de reconnaî de reconnaître une photographie pour une partie c'est vraiment la machine qui vous va vous répondre à travers un travail d'entraînement parce qu'elle aura absorbé beaucoup d'images de chat et d'images de chien et elle pourra dire ça ça ressemble plutôt à un chat ou ça ça ressemble plutôt à un chien mais parfois la machine elle sera pas capable de le faire et c'est une intervention humaine qui va répondre à la place et ça on le sait on le sait souvent souvent peu euh c'est j'ai donné cet exemple des travailleurs du clic mais les travailleurs du clic bien sûr c'est autre chose et c'est aussi notamment tout le développement de l'économie autour des plateformes euh et ça c'est un sujet peut-être qu'on connaît un peu plus sur lequel on a travaillé en tout cas depuis un certain nombre d'années qui est la question des l'économie des plateformes des travailleurs numériques de leur rémunération et de comment cette économie des plateformes elle est utilisée par le système capitaliste aujourd'hui pour essayer de contourner les réglementations du travail qui ont été acquis de dans notre dans notre pays avec cette illusion que quand vous êtes inscrit sur une plateforme uber ou sur une plateforme delivverou on vous fait croire que vous êtes en quelque sorte votre propre patron et donc à partir de ce moment-là que comme vous êtes votre propre patron les règles qui régissent normalement le rapport entre un patron et un salarié ne s'applique pas pour vous mais en vérité vous êtes pas votre propre patron puisque vous recevez à longueur de journée des consignes qui vous disent d'aller chercher telle personne à tel endroit d'aller livrer tel repas en allant le chercher à tel endroit ou et de l'amener à tel endroit et que si vous le faites pas vous allez être désinscrit ou disqualifieré de cette cette plateforme vous avez pas la possibilité de choisir vous-même le travail que vous voulez que vous voulez faire et et donc c'est un une autre une autre un autre exemple de ces de ces travailleurs du du du clic dont le leur conditions de travail sont en permanence confronté à des des des logiques rythmique des des scores de réputation des tests automatisés et qui modifi en quelque sorte ou en tout cas qui pose une question sur les conditions de travail de ces de ces travailleurs du CLIC et on le sait il commence à y avoir des premières études sociales sur ce sujet que ils sont particulièrement exposés particulièrement confrontés à la précarité à l'isolement social au problèmes de surménage au rythme de vie qui sont dstructuré avec toutes les conséquences que ça peut avoir sur le bien-être physique et et mental de de chacun de ses ces travailleurs et de ses travailleuses euh bon donc c'est pour donner quelques exemples de ce de ce de ce de ce de ce travail du clic mais il y a une autre forme du travail du du du clic euh qui est la production de ces données les données qui sont utilisées pour enregistrer des des des des plateformes et cetera elles sont produites par par chacune et chacun d'entre vous euh qui vous laissez des vous allez sur des sites internet Internet vous allez laisser des des traces de votre activité sur les sites Internet elles vont être captées sous forme de de de données parfois c'est des données que vous allez donner volontairement parfois c'est juste des données d'observation de ce que vous allez faire et en quelque sorte on peut on peut dire que chacune et chacun d'entre nous vous fournissez un travail gratuit dont la valeur est captée intégralement par ses entreprises et ses plateformes numériques puisque les données qu'elles utilisent pour produire leur travail ne donne pas lieu à une rémunération donc l'intelligence artificielle c'est pas juste des machines c'est pas juste des algorithmes c'est des réalités matérielles concrètes avec des gens derrière c'est aussi des infrastructures matérielles qui sont extrêmement lourde et qui sont aussi des sujets qui commencent à monter dans un certain nombre d'endroits avec le développement de d'immense centre de données de data center il y en a 250 en France qui commence à faire poser des des des questions je vais y venir ensuite en matière par exemple d'urgence climatique de consommation énergétique d'accumulation des terres pour mettre ces immenses centres données de données dans un endroit euh et je sais qu'il y a un certain nombre de villes c'est le cas par exemple à à Marseille qui qui souhaite devenir en quelque sorte une sorte de d'immense euh hub de de de de données alors ça ça commence à poser des des des des questions sur l'appropriation des des espaces de la ville pour en faire des immenses centres de données et puis c'est euh l'intelligence artificielle aussi une consommation énorme de ressources euh énergétique si vous prenez les études de l'ADEM je vous lis l'étude de l'ADM les plus gros data center consommeraient un peu plus de 45 GWh par an ce qui correspond à la consommation électrique de 9000 foyers et la mise à jour d'un simple modèle d'intelligence artificielle pourrait absorber l'équivalent de la consommation de 100 foyers américains sur 1 an à chaque fois que Ch chat GPT répond à 20 à 50 questions c'est 500 ml d'eau qui sont utilisé surit l'équivalent d'une petite bouteille d'eau de de de petite bouteille d'eau de de 50 cil et il y a des donc des enjeux de consommation énergétique il y a des enjeux de consommation de matériaux RAR il y a des enjeux de consommation d'eau il y a la nécessité d'extraire des matières premières pour élaborer cette infrastructure et c'est source d'une énorme consommation d'eau et d'un certain nombre de de pollution juste voilà pour rappeler ça l'intelligence artificielle c'est pas que vous êtes sur votre ordinateur et il y a une machine qui va répondre à une question à laquelle vous allez poser derrière il y a des réalités matérielles avec des impacts matériels concrets maintenant peut-être un deuxème partie sur les les dans de l'intelligence artificielle dans un régime capitaliste comme celui dans lequel on est aujourd'hui d'abord faut rappeler que le secteur du numérique aujourd'hui il est dominé par quelques acteurs quelques grands acteurs on parle vous savez souvent des gar fames Google Apple Facebook Amazon Microsoft on parle parfois moins mais ça existe aussi de l'équivalent chinois des g femes qui s'appelle les bat X c'est baidou Alibaba Tencent Xiaomi qui sont dans des situations de de de monopole et qui accumulle des données de manière extrêmement massive qui détiennent de plus en plus une part de plus en plus importante croissante d'infrastructure stratégique par exemple qui commence à s'approprier les câbles sous-marins qui permettent le transit des données entre les les océans et qui commence à avoir des des véléités qui sont normalement traditionnellement des véléité régalienne j'en veux pour preuve par exemple qu'il y a eu un projet pour l'instant à avorter de Facebook pour développer une monnaie qui s'appelait liba donc le poids croissant de ces de ces acteursl pose des questions confronte les les les états il compris à des défis majeurs à des contestations d'un certain nombre de de pouvoirs de véléité qui étit initialement pris en charge par par les États premère élément de de de danger qu'on peut voir autour de de de développement de l'intelligence artificielle dans le le système capitaliste deuxième il est moins connu mais il y a il commence à y avoir un certain nombre d'études sur le sujet euh sur le fait que puisque les algorithmes d'intelligence artificielle sont des algorithmes qui à partir de données acquire une compréhension de la logique de ces données pour ensuite la reproduire alors elle reproduit aussi ce qui existe dans les données et que l'on combat et donc elle reproduit aussi les inégalités raciales les inégalités de genre les inégalités qui prévalent dans la société et même elles ont tendance à les à les accroître et à les aggraver et j'en veux pour preuve je peux vous citer par exemple le rapporteur spécial des nations- Unies sur le racisme qui dit des sociétés comme facebook on des modèles économiques et commerciaux qui leur permettent de profiter activement de de la désinformation de la discrimination et de l'intolérance si vous voulez un cas concret de ça c'est par exemple le développement par l'armée israélienne d'un certain nombre de de d'armes qui s'appuie sur l'intelligence artificielle qui déploie un certain nombre d'applications qui a vocation à faciliter j'aime pas le terme mais vous comprendrez pourquoi je le mets entre guillemets l'usage par l'armée israélienne de déterminer par exemple à partir d'une image si telle ou telle personne c'est un Palestinien ou si c'est un israélien et il y a des application qui commence à être développée par l'armée israélienne sur sur ce sur ce sujet qui s'appuie sur une base de données que certains appellent le facebook secret des des Palestiniens et qui leur permet de de clignoter de manière différente si la personne qu'ils ont en vue est une personne palestinienne ou une personne israélienne donc donc il y a la la la possibilité pour ces algorithmes d'intelligence artificielle de reproduire des discriminations pour de reproduire des des éléments qu'on qu'on combat dans la société mais qui existent aussi dans dans la manière avec laquelle l'intelligence artificielle va reproduire des tendances qu'elle observe dans dans dans la société en mars de cette année l'armée israélienne elle a reconnu officiellement qu'elle avait incorporé l'intelligence artificielle dans son système de défense afin de l'aider à prendre des décisions offensives en déterminant par exemple le caractère militaire ou le caractère civil d'une cible bien sûr quand on parle d'intelligence artificielle ça a été cité dans l'introduction de Kevin tout à l'heure pas très loin de ça et y a la question des robots et du développement des technologie euh robotique qui l'a aussi il s'agit pas de dire que tous les robots c'est un problème euh si on est en capacité de produire euh les machines qui peuvent se substituer sur certaines fonctions nécessaires indispensables à la société pour les prendre en charge à la place de de de citoyen de citoyens c'est pas le problème mais en l'absence de tout cadre réglementaire il est clair que le développement des industries robotique peuvent donner et produire des des horreurs et notamment on sait qu'il y a de il y a des travails de recherche qui sont faits sur des systèmes d'armes létal autonome c'estàd qu'il se débrouille tout seul et qui décide si oui ou non il faut ouvrir le feu si oui ou non faut tirer en fonction dans l'analyse d'un certain nombre de de de paramètres et donc on voit bien que s'il y a pas un cadre légal réglementaire qui permet de d'encadrer le développement de ces ces ces ces technologies robotiqu alors clairement elles peuvent elles peuvent amener à des à des à des graves erreurs et à des graves problèmes 3è ou 4e élément d'inquiétude sur le développement de ces stratégies de de ces algorithmes d'intelligence artificielle c'est l'émergence de tout ce qu'on va appeler le management algorithmique le management par des algorithmes avec la possibilité ça ça existe depuis déjà un certain nombre d'années hein notamment dans les grands centres logistique on sait que c'est de plus en plus le cas c'està dire de de surveiller l'activité des travailleuses et des travailleurs avec des puces avec des données qui leur permettent de dire tu n'as pas respecté tes performances il faut que tu ailles plus vite tu as tu as réussi à à préparer que tel nombre de colis dans l'heure alors que pour que tu sois un bon salarié il faut que tu fasses tel nombre de de colis dans dans dans l'heure et donc il y a la le la pression qui augmente sur le mouvement des travailleurs sur leur rythme de travail qui limite leur pose euh et le développement de l'intelligence artificielle il peut pousser à ça et donc c'est aussi un élément un élément d' d'inquiétude bien bien sûr il y a toutes les inquiétudes celles-là j'ai pas besoin de les détailler trop en détail je pense parce que vous les vous les connaissez vous les partagez mais sur tout le développement de ce qui va être la société de la surveillance généralisée on a examiné à l'Assemblée nationale il y a quelques mois de ça une proposition de loi don le nom était en soi assez bénin c'était une loi pour préparer les Jeux olympiques de l'année prochaine et dans cette loi était commencé à être développer des stratégies par exemple de reconnaissance faciale en utilisant les outils de l'intelligence artificielle donc on voit le le risque là aussi que ces technologies si elles ne sont pas encadrées si elles ne sont pas réglementé peuvent peuvent faire peser sur la défense et la sauvegarde de nos libertés nos libertés individuelles voilà maintenant qu'on a dit ça qu'on a bien parlé de danger des risques peut-être qu'on a peur pas détailler les opportunités mais il y en a je parlais tout à l'heure de la possibilité parfois de se substituer à des tâches humaines qui sont des tâches humaines pénibles je pense qu'on a jamais fait partie d'un courant politique qui considère que quand on peut avoir des gains de productivité et quand on peut épargner à des travailleuses et à des travailleurs des tâches pénibles c'est pas un problème pour nous la question qui est posée ensuite c'est à qui profitent ces gains de productivité est-ce que ces gains de productivité ils sont absorbés par le le le le patron est-ce qu'ils sont absorbés par le capital ou est-ce que ces gains de productivité il permettent d'alléger effectivement la la charge des travailleuses et des travailleurs de réduire le temps de travail de faire en sorte que pour un temps de travail plus faible on puisse avoir la même rémunération puisque les progrès de la productivité font que on a besoin de moins de temps de travail pour produire la même quantité de richesse que ce qu'on avait besoin de produire avant et là je fais une petite parenthèse mais ça nous amène à tous les débats qui existent sur la réduction du temps de travail réduction du temps de travail dans la journée réduction du temps de travail dans la semaine réduction du temps de travail dans l'année réduction du temps de travail dans la vie on sort d'une grande bataille sur la réforme des retraites où vous entendez en permanence ce fameux argument oui mais comme on vit plus longtemps ben on doit travailler plus longtemps mais ce que ne disent jamais ceux qui disent que on vit plus longtemps c'est que les la productivité du travail a augmenté dans des proportions qui sont des proportions importantes et qu'à partir de ce moment-là on a besoin de travailler moins longtemps pour produire la même quantité de richesse que l'on produisait avant par exemple en 3 He on va avoir besoin d'une heure pour produire cette même quantité de richesse et donc la question qui nous est posée c'est les de heures restantes à quoi elle ser servent est-ce qu'elles servent à faire en sorte que les dividendes de l'actionnaire soi plus importantes ou est-ce qu'elles servent à faire en sorte que on puisse réduire la durée du travail du temps de travail obligatoire avec une même rémunération tout ça pour dire que si j'ai beaucoup insisté sur les les risques que peut faire peser l'intelligence artificielle ça ne veut pas dire qu'on est contre en soi le développement de l'intelligence artificielle on veut dire qu'on pense qu'il faut des réglementations il faut des cadres qui contrôlent son utilisation et que les développements des algorithmes ou des outils d'intelligence artificielle peuvent être aussi des sources d'opportunités pour alléger la charge des travailleuses et travailleurs pour faire des progrès techniques Kevin disait tout à l'heure en introduction que dans mon parcours professionnel j'ai eu j'ai travaillé un peu sur ces sur ces sujets quand vous travaillez ça a été mon cas sur des algorithmes intelligence artificielle qui permettent qui permettent de canner des radios du cœur de de nombreux patients pour essayer de détecter de manière précoce le développement de cas de cancer bon si on règlemente bien ça on peut pas être opposé à l'idée qu'on va être plus efficace meilleur pour essayer d'identifier le développement de de de concer pour pouvoir mieux les traiter donc autour de l'intelligence artificielle il y a des opportunités formidables mais ces opportunités formidabl comme toutes les opportunités et comme tous les progrès techniques elles sont aussi porteuses de risqu formidablebl et donc la question qui nous est posée c'est la réglementation tout un tout un autre sujet peut-être un certain nombre d'entre vous ici pour vous dire que c'est un sujet qui n'est pas nouveau on vu le film openheimer qui est au téléphone au téléphone au cinéma en ce moment ah bah là je pense que vous voyez à quel point il y a toujours eu dans la communauté scientifique des dilemmes éthiques des inter ogation des questions sur à la fois on va développer quelque chose et on se dit la science va faire des progrès extraordinaires ça nous permet des opportunité extraordinaire et à la fois en même temps c'est c'est c'est inquiétant parce que ça peut conduire à à n'importe quoi donc et pour laisser ensuite la parole à ma codébatteuse quelle quelles idées quelles propositions on peut mettre sur la table bon donc là je relaie un certain nombre de de de propositions qui encore une fois sont ouvertes au débat je sais je vois je reconnais ici qu'il y a des des camarades qui sont membres du livret numérique de de de la France insoumise je pense qu'ils prendront la parole tout à l'heure on a déjà he des propositions on a déjà travaillé à la France insoumise sur ce sujet mais c'est vrai comme le sujet devient de plus en plus important peut-être qu'il faut qu'on qu'on qu'on renforce encore nos nos nos propositions là-dessus la première proposition ou ou priorité que je veux relayer c'est la elle est à l'échelle internationale sur ces sujetsl on a besoin d'agir à l'échelle international de mettre en place des règlementations internationales parce que c'est toujours la même question sinon euh il y a des gens qui vont vous dire oui oui mais vous vous voulez pas utiliser ces technologies en France mais elles sont utilisées ailleurs donc on va prendre un retard je sais pas donc il faut qu'il y ait des cadres et des réglementations internationale et il y a notamment une recommandation sur l'éthique de l'intelligence artificielle qui a été adoptée par l'UNESCO en 2021 euh et on considère que sa mise en œuvre euh serait nécessaire c'est un cadre éthique pour l'instant c'est pas des cadres avec des des recommandations éthiques par exemple cette recommandation elle affirment que tous les individus devraient pouvoir accéder aux enregistrements de leurs données personnelles et même les effacer la question de du contrôle de ses propres de ses propres données elle interdit explicitement l'utilisant l'utilisation de système d'intelligence artificielle pour la notation sociale ce qu'on disait tout à l'heure sur le management algorithmique et pour la surveillance de masse elle a été adopté par l'ensemble des États de l'Organisation des Nations Unies mais il y en a seulement 40 d'entre eux des états des Nations Unies qui ont commencé effectivement avec l'UNESCO à travailler à la mise en œuvre de ce cadre éthique deuxième prise de position internationale qui est intéressante c'est celle du Secrétaire général de l'Organisation des Nations Unies Antonio gutierz qui a proposé de créer une nouvelle entité des Nations Unies qui s'inspirerait de l'Agence internationale de l'énergie atomique ou du JEC par exemple qui permettrait de rassembler toutes les recherches en cours sur l'intelligence artificielle et é mettre des recommandations à la communauté internationale c'est-à-dire se doter un comité international d'experts scientifiques qui peuvent dire attention il y a tel risque soyez vigilant il faut traduire dans votre loi il faut faire tel effort telle évolution législative deuxè proposition troisème proposition c'est bien sûr renforcer les droits des travailleurs donc de modifier de faire évoluer le code du travail la protection des travailleurs en matière d'accès à leurs données et sur la manière avec laquelle ces données sont utilisées stockées ou partagées en dehors de la relation de de travail c'est renforcer le rôle des organisations syndicales dans le contrôle de l'utilisation de l'intelligence artificielle dans le cadre de l'entreprise par exemple pour vous donner un exemple pourrait y avoir des conventions collectives qui fixent des des limites à la surveillance exercer sur les travailleurs au moyen de de l'intelligence artificielle qui fixe des critères pour accroître la transparence des processus décisionnels ça c'est ce qu'on pourrait faire pour peut-être essayer de limiter les les dangers les risques vous allez me dire c'est vague oui c'est ample on va dire ensuite ça mérite d'être précisé puis ensuite il y a la question de qu'est-ce qu'on pourrait faire pour utiliser les aspects positif de l'intelligence artificielle et ça je je vous raconter quelque chose que je ne connaissais pas pour être tout à fait honnête avant de préparer cette conférence mais qui m'a intéressé qui est je sais pas si vous en avez déjà entendu parler ce qui s'appelle le projet cybercine le projet cybererscine est pas nouveau il vient pas de l'intelligence artificielle le projet cybercine a été développé au Chili sous Salvador aliende il a été interrompu par le coup d'État de 1973 don on fête cette année le 50e anniversaire et l'objectif du projet cyberersine c'était de développer l'ensemble des données relatives à la production pour détecter les tendances les irrégularités modéliser l'évolution future de l'économie chilienne et essayer de mettre en place une forme de planification qui était sans doute pas écologique à l'époque hein euh au Chili comme ailleurs mais d'essayer de d'utiliser nos capacités algorithmiques de traitement des données pour planifier au mieux le développement de l'économie et pour satisfaire les besoins de la population donc tout ça pour dire que on pourrait aussi imaginer dans le cadre d'un processus de planification écologique comme celui qu'on défend à la France insoumise l'utilisation des des technologies de l'intelligence artificielle pour faire en sorte de penser à un développement économique qui soit compatible avec le respect des limites planétaires donc l'intelligence artificielle de ce point de vue-là elle peut aussi être une opportunité euh pour par exemple s'attaquer à la question de l'urgence climatique et environnmentale je vous donne un exemple il y a des chercheurs du CNRS du CEA de l'Université Lyon 1 qui ont développé une intelligence artificielle capable de prédire les canicules jusqu'à un mois avant son apparition c'est des technologies d'intelligence artificielle elles sont pas fiables à 100 % par définition mais ce type de développement je pense que tout le monde ici sera d'accord pour dire que si ça nous permet une politique qui euh euh euh s'attaque à la question de de de l'atténuation du changement climatique et de son adaptation puisque là on parle de son adaptation au changement climatique je pense que tout le monde sera d'accord ici pour dire que ça ça sera ça sera positif voilà pour essayer de poser peut-être un cadre de débat sans avoir la prétention d'y apporter toutes les réponses et sans y apporter sans avoir la prétenion d'être un expert sur ce sujet comme comme comme les annees à qui je vais laisser la parole dorén avant Merci à [Applaudissements] VOUS bonjour Merci beaucoup merci beaucoup de de votre invitation donc je je suis pas une experte non plus du tout du sujet hein je je je m'y suis beaucoup intéressé ces dernières années mais à à l'origine je suis maîre de conférence en philosophie à l'Université Paris 8 donc mon domaine voilà mon champ d'expertise c'est plutôt la philosophie et c'est vrai que c'est aussi plutôt la philosophie de la technologie donc je vais revenir un petit peu rapidement euh sur quelques éléments à ce sujet et c'est dans ce cadre-là de réflexion philosophique sur la question de la technique notamment que je me suis intéressée à ces questions des technologie numérique et de l'intelligence artificielle un peu plus spécifiquement euh et donc donc merci beaucoup pour cette introduction qui était très très complète j'ai envie de rebondir sur beaucoup de choses mais je vais essayer de suivre un peu le fil de mes notes et puis on engagera la discussion ensuite parce que j'ai peur sinon d'être d'être trop confuse voilà donc donc moi simplement pour vous dire un petit peu d'O d'où je parle en fait j'ai fait donc une thèse de philosophie qui va être publiée en septembre qui s'intitule pensée l'humain et la technique et qui porte sur les les les œuvres de deux auteurs qui s'appellent Jacques derriid et Gilbert Simondon qui ont écrit dans les années 60 je vais vite là-dessus hein je je vous détaille pas tout ça mais je vous le dis parce que ce qui est intéressant avec ces penseurs c'est qu'en fait il ils écrivent de manière contemporaine à l'émergence donc de ces disciplines en fait que sont la cybernétique d'un côté les sciences cognitives de l'autre l'intelligence artificielle aussi euh qui donc qui commence à émerger à ce moment-là puis qui ensuite comme vous le disiez se développe dans les années 80 avec l'apprentissage automatique le machine learning et cetera et qui donneent les technologies qu'on connaît aujourd'hui et en fait donc ces C ces penseurs vont beaucoup s'intéresser au présupposé théoriqu en fait de ces recherches techniques et scientifiques donc quelles sont en fait les grandes affirmations théoriques qui sont derrière ces ces projets et notamment donc les auteurs sur lesquels j'ai travaillé sont des auteurs qui ont beaucoup mis en question déconstruit euh une analogie en fait qui est un peu fondamentale dans le champ de la cybernétique ou de l'intelligence artificielle qui est l'analogie entre l'organisme vivant et la machine ou bien entre le cerveau et l'ordinateur hein et ils ont déconstruit un petit peu ces analogies en disant qu'il fallait faire très attention justement à ces comparaisons hein et donc à ces ces expressions comme comm intelligence artificielle machine consciente machine pensante et cetera et aujourd'hui en fait quand vous regardez un petit peu le discours des transhumanistes même la lettre d'Elon musk que vous mentionniez tout à l'heure et bien donc qui sont en fait les les concepteurs de ces de ces technologies vous verrez beaucoup ce ce genre d'expression revenir hein les esprits numériques la super intelligence artificielle qui va prendre le pouvoir et cetera les machines intelligentes les machines émotionnelles les machines spirituelles et cetera et cetera c'est aussi le le le les les discours c'est les titres des livres de Raymond kurzwell qui était directeur de l'ingénierie chez Google qui est l'un des un un des principaux initiateurs du du mouvement transhumaniste et donc si vous voulez moi le mon mon point d'entrée dans ce sujet hein c'est de dire que toutes ces métaphores anthropomorphique en fait qui attribue la pensée l'intelligence les émotions et cetera aux machines en fait elles ont un rôle idéologique c'est-à-dire que elles sont là pour cacher d'autres choses vous voyez c'est le rôle de l'idéologie c'est que on vous parle de quelque chose pour cacher en ce qu' a derrière hein donc vous l'avez très bien dit bah sur la question du du travail humain qui se cache derrière ces ces dispositifs par exemple aussi ce qui est caché c'est aussi le fonctionnement technique du coup he quand on dit que la machine pense qu'elle est intelligente bah on sait pas du tout comment ça fonctionne hein donc on on on on entretient si vous voulez les citoyens dans une forme d'ignorance par rapport au fonctionnement des dispositifs technologiques qui les entourent et dont ils se servent tous les jours donc ça pose quand même un certain nombre de problème et puis la troisième chose donc le travail humain le fonctionnement technique et la troisième chose ce que c'est disposé nous font c'est-à-dire ce qu'elles font précisément à nos capacités de penser hein quand on dit que la machine pense qu'elle est intelligente qu'elle a des émotions et cetera bah on peut même plus se demander et à nous qu'est-ce que ça nous fait en fait est-ce que au contraire ces dispositifs là ne ne seraient pas là justement pour transformer la manière dont nous pensons dont nous sentons nos consciences en fait tout simplement et donc moi je pense que c'est ça la question fondamentale en réalité et c'est cette question que j'essaie un petit peu de poser donc dans ce livre qui s'intitule schizophrénie numérique donc voilà jeis un peu de de publicité et et donc je vais je vais vous en parler un petit peu maintenant euh et puis et puis je je donc je vais vous essayer d'expliquer rapidement en fait la disons euh les les questionnements que j'essaie de de mettre en place dans ce dans dans ce livre là euh parce qu'en réalité j'ai pas vraiment de réponse donc c'est une perspective très enfin plutôt critique mais qui qui qui a aussi vocation à à faire un certain nombre de propositions je sais pas si j'aurai le temps de les de les évoquer mais en tout cas voilà il y a une analyse critique mais à cette analyse critique ça doosse aussi un certain nombre de propositions positives et puis et puis je voudrais aussi me focaliser un petit peu à la fin sur la question plus spécifique de chat GPT justement et des gros modèles de langage et des enjeux et des problèmes que ça que ça soulève selon moi et aussi de de disons de la manière de lutter contre ces problèmes avec peut-être l'intelligence artificielle justement donc pour ne surtout pas tomber dans un discours qui soit euh voilà pour ou contre effectivement je suis tout à fait d'accord cette question n'a absolument aucun sens et et ce qui en fait la question qui se pose pour moi c'est comment faire pour que cette intelligence artificielle soit mise au service de l'intelligence collective hein c'était sa vocation c'était la vocation du web lors de son son émergence disons lors de sa création et il y a eu une sorte de renversement en fait qui s'est produit notamment avec l'internet des plateformes dont vous avez parlé qui a bah voilà il y a une captation en fait de la valeur produite contributivement sur le web par un certain nombre de de plateformes grâce à un certain nombre de techn ie au moyen aussi de de de modèles d'affaires qui sont très problématiques et donc les les les ambitions on va dire émancipatri qui étaent à l'origine de ces technologies numériques se sont renversé en leur contraire et c'est de cette situation qui s'agit à mon avis d'essayer de de sortir donc voilà donc ce ce ce ce ce livre qui s'appelle schizophrénie numérique donc son son son sous-titre c'est la crise de l'esprit à à à l'air des nouvelles technologies donc donc en fait l'idée c'est un petit peu de de comprendre ce que ces technologies font à nos esprits en fait voilà c'est un petit peu ça ma ma ma question la la question qui qui motive l'ouvrage et donc le donc voilà donc simplement pour préciser ça en fait par esprit j'entends en fait quelque chose de très très large c'est un mot un petit peu qui peut sembler un peu métaphysique mais en fait l'esprit pour moi donc ne se réduit pas au cerveau aux neurones ça c'est ce qu'on nous raconte beaucoup dans le champ des neurosciences mais euh mais en fait l'esprit c'est simplement un processus d'individuation psychique et collective donc c'est une manière pour que les individus vivants ont de se relier collectivement euh donc de s'individuer socialement en partageant en général un certain nombre de symboles qui sont eux-mêmes on va dire sédimentés matérialisés dans des supports matériels d'accord dans qui sont en fait nos environnements techniques et médiatiques hein donc du coup je m'intéresse plutôt aux technologies numériques en tant qu'elle constitue les nouveaux milieux médiatiques si vous voulez les nouveaux supports de symboles les nouveaux supports de savoir les nouveaux supports de la mémoire collective en fait d'accord et qui nous entoure euh voilà en permanence hein et euh et donc une fois qu'on a qu'on qu'on qu'on se qu'on qu'on a accepté en fait cette thèse selon laquelle bah l'esprit c'est pas quelque chose qui se déroule dans ma tête ou dans mon cerveau mais c'est quelque chose qui circule entre nous dans ces supports de mémoire dans ces supports symboliques et bien du coup on est obligé de reconnaître d'une certaine manre ère que quand ces supports symboliques évoluent quand ils se transforment et bien nos facultés psychiques vont se transformer aussi c'est-à-dire notre mémoire notre perception nos imaginations tout ça ça va se transformer en fait d'accord en fonction de l'évolution des supports médiatiques donc ça veut dire que nos consciences en fait et nos inconscients nos manières de de voir l'avenir aussi vont se transformer en fonction des dispositifs médiatiques qui nous entourent et euh donc ça c'est voilà c'est une c'est une thèse hein qu'on peut discuter mais en tout cas c'est c'est c'est celle que que j'adopte dans dans le livre et euh ça pose un gros problème quand on regarde la situation contemporaine pourquoi bah parce que on voit qu'aujourd'hui ces milieux médiatique numérique euh tellels qui sont donc Régis de manière un peu dominante on peut dire hein par les G femmes notamment enfin dans pour ce qui est de de nos de nos de nos de notre société euh en France en tout cas en Europe les gsfemmes sont largement dominants et quel est le modèle d'affairire derrière ces ces ces plateformes B le modèle d'affairire c'est celui de l'économie de la tension donc en quoi ça consiste bah ça consiste he à collecter vos données comme on l'a dit tout à l'heure à capter vos attentions à calculer vos profils à générer des profils standardisés qui correspondent plus ou moins à chacun à chacun d'entre nous et puis à nous à nous stimuler pour rester le plus longtemps possible sur les plateformes afin de revendre en fait le temps d'attention le temps de conscience à des entreprises qui vont payer des espaces publicitaires d'accord c'est ça alors je caricature un peu hein je vais pas rentrer dans le détail mais c'est ça le modèle d'affaire d'un grand nombre de plateformes de réseaux socix sociaux comme Facebook Twitter TikTok YouTube et cetera et cetera et donc ça c'est pas nouveau hein parce que vous savez sans doute vous avez entendu sans doute enfin c'est le modèle d'affaire de la télévision hein l'économie de la tension vous avez sans doute entendu la fameuse citation du directeur de TF1 en 2004 hein qui disait que le le rôle de sa chaîne de télévision hein c'est de vendre du temps de cerveau disponible à Coca-Cola bon bah vous avez aujourd'hui le patron de Netflix qui vous dit que le plus gros ennemi de son entrepr prise c'est le temps de sommeil des populations donc si vous voulez la philosophie sous-jacente a pas vraiment complètement bougé mais ce qui a bougé par contre c'est les technologies qui sont mises en place pour réaliser cette ce ce ce modèle d'affaires là si vous voulez he et les technologies numériques évidemment par rapport à la télévision bah ont des ont des potentialités immersives bien voilà vous avez vos appareils sont en permanence avec vous toujours allumés et cetera euh et donc il y il y a un auteur qui a documenter cette question qui a écrit un petit livre qui s'appelle 24/ 7 le capitalisme à l' saute de votre sommeil et qui documente en fait voilà cette économie de la tension he en disant bah voilà on a nos appareils allumés tout à toute heure de la journée donc en fait on est beaucoup plus facilement atteignable par ces ces ces technologies là en plus on peut être ciblé beaucoup plus précisément on peut être nos nos comportements peuvent être même anticipés par des algorithmes de prédiction automatique et donc il faut savoir que ces technologies-là ont été développées hein dans des laboratoires notamment dans la Silicon Valley notamment dans à l'université de Stanford hein je je cite parce que le le le directeur de du laboratoire de design comportemental de de l'Université de Stanford a écrit un livre qui documente hein ces recherches qui s'appelle les technologie persuasive comment utiliser les ordinateurs pour changer les pensées et les comportements donc en fait c'est tout à fait documenté et ces recherchees en fait donc sont basé sur des sur des une sorte d'articulation si vous voulez entre plusieurs disciplines euh les sciences cognitives la psychologie comportementale l'informatique le design et cetera et afin de développer justement des fonctionnalités techniques qui vont permettre de vous influencer en permanence donc par exemple le vous savez cette fonctionnalité qu'on appelle le scroll infini là le défilement infini le fait de pouvoir regarder à l'infini des vidéos donc de rester très longtemps sur une plateforme on n'avait pas forcément prévu de de rester à l'avance les notifications qui vont vous stimuler en permanence la quantification des vues évidemment les les gestion automatique de contenu et cetera et cetera ou bien les les jeux en ligne o vous savez on vous habitue à gagner plein plein plein de parties et puis juste à un moment vous allez perdre et là on va vous proposer d'acheter un bonus par exemple donc ça en fait on sait que la plupart des gens vont céder parce que c'est documenté grâce à des études de psychologie cognitive et cetera donc tout ça c'est c'est c'est ce qu'on appelle la captologie en fait c'est pour moi si vous voulez c'est un petit peu la question qui est derrière tous ces mythes autour de l'intelligence artificielle parce que en fait tout ça ça c'est d'une certaine manière de l'intelligence artificielle c'est-à-dire que ce sont en fait des calculs algorithmiques qui sont effectués sur des quantités massives de données qui sont collectées sans le consentement la plupart du temps de de la population et ces calculs sont des calculs statistiques donc des calculs de moyennes qui renforcent toujours les moyennes c'est pour ça qu'il renforce en permanence les biaiss dominants et et qui sont et qui font aussi des prédictions automatiques donc qui vous suggèrent à l'avance ce que vous désirez ce que vous cherchez ce que vous pensez et cetera et cetera et finalement quand on regarde comment fonctionne un dispositif comme chat GPT bah c'est pas exactement les mêmes algorithme bien sûr mais c'est quand même les mêmes principes parce que qu'est-ce que fait un dispositif comme chat GPT bah vous lui vous le savez sans doute he je sais pas si si vous avez regardé un petit peu ça il y a le Link le rapport le laboratoire d'innovation de l'acnil qui a fait un très bon dossier là-dessus je je vous recommande si ça vous intéresse et qui décrit le fonctionnement en fait des des algorithmes qui sont derrière mais donc tout simplement ce sont des algorithmes qui calculent des probabilités hein donc vous vous entrez une question par exemple l'algorithme va chercher quel est le mot le plus probable qui suit les mots que vous avez rentrés dans la l'interface vous voyez ce que je veux dire hein donc en fait simplement en réalité quand on regarde de près c'est pas les mots parce que il travaill pas par mots il travaille par token donc c'est des des plus petites unités que des mots donc mais peu importe enfin vous voyez c'est pas la question ce qu'il faut bien comprendre c'est que il génère des suites de mots probables si vous voulez des suites de suites de lettres probables si vous voulez peu importe mais donc vous voyez bien que c'est ce qui ce qui ce qui propose en fait c'est un petit peu comme les logiciels d'autocomplession sur vos sur vos sur vos téléphones ou les ou ou quand vous faites une recherche sur Google et que Google vous suggère ce que vous êtes censé chercher mais en fait il vous suggère pas ce que vous Google ne lit pas dans votre pensée si vous voulez il vous suggère ce que les personnes qui ont les mêmes caractéristiques que vous ont choisi le plus souvent et vous vous quand vous cliquez sur la suggestion automatique bah qu'est-ce que vous faites vous vous conformez en fait à la moyenne tout simplement et vous rentrez dans une catégorie qui est donc calculable à partir de laquelle Google peut par exemple monétiser les mots que vous cherchez sur Google parce que vous savez que ces mots font l'objet d'une vente aux enchères hein aussi à des auprès de d'annonceurs et de publicitaires si par exemple vous cherchez le mot maillot de bain en été il vaut plus cher que en hiver hein parce que il y a plus de chance que vous cliquiez sur une publicité donc ça c'est c'est il y a donc les il y a quelqu'un qui s'appelle Frédéric capelan qui a qui a documenté ça il parle de capitalisme linguistique c'est des c'est c'est c'est en fait c'est un petit peu les enjeux qui sont à l'horizon selon moi de ces gros modèles de langage qui sont donc fondés sur des calcul de probabilité et donc c'est c'est la raison pour laquelle moi j'insiste un tout petit peu pour arrêter en fait tout simplement de parler d'intelligence artificielle d'apprentissage automatique de de d'agents conversationnel par par exemple parce que en fait il y a pas du tout d'agents au sens il y a pas un agent derrière chat GPT qui fait une conversation avec vous non pas du tout ce sont des algorithmes encore une fois qui font des calculs probabilistes sur des quantités massives de données donc c'est pas du tout un un voilà une agentivité c'est pas du tout une intelligence c'est pas du tout de l'apprentissage au sens strict du terme he c'est un un enfin je je j'aicris un petit papier avec un un mathématicien informaticien qui propose de parler de stockage numérique révisable donc de dire en fait c'est du stockage numérique mais c'est réis parce que en fonction des réponses qui sont données il peut changer la manière dont il cherche bon mais ça c'est pas de l'apprentissage en fait on apprend pas comme ça évidemment et euh et donc voilà donc moi mon mon mon point c'est vraiment de dire essayons de déconstruire un peu ces notions de les prendre comme du vocabulaire idéologique et de se demander à quoi qu'est-ce qu'elles servent à cacher en fait si vous voulez plutôt que de les prendre pour à quiis et donc j'essaie de suggérer aussi moi de parler en fait plutôt d'automate computationnel parce que ce que je crois en fait c'est qu'il s'agit d'une nouvelle phase dans un processus d'automatisation et je m'arrêterai là-dessus je développe juste rapidement euh pourquoi bah tout simplement parce que bon l'automatisation ça ne date vraiment pas de d'hier évidemment euh et et mais mais néanmoins les le l'avèement on va dire des technologies numériques constitue une nouvelle phase dans dans dans une histoire de l'automatisation si vous voulez euh et euh donc il y a a il y a un philosophe qui a beaucoup parlé de la question de l'automatisation euh c'est Marx hein qui qui en a fait quand même un un objet euh de de questionnement philosophique et euh donc qu'est-ce que euh Marx remarquait euh lorsqu'il parlait euh des euh du développement des machines outils dans l'usine vous savez et de l'ouvrier qui se retrouve face à la machine outil euh et bien bon il remarquait beaucoup de choses hein euh le bien sûr la question principale étant la question du fait que l'ouvrier est dépossédé de ses moyens de production hein ça c'est la la la grande question et puis la deuxième question qu'il posait c'est il disait aussi l'ouv dépédé de son savoir d'une certaine manière pourquoi parce que le savoir-faire a été extériorisé externalisé dans la machine à travers un automatisme mécanique si vous voulez et du coup bah l'ouvrier qui travaille en fait il travaille pour la machine il est au service de la machine il devient un auxiliaire de la machine c'est ça en fait l'un des sens de la prolétarisation selon Marx enfin de l'aliénation bon c'est pas le seul sens mais c'est l'une des dimensions si vous voulez et donc moi ce qui m'inquiète un petit peu quand je vois se développer de manière extrêmement disrup des des bah des des des dispositifs du type de chat GPT c'est que forcément je me demande hein comme je considère que c'est une nouvelle phase dans un processus d'automatisation je me dis ben qu'est-ce qui est délégué cette fois-ci à la machine vous voyez qu'est-ce qui est extériorisé de quoi sommes-nous devenus les nouveaux prolétaires d'une certaine manière et ce qui est extériorisé dans ces machines et bien ce sont les savoirs écrire les savoirs s'exprimer les savoirs interpréter parce qu'en fait quand on écrit un texte on met en œuvre sa mémoire sa réflexion son interprétation ses attentes son imagination tion parce que par exemple quand vous écrivez un texte vous savez pas forcément mais vous imaginez un destinataire même quand vous parlez en fait hein donc tout ça ce sont des facultés psychiques si vous voulez qui sont mis en œuvre dans l'exercice de l'écriture et que là nous déléguons complètement à à des machines et c'est très dangereux parce que et bien ça peut générer un nouveau processus de de prolétarisation si vous voulez qui cette fois-ci touchera tous les citoyens et on sait que tout de même les capacités à s'exprimer les capacités à écrire les capacités à parler sont fondamentales pour développer aussi l'esprit critique tout simplement he c'est parce que vous avez appris à lire à écrire que quand vous recevez un texte bah vous allez avoir un certain esprit critique parce que vous savez comment le texte a été fabriqué et donc vous allez le le regarder enfin voilà vous allez l'analyser vous allez essayer de vous poser un certain nombre de questions et cetera mais voilà donc donc c'est c'est c'est un il y a un enjeu pour moi de de prolétarisation dans le développement de de ces machines qui en fait encore une fois je je rappelle ce se se développe de manière massifiée mais non démocratique pourquoi parce que les capacités des personnes pour les utiliser de manière intelligente entre guillemets ou en tout cas pour comprendre le leur fonctionnement ne ne sont pas là si voulez donc c'est un un phénomène de massification mais pas un phénomène de démocratisation d'autant plus que bah voilà quand on regarde un peu les modèles économiques qui sont derrière en fait comment fonctionne chat GPT bah en s'entraînant sur des quantités massives de données qui sont les quantités massives de textes qui ont été générés par des humains sur internet mais qui sont évidemment pas rémunérés pour pour ça hein donc par exemple tout Wikipédia bon bah voilà vous avez toutes les contributions de Wikipédia tout d'un coup qui est mis au service d'une entreprise américaine c'est quand même un petit peu problématique d'autant plus que et bien bah d'autant plus que c'est c'est pardon excusez-moi j'ai perdu le fil mais ouais Wikipédia c'est à cause de Wikipédia que je me suis perdu mais non non mais je voulais dire bah d'autant plus que bah comme aussi vous l'avez rappelé tout à l'heure le le chat GPT a employé des des des travailleurs au Kenya payer de dollars de l'heure pour faire le tri dans toutes les dans pour faire le tri dans tous les contenus toxiquees donc vous imaginez les traumatismes parce que vous passez votre journée à regarder des contenus horribles donc évidemment voilà mais ça voilà les intelligences artificielles elles sont pensantes émotionnelles et cetera mais par contre ça elles arrivent pas à distinguer hein donc ce que ce que je veux dire par là c'est qu'en fait le modèle économique qui est derrière ce type d'entreprise est extrêmement problématique pour plusieurs raisons bon et puis le le le dernier résultat de ça si vous voulez c'est la question des textes qui sont produits par ces machines parce que les textes qui sont produits par ces machines en fait bah comme ils sont produits sur des calculs probabilistes et bien si vous voulez ce ne sont pas des textes fiables puisqu'ils n'ont pas été certifiés ni évalué ni discuté par des paires je veux dire des un texte qui un texte produit humainement on va dire on peut être d'accord on peut pas être d'accord on peut juger qu'il est bon qu'il est mauvais et cetera mais il il émane d'un processus de de d'expression donc d'interprétation de discussion quand il s'agit de texteour journalistique par exemple de texte d'information il y a un processus de certification et d'évaluation par les Pères quand vous lisez un article sur Wikipédia si vous pouvez lui faire confiance à cet article si vous pouvez lui faire crédit c'est parce que ce sont des gens qui collectivement ont collaboré ont partagé leurs savoirs ont interprété les savoirs des autres ont discuté ont délibéré et cetera ont critiqué et donc ce que vous lisez c'est du savoir parce qu'il y a eu tous ces processus en amont mais un proc un Tex généré seulement avec du calcul probabiliste de données si vous voulez qu' soit vrai ou faux à la fin c'est c'est même pas la question en fait les catégories de vérité ou de fausseté ne s'applique pas à ce type de texte ces textes sont non fiables et non crédibles et donc le gros problème qui se pose c'est que comme ces machines peuvent en produire des quantités massive et bien il risque d'inonder un petit peu la toile et ça peut devenir très problématique parce qu'après ils vont rentrer dans les données de ces machines ell-mêmes hein donc vous voyez ça fait un processus un peu de renforcement et et donc ça ça peut ça peut créer une forme de défiance hein parce que le web qui était censé être un espace de partage des savoirs et de contribution et de donner à tous l'accès au savoirs hein c'était quand même ça la la promesse du web et bien est en train de se de se transformer en son contraire donc euh voilà je vais m'arrêter là et euh mais je veux simplement dire euh j'ai parlé trop longtemps non j'ai encore ok bon donc 5 minutes juste pour lancer quelques pistes comme ça un petit peu à la volée euh donc pour voilà donc moi je voulais quand même préciser que cette cette perspective critique que j'ai développé là elle concerne pas évidemment les technologies numériques vous avez bien compris hein c'est certaines fonctionnalités techniqu et certains modèles économiqu hein c'est pas du tout le numérique en général le l'exemple plus clair de ça bah c'est Wikipédia qui fait le contraire de chat GPT alors que c'est du numérique c'est de l'IA c'est des algorithmes et cetera et cetera mais il fait pas le contraire de chat GPT parce que nous les individus nous l'utilisons différemment il fait le contraire de chat GPT parce que les fonctionnalités techniques qui sont derrière ne ne sont pas les mêmes vous avez pas du calcul automatisé sur des quantités massives de données vous avez une plateforme qui permet à chacun de partager son savoir puis des règles qui sont transparentes qui permettent la délibération collective donc des fonctionnalités techniques tout à fait différentes d'une part et d'autre part un modèle d'affaires entre guillemets un modèle économique tout à fait différent alors le problème c'est que celui de Wikipédia est sans doute très fragile mais néanmoins c'est pas la question pour l'instant c'est pas du tout le même modèle vous n'avez pas une entreprise privé vous n'avez pas de captation de valeur sur les les données du web et vous avez la production d'un commun en fait donc c'est c'est et donc c'est quand même un exemple très intéressant de ce qu'on peut faire avec ces technologies là un autre exemple intéressant c'est un projet qui s'appelle d'une association qui s'appelle tournesol dont je fais pas partie he mais que je trouve très très intéressant qui est un projet de plateforme de pardon de non c'est pas exactement suggestion c'est de la recommandation collaborative de contenu voilà donc c'est l'idée c'est que bah c'est c'est tout tout simple en fait c'est simplement que si vous voulez au lieu qu'on vous suggère automatiquement des contenus et bien ce sont des personnes qui ont délibéré avant qui ont évalué ces contenus et quand on vous les suggère vous savez par exemple que c'est telle communauté qui vous l'a suggéré vous voyez c'est c'est-à-dire que la suggestion automatique de de contenu qui est l'une des principales causes de la désinformation aujourd'hui et bien en fait si on développait ce type d'outil on pourrait tout à fait faire face à ça c'est-à-dire que au lieu d'avoir des des de même hein sur les les réseaux sociaux au lieu d'avoir le fil qui est euh si vous voulez le votre fil d'information qui est qui est qui a été paramétré par l'entreprise vous pourriez avoir plein de fils d'information différents paramétrés par différents groupes ou par différents individus et vous vous choisirez celui que vous voulez en fait c'est vous voyez ce que je veux dire mais c'est tout à fait différent parce que ça veut dire que le pouvoir de de vous influencer n'est plus concentré dans les mains de de l'entreprise et qu'en plus vous avez une visibilité sur qui vous recommande quoi en fait et donc ça c'est des choses qui qui sont tout à fait qui est tout à fait possible de développer il y a absolument aucun obstacle technique simplement bah il faut voilà il faut soutenir euh ces projets et il faut voir que il y a derrière euh ça un un enjeu fondamental qui est de faire en sorte que ces technologies numériques deviennent des supports d'intelligence collective en fait des technologies de l'esprit euh et non plus des des instruments en fait de contrôle et de on va dire oui de de contrôle et d'influence des des comportements en vue évidemment d'alimenter un modèle consumériste qui par ailleurs court à sa perte pour d'autres pour d'autres raisons donc euh voilà je vais je vais m'arrêter là et puis euh on pourra discuter merci euh à tous les deux pour ces interventions très riches et complémentaires donc nous allons pouvoir passer aux questions juste deux remarques concernant les questions j'insiste pr pour que ça soit vraiment des questions et qu'ell soi le plus concise possible pour permettre aux intervenants de répondre et deuxièmement les algorithmes reproduisent les inégalités de la société mais nous essayons de ne pas le faire aux amphis donc ça serait vraiment très bien s'il y avait une alternance de genre dans les questionnants donc bonjour à tout le monde et merci d'abord pour l'intervention et le travail que vous avez fait donc je vais vraiment essayer de faire courte parce que je enfin j'ai pu travailler sur ces sujets et euh donc il y a deux choses que je voulais évoquer c'est notamment la droite a commencé aussi à s'emparer du sujet et elle a fait différentes conférences notamment sur valeurs actuelles et cetera et donc ça tourne très vite chez sur le productivisme le néolibéral et cetera et quit de notre place aussi dans le l'espace médiatique pour répondre à ces questions et essayer bah de de aussi remplir ses mots pour les gens qui ne connaissent pas ça donc ça c'est ma première question et ma deuxème question qui sera la de la dernière c'est euh qu'est-ce qu'on fait de la recherche publique aujourd'hui euh par exemple il y a un laboratoire à Blois et à Paris qui travaille sur les questions de la linguistique donc leurs travaux c'était principalement comprendre pourquoi quand on applique tel modèle d'intelligence artificielle on arrive à tel résultat et aujourd'hui en fait eux c'était vraiment comprendre et du coup la responsabilité pourquoi tel mot à telle place il a telle incidence sur tel résultat et en fait eux leurs résultats ils sont complètement mis de côté par rapport à chat GPT qui ont des résultats beaucoup plus énormes mais on comprend pas parce que derrière ça reste une boîte noire et du coup on perd un peu toute cette intelligence réelle que nous nous avions par rapport à la machine donc ma deuxème question plus précisément c'est qu'est-ce qu'on fait de la recherche publique de ces chercheurs qui ont travaill pendant des années à faire des corpus et cetera par exemple alors ma question ce serait plutôt sur la réglementation justement de l'intelligence artificielle quand on a quelqu'un comme musk qui sur France 2 se vente d'avoir plus de pouvoir qu'un président des États-Unis ou qui dit que les propos Hux et racistes sur les réseaux sociaux ne sont que des opinions est-ce qu'on a une réelle marge de manœuvre pour la réglementation contre des gens comme c comme cuxl enfin que je calfierai d'ordure d'abord merci pour la qualité des interventions j'ai deux questions très très courtes la première qui peut paraître peut-être un peu abstraite c'est si j'ai bien compris comment vous définissez l'esprit et la technologie je peux pas m'empêcher de faire l'analogie entre ce qui est le langage pour la pensée c'est-à-dire un vecteur de de de de lien commun et dans dans ce sens là euh la critique qu'on peut faire vis-à-vis de la technologie est-ce qu'elle est vraiment vis-à-vis de de la technologie ou ou bien plutôt vis-à-vis de du besoin de l'esprit tel que vous le définissez c'est-à-dire vraiment une analogie avec le langage ma deème question en fait elle est plutôt on a parlé beaucoup de profit vis-à-vis de la donnée et il y a une vraie question à mon sens est-ce que une donnée mon concernant et ma propriété c'est-à-dire est-ce que si je suis consentant j'ai le droit de la vendre et et par et donc et par là même est-ce qu'elle rentre dans la définition de propriété et ma question va un peu au-delà de la de la notion de la data est-ce qu'il y a pas ici une vraie opportunité historique de redéfinir la notion même de la propriété privée qu'est-ce qu'elle qu'est-ce qu'elle inclu qu'est-ce qu'elle inclurait pas voilà merci bonjour J'ai j'ai deux questions euh étant donné que euh LFI est particulièrement attaqué sur les réseaux sociaux entre autres par les ce qu'on appelle les troll farms les les fermes à troll qui systématiquement parasitent toutes les publications de LFI peut-on pourriez-vous envisager la création d'une cellule euh spécialisée justement dans l'intelligence artificielle qui puisse repérer ces trôles et les bloquer ça c'est la première question deuxièmement toujours dans dans ce même cadre maintenant avec le développement de de de mid journey euh il y a une possibilité de de créer des des des images et des qui sont complètement fausses je m'exprime pas très bien làdedans mais vous voyez vous voyez ce que je veux dire peut-être une interview complètement complètement fake en fait qui est publié sur les réseaux sociaux donc est-ce que ça vaudrait pas le coup que lesf F se protègent beaucoup mieux qu'elle le fait à l'heure actuelle parce qu'elle n'est pas protégée euh alors un peu pour rebondir aussi sur la question de la propriété intellectuelle et aussi ben des droits d'auteur pour la question de la propriété intellectuelle et pour des droits d'auteur perso j'ai pu travailler dans de la recherche fondamentale et c'est vrai que quand on pense à liya et tout ça on se dit que ceux qui vont être épargnés ça risque peut-être d'être plus les personnes qui pensent beaucoup ou qui vont utiliser leur créativité mais même dans un laboratoire de physique fondamentale de cosmologie ement quelque chose on s'imagine que liya pourrait pas faire grand-chose il y a des tests qui ont été faits parmi nous où on mettait plusieurs articles et on demandait à liya d'en faire une synthèse quelque chose de très important en recherche fondamentale pour avoir plusieurs corpus de texte et tout ça et on avait des résultats qui étaient très semblables qui pouvaiit très facilement mettre en erreur même des chercheurs qui étaient spécialisés du domaine en disant de fauses sources et tout ça et il y a aussi du coup ce problème avec Ben mjournée comme ça a été établi et est-ce que la fi ou est-ce que vous voyez peut-être des solutions à ça euh des solutions ou même des lis une législature qui une législation qui permettrait de se prémunir de cette idée de droit d'auteur mais aussi de Fal falsification de la pensée un peu voilà je peux pas répondre à la plupart des questions mais du coup je peux juste essayer sur sur celle-ci sur la la la dernière qui a qui a été posée qui peut-être voilà pour qu'est-ce qu'on peut imaginer pour lutter contre ces effets effectivement de falsification euh ben il y a plusieurs choses à mon avis peut-être que au niveau de la réglementation il est possible de demander que ces images synthétiser artificiellement ou ces texes produits automatiquement soi signalé quoi voilà je crois que ça avait été évoqué mais bon ça paraît un petit peu un petit peu compliqué étant donné qu'il va y en avoir de plus en plus moi la question qui me semble fondamentale sur ce sujet c'est l'éducation au médiia aussi c'est-à-dire que si vous voulez il faut il faut penser en fait euh aux nouvelles générations qui vont vivre dans ce monde-là et qui doivent comprendre comment ces images ont été produites et comment ces textes ont été produits et là-dessus il y a un petit retard parce qu'en fait par exemple ce qu'on ce dont on se rend pas bien compte c'est que euh bah on a on a appris à lire et à écrire pour être capable justement de recevoir un texte de manière critique euh mais euh aujourd'hui on reçoit beaucoup d'images de vidéos et cetera et on on n'a pas forcément appris à faire des images ou faire des vidéos je veux dire on peut en faire en appuyant sur un bouton sur le téléphone mais c'est pas c'est c'est pas ça savoir comment une émission de télévision est produite par exemple comment une émission de radio est produite comment et et en fait toute cette éducation au médias là qui permet en fait de développer un esprit critique quand on reçoit des images des photos des vidéos et cetera et bien elle est un peu inexistante elle existe hein il y a beaucoup de de de travaux là-dessus mais et puis de d'initiativ aussi avec le cléy notamment mais ce que je veux dire c'est que c'est quand même ça paraît fondamental aujourd'hui plutôt que de dire bah voilà il y a les il y a la vérité d'un côté la fausseté de l'autre et puis on va vous dire de quel côté la lumière bah en fait non l'enjeu c'est de mettre les sitoyen en capacité de de discriminer voilà donc ouais euh alors j'ai pareil he j'ai pas la prétention d'avoir les réponses à toutes les questions mais juste d'abord sur sur la question que tu as posé sur en gros notre capacité à pouvoir imposer des réglementations face à des acteurs économiques qui sont des acteurs économiques extrêmement puissant tu as raison c'est une difficulté mais si on sort du sujet de l'intelligence artificielle je pourrais te dire quand on fait des conférences sur le climat international on est confronté à des lobby à des grandes entreprises qui ont un intérêt économique extrêmement puissant donc c'est un rapport de force euh l'intérêt de mon point de vue est l'avantage c'est c'est pourquoi dans les propositions j'ai évoqué ça d'agir à l'échelle internationale avec des cadres internationaux c'est que dans le rapport de force forcément tu vas être plus fort ça veut pas dire qu'on peut rien faire attention hein dans le cadre national dans un cadre intermédiaire mais il est évident qu'on sera plus fort pour agir un cadre sur un au niveau d'un cadre international pour agir contre des des des des puissances économiques aussi aussi fortes par pardon euh après à la fin c'est quand même les États qui décident et je veux dire si on décide d'interdire l'utilisation de tel outil à tel endroit on a quand même des moyens de le faire respecter donc c'est plutôt la question de la décision politique et de comment cette décision politique elle résiste à du lobbying et à des pressions voire à des menaces de de de des menaces de de de de sanction ou de de contrepartie je sais pas comment dire ah si vous m'interdisez tel truc je vais vous empêcher bon ça c'est pas propre au sujet de l'intelligence artificielle c'est toute la question de la réglementation internationale face à des puissances économiques extrêmement puissantes c'est la question de la lutte contre la fraude et l'évasion fiscale c'est la question de à chaque fois que il y a des grandes puissances hors état qui essayent de faire leur loi face à des puissances étatiques et de les puissances étatiques y répondent donc oui on a des marges de manœuvre pour l'obtenir mais ça nécessite de la volonté politique ça nécessite de la détermination et ça nécessite de mon point de vue des cadres si possible qui soient les plus larges possibles à l'échelle internationale pour qu'elle S pour qu'il puisse s'imposer à tous euh il y avait plusieurs questions sur le rapport on va dire entre l'intelligence artificielle et la France insoumise d'abord dans l'espace médiatique c'est la question que tu tu poses et tu as raison il y a eu un certain nombre de de prise de position très forte de la droite et de l'extrême droite sur les questions d'intelligence artificielle ces derniers mois et pour être tout à fait honnête et transparent c'est aussi pour ça qu'on a voulu faire en sorte que cette question elle soit traitée pas seulement pour ça c'est parce que c'est une question intéressante mais aussi parce que on fait déjà des choses et on dit déjà des choses mais sans doute qu'il faut qu'on soit plus entendu euh plus audible y compris en terme de proposition sur cette question et intervenir davantage dans l'espace médiatique sur cette question donc en tout cas c'est un objectif voilà de de de la France insoumise et c'est aussi pour ça qu'on trouvait que c'était bien de pouvoir en discuter ensemble pour pouvoir dorén avant dans le débat public affirmer nos position sur ce sujet de manière plus audible ensuite il y a d'autres questions toujours dans le rapport France insoumise question de l'intelligence artificielle il y a la question de comment la question que tu as posé sur la première sur est estce qu'en quelque sorte la France insoumiss peut se doter en interne d'outils usant des des techniques je dis encore intelligence artificielle pardon des techniques probabilistes on va dire pour essayer d'être que ça soit un atout pour nous dans la bataille politique bon donc il existe déjà des outils des logiciels développés par des entreprises payants qui permettent par exemple de faciliter la mod tion des contenus sur les réseaux sociaux à partir de technologie d'intelligence artificielle la question que tu poses c'est est-ce que nous en interne de la France insoumise on est capable de les développer ou de les utiliser c'est toujours le problème qu'on a et c'est une question après de cût vous êtes face à des entreprises qui ont des des des centaines et des milliers de salariés qui qui travaillent sur le développement de ce type de technologie nous on a et honnêtement on doit être un truc unique peut-être dans la vie politique française on a en interne de la France insoumise il y en a certains qui sont ici des salariés qui travaillent dans sur les ce qu'on appelle l'équipe outil numérique de la France insoumise toutes les autres organisations politiques elles ont plutôt tendance à sous-traiter leurs besoins en matière de développement numérique d'autres entreprises mais on a une petite équipe qui travaille très bien mais qui travaille sur le développement de la plateforme action populaire qui essaye petit à petit de d'y incorporer l'ensemble des technologies disponibles mais on a une équipe de qure ou 5 personnes donc on est forcément confronté à cette difficulté des moyens financiers des moyens humains qu'on peut mettre dans le dans le dans le développement de ces de ces technologies Kevin qui me faisait une indication pour la réponse à la question d'après merci euh donc voilà pour répondre à ta question oui il faut essayer on a des des des des personnes humaines qui vont signaler voilà on peut utiliser des technologies qui permettent de le faire plus facilement mais on on est confronté quand même toujours à cette difficulté hier je faisais une autre conférence on m'a dit est-ce qu'il faut pas une télé France insoumise d si il faut une télé France insoumise mais faire vivre une télé franceç insoumise on n pas l'argent de Boloré on n pas l'argent de Bernard Arnaud et voilà mais ça après c'est l'histoire pardon hein de de du mouvement ouvrier et de de comment ceux qui sont moins dotés en en outil en puissance financière mais avec l'idée qu'on soit plus nombreux numériquement sont capable de remporter cette bataille bah ça ça a été vrai euh c'est vrai dans la bataille contre l'idéologie dominante dans l'espace médiatique et c'est vrai dans la bataille dans l'espace numérique donc comment on subsiste et comment on répond à ça benah on essaie d'y répondre par notre nombre par notre organisation par notre détermination par notre engagement donc on essaie d'aller bloquer les les les comptes de ceux qui essayent de nous empêcher de nous exprimer sur les réseaux sociaux euh et on essaie d'utiliser les outils avec les compétences qui sont les nôtres avec pourquoi pas des bénévoles qui se proposent pour essayer d'aider voilà ça ça fait partie effectivement des en tout cas des chantiers de développement de la France insoumise de comment on s'en par y compris dans notre organisation des outils de l'intelligence artificielle pour être plus efficace dans la bataille politique là on a donné l'exemple de la modération sur les réseaux sociaux mais il y a plein d'autres exemples possibles je rappelle qu'on a plutôt été une formation politique à l'avant-garde de l'utilisation des outils numériques dans la bataille politique qu'on a fait la première campagne la deuxème campagne celle de 2017 en utilisant pour les premiers une plateforme numérique ce que personne ne faisait qu'en 2022 on a développé notre propre application numérique d'organisation que la France insoumise elle est organisée autour d'un réseau social d'action donc c'est c'est c'est c'est pour ça je trouve ces questions très intéressantes parce que clairement elles sont au cœur du développement de lai qui a toujours essayé de faire en sorte que les le développement des outils numériques soit pas un obstacle une entrave quelque chose contre lequel on se positionne mais plutôt qu'on essaie d'en faire un outil pour rendre notre bataille politique plus efficace ensuite il y a une deuxième question sur les les risques que fait peser que que peuvent faire peser le développement de l'intelligence artificielle sur en quelque sorte la sincérité la loyauté du débat démocratique et du débat électoral et ça c'est clair c'est une question qui et on a intérêt de s'y atteler maintenant parce qu'elle va être au cœur des prochaines campagnes et en particulier de la prochaine campagne présidentielle ça me paraît être une évidence alors comment on répond à ça c'est pas une question qui se pose qu'en France he il y a eu des débats en Suisse ces derniers mois où par exemple il y a eu un accord entre toutes les organisations politiques en Suisse qui ont dit on s'engage à ne pas utiliser dans le cadre de la campagne électorale les outils de l'intelligence artificielle et un engagement alors après comment on fait comment on vérifie l'utilise j'en suis d'accord mais je pense que tout le monde est un peu dans la même situation que ce que tu dis c'est-à-dire on se retrouve face à des campagnes qui se font de plus en plus sur les réseaux sociaux et en même temps dans le même temps la possibilité de développer de plus en plus des faux contenus mais qui ont de plus en plus l'apparence du vrai et comment on se protège de ça bon je pense qu'on se protège de ça par euh par quand même des engagements des différentes organisations mais je suis d'accord que c'est faible parce que vous avez aucun moyen de vérifier que ça s'applique et après mais ça je parle sous sous votre contrôle peut-être que je fais référence à ce qui a été dit sur Wikipédia sur le le l'application de recommandation dont vous avez parlé je pense qu'on s'y protège aussi en développant les moyens de contrôle citoyen sur les réseaux sociaux des contenus qui sont mis en œuvre voilà euh et avec toujours la question du modèle qu'il y a derrière euh parce que si c'est le modèle de la modération à la Twitter maintenant X où il y a des notes en bas qui vous disent ça c'est vrai ça c'est pas vrai c'est pas notre modèle à nous notre modèle à nous il va s'apparenter davantage au modèle Wikipédia ou par les avis d'un certain nombre d'acteurs qui ne sont pas des acteurs économiques qui sont dans une position dominante on va essayer de pouvoir limiter la propagation de faux contenu mais je suis d'accord pour dire que c'est un insuisant et que je pense que tout le monde est un peu démuni face à cette question et en tout cas que ça va être une question centrale et importante je veux pas être trop long sur mes réponses mais je veux pas en oublier euh voilà sur la propriété et les données euh honnêtement c'est une très bonne question euh je veux juste préciser que quand nous on dit que les données sont un travail humain aujourd'hui qui est approprié par des entreprises capitalistique on dit juste qu'elle pique un travail humain qu'elle valorise de leur côté à notre détriment on dit pas que nous on devrait pouvoir le valoriser individuellement sur la question de la vente des données et on dit juste que par contre il y a un état de fait c'est que en produisant des données on on produit le matériau à partir duquel des grands acteurs capitalistes vont faire leur profit après est-ce que ça peut reposer la question de la propriété Franch franchement je sais pas répondre à ta question mais c'est une question très intéressante peut-être que vous aurez des choses à dire mais tu as raison en tout cas ça pose la question de qu'est-ce qui nous appartient vraiment qu'est-ce qu'on produit donc donc oui sans doute mais je saurais pas quelles seront les suites de cette remise en cause voilà les faux contenus j'ai répondu les attaque sur les réseaux sociaux sur la recherche publique sur le sujet euh alors là moi je donne un avis très personnel mais pour connaître un peu un peu le le le en tout cas ça pose vraiment la question de qu'est-ce que la recherche publique est de son importance parce que les algorithmes dont on parle aujourd'hui euh ça a été dit tout à l'heure les premières réflexions sont dans au cours du du au cours du siècle les premiers algorithmes qui permettent de développer les technologies utilisées aujourd'hui les premières recherches scientifiques sur les sujets sont dans les années 80 avec des chercheurs français d'ailleurs je vais le dire ici pas par patriotisme mais parce que je pense que ça c'est une partie de ma réponse ça dit au aussi à il y a eu à un moment en en France une tradition de de de de avec des des chercheurs tout toute la le le la discipline de ce qu'on appelait les mathématiques appliquées dans les années 60 70 a été un en France un sujet sur lequel on a beaucoup travaillé qui a donné lieu ensuite à à plein d'applications donc ça valorise bien sûr le fait que c'est la recherche publique qui est à l'origine de de de de tout ça mais là où tu as raison c'est que c'est que les les modèles alternatifs au modèles des gfem aujourd'hui développés dans le cadre de la recherche publique sont pas du tout valorisé et là par contre c'est un champ sur lequel on a quand même des choses à dire euh que avec lequel je fais une analogie mais de comment comment l'État favorise l'utilisation des plateformes issus des organismes publics ou de la recherche publique de la même manière que on disait dans notre programme de Comment l'État va favoriser l'utilisation des logiciels libres plutôt que de l'utilisation des logiciels sous Propriétés capitalistes donc là ouais je pense qu'il y a des choses à développer d'un point de vue programmatique pour favoriser l'utilisation de de de ces de ces du résultat de ces recherches publiques et après ça pose une autre question mais que auquel je vais pas répondre là qui mériterait une conférence à part entière qui est quel quel est notre modèle de recherche euh publ quelle place on laisse au privé dans l'influence sur le contenu des recherches publiques là ça mériterait une recherche une une conférence à part entière voilà je réponds avec ce qu'on est ce à quoi on est capable de répondre comme je vous ai dit au début de la conférence c'est des sujets qu'on commence à à traiter politiquement et a des sujets sur lesquels commence à avoir des éléments de réponse il y a des sujets on est tous confrontés à la question et nous les premiers voilà merci euh merci à tous les deux ah ouais ouais ben vasy vas-y vasy bon ben Alexandre qui va qui répond et après on prendre attends on va prendre deux questions deux trois questions qui restentensite on Fa ch il attend merci beaucoup pour cette conférence très intéressante je voulais juste faire une remarque bref sur la question de chat GPT et de la présentation de ces modèles comme des modèles désincarnés où l'humain serait pas présent en fait la raison pour laquelle ils ont explosé cette année c'est justement parce que ces modèles ils ont été passés à la moulinette de dizaines de milliers non pas de cignant qui excluaient les contenus irrévérentieux les insultes ce genre de chososees mais qui ont été passés à la moulinette de jugement de valeur sur la qualité des réponses proposées aussi bien d'un point de vue technique logique que d'un point de vue idéologique potentiellement et il y a vraiment une question sur la manière dont cet alignement c'est le terme technique qui est utilisé se fait par qui et comment est-ce qu'on le contrôle donc faudrait pas se dire que chat GPT c'est juste une intelligence artificielle neutre et un pur outil de continuation statistique parce que ça ça peut être vu comme quelque chose de positif par les gens qui se disent ah bah finalement peut-être que c'est juste neutre et qu'on n pas influencé si on est influencé et c'est une des raisons pour lesquelles ça marche c'est parce que la valeur moyenne des réponses a été augmenté artificiellement comme ça euh mais cel ça c'est juste une remarque que je voulais faire la question que je voulais vous poser c'est la savoir pourquoi est-ce que cette conférence qui a été très intéressante est quasiment la seule dans tout le rassemblement qui porte sur des questions de science et de technologie et euh qu'est-ce que une des seules on va dire ou très directement porte sur cette questionl alors que les autres elles touchent à des questions de science et technologie peut-être mais est-ce que finalement la gauche est pas un petit peu en retard euh toujours sur la droite vous avez dit vous-même que c'était un peu potentiellement en partie une réaction à le fait que la droite et l'extrême droite s'était emparé de la thématique est-ce que il y a la France insoumise une volonté de passer en tête et de s'emparer vraiment de ces questions science et technologie ou est-ce que c'est juste lia parce que c'est un outil électoral potentiel merci euh bonjour euh donc moi je suis chercheur en informatique voilà et du coup j'ai une question est-ce que vous avez une position par rapport au moratoire qui a été proposé sur l'IA et nous on a le point de vue qu' a une grosse rupture technologique quand même puisque est que en fait là on a un peu tout mélangé data Ia informatique si on prend vraiment les applications Ia qui sont les réseaux profonds en fait plus personne ne sait ce que fait la machine contrairement à l'automatisation qu'il a eu avant et c'est prouvé en fait que si on un cerveau au niveau niveau d'une profondeur 3 il sait plus suivre voilà donc je pense qu'il faut se poser cette question là enfin techniquement bon ça rejoint un petit peu la remarque d'avant c'estàd il faudrait que techniquement pouvoir bien situer aussi par rapport bah des des propositions qui sont faites des positionnement par rapport au moratoire ou des choses comme ça cour bonjour d'abord merci oui pour la qualité de de ce de cette conférence moi je je voulais parler alors sans aller jusqu'à l'intelligence artificielle dans les nouvelles technologies euh j'ai le sentiment que le le droit du travail a pris euh a pris du retard et je veux je veux donner deux exemples par rapport à ça dans des entreprises où où il y a bon plusieurs groupes plusieurs agences euh au niveau des des des des cadres supérieurs ils vont créer des groupes de mails des groupes de mails des groupes de mails qui fait qu'à l'arrivée on reçoit et c'est c'est vraiment une fois j'ai compté c'est entre 250 et 300 mails par jour dont la plupart ne nous concerne pas mais on est bien obligé de les lire pour savoir s'il nous concerne ou s'il nous concerne pas et c'est une perte de temps un facteur de stress énorme il y a aussi on utilise aussi l'outil informatique pour faire ce qu'ils appellent des KP parce que ils font tout en anglais he k performance indicator ou après en appuyant sur un bouton on va savoir qui a fait combien de dossierers combien le dossier rapporte sans qu'il y ait nécessairement un rapport après humain ou une explication humaine par rapport à ces évaluations là et là aussi c'est source de stress source de de Burnout pour pour beaucoup de gens et j'en suis le le témoin assez direct voilà merci merci l'automatisation c'est ça a été bien indiqué c'est en fin de compte l'introduction à l'intelligence artificielle puisque c'est simplement un niveau qualitatif qui a été franchi cette automatisation sa fonction c'est d'essayer de réduire la baisse tendantielle du profit en permettant de produire des marchandises moins cher mais en même temps on réduit les nombres de d'opératifs comme on dit dans le langage économique et donc c'est c'est le système qui se mort la queue ce que moi je remarque avec cette dernière ce dernier développement c'est que il y a maintenant une baisse tendentielle de l'intelligence collective ça veut dire quoi ça veut dire que si on parle du caution intellectuel indépendant amment de la faion dont on le le mesure ou ce qu'il représente il y a maintenant des éléments qui prouvent que depuis 10 ans aux États-Unis la moyenne a perdu 6 points et en France on a perdu de points c'est-àdire que en France la la moyenne c'était 100 on est maintenant à 98 et aux États-Unis on à 96 et ça je pense c'est une question qui demande à être disons pensé parce que elle elle est la traduction disons de la de de de ce qui se passe dans le cerveau des individus collectivementre tonoit de réponse euh bonjour je m'appelle Alexandre je suis pour l'instant l'animateur du livret numérique à la France insoumise donc juste pour je vais faire rapide parce que je suis pas intervenant sur la conférence mais en gros sur la question de la patrimonalisation des données à caractère personnel c'était c'était le sens de ta question euh dans le programme présidentiel et dans nos prises de parole au cours de la campagne présidentielle nousous sommes dressés contre la patrimonialisation des données à caractère personnel je suis moi-même délégué aux nations- unies sur ces sur ces questions et euh je travaille beaucoup sur sur cette question notamment qui a été abordé au Sénat il y a encore 2 3 ans avec des députés du centre ou de la droite qui proposent justement de patrimonialiser ses données qu'est-ce que ça veut dire derrière ça veut dire que comme vos données sont un patrimoine ça veut dire qu' il peut être cédé dans un système marchant or nous estimons à au sein du mouvement que les données font partie de l'intégrité numérique et de l'intégrité corporelle des personnes et qu'elle ne peut pas être cédée pour aucune somme d'argent voilà donc c'est c'est pour ça qu'on a on a beaucoup travaill là-dessus on a beaucoup d'ONG aujourd'hui qui militent pour la mise en place d'un rude un revenu universel de la donnée c'est-à-dire cette capacité de vendre ces données à caractère personnel or voilà nous sommes clairement voilà opposés à ça j'espère que j'ai pu t'éclairer sur ça et et et juste rapidement en une minute si si vous si vous me le permettez juste pour voilà vous remercier déjà pour vos la qualité des des interventions que vous avez fait et essayer de de rappeler aussi peut-être quelques points qui n'ont peut-être pas du coup par manque de temps été abordé mais notamment la question géopolitique autour des enjeux de l'intelligence artificielle puisque en fait la question technologique a toujours soutendu les luttes de pouvoir et a été un véhicule de puissance dès l'Antiquité le papyus était un un support à la lutte des pouvoirs entre les différentes dynasties égyptiennes euh et pourquoi parce que la question technologique elle encapsule desnmes et donc des visions du monde euh c'est pour ça d'ailleurs que une partie du conflit entre les États-Unis et la Chine se résout sur la scène de la question technologique et de la maîtrise de l'intelligence artificielle de l'informatique quantique et cetera et dans ce cadre là l'intelligence artificielle il permet notamment et c'est un élément un peu paradoxal mais qu' faut faut remettre en en C va renforcer un certain nombre de de de de monopoes qui se constituent je vous prends un secteur très concret pour vous compreniez le secteur des assurances par exemple le devenir actuel du secteur assuranciel c'est de parier sur l'intelligence artificielle et son caractère prédictif pour tenter de déceler des maladies non pas pour l'intérêt général ou pour sauver des vies mais pour euh essayer de de détecter et d'augmenter les polices d'assurance voire d'interdire d'assurance certaines personnes or qui va avoir cette capacité de prédiction ça va être des gens qui ont déjà une force d'infrastructure et une force software en capacité de mettre en œuvre ça ce seront pas donc les assurances françaises ça va être Google ça va être AWS donc Amazon et cetera qui vont renforcer leur position de monopole dans le secteur assurantiel et qui vont pouvoir faire l'appui le BE temps dans ce genre de secteur et puis ça va être une une dernière chose renforcer les postures par exemple des salariés à l'intérieur d'une d'une entreprise ceux qui maîtrisent les outils d'intelligence artificielle demain tout comme hier ceux qui maîtrisaient l'outil informatique vont devenir des sortes de super salariés qui vont peser davantage euh dans euh le système euh et dans le système de l'emploi euh qu'auparavant donc voilà et et et pour terminer avec une phrase juste dire que toutes les les les tentatives qui a eu de faire des rapports des livres des livres blancs au niveau notamment du Parlement européen des textes qui ont été votés au Parlement tout ça ce sont des des finalement des approches procédurales avec de la soft law c'est-à-dire de la loi très douce pour essayer d'influencer les entreprises mais qui a été un échec total et donc il faut revoir aujourd'hui les différents gardesfous et avoir une approche et et justement j'attire ça ton attention sur ça manuel on a construit un texte assez fort il y a un an et demi au sein du livr numérique sur les questions d'intelligence artificielle dont on a fait déjà quatre conférences au sein des amphis et donc on sera très heureux d'en d'en discuter avec toi voilà [Applaudissements] merci euh alors il y avait beaucoup de questions je me suis un peu perdue entre-temps euh non sur la la question euh euh oui enfin bien sûr pour votre marque tout à fa tout à fait d'accord évidemment il y a un paramétrage après coup dans la enfin dans la conception de chat GPT et des autres gros modèles de langage qui est un c'est ce qu'on appelle la phase d'apprentissage supervisé là encore les les mots sont pas forcément bien choisis mais en tout cas effectivement il y a des humains pour le coup qui là sont pas des travailleurs du clic mais sont les concepteurs même de ces technologies qui dressent les entre guillemets les modèles de langage pour bah voilà pour c'est c'est pour ça que comme vous le rappeliez he il y a des normes qui sont encapsulées de toute façon dans ces technologie en permanence et il y a une une petite phrase qui dit la la technologie n'est ni bonne ni mauvaise mais elle n'est jamais neutre c'est-à-dire que quel qu'elle soit et bien elle véhicule toutes sortes de normes qui sont des normes humaines enfin voilà sociales et cetera économique technologique voilà donc et et puis par ailleurs même les les les les calculs statistiques ne sont pas neutres parce que les calculs statistiques il renforcent les moyennes ils renforcent la majorité je veux dire donc il y a pas de neutralité même dans le le calcul sur le moratoire sur l'IA bon moi moi je sais pas très bien quoi penser de de ça ce que ce que je crois c'est simplement que si vous voulez euh enfin il y a un côté un petit peu ironique en fait dans cette situation où on va lancer sur le marché de manière disruptive une technologie et puis les mêmes qui l'ont lancé ou en tout cas ceux qui travaillent à développer des technologie analogue viennent dire quelques semaines plus tard qu'il faut arrêter toutes les recherches alors même que eux sont en train de de développer des des des entreprises concurrente donc tout ça me semble pas forcément très très sérieux surtout que bah on a vu en fait le le même type de de de problème pour Facebook ou d'autres réseaux sociaux où les concepteurs mêmees de ces innovations interdisaient après coup à leurs enfants de les utiliser et puis disaient attention attention il faut surtout pas laisser ça se développer dans les sociétés oui mais le problème c'est que c'est trop tard le problème c'est que ce qui est en question en fait c'est l'innovation disruptive donc c'est le le la manière même dont on innove en fait c'est-à-dire que ce sont des entreprises qui sont qui ont pour but euh c'est la croissance écla quoi donc il faut être la première sur le marché il faut diffuser massivement la technologie pour prendre de la valeur en Bourse et cetera et cetera et donc en fait il y a pas de diversité technologique et il y a un modèle qui s'impose et cetera bon donc et toujours les les plus gros ceux qui ont eu le plus gros capital pour partir et cetera et qui ont pu comment dire attirer les investisseurs les plus puissants donc moi je pense c'est ce modèle là de l'innovation en fait qui qui qu'il faut remettre en cause et c'est pas ce que raconte ce moratoire qui va forcément changer la donne d'autant que comme je disais tout à l'heure il y a toute une mythologie dans le vocabulaire qui est employé de l'esprit numérique qui prend le pouvoir sur les humains et là bah c'est encore une fois une manière de pas poser les les véritables questions en fait et de pas poser la question de quelle politique de l'innovation on a en fait qu'est-ce qu'on veut développer en terme d'outils en terme de dispositif en terme de fonctionnalité technique qu'est-ce qu'on veut faire avec ces technologie numérique bah voilà je veux dire merci euh juste pour et après on on s'arrêtera là d'abord dire et Alexandre a bien fait de le de le rappeler en réponse peut-être à la première question que il y a un livret numérique à la France insoumise et que effectivement il travaille depuis très longtemps sur ces questions il va organisé des des ateliers et des conférences sur des des des amphis précédents donc on découvre pas la la la la question et on y travaille mes réactions visait plutôt à dire tout à l'heure que dans l'espace médiatique mais pas seulement nous d'ailleurs je pense que en fait c'est des sujets qui sont souvent anglis sous ou présentés sous l'angle de superbe innovation technique et assez peu qui pose assez peu les questions politiques philosophiques éthique sous-jacentes et qui a une c'est pas facile d'arriver à créer le débat sur ces questions et sans doute que ça doit être parmi nos no nos priorités sur la question science et technologie dans les amphi euh je sais pas s'il y en a pas suffisamment s'il y en a pas suffisamment faudrait qu'il y en ait plus parce qu'en tout cas l'objectif des enhi c'est de faire en sorte que que que qu'on qu'on essaie de voilà de s'enrichir de de des des savoir-faire des des connaissances de d'intervenants qui viennent de l'ensemble des domaines et en particulier du domaine scientifique donc en tout cas je note la remarque comme étant quelque chose sur lequel on doit sans doute travailler pour les éditions suivantes si euh il y a le ressenti qu'il y en a pas suffisamment sur la question du du moratoire sur l'intelligence artificielle bon moi bon je pense que notre responsabilité en tant que mouvement politique c'est d'essayer de de de faire des propositions d'évolution de la loi et d'évolution des des règles de manière générale or l'arrêt du développement en vérité ne répond pas totalement à cette question d'abord parce que il répond pas à la question de l'utilisation des algorithmes existants euh qui pose quand même déjà un certain nombre de difficultés ou de risques euh et et et et deuxièmement comme ça a été dit parce qu'il pose pas la question du du sens du développement moi je veux juste dire que par contre à travers cette question là il y a la question de ce qu'il y a dans la machine de la question de la transparence des algorithmes et que ça ça fait partie des des des recommandations qui sont dans les recommandations internationales qui pour l'instant ne sont pas mise en œuvre celle dont je parlais tout à l'heure notamment travaillé et adopté par l'UNESCO dans lequel on considère queun personne elle doit avoir un droit de sur ses données pas le droit de le vendre et cetera ce que disait Alexandre mais aussi une capacité de connaître comment les algorithmes comment le résultat est produit à partir de quel algorithme et donc cette question là de transparence de l'algorithme est mon avis une question très importante et dernière réponse sur la question que tu as posé tout à l'heure qui était pas directement sur l'intelligence artificielle mais sur l'utilisation des mails et cetera en vrai je pense ça rentre exactement en résonance avec ce que je disais tout au début sur la question de comment on fait évoluer les droits des travailleurs euh pour être en capacité de pouvoir avoir des des droits d'alerte des droit de signalement des droits opposables qui sont ouverts au travailleurs ou à leur représentants face à l'usage que peut qui peut être fait du numérique euh sur les conditions de travail dans l'entreprise donc là je pense que c'est un ça avance quand même un peu mais c'est un sujet sur lequel les les les les évolutions en matière de de du du droit du travail et des droits nouveaux qui sont donn au représentant des salariés dans les entreprises pour défendre les salariés face à ce type de de pression ça me paraît être un sujet un sujet très important voilà pour pas être plus long et laisser ensuite la conférence suivante vous remerciez beaucoup de votre présence vous remercier beaucoup de votre éclairage merci beaucoup à vous dire que c'est c'est très important qu'on puisse échanger sur ce type de travaux et souhaiter à tout le monde une bonne suite d'f