Ce que l’IA change vraiment | #Amfis2025

Les Amphies sont d'ors et déjà un succès puisqu'on sera on sait déjà qu'on sera plus nombreux que l'année dernière et ça c'est énormément grâce à vous, à votre présence, à votre mobilisation. Euh je vais remercier aussi l'équipe euh l'équipe qui passe toute l'année à organiser euh cet événement, à faire en sorte que les ateliers se passent bien, à contacter les intervenants. Euh les volontaires euh qui qui qui sont euh qui sont présents toute une semaine en amont et qui vont rester un peu à la fin pour Anger qui font en sorte que tout se passe bien.

Et puis bah nos nos nos invités, nos intervenants d'aujourd'hui que je remercie de d'avoir répondu présent, c'est pas toujours facile pendant en pleine période de vacances. Je sais pas si vous avez j'espère que vous avez pas dû interrompre les vôtres. En tout cas, je je vous remercie d'être là.

Euh Zako Sap Triomphe. Donc vous êtes polytechnicien, ingénieur, membre de X alternative, je vous laisse en dire de mots. Et Anna Lombert, vous êtes philosophe, autrice de schizophrénie numérique, le de le capital que je ne suis pas et bientôt, enfin vous l'avez déjà fini, je pense, mais il sort il sort quand d'ailleurs ? il sort en septembre donc d'actualité de la bêtise artificielle et je vais vous laisser aussi euh une minute pour vous présenter pour définir aussi votre champ de compéten puis après alors je je vais vous expliquer.

Je vais je vais euh leur poser d'abord dans un premier temps moi trois questions auxquelles ils vont répondre et puis ensuite on va se garder une petite demi-heure pour échanger pour échanger avec vous. Voilà. Je suis vraiment pas poli, j'ai oublié de me présenter à Rash Saidi.

Je suis député européen et du coup c'est pour les présentations ça. Bonjour, bonjour à tous et merci merci à l'Institut la Boesséie pour l'invitation et et aux Amphi pour pour ce lieu et cet espace. Pardon, faut que je parle plus fort, c'est ça.

Et donc pour me présenter rapidement, bah vous vous l'avez dit et et je vais présenter l'association que je représente ici X Alternative donc qui est une association à l'origine fondée par d'anciens élèves de l'École polytechnique et qui s'ouvre à à à tout le champ de la recherche scientifique et et et de l'ingénierie et qui cherche à repenser le rôle de des sciences et des techniques au service de l'intérêt général. euh prix du point de vue bien sûr qui est le nôtre, c'est-à-dire de ceux qui euh euh pensent qu'on soivent et et mettent en œuvre des systèmes techniques. Euh et pour ça, on organise donc des conférences, on produit des des documents de réflexion et surtout on essaie de se reconnaître et se parler entre euh gens qui qui peuvent avoir voilà ce point de vue-là et les mêmes aspirations disons d'émancipation sociale ou que en tout cas les techniques s'inscrivent dans une émancipation sociale.

Voilà. Merci. Ben merci beaucoup pour cette invitation très brièvement.

Moi donc je m'appelle Anna Lombert et je suis enseignante et chercheuse en philosophie à l'université Paris 8. Euh j'ai aussi été membre du Conseil national du numérique. Euh et puis donc je travaille en fait principalement sur des auteurs philosophiques qui ont questionné le thème de la technique, des technologies, de l'industrie de manière générale, en particulier des auteurs de philosophie contemporaine, donc je peux vous citer quelques noms, Gilbert Simondon, Jacques Derrida et Bernard Stingler. et je me suis beaucoup intéressée donc ces dernières années aux enjeux psychiques, sociaux, politiques, anthropologique de manière générale des technologies numériques et de l'intelligence artificielle, enfin de ce qu'on appelle l'intelligence artificielle parce que justement il s'agit aussi de de questionner un petit peu nos nos manières de parler de ces de ces technologies si on veut les comprendre et en évaluer les enjeux.

Alors alors il est bien ou je je vous remercie d'avoir dit ce qu'on appelle l'intelligence artificielle puisque donc on va on va le faire une fois on va pas le redire à chaque fois à chaque fois qu'on dira intelligence artificielle et et même si c'est le nom de l'atelier ce que change vraiment l'intelligence artificielle il faut le prendre entre guillemets puisquon l'appelle comme ça Mais vous allez nous expliquer dans un instant pourquoi le le terme est un peu impropre. Et on va dans un premier temps donc définir un peu le sujet parce que de là va découler vont découler les questions qu'on va se poser. Euh on est tous baignés dans cette ambiance d'intelligence artificielle.

Ça a changé énormément de choses dans nos vies. Les questions qui se posent en général c'est est-ce que la créature ne va pas nous dépasser ? On est tous un peu dans le fantasme des films de science-fiction où euh, je vais le dire trivialement, le robot commence à prendre le dessus sur l'homme et on se sent menacé.

Euh ce n'est pas du tout la question qu'on va se poser aujourd'hui. La question qu'on va se poser aujourd'hui, c'est en redéfinissant le terme se dire que ce n'est qu'un outil technique euh qui utilise des données et qui ne fait qu'obéir à ce que lui demande son créateur. Et nous, les questions qu'on va se poser aujourd'hui, c'est euh quel problème découle de l'utilisation de cet outil ?

Quelle à quelle enfin à quelle vitesse devons-nous peut-être devons-nous adapter notre temps politique à la vitesse à laquelle la technologie avance ? Et et j'aurais dû me douter que vous aviez travaillé avec Bernard Stigler puisque vous aimez bien utiliser le le phénom le mot de disruption et comment on peut faire pour répondre aux problèmes posés qui sont plus d'ordre d'utilisation de l'outil plutôt que de de de dépassement de l'être humain par l'outil. Et donc je vais je vais vous laisser nous définir et nous expliquer pourquoi on utilise improprement le mot intelligence artificielle.

Euh mais je pense que Anne a a a beaucoup plus de choses à dire là-dessus que moi, en tout cas sur le l'usage impropre du terme intelligence artificielle. Euh en tout cas ce que je peux dire c'est que euh euh dans notre association quand on a mené des travaux de réflexion entre nous qui regroupaient des chercheurs sur l'IA euh pour interroger cet objet technique, on a pris le parti de ne pas donner de définition. Euh on enfin on a décidé de dire que est dans le cadre de nos travaux sera de l'intelligence artificielle, tout ce qui est appelé intelligence artificielle euh précisément parce que euh ce terme euh ne correspond à aucune euh réalité euh unique.

Euh ça regroupe, c'est un champ technocientifique qui regroupe plein de domaines de recherche qui bien souvent n'ont pas grandchose à voir les uns avec les autres, plein de produits, d'outils. Et en plus qu'il y a une histoire avec des des revirements qui font que on en gardant le même terme, on est passé de de machine d'algorithme de d'arbre de décision à le le deep learning d'aujourd'hui qui n'a plus grandchose à voir avec ce qui se faisait dans les années 70-80 mais qui s'appelle qui s'appelait quand même intelligence artificielle. Donc ce ce terme est est flou mais ça regroupe quand même enfin ça ça touche il me semble quand même à l'idée de concevoir des systèmes qui à un moment où un autre prennent une décision de manière autonome.

Je pense que du point de vue de l'ingénieur en tout cas, c'est ça, c'est on délègue une partie de la décision à un système d'une certaine manière. Et il est vrai que aujourd'hui le paradigme dominant font que l'intelligence artificielle c'est des machines qui utilisent beaucoup de données pour tirer de ces données d'une certaine manière et d'ailleurs qu'on comprend pas très bien une capacité à une certaine capacité d'analyse ou une capacité de prise de décision. Donc euh donc voilà pour le pour le une ce qui n'est pas une définition finalement, je le reconnais.

Euh et donc effectivement, il me semble que euh euh au moins de le prendre comme ce champ de recherche technocientifique, ça permet de dédramatiser euh euh les choses et de euh de voir que voilà, c'est un c'est une série de choix technologiques et scientifiques et il y a plein de manières possibles euh de répondre à des besoins. Et je crois que c'est c'est ça moi le le la question que je pose, c'est l'intelligence artificielle, ça pose la question de ce qu'on veut en faire et c'est ce qu'on veut en faire qui déterminera comment on le fait par la suite. Oui.

Euh alors effectivement, moi j'ai j'ai été très critique à l'égard de ce terme d'intelligence artificielle. Euh bon, peut-être que c'est pas euh la question euh fondamentale qu'il s'agit de poser ici, mais c'est vrai que c'est une sorte de biais euh professionnel parce que quand on fait de la philosophie, on s'intéresse beaucoup au sens euh des mots et euh voilà euh pourquoi est-ce qu'on utilise tel terme et qu'est-ce qu'il signifie. Et il se trouve qu'il me semble que ce terme-là ne signifie pas grand-chose comme l'a dit Zako à l'instant, mais surtout peut nous induire en erreur si vous voulez parce qu'il est symptomatique d'un ensemble d'autres termes comme le terme d'apprentissage automatique, le terme d'agent autonome, d'agent conversationnel et cetera qui en fait anthropomorphis les dispositifs technologiques.

C'est-à-dire qu'on se rapporte à des dispositifs technologiques comme si c'était des doubles de l'humain, hein, des doubles de nous-mêmes en leur attribuant toutes sortes de capacité mentale, intérieure, psychique, donc l'intelligence, l'apprentissage, la gentivité et cetera. Or euh cette conception de la technologie si vous voulez qui se qui se rapporte à la technologie comme un double de l'humain, elle a été critiquée en fait par de nombreux philosophes depuis les années, on va dire en particulier dans les années 50 60 au moment où se développent justement les premières recherches en intelligence artificielle. Donc vous savez que c'est c'est des recherches qu'on date d'habitude à l'année 1956 à la conférence de Dartm en réalité ça avait commencé avant avec la cybernétique mais c'est lors de cette conférence de Dartmus en 1956 que naît ce terme d'intelligence artificielle et il faut bien comprendre qu'il est né dans une optique promotionnelle c'est-à-dire qu'il s'agit en fait pour les personnes qui organisent cette conférence qui viennent donc d'un certain nombre de champs technocientifiques que Zako a très bien mentionné donc par exemple les sciences cognitives mais aussi l'informatique l'algorithmique et cetera.

C'est c'est et l'ingénierie en fait aussi. Donc c'est ces chercheurs-là qui lancent ce programme de recherche sur l'intelligence artificielle mobilise ce terme pour attirer si vous voulez des financement et de l'attention sur ces recherches. Euh mais euh c'est un terme qui n'a rien de scientifique, c'est-à-dire que dès le début, il est euh contesté, hein, et d'autres proposent par exemple le terme de traitement automatique de données.

Voilà, de on pourrait dire aussi de calcul algorithmique sur des aujourd'hui sur des quantités massives de données, ce qui n'était pas le cas au début puisqu'on disposait pas d'autant de quantité de de données numériques. Bref, donc tout ça pour dire que je pense que ce terme risque de nous induire en erreur parce qu'il va nous empêcher de comprendre les schèmes de fonctionnement technologique des dispositifs auquel on a affaire et surtout en anthropomorphisant ces machines et bien de masquer les humains qui sont derrière évidemment hein. Donc les humains qui décident des fonctionnements algorithmiques, les humains qui entraînent les machines, les humains qui trient les données et qui sont exploités pour faire ce travail et cetera et cetera.

Donc euh voilà, un terme je dirais euh un peu risqué et qu'il faut prendre avec beaucoup de précautions. Et donc par ailleurs, moi j'ai essayé de de proposer un terme alternatif hein, puisque quand on critique une notion, autant essayer d'en d'en proposer une autre. Et euh j'ai proposé le terme de d'automate computationnelle ou d'automate numérique ou d'automate algorithmique.

Bref, en insistant sur la dimension de l'automatisation parce que je crois que c'est une dimension très importante et je vais je vais finir là-dessus. ce que nous vivons aujourd'hui pour pour bien le comprendre, il faut le remettre en perspective avec une première phase d'automatisation qui a eu lieu. Enfin, c'était pas là.

Je sais pas si c'était la première, je sais pas si c'est juste historiquement de dire ça, mais en tout cas, nous avons l'habitude d'associer la notion d'automatisation à la révolution industrielle, aux machines mécaniques, si vous voulez, aux industries machiniques euh qui correspondent à une automatisation des savoir-fa, à l'extériorisation d'un certain nombre de savoir-faire dans des machines automatiques. Et aujourd'hui, nous avons affaire à un nouveau processus d'automatisation qui correspond cette fois-ci à l'extériorisation des savoirs-pensés. je vais y revenir ou des savoirs décidés dans des machines algorithmiques, numériques, électroniques.

Et je crois que quand on pose le problème en terme d'automatisation et bien euh on arrive à à des questionnements et à des à des à des évaluations disons et aussi à des propositions tout à fait différentes et beaucoup plus intéressantes que quand on fantasme justement sur l'idée d'une conscience algorithmique qui viendrait tout d'un coup menacer l'entièreté d'une humanité indifférenciée. Voilà. Merci.

Et ben alors donc justement cette cet automate de pensée, quel quel problème pose-t-il puisque vous avez commencé à le à nous le soutendre poser, il va nous poser énormément de problèmes démocratiques, de problèmes éthiques, de problèmes sur notre pensée même sur nos modes de réflexion. Euh moi j'ai même enfin c'est ces problèmes c'est c'est aussi les problèmes posés par ces dispositifs techniques, c'est sur l'utilisation qui va être en être faite et puis j'ai envie de dire par qui. Euh je sais que vous êtes sensible à la question et et est-ce qu'on ne peut pas dire qu'on tombe dans une sorte de nouveau féodalisme où on aurait les seigneurs de la high-tech qui à l'image des des des seigneurs du Moyen-Âge euh aurait une supériorité acquise sur leur sujet qui sont de fait un peu enchaînés à ces seigneurs.

à l'époque parce que on ne pouvait pas quitter cette terre, aujourd'hui parce que on est piègis et point lié par un outil numérique, parce qu'il est utile dans notre vie quotidienne, parce qu'il est utile dans le fonctionnement de l'entreprise et cetera et cetera et que le coût du changement de cet outil nous paraît ou l' peut-être prohibitif pour pouvoir regagner une certaine liberté euh dans le cadre juridique actuel. Et je je je le précise parce que le début de mon propos est quand même très pessimiste. Et moi j'aime quand même à penser et on ce ce on en parlera à la fin.

Euh d'abord tout est politique et le politique qui définit le juridique peut toujours changer la règle du jeu et faire évoluer. On n'est pas des acteurs totalement impuissants face aux choses qui adviendraient quoi qu'il arrive. et euh les problèmes que vous allez poser, on a quand même des débuts et et des pistes de réflexion pour pouvoir y remédier.

Je sais pas lequel de vous deux veut commencer. Euh oui euh oui parce que il y avait il y avait beaucoup de choses. Je je sais pas par si peut-être l'endroit par lequel entrer dans ce sujet, ben c'est cette question peut-être du du féodalisme.

Bon ça c'est c'est ce concept de de Cédric Duran technooféodalisme où on serait un féodé d'une certaine façon en Europe vis-à-vis des des seigneurs de la tech américains. Je crois que le le enfin moi je je crois beaucoup et et vous l'avez évoqué à la à la possibilité simplement par la norme et par la loi de décider de l'interoparabilité des systèmes, de décider de d'éviter le le cloisonnement et l'enfermement de des entreprises, des individus dans une dépendance vis-à-vis de de certains systèmes techniques. Je crois que là-dessus, c'est vraiment le Oui. le le par la loi qu'on peut qu'on peut ouvrir en tout cas la brèche. suite, il faut s'assurer que que tout cela est effectivement mise en œuvre, mise en place et et simplement possible.

Euh oui, je pense que en fait le le l'interrogation que je me je me pose régulièrement et d'ailleurs c'est le nom de l'association que je représente, c'est comment est-ce qu'on comment est-ce qu'on rend possible des alternatives dans le dans le système actuel. Il me semble que aujourd'hui sur cette question par exemple de la féodalité, elle n'est pas si juste que ça dans la mesure où on est dépendant, c'estàdire on est dépendant de système technique dans quand une entreprise a mis en place une série de systèmes informatiques. C'est effectivement très coûteux de d'en sortir. euh comment dire le mais le point clé dans cette histoire, il me semble qu' qu'il est et qui demeure la question des infrastructures et c'est là où c'est pas tant que ça un système féodal et d'ailleurs, il y a un très bon article dans le diplôme ce mois-ci en critique au à au concept de technéodalisme qui qui met en exergue le fait que ces ces seigneurs de la tech ce qu'ils sont parce qu'ils ont investi massivement dans les infrastructures et d'ailleurs en fait c'est vraiment le nerf de la guerre pour pour l'ensemble de ces de ces entreprises.

Et donc je crois que que si on si on parle finalement de de ces questions qui semblent être des questions de technologie numérique, en réalité, il faut revenir aux questions d'infrastructure, de data center, d'énergie, de câbles, de choses assez concrètes, pragmatiques, réel, matériel disons. Et c'est là c'est là où on peut avoir une une réelle dépendance notamment dans la mesure où tous ces systèmes qu'on est en train de qualifier, bon on a dit on veut pas utiliser le terme mais d'intelligence artificielle évolue à une vitesse ahurissante. Finalement des acteurs émergent et disparaissent à une cadence telle que la seule chose qui est réellement pérenne et qui qui nous qui nous engage sur des générations sont les infrastructures qu'on utilise.

Et là-dessus, c'est là oùù il me semble que je pense que ce à quoi vous faisiez référence, c'est cette opposition qu'on fait souvent entre des modèles ouverts ou des modèles fermés et la la enfin le fait que certaines entreprises font des modèles propriétaires sur lesquels on a aucun accès, on on ne peut pas se les approprier et d'autres font des modèles ouverts. Je crois que c'est un en réalité un faux débat dans la mesure d'une part où la plupart des des systèmes d' dit di ouvert en réalité sont effectivement utilisables par n'importe qui s'en payer mais ils ne sont pas ouverts au sens on ne sait pas comment ils ont été conçus sur quelle données d'entraînement. C'est pas du tout du logiciel libre au sens où on l' on l'entend traditionnellement.

Et ensuite ce qu'il faut se demander, c'est une fois qu'on a un modèle ouvert que n'importe qui peut exploiter sur sur quoi est-ce qu'on le fait tourner concrètement en terme d'infrastructure. Et c'est là où vous vous verrez que un le modèle chinois ouvert dipsy qui qui a fait beaucoup de bruit en début d'année, qui est un modèle d'IA générative de texte est un modèle énorme, très lourd à faire tourner et qui en fait si on essaie de se l'approprier l'utiliser soi-même, ça a coûté très très cher. vraiment une si une personne essaie de utiliser de dips plutôt que chat GPT sûr pourra pas le faire tourner sur son ordinateur, il pourra pas le faire tourner sur et donc il me semble que la question sous-jacente finalement c'est de se dire pensons aux infrastructures qu'on a et moi, il me semble qu'un ce qu'on ce qu'on oublie trop souvent c'est qu'on est tous propriétaires d'une infrastructure computationnelle qui on a tous un ordinateur presque j'imagine un ordinateur, un téléphone en fait qui sont plein de machines à calculer très puissantes Euh aujourd'hui, il y a tout un plan de recherche qui vise à faire des modèles d'intelligence artificielle qui fonctionnent sur ces machinesl et qui du coup nous nous rendre moins dépendant d'une infrastructure technique possédée par d'autres acteurs.

Donc voilà, je pense que le le sur cette question de la feudalité, il faut toujours la ramener à la question des infrastructures et c'est là où on peut en plus facilement parler de l'intervention de la puissance publique, de la propriété publique des infrastructures qui sont des qui sont plus facilement imaginables que euh la question des communs numériques qui est qui est encore un autre sujet. Mais pardon, je je j'ai ouvert plusieurs portes. Non, mais c'est c'est c'est très bien parce que par ailleurs, l'angle euh et le politique que je suis, vous me faites plaisir, j'espère que vous l'avez pas fait que pour ça, mais euh l'angle propriété publique plutôt que les communs qui est quelque chose de compliqué à mettre en place.

Alors que si effectivement les puissances publiques s'investissaient un peu plus, euh elles sont les premiers propriétaires de la plupart des données et ce qui fait que les entreprises dont on parle euh peuvent avoir cette main mise et cette cette supériorité actuelle, c'est parce que un on leur a laissé privatiser ces données, mettre la main dessus d'abord et les privatiser ensuite. et de que ça c'est c'est un des rares domaines où il y a quasiment aucune règle du jeu autre, j'en dirai un mot tout à l'heure, mais par exemple la norme européenne ne s'intéresse quasiment uniquement qu'à trouver des financements et ouvrir les robinets en grand. Alors, c'est un des aspects du problème, vous l'avez dit, il faut qu'on puisse financer la recherche et cetera, mais euh là, on finance euh les yeux fermés, on ne dirige pas les on dirige on dirige pas les financements, on ne met pas de borne et c'est vraiment des financements en espérant qu'une licorne sorte et qu'on puisse éventuellement un jour concurrencer.

Et donc vous remettez aussi la les acteurs publics au au cœur du questionnement en disant "C'est à vous de vous saisir du sujet euh de définir les normes, d'utiliser les atouts que vous avez et et les financements que vous pouvez distribuer. Oui. Alors, pour rebondir peut-être là-dessus brièvement, effectivement si vous avez mentionné le terme de disruption tout à l'heure et si c'est un terme que que je mentionne souvent aussi en le reprenant donc au philosophe Bernard Stigler qui avait beaucoup traité de ces questions, c'est que nous vivons une époque justement où l'innovation est disruptive au sens où l'innovation est permanente et elle est imposée alors ce qu'on appelle l'innovation en tout cas de manière assez massive dans les société dans certaines sociétés en particulier et notamment l'innovation américaine inonde un petit peu les sociétés européennes en dans le champ numérique et cette innovation elle s'impose avant même qu'une réflexion collective ait pu être élaborée sur les enjeux des technologies qui vont justement en fait nous bah voilà nous nous imposé.

Et donc ça c'est un problème parce qu'effectivement euh c'est c'est une spécificité d'ailleurs de l'industrie numérique parce que dans d'autres domaines industriels euh comme je sais pas euh les médicaments par exemple l'industrie pharmaceutique ou bien euh les transports euh et bien avant de lancer un médicament sur le marché avant de lancer un avion euh sur le marché vous faites des tests de sécurité où vous évaluez les effets secondaires potentiels et cetera. Bon, je dis pas que ces tests sont faits selon les les bons critères dans toutes ces différentes dans tous ces différents secteurs industriels, mais néanmoins, il y a l'idée d'un principe de non conformité, donc l'idée que l'industrie n'est pas nécessairement conforme aux intérêts du plus grand nombre. Euh c'est une idée qui a qui nous a à première vue un petit peu échappé dans le champ de l'industrie numérique puisque là on a des services et des produits numériques hein qui s'impose à grande échelle avant même si vous voulez qu'on ait pu réfléchir à leurs enjeux potentiels et à leurs éventuels dangers.

Donc ça c'est un c'est un grand problème. C'est un problème qu'on peut évidemment euh changer, auquel on peut euh remédier. Euh et c'est ça pose aussi la question évidemment du rapport entre la puissance publique et les entreprises privées qui impose leurs solutions technologiques sans qu'il y ait eu aucune délibération démocratique.

Et à cet égard des des produits comme chat GPT ou comme les générateurs automatiques de texte ou d'imag sont assez exemplaire puisque donc ce sont des des produits qui impliquent la effectivement on va dire l'exploitation de quantités massives de données puisque ces modèles sont entraînés sur toutes les données qu'ils peuvent trouver sur internet he donc à la fois les données personnelles mais aussi les œuvres intellectuelles, culturelles et cetera et sans égard pour la propriété intellectuelle ou pour les le le respect des données personnelles. Voilà, donc c'est un c'est un évidemment c'est c'est un c'est un gros problème. Par ailleurs, euh les les personnes qui ont produit ces données, que ce soit les personnes par exemple qui ont contribué à l'encyclopédie collaborative Wikipédia qui sert à entraîner les gros modèles de langage ou que ce soi les personnes qui ont publié des œuvres numériques ou que ce soit les personnes qui communiquent sur les réseaux sociaux, personne n'est rétribué en retour pour l'exploitation de ces données.

Vous voyez donc il y a un gros problème aussi d'extractivisme ici dans le dans le modèle économique de ces de ces entreprises. Après voilà, je voudrais pointer d'autres enjeux qui concernent plutôt on va dire les effets anthropologiques de ces technologies là parce que je crois que nous nous vivons vraiment une mutation technologique industrielle très importante en ce moment et que il faut en prendre la mesure d'un point de vue anthropologique. Donc c'est pour ça que je vais pointer de manière très rapide quelques enjeux qui me semblent fondamentaux pour essayer de soutenir aussi que ce qu'on appelle l'intelligence artificielle aujourd'hui n'est pas réductible à l'intelligence artificielle générative. je veux dire euh les technologies algorithmiques, numériques, le traitement automatique de données, on peut faire des choses incroyables avec et pas nécessairement euh de lia générative, hein.

Et je ne voudrais pas que en raison de la domination de ces produits numériques sur le marché et notamment de leur, on va dire, de leur développement fulgurant depuis 2022, notre conception de l'intelligence artificielle se limite uniquement à ces à ces à ces produits là, à ces fonctionnalités là, hein, même si effectivement ils sont importants et même si l'enjeu que que Zaco a pointé tout à l'heure, c'est-à-dire le fait de développer des modèles plus petits, plus locaux, peut-être plus spécifiques aussi, plus adaptés à tel ou tel besoin et et plus écologique parce que effectivement, il y a des gros problèmes en terme environnementaux lié à ces technologies. Même si donc cet enjeu-là euh est fondamental, je crois qu'il est aussi fondamental d'avoir euh de développer, d'ouvrir si vous voulez nos imaginaires technologiques pour euh penser d'autres technologies qui fonctionnent euh différemment, hein. Et il y en a beaucoup d'autres, j'en j'en citerai pour exemple plus tard, mais en attendant, je voulais juste pointer voilà euh trois dangers disons de ces de ces automates computationnels génératifs, donc de ces gros modèles de langage, de ces générateurs automatiques de texte, d'images, de son, de vidéos.

Donc euh le premier enjeu euh le premier problème, c'est euh on va dire celui euh de la dépendance cognitive ou de la dette cognitive. Ben, j'emploie ces termes qui sont pas les miens. Je je c'est c'est c'est pas mon langage, mais ce sont des termes qui ont été euh mentionnés dans un article qui est paru récemment dans euh un un on va dire pas en fait, il est pas paru dans une revue, il est paru en prépublication un article par des chercheurs du MIT qui parle de dette cognitive et donc qui a l'article s'appelle Your Brain and Chat GPT ou quelque chose comme ça.

Vous pouvez trouver ça sur sur internet. Je peux vous donner la référence précise ensuite si ça vous intéresse qui montre en fait que quand on utilise euh un ce ce type de de service de produits et bien en fait on entre dans une sorte de dépendance cognitive à leur égard. C'est-à-dire que en fait on va leur déléguer un certain nombre de capacités mentales, psychique, intellectuelle si vous voulez hein.

Vous notamment vous allez déléguer votre capacité à vous exprimer. Or quand vous vous exprimez vous vous en rendez peut-être pas compte mais il y a beaucoup de facultés psychiques qui fonctionnent. la mémoire puisque vous devez vous souvenir de tout ce que vous avez appris, lu, entendu, la synthèse, la l'imagination, vous devez imaginer vos interlocuteur et cetera.

Et donc euh toutes ces facultés-là qui sont fondamentales en fait dans l'usage de notre esprit critique, dans voilà nos activités réflexive, interprétative, créative et cetera euh et bien sont délégués à euh des automates euh statistiques probabilistes hein qui font des calculs sur des quantités massives de données. Et donc il y a un enjeu si vous voulez un risque de proltarisation psychique. Et et donc les les chercheurs du du MIT qui n'emploient pas ce terme de prolétarisation point néanmoins donc le fait que les personnes qui ont qui utilisent cet outil n'activent pas certaines zones cérébrales et que quand il s'agit ensuite pour eux d'écrire ou de de s'exprimer si vous voulez sans la prothèse cognitive et bien ils sont désemparés, ils mettent beaucoup plus de temps à réactiver ces ces ces zones cérébrales là hein et je crois qu'il faut vraiment prêter attention à ça notamment pour les générations à venir puisque pour l'instant nous avons tous appris à lire, à écrire et cetera.

Donc nous pouvons très bien utiliser ces machines, il y a aucun problème. Mais dans dans quelques années, ce sera peut-être un peu différent. Donc voilà, il faut avoir ces ces questions en tête.

Le deuxième risque euh pour moi, c'est euh le risque, si vous voulez, euh de ce que j'appelle l'entropisation culturelle, c'est-à-dire le fait que ces dispositifs-là sont des des calculs statistiques probabilisent sur des quantités massives de données. Donc en fait, il renforce dans les les phrases, les images qu'il génère, il renforce les moyennes, il renforce les contenus probables, les contenus qui sont déjà très présents majoritairement sur internet. Et comme les données le ne sont pas triées en amont, vous avez, on va dire, des effets de stéréotypie euh qui se produisent.

Donc, ce sont les opinions majoritaires qui vont être par défaut mis en avant. Et puis par ailleurs, il y a aussi toutes sortes de biais idéologiques qui sont implémentés dans ces machines et qui dépendent de la manière dont ils ont été entraînés et que vous vous ne voyez pas parce que précisément ces algorithmes ne sont pas transparents, hein, comme le disait Zako tout à l'heure, ils sont fermés au sens où on on ne sait pas comment ils ont été entraînés et cetera. Donc ça c'est un véritable enjeu aussi d'exiger la transparence euh de de ces systèmes et euh éventuellement aussi la possibilité d'agir euh sur eux hein et de ne pas forcément se laisser imposer par l'intermédiaire de Chat GPT ou euh de Grock les idéologies euh de Samatman ou de Elon Musk.

Vous voyez donc il y a un gros enjeu euh ici. Enfin euh dernier point euh c'est la question de la désinformation. Euh je je le mentionne parce que euh nous sommes face à de plus en plus de contenus euh automatisés produits sur le web.

Donc euh il y a de plus en plus de voilà euh de de textes automatiquement générés, d'images automatiquement générées et il est assez euh facile de s'imaginer que ça ne va faire qu'augmenter euh dans les dans les années euh à venir, hein. Euh et donc euh de deux choses l'une premièrement, euh un article qui a été publié dans la revue Nature cette fois a montré que quand ces modèles sont entraînés sur des contenus qui ont déjà été automatiquement générés, ils sont de moins en moins performants, de moins en moins pertinents. C'est comme si vous voulez si vous faites la photocopie d'une photocopie d'une photocopie d'une photocopie.

C'est de moins en moins clair l'image que vous voyez. Bon, c'est exactement le même principe parce qu'on a beau nous dire que ça génère du nouveau, ça génère absolument rien de nouveau. Ça fait des calculs statistiques sur des quantités de données passées, hein.

Donc à partir de calcul sur du passé, vous pouvez pas générer du nouveau. C'est pas comme ça que fonctionne disons, l'apparition de nouveautés, ni dans l'histoire du vivant, ni dans l'histoire des inventions humaines et cetera. Et donc, si vous voulez, vous reproduisez des choses qui ont déjà été reproduites et cetera.

Donc il y a un phénomène d'entropisation parce que plus vous utilisez et plus vous faites fonctionner ces machines et moins cela devient pertinent si vous voulez hein. Donc il y a un risque ici et le risque est aussi évidemment de ne plus pouvoir faire la différence entre je ne dis pas que la question de savoir si ça a été produit par un humain ou par une machine est la question fondamentale puisqueévidemment vous pouvez produire toutes sortes de faux contenus en étant des humains. He c'est pas le sujet et d'ailleurs si on n pas attendu les y génératifs pour que la désinformation existe.

Donc c'est pas du tout le sujet. En revanche, si vous voulez, le problème c'est que nous allons nous habituer à ne plus pouvoir savoir si ce que nous lisons, ce que nous entendons, ce que nous voyons est euh fondé sur des faits ou bien a été complètement artificiel artificiellement produit. on on arrive à une phase où il est aussi probable que ça a été artificiellement produit ou que ça se base quand même sur un un certain nombre de faits.

Et donc là, vous avez le risque d'une défiance dans l'espace informationnel numérique euh qui pourrait se manifester. C'est-à-dire que on ne peut plus croire en rien si vous voulez. Et ça c'est un gros problème qui est autre chose que le problème de la désinformation puisque vous voyez bien que pour produire une fausse information, il faut encore que la personne croit dans l'information qu'elle voit.

He la le la possibilité du leur repose sur la possibilité de la croyance. Mais euh quand on ne peut plus croire en rien et bien euh c'est c'est c'est la question de la défiance qui se pose et ça c'est très dangereux du point de vue de de l'espace public. Donc là encore, il y a beaucoup de solutions euh à mettre en place et euh je serai ravi de partager quelques propositions ensuite.

Oui, contrairement à ce que vous pensez, j'ai non seulement pas besoin de vous couper, mais je vais même vous relancer parce que vous avez presque été trop court. par rapport à ces problèmes de désinformation et et de dette cognitive que sous Ligade, quel problème spécifique peut poser le fait que en gros aujourd'hui on a l'ensemble de nos activités qui sont numérisées et que 60 % de cette numérisation, je vais caricaturer, mais aux mains de cinq grands acteurs qui en plus sont tous situés géographiquement au même endroit. Euh quel problème spécifique ça peut poser euh c cette espèce de concentration de euh de la donnée ?

Euh oui. Alors le le je je je j'avoue je je connais pas les les les chiffres mais euh et ni même le cadre légal précis mais je pense c'est comme ça qu'il faudrait l'interroger. Mais à mon sens Google n'est pas propriétaire euh de des pages web qu'ils indexent.

Donc chaque chaque éditeur de page web est propriétaire de tous les contenus. Je parlais pas en terme de propriété, c'est juste que euh voilà. Oui, absolument.

Absolument. Et et donc il me semble que c'est c'est pas Oui, c'est c'est et c'est là où du coup c'est plus facilement réversible d'une certaine façon, c'est qu'en fait la question qui se pose c'est la question de l'accès à l'information plus que la question de la propriété de l'information et de la manière dont elle circule. Et je pense que et de toute façon, c'est tout à fait lié à à ces problématiques de désinformation.

La question de comment circule l'information. Effectivement, la désinformation a pas attendu le numérique pour exister, mais probablement qu'un facteur significativement amplifiant qui a qui a apparu ces dernières années, c'est les algorithmes de recommandation basés sur le le taux d'attention et donc favorisant des contenus hautement polémiques et donc favorisant des contenus faux. Euh euh et donc c'est vraiment cette question-là euh euh il me semble qui est euh qui qui est fondamentale.

Euh euh comment est-ce qu'on accède à l'information ? C'est la question finalement que le web euh c'est la c'est la question auxquelle le web tentait de répondre initialement il me semble euh à laquelle Google euh euh explicitement tentait de répondre euh collecter toute l'information du monde et la rendre la rendre universellement accessible. C'était ça leur mot d'ordre initial.

Ça peut-être encore on peut le mettre en doute en tout cas. Euh donc il me semble que la question de de oui de de l'acaparement du enfin en fait c'est c'est un monopole de l'attention et un monopole de l'accès à l'information et qui du coup peut il me semble se se contrecarrer bah d'une part encore une fois par la voie légale mais aussi par enfin il me semble par exemple que enfin je sais pas si on si c'est si on a on partage cette impression moi j'ai l'impression que le moteur de recherche Google est devenu inutile presque ces dernières années. En tout cas, sa sa capacité à aller chercher l'information qu'on est en train de de demander euh décroit considérablement, notamment parce qu'ils sont en train de favoriser énormément la publicité et les contenus sponsorisés et parce que comme l'évoquait Anne, ils se font complètement débordés par des contenus de très mauvaise qualité et synthétique.

Donc voilà, c'est en fait cette problématique et et donc la la moi personnellement la la conséquence de ce constat que Google marche moins bien, c'est d'aller chercher d'autres manières de trouver mon information finalement. Et il me semble que c'est quelque chose qu'on peut tous cultiver et et retrouver cette cette et c'est là où j'ai envie de parler de culture quoi, de culture technique et de culture de l'information pour aller la chercher. Mais mais je me rends compte que du coup je réponds pas.

Ça c'est pas vraiment une solution quoi. Non non là j'ai je on était justement dans les problèmes encore. Non non mais je tu fais des transitions parfaites.

Donc alors ce qui ce qui est bien c'est que je attends attends, je je vais dire je suis faussement arrivé totalement déprimé euh pour animer cet atelier puisque je ne voyais que des problèmes. Mais non parce que je me suis penché sur ce que vous disiez avant et donc je sais que vous avez des solutions mais c'est vrai que le la première partie de l'atelier pour pourrait dire bon les questions posées, on pourrait se dire on est face à quelque chose qui nous submerge. Comment on fait tomon ?

En fait, vous en en en posant les problèmes, vous commencez à donner les solutions et comment on peut être remédier et et un qu'est-ce qu'il faudrait faire et de euh vous vous nous soufflez qu'en fait c'est aussi une question de culture sociétale et de volonté politique d'aller dans un sens ou dans l'autre et d'avoir le courage de le faire. Mais donc dans quelle direction faudrait-il aller pour éviter les écueils et et quel quelle bonne question est-hique il faudrait se poser avant de mettre en place tous ces outils ? Je Oui, je commence.

Bon euh alors oui, il y a plusieurs choses peut-être euh pour faire la transition, je vais repartir de cette question de l'accès à l'information qui est fondamental et il y a il y a évidemment une des une des réponses euh enfin une des réponses euh au problème euh de la désinformation va être de savoir comment améliorer euh notre accès à à l'information. Alors pour repartir de ce que disait Zako à l'instant et et recadrer un peu en en donnant quelques quelques étapes technologiques, on a vécu dans les dans depuis on va dire les années 90 jusqu'à aujourd'hui un certain nombre de transformations dans le milieu informationnel numérique. Et à chaque fois ces transformations dans le milieu informationnel numérique, elles correspondent à des nouvelles manières d'accéder à l'information.

Donc par exemple Zako parlait tout à l'heure euh des sites et des moteurs de recherche. C'est une manière d'accéder à l'information. Euh il y en a eu une autre ensuite qui que Zako a évoqué aussi qui s'est développé notamment avec les réseaux sociaux, les réseaux sociaux commerciaux, je précise, qui étaient donc les algorithmes de recommandation où là cette fois vous n'allez plus utiliser un moteur de recherche mais vous allez avoir des contenus qui vous sont recommandés automatiquement selon des critères qui la plupart du temps vous échappent un petit peu hein, qui échappent un peu à tout le monde puisque précisément avant les récentes régulations européennes, il n'était pas obligatoire pour les réseaux sociaux commerciaux de rendre leurs algorithmes de recommandation transparents.

Désormais, c'est une obligation, me semble-t-il, du DSA, donc du règlement sur les services numériques. Mais en tout cas, là, on avait forcément bah une manipulation de l'accès à l'information puisque il y a quelques entreprises privées qui possèdent ces réseaux sociaux et qui vont décider de la manière dont vous les les informations vous seront recommandées. Et aujourd'hui, on a une nouvelle mutation qui est bah qui arrive avec justement les générateurs automatiques de texte ou d'images qui se font passer pour des moteurs de recherche.

Donc vous allez commencer à poser toutes sortes de questions à chat GPT qui évidemment n'est pas du tout un moteur de recherche hein. Donc qui va vous créer des synthèses artificielles sur la base de calcul statistiques en renforçant des moyennes, des stéréotypes et cetera. Euh et vous vous allez prendre ça bah pour de l'information objective parce que voilà c'est immédiat et cetera et que on n'a pas encore développé justement cette culture technique qui permet aux citoyens de prendre beaucoup de de recul à l'égard de ces dispositifs-l.

Alors euh à chaque fois ce qu'il faut bien voir c'est que euh c'est un gros problème que ce soit des entreprises privées qui soient décisionnaires sur la manière dont on accède à l'information parce que évidemment ces entreprises privées elles ont un agenda, si je puis dire commercial qui est la plupart du temps fondé sur la publicité. ciblé hein. Et donc les modèles d'affaires publicitaires en ce sens sont très nuisibles parce qu'il s'agit toujours de valoriser notamment sur les réseaux sociaux les informations les plus choquantes, les plus sensationnelles et cetera.

Donc la question de la vérité ou de la pertinence de l'information n'est pas du tout posée. En fait l'information qui vous est suggérée, c'est celle qui sert le modèle d'affaires publicitaire du réseau social. Alors euh pour contrer cela, moi je travaille avec une association qui s'appelle Tournesol qui est euh donc euh vous pouvez trouver euh sur internet euh le site de cette association qui développe quelque chose de très intéressant qui est un algorithme de recommandation collaborative.

Donc qu'est-ce que ça veut dire ? Ça veut dire que ce n'est pas euh l'algorithme euh de je sais pas euh pardon, j'oublie leur nom, vous voyez, c'était les vacances. Donc je me suis complètement déconnectée.

Donc ce n'est pas l'algorithme de YouTube, de X ou de Facebook qui vous recommande ce que vous devez voir, mais ce sont des citoyens qui votent pour les contenus qu'il jugent, pertinents et intéressants. Et l'algorithme se base sur les évaluations des citoyens. Vous voyez donc, ce n'est plus une entreprise privée qui produit son algorithme pour diriger euh les informations auprès des citoyens et donc influencer leurs opinions.

Ce sont les citoyens qui en amont évaluent les contenus et l'algorithme se base sur les évaluations des citoyens. Donc c'est un renversement total de la perspective. C'est extrêmement intéressant et c'est d'autant plus intéressant dans le contexte euh des génératives puisqu'on va être face à des tas de contenus euh à à une surcharge informationnelle et cognitive considérable et que si vous voulez la question comme je disais tout à l'heure c'est pas forcément est-ce que ça a été produit par un humain ou par une machine parce que pour moi un humain c'est toujours augmenté d'une manière ou d'une autre par des technologies bon et puis il y a des contenus humains qui sont extrêmement mauvais je veux dire donc c'est pas le sujet.

En revanche la question c'est quels sont les contenus pertinents ? Quels sont les contenus d'utilité publique ? quels sont les contenus pertinents pour un tel ou pour une telle et surtout qui me recommande quoi et pourquoi la visibilité sur l'instance qui recommande.

Vous voyez ? Et donc à partir de ce moment-là, si on exige effectivement que les algorithmes soient pluriels, donc nous avons publié une tribune avec de nombreux acteurs du du numérique notamment sur la question du pluralisme algorithmique, donc d'exiger une pluralité d'algorithmes, une pluralité de recommandations et la transparence sur la source de ces recommandations. C'est seulement comme ça à mon avis que nous pourrons lutter contre les effets de la désinformation généralisée parce que sinon on va se retrouver si vous voulez, excusez-moi pour l'expression, mais à courir après les désinformations qui en fait bah circulent à une vitesse incroyable et qui sont très difficiles à à arrêter, hein.

Donc lutter contre les modèles d'affaires publicitaires si vous voulez dans le champ informationnel et développer un pluralisme algorithmique, ça me semble être deux solutions vraiment fondamentales. Euh ensuite, peut-être juste un petit mot. euh sur euh bah sur la question euh de la régulation, il y a beaucoup de choses euh que que l'on peut faire en fait.

Par exemple, je disais tout à l'heure que euh le règlement sur les services numériques, le règlement européen sur les services numériques exige euh la transparence des algorithmes de recommandation. Alors déjà, il va falloir essayer de le le mettre en œuvre. hein, je sais pas très bien comment ça va se se passer, mais c'est un véritable enjeu et on pourrait exiger la même chose pour les modèles diagénératif par exemple, exiger déjà la transparence.

Euh voilà, on pourrait euh aussi euh voilà se lancer dans le développement euh plutôt que de faire la course si vous voulez sur des gros modèles de langage qui sont énormément euh enfin extrêmement énergivore et qui produisent pas forcément comme je disais tout à l'heure euh bah voilà beaucoup de bénéfices hein ni pour les citoyens ni pour euh la la culture collective. on pourrait euh se focaliser sur des modèles plus petits, plus spécifiques, avec des tâches beaucoup plus euh spécialisées. Et enfin, il y a aussi des technologies euh alternative, si je puis dire, qui sont extrêmement euh intéressantes euh qui permettent euh justement bah comme l'encyclopédie collaborative Wikipédia ou la plateforme police qui permet de faire des délibérations euh collectives en ligne et qui a un fonctionnement très spécifique, très intéressant.

Il y a toutes sortes de technologies qui sont des plateformes de délibération collective, de contribution collective et qui n'automatisent pas les comportements si vous voulez, qui font pas les choses à notre place mais qui permettent de nous mettre en relation. Et donc ces technologies contributives à mon avis, il est essentiel aussi d'investir dans dans ces dans ces modèles-là parce que non seulement ils sont beaucoup moins euh coûteux énergétiquement, ils sont beaucoup plus respectueux des droits des citoyens, ils sont beaucoup plus porteurs collectivement. Et enfin, dernier point et je m'arrête, mais la question de l'éducation qui est une question fondamentale.

Donc comme je le disais tout à l'heure, il y a il y a un risque si vous voulez qui est de croire que pour être moderne, il va falloir euh transmettre uniquement des compétences techniques aux plus jeunes générations et leur leur apprendre à prompter et cetera. Bon alors bon, il peut être très utile de savoir prompter, c'est pas le sujet, mais par contre si vous voulez, la mission de l'éducation ce n'est pas de vous rendre capable d'utiliser un service numérique commercial, hein. C'est pas ça la mission fondamentale de l'éducation.

La une des missions très importantes de l'éducation aujourd'hui au au 21e siècle et à l'époque d'accélération technologique et industrielle que nous vivons, c'est de rendre les citoyens capables de comprendre les systèmes qui les qui les entourent. hein. Donc non pas l'utilisation mais la compréhension ou alors l'utilisation pourquoi pas mais aussi la compréhension et surtout pas seulement les compétences techniques mais aussi la culture technique hein et donc le fait de comprendre comment les systèmes fonctionnent de comprendre qu'ils pourraient fonctionner autrement de comprendre les enjeux politiques, géopolitiques, économiques et stratégiques qui sont qui sont là derrière et et aussi montrer si vous voulez au au aux plus jeunes génération à à toutes les enfin je veux dire depuis la primaire jusque que à l'enseignement supérieur qu'il y a des technologies alternatives qui existent.

Par exemple, on fait beaucoup de prévention contre les les effets très nocifs des réseaux sociaux commerciaux, mais on dit moins souvent qu'il y a des réseaux sociaux non commerciaux qui ne se fondent pas euh sur les modèles d'affaires publicitaires euh qui n'ont pas du tout ces effets nocifs. Par exemple, un réseau social comme Mastodon ou un réseau social comme Blue Sky ne fonctionne pas sur la recommandation algorithmique et la publicité ciblée et donc permet de bah voilà d'avoir des comportements en ligne tout à fait différents et souvent beaucoup plus intéressants. Donc, il est important aussi de montrer au au plus jeunes que des alternatives existent et qu'ell et et de les et de les développer et de les de les soutenir politiquement et financièrement aussi ces alternatives.

Et oui, du coup, je je je saurais pas quoi rajouter sur ce ce grand panel de de possibilités, d'alternatives, si ce n'est que euh donc je je suis parfaitement je suis parfaitement d'accord avec ce que Anne a évoqué qui me semble correspondre à en grande partie en tout cas au aux usages grand publics euh des technologies numériques et de l'intelligence artificielle en particulier. Et il me semble que ce mot d'ordre de pas d'intermédiation opaque et de compréhension des objets est tout à fait essentiel. Euh il y a il y a un le pendant de cet usage grand public, c'est peut-être son l'usage industriel de ces technologies euh euh qui en plus est est probablement beaucoup plus vaste et euh et euh et intéressant euh euh à la fois du point de vue scientifique pour les chercheurs et les scientifiques qui travaillent dessus euh et du point de vue de de ce qu'on peut en tirer comme bénéfice.

Et il me semble que bah ça pas c'est pardon, c'est c'est dans l'industrie c'est dans l'industrie automobile, agricole, enfin a plein il y a plein de de cas d'usage tout à fait intéressant. Il me semble que euh fondamentalement ce qu'il faut être capable d'avoir comme discussion, c'est être capable de définir euh ce pourquoi on veut utiliser des technologies d'intelligence artificielle euh collectivement euh et ensuite en informer d'une certaine façon euh la chaîne de production. Et c'est et c'est là où il me semble que le peut-être qu'on a pas abordé et quand on pense solution, je crois qu'il faut l'avoir en tête, c'est comprendre comment euh la la chaîne de valeur de conception de la conception la recherche fondamentale à l'arrivée d'un produit sur le marché de de l'intelligence artificielle, de cette technologie numérique qui est qui est intéressante notamment parce qu'elle est en tout cas aujourd'hui elle est on en a parlé avec la question de la nonconformité, elle est extrêmement rapide.

Il y a une il y a une vitesse de passage entre la recherche fondamentale et un produit sur le marché qui qui est même beaucoup trop rapide parce que les choses sont pas testées et et on s'assure pas de la de leur leur toxicité au préalable ou non. Mais ça signifie aussi que en fait ce que les ce que les les big tech ont créé qui est quand même assez intéressant, c'est une chaîne de production tout à fait intégré quoi. Ils ont de la recherche fondamentale aux infrastructures jusqu'aux produits, tout intégrer et et créer un système qui est de cette manière on peut le on peut le voir dans sa globalité presque.

Et donc c'est là où il me semble que si on le si nous on le prend du point de vue de comment est-ce qu'on peut utiliser ces objets techniques pour pour le le bien commun d'une certaine façon, on peut le prendre dans l'autre sens. On peut chercher à définir ce qu'on cherche à faire et ensuite en informer toute la chaîne. Et il me semble que on parlait d'investissement.

Euh euh on a on a la chance euh euh en Europe, en France d'avoir encore des des laboratoires de recherche publique euh euh extrêmement euh euh enfin à la pointe de ce qui se fait dans le domaine euh et qui sont à moi connaissance en tout cas les seuls à investir des domaines de recherche comme euh comme l'IA Frugal, comme euh les Physics Informal networks qui sont d'autres manières de faire de l'intelligence artificielle, vraiment littéralement des alternatives à euh à la voie américaine. et qui sont portés par des par des laboratoires publics. Donc si on parle de d'orientation des financements, il me semble que c'est un un premier point assez essentiel euh et c'est les doter en financement pour pour bah tout simplement payer des chercheurs mais aussi en infrastructure pour pour porter leur leurs travaux.

Et ensuite le l'autre domaine dans lequel il faut absolument investir et qui me semble compléter tout à fait, ça c'est le pendant de ce que Anne disait sur la compréhension de ces objets. C'est la recherche fondamentale en mathématiques sur comment fonctionnent ces objets avec lesquels en fait on a tous dans nos poches déjà des produits qui fonctionnent sur des systèmes dont on ne comprend absolument pas pourquoi ils fonctionnent comme ils fonctionnent. Euh et il me semble que c'est essentiel d'investir dans la recherche mathématique fondamentale pour comprendre comment un réseau de neurones parvient à être capable d'effectuer des tâches de traduction alors qu'on l'a jamais euh présenté des tâches de traduction.

Euh et comment comment euh euh ces réseaux neurones passer une certaine taille critique par exemple, c'est ce qu'on observe euh sont capables de réaliser des tâches que en dessous de ce seuil critique, ils étaient incapabl réaliser. On ne l'explique pas mathématiquement et il me semble que euh encore un deuxème volet de de financement euh euh prioritaire, c'est euh c'est la recherche en mathématique sur ces questions-là. Euh et enfin tout ça ça ça recoupe et on l'a déjà évoqué plusieurs fois mais euh euh cette question de la de la culture technique, il me semble que tout ce qu'on dit là euh ne serait valable euh euh que dans un monde où on est tous euh suffisamment inquiet et en même temps intéressé, passionné par cette question de la technique et de la technologie numérique pour aller utiliser des algorithmes de recommandation comme tournesol, pour aller se préoccuper de qu'est-ce qui tourne dans notre ordinateur quand on est en train de d'utiliser tel ou tel système, je crois que c'est c'est en en très écrasante majorité pas le cas.

Euh et donc euh euh enfin c'est encore une fois cette question de cette question de l'éducation, cette question de des des communs numériques et de comment euh comment est-ce que on s'investit ou non euh dans ce système. J'ai pas j'ai pas la réponse. Moi personnellement, je suis passionné par ces questions-là.

Donc je je je trouve un intérêt au système open source, je trouve un intérêt aux algorithmes ouverts et je trouve je suis sur Mastodon, mais je crois que c'est pas le cas de tout le monde. Euh donc voilà, je sais pas si c'est vraiment des solutions en terme de en terme de je pense que le d'ailleurs c'est c'est la conclusion du rapport que nous avons écrit avec notre groupe de recherche à X alternative qui était de proposer une série de pistes qui sont pas vraiment des solutions concrètes parce que c'est assez difficile de de ça implique tellement de questions politiques, sociales, culturelles et ensuite bien sûr technique et scientifique qu'on peut pas poser des des solutions comme ça mais c'est plutôt des axes de réflexion qui porte effectivement sur la définition d'un besoin, le l'alignement, j'aime pas trop ce terme mais bon le en tout cas la mise en cohérence de tout le domaine de de la recherche fondamentale au marché sur ses besoins définis préalablement et et le fléchage de le fléchage des financements et point essentiel la culturation et l'éducation à ces à ces objets techniques. Voilà, j'aime beaucoup vos vos pistes de réflexion parce qu'en fait vous avez tous les deux fini sur l'aspect éducation qui était pas le thème de de l'atelier mais c'est mais qui est voilà c'est comment aussi nous on est armé pour utiliser correctement les outils les dispositifs technologiques mis à notre disposition et en fait que ce soit l'intelligence artificielle aujourd'hui ou les différents progrès scientifiques qu'il y a eu au cours de l'humanité on est un peu j'ai l'impression qu'on est sans piter ennellement face au même problème et dont la solution passe d'un point de vue philosophique par l'éducation et non pas juste par l'apprentissage de l'utilisation d'un outil d'un point de vue un peu concom et de toute façon c'est aussi ça qu'on attendait c'était plus des prises de réflexion effectivement nous je vous l'ai dit tout à l'heure mais que ce soit point de vue national ou européen Alors pour une fois en France, on n'est pas les pires.

Je pense dans le domaine, tu l'as dit, on a encore des labos de recharge qui sont performants mais sous dotés. Euh et on est peut-être un des pays qui se penche le plus euh sur la réflexion de comment on régule tout ça et comment on le réglemente. Mais effectivement, un des problèmes face auxquels on est euh peut-être encore plus que dans les domaines économiques, c'est que réguler tout seul dans son coin au niveau national alors que l'objet lui-même a dépassé les frontières depuis très longtemps.

Vous voyez tous les limites face auxquelles on est. Et d'ailleurs, c'est ce qu'on nous oppose nous à chaque fois, que ce soit au niveau national ou au niveau européen. Quand on dit "Oui, mais attention, il faudrait interdire telle telle ou telle chose ou commencer à se pencher sur la question de la transparence, de la rémunération des producteurs de contenu et cetera." On nous on nous oppose toujours mais ça ne sert à rien puisque de toute façon vous allez être dépassé, débordé et donc euh regardons regardons directement comment on peut juste rattraper notre retard financier et commercial sur les États-Unis.

C'est là où moi je pense alors je prêcher une minute pour ma paroisse. Effectivement le niveau européen même s'il est l'idéal ce serait une régulation au niveau mondial mais aujourd'hui on n pas l'outil pour faire ça. Et c'est là où le niveau européen retrouve un peu de sa légitimité, c'est que il a le poids suffisant, en tout cas plus que chaque nation prise séparément pour pouvoir commencer à mettre dans la balance et dans la discussion mondiale bah ces problématiques de de transparence, de régulation, de comment on a une masse financière suffisante en Europe aussi pour rediriger un peu mieux, vous l'avez dit, les investissements qui sont faits euh pour se réapproprier aussi les infrastructures puisque on a l'impression que tout ça euh tout ça est un espèce de nuage qui flotte au-dessus de nos têtes et qui n'a pas de consistance physique, mais en réalité, vous l'avez dit, euh il y a de la consistance physique qui d'ailleurs a provoque des enjeux environnementaux qui qui est aussi un autre aspect à prendre en compte.

Euh tout cela ne fonctionnerait pas sans d'abord nos appareils à nous et puis euh tous les serveurs qui fonctionne et qui produisent énormément de de qui consomment énormément d'énergie et produisent énormément de chaleur. Et donc on a d'abord cet aspect physique sur lequel on peut agir et donc on peut diriger les financements, on peut réguler l'installation des serveurs et cetera. Euh on a l'aspect euh transparence qui est très important à réguler de l'utilisation de nos données et de comment fonctionnent les algorithmes.

Euh le sujet qui est pas euh qui pourrait paraître annexe de la rémunération des producteurs, mais en fait tout ceci aujourd'hui est guidé par l'économie. C'est-à-dire que ce qui fait fonctionner ces boîtes, c'est la masse des investissements qu'elles ont. Et ce qui fait qu'elles choisissent tel ou tel algorithme, c'est comment elles vont pouvoir tirer un maximum de profit de comment elles vous ont fait.

J'ai envie de dire, c'est un peu comme les guides touristiques puisqu'on est en vacances, je vais faire un petit crochet. Non, mais le guide, ça fonctionne un peu pareil, sauf que c'est pas un algorit. Le guide touristique vous dit allez dans tel café et vous vous retrouvez vous vous passez dans une rue pendant vos vacances et vous voyez les gens faire la queue devant un café et l'autre café où il y a pas besoin de faire la queue pour être servi et vous vous demandez parfois pourquoi ils font tous la queue alors que celui d'à côté est sans doute aussi bon et vous pouvez avoir votre café ou votre sandwich beaucoup plus rapidement et c'est parce qu'on a lu par parce qu'on a dirigé notre choix vers cette sélection qui a été faite alors dans le cadre des guides touristiques pour l'instant encore je crois par des êtres humains.

Mais mais le problème est le même en fait, c'est on dirige un choix queon va faire et donc l'enjeu commercial et la rémunération des producteurs est important. Et puis donc euh il faut absolument qu'on se mette à réguler les aspects environnementaux puisque euh tout ceci consomme alors j'ai plus le chiffre exact mais je crois que c'est 6 % de la consommation énergétique mondiale euh alors que chacun de nous quand on utilise son téléphone on se dit pas que on est un bout de ce 6 %. Voilà.

En tout cas, euh je vous remercie beaucoup pour ces ouvertures de piste et je suis certain que ces axes de réflexion vous ont inspiré énormément de questions. On a une demi-heure pour euh bah pour faire des pour pour que vous puissiez vous aussi interroger nos intervenants. Je vous demanderai de faire des questions courtes et comme ça ça vous laisse le temps de de répondre.

On peut peut-être faire par paquet. tu peux en prendre trois pour pour commencer. Merci beaucoup.

Voilà, moi je j'aimerais apporter aussi un peu de questionnement sur la propriété intellectuelle. Tout tous les artistes, tous les écrivains s'inspirent de ce qu'ils ont pu connaître avant dans leur éducation et tout sans rémunérer leurs prédécesseurs. Donc la notion de propriété intellectuelle, elle m'a toujours questionnée quand effectivement les IA utilisent des choses existantes.

Bien sûr qu'on peut trouver des moyens, je dirais légistiqu de rémunérer. Il y a pas de problème. En reprenant les sources et en faisant des pourcentages, on y réfléchit pas mal.

Après, j'aimerais vraiment ouvrir sur les nouvelles méthodes d'apprentissage de l'IA qui au lieu d'être bombardé de 1000 images de chat pour trouver un chat, aujourd'hui on les laisse naviguer toutes seules et elles font leur propre apprentissage un peu comme les gamins. Donc ça va éviter les biais des des entraîneurs, des éducateurs, des IA comme on dit, mais ça va créer des d'énormes je dirais biais par rapport à toutes ces IA que chacun d'entre nous pourra éduquer. Donc ça c'est les dernières pistes de recherche sur l'apprentissage des IA et j'aimerais savoir si cela vous inspire.

Qu'est-ce que vous pouvez vous projeter sur les conséquences c'està-dire moins de biais des concepteurs comme Musk enfin comme l'idéologie de Musk ou d'autres mais beaucoup plus de biais parce qu'on est tous différents et on va tous éduquer nos différemment. Voilà, j'ai essayé de faire cour. Oui, bonjour.

Deux questions. Euh la première, c'est "Quelles sont les limites techniques actuelles de l'IA vis-à-vis de son évolution ? Et comment les surmonter ?

Euh est-ce que oui, est-ce que l'IA arrivera à sa limite euh incessamment sous peu, peu ? On va dire. Voilà. et également comment apporter euh un mode d'emploi aux jeunes qui utilisent les outils IA euh sans limite.

On voit bien nous dans les centres de formation qu'on dirige. Euh et puis la dernière question c'est effectivement vous parliez d'innovation numérique à tout bout de champ. On voit bien que l'État mais aussi les financements dans certaines formations dès qu'on a deux mots magiques innovation numérique c'est 1 million d'euros de plus pour les formations.

Voilà, on l' on l'a vu hein, nous on a formé dans notre centre de ressources des métiers de la Smart City en région parisienne. On n'est pas loin du de Paris 8. On a travaillé avec C University et puis avec l'université Paris 13.

On a vu, on a fait des montages, on a formé des data scientistes, des data analystes. On nous demande encore de former avec sur les outils, il y a des pomp engineer. Et ben oui, mais c'est magique.

Innovation numérique, je peux vous le dire hein. Il y a de l'argent. Voilà.

Euh merci pour vos contributions passionnantes. Euh première question, tu as parlé sa c de algorithme puis deeploring, je crois et je sais pas ce que c'est. Euh ensuite, je n'ai jamais réussi à comprendre ce que c'était que l'intelligence artificielle génératrice. 3è question sur euh l'éducation.

Alors, c'est Anne qui a parlé des dégâts sur le langage dans le cerveau qui fait appel à de multiples zones et quand on le fait pas, quand c'est l'intelligence artificielle qui le fait à notre place, évidemment ces zones se développent pas. Je dirais que sur un plan mathématique, quand on utilise Google Maps et plus une seule carte de géographie, c'est d'autres zones du cerveau qui sont atteintes parce que la spatialisation dans l'espace n'est plus développée, ça a des conséquences dramatiques et par exemple en sport et sur les activités physiques. Bon et dernière question et d'autre part sur l'éducation, je préfère le mot éducation à enseignement pardon à éducation.

Dans l'enseignement, on va avoir de plus en plus de difficultés parce que justement ouvrir une carte de géographie ou faire un dessin de géométrie dans l'espace alors que Google le fait à votre place, bah les momes il rigolent. Donc ça ça va poser aussi des problèmes euh très difficiles à régler et dans l'enseignement. Et dernière question, je suis d'accord avec ta conclusion, on peut pas séparer ces questions du système capitaliste, voilà, qui utilise l'intelligence artificielle pour faire de plus en plus de profits.

On est donc confronté pas seulement à la question de l'intelligence artificielle, mais au mode de vie. Je donnerai un petit exemple. le développement de l'e-commerce abouti à l'absurdité suivante, c'est que dans Paris, je suis parisienne, vous n'avez plus un seul magasin de chaussures.

Donc si vous voulez acheter les chaussures ou quasiment hein, euh donc vous voulez acheter les chaussures, c'est que par internet. Je sais pas s'il en existe encore en province mais enfin ça devient problématique. Ça c'était juste pour rigoler.

On va prendre on va prendre ces trois là puis on va refaire une série de questions après. Mais mais très vite sur ce que tu disais. On va peut-être vous pouvez refaire un petit très cours sur effectivement on l'a fait en début mais sur ce deep learning pour revenir sur la notion vraiment de comment ça marche que tout le monde est peut-être pas au même niveau d'info que vous juste sur cette histoire de de de livraison enfin de mais c'est c'est là où en fait le le le politique il a des moyens d'agir.

Et là pareil, je moi je vais censé vous dire les problèmes auxquels on est confronté aujourd'hui techniquement ils sont nouveaux. Mais c'est toujours la même chose. C'est une question de de d'avancé de l'être humain et de comment je le régule.

C'est pour ça que je disais moi je suis très attaché à cette notion de disruption. Je sais pas comment j'ai fait pour pas voir que tu avais bossé avec Stickler. Mais mais euh normalement, on a le temps de réfléchir comment on va utiliser euh nos nouveaux outils.

Je fais exprès d'être très trivial parce que ça ça ne reste que des outils. En fait, aujourd'hui, le progrès de l'outil va plus vite ou semble aller plus vite que le progrès de notre réflexion. ou en tout cas on se donne pas les moyens de réfléchir assez vite et tout l'enjeu il est là il est il est dans comment on donne on redonne sa place aux politiques et quand je dis politique là-dedans, c'est pas au sens de ceux qui font de la politique mais de de la réflexion collective et comment on fait pour euh que ces automatismes laissent la place à notre intelligence et ne deviennent pas descarcans.

Et c'est pour ça que je vais te faire un exemple très trivial. l'histoire que l'exemple que tu prends mais il est vrai pour les taxis, il est vrai pour plein d'autres choses. C'est la même chose que quand il y a eu les zones commercial en périphérie de nos zones urbaines.

Et du coup, on s'est retrouvé avec le même problème de "J'avais plus de magasin en centre-ville, il fallait que je prenne ma voiture et on l'a toujours ce problème d'ailleurs et ça créé des déplacements et cetera euh et des problèmes environnementaux et financiers et même de cadres de vie qui allaient avec." Mais tout ça, ça reste des choix politiques. Si vous autorisez pas la zone commerciale, si vous donnez pas le permis de construire, si vous faites vos règles d'urbanisme en disant bah je veux un équilibre dans chaque zone avec un peu d'habitation, un peu de de de zone artisanale et un peu de zone commerciale, bah vous évitez cette concentration de zone spécialisées qui créent des besoins de déplacement.

Et ben là pour les livraisons, les livraisons, vous pouvez très bien les rendre un peu plus difficiles. Vous pouvez prendre leur coût écologique en compte et vous réinstallez le commerce. Je sors un peu de l'exemple de exemple artificiel, mais c'est pour redire à nouveau euh la régulation, la norme, elle est là pour choisir dans quel type de société comment on veut vivre et comment on veut utiliser les outils concrets.

L'outil en lui-même n'est pas mauvais. Moi moi je trouve ça très bien qu'on ait des choses y compris par exemple à l'école qui qui donnent des possibilités d'enseignement et d'éducation nouvelles qui sont extraordinairees. Il faut juste savoir les utiliser correctement et les diriger dans le bon sens.

Et donc le problème et tu l'as dit tout à l'heure, c'est comme si aujourd'hui on mettait une voiture en circulation sans avoir fait aucun crash test et qu'on attendait qu'il y ait 2500 morts pour commencer à se dire attention, elle a peut-être un défaut, je vais peut-être la retirer de la circulation. C'est exactement la même chose. Et donc tout le problème il est comment on se saisit de ça, comment peut-être on temporise un peu les misses sur le marché.

Peut-être nous aussi on réfléchit un peu plus vite ou on se donne les moyens de vouloir réfléchir plus vite et comment on borne un peu tous ces outils. Euh je vous laisse répondre au au donc les conséquences des biais de de de de non peut-être d'abord redis ce qui est le deep learning billets créés par le bah le deep learning à domicile en gros si si je peux schématiser les est-ce qu'il existe et puis est-ce qu'il existe ou pas des limites techniques ? Je pense que j'ai j'ai fait le tour des questions.

Euh oui, pardon, mais j'ai effectivement j'ai employé des termes un peu techniques un peu rapidement, désolé. Euh bah et ça me permettra du coup de de répondre aussi à votre question sur l'éducation des IA. Euh donc le le deep learning, c'est un champ du machine learning euh qui l'apprentissage machine euh qui consiste à euh donc c'est c'est un c'est un paradigme technique qui a qui a aujourd'hui largement gagné et qui domine toute l'intelligence artificielle qui consiste à dire euh pour répondre à une tâche très complexe plutôt que d'essayer de découper cette tâche en une série de choix possibles et ensuite de faire un arbre de décision qui permet permettrait de résoudre cette tâche ou plutôt que de décrire l'équation de du jeu d'échec et ensuite apprendre à une machine à automatiquement jouer aux échecs et ça fonctionnera.

On va pas essayer de de théoriser euh le fonctionnement d'une tâche, par exemple, reconnaître des images de chat. On va pas essayer de théoriser comment on à quoi ressemble un chat. On va simplement donner à une machine euh suffisamment d'images de chat en lui disant que c'est des chats et suffisamment d'images d'autres choses en lui disant que c'est pas des chats pour que la machine apprenne d'elle-même euh ce qu'un chat.

En tout cas une image d'un chat. Ça c'est le machine learning. Et au sein du machine learning, le paradigme qui a qui domine aujourd'hui et qui a gagné, c'est ce qu'on appelle le deep learning qui consiste à donc faire cette tâche en utilisant ce qu'on appelle des réseaux de neurones.

Encore une fois, c'est très mal nommé, enfin très bien intelligent de la part des gens qui l'ont développé, mais c'est une mauvaise conception parce qu'on s'imagine que ça fonctionne comme un neurone. En réalité, c'est des formules mathématiques qui consistent à entraîner un un enfit, c'est difficile de le faire sans l'analogie du des neurones justement, mais donc c'est entraîner une série de poids statistiques sur une grosse quantité de données euh et les entraîner à remplir un objectif. Donc si on reprend cette cette question de l'image des chats, l'objectif va être reconnaît les images de chat.

On commence avec des poids aléatoires. On lui donne une première image de chat, il va répondre aléatoirement oui ou non. Et puis s'il s'est trompé, on dit que c'est faux.

Et dans ce cas-là, on corrige les poids et on continue et on répète l'opération suffisamment de fois pour finir par avoir une machine qui reconnaît quasiment tout le temps des images de chat. Et c'est là où c'est essentiel à tout tout appareil de deep learning, c'est de définir un objectif, de définir une fonction objectif qui lui permet de faire son apprentissage. Et en fait, c'est là où je je suis content parce que vous m'avez fait tomber sur une de nos marottes à X alternative en tout cas dans notre rapport qui est cette question des fonctions objectifs parce qu'effectivement on peut faire des systèmes qui vont apprendre d'eux-même.

C'estàd qu'on va plus leur donner des images de chat et leur dire ça c'est des chats ou pas. On va juste leur donner plein d'images. Euh mais en fait à la fin, il faut quand même euh qu'elle fasse un entraînement.

Donc il faut quand même qu'elle fasse une régression pour pour on on commence avec des poids complètement aléatoires, des don commence avec un système complètement aléatoire puis peu à peu, on l'entraîne itération par itération pour arriver au système tel qu'on le veut. Mais pour ça, il faut déjà avoir une idée du système tel qu'on le veut. Il faut déjà avoir une idée de l'objectif en fait.

Et euh euh et c'est là où du coup le choix technique des ingénieurs, il est il est il est fondamental et à mon sens il est politique. C'est-à-dire que par exemple aujourd'hui euh on estime Open AI est très content quand il sortent un modèle qui arrive à à battre tous les étudiants américains à leur QCM de fin de lycée et leur leur modèle d'évaluation et donc de performance et donc leur objectif c'est d'être capable de faire mieux qu'un lycéen a un QCM de mathématiques. Est-ce que c'est vraiment ça qu'on veut demander à une machine ?

Je suis pas sûr mais en tout cas c'est ce que ces Américains-là demandent à leur machines et donc à la fin c'est ce qui c'est ce qui c'est ce qui décide des choix de conception technique et qui oriente euh des choix technologiques qui ensuite nous impactent tous euh et notamment le fait que euh Open AI a a réussi son pari enfin le paris qu'ils ont fait c'est de dire en fait on va faire des modèles de plus en plus gros et donc on va utiliser des puissances de calcul inimaginables pour entraîner des modèles gigantesques pour des Aujourd'hui je pense que l'entraînement d'un modèle de années, ça coûte des centaines de millions de dollars. Euh juste un tour d'entraînement quoi. Euh bon bah ça c'est un choix technologique qui correspond à un choix d'objectif qui correspond à un choix idéologique qui est on veut faire des machines qui remplacent intellectuellement les jeunes américains.

Il me semble que c'est ça en fait le et donc c'est là où cette question de l'éducation des IA, elle est elle est elle est juste mais je pense qu'il faut la enfin il faut pas penser que on a réussi maintenant à faire une machine qui nous dédouine des choix techniques faits par les ingénieurs. C'est pas le cas, je crois pas. Et peut-être que ça me permet d'arriver juste aux limites de l'IA.

Euh moi je sais pas trop ce que ça veut dire les limites de l'IA tant qu'on m'a pas dit qu'est-ce qu'on va en faire. Euh et là je pourrais vous répondre bah oui c'est faisable ou oui ou non c'est pas faisable. En tout cas avec le paradigme actuel.

Euh ce que je sais c'est que les seules personnes à ma connaissance au monde qui ont l'impression de savoir ce qu'ils veulent demander à Lia, c'est des gens qui imagine que au bout d'un moment, on va arriver à un niveau de développement de ces systèmes qui va faire émerger une conscience suprême plus intelligente que tout l'humanité et qui va tous nous dépasser ou tous nous tuer ou tous nous sauver, je sais pas. Bref, ça c'est complètement enfin moi à mon sens c'est risible et et c'est le seul endroit où je pourrais dire bah oui là actuellement je crois pas qu'on va avec le système actuel arriver à une supraconscience divine mais il faut dire que je crois pas non plus la possibilité d'avèement d'une supraconscience divine dans un ordinateur mais voilà euh Oui. Alors merci beaucoup Zaco d'avoir fait ces précisions.

Je me permets juste de rebondir une seconde sur cette question. euh de donc du deep learning et de l'apprentissage automatique. Enfin, ce qu'on appelle l'apprentissage ou le learning, mais ça a rien à voir avec l'apprentissage ou le learning euh voilà, au sens courant du terme, hein.

Donc euh mais bon euh euh et ça n'a rien à voir précisément parce que comment ça s'appelle ça ? Entraîner un dispositif technique pour euh arriver à un objectif, à une grâce à une fonction objective. Euh bah, ça s'appelle de l'optimisation.

Ça veut dire qu'en fait on va optimiser un système. C'est pas de l'apprentissage, il y a un autre mot qui existe, c'est l'optimisation. Donc c'est vrai que quand on quand on utilise les bons termes, ensuite c'est plus facile de comprendre ce qui se joue dans ces machinesl.

Euh donc voilà. Donc j'insiste là-dessus parce que c'est des questions politiques comme tu l'as très bien dit. Il y a pas de machines qui s'entraînent toute seule et qui définissent elles-mêmes leur fonction objective.

C'est c'est en fait quand bien même vous arriveriez à faire en sorte qu'une machine, je sais pas si c'est possible, mais définisse sa fonction objectif, vous auriez dû avant euh définir comme fonction objectif le fait qu'elle définit sa fonction objective. Vous comprenez ? une régression à l'infini.

Donc il y a toujours quelque part quelqu'un, quelques-uns qui entraînent, qui décident et qui porte donc une responsabilité. Et ça c'est important de de l'avoir en tête. Après la question c'est qui entraîne ?

Qui décide ? Et donc la question c'est qu'effectivement peut-être qu'il est possible désormais, moi je je sais pas, j'ai peut-être pas suivi les dernières innovations en cours parce que j'étais en vacances donc je me suis un peu coupée. Est-ce que parfois c'est nécessaire aussi la déconnexion ?

C'est très important. C'est vraiment très très important. Donc j'insiste et le mais le fait est que si ce sont des citoyens qui entraînent eux-mêmes leur propres dispositifs, bah qu'il y ait des biaiss, c'est tout à fait normal.

Moi le problème pour moi, je j'utilise ce terme de biais parce que tout le monde l'utilise et que ça permet de montrer voilà un un certain nombre de de points de manière assez rapide. Mais la question pour moi, c'est pas celle des biais parce que des biaiss, il y en a toujours dans un journal. Il y a des biais dans ce que je vous dis là.

Il y a des biaiss. Il y a toujours des biaiss. Simplement la question c'est de savoir qui vous parle et d'où on vous parle et la possibilité pour vous d'avoir accès à ça si vous voulez à la source de du discours en fait parce que sinon vous pouvez pas vous rapporter de manière critique à ce discours.

Donc là c'est la raison pour laquelle avant de vous parler, je vous ai dit un petit peu qui j'étais et cetera. Si j'avais des intérêts chez Facebook par exemple, bah il aurait été on va dire éthique de ma part de le mentionner. Voilà, j'ai pas d'intérêt dans une grande entreprise du numérique quel qu'elle soit.

Voilà. Donc euh et donc si vous voulez, ça c'est important. Le problème c'est que avec les algorithmes de recommandation ou avec les algorithmes de génération, avec les IAS de recommandation, avec les IAD de génération, on vous masque toujours l'origine en fait et donc vous ne pouvez pas euh vous vous êtes face à de la recommandation de contenu ou de la génération de contenu.

Donc vous ne savez pas d'où elle vient, vous n'avez pas les sources et cetera. Donc ça c'est un c'est un gros problème pour moi. C'est c'est ça le problème.

Et si les citoyens peuvent eux-mêmes agir à ce niveau-là pour décider de comment entraîner les modèles et comment produire du contenu, mais je trouve que c'est une très bonne nouvelle à condition encore une fois que ce soit transparent et que ce soit interopérable. J'ajoute à la question de la transparence doit s'ajouter à la question de l'interopérabilité, c'est-à-dire le fait de pouvoir changer librement de système he Zaco l'a un peu mentionné au début pour éviter les enfermements si vous voulez dans une entreprise hein. Par exemple aujourd'hui, si vous avez un abonnement téléphonique Orange, bon j'ai pas d'intérêt chez Orange non plus, mais vous pouvez vous pouvez appeler quelqu'un qui a un abonnement SFR par exemple hein, vous pouvez faire ça.

En revanche, si vous êtes sur Facebook, vous pouvez pas contacter quelqu'un qui est si vous êtes par exemple sur WhatsApp, vous pouvez pas contacter quelqu'un qui est sur signal. Vous voyez ? parce que ce n'est pas interopérable.

Donc forcément, vous pouvez pas changer de système, vous êtes très vite enfermé. Donc il y a des des questions aussi là juridiques sur l'interopérabilité. Bien qu'il faille manier ça de manière plus précautionneuse que que je ne le fais là parce qu'il y a des petites disons il il y a des petites choses précises à à avoir en tête.

Il y a des risques aussi dans l'interropérabilité. Bref, avec les les I génératives. Donc juste pour revenir sur euh voilà.

Bon bah pour revenir sur les questions un peu rapidement. Bon les limites techniques de Lia, je reviens pas dessus. Zako a un peu répondu et effectivement euh en fait l'IA, ça dépend ce qu'on entend par IA, de quelle technologie on on parle à proprement parler.

En revanche, les la question des usages des jeunes, je crois que c'est une vraie question qu'il faut vraiment avoir en tête parce qu'on s'est rendu compte, comme vous le disiez tout à l'heure, avec beaucoup de retard des effets extrêmement nocifs et dangereux des réseaux sociaux. Il faudrait veiller à ne pas commettre les les mêmes erreurs avec l'IA générative. Moi, j'ai pas du tout évoqué un point, je le mentionne juste ici parce qu'il me semble qui est important, qui est le point des compagnons virtuels, des agents conversationnels et cetera.

Je vais pas développer, je fais un peu de publicité pour mon livre qui va paraître en septembre si ça vous intéresse. J'ai beaucoup développé cette question enfin dans dans le livre. Je pense que c'est un véritable enjeu et qu'il faut faire très attention aussi à ça euh euh à l'avenir.

Euh et puis sur la question bah pour finir de l'innovation numérique justement et euh le fait de mettre ce terme hein dans les projets de recherche qui vont permettre d'avoir du budget et cetera. Euh vous avez raison de le mentionner. Je pense que c'est un vrai problème.

C'était déjà le problème en 1956. C'est la raison pour laquelle ils ont choisi le terme d'intelligence artificielle, hein, parce que c'était plus vendeur. Et donc, je crois que là, il y a un véritable enjeu dans les investissement.

Justement, comme disait Zako tout à l'heure, l'investissement dans la recherche fondamentale mathématique, c'est très important. Mais moi, je plaide aussi vraiment pour des recherches transdisciplinaires et contributives sur ces questions. Transdisciplinaires, ça veut dire que il y a un gros enjeu à faire travailler ensemble des anthropologues, des sociologues et des informaticiens, des mathématiciens.

Ce qui est très intéressant avec l'association tournesol, c'est qu'on est justement bah voilà, il y a évidemment des informaticiens, des polytechniciens et cetera qui sont dans cette association qui font le véritable travail mathématique et informatique que moi je serais complètement incapable de faire. Mais en revanche, on a des échanges transdisciplinaires qui sont extrêmement intéressants parce que toutes ces questions ne sont pas seulement technologiques, elles sont aussi politiques, hein. Donc ce n'est pas seulement aux mathématiciens et aux ingénieurs de décider.

Il faut aussi qu'il discute non seulement avec les autres chercheurs, mais aussi avec les citoyens. D'où la notion de recherche contributive aussi qui était vraiment disons le mot d'ordre de Bernard Sigler de faire travailler des ingénieurs, des entreprises, des acteurs économiques, des chercheurs avec des citoyens aussi pour développer des dispositifs qui répondent à des besoins vraiment locaux disons et des qui répondent aux besoins des populations en fait et qui ne considèrent pas les populations seulement comme des marchés hein, comme des parts de marché mais aussi comme bah voilà des citoyens qui sont capables de décider de réfléchir au aux dispositifs technologiques qu'ils ont envie de de développer. Bon voilà, je je écoutez comme on est euh bien dans les temps qu'on a commencé un peu en retard, on va prendre deux dernières questions.

Très rapide les questions et puis euh il y avait la main de tout à l'heure à qui j'ai promis de la prendre ensuite. Euh merci beaucoup pour les éclairages et pour le pas de côté que réflexif réflexif que que permet toujours la France insoumise aux amphiers. Euh ben justement comme vous parliez de besoins, moi je me pose vraiment la question en fait de l'utilité euh de entre guillemets intelligence artificiel avec tous les guillemets que que vous avez mis.

Est-ce que c'est vraiment notre priorité d'action ? Mais euh c'est très avancé déjà en fait en terme d'utilisation et quels sont du coup réellement les actions, les moyens d'action politiques euh qu'on a ? Est-ce qu'on est capable par exemple de demander un moratoire pour justement au moins sur une grande partie ?

On voit par exemple que sur la santé même pour des médecins, il y a une étude qui est sortie récemment, il y a une une perte en fait une érosion de connaissance parce que il pratique moins avec l'usage de l'IA pour regarder des images par exemple et cetera. Ben voilà quelle capacité réelle on a au niveau politique à contrer est-ce qu'on est que dans l'accompagnement ? Euh bonjour.

Euh alors merci beaucoup pour cet exposé. Moi, une des choses pour lequelles qui paraît un peu en angle mort vis-à tout ça, c'est le lien justement direct entre l'usage de l'IA génératrice et le deep learning directement aussi avec justement l'industrie militaire, la technologie militaire qui a qui qui est utilisée. Par exemple, lorsqu'on voit actuellement pendant le génocide à Gaza, il y a Israël qui utilise deux I différentes.

Il y en a une qui s'appelle Lavender qui génère qui génère les cibles pour envoyer des missiles ensuite sur des populations civiques et une seconde en fait qui se base justement visa de la reconnaissance faciale des personnes qui étaient d' manifestation à certains moments pour ensuite générer des frappes ciblées. Et du coup vis-à-vis de tout ça, c'est aussi que l'AN en soi n'est pas seulement une menace directe envers tout ce qui est le droit d'auteur vis-à-vis non seulement vis-à de l'éducation, mais disons qu'il y a une sorte de concomitance directement dans le développement de ces modèles en fait avec pour des usages civils avec des usages militaires en fait. Et du coup euh qu'est-ce que vous pensez exactement vis-à-vis du lien justement entre ces ces ces groupes et organisation et vis-à-vis justement des menaces que ça peut mener vis-à des libertés individuelles ?

Merci. Une autre main se lever par là. J'avais promis monsieur.

Merci. Ouais. Une question sur l'IA, c'est plutôt dans un monde capitaliste finalement.

Pourquoi faire l'IA ? J'ai du mal à voir ça comme un outil vraiment de comme un progrès, plus comme un outil de domination. Et il y a un angle mort aussi, j'ai l'impression, c'est au niveau de l'emploi parce que finalement l'IA, j'ai l'impression menace énormément nos emplois actuels.

Je travaille dans l'ingénierie automobile qui est en crise et pour autant mon entreprise continue à investir massivement dans l'IA. On nous parle d'IA à à foison quoi. Il y a 10 ans c'était les pays du sud développer l'ingénierie dans les pays du sud.

On comprend bien la logique qui est derrière de garantir la profitabilité des comptes entreprises dans un monde capitaliste qui est en crise. Et du coup, moi j'ai un enfant de 3 ans et je me dis bah plus tard, j'espère qu' il me dira "Papa, je veux être boulanger ou je veux être charpentier parce que je me dirais bah c'est des métiers qui seront peut-être les moins enfin qui seront attaqués le plus tard euh tout simplement." Et du coup quelle réflexion quel vous avez autour de des questions liées à l'emploi tout simplement ?

Je vais je vais je vais répondre très vite là sur la question du moratoire et de l'emploi parce que moi je trouve qu'elles sont liées. Euh le le moratoire, ça peut paraître une bonne idée. Moi je pense que c'est inapplicable.

Il y a une tentative de moratoire, je crois, qui qui est mise en place en ce moment, mais qui a que personne ne veut vraiment parce qu'en fait si vous vous faites un moratoire chez vous, vous avez toujours un concurrent ou un autre pays où tu parlais des utilisations militaires justement, vous allez toujours avoir quelqu'un d'autre qui va profiter de ce moratoire pour prendre de l'avance où vous rattraper. Donc je mais comme toutes les questions de progrès technologique et c'est ce qu'on a dit tout à l'heure, le sujet c'est pas de les éviter ou de d'essayer de mettre un couvercle dessus. Je pense qu'on ne peut pas empêcher l'être humain de progresser.

On peut pas l'empêcher d'avoir envie de progresser, de réfléchir, de faire des choses. En revanche, ce qu'on peut faire euh c'est de mener la réflexion et de poser les cadres pour que les outils qu'il créent soient mis à son service et pas euh à son détriment. L'IA peut être utilisé dans les domaines de la médecine pour soigner des maladies, pour trouver des cancers et cetera.

Euh l'IA peut peut et où l'UT l'automatisation, la machine et l'IA aujourd'hui euh ont été et seront utilisés pour euh qu'on ait plus des emplois, ce qu'on appelle un peu les bullshit jobs euh répétitifs, pas intellectuellement satisfaisant et cetera. Et donc comme tu l'as dit euh bah le but c'est de faire faire ces tâches que nous on n' pas forcément envie de faire pour que chacun puisse trouver sa place et faire un emploi euh avoir un travail qui lui plaise euh en y prenant plaisir et cetera. Donc il faut voir tout ça comme des possibilités de progrès mais mais oui, ça demande de la réflexion, des cadres, de la volonté politique pour que ce soit utilisé à bonissant et pas uniquement pour enrichir cinq poches.

Euh oui, ben enfin pour euh parce que le le pendant de je crois de cette question sur l'emploi, c'était une question sur euh à quoi ça sert et euh euh vous avez commencé à y répondre. Euh moi, il me semble que personnellement, c'est je me je me ça fait ça fait un moment quand même euh que je me spécialise en IA et c'est un sujet qui m'intéresse. Pour ce qui est de prêcher ma paroise, je sais pas mais euh répondre à cette question, de mon point de vue, ce que je trouve intéressant dans cette technologie, c'est que c'est un ensemble de systèmes qui permettent de de concevoir plein de manières et et souvent de manière très créative et très imaginative de de regarder des grands ensembles de données et des grands des des grands volumes d'information.

Moi, c'est c'est ça qui me semble le le l'emploi en général le plus intéressant dans et c'est par exemple l'application à l'imagerie médicale, c'est le cas. C'est-à-dire, on a énormément d'images médicales et on est capable d'en faire quelque chose qu'on ne pourrait pas faire autrement. Il me semble que quand on le confine à ça, c'est-à-dire à cette question à la fois de l'accès à l'information et de de la l'exploitation de l'information, on tombe moins il me semble dans des questions de remplacer des gens, remplacer des postes et cetera que quand on le formule comme c'est le cas le la plupart du temps dans les produits qui nous sont poussés comme une forme de système anthropomorphique où là d'un coup ça ressemble un peu à un être humain en tout cas dans la manière que ça a de d'apparaître sur nos écrans. prend et d'écrire du texte et maintenant de la voix et bientôt de l'image et et donc parce que ça ressemble à un être humain, d'un coup on on a envie de le mettre à la place d'un être humain dont si on est un chef d'entreprise concerné par ses profits, on trouve que ça coûte un peu trop cher.

Et donc il me semble que c'est en fait c'est c'est ça a beaucoup trait à à et on retombe sur la même chose à comment est-ce qu'on nomme les choses, comment est-ce qu'on les comprend et dès dès lors comment est-ce que on choisit de s'en servir. Et moi, je suis persuadé pour le coup que parce que en fait fondamentalement c'est des technologies qui servent à traiter de l'information, on va en trouver plein d'usages très utiles dans l'imagerie médicale et d'autres choses. Et les entreprises qui vont tenter de remplacer des salariés par des systèmes d'IA, enfin, moi j'ai un peu peur pour eux quoi, de ce qui va se passer ensuite euh dans leur capacité à fonctionner en fait, tout simplement.

Euh voilà. Euh mais mais et il y avait l'autre question sur les applications militaires. Euh c'est clair que euh et on en a parlé euh le de toute façon le point de départ et l'origine de tout ce champ technocientifique euh est intimement lié au complexe militarum industriel américain.

Euh vraiment enfin de c'est c'est l'alliance du MIT et de et de du Pentagone et de et d'industriel américains qui ont financé ces programmes de recherche initialement. ça a jamais euh ça s'est jamais éloigné de ça. Euh et c'est effectivement exactement les mêmes technologies, en tout cas les mêmes fondamentalement les mêmes technologies qui servent à euh reconnaître des images de chat pour reprendre cet exemple ou euh ou dans les euh dans les applications militaires que vous évoquiez à Gaza et et aujourd'hui dans tous les systèmes que l'IC aux États-Unis utilise pour target et déporter massivement des gens sur le territoire américain.

Je je saurais pas très honnêtement, je saurais pas répondre à cette question. Il me semble que les objets techniques peuvent toujours être utilisés à des fins néfastes ou non. et et par disons que nous disons en fait c'est plus face à ce parce que par exemple la dépensation en fait de la mondiale il y avait des outils de fichage en fait assez classique on écrit le nom de la personne et cetera on se consent justement que actuellement il y a le moins de la gestion de ce genre de d'outils qui sont de plus en plus précis de plus en Ça fait en sorte en fait que il est possible d'avoir une pression qui est absorbé la moins de deité de s'en extraire et donc par conséquent.

Ouais. Là là parce que là du coup il faut que je laisse Anne répondre en 2 minutes et là on est reparti sur une discussion de 4h mais qui par ailleurs euh n'est pas propre au sujet du débat d'aujourd'hui puisque euh on peut avoir euh la même réflexion sur l'arme nucléaire, les armes chimiques et les armements conventionnels. C'est c'est un problème mais c'est la problème le le la réponse elle est dans le le la norme et les rapports de force et pas pas spécifiquement au domaine de l'intelligence artificielle.

Oui, je crois que c'est aussi euh juste pour dire un mot là-dessus euh en fait nous ne sommes clairement pas spécialistes de ces sujets tout simplement. C'est je pense que c'est la première chose à dire. Et donc je me permets de vous donner deux références de de chercheurs qui à mon avis ont vraiment abordé ces questions euh sur la question de la des technologies euh de numérique policière et de la surveillance.

Euh je vous recommande les travaux de Félix Trget, voilà euh que vous connaissez peut-être déjà mais qui sont vraiment pertinents sur ce sujet et sur la question des technologies militaires et de l'automatisation des armes et de la guerre. Je vous recommande les travaux de Grégoire Chamaillou, la théorie du drone qui lui-même mobilise beaucoup de références sur ces questions et qui vous aideront je pense à à répondre et je suis désolé mais moi personnellement effectivement je considère que ce sont des sujets à part entière dans lesquels je me sens pas euh euh disons légitime. Voilà.

Et alors ouais alors sur l'emploi, moi j'ai un peu plus travaillé sur cette question parce que donc j'ai beaucoup travaillé avec Bernard Stigler que vous avez mentionné précédemment qui lui a développé si vous voulez une disons une bah voilà qui a écrit un livre qui s'appelle la société automatique l'avenir du travail. Là aussi pardon, je me permets de donner une référence mais qui est lui-même résumé dans un petit livre qui s'appelle l'emploi et mort vive le travail qui sont des livres qui parlent de l'avenir de l'emploi et du travail. Ce sont deux choses distinctes dans la pensée de de Bernard Stigler. euh et qu'il est important selon lui de distinguer euh donc de l'avenir de l'emploi et du travail à l'époque de l'automatisation généralisée.

Et donc si vous voulez, moi c'est une thèse qui m'a beaucoup intéressé qu'on a reprise un petit peu avec Ga Giro qui est un économiste avec qui j'ai écrit ce livre qui s'appelle le capital que je ne suis pas qui est donc l'idée que tout en ménageant enfin évidemment tout en ménageant le droit du travail associé au salariat et cetera à l'époque actuelle, il est aussi possible d'envisager aujourd'hui un nouveau modèle économique qui ne se fonde plus nécessairement sur l'emploi mais qui se fonde sur ce que Bernard Sigler appelle l'économie contributive et les activités contributives dans la mesure où selon lui et selon André Gordz avant lui qui a beaucoup travaillé sur ces questions aussi, le modèle économique qui se fonde sur l'emploi et le salariat est profondément remis en question par l'automatisation généralisée de toutes sortes de disons d'activités, hein. Maintenant, on peut très bien ne pas être d'accord avec ces thèses et cetera. Encore une fois, tout ça c'est un débat à à part entière, hein.

Je je vous renvoie, il y a beaucoup de choses aussi en en vidéo sur YouTube, mais malheureusement sur Piretube aussi qui est l'alternative libre à YouTube pour les personnes qui ne le savaient pas. Et il y a beaucoup de réflexions sur ces sujets. Voilà, l'avenir de l'emploi, l'avenir du travail et la la possibilité d'une économie contributive qui ne se fonde plus justement sur des emplois proléarisés parce que c'est une c'est un vrai sujet aussi.

Il y a des tâches qu'on a envie d'automatiser évidemment. Donc l'automatisation en soi n'est n'est pas le problème hein. Mais la question c'est que devient euh notre système notre modèle économique fondé sur l'emploi, le pouvoir d'achat et la consommation à une époque où de plus en plus d'emplois sont automatisés, où euh du coup euh les salaires baissent parce que les employés sont mis en concurrence euh avec euh les robots et où en plus on va confier des tâches parfois qui sont pas du tout automatisables à des automates.

Et là, il y a de gros problèmes qui se posent. Mais tout ça, voilà, ce sont des questions encore une fois. Et donc la question de pourquoi faire, bah justement c'est vrai que il y a plein de Moi, je je je plaide juste peut-être une dernière fois pour dire que l'IA générative n'est pas la seule fonctionnalité qu'on peut développer à partir de l'IA.

Euh une encyclopédie collaborative comme Wikipédia se fonde aussi sur de l'IA, pas du tout sur de l'IA générative et pas sur du deep learning, mais c'est quand même des algorithmes et euh c'est absolument fondamental euh ce que ce que Wikipédia représente, même si on peut faire beaucoup de critiques à Wikipédia, mais ça représente l'invention de la possibilité de créer, de construire du savoir collectivement. C'était impossible avant le le numérique, hein. Essayer d'écrire un livre à je sais pas combien de de millions de de personnes.

Donc il faut toujours se se demander ce que le numérique rend possible, qui n'était pas possible avant. et non pas qui accélère, si vous voulez l'exploitation, l'automatisation et la prolétarisation, hein, parce que c'est pas dans ce sens-là à mon avis qu'il faut développer ces ces technologies. Il ne me reste plus qu'à vous remercier triplement [Applaudissements] d'abord pour la qualité de vos interventions, ensuite pour le bah la la note d'optimisme quand même que vous nous donnez.

C'est-à-dire que bah au boulot euh les solutions existent et surtout elles résident dans notre intelligence collective et notre capacité de réflexion. Et puis de m'avoir donné une idée pour le l'atelier de l'année prochaine, comme ça je suis déjà tranquille cette année pour l'atelier de l'année prochaine et et du coup je vous recontacterai. Merci beaucoup et et juge je vais redonner le titre de ton bouquin de la bêtise artificielle qui sort en septembre et le titre du rapport de X alternative tu nous l'as pas donné.

Intelligence artificielle pour l'émergence d'alternative. Je vous invite à consulter sur notre site. Voilà.

Merci beaucoup.