Justine Cassell et Cédric Villani : IA, notre futur assistant ou nouveau maître ?

Messieurs, dames, bonsoir. Madame, bonsoir. Nous vous recevons aujourd'hui pour une chaîne internet qui s'appelle Thinkerview. Nous sommes en direct. Justine Cassel, est-ce que vous pouvez vous présenter succinctement ?

Avec plaisir. Je suis chercheuse et à Inria Paris Centre et à Carnegie Mellon aux Etats-Unis. Je travaille sur l'intelligence artificielle, les agents conversationnels en particulier. Et j'ai peut-être la particularité d'avoir dirigé l'équipe qui a créé le premier chatbot incarné avec un corps il y a 29 ans.

Cédric Villani, bonsoir. Est-ce que vous pouvez vous présenter succinctement ?

Cédric Villani, mathématicien, 50 ans, professeur à l'université Lyon 1 et à l'institut des hautes études scientifiques à Burs-sur-Yvette, ancien parlementaire et président de l'office parlementaire scientifique et intéressé à un certain nombre de sujets faisant intervenir la vie publique, la vie scientifique et technologique, les questions écologiques. En 2018, j'ai rendu au gouvernement un rapport sur l'intelligence artificielle qui a servi de base à la stratégie nationale française dans l'intelligence artificielle. Cinq ans après, à un moment où on parle plus d'IA que jamais, c'est un bon moment pour faire un petit bilan et tâcher de voir ce qui arrive.

Donc ce soir, quand vous avez pu le remarquer, on va parler d'intelligence artificielle, des répercussions, des dangers, des avantages, des qualités, des angoisses des uns et des autres, et des envies des uns et des autres, et des fantasmes des uns et des autres. Mais avant de commencer sur ce sujet, je voudrais poser la question à Cédaï. Tu as été rendre visite à Julian Assange, journaliste, incarcéré en Angleterre. Est-ce que tu peux nous en parler ? Je t'écoute.

C'était il y a un mois, quelque chose comme ça. J'étais rendre visite à Julian Assange, journaliste australien, incarcéré dans la prison très haute sécurité de Belmarche, à Londres. Julian est un journaliste. Il a une formation de physicien. Il a un rapport scientifique et geek aux questions d'information. A cœur.

A cœur au départ, mais quelqu'un aussi qui a été biberonné à la théorie de l'information, qui a bien en tête ce que c'est, avait compris très tôt ce que c'était la nouvelle donne de l'information dans le monde numérique, et a eu à cœur de mettre en place un outil systémique, Wikileaks, pour augmenter la pression sur les puissants, révéler des secrets gênants que l'opinion publique avait le droit de savoir, et pour apporter plus de pouvoir aux simples citoyens, plus d'une vie privée mieux couverte pour les citoyens, plus d'obligations de transparence pour les puissants.

Et en particulier, c'est à Wikileaks et à Julian Assange avec les lanceurs d'alerte Ed Snowden et lanceurs d'alerte Manning qu'on doit d'avoir révélé des crimes de guerre, en particulier de l'armée américaine en Irak, en Afghanistan, l'espionnage de masse par la NSA, le FBI qui a été développé à une ampleur phénoménale, l'espionnage politique, économique et tout ce que vous voulez, et ce sont des choses qui n'ont pas plu au gouvernement américain, qui valent aujourd'hui à Julian, le journaliste le plus décoré du XXIe siècle, d'être traité exactement comme un terroriste dans cette prison de très haute sécurité.

Dans une boîte de 6 mètres carrés, 23 heures sur 24, et dans un contexte où le moindre de ses mouvements est surveillé, et où les États-Unis réclament son extradition et lui préparent un procès pour 175 ans de prison. Alors, premièrement, au niveau des droits humains, c'est un cas patent de violation de tout ce qu'on peut imaginer. Le rapporteur des Nations Unies sur les mauvais traitements et la torture, à l'époque, Niels Meltzer, avait fait un rapport très clair indiquant que, voilà, c'était quelque chose d'absolument inacceptable. Deuxièmement, par rapport à la liberté de journalisme, c'est quelque chose d'extraordinairement grave. Tout ce qu'a révélé Wikileaks est vrai.

Personne n'a été mis en danger par ces révélations, contrairement à ce que les autres essayent de faire croire. Et ce sont des informations interrepubliques et qui ont influé sur la politique. Il n'y aurait pas eu de RGPD, par exemple, en Europe, s'il n'y avait pas eu les révélations de Snowden. Troisièmement, au niveau géopolitique, il faut voir à quel point c'est sidérant. Les États-Unis considèrent qu'ils ont le droit de poursuivre un journaliste australien pour des choses qu'il a effectuées en Europe, de le juger sur soi l'américain et de choisir sa peine. C'est quelque chose qui est tellement monstrueux, qui serait un précédent tellement incroyable que ça dépasse l'entendement.

Et donc, c'était mon devoir d'aller voir Julian Assange en soutien en prison, de lui apporter du soutien psychologique, un peu de conversation et de contribuer à rendre visible son sort qui nous concerne tous et toutes.

Justine, en tant qu'ancienne citoyenne américaine, parce que tu es naturalisée française, qu'est-ce que ça te fait d'entendre ça ?

Alors, en bref, j'ai choisi de vivre en France. Voilà. J'ai bénéficié d'une éducation formidable aux États-Unis. En tant que jeune personne, où mes parents m'ont envoyé dans une école sans notes et sans rang, je n'aurais pas fini l'école sans ça. Ça m'a permis de faire ce qui me passionnait et pas ce que je détestais. Enfin, on pense une bonne chose et une mauvaise chose pour un enfant. J'ai eu un doctorat à l'Université de Chicago qui était très strict et qui m'a beaucoup appris. Mais en choisissant où vivre cette partie de ma vie... Enfin, je fais les allers-retours de l'âge de 19 ans. J'ai fait une licence de lettre moderne à Besançon.

Besan, qu'on leur passe bonjour.

Oui, voilà, Besançon, plutôt. Et à un moment, je me suis dit, je ne me vois plus dans les États-Unis. Je ne me vois plus dans ce que je vois refléter, méroiter dans les journaux. Et donc, j'ai choisi de venir ici vivre de façon permanente.

Bienvenue en France.

Merci.

Donc, parlons un peu... C'est un sujet ultra important, le journalisme d'investigation pour les populations, pour la démocratie. Et on refera une émission dédiée sur ce sujet-là. On activera notre réseau pour faire un peu de bruit d'une façon beaucoup plus perforant que Reporters sans frontières qui organise des kermesses et qui se fait refouler à la porte de la prison. On va parler d'intelligence artificielle. Justine, qu'est-ce que tu peux me dire sur le fait que l'armée israélienne utilise une intelligence artificielle pour faire des frappes ? Est-ce que tu en as entendu parler ?

Est-ce que tu as entendu parler avant des robots autonomes à action létale sur les gardes frontières que tu peux avoir en Asie, côté coréen, je dirais ? Toi, en tant que chercheuse, le fait qu'il y a une militarisation d'une technologie à action létale, qu'est-ce que ça te fait ? Parle-moi, dis-moi le fond de ta pensée.

Encore une réponse qui peut peut-être paraître à côté, mais j'ai vu le film Oppenheimer lorsqu'il est sorti et j'ai sangloté tout le long. J'ai été avec une amie qui n'a pas compris pourquoi ça m'a tellement attristée. À la fin, je lui ai dit « Je nous vois là-dedans. Je vois ce qui nous arrive aujourd'hui dans ce qui est arrivé à Oppenheimer, de plusieurs points de vue. D'abord, il faut dire que mon grand-père a travaillé sur la bombe atomique sans savoir ce que c'était. Il était à Tennessee et non pas en Nouvelle-Mexique. Et à la fin, on lui a demandé sur quoi il travaillait. Il paraît qu'il a dit à mon père, qui était enfant, qu'il travaillait sur la plus grande lumière qui soit.

Donc vraiment, il ne savait pas ce que c'était. Mais il a refusé d'en parler à la fin de sa vie. Chez Oppenheimer, j'ai vu la passion d'un chercheur né. Et je le ressens aussi. Je veux aller aussi loin que possible. Au même temps, je suis activiste jusqu'aux os. Quand j'ai été naturalisée, il a fallu que je demande mon dossier FBI. J'étais contente, j'étais sûre que j'allais avoir un épais dossier FBI. Parce que, surtout quand j'étais ado, j'étais assez activiste. Je me retrouvais à Washington pas mal. Et j'ai été très déçue. Lorsque j'ai reçu comme retour, on ne trouve pas de dossier au nom de Justine Cassel. Oppenheimer a poursuivi la science.

Et il pensait que ça allait aider le monde jusqu'à un certain point. Et puis, il s'est rendu compte de ce qui se passait. Et à ce moment-là, je pense qu'il n'a plus pu faire marche arrière. J'ai peur. Enfin, je crois beaucoup dans les bénéfices de l'intelligence artificielle. J'ai commencé à travailler là-dedans parce que je m'intéressais à la capacité des personnes de nouer une relation avec autrui et l'importance de ces liens. Et pour moi, tout au début, l'intelligence artificielle a servi d'outil pour mieux comprendre l'humain et les relations humaines.

Et puis, j'ai trouvé des moyens d'utiliser l'intelligence artificielle pour créer des applis qui aidaient les enfants défavorisés, qui parlaient des dialectes des quartiers, ce qu'on appelle en France les dialectes des quartiers.

L'argot.

Enfin, pas l'argot, les dialectes.

Le langage vernaculaire local.

C'est ça, voilà, exactement. Mais ça peut être militarisé. Mais tout outil peut être militarisé. Je dis parfois que, lorsque l'on me dit que ce que je fais peut tuer, que dans les salles de classe, les enfants, pas mal, utilisent leur crayon, voilà, pour essayer de se tuer. Qu'est-ce qu'on fait ? Je vais être honnête. Je ne sais pas. Je n'abandonnerai pas la voie de la science à cause des peurs et des craintes et des fantasmes des citoyens vis-à-vis des nouvelles technologies. Et il y a dix ans, j'ai commencé à lire l'histoire. Moi, ça ne m'a jamais intéressée.

Il y a beaucoup d'Américains, d'ailleurs.

Oui, c'est vrai. Et moi, mon école expérimentale, on n'a fait qu'un cours d'histoire. Et c'était l'histoire de l'Afrique. Donc, je n'ai jamais fait d'histoire. Mais j'ai commencé à réfléchir à l'histoire des technologies. Et ce que j'ai appris, c'est qu'il y a toujours ce qu'on appelle une panique morale vis-à-vis des nouvelles technologies. J'ai écrit des articles là-dessus. J'ai écrit un article, un long article sur les craintes vis-à-vis des filles en ligne, il y a dix ans ou douze ans, où on disait qu'il fallait interdire aux filles de passer du temps en ligne parce que c'était dangereux pour elles. On commence toujours avec un amour de ce qui est nouveau.

Et ça s'ensuit d'une peur bleue. Mais pour moi, ces peurs, c'est des peurs de ce que nous devenons. Ce n'est pas vraiment la peur des technologies. Et je pense que c'est le cas avec l'intelligence artificielle. Ce qui nous effraye, c'est le fait qu'on abandonne les liens humains. On abandonne l'espoir dans l'humanité.

Cédric, avant de te redonner la parole, je vais reposer une question à Justine. Entre l'époque du projet Manhattan de ton papa et maintenant de ton grand-père.

Je suis une très vieille personne.

T'es bien conservée, dis donc.

C'est l'effet de la France. Oui, voilà. C'est le vin.

Entre l'époque du projet Manhattan et maintenant. Certes, à l'époque du projet Manhattan, il y avait la guerre avec le Japon. Il y avait la guerre avec les nazis avant. Il y avait tout ça. On avait connu le nazisme. Maintenant qu'on a plus de maturité concernant la consommation des ressources, l'accession aux ressources. Le fait qu'il y ait un protectionnisme qui est en train de monter de plus en plus à cause de l'accession aux ressources pour maintenir une classe politique dominante dans chaque pays parce que sans ressources, les politiques sont difficilement maintenables. En France, on a une expression qui dit « Quand il n'y a plus de foin dans les râteliers, les chevaux se battent ».

Donc, la maturité que nous avons autour de cette table, de ce tapis, de ce bout de moquette, on voit bien que les tensions augmentent, que la militarisation de ce type de projet avec cette fonction exponentielle capable de perforer des strates de nos sociétés, de surveiller notre population, de surveiller nos démocraties, ne s'est pas donné des lames de rasoir à des singes. Est-ce qu'un scientifique, quand il réalise l'immaturité, la paresse intellectuelle de sa caste politique, est-ce que le scientifique, par amour pour l'humanité, doit arrêter de fournir des lames de rasoir à des singes ?

Pour moi, le scientifique doit surtout continuer et trouver et pousser et convaincre ses étudiants de pousser les bonnes choses qu'on peut faire avec ces technologies. Pour moi, enfin, bon, Cédric n'est peut-être pas d'accord, mais pour moi, il ne faut pas s'arrêter. Il faut montrer aux jeunes chercheurs le bonheur d'utiliser ces technologies pour le bon. Il faut regarder l'état de l'éducation, parce que ce n'est pas que les technologies qui nous désolent aujourd'hui. Il y a plein d'autres choses qui nous désolent.

Moi, je regarde l'état de l'éducation dans plusieurs pays, disons, en plusieurs pays, et ça me désole, et je vois les belles choses qu'on peut faire avec l'intelligence artificielle pour les étudiants. Enfin, j'espère qu'on va revenir là-dessus, parce que j'ai une perspective un petit peu différente.

Tu es chez toi, tu fais ce que tu veux, tu prends la parole, tu continues ton sujet.

Si je peux. Cédric, il y a absolument... Si, bien sûr. OK. Je commence toujours mes conférences, en ce moment, avec une image d'élèves, chacun devant un ordi. Et je dis l'avenir, donc, sur cette image, c'est marqué, l'avenir de l'éducation. Deuxième diapo, rayure rouge à travers cette image, dystopie de l'éducation. Donc, moi, je pense que... Enfin, c'est ce que je fais. J'utilise l'IA pour comprendre comment les enfants et les jeunes personnes lient la connivence avec autrui, les bénéfices de la connivence pour la santé et pour l'éducation.

Et puis, à la base de mes études d'enfants, d'enfants, jeunes, jeunes, je crée des technologies qui permettent aux jeunes de lier la connivence et avec les machines et avec autrui. Donc, je ne m'arrêterai pas, mais je passe beaucoup de temps, beaucoup trop de temps en ce moment, vis-à-vis du temps que je passe dans mon labo, à parler aux instits, aux politiciens, aux industriels, de comment utiliser ces technologies pour de bon. J'ai été invitée cette année à Davos. Ça sera la neuvième fois que je parle à Davos.

Et j'ai l'intention de diriger la conversation, d'essayer de faire de mon mieux, de pointer ce qu'il faut faire, les utilisations qui nous feront fiers de ce qu'on fait au lieu de donner des lames de rasoir aux singes.

Est-ce que tu donnes la parole à Cédric ?

Cédric ! Je vais faire quelques commentaires sur ce qu'a dit Justine. Et d'abord, le sujet central, la responsabilité du scientifique par rapport à l'utilisation de ses inventions, il est majeur et indémêlable. J'ai fait tout un bouquin dessus, une bande dessinée avec le dessinateur Edmond Baudouin, ça s'appelle Les Rêveurs Lunaires. Ça s'est ancré dans la Seconde Guerre mondiale et le principe, c'est que je mets en scène, dans quatre chapitres, à chaque fois à un moment très émotif de leur vie, quatre personnes qui ont joué un rôle majeur sur la question innovation-développement dans la Seconde Guerre mondiale.

Le premier, c'est Heisenberg, qui a joué un rôle majeur en creux parce qu'il a juste échoué à diriger le programme nucléaire allemand. Et on le voit juste après l'explosion du 6 août 1945, avec d'autres scientifiques allemands qui sont tous emprisonnés à Farm Hall à l'époque où les alliés les espionnent pour savoir exactement ce qu'ils savaient et sont très étonnés de découvrir qu'ils étaient allés nulle part en matière de projets atomiques. Le deuxième, c'est Alan Turing qu'on voit en 1954 la veille de son suicide. Le troisième, c'est Léo Szilard, physicien hongrois, qui a joué un rôle majeur dans la construction de l'homme atomique et surprésenté dans le film Oppenheimer.

C'est l'un des rares reproches que j'ai à faire sur ce film.

Sous-présenté.

Sous-représenté, oui. Son vrai rôle a été beaucoup plus important que ce qui est présenté dans le film. Szilard a été le premier à avoir l'intuition de ce que serait une réaction en chaîne. On était en 1933 ou 1933, je crois. Il a été convaincu que le monde allait à sa perte parce que les Allemands seraient les premiers à développer la bombe atomique, à remuer ciel et terre pour que le projet Manhattan se fasse. Il a tenu la main à Einstein pour écrire la fameuse lettre qu'il a écrite pour le développement du projet Manhattan.

Szilard est devenu ensuite, quand il a compris que la bombe atomique serait utilisée, non pas contre les Allemands, mais contre les Japonais, c'est toute sa ville qui était ruinée. Il est devenu plus tard un important militant pacifiste. Les conférences plus gouaches pour le désarmement et les choses comme ça. Personnage de roman. On le voit, je le représente en 1960 quand il met le nez dans son propre traitement pour son cancer. et il demande aux médecins d'augmenter très sensiblement les doses de radioactivité qu'il va subir. C'est un vrai personnage de roman très méconnu. Son autobiographie s'appelle Ginius in the Shadow avec tout ce destin incroyable lié à l'atome.

Et le quatrième, c'est Hugh Dowding qui était le général qui a joué un rôle clé dans la bataille d'Angleterre pour empêcher que les Américains, que les nazis envahissent la Grande-Bretagne. Et lui, je le montre en 1968, au moment où il y a un film qui est tourné dans lequel il voit Laurence Oliver qui joue son propre rôle. En tout cas, et mes quatre personnages, je les fais avec leur débat intérieur, débattre à chaque fois avec eux ou avec les autres sur ce thème. C'est quoi notre responsabilité là-dedans ? Est-ce qu'il faut essayer de contrôler l'invention ? Est-ce que c'est le bien commun ? C'est un problème qui est à la fois majeur et indémêlable.

Et dans le cas de la bombe atomique, il faut bien se rappeler qu'ils étaient persuadés, le top niveau, que si eux ne le faisaient pas, les Allemands, les nazis, allaient le faire. Et ça serait une catastrophe encore supérieure. Une grande différence. Alors, d'abord, avant de parler de la grande différence, je voudrais ajouter que l'expérience montre que très souvent, les premières applications qu'on trouve à de nouvelles théories mathématiques ou physiques fondamentales, quand on trouve des applications, elles sont du côté militaire, y compris dans les sujets que j'ai travaillés, moi, comme le transport optimal. Parce que l'argent vient du militaire. Pas que.

L'argent vient du militaire, mais aussi, il y a une... Toujours, il y a, qu'est-ce qu'on va dire, des compétences qui sont mises par les États du côté militaire qui traitent au repère ce qui peut servir avec toute la pression.

Par exemple, le tout premier système de télécommunication au monde, j'ai bossé là-dessus pour un podcast France Culture, c'était quand l'ingénieur Claude Schaap met en place un système de sémaphore pour aider la France à survivre pendant la guerre en 1780, c'était en 93, je crois, au moment où c'était la Grande Guerre, où, dans un sujet que j'ai beaucoup travaillé, il fait une partie de ma carrière là-dessus, le transport optimal, le père fondateur, c'est Gaspard Monge.

Les premières réalisations de Gaspard Monge dans les années, à la fin du 8e siècle, c'était la géométrie descriptive et son invention avait été jugée tellement importante pour décrire des plans en trois dimensions, faire des relevés, que l'armée, l'armée royale, l'avait classée secret défense. C'était interdit d'exposer la géométrie descriptive à quiconque n'était pas un officier de rang suffisant. Donc, ces applications, elles sont toujours là et c'est quelque chose avec quoi on doit vivre bien souvent. quand Léo Ferré disait, Léo Ferré chantait dans sa chanson Yann Amar, M.

Einstein, loin des canons, croyant travailler pour lui seul, a découvert des équations qui vont nous tomber sur la gueule. Vas-y, vas-y. Alors, pardon, excuse-moi, excuse-moi, je t'en prie. Il y a une grosse différence maintenant entre le projet Manhattan et bien souvent, on voit les gens qui font le parallèle comme Justine vient le faire et qui demandent est-ce qu'il y a quelque chose qui vient là. Dans le développement de l'IA tel qu'ils sont maintenant et le projet Manhattan est-ce qu'il y a des parallèles. Il y a des parallèles mais il y a une grosse différence.

Le projet Manhattan, c'était un projet énorme qui n'aurait pas pu se faire sans un management extrêmement rigoureux fait par Oppenheimer. Et si l'une des personnes du top management avait dit on se retire, le projet ne pouvait pas se faire. tandis qu'aujourd'hui pour l'IA quelqu'un dit le projet sortir ça ne change rien. Il y en a partout, c'est diffus. Il y a des dizaines de labos à travers le monde qui sont capables de continuer, de développer. Donc c'est quelque chose qui est beaucoup plus inéluctable le développement de l'IA que ne l'était le développement du projet Manhattan. Très bon point.

Léo Ferret, ce qui va nous tomber sur la gueule, qu'est-ce qui va nous tomber sur la gueule ? Quels sont les risques d'une militarisation à l'outrance de l'intelligence artificielle ? Est-ce que je vous donne un cas de figure complètement... Faisons une expérience de pensée tous ensemble. Admettons que nos gouvernements occidentaux issus d'une société thermo-industrielle en sevrage énergétique avec une population tombant vers le populisme poussant des gens vers le populisme avec des services publics qui ont un système éducatif en effondrement, en collapse ? Quand cette expérience de pensée... Imaginez-vous qu'est-ce qu'on pourrait faire avec de l'intelligence artificielle ?

On pourrait cornaquer... Tu comprends cornaquer ? Est-ce qu'on pourrait mettre sous camisole numérique avec des pics sur les côtés pour pouvoir encadrer notre population ? Je n'ai pas terminé. Est-ce qu'on pourrait surveiller, détecter des comportements, détecter précocement des gens qui pourraient devenir journalistes, procureurs, même libres penseurs par leur lecture, par leur carte de bibliothèque, leur historique internet, leur façon de marcher, leur rythme cardiaque face à une émotion qu'ils pourraient recevoir sur un ordinateur ?

Est-ce qu'on pourrait avoir une guerre cognitive analysée tellement finement qu'on pourrait détecter les prochains leaders qui mettraient en doute ou mettent en question des gouvernements autoritaires ? Donc, quels sont les risques qui pourraient nous tomber sur la tête avec de l'intelligence artificielle n'ayant pas un encadrement suffisamment démocratique pour maintenir une autonomie de pensée ? Je vous écoute. Qui veut prendre la parole ?

La tentation de la surveillance de masse est forte pour un pouvoir incontestablement et déjà du point de vue du côté des États autoritaires, je ne parle pas des démocraties. Tu parles des États-Unis ? Alors, les États-Unis sont une démocratie malade mais, je veux dire, la Russie, la Chine, d'autres États ont mis en œuvre ces dernières années de façon très efficace de l'algorithmique pour renforcer leur pouvoir de façon forte.

D'une part, en attaquant à coups de cyberattaques massives et de propagande liées à être très efficaces pour la propagande les autres pays et vraiment, en avant, on attaque les hôpitaux, on attaque les institutions, on met le bazar les jours d'élection, on déstabilise à n'importe quelle échéance démocratique les autres, on met toutes sortes de narratifs et tout ça, ça, ils s'affairent. Et deuxièmement, en interne, pour vérifier, encadrer, surveiller. La Chine étant peut-être le pays qui a le plus mis les moyens sur ce genre de choses.

Maintenant, ce qui est dérangeant, c'est quand on voit à quel point, tout à l'heure, je parlais des États-Unis comme d'une démocratie malade, mais quand la tentation est arrivée de la surveillance numérique, ils sont allés à fond. Et à coup sûr, ce n'est pas les seuls qui auront cette tentation et on verra comment ils résisteront ou pas.

Tu crois au Père Noël ?

Le Père Noël existe. Quand j'ai travaillé sur les 400 ans de Blaise Pascal, il y a un moment où il y a une grande controverse sur l'existence du vide avec le Père Noël qui était un père religieux qui lui expliquait que ses expériences sur le vide, elle ne pouvaient pas marcher parce que comme Aristote l'avait démontré, le vide n'existait pas. Le Père Noël, en l'occurrence, se plantait. Celui-là, il existe. L'autre, je ne crois pas qu'il existe. Le petit bonhomme rouge et tout ça, Justine. Je ne suis pas futuriste et je refuse de l'être.

Mais par contre, les probabilités, ça te parle ?

Il y a un nombre innombrable, pour ainsi dire, de mauvaises avenirs, de mauvaises utilisations. Mais, vous pouvez m'appeler naïve et je le suis sûrement.

Non,

on ne fera pas ça.

D'accord, je le ferai moi-même. Je suis anti-régulation et pro-éducation. J'ai eu l'honneur de faire partie du Conseil national du numérique, un groupe de 15, à peu près 15 personnes de disciplines différentes, des sociologues, des philosophes, des prêtres. Et notre premier papier était, donc on a fait une série de white papers en français dans le texte. Et le premier était sur le numérique et les savoirs. Et on a clamé pour une éducation du numérique qui ne s'arrête pas, comme on voit aujourd'hui, comme des leçons de programmation, ce qui vraiment est triste.

Mais une éducation qui comprend l'économique, le sociologique, la sociologie, l'économie, l'anthropologie, l'éducation, la philosophie des technologies dans leur ensemble, pour que nous créions des générations qui réfléchissent avant d'avancer dans le mauvais sens.

C'était en quelle année, ça ?

C'était il y a deux ans.

C'est un échec.

Tu penses ?

C'est trop tôt. Trop tôt pour dire.

Oui, c'est trop tôt pour dire. Et puis, j'en ai beaucoup parlé avec...

Tu sais pourquoi je dis que c'est un échec ? Non, dis-moi. Parce que c'est beaucoup trop tard.

Ah, trop tard et trop tôt. Parce que je vois la Floride, aux Etats-Unis, où l'éducation tombe à l'eau. Enfin, ça me fait, en tant que prof, en tant que personne qui adore enseigner, ça me fait de la peine de voir des écoles en 2023 interdire les livres sur les stéréotypes du genre sur le racisme, sur les transgenres. C'est... J'ai physiquement mal. Et en France, ça ne fait pas longtemps que je suis là et dans cette courte période, je ne vois que des changements dans l'éducation nationale. Tous les quelques mois, plus de maths, moins de maths, plus d'art plastique, pas assez de temps pour les arts plastiques. Et ça aussi, ça me désole.

Donc, c'est trop tard, mais c'est surtout pas écouté parce que on essaie d'avancer un petit peu aveuglement en essayant de restreindre ce que connaissent nos élèves au lieu de leur ouvrir les yeux. Et je pense que c'est ça qu'il faut.

J'allais tout de suite... Attends. Tu suis un peu la Suède. La Suède, c'est un beau pays. Oui, c'est un beau pays. Ils viennent de remettre au goût du jour le fait de blasphémer un livre, ça devient interdit. Un livre religieux. Déchirer une page d'un livre religieux et devient interdit. Qu'est-ce que t'en penses ?

En fait, c'est le Danemark.

Pardon, Danemark. C'est aussi très joli. Oui. Je vous conseille d'ailleurs Christiania. J'ai été. Ah oui, ça ne m'étonne pas. Il faudrait qu'on y aille ensemble. Il y a des très bons mille-chèques. Il faut y aller au printemps. Comment tu veux que je sois sérieux ? Possible. Justine, quand tu vois le retour du blasphème, ça devient interdit. En tant que prof, qu'est-ce que t'en penses ?

Le problème, c'est la définition du blasphème.

Déchirer un livre religieux.

Oui. Je comprends l'intention. Je ne sais pas si vous avez suivi. mais aux Etats-Unis, il y a quelques jours, il y a trois ou quatre jours, les Républicains ont demandé au président de trois grandes facs, MIT, Harvard, l'Université de Pennsylvanie, voilà, de peine, de parler de ce qu'il interdisait. C'était un piège. C'était totalement un piège. et ces pauvres présidents d'université qui luttent pour savoir où est la liberté. C'est quand même

un piège simple à répondre.

Non, je ne pense pas que c'était simple à répondre. Non, je ne pense pas que c'était aussi simple comme la question de blasphémie n'est pas simple parce que...

Le fait de dire inciter au ravage du peuple juif, est-ce que ça viole votre code de conduite d'université ?

Elle n'a pas posé comme ça.

Elle a posé comment ?

Elle a dit est-ce que les actes contre les juifs, enfin, un truc très vague qui pourrait être compris comme appeler la mort de tous les juifs ou dire du mal du peuple juif ou dire du bien du peuple palestinien. C'était assez vague pour qu'on voyait lutter avec la question de ces présidentes, c'était trois femmes, et ne pas savoir comment répondre et je suis avec elles en fait. Je ne sais pas comment répondre non plus. Je ne sais pas comment définir la blasphémie parce que si on le définit la blasphémie aujourd'hui comme déchirant une page d'un livre religieux, là je veux bien. Ce n'est pas ça qui va changer.

Ce qui va changer c'est la définition de la blasphémie et ça, ça ouvre la porte à de mauvaises choses ou aussi cas de de bonnes actes.

Cédric, pendant que tu parles j'ai mon technicien qui va remettre un peu le micro de Justine mais ne t'inquiète pas tu peux continuer à parler avec moi.

D'abord je n'avais pas en tête ces déformations et je serais curieux de regarder exactement comment ça s'est passé. C'est quelque chose que j'ai vu de près qu'à certaines occasions j'ai vécu douloureusement quand on te pose une question tu fais une réponse et puis sur le tweet qui va on change un mot dans la question un mot dans la réponse et tout de suite ça devient quelque chose de grave choquant. C'est redoutable ce genre de choses. Très dur de voir comment contrer.

je voudrais dire des choses sur l'enseignement c'est vrai qu'on a tous les problèmes sur toutes les questions sur l'enseignement sur le secondaire sur le primaire toutes les questions sur la recherche et puis les annonces compliquées et anxiogènes du président Macron hier sur les questions universitaires et de recherche je vais dire quand même quelque chose de positif là-dedans après après mon après mon à la fin de mon mandat parlementaire je me suis remis à faire des cours à l'université qu'est-ce que ça a fait du bien à ma santé mentale avoir en face de soi des étudiants motivés faisant systématiquement plus que ce que je leur demandais intéressés à approfondir enfin s'il est vraiment d'avoir un projet qu'on puisse faire ensemble sans sans quelqu'un qui cherche à te piéger à te faire un croquant jambe ici et là ça faisait vraiment beaucoup de bien et des cours intéressants que j'ai voulu aussi en partie nourrir ou des cours mathématiques bien sûr mais ouverts sur des questions extérieures par exemple mathématiques des écosystèmes très important l'enseignement si je vais rebondir sur ce que disait Justine par rapport à l'éducation éducation c'est magique au sens où ça résout tellement tellement de choses y compris des questions de et ça c'est l'éducation des femmes dans le monde ce sont les meilleures politiques natalistes qui soient et ce genre de choses

la meilleure politique de contraception

absolument oui la meilleure politique nataliste au sens à la baisse ça que je voulais dire plus les bénéfices économiques

aussi

plus les bénéfices économiques dans le rapport du club de Rome celui qui a été fait 50 ans après le rapport historique Médose de 1972 dernier rapport du club de Rome en capacitation un powerment des femmes éducation des femmes c'est un des axes centraux du plan pour sauver le monde si je puis dire maintenant ce qui n'est pas quelque chose de léger de léger ce qui est un but respectable aussi oui alors le maintenant un les changements dans l'éducation ils sont d'habitude terriblement lents ça demande des efforts soutenus sur la durée parce qu'il s'agit d'agir sur la formation sur le recrutement des enseignants sur des pratiques culturelles deux en France on a un problème majeur notre problème numéro un dans l'éducation c'est le fait c'est le statut de nos enseignants statut avec l'argent tout simplement d'une part statut matériel de la société d'autre part par l'image que c'est rendu et de ne pas se faire marcher dessus par la hiérarchie par les parents d'élèves par qui c'est quoi très important les comparaisons internationales montrent que les systèmes qui marchent le mieux c'est avant tout les systèmes dans lesquels les enseignants sont le plus respectés valorisés par la société à la fin en termes de salaire et en termes de respect et puis c'est aussi des systèmes dans lesquels il y a une synergie entre la sphère parentale et la sphère de l'enseignement donc c'est un problème de ressources humaines avant tout plus que la question de combien d'heures de ceci combien d'heures de cela et quand on arrive à voir les bonnes conditions et les enseignants qui sont fiers motivés sont prêts à faire des choses parfois bluffantes y compris sur les questions numériques quand ChatGPT est arrivé on se disait comment faire de l'éducation autant de ChatGPT on ne saura plus distinguer le vrai du faux etc il y a des profs qui ont trouvé comment utiliser ChatGPT pour nouvelles activités voici un exemple qui m'avait fasciné pour un prof je ne sais plus si c'était fin de primaire ou début de collège mais en tout cas pour des petits distribuer des cartes postales aux gamins on les met face à un prompt de dali ou un truc équivalent qui t'égénère des images pour ceux qui ne savent pas un petit dialogue qui s'engage avec un petit signe souvent un signe supérieur qui dit c'est à toi de parler et tu mets ta commande dessus pour dialoguer avec l'algorithme et donc dans ces programmes de type dali tu indiques ce que tu veux voir tu le mets en français je veux voir Sky avec des oreilles de lapin sur la tête ou quelque chose comme ça et puis Christiania

c'était fort quand même

bien sûr bien sûr bien sûr

il ne faut pas qu'on prend qui sait ce qu'on pourra faire ensemble

avec on va avoir ça en tout cas le but de l'action en classe c'est que les gamins ils doivent trouver le bon prompt les bonnes instructions qui permettent à Wally de reproduire aussi fidèlement que possible la carte postale qu'ils ont en face où tu vois que l'enjeu c'est d'arriver à déterminer ce qui dans l'image est important ou pas faire un bon travail de description analytique mais aussi avoir les bons mots de vocabulaire pour décrire ce que tu vois si c'est un château tu vas parler du pont-levis tu vas parler des douves tu vas parler des des meurtrières des meurtrières ou qui sait quoi des créneaux des créneaux le donjon je ne sais pas et tout ça ça participe à leur permettre aussi alors on peut imaginer que le prof se déplace mais les élèves peuvent bosser sur le chemin de ronde tu aimes bien filer la métaphore et il fait une évaluation de ces fidèles troupes que sont les élèves mais en tout cas c'est une façon d'utiliser ce type d'intelligence artificielle générative on verra après on parlera un peu plus en détail de quel type d'IA pour aider les élèves à développer leur vocabulaire leur capacité d'analyse bref des qualités humaines on est dans un exemple d'outil convivial comme disait Ivan Illich un outil qui te permet de développer tes capacités humaines et c'est un excellent exemple chat GPT et l'éducation parce que exactement le parcours dont on parlait tout à l'heure c'est-à-dire une peur bleue que ça allait nous détruire une journaliste d'un journal très connu du magazine non aux Etats-Unis peut-être le plus lu aux Etats-Unis m'a contacté et elle a dit dans son mail est-ce que le chat GPT ne va pas détruire l'enfance j'adore quand les journalistes savent déjà la morale de l'histoire

c'est souvent comme ça

oui c'est pas mal souvent comme ça

comme Wikipédia ils aiment bien

et j'ai dit non et elle a dit si chat GPT ça va détruire l'éducation et détruire l'enfance ça va dire on se demande pourquoi elle t'interviewe si elle a l'éducation et bien en fait elle n'a utilisé qu'un petit bout de phrase de ma part parce qu'elle n'aimait vraiment pas je lui ai écrit deux pages elle a dit c'est dangereux parce que chat GPT pourrait dire je t'aime aux enfants et les enfants vont confondre chat GPT avec une vraie personne donc j'ai fait un peu de recherche j'ai trouvé dix poupées les plus aimées des parents américains qui disent je t'aime aux enfants et qui sont le plus achetés par des parents américains je lui ai fait remarquer qu'aucun enfant n'a confondu une poupée avec une vraie personne enfin s'il y a peut-être des enfants à troubles enfin les transferts oui voilà mais les enfants typiques comme on dit n'ont jamais fait cette confusion les enfants neurotypiques je disais plutôt typiques pour comprendre toutes sortes de typicités les enfants neurotypiques aussi enfin comme exemple type et la peur qui a accompagné chat GPT dans le monde de l'éducation était incroyable enfin vraiment on ne voyait que ça et il a fallu moins d'un mois pour que commence à sortir des histoires de créativité extraordinaire des élèves face à chat GPT grâce à des enseignants qui avaient la liberté d'inventer des cours qui utilisaient chat GPT à des fins de créativité et de collaboration parce que lorsqu'un enfant collabore avec la technologie lorsqu'un élève est partenaire avec la technologie il n'y a pas de limite à ce qu'il peut faire C'est très bien tout à l'heure je parlais des conditions de succès des systèmes éducatifs quelque chose d'autre qu'on voit dans les évaluations internationales c'est que dans les systèmes qui réussissent bien souvent c'est important qu'il y ait une marge pour les enseignants qu'ils ne soient pas trop dirigés et qu'ils puissent utiliser cette marge pour se faire leur propre corpus leurs propres exercices et ainsi de suite et c'est là que sont arrivés les meilleurs exemples l'exemple que je viens de donner avec carte postale je n'aurais jamais pensé et c'est normal quand tu as le nombre de potentiels utilisateurs qui est quelqu'un qui a une bonne idée quelque part la puissance du nombre l'éducation nationale traditionnellement est fort mauvaise pour les expérimentations elle demande des formulaires a priori et tout ça et c'est important d'avoir un espace d'autonomie de prise de décision pour l'enseignant

on reviendra sur le côté enseignement et intelligence artificielle un peu plus tard dans notre émission je voudrais qu'on aborde le côté intelligence artificielle stabilité des marchés lecture des marchés et tout ce qui va avec spéculation financière en termes prédictifs est-ce que vous avez qu'est-ce que vous avez lu vu entendu mille doigts dedans est-ce que ça vous fait peur c'est bien en termes de guerre économique ça va nous aider ça va pas nous aider est-ce que ça va nous mettre une laisse

on verra le secteur financier depuis longtemps on a guerre de surmoi guerre de limites pour expérimenter les algorithmes les plus incroyables possibles l'un des parmi les livres les plus marquants que j'ai jamais vu sur les questions technologiques sont les ouvrages d'Alexandre Lomounier sur la finance algorithmique trading haute fréquence comme on dit parfois hyper frequency trading absolument les ouvrages de Lomounier avec des titres étranges le premier s'appelle 6 le deuxième s'appelle 5 le troisième s'appelle 4 bon je crois qu'il n'y en a fait que 3 sur ce thème et on voit cette espèce de monde où il y a des tas d'algorithmes incompréhensibles qui s'affrontent à l'échelle de la milliseconde ou même de la microseconde les milliards qui apparaissent qui disparaissent cet événement qui était un cas d'école en 2010 quelque part le flash crack de mai 2010 où d'un coup en quelques minutes genre combien quelque chose comme 1000 milliards ont disparu puis sont réapparus peu à peu un truc de fou et là dessus Jim Simons un des très très grands noms et un bon mathématicien un des très grands noms de la finance algorithmique avec son fonds Renaissance une vedette qui passe à la télévision et qui dit le système est stable c'est bien la preuve tout marche bien quand on voit les milliards qui disparaissent à foison comme ça et puis qui réapparaissent je ne trouve pas ça spécialement rassurant en termes de stabilité bon et et et quand on voit aussi le la j'ai des j'ai des collègues je me souviens de comment il s'appelait mon collègue Ramacompte mathématicien qui est qui lui bosse à l'université par ici c'est un moment il faisait partie des gens qui essayaient de comprendre vraiment ce qui s'était passé pendant le le flash crack et de de modéliser ça mathématiquement comprendre quelles sont les lois est-ce qu'on aurait pu prédire ce qui s'est passé etc pas facile pas facile grande opacité qu'il y a là-dedans alors maintenant ça ça se faisait avant que ce soit la grande époque de l'intelligence artificielle maintenant comme je voudrais insister là-dessus il n'y a pas de bonne définition de l'intelligence artificielle et tout algorithme un temps un peu sophistiqué on peut l'appeler intelligence artificielle c'est dommage enfin c'est dommage c'est comme ça d'utiliser le nom intelligence artificielle pour tout ce qui est en fait machine learning c'est ça de toute façon comme ce n'est pas de l'intelligence on a un truc qui remplit de confusion dans tout ça et en tout cas le et en tout cas on a là un domaine dans lequel les algorithmes s'en sont donnés à coeur joie depuis des décennies depuis longtemps bien plus longtemps que l'époque il y a de nos jours oui oui oui tout à fait et j'ai été directrice d'un département d'interaction humain machine et les banques les grandes banques les grands groupes financiers venaient vers moi pour me demander nos meilleurs étudiants pour créer des systèmes compréhensibles des banquiers qui utilisaient les algorithmes et ça ça m'intéressait parce que les banquiers les jeunes qui travaillent en finance ne savent pas forcément ce qu'ils font ça aussi c'est intéressant et donc on avait besoin d'experts en interaction humain machine pour leur créer des des comment dire comment est-ce qu'on appelle ça en français c'est en anglais

je vais traduire

ouais non plus je trouve pas quand je trouve pas en français ça me bloque l'anglais aussi malheureusement des interfaces oui des interfaces des espèces d'interfaces qui permettent aux gens de savoir ce qu'ils font parce que haute fréquence c'est vraiment haute fréquence et ça peut disparaître réapparaître sans qu'ils puissent refaire ce qu'ils viennent de faire

ils t'ont proposé de l'argent pour ça

alors j'étais dans un bus à la plus grande conférence d'interaction humain machine ça s'appelle CAI et j'étais dans le bus qui nous amenait de l'hôtel au centre de congrès et une femme s'est penchée vers moi et elle a dit vous voulez quoi pour vos meilleurs étudiants tout ce que je veux c'est une semaine d'avance bon je n'ai pas accepté mais j'ai trouvé ça intéressant et aujourd'hui sa carte non pourquoi tu veux investir dans sa boîte

non je ne veux pas investir dans sa boîte je veux savoir pour qui réellement elle travaille

ah ouais je ne rappelle plus qu'elle meryl lynch peut-être mais aujourd'hui je vois que les grandes banques les grands groupes financiers ont de grands groupes d'experts en apprentissage automatique et qui font des avances que personne d'autre ne fait des avances que qui avancent les finances mais qui avancent plein d'autres choses aussi je vois des gens qui quittent l'académie qui quittent la fac pour aller travailler dans des boîtes pour gérer d'énormes groupes de chercheurs en machine learning en apprentissage automatique et au niveau technique là où il n'y a pas si longtemps les formations les plus cotées célèbres en mathématiques financières étaient basées sur du calcul stochastique des formules de Black Scholes des questions de probabilité qui remontent à des notions de Martin Gall des questions qui remontent même à Blaise Pascal en tout cas basées sur des modèles probabilistes les derniers et des modèles probabilistes explicatifs en quelque sorte il y a une décennie ou quelque chose comme ça 10 ou 15 ans ça a été remplacé dans bien des cas par des formations et des techniques basées beaucoup plus sur l'apprentissage on se fiche de savoir quel est le modèle sous-jacent mais tout est basé sur analyse de analyse de ce qui veut dire boîte noire par définition ce qui est fascinant c'est de voir qu'il y a très peu de temps genre il y a quelques jours ou une ou deux semaines DeepMind a annoncé que sur le plan de la météorologie ils avaient des calculs qui est d'événements rares qui étaient plus précis plus fiables que ceux qui sont développés par les grands codes de calculs météorologiques

explique DeepMind pourquoi c'est alors

DeepMind c'est la boîte fondée par Demis Hassabis grande belle boîte d'intelligence artificielle qui est devenue mondialement célèbre avec AlphaGo et son algorithme qui a battu à plate couture les meilleurs joueurs de Go de l'époque DeepMind est venu maintenant dans le giron de Google petite parenthèse DeepMind était britannique au départ de temps en temps je me dis s'il y avait plus de cohésion politique en Europe et si ici la Grande-Bretagne si ça se trouve elle battrait pavillon européen maintenant la face géopolitique de l'IA en serait complètement changé bon et en tout cas le DeepMind aujourd'hui c'est le bras armé de Google c'est eux qui viennent de sortir Gemini Gemini comme tu veux l'appeler l'IA qui affichait des résultats très impressionnants tout récemment pour concurrencer ChatGPT c'est eux avant qui avaient annoncé des résultats très forts sur la prédiction des formes d'une protéine à partir de sa structure et un certain nombre de réalisations impressionnantes comme ça d'IA appliquées à différents sujets et DeepMind donc il y a quelques jours montre qu'un sujet qui semblait un vrai sujet d'équations avec des modèles sous-jacents des équations de mécanique des fluides comme utilisent les gens du GIEC avec des équations de Navier-Stokes des équations qui parlent de température de pression de vitesse du fluide et un système déterministe qu'on simule eux en boîte noire en le faisant un apprentissage automatique ils arrivaient à faire des prédictions à l'échelle de 10 jours par exemple connaissant l'état du monde météorologique à un moment donné qu'est-ce qui va se passer dans 10 jours et à prédire des événements singuliers avec une précision c'est paru dans Science of Nature il y a très peu de temps donc qui était supérieure à ce que donnaient les modèles établis mondialement en matière de météo c'est quelque chose qui va s'avérer un grand défi par rapport à la question de la prédiction

t'es pas fait venir pour pousser un caddie quand même quoi que c'est très intéressant de pousser un caddie on apprend plein de trucs dans les supermarchés surtout comment ils te tracent comment ils te repèrent ensuite comment ils t'envoient de la pub par exemple si tu restes longtemps devant un rayon quel type de pub tu vas avoir si ça a déclenché un geste d'achat pas de geste d'achat si tu mets ta main dans le rayon pas ta main dans le rayon

c'est bon tu veux dire la caméra analyse

ah bah oui c'est malin qu'est-ce qu'on fait avec ça quand on voit notre population monitorer et qu'on voit l'information retraité pour vendre provoquer des actes d'achat est-ce qu'on pourrait pas provoquer des actes éducatifs d'amour d'empathie est-ce qu'on peut avoir des scientifiques qui expliquent que la logique marchande ça va un temps

je pense qu'il y a deux choses mélangées dans ce que tu viens de dire l'une c'est comment vendre en regardant les actes des personnes et en les observant et peut-être en les formant en les poussant d'un côté à l'autre et l'autre c'est ce qu'on appelle le nudge c'est-à-dire

Macron il aime beaucoup ça

ah oui

ah oui c'est son kiff

ah d'accord ok

avec le Covid c'était extraordinaire il a reçu des bons conseils de certains cabinets de conseils qui finissent et il nudge beaucoup je te laisse expliquer à notre communauté ceux qui ne connaissent pas le nudging

alors le nudging le nudge c'est un terme je pense que ça a été utilisé pour la première fois par un chercheur britannique qui a découvert qu'en disant bonjour 90% de vos voisins ont envoyé leurs impôts est-ce que vous allez envoyer le vôtre donc c'était le premier ou un des premiers exemples et ça marchait ou est-ce que ça vous intéresse de savoir que avec peu d'argent vous pouvez atteindre le même niveau de vie que les personnes avec qui vous travaillez enfin bon c'est nudger c'est pousser les gens vers de bonnes actes en leur comparant à leur père enfin c'est ça la définition technique je pense si je ne me trompe pas et ça avait été inventé pour aider le gouvernement à changer les habitudes ça a été utilisé avec beaucoup de succès pour aider les gens à arrêter de fumer par exemple très réussi mais évidemment ça soulève des craintes que ça peut nous faire faire des choses qu'on n'a pas envie de faire

comme quoi ?

bah comme acheter un million d'euros de patates douces lorsque on ne gagne pas un million d'euros dans sa vie

ou acheter une voiture très chère à crédit

voilà

c'est ça ? ouais mais tu sais comment on peut détourner ça c'est très très vieux le nudging tu connais la blague comment tu fais dire rouge et marteau à quelqu'un tu fais 3 times 7 21 tu lui fais répéter répéter répéter donc tu lui actives son mode défensif et tu lui dis donne moi donne moi un outil et le premier truc qu'il te répète c'est un marteau parce qu'il veut te taper dessus et tu lui dis donne moi une couleur et la première chose qu'il voit c'est du rouge

d'accord

tu ne connaissais pas cette blague ? non je ne connaissais pas

et j'avais qu'est-ce qu'on va dire dans à un moment j'avais pas mal potassé les bouquins des gens des biais cognitifs je veux dire Dan Kahneman Olivier Siboni Cass Sunstein et quelques autres qui ont travaillé sur toutes ces experts j'en avais vu une qui m'avait fait halluciner qu'ils appelaient l'effet floride florida effect puisqu'on parlait de la floride tout à l'heure peut-être floride associée dans l'imaginaire américain à quelque chose d'âgé l'endroit où on va prendre sa retraite

c'est vrai

pas du tout moi je pense

à la bouffe

mais tu penses à la bouffe quoi qu'on dise de Christiania jusqu'à Floride toujours en tout cas dans cette expérience on prend deux groupes deux groupes de personnes de volontaires et on les fait travailler sur une activité avec des mots à manipuler et l'un des groupes manipule des mots qui sont d'un peu tous les registres l'autre groupe manipule des mots qui sont tous dans le registre de la vieillesse alors par exemple on parle de floride de canne de maison de qui sait quoi plein de mots qui évoquent indirectement le troisième âge il essaie de nous déconcentrer de nous énerver mais on ne tombe pas dans son piège on reste serein

toi tu as l'habitude je t'ai fait un von Klauswitz la dernière fois tu ne l'as pas vu venir

je m'en souviens encore de ton von Klauswitz c'est le moment de t'envoyer une grosse charge en plein concentré sur toi et alors en tout cas après une fois que tu as les deux groupes tu leur dis on va aller maintenant faire une autre expérience et on va passer dans notre salle pour ça ils ne le savent pas mais en fait on s'en fout de l'expérience qu'on va leur donner après ce qui compte c'est le temps qu'ils vont mettre à traverser le couloir et on voit que le groupe qui a travaillé sur les mots floride et tout est significativement plus lent à traverser le couloir que le premier groupe il est influencé dans sa démarche il va d'un ton plus lent un ton pas de sénateur vers l'autre pièce moi j'appellerais ça plutôt stereotype threat non c'est pas la menace du stéréotype la menace du stéréotype enfin je pense que ça s'appelle comme ça en français stereotype threat c'est le fait que lorsqu'on a deux groupes deux groupes de filles qui travaillent sur des problèmes en maths et à l'un des groupes on dit ne t'inquiète pas malgré le fait que tu es fille tu vas pouvoir faire ça et à l'autre groupe on dit simplement voilà des questions en maths pour moi les deux phénomènes sont différents parce que là tu leur dis ce qu'ils vont faire tandis que dans l'autre tu ne leur dis pas tu leur fais manipuler des mots sans leur dire de quoi il s'agit et quel est le c'est très intéressant justement tu leur dis

tu brides directement

oui alors merci et je vais je vais enrichir encore il y a une autre variante du problème que dit Justine qui est encore plus intéressante qui est bien connue sur les questions d'éducation mathématique un certain problème il y a certains problèmes de géométrie assez visuel dans une classe tu leur dis voilà on va faire un problème de mathématiques en avant dans l'autre classe tu leur dis on va faire un problème artistique le même problème et tu vas voir que dans la classe on leur dit c'est artistique les filles vont mieux réussir que dans la classe où on dit c'est un problème mathématique si en plus et là on se rapproche encore de ce que dit Justine le prof a pris soin de rappeler c'est dommage les filles sont moins douées que les garçons en maths on sait ça c'est une grosse connerie mais si tu dis ça ça va être auto-réalisateur ça change c'est Claude Steele un psychologue qui a découvert cet effet et qui a démontré des centaines de variations par exemple si on a un groupe de filles asiatiques souches asiatiques et on leur dit d'origine ne vous inquiétez pas vous êtes filles mais vous allez réussir à ce problème de maths elles réussissent moins bien si on leur dit vous êtes asiatiques vous allez trouver ces problèmes faciles elles apprennent plus

quand je vous entends parler t'as fini Justine ou pas ? oui vas-y quand je vous entends parler de mon petit siège j'ai l'impression que vous m'expliquez la guerre cognitive pour les nuls alors je trouve ça très sympa parce que bon je suis sûr que dans notre t'inquiète j'arrive donc je trouve ça très sympa parce que vous êtes très très pédagogue et très pédagogique avec la partie de notre communauté infime qui ne connait pas ce type de sujet on va essayer de monter un peu le niveau

ah on est à bas niveau ouais bon d'accord

et donc je suis désolé de vous le dire mais quand je vous entends parler sur des questions de propagande sur les questions de ce qui est maintenant appelé so cool guerre cognitive je voudrais qu'on repasse parce que c'est une forme de guerre cognitive que vous m'êtes inconsciente

ça dépend si guerre est toujours négative ou pas

pas mal quand un prof bride 50% de sa classe féminine en disant bon comprenez les filles c'est un peu toujours teubé en maths donc on va vous donner un tiers temps tout de suite c'est un hack c'est un hack de leur tête peut-être inconscient à cause de la misanderie du prof ou de son passif élargissons ça à l'échelle étatique

à l'échelle quoi

étatique

étatique d'accord

en termes par exemple on voit le tiktok des chinois beaucoup plus intellectuel avec des choses pour mieux fonctionner des cours d'histoire des cours de maths et nous notre tiktok c'est la lit de l'humanité non je dirais pas ça c'est plus abrutissant chronophage très je dirais ça active des zones du cerveau qui doivent être je pense sensiblement les mêmes que les aires du cerveau sensibles à la cocaïne donc en termes de guerre cognitive cette nouvelle forme de propagande sous stéroïde grâce aux réseaux sociaux grâce à l'intelligence artificielle quand on détourne ça qu'est-ce que ça peut générer à l'échelle nationale sur une population ça peut la démoraliser ça peut l'empêcher de résoudre des problèmes ça peut l'empêcher de se concentrer sur son futur son approche des relations je ne suis pas d'accord

avec la prémisse

alors reformule moi

la prémisse c'est que en chine tiktok est intellectuelle et chez nous tiktok te rend bête

je ne sais pas dire en bête te rend dépendant

bah tu t'as quand même dit plutôt bête enfin t'as pas utilisé ce mot t'as utilisé quel mot t'as dit t'implique dans des trucs pas intéressants chronophage voilà et ça c'est pas forcément de dépendance c'est c'est des choses enfin je pense est-ce que l'intellect peut être chronophage est-ce que les cours de maths peuvent être chronophage je pense que si

ça dépend si tu aimes ou pas

voilà exactement donc je pense que la comparaison que tu fais entre tiktok en deux pays c'est pas ça que tu voulais dire

j'aime fumer c'est pas bon pour moi mais la nicotine active des centres de mon cerveau qui me rendent dépendant

on n'est pas convaincu enfin pas toutes les études montrent que tiktok et autres activent les centres du cerveau qui nous amènent du plaisir enfin plus qu'autre chose plus que le chocolat par exemple je suis pas convaincue que qu'on peut prendre tout ça comme données pour se demander où ça nous mène je suis enfin tu t'es peut-être plus il y a une pour moi une dépendance qui se fait au shot d'information quel que soit le type que ça prend le type d'information mais ça c'est quelque chose et en plus quand on est dans certaines situations exposées politiques on le ressent on le ressent durement je voudrais insister sur le fait que ces manipulations de certaines idéologies par des algorithmes elles sont déjà à l'oeuvre bien sûr dans certains cas ce sont des gouvernements qui les font exemple la propagande russe anti-française en Afrique ou ailleurs elle se fait à tous les niveaux y compris sur les réseaux et elle se fait très bien hélas parmi d'autres parmi d'autres parmi plein d'autres actions

oui

parmi d'autres propagandes oui voilà

exactement

il y a plein de propagandes mais tu as aussi par exemple la propagande des lobbyistes pour les énergies fossiles à travers le monde ou les propagandes de tous les intérêts qui sont contre

je te rassure il y a des lobbyistes aussi dans les énergies renouvelables

oui mais pour l'instant il y a une différence de puissance qui est très fortement à l'avantage des énergies fossiles très fortement bon et eux aussi savent très bien ils ont des bons algorithmiens et tu as un énorme des budgets qui se suivent pour tout ça en milliards à travers le monde et par exemple une tendance très claire sur les réseaux à la montée du climato-dénialisme ou climato-scepticisme comme tu veux qui est quantifié mesuré notre collègue David Chavalarias de l'Institut des systèmes complexes qui a écrit l'excellent bouquin Toxic Data pour analyser la façon dont les algorithmes participent au renforcement des convictions à la polarisation des opinions sur les débats et ainsi de suite à montrer comment l'action algorithmique avec des intérêts et des lobbies identifiables agissant très systématiquement sur le web est en train de gagner sur certains de ces secteurs et un autre livre que je suis sûre que tu aimes autant que moi c'est Weapons of Math Destruction qui démontre la même chose c'est un livre formidable Weapons of Math Destruction Perfect Accents Oui n'est-ce pas ?

Je l'aime tellement que c'est moi qui ai fait la préface de la version française Ah c'est vrai ? Oh oui ça ne m'étonne pas Oui Oui oui Revenons à l'intérêt Et en français pardon et en français c'est algorithme la bombe à retardement le titre qui a été choisi parce que le jeu de mots sur masse et mathématiques était intraduisible

Oui En termes de propagande étatique et de guerre cognitive sur nos propres populations sur la population européenne comment on fait pour rendre notre population plus résiliente plus endurcie face à des intelligences artificielles pilotées par des états belliqueux qui mettraient à mal notre population

Je vais donner un exemple de l'histoire Dans les années 60 une mère de famille a remarqué qu'après avoir regardé la télévision ses enfants reclamaient toujours des céréales sucrées

La pub

Oui Elle a regardé ce qu'ils regardaient et elle s'est rendue compte que les seules pubs pendant les périodes où les enfants regardaient la télé après l'école c'était des pubs pour des nourritures sucrées mal pour mauvaise pour leur santé addictif et qu'est-ce qu'elle a fait ?

Elle est allée devant le gouvernement américain plusieurs fois elle a fait des miracles et elle a réussi que le gouvernement attribue une part de son budget vers la télévision publique et c'est ça qui est née la télévision publique pour enfants aux Etats-Unis Donc encore une fois l'histoire nous apprend que rien de tout ça est nouveau que rendre addict notre population et bien c'est un vieux jeu et on a des moyens de gagner encore une fois avec l'éducation L'histoire est jolie oui mais premièrement elle aurait été encore plus belle si le gouvernement avait choisi d'interdire les publicités pour les aliments sucrés pendant le temps d'émission des enfants je pense qu'il en fait et ensuite la courbe de poids de nos amis américains ne s'est pas statistiquement vraiment arrangée depuis

la population française c'est pareil

oui alors ce que je vais te dire la rue de sésame ça s'appelle comme ça en français non la rue de sésame l'émission de télévision oui mais c'est cette émission avec Casimir oui voilà exactement pourquoi tu nous parles de ça parce que John Ganz Cooney donc la femme qui est allée devant le gouvernement américain c'est elle qui a lancé cette émission et cette émission a été inventée pour donner un alternatif aux émissions aussi sucré que leur pub c'est bon ça c'est beau non alors c'est à street c'est sésame street c'est la rue sésame rue sésame comme les graines de sésame j'insiste sur la question américaine moi ça m'est marqué j'ai été ça m'était arrivé à trois reprises d'être prof invité pour un semestre aux Etats-Unis et ça m'était arrivé d'y être avec des jeunes enfants et là

quelle université ?

j'ai enseigné à Georgia Tech à Atlanta c'était la première fois que je partais à l'étranger et c'était important pour moi j'avais un cours de master et Atlanta comme premier endroit où on arrive c'est quelque chose c'est quelque chose qui est en train de monter beaucoup sur les plans sur les questions culturelles etc et avec une bonne articulation entre théorique et application très intéressant je précise tout de suite que malgré tout ce que j'ai pu dire contre les Etats-Unis et le gouvernement américain par rapport à Julian Assange les Etats-Unis ont joué un rôle majeur dans ma carrière scientifique il y a eu Atlanta qui a été très important dans ma carrière des bons contacts des bonnes personnes un bouquin qui est sorti de là qui a été important pour la suite puis ça a été à Berkeley puis ça a été à Princeton à chaque fois six mois tous les cinq ans en gros et à chaque fois ça a été des éléments majeurs j'aurais jamais pas de médaille Phil sans ses séjours dans l'université américaine ça me rend d'autant plus à l'aise pour critiquer les Etats-Unis qu'il y a une part d'Amérique dans mes veines oui tout à fait alors oui je finis et donc ça nous avait complètement bluffé ma femme et moi quand on se rencontre à un moment tu sais alors le pédiatre avec notre petit gamin et tout ça qui est né en France et tout ça qui est aux Etats-Unis et qu'on voit que les courbes de poids tu sais et les courbes de poids c'est pas les mêmes aux Etats-Unis et en France la courbe de poids du gamin de zéro à trois ans ou je sais pas quoi ma petite elle devait avoir un an à l'époque puisqu'elle a à peu près elle a fait ses premiers pas aux Etats-Unis et ça nous a juste juste bluffé de voir que dès la naissance le poids attendu du petit bébé américain c'est pas le même que le poids attendu du petit bébé français je veux dire il y a un système qui est structurellement sucré du début à la fin oui oui oui tout à fait on sait que le lait qu'on vend en Afrique aussi bien qu'en France aujourd'hui et aux Etats-Unis même le lait à un certain moment était sucré enfin donc c'est pas étonnant

donc question internet qui va rebondir sur nos petites histoires les questions voire les législations sur les intelligences artificielles sont-elles réellement sous-estimées ou sous-financées dans l'Union Européenne et en France est-ce qu'on les encadre on parlait d'encadrer les pubs à la télé pour éviter le hacking le hack sur les cerveaux des gamins pour réclamer de la bouffe est-ce que nous on a à l'échelle européenne à l'échelle du pays à l'échelle mondiale une réglementation qui dit bon il y a des trucs qu'il ne faut pas faire genre on évite de développer une intelligence artificielle qui pourrait avoir tel type d'impact ou on évite de faire travailler une intelligence artificielle sur la création de virus informatiques ou de virus tout court ou d'armes biologiques ou de choses comme ça

excuse-moi mais bon est-ce qu'il y a des traités d'armement il y a plus qui se fait ici qu'aux Etats-Unis tu veux dire dans les labos qui se trouvent sur ce sol ici non je veux dire RGPD ah bien sûr alors premièrement l'acte IA premièrement sans contestation l'Europe est de loin le continent le plus régulé en matière d'IA c'est le RGPD c'est le ADSA le DMA le AI Act peut-être d'autres

et les acronymes de tout ça ça veut dire quoi je ne sais plus

RGPD c'est le règlement général de protection des données GDPR en anglais le DSADMH je ne sais plus ce que ça veut dire Digital Service Act quelque chose comme ça bon et maintenant un dans un sujet le sujet de l'intelligence artificielle premièrement il n'y a pas de définition claire de ce que c'est qu'il y a deuxièmement c'est un sujet qui est très pragmatique et expérimental il est normal que la législation ou la réglementation soit pragmatique aussi c'est à dire qu'il faudrait accepter dans certains cas de revenir en arrière pour donner juste un exemple que j'ai vu durement quand j'ai travaillé sur le rapport IA et que je revois depuis le secteur des données de santé est un secteur surrégulé je veux dire par là que la régulation est tellement forte que les expériences

les expériences est-ce que avec de l'IA on peut sélectionner un embryon

non c'est pas ça la santé en général est surrégulée en France parce qu'il y a eu le scandale du sang contaminé parce qu'il y a eu avant le fichage ethnique dans les années 40 et c'est resté dans les mémoires et dans les réglementations et parce que la médecine est payée par le gouvernement ce qui permet beaucoup plus de régulation qu'aux Etats-Unis où on le paye soi-même donc c'est difficile à réguler mais les médecins ils sont aujourd'hui très critiques ils disent que c'est devenu impossible de monter les expériences en France parce que administrativement tu t'en sors pas la quantité de contrôle est considérable et ils externalisent leurs expériences tu sais que si tu veux aujourd'hui comme les gains de fonction

avec le Covid

ah bah ça avait fait tout un évidemment les cathédrales comme j'ai entendu une experte en droit en droit de la santé dire la cathédrale administrative que représente la mise en place d'un bon essai en France est décourageante dans bien des cas moi j'essaie de lancer une étude dans des écoles je sais pas si je vais arriver parce que la régulation veut que je vais jamais me voir face à face à des enfants avec des études que je pense être positives pour leur santé et la santé de leurs enfants parce que il y a une telle régulation médecine éducation il y a mais moi je m'inspire beaucoup de ce que dit un de mes collègues à Carnegie Mellon Tom Mitchell alors Tom Mitchell a écrit le livre qui s'appelle machine learning le livre il a fondé le premier département de machine learning dans le monde c'est quelqu'un qui travaille dessus depuis 40 ans et lui il fait remarquer que ça n'a pas de sens de réguler l'IA complètement je suis complètement d'accord ça ne veut rien dire si on veut réguler il faut réguler les utilisations totalement d'accord voilà et non pas par exemple oui non mais totalement d'accord par exemple interdire la pub pour l'SUV revendication de longue date des écologistes interdire la pub pour tout ce qui a une forte empreinte carbone etc quel que soit le mode de pub que ça soit fait avec de l'IA ou aux doigts mouillés ou avec n'importe quelle technique et tout ça c'est la finalité que tu dois juguler et réguler

est-ce qu'il y a une régulation de l'utilisation de l'intelligence artificielle sur la production de virus à caractère militaire est-ce qu'il y a une régulation sur l'intelligence artificielle in fine le résultat serait de développer une arme avec une technologie CRISP pour aller cibler X ou Y corps ethnique

la phrase que tu viens de dire c'était quelque chose du genre est-ce qu'il y a une régulation pour une technologie qui aurait comme fin de et bien c'est loin de la technologie elle-même c'est loin de l'utilisation donc encore une fois utilisation mais au niveau de l'utilisation et non pas de ce qui pourrait être utilisé tu sais il y a des gens qui disent des experts en apprentissage automatique en machine learning qui jouent la provoque en disant dès qu'on écrit une moyenne on peut appeler ça l'intelligence artificielle tellement la définition est floue bah oui la probabilité c'est l'apprentissage automatique alors je voudrais maintenant rebondir sur un autre truc qu'a dit qu'a dit Justine à parler de Carnegie Mellon qui est un exemple étudié et célèbre d'établissement dans lequel une action féministe a eu lieu avec succès sur les questions des femmes dans la tech oui c'est vrai c'est formidable et il y a l'exemple de Carnegie Mellon il y a un autre exemple en Norvège NTNU je crois qui s'appelle quelque chose comme ça dans lesquels avec une action résolue et le principal obstacle c'est de pouvoir le faire le pourcentage de femmes travaillant à des postes clés en algorithmique formées dans ces écoles et passées de genre 15% à genre 40% aujourd'hui les femmes sont très sous-représentées dans l'algorithmique et de moins en moins ce qui est dingue il y avait plus de proportionnellement plus de femmes programmeuses en France dans les années 80 qu'aujourd'hui parce qu'on est dans des époques de clichés qui augmentent et l'époque du numérique augmente aussi les clichés globalement on pense que c'est ça on n'arrive pas trop à savoir parce que chaque fois qu'on essaie quelque chose ça ne marche pas et donc on a beau se dire que c'est à cause des clichés c'est certainement en partie à cause des clichés il y a cinq ans quand on bossait sur le rapport d'abord c'est l'un des sujets sur lesquels rien n'a été fait en France depuis l'époque c'était l'une des recommandations majeures dans le rapport que j'ai rendu en 2018 il ne s'est rien passé dessus depuis et je suis dans un certain nombre de projets je conseille le projet de Haute-de-Thuin qui s'appelle Systémique qui vise très précisément à faire du buzz et du rafu autour de cette question avec des colloques etc et à l'époque tu dis la propagande pour dire les femmes c'est très important pour plein de raisons pour des questions d'ambiance de travail pour des questions d'éviter les biais pour des questions d'image du rôle ambiance de travail aussi bien sûr une ambiance les équipes qui sont de façon très prépondérante masculine c'est pas le même genre la culture bro la culture bro comme on l'appelle ouais voilà comment c'était Brotopia il y avait ce livre qui était sorti à une époque pour parler de comment c'était la culture machiste dans le monde de la tech de la Silicon Valley tout ça et ça ce sont des choses qui à la fin sont délétères avec aussi des répercussions mauvaises sur la productivité mais aussi du mal-être

alors tu me lances vas-y continue

et alors pour terminer dans ces domaines là en 2018 on avait cité dans le rapport une expérience un exemple qui avait fait grand bruit quand on s'est sorti ça va être en 2017 quelque chose comme ça on avait constaté quand on tapait CEO PDG dans la barre de recherche de Google et on regardait ce qui sortait dans le Google Images on voyait que genre les 95 premiers qui sortaient étaient des hommes 96ème était une femme sauf que c'était la poupée Barbie PDG bon et t'as une Barbie t'as des Barbie ils ont sorti une Barbie ingénieur ils ont sorti une Barbie PDG et c'est des Barbies identiques à toutes les Barbies sauf que le PDG a une serviette une attachée case oui un attachée case et Barbie ingénieur porte tes lunettes et alors tu vois ici le biais Barbie le biais Barbie et la puissance de la réverbération à l'époque il y avait déjà genre un tiers des PDG en Amérique étaient des femmes ou quelque chose comme ça en tout cas ce que renvoyait le numérique comme typique était très très défavorisé par rapport à la réalité de terrain

donc tu me lances sur les biais de programmation les biais d'apprentissage programmation biais de représentation

biais d'apprentissage aussi que toutes les études ont démontré que plus de diversité on a dans une équipe le plus fort les idées qui sortent donc il ne faut pas en parler

ça fait 20 minutes qu'on en parle donc là j'aimerais qu'on aborde le côté technique quand il n'y a que des brothers qui entraînent des intelligences artificielles des brothers avec une culture de poilu de touffu genre on fait la guerre on joue à la bataille navale il y a Barbien Génieur qui sort 25 ans après mais nous on a notre culture on entraîne notre intelligence artificielle comme des brothers bon l'intelligence artificielle qui va faire la guerre comme des brothers

on ne dit pas brother on dit bro juste pour ton avenir d'accord il faut le dire comme ça en préliminaire il faut rappeler c'est très clair que c'est un fait d'expérience que le poids la responsabilité sur les guerres les impacts environnementaux les inégalités tout ce que tu veux est bien plus du côté masculin que du côté féminin l'impact écologique environnemental des hommes est considérablement pire que celui des femmes

comment je te fais

la courte échelle pas mal

voilà alors ensuite pour préparer la discussion sur les biais je vais dire quelques mots sur l'apprentissage automatique on tourne depuis on en parle tout depuis tout à l'heure parce que il y a on ne sait pas bien définir mais apprentissage on sait ce que c'est apprentissage c'est l'une des techniques qui permet à un algorithme de de s'entraîner à répondre à une question qui lui est posée il y a trois grands types de stratégies d'apprentissage le premier qui est historiquement le premier qui est le plus simple à comprendre c'est comme l'apprentissage d'un parent à un gamin ou d'un prof de fac à ses étudiants il donne des règles il donne des règles on les reproduit dans l'algorithme tac je fais ci je fais ça je fais ça on appelait ça une époque des systèmes experts mais c'est exactement ce que ça fait quelle règle pour donner quel résultat ou il y a symbolique il y a symbolique il y a ontologique deuxième type d'apprentissage par l'exemple on apprend à parler à nos gamins pas en leur donnant les règles de grammaire mais en parlant ils reproduisent les phrases et ces erreurs on les corrige quand il faut on les supervise comme ça en disant ouais là tu t'es trompé c'est ça et plus ils apprennent d'exemples plus ils les refont et ils les modifient ils extrapulent et ainsi de suite ça ça s'appuie sur des bases de données d'apprentissage c'est des bases d'exemples troisième type d'apprentissage par exploration par renforcement donc deuxième type qui donne lieu à reinforcement learning par exemple où on donne des retours et le système apprend parce qu'on lui dit ça c'est bon ça c'est mauvais troisième type et troisième type qui va être une exploration où on va le système lui-même calcule et dit qu'est-ce qui se passe comme ça avait été fait pour le jeu de go je vais essayer tel coup tel coup tel autre coup et j'explore comme ça même des situations qui sont jamais dans mes exemples aujourd'hui ce qui est le dominant c'est la partie exemple dans la plupart des intelligences artificielles et la qualité de la réponse de l'algorithme dépend beaucoup de la base d'exemples qui lui a été fourni très bien analysé dans l'ouvrage que citait Justine Teller Cathy O'Neill Weapons of Math Destruction par exemple on a pu montrer que tel algorithme utilisé dans certains états par les prisons américaines par les administrations pénitentiaires américaines pour déterminer si on va donner une grosse peine ou une liberté conditionnelle à tel ou tel était raciste pas parce que les programmeurs étaient racistes mais parce que ça s'appuyait sur un corpus de décisions antérieures qui était systématiquement biaisé et systématiquement raciste ou d'autres exemples on voit que certaines populations ça peut être des femmes ou des personnes avec des noms qui indiquent que ce sont des personnes immigrées de telle ou telle partie du monde ont un moins bon accès que les autres à un crédit ou à tel ou tel emploi et ici on voit la perversité que ça peut être l'algorithmisation de ces tâches parce que ça reproduit les bi-humains mais en plus ça les enquiste dans un programme ça les rend encore plus durs à détecter tout à fait enfin je peux continuer je peux donc aujourd'hui le troisième le troisième type d'apprentissage c'est ce qu'on appelle transformer ou peut-être de façon plus exacte self-attention mechanism c'est-à-dire qu'on lance la machine on lui dit de trouver des patterns de trouver les patrons ou les schémas et de décider ce qui est important et ce qui n'est pas important ça c'est ce qui a été utile enfin bon c'est pas exactement le cas j'allais dire c'est que c'est ça qui a été utilisé pour Tchad GPT et c'est vrai sauf que peu de gens le savent ça a commencé avec les modèles transformers où on leur a donné des billions non on dit pas billions des milliards et des milliards de documents et le système a trouvé des schémas a construit des schémas à travers ce qu'il a trouvé et puis de là a pu inventer des phrases qui n'ont jamais été vues sur les schémas de ce que le système a vu mais peu de gens savent que c'est pas que ça que Tchad GPT a commencé avec ça et puis il y a aussi une équipe en Afrique qui fait du reinforcement learning c'est à dire qui prend ce qui est construit par le système et qui dit ça c'est bon ça c'est mauvais ça c'est mauvais ça c'est mauvais ça c'est bon et peu de gens savent à quel point des personnes sont impliquées dans ces décisions ce qui veut dire que ces personnes qui ont des biais ça rentre encore dans le transformer modèle dans le self attention mechanism de systèmes comme Tchad GPT ça d'une part si je peux continuer parce que je pense que c'est très important pour les gens qui savent pas trop de quoi il est question avec Tchad GPT avec les autres systèmes qui sont inventés depuis six mois c'est vraiment tout neuf l'autre gros problème c'est que ces systèmes ont été entraînés donc on leur a donné à manger pour ainsi dire des milliards et des milliards de documents de partout de reddit livres pour tchan pour tchan exactement des tchats etc et ils ont commencé à parler mais on continue à les former et wikipédia est de plus en plus fait de ce qui a été inventé par Tchad GPT c'est à dire que ces systèmes commencent à se former à leur propre output

ok pour empoisonner ça il faut faire comment pourquoi pour empoisonner l'apprentissage

ah bah c'est facile on fait

pourquoi je pose cette question

bah oui enfin les documents on dit garbage in garbage out poubelle vers l'entrée poubelle on sort enfin les dégâts enfin vous voyez ce que je veux dire donc ça c'est un problème et le deuxième problème c'est que si ils s'auto mangent enfin s'ils s'entraînent sur leur propre sortie ça veut dire que ça va être de pire en pire ça s'empoisonne

donc s'ils mangent leur propre merde

oui exactement oui et il n'y a pas beaucoup de protéines

pour faire des gâteaux c'est compliqué ça manque de nutriments

oui voilà

est-ce qu'un état peut empoisonner ça est-ce qu'un groupe extérieur un groupe privé un groupe piloté par un autre état peut empoisonner ça est-ce que ça a déjà été fait par exemple sur wikipédia on sait qu'il y a des groupes qui tu veux rebondir c'est vrai

sur wikipédia t'as une guerre de l'information qui est tout le temps là comme wikipédia est l'un des très rares projets qui sont restés dans l'idéal originel de la création du web il est normal que ce soit la source de beaucoup de convoitises et de beaucoup d'attaques

j'ai une solution contre ça tu mets 50 000 euros avec une prime sur qui fait quoi avec 3 tueurs en série russe t'inquiète pas qu'ils vont moins faire les malins les extrémistes de gauche ou de droite

ce qui est bien chez wikipédia c'est qu'il y a des guerres d'éditeurs

mais est-ce que les fameux éditeurs est-ce que tu t'es amusé à les mapper

bien sûr c'est le bleu

les chevaliers c'est autre ils font ces grands

mappings il y a très peu de femmes qui sont éditeurs éditrices pour wikipédia et ça a un effet sur ce qui a été écrit c'est un fait qu'on a couvert dans un livre que j'ai édité qui s'appelle barbie to mortal combat gender and computer games

barbie to mortal combat parce que c'est la même chose en français on dit mortal combat combat mortel

tout tout what barbie to mortal combat gender and computer games le genre et les jeux vidéo d'accord c'est un livre qu'on a publié en 2000 et qui est à son énième édition ça continue d'être édité parce que malheureusement c'est toujours les mêmes problèmes

donc sur l'empoisonnement des données sur l'empoisonnement de tout ça vas-y Cédric tout est empoisonné

ou empoisonnable dans le temps si j'ai pas de bêtises ouais ils avaient été piratés par des équipes chinoises système GPS aussi d'ailleurs

système GPS je savais pas mais la localisation des bateaux des fois tu fais débarquer des bateaux ils sont pas à la bonne place

ah oui ça c'est fort tout est piraté tout est piratable la quantité de cyberattaques qu'on trouve partout dans le monde c'est un truc phénoménal et tu parlais de poison quand tu te retrouves infecté par un ransomware on dit que le temps moyen que le ransomware reste dormant dans ton système avant de se manifester c'est de l'ordre de 200 jours il reste là à bien s'incruster dans le système à s'infiltrer un peu partout et c'est une activité noire qui est en augmentation exponentielle mais il y a quelque chose que je comprends pas très bien Bertrand quand tu dis Sky comment ? oui c'est Sky Sky est-ce que quand tu dis quand tu demandes est-ce que les gouvernements peuvent empoisonner

ou des gouvernements ou des entités privées

ou des malfaiteurs sous

sous

mais peut empoisonner quoi ?

empoisonner la façon dont la donnée est assimilée

alors réponse technique pour la plupart lorsqu'on utilise des systèmes comme GPT 3,5 ou GPT 4 pour une fin donnée on fait ce qui s'appelle fine tuning je l'ai fait dans mon labo avec mes doctorants fine tuning ça veut dire qu'on prend le système neutre et on lui donne nos propres données pour l'affiner dans un sens ou dans un autre bon moi ce qui m'intéresse j'ai un projet avec un doctorant qui s'appelle Biswesh Mohapatra qui fait un travail hyper intéressant sur le fait que ces systèmes ne prennent pas en compte l'interlocuteur il parle pour parler ils essaient de se garder en ligne aussi longtemps que possible la vérité ne joue pas de rôle et le fait que tu comprends toi interlocuteur ou que tu ne comprends pas ne joue aucun rôle alors est-ce que nous pouvons apprendre à ces machines à demander t'as compris ou je te donne davantage de détails à une personne qui a l'air de ne pas suivre et on le fait en faisant du fine-tuning c'est-à-dire qu'on lui donne des exemples de ce que c'est que ce qui s'appelle en linguistique conversational grounding c'est-à-dire vérifier l'état de connaissance de la personne avec qui on parle avant qu'on continue à toute vitesse avec sa conversation donc fine-tuning est un moyen de changer la donne de prendre un système énorme qui a été formé sur des milliards de données et lui permettre ou le forcer à agir d'une façon de donner et donc ça c'est possible c'est un moyen d'empoisonnement aussi bien qu'un moyen d'amélioration

question internet est-ce qu'ils peuvent nous expliquer les vertus et les dangers des données synthétiques pour les entraînements des modèles

données synthétiques je pense que c'est une question technique ces modèles ces types d'apprentissage automatique demandent énormément de données moi je veux former des machines qui prennent en compte la relation avec l'interlocuteur qui ne te parlent pas de la même façon demain que d'ici deux semaines c'est une partie de mon travail

tu travailles sur des bottes sexuelles non d'accord t'en connais qui travaille sur ça

j'en ai croisé oui il y a une conférence là-dessus

l'état psychologique de ces gens c'est pour faire du blé c'est pour permettre aux petits japonais d'être moins seul c'est quoi l'objectif de faire ça

je ne sais pas mais on part loin des données synthétiques je vais terminer avec les données synthétiques désolé c'est pas grave c'est juste pour répondre à la question donc puisqu'il n'existe pas de milliards de données sur les interactions entre les personnes on prend une petite base de données et on le réplique on en forme des données synthétiques qui ressemblent aux données qu'on a parce qu'on a peu de données voilà donc ça c'est la réponse technique il y a un avantage qui est dans le fait d'avoir beaucoup de données qui permettent de faire l'entraînement il y a un autre avantage des fois quand on a des données sensibles c'est d'éviter d'utiliser des vraies données par exemple données de santé ou autres mais à la place d'utiliser des données de personnes qui n'existent pas qui sont des utilisateurs imaginaires et dans un contexte où tout est piratable c'est appréciable il y a quelques années une chercheuse spécialiste en données Latania Swine avait pour montrer que les données de santé n'étaient pas soi-disant anonymisées qui étaient dans les administrations américaines ne l'étaient pas s'étaient amusées avec son équipe à réidentifier le dossier du gouverneur du Massachusetts pour bien montrer à sécuriser mon oeil bon et donc

alors ta bémorragie

c'est pas ta femme les données synthétiques permettent aussi d'éviter de manipuler ces vraies données et ça c'est quelque chose qui peut être intéressant un exemple de données synthétiques intéressant c'était ce site web comment c'est this person is not real ou quelque chose comme ça où quand on le tape à chaque fois ça affiche une personne différente qui est intéressante très réaliste mais qui n'existe pas et évidemment on pourrait utiliser des entraînements des annotations à partir de toutes ces personnes qui n'existent pas mais sont pourtant de quoi faire une grande base de données et entraîner des algorithmes à partir de là

revenons à nos bots sexuels

oui voilà alors il y a une conférence qui s'appelle je pense sex and love robots donc évidemment c'est le sujet de toute la conférence moi j'ai jamais assisté ça ne m'intéresse pas pourquoi ?

parce que ce n'est pas un sujet qui m'intéresse je trouve que c'est sans intérêt c'est sans intérêt du point de vue scientifique et il y a des gens pour qui c'est important et positif d'avoir des sex and love robots ça peut servir de marche-pied à des relations avec d'autres personnes et il y a des personnes pour qui c'est un une rue où il n'y a pas de sortie une impasse oui merci une impasse mais la personne qui a fondé cette conférence si je comprends bien son parcours c'est quelqu'un qui aime épater les bourgeois et c'est pour ça qu'il le fait c'est pour quoi épater les bourgeois ?

je pensais que c'était une bonne phrase française épater les bourgeois ça veut dire de faire quelque chose on le dit en anglais d'ailleurs on dit épater les bourgeois oui en français dans le texte c'est-à-dire de faire quelque chose pour épater la galerie non pas la galerie pour faire de la peine aux bourgeois faire de la peine aux riches faire de la peine aux gens bien pensants voilà

choqué

oui voilà épater les bourgeois c'est choqué

ok j'ai à apprendre quelque chose

je vais regarder après pour être sûre

que je ne me suis pas trompée tu m'empoisonnerais

la donnée c'est ça ? oui voilà je ne veux pas t'empoisonner tes données j'utilise l'exemple de Justine comme marche-pied vers pour mettre un vrai problème de société qu'il faut regarder en face dans une époque d'hypercommunication qui est le plus grand changement de comportement de la dernière génération c'est le fait que ça communique tous les immutes et dans une époque où les activités sexuelles en ligne se multiplient on assiste à ce que les gens appellent une épidémie de solitude à une raréfaction mesurée claire dans le monde occidental particulièrement aux Etats-Unis du nombre d'amis proches et à une raréfaction de la sexualité physique quelque chose qui interroge

pas une petite poignette

moi je te dis ce que nous disent les sociologues

question internet intelligence artificielle plus les machines de Boston Dynamics ça va faire mal à quel point

machine de Boston Dynamics je ne suis pas un spécialiste mais parce que évidemment chaque fois qu'on a que les médias veulent illustrer l'IA très souvent ils vont mettre les machines de Boston Dynamics un il y a une certaine opacité entretenue sur la façon dont ils fonctionnent deux c'est pas de l'IA c'est des techniques d'optimisation il faut regarder non pas les vidéos courtes mais les vidéos longues où le robot tombe sur son visage n'arrive pas à rester il y a un visage le robot il y en a qui ont des visages enfin le robot chien il y a quelques temps un journaliste connu et respecté avait partagé sur Twitter mais comme d'autres à l'époque ça n'appelait encore Twitter des images d'entraînement de ces robots style Boston Dynamics on voyait bien quand on connaissait quand on avait bossé un petit peu le sujet que c'était un fake que c'était des images de synthèse pas les vrais robots les robots ne sont pas du tout au niveau qu'on voyait sur les vidéos mais ça n'empêchait pas l'information de se propager de façon virale il y a une grosse hype qui est faite autour de ces robots et pour l'instant même marier le savoir-faire universitaire habituel en robotique et le savoir-faire universitaire en intelligence artificielle c'est des programmes de recherche qui sont très loin d'être matures

question internet les humains irrationnels excessifs vivants en somme ne risquent-ils pas d'être perçus comme des problèmes par des gestions publiques déléguées à des IA

c'est quoi les gestions publiques déléguées à des IA

les IA qui ont des représentants quand tu vois une caméra d'un fournisseur chinois équipé d'une intelligence artificielle et d'un d'un algo de détection du mouvement de foule de concentration si c'est des terroristes pas des terroristes s'ils sont agglomérés au même point pendant 2 minutes 30 ça peut être problématique moi qui marche à cloche-pied et à la marelle dans les rues pour me déplacer est-ce que je toi aussi non toi c'est les escaliers tu les montes

oui moi je monte les escaliers

est-ce que je vais pas être perçu comme un problème

c'est une question ou c'est la finesse qui compte quand on voit des pays dans lesquels ça existe on souhaite on a une expression le clou qui dépasse est martelé c'est une expression qui dit beaucoup en Chine on a une expression qui veut dire exactement la même chose c'est-à-dire que c'est mieux si on rentre dans le chemin de tout le monde donc on voit des exemples et en général nous en luttant contre

je rebondis c'est très intéressant ce que tu viens de dire c'est-à-dire que est-ce que l'IA va pas faire un immense élevage de poulet humain standardiser les gens bah non

parce que encore une fois l'utilisation du mot IA pourrait être remplacée par numérique ou par être humain pas bon pour nous enfin des mauvais des malfaiteurs c'est c'est pas l'IA ça c'est n'importe enfin tout

tu sais que je fais exprès de faire ça pour que tu expliques comment ? je fais exprès pour que tu expliques

d'accord ok mais une chose que l'IA permet en fait c'est énormément de catégories justement l'IA de nos jours on a pas besoin de de neutraliser les différences parce que il est capable de travailler en parallèle à des centaines de catégories donc ça c'est une réponse et je pense que c'est pas la réponse que tu voulais

qui est-ce qui voulait

une réponse ici ? comment ? qui voulait une réponse ? les auditeurs veulent une réponse alors on va leur dire on va dire aux auditeurs explicitement il y a plein de gens dont c'est le but dans ce domaine que d'alimenter les peurs et de faire le maximum de buzz qui ? les criminels comme Elon Musk ah non faut pas dire ça les criminels comme Elon Musk pourquoi tu dis criminel ?

parce que on a là quelqu'un qui alors criminel au sens figuré je dis pas qu'il a tué des gens mais on a là quelqu'un qui d'abord dans quelques domaines qui touche cherche à aller vers la solution la plus anti-écologique possible qui met en place des systèmes avec d'une inégalité extraordinaire qui dérégule des systèmes déjà dérégulés qui prend en main on a David Chavalriaz vous montre bien aussi avec mesure à l'appui que depuis la reprise en main X est devenue une machine à désinformer bien plus forte que ce que c'était avant et à climato-dénialer et tout ça c'est à dire c'est à dire qu'on a un système X qui aujourd'hui est encore plus polarisé dans laquelle se propagent les qu'est-ce que t'as lu

les twitter files non qu'est-ce que c'est qu'est-ce que c'est les twitter files on va en parler

mais ce que je te dis là c'est des choses mesurées par les collègues spécialistes de mesure de l'information sur les réseaux sociaux

les twitter files et il y a un autre truc qui est en train de sortir c'est les control files ou ctrl files c'est un truc comme ça les quoi files

ttrl files question internet

d'après

je termine il n'y a pas longtemps le scientifique en chef de open AI disait en tout cas c'est comme ça que les journaux l'ont repris qu'il craignait le jour où une intelligence artificielle générale nous traiterait comme des animaux c'est ça

bon

ce qui est de la science-fiction peut-être un jour ça se passera mais pour l'instant c'est du jeu de la science-fiction et c'est pas les petits algorithmes qu'on a aujourd'hui si impressionnant sur les résultats qui vont faire ça bon mais quand quelqu'un de ce niveau alimente ça c'est très clairement de façon cynique c'est pas très pour avoir le plus grand buzz possible attiré par le scandale l'appétit des médias et l'appétit des investisseurs et les réponses à ce genre de trucs comme les réponses au poison comme les réponses aux manipulations et autres c'est pas dans la régulation supérieure c'est arrêter de fantasmer c'est dans la psychologie arrêter de fantasmer dans la psychologie mais aussi les ressources humaines le fait d'avoir des gens pour agir programmer contrôler etc etc des gens plutôt que des règles mais pour les fantasmes on passe notre temps en tout cas sans arrêt les questions dire genre est-ce que l'IA va faire ceci est-ce que l'IA va faire cela pour ça on est dans un monde où il y a plein de pays où on se fait pendre pour un tweet mal placé ça arrive en Arabie saoudite tué parce qu'on est albinos parce qu'on est étudiant il y a un massacre d'étudiants qui se produit en Iran Mileï qui était élu en Argentine peut-être Trump bientôt qui va revenir je veux dire les nouvelles du monde physique humain aujourd'hui sont tellement inquiétantes sans IA sans IA franchement ça me fait plus peur que les possibilités de l'IA

quand une IA aide un gouvernement à cibler des cibles au sol l'armée israélienne utilise une IA pour cibler c'est vraiment anxiogène ça pour vous c'est normal c'est la juste continuité de la science et des choses

c'est pas l'IA ça se fait depuis depuis toujours on cible l'ennemi est-ce que avoir des meilleurs moyens de le faire veut dire que tout d'un coup c'est devenu horrible je suis pas d'accord parce que je trouve que c'est

on n'est pas solomone est-ce que l'IA est responsable devant un tribunal de guerre non ça n'a pas de sens c'est le mec qui a entraîné l'IA qui est responsable c'est c'est le mec qui appuie sur le bouton c'est qui c'est le politique c'est le politique responsable

c'est par définition c'est lui qui doit être responsable traduit devant la cour de justice cour pénale internationale ou ce que tu veux mais c'est le politique qui doit être responsable c'est l'utilisation et pas l'IA il faut qu'on arrête de parler d'IA parce que je pense que même ici question internet non je termine juste même ici surtout ici où t'as tellement de personnes qui t'écoutent il faut leur apprendre que l'IA veut rien dire la phrase

deux personnes qui t'écoutent

les deux personnes qui nous écoutent il faut leur dire à tous deux que ça veut rien dire l'IA intelligence artificielle il faut parler de façon plus de réseaux de neurones exacte non c'est même plus les réseaux de neurones enfin si c'est des réseaux de neurones mais pour les personnes qui sont pas techniques ça en plus ça n'a pas de sens

question internet

vas-y continue

tu m'autorises ? oui je t'autorise tu es trop magnifique avec moi

je sais je suis généreuse mais pas pendant longtemps donc vas-y c'est vrai

voilà des menaces tout de suite d'après vous question internet d'après vous à quel point sommes-nous proches de la singularité ? très très très loin

singularité c'est encore de la science fiction ouais c'est du fantasme

pensez-vous que l'IA va révolutionner ou résoudre les problématiques physiques mathématiques et les préoccupations humaines ?

tellement comme ça alors est-ce que c'est ça qui va sauver le monde la réponse est non je veux dire c'est une nouvelle religion non mais le technosolutionnisme est une est une forme de religion qui contribue à nous emmener dans le mur oui tout autant que le techno N

c'est-à-dire les amish oui c'est l'opposé ah ben attends les amish ils nous embêtent pas ils sont non non franchement

ils nous font aucun mal

le laboratoire Qtai initié par Xavier Niel est-il une réponse à une forme de souverainisme numérique ou un cheval de trois ?

moi j'aime bien le projet j'aime bien la façon dont ça a été présenté j'aime bien la façon de mettre en avant de pousser des acteurs européens et le fait de parier sur de l'open source autant que possible pour rappel il n'y a pas longtemps Yann Lequin qui est l'une des plus grandes superstars imaginables en matière d'intelligence artificielle et celui qui a le plus contribué à remettre les réseaux de neurones dans l'image là où on les avait tout le monde nous presque les avait mis de côté Yann Lequin estimait il n'y a pas longtemps qu'en quelques années les modèles les grands modèles génératifs en open source en mode ouvert seraient bien plus performants que les modèles privés que ce soit celui d'OpenAI ou celui de Google de même pour les petits modèles vis-à-vis des grands modèles parce que nous chercheurs on ne veut pas devenir consommateur de travail d'autrui on ne veut pas devenir consommateur de travail qui bousillent le climat et donc vraiment je pense que l'avenir c'est des petits modèles Remarque tout à l'heure tu parlais des supervisions et du renforcement humain en l'occurrence pour Tchadipiti c'était des travailleurs kenyans payés à 2 dollars de l'heure et puis il y a des horaires impossibles des conditions proches de l'esclavage je suis curieux de savoir si le lien de Google la dernière a été ah c'est une bonne question oui oui Bard a été elle entraînée et c'est non seulement enfin bon c'est les kenyans qui ont fait la supervision humaine de ces de ces logiciels c'est aussi des gens souvent en Afrique qui font la modération de Facebook et qui peuvent pas le faire pendant très longtemps parce que ceux qui voient est tellement abominable qu'ils font un burn-out presque immédiat des PTSD des syndromes post-traumatiques quand les IA

seront capables de faire des maths à un tel niveau qu'aucune cryptographie pourra tenir à une attaque qu'adviendra-t-il du système financier et militaire

point à la ligne

pour l'interrogation

il y a partout des certes il y a partout des attaques pour l'instant il y a des grands jeux d'attaques et de contre-attaques un peu partout c'est même fascinant de voir ça on parlait des images et des modérations sur Facebook dans le temps quand il y avait eu l'attentat de Christchurch en Nouvelle-Zélande les terroristes ont balancé sur les réseaux sociaux ce jour-là ce jour-là la vidéo a été mise en ligne à peu près un million de fois et automatiquement retirée un million de fois par les algorithmes de détection donc tu as de la contre-attaque en même temps du point de vue de l'humanité c'est fascinant de voir l'énergie phénoménale qui est dépensée en quelque chose qui s'annihile mais quand il y aura des IA très très fortes pour pirater tu auras aussi des IA qui seront entraînés très très fortement pour défendre et ça sera un jeu de gendarmes et de voleurs de cache-cache si on veut je voudrais dire un truc par rapport à mathématiques pour l'instant il n'y a pas eu de révolution en mathématiques avec l'IA je veux dire il y a certaines preuves aidées par ordinateur qui se sont faites avec des explorations depuis la fameuse preuve du théorème des quatre couleurs par Apple et Haken en 1976 un truc qui a fait date dans la communauté mathématique ou plus récemment la preuve de l'empilement l'empilement optimal des sphères l'empilement de Kepler par Tom Hayes mais il n'y a pas eu de révolution liée à l'IA en mathématiques en revanche il y a eu des progrès impressionnants de l'IA en médecine certainement le domaine dans lequel il y a plus d'applications scientifiques impressionnantes avec des outils diagnostiques des outils de contrôle de procédure qui sont impressionnants et qui font mieux que les meilleurs humains dans un certain nombre de cas il y a eu en biologie des applications importantes comme la prédiction de la forme des protéines il y a eu en chimie sur les 4-5 dernières années des progrès très impressionnants d'IA faisant des propositions de nouvelles structures de nouvelles molécules de nouveaux réseaux qui changent la donne tout à l'heure tu nous as posé une question sur la normalisation de la population par l'IA est-ce que alors vous savez qu'on est sur une planète de poulet by the way le poulet il y a bien plus de poulet que d'humains sur cette planète et l'élevage représente 60% de la biomasse terrestre non mais c'est un truc de fou j'allais dire qu'en santé une des choses que les algorithmes peuvent faire que les médecins ne peuvent pas faire et qui vraiment avance la médecine d'une façon incroyable c'est la catégorisation par million c'est-à-dire que chaque personne peut être une catégorie on peut trouver une solution à une maladie dont souffre une seule personne donc c'est pas que la normalisation c'est pas forcément la normalisation justement parce que ces algorithmes peuvent tenir en parallèle tellement de catégories

question internet alors on va prendre en considérant l'avènement d'une AGI ou super AGI c'est quoi leur prototopie d'un monde post-travail ?

voilà attends

ici il y a marqué

ici il y a marqué Cédric Villani je veux dire mathématicien scientifique qui essaye de garder sa raison il n'y a pas écrit Arthur C. Clarke ou Isaac Asimov je ne suis pas un auteur de science-fiction il faut poser la question à un auteur de science-fiction sur les AGI c'est de là que ça relève on n'est pas des futuristes et l'AGI c'est une future possible je pense très peu probable expliquer AGI General Intelligence c'est quoi la A ? Artificial General Intelligence donc l'intelligence artificielle générale qui peut faire tout ce que peut faire un humain je ne pense pas jamais

on ne peut pas aimer quand on t'aime une intelligence artificielle c'est ça ?

il y a plein de choses qu'on ne peut pas faire une intelligence artificielle pour l'instant c'est une formule mathématique sophistiquée ça n'a ni plus ni moins d'émotions que la recette de calcul des impôts elle est un peu plus sophistiquée certes mais c'est une formule de maths le réseau de neurones

question plus simple et facile à répondre est-ce que l'intelligence artificielle peut-elle devenir marxiste et intégrer la lutte des classes dans son algorithme ? bien sûr bien sûr et inversement ? comment ? inversement ? c'est-à-dire est-ce que l'intelligence artificielle peut devenir autre chose que marxiste ? morassienne ? bah oui bien sûr

il suffit de lui faire manger l'auteur qu'on veut voilà d'ailleurs quand Microsoft avait sorti son agent conversationnel son bot il y a quelques années Tay on n'a rien de temps des petits malins s'étaient occupés du laver le cerveau entre guillemets de sorte qu'il était devenu fasciste trumpiste machiste et tout ce qu'on peut imaginer ça c'est le fine-tuning

c'est qui le plus fort ? c'est Batman ou Parker Lewis ? ça a arrêté au connu

oui là ils ont fumé ils ont allé à Christiania tes éditeurs

Christiania tu ne fumes pas

tu regardes les temps alors Batman Batman est un de mes grands héros comme on sait Batman est le super héros sans super pouvoir ce qui le rend particulièrement intéressant et c'est l'un des tu dis ?

il a un super pouvoir il est pété de fric

oui alors il est super intelligent et super riche absolument mais il n'a pas de super pouvoir au sens habituel maintenant il représente bien pour moi Batman c'est une une des incarnations de la science en tant que aussi projet les grands projets technologiques qui ont besoin d'argent pour se réaliser Batman et Dr Manhattan pour moi c'est les deux les deux grandes incarnations en BD de la science en tant que telle alors maintenant on arrive aux choses importantes t'as vu ?

alors parlons de la recette du pigeon avec plaisir est-ce que vous voulez parler d'un truc dont on n'a pas parlé ?

oui il y a un débat il y a des débats scientifiques majeurs encore à trouver dans l'IA premièrement le fait que les progrès de l'IA ont surpris tout le monde quand les réseaux de neurones sont devenus très performants vers 2012 et que d'un coup on a vu paf c'est bien bien meilleur que ce qu'on croyait quand sont arrivés les modèles d'intelligence artificielle générative il y a un an et quelques et si c'est devenu aussi fort il y a forcément une raison derrière théorique ça nous renseigne sur le fait que notre compréhension algorithmique de ces processus d'apprentissage est très mauvaise actuellement embryonnaire on a un savoir pragmatique en quête de théorie il y a d'autres moments dans notre histoire scientifique où on avait une théorie en quête d'application un exemple que j'aime bien c'est qu'en 1948 Claude Shannon publie sa théorie de la communication un monstre qui lance la théorie de l'information il démontre mathématiquement qu'il existe des codes hyper efficaces qui compriment les messages sans perte d'information au taux optimal ou presque qui est défini en fonction de l'entropie du langage mais il a fallu 50 ans avant qu'on trouve les algorithmes qui réalisent cette prédiction théorique de Shannon aujourd'hui on est dans une situation renversée par rapport à ça c'est-à-dire qu'on a des algorithmes très efficaces mais on ne sait pas quelles prédictions ils réalisent on n'a pas la théorie le fait qu'il n'y avait pas été anticipé par les auteurs de science-fiction qu'on puisse avoir des IA qui aujourd'hui fassent des tâches aussi subtiles sans la moindre onze intelligence sans aucune intelligence artificielle générale ce n'était pas anticipé un vous avez dit quelque chose sur la convergence algorithmique de ces modèles qui est bien plus rapide que prévu et on ne sait pas l'expliquer c'est un défi scientifique passionnant deux ça dit quelque chose sur la structure des textes et du savoir tel qu'il est organisé le fait qu'on puisse écrire des lettres aussi fines et subtiles que ce que font les Tchadjipiti ou autres ça veut dire qu'il y a quelque chose des régularités dans les lettres dans notre expression bien plus fortes que ce qu'on croyait oui ça c'est très joli ce que Cédric vient de dire

moi je me frotte les mains quand j'entends ça oui parce que tu sais cette régularité plus c'est régulé plus il y a une régularité plus tu peux hacker absolument

mais c'est ça que la technologie est en train de faire je regarde le revers de la pièce qui est que ces régularités nous enseignent sur nous-mêmes aussi et c'est pas forcément une mauvaise chose ça nous enseigne sur nos manières de penser nos manières d'écrire ces régularités existent dans nos textes parce que nous sommes humains et que ces machines ont capté quelque chose qui nous rend humains il faut pas l'oublier c'est pas le contraire ça nous rend pas machines c'est nous qui rendons ces machines comme nous aussi

j'espère que on va pas rendre les machines aussi bêtes que nous qu'est-ce qu'on peut faire pour faire libérer Assange

beaucoup de bruit c'est un problème purement politique évidemment il y a un débat un problème juridique monstrueux avec des avocats internationaux de tous les côtés des appels contre-appels et tout ça mais le vrai problème le fond du fond il est évidemment politique Assange est un prisonnier politique et donc ça se résout par ça se résout par de la pression politique il y a eu plein de mauvaises nouvelles pour Assange la dernière année mais il y a quelques bonnes nouvelles première bonne nouvelle l'opinion australienne est maintenant résolument pour lui pour son retour au pays pour l'extirper des griffes américaines

d'abord les griffes anglaises

ici la Grande-Bretagne qui a vraiment un rôle abominable dans l'histoire d'abord a menti de la façon la plus éhontée le gouvernement anglais chaque fois qu'il s'exprime sur Assange c'est un mensonge éhonté qu'on peut prouver pour être un mensonge

sur l'Irak aussi ça marche

oui on se souvient 2003 Tony Blair et tout ça mais la Grande-Bretagne là c'est juste je vais employer un mot dur a juste été le larbin des Etats-Unis là-dessus et la question c'est la pression sur le gouvernement sur tout le gouvernement sur le gouvernement britannique sur le gouvernement américain sur les autres gouvernements en tant qu'ils peuvent mettre de la pression la population australienne et la classe politique australienne maintenant aussi bien l'opposition que la majorité sont en faveur d'Assange ça c'est une bonne nouvelle dans un contexte de tensions géopolitiques accrues les américains ne peuvent pas juste balayer du revers de la main un allié comme l'Australie surtout une Australie qui est proche de la Chine etc.

ils vendent des sous-marins en plus en plus il y a les fameux sous-marins absolument deuxième chose un petit signal mais qui indique qu'il y a un frémissement quelque part il y a quelques semaines les quelques députés américains démocrates et même de l'aile gauche démocrate des gens comme AOC, Alexandra Ocasio-Cortez et des députés républicains et même de l'aile droite républicain des hyper-Trump se sont alliés dans une déclaration transpartisane rare c'était je ne sais pas peut-être une quinzaine une petite minorité de députés en soutien d'Assange petite minorité mais quand même le fait qu'il y ait ce truc bipartisan qui était inimaginable il y a seulement il y a encore un ou deux ans montre qu'il y a un petit frémissement donc pour Assange il faut continuer là-dessus mettre la pression à tous les niveaux ça veut dire sur votre député sur les ministres sur qui c'est quoi sur les réseaux free Julian Assange now c'est le slogan sur les réseaux le plus de bruit il y aura là-dessus le plus il y aura des messages simples du genre avoir un prisonnier politique dans les démocraties occidentales sur un sujet de la presse au moment où il y a toutes ces tensions géopolitiques c'est un message politique calamiteux désastreux ça nous décrédibilise ça nous affaiblit et il faut marteler ce genre de message jusqu'à ce que le plus de pression se fasse

Justine tu veux ajouter un mot là-dessus ? Non Est-ce que tu as trois livres à nous conseiller ? Oui oui fais de l'intelligence artificielle

Alors j'arrive pas à me rappeler du nom de l'auteur The Diamond Age On va trouver ça

tout de suite

Un livre de science-fiction que j'adore qui date maintenant d'il y a au moins 20 ans qui parle d'une IA qui accompagne une jeune femme à travers sa vie Donc j'aime beaucoup ce livre Je vais m'arrêter Tiens on va faire Alors

Kelly Hunter

Comment ?

Hunter Kelly Kelly Hunter ?

Non

Non c'est pas ça

Diamond Age c'est un écrit C'est une science-fiction très renommée Bon d'abord on a parlé tout à l'heure mais on va les rappeler explicitement pour moi deux ouvrages qui sont des classiques et importants c'est l'ouvrage de Cathy O'Neill sur l'algorithme de la bombe à retardement qui décrit bien des biais et un certain nombre de catastrophes déjà produites dans un certain nombre d'administrations par l'usage de l'IA mal encadré ou mal développé et de Toxic Data de David Chavalaria ce qui est le meilleur exposé que j'ai vu récemment sur les questions informationnelles je vais ajouter une petite bande dessinée de Laurent Daudet avec un dessinateur indien qui s'appelle Apupun si je ne dis pas de bêtises la bande dessinée doit s'appeler Dream Machine ou quelque chose comme ça c'est une bande dessinée très pédagogique sur ce qu'est l'intelligence artificielle et sur ses possibles dérives et en particulier la possibilité pour des intérêts privés extrêmement puissants de s'en emparer et d'utiliser pour un projet qui soit un projet non seulement économique mais politique avec des visées importantes sur les libertés des citoyens mais l'ouvrage est très pédagogique sur ce que c'est que l'intelligence artificielle l'entraînement ainsi de suite

tu conseilles pas le livre de Laurent Alexandre

je conseille de le brûler non on brûle pas les livres et qu'est-ce que t'en penses vraiment bon non c'est vrai c'est vrai qu'il faut pas brûler les livres tu as raison il est important de en vrai de la même façon non je vais te répondre plus honnêtement de la même façon que dans ma bibliothèque j'ai aussi des bouquins de climactodénialistes rien que pour savoir quelle est l'argumentation et des bouquins du lobby des voitures pour savoir quelle est l'argumentation il faut toujours savoir ce que dit l'adversaire ou l'irrationnel pour bâtir le discours par dessus donc effectivement retire ce que j'ai brûle ce que j'ai dit sur le livre à brûler c'est bien de l'avoir pour avoir la voix du la voix du fou furieux en la matière

il n'est pas fou furieux il a un point de vue différent

bon toi tu es je vois que tu n'es que amour et c'est bien

je pense qu'on va

s'arrêter là tu n'as pas d'autres bouquins est-ce que

tu as un conseil pour les jeunes générations

de livres

un conseil pour les jeunes générations un conseil

oui tu ne vas pas casser ces machines il faut jouer avec il ne faut pas avoir peur il faut les traiter comme des outils parce que ce sont des outils et c'est toi maître maîtresse c'est toi qui vas en faire quelque chose de bien ou de mauvais donc efforce-toi d'apprendre de comprendre et de faire du bien jouer avec très important l'IA est un sujet pragmatique de bout en bout les chercheurs développent de façon pragmatique les citoyens peuvent s'amuser avec jouer avec c'est un sujet que tout le monde doit s'approprier et discuter en ce moment à Montpellier il y a une expérience fort intéressante de convention citoyenne sur l'intelligence artificielle qui a été mise en place par le maire président de la métropole de Montpellier et qui sont des citoyens tirés au sort même tirage au sort mais où on a exclu les experts en numérique et qui reçoivent des formations comme dans les conventions citoyennes d'habitude donc j'étais en tant que conférencier invité dans la séance d'installation et c'est quelque chose d'extrêmement intéressant aussi pour permettre aux politiques aux citoyens de s'approprier le sujet à travers une sorte de feuille de route c'est ça le bon verbe s'approprier ses outils point empowerment c'est ça empowerment oui encapacitisation encapacitation

oui un conseil pour les jeunes générations Cédric

bon moi quand on demande des conseils pour les jeunes générations d'habitude je donne toujours les mêmes les 3-4 mêmes de éviter l'enfermement dans les cases fixées a priori je leur conseille de bouger régulièrement quand on maîtrise un sujet c'est le moment de regarder le sujet d'à côté sans renier le sujet qu'on a à maîtriser mais commencer à regarder le sujet d'à côté très important je conseille pour moi très important je conseille aux jeunes de laisser une part de hasard dans ce qui va guider leur parcours le hasard nous amène à explorer des choses auxquelles on n'aurait jamais pensé

The Diamond Age c'est de Niels

Niels Stevenson bien sûr oui c'est ça

Justine Cédric merci

merci à toi

merci à toi merci à toi

merci à toi merci à toi