MISSION D’INFORMATION SUR L’IA : AUDITION DE OLIVIER REY, MATHÉMATICIEN, PHILOSOPHE

C'est bon intervenir. Ah ça y est, c'est bien. Parfait.

Merci madame. C'est parfait. Bien monsieur, bonjour et bienvenue dans cette mission d'information.

Donc je suis Roger Chudo, je préside cette mission. Madame Céline Calvez sera le rapporteur de la mission. Donc je rappelle un peu le contexte.

La mission d'information a pour objet la création, la diffusion et l'acquisition des connaissances. Comment l'intelligence artificielle transforme notre éducation et notre culture. Ce que nous voulons réaliser dans cette mission d'information de 6 mois, c'est au fond une sorte d'état de l'art et sur sur la question de des conséquences qu'à l'irruption de l'IA dans le domaines de l'enseignement scolaire supérieur, la recherche et la culture notamment sous tous ces aspects.

C'est très vaste. Donc pour que vous sachiez bien comment ça fonctionne, madame Calvez est rapporteur, c'est elle qui rédigera le rapport. Ce rapport sera présenté à la commission des affaires culturelles et de l'éducation.

S'il est adopté, il sera publié. Voici les le contexte, si vous voulez. Donc merci encore d'être d'être parmi nous aujourd'hui.

Je vais pour lancer les débats les débats qu'imera madame Calvez pour l'essentiel, je pose une question générale. Un certain nombre de philosophes dont vous-même d'ailleurs je pense considèrent que l'IA générative et ses développements qui sont extrêmement rapides représentent beaucoup plus qu'un nouvel outil à la disposition de l'humanité que cela introduit probablement une rupture anthropologique. Partagez-vous ce point de vue et si oui, pour quelle raison ?

Je Alors, vous avez un propinaire d'à peu près combien ? 10 minutes à peu près 10 minutes et puis ensuite les questions vous seront posées par madame Calvez et moi-même et les députés qui voudront bien éventuellement nous rejoindre. Merci beaucoup.

Merci beaucoup monsieur le député. Merci pour cette invitation. Donc pour préparer euh cette audition, un questionnaire m'a été envoyé et donc je l'ai travaillé ces derniers jours.

Pour répondre à votre première question, je dirais que l'émergence de l'intelligence artificielle générative doit être considérée à la fois comme un tournant et comme la prolongation de la dynamique technologique à l'œuvre depuis de siècles. Les outils, si on réfléchit à long terme, ont d'abord été des prolongements du corps. Puis assez récemment, il y a deux siècles ou deux tr ou trois siècles, est apparue la machine qui a rompu le lien direct entre le corps et ce qui est obtenu et qui a marginalisé le rôle du corps dans le processus de production.

L'intelligence artificielle a commencé par constituer un auxiliaire pour la pensée. Mais avec ses développement récents, elle tend à devenir ce qui est la machine à l'outil. non plus un impindice à qui prolonge les facultés de la pensée, mais une puissance autonome. et de même que la machine par sa puissance peut humilier les capacités corporelles, l'intelligence artificielle peut en venir par sa puissance propre à humilier la pensée humaine.

Plus précisément à engager la pensée humaine pour un nombre toujours croissant de tâches, y compris paresse ou facilité pour des tâches que nous serions tout à fait à même de réaliser sans ell à s'en remettre à elle. Et la menace qu'elle porte est celle d'une involution. L'intelligence humaine en vient à élaborer avec l'intelligence artificielle générative un instrument qui en la dispensant dans bien des cas de continuer à s'exercer la fait régresser.

J'aime bien citer à cet égard une phrase de Louis Aragon à la fin des années 60 qui avait parfaitement anticipé le processus. Je le cite ici. Le progrès réside moins dans l'habileté du robot que dans la démission de celui qui s'en sert.

Mais ce progrès qui me prive d'une fonction peu à peu m'amène à en perdre l'organe. Plus l'ingéniosité de l'homme sera grande, plus l'homme sera démuni des outils physiologiques de l'ingéniosité. Ces esclaves de fers et de fils atteindront une perfection que l'homme de chair n'a jamais connu tandis que celui-ci progressivement retournera vers la MIB.

Fin de citation, on a une forme d'extériorisation de l'ingéniosité humaine qui risque de faire dégénérer, comme le dit bien Aragon, l'ingéniosité, notre ingéniosité native. Alors, est-ce qu'on peut considérer les intelligences artificielles comme des formes d'intelligence ? Tout dépend de ce que l'on appelle intelligence. jusqu'à une date récente, la référence en matière d'intelligence était l'intelligence humaine.

Il y avait presque une redondance entre dire intelligence et intelligence humaine. Lorsqu'est apparue la conviction que les différentes performances de l'intelligence humaine pourrai être simulé par des machines, qu'on s'est mis à parler d'intelligence artificielle puisque pour la première fois des machines étaient capables de réaliser des performances dont seuls auparavant les êtres humains étaient capables. Et puis au cours des dernières décennies, la référence humaine s'est estompée et désormais on parle d'agents intelligents à propos de tout système naturel ou artificiel. qui interagit avec son environnement en tire des informations qu'il utilise de façon à maximiser ses chances de succès dans les buts qu'il poursuit ou qui lui sont assignés.

Donc à ce moment-là, l'intelligence a pris un sens beaucoup plus général. L'amibe a son intelligence, les fourmis ont leur intelligence, les fourmilières, les humains, les nations, les entreprises, enfin à peu près n'importe quoi peut avoir de l'intelligence et désormais donc de nombreuses machines aussi. Et dans ce cadre, l'intelligence artificielle se trouve émancipée du modèle humain dont elle tiraguère son nom.

D'un côté, les intelligences artificielles se révèlent aujourd'hui capables de certaines performances inaccessibles à l'humain. D'un autre côté, nombre de compétences humaines demeurent hors d'atteinte pour les machines et les dites intelligences artificielles réalisent leur performance. Et là, c'est une grande différence avec ce qui se passe pour l'humain sans en passer par ce qui nous semble constituer un critère décisif de l'intelligence, à savoir la compréhension.

Et pour bien faire saisir ce point, je vais donner un exemple. Il y a 2 ans, le mathématicien Jean-François Colona à l'École polytechnique a eu l'idée d'interroger chat GPT sur certains énoncés mathématiques. Après avoir obtenu des énoncés correctes des grands et moyens et des grands et petits théorèmes de Ferma énoncé au 17e siècle, il a eu l'idée de demander à Chat GPT quel était le moyen théorème de Ferma.

L'agent conversationnel au lieu de répondre qu'il y a bien un grand théorème de ferma, un petit théorme de pharma qu'il n'existe pas de moyen théorème de ferma, s'est mis à inventer des énoncés tous plus fantaisistes les uns que les autres, dont celui-ci que je cite "Si A et B sont deux nombres entiers consécutifs, alors il existe au moins un nombre premier P tel que A plus petit que B plus petit que P strictement plus petit que P strictement plus petit que B, c'està-dire entre deux nombres entier consécutif, on peut toujours intercaler un nombre premier. Bon, c'est un énoncé qui est complètement absurde et qui montre que la machine n'a aucune compréhension de ce qu'est un nombre puisque enfant de l'école primaire qui a compris ce que c'est que deux nombres consécutifs, c'est que par définition, on peut rien, on peut pas mettre de nombre entre les deux. Alors bien entendu, une erreur aussi grossière peut-être corrigée, mais pas ce qu'elle révèle, à savoir que la machine va de la question qu'on lui pose à la réponse qu'elle donne sans en passer par la compréhension.

Je pourrais multiplier les exemples. Mon petit garçon de 2 ans après avoir vu deux chats dans sa vie, c'est reconnaître les chats alors qu'une machine a besoin qu'on lui montre des centaines de milliers d'images de chats pour être capable plus ou moins d'identifier. Et donc en fait, vous voyez que les l'intelligence artificielle peut simuler un certain nombre de compétences humaines, mais les moyens qu'elle utilise pour le faire sont tout à fait différents et d'un point de vue humain, on pourrait dire ça ça se fait sans intelligence.

Alors, notre position à à l'égard de cette intelligence artificielle est nécessairement équivoque puisque d'un côté, sans remettre à elle, à croit encore un peu plus notre assujestissement à la technologie. Mais d'un autre côté, il faut reconnaître aussi qu'elle nous offre un moyen de nous frayer un chemin dans un monde qui est devenu largement technologique au biotope naturel. C'est substituer pour les habitants des grandes villes que beaucoup d'entre nous sommes un sorte de technotope qui prend de cours nos facultés naturelles.

La l'intelligence artificielle offre aussi au pouvoir public des moyens d'organisation et de gestion d'un monde devenu trop complexe pour que l'intelligence l'intelligence humaine puisse s'y retrouver. Donc tel est un grand dilemme aujourd'hui ou bien chercher à s'adapter au mieux au monde tel qu'il est. Et à ce moment-là, on a besoin absolument d'intelligence artificielle ou bien chercher à ne pas dépendre trop étroitement de dispositifs qui échappent à notre contrôle et qu'il s'il viennent à faire défaut nous laisseront complètement démunis.

Voilà. Sur le plan économique, je peux faire une comparaison. On peut chercher l'efficacité maximale en étendant les chaînes de valeur à la terre entière.

On peut rechercher également une certaine autonomie, une certaine souveraineté qui s'avère vitale en cas de crise. L'épisode Covid était un très bon exemple de ce de ce point de vue-là qui a montré les vulnérabilités induites par le fait de de chaînes de valeur étendu à la à la terre entière au moment où les communications ne fonctionnent plus. Je donne un autre exemple.

La Suède est un des pays du monde où l'argent physique a le plus régressé, mais la tension croissante avec la Russie a augmenté le risque d'une cyberattaque qui paralyserait les systèmes de paiement numérique. C'est bien que le gouvernement suédois a demandé à ses citoyens de toujours garder chez eux quelques centaines d'euros en billet pour être en mesure de traverser une crise de cet ordre. Parce que sinon une cyberattaque qui paralyserait le système bancaire et bien paralyse absolument tous les échanges dans le pays.

En règle générale, la technologie augmente à la fois la puissance et la vulnérabilité. Par ailleurs euh si je veux développer sur les risques posés par l'intelligence artificielle, je dirais ceci. Michel Ser s'émerveillait du fait que lorsqu'un verre de l'énéïde lui revenait en tête, la localisation exacte de ce verre dans l'œuvre qui Naguer aurait réclamé une longue recherche, voire une journée entière à la bibliothèque était donné quasiment instantanément par Google.

Ce qui semblait échapper à Michel Ser, c'est que son goût pour Virgile s'était formé dans une jeunesse sans smartphone et que l'usage qu'il faisait de Google pour retrouver un verre de l'éïde demeurerait toujours étranger à quelqu'un ayant grandi en symbiose avec des applications mobiles TikTok et maintenant l'agent conversationnel GPT. Ça n'est jamais en conversant avec l'agent conversationnel GPT qu'on apprendra le latin. Internet et l'intelligence artificielle ont tendance à enrichir les riches en bagage culturel et à appauvrir les pauvres et ont aussi tendance à fabriquer des générations de pauvres, queles que soient leurs origines, trop dépendant qu'elles sont, de leur prothèse cognitive pour en faire un usage intelligent.

Alors à l'inverse, il faut aussi reconnaître que ce coupé de l'intelligence artificielle pourrait être très dangereux. Par rapport à la technique qui est aussi vieille que l'humanité, je réserve le terme de technologie à une nouvelle classe de techniques apparu récemment dans l'histoire. des techniques qui ne pourraient être conçues et mises au point sans les sciences mathématiques de la nature.

La technologie, c'est de la technique qui a besoin d'équation mathématique. Depuis le 19e siècle, la technologie est devenue la principale source de puissance et je suis tombé un jour sur ces propos d'un chinois que l'hostilité de l'impératrice Sikchi avait forcé à l'exil en Australie. Nous sommes en l'an 1900 et ce chinois écrit ceci à un ami resté au pays.

Les merveilles de ce pays et des nations occidentales nous sont pour la plupart inconnues et nous paraissent incroyables. Toutes ces merveilles rendent-elles les gens plus heureux ? Il est difficile de répondre à pareilles questions.

Ce qui est certain, c'est que le genre humain progresse dans la connaissance et que ceux qui ne suivent pas le rythme des nations les plus avancées se retrouvent victimes de ces nations comme nous l'avons été. Qu'est-ce que le bonheur ? En tout cas, ce n'est pas le bonheur d'être soumis à la volonté d'étranger et spolier de son territoire.

Pour être heureux, il faut être fort. Pour être fort, il faut disposer de richesses. Avec des richesses, il est possible de s'armerin de se défendre et d'être respecté.

C'est pourquoi nous devons recourir aux moyens occidentaux, aux machines et à la science qui produisent les richesses et donnent du pouvoir. Fin de citation. C'est écrit en 1900 par un Chinois et on ne peut pas comprendre la la frénésie avec laquelle les Chinois se sont lancés dans la course technologique après la Seconde Guerre mondiale sans la volonté de revanche sur ce qui passe en Chine pour être le siècle de l'humiliation entre le début de la Première Guerre de l'opium en 1839 et les lendemains de la Seconde Guerre mondiale.

Aujourd'hui, ce qu'on appelle l'intelligence artificielle est une pointe avancée de la technologie qui ne la maîtrise pas, s'expose à un sort comparable à ce que connurent les contrées qui au 19e siècle n'avaient que des sabres et des arcs à opposer aux fusils et aux canons sortis des des assieries industrielles. Et on retrouve toujours le même dilemme entre la puissance immédiate qui nécessite la maîtrise technologique et la robustesse à long terme qui nous met à merci de de situations où la technologie nous ferait défaut. Alors, pour ce qui est d'une question qui m'intéresse au premier chef, c'est-à-dire l'intelligence artificielle dans l'éducation, euh dans les le questionnaire qui m'a été envoyé sont cités les propos de madame Audrey Azouet qui dit en qui dit en particulier l'IA offre des opportunités majeures pour l'éducation à condition qu'au que son déploiement à l'école soit guidé par des principes éthiques clairs.

Alors, je ne peux que répéter ici ce que j'ai dit sur la technologie qui enrichit les riches et qui appauvrit les pauvres. L'usage qui sera fait de l'intelligence artificielle sera d'autant plus intelligent que l'intelligence aura été éduquée sans elle. Sinon, on fabrique des infirmes.

Par ailleurs, quand on se met à invoquer des principes éthiques clairs, c'est invariablement pour justifier une iniquité. Plus tard et sont cités les propos de monsieur Emeric Rouchet, ingénieur en IA, qui considère que l'IA permettrait de nous décharger du besoin de connaissances académiques. La priorité pour les étudiants ne sera donc plus d'accumuler les connaissances, mais de faire preuve de créativité et d'adaptibilité. et en particulier, monsieur Rouchet considère que l'accent sera moins mis sur le parcœur.

Alors, j'avoue ne pas savoir ce qui permet à monsieur Rouchet d'affirmer que la priorité dans l'enseignement d'aujourd'hui est d'accumuler des connaissances et d'exiger le parker puisque cela fait des décennies maintenant que sont en vigueur les dogmes pédagogiques selon lesquels il ne faut pas apprendre mais apprendre à apprendre et qui ont réduit le parcœur à pratiquement rien. En vérité, cette opposition de l'apprendre et de l'apprendre à apprendre est absurde dans la mesure où il n'y a pas meilleur moyen d'apprendre à apprendre que d'apprendre tout court. Comme on dit que c'est en forgeant qu'on devient forgeron, c'est également en apprenant qu'on apprend à apprendre.

Il ne devrait pas s'agir à l'école d'entendre parler d'un peu tout, mais d'apprendre bien un nombre limité de choses. Aussi apprend-on ce que c'est qu'un vrai savoir et cela forge le jugement ensuite dans tous les domaines. Michel Ser que j'ai déjà cité annonçait la ruine de l'intelligence telle que nous la concevions par le déploiement des nouvelles technologies.

Je le cite sur internet. Faut-il encore une tête bien faite peut-être se fera mieux pied bien desmerdard. Je lui laisse ses expressions.

Voila la définition de l'intelligence aujourd'hui. C'est un nouveau départ avec des chances également réparties. L'homme se promènera dans le volume de l'information comme il se promène dans les forêts et les montagnes pour explorer le monde physique.

Jusqu'ici, le savoir était le un lieu d'apprentissage de la déduction, de l'induction de la mémoire. Il devient aujourd'hui un lieu de promenade. Fin de citation.

Le problème est qu'en se promenant dans les savoirs, les savoirs ou bien sont oubliés si tôt que rencontrés ou bien s'accumulent en tas au lieu de prendre place dans l'architecture qui leur donne sens. Par ailleurs, ce n'est pas en ayant un pied bien démerdard pour reprendre l'expression de ser que les instruments dont ils s'enchantent peuvent être élaborés, entretenu, amélioré et utilisé de façon féconde. Sans l'apprentissage de la déduction de l'induction de la mémoire que Ser déclare dépassé, tout l'édifice est promu à une ruine très rapide.

Utiliser l'intelligence artificielle est une chose, être capable de l'élaborer et de la développer, çaen est une toute autre et ce n'est précisément pas dans l'usage de l'intelligence artificielle qu'on apprend les principes qui permettront de penser, qui permettront de l'élaborer. Dans son ouvrage intitulé l'homme des mantelés, le jeune Baptiste de Tombe a bien exposé la tragédie de nouvelle génération livrée aux ogres numériques. Ces ogres devraient être tenus à distance et pour cela l'entreprise doit être collective sans quoi les personnes qui s'efforce de limiter la place prise par les dispositifs numériques peuvent toujours être accusés de prétendre imposer un point de vue personnel.

Les parents, par exemple, sans support social se trouvent démunis. Il appartient à la politique de quitter la simple gestion des affaires courantes pour se préoccuper de questions fondamentales concernant les modes de vie qui s'imposent à tous. sans que personne n'ait été consulté.

La Chine ou l'Australie sont deux pays très différents mais qui se rejoignent dans le fait d'avoir pris des mesures en ce sens. L'intelligence artificielle n'a pas à être diabolisée mais démystifiée et ce qui permet d'illustrer ses possibilités, ses limites et ses dangers et sans doute dans le cadre scolaire bienvenu. Mais quant à son usage par les jeunes, pour leur bien propre, il devrait être extrêmement euh parsimonieux.

Alors dans le questionnaire qui m'a également adressé et fait référence à des de nouvelles écoles qui se développent aux États-Unis comme l'Alpa School à Austin où les élèves consacrent seulement 2 heures par jour en matière classique qu'ils étudient avec des logiciels d'intelligence artificielle. Alors que pensez de ce type de d'initiative ? Une chose à prendre en compte est l'état extrêmement dégradé de l'enseignement dans les pays occidentaux.

Anna Harent qui avait été éduqué en Allemagne fut en arrivant aux États-Unis par le faible niveau des écoliers américains. Et dans son texte intitulé La crise de l'éducation, elle écrit ceci : "La réponse à la question de savoir pourquoi le petit John ne sait pas lire ou à la question plus large de savoir pourquoi le niveau scolaire de l'école américaine moyenne reste tellement en dessous du niveau moyen actuel de tous les pays d'Europe." Cette réponse n'est malheureusement pas que ce pays est jeune et n'a pas encore rattrapé le vieux monde, mais tout au contraire que dans ce domaine, ce pays est le plus avancé et le plus moderne du monde.

Fin de citation. Et depuis 1958 où Arent rédigeait ce texte, la France s'est considérablement modernisée et l'école française a rattrapé son retard sur l'école américaine. Alors pour juger d'une initiative comme l'Alpha School, tout dépend du point de comparaison que l'on prend.

Dans la situation actuelle, il est fort possible que des écoles de ce genre aient leur vertus. Je note d'ailleurs dans la réflexion citée d'un élève de cette école ce propos. On n'est pas freiné par ses camarades ou par ce que le professeur enseigne.

Fin de citation. Il se trouve que depuis trop longtemps en Occident et particulièrement en France, l'obsession qui domine la question de l'école est uniquement d'éviter tout échec scolaire. en résulte un abaissement perpétuel du niveau.

Il est regrettable qu'il faille aujourd'hui recourir à l'intelligence artificielle pour essayer de le relever un peu. Mais encore une fois, dans l'état actuel, je ne peux pas exclure que ce recours puisse dans certains cas se révéler, donner de meilleurs résultats que l'école dans la dans l'état où elle est actuellement. Voilà.

Bah, peut-être que je vais m'arrêter ici et puis Ah, je vais y arriver. Merci pour ce propos introductif. Je vais laisser la parole maintenant à madame Calvez, rapporteur de la mission.

Merci monsieur le président. Merci beaucoup monsieur Olivier pour ses développements ordonnés clairs sur ses propos sur l'intelligence. Vous avez fait référence à l'éducation. l'éducation qui est au cœur de notre sujet de mission d'information.

Vous avez fait la référence entre apprendre, apprendre à apprendre que nous étions aujourd'hui déjà assez éloignés de l'apprendre par cœur. Euh vous avez terminé votre propos sur le le le progrès, la promesse de progrès possible par l'intelligence artificielle. Quelle réflexion vous avez sur l'individualisation ou la préservation d'un collectif que permettrait cette utilisation de l'intelligence artificielle ?

Est-ce que l'on va de plus en plus vers une individualisation de la société que permettrait l'intelligence artificielle ou au contraire une plus grande collectivisation de des connaissances ? Je fais référence aussi à ce que vous avez pu un peu plus tôt au niveau du de la distinction entre l'interdépendance des nations et puis les souverainetés possibles au niveau économique et technologique. Demain avec Lia, sera-t-on plus individualiste ou plus capable de vivre ensemble ?

Une des caractéristiques des agents conversationnels est qu'à quelques questions qu'on leur pose, ils ont toujours une réponse à donner, ce qui n'est pas mon cas et il y a beaucoup de questions à laquelle je me sens bien en peine de de répondre. Je pense que une chose à laquelle il faut être attentif aussi, c'est que nous avons tendance et c'est bien normal à parler de l'intelligence artificielle au singulier alors qu'en fait il faudrait plutôt parler d'intelligence artificielle au pluriel parce que à chaque fois quand on parle d'intelligence artificielle on fait référence à un certain dispositif technologique et ces dispositifs technologiques sont extrêmement nombreux. Donc, il y a énormément de de variétés d'intelligence artificielle.

C'est déjà une des raisons pour lesquelles il est difficile de de répondre en général sur la question de de l'individualisme ou du commun. On pourrait imaginer que si tout le monde ça se par exemple se s'adresse pour toute question à une à une seule sorte d'intelligence artificielle, il va y avoir une certaine homogénéité des réponses et quand bien même chacun interrogerait l'intelligence artificielle de manière individuelle, il en résulterait une sorte de commun dans la la ressemblance de toutes les réponses qui seraient obtenues. Une autre possibilité, c'est que différentes intelligences artificielles se se développent et que au contraire on aboutisse à une fragmentation de l'espace commun qui est un peu qui ressemble un peu à ce qui se passe déjà sur internet où chacun va choisir ses canaux d'information qui les canaux d'information qui correspondent déjà à ces convictions et que donc à ce moment-là se crée au lieu d'un espace commun une jueosition une jposition de de non pas d'espace individuel mais d'espace regroupant des groupes d'individus qui s'homogénéisent par aujourd'hui leur canal d'information et peut-être demain par le le le dispositif d'intelligence artificielle auquel auquel il s'adresserait actuellement.

C'est un c'est un monde qui est extrêmement mouvant et donc en fait je trouve qu'il est assez difficile aujourd'hui de savoir si on se dirige vers une situation de quasi monopole ou bien si comme par exemple Google a pu le le l'obtenir dans le dans le domaine des moteurs de recherche ou bien si on se dirige vers un certain nombre d'intelligences artificielles en concurrence les unes avec les autres. Chat GPT a fait beaucoup parler de lui parce qu'il a été un des premiers euh agent conversationnel assez performant lancé sur le marché mais il a des concurrents et je pense qu'il est difficile de savoir ce qu'il en sera dans la suite. Euh merci beaucoup.

Vous avez parlé justement d'Internet et des défis que ça créait par rapport à l'information, la création de bulles informationnelles. Pour vous, ce que l'on peut constater aujourd'hui, dans quelle mesure ça peut être décuplé, qu'est-ce qui peut être considéré comme différent avec l'air des intelligences artificielles par rapport au défis déjà que l'on que l'on constate aujourd'hui sur l'information ? J'ajouterai à ça la question de la vérification.

Quel quelle est le la possibilité de vérifier les source dans une multiplication des contenus générés grâce à aux IA ? Quel est le défi et quels sont selon vous les principes à prendre en compte pour que les désordres informationnels actuels ne soient pas plus aggravés par les intelligences artificielles ? Actuellement, les intelligences artificielles sont déjà à l'œuvre et elles ont dans le domaine informationnel leur principale utilisation, c'est de sélectionner les informations à envoyer aux personnes selon leurs historiques de navigation, les intérêts qu'elles ont manifesté par le passé pour leur envoyer ce qui est suc suceptible de leur plaire et donc de les conforter dans leur dans leur conviction.

Et de ce point de vue-là, l'intelligence artificielle peut-être un monstrueux instruments euh pour enfermer les enfermer les personnes dans ce qu'on appelle oui aujourd'hui des des bulles des des bulles cognitives. Bien entendu, l'intelligence pourrait être utilisée pour crever pour faire pour faire crever ces bulles en précisément comment dire déconstruisant la manière dont elles ont été élaborées. Cela étant, j'ai j'ai entre le glève et le bouclier, je pense que le l'utilisation de l'intelligence artificielle risque d'aller beaucoup plus dans le sens de l'exploitation du public que dans celui de de son élévation.

Euh j'avais noté une phrase de de Simon Veille euh si je la retrouve. Oui, voilà, c'est ça. Simon Veille qui disait d'une manière tout à fait générale en toute espèce de domaine, il est inévitable que le mal domine partout où la technique se trouve soit entièrement, soit presque entièrement souveraine.

Voilà, ça résume ma position sur la question. mange pas. Bon, je garderai le droit dessus mais c'est pas c'est pas normal.

Bon, peu importe. Donc, je visais revenir au à votre proposiminaire. Dans un premier temps, vous nous vous citez des auteurs et puis vous exprimez semble-t-il la conviction que euh la technologie poussé à enfin à son niveau actuel euh on arriverait à humilier la pensée.

Et dans un second temps, quelques phrases plus tard, vous avec deux exemples, un tiré des mathématiques et l'autre des chats, n'est-ce pas ? Vous montrez en fait que l'intelligence artificielle n'est pas intelligente puisqu'elle ne comprend pas ce qu'elle fait. Elle ne fait que chercher des des milliers ou des millions à une vitesse extraordinaire d'information pour nous les restituer.

Donc finalement, il y a pas de problème puisque l'intelligence artificielle n'est pas intelligente. Qu'avons-nous à craindre ? Non, mais ce n'est que la l'intelligence artificielle allait de la question à la réponse sans passer par la compréhension, mais cela ne veut pas dire que la réponse qu'elle fournit un certain type de question ne soit pas tout à fait tout à fait satisfaisante.

Donc, elle peut donner des réponses satisfaisantes sans pour autant sans pour autant être intelligente. Et le risque précisément c'est que puisque elle fait ça si bien et sans qu'on est à se fatiguer et bien on se confie y compris pour les tâches que l'on pourrait remplir parfaitement soi-même à elle et que à ce moment-là on fasse dégénérer ses propres facultés de ne plus les de ne plus les les employer. Bon voilà, se développe aussi actuellement quelque chose qui est tout à fait fascinant qu'un de mes collègues appelle l'agnostic science, la la science sans connaissance.

Et donc je vais donner un exemple euh pour la prédiction des ouragans qui est qui est quand même qui a quand même de gros enjeux. Jusqu'à maintenant, ce que l'on faisait, c'est que on se confiait au modèle mathématique que l'on avait des mouvements, des masses d'air dans l'atmosphère et qu'on nourrissait avec les relevés de station météo. Et puis on demandait à un ordinateur de calculer à partir des relevés météo des stations à un certain moment donné compte tenu des équations de qui régissent les mouvements de l'atmosphère, d'essayer de prédire ce qui va se passer.

Bon, étant donné que ce système d'équation est ce qu'on appelle en mathématique un système chaotique, les résultats ne sont pas très bons. C'est le moins qu'on puisse dire. Mais en fait ce qui se passe aujourd'hui c'est que maintenant que l'on a des décennies d'enregistrement de la situation de l'atmosphère en fait maintenant on a mis ça dans des machines et les machines sont capables avec leur capacité de calcul de repérer des corrélations à travers des milliards et des milliards de données et finalement de donner des prédictions qui ne sont pas excellentes mais qui s'avèrent malgré tout meilleur que celles qu'on obtenait auparavant.

Mais en fait dans le modèle précédent, on comprenait ce que l'on faisait pour obtenir des résultats qui étaient ce qu'ils étaient. Aujourd'hui, en fait, on a un mécanisme où on ne comprend rien de ce qui se passe mais où on obtient des résultats qui sont un peu meilleurs que qu'auparavant. Et là, on a ce paradoxe, vous voyez, d'une science occidentale qui s'était euh développée pour comprendre le monde et qui là au nom de de de l'efficacité des prédictions peut complètement laisser tomber la question de comprendre le monde.

Tout ce qui m'intéresse, c'est d'avoir un résultat plus ou moins plus ou moins fiable. Et ça, c'est le modèle de ce qui peut nous arriver. C'est-à-dire que en fait les machines tout en étant non intelligentes peuvent nous fournir les des des résultats qui nous dissuade de nous faire fonctionner notre intelligence pour les obtenir.

Euh merci beaucoup. Quand on parle de connaissance, j'aimerais qu'on puisse se dire que les connaissances sont une manière d'alimenter les modèles d'IA, mais les modèles d'IA aussi pourraient nous conduire à produire de la connaissance. On a dans le domaine culturel des questions sur l'utilisation en amont d'œuvres, de connaissances qui sont parfois utilisé sans autorisation, sans rémunération et qui aboutissent à ce que l'on puisse entraîner les modèles d'IA.

Et ces modèles d'IA permettent parfois à chacun d'entre nous devenir un créateur en l'espace de quelques minutes d'utilisation. On peut aboutir à la création d'une vidéo, à la création d'une chanson, à la création d'un texte. Euh comment voyez-vous euh le parallèle entre l'utilisation des connaissances en amont et la validité des connaissances qui sont issues de notre utilisation des intelligences artificielles ? retrouver aussi une un propos de Peggy en 1907 qui écrivait ceci : "En réalité, avec un appel imperturbable et qui est peut-être sa seule invention et tout ce qu'il y a de lui dans l'ensemble du mouvement, le monde moderne vit presque entièrement sur les humanités passées qu'il méprise et fin d'ignorer, dont il ignore très réellement les réalités essentielles don dont il n'ignore point les commodités, usage, abus et autres utilisations.

Seule fidélité du monde moderne, c'est la fidélité du parasitisme. Fin de citation. Alors, on peut discuter du PEGI, on peut discuter pareil affirmation, mais le moins qu'on puisse dire est que l'intelligence artificielle générative pousse le parasitme à son comble.

Elle qui dépend entièrement des contenus créés par des humains avec laquel lesquels on l'a nourri et entraîné. Et donc on peut s'émerveiller des des créations de de l'intelligence artificielle, mais on s'émerveille d'autant plus qu'on oublie que pour arriver à ces créations, en fait, elle exploite un fond absolument gigantesque de ce qui a été créé par les humains. Et donc en fait, on dissimule la source et puis ensuite on s'émerveille de de de ce qui est produit en oubliant que ça n'est jamais que du réagencement de ce qui avait été produit auparavant.

Alors, une question euh se pose si l'intelligence artificielle en vient au fil de ces développements à rabourrir les intelligences humaines et à se trouver en situation de quasi monopole sur la création, elle n'aura plus rien à piller sinon ses propres productions et le système périclitera voire s'effondrera. Et ce que je dis là n'est problèmes que rencontrent ceux qui entraînent les les intelligences artificielles. trouver un corpus très parce que comme je le disais les intelligences artificielles comme ell elles procèdent essentiellement de façon statistique pour produire quelque chose de satisfaisant elles ont besoin d'un d'un champ d'entraînement immense et euh et en fait aujourd'hui bah justement pourquoi il y a des batailles sur ce à quoi on a accès ou pas ?

C'est parce que ceux qui entraînent ces intelligences artificielles touchent les limites de de du champ d'entraînement et essae encore de de encore de l'étendre. Mais si on imagine que au bout d'un moment ces intelligences artificielles encore une fois en viennent à être les la source de la la majorité des productions, et bien au bout d'un moment, elles n'auront plus qu'elles-mêmes à à copier et à ce moment-là, le système se boucle sur lui-même et peut devenir enfin très vite sans sans sans intérêt. Et donc en fait là, nous sommes dans une période où l'intelligence artificielle peut d'autant plus produire des choses intéressantes que elle a elle elle s'appuie sur un une production humaine accumulée par les siècles euh extrêmement grande et qu'elle peut exploiter.

Mais si a l'alimentation se tarie euh bah en fait les performances de l'intelligence artificielle de ce point de vue-là baisseront aussi énormément. Alors là, on a parlé beaucoup de l'intelligence artificielle générale, c'est les agents conversationnels et cetera dont dont tout un chacun peut peut faire l'usage dans sa vie. Euh il faut faire attention aussi au fait que l'intelligence artificielle a des aages tout à fait spécialisés dans certains domaines qui peut eux se révéler extrêmement puissant et extrêmement intéressant.

Il y a eu un prix Nobel qui a été euh décerné pour des gens qui ont réussi à à comprendre la manière dont se se constituait les différentes protéines, lesquelles pouvaient se constituer et et pas d'autres. Et ça, ça aurait été totalement inatteignable sans de l'intelligence artificielle. Mais là, c'est de l'intelligence artificielle dirigée qui est développée véritablement pour résoudre un problème particulier que l'on aurait été absolument incapable de résoudre sans elle.

Donc en fait encore une fois il y a pas l'intelligence artificielle, il y a des intelligences artificielles avec des usages extrêmement divers qui ne pose pas du tout les mêmes problèmes ni les mêmes questions selon les domaines. Merci beaucoup. Alors, vous venez de terminer votre propos justement sur ce que l'intelligence artificielle peut nous permettre d'atteindre dans la connaissance des sciences et c'est plutôt positif, on peut on peut on peut s'en réjouir.

Si je reviens un petit peu sur votre propos avec cette soif des modèles d'IA pour des nouveaux contenus, est-ce que demain on pourrait imaginer que ceux qui développent des modèles d'IA demanderaient à des humains de créer et pourrait même les rémunérer pour pouvoir justement en nourrir ? Est-ce que les créateurs d'IA ne sont pas les messes pour les artistes de demain ? Écoutez, tout est là vraiment tout est possible.

Je n'en je n'en sais rien pour l'instant. on est plutôt dans la dans la période du pillage. Il se peut justement que le pillage et atténance et limite.

Effectivement, il faudra à nouveau faire appel à des humains et peut-être que c'est dans l'interaction entre des humains et des intelligences artificielles que quelque chose d'intéressant pourrait se pourrait se s'élaborer. Pour ce qui est de des productions avec l'intelligence artificielle, il est également très difficile d'en d'en juger de manière générale parce que vous avez des personnes qui peuvent engendrer des œuvres tout à fait originales à partir de matériaux qu'ils ont obtenu par l'intelligence artificielle. Et puis à l'opposé, vous avez des gens simplement qui vont faire tourner des intelligences artificielles dont ils vont revendiquer ensuite les productions comme étant des œuvres des œuvres personnelles.

Puis vous avez tous les intermédiaires. C'est pour ça que effectivement pour la question des droits là à ce point de vue là, c'est un castetê un castet épouvantable parce que de toute façon tout artiste travaille avec des matériaux et on demande pas au peintre d'avoir forcément fabriqué toutes ces couleurs. Il a pu aller les acheter chez un marchand de couleur.

Et bien en fait certains matériaux fournis par l'intérieur artificielle peuvent être utilisés aussi par des artistes en tant que en tant que matériaux. Et en ce point de ce point de vue-là, ça ne ça ne veut pas dire que il y a pas d'acte créateur ensuite. Après, dans d'autres cas, ça peut être vraiment simplement une signature qu'on met en bas de quelque chose dans lequel on est très peu intervenu.

Donc là, je c'est vraiment des castets juridiques dans lequel ce serait un cauchemar pour moi d'entrer. Bien, monsieur Ren, nous allons conclure euh maintenant ce cet échange. Nous allons vous remercier pour la clarté de vos propos.

Vous avez bien éclairé la mission. Nous commençons. Vous êtes le premier.

Donc on se rose aussi un petit peu hein, mais c'était tout à fait passionnant. Donc merci infiniment. Euh donc la nous allons accueillir maintenant monsieur Éric Sadin, philosophe qui va prendre le relais.

Merci beaucoup. peut rajouter quand même encore un un tout petit mot en matière d'éducation. On a parlé brièvement de de l'initiative Alpha School aux États-Unis.

Euh je pense que un des problèmes en Occident général et en France en particulier, c'est le c'est une forme de d'uniformité des modèles. Dans l'éducation nationale en France, c'est particulièrement net où il faut l'idéal ce serait que dans toutes les écoles de France, on fasse la même chose au même moment. Enfin, en tout cas, c'était l'idéal de de Jules Ferry.

Et je pense que par exemple, vous voyez une initiative comme l'Alpha School, je trouverais ça désastreux que ce soit pris comme modèle pour l'école française mais en même temps, je trouverais ça intéressant que certaines écoles en France suivent ce ce modèle, ce qui permettrait de comparer ensuite les résultats et indépendamment de cela, cela des écoles différentes pourraient former, développer des talents différents et cette diversité des talents pourraient profiter à la société euh entière. Alors que si tout le monde se bat pour imposer à l'école ce qu'il a en tête, finalement on aboutit souvent à une côte euh mal taillée qui ne satisfait qui ne qui ne satisfait personne. et de ce point de vue-là, je serai assez favorable à des à des essais, à des tentatives de de de scolarité alternative euh qui pourrait euh soit s'imposer parce qu'elles sont meilleures, soit simplement euh créer une diversité là où il y a trop d'uniformité.