L'IA va-t-elle nous rendre stupides ?

J'ouvre le second débat de ce sens public volontairement décalé de l'actualité du jour avec cette question : "L'intelligence artificielle va-t-elle nous rendre idiot en lui confiant de plus en plus de tâches ? Sommes-nous en train d'accélérer un déclin cognitif de l'humanité ? Avant d'en débattre, première réponse avec des avis différents en image.

C'est Jérôme Ravier. Elle fait désormais partie de nos vies, parfois même sans qu'on le sache. L'intelligence artificielle se répand dans de nombreux outils personnels ou au travail, mais des scientifiques alertent sur le risque de déclin de nos capacités.

Une théorie vulgarisée par le médiatique médecin Michel Simes. Mais si on fait tout faire par l'intelligence artificielle et qu'on regarde des réponses sans réfléchir, on va avoir un cerveau plein de neurones mais qui auront très peu de connexion entre elles puisque on ne fera rien par nous-même. En fait, c'est très pédagogique.

On comprend très bien ce que sont les neurones en les expliquant. Une vidéo devenue virale pour Michel Sim. S'il y a fait trop, notre cerveau risque d'être au ralenti.

Il ne fait que lire quelque chose qui a été mâché par quelqu'un d'autre, par une machine en l'occurrence. Donc vous ne faites pas tout le travail nécessaire pour avoir les connexions et donc finalement bah votre cerveau il sert plus à rien ou en tout cas les zones de réflexion ne sert plus à rien et finalement les neurones ne se connectant pas vous êtes pas capable de réagir. C'est de la paresse intellectuelle qui fait qu'effectivement le cerveau il va finir par rétrécir.

Mais certains prôent l'usage de l'IA notamment dans le travail pour gagner en compétitivité par exemple pour créer une fiche de poste en quelques secondes. Euh donc en quelques secondes, il me propose une trame de fiche de poste. Le résultat, il est assez générique et maintenant effectivement je vais le relire, l'améliorer.

Une première version sur laquelle moi je vais apporter aussi mon savoir et mon expertise. Cfondatrice d'une académie dédiée à l'IA, l'orquezi veut battre en brèche l'idée d'une IA qui rend passif. On a eu ces débats là au moment où est arrivé la calculatrice.

On s'est dit on va plus savoir compter avec Lia. C'est aussi une grande opportunité d'accès au savoir euh qui est démultiplié, mais il est extrêmement important de savoir bien se positionner par rapport aux informations qu'on va recevoir. Une utilisation de l'intelligence artificielle mais avec du recul et une éducation à son usage.

Sinon, les inégalités pourraient se creuser entre ceux qui la maîtrisent et les autres. L'enjeu, il est aussi sur les plus jeunes, les nouvelles générations pour qui il est important quand même d'acquérir les bases de compétences, les réflexes pour pouvoir derrière euh s'améliorer et gagner en performance grâce à l'IA, mais ne pas prendre des raccourcis et des courtscircuits qui pourraient être dangereux derrière dans la maîtrise de leur savoir. Nous avons besoin de nous sommes des êtres humains et nous avons besoin de réflexion et que la machine ne peut pas réfléchir à notre place.

Donc oui, il va falloir apprendre à se servir de ce que l'intelligence artificielle peut nous donner et à la mettre de côté si elle finit par nous rendre débile. Parce que c'est ça la question un peu inquié de vision de l'IA qui peuvent se mettre d'accord sur le fait que c'est d'abord l'usage qu'on en fait qui rend cette technologie bénéfique ou non pour nos cerveaux. Cette intelligence artificielle va-t-elle nous rendre stupide ?

Voilà le thème de notre débat. Je vous présente mes invités tout de suite. Sylvie Chocron.

Bonsoir, bienvenue. Vous êtes neuropsychologue, directrice de recherche au CNRS et vous publiez plonger dans votre cerveau. C'est au presse de la cité.

Laurent Alexandre, bonsoir. Bienvenue. Vous êtes docteur, expert en nouvelle technologie et intelligence artificielle, auteur de ce livre La guerre des intelligences, publié chez Lat.

Blaise Mao, bonsoir, bienvenue. Rédacteur en chef du magazine UBEC et Erik. le prochain numéro qui est prévu le le 10 juillet à quoi rêve la science et forcément il y a beaucoup d'intelligence artificielle dans ce dans ce dossier et Antoine Ouberdor éditorialiste politique est resté à mes côtés.

Je vais commencer en vous posant à peu près à tous les trois la même question la question générale de ce débat. Est-ce que Lia va nous rendre idiot ou est déjà en train de nous rendre stupide Chocron ? Bah je commence volontier.

Allez allez-y. Ben écoutez est-ce qu'elle est en train de nous rendre idiot ? Euh c'est vrai.

Je crois j'ai écouté ce que disait Michel Simè. Euh c'est vrai qu'on a besoin d'exercer nos capacités cognitives pour pouvoir s'en servir. On a besoin de percevoir, on a besoin de notre jugement critique.

On a besoin d'analyser, on a besoin de faire attention, on a besoin de mémoriser. Euh on a besoin d'être capable de synthétiser un grand nombre de données parce qu'à chaque instant, on est obligé de synthétiser tout ce qu'on perçoit et de le mettre en lien avec tout ce qu'on connaît pour pouvoir agir de manière adaptée. C'est évident que si on délègue toutes ces fonctions à des outils dit intelligents parce que je pense qu'il faudra qu'on reviendra sur le concept de l'intelligence, c'est vrai qu'il y a un risque de ne plus exercer ces capacités là et il y a un risque de les voir peu à peu disparaître puisque vous savez ce qu'on dit, on dit que le cerveau c'est le seul organe qui s'use ne s'en sert pas.

Si on ne s'en sert pas. Et donc du coup, il y a une nécessité d'entretenir ses capacités, les utiliser. Laurent Alexandre, est-ce que ce déclin cognitif, il a déjà commencé d'une certaine façon ?

Alors ce qu'on voit, c'est que il y a une mauvaise pente notamment chez les jeunes dans un papier qu'on a écrit il y a quelques jours dans dans le Figaro avec Olivier Babo et Alexandre Sicopou son on on raconte comment en Angleterre on vient de se rendre compte que 88 % des étudiants anglais utilisent Chat GPT pendant les examens surveillés. Les surveillants laissent faire, ils sortent leur téléphone portable, ils font une photographie du sujet d'examen, ils demandent à Chat GPT de rédiger et après il recopie que Chat GPT 88 %. Donc si effectivement on laisse les nouvelles générations être des grosses fénaces, ne pas bosser et recopier même pendant les examens ce que Chat GPT a écrit, on aura une diminution de la capacité cognitive des jeunes.

C'est évident c'est on entend le cerveau rétrécit. Est-ce que c'est déjà arrivé ? ou la première version grand public de chat GPT GPT 3.5 est sortie le 30 novembre 2022, ça fait 2 ans et demi et et les versions vraiment utiles et vraiment bonnes, elles ont un an, c'est au milieu du printemps 2024.

Donc l'outil est trop récent pour que ça ait déjà modifié significativement la connectivité de notre cerveau. Alors, vous réfléchissez beaucoup au futur dans chez chezbec et Erik des humains incapables de réfléchir sans l'aide d'une intelligence artificielle. Est-ce que c'est un futur plausible pour vous ?

C'est c'est une option. Aujourd'hui, ce qu'on voit effectivement dans les usages, c'est des gens qui ont un usage, je dirais, un peu feignant, un peu flémard de l'IA. On la consulte un peu comme un oracle, un peu comme les Grecs allaient voir l'Oracle de Delf.

On a l'impression qu'elle a le qu'elle la réponse à tout, la la clé du savoir. Et donc, on va être tenté de lui déléguer quasiment toutes nos tâches. C'est vrai dans le casre scolaire, c'est vrai aussi en entreprise où là il y a des chiffres intéressants sur l'esprit critique qui est en péril.

Quand on utilise trop l'IA en entreprise, quand on lui délègue trop de tâches d'analyse, on se rend compte qu'on a des résultats qui sont beaucoup moins diversifiés, qui tendent évidemment vers la même uniformisation et queon on a tendance à ne pas remettre en question les résultats de l'IA, à ne pas les challenger, à ne pas les vérifier. Donc ça c'est c'est des signaux qui sont effectivement un peu inquiétants. Et autre chiffre très intéressant d'une étude qui qui est sortie en février 2025, moins les gens comprennent comment UNIA fonctionne, moins ils sont sensibilisés sur le plan technologique au principe de l'IA et plus ils l'apprécient et plus ils lui font confiance et plus ils l'investissent de cette aura magique.

La question de la culture alors l'ura magique et la confiance, on va évidemment y consacrer du temps parce que il y a il y a pas mal de de choses à dire sur le mot intelligence. Euh si si intelligence artificielle, est-ce que vous vous parlez d'intelligence ? Non.

Alors certainement pas pour ce qu'on appelle intelligence artificielle et pour tous les outils qu'on appelle intelligents, la voiture intelligente, le téléphone intelligent, le frigo intelligent, le chauffage intelligent. Non, ce qu'on appelle intelligent dans ces cas-là n'a rien à voir avec l'intelligence humaine. Rien.

Ce qui différencie les deux, c'est d'une part le sens qu'on va donner. Donc un esprit humain, lorsqu'il va essayer de critiquer une situation ou des données, il va analyser le sens, le mettre en relation avec ce qu'il a appris, avec ce qu'il a perçu, avec ses attentes. Et donc bien sûr, le cerveau humain est un outil à prédire de la même manière que l'IA vous donne une réponse sur la base des probabilités d'apparition.

C'est aussi un outil à prédire, sauf que le cerveau humain, il va prédire en prenant en compte le sens des relations de cause à effet qu'il a intégré au fur et à mesure. Par exemple, j'ai appris que si je lâche mon verre, il va tomber, il va sans doute se casser et donc je peux faire le lien de cause à effet entre le fait de lâcher le fait que le verre se casse. Lia ne peut pas faire ça.

Elle va vous donner une réponse qui est juste une réponse qui est un savoir détaché du lien de cause à effet détaché du sens qui est juste un savoir calculé sur la probabilité que tel événement arrive mais le sens la pertinence et l'esprit critique en fait le fait de douter ou de questionner les les informations ou les affirmations humain voilà notre cerveau humain il peut critiquer on a le doute on a la capacité de mettre à distance certaines connaissances de les réfuter. Mais mais quand même si on prend la médecine que vous connaissez au combien évidemment Laurent Alexandre aujourd'hui déjà c'estàdire que l'intelligence artificielle appliquée à la santé pour vous c'est quoi ? C'est une gigantesque base de données ou alors c'est ben des un travail qui est mieux fait que celui des médecin ?

Alors moi j'ai une vision différente. Oui. Chat GPT je le trouve intelligent, je le trouve très intelligent.

Chat GPT est plus intelligent que moi. Chat GPT est bien meilleur que moi en médecine et pourtant j'ai passé 11 années de ma vie pour avoir la qualification en chirurgie. Mais ChatGPT m'écrabouille en médecine et puis depuis quelques quelques mois ChatGPT écrit mieux que moi.

Il écrit mieux il m'a dépassé sur le plan de la de la conceptualisation. Pourquoi vous vous dites que c'est une intelligence ? Parce qu'elle s elle donne du sens au monde.

Ouais. elle est capable de résoudre une quantité absolument incroyable d'énigmes techniqu technologiqu analyse beaucoup mieux un dossier médical que des médecins hospitaliers comme une étude récente l'a l'a montré donc moi je n'ai pas honte à dire que Chat GPT est plus intelligent que moi. Je n'ai pas honte de dire que Chat GPT est intelligent et je pense que c'est faire preuve de mauvaise pédagogie vis-à-vis de nos concitoyens de ne pas les alerter sur le tsunami qui arrive.

Parce que si on leur explique que l'intelligence artificielle est complètement conne, qu'elle est pas intelligente, ils vont pas se préparer au choc immense qui arrive. Et ce choc, il est énorme. Et dans ma profession, je reçois tous les jours des messages de coffrères, de collègues qui me disent "Oh là là, c'est terrible, j'ai le bourdon, 10 ans d'études pour être dépassé en quelques semaines par l'IA et cetera et cetera." Donc il faut pas qu'on sous-estime le choc technologique parce que sinon les gens vont se le prendre en pleine tronche et ils seront pas préparés.

Alors, on est on est au cœur de notre débat et notamment sur la capacité euh euh des universités parce qu'il y a la santé mais pas seulement à intégrer l'IA, comment à faire en sorte que les que les étudiants et voilà les euh et et gardent une capacité de réflexion, d'esprit critique et cetera. Est-ce que euh Blazmao, on surestime alors soit d'un côté les promesses, soit de l'autre côté les dangers de l'intelligence artificielle aujourd'hui ? Totalement.

Et pour boucler sur la définition, je pense que l'intelligence artificielle n'est ni intelligente ni artificielle. C'est l'erreur originelle de ce terme piégeux. L'intelligence artificielle est une aujourd'hui une technologie.

Ça a été pendant un demi-siècle une discipline, un champ de recherche qui est né en 1956 à la conférence de Darth Mouse. C'est important de dire qu'elle a une histoire mais cette intelligence artificielle en fait c'est du calcul, c'est de la prédiction du mot qui va suivre un autre mot et elle n'est absolument pas artificielle puisqu'elle repose sur des serveurs et des data centers qui consomment énormément d'énergie. C'est un vrai c'est un vrai débat beaucoup plus qu'un cerveau humain et ça va largement limiter je pense les usages qu'on en fera d'ici 10 ou ou 15 ans, ce qui est peut-être pas plus mal.

Oui. Euh ceci ceci étant dit effectivement je pense qu'on s Mais il y a quand même Oui. Alors je suis d'accord mais il y a quand même des des alors performances je sais pas si le terme qu'il faut employer mais dans certains domaines qui sont absolument bluffantes quoi.

Absolument. Et je pense qu'on va apprendre à collaborer avec. On va apprendre sûrement pareil les médecins les premiers.

Mais ce qu'on voit aujourd'hui dans le déploiement en entreprise c'est plutôt décevant. Il y a une étude danoise qui a été faite il y a un mois qui est très intéressante sur 25000 travailleurs dans 11 secteurs très menacés plutôt cadre CAD sup. Euh donc des métiers menacés vulnérables à priori au déploiement de l'IA.

Ils ont gagné en moyenne un peu moins de 3 % de leur temps. Ils ont économisé un peu un peu moins de 3 % 2,8 % de leur temps de travail hebdomadaire. Parce que le temps qu'ils ont gagné à déléguer à LIA certaines recherches et certaines tâches d'analyse, ils l'ont perdu à vérifier les informations qu' avent fourni L puisque certaines n'étaient pas fiables et parce que d'autres étaient en fait nécessité de la contextualisation.

Oui, mais je je tiens à te rappeler, regarde ce qui s'est passé au début du 20e siècle. Quand l'électricité est arrivée dans les entreprises, la productivité a baissé. parce que les gens ont mis du temps pour apprivoiser pour utiliser la technologie électrique.

Sur une technologie aussi récente que l'A et les bonnes versions de chat GPT ont moins d'un an, il est normal qu'on ne voit pas d'impact sur la productivité aujourd'hui. C'est normal. Mais la question électrique va nous rattraper aussi sur l'IA.

C'est ça qui est extraordinaire. Oui. Oui.

Sur la consommation. C'est ce que c'est ce que vous disiez Antoine et ensuite je vous redonne la parole. D'abord une question sur le l'aspect médical des choses puisque c'est une application très intéressante.

Euh j'ai du mal à comprendre comment alors j'ai autant pour qu'une a propose une lecture tout à fait fine quasi instantanée en matière d'imagerie médicale d'une radi d'une radiographie ou d'une échographie et qu'elle est à la rigueur une lecture bien plus claire encore qu'un praticien. Je je le conçois. En revanche, je vois mal comment euh le on va pouvoir se substituer à au savoir empirique qu' a construit le praticien, y compris en faisant parfois des erreurs médicales et par sa capacité à mettre en relation des symptômes.

Je propose à Sylvie Chron de commencer et ensuite Alexandre. Alors, vous avez tout à fait raison. Dans le domaine de l'imagerie, il y a une collaboration entre l'IA et le médecin, c'est évident.

Et on peut demander à LIA d'aller rechercher des choses que l'œil du médecin aurait peut-être du mal à détecter. Pourquoi pas ? Et dans ce cas-là, on peut comparer l'IA à un télescope.

On a jamais dit qu'on allait être remplacé par des télescopes parce que les télescopes permettaient d'aller voir les planètes et pas nous. Donc c'est la même chose. Maintenant là où je suis absolument pas d'accord, c'est que vous avez raison hein, je suis pas d'accord sur le fait que LIA est meilleur que le médecin parce qu'il y a ce qu'on appelle le sens clinique.

Et le sens clinique, il est extrêmement dur à définir. Pourquoi ? Parce qu'il prend en compte à la fois des processus conscients.

Le médecin a appris les règles, ce que je dois faire dans telle situation. Mais dans le sens clinique, il y a une part non consciente. Et la grande pauvreté de l'IA, c'est de ne pas avoir cette partciente qui fait alors vous pouvez appeler ça l'intuition, vous pouvez appeler ça l'instinct, on appelle ça les processus implicites, non conscients.

C'est ce qui va vous faire dire que normalement dans telle situation, je devrais décider d'opérer, mais j'ai la sensation que je devrais pas le faire. Il y a encore plein de thèmes. Donc je vous propose d'accélérer un mot de réponse là-dessus parce que vous êtes pas d'accord.

Donc je veux bien que vous puissiez répondre. Je vais vous donner juste un chiffre. Oui, j'ai calculé la proportion du savoir médical et biologique que je connais en 2025.

Je connais 1 million du savoir médical. Pas 1 %, pas 1 milliè, j'en connais 1 millionne. Le savoir médical, il double tous les t tous les 72 jours.

Il y a des milliards de milliards de milliards d'informations. Il y a des millions de publications scientifiques qui sortent chaque année avec dans chacune des milliers de chiffres. Donc je connais un millionnien du savoir médical.

De penser que je peux égaler l'intelligence artificielle qui connaît tout le savoir médical pendant que moi j'en connais un millionnien. Il faudrait vraiment être très très présomptueux. Vos arguments au au aux uns et aux autres.

On va essayer d'évaluer les progrès de l'IA générative. Alors pour ouvrir ce chapitre, je vous propose une archive, elle date d'il y a 2 ans et demi. Euh on avait euh c'était un journaliste de la rédaction euh Yan Fellé, voilà, qui avait proposé à à au philosophe Raphaël Antoven de réagir à une copie de philo euh rédigée par Chat GPT à partir d'un sujet du bac.

Le thème c'était sommes-nous responsables de l'avenir ? Quelle note lui-mère a fait Lantoven ? C'est nul.

C'est nul. C'est nul. D'abord, ce qui est intéressant, c'est ça commence par la question de notre responsabilité vis-à-vis de l'avenir est complexe et dépend de plusieurs facteurs.

Or cette phrase commence chacune des parties. Le plan, c'est bah d'un côté, on est responsable, de l'autre, oui, mais en un autre sens, nous ne le sommes pas. Donc c'est thèses, antithèse.

Il y a même pas d'effort de synthèse. Du coup, chaque partie bah dans il dit oui puis il dit non. Et après, il dit pour la 4e fois, la question de notre responsabilité est complexe et dépend de plusieurs facteurs.

Je mettrai cinq à une copie comme ça. Ceci n'aidera que des élèves déjà nuls qui continueront d'être nuls. Il y a c'était il y a 2 ans et demi.

À quel point Chat GPT et les autres parce queon fait beaucoup de pub mais il y a il y a d'autres génératives ont progressé Blazmo. Ils ont progressé dans la précision des des réponses euh dans la la je dirais la manière dont on peut euh avec eux affiner affiner accompagner en fait un un un chemin mieux les solliciter dans un dialogue en fait et dans une forme de dialogue avec je vois deux grandes limites quand même dans le dans cette langue de l'IA. La première, c'est que a réponse à tout.

Même même quelqu'un d'intelligent quand il est vraiment intelligent et qui ne sait pas quelque chose, il a l'honnêteté intellectuelle de vous l'avouer. Lia va toujours vous demander de lui poser une autre question au cas où. Et et l'autre péril de cette langue de l'IA, c'est que c'est une langue alors sans faute d'orthographe.

Ça c'est très pratique pour plein de gens. Ça ça fait du bien, on peut progresser, c'est pas mal. Mais c'est une langue extrêmement lisse qui s'uniformise.

C'est une langue qui tend aussi vers une forme d'assceptisation puisque c'est une langue sans subjectivité. Et là, je rejoins ce que disait Sylvie. C'est une langue sans jeu.

Espérons Espérons que c'est ce qui sauvera le métier de journaliste d'être remplacé par par L. Vous vouliez réagir au propos de Raphael Antoine ? Parce qu'il a il a changer d'avis, c'est ça ?

Depuis Oui, Raphaël a changé d'avis. Il a été confronté à un podcaster récemment sur YouTube qui expliquait et qui a fait des tests philosophes contre contre Ya qui montrait que l'IA arrivait très bien à philosopher. À l'époque, Raphaël euh dans un débat à avec moi avait dit "Tu verras, dans 10000 ans, l'intelligence artificielle ne saura toujours pas philosophé comme moi.

Il a depuis euh euh changé d'avis." Pourquoi pour à quel point les progrès sont rapides ? Parce que c'est ça la ils sont extrêmement rapides.

Si vous prenez la médecine, je vous invite à voir l'étude qui est sortie il y a 15 jours et qui compare les différentes versions de chat GPT avec les médecins. Les toutes premières versions étaient bien moins bonnes qu'un médecin et puis elles ont rattrapé les médecins et elles ont beaucoup dépassé les médecins. Aujourd'hui Lia fait mieux un diagnostic sur un dossier médical se trompe moins souvent qu'un médecin et tout ça c'est fait en 2 ans et demi.

Donc oui, les progrès ont été spectaculaires et beaucoup de gens n'ont pas encore utilisé les dernières intelligences artificielles. souvent ils sont restés sur des performances moins bonnes des vieux modèles. D'accord.

Ouais. OK. Allez, on va s'intéresser à à la fiabilité, on va dire ça comme ça, d'une intelligence artificielle et de la façon dont on l'utilise.

Alors, on s'est amusé avec des thématiques qui sont des thématiques parlementaires, sénatoriales et c'est Quentin Calmet qui nous rejoint tout de suite. Et alors, ça pose la la la question de notre métier de journaliste. Bonsoir Quentin.

Bien, bienvenue. Est-ce qu'on peut se servir de ces robots conversationnels pour s'informer ? Vous avez donc fait le test.

Voilà. Peut-on lâcher les médias traditionnels ? C'est la question que je me suis posée pour demander à l'intelligence artificielle de nous faire des récaps sur l'actualité.

Peut-être qu' y a-t-il aussi d'ailleurs une tentation pour certains journalistes de se reposer sur ces outils pour faciliter leur travail. Mauvaise idée. Exemple avec cette semaine quelque chose de très concret.

Les sénateurs qui travaillent sur la question du viol et des violences sexuelles. C'est en séance au Sénat une proposition de loi qui est examinée pour intégrer la question du consentement, l'absence de consentement à la qualification pénale du LOL. Un sujet très sérieux qui déb qui divise les les juristes et aussi les féministes.

J'ai demandé donc à Chat GPT de me résumer le débat autour de la notion de consentement dans le viol et Patatra. Dès la première réponse du robot, on lit une erreur. En droit français, réforme de 2021, le viol est défini par la violence, contrainte, menace ou surprise.

Jusqu'il là, pas de problème. C'est la suite qui pose problème. Désormais, le texte reconnaît aussi que le défaut de consentement explicite peut suffire à caractériser le viol surtout chez les mineurs.

Sauf qu'on a bien compris, ce n'est pas encore dans la loi. C'est en cours de débat, donc c'est faux et c'est vraiment l'objet du débat parlementaire en ce moment. Exactement.

J'ai même fait remarquer son erreur à chat GPT parce qu'en fait je suis le sujet, j'ai lis le rapport sénatoriel et donc il se corrige, il explique que la loi 2021 n'a pas modifié la définition du viol pour intégrer le consentement. Chat GPT qui reconnaît ensuite quand j'assiste un peu, faut quand même le dire, avoir affirmé à tort que la définition du viol en droit français avait changé en 2021 pour intégrer explicitement la notion de consentement, ce qui est inexact. Le robot qui va me remercier plus tard pour ma vigilance et qui se justifie.

Le sujet est délicat, il est en évolution rapide, ce qui, je cite, demande une rigueur particulière, dit Lia. Autre tentative avec le chat de l'entreprise française Mistrale. CIA s'en sort mieux.

Pas d'erreur factuel sur cette même question. En plus, le chat qui cite ses sources parmi lesquelles deux articles de publicsena.fr qui reviennent donc sur la droite de la page.

Alors, c'est aussi logique he qui cite publicsfr puisque c'est un débat au Parlement en ce moment. Évidemment et en février dernier, il y a eu une étude de la BBC qui confirmait finalement cette difficulté pour les I à résumer l'actualité. Exactement, c'est ce que dit cet article de la BBC.

Ils ont fait le test avec Chat GPT, Copilot, Jemini, le robot de Google ou encore Perplex City, les journalistes britanniques qui ont demandé de résumer sans infos, sans infos, ils ont ensuite évalué leur réponse. Résultat, 51 % de toutes les réponses de l'IA aux questions d'actualité étaient considéré comme présentant de problèmes importants sous une forme ou une autre. 19 % des réponses de l'IA citant le contenu de la BBC introduisentit même des erreurs factuelles telles que des déclarations et des chiffres ou des dates incorrectes.

L'article qui cite des exemples concrets, les journalistes qui ont noté que Lia avait du mal à différencier les opinions et les faits avérés et souvent ils avaient du mal à recontextualiser les infos. Donc quoi le bon vieux journaliste n'a peut-être pas dit son dernier mot face à l'évolution pour vous me regardez quand vous dites le bon vieux journaliste est très désagréable. Merci beaucoup Quentin Calmet pour ces infos.

Je me tourne vers vous. Euh Blaise Maou. Alors bon, il y a il y a pas CIA qui a du mal à faire la différence entre un fait et une opinion.

On pourrait se tourner vers un certain nombre de de collègues. Mais si on essaie d'expliquer pourquoi, bah elle a elle a du mal parce que il y a une question de bagage culturel et de capacité à à mettre une information dans son contexte qui permett en fait de décoder une information. ce qui est le métier de journaliste.

Qu'est le métier de journaliste et puis ce qui est aussi la fonction du récepteur de l'information, du lecteur du du spectateur qui va être en capacité de se dire "Ah c'est marrant parce que la semaine dernière il a dit autre chose ce politique. Donc là il se contredit." Donc ça c'est ce que j'appelle le bagage culturel et euh et et le contexte.

Ce qui est ce qui est troublant, c'est que je je vois deux écueils qui ont été évoqués là par les exemples, c'est l'IA introduit soit des fautes, des erreurs factuel, alors parfois sans qu'on soit capable de les expliquer. C'est ce qu'on appelle des hallucinations, ce qui d'ailleurs est assez fascinant d'un point de vue culturel, artistique. beaucoup d'artistes aiment travailler sur ces hallucinations et elle a tendance, je disais tout à l'heure à asceptiser, elle a tendance à généraliser, à réduire énormément le contenu de certaines informations, notamment par exemple les études scientifiques qui vont être beaucoup moins précises que les résumés que peuvent en faire parfois des auteurs humains.

Donc là, c'est embêtant parce que si même dans un un exercice de synthèse, on narrive pas à voir la subscientifique moelle de l'étude, on se retrouve avec une information incomplète. Si Sylvie Chocron, il y a aussi le principe enfin une information par définition, elle évolue et c'est la base de notre métier, elle évolue en permanence. Est-ce que ça c'est un souci pour l'intelligence artificielle ?

Alors oui, ça peut être un souci. Alors je reviens juste sur ce que disait Blaise Mao juste avant. Le problème c'est que quelquefois vous allez pousser l'IA dans ses retranchements et elle va vous inventer des références pour justifier ce qu'elle dit.

Et donc ça c'est un énorme souci parce qu'on parlait tout à l'heure de la quantité de référence scientifique. Alors déjà quantité veut pas dire qualité parce que l'IA va mettre sur le même plan des articles qui ont une grande valeur et d'autres qui ont plein de billets expérimentaux et puis en plus de ça parfois elle va vous inventer des justifications. Moi je voudrais aussi revenir sur quelque chose qui est très important que on l'a vu tout à l'heure dans dans votre sujet sur les erreurs avec la BBC.

Lia finit par reconnaître qu'elle a dit à tort quelque chose, mais Lia ne vous dit jamais je ne sais pas ou spontanément oh attention je me suis trompée finalement ce que j'avais dit c'était pas ça. Or l'erreur pour le cerveau humain c'est extrêmement important parce que c'est ce qui nous permet d'apprendre et donc il faut il faut pas que les gens pensent que c'est une chance qu'on ait d'aller chercher immédiatement une réponse sur un outil comme chat GPT parce que ce qui nous fait progresser nous c'est de faire des erreurs. c'est de savoir ce qu'on sait, savoir ce qu'on ne sait pas et savoir ce qu'on va devoir apprendre.

Alors, toujours sur les erreurs, je vous propose d'écouter Luc Julia qui est le concepteur de l'assistant vocal Siri. Il est auditionné au Sénat aujourd'hui. Alors, c'est intéressant parce qu'il intervient dans les écoles, il fait faire un exercice aux enfants l'écoute nous raconter cet exercice.

L'exercice que je que je donne, c'est euh on va dire au gamin aujourd'hui en classe, on va utiliser chattin. Wouh ! Super !

Ouais, super madame, on va faire ça. Ouais. Ouais, c'est bien.

Allez-y les gars. Donc déjà, on va créer le prompt parce que le prompt c'est le truc le plus intéressant. Et je veux que vous créez un prompt pour me générer la biographie de Victor Hugo en deux pages.

Bon, très bien. On réfléchit un peu. Pas réfléchir beaucoup là.

Le prom, il est assez simple, hein. Euh, génère moi la biographie de Victor Hugo en deux pages. Très bien.

On a réussi à faire ça. On tape le machin, pouf, 15 secondes, on a la biographie de Victor Hugo euh en deux pages. Ouais madame, c'est bon, c'est fini, on va on part en récréation.

Ah non, c'est là que ça commence. En fait, ce qu'on va faire, on va faire un truc incroyable. On va relire le truc.

Bon, déjà, il faut savoir. Donc, faut savoir lire. Bon bref, donc on va relire le truc.

Victor Hugo est né le 18 mars 180 à Besançon. Gna gna gna gna gnaga gna. Ah mince, il est né en février, commence mal.

Bon évidemment alors la prof, il faut qu'elle connaisse la vie de Victor Hugo, d'accord ? Parce que sinon ça va être un peu embêtant. Donc il faut montrer que le sachant sait.

D'accord. Et donc le prof, la prof ici et la clé. et la référence et elle va le montrer, elle va le démontrer statistiquement et deux pages, il va y avoir cinq erreurs, d'accord ?

Cinq erreurs. Et quand on va relire, on va trouver les cinq erreurs. Et ça, les gamins au fur et à mesure qu'on trouve les erreurs, ils vont dire "Oh purée, mais donc je peux pas faire confiance au truc." Bah non, tu peux pas faire confiance.

Alors, qui détient le savoir ? Qui représente le savoir ou la connaissance ? Flurent Alexandre, c'est quand même un pilier majeur de nos sociétés.

Euh à quel point euh potentiellement pour vous il est déjà ou il sera bouleversé par l'intelligence artificielle ? Alors, il est bouleversé mais le savoir, il n'y a pas de consensus sur le savoir. Hm.

Entre la France insoumise et puis les Républicains sur ce qu'est une bonne fiscalité, vous n'aurez pas de consensus. Donc le consensus, il n'est pas toujours possible même en matière scientifique. Je vous rappelle que 15 % des jeunes français pensent que la terre est plaste, ce que je ne crois pas.

Mais ça montre que pour beaucoup de jeunes français quand chat GPT dit que la terre est ronde, et bien ils vont ils vont s'opposer et penser qu'ils sont face à une erreur de chat GPT. Donc la définition du bon savoir, c'est pas simple et il n'y a pas de consensus sur le bon savoir, même si j'aimerais qu'il y ait un consensus personnellement sur il y a ce défi à ceux qui représentent la connaissance, c'est-à-dire les professeurs dans les dans les écoles, dans les universités et cetera. Parce que si on vous parliez de la confiance qu'on fait un peu parfois aveuglement à à une intelligence artificielle, si on considère qu'elle sait tout, on va on a plus besoin des profs.

Vous voyez ce que je veux dire ? Ça questionne notre organisation. L'intelligence artificielle en sait plus que n'importe quel terrien.

Elle en sait plus mais elle en sait moins aussi. Elle en sait plus que n'importe quel terrien. Moi je suis incapable de vous donner la recette du Kouglof en Indonésien puis de vous dire à quoi utiliser le Cadmium dans les centrales nucléaires finlandaises en allemand.

Il n'y a qui est capable de faire ça qui a accès dans toutes les langues du monde à tous les savoirs. Moi, j'ai des savoirs que j'ai appris qui sont très limités, qui sont très verticalisés. Donc de toute façon, Lia nous dépasse en savoir de fait de son universalité, ce qui ne veut pas dire qu'elle n'ait pas d'hallucination, ce qui ne veut pas dire qu'elle ne se trompe pas.

Mais vous savez, plein de gens se trompent, y compris des journalistes, des conneries dans les journaux, à la télé et et des et des chercheurs et des pas confiance, ça leur donne pas la confiance qu'on va donner. C'est c'est ça la question de la la Antoine, vous voulez intervenir, je vous donne la parole, mais on va rester sur cette notion de savoir et de confiance. Oui, parce que sur sur le la confiance est à la base ensuite de la responsabilité.

Et moi, lorsque j'entends par exemple cette appellation quelque part de Sachant qui s'est beaucoup vulgarisé au moment du Covid-19, je fais tout de suite immédiatement une expérience de pensée. Je me dis imaginons un instant que nous ayons piloté la gestion de notre politique, que nous ayons absolument tout délégué hein, la gestion de notre politique sanitaire quand il fallait reconfiner, quand il fallait déconfiner à une intelligence artificielle. se poserait se serait ensuite posé la question dans une forme de technocratie de sur qui repose la responsabilité en bout de course.

De la même manière si nous décidons par des bornes médicales qui existent déjà d'ailleurs de déléguer le diagnostic à l'intelligence artificielle ou l'éducation de nos enfants à une partie d'intelligence artificielle, vers qui se tournera-t-on euh en cas d'erreur bien évidemment ou en cas de fiasco carrément. Ça dépend. Vous avez vous avez des cas où l'humain peut vérifier.

Hm hm. Il y a des cas où l'humain ne peut pas. Quand l'humain peut vérifier, il est licite notamment dans des secteurs comme la médecine qu'un humain mette le tampon et vérifie.

Mais si vous prenez l'analyse génétique d'une tumeur pour choisir une chimiothérapie, c'est 20000 milliards d'informations. Il y a aucun médecin qui va vérifier les 20000 milliards d'informations. Aucun humain, même en y passant 5000 ans, ne le pourrait.

Donc là, l'idée d'une validation par l'homme n'est pas possible parce que les hommes ne sont pas capables de traiter 20000 milliards d'informations pendant une consultation cancérologique de 15 minutes. Hm. Alors votre avis sur euh sur sur ce ce voilà sur sur celui qui détient la la le savoir et et d'une certaine façon le pouvoir parce que c'est un pouvoir d'accord et euh moi je je suis pas du tout d'accord avec l'affirmation de l'IA euh sait euh un milliard de choses en plus que nous parce que l'a sait et ne sait pas parce que si vous demandez à Lia de vous confirmer que la terre est plate, elle va le faire.

Est-ce que c'est un savoir ? Est-ce qu'on peut considérer que c'est un savoir ? Non.

L'IA n'est qu'un outil à nous donner la le le la réponse la plus probable. Mais c'est pas ça un savoir. Un savoir, c'est constitué de sens.

C'est des faits qui ont été vérifiés. Il y a une forme de vérité. Alors évidemment, la vérité, elle peut, comme on le disait tout à l'heure, varier d'un groupe de personnes à un autre, mais c'est comme l'histoire, c'est comme tout.

Et puis le savoir, il évolue aussi dans dynamique. Reste Ouais, il nous reste à ouvrir un chapitre sur la politique qui va être très intéressant et je vous oublie pas Antoine là-dessus, mais quand même une dernière question peut-être sur les modes d'apprentissage, c'est euh qu'est-ce qui est déjà en train de changer notamment dans les écoles sur les modes d'apprentissage sur le la place de l'écrit euh assez central ou qui était assez central ? Est-ce qu'elle est moins ?

Alors, elle les moins et c'est intéressant de voir qu'on est encore dans cet âge du prompt euh du texte tapé finalement comme dans un moteur de recherche un peu de choses près, euh puisqu'en fait le l'écrit s'effondre, on a consacré tout un dossier euh de notre magazine futur avec UusBeka sur la question de la disparition de l'écriture et de son remplacement ou plutôt de son hybridation avec les usages oraux et l'oralité. C'estàd qu'on parle avec son ordinateur avec son exactement. C'est qu'en fait c'est pas et je parle pas seulement du stylo plume, je par la fin de l'écriture d'un point de vue vraiment numérique.

On est aujourd'hui dans des usages qui sont interchangeable entre l'oral et l'écrit. Et c'est certain que et c'est ça a déjà commencé avec les dernières versions de de chat GPT qu'on va être de plus en plus dans une sollicitation orale vocale dans une log dans le cerveau d'ailleurs he avec probablement des effets dans le cerveau la le le prompt avait ce mérite d'essayer de fléchuire le champ ce qui est aussi une manière de de préciser la la la recherche mais je pense qu'on va être vraiment sur une expérience beaucoup plus hybride et beaucoup plus orale en fait de l'intelligence artificielle dans les années qui viennent allez on ouvre comme promis ce ce chapitre consacré à la politique. Antoine, vous intéresser à une forme d'ingérence he qui pourrait bouleverser le cours de la prochaine campagne présidentielle ?

Oui. Oui. Projetons-nous en 2027.

C'est un adversaire qui n'a pas de nom, pas de visage, pas de parti. Il ne présentera jamais sa candidature et pourtant il gouverne nos choix. Non, je ne vais pas vous parodier le discours de François Hollande au Bourger en 2012.

C'était la fin. ce dont je voudrais vous parler, ce n'est pas de la finance mais de l'intelligence artificielle car tout a basculé en mars 2023 avec une image devenue virale, celle d'un vieillard au visage ensanglanté, un faux lychchage policier généré par l'intelligence artificielle en pleine mobilisation contre la réforme des retraites. He ça fait tâche, c'était faux mais crédible. l'effet choc a fonctionné et là les stratèges politiques ont compris quelque chose.

Le prochain papoise, souvenez-vous, ce fait divers lors de la campagne de 2002 et bien le prochain papoise serait vraisembablement généré par intelligence artificielle. C'est un jackpot assuré. Beaucoup évidemment sautent sur le des logiciels d'intelligence artificielle. commencer par Jordan Bardella qui se sert d'un logiciel di générative pour sa campagne européenne.

Sur ses visuels là, on voit des milliers de migrants débarquant sur une plage. Une mise en scène de l'invasion migratoire entre guillemets abondamment reprise sur les réseaux sociaux vaut bien mieux qu'une déambulation à Lampedusa avantage Bardella sur sa rivale Marion Marichal. Quelques mois plus tard, c'est Reconquê qui pousse la logique encore un peu plus loin législative.

Une vidéo de campagne 100 % mais alors là 100 % intelligence artificielle. Macron sous une pluie de billet, des migrants devent une église et la France rêvait selon ses mots, une famille qui piquennique dans une prairie. C'était esthétiquement très efficace tout ça.

Aucune de ces images n'a été signalée comme étant fausse ni par les plateformes ni par le parti. Alors il y a pas seulement les candidats à l'extrême droite qui qui l'utilisent. Non, vous pensez bien en France la France insoumise c'est aussi pris au jeu et d'ailleurs elle s'est pris les pieds dans le tapis parce que l'affiche de Cyrilona accusé d'antisémitisme vous vous en souvenez sans doute elle était générée par intelligence artificielle et quand la polémique explose les amis de Jean-Luc Mélenchon bottent en touche.

C'est la faute à l'algorithme évidemment on est entré dans une ère où l'infox s'est produite à la chaîne sur commande. Les conseils de com deviennent des prompteurs et les ingénieurs du chaos des directeurs artistiques. Suffit de voir ce qui s'est passé aux États-Unis en janvier 2024. des milliers mais alors des milliers de faux appels imitant la voix de Joe Biden assez fidèlement appelé les électeurs du New Hampshire à ne pas voter à la primaire.

Surtout n'allez pas voter. Le faussur a été démasqué mais toujours avec un temps de retard. C'est ça le problème avec l'IA, c'est que ça va très très vite.

L'exemple ultime reste celui de la Slovaquie. Là-bas a carrément fait basculer une élection pleine campagne législative un une audio trafiquée a circulé sur les réseaux sociaux. On y entend le candidat progressiste Michal Simeeka monayer des voix avec un journaliste.

On croit comprendre qu'il y a là une entourloupe. Ça a été encore généré par IA probablement avec Eleven Labs, sauf que ça sort pendant la période de réserve électorale. Il est trop tard, le candidat sera battu, il chute et c'est son rival prusse Robert Fico qui l'emporte une élection volée par un de fake pour Donc on a compris la la capacité du NIA utilisée par des humains à manipuler l'opinion.

Est-ce qu'elle peut aussi suivre les variations de de l'opinion publique en temps réel ? Oui, là c'est le dernier tournant et ça devrait inquiéter peut-être nos amis nos amis sondeurs euh car avant on avait des sondages, des sondages prudents, des rollings, des échantillons représentatifs et bien sûr des marches des marches d'erreur hein, c'est humain après tout. Demain, ce sera le vraiment le trading haute fréquence de l'opinion si vous voulez.

Lia, elle aspire des millions de publications en ligne. Elle capte les émotions sur les réseaux sociaux, détecte en temps réel le ralbol, la peur, l'enthousiasme et adapte les candidats, les messages des candidats au quart de tour. C'est du ciblage he comme on dit en politique.

C'est précieux pour le monitoring d'une campagne politique, le ciblage. Mais attention, LIA n'interroge personne. La fameuse le fameux questionnaire autoadministré pour qui allez-vous voter.

Non, Lia, elle extrapole, elle lit des tweets, elle extrapole, elle passe à côté des silences, des silences d'une majorité d'individus. He faut bien reconnaître. Preuve s'il en était besoin que les secrets d'isoloire n'ont pas encore tout à fait pas encore tout à fait été percés par l'algorithme de chat GPT.

Allez, il nous reste quelques minutes. Sylvie Chocron, qu'est-ce que vous êtes ça vous inspire de voir de plus en plus de politique utiliser l'intelligence artificielle ? Il y en a, il y a des sénateurs qui nous disent que bah il commence à faire écrire des réponses ou des questions à poser à un ministre à à Lia par exemple.

Non non, je suis d'accord. Alors juste pour rebondir très vite sur ce que vous avez dit, c'est vrai que notre cerveau n'a pas encore appris à détecter ce qui est un deep fake, vraiment un montage de toute pièce. Est-ce qu'il y a une scène réelle ?

Et on peut pas en même temps dire aux gens utilisez l'IA, donc de moins en moins votre jugement critique et en même temps leur demander de pouvoir critiquer des choses qui sont développer ce même jugement critique. Exactement. Et donc là, il faut être cohérent.

C'est-à-dire que quand on pense à l'éducation qu'on doit donner aux jeunes adultes euh et à tout le monde, aux enfants aussi, il faut il faut conserver cette capacité euh de jugement critique, d'analyse parce qu'on va devoir l'utiliser de plus en plus avec ce qu'on nous propose. Donc là, il y a un paradoxe qu'il faut résoudre et je pense que vous serez tous d'accord là, Laurent Alexandre pour pour dire l'urgence finalement de nous former collectivement, pas seulement les les les jeunes, les lycéens ou les ou les étudiants, à quoi à l'usage et à l'esprit critique face à face à l'intelligence artificielle. C'est fondamental, il faut former tout le monde, y compris les sénateurs.

Et j'ai d'ailleurs installé Chat GPT sur le téléphone portable de plusieurs de mes amis sénateurs euh qui ont été un peu surpris mais qui ont compris assez rapidement l'intérêt de de ce type d'outil. Oui, il faut former toutes les générations, il faut garder à l'esprit que oui, il y a des deep fake mais enfin les montages frauduleux çaadapte pas de l'intelligence artificielle. sûr, il y a toujours des cabinets toujours des cabinets noir George Pompidou a failli à cause de l'affaire Markovic voir sa carrière brisée à cause de photomontag qui ont circulé dans toute la presse qui montrait madame Pompidou dans des partouses et qui était un faux absolument monstrueux mais qui a quand même circulé malgré sa mauvaise qualité.

Oui, mais mais là on on parle d'images qui sont de plus en plus euh rapides rapides qui coûtent de moins en moins cher et son elles sont de plus en plus indétectable. Et oui, et c'est ça c'est là la difficulté un défi démocratique quoi. Absolum.

Voilà, LIA vient défier les règles de la vie démocratique et je pense que c'est ça qui est très important. Les Émirats arabes unis il y a un mois ont annoncé qu'ils allaient désormais faire appel à l'intelligence artificielle pour rédiger de nouvelles lois, pour réviser leurs anciennes lois. Je les cite parce que ça va permettre de gagner du temps et d'en finir avec les compromis.

Donc les Émirats ne sont pas un modèle de démocratie, loin de là, mais c'est intéressant de voir à quel point même dans des hautes sphères de pouvoir, on en vient à déléguer à l'IA avec la même naïveté et la même flemme une responsabilité qui est celle de de l'esprit critique, de l'échange démocratique et du débat. Et très clairement très clairement l'intelligence l'intelligence artificielle est beaucoup plus compatible avec la mécanique avec la mécanique fasciste et autoritaire qu'avec la mécanique démocratique. Et on est en plein dedans.

Voilà parce on entraîne aussi les gens à accepter de toute pièces des données, des savoirs comme on le dit sans rien critiquer. Et ça c'est des deux côtés c'est la porte ouverte vraiment à l'autoritarisme quoi. Avec quand même la question du contrôle.

Je je lisais aujourd'hui, c'est chez le confèt des Echos 90 % du code sera bientôt écrit par l'intelligence artificielle. Alors c'est le patron une entreprise allemande du secteur s'appelle GitHub, c'est c'est leur métier de vente du code. Donc bon ben bref, donc il est un peu jugé parti mais ça veut dire qu'on va confier les algorithmes, les logiciels de nos voitures, de nos avions, de nos missiles même d'une certaine façon à une intelligence artificielle.

C'est ça pose une vraie question quand même. Laurent Alexandre ? Oui, ça pose une vraie question et on a un deuxième problème derrière, c'est qu'on commence à voir des jeunes qui abandonnent l'apprentissage du code parce que il voi a progressé tellement vite qu'ils se disent "Je ne vais pas apprendre le Python, je vais pas apprendre tel langage parce que parce que l'IA progresse trop vite." D'ailleurs, je le cas de du plus jeune de mes gamins qui à Cambridge a arrêté d'apprendre le Python parce qu'il trouve que Lia progresse trop vite et que ça ne vaut plus le coup.

Et donc là, ça pose un vrai problème au-delà du cas particulier de mon gamin, c'est que si tous les jeunes gamins capables d'apprendre le code ne la prennent plus, on a un problème de sécurité. Il faut qu'il y ait des humains capables de mettre les mains dans le cambouille et d'analyser le code. Et là, on commence à voir un découragement des jeunes face au code.

Il faut savoir qu'aujourd'hui, je parle pas d'architecture informationnelle complexe, mais je parle du code. On est aujourd'hui avec Chat GPT qui est au niveau des 50 meilleurs codeurs au monde. Donc la tentation est grande de baisser les bras et de ne plus apprendre à coder quand on est jeune.

On va essayer de ne pas baisser les bras collectivement. Merci à tous d'avoir participé à ce débat. V livre CV Chocons plonger dans votre cerveau.

C'est au presse de la cité Laurent Alexandre la guerre des intelligences publié aux édition Lat et puis le prochain numéro d'Uzbec Erik futur titré à quoi rêve la science dans quelques jours dans les kiosques ? Merci encore d'avoir participé à ce débat. À très vite sur ce plateau.

Je vous dis à demain 18h 22h pour un nouveau sens public. On est sur publicsena.fr.

Vous pouvez nous écouter en podcast. Je vais très très vite. Et puis vous notez que Gill Kppel, spécialiste du Moyen-Orient et de l'Islam contemporain, sera l'invité de notre matinale demain.

Il sera 8h du matin. Salut [Musique]