EFFETS DE L’IA SUR LES CAPACITÉS HUMAINES : AUDITION DE LAURENCE DEVILLERS ET BRUNO PATINO

Y et bien bonjour à tous. Bonjour madame, bonjour monsieur Patino. Est-ce que vous nous entendez monsieur Patino ?

Oui, tout à fait. Et est-ce que vous nous voyez ? Bon silence blanc.

Attendez. Ah si, voilà. Est-ce que vous est-ce que vous m'entendez ou pas ?

Ça y est, on vous entend et on vous voit. Monsieur Patinot, tout va bien dans le meilleur des mondes possible. Tout va bien.

Bien chers collègues, nous nous retrouvons pour les travaux de notre mission d'information intitulée création, diffusion et acquisition des connaissance. comment l'intelligence artificielle transforme notre éducation, notre culture. Après avoir entendu ce matin messieurs Babinet et Rafan ainsi que les représentants du conseil de l'IA et du numérique, nous avons le plaisir de recevoir cet après-midi deux nouveaux experts sur du sujet qui pourront plus spécifiquement nous éclairer sur les effets de l'IA, sur les capacités humaines notamment d'un point de vue cognitif.

Madame Laurence de Viller, vous êtes docteur en sciences appliquées, chercheuse au CNRS et enseigné à la Sorbonne. Vous vous intéressez de longue date aux interactions entre l'homme et les machines auquel l'émergence de l'IA artificielle générative donne depuis quelques années maintenant une actualité nouvelle. Vous avez traité ce sujet dans de nombreuses publications euh dont je cite des robots et des hommes et au début de l'année dernière un ouvrage intitulé Lia, ange ou démon, le nouveau monde invisible.

Monsieur Patinot, vous êtes journaliste et président d'Arté France. Vous êtes régulièrement intervenu sur les risques que font peser les nouvelles technologies et et l'économie de la tension sur la cognition. Ces sujets sont abordés dans plusieurs de vos ouvrages parus ces dernières années.

Je pense à la civilisation du poisson rouge, petit traité du marché de l'attention en 2019 ou plus récemment en 2023 à submersion. Vos travaux portent également sur l'information et les médias. Un champ qui sera lieu aussi profondément affecté par l'IA et sur lequel nous serons heureux de vous entendre.

Je vous remercie donc et madame Calvest se joint à moi pour votre présence parmi nous aujourd'hui et vous donne la parole pour un proposiminaire de 10 minutes ensemble c'estàdire 5 minutes pour vous madame et 5 minutes pour monsieur Patinot si vous pouvez essayer de vous tenir à cet horaire ensuite évidemment madame la rapporteur vous posera les questions rituelles. Merci beaucoup. C'est bon, c'est ouvert.

Bonjour à tous. Donc mon propos liminaire va être un peu de démystifier ce que c'est que l'IA puisque j'ai l'impression encore que c'est pas complètement compris par la majorité des citoyens et notamment ceux qui sont dans les humanités. Vous faites référence dans les questions que vous avez posées à des travaux faits par monsieur Éric Sadin par exemple qui n'est absolument pas expert en intelligence artificielle ni connaissant d'ailleurs beaucoup ces sujets est assez anxiogène dans ses propos et je pense que c'est pas une bonne référence si on veut travailler le sujet correctement de façon démocratique et de façon raisonnée.

La première chose à dire, c'est que j'avais appelé tous mes vœux le gouvernement de créer en fait des observatoires de l'IA qui aurait été mixte. Or, je pense pas que c'est le cas. C'est très souvent soit les humanités qui regardent les conséquences ou les gens en droit qui vont travailler sur ces sujets ou de la technologie de l'autre côté qui essaie de rendre plus robuste des systèmes.

Or, sans parler d'éthique ou sans parler de sujets euh qui qui aurait la morale, je pense qu'on a besoin de comprendre comment marche ce système. Par exemple, je sors d'une thèse où j'étais à l'ENS il y a quelques jours sur la contamination des modèles. Qu'est-ce que la contamination des modèles LM large englage modè qui sont dans les iages génératives ?

C'est le fait qu'en ce moment on les évalue sur des jeux d'essais qui sont diffusés sur internet et que les machines ont déjà englobé. Donc elles connaissent déjà les propos par cœur, les réponses par cœur. Or on les on peut prouver que Chat GPT, Open AI, Google enfin beaucoup de ces grands systèmes sont contaminés c'estàd qu'ils connaissent déjà les réponses des questions qu'on va leur soumettre.

Donc il est important de se doter d'outils et dans cette thèse le jeune homme essayait de donner des outils qui permettaient de regarder si la machine était contaminée ou pas. De la même façon, comment on compare différents outils entre eux ? Je pense qu'on a besoin d'aller en dessous et ouvrir le capot de la machine, ce que je dis à chaque fois, pour comprendre quel est effectivement l'effet sur tout un chacun de ces systèmes.

C'est dans l'interaction avec ma machine mais aussi dans la connaissance des facteurs qui sont internes qu'on va comprendre s'il y a manipulation ou pas. Maintenant, si on se pose de l'autre côté sur la manipulation cognitive de ces systèmes, je pense qu'en étant adulte, en ayant vécu une expertise dans un domaine sans IA, on est capable de faire le choix de l'un ou de l'autre à part ceux qui ne daignent pas parents, sans doute regarder vraiment de quoi il est question. Maintenant pour les enfants et pour l'éducation, moi je sonne une vraiment une une urgence qui est non seulement de garder des fondamentaux sans machine, mais en même temps d'aller plus loin sur ce que moi j'appelle l'informatique augmentée plutôt que l'intelligence artificielle qui n'a pas l'air d'être compris non plus comme terme.

Donc est-ce qu'on peut aller plus loin dans ces outils pour amener à comprendre des mathématiques en les regardant dans l'espace et en les pilotant à la voie ou d'autres choses que la machine apporte par rapport à ce qui est l'humain ? Donc je suis aujourd'hui après avoir écrit ce livre qui était il y a Enjou Desmont pour dire attention à l'éducation, je suis en train d'essayer de travailler avec des industriel pour comprendre comment on peut bien faire de l'IA parce que dire que l'IA il faut s'en passer demain serait non éthique. Voilà donc mon principal propos c'est attention à l'éducation apprenons aux enfants ce que c'est queense d'énergie de ces outils.

On a montré que par exemple on gâchait pas de l'eau, ils arrivent à fermer les robinets. Pourquoi est-ce fermer pas le robinet de mots qui est cet ia générative ? J'appelle d'ailleurs votre vigilance au terme IAG.

IAG veut dire pour certains intelligence artificielle générale et pour d'autres artificielle intelligence artificielle générative. Donc distinguez bien IAG de IHN. D'accord ?

Alors là, je vois parce que là sur l'intelligence artificielle générale, j'écris un nouveau livre qui est qui sortira le 2 avril et je ferai des conférences au MK2 Odéon pour un large public pour parler d'éducation, de créativité et de désinformation avec ces outils qui sont les génératives et qui va s'appeler savoir vivre avec l'IA parce que je pense qu'aujourd'hui c'est le propos. Merci madame pour ce point introductif. Monsieur Patinoto, c'est à vous.

Beaucoup. Euh je salue Laurent, on se connaît donc je la salue. Euh moi je vais essayer àer parce que je j'entends un écho dans quand je OK.

Euh donc je vais je vais essayer. Attendez, je vais baisser. compliqué comme il y a un écho.

Donc du coup, ça veut dire que je ne vous entendrai pas si vous parlez dans un premier temps, mais pardonnez-moi, je je vais essayer de parler 5 minutes. Donc moi, je vais vous parler euh en complément de de ce que vient de dire Laurence, vous dire vous parlez plus de ce que je vois arriver ou de ce que nous voyons arriver dans les pratiques aujourd'hui. C'est-à-dire que les intelligences artificielles aujourd'hui sont des outils qui sont de plus en plus utilisés de façon croissante et impressionnante par un nombre majeur de nos concitoyens, on va dire, pour les aider dans leur relation quotidienne à la connaissance, au divertissement, à la culture et à l'information.

Moi, j'irai pas au-delà de ces questions-là parce que ça dépasse mon champ de compétence d'aller au-delà de ces questions-là. Mais si j'en reste dans le domaine qui est le mien, qui n'est pas comme vous l'avez rappelé monsieur le président pas du tout un domaine de de de d'ingénieur ou ou de scientifique mais d'un praticien, je constate si vous voulez que de plus en plus nous déléguons à ces outils euh une partie croissante de notre vie culturelle, divertissante et et informationnelle. Et donc en réalité ce qu'on peut ce qu'on peut ce qu'on peut remarquer en faisant ça, c'est que ça contribue à passer de mon point de vue d'une d'une phase du numérique à une autre phase du numérique.

Encore une fois dans les domaines dont j'ai parlé hein, pas des autres. Euh on on a eu une première phase, on va dire entre euh 1996 et 2006-2007 où euh le numérique c'était vraiment l'aire de l'accès, de la disponibilité. C'est-à-dire que tout d'un coup, tous les contenus, tous les savoirs, tous les sons, tous les textes devenant des fichiers et bien ils étaient d'une façon ou d'une autre rendu disponible par les plateformes.

Et donc c'était le triomphe à ce moment-là de la recherche et du fait que on arrivait à trouver à peu près tout ce qu'on cherchait. Euh c'était encore, on demandait encore à l'utilisateur d'être actif. En réalité, on lui disait "Ben, provoque la recherche pour trouver ce que tu cherches." Puis ensuite, à partir de 2006-2007, quand on est rentré dans une phase euh de connexion permanente euh avec l'invention notamment du smartphone et évidemment l'invention concomitante des réseaux sociaux et et et euh et la mise la mise sur orbite de l'économie de l'attention avec la avec le le financement publicitaire des réseaux, on est rentré dans une are qui était une ère de la propagation. où en réalité d'ors et déjà tout ce qui était cognitif encore une fois, je parle là de du divertissement de l'information et et de la culture hein, je parle pas du reste donc de de ce qui structure l'espace public et bien c'était le résultat on va dire d'une interaction homme machine c'est-à-dire que un homme une femme postait un message un contenu à un moment donné et puis l'algorithme décidait de l'accélérer, de l'amplifier ou pas.

Et d'ors et déjà, on était dans une espèce de régime mixte. on l'a bien vu, on le voit encore aujourd'hui où la conséquence sur ce qui était populaire, pas populaire, ce qui était présent dans l'espace public, pas présent dans l'espace public, de la structuration de de ce qui faisait l'information ou autre était le résultat d'une interaction entre ce qui est à un moment donné fourni ou créé par un être humain et ce qui est amplifié et accéléré par la machine ou ce qui ne l'est pas, ce qui a des déjà très fortement déséquilibré l'espace public. euh on va dire la les les industries culturelles et et créatives puisque d'ors et désormais elle elle devait, j'allais dire faire d'une certaine façon danser un tango compliqué avec avec le le rythme algorithmique là avec les les intelligences artificielles génératives d'une part et les agents d'intelligence artificielle qui qui nous permettent de de déployer nos nos nos connaissances enfin nos relations par rapport par rapport aux sphères dont j'ai parlé.

On rentre dans une are que j'appellerais l'aire de l'imbation où encore une fois d'abord ce qui est produit est produit indifféremment par des machines ou par des êtres humains. La production synthétique aujourd'hui est en compétition permanente avec la production qu'on appelle authentique. et je regardais, c'est Morgan Stanley qui a publié ce weekend quelque chose, quelque chose d'assez vertigineux, à savoir que aujourd'hui les jeunes adultes passent 3 heures par semaine à écouter de la musique créée par des intelligences artificielles génératives.

Donc on est particulièrement là dans ce moment où le synthétique et l'authentique sont en compétition permanente pour nos oreilles, nos yeux, nos sens et qu'ils sont la plupart du temps pour le moment encore assez indifférenciés dans la façon dont ils sont proposés au public. Et la deuxième chose qui est absolument concomitante avec la première, c'est que l'imbécation Home Machine, elle a lieu aussi dans le fait que de plus en plus ce qui vous est proposé en terme d'information, de diversement ou de culture et le résultat d'une relation, c'est-à-dire la relation que vous avez avec votre agent d'intelligence artificielle à qui vous demandez de vous faire un choix de film, vous lui demandez ce qui s'est passé aujourd'hui dans le monde, de de vous dire ce qui s'est passé. ou de vous trouver une musique qui vous mette de bonne humeur.

Et donc là se crée une médiation euh entre l'individu et on va dire les productions intellectuelles. Une médiation qui est faite par des systèmes, des systèmes qui sont de plus en plus de plus en plus utilisés alors même qu'il restent d'une très grande opacité. Euh ils sont d'une double opacité.

D'abord, moi individu, je ne sais pas forcément comment ça fonctionne. Je ne sais pas sur quel critère l'intelligence artificielle me propose telle ou telle chose. Donc ça fonctionne bien, mais je ne sais pas quels sont les critères.

Je ne peux pas les paramétrer, je ne connais pas les préférences induites. Euh par ailleurs, je ne peux évidemment pas vérifier la la pertinence de ce qui m'est proposé. Mais la deuxième chose aussi qu'il faut pas et et je terminerai par là qu'il ne faut pas sous-estimer, c'est que aussi c'est des systèmes qui sont d'une ce que j'appelle d'une opacité collective, c'est-à-dire qui vont de plus en plus vers la personnalisation de ce qu'on vous propose.

C'est-à-dire que la la dépêche d'information qu'on vous propose ne va être rédigée que pour vous. Sur quelle base ? On y reviendra après, mais que pour vous.

À terme, on peut tout à fait imaginer qu'une partie des vidéos ou son qui vous soit proposé ne le soit que pour vous. quand bien même vous n'en connaîtriez pas ou la collectivité n'aurait aucun moyen de connaître l'existence de ce qui va vous être proposé individuellement. Donc je voulais terminer ce propos là vraiment en me mettant sur un autre plan que que que celui de Laurent, c'est de dire qu'aujourd'hui le bouleversement induite par les agents d'intelligence artificielle d'une part et par les productions d'intelligence générative d'autre part, il est déjà là en réalité.

C'est-à-dire que on narrive pas à le mesurer et en et à en vivre totalement les conséquences, mais je trouve qu'on retrouve là. Alors peut-être que c'est je vais apparaître comme un un vieux schnok là, mais on retrouve là ce qu'on a vécu entre 2006 et 2010 au début des réseaux sociaux. C'est-à-dire qu'on est tous fascinés par ce que ça propose.

On les adopte tous à toute vitesse alors même que les structures demeurent assez opaque quant à leur mode de fonctionnement et on va dire en général quant à leur condition générale d'utilisation. Voilà en quelques mots. Très bien.

Merci beaucoup pour ce préliminaire. C'est à vous madame la rapporteur. Merci monsieur le président.

Merci à vous deux, Laurence de Viller et et Bruno Patino pour vos propos introductifs. Je voulais commencer par rebondir sur votre désir d'observatoire de l'IA mixte madame de Viller, où on a le besoin encore de pouvoir bien cerner quels sont l'impact enfin les impacts, les conséquences. Monsieur Patino vient de dire que on est encore dans un justement un moment où on nen mesure pas.

Est-ce que vous pouvez préciser ce que vous entendez par euh observatoire de l'IA mixte et dans quelle mesure cela invite aussi à développer l'interdisciplinarité ? Je je peux le développer sur plusieurs aspects. Euh nous manquons en fait de recherche sur l'interaction avec les machines.

Ma chair en IA, elle était sur ce sujet Human Machine Affective Interaction and Ethics. J'ai travaillé sur le nudge. Le nudge c'est la l'incitation à changer d'avis.

Lorsque vous voyez sur internet, vous cherchez une pardon une chambre d'hôtel sur internet et d'un seul coup, il y a une petite ligne rouge qui vous dit 25 autres personnes le cherchent. Tac, je la prends. C'est donc une manipulation douce.

Le sludge existe aussi, c'est-à-dire une autre stratégie qu'on va trouver avec ces outils qui est en fait de freiner ce que vous voulez faire. par exemple, vous voulez vous désabonner de Canal Plus et vous y arrivez pas parce qu'on vous met des bâtons dans les roues sans arrêt. Bon, ces systèmes sont peuvent être filtrés avec des outils algorithmiques pour renforcer tout ça.

J'ai fait des tests avec les enfants à l'école en primaire pour savoir quel était justement l'impact d'un robot par rapport à un Google Home, par rapport à un humain dans le même scénario. C'était avec des économistes du comportement puisque ma chair était justement interdisciplinaire avec des économistes du comportement, des linguistes et des informaticiens. Et ce qu'on a pu voir avec un test autour de l'altruisme, aux enfants on leur donnait 10 billes, il mettaient ça dans deux petits bols, on savait exactement ce qu'ils avaient pris et tout le but du essayer de les faire changer d'avis.

Combien alors l'idée c'est combien vous en gardez pour vous, combien vous en donnez aux autres ? Et donc la machine disait "Ah, les autres ont donné plus ça c'est du nch pure effect." ou alors j'en donnerai plus.

Ça c'est pareil un billet d'autorité. Et les enfants alors que le scénario les scénarios étaient les mêm que ça soit un adulte en face ou un Google Home ou un robot avait tendance à être à plus suivre les indications des machines. Nous avons refait ce test au Bernardin avec des adultes et là non pas avec des jeux de billes hein mais avec leur façon de se comporter sur l'écologie.

Donc on leur demandait leur pratique puis on leur soumettait des questions comme ça avec des arguments sludge ou nudge pour regarder s'ils allaient changer d'avis. De la même façon, on a pu observer et pas moins que les enfants qu'il suivaient plus les machines que les humains. De la même façon, lorsque j'ai été moi questionnée sur les télés ou radio par des citoyens qui appellent en disant voilà, j'ai appris que ben le TDGPT était meilleur que leur médecin que enfin tout un tas de choses comme ça.

Donc la science est mise à mal par cette idée que les machines répondent mieux. Donc ça c'est assez dramatique et je pense qu'il faut l'observer, le regarder, le quantifier et le montrer en exemple pour dire "On ne veut pas aller jusque-là." Pour moi 2022, chat GPT dans les mains de tout le monde, c'est à la fois la prise de conscience que l'intelligence artificielle a un certain pouvoir mais en même temps, c'est un holdup parce que on a pas en face enfin, il y a une telle disymétrie de connaissance que on ne peut pas euh comprendre les différences souvent entre ce que propose la machine qui parle un nom français très très correct, souvent meilleur que la plupart des personnes.

Pour revenir aux capacités de ces machines, elles on est totalement faussé par ces capacités. Par exemple, moi je quand j'avais un problème informatique, j'allais souvent regarder sur des réseaux des discussions d'humain entre eux pour dire quelle est la meilleure façon de pratiquer les choses. Or maintenant ça n'existe plus.

Nous avons des hi génératifs qui nous répondent. Or, elles ne savent pas répondre. C'est-à-dire qu'elle mélange.

Il faut garder en tête que l'humain quand il vous propose une solution, il a réfléchi de A à Z à trouver les moyens d'arriver à la solution. Or li génératif, c'est un fouitou de plein de gens. Donc elle fait une combinaison de possible pour arriver à proposer quelque chose qui ne marche pas.

Donc on est encore dans cette phase de bluff là où tout le monde a l'impression que c'est magique, que c'est très bien et cetera. en fait dans les mains de tout le monde pour n'importe quoi et avec ces I génératifs qui sont nourris que par de l'anglais et cetera, c'est très délétaire. Donc si on arrive à faire et j'ai vu en Suisse un projet qui est monté avec des LLM qui sont fabriqués avec connaissance d'où viennent les données avec supervision avec justement cette espèce d'observatoire que je que j'appelle de tous mes vœux.

Il y a une force de frappe. Ils savent aussi mélanger toutes plusieurs langues et vous montrer à quel point ça apporte ou pas. Donc il faut vraiment distancier.

Je vais prendre un autre exemple. Traduction. On nous dit "Ça y est, il y aura plus de traducteur." Moi, j'ai dit à la radio "Mais non, il en faudra des traducteurs parce que si je veux traduire demain Shakespeare dans son contexte, je vais pas demander à une machine." De la même façon, elle a agrégé plein de choses de d'aujourd'hui.

Elle sera incapable de traduire du Shakespeare. Donc, il faut bien comprendre que nous avons des capacités énormes par rapport à ces machines. D'abord de se mettre dans un contexte historique, de comprendre tout un écosystème que la machine ne comprend pas, d'avoir un corps pour avoir ressenti des choses, ça n'a rien à voir. et même j'ai pas qui sera le modèle que propose Yan Lequin qui est le fait de faire un LM multimodal qui apprend avec nous avec grâce à des lunettes, on met des petits capteurs, on collecte des données et on va faire des nouveaux modèles qui seront beaucoup plus performants et beaucoup proche plus proche de nous.

On est encore très loin très très loin de l'humain. Donc à force de dire que nous sommes devant un superhumain, que nous remplaçons les humains, que nous sommes fragiles par rapport à ces machines, on fragilise notre propre intelligence. Et pour moi, on doit absolument reprendre ce discours d'un point de vue politique pour que on valorise l'intelligence des gens, leur montrer que l'intelligence, c'est pas une seule chose, c'est pas seulement calculer ou mémorisé.

On a beaucoup d'autres capacités hein de compréhension de l'environnement, des autres, de l'histoire. Ces machines font énormément d'erreurs, elles continueront à en faire. C'est pas parce qu'on rajoute de plus en plus de de données puisque maintenant on est arrivé à voir avaler tout internet. on crée des données synthétiques.

Bon, on va pas arriver à faire grand-chose. Maintenant, je pense aussi que pour la musique, si je reprends l'exemple de la musique, pour la culture, on va pas remplacer les humains, on va faire autre chose. Et pour la musique, il y a des pans d'invention à avoir avec ces outils.

Donc, ne négligeons pas le fait que nous sommes à un basculement où il faut comprendre mieux comment il marche. Et c'est ça cette observatoire que j'appelle de mes vœux, c'est donner les moyens. Alors on va pas tout comprendre mais déjà si on envoyait des bonnes étincelles à tout un chacun avec des outils qui sont capables de montrer ce que c'est et bien on irait beaucoup plus loin.

Par exemple Lucy s'est fait dégager par tout le monde pour l'éducation. Vous savez ce chatbot enfin ce LLM. Pourquoi ? parce que s'il était dans son état premier, c'est il y avait juste le méga système et pas les couches autour pour optimiser et aligné à l'humain, et bien tout le monde a dit "Ah c'est horrible, c'est moins bon que tous les autres systèmes, donc on le bâche".

Mais non, l'éducation ça serait de prendre celui-là, de le désosser et de montrer comment il est fait et d'apprendre cela. À partir de là, les enfants seraient moins naïfs comme les adultes qui ne connaissent pas ces domaines devant tous ces outils. Donc j'ai plutôt un propos rassurant sur le fait que nous sommes en capacité de bien comprendre ces machines si on sait nous les expliquer si on a envie de nous expliquer.

Donc derrière tout ça, Lian n'y est pour rien. Ce sont bien des humains qui manipulent les humains. Monsieur Monsieur Patinot Monsieur Patino, vous voulez ajouter quelque chose ?

Non, non, juste peut-être dire euh dis un mot qui est qui est pas du tout euh contradictoire avec ce que vient de dire Laurence, je suis je suis entièrement d'accord avec tout ce qu'elle vient de dire puis elle est plus compétente que moi dans ce domaine. juste dire une chose quand même euh et c'est que euh la déstabilisation d'un certain nombre de sphères par l'IA est déjà là quand bien même ce qui est produit par l'IA est de temps en temps euh tout à fait euh dérisoire. Si si je prends dans le domaine culturel ce ce dont on parle aujourd'hui de le fameux IASL qu'on pourrait traduire par bouilli, enfin peu importe, c'est-à-dire tous ces contenus produits à la chaîne plus ou moins humoristique, faux ou ailleurs produit par LIA.

Euh en réalité, évidemment que c'est incomparable avec l'œuvre d'un artiste, mais ça rentre euh dans le marché et le marché de l'attention aujourd'hui. Vous voulez donc ce qu'on apprenait autrefois en cours d'économie, la mauvaise la mauvaise monnaie peut chasser la bonne de temps en temps. Ça peut arriver dans le domaine des œuvres de l'esprit aussi.

Et aujourd'hui, encore une fois, je je suis entièrement. Moi moi moi ce que je je crois, si vous voulez, c'est que on est au tout début des impact dans le domaine de l'information de regardez, je prends l'information, on en a encore tous et à juste titre à parler des problématiques de désinformation. On n'a pas encore su régler aujourd'hui le problème de la désinformation venant des réseaux sociaux et et et Céline Calvez le sait bien.

On a eu cette discussion souvent. Euh, on sait les les à peu près toutes les autorités de l'ensemble des pays ont tâtonné entre est-ce qu'il faut réguler ce que j'appelle moi la superstructure des réseaux, c'est-à-dire les messages, voir les gens qui sont capables de poster sur les réseaux sociaux où est-ce qu'il faut réguler, ce qui avait plutôt ma préférence, la superstructure, l'infrastructure pardon, c'est-à-dire en fait les algorithmes d'accélération et d'amplification. Bon et on est en 2025.

Le sujet a été posé je pense pour la première fois en 2010. 15 ans après, ça progresse. Mais on en est pas on n'est pas du tout on n'est pas du tout arrivé à déterminer aujourd'hui quelle est la responsabilité juridique réelle d'un réseau social.

Le débat existe partout. Moi je je dis juste une chose, c'est que ce qui est en train d'arriver, ce qui nous est arrivé avec les réseaux sociaux dans les domaines qui sont les miens et encore une fois, je le dis toujours parce que je veux pas du tout apparaître comme multicompéten que je ne suis pas si tent que je sois compétent dans mon domaine, mais ça c'est une autre question mais en tout cas je vais pas aborder les autres domaines. Et dans les domaines qui sont les miens, on voit aujourd'hui que l'économie des IA petit à petit ou de certains agents des IA vont pouvoir à un moment donné déterminer l'ensemble de l'économie informationnelle et de la culture.

Et si vous regardez ce qui se passe du point de vue de l'information, maintenant vous avez pratiquement chaque jour des milliers, des dizaines de milliers, des centaines de milliers de faux médias qui sont faits par l'IA et qui ont des buts juste de noyer encore une fois l'ensemble des messages informationnels et donc en permanence c'est fait. Donc on est encore aujourd'hui pour moi dans un moment où si il devait y avoir un observatoire comme l'a très bien proposer Laurence de Viller, je pense qu'encore une fois il y a deux notions sur lesquelles il faudrait travailler me semble-t-il. La première c'est quelle est la responsabilité du NIA ?

Est-ce qu'il y a une responsabilité spécifique ou pas ? Euh c'est une question qui me semble qui me semble importante. Et la deuxième question qui est pour moi assez concomitante par ailleurs, c'est à un moment donné qui est qui est concomitante à la responsabilité, c'est que à l'inverse, a-t-il un moyen d'assurer, j'allais dire en dehors des bonnes pratiques, enfin en tout cas une compliance possible de l'ensemble de ces outils à partir du moment où ils abordent les sphères de la production intellectuelle humaine ?

Encore une fois, je je moi moi je je dirige une entreprise, je suis en ce moment une entreprise culturelle qui est simplement. En ce moment, vous n'aurez pas un journal, une télévision, une radio ou un site internet qui ne vous dira pas vous savez ce qui se passe en ce moment pour nous, c'est que il y a une chute majeure euh du trafic des gens qui viennent nous voir via un moteur de recherche alors que pendant très longtemps, ça a été 30 à 50 % des audiences numériques, des médias d'information, de culture ou de divertissement. Aujourd'hui, ces chiffresl s'effondrent tous et ils sont remplacés par quoi ? par le trafic qui vient ou qui ne vient plus euh par le fait que ces gens-là font appel maintenant à Chat GPT, à Jimini, à Perplexity ou à d'autres.

Moi, je je rentre là, c'est hors compte-rendu. Euh je n'arrive pas, j'arrive à être à Arive va être référencé sur Google, n'arrive jamais à être proposé par chat GPT par exemple. Comment ça se fait ?

À quelles conditions je pourrais l'être ? Qu'est-ce qui se passe ? Je n'en ai strictement aucune idée.

Vous avez aujourd'hui des journaux qui sont en mesure de signer des accords. Non, pardon. Vous avez un journal aujourd'hui qui est en mesure de signer des accords avec Chat GPT parce que chat GPT est venu le voir en disant j'ai choisi mon acteur national et tous les autres je dis bien tous les autres qui sont un en incapacité de signer ces accords et ces accords-l ils n'ont pas seulement un contexte ou il ils n'ont pas seulement des conséquences monétair ils ont aussi des conséquences d'existence c'est-à-dire que de la même façon que les réseaux sociaux ou les moteurs de recherche ont pu avoir à un moment donné un pouvoir d'invisibilisation de certaines sources ou certaines productions intellectuelles, il va en être de même puissance 1000 avec ces choses que sont les intelligences artificielles.

Je dis puissance 1000 parce que nous n'aurons aucun moyen de vérifier que c'est le cas ou pas puisque nous n'aurons jamais de publication collective si j'ose dire ou visible par tous de ce qui est proposé par une intelligence artificielle. Voilà. Pardon, j'ai été trop long.

Ce n'est jamais long quand c'est intéressant puisque forcément ça vient faire susciter beaucoup de questions notamment sur les les effets sur l'économie des médias. Mais je voulais revenir et et Laurence Deiler nous y invitait à ouvrir le capot de la machine. On parle souvent de la notion de transparence.

Je voulais qu'on s'attarde euh avant sur l'entraînement euh de ces machines. Euh quelles sont les données utilisé ? Quelles sont notre connaissance de ces données ?

Euh vous le savez, il y a aussi l'utilisation de données qui sont des œuvres et qui devraient être soumises à autorisation voire rémunération. sur cette partie en amont euh de de de on va dire de la machine. Quels sont les vos suggestions pour qu'on est qu'on ait davantage connaissance de cet état, mais surtout qu'est-ce que nous pourrions faire pour aller un petit peu plus loin pour aller chercher la responsabilisation hein des acteurs de l'IA, que ce soit ceux qui euh établissent des sets de données ou alors ceux qui font le développement, voire même ensuite ceux qui l'utilisent.

Mais concentrons-nous si vous le voulez bien sur l'amont. À vous Laurence de Viller puis Bruno Patino. Donc sur la transparence effectivement il y a il y a plusieurs sujets.

Il y a où on va chercher les données et quelles données on prend et qu'est-ce qu'on a comme droit sur ces données ? Euh il y a eu des justement grâce à des observatoires comme je parlais des travaux produits en Angleterre. Donc, j'ai oublié l'exacte référence que je pourrais vous trouver euh montrant par exemple sur des questions précises autour de l'Ukraine qui était des questions soit très politique soit moins politique, qu'est-ce que les ces outils allaient chercher comme information ?

Et euh et donc ils avaient effectivement le LLM mais ils allaient en plus chercher des informations sur des sites russes pour beaucoup pour Grock et pour Chat GPT par exemple. Ce genre de chos le trouver de la même façon que vous dites si on a pris des œuvres quand j'ai parlé de contamination tout à l'heure, c'est ça qui avait en sous-entendu. Quand je un un jeu d'essai, qu'est-ce que c'est ?

Ce sont des textes par exemple avec des réponses, des questions et des réponses. Et on attend de la machine qu'elle nous réponde correctement sur de la des tests de logique par exemple, d'accord ? qui sont pour tout humain difficiles à faire parce que on a des biais parce que on va simplifier le problème et cetera et on essaie de voir si la machine raisonne pour aller chercher ces informations et on est capable de savoir si elle connaît déjà par cœur ses tests.

Ça veut donc dire que pour les données privées, on devrait pouvoir trouver des avec des recherches des moyens, c'est un domaine qui est en train d'exploser de plus en plus pour aller quantifier. Alors pas forcément de façon à 100 % mais déjà si on en trouve des preuves, ça suffit à mon avis pour commencer à lever des enquêtes sérieuses. C'est cet outillage qui manque.

Vous avez des paramètres qui sont utilisés. Donc déjà le LLM il engouffre des données au départ puis il va essayer avec d'autres algorithmes d'aligner à l'humain par différentes méthodes. Il y en a une qui est très peu connue qui s'appelle les instructs, les instructions que la machine apprend.

Or, elle va apprendre à faire des plans, des résumés, ce qui nous bluffe, à traduire, à toutes les questions majeures que l'on pose à ces machines ont été récupérées. On ils en ont fait des listes et ils ont produit des bases de données qui sont très peu visibles. On les connaît même pas nous, chercheurs.

On en voit quelques-unes grâce à une INF qui sur son sa plateforme va mettre des instructs en ligne et on voit par exemple résumé, bah c'est plein de textes. Voilà le résumé. Donc la machine apprend un méta comportement qui est de résumer quelque chose.

Donc ça paraît magique comme ça mais elle apprend des choses de cet ordre là. Ça veut pas dire que ce sont des émergences cognitives intelligentes. OK, ça c'est le premier point.

Donc outiller grâce à [rires] mon observatoire où on manipule des mathématiques et en même temps les conséquences sociétales sur l'information me paraît être très judicieux. Même si on ne voit pas tout. Si on s'est levé des choses en grandeur, on pourra bien gêner les géants du numérique sur des sujets précis.

La deuxième chose, c'est sur ce que vous disiez tout à l'heure, la responsabilité de d'une IIA. Non, non, UNIA ne sera jamais responsable. ça serait donner trop de poids à CIA IAS pour en noter finalement aux humains qui sont vraiment responsables de l'utilisation de ces machines.

J'ai toujours des tas de d'exemples je pourrais vous donner sur la l'impact de l'algorithme qui n'était pas forcément voulu d'ailleurs par les gens qui les ont mis en œuvre. Le par exemple envoyer la publicité à des à des citoyens. D'accord ? on passe par un algorithme d'enchère et on peut se dire une société qui voulait promouvoir des cours d'informatique en l'épit les écoles d'informatique et qui avait fait ce test en grandeur pour s'apercevoir qu'en fait le problème c'était le coût c'est-à-dire que si je veux envoyer des pubs pour des garçons et des filles, il y avait des filles ou des garçons sur des sur des visuels de publicité.

Si je voulais envoyer des filles, il fallait que je paye plus cher que si j'envoie des garçons. Parce que les filles sur internet, elles sont prises par les sacs à mains, la maison, la piscine, les enfants, tout ce que vous voulez. Donc il y a plein d'autres acteurs qui vont passer avant l'informatique et la fille qui est sur l'image.

Quelque chose qui est évident hein si on s'oblige à regarder de près ce qui est en train de se passer. Donc détricoter les usages de ces outils et les conséquences, c'est il est possible de le faire. Je connais plein d'articles de ce type là.

Je pense qu'en France, on manque énormément d'un observatoire intelligent qui soit capable de faire ça. Deuxièmement, je le dis pour les enfants et pour l'éducation, j'étais au forum de l'appel il y a pas très longtemps en octobre avec la coalition ERA qui est internationale qui s'occupe de l'aspect mental des enfants, enfin les conséquences sur les enfants de l'utilisation de ces outils. Notamment Matel qui faire un accord avec Chat GPT pour faire des nounours qui parlent aux enfants.

Voyez ? Donc je sais pas ce qui vous pouvez imaginer l'apprentissage de la langue et des émotions via le nounours. Ça va pas faire des humains forcément comme les autres si il y a tout un tas d'outils dans la tendre enfance qui vous suure des choses.

Donc attention à l'impact de tout ça. Donc ils sont ils ont montré une coalition internationale pour essayer de faire un un laboratoire commun avec Alors moi j'ai posé la question à la Sorbonne, j'ai posé la question au CNRS en disant "Venez, il faut mettre des forces" et je m'a dit bon allez-y. Et il y a pas cet engouement qui devrait être nécessaire.

On a des énormes laboratoires de recherche. Ce sont des sujets pour lequels on a besoin de force et besoin d'aller plus loin. Et dans les pays anglo-saxon, il y a plus de gens finalement qui s'intéressent à ces sujets mixtes de sociologie.

Je suis arrivé moi à la Sorbonne dans un UFR de sociologie et d'informatique pour faire de l'interdisciplinarité. Or, ce n'est pas le cas. Et partout, c'est un peu comme cela.

Donc c'est très dommageable. L'autre sujet qu'ils ont réussi à faire dans cette coalition, c'est le fait d'écouter les grands groupes qui se posent aussi des questions puisqu'on a des parents aussi dans les parmi les directeurs d'IA de Open AI, Google et cetera. Il se posent aussi des questions sur l'impact sur les enfants et ils appellent aussi de tout leur vœux que les scientifiques du monde entier fassent des repositories de ces recherches et des résultats qu'on peut avoir pour essayer de tirer des lignes un peu plus claires sur les effets euh desires pour les enfants.

Merci beaucoup. euh sur euh voilà sur la question de l'amont avec l'entraînement, l'alignement et puis euh le rôle euh de la sélection de de données euh Bruno Patinot euh sur cette disponibilité euh des données ou en tout cas sur la transparence qui peuvent être fait. Quelles sont vos réflexions ?

Moi, j'ai pas beaucoup plus à dire que ce qui a été dit au niveau au niveau de la transparence. Je pense que de toute façon quand on va aborder en plus les œuvres de l'esprit, c'est c'est très très compliqué. Vous voyez qu'aujourd'hui euh aujourd'hui il y a enfin moi je vais avoir un côté plus plus pragmatique.

Je pense que si vous voulez euh la problématique ce que je vois arriver moi, c'est qu'on en fait il va y avoir deux statuts aux données d'entraînement. des données d'entraînement euh qu'on connaîtra pas vraiment et et qu'il faut connaître par les mécanismes qu'a évoqué euh Laurence de Viller, et puis d'autres, on voit bien qui aujourd'hui vont être le résultat d'un accord commercial, hein. Vous avez aujourd'hui les grands détenteurs de propriétés intellectuelles qui arrivent à passer des accords commerciaux pour prévoir la disponibilité de leur contenu comme données d'entraînement.

Et donc en réalité, mais là on va être toujours en en désaccord avec Laurence, moi je je je suis euh sur deux points. Je pense que si vous voulez là, il faut qu'on réfléchisse au statut juridique des données et que c'est la nature du statut juridique des données. Est-ce que c'est un bien privé, un bien commun, un bien public ? et et il y a certains politistes en sciences politiques qui sont favorables eux à une sorte de gouvernance non pas des IA mais une gouvernance des statuts des données. personnellement, mais je peux me tromper, j'y vois j'y vois plus de solutions pratiques que d'essayer, même si je je crois que c'est très c'est très souhaitable que que d'essayer en permanence de de tracer, on va dire la la nature des des données d'entraînement qui ont été celles des IA des IA.

Euh mais vous voyez même de au sein même des grands groupes d'ailleurs, il y a il y a toute cette notion euh si c'est des données en open source, quel est leur statut, comment ça se passe et cetera, mais je pense qu'on réfléchit pas assez au statut des données euh et de plus en plus en tout cas dans les dans des I un peu spécialisés, le fait de pouvoir s'entraîner sur des données, j'allais dire limitées à statut précis aussi un argument économique. En tout cas, personnellement, moi j'aurais tendance à encourager la réflexion sur le statut des données et je vais revenir en 30 secondes sur la responsabilité. Là, je suis en désaccord profond avec Laurence, mais peut-être parce que j'ai j'ai une autre une autre comment dire formation classe.

C'est-à-dire que je constate que dans le domaine de la science politique, toutes les réflexions qui sont faites aujourd'hui sur l'évolution de la notion de responsabilité, bien sûr qu'il faut pas dire qu'une est responsable dans une vision qu'ancienne de ou aristotélicienne d'ailleurs de la responsabilité comme étant je fais un acte qui a des conséquences. Là, ça n'a pas de sens de dire qu'unea est responsable. l'être humain est responsable.

Mais vous avez aujourd'hui tout un volet euh qui réfléchit justement à cette nouvelle notion de responsabilité euh qu'on appelle imputationnelle en réalité et qui est poursuivie par un certain nombre de philosophes qui est de dire aujourd'hui dans le domaine numérique la responsabilité elle n'est plus aussi qu'ancienne et aristotélicienne qu'elle l'était avant avec un acte qui est totalement j'allais dire adressable à un individu et qui provoque des conséquences immédiatement j'allais dire mesurable, modifiable dans un dans un espace-temps limité. Et donc moi je je crois que en tout cas du point de vue de la science politique, un des échecs qu'on a quant à la régulation du numérique, c'est qu'on a essayé de lui appliquer un système de responsabilité classique auquel cas ça marche pas. responsabilité éditoriale, ben non, ça marche pas parce qu'un réseau social n'est pas un éditeur.

UNIA, c'est évidemment pas un éditeur, mais ce n'est pas non plus ce n'est pas non plus une interface qui ne provoque aucune conséquence à un moment donné. Donc donc voilà, c'était juste pour mettre un peu de de de précision sur cette notion de responsabilité, mais sur l'amont, moi je pense qu'il faut aller encore en amont pour se poser la question de de du statut du statut des données. Merci.

Alors, les données en plus si on considère qu'elles ont déjà été toutes travaillées, on va peut-être en manquer au bout d'un moment ou alors on va se contenter de remettre dans la machine des contenus pour lesquels on aura fait appel à cette machine. Mais je ce qui va m'amener à à aller plutôt sur l'aval et la façon dont l'interaction entre l'homme et la machine euh peut faire apprécier ce qui est ces ce que sont ces produits de sortie. produit de sortie, ça peut être des données, ça peut être un article, ça peut être un son, ça peut être une une vidéo.

Euh aujourd'hui, vous avez euh des euh certains acteurs qui disent que pour que une œuvre soit reconnue comme une œuvre, il faudrait qu'elle soit exemptée de toute utilisation de l'IA et d'autres qui disent qu'il va falloir quand même prendre en compte justement cette question de qualification d'œuvre parce que de plus en plus et madame de Villard, vous l'avez dit, en fait, se passer de l'IA, ça va devenir non éthique. Donc en fait, on peut aussi considérer que tout acte de création aura une partie d'utilisation de ces machines d'intelligence artificiel générative. Comment vous situez-vous sur le la qualification de de de produits de sortie notamment au rang culturel ?

On imagine bien que on pourrait demain disqualifier ce qui a été l'objet d'une véritable recherche artistique, mais on pourra disqualifier éventuellement le statut d'œuvre à ce qui aura été sorti avec Lia. Madame de Viller. Bon euh oui, je pense que le statut d'œuvre pour moi, il est il est là parce que l'humain réfléchit à un projet, à des intentions et à une façon d'élaborer son projet qui fait appel à des pinceaux et maintenant à de lien.

Donc on je ne vois pas pourquoi on qualifierait pas d'œuvre quelque chose qui soit venu de une réflexion cognitive humaine mettant en œuvre un objet qui n'est absolument pas humain qui s'appelle de l'IA ou de l'informatique augmentée comme je vous ai dit qui est certes un un outil non déterministe mais qui peut apporter des variantes intéressantes. Je pense que il faut surtout que au lieu de parler parce que tout à l'heure vous parliez de conflit entre les œuvres humaines et les œuvres artificielles, je pense qu'il faut passer à une collaboration entre et c'est pas d'ailleurs c'est même pas une collaboration parce que ça voudrait dire que Lia collabore avec les humains. Or, elle n'a aucune intention de quoi que ce soit.

Donc c'est plutôt les humains qui vont utiliser ces ces machines. Il faut se rendre compte quand même que c'est très pauvre quand vous utilisez que de l'IA. Alors, si vous demandez une musique dia juste en faisant un prompt sans rien faire d'autre, c'est c'est assez pauvre, ça a pas révolutionné.

Ou alors vous l'avez déjà entendu ou alors c'est du supermarché, vous l'avez déjà entendu plein plein de fois. Donc ça n'est pas une œuvre. Une œuvre c'est originale.

Donc déjà le fait que ça soit dupliqué de par cela, ça devrait pas être considéré comme une œuvre. Si c'est on en fait des millions qui se ressemblent, ça c'est plutôt une bon c'est à nous de valoriser en fait les œuvres humaines, à nous humains de valoriser les œuvres humaines plutôt que de s'occuper de ces ces histoires. C'est-à-dire on devrait revaloriser effectivement quelque chose qui nous surprend vraiment même si la personne a utilisé l'IA, mais c'est vraiment une œuvre humaine parce que c'est elle l'a considéré comme un outil.

Donc c'est pas une question de pourcentage, c'est une question de valeur cognitive, de valeur de contenu. Et je sais pas, il me semble que euh il y a un espèce de discours très humaniste qui est contre contre l'utilisation de tous ces outils en disant attention, on va aller vers une tambouille qui fait qu'on aura plus de connaissance, plus de culture et plus d'œuvres propres. Non, on va aller vers quelque chose d'un peu différent où il y aura des œuvres propres que humaines, des œuvres un peu hybrides.

Mais pourquoi ? Pourquoi pas les considérer aussi comme des œuvres ? C'est c'est là où il faut qu'on fasse attention parce qu'on a par exemple dit vite ah ça c'est une œuvre en regardant les tableaux fait par du numérique qui était absolument atroce qui n'avait aucune aucun intérêt ni esthétique ni il n'avait que de valeur que d'être la première le premier tableau fait par une voilà point donc ça c'est délétaire j'espère qu'on ira au-delà de cela donc faisons grandir l'humain grâce à ces machines aussi plutôt que de dire on est en compétition avec ces machines pour moi on est au-dessus bien au-dessus Merci monsieur Patino.

Alors sur ce qui sort de l'interaction entre l'homme et la machine sur ça. Il y a j'ai une réponse assez double. La première, je suis je suis je suis entièrement d'accord avec ce que ce qui vient d'être dit là.

Pour moi, c'est aussi simple. une œuvre, c'est à partir du moment où vous avez, comme on dit en bon français, human in the loop, quoi. À partir du moment où vous avez un humain dans dans le circuit, c'est une œuvre.

Euh même si il y a une très grande peur. Je je peux vous donner un exemple. Il y a environ maintenant 1 an, un an et demi, on a lancé avec une petite série qui s'appelait Prompt et qui est une série faite par un auteur en plus un auteur vraiment reconnu euh graphiste lui-même qui s'est amusé à voir comment détourner, pousser jusqu'aux limites ou autres ce que pouvait faire la version Chat GPT et puis et puis et puis d'autres d'autres d'autres IA plutôt graphistes à l'époque et certaines sociétés d'aut auteur et notamment la SACD s'est ému en disant comment ça y est décide décide de jeter les auteurs à la poubelle alors qu'en fait on avait fait travailler un auteur avec l'IA et il est évident que aujourd'hui avant même les I vous avez beaucoup de musique qui est composée avec des programmes informatiques spécifiques d'aide à la composition à l'harmonisation ou autres vous le savez moi c'est plutôt mon domaine de la musique donc je vais pas parler des arts picturaux ou autres mais ça fait bien longtemps que la musique est composée avec l'aide de l'informatique en réalité et ça n'a jamais pensé, ça n'a jamais empêché les uns et les autres de dire que c'était des œuvres.

Donc le premier versant de ou la première face de la médaille, je dirais oui, une œuvre, moi je suis pas je pense qu'à partir du moment où vous avez un humain dans la boucle, en réalité euh en réalité c'est une œuvre. Après, une bonne œuvre ou mauvaise, les critères esthétiques, tout ça, c'est une autre histoire. Mais en tout cas, à partir du moment où où on va dire l'humain va au-delà d'un simple prompt, c'est une œuvre.

Euh et par ailleurs, j'insiste sur ce point, on voit bien aujourd'hui dans le domaine notamment de l'image, du cinéma ou autre ou de la photographie surtout euh que ceux qui produisent avec le LIA arrivent à produire des choses que nous n'avons jamais vu avant, vraiment. c'est-à-dire des univers picturaux très étranges. Et quand je dis étrange, c'est c'est c'est évidemment j'en parle artistiquement de façon favorable, c'est-à-dire euh moi, j'ai été jury et je le serai dans 2 jours encore sur des sur un prix de court-métrage fait par LIA et croyez-moi à tous les cinéastes à qui on a demandé combien ça leur avait demandé de temps de travail mais aucun d'entre eux disait moins de 6 mois de travail quoi parce que l'outil euh voilà effectivement c'est c'est compliqué d'utilisation et si vous voulez vraiment créé avec lui, ben ça ça nécessite de passer du temps avec lui et ça donnait par ailleurs des types d'images qu'on avait vu nulle part ailleurs qui n'étaient pas du tout du clonage.

Maintenant, l'autre versant de la médaille, je me me permets de répéter ce que j'ai dit par ailleurs parce que malgré tout la culture aussi, en tout cas les industries culturelles sont sont aussi une économie une économie qui est fondée soit sur les recettes qu'elle peut avoir en terme de temps d'attention, soit les recettes qu'elle a auprès des utilisateurs qui sont les abonnés. Et encore une fois, vous pouvez avoir là, même si les œuvres entre guillemets où les productions sont pas comparables et là-dessus je je rejoins ce qui a été dit avant, en revanche, elle s'adresse le même marché et ça pose un vrai problème de déstabilisation. C'est-à-dire que quand j'ai Beatles IA John Lennon qui chante Sitting Sitting in the Garden of je ne sais quoi euh produit par Unia tellement clonage d'un truc qui a été fait par les Beatles, on peut dire que ça prend très peu de temps mais en même temps ça prend du temps d'attention et donc ça rentre sur le marché quand vous avez 25 30 % de ce qui est produit par Spotify aujourd'hui qui a été produit par de l'IA et par de l'IA non créative, c'est-à-dire du clonage simple, et ben ça rentre dans le modèle économique et d'une façon ou d'une autre, ça déstabilise tout le circuit de la création d'œuvre musicale humaine, qu'elle soit purement humaine ou humaine avec du temps passé, avec de l'IA.

Et donc moi je suis je suis à la fois comme Laurence de Viller assez serein sur le fait que les grands sauts créatifs vont être encore faits par des humains, quel que soit le type de pinceau pour reprendre l'image qu'ils utilisent, que ça soit une a ou pas. Mais en revanche, l'ensemble de l'économie de la culture et de la production intellectuelle va être à mon point de vue très fortement déstabilisé par les créations purement I parce que vous pouvez très facilement noyer le marché. Oui, moi je je suis d'accord avec Bruno que c'est c'est avant tout c'est le le problème est est économique dans tous les ces domaines d'IA et donc c'est là où l'éducation a tout son rôle à jouer et que pour l'instant on le sous-estime.

C'est qu'on nous dit il faut faire des IAS génératives pour l'école. Je suis désolée, c'est pas ça. Il faut désosser ses I pour montrer que c'est juste une machine et que l'invention vient de l'humain.

Et si on n pas appris par soi-même, on sera incapable ensuite de de qu' de créer. Et je pense que c'est fondamental de redire ça à longueur de temps en ce moment. Très bien.

Ça me permet un rebond comme on dit l'Assemblée nationale puisque je voulais vous justement tourner à nouveau vers vous madame Devillier à propos de la des tests que vous avez réalisé d'abord avec des enfants puis avec des adultes et où il apparaissait que tout le monde préférait les réponses de la machine. La machine répondait mieux, c'est ce que vous disiez hein. Il les suivait plus.

Oui. Oui. Oui.

D'accord. Donc ce que ce qui m'intéresse, c'est comment vous analysez ça ? Comment comment est-ce que comment expliquer psychologiquement est-ce que c'est le prestige de la machine parce que c'est moderne, c'est ce est-ce que c'est une forme de fascination donc est-ce que c'est la dévalorisation du facteur humain parce que la l'humain envoie de multiples signaux autres que des questions et des réponses son corps, son apparence, sa voix, même les ondes qu'il dégagent, bienveillance, froideur, malveillance D'accord.

Est-ce que c'est ça ? Et et enfin, avez-vous travaillé sur ces questions ? Et deuxème question euh seconde question plutôt, comment remettre l'agent euh conversationnel à sa place dans ces cas-là ?

Bon, j'aime beaucoup ces questions. Merci beaucoup. Euh alors, j'ai parlé de billets d'autorité, c'estàdire que il venait faire des tests avec des robots et d'un seul coup, il cette machine proposait des choses peut-être à laquelle il s'attendait pas.

Euh euh et c'était aussi et on a remarqué aussi hein que c'est plus simple de s'adresser à chat GPT que d'aller régler ses problèmes de couple he si je fais le parallèle. Euh donc on va plutôt préférer, j'ai l'impression que les citoyens sont partis sur cette idée que ils vont trouver des solutions grâce à cette machine et on le considérant comme un espèce de psi. Alors effectivement le l'interaction avec un humain est toujours plus complexe qu'avec une machine.

Donc on nous dit elle ne juge pas, elle est neutre. Alors c'est d'abord elle n'est pas neutre, elle ne juge pas. bah ça dépend ce qu'on a mis comme moral à l'intérieur de cette machine et donc c'est lié aux données.

Donc c'est donc il y a tout un tas de mythes à déconstruire et puis il faut se rendre compte qu'effectivement entre humains, on a un jugement différent. On va écouter les silences, on va si vous allez sur la psychanalyse ou la psychiatrie, vous vous rendez compte qu'on prend énormément de signaux en compte que la machine ne prend pas en compte. Et puis si juste je regarde d'un contenu pramatique, quand je m'adresse à quelqu'un, je lui dis bonjour, prend bonjour.

Donc je regarde qu'il sait en face et comment était son bonjour et quel temps fait-il fait partie de la même chose. C'estàdire que on a une petite introduction dialogique pour comprendre quel est l'agresseur en face de nous. Donc je pense que on a besoin de de parler de démystifier tout ça.

Je pense que l'intelligence artificielle peut révéler aussi ce que nous sommes et nos et nos problèmes de prise de parole parce que justement on on a ces ces espèces de recul vis-à-vis de l'autre qu'on peut peut-être mieux comprendre grâce au IA. Alors, je ne suis pas que positive hein, vous l'avez compris, mais comment les remettre à leur place ? Bah c'est encore une fois l'éducation.

Si je des ces machines et que je montre qu'elles peuvent être sympas, drôles, vulgaires ou n'importe quoi en les changeant un peu et que les enfants puissent jouer avec, ils vont comprendre que c'est des outils, même si ce sont pour moi plus que des outils parce qu'elles ont des impacts non négligeables et ça n'a rien à voir avec, on compare toujours avec l'écriture, l'imprimerie. Je suis désolée, c'est ça n'a rien à voir. L'écriture nous a permis de faire des choses collectivement, c'est-à-dire queon a partagé des connaissances.

Euh l'imprimerie aussi de faire des règles, de produire du droit et de réfléchir ensemble. Euh l'IA euh c'est un faux une fausse mise en commun quelque part puisque c'est pas nous qui euh permettons à la machine de mettre en commun les connaissances et que c'est elle qui les recalcule à partir d'entités qui sont même pas des mots. Donc nous sommes devant une un algorithme puissant parce qu'il régénère mais qui dans son intériorité n'a rien du type raisonnement cognitif.

Donc c'est vraiment des pour moi la démystification de ces objets passant par des expérimentations simples. Quand j'ai entendu l'état dire voilà on va aller parler au café et cetera. On est très sur la surface, on parle des promptes, on parle jamais de l'intériorité de cette machine.

Là ce que j'ai vu comme nouveau domaine qui arrive dans les sciences cognitives, ce sont les cognitions des machines. Non pas cognition en terme d'hum, c'est encore une métaphore, mais comment comment ça permet de générer quelque chose qui nous paraît sensé ? Bon, comme l'éducation est très important, moi je voulais avoir euh peut-être en en quelques mots pour l'un et l'autre, c'est quels sont les avantages que vous voyez dans l'utilisation de l'IA dans l'éducation et quels en sont les inconvénients ?

On devait les résumer en quelques mots. Euh quelles sont les opportunités d'utiliser l'IA ? Alors peut-être on peut se concentrer sur l'éducation des plus jeunes, même si l'éducation tout au long de la vie est importante, mais auprès des plus jeunes, quels sont les avantages mais aussi les dangers de l'utilisation de l'IA en matière éducative ?

Bon, d'abord à mon avis l'utilisation de la parole d'une machine avant que l'enfant ait conscience que ce soit une machine est délét. Donc on peut pas imaginer que le nounours qui va apporter des solutions ou une bienveillance à un enfant peut être quelque chose acceptable. D'autre part qu'on a vu par exemple Moxy, c'est un petit robot qui était mis auprès des d'enfants autistes aux États-Unis.

Euh ce robot, il était censé euh aider à avoir des petits copains, l'aider à avoir des interactions positives avec ses parents et cetera. Euh cette machine, elle a disparu parce que le la boîte a mis la clé sous la porte et donc les enfants ont vécu ça comme une mort en fait de leur meilleur ami. Donc ça a été un drame sur TikTok et sur tous les réseaux sociaux.

Mais ce que je voulais dire par là, c'est que ces I ne sont pas construites actuellement par tous les constructeurs d'objets comme cela comme ayant un début et une fin. Ils ont rarement un début, on les donne comme ça. Ils ont pas une prise en main, hein.

Ils arrivent brutalement dans leur état normal et ils ont jamais une fin. On pourrait imaginer qu'effectivement un robot mis auprès d'un enfant qui a des problèmes de comportement ou de langage soit mis un temps précis. De la même façon, les robots qui stimulent quelqu'un de d'â détourne un peu, qui serait des dead botes, qui serait l'accompagnement du deuil, pareil, le Japon a dit "On va mettre un rituel en place et ça durera le temps du deuil et pas plus." Peut-être qu'on a besoin de se donner des rituels autour de ces l'utilisation de ces objets.

Pour revenir ensuite au plus jeunes, il y a une curiosité à avoir et ces objets nous permettent de faire des bons. Je pense que ça peut aider à apprendre les mathématiques autrement. la physique aussi à imaginer beaucoup plus ce qu'on pourrait en faire à comprendre mieux que la science et un développement qui prend essence.

Il faut absolument que la science devienne centrale et j'entends le contraire partout. C'est horrible de mon point de vue. C'estàd qu'il faut absolument que la méthodologie scientifique d'expérimentation soit connue par tous dès le plus jeune âge.

On avait la main à la pâte qui faisait ça avec l'électricité et l'eau. Or, il y a un plafond de verre. Les toutes les écoles utilisent pas.

Si vous êtes au fin fond du Clerontferrand, enfin de d'un endroit où il y a moins d'écoles, vous aurez peut-être la chance d'avoir la main à la pâte. Si vous êtes à Paris dans les écoles publiques, vous aurez très peu de chance d'avoir la main à la pâte. Donc prenons conscience, moi j'ai fait des capsules étiqué sur pour les plus jeunes à partir donc du CE2, CM1, CM2, enfin 3e cycle, CM1, CM2, 6e pour démystifier, dire ce que c'est que la prise de l'attention, qu'est-ce que c'est que la dopamine ?

Les enfants savaient beaucoup de choses, beaucoup plus de choses que je ce que j'aurais imaginé. Ador en parler, c'était collectif. C'est l'idée de montrer un tout petit film et d'avoir quelque chose de clé en main pour le professeur qui est capable d'avoir toutes les définitions et à chaque point de la vidéo qu'est-ce que on veut apprendre sur quoi on veut discuter sans être moralisateur ni trop simplificateur.

Et cette discussion en classe avec les jeunes enfants à partir de 8 ans, 7 ans, 8 ans me semble être la meilleure façon d'appréhender les futurs objets qu'ils ont d'avoir les futurs objets. Ils les ont dans les mains. Ils ont pour beaucoup déjà un téléphone euh donc on veut l'interdire à l'école, c'est sans doute bien, mais voilà, ils l'auront à la maison.

Donc faut quand même apprendre ce que c'est et je pense qu'il faut démystifier. Donc c'est l'épistémologie de de l'IA, sans parler de moral mais plus de démystification de ses objets. La dopamine, le fait que l'enfant au bout de d'une heure et compris ce que c'était et dise voilà ce que j'ai appris là c'était que c'est pas de ma faute.

Quand ma mère vient et elle me dit "On arrête ce jeu, c'est pas de ma faute, c'est parce que l'hormone du bonheur c'est que donc c'est peut-être sont peut-être des alibis mais peut-être des bons alibi pour finalement faire intégrer que ces machines ont un effet sur notre fonctionnement, sur notre esprit cognitif sur même le ressentiel et que c'est il faut mieux le comprendre. Monsieur Patino sur les les les avantages, les opportunités à utiliser LIA à l'école et puis éventuellement sur ses dangers. Non, très rapidement, je juste pour compléter ce qu'a dit Laurence parce que je suis d'accord que tant qu'on a pas conscience que c'est une machine, il faut pas mettre il faut pas mettre un un enfant en lien avec une IA.

Juste dire en fait, il faut bien voir une chose, le la grand souci aujourd'hui en éducation nationale, me semble-t-il, comme à peu près dans les entreprises, c'est ce qu'on appelle le shadow IA. C'est-à-dire vous faites pas rentrer l'IA officiellement euh euh dans la salle de classe, mais tout le monde l'utilise et tout le monde utilise, pardon, de cette expression, fait sa propre tambouille avec son propre IA. Et donc je pense que là il faut bien voir les Moi, je peux vous raconter cette anecdote.

Il y a je crois que c'était l'année dernière à la journée de la presse à l'école, j'avais un amphithéâtre face à moi de de 500 élèves environ venant de classe de tous horizons. Et et en réalité, si vous voulez, ce qui s'est passé à ce moment-là, c'est que on a on a un moment, si vous voulez, j'ai posé la question, qui d'entre vous utilise l'IA avec son professeur ? Aucune main s'est levée et ensuite, j'ai demandé qui d'entre vous utilise l'IA soi-même comme ça et pratiquement toutes les mains se sont levées et les profs étaient assez sidérés en réalité.

Donc je pense qu'effectivement le le la grande problématique c'est qu'on est des gens qui l'utilisent sans le comprendre ce qu'a dit Laurence. Et donc l'éducation ça vise à aboutir à la maîtrise de ces outils. Et donc ça veut pas dire qu'on les utilise à toutes les sauces.

Je pense qu'effectivement il faut apprendre à la fois ce que c'est leur nature, leur fonctionnement et leur maîtrise. Et à partir du moment où on est suffisamment conscient pour savoir pour savoir ce qu'il en est parce que Laurence a très justement parlé de Matel ou des autres fabricants de jouets, je pourrais vous dire à l'inverse que aux États-Unis dans les épades de plus en plus on met des Ias face au aux personnes en très grande dépendance pour leur assurer soi-disant leur leur quantité de dialogue quotidien. Donc des deux bouts de la chaîne humaine, si vous voulez dire, on on fait prendre on fait prendre en charge la dépendance par les I et ça effectivement ça me semble totalement délétaire.

Si je peux rajouter un mot sur cet aspect-là, ce qui m'intéresse d'autant plus, Bruno que je fais des tests avec des personnes âgées et des I et des robots, je pense que c'est différent puisque justement ils sont capables de comprendre c'est une machine et et l'apport est est très différent en fait et c'est pas forcément délétaire parce que on apprend aussi que ne pas parler tout seul dans sa chambre, ça permet pas de continuer à avoir les mêmes capacités cognitives. Donc le le discours qui avec une machine qui est un peu faux mais qui peut être aussi médié par une machine avec d'autres personnes. Enfin, il y a plein de façons de faire et donc je fais des travaux en fait sur l'éthique qui serait nécessaire de mettre en place autour de du grand âge et l'utilisation de ces objets.

Mais je pense que tu as prononcé le mot central qui est le mot éthique. En fait, tout dépend de l'éthique d'utilisation qu'on en fait. Tout à fait. sur le le progrès des connaissances de l'homme sur son monde.

Lia est aujourd'hui utilisé par la recherche. Alors, parfois on manque un peu d'interdisciplinarité. Je partage ce point-là avec vous.

Est-ce que vous pensez quand même que l'intelligence artificielle nous permet d'aller vers ce chemin de progrès des connaissances ou alors si nous n'arrivons pas à nous assurer un petit peu de l'éthique pour le mot que vous avez utilisé tous deux à une attrition des connaissances. Est-ce que nous pourrions aller jusqu'à avoir une disparition de connaissance alors que les uns et les autres durant les siècles, on a pu connaître des choses, c'est notamment le cas pour la science. Est-ce que vous êtes plutôt optimiste sur la création de nouvelles connaissances ou alors plus que vigilant sur la disparition des connaissances et l'avènement éventuellement de de de des fausses connaissances ? progrès ou recul ?

Alors, vous avez raison de dire que on est [rires] sur un progrès et un recul en même temps. Je je vois d'énormes progrès possibles quand on parle de sciences avec des scientifiques, mais je vois que dans la société euh la science est mise à mal un peu partout. Euh, j'entends même des discours assez extrémistes disant que finalement à laisser les experts décider, on n'est plus démocratique alors qu'on se rend bien compte que la démocratie en ce moment, qu'est-ce que c'est ?

Ce sont des IA qui viennent vous demander enfin vous dire pour qui voter demain si je vais à l'extrême. Donc, on a un vrai sujet en fait de démocratie aussi. Je crois que c'est une fausse bonne idée de dire que enfin de mettre ces ces deux notions en en comment dire en opposition.

Bien sûr que la démocratie existe mieux si on est plus à même de comprendre la science ou en tout cas les avancées scientifiques possible sans devenir devenir un scientifique soi-même et en tout cas respecter le fait que voilà c'est les personnes ont donné toute leur vie pour travailler sur un sujet et qu'on peut leur faire confiance et que la science change aussi parce que on apprend de plus en plus et qu'on peut modifier des connaissances qui existaient avant. Je pense que ça aussi ça fait partie de l'éducation de demain nécessaire pour accompagner en fait ces changements. Si on accompagne pas plus et qu'on on n'est pas plus comment dire fier finalement de ce qu'on peut arriver à trouver comme nouvelle façon de faire un vaccin plus rapidement ou nouvelle compréhension d'une maladie qui a un cancer qui est lié finalement au biotope dans lequel la personne vit et non pas c'est sa façon à elle de de vivre.

Je je pense que on ça sera pas éthique quoi. C'est ce que j'ai voulu dire tout à l'heure. C'estàd qu'on on va se par bêtises, on va on va passer à côté d'une meilleure compréhension de ce que nous sommes, de ce que la façon nous vivons ensemble et la façon nous devons respecter la nature.

Je crois que l'écologie revient à grand pas. J'ai pas dit qu'on on allait tout régler avec Delia. Loin de moi cette façon d'en parler.

Mais par contre le fait de quantifier combien ça coûte aussi de mettre TGP dans les mains de tout le monde mais ça me paraît mais d'une évidence je veux dire quand est-ce que quelqu'un va se réveiller ? Alors évidemment onattend pas des États-Unis ni de la Russie ni de la Chine en ce moment mais est-ce que l'Europe pourra avoir un message de calculer quel est le coût de CHGPT ? On dit Ja, c'est 10 fois plus qu'une requête Google déjà sur internet.

Mais lorsque quelqu'un refait sa salle de bain 20 fois en faisant des images et recommence et recommence, est-ce que c'est pas du gâchi total ce qu'on est en train de faire alors que on peut amener des connaissances scientifiques ? Alors c'est ce discours là que moi j'entends jamais quasiment. J' on entend que les extraits hein, c'est le les réseaux sociaux ont fondamentalement et l'information maintenant joue à mon avis aux apprentis sorcier en en à chaque fois en appuyant sur la bombe plutôt que de rappeler la raison à chacun.

Il me semble que voilà c'est je suis pessimiste sur l'humain qui n'est plus capable de raisonner. Donc la seule façon pour moi de s'en sortir, c'est de massifier une formation, une éducation pour tous, mais réellement en ayant cet esprit collectif. C'est en collectif qu'on fait des choses, pas tout seul face à une machine.

Et donc la le collectif, c'est son intelligence que je voudrais appeler partout à comprendre ce qu'il y a. Et comme je disais tout à l'heure quand même, il y a un point qui est vraiment important. LIA n'est pas une intelligence collective de nous-même.

Elle choisit, je prends un petit bout à machin, je prends un petit bout là et je recompose. Donc c'est pas du collectif en tant qu'humain, d'accord ? C'est une un faux collectif.

Donc ça il faudrait le dire partout. C'est un des aspects fondamentaux qui fait que ces machines vont de temps en temps nous raconter n'importe quoi. Monsieur le président d'Arté, voilà un beau sujet, non ? une éducation de masse li par les médias.

Oui, ça oui. Et et de toute façon, vous savez, nous on a toujours essayé de le faire à ce niveau-là. C'est-à-dire que euh Laurence de Viller parlait de dopamine tout à l'heure.

Vous vous souvenez peut-être que il y a eu cette série maintenant il y a presque 6 ans ou 7 ans suré qui s'appelait dopamine. On en a fait trois saisons d'ailleurs qui ont beaucoup qui ont eu beaucoup de succès pour pour essayer pour essayer effectivement de mettre dans les mains des plus jeunes des outils leur permettant de comprendre ce qui se passait. De la même façon, on est en train de faire ça.

On est en train de d'explorer les deux versants de l'IA, si vous voulez. le versant créatif avec un magazine qui s'appelle Fantasia. évidemment se mettant en à la fin pour essayer d'explorer ce champ de créatif et puis en même temps de rentrer comme d'habitude dans les euh dans dans dans la mécanique dans la mécanique de la machine parce que encore une fois moi ce qui me c'est c'est le fameux paradoxe toujours le paradoxe de Polanie qu'on utilise qu'on utilise des systèmes sans les comprendre évidemment avec avec l'IA avec l'IA c'est le cas et et et on fait partie des gens comme vous, je pense qui pensent que déjà comprendre comment fonctionne un système, c'est déjà c'est déjà commencer à le maîtriser en réalité parce que c'est en comprendre les limites.

Sur sur la question de l'extension du savoir, j'ai moi je suis pas compétent dans le domaine de la recherche scientifique. Donc euh j'allais dire comme au café du commerce, je vois bien tout ce que peut amener Lilia en terme de puissance de calcul de de de d'acquisition de savoir. Euh en même temps, euh si vous voulez, là où c'est plus mon métier, c'est encore une fois sur la transmission et le partage euh de ce savoir ou de cette information.

Et là encore une fois, ce qui a été dit tout à l'heure d'ailleurs et et par Laurence de Viller en particulier, c'est-à-dire que moi ce qui me pose problème comme j'allais dire comme héritier de de de la société glutienne, c'est que maintenant on est sur des outils qui ne sont jamais collectifs en réalité, c'est-à-dire ce qui se produisent n'est jamais publié au sens mais mis en publicité, c'est-à-dire mis en accès au public et et je pense qu'on en maîtrise pas encore toutes les implications d'un point de vue informationnel. Jusqu'à présent, on a parlé de bulles cognitives, mais les bulles au moins ça rassemblé plusieurs personnes. Alors ça a fragmenté nos collectivités en plusieurs fragments.

Mais si j'ose dire au moins les fragments étaient des micro collectivités. Qu'est-ce qui va se passer à partir du moment où la l'unité de base devient l'individu en fait ? et et je pense que d'un point de vue informationnel, cette idée qui moi m'a toujours paru depuis que je fais du numérique et et et on en a on en a souvent parlé avec la députée calvise, c'est-à-dire le fait que l'information par principe, ça s'adresse au public et c'est ce qui permet au public d'exercer son rôle de citoyen.

Qu'est-ce qui se passe quand ce public n'est plus limité qu'à un individu et qu'on a aucune aucune façon de savoir comment c'est entre guillemets informer votre voisin immédiat de palier. Je pense que pardon, je vais être un peu un peu un peu vulgaire mais on a aimé les bulles de filtre. On va adorer euh ce que va nous ce que vont nous faire les IA d'un point de vue informationnel.

Et il en est de même si vous voulez pour les œuvres culturelles et de l'esprit. Qu'est-ce qui se passe à partir du moment où à la limite je peux avoir ma propre chanson, propres version, ma propre vidéo, ma propre histoire ? Qu'est-ce qu'on va partager collectivement ?

Donc si vous voulez de ce point de vue-là, je pense que le les IA comme élément de fragmentation de l'espace public, alors là, on parle évidemment des agend avec lesquels mais encore une fois, leur adoption se fait à vitesse grand V et surtout dans les statistiques qu'on a aujourd'hui, les gens ne reviennent jamais en arrière. Donc le mon hypothèse c'est que le mouvement de fragmentation va encore s'accélérer. Estce qu'on a créé ça ?

Et s'il se crée pour l'information, s'il se crée pour la culture, je vois pas comment il ne se créerait pas pour la connaissance en réalité. C'est-à-dire que mais mais encore une fois, je suis pas compétent, donc je je prends mon joker comme on disait l'autre fois sur ce domaine-là. Mais intuitivement, on peut penser que si la fragmentation augmente dans les domaines de l'information, de la culture, du divertissement, je vois pas comment ils n'en seraient pas de même dans la fonction de la connaissance.

On on rigole entre guillemets de la compétition en ce moment entre Wikipédia et et Grokidia. Vous savez, le Wikipédia fait grâce à Grock l'intelligence artificielle de X qui d'ailleurs se nourrit de Wikipédia pour en donner sa version idéologisée. Mais mais ça nous dit quelque chose de ce que peut devenir la connaissance la connaissance en réalité collective dans dans un dans un futur proche.

Imaginez que nous ayons tous des I qui soient très fortement biaisés, j'allais dire façon de façon idéologique et que vous ayez une version de Wikipédia, si j'ose dire idéologisée par personne et que l'IA sur son modèle économique, je parle même pas d'une d'un biais idéologique, que sur son modèle économique veuille vous faire plaisir simplement pour que vous renouveliez l'abondement ou par pour que un autre moment, si c'est un modèle publicitaire, vous y passiez plus de temps. Et donc commence à commence à modeler tout ce savoir encyclopédique de façon à vous le rendre plaisant. Qu'est-ce que ça veut dire en terme de connaissance partagé ?

Je trouve ça un peu vertigineux encore une fois sur ces conséquences là quand bien même encore une fois on parle de dispositif technologique faiblement avancé. Ça n'est évidemment ni du savoir ni de la connaissance et ces outils-là ne savent pas. Mais on a tendance, de la même façon que tout à l'heure Laurence disait qu'on a tendance à les écouter, on a tendance dans les domaines qui sont les miens à leur faire confiance.

Vous savez, je reviens reviens en arrière au tout début, pardon hein, mais mais au tout début du numérique puisque moi j'ai hélas l'âge d'en avoir fait à partir de de des années 99 et 2000. On était tous sidérés quand ce sont apparus les forums d'utilisateur, on était tous sidérés que dans l'ensemble, les internautes faisaient plus confiance à des anonymes, quelqu'un qui s'appellerait Toto 27 sur un forum utilisateur qu'à un journaliste spécialisé dans le domaine de l'automobile, dans le domaine de tout ce que vous voulez. Ça nous a toujours semblé vertigineux.

Moi, j'avais pas les compétences scientifiques pour pouvoir l'expliquer, mais en tout cas le constater. Ce qu'on voit aujourd'hui, c'est que de plus en plus une partie de la confiance qui pouvait être accordée aux médias dans lesquels les gens ne font plus beaucoup confiance, c'est transféré sur des outils pourtant qu'on ne comprend pas. Oui oui bah je reviens à mon problème d'éducation et de formation globale de la population.

Je crois qu'on a pas compris hein en Europe les risques à ce niveau-là de manipulation, ce qui est pour moi le premier sujet puisqu'en fait on a vu en Asie énormément d'enfants partir faire au moins du numérique. Alors je sais pas si on leur apprend l'épistémologie du numérique. J'en doute mais peut-être que si quand même.

Mais à force en tout cas de manipuler les codes, ils savent que c'est pas magique et ils savent très bien aussi que c'est euh censuré. Donc ils ont des notions peut-être beaucoup plus alors ils le subissent mais ils ont des notions beaucoup plus fines que nous que nos enfants et que la plupart des citoyens qui l'utilisent sans se poser de questions sur l'influence en fait de de ces objets hein. Et ça je crois que c'est majeur.

Donc il faudrait qu'on on ait des programmes expliquant alors à chaque fois qu'on on envoie quelque chose un peu négatif comme ça, les populations général le prennent mal ou c'est mal interprété. Je sais pas comment on fait pour faire passer ça. Peut-être que Bruno Patino c'est Mais faire monter la compréhension de la manipulation est un sujet très complexe.

Le Nge a souvent été utilisé par les gouvernements pour essayer de contrecarrer, c'est-à-dire implicitement sans qu'on a un discours transparent, on puisse faire comprendre des choses. Mais je ne sais pas si c'est une bonne solution non plus. En fait, l'inquiétude que je vois et je le vois aussi dans des milieux religieux.

Donc ce qui me donne des frissons aussi, c'est-à-dire que cette le fait d'ébranler la science au en disant que elle est délétaire pour pour la démocratie me fait froid dans le dos. Je sais pas si vous entendez ce discours. Il y a bon droit, je pense.

Très bien. Nous nous cheminons vers la fin de notre échange conversationnel pour le coup. Ça a été très intéressant, très très enrichissant vraiment.

Je pour ma part, je retirai puisque je suis plutôt tourné vers les questions éducatives sans évidemment en rien euh négliger les questions culturelles, mais l'idée de soulever le capot de la machine, moi me séduit bien et l'idée de de d'expliquer ce que comment ça fonctionne, comment c'est fabriqué, comment ça fonctionne au plus grand nombre aussi. C'est ce qu'on fait les Finlandais, je pense. Ils ont commencé à le faire, ce que font dans d'autres pays.

Et je crois que il y aurait là effectivement pour les pouvoirs publics une piste intéressante comme celle de l'observatoire mixte. Oui, les deux. Exactement.

Les deux, mon colonel. Et je pense que disais que nous pouvons retenir. En tout cas, en notre nom à tous, je je vous remercie beaucoup pour la qualité de nos échanges.

Bonne soirée. Merci beaucoup. Merci beaucoup.

Merci. Au revoir.