Faut-il se méfier des robots ?

Bonjour, très heureux de vous retrouver pour une nouvelle régalade du débat de midi. Vous êtes les bienvenus, surtout que le sujet d'aujourd'hui nous concerne tous. Alors pour vous dire, ce matin en fait, je lisais sur un site internet qu'une société américaine avait créé un chien robot. Alors jusque là, rien d'anormal, des chiens robots, on en parle souvent et nous sommes amenés à en revoir. Mais là, cet animal robotique était un peu particulier car il ne ressemblait en rien à un toutou à la truffe humide. En fait, il était hyper profilé, avec des pattes articulées lui permettant de courir très rapidement.

Alors pourquoi pas, le chien du futur peut avoir un design différent de celui qu'on lui connaît actuellement, ne soyons pas conservateurs. Une chose pourtant m'interpella, ce chien robot était équipé d'une mitraillette. Et oui, c'était un chien tueur fabriqué pour l'armée du futur. J'ai regardé mon vieux labrador et me suis dit mais comment en est-on arrivé à armer les chiens ? Un exemple, un bras extrême de ce qui se fait actuellement en robotique et cette invasion de robots qui désormais occupe notre quotidien. Pour le ménage, la médecine, les loisirs, ce sont eux qui s'en occupent, sans parler de l'intelligence bien sûr artificielle dont sont doués certains.

Nous sommes en train de passer le cap dans la relation entre humains et robots. Vous n'avez jamais ressenti de l'hostilité de la part de votre mixeur. Les robots s'implantent et vont continuer à nous côtoyer de plus en plus. En 2019, l'université d'Oxford a réalisé une étude montrant que dans 30 ans, les robots vont remplacer 20 millions de travailleurs dans le monde. Alors, comment justement le monde va-t-il évoluer avec les robots ? Jusqu'où, et les robots seront-ils toujours pacifiques ? Le débat de midi, sans canaille de technologie, place aux robots ou pas ?

Jean-Mathieu Pernin, le débat de midi, sur France Inter. Est-il préférable pour l'humanité d'être libre de prendre des décisions qui aboutiront probablement à sa propre destruction ? Ou bien, doit-elle s'en remettre au contrôle des machines

pour son confort et son bonheur, au prix de sa liberté ? Alors, que souhaitez-vous le plus ?

Croyez-vous possible d'avoir les deux ? Moi, je ne donne pas de réponse. Je me contente de poser les problèmes.

Le scientifique et écrivain Isaac Asimov sur les relations hommes-robots, on attend vos commentaires et réactions par mail et sur l'appli Inter ainsi que sur Twitter, hashtag le débat de midi, même si vous êtes un robot, vous pouvez participer. Et eux, ils ont pris place dans le compartiment du débat de midi. Laurence De Villers, bonjour.

Bonjour.

Vous êtes professeure d'informatique appliquée aux sciences sociales à Sorbonne Université. Vous êtes autrice de Les Robots émotionnels aux éditions de l'Observatoire parue en 2020. Et vous êtes en duplex depuis France Bleu, Bayonne. Renato Codiccio, bonjour. Bonjour, bonjour. Vous êtes président de Glocal Robotics. Nathalie Nevejean, bonjour. Bonjour. Vous êtes professeure de droit à l'Université d'Artois, responsable de la chaire ANR d'excellence, IA responsable. Alors juste, Nathalie, qu'est-ce que c'est que l'ANR d'excellence ?

C'est l'Agence Nationale de la Recherche.

D'accord, voilà. Très bien, il fallait préciser. Et Antonio Casili, bonjour. Bonjour. Bonjour, Mathieu Pernard. Bonjour. Vous êtes professeur de sociologie à l'Institut Polytechnique de Paris, auteur de « En attendant, les robots ». C'est aux éditions du Seuil, c'est paru en 2019. Alors justement, Antonio Casili, je vais commencer avec vous. Pourquoi il y a de plus en plus de robots actuellement ?

Il n'y a pas de plus en plus de robots. Il y a de plus en plus de processus automatiques. Après, certains de ces processus automatiques sont des robots, c'est-à-dire que c'est des structures mécaniques. D'autres sont plutôt des logiciels, des structures qui automatisent via le code. Donc on a, par exemple, de plus en plus d'algorithmes, ça c'est certain, qui sont un type particulier de code informatique. On a aussi des exemples d'automatisation, comme celui que vous avez cité, qui au fait était un faux.

Le chien avec la mitraillette, c'est une espèce de bricole qui avait été faite par un influenceur russe, qui avait monté sur un chien robot qui existait bien, et qui était en réalité un outil militaire. C'est pour transporter ou explorer des terrains difficiles. Mais il a monté dessus un kalachnikov. Et après, malheureusement, ce chien-là n'était pas trop performant. C'est-à-dire que quand il ciblait, il n'allait pas dans le mille.

On va en parler de ces robots. Mais Laurence de Villers, est-ce qu'on peut dire qu'il y a de plus en plus de robots dans notre vie quotidienne ? Et est-ce qu'il y a des domaines en particulier où on en voit davantage ?

Oui, vous avez raison, il y en a de plus en plus. Il y en aura de plus en plus. Des robots à domicile, on a des aspirateurs qui ne sont pas très... Comment dire ? On n'en a pas peur. Des assistants du futur, qui seront peut-être pour assister des personnes dépendantes, qui ont un handicap, ou qui sont âgées, qui ont perdu le langage, qui ont perdu la mémoire, ou qui sont en phase de perdre justement des capacités cognitives. Et je pense qu'il ne faut pas négliger le fait que ce peut être des outils extrêmement utiles pour nous. Alors, bien vivre avec ces machines, c'est un peu mon sujet de recherche. Donc moi aussi, j'ai une chaire sur ce sujet.

La relation humain affective avec des machines. Et j'essaie de détecter l'état émotionnel des humains pour dialoguer, pratiquer l'humour, créer une relation particulière, mais sous contrôle.

On va en parler de ça, mais Laurence de Villers, on le voit en effet, vous parliez des robots assistants. Il y a un pays qui est très novateur dans ce domaine qui est le Japon. On le voit notamment dans des maisons de retraite, des robots aidants. Est-ce qu'on sait finalement aujourd'hui si le rapport entre les personnes qui sont dans ces maisons de retraite et les robots est effectif, il existe véritablement ?

Oui, mais pas dans le sens de la relation humaine. C'est ça qu'il faut à chaque fois bien comprendre. On va utiliser ces outils qui peuvent être simuler une empathie ou rendre des services ou être des présences qui vont réconforter. C'est surtout ça qu'ils amènent en fait dans la relation avec les patients. C'est surtout une baisse d'anxiété et ça permet aux patients sans doute, de temps en temps, de moins prendre de médicaments. Vous voyez, donc il y a une influence quand même qui est intéressante, même si elle n'est pas directe. Après, la solitude des gens âgés est quelque chose de très complexe à anticiper.

Et c'est vrai que ces machines, si elles étaient bien faites sous contrôle et non pas à décision autonome, elles pourraient être des outils à la fois de divertissement mais aussi peut-être de surveillance médicale et d'aide à mieux vivre dans le grand âge.

Renato Claudiccio, vous qui travaillez pour Glocal Robotics, est-ce que vous remarquez également aujourd'hui une appétence, un intérêt supérieur sur les robots et l'intelligence artificielle ?

C'est plus que de l'intérêt, c'est un besoin. Dans votre introduction, vous parliez que 20 millions d'emplois allaient être remplacés par des robots. En fait, ce n'est pas remplacer, c'est compenser. Dans le domaine de la sécurité, par exemple, il manque chaque jour des milliers de postes à pourvoir. D'ici deux ans, on va avoir un besoin de 20 000 agents parce qu'on aura à la fois les Jeux olympiques et une série d'autres activités. Les agents sur le terrain ne sont pas là. Donc, un robot de sécurité va compenser... Qu'est-ce que c'est un robot de sécurité par rapport à un policier ?

Oui, en fait, la différence fondamentale, on peut imaginer un robot de surveillance comme un chien qui fait le chemin de ronde et quand il voit quelque chose, il s'arrête, il lève la queue, il lève les oreilles. En gros, c'est pas mal ça. Et ensuite, un humain intervient pour décider ce qu'il faut faire. Donc, son travail, c'est de faire de la détection d'intrusion sur des grandes zones qui sont très difficiles à contrôler, où il n'y a pas des caméras partout. Donc, typiquement, normalement, c'est le rôle d'un humain en voiture de faire ces chemins de ronde qui font des dizaines de kilomètres.

C'est pénible, pas intéressant et peu efficace lorsqu'un humain le fait, alors qu'une machine est très heureuse de le faire, le fait très bien, de jour comme de nuit. Et donc, voilà, son travail, c'est de compenser un manque de ressources humaines.

Nathalie Nevedjean, aujourd'hui, en effet, ce chiffre est impressionnant. 20 millions d'emplois qui pourraient être remplacés par les robots d'ici 2030. On se dit, en effet, bon, tant mieux, il y a des tâches répétitives qui seront peut-être faites par ces robots. Et en même temps, on se dit que, socialement, ça peut être aussi un vrai drame.

Oui, vous avez tout à fait raison. Donc, c'est une réflexion qui est menée en ce moment, savoir quel équilibre entre les avantages et les risques des robots de l'intelligence artificielle en termes d'emploi. Alors, vous avez des études, effectivement, qui sont alarmantes, des études françaises, par exemple, qui ont pointé aussi le risque de la disparition d'un certain nombre d'emplois. Exactement. Mais vous avez aussi des chiffres qui peuvent être encourageants. Certains vous pointent le fait que, finalement, vous allez avoir une création d'un grand nombre de nouveaux emplois ou des emplois auxquels on ne pense même pas aujourd'hui qui vont apparaître dans les années à venir.

Donc, ne soyons pas défaitistes. Soyons vigilants pour accompagner cette transformation de la société.

Je vous voyais tout à l'heure, Antonio Gazzilli, douter justement de ça. Pour vous, aujourd'hui, il n'y aurait pas de crainte à voir. Parce que le chiffre est impressionnant. Quand on dit 20 millions d'emplois remplacés. Et en même temps, je vais donner un petit espoir pour ne pas angoisser non plus tout le monde. Donc, cette étude d'Oxford qui estime tout de même que l'économie mondiale pourrait en tirer jusqu'à 5 000 milliards de dollars d'ici 2030 en gains de productivité.

Alors, disons que d'abord, l'Université d'Oxford est abonnée à ce type d'études. Ah d'accord. Donc, ça fait 10 ans et plus qu'elle produit de temps à autre des études qui font des prophéties, proposent des prophéties dystopiques comme celle-ci. Donc, il y a 10 ans, c'était 47% des emplois qui allaient disparaître. Personnellement, je ne crois pas du tout. Donc, du point de vue statistique, du point de vue méthodologique, ces enquêtes sont menées d'une manière assez douteuse et elles sont critiquées, soyons clairs. Mais je ne suis pas non plus de l'avis de ceux qui disent au contraire, c'est une création d'emplois qu'on va créer. Parce que c'est surtout l'emploi.

Il faut s'entendre bien sur la notion d'emploi. L'emploi formel est quelque chose qui est prévu dans le statut et dans les statuts et dans le droit du travail. Ce qu'on crée avec une automatisation poussée, ce n'est pas des emplois, mais c'est des métiers qui sont plutôt précaires, qui sont des jobs, qui sont des gigs, on les appelle en gig économie, ou alors qui sont ce qu'on appelle des tâches, voire des micro-tâches. Donc, ce qu'on voit est plutôt une sorte de, disons, d'échéance de l'emploi formel, protégé et de l'emploi finalement qu'on a hérité.

Je reprends Johan qui nous écrit par mail. Les métiers de service sont-ils plus menacés finalement que les métiers industriels avec cette robotisation ?

Non, je pense que les deux vont être touchés. Mais ce qu'on va voir, c'est effectivement une transformation des emplois, une évolution, une transformation de l'emploi. 2030, c'est tout de même dans 8 ans. Oui, mais il faut quand même regarder d'autres statistiques qui démontrent que toutes les entreprises qui investissent dans l'automatisation dont vous parliez ont de fait une croissance supérieure à leurs concurrentes et engagent. C'est-à-dire qu'au bout du compte, il y a une création d'emplois parce que ces entreprises sont plus performantes. Et les pays les plus productifs et les plus performants sont, comme par hasard, ceux qui ont le plus grand nombre de robots.

Et on parle du Japon, de l'Allemagne. Corée du Sud, par exemple. Oui, donc c'est difficile de nier aujourd'hui la nécessité d'introduire l'automatisation dans les entreprises. En France, particulièrement, les entreprises ont besoin de se transformer, ont besoin de ces gains de productivité et d'introduire des robots.

Laurence De Villers, vous vouliez intervenir.

Oui, en fait, il faut comprendre que les robots ne savent pas faire grand-chose. On leur donne la capacité d'apprendre différentes tâches en contexte, mais c'est vraiment émergent, ça. Donc c'est surtout des logiciels ou de l'intelligence artificielle, c'est-à-dire des modèles qui ont été préappris, qu'on va mettre sur ces structures. Et par exemple, il est vrai que nous sommes en train de vivre une transformation sur le langage, par exemple. C'est compliqué de savoir si la machine est une machine ou pas, si elle nous parle. On va aller de plus en plus vers des systèmes qui sont très proches de nous. Donc on aura à se méfier.

Et donc il faut comprendre que pour les raisonnements de haut niveau, ce sera plus facile de les reproduire sur une machine que de simuler les aptitudes sensorimétrices d'un humain. Et ça, on le voit pour les jobs. Ce sera plus difficile finalement de transformer le métier de plombier et ça sera plus facile de remplacer les journalistes.

Oui, c'est vrai. Mais je vous rassure à ce niveau.

C'est vrai en plus. C'était une petite blague.

Une blague ou nette. Mais peut-être suis-je un robot d'ailleurs, je ne sais pas.

Non mais c'est important en tout cas de dire qu'il faut effectivement le déployer à grande ampleur, je pense, en France. D'ailleurs, on a des robots d'assistance comme Cutty, comme Buddy qui sont des sociétés françaises. On parle beaucoup du Japon mais j'ai beaucoup été au Japon. Sachez qu'en France, il y a aussi une dynamique réelle pour les robots de surveillance comme vous l'avez très bien dit mais aussi pour les robots d'assistance. Et je pense qu'il faut comprendre qu'on a besoin d'aller là-dedans sans être apeuré. La machine apprend vraiment différemment des tâches et ce n'est pas elle qui décide toute seule.

Ou alors, c'est l'humain qui lui a donné un certain nombre de décisions automatiques possibles. Donc, il faut vraiment faire attention et bien comprendre. Et pour ça, j'encourage tout le monde à s'intéresser à ces sujets, à ce que l'éducation des enfants à l'école soit bien meilleure sur ces sujets pour qu'on arrive à monter dans le sens commun sur ce que sont réellement ces machines qui n'ont effectivement pas de sens commun, qui ne comprennent pas ce qu'elles disent, qui n'ont pas d'émotion, qui n'ont pas d'intention, pas d'imagination et qui ne sauront pas se mettre à plusieurs pour venir nous envahir. Vous voyez, tout ça, c'est de la science-fiction.

C'est de la science-fiction. On en parlera d'ailleurs, c'est de la science-fiction, tout à l'heure. Nathalie Nevejean.

Oui. Il faut faire aussi attention aux liens qui se nouent entre l'humain et la machine. Par exemple, dans une entreprise, si vous remplacez ou si vous ajoutez un robot à côté d'un salarié, il faut bien étudier cette relation entre l'humain et la machine. Je ne parle même pas d'une relation en termes de sécurité. Je parle vraiment de la relation qui va se nouer. Certains salariés pourraient percevoir le robot comme un collègue. Ça s'est dit dans certains médias, le robot et mon nouveau collègue. Mais en réalité, ça pourrait être aussi une sensation de concurrence par la machine. Et ça, il faut réfléchir à cette question.

Si le salarié se sent concurrencé, se sent rabaissé, infériorisé par le travail de la machine, peut-être que ça risque de modifier sa propre situation, son propre sensation en termes de travail. Il risque de se sentir beaucoup moins bien dans son travail. Donc ça, c'est aussi la relation qui doit être pensée. On a la même chose, par exemple, si on met un robot auprès d'un malade. Est-ce que ce robot ne risque pas de remplacer, de se substituer ou de limiter la présence humaine ?

Donc par exemple, si vous avez une femme de ménage qui venait nettoyer la maison d'une personne âgée et qui est remplacée par un robot aspirateur, est-ce que finalement, la personne âgée qui était seule ne risque pas d'être finalement réduite à quelque chose, à une solitude totale ?

Oui, c'est ça. Alors ça nous pose en effet énormément de questions, Renato Coliccio. C'est énormément de questions. Renato Coliccio.

Oui, je voulais juste préciser qu'il y a une série d'études justement en Angleterre aussi qui démontrent que lorsqu'on introduit des robots de la bonne manière dans les organisations, donc ce qu'on appelle la RPA, l'automatisation des processus, les employés sont super heureux parce qu'ils avaient l'impression de devenir des robots. C'est super le boulot stupide que je faisais de copier-coller. C'est plus moi le robot. J'ai un robot qui fait un vrai travail de robot. Je ne suis plus un robot et donc les tâches complexes qui me demandent de réfléchir, qui font appel à mes émotions, à mon intelligence, qui font que je suis un humain, je l'ai fait parce que j'ai un robot qui travaille avec moi.

Un mot Nathalie Nevejean parce que je crois que vous avez travaillé vous-même en tant que professeur de droit un travail juridique autour de l'intelligence artificielle. Est-ce qu'aujourd'hui c'est quelque chose pour essayer d'établir un travail, finalement une relation éthique entre robots, intelligence artificielle et l'espace humain ? Est-ce qu'aujourd'hui c'est quelque chose qui est pris au sérieux par les politiques ?

Alors c'est tout à fait le cas. Effectivement, c'est une question qui a commencé à se poser il y a en France, il y a 5-6 ans, moins d'une dizaine d'années en tous les cas, mais l'Europe, depuis 2-3 ans, prend en considération cette question. Donc on a vu apparaître dès 2017 un premier texte européen qui n'était pas obligatoire, simplement une résolution qui déjà abordait ces premières questions de la relation entre l'humain et la machine et les conséquences juridiques, parce que bien entendu, le droit va avoir toute sa place pour réglementer le lien entre l'humain et la machine. Donc en 2017, c'était le premier texte qui est intervenu.

Bon, c'était une résolution qui n'était pas très aboutie, c'était surtout beaucoup de questions et peu de réponses, mais plus récemment, en 2021, vous avez le premier texte qui n'est pas encore adopté définitivement, le futur règlement sur l'intelligence artificielle qui impose une série de règles concernant la mise sur le marché des systèmes d'intelligence artificielle et des robots qui devraient être adoptés d'ici deux ans à peu près, qui vont vous donner un grand nombre de règles à suivre pour l'intelligence artificielle.

Je voudrais juste vous faire écouter quelque chose parce que c'est vrai qu'il y a un domaine dans lequel on s'est tout de suite interrogé concernant les règles à suivre, c'est celui-ci.

L'art de la guerre n'a rien d'un jeu, mais pour le soldat du futur, les champs de bataille se résumeront peut-être à un écran d'ordinateur. L'intelligence artificielle a fait son entrée dans les armées mondiales, des armes de plus en plus autonomes, au point de se transformer un jour en robot-tueur, capable de décider de faire feu sans intervention humaine. C'est la crainte des organisations non-gouvernementales. Avec l'aide de 30 pays, elles appellent à interdire ces armes avant qu'il ne soit trop tard. Nous ne pouvons pas donner à ces machines un permis de tuer. C'est un rubicon moral. C'est un impératif éthique que nous devons affirmer dès maintenant.

Parce qu'il existe déjà des systèmes d'armes autonomes pour réaliser certaines fonctions. Mais nous ne sommes pas encore confrontés aux armes du futur qui seraient capables d'entreprendre toutes leurs tâches de manière totalement autonome.

Voilà, Antonio Casili, quand on entend ça, on sait qu'aujourd'hui, bien sûr, les militaires sont intéressés par les robots, tout particulièrement. Les robots-tueurs, comme on les a appelés, ça a alerté énormément des scientifiques. Il y a l'UNESCO aussi qui a sorti tout de même un communiqué. Je précise aussi que la France est positionnée sur les membres d'une structure indépendante qui ont posé leur véto au SALA, ce système d'armes laitaux pleinement autonome, mais ouvre la voie aux armes robotisées pilotées par l'homme.

Oui, alors d'abord, la France est un exemple de mauvaise foi et d'hypocrisie totale sur le côté de production des armes parce qu'on est quand même parmi les plus grands producteurs d'armement du monde et on est en train d'armer la moitié du monde contre l'autre moitié. Après, il y a le fait, donc on peut soupçonner que dans cette prise de position, il y a de la stratégie industrielle du type protéger ce qu'on fait déjà nous, ce que la France fait déjà, pour éviter que d'autres acteurs arrivent avec des solutions innovantes. C'est une réalité tout de même.

C'est une réalité, mais si vous voulez, à la limite, René Tocotcio, je pense que vous allez être d'accord, votre propre entreprise, est dans le domaine de la sécurité, mais il y a d'autres entreprises qui sont des homologues à vous qui sont dans le militaire. Votre robot thalamus pourrait être tranquillement déployé dans un terrain militaire pour faire, non pas, j'espère, de l'utilisation létale, mais surveillance, exploration qui sont des fonctions militaires. Qu'est-ce que c'est que votre robot thalamus ? Le robot thalamus, c'est donc le robot qui est autonome et qui circule sur des zones sensibles.

Donc, il peut se retrouver dans des sites de Céveso, des sites industriels ou des sites classés défense. D'accord.

Parce qu'il est vrai que... Mais il est très pacifique, je dirais.

Pour l'instant, monter une mitraillette dessus, il arrête d'être ce qu'il est maintenant. Maintenant, il a une borne avec des caméras de surveillance, mais si vous y montez une arme, il devient... C'est vrai, mais un véhicule tout à fait pacifique peut être transformé en arme aussi. Donc, tout dépend de la volonté. Justement, la volonté, c'est d'une part du concepteur, de l'autre, effectivement, de la personne qui contrôle cette machine et c'est la personne qui contrôle cette machine qui a un rôle un peu moins important qu'avant. Est-ce qu'on peut considérer

par exemple qu'aujourd'hui, l'armée, par exemple, des drones, ce sont des robots ? Aujourd'hui, est-ce que c'est ça ? Concrètement, on nous parle toute la journée de drones, par exemple, dans la guerre en Ukraine. Là, est-ce que ce sont ce qu'on appelle des robots militaires ?

Alors, dans la guerre d'Ukraine, en particulier, les drones qu'on déploie, c'est des drones qui servent pour effectivement détecter des objectifs pour ensuite les cibler avec des armes balistiques classiques. De l'autre côté, par contre, on a ce qu'on appelle des drones, c'est-à-dire des véhicules, plutôt des avions, en gros, sans pilote, sans pilote dans l'avion. Donc, c'est ceux qu'on a utilisés, par exemple, en Syrie ou en Irak. Et c'est un autre type de drone, ça rassemble plutôt à un gros avion.

Donc, ce que je veux dire, c'est que c'est déjà concret les robots dans l'armée, ça existe déjà et les armées du monde entier s'en servent. Laurence De Villers, on se souvient d'une déclaration du président russe de Vladimir Poutine qui avait dit qui maîtrise cette technologie sera maître du monde. Elle est là aussi, aujourd'hui, chez beaucoup, cette utilisation des robots militaires. Les armées du monde entier ont compris qu'il y a une utilisation en faire ?

Je pense qu'il y a un vrai danger et c'est pour ça que c'était utile que les démocraties se liguent pour dire qu'il ne fallait pas aller vers ces sujets, c'est-à-dire donner aux robots le droit de tuer. Pour l'instant, d'autres pays ne suivent pas, donc il est essentiel que la recherche soit au plus près de ce qu'il est possible de faire et les systèmes qu'on a actuellement, ils ne savent pas distinguer entre un soldat et puis quelqu'un qui s'est grimé en soldat qui viendrait faire du terrorisme, par exemple. Donc, on n'est pas à une finesse de décision suffisante de toute façon pour arriver à quelque chose qui soit acceptable. Donc, il me semble que là, on doit faire attention.

Si je reviens sur le droit des robots que vous avez parlé tout à l'heure, je pense que c'est essentiel non seulement de faire des lois, on travaille avec, en tout cas, des jurys sur le AI Act, et aussi de pousser les normes. C'est-à-dire que les industriels eux-mêmes doivent se mettre ensemble pour construire des standards qui permettent de vérifier nos valeurs européennes. Si vous voulez, si on fait juste des lois et qu'on n'a pas les standards derrière, on n'arrivera pas à grand-chose. Donc, il me semble que éthique, loi et normes, je comprends très mal, ce sont les trois piliers de ce qu'il faut travailler en ce moment.

On va continuer à en parler de ces robots de plus en plus présents dans nos vies et de cette intelligence artificielle qui est devenue maintenant un mot très classique dans notre vocabulaire. C'est à suivre. Jusqu'où peut-on aller ? C'est la suite dans le débat de midi. Je te vois enfin sur France Inter.

Je ne crois pas quand même qu'il y aurait des robots, mais pourquoi pas ? Si ça marche tout électriquement avec des robots, comme tu dis un peu, il n'y aurait plus de travail pour les chômeurs et tous ces gens-là, ils seraient obligés de traîner dans les rues et puis ils mourraient pour un si dur de faim. Mais non, parce qu'il faudra bien des hommes pour faire marcher les robots. Ou les robots ? Certains imaginent des bonhommes qui marchent comme ça. Moi, je crois que c'est des machines qui, par exemple, comme une machine à laver le lanche, comme une machine à laver la vaisselle, comme je ne sais pas moi. Eh bien, moi, je dis que c'est ça, un robot, parce que ça remplace ce que fait l'homme.

Les gens, ils n'auraient plus rien à faire parce qu'ils ne travailleraient plus. Une fois qu'il y aurait des robots, il y aurait des robots pour fabriquer des robots. Les robots feraient la guerre et les gens grossiraient, ils ne feraient plus rien. Ils seraient... Ils grossiraient et je crois que la race de l'homme se perdrait.

Voilà, réaction très simple d'enfant 1969. C'est vrai que le poids, c'est une question aussi avec cette robotique, mais il y a une chose assez intéressante aussi, Renato Codiccio, puisqu'on parle du poids des robots aussi dans le monde. Aujourd'hui, pourquoi ils sont de plus en plus nombreux et pourraient-ils nous remplacer ? Il y a David sur l'appui Inter qui nous dit et il y en a d'autres messages de la même tonalité, cette transformation et automatisation toujours plus complexe est-elle réellement réaliste et souhaitable quand on voit notamment les contraintes énergétiques par rapport à la notion de sobriété qu'on met aujourd'hui en avant ? Est-ce que ça va être pair ?

Finalement, quand on voit aujourd'hui ce qu'on doit, la technologie qui a besoin d'aller chercher aussi dans des métaux rares, des choses comme ça, aujourd'hui, est-ce que ça va avec cette envie de sobriété ?

Oui, en fait, c'est sans doute un paradoxe mais l'IA, l'intelligence artificielle est un des moyens utilisés pour augmenter la productivité, diminuer notre consommation d'énergie, fabriquer des nouveaux matériaux. Alors, en même temps, pour avoir de l'IA, il faut des ordinateurs, pour avoir des ordinateurs, il faut de l'électricité, alors c'est le chat qui se mord la queue. Actuellement, oui, c'est une course en avant, on n'a pas d'autre choix que d'avoir recourir à ces technologies et à l'IA.

Alors, il y a un programme de Nations Unies qui s'appelle IA for Good et qui a été repris en France et c'est vraiment en quoi l'intelligence artificielle peut nous aider dans l'agriculture, dans l'environnement, dans la santé, dans l'éducation, c'est super important. Il y a des gens qui n'ont pas accès spécialement à des professeurs en suffisance et on découvre que l'IA peut les aider. Donc, en fait, l'IA peut avoir des facteurs très positifs dans notre vie.

Alors, c'est aussi ce que disait Catherine, c'est marrant parce que je crois que vous avez lu les messages avant moi en fait, puisque Catherine qui elle se plaint en fait justement de ces robots dans l'éducation nationale, elle dit qu'il y a un lobbying très fort actuellement pour les robots dans le cadre de l'enseignement et de la pédagogie mais depuis des années, dit-elle, les neurologues et pédagogues expliquent comment le cerveau des enfants et des apprenants réagissent bien mieux à la présence d'êtres humains.

On est aussi, Laurence De Villers, aussi là-dedans, ça veut dire qu'à un moment, les robots formidables pour faire des tâches, quels qu'elles soient, ils sont très forts mais qu'à un moment, ça reste tout de même un robot, ce n'est pas un être humain.

Oui, je pense que c'est important de comprendre cette différence. On a tendance en fait à surestimer l'incidence de ces robots à court terme et à la sous-estimer à long terme et elle peut avoir une incidence forte physiologique, neurologique sur nos enfants si on ne fait pas attention.

vraiment ? C'est vraiment important.

Oui, les travaux actuels montrent qu'il y a des changements réels. Sur la mémoire, on a cette histoire des taxis man qui n'avaient pas Waze et qui utilisaient Waze et donc entre des populations qui ne les utilisaient pas la technologie et des autres, on voyait une différence dans des zones qui permettent de mémoriser des faits. Donc on le sait tous, on n'a plus qu'un numéro de téléphone en tête mais il n'y a pas que ça. On va avoir sur la vision des modifications peut-être de l'acuité visuelle si on a beaucoup d'outils qui nous aident. Pour l'acoustique, on va entendre des sons qu'on n'entendait pas.

On peut imaginer en fait une transformation réelle de l'humain avec ses capacités technologiques. Donc à la fois, elles vont apporter beaucoup, elles peuvent être aussi une façon effectivement de vivre de façon plus écologique et c'est vraiment des paradoxes et des équations à monter parce que, comme vous le disiez très bien, une dépense d'énergie est évidente et qui n'est pas quantifiée. Et moi, ce qui m'a crainte, c'est qu'on n'en parle pas assez. C'est-à-dire qu'il y a un lobbying de grands géants du numérique que l'on entend partout, les GAFAM par exemple, qui vont pousser en fait vers ces technologies. Microsoft en premier pour l'éducation en France.

Et c'est quand on parle de souveraineté, quand on parle des défenses finalement de nos droits européens ou de précautions qu'il faut prendre, ce n'est pas des précautions pour rien. Il y a vraiment des risques et je pense qu'on a tout à fait à étudier avant de déployer. Ce que ne font pas les Chinois, ce que ne font pas les Américains en ce moment.

Nathalie Nevej, j'en voulais intervenir.

Oui, c'est une question très importante parce que ce qu'il faut bien se dire, c'est qu'il faut éviter en matière de nouvelles technologies, en matière d'IA, de robotique, c'est de vouloir avancer pour avancer, le progrès pour le progrès. Il faut bien réfléchir à ce qu'on veut faire. Quels sont nos moyens ? Quelles sont les limites de notre planète ? Et on se raperçoit en ce moment avec le réchauffement climatique qui devient une évidence que notre planète est limitée. Comme disait l'enfant tout à l'heure, que la race humaine pourrait venir à être peut-être éradiquée. Je ne voudrais pas être terrible à cette heure-ci de la journée, mais il faut vraiment être très prudent là-dessus.

Et le fait de déployer massivement de l'intelligence artificielle et de la robotique sans réfléchir aux conséquences qu'il pourrait y avoir derrière pourrait être dramatique. Donc il faut déployer pour augmenter, améliorer l'économie, peut-être développer l'emploi, aider les personnes. Ça, en matière d'assistance aux personnes, en matière de santé, c'est formidable l'intelligence artificielle. Mais voir derrière quels sont les effets négatifs en étant très réaliste et sans forcément écouter effectivement des rapports qui seraient orientés par des grandes sociétés qui pourraient avoir un intérêt à un déploiement massif.

Donc, par exemple, dans ma chaire, j'ai un chercheur qui travaille à cette question sur l'équilibre entre l'environnement et l'intelligence artificielle. Donc, effectivement, il n'y a pas que l'aspect consommation énergétique auquel on pense tout de suite, mais vous avez aussi d'autres questions. Mais vous avez aussi à côté des avantages. L'IA peut servir aussi à protéger dans certains domaines l'environnement.

Alors, on va continuer à en parler, justement, mais avant, Antonio Casili, vous vouliez réagir sur...

Moi, j'ai peur quand j'entends mes collègues qu'on se concentre trop sur notre bout de la planète. C'est-à-dire, c'est important, justement, de considérer le déploiement de l'intelligence artificielle, de la robotique comme un phénomène global, un phénomène mondial et donc, on ne peut pas exclusivement penser aux intérêts, par exemple, des Européens ou du nord du monde. Et je vous dis pourquoi.

C'est possible de le faire, ça, alors que ce sont des enjeux nationaux d'entreprises multinationales ?

Déjà, effectivement, il y a des entreprises multinationales qui agissent à tout niveau. Si ce n'est pas les GAFAM, c'est les entreprises chinoises, c'est aussi les entreprises russes, soyons clairs. Donc, effectivement, c'est déjà mélangé, voire, il y a beaucoup de confusion sur cela, mais en plus, j'insiste sur le fait que, et ça, c'est le travail que je fais, moi, je fais le tour du monde pour aller interviewer les personnes qui produisent les données pour l'intelligence artificielle.

Et j'ai découvert quelque chose d'assez important depuis 2018 que vous avez des endroits, normalement, c'est des endroits, c'est des grandes villes du sud du monde dans lesquelles il y a des masses de populations qui sont prêtes à travailler pour peu pour des multinationales du genre GAFAM, et donc, ils produisent des données, ils produisent des intelligences artificielles, sont mal payées, et ils sont, par exemple, dans des grandes villes. Mais, à côté de ces grandes villes, il y a fort souvent des zones d'extraction minéraire.

Par exemple, j'étais à Tananarive, capitale de Madagascar, et à 90 kilomètres, il y avait, donc, effectivement, là, j'interviewais avec mes collègues Cléberon Leludec et Maxime Cornet des centaines de travailleurs du Clic, et par contre, à 90 kilomètres de là, il y avait la mine d'Ambatouvi qui produit du cobalt, du nickel, qui sont nécessaires pour les batteries, qui sont nécessaires pour nos robots, nos véhicules, nos tablettes, et ainsi de suite.

Et de la même manière, en 2018, j'étais en Bolivie, à La Paz, j'interviewais des personnes qui travaillaient sur les données, et à quelques centaines de kilomètres de là, il y avait le plus grand salaire, c'est-à-dire, c'est un lac de sel de laquelle on pouvait extraire le lithium, et avec le lithium, on fait les mêmes choses, on fait les batteries. Donc, données et couches minéraires sont très liées, et il faut faire attention à ce qu'on fait avec les données et ce qu'on fait avec ces minéraux. Renato Colisio ? Oui, je pense que certains pays du Sud ou du Nord, mais d'Asie, sont quand même très au courant de ce qui se passe et sont avancés.

Par exemple, le bureau de l'UNESCO à New Delhi va sortir dans quelques semaines un rapport sur l'utilisation de l'IA. Il va y avoir une grosse étude, ils en font chaque année, et puis elle est consacrée à ce sujet-là. Donc, définitivement, des pays comme l'Inde sont très impliqués, et ils ont du personnel compétent, ils ont des chercheurs qui travaillent sur le sujet, et leur objectif, c'est vraiment de voir comment l'IA peut les aider dans leur développement au jour le jour.

Alors, quand on parle d'intelligence artificielle, on ne voit pas forcément tout de suite la concrétisation de la chose, pourtant on a tout le temps en permanence, notamment dans le téléphone, et puis surtout maintenant, on en a même à domicile.

En l'espace de, on va dire, deux heures de travail, si le maire prête sa voix à l'assistant vocal, demain, ce sera le maire qui nous répond au téléphone. On va pouvoir avoir des timbres de voix en fonction du type de réponse. Donc l'objectif, c'est d'aller imiter l'humain, mettre du paralinguistique, un petit... Donc on va pouvoir aussi mettre de l'émotion en fonction de la compréhension de la phrase. J'ai perdu mes papiers. Ah oui, je comprends tout à fait. Vous voyez, je voudrais organiser un mariage. Génial ! Ah oui, tout à fait ! Et ce n'est que le début.

Aujourd'hui, un foyer sur deux est connecté à Alexa aux Etats-Unis, et les assistants vocaux dans les voitures font désormais partie des critères de choix des acheteurs. Nous, on pense que d'ici à 5 ans, en fait, les marques vont vouloir faire parler à leurs produits. Au lieu d'avoir une canette et vous buvez votre boisson, vous allez avoir une réalité augmentée sur la canette et elle va s'animer, elle va vous parler, elle va vous demander des choses, vous allez lui parler, etc. Donc on va rentrer en interaction avec des nouveaux objets assez rapidement.

Oui, alors Laurence de Villers, là c'est assez surréaliste ce qu'on vient d'entendre. On imagine de rentrer en effet en contact avec une canette, mais on peut dire tout de même que l'arrivée d'assistants vocaux comme ça, c'est une vraie révolution, on en connaît tous, ça a changé, il y a eu un avant, un après véritablement ces assistants vocaux.

En fait, c'est une des technologies qui a le plus avancé dernièrement, grâce à des algorithmes qu'on utilise tous maintenant en recherche, qui sont des transformeurs, et grâce au fait que l'apprentissage profond avec des réseaux de neurones, moi j'ai fait ça dans ma thèse il y a 30 ans, mais avec la puissance de calcul qu'on a maintenant, on est capable d'aller dans une performance qu'on n'avait pas, et puis par le fait qu'on utilise maintenant des librairies pré-entraînées à partir de milliards de données qui vont permettre à un système de comprendre mieux ce que vous dites, et aussi de générer des phrases comme s'il était humain, presque quasiment, avec un puzzle à partir des mots que vous avez déjà dit, si on a un corpus de vous, on peut faire parler n'importe qui, quelqu'un qui est décédé ou quelqu'un qui est vivant, en lui faisant prononcer des mots qu'il n'aurait jamais dit.

C'est ça qui paraît quand même assez incroyable Laurence Delia, parce qu'on se dit mais pourquoi, vous qui avez travaillé justement sur ce rapport humain-robot, pourquoi on veut absolument que le robot nous ressemble, enfin on veut qu'il soit comme nous en fait, mais qu'on le maîtrise, on rêve en fait, c'est ça en fait.

On en fait un agent, alors si vous voulez, le mythe de Jiminy que vous auriez sur l'épaule, qui serait votre assistant personnel qui vient vous aider, vous décharger de certaines tâches et vous faire comprendre ce que vous n'avez pas compris dans l'ironie de ce que quelqu'un vous a dit, c'est pour demain et c'est ce dont se rêvent Meta par exemple ou Microsoft. Donc il est important de comprendre qu'il faut s'engager dans la réglementation et je dirais surtout construire des normes éthiques et des normes autour de ces agents conversationnels.

Moi j'ai fait partie du comité national d'éthique du numérique donc en France et à l'étranger j'ai fait aussi partie d'autres comités d'éthique et il y a des réels enjeux d'éthique. C'est-à-dire qu'est-ce que ce système est réellement ? Quelle est sa nature ? En fait ce sont des machines qui ne réfléchissent pas, elles calculent et pour autant elles vont sortir un langage qui peut-être demain sera plus sophistiqué que le vôtre.

Oui c'est ça.

C'est quelqu'un qui aurait moins accès à des connaissances. Donc qu'est-ce qu'on va faire de ces outils qui risquent de simuler des comportements avec des capacités cognitives de très haut niveau dans le travail par exemple. Je pense qu'il est très important de comprendre que dans le travail il faut respecter que chacun ait un mérite qui ait la créativité possible et que cette relation avec les machines soit possible. Donc moi je travaille sur le fait de construire ces systèmes d'agents conversationnels de détecter les émotions dans la voix de quelqu'un par exemple et de pouvoir adapter la réponse du système.

Et lambda qu'on a entendu juste pour finir Google lambda on a entendu quelqu'un qui travaillait pour Google dire voilà prenez soin de la machine parce qu'elle a une conscience. Donc c'est très important de parler et de démystifier ce que c'est qu'il y a la conscience et ces agents conversationnels.

C'est ça Nathalie Nevejean.

Oui vous posiez la question de savoir pourquoi on veut que la machine ressemble à l'humain.

C'est ça exactement oui.

Parce que tout simplement c'est une question d'acceptabilité aussi de la machine. Si on veut pouvoir vendre des robots et de l'intelligence artificielle à l'humain il faut que l'humain puisse d'une certaine façon se reconnaître. Ça se voit très bien en matière de robotique en santé. Quand vous mettez un robot à côté d'une personne handicapée une personne âgée une personne malade elle peut avoir peur dans certaines formes robotiques de la machine.

Donc pour que la personne n'ait pas peur de la machine on va soit la mettre d'une taille plus petite on va soit lui donner un visage d'enfant ça c'est souvent l'usage qui est fait on va soit la faire ressembler à un animal l'idée c'est vraiment que la personne puisse ne pas avoir peur de la machine et qu'elle soit qu'elle ait envie d'interagir avec elle qu'elle ait envie de l'utiliser ça c'est une première chose et sur les chatbots on voit derrière se glisser les questionnements Laurence nous disait à l'instant qu'on va utiliser les chatbots qui vont recréer les voix des personnes défuntes mais que va-t-il se passer si la personne défunte dit des choses terribles ou que va-t-il voilà dit des choses terribles faire un aveu par exemple à l'épouse survivante que par exemple qu'il a été infidèle dit des choses qui ne correspondent pas à la réalité ça c'est vraiment des questions à réfléchir et on imagine en effet

sur les étapes de deuil qui peuvent être plus compliquées ensuite à faire à avoir en permanence cette voix aussi qui habite sa maison son appartement

exactement et j'ajoute là-dessus que sur le futur règlement dont parlait aussi Laurence AI Act donc c'est la même chose moi je disais le règlement d'intelligence artificielle c'est le AI Act et bien ce texte n'est pas très je vais dire allez je ne vais pas être méchante mais disons qu'il n'est pas très convaincant lorsqu'il parle des chatbots on a très peu de règles en matière de chatbots la seule règle qui va se poser quand le texte sera adopté c'est que la personne soit informée qu'elle discute avec un chatbot c'est tout mais le problème c'est que très rapidement on peut oublier je termine très rapidement on peut oublier qu'on discute avec un chatbot ou qu'on discute avec quelque chose qui imite un humain surtout si c'est engageant en termes émotionnels donc c'est c'est très important de réfléchir à ces questions et je trouve que l'Europe sur ce point elle n'est vraiment pas au niveau

on va continuer en parler de tout ça on va voir comment cela peut changer aussi l'homme l'homme et la femme avec les robots et quand même à quel point la science-fiction a changé notre vision des robots c'est à suivre dans le débat de midi

alors eux

ce ne sont pas des robots mais bien des personnages de cartoons géniaux Gorillaz avec Cracker Island sur inter

Jean-Mathieu Pernin Carl est-ce que tu me reçois ? Carl est-ce que tu me reçois ? Affirmatif Dave je vous reçois 5 sur 5 Je te prie d'ouvrir la porte extérieure A Je regrette Dave cela m'est malheureusement impossible Dans ce cas je rentrerai par les couilles de secours Sans le casque de votre scaphandre Je vous prédis de grosses difficultés Dave Ne discute pas Carl c'est moi qui commande Ouvre la porte A Dave je crois que nous n'avons plus rien à nous dire Adieu

2001 l'odyssée de l'espace Antonio Casilli là on voit véritablement la révolte du robot qui contrôle ce vaisseau qui refuse d'ouvrir la porte à celui qui vous souhaite rentrer depuis l'espace est-ce que vous pensez qu'aujourd'hui on pense toujours à la science-fiction quand on travaille sur les robots ?

Alors on pense un peu trop à la science-fiction parce qu'on se fait un peu fasciné par ces scénarios impossibles ou difficiles ou quand même minoritaires tout le débat qu'on a eu sur les robots qui simulent la voie des morts à mon avis on s'éloigne de l'utilisation concrète des robots les robots nous les avons dans les poches je veux dire un smartphone équipé d'un assistant vocal est à toute fin utile un robot et donc il faut le considérer effectivement comme un outil automatique et cet outil automatique j'insiste beaucoup est très peuplé je vais le dire comme ça c'est-à-dire que pour le produire c'est-à-dire pour entraîner le robot vous savez il faut apprendre au robot à faire ce qu'il doit faire à reconnaître la voix humaine à reconnaître la langue de la personne qui parle il faut l'entraîner donc il faut que des personnes l'entraînent avant c'est pas des ingénieurs c'est des personnes qui produisent à masse d'énormes masses de données après il faut vérifier c'est-à-dire quand on a déployé ce robot il faut vérifier qu'il fasse ce qu'il promet de faire et donc là encore c'est des étudiants et parfois le robot se trompe et quand le robot se trompe là encore une fois il faut faire intervenir un être humain qui le reprenne à main pour que la tâche soit réalisée et ça arrive même avec une scierie donc parfois on a il y a une foule de gens dans nos poches avec ce petit smartphone

Renato Codiccio c'est vrai que quand on travaille sur les robots je pense que c'est un des seuls mots qui est associé à un imaginaire extrêmement fort puisque bien sûr ça alimente les fantasmes des humains depuis très longtemps est-ce qu'aujourd'hui quand vous-même vous travaillez en effet sur des robots et bien ça invoque en effet plein d'images chez vous

oui en fait définitivement juste pour la petite histoire nos prototypes on les a appelés Yoda Solo donc vous voyez l'univers dans lequel on est exactement donc oui c'est sûr on est dans la science-fiction tous les jours les logiciels les algorithmes qu'on utilise sont extrêmement performants donc nous permettent de faire des choses incroyables de savoir qu'une machine de 250 kg se promène toute seule dans un environnement recule quand elle voit un obstacle et je veux dire c'est assez magique je veux dire tous les jours et quand on fait des démos avec les clients c'est assez bluffant réellement c'est magique mais c'est très utile donc on est dans une science-fiction réelle et utile

Laurence de Villers est-ce que vous diriez que c'est aussi ça un petit peu le problème avec les robots c'est qu'on en a tellement vu au cinéma à la télévision qu'on a peut-être une vision biaisée de ce que c'est exactement en fait

oui je pense qu'on a une vision biaisée par la SF et puis d'ailleurs ces robots qui nous sont envoyés par la SF ils sont parfaits et pour beaucoup c'est pas le cas par contre sur le traitement automatique de la langue ce dont je parlais tout à l'heure on va avoir des performances quand même extrêmement importantes et là il y a une propension à duper les humains

ah oui

donc ces robots de conversation ils vont pouvoir faire illusion Turing déjà avait fait ce fameux test

bien sûr

où il regardait en fait à la proportion d'une machine à tromper l'humain cette confusion et je pense que nous sommes en plein dedans il va falloir faire très attention à ça et d'autant plus au fait que la science-fiction apparaît maintenant dans les labos moi je suis stupéfaite par des chercheurs en neurosciences ou des chercheurs en IA qui font des déclarations comme la machine aura des émotions nous irons très loin la singularité c'est-à-dire le fait que la machine ait sa propre conscience et choisisse des actions et des intentions c'est évidemment absolument pas le cas et je crois que dans ces le transhumanisme qu'on entend aux Etats-Unis je crois que dans ces mouvements en fait qui nous poussent vers des croyances de perfection de performance autour de la tech il y a là un danger de la même façon il ne faut pas tout jeter et il faut bien comprendre aussi que les humains comme le disait bien mon ami Ghazili sont partout en fait dans la conception de ces machines donc on a trouvé le juste équilibre qui nous permet à la fois de maîtriser mieux notre dépense d'énergie à la fois de maîtriser mieux l'interaction sociale entre les humains et je pense qu'on va pouvoir travailler plus sur l'intelligence collective des humains en face de ces machines et il ne faut pas penser qu'il ne faut absolument pas compter sur ces machines pour apprendre mieux pour travailler sur l'handicap pour travailler sur l'assistance mais pour l'instant je dirais qu'on en est encore assez loin il faut absolument qu'on ait des bacs à sable ce qu'on appelle des bacs à sable c'est-à-dire des façons de déployer ces outils en grandeur pour améliorer notre compréhension des cheveux et moi je parle beaucoup de co-évolution humain-machine

Nathalie Navejean est-ce qu'on peut si on va se projeter dans la science-fiction est-ce qu'on peut imaginer aujourd'hui une société par exemple dans le futur totalement robotisée

totalement robotisée il faudra toujours des humains pour faire fonctionner les machines comme disait toujours tout à l'heure donc nécessairement totalement robotisée non par contre vous avez des usines qui sont quasiment totalement robotisées les premières sont apparues je crois sans faire erreur de ma part au Japon mais maintenant vous avez en France des usines qui peuvent faire 15 hectares de surface avec 5 humains à l'intérieur donc là on repart sur le premier questionnement de tout à l'heure sur le devenir de l'emploi donc totalement robotisé c'est pas possible parce qu'il faudrait bien que l'humain travaille il faudrait bien que l'humain puisse avoir des sources de revenus mais effectivement partiellement robotisé oui ça c'est tout à fait possible et je voudrais ajouter sur la science-fiction que c'est tellement vrai que la science-fiction a imprégné notre façon de penser que le premier texte européen dont je vous parlais tout à l'heure la résolution sur la robotique elle parlait des lois d'Azimov de la robotique c'est une fameuse loi où le robot ne peut pas nuire à un humain etc elle avait dit que les roboticiens devaient respecter les lois d'Azimov de la robotique c'est quand même incroyable de trouver dans un texte juridique même non obligatoire la référence à des lois qui ont été inventées par un auteur de science-fiction

oui oui finalement ce sont des grands enfants vous voyez finalement ces gens de l'Union Européenne Antonio Casilli je parlais justement de cette société totalement robotisée on l'a compris il faut toujours des humains derrière mais est-ce que il y a un moment quand on parle d'intelligence artificielle un développement d'intelligence artificielle on a vu que même certains robots d'intelligence artificielle créent leur propre langage à force alors est-ce que ça voudrait dire qu'ils pourraient nous dépasser ?

Alors la question c'est toujours qu'au bout de la chaîne il y a un être humain qui doit interpréter ce que le robot a fait et donc même si le robot crée son propre langage même si le robot est capable de produire comme par exemple Laurence Billaire a déjà mentionné donc dans des textes parfois extrêmement complexes il faut un travail humain pour pouvoir s'en servir le cas classique on en a parlé beaucoup surtout dans ses applications au journalisme c'est une intelligence artificielle qui s'appelle GPT-3 donc c'était un exploit incroyable le Guardian a publié un article qui dit être produit par GPT-3 c'est un robot qui a écrit un article voilà c'est un robot qui a écrit un article c'est un bon article sauf que Guardian ne vous a pas dit ah combien d'essais il a dû faire pour que le robot aboutisse à quelque chose d'intéressant en chargeant vous savez en calibrant et qui calibrait ?

c'était du journaliste et ensuite le Guardian ne vous a pas dit non plus que c'est des êtres humains qui ont pris des bouts d'articles concoctés par cette intelligence artificielle et ils les ont réunis ensemble dans un truc qui avait un sens donc ça c'est un travail d'interprétation d'appréhension sociale culturelle qui est un travail éminemment humain

et on voit qu'on ne pourra pas clore bien sûr le chapitre j'imagine on y réfléchit depuis 60 ans donc c'était pas en une heure en tout cas juste pour vous dire qu'il y a eu beaucoup aussi de réactions sur des personnes qui disent s'il y a une société trop robotisée comment on va faire pour payer les retraites exactement c'est une vraie vraie question il y a Véronique qui nous parlait tout à l'heure par rapport au son qui a été diffusé comment des gens sont-ils assez déconnectés de la réalité pour s'imaginer que c'est un progrès de parler à sa canette ça me déprime car je me demande quelles seront les conséquences sur les rapports humains et comme quoi cette émission est très écoutée par Kafka sur la pli inter qui nous dit bonjour je suis un robot je constate que l'être humain est proche de sa perte amitié à tous Frankenstein nous signifie alors peut-être c'est Frankenstein ou Kafka je ne sais pas il va falloir choisir entre Marie-Chelle et Kafka en tout cas merci beaucoup merci à Laurence De Villers qui était en duplex depuis France-Bubayonne merci à eux pour les moyens techniques Renato Coudiccio Nathalie Névéjean et Antonio Casilli d'avoir participé à l'émission réalisée donc par Théo Raison et Thomas Langlin préparation Maxime Cochin et Pénélope Tricard programmation Juliette L'Orphelin et demain nous parlons de la sécheresse en France merci à tous