ChatGPT : menace ou opportunité ?

[Musique] radio sans Peur émission sans reproche

aujourd'hui notre invité est Alexandre bretelles bonjour Alexandre bonjour merci de m'avoir invité merci à vous d'avoir accepté notre invitation vous êtes chercheur en équipe de l'intelligence artificielle c'est bien ça oui oui je suis actuellement en thèse à Grenoble alors justement nous voulons vous interroger sur cette application et ce qu'il faut dire que c'est une application je vais pas me tchat GPT qui fait beaucoup parler actuellement qu'est-ce que c'est exactement tchat chez [ __ ] donc tête GPT alors comme vous l'avez dit c'est très compliqué de ne pas en avoir entendu parler donc ça veut dire donc chat au niveau de la conversation et j'ai pété pour utiliser un barbarisme ça veut dire generative Transformers donc c'est une technologie direct

qui a été développée notamment par Open et high donc qui a été une start-up fondée par Elon Musk et qui est et actuellement une société et donc comment fonctionne exactement Jack GPT au niveau de l'interface utilisateur et bien vous avez un prompte donc c'est une barre d'instruction dans lequel vous pouvez donner donc votre instruction et en il a ressortira du texte donc par exemple vous pouvez lui demander de vous écrire un poème à la gloire de tel ou tel acteur et il va vous le faire et de manière relativement impressionnante notamment au début donc ça a

été sorti en 2022 fin 2022 et ça a pris son essor depuis le début de l'année de plus en plus alors justement les questions éthiques juridiques qui doivent se poser j'imagine autour du générateur d'images comme une journée par exemple donc mille journée ça fait aussi partie de la famille des IA génératives donc chaga pété au niveau du texte et une journée c'est des images qui vont être générés également à partir d'un pompe donc le prompte les instructions que vous lui donnez donc par exemple au niveau des questions qu'on pourrait se poser avec mid-journées ça va être comment est-ce que mille journée a récolté les images qui lui permettent à partir de sa base de données

de formuler et de créer d'autres images donc il peut y avoir également des cas d'hallucinations qui peuvent être problématiques il peut imaginer des choses qui peuvent être dérangeantes donc au début je sais pas si vous vous en souvenez pour les personnes qui ont regardé l'évolution de ce type d'IA mais il y avait un problème avec les mains c'est à dire que il a rêvé du mal à faire exactement 5 doigts à peu près la même taille donc c'était assez gênant au début maintenant ça a été corrigé donc également des problématiques éthiques qui peuvent se poser par rapport la diffusion de fausses informations c'est à dire que pendant un moment mid journée a arrêté la diffusion

de son service gratuitement c'est à dire que actuellement vous aviez jusqu'à 20 possibilités d'image à générer et ça a été arrêté à cause des risques de désinformation qui peuvent en résulter

alors justement

est-ce que vous pensez qu'il est nécessaire d'avoir un moratoire sur les développements de l'IA et sur tout ce qui se passe autour de chat GPT donc pour remettre en contexte ça avait été une proposition qui avait été formulée entre autres par Elon Musk par le patron d'Apple également par d'autres chercheurs avec des craintes vis-à-vis de du développement de l'IA et vers quel type de société on dirait avec le développement des IA génératives donc actuellement on en est à GPT 4 et donc par rapport à cette question du moratoire il y a déjà l'Italie qui a imposé donc la suspension de chat GPT et alors la

raison n'est pas liée au développement de l'IA mais au niveau de l'utilisation qui est faite des données en termes de vie privée alors sur la question donc du moratoire là-dessus ça le mérite on va dire de poser la question mais en revanche on pourrait se demander si à l'heure actuelle c'est vraiment pertinent alors là-dessus on se demande bien qu'est-ce qui justifierait un moratoire mais néanmoins c'est intéressant de se poser la question notamment si jamais ça devait vraiment dérailler mais bon je pense que c'est davantage symbolique c'est davantage un coup de communication qu'une véritable proposition pour beaucoup de personnes qui ont signé alors moyenne une autre question que je voudrais vous poser c'est est-ce que l'on pourra selon vous

encore faire la différence entre le travail du nia et celui d'un être humain parce qu'il y a quand même cette question qui se pose on voit beaucoup de gens ont essayé chaque GPT voir comment ça fonctionne il y a encore c'est encore assez amateur au sens où il y a énormément de travail mais avec les améliorations qui pourraient avoir est-ce que la question ne se pose pas donc pour faire une analogie avec la manière dont fonctionne cette GPT c'est un petit peu l'auto complétion qui existe sur votre téléphone c'est à dire que lorsque vous tapez un mot avec pour envoyer un SMS par exemple vous allez avoir des mots d'autres mots qui vont être suggérés et c'est comme ça que fonctionne chez GPT et c'est un petit peu votre suggestion de mots mais en

version très améliorée donc l'inconvénient de ce type de technique c'est que il peut créer non pas du vrai mais du vrai semblable c'est à dire que vous allez avoir du texte du contenu qui peut paraître de qualité mais il peut dans certains cas halluciner c'est à dire qu'il va inventer des réponses fausses et on ne peut pas être sûr à 100% du résultat qu'il lui a donné donc c'est pour ça que effectivement il y a des craintes vis-à-vis de l'utilisation de chat GPT dans certains métiers comme par exemple au niveau du journalisme mais pas seulement dans beaucoup d'autres secteurs de l'entreprise il peut y avoir des craintes et à l'heure

actuelle il peut réussir de nombreux tests que ce soit en médecine chez les avocats etc mais pour autant on ne peut pas garantir que il n'y aura pas des hallucinations avec l'utilisation de chat GPT donc c'est pour ça que c'est encore risqué de l'utiliser pour remplacer des emplois et les sociétés qui le font et bien le fond alors risque et c'est justement la question que je voulais vous poser la question suivante par rapport aux emplois effectivement vous me dites actuellement ça menace pas vraiment les emplois mais à terme avec une évolution parce qu'il y a pas énormément d'emplois qui vont disparaître ce qu'on a des informations là-dessus c'est peut-être

un peu trop tôt pour avoir une idée précise là-dessus on est sur la thématique classique de la destruction créatrice schmétarienne c'est à dire que oui il y aura des emplois qui pourraient être menacés par chat GPT mais est-ce qu'on a pas d'autres qui vont être créés donc on peut notamment penser au cas assez symptomatique de prompt ingénering donc les ingénieurs du prompte c'est à dire des personnes qui qui vont aider à formuler une instruction bien formulée pour bien utiliser cette VPT donc là dessus sur la question de la complémentarité il peut y avoir un intérêt

au sens où peut-être que ce n'est pas 4 GPT qui va vous remplacer mais quelqu'un qui utilise bien pété et il y a en général donc il faut qu'il y ait un vrai travail de formation dans de nombreux secteurs notamment dans tout ce qui concerne la création de contenu ou la gestion d'information oui il peut y avoir notamment des craintes alors sur les questions robotiques ça ce serait vraiment un autre sujet là-dessus davantage concentré donc sur les IA génératives est-ce que j'ai pété c'est une nouvelle révolution numérique il y a eu l'imprimerie qui est remplacé moins de copiste il y a eu internet qui a été une énorme évolution et ce qu'aujourd'hui on assiste à un nouveau stade

est-ce que il faut en avoir peur c'est à dire que une époque on n'avait pas d'internet on avait pu enseigner les livres et ce que finalement il faut pas accepter les choses telles qu'elles sont on comprend pas bien encore où ça va nous mener c'est normal d'avoir je pense une appréhension mais ce qu'il faut pas la dépasser et faire avec justement donc je dirais que j'ai pété représente la révolution des années 2020 donc de notre décennie on aurait les smartphones pour la décennie 2010 et on aurait internet personnel dans les années 2000 pour situer donc effectivement c'est un nouveau rapport par rapport à l'utilisation qu'on a des technologies c'est-à-dire que il faut quand même

se représenter ce que c'est à dire que vous donnez une instruction et vous avez un texte qui est généré et qui peut quand même être considéré de qualité dans une certaine mesure alors évidemment peut-être GPT si jamais vous lui demandez comment il s'appelle il va répondre assistant donc c'est un assistant un assistant dans tout donc c'est à dire que il a des des qualités certaines mais il a quand même un discours qui est très convenu si jamais vous ne mettez pas dans un rôle particulier c'est d'ailleurs une bonne manière d'utiliser judge GPT c'est de le mettre dans un rôle c'est à dire que vous allez lui demander par exemple d'incarner un expert dans telle ou tel domaine de lui faire jouer un jeu de rôle et ensuite il va vous répondre de manière beaucoup plus

pointue et beaucoup plus précise que si par exemple vous lui aviez simplement demandé tel quel ou telle information donc ça fait partie on va dire du prompt ingénering donc de la manière de bien utiliser tchatjet justement est-ce que c'est pas il y a pas des questions éthiques qui se posent derrière avec une future application de l'intelligence artificielle

donc là c'est vraiment une question très large très très large sur qu'est-ce qu'on pourrait se poser alors par rapport à chat GPT une question qui viendrait à l'esprit ce serait comment s'en servir dans notre quotidien c'est à dire que lorsqu'on se représente l'utilisation qu'on a la technologie en général on s'imagine que elle va toujours nous faciliter la vie et faire en sorte qu'on les donne moins en moins de tâches cognitives à réaliser et là-dessus ça pose vraiment question c'est à dire que est-ce qu'on veut vraiment vivre dans une société dans laquelle tous les forts qu'ils soient physiques ou même cognitif soit automatisé est-ce que on pense que c'est souhaitable d'arriver à ce type de paradigme alors il y aurait d'autres manières

en fait d'utiliser check GPT et les IA en général ce serait plutôt dans un cadre éducatif ou dans un aspect complémentaire donc pour vous donner une analogie plutôt par exemple que d'utiliser une application GPS pour bien vous diriger vers votre destination on pourrait imaginer que elle ne fasse que vous donner quelques indications pour que vous même vous puissiez développer votre sens de l'orientation ou pour que vous puissiez mieux connaître la ville ou même explorer par vous même un endroit donc oui oui ça va demander un certain effort donc c'est certain mais je pense que ça pourrait être intéressant notamment en termes de rapport qu'on a la technologie pour nous rendre

moins dépendant donc là il y a un paradoxe qui est intéressant c'est utiliser la technologie pour être moins dépendant de la technologie ceci étant si on veut garder nos facultés humaines de raisonnement de formulation dans la vie construit je pense que il va falloir utiliser ses Ia et ses outils de manière parcimonieuse donc c'est à dire de manière spécifiquement dédié à notre développement et pas simplement leur demander de résoudre les tâches qui nous faciliterait la vie donc là dessus on a un adversaire de taille à savoir notre propre paresse notre propre système entre guillemets qui peut jouer contre nous car un vrai travail d'éducation à faire en

termes d'éducation notamment il y a des écoles qui ont interdit l'utilisation de chat GPT donc notamment Sciences Po tandis que d'autres laissent peut-être j'ai pété être utilisé et du coup ils doivent modifier leur évaluation alors moi-même qui donne des cours en éthique de l'IA en santé je dois dire que c'est un sacré défi de voir comment faire en sorte que JT soit utilisé dans l'évaluation par rapport à ce qui était fait avant donc il faut y réfléchir il faut voir puisque a priori à moins que chat GPT soit interdit comme en Italie et bien il faudra prendre en compte que on

va continuer à utiliser ce type de technologie et donc apprendre à vivre avec si je comprends bien ce que vous me dites c'est la question de l'encadrement qui s'oppose c'est comment on encadrement c'est un fait c'est un peu comme la mondialisation ça en fait est-ce que c'est la question de l'encadrement comment on va réussir à encadrer chaque GPT pour en faire un monstre c'est bien ça ce que vous expliquez alors au niveau de l'encadrement il y a notamment l'encadrement on va dire juridique en termes de protection des données donc il faut bien comprendre que l'Italie avait de bonnes raisons d'interdiregpt à savoir que elle ne savait pas très bien ce qui était fait des données qui étaient utilisées par chat GPD donc peut-être qu'en France ou en Europe

ou du moins dans l'Union européenne on va avoir la même chose peut-être qu'on peut se diriger vers un moratoire de jazz GPT tant que on est pas sûr de la manière dont les données sont utilisés donc l'encadrement il est pertinent de cette manière donc faire en sorte que tu as déjà baisé respecte le rgpd donc le règlement général pour la protection des données et plus largement en dehors du cadre strictement légal il y a également la question de des applications c'est à dire que il y avait notamment l'histoire d'un journaliste qui avait utilisé le moteur de recherche Bing auquel

était connecté et qui avait été directement menacé par par Bing donc il y avait notamment fait remarquer que Avatar 2 était déjà sorti sauf que chat GPT n'était pas encore à jour à ce niveau là et du coup il a commencé à traiter le journaliste de menteurs pourquoi est-ce que il voulait faire du mal à lia etc et c'est elle est assez loin cette histoire puisque tu as déjà pété a carrément menacé le journaliste promis de faire de fausses informations pour le dénoncer lui faire du mal donc bon c'est assez compliqué de savoir pourquoi il a fait ça se pose la question

notamment de l'explicabilité ça c'est un problème qui récurrent avec les techniques d'IA qui sont utilisés actuellement c'est de savoir pourquoi est-ce que les IA donnent tel ou tel type de résultat donc c'est la question de la boîte noire ou plutôt de la boîte grise c'est à dire qu'on peut quand même expliquer un petit peu donc dans le cas de ce journaliste qui a été menacé par lia on peut supposer que l'IA est allé dans des forums ou dans des endroits un peu étranges d'Internet et qu'elle a été entraînée à partir de base plus ou moins propre donc là dessus c'est une question qu'on peut se poser et parmi les autres questions qu'on peut également se poser c'est du

point de vue de la consommation énergétique de chat GPT qui peut être assez importante de même que la consommation d'eau c'est à dire que il y a de l'eau qui est utilisée à différentes échelles de chat GPT notamment pour le refroidissement pour l'utilisation de ces composants etc donc là dessus il peut y avoir une consommation énergétique et de ressources qui est importantes et qui n'est pas négliger dans des contextes de pénurie notamment si par exemple vous avez des Data Center qui se trouvent au Texas ou dans les endroits dans lequel il peut y avoir un stress hydrique important c'est des questions qui peuvent se poser alors pour mettre en lien avec l'actualité avec les

méga bassines en France alors on va pas rentrer dans les détails mais simplement pour dire qu'il y a quand même une tension autour de l'eau et la question d'utilisation des IA ou de la technologie peut rentrer en concurrence avec l'utilisation humaine donc c'est un autre aspect qui inattendu par rapport à ce qui peut être fait avec gptême alors Alexandre hôtel il y a une dernière question que je voudrais vous poser c'est on a un petit peu abordé mais pas vraiment c'est sur l'école justement sur comment est-ce que ça va pas poser un problème aux enseignants pouvoir corriger les élèves quand il vous a un travail à faire à la maison c'est ça se fait beaucoup est-ce que on

va pas avoir un problème pour différencier le travail de l'élève du travail de chat GPD alors là dessus c'est déjà une question que se pose de nombreux enseignants et il y a effectivement des logiciels qui permettent de détecter si jamais le travail qui a été réalisé qui a été fait par tête gptu ou un élève mais il a bien sûr un mais c'est que dans certains cas il suffit que l'élève modifie quelques mots quelques phrases ici ou là et le détecteur d'utilisation de chat GPT ne va pas le remarquer il va y avoir que du feu et de même dans certains

cas il peut prendre un texte écrit entièrement par un humain pour un texte de gptt donc c'est une question qui est assez compliquée à se poser alors on pourrait faire un parallèle avec la calculatrice c'est à dire que dans certains cas la calculatrice est interdite et dans d'autres on peut imaginer interdire chat GPT alors comment le vérifier être sûr que ça n'a pas été utilisé là-dessus c'est un vrai défi et pour l'instant il n'y a pas de réponse à ma connaissance sauf l'utilisation de ces différents logiciels Antilles

une question également qu'on pourrait se poser c'est dans notre rapport qu'on a à la technique c'est pas seulement en termes de technophobie ou de technophilie mais également de techno critiques donc techno critique c'est-à-dire qu'elle est l'utilisation qui est faite de la technologie et comment est-ce que ça peut modifier les rapports sociaux ou qui bénéficient du développement de cette technologie donc on avait déjà cette question notamment avec les ludits donc avec James Lude qui avait cassé des métiers à tisser et aujourd'hui c'est une expression qui est courante donc néolith pour qualifier des personnes qui voudraient faire la même chose

aujourd'hui mais il faut bien comprendre que la question n'est pas tellement d'être contre la technologie mais de voir à qui elle va bénéficier et donc là dessus c'est une question ouverte c'est une question qu'il faut se poser et prendre en compte que si jamais vous critiquez la technique ce n'est pas forcément parce que vous êtes technophobe mais peut-être que vous êtes un technocritique c'est à dire quelqu'un qui va se demander pour qui la technologie va servir bien écoutez merci Alexandre tel de tous ces précisions nous avons suivi attentivement l'évolution de chat GPT et peut-être que nous aurons l'occasion d'en reparler dans quelques mois de vous réviter pour reparler de ces questions qui manqueront pas de nous intéresser

merci à tous d'avoir suivi j'espère que cette entretien vous aura plu et je vous dis à très vite