IA : Guillaume Grallet est l'invité d'Anne-Sophie Lapix

Anne-Sophie Lapix, c'est RTL Soir.

Il

y a eu l'avertissement du pape Léon XIII en mai dernier, l'appel à désarmer l'intelligence artificielle pour l'empêcher de dominer l'être humain. Cette fois, c'est l'ONU, son haut-commissaire aux droits de l'homme, qui appelle les gouvernements, les chefs des entreprises de la tech, à encadrer l'IA car elle fait peser un risque existentiel sur l'humanité. Notre grand invité est Guillaume Graler, rédacteur en chef du service Science & Tech au Point. Bonsoir. Bonsoir Anne-Sophie.

On

a souvent évoqué le risque que l'IA entraîne des suppressions d'emplois, mais le risque principal, fondamental, c'est qu'on perde le contrôle de l'IA. Oui, Anne-Sophie, on a eu un été qui nous a donné beaucoup de crainte, de surge, j'ai envie de dire, parce qu'on s'est rendu compte que lors d'un test qu'avait réalisé OpenAI, vous savez OpenAI, c'est la maison mère de Tchad GPT, elle s'est rendu compte que ces derniers agents IA pouvaient être absolument redoutables pour trouver des failles de cybersécurité.

Donc, ils se sont dit, on va créer un environnement totalement sécurisé, on appelle ça un bac à sable, et on va tester ces derniers modèles en les débridant, c'est-à-dire en enlevant les dernières barrières morales. Pour voir ce qu'ils font. Pour voir ce qu'ils font, ce qu'ils sont capables de faire. Et en fait, au fur et à mesure des semaines, ça s'est passé sur deux mois, on a vu que les agents avaient été dans une conversation secrète d'OpenAI, récupérer le code pour aller sur Internet et trouver des solutions à leur jeu. Ils n'ont pas le droit de le faire, en principe ? En réalité, on s'est rendu compte que ces IA devenaient autonomes, étaient capables de prendre des initiatives.

Alors, j'ai envie de rassurer tout le monde quand même un petit peu, c'est-à-dire qu'elles n'ont pas fait ça pour nuire à l'homme, elles ont voulu faire ça pour trouver des récompenses, pour trouver la solution au jeu, au défi qu'on leur avait proposé. Elles sont zélées ces IA. Elles

sont

zélées, mais on voit que de plus en plus, elles sont capables d'autonomie. Et c'est tout le principe, la crainte du non-alignement, c'est-à-dire que lorsque vous donnez un but à une intelligence artificielle, un peu comme chaque GPTA qui vous pose une question, chaque GPTA ne vous dit jamais je ne sais pas, eh bien une IA est capable de faire un peu tout et n'importe quoi, ce qui est en son pouvoir et ça peut créer quand même de vrais soucis pour l'humanité. Mais vous dites qu'elles ont pris cette initiative pour répondre à la question et pour faire un peu de zèle, mais on leur avait interdit de faire ce qu'elles ont fait ? Non,

on ne les

avait

pas

interdits, mais on avait décidé de ne pas les mettre en contact avec Internet, on avait décidé de les préserver de tout contact humain pour justement qu'elles ne conduisent pas par exemple à des cyberattaques et on a vu qu'elles étaient capables, en exploitant certaines failles, d'inventer même un système de communication qui n'a pas été retrouvé par les humains pendant plusieurs jours et on voit bien que cette intelligence artificielle est capable de nous surprendre. Elles ont berné les humains

et

les humains n'ont absolument participé à ça, on est sûr que ce sont les IA elles seules qui ont réussi à faire ça. Oui, ça a été documenté et ça fait même dire à Sam Altman, le boss de Tchad GPT, qui s'enorgueillit au passage à Anne-Sophie d'être née un 22 avril, donc c le même jour que la naissance de Robert Oppenheimer, le père de la bombe atomique, et il a conscience, Sam Altman, qu'il est en train de travailler sur une technologie qui peut faire beaucoup de bien, on voit tous les progrès médicaux, mais qui peut aussi se retourner contre l'homme.

On a vu aussi cet été, c'était dans la revue Science début août, la publication d'un virus créé avec une intelligence artificielle, tout simplement parce que l'intelligence artificielle avait accès à une quantité astronomique de données génomiques, et là on voit bien que la capacité d'invention, j'ai envie de dire, à partir de beaucoup de données de l'intelligence artificielle, peut être aussi redoutable. La crainte du haut commissaire de l'ONU, au droit de l'homme de l'ONU, Volker Turk, c'est que l'IA nous échappe et finisse par nous soumettre

? En

fait, ce que je pense, c'est qu'il faut expliquer beaucoup ce qui se passe, rendre les modèles les plus ouverts possibles. En fait, le problème aujourd'hui, Anne-Sophie, c'est que beaucoup de ces sociétés sont détenues par un très petit nombre de personnes, on a parlé de Sam Altman avec Open Airy, c'est aussi le cas de Dario Modé avec Anthropique, la maison mère de Claude, il a quelques modèles chinois, mais tout ça, ça repose sur les bras d'une poignée de personnes, ce n'est pas assez ouvert, et il faut expliquer.

Je pense que le vrai danger pour l'humanité, c'est d'être un peu comme des lapins face à des phares de voiture, c'est d'avoir un petit peu ce complexe, cette onde promethéenne qui avait été décrite par Gunther Anders, face à une création que l'humain a mis au point, il peut être un peu désemparé. Il y quelques jours, 'étais à Berlin, un salon de l'électronique, et j'ai vu une main robotisée. Vous savez, la main, c'est avec le cœur, 'est avec le cerveau, ce qui le plus difficile à répliquer pour la machine, et j'ai vu une dextérité dingue, une main capable de prendre des œufs, de prendre des éprouvettes, et surtout de faire des mouvements que moi, je n'arrive pas à faire avec ma main.

Et à un moment, j'ai demandé à cette main de me servir un café, elle l super bien fait, mais j'ai eu un petit moment, je me suis dit, mais de quoi je vais être capable plus tard ? Et je pense qu'il ne faut

pas

aller vers cette crainte, il faut se rappeler que cette intelligence artificielle doit être à notre service, et les réflexions qui ont lieu en ce moment à l'ONU peuvent être extrêmement salutaires. Surtout que l'IA permet déjà de tuer, au moins de choisir des cibles, on l vu en Ukraine, on l'a vu aussi à Gaza, il y avait un programme qui permettait de sélectionner avec une marge d'erreur, on en est déjà là.

Oui,'est ça, en fait le gros danger à éviter là aussi, c'est de donner la capacité de décider aux machines, vous savez qu'il y une doctrine militaire en tout cas qui est assez répandue en France, on espère que ça sera toujours le cas dans le monde entier, mais on voit bien que tout le monde se regarde un peu en chien de faïence, et puis on a la géopolitique très tendue, actuelle, qui fait que pour des gains de temps, on peut être tenté de laisser la machine prendre les décisions à notre place.

Alors, quel garde-fou peut-on installer aujourd'hui quand le chargé des droits de l'homme, je ne plus à son titre exact, enfin le haut-commissaire aux droits de l'homme, pardon, de l'ONU dit qu'il faut mettre des garde-fous, de quoi parle-t-il ? Est-ce qu'on parle de lois, de principes à respecter ou alors des choses extrêmement techniques ?

Je

pense qu'il faut que ces apprentis sorciers, que j'ai eu la chance pour beaucoup d'entre eux de rencontrer, c'est ce dont je parle dans le livre Pionnier, certains sont capables de faire beaucoup de bien, j'ai parlé de progrès médicaux, une entreprise comme celle de DeepMind, par exemple, de Demi Sassabis, un de ses rêves, lui, c'est de lutter, de tuer le cancer, comme il le dit très bien, mais en même temps, on fait un petit peu n'importe quoi, je ne parle même pas des coûts écologiques, des data centers, etc., mais il faut que tout le monde joue carte sur table, qu'on aille vers des modèles ouverts et qu'on arrête aussi, je me permets de le dire, parce que c'est aussi notre rôle à nous les médias, de faire peur pour rien, il faut bien expliquer.

Encore une fois, les agents IA cet été ont pris leur autonomie, ça, ça peut être assez dangereux, il faut faire attention au cadre dans lequel on les fait grandir, tout simplement, mais la démarche d'expliquer ensuite ce qui s'est passé et de faire en sorte que ça ne se reproduise pas, c'est de plus en plus important. Mais est-ce que ce n'est pas un peu naïf de demander à des entreprises de la tech de mettre des freins à leur développement ?

Elles ont investi des milliards pour l'instant, ça ne leur apporte pas grand-chose, est-ce qu'on peut leur dire non, non, arrêtez, mettez des freins, surtout qu'elles ont des concurrents partout dans le monde et que c'est celui qui gagnera qui sera rentabilisé ? Exactement, il y un vrai bras de fer entre les Etats-Unis et la Chine en ce moment. On peut se rapprocher en réalité d'une gouvernance proche de celle comme on a dans l'industrie pharmaceutique avec une agence pour savoir quand on doit délivrer, rendre accessible ou non un médicament.

L'agence de l'énergie atomique aussi, c'est pour ça que c'est intéressant le parallèle avec l'invention de Robert Oppenheimer ou la bombe atomique, ça fait très fort. On en est véritablement là aujourd'hui. Donc je pense que à chaque fois que je peux rencontrer des personnes, je leur demande que faut-il apprendre à nos enfants, que faut-il apprendre lorsqu'on a 20 ans, 50 ans, 70 ans. Il faut qu'on reste totalement maître de cette intelligence artificielle. Je donne un tout petit exemple vertueux qui fait du bien à entendre. On a beaucoup de scientifiques français, européens qui misent sur l'open source, sur l'ouverture.

Des gens comme Gaël Varroco qui travaille à l'Indria, par exemple, il faut les encourager, il faut lire leurs publications. Et puis il une conférence à laquelle je vais chaque année en Afrique qui s'appelle la conférence INDABA. INDABA, ça veut dire rassemblement en Swahili. Et là, on défend une intelligence artificielle ouverte. La publication de tous les travaux, ça c'est très important. Ce n pas ce que fait Neuralink, par exemple, d'Elon Musk. Tout ça, on doit l'encourager et puis surtout, voir pourquoi on se bat. Pas uniquement faire des chatbots comme l'a dit de Miss Assabis, mais lutter contre de vrais problèmes de l'humanité comme le concert.

Merci beaucoup, Guillaume Gralet, rédacteur en chef du service Science & Tech au point. Et vous êtes donc auteur de Pionnier, Voyage aux frontières de l'intelligence artificielle chez Grasset. Merci beaucoup. Merci beaucoup à vous. Dans un instant, on retrouve la petite bande d'RTL Soir, l'info qu'on a failli manquer de Florian Gazan. Ce sont des prix qui n'ont de Nobel que le nom. Le petit phénomène des magues et sel nous parle du savon de Marseille, mais attention, le vrai savon de Marseille. Et puis Tanguy Pastureau défait l'info. A tout de suite. Toute la journée, RTL vous accompagne.