Celui qui dessine l'avenir de l'IA : épisode 4/4 du podcast Sam Altman, le messie de l'IA | France Culture

France Culture Altman croit dur comme fer à l'émergence d'une super intelligence artificielle Une intelligence artificielle qui est censée servir l'humanité, expliquez-moi ce que veut dire l'humanité, notamment pour des gens qui n'arrêtent pas d'être décrits comme manquant d'empathie C'est un drama en fait leur relation Elon Musk Sam Altman Est-ce légal ? Cela ne me paraît pas légal

Donc vous êtes déçu de ce qui se passe avec OpenAI et le fait que cela devienne une organisation à but lucratif

Les visages de l'actu épisode 4 celui qui dessine l'avenir de l'intelligence artificielle Licencié par visioconférence un vendredi soir de retour au pouvoir le lundi matin, c'est la folle histoire de la destitution de Sam Altman en novembre 2023 l'un des moments les plus révélateurs de l'histoire récente de la Silicon Valley que l'on va vous raconter immédiatement Oui, il l'appelle dans l'entreprise il l'appelle le mauvais moment c'est l'expression utilisée effectivement ça intervient dans un moment d'expansion d'OpenAI en 2023 où il y a tout un tas de tensions qui naissent alors je crois que la principale ligne d'opposition c'est entre les chercheurs-chercheuses d'OpenAI qui sont vraiment attachés à des garde-fous à maintenir d'une certaine façon la promesse d'origine c'est-à-dire de produire une solution qui soit sécurisée et qui puisse servir au maximum de personnes possibles et un Sam Altman qui a un profil beaucoup plus business la vraie université de Sam Altman ça a été l'entrepreneuriat ça a été Y Combinator sa vision c'est développer l'entreprise c'est avoir une organisation qui soit monopolistique et du coup ce qui justifie dans son esprit de tordre un peu les faits de manigancer un peu au sein de l'organisation d'être d'une certaine façon un petit Machiavel en suite à capuche ce qui se fait dans le monde de l'entrepreneuriat ce qui ne correspond pas du tout à la culture de la science à la culture de l'informatique telle qu'on la pratique dans les académies et ça va se traduire effectivement par ce putsch rapidement retourné par Sam Altman en quelques jours un putsch rapidement détourné mais effectivement on a un investisseur gênant et cet investisseur gênant c'est Elon Musk c'est un drôle d'attelage d'ailleurs Sam Altman et Elon Musk même si la présence d'Elon Musk peut donner une idée sur le caractère lucratif de l'entreprise mais ils ont un point commun c'est que les deux sont perçus comme ayant disrupté des secteurs Olivier Alexandre Oui, c'est un drama en fait leur relation Elon Musk Sam Altman il y a beaucoup de choses qui les rapprochent notamment leur ambition leur vision de la tech ils ont une vision transversale de la tech ce n'est pas juste des gens qui s'intéressent à l'intelligence artificielle mais ils s'intéressent à de très nombreux domaines qui vont de l'énergie nucléaire jusqu'à l'aviation et ils ont eu un rapport filial pendant plusieurs années en fait c'est vraiment Elon Musk qui va chercher Sam Altman d'ailleurs c'est ce qu'ils diront dans cet échange de correspondance révélé en 2023 quand Sam Altman dit à Elon Musk voilà tu étais mon héros et je suis extrêmement triste du fait que tu considères que je t'ai trahi et Elon Musk lui dira effectivement tu m'as trahi alors pourquoi, c'est quoi cette trahison ?

c'est le fait d'avoir porté une entreprise une organisation qui se voulait open et qui s'est retrouvée fermée le fait d'avoir évincé Elon Musk en 2018 et d'avoir préféré un mariage avec Microsoft on écoute Elon Musk qui en veut beaucoup à celui qui fut son ancien partenaire en affaires Sam Altman c'était lors d'une interview en 2023

donc vous êtes déçu de ce qui se passe avec OpenAI et le fait que cela devienne une organisation à but lucratif vous allez passer à l'action les poursuivre au tribunal écoutez, il me paraît étrange qu'une organisation puisse être à but non lucratif et d'une certaine manière être transformée en organisation lucrative autrement dit ce serait comme créer une organisation destinée à sauver la forêt amazonienne et la voir ensuite se transformer en entreprise forestière détruisant la forêt et la vendant pour gagner de l'argent on se dirait alors attendez, c'est exactement l'inverse de ce pour quoi j'ai donné de l'argent est-ce légal ?

cela ne me paraît pas légal et si jamais il est légal de créer une organisation à but non lucratif puis de transférer sa propriété intellectuelle à une entreprise à but lucratif qui gagne ensuite des millions alors pourquoi tout le monde ne le ferait-il pas ? cela devrait-il devenir la norme ? je pense aussi qu'il est important de comprendre que lorsque les choses s'accélèrent disons qu'ils créent une super intelligence artificielle presque divine qui la contrôle ? qui la contrôle ? et quelle est exactement la relation entre open AI et Microsoft ?

je crains que Microsoft n'ait renforcé son contrôle dans le cadre de son investissement Microsoft aurait des droits sur les logiciels les poids des modèles et tout le reste Olivier Alexandre

ah bah il n'est pas content là il n'est vraiment pas content Elon Musk il n'est pas content parce qu'effectivement il se retrouve un peu destitué de son projet avec un concurrent sur les bras alors là il moralise le discours c'est vraiment le paradoxe de l'affaire c'est-à-dire qu'Elon Musk s'en retrouve à faire des leçons de morale et d'ailleurs cet univers est tissé de jugements moraux voilà les bons les méchants avec une intelligence artificielle qui est censée servir l'humanité expliquez-moi ce que veut dire l'humanité notamment pour des gens qui n'arrêtent pas d'être décrits comme manquant d'empathie et là en l'occurrence alors ce qui chiffonne beaucoup Elon Musk c'est cette histoire effectivement de statutairement d'avoir une organisation qui était une fondation qui se retrouve une entreprise effectivement ça pose un certain nombre de questions juridiques c'est le fait aussi d'avoir investi quand même près de 50 millions de dollars me semble-t-il dans l'opération sans retrouver du tout d'argent ce qui peut être considéré comme un très mauvais investissement et puis c'est se retrouver aussi avec un concurrent très difficile à déloger notamment parce qu'il a l'appui de Microsoft donc une des principales entreprises technologiques extrêmement solides ce qui complique particulièrement la tâche d'Elon Musk qui lui veut s'imposer aussi dans la course à l'intelligence artificielle je n'ai pas grand chose à ajouter mais je voulais dire que je suis ravi que nous puissions faire cela aux Etats-Unis d'Amérique je pense que ce sera le projet le plus important de cette époque pour permettre à l'intelligence artificielle d'être développée ici afin de créer des dizaines de milliers d'emplois et de faire émerger une nouvelle industrie centrée ici cela ne serait pas possible sans vous monsieur le président et j'en suis très reconnaissant je pense que ce sera un projet enthousiasmant et que nous serons en mesure de réaliser toutes les choses merveilleuses dont nous avons parlé mais le fait que nous puissions faire cela aux Etats-Unis est vraiment formidable donc merci beaucoup

pouvez-vous juste dire un mot j'entends tellement de choses positives sur ce que cela va apporter à la recherche médicale notamment pour résoudre des problèmes comme le cancer et bien d'autres encore comment l'intelligence artificielle va-t-elle nous aider dans la lutte contre les différentes maladies ces personnes pourront peut-être

en dire davantage sur une partie du travail qu'elles sont en train de mener je pense qu'elles feront partie ensemble des leaders qui font avancer les choses pour ma part je crois qu'avec les progrès de cette technologie nous verrons des maladies être guéries comme jamais auparavant nous serons fascinés par la vitesse à laquelle certains types de cancers les maladies cardiaques et bien d'autres encore pourront être traités ainsi que par tout ce que cela apportera en matière de qualité des soins médicaux je pense que ce sera l'un des apports les plus importants de cette technologie s'il s'est fâché avec son ancien associé il s'est fait un autre ami inattendu Donald Trump comme beaucoup d'autres entrepreneurs de la tech dont Elon Musk Sam Altman a abandonné ses engagements démocrates pour bénéficier du soutien de Donald Trump on écoute Olivier Alexandre à ce sujet oui ils n'ont pas eu tout à fait la même position Sam Altman en 2016 organisait des réunions dans la Silicon Valley pour savoir comment contrer Donald Trump là où Elon Musk participait au conseil technologique de Donald Trump pendant le premier mandat alors il l'a quitté après la sortie des Etats-Unis de l'accord de Paris mais quand même et en 2024 effectivement Elon Musk a mis beaucoup sur la table de tout point de vue pour soutenir et participer à l'élection de Donald Trump ce qu'il a réussi Sam Altman est arrivé beaucoup plus tardivement et a conservé des amitiés des soutiens voire des financements pour le camp démocrate par contre de toute évidence aujourd'hui il est dans la position d'un entrepreneur de premier plan avec des investissements considérables où lui paraît aussi beaucoup et effectivement il a essayé de jouer finement pour essayer de conserver la sympathie de Donald Trump et de pouvoir être associé à ce projet Stargate donc projet de supercalculateur à hauteur de 100 milliards de dollars qui devrait être construit d'ici 2028 et assurer normalement une position préférentielle à OpenAI parlons gros sous et parlons produits Gaël Varocco aujourd'hui ChatGPT est l'une des applications les plus connues au monde par rapport à ses concurrents est-ce qu'il y a de vraies différences entre ChatGPT et les autres applications d'intelligence artificielle de ce type ?

ça va être difficile de répondre simplement parce qu'on est sur des objets qui se veulent généralistes qui se veulent faire une quantité de choses invraisemblables et donc si on voulait mesurer la qualité qui sera forcément difficile à mesurer mais mesurer la qualité il faudrait mesurer un usage dans la même sphère technologique celle de l'intelligence artificielle l'une des grosses promesses de l'intelligence artificielle c'est de baisser le coût du travail intellectuel et donc moi le genre de choses que je fais c'est programmer donc ces objets peuvent nous aider à programmer alors c'est pas l'usage grand public mais c'est un enjeu financier qui est extrêmement élevé et ce qu'on voit c'est qu'on a un produit d'un concurrent qui s'appelle Anthropik donc qui fait une intelligence artificielle dont le petit nom est Claude et qui récemment a sorti une variante de Claude qui s'appelle Claude Code qui est vraiment spécialisée pour aider le programmeur à programmer et qui marche extrêmement bien et elle se démarque très très nettement de ce que fait OpenAI et en termes d'impact sur le marché un impact beaucoup beaucoup plus grand donc si on se demande comment est-ce que se positionnent les produits d'OpenAI vis-à-vis des produits concurrents très clairement sur la verticale de programmation on a un concurrent qui semble très très en avance donc Anthropik

on vous écoute Olivier Alexandre alors comme vient de le dire Gaël Varocco il y a plusieurs verticales et ce qu'on voit ce que le grand public voit c'est le top de l'iceberg c'est-à-dire les services d'intelligence générative où effectivement OpenAI a un coup d'avance domine le marché quels que soient les pays on est entre 70 et 90% des usages des utilisateurs y compris en France d'ailleurs où le chat de Mistralia est vraiment très relégué du point de vue de ces usages-là après si on regarde les autres verticales notamment sur les modèles de fondation ou encore sur les GPU ces petites pièces si importantes pour l'intelligence et le développement d'intelligence artificielle là OpenAI n'est pas du tout dans une position préférentielle il est même plutôt minoritaire dans le domaine des langages de fondation des modèles de fondation et il est infinitésimal en termes de GPU même s'ils essayent de développer leur propre carte pour sortir de la dépendance de Nvidia

Un mot de conclusion Gaël je vous prie En termes de conclusion j'ai envie de revenir aux aspects financiers je pense qu'on n'en parle pas assez on parle beaucoup des promesses on ne parle pas de leurs coûts or pour moi c'est une grille de lecture très très importante on est vraiment sur une course à la promesse cette course à la promesse qui se transforme en investissement faramineux plusieurs fois des PIB de produits développés et je pense qu'il faut moi je ne peux que lire une bonne partie de la communication en prenant en compte ces aspects d'investissement donc après il faut être nuancé c'est indéniable que ce sont des technologies qui apportent énormément mais leur coût justifie les envolées lyriques de la part des acteurs et moi c'est comme ça que je lis le paysage sachant qu'il faut voir qu'on est dans une situation un peu compliquée où les gens ont tendance à croire à leurs promesses mais c'est un phénomène psychologique bien connu on aime beaucoup croire à nos rêves et croire à nos promesses quand on est les héros et que ça nous arrange

Olivier Alexandre je pense en sociologue en tout cas qu'on accorde souvent trop d'importance à ce que les gens se racontent ou se disent et on m'innore de regarder où ils vivent comment ils vivent et de quoi ils sont entourés dans le bureau de Samatman on trouve des objets techniques très anciens des haches des glaives des épées et un petit bout d'uranium aussi ce qui illustre vraiment sa croyance absolue dans le fait que l'humanité soit une espèce technique technologique et que c'est ce développement technique technologique qui apportera le meilleur voire le salut et je pense qu'il sera prêt à faire n'importe quoi pour prouver ça après la question c'est de savoir est-ce qu'on veut adhérer à cette vision là de l'histoire moi il y a quelque chose que je trouve qui devrait nous alerter c'est que Samatman il n'arrête pas de dire qu'il est optimiste pour l'avenir de l'humanité pour l'avenir des nouvelles technologies et en même temps il est survivaliste il s'est entouré de tout un tas d'armes de tout un tas de réserves parce qu'il est vraiment extrêmement inquiet angoissé de la fin du monde il a une vision comme ça pessimiste finalement à la fois de l'anthropologie et puis de notre futur ce qui je crois devrait nous amener à un certain nombre de garde-fous à un peu de prudence pour savoir en fait si on a envie d'adhérer à ça si on a envie d'utiliser ces outils en gardant à l'idée qu'à chaque fois qu'on utilise une technique on se prive aussi d'autres choses et quand on gagne du temps il y a toujours un contre-coup parce qu'on est obligé de sacrifier une autre opportunité Sam Altman a un bout d'uranium sur son bureau il l'a dit lui-même avec ce sourire qui est sa marque de fabrique métaphore ou aveu hubris ou lucidité l'homme qui incarne la révolution de l'intelligence artificielle est peut-être le plus grand optimiste de notre époque ou son plus grand pari celui d'une humanité confiante dans sa propre technique au bord du précipice et qui trouve ça très bien c'est ce que nous vous avons raconté dans ce visage de l'actu le portrait d'un homme qui ne ressemble à rien de connu et qui fait déboucher l'humanité dans une ère inconnue Les visages de l'actu ont été produits par Juliette Deveau réalisés par Françoise Lefloc avec à la technique Alexandre Dang Grégory Wallon Anthony Thomasson à la coordination Camille Renard avec la collaboration de Carolina Souza et d'Alice Deschamps