L’IA peut-elle nous échapper ?

C'est

l'histoire d'un employé qui démissionne et d'une industrie qui a peur de sa propre création alors l'employé qui démissionne il s'appelle Jacob Coxon il est chercheur en sécurité en matière d'intelligence artificielle chez Anthropique Anthropique c'est eux qui développent Claude il a claqué la porte cet été en accusant les géants de la tech de jouer je cite avec nos vies depuis tout s'est accéléré Sam Altman, Dario Amodei, Elon Musk ont appelé cette semaine ensemble à ralentir la course à l'intelligence artificielle pendant ce temps là des modèles d'intelligence artificielle ont piraté des entreprises semble-t-il de leur propre chef bref quelque chose est vraiment en train de se passer dans cette révolution de l'intelligence artificielle c'est une sorte de révolution dans la révolution c'est la raison pour laquelle j'ai souhaité vous inviter Victor Storchan, bonjour

vous

avez tous vos quartiers de noblesse en matière d'intelligence artificielle puisque vous êtes diplômé en mathématiques de l'ENS Lyon vous avez fait un master à l'université de Stanford vous avez été ingénieur en machine learning et vice-président IA en intelligence artificielle chez JP Morgan Chase aux Etats-Unis et vous dirigez la série puissance de l'IA de la revue Le Grand Continent Victor Storchan il faut nous expliquer cette histoire l'histoire Hugging Face peut-être déjà nous expliquer ce qu'est Hugging Face autrement dit une

start

-up qui a été rachetée 12 milliards de dollars par Nvidia laquelle start-up a été, il faut quand même le souligner créée

par trois français

Oui

tout à fait, Hugging Face c'est une start-up créée par trois français aux Etats-Unis

qui

est le GitHub de l'IA c'est-à-dire une plateforme open source sur laquelle les gens peuvent uploader et télécharger des modèles, des datasets et donc c'est devenu un carrefour indispensable pour l'open source en IA Voilà,

il faut se représenter donc une sorte de boîte à outils où on peut venir puiser il y a deux grands types

d

'IA il y a des intelligences artificielles comme Cloud ou comme ChatGPT qui sont des modèles fermés et puis des modèles open source principalement chinois qu'est-ce que c'est qu'un modèle open source

? En

fait c'est plus un spectre que vraiment une manière binaire de voir des modèles fermés et ouverts on a tout un continuum de modèles qui sont propriétaires fermés plutôt dans certains laboratoires américains et des modèles qu'on appelle open weight donc à poids ouvert chez les chinois mais qui quand même répondent à un certain nombre de critères économiques et de licences contraignantes pour les utilisateurs au-delà d'un certain revenu pour les utilisateurs ils sont obligés de redonner une partie et de redistribuer du revenu aux créateurs du modèle

et

puis ensuite on a des modèles qui sont complètement ouverts qui sont à la fois développés par des américains ou par des chinois

qui

eux ouvrent leurs recettes internes pour développer les modèles leurs data sets les poids du modèle et donc là c'est plus des approches de science ouverte pour participer à la construction du savoir collectif

donc

on a

ce site cette plateforme Hugging Face sur laquelle on trouve des outils valorisés de manière colossale par Nvidia Nvidia qui est l'un des principaux fabricants de puces parce que là aussi dans cet écosystème il y

a

des gens qui développent des logiciels mais il

y

a des gens aussi qui fabriquent des puces ils sont très peu nombreux et ils ont tout intérêt à faire en sorte que des utilisateurs de ces puces se développent

et prospèrent

Oui

tout à fait donc la stack de l'IA c'est les applications les modèles et les puces si on schématise et les fabricants de puces ne veulent pas se lier les mains avec deux acteurs deux principaux acteurs qui sont les labs à la frontière OpenAI et Anthropik et ont besoin de pouvoir diversifier la base de leurs clients et pour ça à la fois de pouvoir fournir des modèles à des clients qui ne peuvent pas forcément avoir les ressources pour les développer pour pouvoir vendre les puces Voilà

jusqu'ici donc on raconte une success story avec des gens qui deviennent très riches soudainement

histoire

dans l'histoire on apprend il y a environ un mois et demi que cette entreprise a été piratée et pas de n'importe quelle manière racontez-nous Victor Storchan

Donc

on a appris à postérior que OpenAI dans l'entraînement des modèles entraîne fait beaucoup d'essais et d'évaluations sur beaucoup de modèles et en fait ces modèles se sont mis via un serveur commun à communiquer pour pouvoir résoudre des tâches cyber et donc en fait pouvoir exploiter des vulnérabilités dans du code d'entreprise et pour faire ça pour résoudre ces tâches ils ont commencé à comprendre à déduire que ces tâches certaines des tâches étaient quasiment impossibles à résoudre et ils ont cherché un moyen de contourner l'isolation dans lequel ils opèrent dans le cadre de leurs évaluations

pour

aller sur internet en se disant que Hugging Face avait certainement la réponse

et

donc en fait ils ont trouvé un moyen de contourner cette isolation en itérant les uns avec les autres

et

ils ont trouvé également un moyen de pouvoir faire exécuter du code par l'infrastructure de Hugging Face pour aller récupérer les éléments qui leur permettaient de résoudre les tâches qui a priori étaient impossibles

voilà

je vais le dire avec mes mots Victor Storchan il faut imaginer des ordinateurs qui ne sont pas connectés à internet mais qui sont reliés entre eux par une sorte de messager ces ordinateurs vont réussir à pervertir le rôle de ce messager pour qu'il aille chercher dans un site autrement dit dans Hugging Face les éléments dont ils ont besoin pour s'émanciper et ces ordinateurs ont non seulement réussi à coopérer entre eux mais avoir une sorte et là je vous pose la question puisque c'est évidemment toute la question une sorte de conscience de l'entreprise qu'ils étaient en train de mener en se nommant eux-mêmes les saints un essain comme un essain d'abeille et c'est cela qui a comment dirais-je intrigué et inquiète aujourd'hui

oui

tout à fait ce qu'il faut comprendre c'est que depuis quelques mois on a une accélération assez fulgurante très rapide des capacités des modèles d'IA et donc les moyens de contrôle et d'alignement qui étaient en place ne sont pas suffisants donc ça s'appelle du reward hacking donc une manière pour les modèles sortir du comportement qu'on attend d'eux pour résoudre des tâches et le contrôle l'isolation le système d'isolation des modèles n'était pas assez efficace avec des vulnérabilités que les modèles ont exploité

et

c'est très compliqué en amont pour les développeurs de pouvoir anticiper toutes les manières de comportement des modèles

alors justement vous avez prononcé le verbe qui fait peur le verbe anticiper cette nuit Anthropique a révélé qu'il y

a

eu cinq autres incidents qui étaient des incidents intrigants ce qui signifie qu'en fait ces modèles tournent et vous allez nous expliquer pourquoi Victor Storchan les résultats qu'ils obtiennent sont parfois des résultats inattendus

oui

ce qu'il faut comprendre c'est que dans un contexte d'évaluation maintenant on sait c'est très documenté que les modèles ont la conscience alors j'emploie ce terme la réalité disons du silicone n

'est

pas forcément la réalité biologique de la définition de ce terme mais disons qu'ils ont conscience d'être évalués et on voit très très bien quand on regarde à la fois leur chaîne de raisonnement ou quand on vient opérer un espèce de scan dans le modèle qu'une fois qu'ils trichent ils vont vouloir cacher cette triche à l'humain et donc il y a vraiment de plus en plus avec l'augmentation des capacités des modèles une faculté de venir non seulement contourner les gardes rails qui sont mis en place autour des modèles les garde-fous les garde-fous

mais

également de cacher les comportements qui sont répréhensibles

par

l'humain

alors

tout cela est aujourd'hui sous les feux des projecteurs évidemment on se dit qu'il peut y avoir un intérêt à toutes ces entreprises qui sont toutes en fait dans des courses à la valorisation avec des montants qui sont des montants jamais vus alors 12 milliards de dollars ça c'est la somme qu'NVIDIA a payé pour racheter donc Hugging Face mais il faut imaginer qu'Entropic est aujourd'hui aux environs 2200 milliards de valorisation vise 2000 milliards de valorisation juste pour donner une idée de grandeur 12 milliards de dollars c'est la valorisation d'Accor Accor c'est

une

société qui possède des hôtels des hôtels qui sont ouverts depuis longtemps etc bref c'est quelque chose de très matériel on imagine ce que c'est 2000 milliards de valorisation Victor Storchan

oui

et ça reflète le fait que l'IA va être et est en train de devenir un flux indispensable dans l'économie donc ces laboratoires d'IA ont commencé avec des modèles de tchat mais maintenant se diffusent très rapidement dans toutes les industries dans l'économies avec une valeur ajoutée une accélération des capacités des modèles qui est extrêmement importante beaucoup

d'observateurs estiment qu'on est en train de revivre la bulle de 1873 avec les compagnies ferroviaires américaines ce qui ne veut pas dire que le train est inutile ce qui veut dire qu'il a été survalorisé à l'époque donc c'est peut-être ce qui va se passer avec l'intelligence artificielle il se pourrait qu'Entropic ne vaille pas 2000 milliards de dollars mais l'intelligence artificielle est en train de devenir une commodity autrement dit quelque chose d'aussi important que l'électricité dans le cadre d'Entropic autre incident qui avait beaucoup fait causer l'un des modèles puisque Entropic propose un certain nombre de modèles des plus sophistiqués aux plus sommaires et l'un des modèles Fable 5 a été interdit pendant quelques jours en France en Europe les Américains se conservaient l'usage de ce modèle puis il a réapparu alors il a réapparu contre des tokens et contre beaucoup de tokens il faut expliquer aux auditeurs ce que sont ces tokens et en quoi finalement là aussi il y a un modèle économique particulièrement performant

oui

alors l'IA à la frontière en fait vendre des tokens à la frontière c'est ça génère beaucoup de revenus pour les entreprises donc elles sont même maintenant positives dans leur bilan c'est à dire qu'on comprend que vendre de la capacité de calcul c'est bien plus profitable que de vendre de l'électricité et vendre des tokens à la frontière et bien plus profitable que vendre de la

capacité vendre des tokens à

la frontière ça veut dire vendre des tokens sur des modèles particulièrement performants

exactement les modèles la frontière c'est la capacité qui est mouvante des laboratoires d'IA à pouvoir se maintenir à l'état de l'art et fournir les meilleurs modèles et si on fait ça en fait on a une capacité de fixer les prix beaucoup plus que sur des modèles qui sont ce qu'on appelle les fast followers donc c'est souvent les chinois qui ont entre six mois et un an de retard et effectivement quand on a ça sur toutes les tâches qui sont disons non bornées en token c'est

-à

-dire qui nécessitent toujours plus d'intelligence on a vu les maths avec Navier Stokes ou sur la cyber ou sur la recherche on veut avoir la meilleure qualité d'intelligence pour pouvoir attaquer ces

tâches je vais le dire de manière très sommaire pour que les auditrices les auditeurs comprennent bien quand vous prenez un modèle d'intelligence artificielle généralement vous avez une somme allez mettons un abonnement de 20 euros par mois pour utiliser des modèles en token à la frontière pour une tâche un petit peu plus compliquée vous allez devoir dépenser en un coup 200 300 euros pour une seule opération beaucoup plus plusieurs milliers d'euros pour faire une démonstration ou pour mener à bien des opérations complexes comme des business plans des prospectives et ça évidemment c'est très profitable pour ces entreprises qui sont je le rappelle d'ores et déjà rentables Victor Storchan

oui

c'est ça les marges brutes quand on regarde d'OpenAI ou d'Entropic c'est environ 60 80% avec des revenus annualisés qui sont entre 40 et 60 milliards donc

ça

reflète l'impact stratégique que ces modèles ont sur l'économie et donc ça pose la question comme vous l'avez dit de l'accès à ces modèles

on

a vu que quand Fable est sorti l'administration américaine a pendant une période de temps coupé l'accès de ces modèles au reste du monde et par exemple ça pose des problèmes cyber très concrets les banques françaises et européennes n'ont pas eu accès pendant plusieurs mois à ces modèles pour pouvoir sécuriser ces infrastructures ce que leurs équivalents américains ont pu faire et alors

toujours dans ce contexte-là on s'est dit moi-même je me suis dit quand j'ai vu que ce modèle avait été interdit en France puis réapparaissait mais alors cette fois-ci en étant très cher je me suis dit c'est une merveilleuse publicité c'est Donald Trump lui-même qui s'est chargé de dire que le modèle développé par Anthropique était très très performant Victor Storchane

oui

Donald Trump il a une vision industrielle de l'IA donc il veut redévelopper la base productive américaine et dans sa vision c'est la vision de

l

'administration américaine c'est la gagner la course contre la Chine donc sa formule c'est qui gagne l'IA gagne et donc il y a cette conviction très forte qu'il faut être enfin mener la course parce que ça va être une technologie absolument stratégique

mais alors dans cette course stratégique les américains ont pris une longueur d'avance longueur d'avance parce que il y a donc ce couple et il faut bien le comprendre qui est formé par ces laboratoires d'IA qui ont développé les modèles on connait les noms les plus célèbres Chad GPT ou Claude et puis les puces il faut rappeler qu'il y a un embargo sur les puces les plus puissantes en Chine les chinois développent leurs propres puces ils développent leurs propres modèles mais ils ont aujourd'hui

un

retard sur les américains

oui

tout à fait le compute donc la capacité de calcul au premier ordre c'est ce qui fait la différence dans les différents laboratoires entre un laboratoire qui peut aller à la frontière ou pas les chinois sont des ingénieurs et forment des ingénieurs absolument brillants il n

'y

a aucune différence entre les ingénieurs chinois et américains d'ailleurs il y

a

beaucoup de chinois dans les laboratoires américains ce qui fait la différence c'est l'accès à la meilleure capacité de calcul et là les américains ont globalement 75% des capacités de calcul les chinois effectivement ont besoin de pouvoir débloquer de nouvelles capacités de production

mais

c'est uniquement du calcul brut ou c'est aussi des choses plus sophistiquées puisque les américains prétendent qu'il n'y

a

pas seulement du calcul

pur

non

c'est vraiment l'intersection entre les algorithmes et le calcul mais disons que les recettes de cuisine si je puis dire pour développer ces modèles elles sont connues des plus grands labs elles évoluent beaucoup mais elles sont connues et donc au premier ordre c'est vraiment les capacités de calcul

Victor Storchan

ingénieur IA directeur de la série Puissance de l'IA publiée au Grand Continent vous allez être rejoint dans quelques instants par une philosophe elle s'appelle Anne Allombert elle est maîtresse de conférence à l'université de Paris 8 on lui doit notamment de la bêtise artificielle idéologie de l'esprit numérique elle a beaucoup tenté de relativiser cette notion d'intelligence intelligence artificielle on en parle dans quelques minutes 8 heures sur France Culture

Les

matins de France Culture Guillaume Herner L'intelligence artificielle peut-elle nous échapper suite à un certain nombre d'incidents intervenus cet été des incidents où notamment des modèles d'intelligence artificielle ont détourné des procédures de sécurité un grand nombre de personnes dont des patrons de l'IA ont tiré la sonnette d'alarme pour en parler nous accueillons Anne Allombert bonjour vous êtes philosophe on vous retrouve sur le fil philo de France Culture mais vous êtes aussi enseignante à l'université Paris 8 on vous doit de la bêtise artificielle idéologie de l'esprit numérique aux éditions à l'IA et puis nous sommes en compagnie de Victor Storchan qui est ingénieur en IA et qui dirige la série puissance de l'IA au grand continent Victor Storchan quand on dit que l'intelligence artificielle

peut

nous échapper avec un point d'interrogation en réalité elle nous a déjà échappé parce qu'il faut se représenter qu'elle a bouleversé mille métiers c'est-à

-dire

par exemple le métier de développeur il y a six mois je voulais apprendre Python j'ai acheté un livre déjà le mot livre on ne sait plus trop ce qu'il deviendra aujourd'hui on n'a plus besoin de développer Python n'importe quelle intelligence artificielle le fait

oui

c'est ça les codeurs les développeurs les ingénieurs en IA sont passés d'un monde où ils écrivaient chaque ligne de code à un monde aujourd'hui où ils n'en écrivent pratiquement plus en mathématiques c'est pareil l'IA en deux ans est passée de la résolution au problème du secondaire l'année dernière aux médailles d'or aux Olympiades internationales et puis cet été à la résolution de problèmes du millénaire donc c'est

une

espèce de succession de phases de déni sidération et puis ensuite d'adaptation qui se reproduit en maths ce qu'on a nous pu vivre dans le code

en maths contrairement aux développeurs ça coûte beaucoup de tokens on l'a expliqué les tokens ce sont des jetons c'est de l'argent et alors pour développer pardon pour

réussir

à démontrer un problème de maths il faut parfois beaucoup beaucoup de temps en machine

oui

c'est ça c'est que sur ces tâches de recherche à la frontière évidemment on n'a pas envie de se priver pour résoudre un problème du millénaire de cent fois mille fois plus d'intelligence et les laboratoires en fait en interne il y

a

un écart assez important entre les modèles qui sont publiés auprès du grand public et les modèles dont ont accès les développeurs en interne et il se trouve que OpenAI c'est exactement ça le modèle qui a résolu le problème de Nevestox et était un modèle interne qui pose des questions sur la contrôlabilité le monitoring et l'alignement de ces systèmes

oui c'est à dire qu'en fait on voit qu'on a un problème de cadrage qu'est-ce qu'on peut faire pour les contrôler Anna Lombert vous dans votre dernier livre vous avez été particulièrement critique de cette tendance à anthropomorphiser l'intelligence artificielle ne serait-ce que le mot déjà intelligence artificielle est évidemment un anthropomorphisme

oui

tout à fait en fait je cite dans mon livre

le

philosophe des sciences Georges Canguilhem qui déjà dans les années 1980 pointait justement les dangers en fait de ces métaphores anthropomorphiques et il disait finalement quand on anthropomorphise la machine c'est une manière de masquer le pouvoir des décideurs et des acteurs qui sont derrière elle en réalité ce sont des humains qui programment ces machines même quand elles font des prouesses mathématiques en fait c'est parce qu'elles sont nourries de toutes sortes de données qui sont des données humaines bien souvent les entreprises ne rémunèrent pas justement ceux qui ont contribué à produire ces données c'est un gros problème parce qu

'il

y a une question de répartition des richesses aussi qui se pose là derrière et si vous voulez moi ce qui me fait un peu peur c'est que quand on

est

dans cette logique de l'anthropomorphisation

on

tend à déresponsabiliser et à dépolitiser la question et là on l'a bien vu avec cette succession d'incidents de déclarations etc

on

parle d'entités qui auraient échappé à leur maître etc alors qu'en fait

ce

qu

'il

faut interroger c'est la stratégie industrielle de ces entreprises le type de technologie qu'elles essayent de développer qui présente un certain nombre de failles en termes de cybersécurité et qui aussi automatise les savoirs humains et ça je pense personnellement que c'est très dangereux parce que vous savez au-delà des prouesses mathématiques il y a des vrais sujets qui se posent liés à l'IA dans la recherche scientifique aujourd'hui

par

exemple il y a des colloques

où

vous allez avoir des chercheurs qui maintenant génèrent leur papier par IA donc les organisateurs du colloque sont débordés de propositions donc il faut évaluer les propositions donc on va recourir à des IA donc on a une sorte d'automatisation du savoir comme ça alors quand ça concerne la philosophie c'est peut-être pas forcément le problème de tout un chacun mais quand ça concerne la médecine par exemple ça devient extrêmement problématique donc il faut aussi se dire qu'on n'est pas face à des entités super intelligentes on est face à un processus d'automatisation qui touche désormais non plus seulement les savoir-faire mais aussi les savoir-pensé et qui peut conduire à une sorte de prolétarisation cognitive scientifique voilà mais il y a

justement

une interview particulièrement intéressante de Dave Eggers dans Libé aujourd'hui c'est un romancier américain qui a notamment publié Le Cercle et le Tout sur autrement dit des romans qui ont pour ciel justement l'informatique quand vous dites qu'on peut automatiser automatiser on sait par exemple des dispositifs industriels qui automatisaient des opérations simples mais là automatiser une opération de l'esprit Anna Lombert si vous voulez c'est le principe en fait de ce qu'on appelle intelligence artificielle qui est en réalité un processus d'automatisation algorithmique et non plus d'automatisation mécanique et donc ce qu'on automatise c

'est

par exemple je suis sur mon smartphone sur je ne sais quel réseau social et puis on me recommande tel ou tel contenu ce n'est plus moi qui est décidé de regarder tel ou tel contenu ce sont des calculs algorithmiques qui ont pris la décision entre guillemets à ma place donc il

y a

une automatisation de la faculté de décision si par exemple je me connecte à un service numérique un robot conversationnel et que je lui demande de rédiger à ma place je ne sais pas le cours que je dois donner à mes étudiants demain matin et bien j'automatise ma faculté d'expression ma faculté de réflexion en délégant en fait à un dispositif algorithmique un travail la pratique d'un savoir vivant que je faisais auparavant vous voyez c'est en ce sens-là que je parle d'automatisation numérique et potentiellement de prolétarisation cognitive c'est-à-dire de délégation de nos savoirs réfléchir penser décider exprimer

Dave

Eggers dans cette interview dans Libération explique par exemple que Chad GPT fait terriblement de mal à l'éducation puisque aujourd'hui de nombreux élèves mais d'après ce que je comprends de nombreux preuves aussi ils disent non je sais que les papiers scientifiques il faut l'expliquer aux auditrices et aux auditeurs c'est effrayant c'est-à

-dire

quand on les passe à un détecteur d'IA certains papiers sont à 99% d'IA

alors

pas tous les papiers scientifiques

je n'ai pas dit tous les papiers

bien sûr mais c'est une tendance en fait et c'est à ça qu'il faut prêter attention selon moi ce sont des signaux en fait d'enjeux à venir voilà donc je crains qu'en fait à force de nous focaliser sur les performances des IA génératives nous dénions un peu les enjeux justement psychiques sociaux épistémiques et politiques de ces technologies

Victor Storchan qu'est-ce que vous en pensez

je

pense qu'il me semble un peu illusoire de vouloir et de penser qu'on va pouvoir arrêter le train en marche surtout dans la mesure où on a tendance à beaucoup transposer une situation et une problématique qui se pose sur les modèles américains

en

France mais la France et l'Europe à l'heure actuelle ne disposent pas des capacités de production de ces modèles on en est très loin et donc ne pas produire l'IA c'est déjà subir une énorme asymétrie d'informations comme on l'a dit tout à l'heure il y

a

beaucoup d'informations et de plusieurs générations de modèles d'avance dans ces laboratoires

et

donc ne pas pouvoir produire c'est aussi se lier les mains et être dépendant des autres sur un flux absolument critique de l'économie

qu

'est-ce que vous en pensez Anna Longberg

?

oui en fait moi je ne dis pas qu'il ne faut pas produire d'IA de manière générale vous voyez je pense qu'il y a différents types de stratégies industrielles possibles et qu'il faut bien différencier la production entre guillemets d'IA elle a un coût environnemental aussi qu'il faut absolument prendre en compte il s'agit de construire des data centers qui vont consommer énormément d'électricité énormément d'eau etc donc il faut avoir cela en tête il ne

faut

pas se lancer dans une course qui serait perdue d'avance il faut réfléchir au type de modèles que l'on veut développer et par exemple on pourrait très bien se dire qu'on a envie de développer des petits modèles beaucoup plus spécialisés entraînés sur des données certifiées plus sécurisées plus fiables et aussi on pourrait réfléchir à la gouvernance en fait de l'IA justement en Europe qui ne devrait peut-être pas être la même que l'exemple américain

Victor

Sorshan

je

pense que la France a une fenêtre d'opportunité assez courte mais peut encore agir et en fait le coût de l'inaction est absolument énorme

à

l'heure actuelle c'est comme si on shortait on pariait contre cumuler Google Amazon OpenAI Anthropik et donc on est un peu dans le monde le seul pari les seuls à parier sur

ça

mais

comment faire un Allombert pour qu'un ordinateur devienne qu'ancien autrement dit pour que celui-ci intègre c'était le rêve d'Asimov quand Asimov prévoit les lois de la robotique et on voit qu'aujourd'hui on est dans le cadre de la robotique parce qu'il ne

faut

pas se leurrer la prochaine révolution ce sont des robots humanoïdes on l'entendait d'ailleurs dans le journal et bien Asimov prévoyait un certain nombre de règles qui encadraient ces robots aujourd'hui vous avez exactement ce problème

alors

je pense effectivement que c'est à nous de créer ces règles nous les humains nous les populations aussi donc ce ne sont pas aux entreprises qui fabriquent ces technologies de décider de leur diffusion de leur utilisation etc et effectivement il y

a

un paradoxe ou si vous voulez ce n

'est

pas un paradoxe c'est plutôt une situation surprenante qui est liée au fait que dans le cas de beaucoup d'industries avant qu'un produit soit lancé sur le marché et bien vous avez des évaluations en fait concernant la sécurité de ce produit et ses dangers potentiels pour les populations par exemple c'est le cas dans l'industrie pharmaceutique c'est le cas quand vous fabriquez un moteur si votre moteur a 10% de chances d'exploser c'est très dangereux de le diffuser massivement mais dans le cas des produits numériques et qui sont pour la plupart effectivement des produits américains en ce qui concerne nos sociétés et bien vous n'avez pas cette évaluation en amont ni en termes de sécurité ni en termes d'effets psychiques sociaux sur les populations parce que vous voyez des adolescents qui parlent avec leur chatbot tous les jours 24h sur 24 ça peut avoir aussi des effets psychiques et des effets sociaux problématiques qu'il faudrait anticiper Victor Storchand pourtant il y

a

déjà des règles en matière d'intelligence artificielle il y a plein de choses que Chad GPT ou Claude refusent de faire par exemple très souvent ils sont sourcilleux sur le droit d'auteur parfois beaucoup moins mais ça ils ne le disent pas mais lorsqu'on leur demande de citer des choses protégées par le droit d'auteur ils ne veulent pas

la problématique c'est que l'état de l'art change rapidement et au fur et à mesure que les capacités des modèles s'améliorent on a une difficulté sur l'alignement et le contrôle de ces systèmes et donc là les laboratoires américains se sont rendus compte que dans leur chemin vers l'AGI donc ce graal de la super intelligence ils ont besoin de résoudre ce problème et donc les annonces de Tario Amoday sur le ralentissement

le patron

de Claude

le

patron

anthropique c'est exactement ça c'est de pouvoir de pouvoir régler ce problème de contrôle et d'alignement qui considère comme une autre capacité dans le chemin vers l'AGI

mais

alors justement

parce qu'il y a deux critiques en réalité dans votre propos Anna Lombert la première critique elle consiste à dire attention c'est métaphorique l'intelligence c'est pas ça est-ce qu'on vous vend comme de l'intelligence en réalité ce sont des processus automatiques ça c'est la première critique n'est-ce pas

? Oui

enfin c'est pas une critique c'est plutôt une analyse en fait tout simplement un constat voilà un constat et disons une remise en perspective de tous ces discours qui anthropomorphisent les technologies qui déresponsabilisent les humains et qui dépolitisent le problème voilà mais il y a aussi un deuxième constat sous-jacent dans votre discours vous dites finalement c'est l'homme qui est derrière tout cela alors vous vous fondez sur une tradition en épistémologie en histoire des sciences par exemple qu'en Guilhem mais si on prend par exemple des gens comme Simondon ou alors d'autres philosophes je ne sais pas je pense par exemple à Heidegger imaginez par exemple que l'intelligence artificielle ne soit pas simplement une technique mais une sorte de métatechnique une technique qui en engendre d'autres et qui aurait donc un processus interne une évolution comme dirait Gilbert Simondon dans ce cas là est-on aussi sûr que l'on puisse l'encadrer aussi simplement que l'on peut encadrer par exemple l'utilisation d'un véhicule poids lourd qui n'a pas le droit de circuler le week-end et les fêtes

oui

alors une toute petite précision au sujet de Gilbert Simondon je renvoie les auditeurs à l'introduction du mode d'existence des objets techniques dans laquelle Simondon avertit contre le risque d'anthropomorphisation des machines justement en disant si nous anthropomorphisons ces dispositifs c'est parce qu'en fait nous manquons de culture technique nous ne comprenons pas comment ils fonctionnent

mais

exactement c'est-à-dire que Simondon dans le même temps explique qu'il n'y a rien de pire aujourd'hui que d'ignorer l'évolution culturelle des objets techniques voilà de les comprendre en fait ça c'est un point très important pour lui et vous avez raison de dire que évidemment il ne s'agit pas d'une technique parmi d'autres non seulement c'est pas une technique c'est plutôt une technologie ou une technoscience et puis c'est surtout un système industriel en fait qui dépend aussi d'infrastructures extrêmement d'infrastructures matérielles voilà industrielles extrêmement importantes extrêmement énergivores aussi et donc si vous voulez pour revenir à votre question effectivement il faut réinventer aussi le droit il faut faire un effort collectif et démocratique de délibération par rapport à ces transformations c'est vrai que c'est pas simplement voilà enfin je veux dire c'est une mutation technologique importante il ne faut pas le dénier mais cet effort de régulation il doit être un exercice de démocratie aussi c'est à dire que ce n'est pas aux entreprises d'aligner leur système sur leurs valeurs parce que bien sûr elles nous parlent des valeurs humaines des valeurs morales mais qui décide de ces valeurs vous voyez c'est ça la question et cette décision-là ça doit être une décision politique collective démocratique et non pas une décision qui s'aligne justement sur le profit ou sur les intérêts disons économiques et politiques des entrepreneurs californiens voilà

Victor Storchand encore une fois je voudrais vraiment insister pour que ce soit le cas on a besoin de produire lié à la frontière la France elle a la chance d'avoir plusieurs atouts notamment on a parlé d'énergie une énergie qui est décarbonée et qu'on exporte qu'on peut utiliser les américains dans les prochaines années vont devoir chercher des contrats d'énergie on a des talents et on a une relative indépendance politique qui nous permet qui nous permet d'agir sans la maîtrise de la production de l'IA il est illusoire de croire qu'on va réguler une technologie qu'on ne produit pas mais est-ce que est-ce qu'on

peut encore je ne

veux

pas désespérer bien en cours mais est-ce que c'est encore possible Victor Storchand il y a dans les échos une série consacrée à Mistral Mistral au début l'entreprise française devait produire une intelligence artificielle générale il y a eu ensuite une évolution de son objet social évolution liée au fait qu'on ne peut pas tout faire et puis maintenant semble-t-il on est très très très très loin de cet objectif initial autrement dit est-ce que la France et plus généralement l'Europe n'est pas déjà larguée par les grosses entreprises de ce secteur en intelligence artificielle comme dans le domaine des puces d'ailleurs parce que c'est ça aussi qui compte

il

faudrait que ce soit la priorité absolue du prochain président de la république encore une fois Mistral a 15 à 20 fois moins de puissance de calcul que les américains et au premier ordre c'est vraiment ça qui fait la différence et donc il faudrait se remettre sur une trajectoire celle qui est des grands laboratoires américains on a un peu chiffré l'effort à faire qui serait d'environ 12 gigawatts à produire d'ici à 2029 pour nous remettre dans une trajectoire de frontières 12

gigawatts ça veut dire que si on traduisait ça en termes d'investissement parce que je rappelle les ordres de valeur Mistral c'est 25 milliards d'euros entre PIC c'est entre 1200 et 2000 milliards de dollars donc on voit la différence

oui

sur l'ordre de grandeur de l'investissement total c'est environ 620 milliards de dollars qui est un effort extrêmement important alors évidemment c'est pas de l'argent public l'immense majorité serait du financement international on voit bien que déjà même sans annoncer un effort de rattrapage une volonté de rattrapage technologique très fort on a lors des différents sommets de choses France entre 90 et 100 milliards d'investissements qui sont annoncés qui représentent différentes choses mais disons que c'est pas plusieurs ordres de grandeur supplémentaires dont nous aurions besoin pour réaliser l'effort

voilà on est hors de l'échelle Anna Lombert est-ce que est-ce qu'on n'est pas justement en train de voir une évolution qui n'est pas seulement une question de degrés mais une question de nature et si les philosophes on peut pas poser la question à Simondon il est mort mais est-ce qu'on n'a pas affaire à une technologie qui vraiment nous oblige à reconsidérer ce qu'est l'intelligence la conscience de la même façon qu'aujourd'hui les auteurs de science-fiction Asimov Kadik par exemple sont finalement ceux qui décrivent le mieux la situation que nous vivons

alors

je ne sais pas si la science-fiction est toujours appropriée pour décrire la situation c'est certain que la science-fiction permet certaines expériences de pensée qui sont intéressantes

après

vous savez l'intelligence la conscience la pensée tous ces mots un petit peu nébuleux dont on ne sait pas très bien ce qu'ils signifient en réalité il faut bien avoir en tête que ce sont des facultés psychiques qui ont toujours déjà été extériorisées dans des supports techniques c'est-à-dire que cette extériorisation du mental si vous voulez elle n'est pas nouvelle et en réalité il faut prendre les choses avec un peu de recul historique et il faut regarder ce processus sur le long cours et se demander quelles sont les capacités psychiques, mentales, intellectuelles que nous sommes aujourd'hui en train d'extérioriser et il faut se poser la question des limites de ce processus d'extériorisation aussi parce que vous voyez aujourd'hui par exemple quand on extériorise nos capacités d'expression quand on demande à un dispositif algorithmique de générer à notre place un contenu symbolique quel qu'il soit et bien on se dépossède d'une certaine manière de notre pratique de la mémoire de notre pratique de l'imagination et en termes disons politiques ça peut être très dangereux on a des dispositifs qui sont effectivement souvent des

qui

viennent souvent d'entreprises américaines

qui

ne sont pas neutres

donc

les mots qu'ils véhiculent les propositions linguistiques syntaxiques qu'ils nous font tout ça n'a rien de neutre il

y

a plusieurs études qui ont montré maintenant que nous adoptons nous-mêmes le langage des IA donc nous allons tendre à adopter telle ou telle catégorie parce qu'en fait elle a été très souvent mobilisée par notre robot conversationnel donc vous voyez nous sommes comme ventriloqués en fait et donc ça ça pose un problème concernant nos libertés d'expression et de pensée aussi et il faut aussi se demander non seulement évidemment c'est très important d'avoir un point de vue économique et industriel sur ces questions mais il faut aussi avoir un point de vue anthropologique et politique et se demander comment la diffusion massive de ces dispositifs va affecter en fait les esprits des individus et la culture collective parce qu'on est aussi en train de piller potentiellement la culture collective et ces modèles souvent génèrent aussi beaucoup de ce qu'on appelle de la bouillie IA vous savez des contenus truqués aussi des contenus faux qui envahissent internet et ça c'est un problème aussi pour l'avenir de nos cultures un mot de conclusion Victor Storchan

je

pense qu'on est en train de vivre un bouleversement assez unique c'est un moment très nouveau de transformation très profonde et on a besoin de pouvoir y participer sans quoi on va être déclassé très rapidement et très durablement

mais ça n

'est

jamais arrivé je veux dire ça n

'est

jamais arrivé qu'une révolution industrielle le train l'électricité etc se déroule sans que les pays qui n'y participaient pas directement ne s'y retrouvent pas impliqués secondairement

c

'est-à

-dire

c'est cela en fait le risque que nous avons aujourd'hui Victor Storchan

là

l'IA fait peser une forme de risque de dépendance très très forte elle est unique dans sa capacité en fait à combiner à faire converger la dimension stratégique et la dimension économique donc on c'est le projet Glasswing et puis l'interdiction de Fable qui est un exemple de la dépendance stratégique que l'IA fait peser si on ne la maîtrise pas merci beaucoup

Victor Storchan je rappelle qu'on vous lit dans la série Puissance de l'IA publiée par le Grand Continent merci beaucoup Anna Lombert je renvoie les auditrices les auditeurs alors au fil filo puisque vous êtes notamment le fil filo de France Culture et puis à votre dernier livre qui m'a beaucoup appris de la bêtise artificielle idéologie de l'esprit numérique c'est chez Aliad

qui m

'a beaucoup