"Le Fondateur" : "La tech arrive aux frontières de la souveraineté", affirme l'écrivain Giuliano da Empoli

Chacun de ces livres est un vertige, une plongée dans les abysses du monde contemporain. Il nous a fait entrer dans la tête de Poutine, c'était le match du Kremlin. Dans les ingénieurs du chaos, il a disséqué la fabrique des populismes. Le voilà dans son nouveau roman « Au cœur de la tech », dans ce cas-là de plus effrayant. Bonjour Giuliano D'Ampoli, merci d'être avec nous sur France Inter et avec les auditeurs qui peuvent dialoguer avec vous au 01 45 24 7000 et sur l'application Radio France. Vous publiez donc « Le fondateur » qui paraît ce jeudi aux éditions Gallimard. C'est l'histoire d'un conseiller politique déchu qui entre au service d'un seigneur de la tech.

Son entreprise, c'est Panoptique, une gigantesque société d'analyse, de données, donc de surveillance dopée à l'intelligence artificielle. Vous savez le rôle d'oracle qu'on vous attribue, Giuliano D'Ampoli. De quoi voulez-vous nous prévenir cette fois-ci

?

Alors, je refuse le rôle d'oracle. Moi, je suis quelqu'un qui s'intéresse à ce qui se passe, qui tâtonne comme tout le monde, puisque je tâtonne de façon assez visible depuis quelque temps. Voilà, tous ceux qui tâtonnent, parfois, ont envie de partager ce parcours, mais je ne prévois rien. D'autant plus que je parle plutôt du passé. Et ce roman aussi, qui est quand même assez fortement inspiré à la réalité, puisque je n'ai pas beaucoup d'imagination, se réfère à une période du passé récent. Donc, il ne prévoit rien. Il raconte, peut-être d'une façon un peu différente, les événements qui se sont produits au cours des dernières années.

Et, notamment, ce qui me frappe le plus, qui est cette sorte de tournant guerrier de la tech. La gentille tech qui était là pour unir l'humanité, elle assume aujourd'hui un caractère de plus en plus apocalyptique. Alors, justement, votre personnage de fondateur, Hans Zimmer, avec sa société panoptique, s'inspire largement d'un homme qui existe, c'est Peter Thiel, pas le plus connu des seigneurs de la tech, mais l'un des plus puissants avec son entreprise, Palantir. Qu'est-ce qui vous a intéressé ou fasciné dans ce personnage ?

Disons que le vrai personnage Peter Thiel, comme Alexandre Zimmer, mon personnage de roman, est quelqu'un qui, il y a longtemps, il y a 20 ans, a compris que la technologie pouvait devenir une alternative à la politique.

Et

que, surtout pour quelqu'un comme lui, quelqu'un qui a des idées très radicales, quelqu'un qui pense que la démocratie est obsolète, que les forts doivent dominer les faibles, que l'État doit être géré comme une entreprise par un PDG au pouvoir absolu, et bien surtout pour quelqu'un comme ça, disons la politique c'est un peu dur, d'obtenir une majorité sur un programme comme ça, c'est un peu difficile, mais si on veut changer le monde et la société, la technologie est un instrument très puissant, et donc de façon unilatérale si on veut. Et donc il entreprend de faire ça, et c'est un long parcours d'une trentaine d'années que j'essaie de résumer un peu dans ce livre.

Et ce qui est fascinant de Juliano D'Ampoli, c'est évidemment la façon dont votre roman résonne avec tous les questionnements actuels sur l'intelligence artificielle. Avant de continuer à rentrer dans le détail de votre livre, si on prend le fil directeur de votre oeuvre, on l'a dit, le match du Kremlin avec Vladimir Poutine, les populistes et ceux qui les conseillent, comment est-ce que ce personnage, Zimmer, inspiré donc de Peter Thiel, s'inscrit dans cette lignée-là ? Quel est le fil directeur

? C

'est un peu l'aboutissement de tout ce parcours, je pense, parce que moi j'ai commencé, moi je n'ai pas, disons, un background technologique, je m'intéresse plutôt à la politique au départ, et donc je commence à m'intéresser à ces nouvelles formes de propagande sur les réseaux sociaux, les ingénieurs du chaos, à partir d'il y a une dizaine d'années.

Et progressivement, j'ai de plus en plus l'impression qu'au-delà des cas particuliers, c'est toute une infrastructure qui s'est mise en place, et c'est ce que j'appelle le vrai grand remplacement, qui est le remplacement au fond de la réalité telle qu'on la connaît par une nouvelle réalité qui est entièrement déterminée par les usages du numérique, et aujourd'hui par l'intelligence artificielle. Et donc là, on arrive un peu à la fin de ce parcours-ci, avec ce fondateur qui est justement, d'une certaine façon, bon, c'est les entrepreneurs de la Silicon Valley qui s'appellent entre eux les founders,

les

fondateurs, c'est un terme qu'ils utilisent.

Donc

ils se prennent

comme s'ils étaient les fondateurs des

Etats-Unis. Voilà, c'est le fondateur

d'une nouvelle réalité, de la réalité dans laquelle nous vivons tous aujourd

'hui. Alors,

il faut que vous nous expliquez ce que c'est que cette entreprise dont vous nous parlez, qui s'appelle Panoptique dans votre livre, mais qui s'appelle Palantir dans la réalité, parce que nous, le commun des mortels, on ne la connaît pas, on n'a pas affaire à cette boîte, ce n

'est

pas un réseau social, ce n

'est

pas Google. Voilà, donc Palantir, c'est une boîte qui travaille pour les Etats, pour la CIA, pour l'ICE aux Etats-Unis, qui est aussi à l'œuvre dans les guerres, depuis le début de la guerre en Ukraine, en Iran. Expliquez-nous ce que fait cette entreprise Palantir. C'est une entreprise qui naît au lendemain du 11 septembre, donc des attentats des Twin Towers, quand on se rend compte que l'État, enfin l'administration américaine, avait en réalité tous les éléments pour pouvoir prévoir les attaques, sauf qu'ils étaient dispersés.

On savait que quelque chose se préparait du côté d'Al-Qaïda, on savait qu'il y avait des gens bizarres qui s'inscrivaient à des cours d'aviation pour piloter des avions, on savait qu'il y avait certains mouvements boursiers un peu suspects, enfin il y avait plein d'éléments, mais on n'a pas su les croiser, et donc on n'a pas pu prévenir les attaques. Et donc l'idée là, c'est d'avoir ce qu'on appelle une conscience totale de l'information, c'est-à-dire un seul lieu dans lequel on va concentrer toutes les données et toutes les informations pour pouvoir les croiser et immédiatement individuer les anomalies, ce qui va être un peu bizarre, etc.

Sauf que l'État américain développe un projet pour faire ça, mais le Congrès l'arrête, parce que c'est orwellien. Parce

que c'est de la

surveillance généralisée.

C'est de la surveillance

généralisée. Et Panoptic, donc mon entreprise, qui en effet ressemble pas mal au vrai Palantir, va reprendre sous forme d'entreprise privée ce projet-là, avec beaucoup moins de contraintes que celles qu'aurait un État en faisant la même chose, et va devenir le fournisseur d'un logiciel qui gère les données d'une, aujourd'hui, d'une quinzaine de services de renseignement dans le monde, de l'armée américaine, mais aussi de l'armée israélienne, de l'OTAN, d'Interpol, de beaucoup de polices, et donc, d'une certaine façon, un fournisseur technologique,

mais

qui a un rapport, puisque les données, les algorithmes, la détection des anomalies, aujourd'hui, c'est le pouvoir, et c'est la nouvelle forme de pouvoir, et donc qui devient, en réalité, un siège de pouvoir impressionnant.

Et avec toutes les questions qui se posent en termes de dépendance aussi à ce service, puisque si l'on parle de cette entreprise Palantir, qui a donc très largement inspiré l'entreprise du livre, il faut savoir que la France avait commencé à utiliser cette entreprise Palantir, notamment après les attentats de 2015, pour le compte de la DGSI, le Renseignement Intérieur Français, jusqu'à ce que le Premier ministre annonce cet été son remplacement par une société française, il a dit, voilà, on n'utilisera plus les services de Palantir,

l

'entreprise de Peter Thiel, Est-ce que ça vous a interpellé ?

Est

-ce que vous vous êtes dit il a raison ? Et sur la question plus générale de la façon dont des pays européens se mettent dans la main de ces services de la tech américaine

? Oui,

mais c'est une question, justement, la tech arrive aux frontières de la souveraineté. Et ce qu'il y a d'intéressant dans mon personnage, Zimmer et son entreprise, c'est que, effectivement, ce sont des sujets qui ne traitent plus la tech pour les consommateurs, les usagers, des milliards d'usagers comme les autres boîtes, mais qui sont dans le régalien, en fait, c'est-à

-dire qui

vont se substituer aux États dans ce qu'ils ont de plus spécifique, qui est au vrai cœur de leur activité. Donc, ça va être le contrôle des frontières parce qu'il y a un rôle très important sur ça aussi, les aéroports, les frontières, les points d'accès, etc. ça va être le contrôle du territoire, ça va être le renseignement et ça va être le militaire aussi. Et donc, la question se pose effectivement de se dire est-ce que cette entreprise-là, elle est encore dans le domaine, disons, commercial de l'entreprise ou est-ce qu'elle devient un véritable centre de pouvoir autonome

?

Et donc,

par contre... C

'est une décision salutaire pour la France d'avoir décidé

de se passer de ces services. Oui, mais le dilemme est terrible parce que cette entreprise, elle offre un service efficace. Disons, les clients de cette entreprise sont en général satisfaits de cette sorte d'effet presque de bol de cristal,

non ? De boule de cristal

qui permet sur la base de données très différentes parce qu'en plus un service de renseignement, vous imaginez, il a des enregistrements, des vidéos, des rapports d'agents sur le terrain, des images satellites, des données financières de mouvements bancaires, etc. Tout ça est très dispersé. Le logiciel permet de tout regrouper. Donc, quand l'un des patrons de Palantir, Alex Carp, a déclaré au début du mois que la France allait se faire du mal en se passant de ses services que confier le job à une société française, voilà ce qu'il dit, je le cite, c'est littéralement l'équivalent technique d'un 5 à 7 sans préservatif. Alors, c'est quoi ? C'est du dépit ? C'est de la menace ?

C'est

quoi ? Vous voyez bien, justement, que ces personnages-là, et c'est un peu le cas du personnage de mon roman aussi, sont des personnages aujourd'hui totalement décomplexés, qui s'adressent aux chefs de gouvernement et aux chefs d'État comme des pères. Et ils ont d'une certaine façon raison de le faire parce

que leur

pouvoir est tout à fait comparable, sinon supérieur. Et ce chantage-là, ils contestent à dire « Très bien, vous pouvez vous priver de nos services, mais vous aurez des attentats, vous aurez des conséquences qui vont être... Vous allez en payer le prix. » Et puisqu'on est dans des sujets très sensibles, évidemment, le dilemme est terrible.

Juste avant de parler de l'actualité concernant tous les débats autour de l'intelligence artificielle, le monde que vous dessinez à travers votre roman et dans vos analyses, c'est un monde où la compétition n'est plus entre États, mais entre les États des puissances, parfois des anciennes puissances ou des puissances moyennes et ces géants de la tech. Est-ce qu'aujourd'hui, Peter Thiel, Elon Musk, Sam Altman, ils sont plus puissants qu'Emmanuel Macron, Donald Trump, Vladimir Poutine ?

Écoutez,

dans mon livre, le personnage donc Zimmer appelle les politiques élus des mouches à fruits parce que leur attente de vie est très limitée alors que les fondateurs des boîtes de la tech, déjà, comme avantage, ils ont le fait d'être là depuis très longtemps et d'être dans un horizon de temps très long parce qu'ils ont des mécanismes qui font qu'ils garderont le contrôle de leur entreprise à vie et en plus, ils prévoient de ne pas mourir parce qu'ils pensent qu'ils vont pouvoir devenir plus ou moins immortels donc ils ont le temps de leur côté et en plus de ça ils ont effectivement des machines aujourd'hui qui sont on voit très bien que le grand remplacement encore une fois c'est une réalité numérique qui prend la place de notre réalité et c'est au fond la machine qui prend la place de

l'humain.

Vous le faites dire à votre personnage ce qu'il leur reste aux politiques c'est le théâtre il s'écharpe au sujet du grand remplacement alors que le seul véritable remplacement est celui-ci notre réalité qui prend la place de la leur. Mon personnage Zimmer encore une fois qui est quelqu'un qui en réalité est un passionné de politique c'est pas un codeur comme le vrai Thiel c'est pas un codeur c'est pas un jeune homme en

soie de la capuche

c

'est un homme qui lit à la différence des autres

voilà c'est un homme qui lit c'est un homme qui a étudié la philosophie le droit et qui donc en réalité s'occupe de pouvoir et lui l'exemple qu'il fait pour décrire la condition des politiques aujourd'hui c'est Salazar Salazar était le dictateur du Portugal pendant 30 ans et à la fin des années 60 il tombe dans le commun et donc il est remplacé par le président du Portugal puisqu'il est dans le commun pendant 40 jours et un autre premier ministre est nommé à sa place sauf qu'à un moment Salazar se réveille et personne n'a le courage de lui dire qu'il n'est plus le chef

et

donc toute une mise en scène se met en place où Salazar chez lui il reste au palais du gouvernement et toutes les semaines il tient un conseil des ministres avec ses anciens ministres qui ne le sont plus mais qui bon lui il est au lit et il pense encore et on imprime même pour lui tous les jours une copie spéciale du principal quotidien portugais

où

il est encore au pouvoir et pour Zimmer disons c'est la condition aujourd'hui de tous les politiques ou de presque tous les politiques

qui sont

comme Salazar et de l'affaiblissement du politique quand vous voyez Juliano Dampoli ce qui s'est passé cet été c'est-à-dire des agents d'intelligence artificielle qui échappent à ceux qui les commandent quand vous voyez des chercheurs qui démissionnent avec fracas notamment un chercheur d'entropique en disant que l'intelligence artificielle pourrait détruire l'humanité est-ce que c'est excessif ou est-ce qu'au contraire c'est un message qui vous paraît tomber sous le sens

moi pour l'instant je suis plus inquiet des mauvais usages de la part d'acteurs humains de l'intelligence artificielle que des machines qui nous exterminent même si des gens très compétents qui sont sur la frontière de la recherche nous disent que c'est un scénario de plus en plus possible et crédible à terme mais pour l'instant le processus qui m'intéresse moi c'est cette concentration de pouvoir extraordinaire parce que la technologie en réalité elle concentre du pouvoir c'est pas c'est pas un phénomène qui naît aujourd'hui Palmerston le ministre des affaires étrangères en Grande-Bretagne à la moitié du 19ème siècle quand on lui annonce la mise en place du télégramme il dit il dit c'est la fin de la diplomatie c'est-à-dire les acteurs qui sont sur le terrain en réalité ils vont plus rien pouvoir décider parce qu'on va avoir les informations au centre et on va leur donner des instructions directement et la technologie elle fait systématiquement ça elle concentre le pouvoir et avec l'IA on arrive au coeur et à la fin de ce processus c'est-à-dire que toutes les informations du monde en réalité elles se concentrent dans très très peu de lieux ce qui est vertigineux c'est que en fait vous dites que votre personnage le fondateur il travaille comme c'est semblable dans la vraie vie à réduire l'emprise humaine sur la marge du monde ça veut dire que leur hubris à ces gens-là ce serait de précipiter la fin de la civilisation ça paraît un peu excessif mais là il y a je pense quelque chose et c'est pour ça que le roman on en a peu parlé on parle que de la réalité mais j'ai voulu utiliser l'instrument du roman pour raconter cette histoire parce que le roman permet de montrer d'entrer dans la tête des gens de montrer un personnage comme celui-ci du fondateur qui a une force extraordinaire on en a parlé jusqu'ici mais accompagné d'énormes faiblesses c'est quelqu'un qui peut dominer le monde mais qui ne trouve pas les mots pour s'adresser à la personne qu'il aime et donc l'humain souvent pour ces personnages-là le simple contact humain est quelque chose de problématique et leur tendance naturelle est celle de vouloir tout coder tout numériser tout rationaliser tout mettre dans la machine et de réduire le plus possible en réalité l'incertitude la faiblesse la corruption qui est liée à l'humain

et

c'est vrai qu'on voit bien cette misanthropie quasiment systémique des patrons de la tech que vous décrivez il

y

a Mohamed sur l'application Radio France qui nous dit quelles sont les perspectives positives que vous voyez parce que c'est vrai que là on dessine un monde assez noir c'est quoi les perspectives positives en termes de développement de l'intelligence artificielle est

-ce

que c'est par exemple Giuliano Dampoli l'idée de se dire qu'on va réussir à réguler ce secteur

alors

c'est mal parti

mais

je

pense qu'on peut être d'accord sur le fait que c'est mal parti mais il ne faut pas céder au déterminisme justement de la technologie qui consiste à dire on n'y comprend rien il faut surtout pas s'en occuper parce que de toute façon on va tout casser on va juste ralentir le progrès le progrès inévitable l'histoire de la technologie c'est pas ça l'histoire de la technologie c'est que vous avez une même technologie que vous pouvez user de façon très différente vous prenez l'imprimerie au début du 16ème siècle et bien c'est la même technologie qui a des effets très différents dans la Chine impériale dans l'Europe de la réforme dans le monde musulman des califas c'est la même technologie et aujourd'hui c'est encore possible c'est à dire ces technologies là le numérique l'intelligence artificielle évidemment qu'elles ont un potentiel très positif aussi

il

nous reste peu de temps Juliano d'Ampoli on voulait vous entendre sur quelques sujets d'actualité d'abord est-ce que vous avez lu le livre de Télison Aurelien c'était ça ou mourir ?

non je ne

l

'ai pas lu mais son cas ce cas là me paraît-il

on rappelle un roman salué par la critique qui était jusqu'à peu en liste pour le prix Goncourt et qui se révèle sans doute écrit par l'intelligence artificielle

c'est une implication particulière de ce dont nous sommes en train de parler alors moi je parle de l'inhumain de la machine qui remplace l'humain dans la guerre dans le renseignement dans toutes sortes d'activités régaliennes mais là c'est la même chose c'est à dire c'est l'inhumain et la machine qui remplace de façon de plus en plus performante

c'est vertigineux pour l'écrivain que vous êtes

aussi mais tout à fait c'est quelque chose qui est au coeur et qui nous frappe donc de façon particulière parce que le mot est un peu le centre de notre culture mais ce n'est pas différent de ce qu'on voit à l'oeuvre dans tous les autres secteurs et y compris les secteurs qui sont au coeur de la politique et de la souveraineté

Pour

finir Julien Dampoli nous sommes en année présidentielle en France les deux favoris des sondages pour 2027 s'appellent Marine Le Pen et Jean-Luc Mélenchon qui sont donnés tous les deux le plus souvent au second tour de la présidentielle vous diriez qu'ils ont suivi à la lettre les préconisations des ingénieurs du chaos que vous décriviez vous-même qui décriviez comment les populistes réussissaient à capter la colère des électeurs A la lettre je ne sais pas mais ce qui est certain c'est qu'ils ont tous les deux ils ont tendance à élever la température à polariser les opinions c'est le patron de Cambridge Analytica qui disait dans l'ancien monde si vous voulez vendre du coca dans un cinéma vous faites des publicités vous embauchez une star qui va endosser votre coca etc dans le nouveau monde vous voulez vendre du coca vous élevez la température

dans le

cinéma tout le monde a soif et donc ils vont acheter votre produit et eux ils font ça c'est-à-dire ils élèvent la température sur toutes les questions avoir un débat plus ou moins raisonnable sur la plupart des questions devient de plus en plus difficile et forcément ce sont plutôt les extrêmes et les positions les plus radicales qui arrivent à prendre le dessus mais

c'est irréversible ou pas Juliano Dampoli puisqu'on vient de parler pendant 20 minutes de la puissance des leaders de la tech de la puissance des algorithmes cette stratégie consistant à élever la température est-ce qu'il peut y avoir des discours pour contrer cette stratégie-là

il

faudrait alors moi au départ je pensais que c'était une question d'habilité des politiques qui devraient prendre un certain nombre de techniques et qui pourraient contrer tout ça aujourd'hui je pense que c'est un peu plus structurel parce que justement c'est l'infrastructure elle-même de la tech qui pousse dans cette direction et donc ce qu'il faudrait c'est une gouvernance ce qu'il faudrait c'est une responsabilité il faudrait que les acteurs de la tech qui contrôlent tous ces instruments-là soient responsables des contenus qu'ils véhiculent soient responsables des actions des IA qu'ils produisent ou des agents d'IA mais ce n'est pas impossible vous voyez ce week-end on a eu l'information que des agents d'IA produits par OpenAI donc ChatGPT ont attaqué l'administration du commerce aux Etats-Unis l'organe de contrôle de la bourse etc alors évidemment la position d'OpenAI c'est de dire

c

'est comme ça mais puisqu'il doit rentrer en bourse là quand vous entrez en bourse vous devez faire la liste de tous les risques que votre produit présente et des responsabilités éventuelles que vous aurez de ce que vous aurez à payer et tout ça et donc là on entre dans un débat qui est de dire mais

quand

un de ces agents d'IA provoque le chaos quelque part ou quand une décision de guerre est prise par une IA ou par une machine il faut toujours qu'il y ait un humain qui est responsable à la fin de la chaîne et ça c'est le principe

sur lequel

il faudrait pouvoir travailler

on

attend la fin de l'impunité des fondateurs en quelque sorte je

crois

que ce n

'est

pas impossible Julienno d'Ampoli je rappelle donc le titre de votre livre qui sort jeudi c'est le fondateur aux éditions Gallimard merci d'être venu nous voir ce

matin merci à vous