OpenAI versus Anthropic : l’usage militaire de l’IA peut-il être éthique ?

France Culture. France Culture, question du soir. Quentin l'a fait. Le 27 février dernier, Donald Trump a ordonné au Pentagone de cesser toute utilisation de l'intelligence artificielle, Claude, développée par l'entreprise Anthropik, qui collaborait jusque-là avec l'armée américaine pour améliorer ses performances militaires. Cette décision intervient après que le patron d'Anthropik, Dario Amodei, a refusé de céder à l'administration américaine qui réclamait d'utiliser sa solution IA sans restrictions techniques ni éthiques.

Alors que des modèles d'IA sont déjà utilisés sur des terrains de guerre comme l'Ukraine ou le Proche-Orient, peut-on déléguer les activités de défense à une entreprise privée ? Pourquoi les patrons de la tech se convertissent-ils au secteur de la défense ? Et enfin, l'usage militaire de l'IA peut-il être éthique alors même que la mort serait dès lors donnée par une machine ? Pour en discuter, pour en débattre même deux invités ce soir, Nastasia Adjadji. Bonsoir. Bonsoir. Vous êtes journaliste et essayiste, autrice de l'ouvrage intitulé Apocalypse Nerds, Comment les techno-fascistes ont pris le pouvoir ?

Un livre que vous avez co-écrit avec Olivier Tesquet et qui est apparu en septembre 2025 aux éditions Divergence. A vos côtés, Laure de Roussy-Roche-Gonde. Bonsoir. Bonsoir. Vous êtes docteur en sciences politiques, directrice du Centre Géopolitique des Technologies à l'Institut français des relations internationales. Vous avez signé la guerre à l'ère de l'intelligence artificielle. Quand les machines prennent les armes, c'est au PUF auprès des universitaires de France. Merci à toutes les deux d'être présents ce soir dans Question du Soir.

J'ai toujours été convaincu que pour nous défendre contre nos adversaires autocratiques, nous devions le faire d'une manière qui défende et préserve nos valeurs démocratiques. C'est pourquoi nous avons indiqué au département de la guerre que nous étions d'accord avec la quasi-totalité des cas d'utilisation envisagés, à deux exceptions près. La première concerne la surveillance de masse intérieure. Nous craignons que l'intelligence artificielle ne permette des choses qui étaient auparavant impossibles. Cette technologie évolue si rapidement qu'elle est en décalage avec le cadre légal. La seconde exception concerne les armes entièrement autonomes.

Il s'agit de concevoir des armes capables de tirer sans intervention humaine. Si l'on dispose d'une vaste armée de drones ou de robots opérant sans supervision humaine, sans soldat, pour décider qui cibler, qui abattre, cela soulève des inquiétudes. Et nous devons discuter de la manière dont cela sera supervisé. Or, cette discussion n'a pas encore eu lieu. Donc nous sommes fermement opposés à l'autorisation dans ces deux cas d'utilisation.

La voix du PDG d'Entropique, Dario Amodei. On va revenir en détail sur les propos qu'il vient d'expliciter dans ce son. Néanmoins, je voudrais vous entendre toutes les deux sur l'objet de recherche, sur cet objet au propos duquel vous passez tant de temps. L'intelligence artificielle et la défense. L'intelligence artificielle et la guerre. Lors de Roussi-Roche-Gonde, on a le sentiment, vu de l'extérieur, qu'on est dans une fuite en avant sur ce sujet, que peu de choses sont sous contrôle. Êtes-vous effrayée vous-même par ce que vous observez, par votre propre objet de recherche, au fond ?

Oui, je suis assez effrayée et je suis d'autant plus effrayée par le rythme auquel les choses vont et l'accélération qu'on observe en particulier depuis le début de la guerre en Ukraine. C'est vrai que moi j'ai commencé à travailler sur ces questions en 2018 et à l'époque c'était presque un peu de la science-fiction. Et quand je menais des entretiens de recherche, etc., on me disait mais ça n'arrivera pas, ça ne pourra pas trouver d'application militaire, etc. Et je vois les choses vraiment se concrétiser, s'accélérer.

Et donc oui, il y a un peu un syndrome cassandre là ces dernières semaines et qui n'est pas forcément apaisé par les développements qu'on voit chaque jour et les annonces qui se suivent.

Anastasia Adjadji, vous aussi sur le syndrome cassandre, les choses s'assombrissent et tout ce qui est prédit se réalise peu à peu ? Oui, Laure a prononcé le mot d'accélération, je pense que c'est vraiment le terme qui définit un petit peu le moment politique que l'on vit, à savoir que des signaux qui étaient déjà présents, des ferments qu'on a pu étudier, relever, s'accélèrent. Et en fait, la fonction politique de cette accélération, c'est aussi de provoquer de la sidération, de nous pétrifier, à ne plus savoir comment réagir, que penser, comment analyser.

Et je pense que voilà, dans ce moment, il faut au contraire essayer de tâcher de prendre du recul et de peut-être observer les choses aussi sur un temps plus long. Et je pense qu'on va en reparler au sujet du sujet de notre thème de ce soir. C'est-à-dire que ce sont des choses qui, finalement, quand on observe le secteur technologique au sens large, il y avait des ferments de ce qui se produit aujourd'hui qui étaient déjà présents. Et en fait, c'est vraiment une accélération et non pas un changement radical. Alors, commençons par l'actualité. Le PDG d'Entropique, Dario Amodei, a refusé, justement, d'obtempérer sur certains points bien précis que lui demandait l'administration américaine.

Quels étaient ces points, justement, ces points de désaccord lors de Roussi-Roche-Gonde ?

Alors, les points de désaccord, on l'a entendu, c'était donc la surveillance de masse et les armes entièrement autonomes. Alors, d'abord, c'est assez intéressant de voir qu'il parle d'armes entièrement autonomes, alors que, normalement, l'autonomie, il n'y a pas besoin d'être entièrement autonome pour poser déjà un problème. Pour rappel, l'autonomie, c'est l'idée de se régir par ses propres règles. Alors, même si dans les systèmes d'armes, on ne parle pas forcément de cet horizon-là à ce point, disons, il n'empêche que l'idée est bien de pouvoir identifier une cible et mener une frappe sans intervention humaine.

Et, en réalité, pour ce qui est de la surveillance de masse, ce qu'on a observé dans les conflits contemporains, en particulier à Gaza, c'est que ça va ensemble. C'est-à-dire que c'est parce qu'on a de la surveillance de masse qu'on peut, finalement, avoir des recommandations de frappe par IA qui peuvent, éventuellement, être opérées avec des systèmes d'armes autonomes. Donc, ce n'est pas un hasard si ces deux lignes rouges ont été placées côte à côte et, finalement, c'est là aussi plutôt inquiétant de voir qu'il y a eu une forme de différent très fort avec le Pentagone sur des risques qui relèvent presque du bon sens, finalement, du point de vue, en tous les cas, d'une démocratie libérale.

Comment analysez-vous, Anastasia Adjadji, cette décision, cette prise de position, même, du PDG d'Anthropic ? Est-ce que c'est un symbole fort, une forme de courage qu'il a exprimée là, où, au fond, il n'avait qu'à pas mettre le doigt dans l'engrenage ? Moi, je pense qu'il faut relativiser, un petit peu, nuancer cette posture d'objecteur de conscience que c'est auto-attribué, Dario Amodei, en rappelant quand même qu'avant ce moment, février 2026, son entreprise Anthropique collaborait activement, contractée avec le Pentagone, donc le département de la guerre, sous différentes formes. Donc, Claude était déjà utilisé dans des conflits, dans des guerres impérialistes américaines.

Claude a été utilisé, d'ailleurs, en janvier 2026. Claude, c'est le nom de l'intelligence artificielle. Du programme du LLM, développé par Anthropique, qui est l'équivalent, en fait, de ChatGPT développé par OpenAI, c'est le concurrent de ChatGPT, Claude. Et donc, ce programme a été utilisé dans diverses opérations, notamment des opérations dites spéciales du Pentagone. Donc, en fait, je dirais que cette réaction et cette cristallisation qu'il y a eu en février 2025, elle est plutôt symptomatique aussi, finalement, d'un schisme idéologique qui est propre à la Silicon Valley et qui oppose Sam Altman, PDG d'OpenAI, à Amodei.

Rappelons quand même que cette entreprise, Anthropique, a été fondée en 2021 par des, entre guillemets, dissidents d'OpenAI. Dario Amodei a été un haut cadre d'OpenAI, entreprise qui elle-même avait été fondée en 2015 par Sam Altman et une poignée d'autres dirigeants. Et en fait, cette divergence qui a conduit, finalement, à la création d'Anthropique, elle permet aussi d'illustrer la posture d'Amodéi. À Amodei, il se pense comme un, dans la Silicon Valley, on dit un doomer, quelqu'un qui a, finalement, qui met en avant la nécessité qu'il y ait un cadre éthique fort dans le développement de l'intelligence artificielle.

C'est quelqu'un qui va même jusqu'à pousser le discours en allant jusqu'à dire que, sans ce cadre éthique, des développements inconsidérés pourraient mener à ce que, finalement, la bête échappe à son créateur et nous mener à une intelligence artificielle générale. Donc, ça, c'est vraiment une espèce de spéculation très, très populaire dans la Silicon Valley. Donc, ça, c'est la posture Amodei. Altman, au contraire, s'il a pu avoir un petit peu cette posture-là au début, lui, s'est aussi radicalisé, mais dans le sens de l'accélération, précisément.

Et donc, Altman professe que, non, il faut lever tous les freins au développement de l'intelligence artificielle parce que cette technologie a des capacités quasi anthropologiques de transformer l'humanité, de nous faire évoluer vers le prochain stade de développement économique, un régime d'abondance, etc., etc. Donc, en fait, je pense qu'aussi ce qu'on a vu en février 2026, avec ce Sam Altman qui dit « Ok, pas de problème, utilisez Tchad GPT partout, n'importe quand, même dans les guerres et dans tous les terrains d'opérations armées » versus Amodei qui dit « Non, moi, je veux des gardes fous », c'est aussi une illustration de ce schisme.

Et un dernier mot pour finir l'analyse, c'est que dans un cas comme dans l'autre, on ne remet aucunement en question la légitimité de l'IA en elle-même. Et on voit bien que l'on est quand même collectivement prisonnier d'un cycle où on veut nous forcer à développer des usages tous azimuts, une technologie dont on ne discute pas démocratiquement de la légitimité. Et que l'on soit Amodei ou Altman, il y a quand même de l'IA, dans une forme soft ou dans une forme radicale. Et on précise par ailleurs que dans ce jeu extrêmement endogame, on l'a compris, c'est Sam Altman qui a récupéré le contrat qui a été retiré donc à Amodei.

Sur ce point, lors de Roussy-Rochegonde, sur la portée symbolique de ce combat qui a été initié par Anthropique avec l'administration américaine, est-ce que vous êtes aussi sur la ligne selon laquelle c'est important de le nuancer ? Dans la grande presse, si je puis dire, on a beaucoup, beaucoup lu le fait qu'Anthropique perdait énormément d'argent en s'opposant à l'administration américaine.

Oui, et il en gagne beaucoup aussi grâce à cette espèce d'énorme coup de pub auprès de tous les consommateurs progressistes que Trump qualifierait de bien-pensants qui se disent « Oh là là, mais voilà un modèle d'intelligence artificielle éthique, voilà un dirigeant qui défend un certain nombre de principes ». Donc bon, je pense que le manque à gagner n'est pas forcément si terrible que ça. Pour rebondir sur ce schisme, je trouve très intéressant ce que vous venez de dire.

Et cependant, ce qui est intéressant, c'est de voir que même un Sam Altman, d'abord dans la manière dont il a récupéré le contrat, il a maintenu les lignes rouges qui étaient soi-disant au cœur de cette brouille avec le département de la guerre. Donc bon, on ne sait pas très bien quels sont les tenants et les aboutissants de cette espèce de théâtre qui s'est joué là-dessus. Par ailleurs, Sam Altman récemment a appelé à la création d'une AIEA de l'IA, donc une agence pour l'énergie atomique, une agence internationale. Et on voit que là aussi, c'est peut-être une posture. Je pense qu'il faut évidemment prendre tout ça avec des pincettes.

Mais malgré tout, la vision qui consiste à dire qu'on a besoin de régulation et qu'on a besoin de garde-fous est un petit peu en train de gagner du terrain. Et ça gagne du terrain parmi ces grands entrepreneurs de la tech avec parfois un peu plus de frilosité. Évidemment, ça a déjà beaucoup infusé auprès des chercheurs de l'IA qui, pour leur part, appellent depuis maintenant plusieurs années à une régulation robuste, des garde-fous, voire des moratoires et différents types de garanties sur le développement de l'IA.

Bon, mais je voudrais qu'on mette un peu de concret justement sur cet usage de l'intelligence artificielle par les militaires. Le Wall Street Journal a révélé que Claude avait été utilisé lors de l'opération américaine ayant conduit à l'enlèvement de Nicolas Maduo à Caracas en janvier 2026. Anastasia Adjadji, concrètement, comment une armée, l'armée américaine en l'occurrence, se sert d'une intelligence artificielle pour mener ces opérations ? Quelle en est l'utilité ?

Il y a divers usages, et je pense que l'on pourra compléter aussi, mais il y a toute une partie pour rassembler des datas et les traiter à une échelle de traitement qui autorise une rapidité dans l'extraction du sens à partir de ces données que l'on récolte sur le terrain que la simple analyse humaine ne permet pas ou alors permettrait, mais sur un temps beaucoup plus long. Donc il y a une forme de productivité dans le traitement de la donnée du terrain extrême. Après, il y a toute une fonction, et on en a parlé un petit peu aussi, de surveillance. On va cibler des individus, on va réaliser des inférences algorithmiques à partir de la probabilité qu'ils soient là, entourés de gens ou pas.

D'ailleurs, à ce titre, il faut savoir que tous les programmes d'IA qui effectuent cette fonction de ciblage, une fonction qui a été notamment beaucoup utilisée depuis le 7 octobre 2023, à Gaza, pour cibler des représentants du Hamas, notamment par un programme d'IA utilisé par Israël qui s'appelle Lavender. Et je renvoie aux très bonnes enquêtes du Média israélien, plus 972, sur toutes ces IA qui ont été mobilisées en Palestine, historiquement. Eh bien, tous ces programmes d'IA de surveillance contiennent un risque d'erreur. Et ce risque d'erreur fait l'objet d'un consensus.

C'est-à-dire qu'aujourd'hui, lorsqu'on est, par exemple, Israël qui utilise Lavender à Gaza, on sait qu'il y a un risque d'erreur de 10%. Ce qui veut dire qu'une cible sur 10 est une erreur de l'IA. Ce risque d'erreur fait l'objet de négociations. Mais vous voyez qu'il y a quand même une forme de... De négociations avec qui ? Entre la personne qui fournit le programme et la personne qui l'exécute. Donc j'imagine que peut-être que des gouvernements pourraient dire « Ah non, nous, 10% c'est trop ». Donc en fait, il y a cette forme de négociation, j'imagine, qui existe. Mais ce qu'on voit bien, c'est qu'il y a une forme de prise de distance quand même avec la notion même de victime collatérale.

Et ça, là encore, il y a vraiment des statistiques disponibles, notamment sur le laboratoire Palestine en particulier. Et puis, par la suite, il y a toutes ces fonctions un peu plus récentes, je dirais, d'autonomisation, de frappe, que ce soit avec des drones et tous ces systèmes qui sont en train d'être développés par les armées, en fait, d'armement autonome. Lors de Roussy-Rouche-Gond, je reviens aussi sur cette dimension tangible, effectivement, de l'usage de l'intelligence artificielle dans une opération comme celle qui s'est passée au Venezuela. À quoi cette intelligence artificielle a-t-elle pu servir ?

En fait, je pense que pour bien comprendre la manière dont ça fonctionne, c'est intéressant de regarder les étapes du ciblage. Et pour mener une frappe, il y a un certain nombre d'étapes qui peuvent prendre, effectivement, des jours, des semaines, des mois, parfois, et qui consistent d'abord à identifier une cible et à la suivre, à s'assurer qu'on ne la perd pas parce qu'elle peut être mobile. Ensuite, à diagnostiquer son environnement, notamment pour s'assurer des éventuels dommages et victimes collatéraux. Il faut, après ça, sélectionner un type d'arme et un type de vecteur. Et enfin, il faut avoir une autorisation légale pour la frappe, puis mener cette frappe.

Et donc, ce que permet l'intelligence artificielle, c'est d'accélérer toutes ces étapes, qu'on appelle la kill chain, effectivement, en retirant très vite...

La kill chain, donc, en gros, le chemin qui permet d'aller tuer.

Ah oui, c'est complètement décomplexé dans la manière dont c'est nommé en anglais. Et donc, en tirant vraiment des recommandations, ce qu'il faut dire aussi, c'est que les systèmes d'armes contemporains sont à la fois des capteurs et des effecteurs. Et ça, c'est assez nouveau. Pour le dire concrètement, ça veut dire que, historiquement, par exemple, un drone, c'était soit un drone de renseignement, d'observation, de surveillance, soit un drone armé. Et maintenant, on peut avoir des systèmes qui font les deux, donc qui captent de la donnée, qui la font remonter et qui, ensuite, peuvent servir des facteurs, donc agir sur le terrain. Et ça, évidemment, ça accélère considérablement.

Parce que quand on avait des drones qui survolaient l'Afghanistan, des drones de la CIA qui survolaient l'Afghanistan, qu'ensuite, il fallait que les données remontent, qu'elles soient traitées par des analystes humains, ça prenait vraiment des années. D'ailleurs, la CIA, en 2009, avait estimé que pour traiter toutes les images de drones qui avaient été captées en Afghanistan, cette année-là, il aurait fallu 24 années. Donc, on voit bien que c'était juste un déluge de données qui n'était pas activable sur le terrain.

Et ce qu'ont permis, notamment, les retours d'expérience en Ukraine et de manière différente, et je dirais dans une moindre mesure quand même, de Gaza, c'est cette utilisation, quasiment en temps réel, de la donnée pour ajuster les décisions de ciblage et les stratégies d'offensive.

L'autre question, Anastasia Adjaji, l'autre question est économique également. On sait à quel point le développement de ces intelligences artificielles nécessite des sommes absolument faramineuses. On sait également que ces entreprises, dans leur immense majorité, ne sont pas du tout rentables. Est-ce que cela crée une forme de dépendance, au fond, de ces entreprises à la commande publique, et notamment à la commande de ces départements de défense ? Oui, absolument. Et pour le comprendre, il faut déjà rappeler que la plupart des entreprises technologiques, si ce n'est toutes, sont nées d'une relation symbiotique avec l'armée.

Et historiquement, la tech tire sa subsistance de la commande publique, et en particulier du complexe militaro-industriel. La Silicon Valley est née vraiment de la cuisse de l'armée. Pour ce qui est des entreprises d'IA particulièrement, effectivement, si on regarde les choses, et si on auscute leur modèle économique, très clairement, il est dysfonctionnel, il n'est pas rentable. Ces entreprises mobilisent un capital. Je pense qu'il n'y a pas de précédent dans l'histoire économique en termes d'ordre de grandeur pour comprendre les milliards, les mêmes milliers de milliards de dollars qui sont mobilisés pour développer cette intelligence artificielle.

Ce standard-là du gigantisme, de la fuite en avant, il a notamment été posé par l'entreprise OpenAI, encore une fois, créée en 2015. Mais en novembre 2022, lorsque OpenAI diffuse son premier modèle grand public, Tchad GPT, il y a ce retour d'accélération dans la course à l'IA. Et là, Sam Altman crée en quelque sorte, en précédent, en disant, regardez, pour faire cette IA populaire que nous allons développer, dont même nous allons faire l'étendard de l'Amérique, il me faut énormément d'argent, énormément de ressources.

Il faut aussi bien mentionner qu'en plus du capital, il y a des ressources faramineuses à mobiliser, les cartes graphiques qui font l'objet d'une spéculation très importante, notamment celle produite par l'entreprise NVIDIA, mais aussi l'électricité, qui est très clairement le nerf de la guerre, on n'en parle pas assez, mais l'accès à de l'énergie peu chère, abondante, et donc, du coup, souvent fossiles, c'est aussi quelque chose de très important.

Et donc, l'ensemble de ces ressources, des ressources de nature capitalistique, des ressources naturelles, des ressources en matériaux, en terres rares, font que ces entreprises brûlent, finalement, des ressources de façon totalement déraisonnable. Et les usages civils, votre abonnement, vous, à HGPT, ne financent pas du tout ça. Donc, pour effectivement justifier ce modèle économique abyssal de dépenses avec très peu de recettes, on mobilise des mythologies. Il y a la mythologie de l'AGI, notamment, en disant si vous ne nous donnez pas beaucoup d'argent pour faire notre IA encadré, ça va partir en freestyle et nous aurons une IA qui va nous anéantir.

Mais plus prosaïquement, il y a cette idée d'aller chercher les contrats dans le budget colossal du département de la Défense, qui est effectivement un budget qui se compte lui aussi en milliers de milliards de dollars. Et donc, effectivement, ces centaines de millions que l'on va chercher auprès du ministère des Armées, c'est de la rationalité économique. Donc, encore une fois, ces entreprises tech sont destinées, finalement, à nouer des contrats avec l'armée. L'autre question, et il y en aura d'autres, évidemment, mais la question suivante, si je puis dire, a trait à la dimension démocratique de ce lien entre intelligence artificielle et militaire et guerre et armée.

Est-ce que c'est plus simple, au fond, d'appuyer sur le bouton, de lancer une guerre avec l'intelligence artificielle plus facile, parce que cela permet, justement, de contourner les garde-fous démocratiques, d'éviter de demander l'aval du Congrès américain, par exemple, ou est-ce que l'intelligence artificielle, dans ce domaine, ne change pas fondamentalement les choses lors de Roussi-Rochegonde ?

Je pense que l'intelligence artificielle change beaucoup de choses. Il faut rappeler que, finalement, le consentement démocratique dans le fait de recourir à la force, il est le produit du contrat social. En fait, le contrat social, c'est je renonce à une partie de ma liberté pour la sécurité, mais si la sécurité collective est mise en péril, j'accepte d'aller risquer ma vie pour l'État ou la forme qui est la garante du contrat social. Le problème, c'est que quand on n'a plus cet impôt du sang, et c'est comme ça que Kant, en particulier, en parle, eh bien, il n'y a plus de raison de consulter les citoyens.

Parce que, précisément, quand, historiquement, un souverain mène une guerre, en fait, il engage ses sujets et ses sujets, dès lors qu'on est dans un régime démocratique, peuvent le lui faire payer, notamment dans les urnes, en disant, voilà, on a eu X morts, ça nous a coûté tant, on n'en veut plus, donc, vous n'allez pas être réélus. Il y a un certain nombre de garde-fous qui existent dans les démocraties libérales. Aux États-Unis, c'est la World Power Resolution, dont on parle beaucoup en ce moment, qui est une loi qui date de 1973, qui a été créée pendant la guerre du Vietnam, justement, pour limiter la tentation un peu de guerre impériale des présidents américains.

et cette loi, elle a été à plusieurs reprises contournée, mais l'un des précédents qui est intéressant et qui montre bien la dynamique dans laquelle on est pour l'intelligence artificielle, c'est le précédent de l'intervention en Libye. En 2011, la loi sur les pouvoirs de guerre n'a pas été respectée et quand le Congrès a demandé des comptes à la Maison Blanche, elle a dit mais vous n'avez pas respecté la loi sur les pouvoirs de guerre, la Maison Blanche a dit mais ce n'était que des opérations de drones, il n'y avait aucune vie américaine engagée sur le terrain.

Donc on voit bien que dès lors qu'on autonomise ou on a recours à des programmes qui exercent une violence et ça c'est important de le dire, ce n'est pas parce qu'il y a peu ou pas de militaires déployés sur le terrain du côté américain en l'occurrence que du côté iranien ou libanais pour ce qui est de ce conflit-là, il n'y a pas de véritables victimes et de dommages y compris matériels etc. Donc effectivement le contrôle démocratique il s'érode considérablement avec ce type de moyens de combat déshumanisés.

Donc si je synthétise vos deux dernières interventions, d'un côté on a une forme de dépendance économique qui se crée entre ces très très grandes entreprises et les différentes armées du monde notamment états-uniennes en l'occurrence. De l'autre on a une forme de rétrécissement démocratique où la prise de décision n'appartient qu'à un petit groupe et un petit groupe seulement. Dans ce nouveau paysage Nastasia Adjadji est-ce que des règles éthiques peuvent être dessinées, avancées ou au fond c'est pratiquement peine perdue dans ce cadre-là ? J'ai tendance à être pessimiste mais j'espère que vous m'apporterez d'autres réponses.

Il faut toujours espérer qu'on puisse incurver le sens de cette accélération mortifère. On a l'impression pardon donnez-moi si je tire le fil de cette question on a le sentiment que les seules règles éthiques peuvent être définies par les acteurs eux-mêmes c'est-à-dire par ces dirigeants d'entreprise ou par les responsables politiques mais que la question démocratique elle est totalement absolument évacuée. Absolument, vous mettez-moi sur le problème à savoir qu'on ne discute jamais de la légitimité de la technologie en elle-même.

On nous présente toujours des cas d'usage comme relevant de l'évidence que ce soit dans le civil en particulier notamment dans les entreprises où désormais ne pas avoir d'IA ne pas faire d'IA c'est presque coupable et puis après plus dramatiquement dès lors qu'on découvre que ces technologies sont aussi utilisées dans un continuum direct sur des terrains de guerre et pour eh bien assassiner des gens à distance avec Laure le disait une forme de mise à distance non plus seulement physique comme le faisaient les armes comme les drones mais même psychique puisque là c'est même plus l'humain qui en fait assassine directement enfin en tout cas tue au nom des raisons pour lesquelles il fait la guerre.

Donc effectivement l'enjeu du débat démocratique et vous avez aussi souligné quelque chose qui est fondamental c'est que le sport national avec les grandes entreprises de la tech c'est quand même qu'elles auto-définissent le cadre dans lequel elles évoluent il y a très peu de contraintes objectives qui pèsent sur elles et un exemple très concret c'est l'embryon de législation que nous avons eu à l'échelle européenne lié à Acte qui a été totalement éducoré et vidé même par les entreprises tech qui ont mobilisé à Bruxelles un budget déjà faramineux pour faire du lobbying contre la dimension j'ai envie de dire coercitive de cette régulation avec des chiffres qui sont sortis de la part d'ONG sur place à Bruxelles qui indiquent qu'il y a plus de lobbying tech que d'eurodéputés quand même et donc l'IA Acte est aujourd'hui une régulation fantôme il faut dire ce qui est donc il y a de quoi effectivement perdre confiance dans la capacité des institutions en particulier en Europe à réellement prendre la mesure et contraindre ces grandes entreprises dès lors quelle est la réponse quelles sont les pistes de dévastement vous ne rassurez pas pour l'instant bah écoutez non il y a de quoi être très inquiet en réalité je pense qu'on devrait hold accountable je ne sais plus comment on dit mais tenir pour responsable nos dirigeants notamment européens en la matière je pense que du coup les pistes les pistes à des niveaux collectifs plus redescendus à des niveaux municipaux à des niveaux territoriaux à des niveaux locaux des pistes de refus de négociation nous allons élire nos représentants nos maires dans les deux prochaines semaines et bien demander à son élu des comptes sur l'installation du prochain data center dans sa municipalité ça a peut-être plus d'effet que l'IA acte à l'échelle européenne lors de Roussy-Rochegonde c'est votre domaine l'éthique alors comment est-ce que vous articulez ces questions que l'on pose sur oui j'ai pas d'autres mots sur cette suite en avant au fond en lien avec l'intelligence artificielle et la guerre et cette nécessité ce besoin que l'on constate de règles éthiques pour l'encadrer à minima

c'est vraiment ce sur quoi j'ai travaillé dans ma thèse comment est-ce qu'on conçoit une maîtrise des armements pour l'intelligence artificielle appliquée à la guerre historiquement ce qu'on voit pour la maîtrise des armements c'est que il n'y a que deux voies possibles en réalité qui permettent de réguler la manière dont un moyen de guerre est utilisé soit c'est une forme de maîtrise des armements bilatéral stratégique donc c'est l'exemple du nucléaire pendant la guerre froide où finalement ça coûtait trop cher grosso modo aux deux belligérants même si c'était une guerre froide

ça coûtait trop cher ou ça faisait trop peur ?

alors on a un peu rationalisé en disant que ça faisait trop peur dans les faits ce qui leur faisait peur à la limite du côté américain c'était d'être dépassé par les soviétiques mais justement le côté catastrophiste risque pour l'humanité c'était sans doute très présent du côté de la société civile des ONG etc dans l'administration américaine pas tant que ça en réalité l'autre option c'est ce qu'on appelle le désarmement humanitaire donc là on évacue la question stratégique et c'est vraiment les conséquences pour les populations civiles et donc ça c'est comme ça que sont nées un certain nombre de grandes conventions comme par exemple la convention d'Ottawa sur les mines antipersonnelles de la convention d'Oslo sur les armes à souménition on voit qu'on est dans un contexte où ces conventions sont extrêmement fragiles il y a beaucoup d'États qui s'en retirent on est dans un hiver de la maîtrise des armements plus globalement on est dans une crise du multilatéralisme donc c'est sûr que c'est compliqué de faire de la maîtrise des armements en ce moment l'autre point important à mon avis c'est que souvent la régulation est intervenue après une sorte de traumatisme collectif sur la manière dont une arme avait été utilisée que ce soit le gaz moutarde la petite fille au napalm pour les armes incendiaires évidemment Hiroshima et Nagasaki moi je pense qu'il ne faut pas attendre que ce choc traumatique arrive voire qu'il est déjà arrivé et en fait je pense que Gaza devrait être l'Hiroshima de l'IA d'ores et déjà et on a déjà vu à quel point cette accélération cette massification du recours à la force était destructrice et il est de notre devoir collectivement devrait à une régulation alors pour ce qui est de l'IA Act l'IA Act ne comprenait pas le volet défense parce que c'était pas dans le cadre des négociations c'est du domaine des états etc en revanche malgré tout si on regarde les points de tension entre Dario Hamadei et le Pentagone typiquement les armes autonomes la surveillance de masse ça c'est quand même encadré par l'IA Act alors quelle mise en conformité ensuite c'est une autre question mais je pense que malgré tout l'Europe a fait un travail pertinent pour essayer de limiter les risques de l'IA il faut donner plus de puissance à ces instruments de règlement européen

une voix et des propos pour le moins étonnants vous allez l'entendre ceux de Palmer Lucky cofondateur et PDG d'Oculus VR

notre société

notre société tout entière repose sur un rempart crédible contre la violence que représentent les Etats-Unis et leurs alliés à travers le monde et merci pour ça j'ai toujours pensé que les Etats-Unis devaient armer leurs alliés et partenaires dans le monde entier afin qu'ils soient comme des porcs épiques piquants que personne n'oserait écraser ni mordre j'ajouterais qu'il est bien plus effrayant par exemple d'imaginer un système d'armes totalement dépourvus d'intelligence il n'y a aucune justification morale à fabriquer une mine terrestre incapable de distinguer un bus scolaire rempli d'enfants d'un militaire russe il ne s'agit pas de choisir entre armes intelligentes et absence d'armes mais entre armes intelligentes et armes stupides

qu'est-ce qu'on nous dit

là Anastasia Adjali il faut continuer de s'armer de s'armer toujours plus mais je mets des guillemets d'une manière plus intelligente au fond c'est encore une publicité supplémentaire pour ce lien entre IA et guerre ce que ça nous dit c'est déjà cette absence totale de surmoi de ces gens qui me fascinent à chaque fois à savoir qu'ils se pensent auto-élus ils peuvent comme ça professer des déclarations totalement messianiques sur le devenir de l'humanité avec cette espèce d'absence d'émotion il y a même d'ailleurs cette tendance dans la Silicon Valley où déjà une remise en avant du QI mais aussi cette idée que certaines des personnes dirigeantes seraient sur le spectre de l'autisme et que d'ailleurs leurs relations distancées avec leurs émotions permettraient d'expliquer leur comportement leur discours etc je pense que lui c'est un peu un exemple de ça c'est cette froideur émotionnelle cette disparition de l'empathie cette absence totale et bien de prise en compte de l'humanité tout simplement des gens ces gens évoluent dans des bulles ils sont coupés du monde c'est une élite totalement déconnectée qui s'auto-intoxique avec ses propres prophéties et ce genre de discours est complètement voilà il faut limite ne pas ne pas accorder de crédit à ce genre de déclaration il faut remettre du concret du tangible et de la vie humaine aussi derrière ces sujets en permanence lors de Roussi Rochgonde dans le conflit iranien dans le conflit initié par les Etats-Unis et Israël en Iran comment l'intelligence artificielle est-elle mobilisée ?

alors elle est mobilisée de manière assez comparable à ce qu'on peut observer en Ukraine à Gaza de la même façon en fait que ce qu'on a déjà évoqué sur l'agrégation d'un certain nombre de données très massives très hétérogènes pour produire des recommandations puis ensuite pour faire en sorte que les systèmes d'armes puissent frapper alors dans le cas ukrainien il y a un problème de guerre électronique donc il y a une perte de liaison entre l'opérateur et son drone par exemple et donc c'est pour ça qu'il faut faire un pilotage par IA pour compenser cette perte de liaison peut-être pour rebondir sur ce que disait Anastasia ce que dit Palmer Lucky est faux en plus parce que quand il dit on a le choix entre des armes intelligentes et des armes stupides le précédent de Gaza montre bien que c'est pas parce qu'on a des armes intelligentes qu'on n'utilise pas par ailleurs des armes stupides parce que ça coûte beaucoup moins cher et donc on n'a pas forcément envie d'utiliser les bombes hyper onéreuses pour faire nos frappes ou en tous les cas on veut aussi utiliser les bombes stupides dont on dispose et il y a toujours cette croyance dans une forme de progrès éthique grâce au progrès technique et c'est une croyance fausse parce que on a des guerres plus propres j'aime pas cette expression mais c'est comme ça que le débat est posé quand on a la volonté politique d'avoir une guerre plus propre c'est pas parce qu'on va avoir des moyens

c'est quoi une guerre plus propre pardonnez-moi

une guerre plus propre c'est une guerre qui crée moins de victimes civiles et qui crée moins de dommages pour les civils

l'expression est dérangeante

mais vous l'avez souligné je le disais mais le but du droit international humanitaire c'est ça c'est d'équilibrer la nécessité militaire et le principe d'humanité donc une guerre plus propre c'est une guerre qui va dans le sens du principe d'humanité qui fait en sorte que les civils ne soient pas les victimes de la guerre et les militaires peuvent être les victimes de la guerre quelque part c'est leur métier en revanche il faut protéger les populations civiles mais la manière dont l'intelligence artificielle est utilisée dans les conflits contemporains n'est pas dans le sens de la protection des civils

et la France dans tout ça Anastasia Adjadji l'armée française les entreprises françaises est-ce qu'elles regardent ça aussi avec étonnement effarement ce qu'il se passe outre-Atlantique où elles sont pleinement immergées dans cette tendance que vous dessinez toutes les deux depuis 40 minutes la France suit complètement le modèle états-unien avec peut-être des contrats de moindre ampleur et encore pas encore de terrain de guerre explicite sauf si je me trompe mais nous avons une devtech donc une industrie de la défense technologique en France secteur très florissant nous nourrissons nos propres champions nationaux d'ailleurs certaines entreprises se targuent de vouloir être les palentires français du nom de l'entreprise d'ailleurs qui a pour mission d'établir des kill chains pour reprendre l'expression mobilisée tout à l'heure d'entreprise à laquelle vous pensez combien d'ailles est ?

il y a Artemisia qui est une joint venture entre deux gros industriels dont Alès et vous avez tout un tas de plus petites start-up on peut penser à Chapvision sur le côté surveillance Mistral notre champion national de l'IA lui équipe des drones tout ça pour dire qu'en fait nous avons véritablement des champions français de la défense tech et qu'il y a donc à la fois une appétence mais une forme de suivissement français en la matière tout à fait et ce sont des enjeux économiques très importants aujourd'hui Lors de Roussy-Rochegonde même diagnostic sur ce suivisme français ?

Oui d'ailleurs la référence à Palantir elle est extrêmement fréquente beaucoup d'acteurs alors pas forcément publiquement mais en tous les cas dans des cercles plus fermés disent nous on veut être le Palantir européen c'est ça notre but etc.

Alors avec un succès quand même limité aujourd'hui aussi du fait de la pénétration de Palantir y compris dans les sphères de sécurité en France il y a eu un contrat avec la DGSI qui a été renouvelé récemment et ce qui est frappant c'est de voir qu'effectivement la DevTech que mentionnait Nastasia prend pour modèle ce qui s'est passé aux Etats-Unis avec ces entreprises qui sont sorties de l'écosystème des start-up qui de manière assez surprenante n'avaient pas de lien au départ avec la base industrielle et technologique de défense avec les industriels de l'armement classique américain mais qui se sont retrouvés sous la bannière de ce qui a été conceptualisé comme l'American Dynamism et c'est l'idée qu'on va associer des investissements dans les technologies de défense et le patriotisme donc ça va vraiment ensemble et quand on regarde d'ailleurs l'idéologie de Palantir c'est complètement assumé et cette tendance se retrouve en Europe avec des start-up qui effectivement émergent et on parlait tout à l'heure du fait que la guerre est devenue un business lucratif je pense que c'est pas uniquement les start-up ce qui est intéressant c'est aussi de voir que toutes enfin peut-être pas toutes mais beaucoup d'entreprises y compris des entreprises établies se tournent maintenant et essayent de développer des applications pour la défense de ce qu'elles proposent

Merci beaucoup à toutes les deux d'avoir mis un peu de sens dans ces dynamiques ô combien inquiétantes Nastasia Adjadji lors de Roussi Rochegonde je remercie également très chaleureusement toutes celles et ceux qui ont fait cette émission à mes côtés Diane Devancet Stéphanie Villeneuve Mathias Mégi Antoine Héral à suivre après le journal Autre guerre et autres questions Trump et Cuba un nouveau front américain