Des robots à l'intelligence artificielle : la guerre de demain sera-t-elle encore humaine ?

Merci d'écouter France Culture. Aujourd'hui, les matins d'après s'intéressent aux champs de bataille alors que les terrains ukrainiens et israéliens laissent entrevoir des évolutions technologiques telles qu'il faudrait plutôt parler de ruptures technologiques. Les drones sont évidemment ce qu'on connaît le mieux, mais au-delà, c'est l'autonomie des systèmes d'armement renforcés par l'intelligence artificielle qui vient transformer en profondeur les combats. Alors, pour en parler et comprendre à quoi vont ressembler les guerres du futur, deux invités ce matin, à mes côtés, Nicolas Barotte. Bonjour. Bonjour.

Vous êtes le correspondant défense du Figaro, avec nous également, mais à distance depuis Namur, Marie Desneiges-Ruffaut. Bonjour.

Bonjour.

Vous êtes chercheuse en philosophie à l'université de Namur. Alors, merci à tous les deux de participer à cette émission. J'aimerais qu'on commence par quelques éléments généraux. L'évolution des armements n'est pas une nouveauté, pas plus que l'innovation technologique dans le secteur militaire. Est-ce qu'on se situe dans la stricte poursuite d'un processus historique ou est-ce que vous considérez l'un et l'autre qu'un changement de nature ou au moins qu'une rupture est à l'œuvre ? Marie Desneiges-Ruffaut, pour commencer.

La nature de la guerre, malheureusement, n'a pas changé depuis qu'on a commencé à utiliser des pierres pour se taper dessus. Donc, fondamentalement, la dimension violente de la guerre n'a pas changé. Maintenant, ce qui a peut-être évolué, c'est la rapidité. Et plus on a technologisé, numérisé le champ de bataille, plus peut-être l'humain devient de plus en plus exclu.

Et

vous, Nicolas Barotte, comment c'est vous

? C

'est comme dans le champ civil. L'IA bouleverse les économies, le rapport au travail, le rapport à la société. Et c'est la même chose.

C

'est une révolution, y compris pour les militaires. Et ça affecte-moi très, très vite. C'est que les transformations technologiques sont beaucoup plus rapides que d'autres. On voit bien qu'en l'histoire de quelques années, l'IA s'est développée, les agents agentiques. Et ça, ça bouleverse la façon dont les militaires se préparent aussi au conflit.

Et ce que vous voyez aussi, c'est qu'on est passé peut-être de la théorie à la pratique, Nicolas Barotte.

Oui,

parce que ce qui était des théories il y a 5-6 ans, des réflexions éthiques dans les états-majors, aujourd'hui, ce sont des cas pratiques auxquels il faut travailler, il faut se préparer. On voit bien dans les conflits actuels que des systèmes semi-autonomes, l'autonomie est testée. Donc ça interroge forcément toutes les armées qui doivent accélérer la préparation de leurs systèmes et de leurs armes.

En

tout cas, on arrive à un moment où l'humain n'est plus nécessairement directement, physiquement derrière l'arme. Alors on va écouter un reportage d'avril 2004 diffusé au 20h de France 2. Le robot Pac-Bot accompagne le déploiement des soldats américains en Irak et en Afghanistan.

On

écoute.

Dans

le pactage des GIs, il y a désormais

Pac

-Bot. Ce robot à chenillettes d'une vingtaine de kilos est commandé à distance. La dernière version des drones terrestres chargés de jouer aux éclaireurs, capables de se déplacer à 30 km heure, de grimper des escaliers,

est

suffisamment blindé

pour

résister à des chutes de plus de 10 mètres. Et repartir, comme si de rien n'était, afin d'évoluer sur n'importe quel terrain, y compris sous l'eau, un nouvel équipement dont le Pentagone possède une centaine d'exemplaires. Ce robot, c'est en quelque sorte l'extension du soldat, car il peut aller là où lui ne veut pas prendre de risques. Le robot, c'est à la fois des yeux et des oreilles à l'avant des troupes, à la place des soldats envoyés en reconnaissance.

Selon

la société américaine qui l'a conçue, Pac-Bot serait l'illustration des systèmes militaires du futur. Moins vulnérables que des tanks, équipés de caméras, de micros, de capteurs, renifleurs de poudre aux explosives, ce robot militaire, adapté aux nouveaux combats urbains, doit détecter des mines disséminées sur le chemin des troupes. Quelques dizaines de ces machines ont déjà été utilisées en Afghanistan, et une douzaine seraient même actuellement opérationnelles en Irak.

Pac

-Bot, donc l'un des premiers robots des armées américaines.

C

'est intéressant, Marie-Denège Ruffaut. On entend que ce robot, c'est l'extension du soldat et que cela évite le risque. Qu

'est

-ce que vous en pensez

? Le

terme extension est très bien choisi, puisque c'est toujours un humain qui va décider. Pac-Bot est un modèle téléopéré. Donc la décision de l'humain est toujours présente. On a parlé d'autonomie, et donc il faut bien se poser la question, c'est quoi la définition de l'autonomie ? Et l'autonomie

pour

un ingénieur,

c

'est laisser

une

certaine action être entreprise par le robot sans intervention de l'utilisateur.

Et

donc au niveau éthique, on se demande, mais qu'est-ce qu'on demande au robot

? Et

donc là, ça c'est l'ingénieur.

Qui sait se mettre

en danger à notre place, c'est bien. C'est intéressant, vous nous dites qu'il y a finalement plusieurs responsables derrière ce robot. Quand on parle de robot téléopéré, c'est-à-dire qu'il y a un opérateur qui guide un robot, c'est comme ça que ça se passait en 2004, Marie Desneige-Ruffaut ?

Oui, un ou plusieurs, on envisageait déjà les essaims.

Qu

'est

-ce

que c'est,

un

essaim

? Un

essaim, c'est un ensemble.

Allez-y, c'est difficile,

on est à

distance, mais

on

va y arriver. Je vous écoute, Marie Desneige-Ruffaut.

C'était un ensemble de robots, mais si vous souhaitez expliquer, Nicolas Barotte ?

C

'est quand on a plusieurs vecteurs, plusieurs robots, drones, qui vont travailler en coordination entre eux, avec la question

éventuellement

d'un opérateur derrière qui dirige, ou d'autonomie complète. Quand on parle de robotisation, il y a, comme on l'avait dit, une sorte d'extension. Un outil supplémentaire,

mais

au-delà de la robotisation, il y a l'autonomie. Est-ce qu'on laisse

à

la machine, au robot, une part de décision ? Et quelles décisions ? Et donc, effectivement, c'est le travail de l'ingénieur, du geste militaire, et aussi des philosophes, de réfléchir à ce qu'on peut laisser faire à une machine.

Et là, l'intelligence artificielle va sûrement créer une rupture, on va en parler. Restons dans ces années, peut-être déjà un peu lointaines, 2004 à plus de 20 ans. Ce robot Pac-Bot, c'est une arme américaine. Est-ce que les Etats-Unis ont été les pionniers de cette robotisation, Nicolas Barotte

? Oui,

parce qu'ils ont les financements, ils ont les ingénieurs, ils ont la volonté d'avancer, et ils sont très pragmatiques, donc ils ont été très moteurs. Mais il ne

faut

pas oublier que d'autres pays, comme la Chine, voire la Russie, ont été assez très proactifs, parce que déjà, ils n'ont pas la même éthique que nous. Donc ils sont prêts à avancer sur ces sujets-là, et que la Chine, notamment, a fait du rattrapage technologique le levier pour égaliser la puissance américaine. Ils n

'ont

pas la même expérience militaire, ils n

'ont

pas le même nombre d'armes, d'équipements, mais la technologie, ça leur permet, ou ils pensent que ça leur permettra, d'égaliser la puissance américaine.

C

'est en 2016, Marie-Denège Ruffaut, il y a déjà dix ans que vous avez soutenu votre thèse de philosophie sur les problèmes éthiques posés par le remplacement de l'humain par des robots, précisément sur le cas des systèmes d'armes autonomes. C'était à l'époque, peut-être, vous allez nous le dire, un sujet que j'imagine assez novateur. Alors comment êtes-vous tombé dedans, et quel était l'état des technologies et de la recherche à ce moment-là

? Alors,

quand j'ai vraiment tout à fait commencé la recherche,

il

était question d'autonomiser la technique de plus en plus, mais c'était dans le domaine civil. On parlait de frigo connecté,

on

imaginait que le robot fonctionnerait avec des... le frigo

fonctionnerait avec

des... et que s'il voyait que vous manquiez de lait, il allait commander de lui-même du lait.

Et

puis on m'a suggéré, tiens, mais regarde un petit peu les applications militaires de cette idée de remplacer la décision de l'humain par des machines.

Et

là, c'est ouvert à un champ gigantesque.

Est

-ce qu'à l'époque, il y avait déjà de ces machines très perfectionnées, ou est-ce que vous avez... enfin, on était encore au balbutiement

? Oh,

c'était déjà la guerre en Irak. Donc on avait déjà le pack-bott à ce moment-là, on réfléchissait déjà beaucoup à la capacité de déporter la force sans continuer à conserver des humains. À distance, c'était l'idée qu'on allait faire la kill... une kill box.

Marie

Desnage-Rufault,

on est... Tout ça qui

ne fonctionne pas. On vous entend parfois pas très bien, je ne

sais

pas si on peut essayer d'améliorer un tout petit peu la connexion. En tout cas, on retient déjà que l'objectif,

c

'était de remplacer la décision des humains par la machine. Et puis, cette idée que la force est déportée. Dix ans plus tard, le monde a bien changé et la recherche s'est étoffée. Si on va sur le terrain maintenant, commençons par l'Ukraine. Qu'est-ce qu'on y observe, Nicolas Barotte ? En premier lieu, peut-être la dronisation de la guerre

?

Dites-nous. La dronisation, parce que les Ukrainiens ont été confrontés assez rapidement à un problème de ressources humaines. C'est que la taille de leur armée, en tout cas les ressources humaines ukrainiennes, ne sont pas équivalentes à celles de la Russie. Donc, pour compenser cette faiblesse,

ils

ont eu recours. Ils ont dû avoir recours à la dronisation aux machines pour contrôler du terrain. Par les drones, qui étaient déjà, effectivement, comme on l'a dit, déjà expérimentés, ont trouvé en Ukraine un terrain d'expérimentation réel. Donc, beaucoup d'entrepreneurs sont allés sur place. Beaucoup de technologies se sont développées. Les Ukrainiens aussi ont développé beaucoup de systèmes pour essayer de tenir cette zone, pour éviter de mettre en danger leurs propres soldats et repousser l'agresseur russe. Donc, c

'est

un accélérateur, de fait.

Tout

ce qui était,

effectivement,

en recherche auparavant a pu être testé, pour de vrai, sur le terrain ukrainien. Donc, drones, mais y compris, maintenant, des drones terrestres, qui, un peu,

l

'étape supplémentaire. Parce qu'il y a eu, effectivement, dans un premier temps, l'idée qu'on pouvait robotiser des tâches un peu secondaires. De logistique, par exemple, on avait un robot mule qui allait accompagner, qui allait porter à la place de l'humain des sacs, des pieds détachés, etc. Et là, aujourd'hui, on arrive à autre chose, où, maintenant, les systèmes robotisés pourront aller mener des actions offensives ou militaires. Et c'est ça, la nouveauté, aussi.

Alors, un tout petit point de lexique. On dit drone, on dit robot. Les drones sont des robots. Quelle est la définition exacte

? Oui,

c'est compliqué d'avoir une bonne définition. En fait, tout ça, c

'est

un peu équivalent. La vraie différence, c'est l'autonomie, en fait. C

'est

des drones, c'est des systèmes sans pilote, mais pilotés depuis l'arrière.

Les

robots, c'est la même chose. On peut avoir des robots mules, donc des chariots téléopériques, que ce soit à distance, avec les robes. Par exemple, pour les fonçons marins, c'est avec un cap, tout simplement. Mais la vraie différence, c'est si on donne à ces systèmes une part d'autonomie pour qu'ils puissent agir, dans un cadre défini, même s'il n'y a pas d'opérateur. C'est-à

-dire

que tant qu'il

y a

un opérateur, si c

'est

un opérateur, un robot, entre guillemets, l'intérêt

n

'est pas non plus fantastique. De ne pas prendre le risque. De ne

pas

prendre le risque, de faciliter la tâche, de porter une charge lourde, d'être à distance. Mais ça consomme des moyens humains. La vraie révolution, c'est quand on aura des systèmes qui seront autonomes, avec un contrôle humain, un droit donné qu'il faut définir,

mais

qui pourront agir seuls pour remplir des missions, que ce soit de la logistique, que ce soit du ravitaillement, que ce soit de la surveillance,

ou

que ce soit de l'offensive. Et c'est là où, évidemment, il y a un enjeu qui est beaucoup plus complexe pour les politiques et pour les militaires. C'est est-ce qu'on peut accepter que des systèmes robotisés, dronisés, autonomes, mènent une action offensive, dont aille tuer des gens ?

Donc

on comprend qu'il

y

a deux ruptures qui sont en cours et qu'on peut observer à l'œuvre sur le terrain ukrainien. D'abord, une première bascule de la logistique vers l'offensive. Alors là, peut-être qu'il faut dire un mot de l'opération Vivaldi, Nicolas Barod, cette contre-offensive ukrainienne qui a commencé à l'automne, qu'est-ce qu'on a observé ?

Alors,

ils ont beaucoup communiqué sur Vivaldi, donc pour le coup, on sait des choses. Ils le faisaient déjà ailleurs. C'est vrai que le troisième corps d'armée ukrainien s

'est

spécialisé dans des systèmes sophistiqués, et donc ils ont mené une partie de l'opération avec des drones et des robots et des systèmes semi-autonomes. Donc qu'est

-ce

qui s'est passé ? Dans un secteur très précis du front, c'est quand même très limité géographiquement, c'est près de Liman,

les

Ukrainiens ont mené une contre-offensive pour repousser les Russes. Ça a un intérêt parce que ça libère l'étau de la tenaille russe.

Et

pour mener cette offensive, ils ont utilisé des drones et des systèmes robotisés. Par exemple, pour faire des opérations, on dit de déception, c'est pour tromper l'adversaire. Donc ils ont envoyé deux véhicules robotisés, sans équipage d'intérieur, mener une attaque et faire croire aux Russes qu'ils étaient attaqués sur une partie du front. Ce qui permettait aux Ukrainiens d'aller les déborder de l'autre côté. Ils ont utilisé des drones aussi pour transporter des mines notamment sur l'arrière ou attaquer de l'arrière du front russe. Mais là encore, la question, et on n

'a

pas la réponse, c'est est-ce qu'il y avait une part d'autonomie ou est-ce que tout était téléopéré ? Et celle-là, la vraie différence,

c

'est qu'autant pour aller mener l'action sur l'arrière des lignes russes, là, il faut un opérateur en fait, encore aujourd'hui.

Parce

qu'il faut déterminer si c

'est

la bonne cible, le bon timing, etc. On pourrait imaginer de l'autonomie. Mais là, encore aujourd'hui, il y a sans doute plutôt un opérateur.

Pour

tout ce qui est de la déception, donc l'opération de diversion, là, on pourrait imaginer que ce soit

autonomisé

en tout cas. Parce que peu importe s'il tient correctement à droite ou à gauche. Ce qui compte, c'est de tirer, c'est tout. C

'est

de s'étirer et d'attirer l'attention. Donc pour ça, par exemple, on pourrait avoir plus d'autonomie. On n'a pas la réponse. Parce que ça, évidemment, c

'est

des secrets technologiques et militaires.

Marie Denej Ruffo, on parle du terrain ukrainien,

de

savoir d'abord,

enfin,

Nicolas Barot nous énonçait deux ruptures, le passage à l'offensif. Et puis cette question de l'autonomisation, est-ce que vous, vous en savez plus, peut-être pas sur les secrets technologiques ukrainiens, mais sur le degré d'autonomisation des armes que l'on peut observer en ce moment sur le terrain

? Alors

d'abord, je voudrais qu'on revienne sur la question de la définition de l'autonomie, parce que la question, elle est véritablement là. On peut avoir différents degrés. On peut rendre un système de plus en plus autonome. Mais encore une fois, la question, c'est qu'est-ce qu'on lui demande ? Est-ce qu

'on

lui demande d'être autonome, comme Nicolas Barot le proposait, pour la déception, pour la diversion, ou pour déterminer les cibles ? Et là, on s'approche du problème éthique qui est le SALA, l'existence du SALA. Le

SALA,

il arrive quand on a un système d'armes létales autonome,

qui

a à la fois la capacité de cibler et de tirer,

et

qu

'il

n

'y

a pas d'intervention de

l

'utilisateur lors de l'une de ces deux étapes.

Et

ça, on le voit en Ukraine ? Sur le terrain ukrainien, disons qu

'il

y a le côté ukrainien

qui

a réclamé la possibilité d'avoir utilisé l'autonomie de la technique pour cibler des cibles et d'avoir utilisé le système des killbox.

Qu

'est-ce que c'est, ça, les killbox ? Apparemment, le killbox, c'est quand vous prenez un ensemble de coordonnées géographiques, que vous déterminez qu'à cet endroit-là, tout ce qui est vivant doit être rayé de la carte. Et donc, vous avez créé une killbox, donc une zone de mort, pour traduire littéralement.

Et

donc, c'est le robot qui va décider de tirer dans l'espace qui a été défini. Alors, il y a encore ici un humain qui aurait déterminé où se situe la killbox.

Donc,

on peut encore réfléchir, est-ce que c'est de l'autonomie totale ou pas dans la décision du tir ou pas ? Mais quand on commence à doter ces systèmes-là d'IA, de reconnaissance, d'images,

de

dire tiens, voilà, ça, c'est un conteneur de gaz, ça, c'est un tank, et quand tu vois ça sur le terrain, tu tires, eh bien, on s'approche de plus en plus du système intégralement autonome, y compris pour la décision du tir

et

du village. Si je comprends bien, on est très près de cette limite éthique que vous avez tous les deux définie. Un dernier mot, Marie-Denage Ruffo, sur cette killbox. En Ukraine, il est attesté que ça a eu lieu, que réellement, alors peut-être un humain a défini la zone à nettoyer, mais que c'est des robots qui s

'en

sont chargés

? En

tout cas, c'est ce que le ministère de la Défense ukrainien a reconnu pour une des actions passées il y a peut-être bien un an. Nicolas Barotte ? C'est vrai que les Ukrainiens et les Russes le font, c'est que les Russes aussi ont développé des systèmes avec des capacités autonomisées. En fait, pour bien comprendre,

il

faut savoir que technologiquement, c'est possible. Grâce à de l'IA, aujourd'hui, on peut avoir des systèmes qui reconnaissent leurs cibles. Ça peut être soit un char, soit une infrastructure, ça peut être des soldats. Parce que sur le terrain ukrainien, à cause du brouillage, les communications vers l'arrière sont très compliquées. Donc si on veut être sûr que le drone, que ce soit les Russes ou les Ukrainiens, atteignent leurs cibles,

il

faut qu'au moment de la fin de l'opération, l'arme, le drone, puisse vérifier s'il ajuste sa position pour toucher sa cible. L'IA le permet. Parce que maintenant, on a des systèmes qui sont assez développés pour pouvoir déterminer si effectivement c'est une voiture,

un

char, si c'est bien une infrastructure critique, une cible, un camp, etc. Tout ce qu'on veut. Ça, techniquement, c'est possible. Donc effectivement, la question,

c

'est, au moment où on perd la connexion vers l'arrière, est-ce qu'on laisse quand même le drone frapper tout seul ou est-ce qu'on lui dit d'attendre ? Et là, c'est le rythme de la guerre qui est l'impôt. C'est que s'il

y

a nécessité d'aller frapper, on est poussé mécaniquement, puis-je dire, par la guerre, d'aller frapper sa cible. Sinon, on perd le moment du champ de bataille, le rythme de la guerre. Donc les IA permettent de définir. Après, il

y a

la question de l'autonomie intégrale, qui est de savoir si le drone

arrive

sur place, ne trouve pas sa cible, est-ce qu'on l'autorise aussi à en chercher une autre ? Parce que, par exemple, il va sur un terrain, sa cible, ça peut être peut-être un poste de commandement, il ne le trouve pas, mais il voit un char. Est-ce qu'on autorise l'IA à dire que ce char peut être intéressant ?

Je vous pose la question, est-ce qu'on autorise l'IA à le faire en Ukraine

?

On ne le sait pas, parce que pour

le coup, ce sont des

sujets... Sans doute que les Russes l'autorisent ou pourraient l'autoriser parce qu'ils n

'ont

pas les mêmes règles éthiques que nous. Techniquement, c'est encore compliqué, sans doute, de le faire. Mais si ce n

'est

pas pour aujourd'hui, c'est pour demain.

Je

voudrais qu

'on

dise un mot, Marie-Denège Ruffaut, de la question de l'intelligence artificielle qui vient bouleverser quand même, ou au moins accélérer l'autonomie des machines. Le second terrain dont je voudrais qu'on dise un mot rapidement, c'est Israël, qui a l'air très avancé dans ce domaine. Il existe, je crois, le logiciel Lavender. Est-ce que vous pouvez nous en parler ? La cible et l'ordre de tirer... Enfin, je crois qu'il y a 20 secondes de laps de temps entre le ciblage par la machine et la décision de tirer, dites-nous.

Ça

a été publié dans un article du Guardian, cette idée que, effectivement, l'utilisateur n'aurait que la capacité d'appuyer sur le bouton très vite une fois que la cible avait été proposée par le système. Et donc, l'apport

de

la décision de l'humain était réduit à peau de chagrin. Donc, c'est un travail journalistique important qui a été fait là-derrière pour parler de la réalité du terrain du soldat qui, simplement, devrait choisir rapidement le plus en plus de cibles, mais sans véritablement les valider et déterminer si elles sont bel et bien pertinentes, avec le risque, évidemment, que les données sur lesquelles se base l'IA

soient

erronées. Et on parle du cas en Israël, mais on peut parler aussi en Iran. On a bombardé par erreur une école de filles parce qu'à une certaine époque, ces bâtiments-là avaient une destination militaire. Donc, le problème de l'IA, c'est qu'elle n'est aussi bonne qu'en fonction des données qu'on lui donne.

Et

là, si le renseignement est périmé, les IA du monde vous donnera une cible qui n'en est plus une, enfin, qui n'est plus justifiée. Alors, il

y

a toute une question de sécurité, évidemment. Soit on prend le risque d'envoyer un drone qui sera brouillé ou un drone qui garde des communications avec le problème du bug.

Et

alors, on se dit, pour répondre à ça, je vais utiliser de l'IA et le drone fonctionnera tout seul quand je perds ma connexion. Mais dans le même sens, on peut aussi risquer de camoufler pour l'IA. Qu'est

-ce

que j'entends par camoufler pour l'IA ? C'est que vous voyez un tank à proximité, comme le proposait Nicolas Barotte, mais on peut aussi camoufler pour l'IA. Donc aujourd'hui, même s'il

y

a des reconnaissances de vidéos, d'images qui sont faites pour que les IA reconnaissent

des

tanks, eh bien aujourd'hui, on crée des camouflages pour tromper ces reconnaissances d'images. On met du treillis à poules autour. Et là, l'IA ne reconnaît plus votre tank. Mais on peut très bien envisager qu'à l'inverse, on est déguisé des cibles qui auraient pu être protégées en vertu du droit international humanitaire et que l'IA va tirer dessus en

pensant que

ce programme l

'autorisait. Tout avancé technologique comprend en elle-même sa riposte et on comprend aussi que si ses limites technologiques se réduisent, les questions éthiques, elles, s'élargissent. On en parle juste après le journal de 8h. Restez avec nous tous les deux. Tout de suite, le journal.

Et

nous retrouvons nos deux invités Marie Desneiges-Ruffaut avec nous depuis Namur. Et je vous en remercie, Nicolas Barotte en studio, deux experts des nouvelles technologies qui transforment le champ de bataille et viennent perturber la compréhension morale de la guerre. J'aimerais qu'on fasse un petit tour d'horizon des différentes puissances et de leur avancée dans les domaines technologiques qu'on a déjà évoqués, les robots, les drones, l'intelligence artificielle. Qui fait la course en tête ? Au départ, ce sont les Etats-Unis. À l'heure actuelle, Nicolas Barotte, quelles sont les grandes puissances dans ce domaine

? C'est

toujours les Américains parce qu'ils ont les grandes compagnies de la tech qui poussent le développement pour ce qui est des IA. Ils ont des financements et ils ont la volonté d'investir. Par exemple, ils ont créé à la rentrée un nouveau commandement de la guerre autonome. C'est le signe qui va aller très vite.

Les

Chinois ont aussi beaucoup d'argent, ils investissent et ils ont un rapport à l'IA, assez débridé, peu de contrôle éthique. Ils veulent capitaliser. Les Russes aussi, ils ont un peu moins d'argent mais ils ont volonté d'avancer. Comme on l'a dit, la guerre est un driver qui les pousse à avancer. Et après, les Européens,

eux,

ils ont de la ressource humaine, des ingénieurs qui sont capables de développer des nouveaux systèmes. Mais leur problème, c'est les financements et leur capacité à aller assez vite alors que ce domaine, on l'a dit, évolue extrêmement rapidement.

Ce

qu'on comprend, c'est que derrière les différentes puissances à la manœuvre dans le domaine de ces évolutions technologiques, il y a aussi différentes conceptions, notamment du rôle de l'intelligence artificielle. Marie-Denège Ruffeau. Est-ce qu'il y a autant de rapports éthiques à ces nouvelles armes qu'il y a de puissances ?

Alors,

les règles éthiques, si elles sont reliées aux mœurs, peuvent changer. Mais je crois aux invariants définis notamment dans le droit international humanitaire, dans la Déclaration universelle des droits de l'homme. Donc, quand on dit qu'on n'obéit pas aux mêmes règles éthiques,

c

'est partiellement vrai. C'est partiellement vrai. Disons que dans les pays démocratiques, qu'on essaie de s'imposer des limites qui sont difficiles à faire, mais que les militaires sur le terrain pourront témoigner qu'elles sont réalisables, même s'il y a des défis qui se posent. Donc, il est tout à fait possible de combattre en respectant des règles éthiques

qui

correspondent à leur traduction légale du droit international humanitaire

et toute leur déclinaison. Oui, mais vous nous parlez des pays démocratiques.

Or,

dans la liste de Nicolas Barotte, Chine, Russie, même États-Unis, on n'y

est

pas complètement. Est-ce qu'on sait que si la Chine, par exemple, a une doctrine particulière ? Nicolas Barotte a employé l'expression « usage débridé ». Qu'est-ce que vous en pensez, Marie-Denège Ruffeau

? C

'est délicat de répondre d'une façon aussi tranchée, évidemment. Je vais répondre d'une façon biaisée, enfin, pas frontale.

Je

crois en la capacité de chaque peuple à reconnaître l'importance de la dignité humaine

et

à reconnaître l'importance de protéger celle-ci, y compris qu'on soit chinois ou pas. Je vais en donner un exemple légal, l'existence d

'un

droit international humanitaire de la clause de Martens.

La

clause de Martens, elle suppose que les partis, en l'absence d'une interdiction, par exemple, des salas, en l

'absence

d'une interdiction formelle, néanmoins, les États-partis doivent respecter les exigences de la conscience publique. Cette clause

de

Martens, c'est un Russe qui l'a proposée.

Ce

que je voudrais dire, c'est qu'il n'est pas impossible d'espérer que n'importe quelle nation, peu importe ce qui se soit passé dans l'histoire récente ou ancienne, est capable, à un moment donné, de reconnaître l'importance

de

respecter la vie humaine et de protéger les civils. Alors, il est évident que ce qui est présenté pour l'instant par certaines nations comme la Chine ou la Russie, c'est un message qui nous dit « Nous n'avons pas les mêmes limites que vous » pour essayer de dire que la guerre serait donc plus violente encore si elle était menée par ces nations-là.

C

'est un discours comme un autre.

C

'est un discours guerrier qui a aussi une vocation à influencer nos décisions. Ce qui est important, c'est de défendre le point de vue

de

l'humain, de la personne humaine, bien entendu, de la protection des civils, même si effectivement, la guerre peut être un usage évidemment important de

la force. Nicolas Barotte, on comprend qu'il y a finalement des discours de dissuasion derrière ces messages sur l'usage de l'intelligence artificielle ou d'autres systèmes d'autonomisation des armes.

Oui,

parce que tout le monde est à conscience qu'il y a quand même besoin de poser des règles, de régulations. Une nuance prête, c'est que les pays révisionnistes comme la Russie aiment bien revendiquer des règles qui sont pour les autres, en fait. et ils ont toujours des débats à l'ONU qu'ils n'ont jamais respecté eux-mêmes. En fait, la vraie limite pour les militaires,

c

'est que tous les militaires, quels qu'ils soient, que ce soit en Russie, aux Etats-Unis ou ailleurs, veulent garder le contrôle de leurs armes. Et donc, leur crainte, c'est de perdre le contrôle de l'usage de la force. Parce que même si on a une velléité guerrière agressive,

tout

chef militaire peut quand même maîtriser l'effet, atteindre son objectif et ne pas être débordé par un système qui ne contrôle

pas. Trop autonome,

en fait. Trop autonome, en tout cas, dont les conséquences ne seraient pas maîtrisées.

Est-ce qu'on peut, si on revient sur le terrain européen et français en particulier, est-ce que vous pouvez nous dire quel est le niveau de robotisation de

l

'armée française et quel usage est fait de l'intelligence artificielle jusqu'où va l'autonomie de nos systèmes, Nicolas Barotte ?

Alors, en France, objectivement, c'est très faible. On est très en retard pour des questions de financement essentiellement. Il

y a

des réflexions qui ont commencé

très

tôt, avant même la guerre en Ukraine, sur les horizons de robotisation, sur les systèmes autonomes, les systèmes intégrants de l'autonomie. Donc ça, ça ne date pas d'aujourd'hui. Il y avait un programme qui a été lancé avant la guerre en Ukraine, qui s'appelait Vulcain, de robotisation de

l

'armée française, mais qui était à horizon 2030, 2035, beaucoup plus loin. On n'est pas dans le délai, dans le timing de la nécessité d'aujourd'hui. Donc là, aujourd'hui, par exemple, il y a des projets, des programmes en cours de robotisation, comme le programme Pendragon, par exemple, qui vise à avoir

une

première unité opérationnelle, donc qui sera utilisée à l'été prochain.

Ah non, ça c'est beaucoup plus court comme horizon.

Pendragon,

été prochain, une unité, ça va ressembler à quoi cette unité ?

Alors, concrètement, ce sera très peu déjà, c'est vraiment, c'est un laboratoire, c'est une expérience, mais on aura, si les projets sont effectifs, une quinzaine de drones terrestres, des drones aériens, de soixantaines, tout ça commandé par

un

chef, par un humain. Et donc, on sera vraiment, sur les dessins dont on parlait tout à l'heure, où on pourra confier une mission

à

une unité qui fera l'équivalent de ce qu'aura fait une compagnie. c'est-à

-dire

qu'en ce modo, 150 soldats, ce sera quelques dizaines de dizaines de robots qui pourront, soit protéger une position, assurer un convoi, que sais-je, en tout cas, on leur confie une mission

et

les systèmes, grâce à de l'autonomie embarquée, grâce à des capacités de manœuvre aussi, pour remplir une mission.

Ça,

c'est la France. On est en retard avec quelques programmes qui accélèrent.

Au

niveau européen, comment se positionnent nos voisins et je mets le Royaume-Uni dedans, Nicolas Barot encore ?

Ils sont très en retard aussi parce que tous les pays ont soit des problèmes de financement, les Britanniques sont de bonne armée mais ils ont des problèmes de financement qui sont catastrophiques et donc ils parlent beaucoup d'hybridation de leur système, notamment pour leur marine qui est très fragile et donc ils veulent développer des drones marins. D'autres pays, comme l'Allemagne,

sont

très en retard militairement. Donc ils ont de l'argent, ils peuvent investir mais dans les usages, ils ne savent pas faire et les règles éthiques pour le coup en Allemagne sont encore plus strictes, c'est très compliqué. Il

y

a d'autres pays qui ont conscience de la nécessité mais ils ne savent pas comment faire. Par exemple, quelques années, les Portugais ont dit qu

'on

va se doter d'un nouveau navire, ce sera un porte-drone mais on ne sait pas quel drone sera à l'intérieur mais on construit déjà le support. Ça montre que tout le monde a conscience de l'urgence mais qu'il n

'y

a pas forcément le savoir-faire, pas forcément l'argent, parfois des contraintes réglementaires aussi parce que les Américains sont beaucoup plus pragmatiques, on peut expérimenter. En Europe, il y a des contraintes de développement, ça ralentit les investissements, etc. Et donc, on perd du temps sur ce terrain-là pour des bonnes raisons de protection de la dignité humaine, etc. Mais en réalité, par rapport au rapport de force à la situation du terrain, on décroche, on risque de décrocher par rapport à d'autres puissances.

Marie-Denage Ruffaut, deux questions. D'abord, est-ce que l'Europe protège trop ? Non, c'est mal dit comme ça, la dignité humaine. Mais est-ce qu'on a du retard à cause de règlements peut-être un peu stricts ? Première question. Et deuxièmement, est-ce que vous observez un engouement des militaires pour ces pratiques ou plutôt de la méfiance ? Nicolas Barotte a parlé de leur volonté de garder le contrôle et c'est certain, c'est que beaucoup de ces technologies viennent changer les pratiques. Marie-Denage Ruffaut.

Alors, il est certain qu'aucun militaire sain d'esprit accepterait de développer, de laisser développer sur le terrain une technologie qu'il ne maîtriserait pas, qu'il ne comprendrait pas. Ça paraît une évidence. Donc, quand on parle d'autonomie, ce n

'est

pas l'autonomie du robot qui ferait n'importe quoi et qui déciderait comme nous sommes autonomes en tant qu'humains. Donc, il est important que nous conservions la maîtrise.

Mais

ça suppose aussi de comprendre ce qu'on fait et donc, au niveau de la souveraineté, de la programmation des IA, etc., ça a d'énormes conséquences.

Si

on n

'est

pas capable de les développer nous-mêmes avec des solutions souveraines, évidemment. Mais c'est pour faire un lien avec ce qui a été proposé

sur

le fait que la France peut être un petit peu en retard et puis tout d'un coup accélère. C'est vraiment un enjeu important d'être souverain dans le type d'IA qu'on utilise pour justement garder la maîtrise en fonction de nos valeurs, valeurs démocratiques. Je ne pense pas qu'on défende trop la dignité humaine au niveau européen. C'est une question qui se pose toujours quand on parle d'éthique militaire.

On

se pose la question mais est-ce qu'on peut gagner finalement tout en se battant, entre guillemets,

en

gardant une main dans le dos parce qu'on s'interdirait de faire ce que les autres en face s'autoriseraient. Non, parce qu'il y a un lien très clair entre le just in bellum, c'est-à

-dire

le droit pendant la guerre et le just post bellum, le droit après la guerre. Je vais m'expliquer.

Si

on s'est battu

entre

guillemets comme des bêtes pour utiliser le terme, c'est-à-dire d'une façon débridée, eh bien il est difficile d'arriver à une table des négociations et donc d'obtenir la paix. Or l'objectif de la guerre, ce n

'est

pas juste qu'elle se poursuive et qu'on tue un maximum de monde,

c

'est, comme le disait Klaus Witt, la poursuite de la politique par d'autres moyens et donc obtenir que la solution soit sur la table, que les différentes parties obtiennent ce qu'elles cherchaient à la base en déclenchant les hostilités et donc ça suppose qu'on puisse dialoguer ensemble et si on s'est battu d'une certaine façon qui rend impossible

d

'encore avoir un respect pour la partie en face à tel point qu'on ne veut pas s'asseoir ensemble à la table des négociations, eh bien il n'y aura pas de paix.

Donc

on peut se dire ah oui mais non on est à la traîne, mais on protège trop, etc. Mais qu'est-ce qu'on cherche ? Qu'est-ce qu'on cherche au final ? On cherche à rétablir la paix et la guerre n'a pas vocation à durer, ça coûte cher en homme, en temps, économiquement. Donc la guerre, ce n

'est

pas une activité normale même si certains vont vous dire qu'elle est naturelle donc il faut qu'elle cesse

et

pour ça, il

y

a un ensemble de règles qui sont là pour baliser son déroulement pour qu'à un moment donné, on arrive à se mettre à la table des négociations et que ça cesse.

Vous

nous dites que la bestialité, la barbarie dans le combat c'est en fait un facteur négatif et que ça empêche ensuite les négociations, ça c'est en effet dans le cadre de pays dont l'objectif est de rétablir la paix. Qu'est-ce que vous en pensez Nicolas Barotte ? Est-ce que c'est ce qu'on observe là je pense encore une fois au terrain ukrainien ? Est-ce que la Russie se maîtrise en se disant comme ça à la table des négociations on sera entre humains qui se sont respectés ou est-ce qu'au contraire on a un usage de la force qui se débride volontairement pour éviter la paix

? Oui

mais là c'est pour le

coup

pas une question ni d'autonomie ni de robotisation.

C

'est que les crimes de guerre russes ont lieu malheureusement peu importe les armes en fait. Ils commettent des crimes de guerre parce qu'ils ont malheureusement des objectifs qui sont de destruction mais là on n

'est

pas du tout sur le sujet de la robotisation en fait. Après il y

a

un sujet quand même qui se pose c'est est-ce que la robotisation ça accélère l'engrenage de la violence parce que si on ne met pas des êtres humains sur le front est-ce qu'on va plus vite à l'affrontement ? Et c'est une vraie question qui est posée Ou est-ce qu'au contraire est-ce qu'on protégerait plus les vies humaines grâce à l'visage de robots ? On protège la vie des soldats et ça ça change aussi un petit peu la philosophie de la guerre c'est que dans la bataille le soldat il porte la mort mais il prend le risque de perdre la sienne donc il y

a

un ordre d'équilibre. S'il y

a

un camp qui est robotisé et qui ne risque pas sa vie face à un autre on déséquilibre ce rapport un peu philosophique donc ça des questions qui existent et après il

y a

l'autre chose c'est est-ce que l'autonomie la dronisation ça peut conduire des puissants des états à aller plus vite à l'affrontement parce qu'ils vont détruire que des robots et donc l'engrenage sera plus rapide ou au contraire effectivement ça peut mieux encadrer ça on ne sait pas encore en fait.

Marie-Denage Ruffaut qu'est

-ce

que vous en pensez ? Est-ce qu'on augmente la violence on accélère l'engrenage ou est-ce qu'on protège des vies avec la robotisation

? On

fait les deux Nicolas Barotte a très bien pointé qu'on protégeait le soldat mais quitte du civil en fait le soldat est là pour défendre sa patrie les valeurs démocratiques pour lesquelles on l'envoie mais plus il va reculer plus on va mettre un robot à la place plus finalement qui est exposé qui reste sur le terrain et bien c

'est

le civil

et

donc la violence elle va s'exercer toujours sur le civil et donc on arrive à des actions de type guérilla guerre asymétrique où on va voir naître des phénomènes de terrorisme parce que la partie en face et c'est très juste peu importe la technologie utilisée la partie en face veut

faire

du tort veut faire du mal et s'il n

'y

a pas d'humain et bien il va trouver ce qu'il y a autour pour encore une fois montrer qu'il est une force de nuisance et que pour essayer d'imposer sa volonté et bien encore une fois quelle que soit la technologie donc je l'avais dit en début de cette interview la nature de la guerre elle n'a pas changé on utilise des moyens de plus en plus rapides mais à partir du moment où on n'aura plus un robot et bien on va continuer à faire la guerre mais même avec des cocktails molotov avec des pierres avec tout ce qu'il y a il va y avoir une hybridation de la guerre dans le sens où il va y avoir une très haute intensité donc l'utilisation de robots contre deux robots et en même temps on va continuer à utiliser des moyens des bouts de ficelle on va utiliser un smartphone civil on va utiliser des applications civiles mais pour des applications qui n'étaient pas prévues à la base par exemple militaires on va trouver sur le front ukrainien pas que là d'ailleurs des communications whatsapp où on va communiquer via whatsapp des données militaires

Nicolas

Barod c'est ça la guerre du futur haute technologie et bouts de ficelle

oui

mais je dirais quand même qu'il y

a

un sujet de commandements parce qu'au bout du compte la guerre c'est d'abord quels sont les objectifs et ça ce ne

sera pas

les machines qui vont définir si on bombarde une ville

un

hôpital ou des positions militaires donc là pour le coup ce moment où les populations civiles sont vraiment exposées ça reste quand même un choix politique militaire et humain il n

'y

a pas aujourd'hui il n

'y

aura pas demain d'IA qui vont décider seuls de l'objectif militaire donc après il y a

effectivement

dans les technologies une hybridation parce qu'il y a beaucoup de technologies qui viennent du monde civil l'IA par exemple est développée par Anthropik Open Air etc davantage que par des laboratoires militaires donc il y a un mélange il y a un mélange aussi effectivement des technologies comme on l'a dit avec les smartphones mais à un moment donné l'objectif de la guerre la volonté elle restera définie par des individus

Marie-Déna Joruffo un mot sur ce mélange civil-militaire c'est quand même une rupture ça dans la guerre le fait que les technologies civiles soient plus en pointe que les technologies militaires et du coup les militaires se retrouvent à aller importer des technologies civiles et donc peut-être d'ailleurs qu'il en vient une nouvelle responsabilité des ingénieurs civils je ne

sais

pas ce que vous en pensez

alors

oui effectivement plus on dépend de la programmation de la machine plus effectivement l'ingénieur qui l'a paramétré peut-être pas responsable mais j'insiste aussi que la question de la volonté politique qui a été évoquée est importante aussi encore une fois qu'est-ce qu'on développe est-ce qu'on demande qu'est-ce qu'on demande à l'ingénieur aussi donc l'ingénieur porte sa responsabilité mais le politique qui va demander d'utiliser tel ou tel système est tout autant responsable c'est une chaîne de responsabilité qui touche toute personne qui est à l'intérieur de cette chaîne

je

voudrais vous entendre en conclusion Marie-Denège Ruffaut sur les enceintes internationales et le droit international savoir s'il y a en ce moment des élaborations des réflexions de limitation des usages de l'intelligence artificielle et des systèmes autonomes de manière globale

ça

fait des années qu'on essaie d'obtenir un ban c'est-à

-dire

une interdiction formelle de l'emploi des salats et qu'il y a une difficulté à s'accorder sur la définition

du

salat et puis des objections des grands pays qu'on peut deviner sur l'existence à

l

'avance de ces outils mais il faut être conscient aussi que même si on obtenait une interdiction et bien il arrive en effet que certains pays considèrent que ces interdictions ne valent que pour les autres

mais

il faut toujours retenir que la guerre c'est un moment particulier

qui

a l'air de suspendre le blâme

mais

néanmoins il faut retenir qu'il est important de faire justice

à

la fin des hostilités d

'où

l'importance que ces hostilités prennent fin

pour

ouvrir la voie à la paix et à la justice donc je rappelle les salats donc ce sont des systèmes d'armes létales autonomes merci beaucoup Marie-Denège Ruffaut je rappelle que vous êtes professeure de philosophie à l'université de Namur j'en profite pour citer votre ouvrage itinéraire d'un robot tueur publié aux éditions Le Pommier Nicolas Barod tous vos articles sont à retrouver sur le site du Figaro dont vous êtes le correspondant Défense un grand merci à tous les deux on se quitte avec un peu de musique le duo Caterina Barbieri et Cali Malone

et Cali Malone et Cali Malone et Cali Malone