Les enjeux de l'IA dans la défense française

France Culture les matins d'été Quentin l'a fait le 8 mars dernier le ministre des Armées Sébastien le Cornu annonçait la création d'une nouvelle agence ministérielle pour l'IA de défense l'amiade celle-ci à terme a pour but d'aider la France à devenir le leader mondial de l'IA militaire et constituant cela un enjeu de souveraineté décisif à la tête de cette agence de défense Bertrand rondpierre bonjour bonjour quel âge avez-vous bertr rondpierre je vais avoir 34 ans comment arri-ton à 34 ans à la tête d'une agence si stratégique pour le pays c'est une question que je confesse me poser moi-même parfois euh je pense que ça s'explique grandement par mon parcours j'ai commencé au ministère des armées enfin pour l' faire courte ensuite je suis allé chez Google donc chez wal team m on en reparlera probablement et quand on fait le la somme des compétences et des connaissances qu'il fallait avoir pour un poste comme ça il me semble que la liste était pas si développée que ça et accessoirement quelques antécédents avec le sujet de l'intelligence artificielle pour ministère ont fait que mon nom était dans la liste vous êtes d'abord un spécialiste de l'intelligence artificielle bien plus peut-être que de la chose militaire justement je pense que j'ai un bon équilibre c'est-à-dire que par mes études j'ai commencé à travailler dans l'a avant que ça s'appelle lia d'ailleurs en tout cas avant qu'on en parle dans le grand public comme de Lia à l'épo on disait data Big Data ça a évolué mais à l'époque c'était déjà un sujet de préoccupation pour la chose militaire donc en tout cas tout cette partie data et c'est devenu lia que assz récemment donc et par les études d'intelligence artificielle mais par le parcours la défense des mes premières années en fait vous avez mentionné Google vous y avez travaillé un certain temps plusieurs années même qu'est-ce que vous y avez fait alors j'ai fait pas mal de choses en réalité tous les 6 mois moi j'aimais bien dire que je changais de boulot sans changer d'équipe ou de de de de poste de façon très stricte euh j'ai commencé quand en 2018 ils ouvrait le labo de Google brain en France donc il y avait toute une partie on va dire d'explication de faire le lien entre Google qui est pas une boîte qui qui est tourné essentiellement vers les États-Unis donc expliquer un peu les par particularés françaises de la recherche française notamment et au fur et à mesure je me suis tourné de plus en plus vers l'Europe on a ouvert des bureaux à l'époque à Londres au Ghana à Akra à Berlin à Amsterdam donc il y avait tout un enjeu au niveau européen et par la suite avec le covid un semble de chose la boîte c'est un peu reverticalisé j'ai trava avec les États-Unis enfin essentiellement des projets de recherche et de l'organisation pour faire en sorte que tout ça fonctionne quand on s intéresse aujourd'hui à l'intelligence artificielle est-ce qu'il faut travailler à Google est-ce que c'est là que ça se passe si je puis dire alors c'est une bonne question je pense que l'époque a changé également c'estàdire que quand je suis parti du ministère en 2018 euh très clairement le sujet était en train d'émerger mais moins que ce qu'on a vu ces ces dernières années bien évidemment et on va pas se mentir à l'époque les gafas c'était l'endroit où on avait les meilleurs chercheurs on avait les meilleures technologies les meilleurs moyens pour pouvoir travailler aussi et donc la réflexion réflexion qu'on pouvait se faire c'était pour apprendre en fait dans ce domaine- là cétait un endroit assez naturel chose qui a changé ces dernières années bon chez Google on imagine ah Google plutôt on imagine le salaire élevé les conditions de travail agréables qu'est-ce qui fait que vous avez choisi de retourner dans le service public français alors de retourner effectivement je pense que c'est un point important c'est que c'est pas une envie qui m'a prise en sortant de chez Google c'était un un fil dans ma carrière et surtout je suis parti chez Google en me disant que les compétences que j'allais acquérir pouvait être remise au service de la France ou de l'industrie française européenne plus largement euh donc grosso modo ce retour il y a il y a deux choses donc déjà le ministre qui se saisit du sujet c'est quand même un signal assez significatif la volonté d'accérer le contexte géopolitique qui est celui vous connaissez fait que lia en gros c'est maintenant ou jamais d'une certaine manière et c'est vrai que quand vous vous retrouvez dans une situation comme moi où en plus vous l'avez dit au départ j'ai 34 ans euh on vous dit finalement on vous donne les clés du ion pour changer les choses pour le ministère des armées c'est une proposition intéressante et moi c'est ce que je vends aussi on en parlera probablement d'un point de vue ressources humaines parce que j'embauche énormément le sens de la mission le contexte le fait de faire de l'a pour un sujet de souveraineté pour le militaire la défense c'est quelque chose qui raisonne et forcément je suis le premier à à avir ce discours et du coup à me l'appliquer à moi-même aujourd'hui donc Bertrand rondpierre vous travaillez pour le ministère de la Défense est-ce que vous êtes civil ou militaire je suis civil est-ce que c'est compliqué d'être un civil dans dans un environnement militaire est-ce que vous êtes accepté par par vos collègues c'est une bonne question oui je suis accepté je je vous rassure et justement je pense que c'est un des changements parce que dans au sein de l'agence on va avoir essentiellement des civils j'ai quelques militaires que je récupère cette année les années suivantes parce qu'on a besoin de faire le lien entre le le militaire et le civil justement et c'est justement tout cet enjeu d'arriver à faire coexister ces deux milieux et l'hybridité d'une certaine façon entre le militaire et le civil c'est précisément ce qu'on a à construire en matière d'IA parce que l'IA n'est pas une matière exclusivement militaire bien donc contire vous êtes donc à la tête de cette agence ministérielle pour l'IA de défense laamade à quoi ça sert la miade alors déjà à accélérer en fait c'est le premier point et le plus important et je le résume souvent quelle est la mission de la miade c'est de mettre de li en production c'est faire en sorte que nos forces armées demain de préférence et quand je dis demain c'est de préférence dans les mois qui arrivent si ce n'est dans les semaines qui arrivent disposent pour leurs besoins opérationnels d'application d'IA qui leur permet de faire tout un tas de choses plus efficacement meilleur accès à l'information meilleure interrogation de base de données renseignement on pourra en reparler euh faire en sorte que ces outils soient disponibles pour eux demain et l'enjeu c'est que dans un ministère on a beaucoup de complexité j'aime bien dire que le on a les mêmes problèmes qu'une entreprise moyenne qu'une grosse boîte moyenne parce que le ministère c'est quelques centaines de milliers de personnes on a les mêmes problèmes que tout le monde mais en plus compliqué du fait de la chose militaire et donc faire de Lia dans ce contexte c'est pas du tout natif et c'est justement l'enjeu de l'agence d'arriver à faire atérir ça il faut nous expliquer très concrètement à quoi sert l'intelligence artificielle appliqué au domaine de la défense alors le spectre est extrêmement large on va prendre quelques exemples et peut-être pour le dire ça va de ce qu'on appelle l'organique c'est-à-dire que je l'ai dit minè c'est une entreprise comm une d'une certaine manière donc les agents on les besoins du quotidien que n'importe qui d'autre a jusqu'à des choses très embarquées donc par exemple autodirecteur de missile des choses où il y a déjà de la donc autodirecteur de missile c'est ce qui par exemple va faire le guidage terminal poste tir pour affiner la le point d'atterr AG et en plein milieu tout ce qui va être en temps réfléchi le renseignement par exemple donc ça c'est c'est le spectre peut-être pour donner deux exemples de nature différentes si en a un premier qui va être la maintenance par exemple on a ça vous a pas échappé des bateaux des avions qui ont tous des modes d'emplois des façons de faire la maintenance qui sont spécifiques et complexes ce qui fait qu'aujourd'hui un mécanicien sur le terrain avoir un assistant qui lui permet de d'interroger cette documentation efficacement et de savoir comment il doit réparer tel ou tel panne ça c'est évidemment un premier cas d'application un deuxième qu'on a présenté à vivateek c'est ce qu'on a appelé le cas ore d'or on a pour ceux qui ont regardé le vivateek a un grand salon des nouvelles technologies tout à fait euh donc Ory d'or on a des experts qui sont c'est pour ceux qui ont vu le chiamp du loup capable de repérer dans le bruit sous-marin le bruit ambiant les navires qui qui se baladent et donc le cas au Raider en fait permet de prendre tout ce son en fait sous-marins qui est perçu par des espèces de de de grands capteurs qu'on a dans les fonds marins et d'arriver à trouver les les signaux d'intérêt donc les petits morceaux du son qui s'associent à des bateaux et les aider du coup à à isoler ces morceaux de de signal et à identifier ce qu'ils peuvent potentiellement contenir vous parliez de de renseignement est-ce que cela permet c'est vrai dans ce brouillard de la guerre c'est une expression récurrente dans le champ militaire est-ce que ça permet de mieux connaître ce qui se passe concrètement sur le terrain l'intelligence artificielle tout à fait alors d'abord un sous-jacent parce que l'intelligence artificielle c'est beaucoup de données avant tout donc déjà la donnée permet justement de mieux appréhender ce ce brouillard de guerre comme vous le dites l'intelligence artificielle ce qu'elle rajoute en plus c'est la capacité à prendre tout ce toute cette masse de données qui peut venir des différents porteurs les avions les bateaux les capteurs qu'on a sur le sol et prendre tout ça en fait pour ne pas avoir l'opérateur qui soit submergé de données lui permettre non seulement de l'appréhender de la naviguer éventuellement de l'interroger c'est ça que a permet de faire mais avec en sous-jacant toujours cette donnée pourquoi est-ce que c'est d'abord et avant en tout un enjeu de souveraineté li a de défense bon déjà par la nature de l'application on fait la défense on fait du militaire donc le le la question de la souveraineté se pose de façon assez spécifique on peut en convenir en revanche ce qui se fait souvent débat c'est la nature de la souveraineté alors on va pas faire on va pas le refaire ici je pense que c'est c'est pas le sujet en tout cas pour la partie qui concerne l'agence il y a déjà un premier enjeu qui est celui de la compétence c'estàd que la souverainté avant tout c'est être capable de faire faire en autonomie faire tout seul quand le reste reste de l'industrie des pays pourrait vous faire défaut donc c'est pour ça que le chantier RH de laamade il est assez gigantesque ce qu'on fait on embauche des experts en ya et c'est cette première composante en fait de reprendre une partie de la souveraineté en matière en matière d'IA oui parce que pardonnez-moi je je précise une chose la souveraineté c'est effectivement être capable de fabriquer nous-même le matériel les logiciels les infrastructures c'est aussi être capable de les faire fonctionn par nous-même exactement et si en parlant d' il y a une notion de modèle on a entendu parler pour certains de modèles de fondation modèles de langage géant ceuxci aujourd'hui sont essentiellement livrés par des entreprises privé il y en a françaises Mistral français pour ne pas la citer les Gafa Google on en a parlé et donc tout l'enjeu c'est justement d'être capable de s'approprier ces technologies de les maîtriser et à terme éventuellement même entraîner nos propres modèles pour la défense pour les capable part d'applications particuliers que nous avons je voudrais citer quelqu'un que vous connaissez bien vous avez travaillé avec lui il s'agit de Cédric Villani dans la revue de défense nationale les processeurs sont de conception majoritairement américaine aujourd'hui et produit par des fondeurs tels que le taiwanais TSMC en situation de quasi monopole fin de citation la France aujourd'hui dans le domaine notamment des infrastructures en intelligence artificielle de défense n'est pas souveraine alors ça dépend effectivement de la notion sous qu'on y met donc en matière de puce on va pas se mentir le marché est celui que vous avez décrit euh et donc forcément j'ai pas de baguette magique je ne peux pas y faire grand-chose pour autant ça veut pas dire qu'on n pas des solutions européennes voir françaises qui sont en train d'émerger simplement c'est un enjeu qui dépasse très largement le sujet de la défense et notamment pour tout ce qui va être embarqué il y a une entreprise qui s'appelle caleray en l'occurrence qui fait des choses assez intéressantes donc justement parmi les enjeux de souverinité de la miade il y a dans faire atterrir l' en prod également cette partie hardware qui est à prendre en compte avec des gros fa nous expliquer de quoi il s'agit pardon le hard a donc en gros tout ce qui va être les puces les ordinateurs qui permettent de faire tourner ces algorithmes et donc du du plus gros on va dire le central le super calculateur que le ministre annoncé dont on pourra reparler et du plus embarqué sur un missile des petites puces qui permettent de mettre des petits modèles d'IA qui permettent de faire le travail sur le terrain lorsque vous dites aujourd'hui que vous voulez faire de la France le numéro 1 en Europe de l'intelligence artificielle militaire qu'est-ce que ça veut dire être numéro 1 dans ce domaine concrètement comment on mesure le fait d'être sur la première marche du podium c'est une c'est une excellente question j'avoue que je me l'étais pas posé en terme de maîtrique mais effectivement déjà il y a une il y a de maîtriques assez évidentes il y a les RH et les finances en matière de RH laamade c'est 300 personnes d'ici 2026 et puis en plus c'est des domaines sur lesquels on peut dépenser beaucoup d'argent et mettre beaucoup de monde et être tout à fait inefficace c'est tout à fait vrai euh la nature du recrutement sur les 300 personnes en gros c'est des experts on a pour au moins 75 % on reste une administration donc on a forcément besoin de fonction support faire en sorte qu'on pu puisse acheter vivre au quotidien mais l'idée l'ambition c'est bien de maintenir essentiellement une population d'experts euh et donc effectivement ça ne garantit pas l'efficacité mais déjà ça garantit qu'on a la matière pour travailler ce qui est une première chose ensuite du point de vue finance le ministre l'a dit 300 million d'euros par an alors je vous Raj je vous rassure pardon ce n'est pas mon budget annuel en revanche c'est l'effort qui est consenti par le ministère dans son ensemble sur les différents programmes programmes d'armement les programmes internamade et beaucoup plus largement en matière d'IA sur les projets qui touchent à lia et donc ça c'est des maétriques sur lesquelles on est capable d'objectiver un petit peu même si la compétition c'est des sujets confidentiels euh la compétition est toujours difficile à évaluer parfaitement je cite votre Ministre Sébastien Lecornu dans les échos le 8 mars dernier soit on prend date tout de suite à propos de l'intelligence artificielle de défense soit on décroche pourquoi on pourrait décrocher parce qu'on voit bien qu'il y a une accélération euh depuis 2022 et un petit peu avant chat GPT et compagnie euh c'est pas qu'une question de défense si je reviens même à l'industrie civile c'est quelque chose que moi j'ai vécu quand j'étais chez Google le décrochage en fait l'accélération je je l'ai vécu au tout premier plan et de voir une matière sur laquelle Google était pourtant en pointe pas quasiment lui échapper mais en tout cas voir qu'il y avait vraiment une une accélération de l'ensemble donc évidemment du point de vue défense on l'a ressenti également et on l'a ressenti comme je disais dans un domaine où tout est compliqué parce que la sécurité les opérations tout ça fait que lia n'est pas un objet qui s'incène nativement en fait dans le système de défense euh donc décrocher ça voudrait dire une technologie des applications en fait qui commence à être beaucoup trop loin dans le civil et pour lesquels on n plus capable de suivre le rythme et donc c'est effectivement ça que le ministre voulait dire et c'est le sens de la stratégie qu'il a mis en place est-ce qu'il y a un paradoxe selon vous Bertrand rondpierre à vouloir cheminer de plus en plus vers la souveraineté nationale vers la souveraineté du pays et dans le même temps de confier le développement de cette IA défense à des petites entreprises prise à des start-up comme on dit des jeunes pous qui aujourd'hui innovent principalement dans ce domaine non au contraire je pense que c'est justement l'enjeu qui se pose c'est-à-dire queaujourd'hui le on est sur un modèle en fait où on a des grands ma de industriel qui font des bateaux des sous-marins des système d'information tout ce que vous voulez et il faut prendre acte du fait que les entreprises en matière d'IA ne sont pas les entreprises habituelles du monde de la défense et donc tout l'enjeu pour la miia et pour le ministère plus largement c'est justement d'arriver à travailler avec ses entreprises plus petites start-up PME et de les prendre pour ce qu'elles sont on peut pas attendre d'une start-up qu'elle conduise son business comme un géant comme Tales naval Group knds qui vous voulez et donc c'est justement cette spécificité qu'il faut prendre en compte et arriver à construire c'est c'estes l'ambition une façon de travailler avec elle qui permette de les utiliser pour leurs compétences parce que elles sont en pointe sur ces sujetsl et en même temps sans les assommer de processus comme le ministère peut le faire avec des maîtres d'œuvre qui ont les reins plus solides et qui sont aptes à supporter cette charge et dans le même tempsil N a pas un risque que ces petites entreprises soient racheté un jour par des allez utiliser un grand mot des puissances étrangères alors c'est un sujet qui me dépasse très largement j'ai pas de véhicule d'investissement on pourrait parler de BPI France France 2030 tout ce que vous voulez évidemment que c'est des sujets que nous on regarde et qui nous concerne parce qu'on a besoin de savoir ce qui peut se passer mais justement dans cette nouvelle façon de travailler avec ces entreprises il y a ce que j'appellerai une relation transactionnel c'est-à-dire finalement ils ont un produit je l'achète merci bonjour au revoir c'est une façon de travailler ce qui fait que au-delà de la question souverainté qui se pose évidemment mais pas pour en tout cas qui n'est pas dans mes dans mes mains ça fait queon sait vivre dans le cas où ces entreprises passent sous fonds capitaux contrôle étranger tout ce qu'on veut après est-ce que c'est souhaitable c'est autre chose et on met des moyens en place y compris côté défense pour s'assurer que les pépites avec lesquell on travaille en tout cas et les moyens de rester en France vous nous avez parlé du super calculateur il faut nous expliquer de quoi il s'agit concrètement à quoi il sert alors un super calculateur c'est un gros mot pour dire un énorme ordinateur aujourd'hui pour faire de l'a il faut ce qu'on appelle des GPU donc graphical processes unit en gros c'est des cartes dans lesquelles on a plein de petits processeurs qui font beaucoup d'opérations en parallèle Ilia alors si on prend le terme mathématique ça fait de la multiplication matricielle donc en gros on a des gros tableaux de nombr qu'on multiplie avec d'autres gros tableaux de nombres aujourd'hui lia utilise C GPU parce que c'est la puce la plus efficace en fait pour faire ce genre d'opération ce qu'on a dans les ordinateurs classiques donc les CPU ne sont pas du tout adaptés à ces nouvelles opérations donc un super calculateur c'est quoi c'est une machine dans laquelle on a beaucoup de ces cartes plusieurs centaines plusieurs milliers parfois plusieurs dizaines de milliers et c'est ça qu'on fait l'acquisition pour laamade pour les cas d'usage de défense où on a besoin à la fois d'entraîner et de faire tourner ses algorithmes on va poursuivre cette discussion avec vous Bertrand rondpierre à partir de 8h20 on va parler notamment d'éthique et des conflits contemporain ce sera dans une trentaine de minutes un petit peu moins les matins d'été Quentin l' fait suite de notre discussion avec Bertrand rondpierre il est le tout nouveau directeur de la toute nouvelle agence ministérielle pour l'intelligence artificielle de défense et vous nous avez expliqué Bertrand rondpierre dans une première partie que cette intelligence appliquée intelligence artificielle appliqué à la défense permettait de mieux informer de mieux réparer est-ce qu'elle permett aussi de mieux tuer alors Infiné il faut évidemment se dire les choses faire la guerre c'est pas exactement ce que on fait dans le reste le reste du monde donc c'est des applications qui ont une certaine gravité il faut en convenir euh donc mieux tuer je ne sais pas enfin je c'est je pense qu'on pourrait s'attarder sur la définition de la chose par contre mieux faire la guerre oui en tout cas mieux faire la guerre d'un point de vue conduite des opération d'un point de vue efficience des différents vecteurs en tout cas des différents objets qui sont employés oui très clairement ça fait partie du spectre de la chose on a souvent l'idée un peu nébuleuse que l'intelligence artificielle c'est un sujet d'avenir queles sont concret déjà les les applications contemporaines de cette intelligence artificielle alors déjà en matière de renseignement militaire sur le terrain on en a parlé un tout petit peu tout à l'heure le brouillard de guerre c'est c'est vous qui l'avez mentionné sur le terrain le en fait alors peut-être pour parler d'un d'un quelque chose qui revient souvent dans les esprits l'intelligence artificielle versus l'humain on y reviendra peut-être aujourd'hui je pense pas que ce soit vraiment le sujet aujourd'hui c'est mieux équiper le décideur sur le terrain mieux équiper le décideur sur le terrain ça veut dire lui donner accès à l'ensemble des informations dont il a besoin pour mieux appréhender une situation qui est complexe avec de plus en plus de de vecteurs que ce soit dans nos armées ou celle des compétiteurs cette appréhension du terrain c'est évidemment ça que l'intelligence artificielle va aider nos décideurs à accomplir mais infin justement pour outiller l'humain et pas l'inverse mais donnez-nous un exemple concret comment on arme mieux le décideur militaire sur le terrain alors vous allez prendre enfin déjà une simple cartographie arriver à avoir en tant réel où sont les différents objets par exemple dans des applications maritimes arriz à voir sur la mer quels sont où sont les bateaux enfin quels sont les bateaux où sont les bateaux euh est-ce qu'il y a des anomalies trajectoire notamment c'est que vous avez plein de mobiles qui se baladent enfin vous avez des milliers d'objets que vous voyez sur une carte ça vous dit pas grand-chose donc arriver à attirer l'attention dire tiens en fait l'objet qui est là il a une trajectoire qui est bizarre ou donc la is qui est alors j'ai oublié le l'acronyme en tout cas qui est le le ce qui permet de signaler la position des bateaux d' officiel quand vous AZ un bateau qui éteint son A - qui leur allume est-ce que c'est un dfonctionnement est-ce que c'est bizarre ce genre de chos si on vous met face à une carte avec des points qui clignotent qui s'allument qui s'éteignent vous allez pas pouvoir le voir donc aider à appréhender c'est justement être capable de montrer quelque chose à un décideur pas seulement l'information brute mais l'information travaillée pour que ils puisse voir éventuellement ce genre de signaux et donc sur le terrain sur un théâtre de guerre c'est la même chose alors c'est pas des bateaux ça peut être un tas de choses des chars des humains tout ce que vous voulez mais le mécanisme est le même on dit on lit on raconte aujourd'hui que l'Ukraine que la guerre en Ukraine est un terrain d'expérimentation un laboratoire exceptionnel pour l'intelligence artificiel de défense est-ce que c'est vrai d'abord et en quoi ça permet de progresser dans ce domaine alors je je citerai mes collègues enfin en tout cas je je je je reconnais la citation de de certains de mes collègues évidemment oui l'Ukraine est un laboratoire assez intéressant et assez intéressant parce qu'en fait c'est une une nouvelle façon de faire la guerre estce que c'est la façon moderne de la faire je ne sais pas par contre ce qu'on constate sur le terrain c'est évidemment l'emploi de de Lia de façon assez récurrente pour donner un exemple il y a ce qu'on appelle la navigation en jnss deni ce qui concrètement signifie je sa pas ce que ça veut dire voilà donc on a pas de GPS on a pas de signaux tout est brouiller grosso modo donc par exemple le pilotage de drone ne peut pas se faire par téléopération classique puisqueil y a pas un signal qui passe pour relier l'opérateur à son drone donc on on comprend bien que dans une situation comme celle-ci avoir des mécanismes d'automatisme qui permettent de faire en sorte que le drone même brouillé puisse continuer sa mission de reconnaissance par exemple c'est un enjeu et ça c'est l'enjeu du quotidien c'est qu'aujourd'hui la guerre en Ukraine en tout cas ce que j'en vois euh il y a absolument aucun signal qui passe donc ça c'est l'état de fait dans lequel on se situe le deuxième point qui va avec c'est qu'une fois qu'on a dit ça donc il y a évidemment lia l'autonomie pour assurer la continuité mais il y a aussi lia parce que dans ce contexte on a des menaces qui évoluent et qui évoluent très très vite c'est que je je sais plus si je dis une bêtise mais je crois la durée d'un de vie d'un drone sur le terrain c'est 6 semaines notamment d'un point de vue logiciel ce qui signifie que si vous mettez en place des contemesures du brouillage ce genre de choses si jamais vous êtes pas capable de suivre le rythme de 6 semaines en fait vos drones vont tomber et donc forcément ce que ça implique mais c'est c'est pas spécifique à l'IA mais c'est d'autant plus important quand on parle d'IA c'est qu'on on sort pas des drones avec une durée de vie de 1 an sur de logiciel parce qu'en fait on a des objets qui évoluent qui évoluent en continu et qui évoluent en réponse à des menuses qui sont en face et donc ça c'est le genre d'enseignement qu'on tire de de la guerre en Ukraine notamment sur ce rythme et le l'usage de l'IA dans un contexte encore une fois brouillé qui est celui qu'on connaît Antoine bord Antoine bord c'est le président d'elsing le leader européen de l'intelligence artificielle de défense il dit ce qu'on apprend de l'Ukraine c'est que le logiciel devient primordial qu'est-ce que ça veut dire alors ce sont des pro avoir des propos qui n'engagent que moi ou en tout cas mon avis propre alors allez-y je je pense qu' en fait on est dans un univers où ce qu'on a vu sur le web d'ailleurs en fait on est passé assez progressivement donc du physique des machines à des objets centré numérique on a tous des smartphones dans nos poches on voit bien l'importance de la chose numérique dans notre vie quotidienne et finalement à mon avis le système de défense en fait est en train de subir une transformation un peu équivalente ce que je disais à l'instant sur les logiciels qui ont duré de viite de 6 semaines on finalement votre Smartphone vous le mettez à jour je sais pas toutes les semaines tous les jours peut-être je ne sais pas si vous êtes rigoureux c'est des modes de travail et de d'opération qui sont très classiques du civil donc en fait je pense que on voit aujourd'hui une importation de ces cultures du numérique à l'intérieur du système de défense qui est moins habitué et qui est historiquement plus concentré sur les gros objets les bateaux les avions comme on en a parlé et donc cette prépondérance je pense du numérique et du logiciel et du coup uneé de l'IA en fait c'est ça la transformation qu'on est en train de vivre et de dire en fait c'est le numérique qui est au centre et tous ces objets viennent alimenter numérique ou antica s'y connecter je voudrais qu'on parle d'un autre conflit actuel Bertrand rondpierre le conflit au Proche Orient entre Israël et le Hamas en juin 2022 la chercheuse Liran anbi exposait dans les colonnes de la revue vortex que l'État hébreux s'appuyait sur plusieurs logiciels dans ces opérations contre le Hamas carartes ciblebl armes à employer tout était détecté en gros et si je comprend bien par l'intelligence artificielle de défense on a évoqué cette idée que l'intelligence artificiel permettait d'être plus efficace pour éliminer des cibles comme on dit dans le jargon militaire en somme pour tuer quelle limite faut-il se fixer dans ce domaine quelle limite éthique bon d'une part c'est une réflexion qui est en construction et qui est évidemment mouvante en fonction de la technologie c'est que les discussions qu'on a aujourd'hui ne sont pas celles qu'on aurait eu il y a 2 ans il peut y avoir quand même des grands principes alors justement les grands principes ils ont cette vertu de normalement ne pas être trop dépendant de la technologie qu'on utilise euh en France on a un comité d'éthique dans le ministère qui réfléchit justement à l'usage de de ces nouvelles armes et euh la position qui a été prise notamment vis-à-vis de l'autonomie c'est toujours l'humain dans la boucle l'humain en supervision de la boucle come on le dit alors concrètement ce que ça signifie c'est que forcément à un moment donné il y a une décision qui est prise par un humain pour enfin pour tuer ou en tout cas pour faire quelque opération que ce soit sur le terrain euh ça veut dire que la technologie indépendante qui agirait sans prise de décision humaine sans prise de décision directement militaire pour l' instant en France ça n'existe pas alors ça n'existe pas mais surtout il faut s'enlever de la tête je pense le fait que l'a est une chose un peu autonome qui vit toute seule c'est que il y a des décisions de conception qui sont prises aussi quand on construit ces ces algorithmes et évidemment que un humain aujourd'hui peut décider de tout automatiser mais c'est une décision humaine quand même c'est c'est pas un fait imposé par la machine par l'algorithme c'est dans la vraiment dans la conception du système que c'est imposé donc en France aujourd'hui non ça n'existe pas et priori ça n'a pas vocation à exister et justement tout enjeu que que j'ai moi en tant que que patron de l' miade c'est de construire les systèmes d'armes de demain et du coup justement la la bonne question à se poser c'est où on met le à quel endroit on met le contrôle humain dans enfin jusqu'où on peut aller quelles informations il faut présenter parce que même si on met l'humain dans la boucle dans la prise de décision si on lui présente pas les informations qu' faut en fait qui qui qu'il faut il est pas capable de prendre une bonne décision donc non seulement il y a la prise de décision mais en plus il y a la capacité à prendre une bonne décision ce qui n'est pas exactement la même chose il y a un un acronyme une expression un peu en vogue en ce moment les systèmes d'armes létales autonomes en somme des armes qui pourraient agir seul sans intervention humaine uniquement branché à la fameuse intelligence artificielle est-ce que c'est une réalité aujourd'hui est-ce que ça existe ou c'est un peu fantasmé alors même chose je vais dire que c'est des propos qui n'engagent que moi parce que dans la communauté scientifique il y a des divergences vous regardez ce que raconte il y a une lettre de Yoshua Benjo qui est sortie il y a pas très longtemps sur les risques alors pas les armes autonomes mais de a les risques systémiques euh ce n'est pas une réalité pour moi aujourd'hui ça ne sera pas à court terme ce qui signifie pas que ce soit un enjeu de long terme mais aujourd'hui le l'espèce d'IA nébuleuse qui peut tout faire n'importe comment moi je je trouve que c'est assez loin de la réalité technique de ce que de ce qu'il y a j'aime bien prendre l'exemple comme je quand je donne quelques cours notamment de vulgarisation sur ces sujets à l'école pour ceux qui se souviennent on a fait ce qu' appelle des régressions linéaires vous avez des points et vous mettez une passer faites passer une droite dedans euh je caricature à peine mais mais vraiment à peine lia c'est une version extrêmement complexe de cette opération et je crois pas que quand votre prof de math vous a expliqué ce que c'était qu'une régression alors déjà faut l'avoir écouter euh mais en plus je pense pas que vous ayez été particulièrement impressionné par l'autonomie intelligence de la chose euh et la réalité de la technologie de Lia aujourd'hui c'est qu'on a des machines très compliquées qui font des opérations très compliquées mais Infiné vous leur rentrez un truc elle vous sort autre chose le chat GPT c'est un exemple vous voulez rentrer du texte ça vous sort du texte euh génération d'image même chose vous rentrez du texte ça sort une image l'autonomie là-dedans vous m'accorderez qu'elle est pas évidente ce qui signifie pas que on peut pas brancher des choses les unes avec les autres et faire en sorte que mais aujourd'hui il a vraiment au sens ce que les les spécialistes appellent l'intelligence artificielle générale c'est pas c'est pas le sujet du moment en tout cas nous c'est pas ça qu'on regarde là tout de suite parce que ça technologiquement ça n'existe pas à ma connaissance vous déconstruisez bien ce qu'est l'intelligence artificielle on peut quand même vous rétorquer que l'intelligence artificielle a parfois une part d'autonomie tout le débat qu'il y a aujourd'hui par exemple sur les boîtes noir dans l'intelligence artificielle cette idée qu'on entre des données dans l'intelligence artificielle qu'elle les qu' qu' a un processus qui se met en place et que les données qui sortent sont absolument différentes de celles qui sont entrées c'est une première chose mais surtout qu'on ne comprend plus aujourd'hui la complexité est telle qu'on comprend plus ce qui s'est fait ce qui s'est fait grâce à cette intelligence artificielle j'exprime mal ce que ce que ce que je voulais ce que je voulais dire mais il y a une autonomie quand même dans le processus de ces intelligences artificielles alors justement je pense que c'est le le mot enfin je suis d'accord avec vous en fait c'est le mot autonomie qui est probablement pas adapté c'estàdire qu'il y a il se passe effectivement quelque chose à l'intérieur de ces algorithmes euhon comprend plus qu' maîtrise plus et justement c'est tout l'enjeu quand je parlais de prendre des bonnes décisions c'est pas que c'est pas possible d'expliquer mais par contre c'est un vrai travail scientifique et technique d'arriver à appréhender ces modèles et à leur faire cracher en fait euh peut-être pas des explications au sens strict du terme mais en tout cas des facteurs explicatifs qui permet de faire le lien entre ce qui est donné par le modèle en sortie et ce qui est donné en entrée et vous l'avez mentionné aussi c'est des points exêmment important sur la sécurité parce qu'en fait on voit bien on parle de prendre une décision parce qu'en fait on se ramène quand même à l'humain on peut très bien demander à une machine enfin comment faire la guerre demain enfin JEP vous pouvez poser la question ça va sortir n'importe quoi et donc si jamais on prenait un truc comme ça qu'on mettait tel quel dans le ministère sans autres mesures et ensuite prise de décision juste à la part de ce que dit la machine évidemment que ce serait n'importe quoi mais moi je dirais que la faute elle est en amont c'est que il faut pas s'étonner qu'en faisant n'importe quoi d'un point de vue ingéniériie on est n'importe quoi en sortie ensuite donc euh tout ces questions elles sont techniques compliquées mais pour autant il existe des techniques il existe des choses à faire donc ça ça se travaille mais c'est pas inhérent enfin c'est c'est inhérent au modèle et à la façon dont on conç les machines mais c'est pas un désespoir de dire qu'on va pouvoir en extraire quelque chose vous expliquez un peu plutôt dans notre échange Bertrand rondpierre que l'éthique dépendait des armes et de l'usage qu'on en fait pourquoi alors je sais pas si j'ai exactement dit ça mais les que ENF je suis pas un spécialiste de l'éthique donc déjà faudra que je renvoie à des gens qui sont capables de faire ce chose et puis accessoirement un truc que je tiens à dire c'est que il faut pas être juge et parti c'est que on m'a posé la question parfois est-ce que laamade va s'intéresser à l'éthique évidemment qu'on va s'intéresser à l'éthique notamment dans ce que je disais sur la prise de décision comment on explique et cetera on peut quand même se fixer des règles pour soi-même alors on peut se fixer des règles pour soi-même mais il faut que ce soit en concertation avec les principes généraux que vous mentionniez un peu plus tôt c'est pas moi qui vais établir la politique éthique du ministère enfin c'est c'est ça qu'il faut juste se dire c'est une réflexion sérieuse qui doit être menée par autre chose mon agence elle est constituée essentiellement de de techniciens c'est pas eux qui ont vocation à piloter cette réflexion il contribuaient bien évidemment donc le l'usage de des armes enfin emporte en fait je dirais que l'a n'est pas spécifique d'un point de vue éthique de la guerre en fait probablement c'est ça le le fond du sujet c'est-à-dire que évidemment que ça amène de nouvelles considérations qu'il faut prendre en compte mais c'est pas une rupture au sens où demain la guerre qu'on fait sera différente mais comme on a toujours fait avec de nouvelles armes avec de nouveaux systèmes ce sont des nouvelles réalités à prendre en compte dans cette réflexion est-ce que l'armée française aujourd'hui capé si je puis dire pour se servir de l'intelligence artificielle en matière de défense bah ça fait évidemment partie de la mission c'estàd que le pire qu'on puisse faire c'est développer des algodiaas qui fassent des choses et les mettre dans les mains d'opérationnels en disant maintenant débrouillez-vous évidemment que ça va pas fonctionner on voit déjà que ça fonctionne pas dans le civil donc ça fonctionnera encore moins dans le militaire donc tout l'enjeu c'est non seulement je l'ai dis de mettre de lien en production et d'arriver à développer tous ces algorithmes pour les besoins militaires mais c'est surtout l'accompagner ce changement parce qu'en plus il y a ces outils il faut savoir les comprendre on parlait d'explicabilité des IA il faut bien que les gens soient formés à comprendre comment ces y aprénisson comment elle fonctionnent donc ça ça fait partie de de de notre mission à enfin c'est une mission à part entière de la miade euh et qui nécessite enfin les armées sont capées mais c'est pas un chantier qu'on prend après coup c'est c'est inhérent à la conception et au déploiement de ces systèmes d' faire l'accompagnement de la transformation du changement et l'explication de tous ces outils on l'a dit à plusieurs reprises Bertrand rondpierre l'innovation aujourd'hui en matière d'IA défense elle se fait dans le civil elle se fait dans les petites entreprises dans les start-ups comment s'opère le transfert de compétences du civil vers le militaire alors il y a j'aimis dire que c'est avant tout du jus de cerveau c'estàd que déjà le le transfert de compét il commence par par avoir les bonnes personnes des deux côtés de la barrière en externe du ministère effectivement entreprise mais d'ailleurs moi je dirais aussi les les labos de recherche laamia a aussi un pôle Recherche qui est à l'École polytechnique à palzo avec lequel on a vocation à créer des partenar enfin on est en train de créer des partenariats avec INRIA CNRS CEA pour ne pas les nommer l'ONERA aussi donc déjà ce transfert de compéten il se perd par les ressources ce transfert de technologie il se perd par les ressources humaine et ensuite d'un point de vue civil je suis convaincu que pour utiliser les technologies qui sont en développement civil il faut euh avoir cette compétence en interne et arriver à mettre les experts des PME start-up en face des expert de de l'étatique ensuite une fois qu'on sait faire ça il y a évidemment des questions de contrat de tout ce que vous voulez mais le cœur n'est pas là c'est que du moment qu'on arrive à avoir des gens qui se parlent et qui sont capables de faire atérer les technos de l'un dans l'environnement de l'autre on a déjà gagné une grande partie du combat on lit sur le site du ministère des armées le ministère de la Défense que l'une des fonctions qui légitime l'existence de l'AMIA cette agence que vous dirigez désormais c'est de réintégrer des fonctions souveraines pourquoi réintégrer est-ce que ça veut dire qu'à un moment on les a perdu on les a trop laissé soit à l'étranger soit au secteur privé exactement c'est-à-dire que alors je sais pas si c'est une décennie ou plusieurs mais en tout cas on s'est progressivement tourné vers le tout industriel ce qui a très bien fonctionné mais on a constaté ces dernières années que dans le domaine du numérique c'est pas une stratégie qui était toujours gag et justement par rapport à ce qu'on disait juste avant avoir des experts au bon niveau des deux côtés c'est ça qui fait que les projets ont du succès donc oui on a perdu en fait en interne du ministère une capacité à faire c'est qu'à à à dire que nos experts soient capables de développer des choses en dehors de ce qu'il pourrait fait avec les industriels une autre chose que je mentionneris quand même on a parlé un tout petit peu de données en plus on a des cas d'usage qui sont très confidentiel et pour lesquels on sortira pas les données du ministère donc là le transfert de technologie ne se fait que en faisant venir des industriels à nous et donc forcément pour faire ces opérations on est bien obligé d'avoir du côté public des gens qui sont capables de faire et de faire ce dernier kilomè en fait de Lia pour faire en sorte queà la fin ça atterrisse en production et cette stratégie en matière de numérique c'est encore une fois avis qui n'engage que moi mais j'y tiens euh je vois pas comment on est bon en numérique si on internalise pas de la compétence à faire d'une façon très très courte en quelques mots à quoi servent les collaborations avec nos alliés est-ce qu'on travaille avec les États-Unis avec la Grande-Bretagne avec d'autres pays européens en matière d' défense alors moi je suis tout neuf on est en train de le construire l'idée c'est évidemment de dire qu'on est tous passés par à peu près le le même cheminement et donc de s'inspirer ce que les uns et les autres font Bertrand rondpierre merci beaucoup d'être venu ce matin au micro de France Culture vous êtes venu nous présenter cette nouvelle agence ministérielle pour l'intelligence artificielle de défense il est 8h39