Israël : une intelligence artificielle identifie des cibles à Gaza ?

on va parler de cette révélation troublante de plus 972 magazine bonjour Nicolas on arrive dans un instant l'armée israélienne qui aurait en effet développé un programme basé sur l'intelligence artificielle pour générer des milliers de cibles potentielles pour ces frappes c'est une enquête qui se base entre autres sur des déclarations de six officiers des renseignements israéliens qui ont tous servi hein dans dans l'armée pendant la guerre actuelle qui ont été directement impliqués dans l'utilisation de l'intelligence artificielle pour générer donc ces ces cibles regardez un extrait très rapidement retrouver Nicolas de de cet article la vende alors la vendeur c'est le nom de de ce programme a joué un rôle central dans le bombardement sans précédent de Palestiniens surtout au début de la guerre en fait selon les sources son influence sur les opérations militaires était telle qu'il traitait essentiellement les résultats de la machineia comme s'il s'agissait d'une décision humaine on comprend et on le verra un plus tard mais en fait finalement sans sans douter de de ce que disait l'intelligence artificielle et ce qui génère aussi beaucoup de pertes civiles Nicolas justement on vous retrouve c'est un processus assez compliqué c'est un article qui est très très long euh vous allez d'ailleurs pouvoir nous parler de la créibilité parce qu'il me semble que vous connaissez bien l'auteur euh concrètement comment ça se passe tout ça alors concrètement on parle d'une base de d'une base de données hein essentiellement on parle d'une machinea qui qui répertorie des facteurs de petits facteurs ça peut ça peut ça peut aller du du très minime à quelque chose de de très spécifique euh sur sur les des 2 millions 300000 habitants de Gaza pour en retirer des des profils en fait don donner une note de 1 à 100 qui donne la crédibilité d'un de l'appartenance à la branche armée d'un d'un groupe d'un groupe palestinien euh notamment le Hamas et le Djihad islamique alors ils savent c'est c'est une c'est un programme qui est déjà qui a déjà été utilisé depuis maintenant plusieurs années c'est quelque chose qui n'est pas fondamentalement secret son son rôle a été révélé notamment par les services de sécurité eux-mêmes les renseignements Israël militaires israéliens eux-mêmes euh donc c'est ce qui est ce qui est nouveau et c'est ce que c'est ce que ce que montre cette enquête c'est pas vraiment le fait que ça existe mais c'est la coordination de ce ce système lavender avec un autre système Dia qui s'appelle W dadyy qui euh qui relierait ses cibles potentielles avec leur maison familiale ce qui est très important évidemment et aussi la façon dont euh dont elle a été utilisé c'estàd la façon dont elle a été libérée d'un certain côté pour pouvoir créer ces cibles et euh et que les les opérateurs derrière les opérateurs israéliens qui contrôlent euh les les avions euh les pièces d'artillerie ou les drones euh qui qui qui qu' s frappe sur ces cibles fondamentalement laisse la machine décider pour eux dans la plupart des cas qui qui frapper alors dans làdedans il le vrai problème il y a de vrais problèmes dans le dans le le logiciel la vendeur il y a 10 % au moins on sait c'est c'est l'armée elle-même qui dit qu'il y a 10 % dans 10 % des cas cela cela n'est pas c n'est pas factuel donc évidemment ça veut dire qu'ils n'ont pas frappé que que des que des des militants du Hamas du j islamique et il y a aussi ce problème derrière que évidemment les la le la supervision humaine a été très relâchée donc dans les témoignages que que qu'on collecté les journalistes on parle de parfois 20 secondes seulement de parfois juste vérifier que la que la cible était un homme avant de frapper ou avant de de mettre ça dans le dans le calendrier des frappes donc c'est c'est ça ça porte une une idée ça donne une idée de la campagne de bombardement qu'a mené Israël à Gaza surtout pendant les deux premiers mois de la guerre il faut aussi dire évidemment aujourd'hui apparemment c'est ce que dit l'enquête à cause de pr américaine ce qui voudrait dire que les Américains étaient au courant de ce qui se passait à cause de pression américaine aujourd'hui ce logiciel n'est pas utilisé de la même façon il évidemment aussi beaucoup moins de ciblebles à tier dans Gaza voilà pour revenir factuellement sur ce que c'est c'est vraiment ça c'est on trouve une cible la cible est ensuite autorisée par un humain mais ça peut être de façon très rapide elle est ensuite donnée à un opérateur qui la plupart du temps c'est ce qu'il disent ici a a utilisé des bombes qui sont non guidées et souvent sur des cibles qui étaient donc les maisons F al de ces opérateurs qui pouvaient être juste des soldats du rond du Hamas du DI islamique on a vu d'ailleurs la liste des étapes des six étapes qui sont suivies il y a des citations qui sont accollées d'ailleurs à ces étapes qui sont assez glaçantes dans cet article je vois par exemple générer des cibles c'est l'étape une on vous dit une fois que vous passez en mode automatique la génération de cibles devient folle donc vous avez énormément de cibles à l' tapaper la plupart pour l'étape 2 relie les cibles don c'est de ce dont parlait Nicolas au maisons familial la plupart des personnes que vous avez tué étaient des femmes et et des enfants je passe les étapes mais la 6e bombarder finalement une maison familiale bon ben voilà vous avez tué une famille sans raison il y a chiffre de 20 secondes 20 secondes pour se poser la question c'est vrai que c'est peu et puis on dit que dans quand même 10 % des cas il y a des erreurs et que ça marque occasionnellement Lucas des individus qui n'ont qu'un faible lien avec des groupes militants voire aucun lien du tout juste Nicolas vous restez avec nous et si vous voulez réagir vous nous dites le cas oui j'ajoute aux explications passionnantes que que donnait Nicolas à l'instant le fait que ce qu'on apprend dans cette enquête c'est que il par exemple cette intelligence artificielle va surveiller beaucoup les réseaux sociaux c'est-à-dire que à partir d'un certain nombre de connexions que ce soit des groupes WhatsApp que ce soit tout simplement une connexion à un groupe facebook de quelqu'un qui aurait pu aller regarder le profil facebook d'un leader du Hamas ou de quelqu'un apparenté au Hamas peut suffire à vous mettre dans l'intelligence artificielle comme étant un possible succès donc avec une marche d'erreur qui est donc énorme par ailleurs j'ajoute juste une chose euh deux choses c'est que le nombre de victimes collatéral de cette intelligence artificielle est dentesque c'est-à-dire 15 à 20 personnes qui sont assumé c'estàdire que pour une cible frappé dont pour laquelle il y a la quasi certitude que c'est un militant du Hamas ou du Djihad islamique l'armée israélienne assume le fait qu'il y ait 15 à 20 civils autour ce qui ce qui est énorme en proportion c'està-dire que toutes les guerres font des morts civiles bien entendu il y a des victimes collatérales dans toutes les guerres mais là c'est dans dans cette rapidité de décision que décrivait Nicolas qui va parfois seulement quelques vingtaine une vingtaine de secondes on assume le fait que il peut y avoir autour de la maison avec le where is dad donc où est papa le le le ciblage de la maison familiale que il y a effectivement des civiles femmes et enfants qui peuvent être tués dans dans dans ce dans ce Bombard ratio qui monte à 100 il s'agit d'un command c'est un jeune agent du has exactement pour quand c'est quand c'est un combattant jusqu'à 100 pour un commandant dernière chose sol c'est que ce que montre cette cette enquête absolument passionnante c'est l'ultra technologie de l'armée israélienne mais qui lui a coûté cher aussi c'està-dire que faut pas oublier que l'intégralité de la bande l'armée israélienne a fait confiance à des technologies de très haut niveau pour sécuriser la bande de Gaza avant le 7 octobre c'està-dire qu'il y avait quasiment plus d'unité puisque beaucoup d'entre elles étai déployé en sjordanie et que cette cette cette technologie la preuve n'a pas fonctionné quand les terroristes du Hamas ont réussi à sortir de la bande de Gaza et aller faire les massacres que l'on connaît Vincent deux remarques complémentaires je reviens pas sur le ratio qui effectivement a quelque chose de de glaçant d'abord c'est une enquête de israélienne donc on peut pas imputer ça à des ennemis c'est mé très à gauche sur les politiqueou israen je précise juste je bien sûr le journaliste est très connu il a été titré pour ses reportage il y a pas de le tout estant corroboré par des militaire et et on a vu dans l'histoire récente de ce pays que parfois des militaires pouvaient prendre des postures extrêmement fermes je sou de ces aviateurs qui refusaient d'opérer des raides sur des populations civil et puis deuxièmement c'est vrai que ça frappe à instanté mais effectivement Nicola il faisait allusion ce n'est pas nouveau en 2021 le chef d'état-major de l'époque qui était le le général avif kachavi avait expliqué à un site internet que pendant 11 jours donc en mai 21 dans Gaza et bien on pouvait grâce à l'intelligence artificielle donc il y a 3 ansin on pouvait générer 100 nouvelles cibles par jour contre 50 par an avec les méthodes tradition juste efftivement un degré de systématisation du recours à ce procédé mais ça n'est pas tout à fait inédit très rapidement Nicolas je sais que vous voulez réagir je pense ce qui est important fait ramener là éid cette investigation c'est le résultat de 6 mois de travail fondamentalement Abraham a travaillé là-dessus depuis novembre sont des nouvelles révélations mais dans cette campagne de de bombardement de masse d'Israël ça montre quelque chose quand même de la façon le modus opérand de l'armée israélienne il est aussi possible parce que à cause de ce qui s'est passé le 7 octobre à cause de la de la de l'endroit où se trouve la société israélienne elle-même c'est un petit peu ce qu'on voit ici c'est basé sur six sources ça a pris 4 mois ou 5 mois à sortir c'est dire que il y a quand même eu énormément de choses ces soldats là les ont vu de première main donc ça montre bien quelque chose par rapport à la société israélienne il y a un autre truc que je voudrais aborder ce ce l'IA aujourd'hui c'est très très important c'est c'est un petit peu la nouvelle frontière pour les armements israéliens mais ce n'est pas utilisé seulement que dans ce contexte là dans le contexte de de base de données et ainsi de suite mais il y a aussi évidemment des tirs liia est utilisé aussi pour construire des armes de tir automatiques et ainsi de suite et donc évidemment c'est ça aussi que veut montrer cette enquête ce n'est pas seulement ce qui peut se passer en Israël mais ce qui peut se passer à l'étranger puisqu'on sait que ces armes et ces façons d'utiliser se propagent ensuite à travers le monde donc ça c'est important de le souligner aussi évidemment on le voit maintenant à Gaza est-ce qu'on pourrait le voir sur un autre théâtre dans le futur bien sûr et puis ça aussi le question de la guerre du futur aussi au-delàf les frontières géographiques et des frontières temporelles àine de dire quand même que ça aldément l'utilisation de cette base de données dans le dans le processus tel que décrit dans l'article et on l'espère parce que sinon très concrètement ça ça signe la déshumanisation une forme de déshumanisation mais de de dire quand même qu'à ce stade a démenti l'utilisation de ce fameux levender on espère que on espère que ce soit Aurélien je suis désolé il reste 20 secondes pardon j'ai mal timé la question pour toutes les armées notamment occidental c'est désormais la question de l'autonomie qui prend décision 20 secondes pour un humain c'est comme si la était presque autonome de la décision et ça c'est un précédent très dangereux pour les armées du futur