IA : un enjeu stratégique pour la défense

[Musique] car lors de ce sommet sur l'intelligence artificielle tout à l'heure donc et demain à Paris François Bonet un aspect sera également abordé l'intelligence artificielle dans le secteur de la défense oui parce que toutes les armées du monde mènent actuellement une guerre sans merci à propos de l'intelligence artificielle l'intelligence artificielle est devenue une arme en soi aujourd'hui l'a de défense est très présente en Ukraine et à Gaza alors c'est terrible à dire parce que il y a des vies humaines en jeu mais ce sont deux terrains d'expérimentation pour liia en Ukraine les drones autonomes sont de plus en plus utilisés ces drones équipés d'explosifs sont capables de reconnaître seul les ennemis et ils peuvent décider sans intervention humaine d'ouvrir le feu à Gaza l'armée israélienne se sert de l'IA pour réaliser une cartographie très précise des tunnels du Hamas pour mieux les détruire et elle se sert aussi de l'intelligence artificielle pour identifier les membres du Hamas en se basant sur une multitude de données l'intelligence artificielle dit telle personne qui se trouve dans telle maison et membre du Hamas or l'intelligence artificielle peut se tromper et si l'opérateur israélien fait une confiance aveugle à l'intelligence artificielle et bien il peut tuer des personnes qui n'ont rien à voir avec le Hamas l'intelligence est donc déjà utilisée pour faire la guerre mais ça soulève énormément de problèmes de questions éthiques oui ça pose des problèmes éthiques absolument énormes pourquoi parce que sur le champ champ de bataille l'intelligence artificielle analyse en quelques minutes voir en quelques secondes des quantités gigantesques de données alors qu'auparavant il fallait des heures voire même des jours pour le faire donc aller vite c'est un avantage surtout si on va évidemment plus vite que que l'ennemi mais dans la précipitation et bien les militaires peuvent aussi se tromper sans compter qu'une arme autonome n'est pas toujours fiable il y a 2 ans lors d'un exercice un drone militaire américain piloté par l'intelligence artificielle a attaqué sa propre tour de contrôle pourquoi bien parce par que l'intelligence artificielle a estimé que les interdictions que lui donnaient les personnes dans la tour de contrôle l'empêcha d'accomplir sa mission finale donc c'est c'est fou mais c'est bien réel oui absolument ça s'est passé en 2023 alors en fait ce qui serait souéable c'est que l'intelligence artificielle de défense reste à sa place c'est-à-dire un outil d'analyse et que le militaire lui conserve le pouvoir de décision et ça existe déjà vous vous rappelez des des enfin vous connaissez les oreilles d'or hein dans dans le film champ du loup bon ben aujourd'hui voilà dans dans la Marine nationale une intelligence artificielle va faire le tri de tous les sons qui sont à proximité du sous-marin par exemple les bruits de moteur de chalutier les mettre de côté et U exactement et du coup l'oreille d'or l'homme he le le marin va pouvoir se concentrer sur les sons qui pourraient provenir de navires ennemis ça c'est une bonne utilisation de l'intelligence artificielle bon l'intelligence artificielle est utilisée on bien compris sur les terrains de guerre mais est-ce qu'elle est utilisée également pour les armes nucléaires alors oui elle est également mais c'est évidemment un sujet encore plus sensible parce que ce qu'il faut absolument éviter c'est que par exemple ce croyant attaquer une intelligence artificielle décide seul de lancer des missiles nucléaires sur l'ennemi tous les pays sont évidemment très conscients de ce risque on va dire même les pays les plus béliqueux et donc officiellement dans le nucléaire l'intelligence artificielle est cantonnée à l'aide à la décision mais quand même globalement il y a de fortes tentations dans beaucoup d'armées du monde de donner tous les pouvoirs à la machine y compris pr celui de décision parce que ce serait plus efficace or on voit bien que c'est aussi beaucoup plus dangereux alors ce sommet sur l'IA qui s'ouvre ce matin pourrait être l'occasion de jeter les bases d'une régulation internationale de l'intelligence artificielle militaire même si le terme régulation on le sait n'est populaire actuellement ni à Moscou ni à Washington