🔴 Échanges sur le thème : "Où va l’IA : quels développements pour quels usages ?"

pertent les emplois et les filières qui sont menacées par le développement de l'intelligence artificielle, mais aussi en terme d'environnement. Dans les points positifs, euh on évoque souvent le diagnostic, les programmes en terme de diagnostic santé et puis dans les craintes, on a on l'évoquait hier encore en commission culture au Sénat les la protection du droit d'auteur sur l'usage évidemment des des des ouvrages dans l'entraînement profond de l'intelligence artificielle. Donc ce ce rapport de l'office qui a été présenté il y a un petit peu plus d'un an, enfin fait fin 2024 annonçait certaines des évolutions de ces évolution en revenant d'ailleurs sur la les origines de l'intelligence artificielle en remontant assez loin dans dans le concept.

D'autres arrivent, il faut le dire, plus vite que nous l'imaginions à l'époque, même il y a seulement un peu plus d'un an. Donc nous avons collectivement besoin de comprendre ce que sont les nouveaux modèles de de raisonnement, mais aussi comment les modèles de monde vont peut-être dépasser ou même remplacer les grands modèles de de langage que nous connaissons. Et 3 ans seulement après l'avènement des chatbot comme Chat GPT, Jimini, on parle déjà de 3e révolution de de l'intelligence artificielle.

Et donc après ce ce rapport de de fin 2024, l'office Lopex a jugé utile de faire un nouveau point avec sur ses évolutions mobilisant les les rapporteurs de de 2024. Je rappelle qu'ils étaient au nombre de 4 qu'une des un des corapporteurs n'a pas été réélu à la suite de la dissolution, donc n'a pas pu mener à son terme c'est alors en tout cas la peut-être les auditions mais pas la présentation du rapport. C'était Tiegna qui était avec vous.

Patrick Chaz ne pouvait pas libérer ce matin pour être présent. En revanche, nous avons bien la présence à la fois de Karine Narcigin et d'Alexandre Sabatou qui étaient donc les deux autres corapporteurs et qui vont animer ces nos débats, ces tables rondes que nous allons avoir ce matin. Avant de leur passer la parole et de vous passer collectivement la parole, je voudrais particulièrement remercier les deux membres du conseil scientifique que de l'Office qui sont devant moi, Daniel Andler et Raj Chatila, qui font partie du conseil scientifique qui a été renouvelé après ma prise de de présidence en 2023.

Vous rappelez également que cette audition est intégralement captée en vidéo hein et diffusé en direct sur le site de l'Assemblée nationale puis qui sera ensuite disponible sur le site des deux assemblées. Les internautes comme à l'habitude ont la possibilité de nous poser des questions en direct donc qu'on a quelqu'un qui veille à cela et qui éventuellement nous remontra les questions en vous remerciant donc de nouveau de votre présence. Je vais sans tarder passer la parole à Raja Chatila qui va nous faire une petite introduction de cette matinée.

Je vous remercie monsieur le sénateur, messieurs les sénateurs et sénatrices, messieurs et madames les députés. Euh chers collègues, euh le domaine scientifique de l'intelligence artificielle qui est ancien est actuellement en plein effort, en plein essort, marqué par des progrès continus en terme de performance des systèmes grâce à des algorithmes de plus en plus efficaces et également ponctué mais plus rarement par des concepts en rupture qui réorient en général totalement les recherches. Donc ça s'est passé récemment en 2017.

Euh nous sommes en train de parler de des systèmes d'intelligence artificielle qui sont fondés sur des réseaux de neurones et c'est en 2017 qu'une architecture particulière, qu'on appelle les Transformers, a été proposée euh et a réussi pour la première fois à traiter le langage naturel d'une manière automatique. Un sujet qui était très difficile jusqu'à présent et qui a connu de nombreuses de nombreuses évolutions aussi historiquement. Dès lors, ces architectures qu'on appelle le grand modèle de langage et l'élèm sont devenues incontournables [raclement de gorge] dans nombre d'application, en particulier avec aussi l'arrivée de ce qu'on appelle les systèmes agentiques où se retrouvent plusieurs sous-systèmes, plusieurs grands modèles de langage qui ont des spécialités et qui peuvent donc accomplir des tâches ensemble.

Euh donc cette matinée est effectivement destinée à faire un point de situation en particulier sur ces systèmes, aussi bien en terme de progrès fondamentaux que en terme de d'application d'usage et d'extension de ces usages. Donc nos différents intervenants nous guideront dans ce paysage qui est en pleine évolution. Euh mais en réalité une matinée n'est pas suffisante.

Il faudrait plusieurs journées pour en faire véritablement l'inventaire. Je ne voudrais pas défleurer ce qu'ils vont dire évidemment euh mais je souhaite néanmoins [raclement de gorge] en ces quelques minutes évoquer certains développements et usages qui me semblent soulever des défis majeurs aussi bien en terme scientifique et technique qu'en terme d'impact sur les êtres humains et la société à travers les usages et les applications. Je vais en évoquer principalement deux.

Euh ce ne sont pas les seuls euh qui qui me semblent à regarder de près. Le premier, c'est l'extension des grand modèle de langage à des ce qu'on appelle des données multimodales, c'est-à-dire pas uniquement la langue naturelle, mais des modèles qui associent texte, images, vidéos, sons, donc plusieurs modalités et qu'on appelle donc les grands modèles multimodo. réutilisation à ce moment-là au-delà des systèmes du type agent conversationnel ou génération de données, leur utilisation pour la perception, l'interprétation du monde, la prise de décision et le contrôle des actions de robots de robot physique.

Donc certains appellent ça l'IA physique mais ça s'appelle la robotique est une voie de recherche actuelle qui vise à sortir les grands modèle de langue du rôle d'agent conversationnel ou simplement de d'un outil basé sur des données pour les plonger dans la réalité du monde réel du monde physique. Alors, est-ce que cette voix va réussir et comment à effectivement réaliser des robots capables de comprendre le monde, de le représenter, d'en construire des modèles ? On essaie de le faire depuis très longtemps et d'agir surtout avec intelligence dans le monde en question. en particulier quand ces robots sont des robots humanoïdes dont on voit aussi les progrès en terme de conception mécanique euh un peu partout en particulier donc aux États-Unis et en Chine, je pense que beaucoup reste à faire.

Nous sommes au balbussement de cette démarche. Euh vous connaissez le défi que s'est lancé euh Yann Lequin, en particulier pour la réalisation de modèles du monde euh basé sur des grands modèles de langage. Il faudra euh peut-être pour euh y aboutir avoir de nouvelles orientations de recherche. par exemple les ce qu'on appelle les modèles neurosymboliques associés la les modèles neuronaux qui sont essentiellement ceux qui font aujourd'hui l'intelligence artificielle utilisée avec des modalités où il y a du raisonnement symbolique.

Or, ces deux méthodes sont relativement antinomiques pour le moment malgré l'appellation modèle de raisonnement de certains modèles de langage mais qui sont en fait une sorte d'illusion du raisonnement. En passant, [raclement de gorge] si on y arrive, ça va renouveler, ça va reposer de nouveau la question de l'impact de cette automatisation sur les tâches et les emplois. On en parle très très euh fréquemment à propos de l'intelligence artificielle aujourd'hui et des emplois.

Euh et des tâches plus exactement, il faudrait dire d'ailleurs euh qui sont des des tâches euh qui demandant des capacités cognitive mais on va peut-être revenir aux capacités matérielles. Un second défi d'une nature différente euh et euh le qui est à la fois un défi de recherche et d'usage pour l'intelligence artificielle, c'est ce qu'on appelle la les neurotechnologies. euh l'utilisation des systèmes d'intelligence artificielle pour l'interprétation des données cérébrales la réalisation d'interface cerveau machine permettant à la fois de commander des dispositifs par la personne ou d'influencer la le fonctionnement du cerveau.

Ces neurotechnologies numériques donc permettent déjà en place pour certaines permettent d'améliorer l'état de certains patients atteints de d'affection neurologique en particulier à Madrid de Parkinson. ou d'apporter une aide à des personnes en situation de handicap. Mais il pourrait aussi être utilisé dans d'autres contextes en dehors du domaine médical, par exemple dans le jeu, l'éducation euh et leur effet est très mal connu en réalité.

Euh de plus avec l'utilisation de grands modèles de langage pour associer l'imagerie fonctionnelle avec la langue qui est le véhicule de la pensée. On va au-delà de ce qu'on sait faire et on va au-delà du défi scientifique. C'est une question éthique fondamentale qui est alors posée dans l'intrusion dans les esprits.

Alors le l'utilisation des systèmes d'agénérative puisque je parle des esprits pour l'éducation et la formation sa personnalisation qui en fait la trait soulève aussi de très grandes interrogations qui font l'objet de réflexion nombreuses quel que soit le niveau de la formation pour en comprendre les effets sur l'apprentissage humain. Apprenons-nous de la même manière avec une machine, avec un système qu'avec un être humain, un enseignant, un tuteur, un professeur ou un ami, un collègue ou les parents. La formation des esprits est essentielle bien sûr pour la formation des citoyens.

Donc l'impact sur la société est important. Certains usages euh en particulier le un psychologue artificiel peuvent aboutir à des conséquences néfastes en particulier pour des personnes vulnérables. Là aussi, il y a des sujets fondamentaux.

L'usage de l'intelligence artificielle pour la recherche scientifique accélère certaines découvertes, un exemple très euh récent et et qui a valu un prix Nobel et la synthèse de protéines et qui peut aboutir à la synthèse de médicaments. Mais cet usage peut remettre en question la méthode scientifique elle-même qui serait basée essentiellement sur le traitement de données et donc notre compréhension humaine des phénomènes physiques qui est en fait la quête de la science. C'est la compréhension.

Ce n'est pas simplement l'observation. Donc nous avons là aussi un défi nouveau. Il faut garder à l'esprit finalement que les systèmes d'intelligence artificiel sont fondés sur des modèles d'apprentissage statistique.

Elles ont ces systèmes, ils ont des limitations inhérentes à cette nature statistique qui peuvent conduire à des erreurs d'interprétation, un mélange indiscernable du vrai et du faux. Et ceci peut avoir évidemment des conséquences désastreuses. C'est pour cela qu'on met en avant toujours le contrôle humain.

Sera-t-il toujours possible ? Et d'où l'importance d'ailleurs des travaux sur la sûreté et la sécurité de l'IA qui seront évoqués par monsieur Grimonpon ? Pour conclure, la nous sommes devant des un avenir qui semble extrêmement enthousiasmant, extrêmement attractif, extrêmement attirant.

Mais les challenges scientifiques, cette difficulté qui qui nous qui nous appelle à à les résoudre pour réaliser des systèmes intelligents et l'ébuquité des applications ne devrait pas nous faire oublier le respect des principes éthiques, des obligations réglementaires évidemment, en particulier celle du règlement européen sur l'IA, ainsi bien sûr que la prise en compte des impacts environnementaux. Je vous remercie. [grognement] Merci monsieur Chatila.

Merci à tous d'être présent pour cette audition aujourd'hui. Donc nous allons commencer la table ronde progrès récent et pistes de développement de l'IA. Nous avons l'honneur d'accueillir monsieur Patrick Perrez, directeur général de Quti.

Monsieur Jean-Ponce, professeur au département d'informatique de l'ens et au courant institut de l'université de New York, directeur associé pour la recherche de l'IA du cluster Prairie et président de la start-up slab. Monsieur Jean-Frédéric Gerbeau, directeur général délégué à la science à Linria. Et enfin, monsieur Laurent Simon, professeur des université, titulaire de la chair de la fondation de Bordeaux Université sur l'IA, digne de confiance et membre du collège de représentation et de raisonnement de l'Association française pour l'intelligence artificielle.

Bienvenue messieurs et je commence par une question simple mais que beaucoup de personnes se posent à savoir que la plupart des tests de performance qui sont faits aujourd'hui sur les IA montrent une progression exponentielle de ces modèles d'IA générative en particulier grâce au modèle de raisonnement. Pensez-vous que cette progression va-t-elle finir par ralentir et atteindre-t-elle un plafond de capacité ou non ? Je me souviens lors de notre rapport, monsieur Lequin semblait dire qu'on arrivait à il prenait la métaphore de creuser en disant qu'on tombait sur une couche de granit et qu'on allait très peu avancer dans les années à venir sur ce sujet-là.

Et à l'inverse, monsieur Benio voit l'intelligence générale artificielle générale arriver très vite. Qui veut commencer ? Vous avez peut-être une introduction avant.

Je savais pas. On peut faire comme vous voulez hein, faire des non c'est c'est bien de Donc très bien. Donc effectivement j'ai quelques mots.

Merci pour pour l'invitation. Bonjour à tous. Mais je vais juste de de façon préliminaire, je vais je vais attirer attention sur trois mouvements de fonds qui ont déjà été un petit peu évoqué précédemment concernant les IA, les grands modèles de fondation et les IA génératives qui par ailleurs ne se ne n'est pas toute l'IA, mais c'est celle dont on parle le plus et aujourd'hui.

Donc c'est modèle euh généralistes dont la taille va de quelques milliards à quelques centaines de milliards de paramètres et qui sont entraînés à très grande échelle. ou en tout cas préentraîner sur des données souvent issues d'Internet à très très grande échelle. Euh pour moi, il y a trois euh trois grandes tendance de l'année écoulée.

On est c'est ça la grénularité. Effectivement, il y a une progression pour concernant les modèles de langage, donc les les robots conversationnels et cetera. le progrès en terme de bah de de capacité, de puissance, de de oui de précision et d'utilité à à progresser de façon très rapide pour peut-être pour pour imager, on peut dire qu'on est passé de de modèles qui sont au niveau de l'école primaire à des choses désormais qui pour certains domaines relèvent de du niveau universitaire, les olympiades de mathématiques, les et des y compris jusque dans l'assistance à des recherches pointures mathématiques ou d'autres sciences.

Donc c'est c'est dire le le progrès et de la même façon une des grandes révolutions vraiment à l'œuvre de ces de ces modèles, c'est leur usage dans le développement logiciel qui en espace d'un an a été bouleversé et là on parle vraiment de d'agent de développement et c'est vrai compris entre les mains de gens qui font de la recherche en IA. Donc c'est pas complètement indodonin. Et à quoi c'est dû ?

Un des un des un des progrès, il a déjà été évoqué, c'est l'arrivée de de technique de raisonnement qui permettent en particulier à ces modèles, pour le dire un petit peu naïvement, de prendre leur temps au moment de répondre et de d'utiliser plus de ressources de calcul pour répondre à des questions compliquées et en particulier pour les décomposer en problèm en sous-prèm plus simples. Donc, on peut appeler ça du raisonnement. Et ça permet, on le voit pour ceux qui utilisent ces modèles sur des sujets compliqués, de d'avoir des réponses vraiment de de très bonnes factures et très utiles.

L'autre aspect qui est complémentaire, c'est celui du recours de ces modèles à des outils extérieurs. Donc on le connaît déjà avec le recours à des outils de recherche. C'est ce qu'on appelle le rag.

Donc accéder à des données qui sont dans des des des corpus extérieurs qui ont pas été souvent utilisés pour l'entraînement. Mais ça va plus loin que ça. C'est l'interfage de ces modèles ou ces modèles qui peuvent appeler des des outils de calcul, des outils de d'autres programmes extérieurs, d'autres application, d'autres IA.

Et donc c'est effectivement le le fait que ces modèles qui qui étaient au départ conversationnels sont en train de devenir plus autonomes et plus agentique pour faire un un néologisme. [raclement de gorge] La deuxième grande tendance, c'est le c'est l'extension de ces modèles à d'autres modalités. Ça a déjà été évoqué également.

Donc ce qu'on appelle les modèles multimodo, ce qui veut dire qu'au lieu d'avoir essentiellement du texte en entrée et en sortie, on a d'autres modalités que ce sont particulièrement le son et l'image, mais il y a d'autres modalités encore surtout en robotique tell que le la perception tridimensionnelle et les nuages de point ou les scans laser par exemple. En tout cas, on commence à avoir des modèles extrêmement puissants qui savent intégrer en entrée en sortie de tes modalités. Un exemple qui est proche de activités de mon laboratoire, c'est celui de l'IA Vocal qui en l'espace d'un an a fait des progrès complètement phénoménaux et et on atteint désormais des des capacités d'interaction vocale entre un humain et une machine qui est qui est vraiment très très impressionnante avec ce que ça amène d'ailleurs comme comme problème et de d'usage ou de mésage mais également comme usage extrêmement bénéfique que ce soit pour l'accessibilité, le l'aide au handicap et cetera.

Et sur la sur si on regarde simplement la partie générative de ces modèles modo, donc ce qui génère de l'image et du son, un truc quelque chose qui est extrêmement frappant dans l'année écoulée, c'est les progrès de la génération de vidéos. Une fois de plus à ce que avec alors contrôlé alors à grande échelle est de mieux en mieux contrôlé par du texte, des images de référence, du son si on veut faire parler un avatar. Donc progrès absolument spectaculaire que ça amène également d'usage problématique mais d'usage vertueux déjà je pense que ça permet de démocratiser les outils de la création avec des choses très intéressantes.

Ça permet et ça permet également de faire de la donnée synthétique et je vais dire un mot là-dessus dans mon dans sur le troisème point. Mais sur pour rester sur la partie générative, l'autre aspect qui est qui est vraiment spectaculaire, c'est la partie musique. Donc la génération, on a atteint maintenant des niveaux de de création automatique, de parole, de musique et d'interprétation qui font que les plateformes de streaming sont désormais inondées de morceaux synthétiques avec ce que ça pose comme question.

Euh et donc le dernier point que je voulais évoquer, c'est celui peut-être qui est moins connu de l'IA qui permet d'entraîner des IA euh déjà sous l'angle de la donnée. Ces IAS génératives qui permettent de créer à grande échelle du son, des images, des vidéos et cetera. Ça permet entre autres de créer de la donnée de qualité contrôlée pour entraîner de nouvelles IA.

On entend beaucoup dire que le fait que le web soit de plus en plus inondé de données synthétiques pourrait détériorer les performances des nouvelles génération entraîné sur ces données. Ça c'est un versant de l'histoire. D'autres versant, c'est que les les données synthétiques sont très précieuses.

Ça permet de d'avoir recours de moins alors ça permet de créer de la donnée de synthétique, de l'annotation synthétique et de l'évaluation synthétique dont certaines tâches étaient jusqu'à un passé récent géré par des personnes. C'est des tâches pas très pas marrantes, pas toujours très bien payées d'ailleurs. Donc c'est un vrai progrès moi je je trouve dans le développement des IA et en partie et par ailleurs ces techniques là entre autres de celle qu'on appelle de distillation.

Ça permet avoir des que des modèles déjà un prix éventuellement très coûteux et très très lent puissent entraîner ou participer à l'entraînement de nouveaux modèles qui sont plus rapides, plus légers et de meilleure qualité. Et ça permet de fait c'est un des facteurs qui explique les progrès récents dans l'année écoulée et je vais en rester là. Merci beaucoup.

Bonjour et merci pour l'invitation. Donc je tiens je tiens à dire d'abord que je suis entièrement d'accord avec Patrick sur l'influence de l'IA sur le développement du logiciel. Je vois ça à la fois au niveau recherche par exemple des collègues NU qui font de la robotique et qui développent des prototypes très rapidement grâce à des logiciels d' Je vois aussi dans ma start-up où mes mes ingénieurs se servent de ces modèles pour pour développer plus rapidement.

Sinon, j'imagine que je suis là en partie pour parler des World Models de Yan Lequin avec qui avec qui j'ai un peu collaboré sur sur le sujet. Donc l'idée des des World Models, c'est des modèles du monde, c'est de construire des agents disposant d'un invéritable modèle mental de leur de leurs interactions avec un environnement qui peut être un environnement physique. Appris à partir de données sensorielles qui permettent de de simuler en fait la dynamique dynamique de l'environnement. ce soit le fait par exemple qu'une pierre tombe sous l'action de la gravité ou bien quel est quelle va être la réponse de mon environnement quand je vais dire un robot de partir à gauche par exemple c'est une idée assez pas pas franchement nouvelle qui a émergé dans l'année 90 qui a été le mot lui-même a été introduit par Chemy Douber en Suisse mais l'idée était vraiment popularisée surtout instancié paran Lequin je pense que vous avez tous entendu parler des world models depuis qu'il a créé des quitté méta et et créé sa às et et le fait d'instancier l'idée est important.

Donc c'est de créer une véritable architecture permettant de de d'implanter cette idée. Donc l'idée c'est des il appelle ça des JPA. L'acronyme n'est pas important.

L'idée c'est de de d'apprendre ces modèles de manière autosupervisé, c'estàd sans sans supervision externe en exploitant la cohérence interne des données. Par exemple à partir d'un bout de vidéo, vous essayez d'en prédire un autre bout. Et surtout je pense une des grandes différences avec les les les grands modèles de langage qui qui se s'apprennent aussi de manière autupervisé et qu'on n'apprend pas à à prédire ou à simuler les données directement mais une abstraction de ces données sous la forme d'une représentation qui a été apprise.

L'espoir est est d'éviter ainsi [grognement] de de se de se perdre dans des détails superflu qui sont qui sont présentes dans les données dans les données BS. L'espoir également est que ces modèles et le le simulateur de l'animie qu'on construit se révéleront utile dans des tâches dans des tâches cibles concrète. par exemple une planification robotique.

Là, il y a il y a un pas à franchir puisque les ces méthodes sont pas entraînées pour ça. Elles sont entraînées simplement pour simuler la dynamique. Euh ce pas n'a pas été encore complètement franchi.

Il y a eu quelques applications prometteuses de prêtage relativement simple en robotique, mais l'avenir nous dira quelle est la véritable promesse de cette approche. En tout cas, je pense qu'il est absolument essentiel de de privilégier le fait d'avoir des alternatives. On peut pas faire que des LLM, faut des World Models, faut d'autres d'autres approches.

Il faut absolument pour irriguer l'IA et continuer les progrès, il faut absolument de nouvelles idées. Et je tiens à à insister sur le fait que les par exemple le le succès l'apprentissage profond est dû à deux inventions. Les les réseaux convolutifs qui ont été introduits parquin ses collègues chez ATNT et les Transformers dont parlait Rama tout à l'heure, ce sont des vrais inventions scientifiques.

Pour continuer les progrès, il faut une nouvelle invention. Dans ce domaine, il est la recherche publique un rôle fondamental. L'industrie n'est pas là pour faire la recherche à long terme.

L'industrie est là pour faire de large rang. Donc pour faire de C'est normal, c'est leur but. Pour pour pour avoir une vision volontaire, pour faire des des nouvelles inventions, il faut absolument soutenir les absolument soutenir recherches publiques.

D'ailleurs, quand j'ai vu quand j'ai lu le résumé du rapport 2024, je trouvais très bien fait, mais qui disait que la la recherche en a été dominée par la recherche industrielle. Je pense que c'est faux. En tout cas, dans les domaines que moi je connais très bien comme la vision artificielle ou la robotique où je pense pas que ce soit vrai du tout. dans les LM ce genre de choses, on a besoin d'énormes quantités de calcul et évidemment pour un labo académique, c'est difficile de les avoir.

Je voudrais aussi fin pour finir euh évoquer deux domaines où je pense que l'IA doit et va jouer et joue un rôle majeur. Un c'est les la la recherche les sciences, hein. Donc moi, j'ai la chance de travailler avec des des astronomes et des des biologistes.

Ce n'est pas une nouvelle, dans mon cas, en tout cas, modestement, c'est pas une nouvelle manière de faire de la science hein. On a des vrais modèles des astronomes et les biologistes, ils savent comment fonctionnent leur télescope, comment fonctionne leur microscope. Donc on utilise à fond leur modèle et on ajoute l'IA pour les pour les pour les assister.

C'est aussi un domaine Patrick parlait des des données synthétiques. Les données synthétiques, c'est très bien mais souvent elles sont pas réalistes. Dans le dans le dans le monde scientifique, comme on a des très bons modèles de tout ce qu'on fait, on peut construire des données scientifiques extrêmement réalistes et ça c'est très important.

Enfin euh je pense qu'il faut il faut garder en tête la robotique. Pourquoi ? Parce que la robotique c'est un c'est un champ intégrateur.

Euh pour qu'un robot fonctionne, il faut qu'il ait la perception de la planification euh et cetera et cetera et il faut que ça marche. Donc c'est pas juste je vais vous donner une je vais vous dire ça c'est une vache ou c'est une poule avec 90 % de confiance. C'est je mon robot il va il va se casser ou faire du mal à quelqu'un si on fait pas attention.

Je pense que on prête peut-être trop d'attention en ce moment à la robotique humanoïde qui est très populaire avec des machines extraordinaires bien sûr, mais c'est pas complètement évident que ce soit ce soit nécessaire pour pour la plupart des tâches de tous les jours, les tâches utiles, mais la roboutique est importante et je m'arrêterai là. Merci. Jean-Frédéric Gerbeau, directeur général délégué à la science d'Inriia.

Je vous remercie de l'invitation. Euh Linria euh vous le savez, vous le connaissez sans doute comme un institut national de recherche en sciences et technologies du numérique. Nous avons aussi un rôle depuis quelques temps de d'agence de programme dans le numérique et à ce titre nous coordonnons le volet enseignement supérieur et recherche de la stratégie nationale en intelligence artificielle.

Je pourrais y revenir plus tard. Euh je je veux faire trois trois zooms sur des progrès récents. Euh je vais éviter de redire des choses parce qu'évidemment j'adhère à tout ce qui a été dit par mes par mes prédécesseurs.

Euh les trois points sur lequels je voulais insister, c'était les agents IA, l'IA et le monde physique et l'impact de l'IA sur les activités scientifiques. Euh donc évidemment, on retrouve des choses qui ont déjà été dites euh sur les agents IA. C'est quelque chose qui se développe énormément en ce moment.

C'est une notion ancienne euh qui est remise au goût du jour par les par les LLM. Les LLM pouvant jouer un rôle soit d'agent en tant que tel, soit d'orchestrateur de d'agent. Ça offre des opportunités très intéressantes en matière de d'automatisation de tâches complexes, d'action sur le monde réel.

Ça pose aussi beaucoup beaucoup de questions, j'en citerai trois. Des questions de cybersécurité, des questions de perte de contrôle et des questions liées à la régulation. On pourra y revenir si vous le souhaitez. concernant LIA et le monde physique, beaucoup de choses ont déjà été dites, en particulier sur les world model et cetera.

Je ne peux qu'abonder dans le sens de mes prédécesseurs pour rappeler que l'IA ne se limite pas au LLM. bien sûr, elle existait avant et il y a des tas de voies alternatives. Ce sur le quoi je voudrais insister, c'est le fait qu'il y a finalement deux grandes manière d'aborder les choses.

Soit par des approches avec des données massives qui nécessitent énormément de calcul, soit des approches basées sur la connaissance physique du monde qui est une qui est un socle de connaissance qui se construit depuis le siècle de Newton, hein. Et la question en fait quand on parle de dia physique, dia pour la physique, c'est savoir comment est-ce qu'on dose entre ces deux entre ces deux tendances. La tendance actuelle, si je prends l'exemple de la de la robotique est d'aller à fond dans la première direction, c'est-à-dire accumuler des données extrêmement nombreuses, extrêmement coûteuses et faire dessus des calculs extrêmement coûteux eux aussi.

Euh il y a des alternatives à ça et des équipes françaises sont très bien positionnées sur ces sujets en mixant des approches basées sur la physique, sur la connaissance des des équations physiques qui sont derrière les phénomènes avec ses approches basées sur les modèles. Euh une équipe à laquelle participe Jean Ponce, l'équipe Willo Alinria dirigée par Justin Carpentier suit cette approche. Si j'insiste là-dessus, c'est parce que je lu aussi le rapport de l'OPEX 2000 2024 et vous insistiez à juste titre dessus sur les les risques de dépendance technologique.

Ce sur quoi je voudrais insister, c'est que trouver un des voies alternatives au gigantisme actuel en matière de données, en matière de calcul, c'est aussi résister à ces à ces questions de dépendance technologique. Pour vous donner un exemple, dans l'équipe Willow dont je viens de parler, il y a eu des progrès spectaculaires en matière d'algorithmique qui permettent d'envisager de faire des calculs sur de simples CPU plutôt que sur des GPU. Donc vous divisez le le coût par 100 et surtout vous vous libérez d'une d'une possible dépendance technologique.

Deuxème point, l'impact de l'IA sur les activités scientifiques. Ça a été dit également. l'IA, il faut être conscient que l'IA ser aujourd'hui à tout le processus de la recherche scientifique.

Des IA proposent des sujets de recherche, sont des assistants à la rédaction d'articles, à la bibliographie, à la à l'évaluation d'article. Ça entraîne une prolifération sans précédent du nombre d'articles soumis dans les conférences. Il y a des conférences d'informatique qui ont vu leur nombre d'articles soumis multipliés par 2 d'une année sur l'autre entre 2024 et 2025.

Euh idem pour des appels à projet. Ce sur quoi je voudrais insister, c'est qu'on a ici au-delà des questions de de technologique là encore un risque de dépendance et de et surtout de captation. Pourquoi ? parce que des start-ups et des grands acteurs de l'IA comme Open AI développent aujourd'hui des outils qu'on pourrait qualifier de genre de Google Doc pour chercheurs équipé par tout le tout l'environnement d'IA qui s'il suscite enfin si s'il est s'il est adopté par des grands nombres de chercheurs et et il est très possible qu'il le soit euh va donner va d'abord créer une dépendance technologique et ensuite va donner au propriétaires de ces outils un accès direct non pas à toute la recherche déjà faite mais à la recherche en train de s'écrire, hein.

Et donc là, il y a vraiment quelque chose qui est qui est majeur. Je pense en particulier à l'outil prisme d'open AI et je pense qu'il faut vraiment que nous soyons en mesure de proposer des alternatives pour éviter cette cette captation et cette et cette dépendance qui peut être créée très très rapidement par les effets de réseau que que peuvent créer ces ces entreprises. L'agence de programme pilotée par INRIA vient de lancer un programme sur précisément ces ces sujets, mais ça sera insuffisant. il faudrait passer à l'échelle à un niveau européen là-dessus.

Une autre manifestation extrêmement importante dans la science, c'est ça a été dit aussi, c'est concerne la programmation, euh on est passé de d'IA qui aident à générer des bouts de programmes à des IA qui couvrent tout le cycle de création des logiciels depuis les spécifications, les tests et cetera et cetera. Il y a des cherch il y a des développeurs seniors qui disent aujourd'hui qu'ils n'écrivent quasiment plus de ligne de code, qu'ils interagissent avec l'IA et qu'ils n'ont même plus le temps de relire le code qui a été généré par l'IA. Donc ça a des impacts majeurs en terme économique.

Vous avez certainement vu les annonces récentes de d'Oracle. Euh un rapport de la Fed de fin 2025 montre que ça a un impact sur le recrutement des jeunes programmeurs. Donc ça pose vraiment la question aussi de la de la montée de la des nouvelles générations.

Ça ça s'accompagne de chute de capitalisation boursière dans les entreprises qui ont des modèles très basés sur le sur le génie logiciel. Mais ça crée aussi des nouvelles opportunités. Euh des entreprises qui jusqu'à présent ne pouvaient pas prétendre euh avoir un rôle euh important dans le développement logiciel peuvent aujourd'hui grâce à ces outils, euh faire des choses qu'elles ne pouvaient pas faire avant.

Donc là encore les les cartes sont totalement rabattes. Un point d'attention majeur, c'est les vulnérabilités qui peuvent être créées de cette façon, surtout si on se retrouve avec quelques outils, finalement trois ou quatre outils euh monopolistiques que tout le monde utilise pour développer des codes et qui peuvent introduire des vulnérabilités systémiques. Euh donc pour moi, ça rappelle l'importance de d'approche ancienne et toujours d'actualité de l'informatique qui qui c'est ce qu'on appelle les assistants de preuve.

Donc c'est des choses qui c'est ce sont des des techniques qui permettent de prouver qu'un programme est euh est correct. Euh et donc certainement que le le une évolution de de de ces tendances et de combiner des outils DI qui produisent des programmes, mais de les coupler peut-être à travers des agents avec des des assistants de preuve. En France, on a des des équipes très célèbres pour ça.

Je pense en particulier à Xavier Lerois et ses collaborateurs qui ont développé un compilateur comperte entièrement certifié. Il faudrait peut-être étendre cela. à toute la chaîne de de logiciel critique en crypto, en protocole, base de données, compilateur et cetera.

En mathématiques, ça a été également euh signalé. Euh les progrès sont sont spectaculaires en l'espace d'un an, ça a été dit. On est passé d'un niveau, disons étudiant étudiant en math à un niveau chercheur en math.

J'ai des collègues à Linrea qui me disent que certaines démonstrations qui leur auraient pris des semaines se font aujourd'hui en quelques heures. Donc c'est c'est un bouleversement considérable et comme pour la programmation, on assiste à cette à cette démarche de certains très grands mathématiciens y compris des médailles fields. Je pense à à Timothy Gawers au collège de France ou à Teren Stao à aller qui combine ces approches paria qui permettent de produire des résultats, faire des des démonstrations avec des assistants de preuve.

En France, on a un produit qui s'appelle COC ou le nom actuel est rock he ou un produit international qui s'appelle LIN. Et donc ces interactions entre assistant de preuve euh et IA générative dont j'ai parlé pour la la production de de code s'applique aussi pour le les mathématiques et il y a tout un toute une communauté de mathématiciens qui est en train de prendre ce virage très très récemment. Sur les pistes de développement. quelques points évidemment très très incomplets.

Le premier, c'est pour rappeler que les questions d'incertitude, les garanties qu'on peut offrir sur pour les modèles d'IA sont encore extrêmement peu développées. Cela fait des années qu'on parle d'IA de confiance et Laurent Simon aura certainement l'occasion d'y revenir avec des approches de type IA symbolique. Pour ce qui est de l'IA statistique, les progrès sont très très faibles et on a vraiment un besoin de recherche pour ça.

Si on veut dépasser l'IA appliqué aux réseaux sociaux, à la publicité ou à la génération d'images grand public, on a absolument besoin de pouvoir offrir des garanties et des de quantifier l'incertitude des modèles. On est très très loin du compte. Un point en partie relié au précédent, c'est la question de l'évaluation des modèles et de leur sécurité.

C'est également un sujet extrêmement ouvert et c'est le l'objet de Linésia, un institut national d'évaluation de la sécurité de l'IA qui est sous le pilotage SGDSN et DGE auquel participe le l'INRIA, l'ANSI, le LNE et le PERN euh et du programme d'évaluation de l'IA que vient de lancer l'agence l'agence de programme dans le numérique. Un troisème point, penser l'IA le long du continuum de calcul, c'est-à-dire depuis les centres de données jusqu'en bordure de réseau. Nous avons plusieurs actions sur ce sujet, en particulier avec la start-up IVNET, avec les NOCA Bell Labs.

Les approches distribué peuvent être extrêmement pertinentes dans divers secteurs très différents comme celui de la santé ou celui de la défense et les IA agentiques relèvent naturellement des systèmes distribués. Enfin et c'est mon dernier point, des approches plus frugales qui reposent moins sur la force brute euh moins sur les données massives, moins sur la le calcul euh massif moins énergiv. On peut penser euh à l'IA embarqué, mais on peut naturellement penser, et ça a été signalé en introduction par Raj Chatila, sur l'impact environnemental et énergétique.

J'insiste, ce sujet est majeur car comme ce que je disais tout à l'heure sur la robotique, chercher des voies alternatives, des voies plus frugal, c'est aussi ne pas subir l'agenda dicté par d'autres pays ou pour des ou par des entreprises qui qui qui veulent persuader tout le monde que la seule issue est le gigantisme et que comme elles sont les seules à maîtriser le gigantisme, elles sont l'unique réponse à toutes nos attentes. Il y a de la place pour d'autres approches et à Lineria, nous soutenons plusieurs recherches en ce sens. Voilà.

Et pour terminer, LINRIA inscrit naturellement toute son activité dans le cadre de la stratégie nationale en IA. La ligne principale que nous portons dans ce cadre, je peux la résumer en en en quelques mots, c'est renforcer la renforcer la recherche française dans le numérique et en particulier en IA. C'est en premier lieu avoir une logique d'écosystème et une approche intégrée entre formation, recherche et innovation.

C'est par conséquent renforcer les universités qui sont les seuls à couvrir ces trois dimensions. C'est la logique de la stratégie nationale en IA qui s'incarne dans la création des neuf IA cluster répartis dans toute la France et chacun porté par des grandes universités. Je renvoie au rapport de la Cour des comptes de novembre 2025 pour l'évaluation de ces dispositifs qui ont été portés directement ou indirectement par INRIA, en particulier l'accompagnement à la création de start-up technologique, la politique d'attractivité internationale et des initiatives originales comme Pionnier Lia ou la création de l'entreprise probable autour de Sit learn Learn.

Je pense que Selma Souiel y reviendra plus tard dans la discussion. Et pour finir, je ferai comme Jean Jean Ponce pour insister sur le fait que non la recherche académique et en particulier la recherche académique française n'est pas n'est pas dépassée. Nous sommes dans la course.

Je vous donne quelques exemples. En informatique graphique, vous avez un nouveau standard mondial qui s'appelle le Gohan Splating qui a été inventé il y a 3 ans dans des dans une équipe Inria Sofia Antipolis. Cet algorithme a littéralement détrôné un algorithme de Google qui qui qui dominait le le marché depuis des années.

Dans les domaines de la météo, des modèles aussi précis que des modèles de Huawei ou de Google ont été proposés là aussi par une équipe académique INRIA à Paris avec beaucoup moins de ressources pour des pour des résultats comparables en vision par ordinateur domaine domaine de Jean Ponce des modèles de fondation avec des approches très peu supervisées ou même non supervisées. Je pense à Dino V2 sont une référence mondiale. Ils sont aussi issus de la recherche académique française.

Pychit learn Learn, c'est un logiciel qui est le standard mondial des data scientist. C'est issu de la recherche académique française. Et des approches innovantes pour l'IA physique, pour la robotique, j'en ai parlé tout à l'heure autour du logiciel Pinocchio qui est téléchargé un million de fois par mois en ce moment et la suite Maestro portée par Justin Carpentier qui sera peut-être le site kit de la robotique de demain.

Voilà. Donc évidemment le les moy le fossé entre les moyens de la recherche académique et celle des géants de la tech reste énorme. C'est indéniable et pourtant nous continuons à recruter à très haut niveau.

En particulier à l'étranger. La fuite de cerveau qui a atteint un pic autour de 2018 a diminué voire c'est inversé ces derniers temps. Et avec les armes dont nous disposons, le petit échantillon de résultats que je viens de vous donner montre que nos équipes ont la capacité de rester dans la course mondiale.

Merci pour votre attention. Alors, merci pour l'invitation également. Donc, je vais essayer de de pas répéter, je rejoins mes collègues.

Donc, je vais essayer de d'aller plus à l'essentiel sur sur mes problématiques. Donc, je représente effectivement le l'axe représentation des connaissances et raisonnement en fait de l'intelligence artificielle qui est un axe qui est très présent en France depuis très longtemps, qui a connu d'énormes progrès mais qui sont plus silencieux que les LM. Alors, pourquoi ils sont plus silencieux ? parce qu'ils sont pas forcément au contact des utilisateurs.

Ils parlent pas en langage naturel, ils parlent dans un autre langage qui est un langage qu'on appelle formel. C'est un un langage qui est particulièrement bien spécifié et qui permet sur ce langage formel d'appuyer des raisonnements mathématiques solides et qui permettent de prouver des choses. Alors la question aujourd'hui c'est que vient faire la représentation des connaissances dans le monde des LLM ?

Alors premièrement, en préliminaire quand même, je voudrais dire qu'on est c'est un exercice très difficile. C'est on peut détecter ce qui se passe au niveau de de la science à l'heure actuelle, ce qui marche bien, mais tracer une droite avec deux points pour prédire ce qui va se passer plus tard, c'est extrêmement difficile. Comme l'a dit Raja, en 2018, c'était impossible de prédire le monde dans lequel on est aujourd'hui.

C'était pas du tout dans les tuyaux. D'accord ? Donc il faut être peut-être humble et peut-être voir en fait une des une des grandes un des grands axes, ça va être peut-être de construire une recherche qui va être capable de de pivoter assez rapidement, d'être plus agile et de d'aller massivement dans des endroits qui n'ont pas été explorés jusque-l assez rapidement.

Alors, ceci étant dit, sur l'avenir donc je me suis je vais m'axer là dans mon exposé plutôt sur ce que ça pourrait être plus tard, quelles sont les innovations qui peuvent changer les choses de manière fondamentale ? Alors, on parle de raisonnement dans les grands modèles de langage, mais en fait c'est pas du tout du raisonnement. C'est simplement quelque part l'écriture d'un roman dans lequel un personnage fictif va essayer de détecter de de détailler son raisonnement pour le pour essayer de le simplifier.

En le faisant, le raisonnement n'est pas plus solide, hein, il est simplement plus précis. C'est-à-dire qu'on observe que ces systèmes là obtiennent des meilleurs résultats. Par contre, la trace de ce raisonnement lui-même n'est pas un raisonnement.

C'estàd qu'on peut avoir des systèmes qui raisonnent de manière fausse mais qui sont avec des conclusions correctes comme des étudiants ou euh des systèmes qui sont vrais mais avec un raisonnement faux. D'accord ? Donc c'est c'est assez paradoxal et c'est pas du tout un raisonnement.

Alors qu'est-ce qu'un raisonnement ? Un raisonnement bah ce sont des méthodes formelles bien spécifiées mathématiques qui vont avoir toute la puissance de la preuve mathématique. Donc comment on met ça ?

Comment on met ça dans un système de l'él ? Alors, on en a parlé. Les grands modèles de langage vont être capables aujourd'hui de produire une abstraction d'un problème, de produire justement ce qu'on faisait depuis longtemps, mais de manière humaine dans le dans le domaine de la représentation des connaissances, de produire une abstraction symbolique d'un problème qui est donné.

L'utilisateur va avoir un problème, le LM va pouvoir en produire alors soit du code informatique, soit une abstraction sur laquelle on va pouvoir produire un algorithme qui va faire un raisonnement correct et complet sur cette abstraction. D'accord ? Donc ce type d'approche, c'est une approche qui est qui est qui qui est extrêmement nouvelle, c'est-à-dire que cette abstraction n'est plus produite par un humain, mais est produite par une machine.

Et à partir du moment où on est d'accord sur la représentation interne du monde abstraite du problème qu'on a, et ben on va être d'accord, on va être sûr que le raisonnement est correct étant donné la la conclusion. Alors euh donc les méthodes de raisonnement, elles vont permettre aussi de vérifier par exemple la correction d'algorithme. On en a parlé donc c'est comment on fait aujourd'hui pour avoir des algorithmes critiques qui sont déployés ?

Et ben, ils sont vérifiés. Ils sont pas seulement testés, ils sont vérifiés de manière formelle. Et donc là, on rentre dans une nouvelle ère dans lequelle le les LLM vont être capables, comme ils vont être capables de produire une abstraction d'un problème, hein, ils vont être capable aujourd'hui pour résoudre un problème de produire à la volée un algorithme.

D'accord [grognement] ? Et ça c'est quelque chose de nouveau. Jusqu'à présent, quand on avait un problème, on allait chercher un algorithme surétagère qui était plus général et on l'appliquait à notre problème.

Ce que ça faire aujourd'hui les LM et ce qui va changer radicalement la donne, je pense, du numérique dans les années à venir, c'est que étant donné un problème, il va être capable de fournir un algorithme qu'il faudra prouver correct avec des méthodes symboliques, mais elles vont être capable aussi de fournir des astuces pour essayer de résoudre ce problème de manière efficace. D'accord ? Jusqu'à présent, ces astuces étaient faites par des chercheurs en IA par des gens qui connaissaient très bien le problème et ça ça va être fait automatiquement.

Et donc là, on a un changement de paradigme du numérique qui est qui est qui est puissant. C'est-à-dire qu'on on va avoir la possibilité de créer à la volée et le temps d'une requête un algorithme spécifique optimisé pour répondre à une requête. Et ça ça n'est jamais arrivé.

Et du point de vue théorique du numérique, c'est un bouleversement complet. D'accord ? Donc ça c'est c'est vraiment une piste.

Donc quel axe de recherche on a là-dedans ? Bah c'est cet algorithme qui va être produit de manière automatique. Il va être falloir il va falloir être capable de le prouver.

Et pour ça on a besoin bah de preuve et pas simplement d'un pourcentage de précision. On a besoin de preuves formelles pour ça. Alors, on va rentrer probablement dans un monde dans lequel le LLM va générer et puis il va y avoir une formalisation et puis donc on va avoir soit une preuve, soit une vérification de la preuve faite par des méthodes symboliques et puis après éventuellement s'il y a une faute, il y aura une réinjection pour que le LMLM produise un algorithme corrigé comme on fait en tant qu'humain.

Si vous voulez, en faisant ça, on va pouvoir profiter de l'aspect entre guillemets créatif des LLM, exploratoire des LLM et parfois de ces failles d'hallucination. On va pouvoir le laisser faire et puis on aura en rideau, en deuxième rideau, des méthodes formelles qui vont pouvoir filtrer ce qui est possible et ce qui est pas possible de faire, ce qui est garanti et ce qui est pas garanti. Être capable de vérifier une modélisation à la volée et d'y appliquer un raisonnement solide, ce sont des challenges très puissants pour le domaine de la vérification formelle et pour les domaines des représentations des connaissances.

Alors euh je vais je vais aller vite mais en conclusion bah je voulais je voudrais mentionner que la notion de confiance, on en a parlé mais doit être au cœur des recherches. Et là en fait on se pose la question de qu'est-ce que la confiance ? Alors dans le numérique moi j'ai une réponse assez claire.

Moi j'ai confiance que dans ce qui est prouvé voilà si c'est pas prouvé il il y a un bug en fait. Donc il y a plusieurs méthodes logicielles pour la confiance. par exemple, il y a il y a il y a le test, hein.

Les algorithmes avant d'être envoyés euh en production sont testés, mais jusqu'à présent, on sait tester les algorithmes produits par des humains. Ce qu'on ne sait pas faire, c'est tester des algorithmes produits par des IA parce que les les IA, ça va être un spaghetti de code et peut-être que leur but, ça va être simplement de passer les tests. D'accord ?

Et donc comme un peu les étudiants qui débutent l'informatique. Et donc de la même manière le domaine du la vérification logiciel va passer d'une d'un domaine dans lequel on va faire des tests qui étaient faits pour vérifier des des algorithmes humains à un modèle dans lequel il va falloir vérifier exhaustivement les capacités d'un algorithme et donc faire une preuve formelle de ce qui est donné. D'autre part, quand on parle de confiance en fait de quoi on parle aujourd'hui ?

A, elle va me donner une une recommandation, une décision à prendre. Si je la prends, c'est moi qui endosse cette responsabilité. Et donc, qu'est-ce que je dois demander moi à Lia ?

Bah, je dois lui demander d'avoir non pas une précision sur sur la décision, mais d'avoir une capacité à me rendre compte du pour et du contre exhaustivement pour que je puisse prendre la décision. Et donc prendre la décision, c'està-dire endosser à sa place la responsabilité de la décision. Et donc ça ça veut dire que cette histoire de confiance, c'est pas une histoire d'informaticien, c'est une histoire transdisciplinaire avec probablement les SHs, les sciences humaines pour voir comment on peut faire basculer cette prise de responsabilité euh de la machine euh à l'humain parce que je pense que c'est lui qui en en bout de course sera responsable.

Alors, je vais aussi évoquer un un en fait plus tard ce qui peut se passer euh notamment c'est cette idée de génération à la volée d'algorithme. C'est une idée qui peut se généraliser à à l'internet lui-même, au web. Aujourd'hui, quand on va sur le web, on on observe une page qui a été rédigée par un humain.

Demain avec les LMEM et avec le l'énorme quantité de données du numérique dans laquelle on navigue, la page qui nous sera offerte sera une page synthétisée pour nous, pour notre âge, notre profession, nos besoins, nos envies à partir de données, soit de données brutes qui sont lisibles par des humains, soit de données qui ne sont pas lisibles par des humains ou de données qui ont été négociées par d'autres agents IA hein, qui vont payer pour avoir des données réelles ou qui vont accepter d'avoir des données sponsorisées. D'accord ? Et c'est ça qui qui va remonter chez moi.

Ce sera mon accès au numérique sera plus un accès numérique statique, sera un accès numérique évanescent, complètement changeant, hyper individualisé. Et donc dans ce contexte là, que peut faire la science ? Et ben c'est essayer de tracer la vérité, de tracer les modèles de fonctionnement, de tracer les pourquoi du rendu qu'on va donner à un utilisateur.

Et ça, je pense c'est un énorme challenge à long terme qui est à la fois scientifique et je pense sociétal. Voilà. Et puis on a parlé de la frugalité.

Je pense que c'est c'est un point essentiel également si on veut que démocratiser l'usage en de saisir. Merci. Merci messieurs pour ces premières interventions.

Je vais changer du coup ma première question. Euh voilà, vous parlez, vous soutenez tous les IA Frugal. Euh c'est je vois très bien l'utilité pour des raisons écologiques évidentes.

Est-ce que c'est pas une excuse ? vis-à-vis des moyens que nous n'avons pas en France ou en Europe comparé au gigantesque investissement américain. Je peux commencer avec un élément l' frugal, c'est pas uniquement pour des raisons de moyens limités ou de contrainte cré as inspirante ou créatrice ou créative.

C'est aussi des cas d'usage où euh il faut de toute façon des petits modèles. En particulier dès que c'est embarqué, il y a tout un tas de cas d'usage reposer sur des gros modèles qui tournent dans le cloud n'est juste pas une option, ça va de la robotique au transport en passant par euh les technologies euh d'assistance euh aux personnes. Donc je pense que c'est c'est vraiment un objet en soi.

Si je peux me permettre, il y a aussi y a il y a il y a un exemple par exemple je start-up qui fait des trucs qui marchent sur des téléphones. Vous pouvez pas avoir c'est c'est pas c'est c'est pas un super super ordinateur. Sinon, il y a aussi un côté esthétique de la recherche, l'idée que on va construire des systèmes intelligents en observant des milliards de milliards de milliards de machins avec des des oaos qui font des démonstrations pendant des des centaines d'heures pour pour limiter pour repr les limites.

C'est c'est pas très c'est pas très attirant comme un comme un proche scientifique. Donc d'un point de vue fondamental, on est obligé d' un peu de réfléchir à des trucs qui ne dépendent pas juste d'énormes volume de données et donc je pense c'est important. Moi je si je peux ajouter.

Donc en fait l'IA va être frugale en fin de course, c'est-à-dire que à partir du moment où on a besoin de dialoguer en langage naturel, en fait elle a besoin de s'autoconfigurer pour avoir une représentation du langage interne euh qu'on va pas maîtriser. Et donc dans cette première étape, il peut pas être frugal. il va falloir lui donner un maximum euh d'exemples, un maximum de textes humains, de textes algorithmiques pour que cette structuration interne soit faite.

Une fois que c'est fait, ça, on peut euh ce qu'avait été évoqué, c'est le concept de distillation, on peut la spécialiser pour un domaine particulier. Si vous travaillez pour un vendeur en ligne, vous êtes pas forcément obligé de savoir tous les scores du basket aux États-Unis ou l'histoire d'un pays. Donc, on va pouvoir élaguer ses connaissances en quelque sorte. tout en conservant ces capacités de compréhension du langage naturel qu'on peut pas avoir si on la si on l'entraîne uniquement sur des données métiers hyper spécialisé.

D'accord ? Mais cette seconde phase, elle elle est importante euh alors non seulement pour la déployer sur des petits systèmes, mais également aussi alors ça marche un peu pour l'empêcher d'halluciner, c'est-à-dire qu'elle nous qu'elle nous réponde pas à un truc qui n'a rien à voir en la forçant quelque part à avoir un vocabulaire ou avoir des données qui ne concernent que le métier dans lequel on travaille. Oui, l'afugal, c'est pas une une excuse qu'on cherche quand on sait pas faire autrement.

C'est d'abord avoir une conscience qu'on vit dans un monde fini avec des contraintes énergétiques et je pense que c'est une conviction que que beaucoup partagent et qu'il est essentiel de de prendre en compte. C'est aussi euh ne pas reposer uniquement sur la force brute comme je le disais tout à l'heure, c'est aussi valoriser des siècles d'accumulation de de savoir et arriver grâce à cela et à la combinaison avec ces approches plus récentes à des solutions qui sont plus malines, qui sont plus excitantes scientifiquement comme le le disait Jean Jean Ponce et qui infé se retrouvent être plus frugal et qui infé nous font prendre conscience parce que encore une fois il y a un langage, il y a un discours dominant qui est d'appeler toujours à plus de gigantisme et qui peut-être n'est pas la l'unique voie. Et donc explorer des voies alternatives, c'est aussi une motivation naturelle pour la pour la recherche.

Je comprends. Ah, monsieur Chatila, si vous permettez juste un petit point, je crois que l' lu frugal, c'est un défi scientifique profond. C'est un changement de paradigme que l'on recherche.

Euh le cerveau ne sait pas tout surtout, mais il consomme que quelques dizaines de Wtes euh pour raisonner, pour décider, pour traiter de l'information et cetera. Et je crois que on a suffisamment mentionné la notion d'abstraction, c'est-à-dire abstraire à partir des données une connaissance sur laquelle on peut raisonner de manière frugale. C'est ça le secret de l'intelligence.

C'est c'est et ça c'est un ce n'est pas juste faire une statistique et puis regarder ce qui est le plus statistiquement donc acceptable comme réponse et c'est vraiment profond dans finalement la définition de l'intelligence et la manière dont on veut y arriver. Donc ce n'est pas une excuse en réalité, c'est vraiment un défi un défi scientifique profond. Je suis un peu taquin, vous m'excusez.

Euh j'avais une autre question. Vous avez parlé de Prise May tout à l'heure. Moi, je sais que beaucoup de scientifiques me parlent qu'il y a une multiplication euh des publications scientifiques qui font que c'est très dur de rester au courant de tout ce qui se fait sur les sujets qui nous intéressent.

Donc, je pense que ça a beaucoup de succès ce genre d'application. Euh mais du coup, ça pose la question de la souveraineté. Que faudrait-il faire en France ?

Est-ce qu'il faut qu'on ait des I spécialisé françaises pour les différents sujets ? Quelle est votre vision sur ce sujet ? La recherche est mondiale, donc je ne pense pas qu'il fallait d'outils nationaux pour aider les chercheurs.

En revanche, que ce soit des outils plutôt open source, ça serait une bonne chose. Je pense que ce qui est très important dans ce genre de domaine, c'est d'assurer une certaine diversité dans les les possibilités. Euh il est normal que des grandes entreprises développent leurs outils et certains les utiliseront.

Euh en revanche, si par des effets de réseau, regardez le nombre de de personnes qui ont aujourd'hui un abonnement chez Open AI, d'accord ? par ces effets de réseau là, parce que j'ai un collaborateur qui l'utilise, je me retrouve obligé de l'utiliser et par conséquent de partager la recherche que je suis en train de décrire avec une entreprise privée et surtout que je n'ai pas d'alternative à ça, c'est là que se pose réellement le problème. Donc à mon avis, nous avons les le socle en Europe pour développer des outils des outils similaires qui peuvent donner une le choix aux gens d'utiliser tel ou tel outil.

Ouais, je mets je viens juste rajouter qu'en fait avec un un ordinateur assez récent, on peut le faire tourner enfin on peut le programmer assez rapidement en local. C'est c'est comme on l'a dit, on programme vite maintenant et faire un agent autonome qui tourne en local sur une machine et qui va inspecter et qui fait des résumés et qui vous fait quelque chose, on peut le faire en local assez facilement. C'est aussi un une des une des leçons et bah des progrès récents, c'est que tout est publié.

Souvent ces grands modèles alors qu'ils soient américains, chinois, français sont publiés aussi, sont disponibles. On peut les prendre, on peut les distyler. C'est assez facile de distyler un modèle et c'est assez facile de le de le faire tourner en local.

C'est ce sont vraiment des des choses faisables. Tout n'est pas forcément dans le dans le cloud. Je ne suis pas certain du tout que tous les modèles soient disponibles.

Les les modalités d'entraînement ne sont pas disponibles en général. Les données d'entraînement ne sont pas disponibles. Même pour les modèles appelés open source, ils ne le sont pas réellement.

Et il y a des bonnes raisons pour lesquelles les données ne seraient pas disponibnéles. Par exemple, une entreprise achète ses données un je sais pas provider quelqu'un qui vous vende des données un contrat avec cette entreprise, ce contrat n'a pas de raison de d'être de de permettre à l'entreprise de donner ses données à n'importe qui. Donc il y a des bonnes raisons pour lesquelles les données seraient pas disponibles.

Mais je pense que la les les grands modèles qui ont beaucoup de succès qui sont réellement open source où il y a tout y compris y compris les modalités d'entraînement et les données, en a extrêmement peu en réalité. Pour rebondir sur ce que vous aviez expliqué et pour essayer de mieux comprendre, monsieur Simon, elle vous expliquait que Unia commençait à former une réponse et qu'ensuite il y avait une espèce de balayage derrière avec des connaissances sûr qui permettaient de vérifier finalement l'information qui allait nous être délivrée. Est-ce que ça serait la fin des hallucinations ce nouveau modèle ?

Alors attention, en fait ces modèlesl ne fonctionnent pas en langage naturel. En preuve mathématiques, il y a pas d'hallucination. Il y a des preuves fausses et des preuves correctes.

Donc c'est c'est un avantage qu'on a dans le langage naturel. On peut dire que de quelqu'un qui l'hallucine simplement parce qu'il est créatif ou pas. Et en fait c'est que l'M hallucinente.

C'est simplement qu'il produisent un texte qui n'a pas d'ancrage dans le réel. C'est pas forcément un bug hein, c'est le leur configuration qui est qui est ainsi. Donc euh non, c'est alors là où ça peut jouer, là où ça peut être intéressant encore une fois, c'est que plutôt que d'attendre du LLM euh de maîtriser toute la chaîne euh entre la compréhension de la question, la réflexion interne et la production du d'une solution, c'est demander au LM ce pourquoi il est bon.

Il se trouve que bah encore une fois, même en 2022, ça c'était pas du tout prévu. Il est il est bon à produire une abstraction euh en langage symbolique. Donc c'est un c'est un langage qu'on peut lire mais dans lequel on va mettre derrière chaque mot une une force sémantique très forte et indiscutable.

Par exemple, dans un graphe qui va représenter des interactions médicamenteuses. On va mettre un lien entre deux nœuds si jamais il existe une interaction qui a été validée par des publications scientifiques. Donc ça c'est pas euh enfin ce lien a une sémantique très claire.

Il est pas discutable. C'est pas du langage naturel avec lequel on va pouvoir débattre et on va pouvoir dire du vrai ou du faux indépendamment dans la même phrase. Donc donc c'est ces grands modèles de langage sont curieusement assez bons à produire une abstraction que ce soit du code informatique qui est une abstraction d'un problème ou quelque part une représentation syntaxique formelle d'une question.

D'accord ? Une fois que ça c'est fait, en fait, l'utilisateur peut acquié et dire "OK, cette représentation formelle, je la valide." Et ensuite, on va laisser faire une méthode forte, mathématique et puissante et prouvée pour déduire de cette formalisation une réponse et ensuite le pourra être rebranché à la fin pour dire voilà la réponse.

Donc ça, on peut le voir comme un agent. C'est c'est déjà l'architecture est déjà prête. Par contre, ce qui est pas prêt, c'est la capacité de communication entre de ces deux systèmes.

Et également ce qui est pas prêt, c'est que en fait derrière je je plaide pour ma paroisse avec les méthodes de raisonnement, mais les méthodes de raisonnement, elles ont plein de difficultés, elles ont échoué dans dans le passé parce qu'on narrive pas à représenter le monde de manière formelle. C'est trop compliqué. Par contre, l'espoir qu'il y a là, c'est que si on peut pas représenter la globalité du monde de manière formelle, sur une question très précise, on peut le faire.

On peut se mettre d'accord sur cette question pour une représentation. Alors, c'est pas une question de langage naturel, c'est pas une question de décision politique, c'est pas une question c'est une question qui qui se prête au jeu, hein. C'est une question scientifique sur des interactions médicamenteuses.

C'est c'est une question très précise. Et dans ce cas-là, il faut absolument empêcher quelque part le lm de faire ce qu'on appelle le raisonnement parce que ce n'est pas encore une fois du raisonnement, c'est une trace papier d'une d'une aide pour essayer de produire une meilleure précision à la fin. Voilà.

Est-ce que ça répond à votre question un peu ? En en complément, je pense qu'il est important de comprendre qu'une des révolutions de l'IA contemporaine, ce c'est des c'est la comment dirais-je la la le fait que les modèles sont les plus grands modèles donc on appelle fondation pour cette raison là, ils sont généralistes. C'est-à-dire que un même objet va servir ensuite tel quel ou via une spécialisation à aborder ou traiter ou répondre à des questions ou réaliser des tâches qui n'ont rien à voir les unes avec les autres de comme le ferait d'ailleurs un humain.

Cette polyvalence, elle est fondamentale et elle rend toutes ces questions assez compliquées à traiter. C'est la plupart ou un grand nombre des choses qu'on demande à faire des à desia ne sont pas prouvables. Je veux dire créer une image, il n'y a pas de vérité, il n'y a pas de C'est c'est aussi pour ça que c'est aussi dur à évaluer sur un spectre aussi large de de tâche.

Il y a un certain nombre d'usages qui ne relèvent pas de la vérité. Donc l'hallucination qui est un mot formal choisi par ailleurs, c'est c'est effectivement même un attribut de ces modèles là. Donc faut faire attention après quelle de quelle tâche on parle et si les tâches sont bien définies, savoir si elles sont vérifiables ou non.

La traduction automatique n'est pas une tâche vérifiable. Enfin, je veux dire le le travail du traducteur est passionnant aussi pour cette raisonlà. Donc, faut faire attention à ce qu'on demande à nos à nos à nos modèles, à nos à nos robots et cetera et parfois on est beaucoup plus exigeant que avec les avec les humains.

Monsieur le président, est-ce qu'on peut ouvrir la discussion au collègues ? Oui. Question s'il a pas de questions.

Oui, mais monsieur Alerve, vous voulez peut-être je jette un petit pavé dans la mar. Moi, je suis assez vieux pour me souvenir des débats qu'il y a eu sur le lia symbolique et j'ai l'impression que notamment dans les propos de mon excellent collègue Laurent Simon, j'ai l'impression qu'il est en train de refaire le rêve du li symbolique mais dans le cadre de l'IA connexionniste et LLM en disant "Oui, oui, les LLM, ils ont des défauts." Il suffit au fond de résoudre les problèmes sur lesquels l'IA Symbolique qui a 50 ans s'est cassé les dents pour avoir le meilleur des deux mondes.

Et je suis personnellement un peu sceptique. Enfin, je pense qu'il a un très beau programme de recherche mais ce que Oui, symbolique aussi avait un très beau programme de recherche mais bon l'histoire n'a pas été très indulgente vis-à-vis de ce programme de recherche. Donc je suis je veux juste indiquer que nous [raclement de gorge] devons prendre un certain nombre de d'idées euh comme des programmes de recherche.

C'est ça qui nous motive nous autres chercheurs, vous autres chercheurs, puisque maintenant je fais plus de math depuis longtemps, je fais de la philo. Donc c'est pas [grognement] tout à fait le même genre de de recherche mais c'est motivant mais ça veut pas dire qu'on va résoudre les problèmes. Enfin, quand on parle, je c'est Yann Lequin dont quelqu'un a dit récemment que il parlait d'une d'une couche de granite.

Bah oui. Alors passer la couche de granite. C'est une belle image parce qu'on se dit on va y arriver, on a toujours réussi à percer les couches de granite.

Mais mais c'est tout simplement pas vrai. Il y a des couches de granit qu'on n pas percé pour des raisons de limitation cognitive. Nous ne sommes pas universellement intelligents, nous ne sommes pas des dieux ou parce que tout simplement ça nous vaut pas la peine qu'on va pas y arriver et cetera.

Donc juste c'était juste une manière de dire que il faut distinguer les directions de recherche qui sont une très bonne idée et puis une évaluation sobre de ce qui est possible ou pas. Très bien, merci. J'ai une pensée évidemment pour tous les t tous les enseignants de mathématiques dont nous sommes avec Pierre Henriet correligionnaire.

Euh évidemment le le votre allusion sur les démonstrations qui jadis nécessita plusieurs semaines qui peuvent être résolu en en quelques heures, quelques minutes parfois. Bon, ça pose le le sujet de plus largement de l'enseignement quand même. La créativité, moi je je note quand même un concept dans dans une démonstration.

Il y a des démonstrations classiques euh avéré et et dont on connaît les ressorts et pour lesquels on a on n pas de difficulté à tester la la solidité, la robustesse d'un algorithme, enfin d'une démonstration faite par intelligence artificielle. En revanche, ce qui est nouveau, c'est la créativité. Penser à d'autres d'autres chemins pour mener à une démonstration.

C'est évidemment ça la difficulté quand on quand on fait ce type de de travaux. Et ça ça ouvre des champs quand même assez assez vertigineux à la fois. assez vertigineux et [grognement] qui ouvre des peut-être des euh des des champs extrêmement extrêmement intéressant de de démonstration de conjecture ancestrale don dont on a encore un un petit stock.

Il y avait des questions de nos collègues ? Oui. Merci.

Merci président. question relative à la frugalité que vous avez évoqué tout à l'heure à plusieurs reprises, frugalité des calculs, mais aussi frugalité énergétique. Quel est votre point de vue sur la la prospective de consommation énergétique de l'IA ?

Je pense qu'il est assez clair vu les investissements actuels dans les data center que le la trajectoire est quand même peu frugal sur les grands modèles, mais c'est aussi en raison de de l'imitation actuelle de nos connaissances et de nos technologies pour développer ces I fondationnels. Donc l'espoir effectivement c'est que des percés du granit ou pas du granit permettent de de d'aller vers des des modèles qui peuvent être appris ou préappris sans avoir mobilisé des milliards de milliards de mots ou je ne sais ces échelles là. Euh et une fois de plus euh il y a il y a quand même d'autres types de recherches, d'autres IA y compris euh qui étaient qui ont pré préexister euh alia générative pour des des problèmes très très euh très ciblés, très bien euh circonscrits.

Mais les grands les grands modèles généralistes, pour l'instant la trajectoire est pas est pas à la décroissance et c'est effectivement une question. Après, on peut on a évoqué aussi l'apport de ces modèles là dans la dans la recherche et dans les et dans les autres sciences. Parmi les champs que cela on espère va pouvoir faire avancer, il y a il y a ceux autour de l'énergie justement.

Et un dernier point là-dessus, l'IA est aussi un formidable outil d'optimisation euh et en particulier quand c'est mobilisé pour optimiser la consommation d'énergie entre autres. Ça ça alors ce qu'on perd d'un côté, on le gagne de l'autre. Il faut évaluer mais et c'est très dur à évaluer d'ailleurs les coûts de de développement de de l'IA mais il y a des progrès à espérer aussi du côté de de l'énergie de de nouveaux matériaux et cetera.

Donc des avancées scientifiques boostées par l'IA qui vont permettre on espère d'avoir des des des choses moins moins consommatrices d'énergie. Mais il y a vrai une vraie question évidemment sur l'échelle à laquelle tout ça se passe. Je pense qu'aujourd'hui la mode est effectivement au gigantisme et par exemple donc dans un domaine je connais bien qui est la robotique la mode est également au gigantisme.

On observe des tas de gens qui démontent qui font des démonstrations et cetera. On n pas du tout prouvé que c'était la meilleure manière de faire dans un domaine où on a d'excellents modèles de ce qui se passe. Les robots, on les a construits, on les a conçus et cetera.

Donc il y a des alternatives dans certains domaines comme les LLM et cetera. clairement, il faut des des données extrêmement massives. Dans d'autres, c'est pas du tout évident que ce soit la clé.

C'est pas c'est la frégalité qui qui est le point le plus principal, mais c'est pas du tout évident que des déployés des des données extrêmement massives soient la clé du progrès dans ce domaine. Et je pense pas que ce soit des domaines très restreints. Et euh je voudrais ajouter aussi que ce sont dans les usages aussi qu'il y a un problème, c'est-à-dire que on voit les LLM comme simplement il va prédire le prochain mot, mais les modèles de pensée hein qui permettent d'améliorer les résultats en fait produisent énormément de textes en interne et ne le restituent pas à l'utilisateur.

Donc on les voit pas. ce sont des des coûts cachés. C'est-à-dire que euh il est possible sur certains modèles qui qui génèrent des pages et des pages euh de pensées, mais il faut je vous je vous vous enfin vous encourage à faire l'expérience d'ouvrir la pensée interne.

Et en fait ce qu'il dit quand quand vous posez une question pour mieux répondre, il il se dit vraiment en interne, enfin il écrit le roman "Ah l'utilisateur semble vouloir me poser une question sur la météo. Je pense que vu le contexte et cetera, donc il va il va décrire une sorte de texte interne pour essayer de mieux comprendre la question même si la question est trivial et et là il va produire énormément de de mots et donc c'est ça peut être un gâchi et c'est complètement caché. Je ajouter juste un mot, c'est on pense en général à la consommation énergétique au niveau de l'entraînement de ces machines.

Mais n'oublions pas que si c'est si c'est déployé sur 5 milliards de téléphones au moment de l'inférence, c'est l'utilisation de ces modèles, il y a une consommation énergétique également que ça soit dans les voitures et cetera. Il faut pas négliger ça. Daniel Salmon.

Oui. Alors, je je rebondis un peu sur la question de mon collègue donc sur cette IA. On parle aujourd'hui beaucoup de la consommation du numérique dans sa globalité.

Est-ce que on peut faire une différence entre ces data centers qui stockent de la donnée et où est-ce que tout cela est un ensemble qu'il faut appréhender dans sa globalité ? Et on a vu que dans l'empreinte du numérique effectivement une bonne partie euh vient des terminaux. Donc il y a la consommation euh d'électricité parce que quand on parle d'énergie là c'est l'électricité mais il y a également la consommation de ressources qui est derrière et on sait que au fur et à mesure c'est une grande fuite en avant que l'on fait aujourd'hui.

Au fur et à mesure que l'on avance dans les progrès des différentes applications, ça veut dire que nos terminaux au bout d'un moment deviennent obsolètes et qu'on va devoir les les renouveler et donc là avec une grosse empreinte à la clé. Donc voilà, énergie et ressources et puis bon, d'autres questions les complètement [grognement] triviales et l'humain dans tout ça, c'est-à-dire les études d'impact sur le cerveau humain. Voilà comment on appréhend ça d'une manière, [grognement] on va dire globale lorsque tout un chacun, toutes nos concitoyens vont peu à peu s'inscrire dans des démarches en utilisant l'IA.

Voilà ce temps de cerveau qui va être libéré parce que l'IA va faire un certain nombre de de tâches à notre place. Il va servir à quoi derrière ? Ça ça fait beaucoup de questions d'un coup.

Je vais juste donner un élément sur la première partie sur le le sur le l'évaluation du coût énergétique ou empreint de carbone de l'intégralité de du cycle des usages et cetera. Il y a des il y a des gens dont c'est vraiment le le travail. C'est extrêmement difficile d'évaluer ces choses-là.

Euh euh je il y a une équipe à à l'école des des PS et chaussées qui euh récemment et ils vont le bientôt le publier a à aer euh s'est prêté au jeu des de d'évaluer l'intégralité du coût du développement d'un des modèles de mon équipe. Et en fait c'est c'est c'est vrai en incluant tout ce que vous venez de dire compris le matériel, l'énergie et cetera. C'est c'est assez passionnant, c'est assez difficile.

Et un élément juste que je veux parmi d'autres que je veux mettre en avant sur cette étude-là, c'est à quel point pour la partie alors j'en pense à parler de du coup d'inférence, mais là c'est vraiment sur le coup des développements. Euh à quel point les chiffres qui sont souvent connus, mis en avant et partagés par les acteurs, c'est l'entraînement final. C'est ce qu'appelle le le enfin le le run final qui consiste à entraîner votre votre modèle qui va être mis en production. et et mais ça c'est que la partie euh euh émergée de l'iseberg et ensuite tout ce qui a précédé, c'est-à-dire toute la recherche, les essais erreurs ou infructueux, les euh le fait qu'on s'appuie sur des modèles que d'autres ont développé ou soi-même en en amont et cetera.

Donc toute cette cette archéologie quasi du travail qui a précédé la version finale du modèle est assez euh est vraiment très compliqué et c'est un exercice bah que certains euh effectivement essayent de faire mais la difficulté c'est d'accéder à l'intégralité des données. Et même quand quand c'est c'est soi-même qui avons fait le modèle dans une équipe, c'est difficile de tout retracer et de de remonter à toutes les dépendances, y compris sur des outils ou des modèles dont certains sont pris sur étagères parce qu'ils sont open source et cetera, ce qui fait qu'une partie des coûts a déjà été mutualisé par l'industrie. Une question de Jean-Luc Fugit.

Merci président. Je voulais revenir un petit peu, enfin vous l'avez un peu évoqué sur l'énergie, monsieur Perez, entre autres euh sur la question énergétique. J'aimerais bien avoir savoir si on peut faire un bilan un peu plus poussé ou si c'est l'objet que de certains travaux parce que euh moi je suis universitaire donc j'ai aussi cette idée de comment on peut évaluer les choses.

La question de la flexibilité notamment dans le domaine de l'énergie aussi bien la flexibilité aujourd'hui sur les questions de production mais aussi les questions de consommation. On sait que grâce à à la Flex, on va pouvoir optimiser les les consommations et donc peut-être que l'IA va être justement un outil pour pour nous aider et est-ce qu'à la fin on peut penser que l'IA aura sa propre consommation mais ce qu'elle va apporter dans les différents usages est-ce que ça peut être bénéfique ? Donc ça c'est une première question que je me pose.

Et est-ce que on a des équipes de recherche qui arrivent un petit peu à évaluer où est-ce qu'on a des modèles ou est-ce que c'est encore prématuré ? Et puis l'autre question, c'est par rapport au à une question très différente. Quoique la question de des métiers et de l'emploi, l'emploi et métier peut-être distinguer les deux choses.

Aujourd'hui, bien souvent quand on parle li a on a l'inquiétude donc qu'on peut avoir quand on discute avec le concitoyens sur la question des la disparition de certains emplois et donc la disparition des éventuelles de métiers, l'évolution des métiers. Euh quand j'étais euh encore universitaire et en charge de l'insertion professionnelle dans un dans une université, je me souviens que la PC avait publié en 2015 euh une étude assez poussée à l'époque qui expliquait que le 60 % des métiers de 2030, on ne les connaissait pas à moment de de l'étude [grognement] et et et et et en fait je presque dire que de tout temps ça a été comme ça, les métiers évoluent. Mais est-ce qu'aujourd'hui avec Li on arrive aussi à voir les évolutions de métier ?

Est-ce que là aussi vous pouvez nous nous éclairer un petit peu sur la question à la fois des métiers de l'emploi parce que je pense que c'est quelque chose qui doclairer le débat public et et d'une certaine manière apporter des réponses à nos concitoyens. Merci. Si si je peux me permettre, ça va être largement abordé cher Jean-Luc dans la deuxième table ronde.

C'est bien aussi d'avoir donc des réponses très brièvement et ensuite je vais passer la main à Corine Rassigin pour aborder la deuxième table ronde. Donc j'aborderai que le premier point que vous avez mentionné qui effectivement est majeur. Euh je je le reformulerai en disant finalement on veut connaître le bilan net.

On on se focalise beaucoup sur euh ce que l'IA et le le numérique en général hein. Pour répondre à l'autre question, je crois que ça devient inutile de chercher à distinguer il a du numérique aujourd'hui tellement l'IA est est absolument partout dans le numérique. Euh mais donc qu'est-ce que on arrive et et c'est difficile Patrick Perez l'a rappelé à chiffrer ce que nous coûte l'IA et le et le numérique.

C'est très difficile de chiffrer ce que nous permet d'économiser l'IA et le numérique. À l'inria, nous avons à l'agence du programme Inria, nous avons un programme numérique et environnement. Nous travaillons là-dessus aussi avec l'INRAE, avec l'ADEM. euh sont des questions extrêmement difficiles.

Faire un bilan global est extrêmement difficile. Ce que je peux vous dire, c'est que il y a des des actions en particulier avec EDF euh où on mobilise des quantités de de de connaissance à la fois en en IA bien sûr, en en statistique, en optimisation, en prédiction climatique pour précisément faire ce que vous dites, c'est-à-dire faire en sorte que l'IA aide à mieux répartir les énergies renouvelables et donc avoir infiner un impact positif. qu'il va falloir évidemment déduire de l'impact négatif.

Et pour autant, est-ce qu'on a la le résultat de la de cette de cette différence entre les deux ? La la réponse est non actuellement et et Patrick Perez a dit combien c'était difficile déjà de le faire juste pour un modèle. Donc à l'échelle de l'ensemble du numérique.

Je crois que c'est encore plus euh encore plus compliqué. Merci. Merci beaucoup pour cette cette première table ronde.

On va je vais me tourner vers l'autre côté du du de de la table pour la la deuxième table ronde ce qui va donc être consacrée à la diffusion des innovations dans les usages de l'IA. Donc plus généralement dans la société et peut-être aussi plus particulièrement dans le monde économique. On a parlé de certaines évidemment déjà certains types de de diffusion des usages de l'IA dans dans des dans des domaines qui sont très spécifiques et très liés directement au développement de l'IA à travers la robotique, le le la recherche scientifique en en elle-même.

Mais bien sûr l'IA maintenant est partout depuis depuis quelques années évidemment depuis l'avènement des des LLM et ces ces évolutions très très rapide de l'IA se diffuse aussi de manière aussi rapide dans dans la société dans le monde économique. Et donc pour pour en en parler avec nous, Alexis Bao directeur des projets IA, direction générale des entreprises, Selma Suel, adjointe au directeur du programme IA Dinriia, Françoise Soulier, administratrice et membre du bureau du hub France Iwan de la porte du tel président fondateur de l'Association nationale de l'intelligence artificielle et Arthur Grémonpont responsable du plaidoyer centre pour la sécurité de l'IA. Et donc je vais euh céder la parole déjà pour commencer à Alexis Baco.

Madame la sénatrice, monsieur le président, merci beaucoup pour votre invitation. Je suis donc directeur de projet IA de la direction générale des entreprises où nous menons des politiques publiques pour l'intelligence artificielle de façon relativement holistique du soutien à l'innovation des écosystèmes d'innovation notamment avec le soutien du plan France 2030. Nous travaillons sur la diffusion de l'IA dans les entreprises et je m'efforcerai pendant cette ce propos introductif de vous donner une vision claire de ce qui se passe aujourd'hui dans l'économie et en France en particulier autour de ces questions, les enjeux et puis la façon dont nous accompagnons ce mouvement.

Et nous travaillons aussi sur la mise en place du cadre réglementaire donc du règlement européen sur l'IA qui doit donner à l'Europe un cadre de confiance propice à l'adoption de ces technologies. Pour commencer, je souhaitais revenir sur l'émergence de l'utilisation de ces technologies dans l'économie. L'intelligence artificielle, c'est une notion qui est évidemment très large et qui n'est pas nouvelle.

Euh et donc les entreprises n'avaient pas attendu en particulier l'émergence de l'IA générative pour s'emparer de ces sujets et depuis plusieurs décennies les technologies d'IA étaient utilisées pour des applications qui sont bien connues de tous comme le fait de filtrer des courriers indésirables, assurer de la maintenance prédictive de système industriel, détecter de façon automatique des défauts dans une chaîne de production. C'était des cas d'usage, je dis que je qualifierai de haut du spectre qui ne sont pas clés en main, pas accessibles à tous les acteurs économiques et qui avait introduit une asymétrie. Donc c'estàdire que les plus gros acteurs, les plus grandes entreprises, les mieux structurées étaient celles qui étaient en mesure de déployer ces technologies, de s'emparer de ces outils tandis que les plus petites entreprises forcément avaient un retard par rapport à l'adoption de ces technologies.

C'est un phénomène qui est bien connu, bien chiffré et que l'on retrouve même de manière générale dans l'adoption du numérique. Donc les les enjeux qui étaient particulièrement visibles à l'époque que l'on retrouve aujourd'hui, même si c'est dans une moindre mesure, c'est évidemment le fait d'avoir capitalisé, de savoir exploiter les données de l'entreprise, disposer de compétences en interne pour les valoriser et mettre leur exploitation au service des opérations de l'entreprise et puis la voilà la capacité à à développer, déployer les systèmes qui qui valorisent ces données. Ce qui a vraiment changé la donne, c'est donc effectivement ce qu'on a vu arriver, ce qui a été évoqué dans la précédente table ronde, l'arrivée des modèles pré-entraîné.

C'est-à-dire que on ne dépend pas uniquement des données dont on dispose en interne, mais on bénéficie d'un socle de connaissance que l'entraîneur, le fournisseur du modèle a agrégé en amont et dont je peux en tant qu'acteur économique bénéficier et éventuellement compléter avec mes données de l'entreprise. Mais on dispose d'un socle qui abaisse la barrière à l'entrée pour l'adoption de ce type de technologie. Donc modèle pré-entraîné d'une part et puis d'autre part passage à l'échelle de la quantité de données d'entraînement ce qui confère au modèle d'intelligence artificielle le caractère généraliste et la connaissance l'intelligence en quelque sorte dont il dispose avant même que l'on ne vienne les spécialiser pour un secteur pour une tâche pour une entreprise donnée.

Donc ce caractère généraliste de la même manière abaisse aussi la barrière à l'entrée en terme de secteur potentiel dans lesquels ces technologies vont venir pouvoir s'appliquer. Évidemment fin 2022, le choc de lia générative chat GPT qui compte aujourd'hui selon les derniers chiffres 900 millions d'utilisateurs hebdomadaires avec 50 millions d'utilisateurs d'abonnements payants. ce qui n'est pas reprenti de l'ensemble du de la valeur économique de cette entreprise, mais c'est un exemple éloquent.

Euh autre exemple flagrant de diffusion, une entreprise suédoise qui s'appelle Lovable qui propose un service pour construire un site web avec l'IA générative qui a atteint en seulement 8 mois, en juillet 2025 100 millions de revenus annuels récurrents. Il s'agit d'un record qui n'a pas encore été battu mais qui, je n'en doute pas, devrait être à nouveau battu dans les mois qui viennent. Euh et puis bien sûr d'autres d'autres acteurs et des actualités récentes sur lesquelles je ne reviens pas.

Euh certains de ces laboratoires, certaines de ces entreprises nous fournissent des données intéressantes sur l'usage qui est fait par leurs utilisateurs. Donc je pense notamment à Anthropic qui publie un l'économic index qui permet de d'éclairer la façon dont les uns et les autres s'approprient ces technologies. 25 % de l'usage de leur modèle, c'est pour des mathématiques et de l'informatique.

Donc, on retrouve le cas d'usage de programmation pour les pour lequel les modèles sont très performants. 13 % pour l'éducation. Voilà, ça donne une idée.

Donc aujourd'hui, les modèles de langage ont été très largement adoptés et la question en terme de perspective est demain, vivra-on le moment de chat GPT de la robotique ? De nombreux laboratoires travaillent sur de la robotique généraliste, des modèles spécialisés pour la robotique. Sans rentrer dans les débats technologiques.

Évidemment, les potentiels économiques sont immenses, mais il reste de nombreux défis technologiques à relever. Alors, dans les entreprises à ce jour, euh le constat est plus partagé puisqu'il y a une différence importante entre l'IA que l'on pourrait voir comme un gadget et puis les utilisations économiques créatrices de valeur de l'IA qui sont déjà présentes mais qui se diffusent plus lentement que l'usage grand public de LIA. Nous sommes à ce jour donc suivant le baromètre France Num qui a été réalisé par la DGE en 2025 à 26 % d'utilisation de l'IA par les TPE PME en France euh ce qui est une augmentation significative de 13 points par rapport à l'année précédente et euh à l'échelle plus générale les grandes entreprises étant un peu plus en avance on peut estimer que l'on se situe entre 20 et 40 % d'adoption de l'IA pour les entreprises.

L'enjeu de cette diffusion, c'est que les dirigeants d'entreprise aient conscience des gains concrets qui peuvent être apportés par l'IA et se saisissent de l'IA comme d'un sujet stratégique et non pas d'un outil ponctuel qui va permettre d'automatiser ou de simplifier certaines tâches. Mais c'est aussi un enjeu d'être en mesure de se transformer. Il ne s'agit pas d'une transformation ponctuelle, mais de savoir apprendre à se transformer pour suivre évidemment la courbe de croissance vraisemblablement spectaculaire que l'on va que l'on connaît déjà et que l'on devrait continuer à connaître dans les années qui viennent.

Donc ces gains tangibles sont déjà sont déjà pour une une bonne partie bien connue. Je vais en citer quelques-uns par degré de complexité croissante en terme de de complexité à les adopter pour les entreprises. Un cas d'usage largement utilisé aujourd'hui, il s'agit de d'améliorer la relation client à travers des agents conversationnels, l'analyse de des interactions avec les clients afin d'identifier des difficultés, des pistes d'amélioration, d'augmenter la la satisfaction des utilisateurs.

On parle ici voilà de d'augmentation de la de la satisfaction et donc de conséquences en terme d'augmentation du chiffre d'affaires qui ne sont pas toujours évidentes à à quantifier avec une une causalité qui n'est pas toujours facile à à prouver. Un cas d'usage qui se déploie très rapidement, c'est l'assistance juridique avec des outils de veille juridique de rédaction assistée par l'IA, de clause contractuelle de capitalisation de la connaissance. Les retours d'expérience dont on dispose nous parlent de gain pour un avocat par exemple ou ou un voilà un conseiller juridique de 5 à 10 he par semaine ce qui donc on atteint un chiffre qui peut voilà qui peut atteindre 20 % qui est un une une métrique un ordre de grandeur que l'on retrouve souvent et puis pour des cas d'usage plus industriel l'IA est utilisé pour des inspections qu' s'agisse de d'infrastructure de matériel donc je pense au matériel roulant euh au ponts aux tunnels.

Euh LIA permet d'améliorer la précision et puis d'améliorer la vitesse à laquelle ces ces inspections sont réalisées. On a eu là aussi des retours d'expérience récents d'entreprise qui nous parlaient d'une augmentation de 30 % de la productivité dans ces domaines d'activité. On peut parler aussi d'amélioration de chaînes de production ou de chaînes de tri.

Euh on avait là aussi recueilli des des témoignages très concrets euh dans le domaine du tri déchets d'une entreprise qui après un investissement d'équipement de 70000 € euh mesurait un gain pour certaines chaînes de production qui allaient jusqu'à 750 € par jour puisque réduction des interruptions de cette chaîne, réduction des erreurs. Donc ces ces gains sont commencent à être quantifiés avec des retours sur investissement d'une part, mais aussi des gains qui sont non quantitatifs mais néanmoins très intéressant aussi. S'agissant de la qualité, de la standardisation, de la capacité à capitaliser et puis de la de la satisfaction des usagers.

Euh donc c'estes ces gains tangibles, l'enjeu c'est de les diffuser dans l'économie pour que les entreprises s'emparent de ces sujets euh avec un impact économique global qui a été euh déjà étudié par certains chercheurs notamment euh je pense notamment aux travaux de de Philippe Agon et Simon Bunel euh qui ont pu avec une méthode d'analyse de l'exposition des tâches à l'IA et du potentiel d'automatisation des tâches, ce qui n'est qu'une partie des gains potentiels de l'IA qui ont pu quantifier les gains de croissance à 0,7 points de croissance pendant 10 ans. Donc c'est un régime transitoire qui se stabiliserait aussi mais mais mesure à laquelle il faut ajouter l'impact de l'IA sur la création de nouvelles idées, sur l'innovation, la création de nouveaux produits. L'enjeu, c'est donc de tirer l'ensemble de l'écosystème vers le haut, accompagner les entreprises de toute taille dans l'adoption de ces technologies et une adoption qui soit réellement utile pour tous, à la fois pour la productivité des entreprises, mais pour l'amélioration des conditions de travail de leur salariés également.

Ce qui se fait à travers l'adoption des solutions qui sont déjà matures et notamment grâce au soutien de la stratégie nationale et du plan France 2030, l'écosystème français compte déjà de nombreuses offres matures disponibles sur le marché. Mais c'est aussi poursuivre une politique d'innovation qui doit permettre de mettre les innovations de rupture de l'IA de demain au service de nos industries. Et donc on parle ici de quel usage extrêmement transformant.

Il s'agit de la découverte de nouveaux matériaux pour les semi-conducteurs. Il s'agit de de nouveaux modèles d'IA pour la découverte de médicaments. Euh il s'agit aussi de de modèle d'IA pour la conception de cartes électroniques.

Voilà donc le l'objectif, l'ambition de la stratégie nationale pour les prochaines années est de poursuivre le soutien à ces innovations pour le bénéfice de l'économie. Je vous remercie. Vous m'entendez ?

Madame la sénatrice, monsieur le président, mesdames et messieurs les parlementaires, [grognement] je vous remercie d'abord pour cette invitation et je souhaiterais revenir sur le la coordination de la composante recherche qui a été évoquée par Jean-Frédéric Gerbau, d'Inria de la stratégie nationale en intelligence artificielle. Donc c'est un mandat qui a été renouvelé en en 2024, élargi à l'enseignement supérieur et qui s'inscrit aujourd'hui pleinement dans le cadre de l'agence de programme dans numérique que nous opérons pour le compte de l'État. Le positionnement que nous avons, c'est un positionnement qui est à l'interface entre production scientifique, structuration des des communautés et transformation vers l'innovation.

Et c'est également à cet endroit-là que se joue la diffusion des usages dans un domaine qui est aussi instable que l'IA. L'enjeu n'est pas simplement de prédire les usages de demain. C'est très important de faire de la prospective et c'est aussi un des rôles de l'agence de programme.

Mais l'enjeu, c'est aussi de se donner des instruments capables de soutenir les technologies qui pourront devenir ces usages de demain. Parce qu'en réalité, entre un résultat de recherche scientifique et un usage réel dans une entreprise, un hôpital ou une administration, le passage n'est pas du tout trivial et je vous l'apprends pas. Donc c'est ce passage que nous cherchons à structurer à travers plusieurs dispositifs très concrets et je prendrai ici trois exemples.

Donc le premier point que je voulais vous partager, c'est comment on arrive à construire une politique industrielle du logiciel. On y a un objet central, c'est le logiciel non seulement non seulement dans les applications finales, mais aussi dans les briques intermédiaire. Donc tout ce qui va être par exemple outil de préparation des données, les bibliothèqu les bibliothèques de d'apprentissage, les composants d'explicabilité, la quantification d'incertitude, ça a été rappelé. [grognement] Or, ces briques logicielles qui sont développées par des équipes de recherche souffrent souvent de fragmentation et d'un manque de maintenance sur le long terme euh quand elles sont pas stabilisées, quand elles sont pas maintenues, documenté et ne diffuse pas ou alors très difficilement.

Et c'est là que le la notion de commun logiciel devient vraiment centrale. C'est pas seulement avoir du code ouvert, c'est avoir un logiciel partagé, robuste, gouverné dans la durée et réutilisable. euh dans des contextes variés.

Ça a été encore une fois rappelé. Pit learn en est un très bon exemple. C'est c'est un logiciel qui a réussi à avoir un vrai impact parce qu'il a rendu accessible et fiable des méthodes scientifiquement éprouvées à très grande échelle.

Et c'est ce type de d'effet de levier finalement qu'on qu'on éche à reproduire plus systématiquement. Donc la 16e mesure la stratégie nationale en IA à travers P16. Donc P16 pour la 6e mesure et probable qui est une entreprise de mission de souveraineté numérique et technologique aide justement à identifier des briques issues de la recherche, de les stabiliser et d'organiser leur maintenance dans la durée avec justement cette structure dédiée.

Donc c'est c'est pas une start-up comme une autre, c'est une spinoff d'inria mais c'est pas la spin-off lambda, on va dire. C'est ça a vraiment été conçu pour accompagner l'adoption d'artefacts scientifiques par le marché. Euh et c'est une architecture finalement publique privée assez innovante, enfin même tout à fait originale qui articule à la fois l'excellence de la recherche et la capacité de mobiliser des capitaux pour euh porter ses communs logiciels jusqu'à l'usage.

Donc le deuxième point sur lequel je voudrais revenir, c'est euh le fait de construire un continuum et une cohérence d'ensemble. La diffusion des usages repose sur un continuum. Euh le modèle ne devient pas un usage euh s'il n'existe pas sous une forme stabilisée, exploitable, euh s'il ne peut pas être entraîné, testé à l'échelle et s' ne répond pas à un besoin métier identifié dans une filière donnée.

Et je souhaite là donner l'exemple de Laif Factory France donc qui a été lancé en 2025 dans le cadre du programme européen EuroHPC porté par le GEN avec Inria et un ensemble d'acteurs académiqu et industriel et le rôle est précisément d'organiser ce continuum en donnant accès un accès unifié finalement au calculs, aux données, aux modèles mais aussi au support technique pour l'utilisation de ces modèles et de ces données et à la formation pour en accélérer l'adoption. Donc l'enjeu finalement c'est de faire émerger euh à l'image des des communes logiciel ce que on pourrait appeler des communs d'usage finalement. Euh c'est-à-dire que les filières peuvent s'organiser.

Euh les acteurs sont souvent euh confrontés aux mêmes problématiques récurrentes. Si on prend l'exemple de la santé, la qualité et l'annotation des données d'imagerie par exemple, la performance des modèles, leur validation des aspects comme l'apprentissage fédéré, les contraintes réglementaires, c'est des questions que toute la filière se pose et donc on est on est confronté finalement à cette à ce concept de commun d'usage au-delà des des communs logiciels, donc des commun d'usage qui peuvent servir finalement une pluralité d'application. Et donc cette structuration-là euh c'est celle qui est cherchée par la Factory France qui cherche à rendre possible euh euh la l'expérimentation ou le passage entre expérimentation locale et actif partagé.

Et puis le 3è et dernier point que je voulais euh vous partager euh c'est le fait d'accepter l'incertitude dans la manière dont on fait émerger les projets. Donc les usages les plus transformants de de l'IA n'émergent pas de trajectoire tout à fait linéaire. Ça a été rappelé par exemple euh dans le cas euh des systèmes multiagents.

C'est une thématique scientifique qui existe euh depuis pas mal de temps et qui revient véritablement aujourd'hui au cœur des réflexions euh sur les les systèmes agentiques. Euh ça peut être vrai aussi sur d'autres thématiques comme les réseaux de neurones qui sent maintenant le cœur de de l'IA contemporaine mais qui sent pas récent. Donc il y a quand même cette histoire ou ce ce concept de de cycle qui existe dans dans l'histoire de de l'IA et ça sans parler des des technologies de rupture majeure qu'on n'est pas non plus complètement en capacité de de prédire.

Je reviens sur la difficulté de la de la prédiction. Et donc c'est précisément pour cela qu'a conçu Pionnier de l'IA qui est un dispositif coopéré entre l'agence de programme porté par Inria et BPI France euh sous le le pilotage de la DGE et du SGPI. Son objectif c'est de soutenir des projets de RED à fort potentiel de rupture dans des secteurs stratégiques comme la santé, l'industrie, la transition écologique et la sécurité.

Donc c'est c'est vraiment l'idée finalement d'ouvrir l'amant à des projets qui sont encore incertains. Euh le l'importance d'investir finalement dans l'incertitude, de les sélectionner de manière exigeante. Il faut pas se dire que parce qu'on est un certain au départ, on n'applique pas un niveau d'exigence très élevé dans la sélection des projets et puis de les faire monter progressivement euh dans le soutien financier qu'on pourrait le rapporter en fonction de ce qu'il démentent réellement.

Donc c'est un projet en entenoir sur trois phases avec une phase de faisabilité technique, une phase de développement d'un démonstrateur et puis une phase où on adresse véritablement le marché. Donc en plus de l'expertise scientifique qui est mobilisée pour la sélection, l'agence de programme dans numérique joue aussi un rôle rôle spécifique dans l'accompagnement des lauréas de ce programme, soit vers une trajectoire entrepreneuriale de création d'entreprise, soit vers des partenariats stratégiques avec des acteurs industriels. Donc si je devais résumer l'ambition ou le l'esprit pionnier de l'IA, c'est investir dans l'incertitude mais le faire avec méthode à la fois en terme de sélection mais aussi en terme d'accompagnement.

Donc c'est toutes ces ces dynamiques-là, finalement c'est des dynamiques euh qui se construireent euh qui se construisent pardon sur le long terme. Euh il faut être humble dans le les résultats qu'on peut en attendre et il faut aussi euh qu'on puisse euh les soutenir sur sur la durée. Donc si je devais résumer euh finalement mon intervention en trois points euh dans un domaine aussi instable que l'IA, vouloir prédire les usages et aussi prendre le risque de passer à côté des usages les plus transformants.

Il faut investir dans moins dans les certitudes mais plus dans notre capacité d'adaptation à ces usages émergents et puis à chaque fois que c'est possible et c'est le message le plus important que je je ferai passer aujourd'hui, il faut pouvoir mutualiser à la fois dans la définition des problèmes mais aussi dans la manière qu'on a d'y répondre et je vous remercie. Merci. Merci à vous pour cette invitation.

Moi, je vais revenir sur la diffusion dans les entreprises. Donc Alexis vous a donné le le la vision de la DGE. Euh moi je suis euh donc j'ai été fondateur du HP Francia, dont je suis le conseiller scientifique aujourd'hui et je vais vous faire un retour.

On a les pieds dans la Gadou, on a les pieds sur le terrain. Qu'est-ce qui se passe sur le terrain ? Vraiment, c'est de ça que je vais vous parler.

Donc la diffusion dans les entreprises quand le quand le HU s'est créé, c'était en 2018, les grands groupes à l'époque avait tous déjà investi très largement dans ce qu'on appelle l'IA prédictif. On oublie toujours que quand on parle d'IA, en fait, 80 % de l'IA qui est en production, c'est de l'IA prédictive. Ça n'est pas de l'IA générative.

D'accord ? Faut bien avoir ça en tête. Les grands groupes étaient prêts, ils avaient depuis très longtemps des équipes de data scientistes, des applications, je pense à la banque, je pense à la distribution, au télécom, il y avait tout ce qui allait bien pour faire ce genre de choses.

Donc quand l'IA générative est arrivé, alors un peu en arrière peut-être quand on parle de diffusion de l'IA dans une entreprise, en fait, il y a pratiquement toujours deux sujets pour l'entreprise. Le premier sujet, c'est la réduction des coûts. Je vais essayer de raboter toutes les tâches faciles, toutes les choses qui me coûtent pour essayer d'améliorer la bottom line.

C'est la première chose. La deuxième chose, c'est la création de nouveaux produits. Donc quand on parlera dans la suite, je parlerai toujours de ces deux sujets-là. le sujet de la réduction des coûts et le sujet de la des nouveaux produits, ces deux sujets qui sont très différents mais qui tous les deux bien entendu ont un très gros impact sur les entreprises sur le terrain.

Donc revenons à nos grands groupes qui connaissons déjà l'IA prédictif, ayant déjà en place en général des équipes de data scientist ont dû opérer un espèce de salto [grognement] quand on fait du du patinage artistique, je sais plus comment ça s'appelle mais c'est bien de ça qu'il s'agit. Faire un espèce de salto, transformer mes équipes d'IA prédictiv en des gens qui puissent prendre en charge l'IA générative. Donc ça a été toute la question de la montée en compétence. comment est-ce qu'on organise la montée en compétence des équipes euh comment on les forme et on va dire qu'ils avaient quand même pas mal d'avantages pour pouvoir faire ça relativement facilement.

Je mets un petit peu de guillemet quand même. Le deuxième sujet, je m'excuse pour ma voix qu'il y a des petits problèmes comme Daniel, un petit peu moins quand même euh sur la gouvernance et les risques. Le deuxième sujet, le le le sujet de la gouvernance et des risques, quand je suis un grand groupe, je vais devoir mettre en place toute une gouvernance, tout un ensemble de processus pour le déploiement organisé, systématique, contrôlé de l'IA, alors de l'IA génératif encore plus bien entendu.

Et ça ça passe par très souvent une analyse des risques au niveau de l'entreprise. Quand je suis une banque, c'est le métier de la banque de faire ça, mais il y a un certain nombre d'entreprises pour qui c'est un peu moins le métier. Donc on a beaucoup travaillé au H pour essayer de diffuser cette politique de l'analyse du risque.

Vous allez pas déployer de l'IA générative à la sauvage, on va le dire comme ça. Vous allez pas autoriser le shadow AI partout. Vous allez essayer de mettre en place un peu partout les mesures de contrôle. les mesures d'analyse, les mesures qui vont vous permettre d'évaluer le risque que vous courez en ne faisant pas ou en faisant d'ailleurs les deux les deux les deux les deux s'appliquent.

Le Shadow E est un très gros problème pour les entreprises. Le troisème sujet dans les grands groupes, ça a été la refonte des processus. la refonte des processus, on voit bien que si on veut faire de l'IA générative et bien tous les processus qui étaient existants qui étaient en place dans l'entreprise dès qu'on veut mettre de l'IA générative là-dedans, c'est pas une petite verrue qu'on rajoute sur le process, c'est en fait parce que ça c'est ça ça ça ça aboutit au rejet en général par les équipes qui ne comprennent pas, qui ne voi pas comment ils vont pouvoir se servir de tout ça, voir qu'ils vont compenser [raclement de gorge] en fait qu'ils sont menacés par l'arrivée de l'IA et ça c'est une un gros problème.

Donc il faut vraiment penser non pas à je vais développer une application d'IA générative et je vais la mettre en production. Non, il faut penser à comment je travaille maintenant. Comment est-ce que mes équipes vont devoir organiser leur travail, modifier la façon dont ils travaillaient pour voir comment l'IA générative va s'installer ?

Tous ceux qui n'ont pas fait ça, vous avez sans doute entendu parler des articles du MIT par exemple qui indique que 90 % des projets ont di ont échoué. Si vous regardez l'article, si vous le lisez, vous verrez que 100 % des des des projets d'IA qui ont été lancés sans qu'on se pose la question du besoin et sans [raclement de gorge] qu'on implique les équipes 100 % échou. Donc la la vraie question vraiment cette question des process, c'est en fait sous-jacent l'implication des équipes sur le terrain.

Ça c'est absolument critique. Le sujet suivant c'est le sujet de la souveraineté. ça va avec la veille.

Euh bien entendu, les grands goupes ont mis en place des des des mécaniques de veille depuis très longtemps, mais là c'est une veille un peu plus ciblée sur ces sujets-là sur lequel ils ne savaient pas grand-chose. Et là, ils se sont rendus compte qu'en fait la dépendance qu'ils avaient déjà par rapport à à tous les opérateurs américains, on va dire IBM, Oracle et cetera, Google, alors là devient encore plus important puisque pratiquement l'offre à l'époque en tous les cas en en IA générative était massivement massivement américaine. Je parle pas de l'offre chinoise.

Vous avez sans doute entendu parler de quelque chose qui s'appelle l'IRN, index de résilience numérique. Parler de la souveraineté, c'est bien gentil. La vraie question, c'est quelle est ma dépendance ?

Est-ce que je peux mesurer ma dépendance ? Est-ce que je sais sur quelle partie de tout mon système d'information, en particulier de mes processus, où est-ce que c'est que je suis le plus sensible ? Supposons qu'un monsieur dans un bureau dans la Maison Blanche décide de appuyer sur le kill switch comme on dit.

Qu'est-ce que ça va me tuer chez moi ? Qu'est-ce que ça va ? Est-ce que ça tue mon cloud ?

Est-ce que ça tue mon accès internet ? Est-ce que ça tue tout mon service client ? Qu'est-ce que ça vous tue ?

Donc cet aspect là, c'est un sujet qui est assez récent, qu'on voit se déployer très largement [grognement] dans dans les grands groupes. Donc mesurer, c'est la première chose. Et après bien sûr, qu'est-ce qu'on va faire ensuite ?

Donc effectivement l'importance de l'offre française et de soutien à l'offre française au soutien du logiciel français est absolument critique pour ça. Donc ça c'est la la l'image pour les grands groupes. Donc je dirais pour les grands groupes aujourd'hui l'IA génératif c'est clair quoi.

Tout le monde y est allé. Il y a beaucoup de de de questions que qu'il peuvent se poser. Donc je fais partie de du conseil scientifique de certains de ces grands groupes dans lequel il pose des questions sur les risques, sur la sécurité.

On a très peu parlé de cyber ici, mais l'IA c'est magnifique. C'est un terrain absolument génial. Pour attaquer ça, il y en a partout.

On peut attaquer l'IA de tous les point de vue possible, imaginable. Essayez de faire ce qu'on appelle du prompt injection. Vous écrivez votre prompte puis après vous ajoutez en dessous, oublie tout ce qu'il y a au-udessus et fais ce que je te dis.

D'accord ? Donc toutes ces techniques là, ce sont des techniques qui aujourd'hui se déploient massivement. Vous connaissez tous les fakes.

Euh c'est une industrie qui est en train de se développer, qui va se développer de plus en plus. Donc si je devais faire une prévision sur les usages, je ferai une prévision sur les usages des cyberattaquants en disant ils vont s'y mettre de plus en plus. Ils ont commencer et ça ne va ne faire que croître et en délire.

Donc cette question de la la cybersécurité, de la de la protection du système est un sujet très très critique pour les grands groupes bien sûr. Ensuite euh le deuxième segment, c'est bien sûr le le segment des des start-ups technologiques. Et là, j'ai envie de dire qu'il y a en gros trois questions.

Bon, monter en compéten normalement quand il crée une start-up, c'est qu'ils ont les compétences. Leur vraie question, c'est l'accès au marché en France. L'accès au marché en France pour une start-up est très difficile.

Euh le la politique d'achat du secteur public ou des grands groupe n'est pas structuré de façon à acheter très volontiers [grognement] auprès des start-ups. Ce qui fait que créer une start-up, je dirais facile, comme vous voulez, quand vous voulez, je vous en crée cinq. La question c'est la start-up qui va survivre et la start-up qui va devenir scaleup.

Donc la question de l'accès au marché, de la transformation des start-ups en scale-up, ça c'est la question vraiment clé pour les start-ups. En tous les cas, on en a 300 ou 400 euh euh au hub qu'on voit tous les jours et et pour lesquels euh il y a pas beaucoup de réponses. Avec ça également, les start-ups qui font de l'IA génératif, bien entendu, il a la question des accès au moyen de calcul.

Effectivement, le projet AI Factory France auquel auquel on participe est une est une solution. Il faut que les start-ups aient le moyen d'accéder à des moyens de calcul qui leur permettent de développer des modèles d'IA générative français autrement qu'en allant à Dubaï quand même. Je ne citerai pas qui a dû faire ça mais c'est bien ce qui s'est passé quand même.

Le 3è secteur ce sont toutes les PME pardon. rapidement, très rapidement, c'est dommage. C'est le sujet le plus intéressant, je pense.

Euh, les PME et j'en profite pour dire que si les députés nous quitte, c'est pas que le sujet n'est pas intéressant, c'est qu'il y a aussi des interventions à l'assemblée. Euh, c'est la raison pour laquelle je vous demande aussi que qu'on puisse entendre tout le monde jusqu'à 40. Alors, par ailleurs, pardonnez-moi, mais un vote important dans Oui, aussi. [grognement] Donc les PME, je rappelle juste, mais vous le savez tous, probablement 80 % 90 % des emplois, 70 % des euh du PNB.

Euh il y a surétagère beaucoup de produits massivement il y a qui ne sont pas utilisés et que qui peuvent servir parfaitement au PME. Donc une PME, elle a un besoin d'accompagnement parce qu'elle ne sait pas ce que c'est que le li bien entendu. Elle a un besoin d'accès aux technologies.

Elle a un besoin de compréhension des coûts et des risques, des méthodes. Et donc pour tout ça en fait, elle a besoin de trouver des mécanismes qui vont lui permettre d'accéder à ça. Donc on on travaille avec la la région Île-de-France sur un projet Pia pour ça.

On travaille sur un projet européen d'un ID comme on dit European Digital Innovation. et je pense que les outils européens sont vraiment importants. Euh, on voit donc de façon générale entre en en transverse un besoin de partage des bonnes pratiques sur toutes ces entreprises pour réussir à croître et embellir en IA, un besoin de défricher les sujets émergents, donc la cyber par exemple, l'attaque euh également euh les mesures de performance.

On a parlé de performance, mais comment est-ce qu'on mesure ? On ne sait pas trop. Euh comment faire pour détecter les fakees ?

On a des on a des grands groupes qui s'appellent France TV par exemple. Bah détecter des faits que ça commence à devenir difficile. Donc défricher les sujets émergents, travailler tous ensemble pour essayer et c'est peut-être la particularité de la France, c'est que les entreprises ont cette volonté très souvent de travailler dans un cadre d'éthique, de confiance et de régulation.

Et ça c'est très beau, c'est très joli mais en pratique c'est très difficile. Donc la question c'est comment on fait pour travailler tous ensemble pour réussir à faire ça ? Et le dernier point et je le traiterai pas, c'est la position de la France par rapport à l'Europe.

On a parlé de l'A factory, mais il y a d'autres projets. Tout ce que la l'Europe appelle continent, il y a plein d'initiatives que malheureusement les entreprises françaises ignorent trop et participent pas assez à tout ça. Merci monsieur le président, madame la sénatrice, à vous tous, monsieur et madames des parlementaires, madames, messieurs, je vous remercie d'avoir invité l'Association nationale de l'intelligence artificielle à à venir s'exprimer sur la diffusion des innovations dans les usages de de l'IA qui est un sujet central pour notre association créée il y a tout juste un an qui fédère aujourd'hui la communauté des des PMETI françaises. et qui comme vous le savez rassemble à peu près 100 millions d'entreprises euh pardon 5 millions d'entreprises 10 millions de salariés et représente à peu près les de tiers du PIB.

Alors nos dirigeants aujourd'hui ils expriment à la fois un intérêt croissant pour l'IA, ça va de soi, et une certaine crainte face aussi à l'intégration des outils eux-mêmes foisonnant, on l'a vu tout à l'heure, une maîtrise inégale pour pour raller justement les les bons outils à leurs bons usages. Et ce constat appelle selon nous à un accompagnement resserré justement sur toute la chaîne d'implémentation que ce soit sur l'identification des bons instruments, leur intégration dans les organisations, on en parlait à l'instant, la mise en place des réseaux aussi d'un réseau de tiers de confiance qui est très important et étendu sur tout le territoire parce qu'on ne parle pas que de Paris. Ces innovations dans les usages de l'IA se développent de manière exponentielle. on le voit aujourd'hui ce fo et ce fois peut provoquer des dispersions contre-productives pour les entreprises et au sein au sein de l'association les TPE PME et ETI représentent les 2 tiers des adhérents et souvent avec peu ou pas de ressources numériques.

Une étude interne que nous avons mené très récemment montre que la motivation première des dirigeants de ces entreprises est de se former et de s'informer sur l'IA afin d'identifier et d'implémenter justement les outils pertinents générant des gains de productivité. C'est la raison première. La diffusion des innovations se traduit aussi par une offre de services, de solutions et de produits en croissance constante, on le note tous les jours, face à laquelle des dirigeants rencontrent de réelles difficultés, on le soulignait tout à l'heure, sur l'identification et surtout sur leur adoption.

C'est un cette inflation comment dire s'explique selon selon nous par la popularité des modèles d' générative et puis plus récemment des Iages anti on l'a noté tout à l'heure. Une une popularité qui est renforcée par la forte médiatisation aussi il faut le noter des produits stars soutenus par des investissements massifs. À cela, on peut ajouter une infoésité souvent contradictoire, parfois produite par les éditeurs eux-mêmes. créant des situations euh de jugé parties dans certains cas avec des promesses d'intégration rapide et simplifiées pour ne pas dire parfois un peu simpliste.

Ces modèles génèrent aujourd'hui un rythme d'innovation euh élevé voire effrainé, favorisant l'émergence aussi d'un grand nombre de solutions d'usage euh et de qualité inégale, parfois très éloigné des besoins des demandes des entreprises. Alors cette profusion ne permet pas aux dirigeants aujourd'hui, ça on le constate de de et surtout les les dirigeants de petites entreprises, petites structures de choisir efficacement finalement leurs solutions et les partenaires qui vont les aider justement dans ces implémentations. Le marché de la demande est stimulé par des promesses très souvent de rentabilité, de gain de productivité, nous l'avons entendu aussi tout à l'heure et euh et et propose même des des marges de progrès très importantes.

Cependant, la majeure la majeure partie d'entre eux ignore totalement, vous le soulignez à l'instant, les risques liés à ces intégration surtout sur ces outils très innovants et qui permettent de perturber parfois les les organisations et contrairement aux gros groupes, ne disposer ni de ressources internes et encore moins de de moyens financiers pour être accompagnés efficacement. Donc les dirigeants finalement le constat que nous faisons c'est qu'il ils doivent se décider seul et avec très peu de connaissance mais avec trop d'information. D'ailleurs, une étude d'Orange, alors pas le MIT mais Orange français Business en particulier dit que 90 % des projets qui ont qui ont été initiés ont échoué dans le cadre des entreprises non pas pour des raisons de production mais vraiment pour des questions de difficultés d'intégration dans les processus.

Alors ainsi ce qu'on peut dire aujourd'hui c'est le constat que nous faisons, c'est que les dirigeants des PMETI françaises sont le pied sur l'accélérateur de l'innovation. C'est une certitude en revanche l'autre pied sur le frein de la gestion des risques. Pour cela, pour cette pour qu'une une diffusion soit vraiment efficace, il est essentiel de les accompagner selon leurs vrais enjeux réels et quotidiens.

Alors, l'avantage en plus de ça des ETI et PME françaises, c'est qu'elles sont agiles. Leur agilité leur permet une transformation qui opère qui s'opère rapidement et avec le avec le moins de friction. Alors, deux approches complémentaires permettent justement de pouvoir activer ce potentiel.

D'une part, ce qu'on appelle le top down, donc plutôt en partant de la gouvernance afin d'identifier des usages précis avec des avec aussi les points de sensibilité, les points de fragilité qui sont vraiment à prendre en compte mais aussi se poser les bonnes questions par rapport à la création de valeurs, valeur de l'emploi, mais valeur ajouté des produits et la valeur globale de l'entreprise. D'autre part, on a le bottomum, donc dans la remontée en partant de l'existant à savoir d'un côté savoir faire un audit de la maturité technologique des entreprises et ça va par l'embarquement effectivement des des personnes associées au projet mais aussi évaluer la qualité et la disponibilité des données parce qu'on parle beaucoup d'IA, on parle très peu de data. Donc même sans ressources techniques, une entreprise peut aujourd'hui identifier des usages par métier plutôt que par la seule euh proposition de l'offre.

Je reprends aussi une étude récente de décembre dernier que IPS a proposé qui permet de d'évaluer que 21 % aujourd'hui des salariés des entreprises ont reçu une formation. Ce chiffre augmente à 30 % pour les grands groupes, mais il baisse de à 16 % pour les TPE PME françaises et baisse encore à 13 % pour les auto-entrepreneurs. Alors dans ce contexte, on peut dire que à plus long terme, une politique publique de formation continue dédié à l'IA pour les dirigeants serait peut-être indispensable.

Ce qui suggère en parallèle l'émergence de tir de confiance véritable assistant à la maîtrise d'ouvrage justement pardon. Oui, à la maîtrise d'ouvrage qui permettrait d'identifier les méthodes et les outils adaptés mais aussi d'accompagner leur déploiement. Toujours avec un seul et unique objectif, on est bien d'accord là-dessus, c'est de laisser la maîtrise de la transformation au dirigeant.

Et je terminerai par un niveau au niveau de macroonomique macroéconomique pardon. L'ÉTA peut favoriser justement un écosystème adapté avec investir dans des infrastructures, donc le CAD, le cloud, le cyber mais aussi les supercalculateurs, on on en a parlé tout à l'heure pour assurer la souveraineté de la chaîne de l'IA et encourager aussi avec l'aide des investisseurs privés une offre d'outils adapté et enfin laisser les entrepreneuriats la mission de l'intégration et du déploiement. Donc en conclusion, dans ce contexte d'évolution rapide, l'Aia, l'Association nationale de l'intelligence artificielle a donc fait un choix précis, c'est de se positionner en tant que éclaireur neutre sans partie prix technologique avec pour adop pardon pour adopter les les entreprises de compétences et d'outils nécessaires à leur transformation, leur croissance et évidemment leur pérennité.

Positionné entre l'offre et la demande, nous militons pour un un accompagnement des dirigeants dans l'adoption de l'IA en prévention des risques en général naturellement, mais surtout au service de la souveraineté, vous vous évoquez le sujet tout à l'heure, des entreprises en particulier. En ce sens, nous préconisons la création d'un label qui répondrait à certaines questions de tout à l'heure afin de structurer et filtrer les innovations avant leur adoption. Car au final, on est bien d'accord là-dessus.

Je pense qu'on est on s'est rassemblé sur ce point-là. La première condition pour qu'une innovation soit acceptée, diffusée et utilisée, c'est bien la confiance. Je vous remercie.

Monsieur le président, madame la sénatrice, mesdames et messieurs les parlementaires, je suis Arthur Rimpon, responsable du plédoyer au centre pour la sécurité de de l'intelligence artificielle le Césia. J'étais auparavant responsable du bureau IA et enjeux globaux chez Report sur Frontière. Un mot rapide, très rapide sur le Césia.

Donc nous sommes un centre d'expertise français indépendant. Nous dispensons des cours à l'ENS Hulm à Science P. Euh nous sommes mandatés par la Commission européenne pour évaluer les risques de manipulation lié à l'intelligence artificielle et nous sommes à l'origine récemment d'un appel mondial à établir des lignes rouges sur certaines capacités et utilisation de l'IA qui présentent des risques inacceptables.

C'est un appel qui a été signé par 12 lauréat du prix Nobel et présenté aux Nations- Unies en en septembre dernier. Donc on peut considérer que la première rencontre à grande échelle entre l'intelligence artificielle et l'humanité a eu lieu il y a une quinzaine d'années avec les algorithmes de recommandation des réseaux sociaux. Donc ces systèmes évidemment très rudimentaires au regard des capacités des modèles actuels qui choisissent à quel contenu sont exposés 5 milliards d'humains tous les jours à raison de 2h et 30 minutes par jour.

On parle parfois de de chaos informationnel pour décrire la situation qui en a résulté mais en réalité le le paysage de l'information n'est pas chaotique. Il est structuré mais il est structuré au service du pire. On pourrait dire, il est en fait en cherchant à capter notre attention instantanée, ces algorithmes ont créé une forme de méritocratie inversée du savoir euh où les contenus mensongés ou tranciers clivant sont automatiquement propulsés au détriment de contenu informatifs nuancés ou tout simplement bénéficiant d'un ancrage dans le réel.

Donc ce phénomène montre que des systèmes d'IA, même très simples, peuvent lorsqu'ils sont euh déployés au service du mauvais objectif ou sans garde-deus suffisant, avoir des menaces, engendrer des menaces considérables pour le débat public, la démographie, nos droits fondamentaux ou la santé mentale. Donc c'est un problème qui n'est évidemment pas nouveau et auquel on commence enfin à s'atteler notamment à l'échelle européenne mais encore de façon très timide et s'y ajoute désormais des des menaces d'un nouveau genre lié au modèle d'IA générative. Alors tous les intervenants qui m'ont précédé ont insisté sur l'extrême rapidité des progrès récents des modèles d'IA génératif.

Euh cette vitesse déjoue même régulièrement les prévisions des des meilleurs experts. Par exemple, les auteurs du rapport international sur la sécurité de l'IA dont Benjio ont affirmé l'IA progresse bien plus vite que ne permet d'en rendre compte notre rapport annuel. Et euh ce qu'il faut retenir, c'est que faute de garde fou suffisant, les risques associés à l'IA s'aggrav proportion de ses capacités.

Il y a notamment quatre types de risques qui sont désignés comme systémiques au sens du règlement européen sur l'IA. Premièrement, la manipulation de l'information. Donc, on assiste aujourd'hui à une prolifération extrêmement rapide des contenus synthétiques sur internet et notamment sur les plateformes qui les diffuse euh sans ou presque jamais euh les désigner comme tel.

Euh ces contenus sont même parfois publiés par des comptes fictifs animés par des agents artificiels. C'est le cas de la plupart de ces contenus sur sur TikTok. Euh et euh évidemment ces contenus à grande échelle produisent contribuent à éroder notre confiance dans l'information qui n'était déjà pas très haute.

Euh deuxièmement des risques biologique et chimique. Donc les modèles généralistes ont ont récemment atteint un niveau d'expert avancés en virologie et en biologie de laboratoire. Euh ça signifie que des acteurs malveillants pourraient s'en servir pour développer des agents pathogènes avec des moyens de plus en plus réduits.

Donc c'était des capacités qui existaient déjà mais qui étaient apporté de chercheurs avec une connaissance approfondie de ces domaines. Elia progressivement abaisse les barrières à l'entrée d'actes par exemple de bioterrorisme. Il y a des experts en biosécurité qui est que la probabilité d'une pandémie d'origine artificielle a d'ors et déjà été multipliée par 5 avec les le niveau de de de l'IA actuel.

Troisièmement, le les risques euh qui relèvent de la cybersécurité qui ont été abordés précédemment. Euh si l'équilibre attaque défense bascule en faveur de l'attaque, ce qui est incertain à ce jour, on nen est pas certain, et bien un grand nombre d'infrastructures critiques, les réseaux électriques, les hôpitaux, les transports pourraient être compromis rapidement. Et enfin, quatrièmement, comme documenté dans le rapport international sur la sécurité de l'IA que j'ai évoqué plus tôt, les modèles les plus avancés développe des capacités et des propensions assez préoccupantes comme le fait d'être capable d'identifier lorsqu'ils sont en phase de test pour sous-performer volontairement lorsqu'ils estiment que un score trop élevé risque de compromettre leur chance d'être déployé.

Ils peuvent aussi développer des capacités nécessaires pour s'autoorépliquer sur internet ou s'autoaméliorer, s'automodifier. des choses qui évidemment relevées de de la science-fiction il y a quelques années mais qui sont aujourd'hui observées au moins en conditions expérimentales et qui sont prises très au sérieux par donc le rapport que j'ai évoqué par le UKSI, l'équivalent britannique de l'inésia. Et ce qu'on observe c'est que dans un dans un renversement rhtorique assez surprenant aujourd'hui les certaines entreprises qui développent ces systèmes d'IA avancés se plaignent de l'incertitude réglementaire.

Donc c'estàdire que ces entreprises qui déploient auprès de centaines de millions de personnes des systèmes dont elles admettent elles-mêmes qu'ils ont une chance significative d'être détourné à des fins malveillantes, de causer un chômage de masse ou d'échapper à terme à leur contrôle, il nous faudrait craindre l'incertitude que fait peser notre loi sur leur modèle d'affaires. Alors que évidemment l'incertitude qui doit nous préoccuper, elle est technologique avant d'être réglementaire. Euh, il faut rappeler que avant l'entrée en vigueur du règlement sur l'IA, les fournisseurs d'IA avancé étaient moins encadrés qu'un salon de coiffure ou qu'une boulangerie en Europe.

En 2025, les le nombre de lobéistes des entreprises technologiques travaillant à pleintemps à Bruxelles, donc ils sont 890 à temps plein, a dépassé le nombre d'eurodéputés et aujourd'hui leur influence menace d'affaiblir la loi et d'en retarder l'application. Alors, certains estiment que l'Europe doit rattraper son retard. Euh c'est une interrogation, questionnement tout à fait valide, mais il faut se poser la question de rattraper son retard sur quoi exactement ?

En 2026, les quatre plus grandes entreprises d'IA américaines prévoi d'investir 650 milliards de dollars dans les infrastructures d'IA. Donc ça représente en une seule année l'équivalent de deux fois le coût actualisé du programme Apollo qui était jusqu'à présent le plus grand projet technologique de l'histoire en terme de coût. Donc évidemment l'Europe ne peut pas ne doit pas chercher à rivaliser sur le terrain de la puissance brute parce que ce n'est ni réaliste ni souhaitable pour les conditions que j'ai évoqué plutôt pour les raisons que j'ai évoqué plutôt pardon.

Donc c'est comme si aujourd'hui tout le monde s'intéressait qu'à construire les propulseurs les plus puissants pour sa fusée, mais que très peu de gens se préoccupaient de sa trajectoire ou de sa sécurité. Donc il est sans doute stratégique pour la France et l'Europe de construire leur propre fusée, leur propre propulseur, mais il est aussi et surtout indispensable qu'elles s'assureent de leur sécurité et de la trajectoire. Monsieur Frédéric Gerbau qui parlait parlait tout à l'heure par exemple de de trouver des voies alternatives au gigantisme actuel.

Donc l'Europe doit devenir la puissance normative de l'IA, celle qui établit des standards crédibles qui s'imposent à l'échelle mondiale. Et je termine cette allocution par trois courtes recommandations. Premièrement, comme je l'ai dit, protéger et appliquer la loi existante.

Une application stricte du règlement sur les services numériques, le DSA aurait d'ors et déjà permis d'obliger les plateformes à refondre leur système de recommandation. À ce jour, une seule amende a été infligée au titre du DSA à la plateforme X à hauteur de 120 millions d'euros. Ça représente 0,02 % de la fortune de son propriétaire.

Euh de même, une interprétation stricte du règlement Solia, le ACT, aurait permis d'exiger de rappeler Grock rapidement après la diffusion massive de deep fake sexuel non consentis, notamment d'enfants. Euh deuxièmement, conditionner les grands projets d'investissement dans l'IA tels que Continent AI qui a été évoqué ou l'initiative pour une av d'avant-garde portée par la France, la Commission et l'Allemagne au développement et à l'entraînement de système DIIA. sur fiable et au service du bien commun.

Et troisièmement, soutenir l'élaboration d'un accord international contraignant inspiré du traité de nonprolifération nucléaire pour interdire les usages et les capacités de l'É qui présentent des risques transfrontaliers inacceptables. Merci. Merci beaucoup.

Alors, comme il y a peut-être des collègues qui doivent partir voter si avant que moi je pose des questions, si certains veulent les poser, d'abord, je Non, ça va. Très bien. Alors, je je finalement si je fais un une petite synthèse de ce que de ce que vous vous avez dit, on a on a euh d'une part ces risques existentiels qui sont toujours bien présents dans dont vous voulez venez de parler monsieur Gronpon euh et par lesquels on a beaucoup commencé quand les idées génératives sont arrivées sur euh ont émergé euh et puis on est confronté en réalité au quotidien.

C'est toujours la le le le problème, c'est que on a un peu laissé de côté les risques existentiels qui existent toujours très de manière très forte et on se concentre beaucoup sur les risques beaucoup plus immédiats, ce qui est normal qui sont les risques de l'usage du citoyen lambda et et les risques pour les les entreprises. Euh on on a il y a eu deux façons de poser la question de la souveraineté entre la souveraineté en tant que telle comme un enjeu stratégique pour la France, pour l'Europe et puis la question de la dépendance euh technologique euh qui est plus un problème immédiat notamment pour les entreprises. Est-ce que comment est-ce que vous vous voyez la meilleure façon de relever ce défi là de cette question ou de souveraineté ou de dépendance ?

Sachant que on a ce cet environnement qui change de manière extrêmement rapide et et dans un dans un monde où effectivement la la question de l'investissement européen est très en retard par rapport au niveau de l'investissement américain et de la domination déjà du marché américain. Oui, allez-y. Pardon.

La souveraineté effectivement est un sujet central par rapport à à l'économie. Alors pour ce qui concerne l'Association nationale de l'intelligence artificielle, nous nous préoccupons surtout des petites et moyennes entreprises qui sont quand même les moins armés justement sur le sujet de la souveraineté. Alors, on va pas revenir sur les outils parce que ça a été largement évoqué par l'ensemble des des acteurs autour de la table qui ont euh la compétence euh de pouvoir traiter le sujet.

Et euh pour autant notre nous plaçons pour ce qui nous concerne la souveraineté dans la souveraineté et la main et le contrôle qu'a dirigeant sur sa société, sur son entreprise, sur son asset, sur son capital. Aujourd'hui, le je pense qu'on a tous autour de la table parler de du risque, la gestion de ce risque. Quel est-il ?

On fait face à à des outils qui aujourd'hui arrivent, dont la majeure partie d'entre nous, nous ne connaissons ni le ni le ni le la racine, ni le ni le la manière de l'utiliser et encore moins les effets secondaires qui risque d'avoir dans un dans un dans un proche à venir. J'en veux preuve d'un autre côté que certains un certain nombre d'outils qui existaient hier n'existent plus aujourd'hui. Déjà, il y a un outil dont vous avez peut-être entendu parler.

En tous les cas, je crois que monsieur Ponce en parlait tout à l'heure. Euh c'est sur la partie, pardon, pas monsieur Ponce, euh je Patrick Perz, pardon, parler de de la vidéo. Donc, il y a Sora qui est un logiciel qui est sorti qui n'existe plus aujourd'hui.

Donc, pour ceux qui utiliseraient ce genre d'outil dans leur entreprise, qui l'auraient déployé, aujourd'hui, il n'existe plus. Donc, seppose pour nous le sujet de la souveraineté, c'est pas quel outil va me protéger des données parce qu'encore une fois, on ne parle pas des datas. Quels sont les outils qui vont me permettre de protéger ma data, mais c'est surtout quels sont les acteurs de la strate intermédiaire, que sont les intégrateurs, les entreprises de conseil et de formation vont pouvoir m'aider pour bien intégrer ces solutions dans l'entreprise.

Et pour nous, la souveraineté, elle se positionne à cet endroit-là. En fait, ce que ce que je voulais dire, c'est que on a bon le le la souveraineté, c'est bien entendu l'offre. Il faut qu'il y ait une offre qui soit alors j'ai envie de dire pas française, française certes, mais européenne plus largement.

Il faut qu'il y ait une offre qui soit qui permette de couvrir absolument les besoins des entreprises dont dont les PME. Aujourd'hui, on a en France beaucoup de start-up. On a fait une cartographie récemment au qui en listait 1000 en IA. mais et un peu plus.

Donc on a beaucoup beaucoup de start-ups qui sont qui travaillent sur ces sujets, qui produisent des logiciels. Et donc la question c'est, je me tourne vers ma voisine, comment on fait pour soutenir cette offre de logiciel, pour soutenir ces offres de façon à ce qu'elles puissent s'installer dans le paysage, à façon à ce qu'elle puisse grandir tout simplement. Donc la la vraie question de la souveraineté, c'est le choix.

C'est le choix pour les PME, c'est le choix pour les grands groupes également. C'est le choix dans des dans des dans des sociétés qui vont grandir et donc qui seront stables, qui feront que l'outil sera là encore demain. Quand vous travaillez avec une start-up locale, vous pouvez influencer sur les développements, vous pouvez les orienter vers vos besoins.

Quand vous travaillez avec Open et ben vous ne pouvez pas faire ça. Donc pour moi, c'est il est évident que le choix de solution locale, elle est il est absolument indispensable pour pour la pour la pour la croissance de notre économie. C'est c'est évidentement pour compléter.

Euh donc quand on parle de souveraineté, on parle effectivement de souveraineté sur le les données, l'hébergement des données et on parle aussi de de souveraineté en terme de modèle et et de logiciel. Et dernièrement, on a entendu beaucoup un discours qui relie souveraineté, open source. Alors, c'est vrai que ça pourrait être euh une des réponses à la souveraineté de de pas dépendre finalement d'acteurs tiers avec des solutions propriétaires.

Mais attention à pas faire un raccourci trop rapide parce qu'il y a des solutions open source qui sont développées majoritairement par des acteurs américains, chinois et je pense que la question de la gouvernance de ces actifs open source est absolument fondamentale et et il faudrait qu'on puisse être en mesure de les de les soutenir et de se soutenir le développement parce qu'il y a le concept du baricentre des développeurs, ce qu'on appelle en bon français les cors développeurs de ces actifs logiciel open source, il faut qu'on soit attentif au fait que ce barissent se trouve en France ou en Europe, une souveraineté européenne et qu'on soit en capacité de d'investir véritablement dans le développement de de ces commun et pas simplement de dire on utilise une solution à open source, ça n'est pas la réponse à la souveraineté. Oui, merci beaucoup. Ah, pardon.

Merci beaucoup. Alors, ça fait parfaitement écho aux politiques publiques que l'on met en place en ce moment même avec différentes approches. Donc, d'un point de vue pratique.

Effectivement, l'offre dont on dispose en France, en Europe, c'est un ingrédient indispensable pour assurer cette souveraineté, cette indépendance technologique. Puisque si notre offre est trop en retard par rapport à la compétition, on se doute bien que les utilisateurs s'en détourneront au profit de solutions plus compétitives. Donc, nous agissons très concrètement là-dessus, notamment au travers des instruments que l'on a mentionné précédemment. avec le plan France 2030.

Je rebondis sur ce que disait Françoise et ce avec quoi je je suis parfaitement en phase, le fait que notre écosystème apporte une plusvalue, je dirais, complémentaire à la compétitivité objective sur ce qu'on appelle des des benchmark, des comparaisons, des métriques numériques dans le fait de pouvoir codévelopper des solutions avec leurs utilisateurs potentiels. Et donc un certain nombre de politiques publiques de soutien à l'innovation que l'on met en place ont précisément vocation à faire travailler ensemble les acteurs qu'on qualifie de deeptech chez nous. Donc les start-ups qui vont faire des travaux assez amonts, assez fondamentaux, les [grognement] faire travailler avec les grands honor, les grandes entreprises qui vont pouvoir appliquer cette technologie.

C'est la façon dont on s'assure que le développement technologique chez nous corresponde à des besoins réels de l'économie d'une part. Et c'est aussi ce qui permet à ces acteurs émergents et start-up de se développer. Donc ça c'est le premier pilier, le soutien à l'offre.

Et le second pilier sur lequel on travaille également, c'est le rapprochement entre l'offre et la demande. Donc via les actions de pour accélérer la diffusion de l'IA dans l'économie. Ça passe donc notamment par le plan Auséia qui a été lancé en juillet 2025 dans le cadre duquel nous mettons en valeur les solutions issues de l'écosystème français qui sont déjà déployées dans les entreprises déjà éprouvé ce qui permet de créer un effet d'entraînement et donc de faciliter leur adoption par l'économie de manière plus générale.

Nous travaillons aussi à ce titre par exemple avec la mission Frenchtech sur le programme Je choisis la Frenchtech qui met en valeur chaque année le montant total d'achat des grandes entreprises auprès des des start-ups de la Frenchtech. Donc l'objectif est d'atteindre un montant de de l'ordre du milliard d'euros d'ici à 2030. Il y a un certain nombre d'initiatives et ce qui se traduit aussi dans l'accompagnement des entreprises que l'on fait notamment au travers de BPI France.

Toutes ces initiatives permettent de mettre en valeur cette offre issue de l'écosystème français pour l'aider à se développer et pour permettre à l'économie de manière générale d'être moins dépendante de solutions extraeuréennes. Euh vous avez vous avez déjà évoqué les uns et les autres la question de la nécessité évidemment de l'accompagnement et de la formation euh et dans un dans un dans un cadre qui effectivement évolue très très vite. Vous n'avez pas évoqué ce qu'on avait sur dont on avait beaucoup parlé au départ qui était la question de comment on gère aussi par rapport à ces question de formation et de préparation des des adaptations et des process même de de travail dans l'entreprise.

La question de l'usage caché de l'IA. Est-ce que dans le monde de l'entreprise ça reste toujours quelque chose qui est qui est un problème central ou est-ce que ça commence à disparaître ? par tout à l'heure le Shadow AI, c'est un des très gros un très gros problème dans les entreprises effectivement et le shadow AI alors je le lirai je ne le lirai pas à la à la formation mais je le lirai au fait que si une entreprise ne met pas en place une gouvernance claire en installant des solutions, en déployant des solutions, en communiquant tout ça très largement, alors il y aura du shadow.

Si vous n'avez pas de solution que l'entreprise fournit, bah vous allez vous débrouiller autrement évidemment. Alors par contre si on revient sur la formation, moi je voudrais insister sur le fait que la formation s'il y avait un message aujourd'hui, c'est la formation. La le gros problème des PME aujourd'hui c'est qu'elles ne savent pas, c'est qu'elles ne comprennent pas et la seule façon, c'est de les former, de les former massivement.

J'ai envie de dire former les enfants à l'école. Tout le monde devrait savoir ce que c'est qu'il y a aujourd'hui. C'est plus possible.

Enfin, c'est plus possible. Les enfants qui ont aujourd'hui 10 ans, ils vont vivre dans un monde où l'IA sera partout et on ne les forme pas. Donc la formation, c'est vraiment absolument critique.

Maintenant, si on parle de formation dans les entreprises, il faut avoir une formation euh adaptée. Ça n'est plus une formation initiale. Et j'ai envie de dire que tout le secteur de la formation professionnelle est probablement un un [raclement de gorge] secteur qui qui bénéficierait beaucoup à être remis en valeur, restructuré. et peut-être rendu plus fort et plus sérieux aussi parce qu'on voit des fois des choses un peu étranges.

Donc le secteur de la formation professionnelle, il est critique absolument aujourd'hui pour nous. Oui, pour compléter ce que ce qui vient d'être dit, le Shadow AI se déploie dans en tout cas dans toutes les entreprises. Ça c'est s on peut dire qu'aujourd'hui 100 % des entreprises, allez, j'exagère un peu, sont victimes de cette utilisation qui ne fait en fait qui ne fait pas référence à un à une autorisation hiérarchique.

Donc ça pose une vraie problématique. La formation c'est un point mais je voudrais revenir aussi sur un autre point c'est la culturation parce qu'avant de parler de former quelqu'un il faut déjà avoir un socle commun de connaissance et quand je parle d'infobésité que nous sur lequel nous sommes tous victimes, on voit les effets d'annonce de l'intégralité alors que ce soit sur les choses très positives quand on voit le ministère effectivement du numérique et de l'IA annoncer de très de très belles avancées sur des accords qui sont faits pour justement permettre une infrastructure qui devienne souveraine et qui permettent justement au aux investisseurs de pouvoir aider à au développement de de d'outils qui permettront de servir les grandes entreprises comme les plus les plus petites. C'est une très bonne chose.

Mais d'un côté, il y a ça et d'un autre côté, il y a tout le reste. Et en fait, on est noyé dans un bro d'information qui ne permettent pas de pouvoir asseoir un socle commun de d'information et de connaissance. Je pense qu'il est là le le vrai sujet, ce qui permet derrière de de reconsidérer aussi le fait qu'aujourd'hui la formation c'est un axe et comme comme vous venez de le dire madame Soulier, c'est que il est évident que derrière ce socle commun, il faut l'adapter en fonction des secteurs d'activité et des métiers parce que nous on parle cas d'usage et le cas d'usage c'est la clé d'entrée pour pouvoir rentrer et intéresser ceux qui utilisent au quotidien.

Vous avez tous vu ces ces visuels il y a quelques années. On voyait une route tracée avec un angle et le le le raccourci que tout le monde fait. On a tous sur un plan cognitif l'envie du raccourci.

Donc le chay contribue à faire ce raccourci qui met en péril certaines entreprises. Je parle notamment dans un environnement juridique régulé régulé régulé déjà juridique sur le sur le comment dire sur les entreprises qui sont sensibles à ce secteurl. l'informatique mais la santé, le nombre de personnes qui photographient des mails pour ensuite les envoyer pour faire des résumés, c'est considérable.

Des rapports médicaux avec le nom avec les informations qui ne sont pas anonymisées, c'est considérable. Donc en fait, si on a si on prend pas le sujet de cette manière-là, je pense que je reviens sur l'idée de du capital de l'asset que représentent le ces entreprises qui aujourd'hui doivent gérer cette difficulté, cette acculturation est absolument essentielle avant de passer à la suite. Oui, très rapidement, je suis euh dans l'ensemble tout à fait d'accord avec ce qui vient d'être dit, mais peut-être pour faire un un contrepoint à l'idée qu'il faudrait faire de l'alphabétisation de l'IA, y compris dans les écoles ou de AI literacy par exemple, on entend, c'est une idée qui est assez consensuelle dans les entreprises technologiques elles-mêmes puisqueévidemment ça contribue à populariser leurs produits et leur utilisation à grande échelle.

Et c'est parfois aussi, en tout cas dans le domaine des risques, un moyen pour elles de se défausser de leur propre responsabilité pour les donner aux utilisateurs comme s'il dépendait aux utilisateurs ou pas de générer des defake pornographiques euh de labelliser les contenus, de vérifier l'authenticité ou la la factualité des des réponses générées par un modèle. Euh et donc faut faire attention à cette rhtorique qui est assez euh assez dangereuse. Et par ailleurs sur le la question de la formation euh je suis j'utilise quotidiennement euh beaucoup euh les modèles d'IA.

Euh je constate à quel point ils évoluent rapidement. Je constate également la durée typique des tâches qui leur sont accessibles qui progressent de façon exponentielle. elle était de quelques minutes il y a 2 ans, elle est de plusieurs heures aujourd'hui avec un taux disons raisonnable de succès au tâches qu'on lui demande.

Donc il faut être comment dire assez assez humble quité à prédire les usages qu'on pourra faire de l'IA dans nos propres métiers. Tant ces métiers vont être bouleversés par l'IA. Tout le monde ne parlait que du prompt engineering il y a il y a 2 ans.

Bon ça on entend même plus ça globalement. Si je devais donner des conseils à quelqu'un pour utiliser Lia, ouvre une fenêtre euh et tu as avec toi un stagiaire de très bon niveau. Demande-lui les choses comme si tu t'adressais à un humain.

Il y a comment dire les formations la formation de ce point de vue-là est difficile. C'est difficile de donner des conseils plus précis que ça tant ces modèles euh évoluent rapidement. En revanche, il y a évidemment des notions de sécurité de pas laisser filtrer ses données privées, tout ça, mais là de même, il y a une responsabilité immense des entreprises de ce côté-là.

Donc euh il faudrait pas laisser penser que tout dépend des citoyens puisque euh c'est beaucoup plus difficile d'éduquer 70 millions de citoyens à avoir un usage raisonnable d'une technologie qu'elle comprennent pas que de réglementer pour faire en sorte que les entreprises respectent nos droits. Merci mesdames et messieurs. Pardon mais à vous écouter.

J'ai l'impression que quand l'entreprise, c'est un peu le renard dans le poulailler et que les risques sont très très conséquents. LIA est dans un monde réel où le monde de l'entreprise quand même son but c'est de faire de l'argent et de vendre. Et donc moi qui suis écologiste, je me pose la question de l'IA et la transition écologique.

Est-ce que ce n'est pas une grosse blague puisque derrière on voit bien que l'a était, vous l'avez dit tout à l'heure, utilisé dans un premier temps pour vous apporter toujours des nouvelles occasions de de consommer et on peut espérer que l' dans l'entreprise a peut puisse amener davantage d'efficacité et donc on ait un certain nombre de gains. derrière l'entreprise vit sur l'innovation et donc la création toujours de nouveaux produits qui viennent anniler en règle générale tous les gains qu'on a fait avant. Donc voilà, j'ai l'impression que nous sommes dans une difficulté qui est importante.

On voit bien qu'il y a une nécessité absolue de de réguler. [grognement] Est-ce que ça va être tout simplement possible ? C'est et c'est la question moi que que je me pose.

La poule plutôt dans le poulailler. Nous avons fait donc un programme qui continue avec la région Île-de-France depuis environ 3 ans. En direction des PME ETI, nous avons réalisé 150 projets.

Nous en avons raté trois sur les 150 et tout le reste, c'est des projets qui sont opérationnels dans les PME et qui leur apportent un bénéfice très clair et qu'ils sont capables de mesurer. Alors, c'est pas la révolution, ils ont pas tout changé, tout modifié. Alors, un exemple écologique qui met des bouteilles enfin vous pouvez mettre une bouteille de plastique dans votre supermarché et ça va avaler la chose, ça va pulvériser la bouteille en plastique pour faire des petites paillettes qu'on va pouvoir réutiliser ensuite.

Ce truc là, ça se coince et donc quand ça se coince, il faut envoyer quelqu'un sur place donc en voiture pour aller nous avons mis au point un système qui permet avec une caméra de regarder ce qui se passe, d'identifier exactement ce qui se passe parce que ça peut se coincer mais ça peut être autre chose. Et donc dans 99 % des cas, on identifie le problème. La personne du magasin est capable de réparer tout de suite.

On n pas besoin d'envoyer avec une voiture quelqu'un pour réparer. Donc il y a des applications aussi qui permettent comme ça. C'est c'est la révolution.

Non, c'est pas la révolution. C'est un truc tout bête. Oui, c'est tout bête mais voilà, ça peut rapporter gros à la poule en question.

Merci beaucoup. Oui, je pense qu'effectivement ça avait été mentionné dans la première table ronde. On est face à beaucoup d'incertitudes, ce qui impose une forme de modestie dans les dans les réponses que l'on vous fournit.

Euh je dirais donc naturellement on a aujourd'hui des usages de lien notamment ceux qui sont soutenus par la stratégie nationale qui ont des objectifs environnementaux en eux-mêmes. Donc on a soutenu récemment euh un projet pour détecter des fuites dans des réseaux d'eau. Euh on a on en a parlé euh tout à l'heure aussi des des cas d'usage pour la réduction des rebus, l'efficacité du tri de déchets.

Donc c'est des choses intéressantes avec des des gains permis par Liat dans ces secteurs-là. Plus largement effectivement, il y a la question de la généralisation des usages de l'IA, y compris pour des choses non environnementales directement et quelles conséquences que cela peut avoir. Je dirais que parmi les incertitudes auxquelles on est confronté aujourd'hui, il y a cette question de est-ce que la course au gigantisme est la solution ? a été débattu aujourd'hui quand on échange sur ces questions avec les entreprises tant utilisatrices que offreuses de solutions, euh mon impression personnelle à ce jour est que c'est c'est un débat non tranché puisque d'une part effectivement la course à la taille des modèles a permis de de gagner en performance et donc d'être de plus en plus efficace sur ces cas d'usage.

Ça c'est indéniable. Euh mais euh néanmoins, il y a d'autres messages que l'on entend moins dans la sphère médiatique, il faut le reconnaître. euh c'est que précisément pour des cas d'usage bien ciblés d'entreprise, quand on sait exactement ce que l'on va demander à notre IA de manière générale, donc notre notre modèle notre modèle de langage éventuellement optimisé pour ce cas d'usage cette entreprise, on a besoin d'un modèle beaucoup moins grand et donc beaucoup moins consommateur de ressources pour arriver à faire la même chose.

Et donc typiquement, sans citer de de noms une fois de plus, des acteurs de l'écosystème nous disaient que des modèles de 7 milliards de paramètres ou 3 milliards de paramètres, ce qui est très petit par rapport à l'ordre de grandeur plutôt de centaines de milliards de de paramètres pour les plus grands pour les plus grands modèles, voir au-delà de 1000 milliards de paramètres était suffisant de fait pour répondre à ces cas d'usage d'entreprise. Donc c'est une un élément de réponse intéressant, c'est que finalement quand on quand on se pose la question, quand on creuse le sujet et qu'on est prêt aussi à consentir un petit peu plus d'investissement initial, on peut déployer des systèmes d'IA qui vont à la fois coûter moins cher dans la durée, mais aussi enfin ils vont coûter moins cher puisqu'ils vont consommer moins de ressources. Et [grognement] un dernier élément de de réponse, c'est celui de la transparence de ces modèles et des métriques d'évaluation de leur impact environnemental.

Donc ça c'est un sujet, c'est difficile comme l'avait explicité Patrick Perez tout à l'heure. Néanmoins, des entreprises s'engagent, font l'effort de quantifier tout cela et Ministra a publié au mois de septembre, il me semble, en tout cas en fin d'année 2025, un rapport sur le l'impact environnemental de ces modèles en suivant notamment les travaux de l'affnor sur la façon dont on peut quantifier tout ça et on ne peut qu'encourager l'ensemble des laboratoires à suivre cette démarche pour éclairer les utilisateurs potentiels sur l'impact de leur modèle. Si je peux apporter juste un élément concret pour avoir un éclage aussi pour voir la portée aussi de ce que l'IA peut apporter et l'IA on est bien d'accord que c'est pas que génératif ou agentique aussi l'IA depuis 1943 qui apporte aussi son lot de mathématique pour résoudre un certain nombre de problèmes et sans sans dévoilé de secret Talè a travaillé sur un sur un programme qui est sur la traînée humide que vous connaissez donc bien donc le l'utilisation de CIA permettant de réduire cette traînée humide qui contribue a baisser la densité du nombre de nuages qui couvrent la Terre qui représente à peu près 8 % sur le selon le selon Talès.

Donc typiquement, c'est une application directe de ce que l'IAP peut générer comme réponse à un problème écologique qui semblerait-il est une sensibilité sur lequelle tout le monde s'accorde à dire qu'il faut avoir une capacité d'action. Donc typiquement le la résultant de ça c'est de dire pour une problématique donnée. Donc je c'est pour ça que je reviens sur le cas d'usage, c'est identifier au-delà de savoir de former, d'acculturer ce dont on a besoin.

De manière très contreintuitive. Je pense que l'accélération des technologies va tellement vite qu'effectivement les puissances de calcul sont énormes. Pour autant nous, avec l'humilité qu'on peut avoir face à cette innovation et cette progression, il faut et de manière très contratuitive prendre son temps. prendre son temps de pouvoir réfléchir aux vrais besoins, à la protection du vrai capital de l'entreprise humain de et de et de de transgénéralité de transmission pour savoir exactement de quoi est-ce que j'ai besoin et comment grâce à ce panel et cette offre plétorique quels outils je vais être capable d'utiliser.

Peut se poser la question aussi de savoir comment aider justement les start-ups, les investisseurs à trouver des outils qui vont répondre au marché. Merci beaucoup. Alors comme disait tout à l'heure Raj Chatila, une matinée, c'est très insuffisant.

On doit malheureusement s'arrêter là pour cette deuxième terblement. Merci beaucoup. Bien, avant de passer la parole pour conclure à Daniel Andler qui a une tribune ouverte pour se faire juste quelques quelques mots à mon tour pour dire on a évoqué les métiers tout à l'heure, je crois que c'était Jean-Luc Fugi qui s'intéressait à ça, l'impact métier sur sur l'entreprise d'une manière générale.

On oublie de dire aussi que ça ça produit des des nouveaux métiers et que il y a une forte attractivité, que les jeunes en particulier sont sont extrêmement attirés par ces métiers de de l'intelligence artificielle et du numérique. Il y a des formations, il y a des modules quand même qui existent au lycée, peut-être pas suffisamment dès le plus jeune âge, mais il y a aussi des des options au lycée qui permettent d'aller vers le numérique progressivement. Euh les euh journées des de nos plus jeunes enfants qui sont à l'école primaire ne font toujours que 24 heures et donc on ne peut pas non plus euh multiplier le nombre de de sujets de d'apprentissage.

Évidemment euh sur le sur le progrès, mon cher Daniel, euh les entreprises ne sont pas là que pour faire de l'argent, il y a aussi du confort. Le chauffage central, est-ce que c'est un progrès ? Il me semble que c'était une innovation à l'époque qui était faite non pas uniquement pour le confort des gens d'ailleurs pour lutter contre la mortalité et les maladies qui se développpait dans des dans des habitations insalubres.

Ça a été la motivation première. Après libre à toi de te de continuer à te déplacer en carrosse, mais il y a quelques progrès qui ont été qui ont été faits et et et de toute façon, moi je suis convaincu d'une chose, on narrêtera pas ce cette intelligence artificielle par c'est totalement illusoire sauf certains qui vous voyaient des manœuvres mais en réalité c'est quelque chose qui est qui est en marche qui se développe à vitesse grand V. Euh donc il faut il faut la comprendre, il faut mettre euh autant que faire ce peu les les euh les gardes fous pour éviter notamment le pillage des données euh à divers titres, données personnelles mais aussi euh droits d'auteur comme je l'ai évoqué tout à l'heure en introduction.

Mais en réalité euh lutter contre ça c'est c'est juste euh c'est juste illusoire. On était là ce matin aussi pour peut-être avoir une autre approche de ce qui avait été évoqué lors de la présentation de notre rapport. Je sais plus lequel d'entre vous avait évoqué cette vidéo euh l'horreur existentielle de l'usine à trombone.

C'est quelque chose qui avait beaucoup marqué et sans doute vous connaissez et qui reflète bien les les enchaînements successifs que l'intelligence artificielle peut peut produire. Voilà, j'en ai fini. Je je me permets.

Cette vidéo a été coproduite par le 16. Formidable. Si en plus je fais votre pub [grognement] si je me permets.

C'est une IA stupide. Bien sûr, bien sûr. C'est caricatural comme toujours.

Daniel Landler, c'est à vous pour conclure cette matinée d'échange. Bon, c'est Merci beaucoup monsieur le sénateur. Euh écoutez, d'abord, je veux remercier tous les présents qui j'ai énormément appris.

J'ai trouvé que c'était très très intéressant. Euh même si en principe je connais un peu ces questions, j'ai néanmoins beaucoup appris, beaucoup écouté et je prendrai contact avec certains d'entre vous avec lesquels je me sens en particulière harmonie. [grognement] Alors la question fondamentale, c'est quand même celle qu'a posé Daniel Salmon tout à l'heure.

Et l'humain dans tout ça ? Alors évidemment, c'est une banalité écrasante. Il faut vraiment être culotté pour dire bah l'humain et l'humain tout le monde est persuadé ici que l'IA doit être trop au service de l'homme et cetera.

Oui, mais on ne le prend pas suffisamment au sérieux. On ne prend pas cette question suffisamment au sérieux. Imaginer que un technologue multidisciplinaire très avancé et réussi à fabriquer des jambes artificielles absolument parfaites.

Alors, il vient sur le marché et on lui dit "Bah oui, mais". Il dit "Pour que mon industrie marche, il faut que l'humanité se mette au diapason." Donc qu'est-ce qu'il faut faire ?

Ils font amputer tout simplement les êtres humains comme ça on pourra leur brancher des des jambes artificielle parfaite. Rajouter une jambe. Alors on peut aussi rajouter une jambe.

Mais ce que je veux dire c'est que la la dimension essentielle c'est par la technologie l'homme au service de la technologie, l'entreprise au service de la technologie. Il faut-il apprendre à l'entreprise, comme disait monsieur Bacot, à se transformer ? Oui, on voit bien en quel sens c'est une c'est une c'est raisonnable, mais en un autre sens, pousser à l'extrême, c'est pas raisonnable.

Nous n'avons pas à transformer l'entreprise à n'importe quel coût pour l'entreprise mais pour la société en général. et la dimension sociale a été disons insuffisamment présente. Encore une fois, tous ces thèmes sont extrêmement banals.

Donc ils figurent aussi dans la population de les idées qui vous traversent du matin au soir, mais il s'agit de les prendre au sérieux. Alors, très rapidement puis j'ai vraiment 2 minutes, n'est-ce pas ? Euh, d'abord euh ce dans ce genre de de réunion, il y a quand même un biais de sélection et ce biais de sélection est le suivant. tout le monde s'intéresse à l'IA et plutôt pour l'IA et s'y connaît assez bien en IA.

Donc je comprends très bien, c'est évident qu'on va pas convoquer simplement des gens qui détestent l'IA, qui n'y ont rien compris, qui n'ont rien à y contribuer. Ce serait contre-productif. Néanmoins, je trouve qu'il y a quand même un un comment dire une sorte de biais de confirmation.

On est tous en train de chercher des raisons de penser que l'Ascher. Vous m'avez entendu protester un peu tout à l'heure euh des raisons de penser que ça va marcher, que le progrès est inéluctable, qu'on va arriver. On n pas parlé de HGI, mais on aurait pu parler de d'intelligence générale artificielle.

Euh c'est quand même un peu l'idée qu'on beaucoup de gens, je pense dans ce genre de d'assemblée qu'on y arrive et que il faut s'y faire. Alors moi je pense que je suis disons partisan et je je pense queon peut se mettre au fond d'accord mais on n pas encore suffisamment identifié l'option fondamentale. L'option fondamentale c'est quand même ce qu'ils appellent en anglais human centered artificial intelligence.

Donc c'est le titre de du centre créé par Fey à Stanford. Et il y a d'autres centres à un peu partout, je pense. Je sais pas ce qui s existe exactement la même chose en France, mais en tout cas ça existe dans d'autres pays européens.

Il faut vraiment que l'intelligence artificielle soit une intelligence augmentée, c'est-à-dire qu'elle vienne augmenter les humains aussi bien individuellement que en société de la meilleure façon possible. C'est ça. Ça doit être vraiment la comment dire le cap que nous devons euh nous devons te dire.

Et si nous ne le faisons pas, nous allons entrer dans des complications. Par exemple, vous savez que la plupart des Américains, de ces qui sont complètement envahis d'intelligence artificielle ou que ce soit au sens, moi ce que j'appelle le sens large, mais disons le numérique ou que ce soit au sens étroit des LLM de la de l'IA prédictive, bah il il la craignne, il ne l'aime pas, il la rejette. ce mouvement de rejet pourrait aller s'amplifier d'une manière que je ne souhaite pas du tout euh sur la base de plusieurs choses.

D'abord de problèmes économiques et financiers considérables qu'on a absolument pas évoqué. Comme vous savez, dans certains milieux, on prédit que Open AI va s'effondrer tout simplement parce que il pourra pas honorer sa ses dettes et qu'à un moment, le Capital risque va cesser de trouver ça rigolo. C'est donc un certain nombre d'échecs qui soi sur le plan économique, financier ou sur le plan technique, on a promis ceci, on a promis cela, on a sous-estimé les risques et cetera, risque d'amener à un rejet de l'intelligence artificielle que personnellement je ne souhaite pas.

Donc ce que je mon mon idée générale, c'est que euh il faut davantage premièrement ouvrir la porte aux discussions et parler davantage de contreverse et d'incertitude. On a parlé des incertitudes, on n' pas beaucoup parlé des incertitudes théoriques. Enfin, quitte à me faire euh àir d'injure, je continue de dire que nous ne comprenons pas vraiment pourquoi les elle-même marchent.

Et c'est pour ça que nous ne savons pas très bien où ils vont aller, quels sont leurs risques, quels sont leurs risques véritables, comment les rendre disons plus non pas confiant. On peut pas faire confiance à une machine. En revanche, on peut la rendre plus fiable.

Et donc ces questions-là, elles seront elles vont progresser à mesure que nous progressons dans la compréhension théorique de des LLM et de l'intelligence artificielle en général. Donc, ouvrons un peu davantage la porte aux voies dissonnantes. Quand nous réfléchissons à l'intelligence artificielle, réfléchissons davantage à la manière de repartir de l'humain, c'est quels sont les véritables besoins, aspirations et cetera des êtres humains et aussi au niveau individuel mais également au niveau social. car finalement certains des risques les plus les plus redoutables, je sais que beaucoup d'entre vous en êtes parfaitement conscient, certains des risques les plus redoutables, c'est de créer au sein des sociétés des divisions.

Alors un peu c'était le gistel divide, mais c'est beaucoup plus grave que ça. Maintenant, c'est disons un bon nombre de gens qui sont comment dire en état de sidération devant le système qui est actuellement constitué par l'intelligence artificielle, qu'elle soit très avancée, les LLM les plus performants ou qu'elles soit beaucoup plus élémentaire, les systèmes de recommandation ou la manière de je sais pas télécharger un billet d'avion sur sur son sur son téléphone portable. Donc je pense que essayons d' de penser plus intelligence augmentée qui parle de l'être humain au niveau individuel et au niveau social pour lui fournir effectivement le bénéfice le meilleur bénéfice des possible à tirer de ces différents systèmes en les distinguant bien d'ailleurs.

C'est vrai qu'il y a pas que les LLM. Les LLM même selon notre champion national Yan Lec ne sont pas une bonne idée. Alors on n'arrête pas de parler de LLM mais si Yann a raison à ce momentlà il faut presque oublier les LLM.

Mettre ça un peu, on mettra ça au palais de la découverte mais euh en fait les LLM ne sont peut-être pas si intéressants que ça. Enfin moi je n'en sais rien. Je peux pas trancher là-dessus.

Mais en tout cas il faut euh comment dire ? Il faut davantage ouvrir sur l'incertitude et les controverses d'une part et sur l'humain d'autre part. Voilà, je m'arrête là parce que j'ai déjà trop parlé.

Merci pour ces propos philosophiques. Pour conclure, je je vais juste terminer pour mes mes collègues avec une petite annonce qui qui vous concerne pas la la matinée de du jour, mais sur le des nominations au conseil d'administration de de l'Andra. Je me dois de présenter ces ces nominations, en tout cas une petite explication sur ces nominations au aux membres de l'OPEX.

On on diffusera ensuite à à tout le monde. Mais Landra euh dispose de comprend un membre député et un sénateur dont la désignation revient au président de l'Assemblée nationale et au président de du Sénat. jusqu'à présent le membre député c'était mode de Bron