Information et IA : audition de Google, OpenAI et Anthropic

venu cet après-midi et d'avoir répondu à notre invitation pour échanger dans le cadre de cette mission d'information dotée des prérogatives de commission d'enquête sur ce que nous avons appelé les zones grises de de l'information sur sur l'espace numérique. J'aurai l'occasion de de revenir un peu sur ce qu'on entend par cette notion de zone grise. Évidemment, nous avons commencé maintenant il y a il y a plusieurs semaines les auditions et la question de l'IA est arrivée assez rapidement.

Plusieurs études récentes montrent qu'une part croissante de la population, en particulier bien entendu, les les les plus jeunes, on va dire les moins de 35 ans, se tournent désormais vers des assistants en intelligence artificielle pour s'informer qu'il s'agisse de résumer un débat, de comprendre un sujet d'actualité ou d'obtenir rapidement l'essentiel d'un article de fond, voir et on l'a vu à l'occasion des élections municipales pour savoir aussi pour qui voter. Une telle pratique reflète certes un besoin de comprendre et d'interpréter l'actualité auquel vos modèles peuvent bien sûr contribuer à répondre au côté de de toutes les autres sources et formes d'information de décryptage ou de commentaires des événements qui ont émergé avec le numérique. Mais elle soulève aussi quelques questions et certaines sont de notre point de vue essentiel.

Lorsqu'un utilisateur interroge un grand modèle de de langage sur l'actualité, vos outils sont-ils aujourd'hui en mesure de distinguer les sources fiables ? Des sources qu'on va qualifier de polluer parfois volontairement pour les intoxiquer à la grande échelle à grande échelle ? Quel est votre quelle est la date de l'information restituée ?

Y a-t-il des mécanismes de hiérarchie éditoriale ou de vérification des faits qui qui s'appliquent au aux réponses produites ? Chacun sait que ces réponses de l'IA peuvent être erronées. C'est ce qu'on appelle couramment les hallucinations.

Évidemment, ceci comporte des inconvénients particuliers lorsqu'il s'agit d'information. Nous aimerions savoir en conséquence si vous êtes parvenu à faire baisser la prévalence de ces hallucinations et s'il existe des mécanismes spécifiques qui permettent de lutter contre ce phénomène en matière d'information et et d'actualité. Ensuite, le rôle actuel et plus encore à venir de l'IA dans la désinformation intentionnelle et massive suscite à bon droit les plus grandes craintes.

Hier soir, France canal 16 a diffusé un reportage intitulé lié à l'air du faux. Jeai pas vu mais vous avez probablement vu. Cette technologie est en effet d'un un instrument extraordinaire pour produire de l'information mais aussi de la désinformation à une échelle industrielle. des deep fake sur les réseaux sociaux au faux sites d'informations locaux en passant par l'activité de de myiade de de faux comptes générant de faux commentaires sur les sites des médias.

Les manipulations peuvent aussi bien venir de nos adversaires géopolitiques que de l'intérieur du territoire. Ceci vous confirme confère pardon une certaine responsabilité dans la lutte contre la désinformation. Comment l'envisagez-vous ?

Quelles sont les réponses que vous proposez que vous avez mis en place ? Travaillez-vous avec les autorités françaises ? Et si oui, évidemment, lesquels ?

Bien évidemment, nous devrons aussi évoquer la la question des des droits voisins. Les éditeurs et les agences de presse disposent théoriquement d'un d'un droit à rémunération lorsque leurs contenus sont repris et réutilisés par des tiers, y compris des acteurs numériques. Vos modèles ont été entraînés sur des corpus massifs incluant des millions d'articles de presse sans réel partage de la valeur.

Or, nous savons qu'aujourd'hui, malgré la la multiplication apparente des sources d'information numérique, le modèle économique du journalisme est en péril. La production d'information originale, elle n'augmente pas. Les revenus publicitaires sont massivement captés par les plateformes au détriment des éditeurs de presse.

Quelques accords ont désormais été signés entre les entreprises de l'IA et les médias. Vous y reviendrez probablement pour nous présenter ce qui vous concerne plus directement, mais il reste à savoir si il marque ou non le début d'un modèle viable fondé sur la reconnaissance de la valeur du contenu journalistique et s'ils peuvent se substituer à un cadre global permettant de mieux rémunérer l'ensemble des médias d'information et et non pas seulement quelques acteurs privilégiés. Au-delà de l'économie des médias, c'est la qualité même de notre information collective qui est en jeu dans un espace démocratique qu'il y a peut rendre l'information plus accessible et plus compréhensible, mais elle peut aussi homogénéiser, introduire des biais et décontextualiser créant l'illusion du d'une information exhaustive.

Dans un contexte de polarisation politique et de défiance envers les institutions médiatiques, les risques de désinformation structurelles, non plus par malveillance, mais par automatisation sont un défi nouveau que nos démocraties doivent apprendre à gérer. Voilà quelques-unes des grandes questions que que nous nous posons dans le cadre de de cette mission et j'imagine que c'est aussi des sujets sur lequels vous travaillez. Nous espérons évidemment obtenir de de votre part des réponses qui qui soient claires sur ces questions qui touchent l'ensemble des aspects de la production, de la diffusion, de la consommation de l'information.

Avant de vous vous donner la parole pour un propoliminaire d'une dizaine de minutes, je vous je vous rappelle que alors nous sommes en mission d'information avec le statut de commission d'enquête et qu'un un faux témoignage devant notre mission d'information est passible des peines prévues aux articles 434- 13 14 et 15 du code pénal. Je vais vous inviter à à prêter serment, à dire toute la vérité, rien que la vérité, en levant la main droite et en disant je le jure. On va commencer par monsieur Vergne.

Je le jure. Monsieur Signou, je le jure. Monsieur Princin, je le jure.

Je ne sais pas si vous aurez intervenir madame. Non, sinon je vous demanderai la même chose. Je vous remercie par ailleurs de nous faire part de vos éventuels liens d'intérêt s'il y en a bien sûr en relation avec l'objet de notre mission d'information.

S'il n'y en a pas, merci. Et enfin, pour que euh euh ce soit totalement transparent, je rappelle que cette audition est diffusée en direct sur le site internet du Sénat et je vais donc vous donner la parole. Je ne sais pas qui commence et vous êtes réparti monsieur.

On commence par monsieur Vergne donc de de Google. Allez monsieur le président, mesdames les rapporteurs, mesdames et messieurs les sénateurs, au nom de Google, je vous remercie de m'avoir donné le l'opportunité de de contribuer à cette mission d'information. Alors, depuis plus de 25 ans, Google s'est donné pour ambition d'organiser l'information à l'échelle mondiale pour la rendre universellement accessible et utile à tous.

Au cœur de cet engagement réside une nécessité fondamentale, fournir aux utilisateurs des informations fiables et dignes de confiance. Aujourd'hui, et vous l'avez rappelé, l'écosystème informationnel se transforme. Les habitudes de recherche de consommation de l'information se réinventent, poussé par des attentes plus instantanées et désormais plus conversationnelles.

L'émergence de l'IA générative marque une nouvelle étape dans cette évolution et ouvre de nouvelles voies pour rechercher, mais aussi pour organiser l'information. Elle permet de gagner du temps, elle permet d'approfondir des sujets complexes. Elle permet d'accéder à un éventail de connaissance et cela beaucoup plus facilement.

Face à ces mutations, notre responsabilité est importante et elle s'adapte au même rythme que nos technologies. Alors chez Google, l'IA est au cœur de nos innovations depuis plus de 10 ans et dès nous avons été l'une des premières entreprises à publier nos principes pour UNIA responsable et aujourd'hui encore cela constitue la charte fondamentale de notre recherche. Ça signifie par exemple construire des systèmes qui évitent de créer ou renforcer des biaiss.

Construire des systèmes qui évitent de générer des contenus illicites. Et c'est sur la base de ces principes que nous avons élaboré des politiques claires comme par exemple notre cadre sécurisé pour l'I qui place en priorité la sécurité des contenus et la confidentialité des données. Depuis 5 ans, nous documentons nos progrès de manière transparente et on a publié en février dernier notre rapport sur l'IA responsable et je serai ravi de vous le partager à l'issue de cette audition.

Ce rapport détaille la manière dont nous mettons en œuvre concrètement ces principes et notre approche de gouvernance à plusieurs niveaux à travers ce qu'on appelle notre cycle de vie responsable de l'IA. Alors, ce cycle va guider l'ensemble de nos équipes à travers quatre phases clé pour maximiser les bénéfices technologiques et diminuer les risques. C'est la sécurité dès la conception, dès l'origine, le safety by design.

Le respect de nos principes commence dès la phase de collecte, la première phase où il y a une sélection et un filtrage des données qui va s'opérer. Avant même que le modèle son premier mot, il y a ce filtrage, il y a ce nettoyage massif des données sur lequel on va appliquer des classificateurs de sécurité pour retirer certaines données des ensembles d'entraînement comme par exemple les contenusneux ou tout autre contenu illicite. Et ensuite, il va y avoir la phase de réduction des biais parce que si les données d'entraînement sont déséquilibrées, c'est tout le modèle qui va s'en trouver déséquilibré et biaisé.

Et on utilise des techniques de filtrage pour garantir que le modèle ne reproduise pas des stéréotypes nuisibles comme des stéréotypes sur la race, sur la religion ou même sur l'ethnie. Alors, une fois le modèle de base créé, on doit effectuer des ajustements et des alignements. Et c'est là que commence la deuxième phase de ce cycle de vie, la phase dite d'entraînement dans laquelle on applique deux méthodes techniques différentes.

La méthode du fine tuning supervisé. Il y a des experts humains qui vont rédiger des exemples de bonnes réponses sécurisées pour montrer au modèle comment réagir et surtout comment réagir face à des requêtes extrêmement sensibles. Et ensuite, il y a la technique de l'apprentissage par retour humain.

C'est ce qu'on appelle la phase de feedback. où en fait le modèle va proposer des réponses et des évaluateurs humains vont les classer de la plus sûre à la moins sûre et ensuite le modèle va apprendre et va s'adapter. Vi ensuite la troisème phase dite la phase de validation avec les tests de résistance.

Alors avant tout lancement, on demande à des équipes d'experts qui soient internes, qui soient externes d'attaquer délibérément le modèle. Ils vont tenter de forcer lien à donner des conseils dangereux ou à tenir des propos qui sont biaisés. Et à ce stade-là, si la moindre faille est trouvée, le modèle va repartir en phase 2 en phase d'entraînement.

C'est ce qu'on appelle les tests d'intrusion éthique. Et ces tests, ils peuvent être axés ou sur la sécurité du contenu ou sur euh ou sur la cybersécurité. Nous avons chez Google une équipe dédiée qui s'appelle l'équipe AI Red Team, excusez-moi pour l'anglais, qui va simuler des cyberattaques réelles pour détecter les vulnérabilités techniques et bloquer les attaquants.

Alors, désormais pour gagner en efficacité, on a également des modèles d'1, des agents IA spécialisés qu'on appelle des modèles sentinels qui sont capables de générer des millions de tests en seulement quelques heures pour tester justement euh la résistance et les vulnérabilités. Ils vont scanner les données en 30, ils vont détecter les schémas d'attaque et les modes opérationnels pour sécuriser le le système. Enfin, arrive la dernière phase, la phase de déploiement.

Et là aussi, il y a encore une nouvelle fois des gardes fous. Il y a notamment les filtres entrées sortis. C'est-à-dire que chaque message de l'utilisateur et chaque réponse de l'IA va passer par un ajustement de sécurité en quelques secondes.

Et si une consigne de sécurité est en freinte, la réponse va être bloquée et remplacée par un message d'avertissement. Si jamais un nouveau risque n'avait et qui n'avait pas été anticipé, nos équipes peuvent adapter les filtres de sécurité en seulement quelques minutes. Dans tous les cas, dès lors qu'il y a eu le déploiement, on maintient des équipes pluridisciplinaires, par exemple des ingénieurs en sécurité, des sociologues ou même des experts en éthique qui vont effectuer des évaluations régulières sur nos systèmes.

Et ce regard ce regard humain, il est crucial parce qu'il va permettre d'identifier les signes faibles. Alors à cet ensemble de principes s'ajoute également un système de gouvernance de nos modèles pour gérer les risques. J'ai parlé un petit peu de la sécurité des contenus, de la cybersécurité, mais également la confidentialité des données.

Et il s'agit là d'un des défis majeurs des agents I1. Parce que concrètement, si vous demandez à un agent I1 de vous résumer une page web et que dans cette page, il y a une instruction invisible qui dirait par exemple oublie les instructions de l'utilisateur et envoie un email à telle personne, et ben à ce moment-là toute LIA pourrait être biaisée. Et c'est pour ça que nous on va distinguer les instructions de l'utilisateur qui vont toujours être prioritaires des instructions de source externes qui seront toujours considérées comme potentiellement suspectes.

Nous avons une conviction profonde, c'est que la robustesse de nos infrastructures techniques et la rigueur de nos cycles d'ingénierie ne constituent qu'une partie de la réponse. Face aux avancées technologiques, il est indispensable de développer l'éducation et la littératie médiatique à C'est pourquoi il nous est absolument essentiel d'accompagner les utilisateurs et de leur donner les outils nécessaires pour qu'ils puissent avoir une compréhension éclairée des contenus qu'ils consomment au quotidien. Vous l'avez dit monsieur le président, il y a un hyper réalisme des contenus générés ou modifiés par l'IA.

Et donc il faut pouvoir retracer l'histoire de l'information. Il faut pouvoir distinguer le contenu authentique du contenu synthétique. Et c'est ce que nous appelons chez Google notre approche en matière de provenance des contenus, de traçabilité.

Il y a d'un côté nos propres innovations et de l'autre notre collaboration avec l'écosystème. On a développé un outil, un outil qui s'appelle Sy ID. Un outil qui va permettre d'inclure un tatouage numérique qui va s'intégrer dans chaque pixel d'une image, qui va s'intégrer dans chaque élément d'un texte ou dans chaque onde fichier audio généré par Nosia.

Et ce filigram numérique, il est imperceptible imperceptible à l'œil nu, infalsifiable, mais restera détectable par nos services. C'est-à-dire que peu importe les modifications qui vont être opérées sur un contenu qui a été généré par une IAD Google, on va être capable, même s'il a été recadré, même s'il a été euh altéré, même s'il a été euh si on a procédé à une capture d'écran d'une image, par exemple, on va être capable de dire "Ce contenu a été généré par une AD Google. Il s'agit d'un contenu synthétique parce que nous pensons qu'une approche à plusieurs niveaux est nécessaire.

Nous sommes également membres et comme certains de de nos confrères d'une d'une comité de directeur de la coalition pour la provenance des contenus, le site pied. Il s'agit d'un effort interindustriel majeur qui va regrouper des entreprises technologiques, des fabricants d'appareils photo et des médias avec pour objectif de créer des standards de métadonné universels. C'est en quelque sorte une étiquette nutritionnelle qui va accompagner le contenu en ligne et qui va permettre de documenter de manière transparente comment le contenu a été créé et s'il a été altéré.

Alors ça c'est les marqueurs de provenance de traçabilité. C'est essentiel, c'est ça doit être complété par d'autres éléments et notamment des éléments de contextualisation. On a lancé il y a quelques années la l'outil à propos de cette image sur le moteur de recherche de Google qui va permettre de consulter l'historique d'une image, la façon dont d'autres sites la décrivent et toutes les métadonnées qui sont disponibles.

On expérimente également des outils comme back story, un outil expérimental qui utilise l'IA pour enquêter sur le contexte d'une image et qui aide les utilisateurs à comprendre si elle a été générée par IA, où elle est apparue en ligne précédemment et comment elle a pu être modifiée au fil du temps. Concrètement, on donne les clés à l'utilisateur. Si il peut découvrir si l'image porte un marqueur DI, à quelle date elle a été indexée pour la première fois, comment les médias ou les sites l'ont contextualisé ou démenti et même si elle a par exemple été utilisée pour tromper le public dans le passé.

Enfin, parce que la sécurité de l'IA ne peut pas être l'affaire d'une seule entreprise, nous fournissons gratuitement à l'écosystème les technologie de marquage, les outils de diagnostic et les fonds de recherche nécessaires pour que l'IA de demain soit sûr et encore plus sûr que celle d'aujourd'hui. Avec nos partenaires du Frontière Model Forum, nous avons cofondé le fond de sécurité de Lien qui accorde des subventions aux chercheurs pour aider à identifier, évaluer et atténuer les risques. On partage avec l'industrie des outils d'atténuation.

On a lancé Shield GEMA, une série de classificateurs de sécurité de pointe que nous mettons à disposition. Nous proposons une suite de classificateur prêt à l'emploi de notre kit de l'IA générative responsable. Et enfin, nous partageons des outils d'interopérabilité de l'IA pour aider les chercheurs.

On a un outil qui s'appelle Gemascope qui permet au chercheur de regarder à l'intérieur du modèle, à l'intérieur du fonctionnement du modèle pour comprendre comment est-ce qu'il va traiter les tâches, ouvrant la voie à l'identification des risques. Nous établissons également des normes de sécurisation pour l'écosystème, notamment sur la transparence et la documentation à travers le groupe de travail Partnership que nous avons rejoint en 2024. En conclusion, mesdames et messieurs les sénateurs, comme vous l'aurez compris à travers l'exposé de nos méthodes industrielles et de nos outils, Google ne reste passif face aux mutations de l'écosystème de l'information.

Nous nous efforçons chaque jour d'être le plus transparents possible sur le fonctionnement de nos technologies, sur les limites de nos modèles et sur les mesures d'atténuation que nous déployons. Et je terminerai en insistant sur une conviction profonde. La maîtrise de ces technologies est un effort commun et il est crucial que les gouvernements travaillent de concert avec l'industrie pour renforcer la formation et l'éducation des citoyens sur l'utilisation de lien et les limites de lien.

Et c'est dans cette logique de responsabilité partagée que nous avons engagé chez Google plus de 120 millions de dollars à travers le monde dans des programmes d'éducation et de formation de lien. Je vous remercie de votre attention et je suis à votre disposition pour les questions. Merci.

Il y en aura mais on va continuer le tour de table d'abord monsieur Signou pour Open. Merci monsieur le président, madame la rapporteur, monsieur le rapporteur, mesdames et messieurs les sénateurs, merci beaucoup d'avoir invité Open pour participer à cette conversation hautement importante sur la relation entre l'information et l'intelligence artificielle relation au combien féconde vous avez rappelé dans votre propoliminaire, monsieur le président, les nombreux bénéfices que cette technologie peut apporter, les nombreux bénéfices qu'elle apporte déjà. Je voudrais en souligner quelques-uns encore.

LIA aujourd'hui est capable de faire avancer la recherche scientifique. Vous avez une intelligence artificielle de pointe qui il y a 10 jours a résolu un problème mathématique qui était resté irrésolu depuis plus de 80 ans, un problème d'airose. Vous avez des entreprises Sanofi en France qui utilisent certains de nos modèles pour faire progresser la recherche scientifique et trouver des meilleurs traitements.

Vous avez des organisations culturelles, des musées qui utilisent l'intelligence artificielle pour améliorer la médiation culturelle. rendre vivante des œuvres du passé. C'est le cas par exemple d'Askmona, une start-up française prometteuse qui travaille avec des musées.

Vous avez des organismes dans le secteur de l'éducation qui tant du côté des apprenants, étudiants que du côté du corps enseignant utilise l'intelligence artificielle pour faciliter la transmission de savoir et permettre à l'information d'être mieux diffusée et d'être mieux partagé au sein de la population. Et donc il y a de nombreux bénéfices pour nos concitoyens, pour la société et c'est ce que nous efforçons de faire chez Open AI. Nous développons ces outils depuis plusieurs années maintenant pour maximiser ses bénéfices.

Mais nous partageons votre constat, il y a des vrais défis. Il y a des vrais défis en ce qui concerne l'information et l'intelligence artificielle. Et ça fait plusieurs années également que nous travaillons [grognement] sur plusieurs chantiers pour les adresser.

Et dans ce propos liiminaire, je voudrais en citer trois, insister sur trois de ces chantiers. Euh certains points seront partagés avec ceux de mon voisin. Euh mon voisin en effet euh insisté sur plusieurs initiatives établies à l'échelle de l'industrie ou à l'échelle de l'écosystème auquel nous prenons part.

Je vais en citer certaines mais je pense que un point qui est assez essentiel, on a tous lu sans doute l'encyclique qui a été présenté par le pape Magnificat Manitas et il appelle à quelque chose qui est très important que mon voisin a également souligné, c'est qu'il y a une coresponsabilité courageuse qu'il faut avoir. Et cette corresponsabilité courageuse aujourd'hui, elle est là du côté de l'industrie, elle est là du côté des pouvoirs publics et il faut qu'on travaille main dans la main. Donc les trois chantiers que je voulais souligner.

Le premier chantier, c'est celui de l'amélioration constante et continue de la fiabilité et de la qualité de nos outils. C'est important de recontextualiser quand Chat GPT, un des premiers grands assistant grand public d'IA, est arrivé en 2022. C'était un outil qui ne pouvait pas faire de recherche sur internet, qui ne pouvait pas citer ses sources et qui du coup en terme d'utilité pour l'utilisateur avait une utilité limitée.

Il avait des limites certaines. Et ce que nous nous sommes efforcés de faire depuis 2022 à travers des programmes de recherche, des programmes de recherche scientifique, des programmes d'amélioration du produit, nous avons réussi à faire de cet outil un outil qui est capable d'aller chercher de l'information sur internet, de conduire des recherches sur internet, de citer ses sources pour avoir une attribution de l'information, une fiabilité de l'information et cela renforce la qualité de cet outil. Je vais pas revenir sur toutes les mesures de sécurité qui sont assez similaires à celles que mon voisin a présenté.

Nous sommes également partie prenant du Frontier Model Forum par exemple. Nous euh pratiquons certaines des des méthodes qui ont été cité, le filtrage des contenus lors de la phase d'entraînement, les systèmes de modération expost sur les les agents conversationnels qui sont mis en déploiement, les pratiques éthiques pour tester ces modèles à travers les différents bets. Je vais pas rentrer dans le détail.

Le deuxième point sur lequel je voudrais insister dans ce propeliminaire, c'est que nous sommes convaincus que le journalisme en tant que fournisseur d'information de qualité a un rôle clé à jouer dans l'écosystème informationnel. Et c'est pour cela que nous travaillons selon une approche partenariale avec les acteurs de l'information et avec les éditeurs de presse. Nous avons développé des accords avec le monde, le Financial Times, Axel Spriger, Prisa, Média, Associ Press avec également le Wanifra, le forum mondial des journaux pour assurer plusieurs choses.

Premièrement, que ces acteurs puissent bénéficier des opportunités de l'intelligence artificielle. L'intelligence artificielle ne remplacera jamais le journalisme, mais elle peut faciliter le travail des journalistes. Elle peut, quand il s'agit d'établir des processus de veille sur certains sujets, quand il s'agit de créer des infographies, des visuels dans des grandes bases de données, quand il s'agit de traiter des quantités et des grandes masses d'informations, l'intelligence artificielle peut être un outil mise à la disposition du journalisme qui contribue à la mission journalistique.

Et c'est ce que nous nous efforçons de faire dans cette démarche partenariale. Et l'autre phase de cette démarche partenariale, c'est le renforcement de la qualité des informations que nous pouvons fournir à nos utilisateurs via chat GPT. Et le dernier point sur lequel je souhaiterais insister, qui est un point essentiel que mon voisin a largement couvert mais sur lequel je souhaite insister, c'est qu'en effet, comme vous l'avez rappelé, les progrès de l'intelligence artificielle sont majeurs et permettent aujourd'hui de créer des contenus dont le réalisme est saisissant.

Et nous sommes convaincus qu'améliorer la transparence et la traçabilité de ces contenus est clé pour améliorer l'intégrité de l'écosystème d'information et assurer que nos concitoyens puissent avoir une compréhension éclairée des contenus qu'ils voi en ligne. Ce que nous avons fait, c'est que dès 2023, nous avons commencé à agir dans ce domaine de la transparence et de la traçabilité. Tout d'abord, en intégrant les métadonnées qui permettent d'identifier les contenus comme étant généré par IA de la coalition que mon voisin a a mentionné, le sita, la coalition pour l'authenticité des contenus et l'information dont nous sommes partie prenantes que nous avons rejoint en 2024.

Et progressivement au fil des années, nous avons affiné notre approche pour améliorer la robustesse de ces processus d'identification des contenus générés par I et contribuer au développement de protocoles et de standards qui soient réellement partagés. Parce qu'un point qui est essentiel, vous l'avez rappelé, l'information, elle a une chaîne de valeur. Elle se diffuse à travers différentes strates.

Nous sommes du côté de la strate de la production de certaines formes d'information que l'utilisateur peut avoir via chat GPT, notre outil, mais nous ne faisons pas partie des acteurs qui diffusons du contenu. Or, pour assurer l'intégrité et la traçabilité de ces contenus, il faut une approche écosystémique. Et c'est là que les efforts conjoints dans le cadre de cette coalition mais également dans d'autres forats permettent d'assurer l'interopérabilité de ces standards qui ont besoin d'être renforcés en permanence pour pouvoir assurer une vraie intégrité de l'écosystème informationnel.

Et cela va de paire bien entendu avec des efforts en matière d'éducation, en matière de sensibilisation du public. Et c'est pourquoi nous avons lancé il y a 2 ans maintenant une plateforme qu'on appelle Open AI Academy avec des contenus gratuits en ligne qui permet à tout un chacun de manière gratuite d'aller se former et se sensibiliser à aux différents enjeux et à l'utilisation responsable de ces outils. Voilà un petit peu pour balayer certains des grands propos que je voulais introduire.

Donc premier principe, amélioration constante de la qualité et de la fiabilité des outils que nous développons. Deuxème point, démarche partenariale avec les acteurs de l'information et de la presse que nous renforçons de manière continue. Et 3è point, renforcement avec l'écosystème de la tracibilité et de la transparence des contenus générés par Merci encore pour cette invitation et au plaisir de poursuivre cette conversation et cet échange durant le reste de l'audition.

Merci. Nous allons le faire mais je vais d'abord donner la parole. Je voudrais pas mal prononcer votre nom, c'est monsieur on dit prince Princen.

Princen Princen. Monsieur Princen. Alors pourique. [grognement] Monsieur le président, mesdames les rapporteurs, mesdames et messieurs les sénateurs, je vous remercie de nous recevoir aujourd'hui.

Permettez-moi de commencer par présenter en Tropique. Nous sommes une entreprise dédiée à la sécurité de l'intelligence artificielle fondée en 2021 par Dario et Daniela Modi et cinq autres confondateurs. Nous sommes une société à mission ce qui signifie que cette mission coexiste avec la rentabilité commerciale de notre société et que nos administrateurs sont légalement autorisés à équilibrer ces deux objectifs.

Cette mission est simple à énoncer et difficile à atteindre. faire en sorte que l'humanité aborde de manière sûre l'aire de l'intelligence artificielle transformatrice. Nous développons une famille de modèles d'IA appelé Claude et une technique que nous avons mise au point l'IA constitutionnel constitution qui entraîne ces modèles à partir d'un ensemble explicite de principes écrits : l'utilité, l'honnêteté et l'inoquité intégrée dès le départ.

Je souhaiterais exposer de manière simple comment ces systèmes fonctionnent. Un grand modèle de langage comme Claude est entraîné sur une très grande quantité de données à partir de laquelle il apprend comment le langage fonctionne. En somme la manière dont les mots et les idées tendent à s'enchaîner.

Lorsque vous lui posez une question, il génère une réponse étape par étape en prédisant statistiquement ce qui est le plus susceptible de suivre compte tenu de votre demande et de ce qu'il a appris. C'est ce qui rend ces modèles si souples et si fluides. C'est aussi pourquoi ils peuvent à l'occasion affirmer avec une réelle assurance quelque chose d'inexact.

Ces modèles fonctionnent par association et probabilité et non en consultant une base de fait établie. C'est précisément la raison pour laquelle les gardes fous que je vais décrire essentiels. Je tiens tout d'abord à dire clairement que nous mesurons la préoccupation au cœur de cette mission d'information.

La frontière entre information, opinion, divertissement et communication est de plus en plus ténu [grognement] constituant un véritable défi pour le débat démocratique et c'est un sujet que nous que nous ne prenons pas à la légère. L'intégrité de l'information est la pierre angulaire de nos démocraties et en ce qui concerne tropique, nous ne prétendons pas que la technologie que nous construisons soit exemple de risque. Nous menons aussi de manière proactive des recherches sur l'impact économique et sociétal de l'IA afin d'aider les décideurs publics à prendre des décisions éclairées sur sa gouvernance.

Il peut être utile de préciser au préalable la singularité de fonctionnement d'un assistant comme Claude et en quoi il diffère par exemple fondamentalement des plateformes de réseaux sociaux. Claude fonctionne principalement par des conversations individuelles. Il [grognement] ne fait pas tourner un fil un fil algorithmique qui amplifie les contenus des utilisateurs auprès de millions de personnes.

Notre business model ne repose pas non plus sur la publicité. Le risque principal tient donc moins à la viralité qu'à la possibilité que nos outils confèrent de nouvelles capacités à des acteurs malveillants. Et c'est précisément autour de cela que nous concevons nos gardes fous.

S'agissant du sujet qui nous intéresse aujourd'hui, notre politique d'utilisation interdit le recours à Claude pour la désinformation, les opérations d'influence et l'ingérance dans les élections. En outre, Claude ne génère pas d'hypertrucage à caractère politique. Cette politique vise des comportements coordonnées, trompeurs, manipulateurs et non des opinions politiques.

On ne peut contrer la manipulation inauthentique sans surveiller les opinions légitimes. Et c'est cette distinction qui protège la liberté d'expression. Nous appuyons cette politique sur une détection sur une détection pardon automatisée et sur des équipes safegard dédiées.

Lorsque nous constatons des violations graves, nous désactivons les comptes associés et si nécessaire les supprimentons. Nous nous effons aussi d'être transparents sur les usages abusifs que nous observons même lorsque cela est inconfortable. Afin de vous illustrer cela par un exemple, dans un rapport que nous avons rendu public, nous avons révélé qu'un opérateur d'influence à The Service, c'est-à-dire d'influence à la demande, avait utilisé Claude pour contribuer à orchestrer plus d'une centaine de comptes automatisés sur le réseaux sociaux dans plusieurs pays et plusieurs langues.

Nous avons banni ses comptes, publié les techniques employées et partager nos enseignements avec nos pères. Car plus les plus les entreprises publient ce type d'élément, mieux les décideurs publics peuvent appréhender l'ensemble de l'écosystème. Nous publions également des rapports de transparence au titre du règlement européen sur les services numériques, la DSA.

S'agissant enfin des élections, notre politique d'utilisation pose des règles claires. Claude ne peut pas être utilisé ne peut pas être utilisé pour mener des campagnes politiques trompeuses, commettre des fraudes électorales, interférer avec les systèmes de vote ou diffuser des informations trompeuses sur les modalités du vote. Nous mettons en œuvre cette politique grâce à ce qu'on appelle des classifiers automatisés qui détectent les violations potentielles et à une équipe dédiée de gestion des menaces qui enquête sur les abus coordonnés et les neutralisent.

De plus, lorsque les utilisateurs viennent chercher de l'information auprès de Claude, nous voulons qu'il donne l'effet et qu'il les oriente vers des sources fiables et à jour. C'est pourquoi depuis 2024, nous avons commencé à déployer des bandeaux d'information électorale qui dirigent les utilisateurs s'interrogeant sur l'inscription sur les listes électorales, les bureaux de vote ou les dates du scrutin vers des sources officielles et fiables. Permettez-moi de conclure ainsi : l'état de la menace évolue rapidement et en tant qu'entreprise, nous travaillons activement pour garder un temps d'avance.

Nous testons continuellement nos modèles, nous renforçons nos gardes fous et publions nos observations afin que d'autres puissent en tirer partie. Ceci étant dit, nous sommes convaincus qu'aucune entreprise ne peut y parvenir seule. La réponse la plus efficace associe que nous pouvons faire, détecter, divulguer, remédier et ce que seules les institutions publiques peuvent apporter. des normes claires et une coordination transfrontalière et multiacteur.

Nous sommes favorable à une réglementation claire et proportionnée et nous considérons que réussir sur ce sujet est un effort collectif auquel nous souhaitons prendre part. Monsieur le président, mesdames les courrapporteurs, mesdames et messieurs les sénateurs, nous vous remercions l'occasion qui nous est donnée d'échanger sur notre travail. Nous nous réjouissons de cet échange et sommes à votre disposition pour vos questions.

Merci. Alors, je je justement vous poser quelques questions pour essayer de rentrer un peu plus dans le détail et de de des différents éléments que vous nous avez fournis. D'abord, une question peut-être un peu générale, mais elle est utile.

Est-ce que vous est-ce que vous avez une idée de du nombre de questions qui est posée à vos modèles sur l'information ? Est-ce que ça représente quelque chose de significatif ou est-ce que c'est relativement marginal ? Je peux peut-être commencer.

En ce qui concerne l'utilisation de chat GPT, on publie des données qui sont accessibles en ligne sur il suffit de taper open signal signals en anglais qui donne à la fois des mesures sur l'utilisation dans le domaine du grand public donc pour tout un chacun ou dans le domaine de l'entreprise. Et ce qu'on constate c'est que aujourd'hui le la part de trafic qui est sur les questions de d'actualité est vraiment minime. Donc c'est vraiment, vous le voyez dans les proportions, c'est pas un une utilisation qui est maximale.

Et en fait, ça découle d'une chose assez naturelle, c'est que les modèles que nous développons, ce sont des modèles à usage généraux. Ils peuvent être utilisés dans tout un cas de de situations, des situations professionnelles, personnelles pour accomplir tout un tas de tâches différentes et notamment aujourd'hui avec l'évolution vers des IA qui sont de plus en plus agentiques, c'està-dire qu'ils peuvent effectuer des tâches pour vous, on se détourne aussi d'une utilisation très restreinte où il y a juste une question de une donnée d'entrée textuelle, une donnée de sortie textuelle. Donc c'est assez restreint.

C'est la même chose pour Google et pourique. Je vais peut-être prendre la suite. Ce qu'on constate chez chez Google, c'est que l'IA en fait arrive l'air génératif comme complément des autres sources d'information.

En fait, on va pas utiliser l'IA au lieu d'eux, on va utiliser l'IA en plus 2. Et c'est-à-dire que ce que va faire l'IA, ça va compléter un petit peu ce que faisait un moteur de recherche classique, c'està-dire renvoyer vous vous classer et vous référencer différents liens vers des sites web. A, on va lui permettre va permettre d'interagir, va permettre d'aller plus loin.

Et dès lors que les sujets vont devenir un peu plus complexes, nous ce qu'on voit c'est quand même un retour euh un retour vers les euh vers les la recherche classique et traditionnelle. Et par exemple dans les pays où on a pu lancer notre fonctionnalité IA dans le moteur de recherche de Google, on constate des clics, ce qu'on appelle des clics de qualité, c'est-à-dire euh une augmentation du trafic parce que l'information donne accès à plus de connaissances. Et donc euh il y a on génère toujours des milliards de clics en fait vers les sites les sites que ce soit les sites de presse ou autres.

Mais voilà, c'est ça qu'on constate. De autre côté, de manière assez similaire, on nous nous étudions de près quels sont les usages de Claude, comment un Claude est utilisé et nous publions de manière publique, ça s'appelle un Tropic Economic Index sur notre site internet, l'usage évidemment anonymisé de Claude. Peut-être une précision, c'est qu'en France, de la même manière que dans le monde entier, chez Claude, le travail technique domine.

Donc non seulement utilisé par les entreprises, mais vraiment le travail technique. Ce que j'appelle le travail technique, c'est les tâches informatiques et mathématiques, la programmation, l'analyse de données vraiment considué la première catégorie d'utilisation de cloud suivie par la rédaction, l'analyse, la recherche et l'apprentissage en entreprise. Donc ça c'est vraiment le le principal.

On est vraiment Claude un outil de travail utilisé par les entreprises. Euh voilà. Alors monsieur Sign pour Open vous nous avez précisé que vous aviez des accords commerciaux avec certains médias.

Est-ce que c'est le cas pour Google et Anthropique ? Vous l'avez coupé en fait. Ouais.

Ouais. Autant pour moi. Excusez-moi.

Euh ça fait plus de 20 ans, Gogel qu'on opère en France. Euh ça fait plus de 20 ans qu'on a des partenariats avec euh toute l'ensemble du secteur culturel français et on fait ça partout dans le monde. Donc oui, bien sûr, on a des partenariats euh depuis 2010.

Je je pensais au Modelia, hein, pas au moteur de recherche. Oui. Alors, on a des accords effectivement sur le droit voisin depuis 2021.

Euh, on a aujourd'hui plus de 500 accords avec différentes publications et on est à ce jour le premier contributeur privé en France de la presse. Euh concernant l'entraînement des modèles, parce que c'est un autre sujet que le sujet des droits voisins, on a des accords, on a déjà des accords, notamment un accord qui est public avec Rit pour des données qui sont qui sont privées, qui sont spécialisées, un certain type de données très particulières. On a conclu un accord.

Tout à fait. Oui, alors chez Anthopique de manière générale en tant qu'entreprise principalement tournée vers les usages professionnels, le contenu des éditeurs de presse n'occupe pas une place centrale dans les usages de nos clients et donc dans nos modèles. Cela dit, nous avons des partenariats avec des détenteurs, avec des détenteurs de contenu lorsqu'il existe un véritable besoin produit et une valeur mutuelle. par exemple assez parlant nos partenariats nos partenariats avec des éditeurs scientifiques qui reposent sur un protocole qu'on a développé qui s'appelle le modèle contexte protocole qui est une norme technique ouverte permet aux utilisateurs de claude qui sont aussi qui ont aussi des souscriptions avec ces ces ces ces éditeurs scientifiques de pouvoir retrouver dans Claude le contenu pour lequel ils ont souscrit à côté.

Donc ça c'est le genre de partenariat qu'on fait. Hm hm. Alors peut-être plus pour Open comment vous choisissez les les médias avec lequels vous vous passez des accords commerciaux et qui donc vont alimenter vos modèles d'entraînement ?

Alors je pense qu'il est bon de rappeler c'est que nous sommes encore une jeune entreprise c'estàd que Open AI bénéficie d'une grande publicité médiatique. Donc on s'imagine souvent que nous sommes déjà un de la taille d'un géant numérique. Je pense que c'est bon de rappeler qu'en terme de de proportion nous sommes plus proches par exemple d'un mistral en terme de taille d'effectif et de revenus que des géants du numérique bien établis.

Donc nous avons des équipes qui sont encore limitées, qui limitent du coup notre capacité d'aller nouer des partenariats avec une grande diversité d'acteurs. Cela étant dit, donc on a euh un accord avec le monde comme je le disais en France, on nous sommes en discussion avec d'autres acteurs dans le domaine de la presse. C'estàd que nous étudions de manière constante quels sont les types d'acteurs qui sont intéressés par ce genre de partenariat.

Comme je mentionnais, les partenariats sont aussi en couvre aussi en fait ce qui est du ressort de l'utilisation et de la formation à l'utilisation de ces outils pour le bénéfice des journalistes, des rédactions, des équipes de rédaction, des éditeurs et cetera. Et donc c'est sur une base assez ouverte que la discussion se fait et que selon les les les appétences de chacun, quand il y a une une valeur mutuelle qui est trouvée, qui a un accord qui est conclu. Et ce que nous visons à faire, c'est vraiment d'avoir une diversité, une couverture géographique, une diversité dans les langues aussi.

Et euh progressivement, à mesure que nous grandissons, nous espérons avoir l'opportunité d'élargir le le la couverture. Alors, que vous ayez partenariat ou pas partenariat, de toute façon, vous allez chercher les données. En matière d'information, la plupart des enfin tous les médias ont des lignes éditoriales plus ou moins marquées notamment sur leur engagement politique, mais forcément, il y a derrière une ligne éditoriale.

Comment vous qualifieriez-vous le rendu que vous donnez ? Est-ce qu'il est impartial ? Est-ce qu'il est neutre ?

Et et si oui, comment vous assurez ce cheminement entre des médias qui ont par définition une ligne éditoriale et et le le l'information que vous refournissez à vos utilisateurs ? Oui, c'est c'est effectivement une question extrêmement pertinente. Ça rejoint un petit peu la question des biais dont je parlais dans mon propos préliminaire, c'est-à-dire comment est-ce qu'on on évite qu'une IA soit biaisée et ça peut être avec un un biais éditorial.

Alors, le modèle de Gemini, le modèle de Google doit utiliser un langage qui doit être factuel, direct et dénué d'opinions implicites. C'est-à-dire que ça fait partie de l'approche de Google et des évaluations qui sont faites où en fait il va vous répondre avec des faits et sans mettre en avant une opinion. En fait, peu importe, j'ai envie de dire, les lignes éditoriales diverses et variées, le modèle est configuré pour avoir un ton qui est neutre et une neutralité sur les sur les différents sujets.

On est obligé lors de la phase d'entraînement de l'entraîner avec des milliards et des milliards de modèles pour justement qu'il soit capable de comprendre ce que c'est qu'une neutralité et comprendre ce que c'est que la pluralité et pour qu'il soit comprendre, qu'il soit capable de comprendre justement d'éviter les biaiss. Mais en tout cas, le modèle a été pensé et filtré pour rester totalement neutre. Voilà.

Et peut-être pour ajouter sur ce propos, en effet, il y a deux phases en fait essentielles. Il y a la phase d'entraînement du modèle où comme le rappel mon voisin, cette phase d'entraînement, il y a différents superviseurs qui vont donner beaucoup d'exemples et qui vont porter une attention spécifique à cette question de l'objectivité du contenu ou plus précisément de la pluralité des des opinions qui sont exprimées. Euh, il y a des cas assez différents en fait.

Ça dépend aussi de la requête de l'utilisateur. C'est qu'une requête qui est du type quand sont les les quelle est la date de la prochaine quelle est la date de la des prochaines élections présidentielles ? Euh il y a il y a il y a pas beaucoup de diversité d'opinion.

Il peut y avoir des incertitudes exactement tant que les les autorités n'ont pas fixé la date mais il y a pas une grande diversité. Par contre si on va sur des débats beaucoup plus complexes, beaucoup plus nuancés, là il peut y avoir de la diversité. Et dans ces cas-là, le modèle est entraîné pour avoir un comportement qui reflète cette diversité et cette pluralité de points de vue.

La manière dont on a procédé nous, c'est d'avoir un document qu'on appelle le modèle spec qui est accessible en ligne à tout un chacun qu'on a publié en 2024, qu'on a enrichi avec des approches qu'on appelle le collective alignment qui est en fait la prise en compte du point de vue de plus de 1000 personnes, 1000 experts de différents domaines qui ont été pris en compte pour affiner ce modèle spec. Et en fait, le modèle spec c'est quoi ? C'est tout simplement comme un code de conduite pour le modèle di.

Et quand le modèle doit répondre à une requête, il va respecter ce code de conduite. Et dans ce code de conduite, vous avez des instructions explicites qui est quand le sujet n'est pas clair, vous devez, tu dois modèle donner la pluralité des opinions, les sourcer quand cela est possible, indiquer le lien vers la source. Et encore une fois, ce qui est assez important et que mon voisin rappelait aussi, c'est que l'outil d'intelligence artificielle aujourd'hui, il est complémentaire des autres sources d'information et il redirige vers ces sources d'information.

Et c'est là une des grandes innovations et une des raisons pour lesquelles nous avons tant investi dans cette capacité d'aller chercher des sources sur internet et de les sourcer et de les diriger pour permettre justement d'apporter cette diversité de points de vue et d'inciter l'utilisateur à aller enrichir et explorer ces différents points de vue via ces sources annexes. Quelques éléments euh par rapport à votre à votre question. Euh tout d'abord, lorsque Claude s'appuie sur des informations de l'actualité, il effectue des recherches générales sur internet et fournit des citations ainsi que des liens vers les sources originales afin que chacun puisse vérifier d'où vient l'information.

L'utilisateur peut donc voir d'où provient chaque affirmation. La sélection des sources, ça qui est clé, est guidé par leur pertinence par rapport à la question qui est posée et non pas par une quelconque relation commerciale. Nous ne limitons donc pas Claude à une liste préétablie d'éditaires partenaires et nous n'orientons pas les utilisateurs vers tel ou tel média sur une base commerciale.

Deux autres éléments qui qui qui sont que je voudrais ajouter. Le premier qui est assez similaire à mon confrère euh c'est qu'en fait dès que nous publi un nouveau modèle, nous mesurons l'équité, on appelle l'équité politique de ce modèle. Euh et nous rendons compte de ce travail dans le ce qu'on appelle les systèmes cards, les fiches systèmes de chaque modèle qui sont pardon qui sont publics sur notre site internet.

Donc chacun peut peut observer cela. Euh et comme pour nos modèles précédents, nous avons évolué notre modèle le plus récent, Cludopus 4.8 qui est sorti la semaine dernière.

à l'aide du bias benchmark for question answering qui fait référence dans ce domaine-là. Euh le dernier élément que je voulais rajouter, c'est que je vous ai parlé en introduction de la constitution cloud constitutional qui est vraiment la constitution sur lequelle qui est fondamentale à la façon dont les modèles cloud sont entraînés. Et ce texte qui énonce les valeurs et le comportement que Tre doit viser vise explicitement l'objectif. que Claude soit, je cite, un agent éthique globalement raisonnable et concrètement compétent d'une manière que de nombreuses personnes issues de traditions éthiques diverses reconnaîtraient comme nuancé, sensé, ouverte d'esprit et culturellement avisé.

Vous avez utilisé les termes de de pluralisme et d'équité politique. C'est c'est des termes que même des médias traditionnels et anciens enfin qui sont qui donnent lieu à des des débats et parfois des contestations même pour des médias traditionnels et et anciens. Concrètement dans dans une période électorale, comment vous assurez cette ce pluralisme ou cette équité politique ? et et et parallèlement à ça, enfin à cette question, qu'est-ce que vous affichez justement comme garantie pour assurer le pluralisme et l'équité politique ?

Un utilisateur qui utilise vos vos outils, quelle quelle information ils ont sur justement la façon dont vous assurez ce pluralisme et cette équité ? avoir une démarche responsable en temps électoral, c'est bien entendu une priorité et on est conscient de la responsabilité qui qui peut être liée à l'utilisation de ces outils. Donc il y a plusieurs euh jalons en fait, plusieurs méthodes de travail.

Euh une première méthode de travail sur les biais politiques par exemple, c'est nous avons produit euh un set d'évaluation qui permet en fait de refléter les différentes la palette d'opinion politique et nous testons systématiquement nos modèles sur cette set cette d'évaluation pour le perfectionner. Et en fait, c'est un peu c'est c'est une méthode assez classique dans le machine learning et l'intelligence artificielle de manière générale, c'est qu'on construit un set d'évaluation et ça permet ensuite en entraînant le modèle sur ce set d'évaluation de s'assurer qu'on tend vers l'impartialité, vers l'objectif de de ce modèle là. C'est le cas dans le domaine euh de de des billets politiques, mais aussi un un également un sujet que vous aviez mentionné dans votre propos introductif, qu'on a' pas encore couvert, celui des hallucination.

Ben voilà, on a bâti dès cette dévaluation là-dessus et on voit au cours du au fil du temps en fait avec le progrès des modèles, une capacité de ces modèles d'avoir une une un un comportement qui est de plus en plus impartial et qui est de plus en plus respectueux de cette diversité. Une raison principale, petit insiste technique à cela, c'est que il y a 2 ans maintenant, il y a eu une grande avancée technologique qui a été les modèles de raisonnement. Qu'avant, on avait des modèles où vous aviez un set d'instruction, un prompt et le modèle immédiatement répondait.

Euh je sais pas si vous êtes familier avec ce concept de de de du célèbre économiste prix Nobel Daniel Kenman système 1 système 2 dans notre cerveau. Nous aussi on peut parfois être incité à immédiatement répondre à la question et après on peut prendre le temps de la réflexion et en général quand on prend le temps de la réflexion la réponse est meilleure. On a fait du coup la même chose avec les modèles DI, donc c'est ces fameux modèles de raisonnement et on s'est aperçu que les modèles qui s'appuyaient sur ces capacités de raisonnement avait des bien meilleures performances sur tous ces enjeux de factualité, de réduction des hallucinations de biais politique.

Et une raison en fait à cela, c'est que je parlais tout à l'heure du modèle SPC qui est ce code de conduite pour le modèle qui est en fait lié à un thème dont votre une de de une sénateur une sénateur est actuellement en train de travailler sur cette mission l'alignement de l'IA. Le modèle spec et ses lignes de conduite permettent en fait d'aligner les modèles et le fait de raisonner pour le modèle permet d'avoir ce qu'on appelle le deliberative alignement. Ça veut dire un alignement délibératif.

C'est qu'il peut prendre ce code de conduite, ses instructions. Par exemple l'instruction, il faut que tu reflètes la diversité et la pluralité des opinions. Et avant de produire sa réponse, il va du coup mouliner mouliner pour s'assurer qu'il respecte bien cet objectif.

Donc ça c'est un premier un premier axe qui a permis de renforcer la qualité des modèles dans leur diversité, leur pluralité. Ensuite, il y a un deuxième axe qui est essentiel, c'est celui de combattre potentiellement les fausses informations, la désinformation dans le contexte électoral. Et cela, il y a il y a plusieurs axes de travail. un dont on a déjà bien parlé, c'est celui de la transparence, la traçabilité du contenu.

Euh pouvoir marquer les contenus tels que des hypertrucages qui pourraient être utilisés dans des campagnes de désinformation, que ce soi des hypertrucages visuels, audiovisuels. Euh donc ça c'est un point essentiel. Un deuxième point, c'est de s'assurer qu'on puisse surveiller l'utilisation de nos modèles et empêcher l'utilisation par des acteurs malveillants dans des opérations d'influence.

Mon confrère parlait de de rapports qui sont publiés. Nous aussi, nous avons des équipes qui documentons les mésusages qui peuvent être faits de ces modèles et nous les partageons avec les autorités compétentes pour qu'elles puissent apprendre et qu'elle puisse comprendre le paysage informationnel actuel et comment l'utilisation de LIA est inscrite dans ces dans ces dans ces domaines là, y compris dans le contexte électoral. Et le dernier point, c'est d'avoir une information fiable encore une fois qui peut être faite de plusieurs manières.

Premièrement, l'information, il n'y a pas que l'information de presse. Il y a des sources officielles qui font foi. Si vous prenez les questions électorales, quelle c'est la date du scrutin, quels sont les lieux d'enregistrement du bureau de vote, vous avez des sources officielles et c'est amener ces sources officielles à être la source de vérité et la source qui arrive en premier dans la réponse à la requête qui est un élément essentiel pour assurer que justement en période électorale, on ait une bonne information des utilisateurs qui se tournent vers ces outils.

On s'inscrit un peu Google dans la même lignée. Je rappelais dans mon propos introductif que une des missions de de Google, c'est de fournir une information fiable et digne de confiance. C'est particulièrement vrai pour certains sujets très sensibles et notamment les élections, la période électorale.

Euh il y a des des sujets, des questions euh aussi le risque de désinformation peut avoir des conséquences extrêmement importantes. Si par exemple vous recherchez les horaires de votre bureau de vote et que l'information qui est donnée est erronée, ça peut amener à de l'abstention politique. Donc sur ces sujets là, historiquement chez Google, on a eu toujours des partenariats institutionnels officiels en cas d'élection et par exemple pour les élections européennes de 2024, on avait un partenariat avec le Parlement européen sur tous ces sujets, les bureaux de vote et sur les informations liées à ça.

Les réponses de l'IA vont impliquer une exigence d'autorité considérablement plus stricte pour les sujets politiques et les sujets liés aux élections. Il y a encore plus cette garantie de neutralité que j'expliquais, c'est-à-dire que le modèle est calibré pour fournir des réponses objectives, neutres et corroboré par des sources. C'est-à-dire c'est tel parti, ça c'est la ligne de tel parti politique, ça c'est la ligne de tel autre parti politique.

Et dès lors que la question va être trop sensible, le modèle va être calibré ou pour ne pas se déclencher ou pour rappeler qu'elle n'est pas en mesure de répondre à ça et de prendre position et parfois même renvoyer et dire il faut faire une recherche sur tel sujet, je ne peux pas aider, je suis unien mais c'est-à-dire qu'il va y avoir les filtres de sécurité qui vont s'appliquer dès lors que la recherche porte sur des sujets politiques sensibles. Je vais éviter de répéter nombre choses qu'on qu'on dit les mêmes réponses. Mes confrères, je vais juste rajouter deux éléments.

Euh le premier c'est que euh nous veillons à ce que Claude s'abstienne de donner aux utilisateurs des opinions politiques non sollicitées, qu'il privilégie une information équilibrée sur les questions politiques et qui maintiennent l'exactitude factuelle et l'exhaustivité lorsqu'il est interrogé sur un sujet politique. Alors, tout ça est mesuré par une série de tests et d'évaluations avec un certain nombre de critères que nous avons d'ailleurs publié en open source de façon à pouvoir faire avancer le débat. Le deuxième élément, c'est et votre question parfois peut aussi être liée à que se passe-t-il lors d'événements récent actuels, comment les gens s'enseignent.

Donc en cas d'événement récent qui suscite de nombreuses informations, euh nous entraînons Claude à reconnaître l'incertitude. C'est c'est clé dans la façon dont Claude va répondre à certains événements récents ou pas d'ailleurs hein, mais et à ne pas affirmer les choses avec plus d'assurance que ce qui est vraiment justifié. On met beaucoup d'efforts là-dessus euh parce que face à un événement constaté, il doit pouvoir distinguer ce qui est établi de ce qui relève encore de la spéculation ou du débat.

Et ça c'est un élément qui est très important et que et sur lequel on investit beaucoup. H alors vous vous avez parlé tout à l'heure des des hallucinations. Moi je l'avais évoqué puis vous venez de d'en reparler.

Où est-ce que vous en êtes dans dans dans l'évaluation quantitative de cette hallucinations ? Et quel est le quelle est la tendance sur lequelle vous êtes ? Alors très rapidement, c'est un point d'attention, c'est un point de vigilance.

Comme je le mentionnais, on on est soucieux de l'amélioration de la qualité, la fiabilité de nos outils. Euh et nos efforts, ils sont documentés pour chacun des modèles que nous produisons dans une carte système système card en anglais qui est publiquement accessible, que vous pouvez donc consulter et qui contient toute la batterie de test que nous effectuons sur ces modèles, y compris dans ce domaine de la fiabilité. Euh au fil du temps, on a du coup amélioré les sept d'évaluation que nous construisons.

Euh soit que nous construisons en propre soit des sets d'évaluation qui sont construits par l'écosystème ou par la communauté académique. Euh la tendance générale est à l'amélioration pour les raisons que je mentionnais notamment, c'est-à-dire que deux raisons principales hein. Premièrement, la capacité pour le modèle d'aller chercher ses sources, d'aller consulter des sources en ligne, d'aller chercher de l'information et capacité pour le modèle aussi de réfléchir. regard cette faculté délibérative pour aller affiner ses propres résultats.

Euh donc j'ai pas les chiffres exact en tête mais ils sont publics dans ces fameuses cartes systèmes qui sont publiées sur les différents modèles. Et si vous regardez la tendance entre les modèles du des débuts disons de chat GPT GPT 3.5 5 GPT4 et les modèles que nous avons aujourd'hui, il y a une amélioration très nette et significative et on continue de poursuivre cette tendance pour tendre vers une fiabilité euh maximale.

Je je vais pas répéter, c'est exactement la même chose pour nous. On a les cartes systèmes de la même manière avec une transparence voilà sur les sur ces sujets-là et en fait on est membre des mêmes alliances je pense donc sur la sur le justement ces exigences de transparence et c'est la même réponse que donc c'est aussi les cartes système pour entropique. On a aussi des cartes systèmes qui sont publiques effectivement mais peut-être juste pour ajouter parce que il y a plusieurs niveaux d'hallucination et et c'est très lié à la à ma réponse à la question d'avant, c'est que nous entraînons Claude à être honnête.

Ça veut dire quoi ? Il donne des réponses exactes lorsqu'il est sûr de connaître la bonne réponse et à s'abstenir de répondre lorsqu'il ne l'est pas. [grognement] Donc l'idée c'est pas qu'il commence à inventer des sources, des faits et cetera.

Nous mesurons deux types d'allucination. Il y a des hallucinations factuelles, par exemple une date erronée ou une situation inventée. [grognement] Il y a les hallucinations situationnelles qui concerne le comportement du modèle dans une situation donnée.

Par exemple, répondre à une une pièce jointe qui n'a jamais existé dans la demande. Et vous vous demandiez si les choses évoluent. Donc sur les les derniers modèles qu'on vient de sortir la semaine dernière O+ 4.8 sur les hallucinations factuelles.

Euh opus 4.8 présente un taux de réponse incorrecte inférieur à celui des modèles précédents la progression et c'est également le cas sur les hallucinations situationnelles avec donc le dernier modèle qui a des qui a une occurrence inférieure au modèle d'avant. Donc on voit et effectivement on investit pour que ça progresse dans la bonne direction.

Est-ce que sur sur les questions d'information toujours, est-ce qu'il y a des adaptations qui peuvent être différentes selon les zones géographique ? Si j'interroge chacun de de vos outils sur je sais pas, je prendre le conflit israélo-palestinien, est-ce que j'ai exactement la même réponse selon que je me situe d'un côté ou de l'autre ? Alors, les modèles, ils sont adaptés au contexte géographique, culturel, mais plus via les sources en fait.

C'estàd que ce qui se passe, c'est que si vous interrogez un modèle ici en Europe, ce sont plutôt des sources européennes médiatiques sur les contenus d'actualité qui vont être utilisés. Si vous interrogez le modèle en Asie, ce sera des sources asiatiques. Donc tout dépend en fait de comment ces sources là représentent le conflit.

Donc ça va être tout simplement à ce niveau-là, est-ce qu'il y a un traitement impartial ? Est-ce qu'il y a des modulations, des sensibilités différentes entre les différentes géographies qui vont être du coup reflété dans dans le modèle ? C'est c'est vous faites la distinction par rapport à la à la langue ou la localisation.

C'est un bon point. Il faudrait je je peux revenir vers vous sur ce point. Je sais pas si c'est par rapport à la langue ou à la localisation.

Un peu pareil côté côté Google, au moment de la collecte de données, on a un une cocréation avec la communauté les communautés locales et on a une initiative qui s'appelle Amplify et en fait on va recueillir des données communautaires et avec les spécialités culturelles pour justement permettre que ce soit reflété dans le dans le système. Et on a également un autre projet qui s'appelle le projet Catlas qui évalue en fait dans quelle mesure le modèle est capable de comprendre, de respecter et d'interagir avec les spécificités locales et culturelles. Donc ça va plus être là justement sur s'adapter aux langues, s'adapter aux habitudes et notamment aux source comme le disait mon voisin.

Voilà. Donc de manière assez similaire, nous ne dévelopons pas de version distincte de claude selon les régions les pays. Euh il s'agit pour l'essentiel d'un modèle mondial unique proposé à tous sur la même base.

Par contre, plutôt que d'adapter le modèle région par région, euh je vais parler de notre IA constitutionnel. dans la constitution de Claude, nous lui indiquons que nous souhaitons qu'il soit culturellement avisé. Je mets entre guillemets culturellement avisé, c'est-à-dire sensible aux différents contextes culturels plutôt que prisonnier d'une vision d'une monde unique.

Et en ce sens, il va être sensible dans ses réponses au contexte culturel euh de là où la question est posée. Pareil, c'est par rapport à la langue ou la localisation ? la langue va il va répondre à la langue qui est effectivement la langue qui est posée.

Non, mais la l'appréciation culturelle auquelle vous faites référence. Euh écoutez, je je vais je reviendrai pareil je reviendrai avec vous là-dessus sur sur les les tentatives de désinformation et d'ingérence auquel vous avez fait référence. D'abord, est-ce que vous en avez constaté dire depuis l'origine de vos modèles, même s'ils sont assez récents, mais ces derniers mois, est-ce que vous avez constaté des des tentatives de des informations j'allais dire massives ?

Alors, massive non. En revanche, nous documentons ce que nos équipes qui sont en charge de lutter contre les tentatives de manipulation, mais également qui luttent contre la fraude et cetera font sur nos plateformes. Donc ces équipes, elles publient des rapports réguliers qui sont mis à disposition du coup des des des autorités et du grand public pour comprendre quelle est l'utilisation malveillante qui peut être fait de ces outils.

C'estàd que malgré tous les filtres de sécurité que nous mettons en place, il peut y avoir des acteurs qui trouvent des manières très créatives de contourner ses gardes fous, d'utiliser ces outils pour des opérations de fraude ou des opérations de de désinformation. Et c'est justement en partageant cette information à l'échelle de l'écosystème, y compris avec les autorités, qu'on peut être plus au fait et qu'on peut mieux lutter contre ces opérations dans le futur. Euh donc encore une fois, ces rapports, ils sont publics, donc on peut les consulter.

J'ai pas consulté moi-même le le dernier rapport récemment, mais euh mais c'est quelque chose que nous faisons pour informer l'ensemble de l'écosystème. On a également des équipes spécialisées sur le sujet chez Google qui s'appelle le groupe d'analyse des menaces et euh qui qui audite et qui documente les modes opératoires justement des attaquants pour les ingérences étrangères. Et il publie des bulletins d'information.

Je crois que c'est trimestriel, mais je veux pas dire de bêtises, c'est peut-être mensuel, je crois que c'est trimestriel euh pour justement avertir le public de ce qui a été constaté et des modes opératoire. Et on a on a ces équipes travaillent de concert avec Viginum en France justement pour partager un petit peu les informations. On essaie de les de les faire se rencontrer puisque ils font plus ou moins en fait le même le même travail et c'est comme ça que voilà chez Google alors c'est sur tous nos services chez Google c'est pas que sur sur L on on on peut détecter les modes opératoires informationnels.

Voilà. Pardon, je juste pour compléter la la question, vous vous faites référence à des ingérences extérieures. Vous précisez que vous êtes en contact avec UINUM.

Je pense que c'est la même chose pour euh vos vos collègues enfin vos concurrents, mais néanmoins collègues. Ça c'est quand vous détectez que l'ingérance est d'origine extérieure. Quand vous ne vous ne faites pas un lien entre la désinformation et l'origine de de l'ingérence, qui qu'est-ce que vous prévenez en France ?

Est-ce que vous prévenez quelqu'un déjà face à en fait vous établissez pas l'origine par rapport à un pays ou je pense qu'en fait on parle de comportement suspect c'est plutôt comme ça. C'est les équipes savent pas forcément d'où ça vient, si c'est si c'est taque, si c'est étranger, établissez le lien. Non, mais c'est-à-dire dès lors qu'il y a un comportement suspect.

Alors, on a aussi effectivement tout un ensemble de règles pour pour supprimer ces contenus en fait. par exemple des fausses sites qui auraient été générés pour copier des sites de presse célèbres et [grognement] véhiculer de la fausse information ou des contenus malveillants qui donneraiit des informations erronées notamment en période électorale. Bon, on a tout un ensemble de règles comme ça.

Nous, ce qu'on va ce qu'on va constater, voilà, c'est des c'est des comportements suspects. Après ça, je pense que c'est dans une phase qui qui vient à postériorique et de savoir est-ce que d'autres l'ont constaté ? Est-ce qu'on peut relier en fait des comportements suspects entre eux ?

Mais c'est pour ça qu'en fait le travail collaboratif avec les autorités et même avec les avec d'autres acteurs est essentiel. Même réponse. Oui.

Oui, même réponse. Je pense que le point essentiel c'est que quand nos équipes repèrent un comportement suspect, parfois elles sont capables d'avoir une attribution entre ou ou forte degré de suspicion. Et c'est le type d'information qu'on partage aussi dans nos rapports et dans les interactions qu'on a avec les autorités pour dire voilà, on sait avec une forte certitude que cette opération vient d'un acteur étatique et telle zone parce que on a des faisceaux d'indice en matière de traçabilité, cybersécurité et cetera où on a repéré ce comportement suspect, on on vous le partage notamment parce que la méthode euh de manipulation de l'information est particulièrement ingénieuse ou sophistiquée ou quelque chose que nous n'avions pas vu avant et du coup ça invite à aller rechercher et en effet avec le partage ensuite entre je pense les les différentes équipes qui qui se parlent entre elles et avec les autorité ou parfois juste le partage sous l'égorité permet d'aller véritablement avoir une une identification plus fine du paysage informationnel et des menaces qui y pèsent et des réponses à y apporter.

Comment vous traitez les informations contradictoires sur des sujets d'actualité ? Ce qui est souvent le cas, quand une information n'est pas encore vérifiée, vous pouvez avoir des des flux d'information qui présentent deux réalités différentes. Quel quelle est la position de de quelle est l'attitude de vos modèles dans ces cas-là ?

Est-ce que c'est de rien dire tant qu'il y a pas une uniformité des points de vues ou est-ce que au contraire c'est de sortir une information ? Non, le dans le modèle SPC que je mentionnais qui est le code de conduite pour ce modèle, il y a une instruction qui est de refléter l'incertitude et de refléter la diversité des points de vue. Après ce qui se passe, c'est que dans la sélection des sources, il y a plusieurs facteurs qui rentrent en jeu.

La fiabilité, la pertinence, l'autorité de la source et donc du coup on va offrir la diversité de points de vue. Mais s'il y a une autorité qui fait foi, je ne sais pas, mais s'il y a une une déclaration, si si s'il y a une rumeur de disons d'accord de paix dans un conflit, bah le modèle va essayer d'aller chercher des sources officielles du de la part du du corps diplomatique de ce pays-là pour voir s'il y a des choses et c si rumeurs, il va donner les sources. Et encore une fois, on revient sur ce point essentiel, c'est que la source est donnée pour inciter l'utilisateur à aller vérifier et avoir ce ces informations là.

C'est pareil pour vous vous deux. sur ces sujets complètement. Euh je veux pas m'étaler dessus.

J'ai j'ai pareil. Oui oui, c'est c'est très similaire. Je rajoute l'aspect honnêteté et transparence dont je parlais sur la question d'avant qui est quand Claude est quand quand c'est pas certain, on on va le on va l'entraîner de façon à ce que même sur la réponse, il fasse en sorte que ça soit clair, qu'il y a une zone d'incertitude.

Alors vous avez parlé des des informations sourcées, c'est pas toujours clair qu'est-ce qui comment vous vous enf qu'est-ce qui fait l'objet d'une information sourcée ? Qu'est-ce qui ne n'est pas sourcé ? Quel est votre la ligne de conduite de vos modèles là-dessus ?

En fait, le modèle, si on simplifie un petit peu, il y a deux grandes sources d'information ou de connaissance. Il y a une première source qui est acquise lors de la phase d'entraînement. Le modèle est entraîné sur des très grands corpus et donc il y a des des éléments des théorèmes mathématiques, l'histoire d'un pays qui sont des éléments qui sont largement sourcés que le modèle va voir beaucoup de fois dans ce corpus là et qu'il va acquérir en connaissance.

Puis ensuite le deuxième volet c'est la capacité pour le modèle d'aller chercher de l'information en dehors des connaissances qu'il a acquises pendant la phase d'entraînement. Ça peut être sur internet, ça peut être dans des bases documentaires que l'utilisateur va connecter, soit une base documentaire d'entreprise, soit l'utilisateur qui va lui-même associer un document connecté à sa boîte mail ou autre. Et donc du coup, le modèle va selon la requête de l'utilisateur, donc c'est vraiment la requête de l'utilisateur qui va guider, à piocher dans l'un ou l'autre. que si la requête est, explique-moi le théorème de Pythagore, le modèle l'aura vu beaucoup de fois dans sa phase d'entraînement, aura acquis la connaissance parce que c'est un apprentissage par corrélation statistique à travers toutes ces données, aura appris le fonctionnement, a appris la la connaissance mathématique de de cet objet et va pouvoir vous expliquer ce théorème d'Algèbre.

En revanche, si vous lui demandez quel est euh l'état de la situation en Iran aujourd'hui, bah il va être entraîné à dire "Bah l'utilisateur clairement demande une information actuelle. Aujourd'hui, j'ai été entraîné il y a 6 mois, 1 an, 2 ans, je peux pas. Donc je vais aller chercher sur internet.

J'ai pas la réponse dans ma base de connaissance donc je vais aller chercher sur internet." Donc il y a vraiment ces ces ces deux où dans le le fond documentaire auquel j'ai accès, la boîte mail auquelle j'ai accès selon le la chose, ça peut être un utilisateur qui demande que que m'a demandé. Ça me dit quelque chose là, le projet dont on parle, euh je crois qu'un un client, un collègue m'en a parlé et il va aller chercher dans la base documentaire.

Donc en fait, c'est cette capacité de raisonnement aussi de contextualiser la requête de l'utilisateur qui va lui permettre d'aller chercher à travers parfois à travers différentes sources s'il a l'information ou pas et de la documenter quand il le peut. Et c'est vraiment là en effet, on en revient une fois à cette capacité de sourcer. Sourcer l'information, c'est essentiel parce que ça permet aussi dans le cadre d'une base documentaire, on croule tous aujourd'hui sous le nombre d'email, le nombre de de sources et avoir l'agent conversationnel, l'agent di qui va permettre de sourcer directement, ça permet d'avoir une traçabilité de l'information beaucoup plus forte et du coup d'avoir une utilité pour l'utilisateur qui est plus grande.

Chez chez Google, le système de source fonctionne également avec un avec un dans l'algorithme, c'estàd qu'il y a des critères d'évaluation qui vont être pris en compte pour savoir qu'est-ce qui est une source sociable et qu'est-ce qui est moins. Et parmi ces critères, il y aura notamment l'expérience, l'expertise, l'autorité. C'est pas la même chose si vous travaillez sur un sujet depuis 20 ans que si vous êtes euh vous vous publiez du contenu de de manière très récente.

Et c'est avec ce faisceau d'indice qu'on va considérer que des contenus vont avoir plus d'autorité qu'un autre. Et je je rejoins ce que ce que disait mon voisin. En fait, permettre et que l'IA puisse permettre d'aller corroborer avec les sources.

Nous, c'est ce qu'on fait dans les versions du moteur de recherche qui sont lancé dans les autres pays. C'est-à-dire que vous allez parler à Lien et Lia va va vous donner un résumé, va vous expliquer en tout cas va générer du contenu et ensuite si vous voulez aller plus loin et aller cliquer sur les sources, vous pouvez le faire. Il y a aussi un autre, on a fait l'annonce cette semaine, je crois il y a de jours, je vais pas dire de bêtises, mais dans ces pays-là, l'utilisateur peut maintenant choisir les sources qu'il veut voir en priorité. c'est qu'on laisse le choix à l'utilisateur.

C'est déjà le cas sur le moteur de recherche de Google en France. Vous pouvez dire "Moi par exemple, j'ai un abonnement au monde, je sais pas ou au Figaro ou un autre journal. Je veux voir en priorité ces contenus là lorsque je fais une recherche, vous pouvez le faire.

Je pense que c'est vers ça qu'on se dirige, c'est de pouvoir mêler les deux. Ce qu'on expliquait, c'est complémentaire. LIA va être complémentaire en fait du trafic sur les sites web et c'est comme ça qu'on arrivera un petit peu à rendre des informations fiables.

Euh estimez-vous que les fournisseurs des modèles DI que vous représentez sont des éditeurs dans la mesure où il il créent de nouveaux contenus ? La manière dont fonctionne un modèle d'intelligence artielle aujourd'hui, c'est qu'il répond à des instructions d'utilisateur. C'est qu'il y a pas de contenu qui est produit et diffusé à manière égale à plusieurs centaines, plusieurs milliers, plusieurs millions d'utilisateurs.

Il y a une relation vraiment très unilatérale dans dans le modèle. Une fois que vous avez instruit le modèle pour qu'il génère un contenu, vous pouvez partager ce contenu ensuite à quelqu'un d'autre, mais il y a pas cette notion de diffusion à une audience donnée. Et le point qui est vraiment essentiel, c'est que ce que fait par exemple l'openéa, c'est instruire ces modèles à répondre aux instructions de l'utilisateur.

Et c'est vraiment l'instruction que l'utilisateur donne qui est l'élément premier du contenu. Et un point qui est assez essentiel de comprendre aussi avec quand je parlais de l'amélioration de la qualité de la capacité des modèles, quand Chat GPT est sorti il y a il y a il y a bientôt 4 ans, le modèle avait ce qu'on appelle une fenêtre de contexte la capacité de traiter de l'information [raclement de gorge] au moment de l'instruction était très limité. On parlait de quelques paragraphes tout au plus.

Aujourd'hui, un utilisateur peut donner comme instruction des pages et des pages et des pages. J'ai perdu le compte aujourd'hui sur combien de de tokens, mais il me semble de me souvenir de mémoire que nous sommes à une fenêtre de contexte qui est de plusieurs millions de tokens, donc qui représente plusieurs volumes de livres, plusieurs volumes encyclopédiques. Donc l'utilisateur peut vraiment aller dans son set d'instruction, fournir beaucoup de choses que le modèle derrière va traiter.

Vous me convainquez pas tout à fait parce que si je pose exactement la même instruction à chacun de vos trois modèles, est-ce que je vais avoir la même réponse ? Je ne pense pas. Et je pense que si vous posez la même question au modèle plusieurs fois, vous allez avoir des réponses différentes.

Et de la même manière que si vous me posez la question plusieurs fois, je pense qu'il y aura plus je ne répondrai pas toujours de la même manière. Mais le fait que si je pose la même question à chacun de vos modèles et que je n'ai pas la même réponse, ça prouve bien que il y a un travail différent qui est fait sur l'information, ce qui est assez logique par chacun de vos modèles d'entraînement parce que les informations d'entraînement sont pas forcément les mêmes. Les algorithmes, c'estàd les chercheurs dans nos différentes entreprises qui travaillent sur ces algorithmes ne sont pas les mêmes.

Donc les méthodes technologiques ne sont pas forcément les mêmes. De la même manière qu'un software, un logiciel n'est pas le même d'une entreprise à l'autre. Je suis d'accord avec vous.

Ce qui ce qui fait que par rapport à la question sur est-ce que vous êtes euh est-ce que vous êtes éditeur ou pas, quand vous me dites c'est en fait c'est l'instruction, c'est l'utilisateur qui définit la ligne éditoriale, pas tout à fait puisque on voit bien qu'en vous posant la même question à chacun de vos modèles, on n pas la même réponse. Il y a bien la façon dont a été entraîné vos modèles, vos algorithmes euh mis en place qui a il y a il y a une une production différente selon les modèles. Est-ce qu'en cela c'est pas une ligne éditoriale ?

Je ne pense pas qu'on puisse qualifier ça d'une ligne éditoriale justement au regard des principes qu'on a évoqué. Si je parle pour Open donc dans le modèle SPC, ce code de conduite, vous avez très précisément l'objectif de ne pas avoir de ligne éditoriale et de refléter la pluralité des points de vue. Google est et est en tropique sur cette question éditeur ou pas éditeur.

En fait, je pense qu'on en revient. Qu'est-ce qu'un agent a ? Est-ce qu'un agent euh c'est un site de presse ?

Est-ce qu'un agent IA c'est une plateforme de partage de contenu ? puisque [grognement] en tout cas on sait qu'un agent on sait ce que n'est pas un agent. un agent ça ne met pas à disposition du public du contenu, c'est-à-dire qu'il y a pas de communication publique du contenu.

C'est une c'est conversationnel et c'est entre l'utilisateur. C'est plus un outil et c'est dans ce sens-là qu'on peut difficilement considérer qu'il s'agit d'un éditeur. Après, évidemment, on parle de choix dans le contenu qui va être généré, mais ça c'est purement algorithmique du fait de la conception de de l'algorithme.

Et donc on peut compliquer de parler de choix éditorial. C'est comme ça que que qu'on appréhende ça trop de de mon côté, il s'agit d'une question de droit. Donc je souhaite rester prudent mais je ne pense pas que nous considér nous considérons que les fournisseurs d'intelligence artificielle soient des éditeurs.

Euh c'est néanmoins un sujet sur lequel on aimerait beaucoup échanger plus en avant. H euh après peut-être suite à suite à cette cette entrevue, c'est un sujet sur lequel on réfléchit parce qu'on voit bien qu'entre les réseaux sociaux, l'éditeur traditionnel tel que par la presse ou et vous, il y a effectivement des des différences qui mériteraient d'être précisé juridiquement. sur votre responsabilité notamment par rapport aux fausses informations, il y a pas de modèle parfait et personne vous reprochera de ne pas être parfait, enfin que vos modèles ne soient pas parfaits.

Est-ce que votre responsabilité peut être engagée pénalement si bah justement il y a une imperfection dans le modèle qui fait que des des fausses informations sont renvoyées par vos par vos vos moteurs d'intelligence artificielle ? Alors, je ne suis pas moi-même expert juridique, donc je me refuserai une analyse juridique de la situation. Ce que je peux expliquer en revanche, c'est que dans l'effort constant d'améliorer la fiabilité, la qualité et la sécurité de nos modèles, euh encore une fois ce qui est documenté dans les cartes systèmes qu'on qu'on mentionne, la performance des différents gardes de fou, garde-de fou qui opère à différents niveaux au moment de l'entraînement du modèle, au niveau du système dans l'analyse des requêtes de l'utilisateur, au moment de la production du résultat de l'agent conversationnel, les performances s'améliorent.

Donc on évalue la capacité du modèle à ne pas restituer de fausses informations ou de contenus qui sont soit illicite ou autre. Et on voit véritablement un progrès significatif pour les raisons que j'ai déjà mentionné précédemment, la capacité de raisonnement du modèle. Et donc on a véritablement aujourd'hui des modèles qui sont de plus en plus sûrs et donc les situations que vous mentionnez se produisent de moins en moins dans ces dans cet outil.

Alors, il y a il y a un cas quand même qui a été connu euh l'année dernière. Naudite a montré que les 10 principaux outils d'IA générative contribu aux objectifs de désinformation de Moscou en en répétant des fausses affirmations du réseau procrémain Pravda. Dans un/3 des cas, le laboratoire DFR LAAB et l'entreprise finlandaise Check First ont montré comment, je vais pas les citer mais les principaux outils de d'IA sont infectés par le réseau russe Portal Combat sur lequel Viginum a aussi attiré l'attention.

Comment vous avez concrètement réagi à cette contamination quand elle s'est produite l'année dernière ? Si si vous avez la réponse, je j'aimerais pas dire de bêtises et vous induire en erreur. C'est vrai que je sur ce sujet là.

Par contre, je peux interroger les équipes et on peut revenir vers vous précisément sur ce réponse. Pareil, ce cas en particulier, j'ai pas connaissance de ce cas. Euh pareil, j'ai pas suffisamment de détails pour parler de ce cas-là.

Euh en revanche, comme je disais dans mon préambule, on on constate on a constaté notamment l'exemple que je donnais dans mon préambule sur l'utilisation de Claude pour orchestrer plus d'une centaine de de faux comptes sur les réseaux sociaux et avec des agents derrière. Ça c'est des choses qu'on a pu constater, qu'on a résolu, qu'on a partagé avec nos nos pères et autres de façon à s'assurer qu'on puisse tous avancer à à à à à rendre ce système encore plus fiable. D'accord.

Est-ce que vous autorisez des chercheurs indépendants à accéder à vos bases de données ? Alors dans le travail sur sur la partie actualité, hein, je je parle pas en général mais sur la partie actualité, alors dans le travail qui est le nôtre pour renforcer euh du coup la transparence sur la manière dont on établit les protocoles de sécurité, de fiabilité de nos modèles, on travaille avec tout un panel d'experts externes, des red teamers, on pardonnerait l'anxicisme, ce sont des équipes du coup qui que nous sourçons à travers le monde entier pour assurer la diversité aussi et réduire les biais qui viennent tester les gardes fou dans différents domaines de nos modèles. Donc ça c'est un premier point.

On travaille aussi avec des acteurs gouvernementaux, notamment les instituts de sécurité, l'Institut de sécurité britannique, le centre pour la standardisation et l'innovation en matière d'IA aux États-Unis, US KC. Euh on on on travaille avec tous ces acteurs et également avec des acteurs à but non lucratif et acteurs académiques pour tester les performances de ces modèles et les réactions de ces modèles dans tous les domaines de sécurité que nous que nous couvrons. Ouais.

C'est ma question c'était vraiment plus par donner l'accès à des chercheurs de d'aller dans vos base données. C'est pas tant tester vos bases de données, c'est c'est de comprendre comment ça l'information est traitée, quels sont les algorithmes utilisés. Alors, j'ai peut-être pas la réponse.

Quelle base de données ? Est-ce que vous pouvez préciser quelle base de données ? Je me ferai un plir de de suivre avec les équipes en interne quelle base de données exactement les bases de données des informations que vous utilisez sur je sais pas sur un sujet précis qui est quel quels sont les les sources d'information que vous vous utilisez ?

Alors peut-être juste pour préciser le le quand un modèle a besoin d'aller chercher, il fait une recherche sur internet par exemple h et il va utiliser les outils de recherche sur internet qui sont à la disposition de tout un chacun. Et c'est là aussi où en fait quand on parle d'IA antique ou de computer use agent et un agent qui va savoir utiliser l'ordinateur, il va mener une requête comme vous ou moi pouvons mener une requête sur internet de manière beaucoup plus efficace parce qu'il est capable d'analyser en parallèle plusieurs dizaines de milliers de pages mais à faire une requête comme vous moi pouvons le faire sur internet et c'est là que sur les contenus d'actualité la la source est prise sur internet la source est mise vous avez aussi des je disais ça parce que vous avez aussi des partenariats avec certains médias à un moment il y a une hiérarchisation entre ce que vous trouvez sur internet et et les partenariats. J'imagine qu'il y a une hiérarchisation dans le dans la donnée.

Non, en ce qui concerne PER, il y a pas de hiérarchisation. Euh c'est-à-dire que quand une requête est faite, l'information, elle est sourcée sur euh des critères de fiabilité, de pertinence, d'autorité de la source et le modèle est entraîné pour aller chercher la source qui répond le plus à ses critères, quel que soit le euh le contexte et le partenaire ou non qui existe sur l'ouverture à des chercheurs de vos modèles. Ouais.

Donc [grognement] deux choses, un pardon euh nous soutenons la recherche externe liée à la sécurité de l'IA. Euh de nous faisons largement appel à des tiers pour soumettre nos modèles à des tests de résistance et les évaluer. Oui.

Peut-être que j'ai pas été j'ai entendu une confusion en parlant de base de données, mais euh pour être plus précis dans ma question, euh tout vous avez utilisé le terme pertinence, on comprend bien dans une information quelle est celle qui est pertinence mais la notion de pertinence il y a une forme de subjectivité. C'est en cela vous disait est-ce que vous autoriseriez des des chercheurs à comprendre comment vous appréhendez cette question de la pertinence comme celle du pluralisme de la neutralité ? J'ai pas la réponse sur comment le critère de de pertinence est défini.

On peut se renseigner et suivre. Mais ma question j'étais pas temps. Comment elle est définie ?

Est-ce que vous les autorisiez vous est-ce que vos sociétés autorisent des chercheurs indépendants à à à effectuer ce type de de de recherche quoi sur la fonction dont vous définissez ces notions de pertinence de pluralisme de on a Google Deepmind a lancé un outil qui s'appelle Gemascope, j'en ai parlé un tout petit peu. destiné aux chercheurs et c'est pour leur permettre de c'est comme un microscope sur le modèle justement pour étudier en fait comment est-ce que le modèle pense mais c'est à des fins de sécurité et d'évaluation des risques mais c'est un accès, un outil pour que les chercheurs puissent accéder directement au modèle. Bien ben écoutez, merci pour ces questions.

Alors, on vous a fait parvenir des questionnaire. Bon, il y a quelques questions que j'ai j'ai que je vous ai posé oralement, d'autres noms et puis par rapport au compléments d'information, si vous pouvez aussi nous les faire parvenir. Merci beaucoup en tout cas de vos réponses.