Meredith Whittaker, présidente de Signal : "L’IA n’est qu’un slogan marketing"

France Culture. Les matins de France Culture. Guillaume Erner. Quel est le point commun entre GD Vance et Edouard Snowden ? Ils utilisent tous les deux la messagerie cryptée Signal, la messagerie dont vous êtes la présidente. Mérédith Whittaker, bonjour. Vous êtes donc présidente de cette messagerie pas comme les autres et vous-même, vous êtes une patronne de la tech pas comme les autres. Alors tout d'abord, il faut expliquer aux auditrices et aux auditeurs qui sont en train de se brosser les dents que Signal, ça n'est pas une patte dentifrice.

Et je vous propose de nous dire en quelques mots ce qu'est Signal et qu'est-ce qui distingue votre messagerie cryptée de WhatsApp ou d'autres concurrents.

Bonjour et merci de m'avoir invité. Signal est le service de messagerie mondial le plus utilisé dans le monde. C'est véritablement l'épine dorsale d'un système de communication qui est soumis aux droits humains. Nous sommes simplement une plateforme pour la communication privée dans un monde où quasiment tous les services numériques prennent des données, les stocks et peuvent transférer ces données collectées à des gouvernements. Et nous, nous maintenons le droit à la communication privée, même si ce droit a été, si vous voulez, mis en place déjà depuis des décennies.

Bon, on va revenir évidemment aux spécificités de Signal, mais j'aimerais quand même dire quelques mots sur vous, Meredith Whitaker. Vous êtes, comme je l'ai dit, une figure atypique dans le monde de la tech. Vous êtes né à Los Angeles. Votre père était tromboniste. Vous avez travaillé dans des clubs de jazz avant de rejoindre Google en 2006 par hasard. Et vous avez étudié la littérature et la rhétorique à l'université de Berkeley. Comment passe-t-on de l'étude de la littérature à Berkeley à la tech ?

Ah ben, vous avez fait de vos devoirs de vacances, vous, hein ? Donc, très simplement, j'ai étudié la rhétorique et la littérature, que j'aime toujours, à la tech, parce que j'avais besoin d'un boulot. Et j'étais à Berkeley au début des années 2000. Et là-bas, on engageait des gens des sciences humaines pour faire des travaux qui n'étaient pas de l'ingénierie. C'est là que j'ai commencé et j'ai terminé par apprendre, parce que si vous savez lire, vous pouvez apprendre. Ça, c'est le secret pour parvenir à l'IA. Et je me suis intéressé et un peu inquiété. Et maintenant que je suis dans cette industrie depuis deux décennies, je continue.

J'ai lu que vous aviez véritablement compris Foucault, justement en commençant à travailler dans la technologie. Oui, je vous propose d'entendre la voix du philosophe, une émission très, très célèbre en France qui s'appelait Radioscopie. Jacques Chancel, c'était en 1961.

Je dirais que c'est là, à partir de l'asile, que m'est apparu un espèce de problème qui n'a pas cessé de me hanter, qui est, si vous voulez, le problème du pouvoir. C'est-à-dire qu'il n'est pas vrai que la connaissance puisse fonctionner, ou si vous voulez, que l'on puisse découvrir la vérité, la réalité, l'objectivité des choses, sans mettre en jeu un certain pouvoir, une certaine forme de domination, une certaine forme d'assujettissement.

Bon, connaître et assujettir, savoir et commander, ce sont des choses qui sont intimement liées, et si vous voulez, je l'ai découvert à l'état pur dans l'asile, où là, le savoir médical, la connaissance apparemment sereine et spéculative du psychiatre, est absolument indissociable d'un pouvoir extraordinairement méticuleux, savamment hiérarchisé, qui se déploie dans l'asile, et qui constitue véritablement l'asile.

Alors, Meredith Whitaker, quel est le lien entre la tech, l'univers dans lequel vous évoluez, puisque vous présidez la messagerie cryptée Signal, et Foucault, la French Theory ? C'est comme ça qu'on dit, je crois, chez vous ?

C'est un des liens, dans ce contexte, et dans cette déclaration, il y a l'idée que c'est l'autorité épistémique qui crée le pouvoir, et c'est cette autorité-là qui raconte votre histoire, qui donne des données sur le monde, et que signifient ces données pour vous, et pour vos opportunités, pour votre vie, et votre place dans le monde ? Et qu'est-ce que, si vous êtes seul, et vous, en tant qu'une personne unique, ça détermine si vous pouvez avoir accès à certains modes de survie, à certaines communautés, à certaines vies ?

Tout cela est éliminé de la conversation sur la technologie, parce qu'on parle de la technologie et de la donnée, je le mets entre guillemets, comme étant des choses naturelles, comme étant des faits objectifs, comme ce sont, si vous voulez, des émanations de nos activités, des émanations. Et on ne pose pas la question, qui a le droit de créer ces données ? Et donc, un de mes premiers projets en technologie a été de construire et de gérer une infrastructure de mesure très importante. Et j'étais dans le donjon épistémologique de créer ceci.

Et c'est à partir de cette expérience, et d'autres, de comprendre exactement quelles étaient leurs relations de pouvoir, avoir le stylo, tenir le stylo pour pouvoir écrire et raconter la réalité, et ce qu'était la réalité.

Comment une intellectuelle peut-elle présider une entreprise de la tech, puisque j'imagine que les décisions que vous avez à prendre chaque jour, elles concernent peu Foucault, elles relèvent, je ne sais pas, des résultats financiers, de choses de ce genre. Mérédith Whittaker ?

Ben, disons que j'ai une large palette. Tout le monde doit travailler pour vivre, et ça, c'est comme ça que je gagne ma vie. C'est ce que j'ai appris pour pouvoir en vivre, parce que je n'ai pas beaucoup d'argent qui m'est venu de ma famille. J'ai de la chance, parce que je suis stimulée intellectuellement profondément par ce que je fais. Ça m'occupe, ça m'inquiète, et je suis une des rares personnes au monde pour lesquelles ce qu'elle fait pour vivre recouvre ses intérêts dans la vie. Et finalement, je dois faire le travail dans ce qu'il a de plus trivial, et le travail le plus intéressant qui soit le travail intellectuel.

Alors, on va ouvrir la boîte de Signal. Donc, moi, je me suis inscrit sur Signal pour pouvoir discuter avec Maître Zlotowski, et communiquer avec lui de manière cryptée. Évidemment, je n'ai rien payé. Je dis évidemment, la plupart des messageries que l'on utilise sont gratuites, et donc on m'a appris à dire que si je ne payais pas, c'est que c'était moi le produit. Pourquoi les choses seraient-elles différentes avec Signal ?

Pour répondre à cette question, c'est que les choses sont différentes sur Signal, c'est parce que c'est comme ça qu'on l'a construit. C'est parti d'un projet de passion, un projet open source qui a été créé par Maxi Marlinspike, qui était le fondateur, et un certain nombre de bénévoles, même avant Snowden, dans les années 2000, cherchait un modèle d'affaires qui croissait autour de l'Internet, autour de l'industrie et de la technologie, et on était très inquiets au sujet de ce que les capacités de surveillance dans les mains d'un certain nombre d'entreprises signifiaient pour notre avenir, pour une société libre. Donc, l'ADN de Signal, c'est ça.

Ça n'a pas été créé pour être un râteau pour ramasser les revenus. Non, non, c'était vraiment pour faire attention à la vie privée. Et tout ce que nous avons fait au cours de la décennie, nous l'avons formé autour de cet impératif. Comment on fait de l'argent ? C'est un autre problème. Mais nous, c'est une obsession. Comment on préserve les droits humains dans un monde où c'est érodé à chaque tournant ?

Bon, mais si je ne vous paye pas pour utiliser votre messagerie, comment gagnez-vous de l'argent ?

À travers des dons. Nous sommes une organisation à but non lucratif. 70% de nos revenus viennent de grands donateurs. La plupart ont fait leur fortune dans la technologie, dans, si vous voulez, l'industrie un peu aux mains sales pour la surveillance. Et le reste vient des petits donateurs qui utilisent l'application, qui donnent 5 euros, 10 euros, parce qu'ils reconnaissent que l'infrastructure que nous fournissons est essentielle pour le monde dans lequel ils veulent vivre, et nous voulons vivre.

Quel est le budget ? Je ne sais pas si on peut parler dans ces conditions de chiffre d'affaires, de signal.

50 millions de dollars américains par an. Ce qui est relativement peu. C'est petit pour la tech, mais c'est grand pour les gens.

En effet, on est parfois un peu échaudé par ce type de construction, puisque Sam Altman, avec Chad GPT, a débuté sous la forme d'une fondation. Il est passé d'une entreprise qui était présumément éthique à une entreprise qui, on va dire, est moins éthique, et en tout cas n'est plus du tout une fondation. Même chose pour Google. Au début, Google était une entreprise éthique, et puis vous-même, vous avez eu un certain nombre de réactions contre ce que Google est devenu.

Il faut questionner une partie de cela. Il y a ce qui se dit sur la rhétorique, les promesses de Google d'être éthique. J'ai cru au début que les horizons des choses non-éthiques pour faire de l'argent étaient très loin. Vous savez, les impératifs de la croissance et des revenus infinis nous mènent à des choses que les gens n'imaginaient pas au début, de Google, par exemple. Donc, on ne peut pas calquer ce que Google a fait et le remettre sur la trame de signal. Ça ne peut pas fonctionner comme ça. Sam Altman n'a pas compris l'économie de l'IA au départ. Et l'IA dépend d'infrastructures extrêmement coûteuses et il n'y avait pas de flux de revenus pour soutenir le développement.

Et donc, ils ont été attirés, si vous voulez, dans les systèmes comme Google ou d'autres. Et donc, nous avons commencé avec Signal pour être absolument open source, source ouverte, pour préserver les droits à la communication privée. Et tout ce que nous avons fait, y compris la structure, a été fait pour... un but non lucratif a été fait pour cela. Ça ne résout pas tous les problèmes, mais ça nous maintient loin d'un modèle d'affaires en technologie qui est construit autour de la collection de données et de les transformer en argent.

Je pourrais continuer à vous embêter en disant que ChatGPT, au début, était open source, mais ça veut dire que moi, je peux encore modifier le code de Signal, je peux entrer dans le code de Signal, aujourd'hui ?

Tout à fait, nous sommes source ouverte open source, nous sommes vérifiés, et ChatGPT n'a jamais été totalement open source. Ça a été une organisation à but non lucratif, mais très dépendante des infrastructures de Microsoft, et finalement, il y a eu un quiproquo, la transaction entre Microsoft et OpenAI, les a entraînés dans un arrangement d'affaires qui n'est pas du tout altruiste. Signal, d'un autre côté, est totalement open source, et nous croyons que ça doit être la norme pour ces infrastructures. Vous pouvez vérifier nos codes, vous n'avez pas besoin de me croire sur parole.

Moi, je ne veux pas que vous me croyez sur parole, je veux que vous vérifiez ce que je dis, que c'est vrai, en regardant nos codes, en parlant aux experts, et en comprenant véritablement qu'il y a une base pour ce que je dis.

Souvent, le talon d'Achille de ces architectures open source, c'est le cloud, autrement dit, le lieu de stockage, qui est un lieu de stockage virtuel, et qui, généralement, est un cloud que vous êtes obligés de trouver dans une grande entreprise, parfois Amazon, parfois il y a peu d'acteurs pour le cloud. Mérédith.

Oui. On peut rentrer dans l'économie politique, des infrastructures, et de l'hyperscaler. Moi, je veux être très précise là-dessus, parce que c'est important. Signal stocke très, très peu de données. Nous faisons tout notre possible pour savoir que l'on a accès à absolument aucune donnée. Et c'est en mettant en place nos normes de chiffrage, de chiffrement, tout, seulement vous et la personne à laquelle vous parlez pour avoir accès à cette donnée, ni Signal, ni des fournisseurs d'infrastructures, personne d'autre. Donc, c'est un point extrêmement important. Et c'est ce qui fait la différence.

Nous sommes dépendants, comme la plupart des entreprises qui ont des plateformes de milliards de dollars, sur l'utilisation de tiers, de infrastructures tierces, pour permettre à la communication des gens qui utilisent Signal d'arriver partout dans le monde.

Mais alors ça, je vous avoue que c'est quelque chose qui est un peu... Enfin, que j'ai du mal à me représenter. Signal ne travaille pas en mode résident. Lorsque j'ai des messages Signal, ils ne sont pas uniquement sur mon portable, ils sont aussi sur le cloud. Comment faites-vous pour stocker peu de données alors que le mode résident est utilisé ? Je veux dire par là que les données ne sont pas stockées uniquement sur mon portable. Quand j'échange avec Michel Zlotowski, elles sont stockées dans le cloud et je peux récupérer mon historique de conversation sur Signal. Donc, il faut que ce soit stocké ailleurs. Et donc, il y a une vulnérabilité.

C'est vraiment très important. Nous ne stockons pas vos messages ou quoi que ce soit d'autre à moins que vous choisissiez notre service de backup. On a un serveur qui fait passer ces données. Mais ce sont des données chiffrées. Ce que ça signifie que c'est vraiment des lettres qui ne peuvent pas être interprétées, qui ne peuvent pas être lues par quiconque sauf vous ou les gens auxquels vous parlez ou les gens qui ont accès aux clés de chiffrement et qui peuvent utiliser ces clés pour lire ces messages. Donc, voilà.

Je vous avoue que c'est quelque chose d'essentiel pour moi, Mérédith Whitaker, puisque je ne comprends pas comment la question de la vie privée sur Internet et des données, qui est une question éminemment politique, n'est justement pas saisie par les politiques. je vous propose d'en parler dans une vingtaine de minutes. Vous évoquerez à la fois la manière dont vous procédez mais aussi votre philosophie sur cette question et les terribles menaces qui sont aujourd'hui offertes par les terribles capacités de la tech, les messageries mais aussi l'intelligence artificielle. On se retrouve dans une vingtaine de minutes. En attendant, il est 8h sur France Culture.

Et nous retrouvons notre invité, Mérédith Whitaker, patronne de la messagerie cryptée et signal. Vous nous avez expliqué comment cette entreprise était une entreprise différente des autres messageries de la tech, considérant que vous aviez un respect particulier pour la vie privée. Vous êtes une fondation à but non lucratif. On vient d'évoquer la politique. On va évoquer d'autres sujets avec mon camarade François Saltiel qui nous a rejoint. Mais justement, la politique, qu'il s'agit de la politique française ou de la politique américaine, est marquée par la technologie, les algorithmes.

Mérédith Whitaker avec là aussi une nouveauté, c'est que beaucoup de patrons de la tech sont aujourd'hui partisans de Donald Trump. Alors sont-ils sincères ou pas ? Peu importe. Mais j'aimerais avoir votre point de vue là-dessus.

Je ne sais pas, je ne sonde pas les cœurs et les reins. Je ne peux pas vous répondre sur leur sincérité. Je regarde ce que font les gens, comment ils agissent. Est-ce que ça concorde avec ce qu'ils disent ? Est-ce que ça concorde avec d'autres choses qu'ils font ? Quelles sont leurs actions ? Est-ce qu'ils font du mal ? Est-ce qu'ils sont tout simplement abjects ? Justement, est-ce qu'ils font du mal ? De qui on parle ?

Eh bien écoutez, on peut parler de différents personnages. Je vais vous même laisser faire le choix de Peter Thiel à Elon Musk en passant par Jeff Bezos. Tous ces gens qui jadis étaient plutôt réticents, en tout cas certains d'entre eux vis-à-vis de Donald Trump se sont aujourd'hui ralliés.

Je vais faire un petit zoom arrière là. Je peux vous dire que mon passage par Google pendant 13 ans et pendant la première élection d'Obama et la seconde et la réélection d'Obama j'ai regardé à chaque fois qu'il y avait une élection présidentielle l'entreprise s'est conduite de la même manière. on met de loin tous les lobbyistes qui sont proches de l'ancien régime. Vous faites rentrer des gens qui sont plus près de nouveau régime parce que vous voulez être plus près du gouvernement actuel. Vous voulez que vos intérêts soient bien protégés. Bon, c'était très normal. C'était très standard. Mais ce que je ne dis pas c'est que c'est quelque chose de normal et acceptable. On peut en juger.

On peut aimer ou pas aimer.

et donc un actionnaire une société qui fait attention à ses actionnaires son but est d'accroître ses revenus ses rentrées de croître et elle a un devoir fiduciaire doit pouvoir maximiser ses profits et il faut faire et il faut faire attention à cela à cette structure qui gouverne les choix des entreprises qui ont tellement de pouvoirs extraordinaires sur nos vies sur nos informations extrêmement intimes sur les infrastructures globales sur les plateformes qui contrôlent nos informations notre environnement et qui croissent de plus en plus sur nos prises de décisions sous le forme de systèmes d'intelligence artificielle qui sont de plus en plus prégnants présents dans nos prises de décisions que ce soit gouvernementales individuelles

Bon mais on aurait pu imaginer aussi que ces entreprises aient des valeurs et qu'elles collent à leurs valeurs par exemple Google je crois que s'il y avait un mot d'ordre chez Google qui était de ne pas faire le mal

On peut imaginer beaucoup de choses mais ce qu'il faut considérer c'est quelles sont les actions quelles sont les incitations qui influent sur la trajectoire vous pouvez avoir autant de valeur que vous voulez mais si moi j'étais le prédégé de Google et qu'on met 20 milliards de dollars sur la table on ne va pas prendre cet argent parce que ce sont des valeurs ou pas des valeurs non et bien si je disais ça on ne va pas prendre cet argent et bien le conseil d'administration me mettrait à la porte mais ils ont une obligation fiduciaire vis-à-vis des actionnaires et donc là on parle d'incitation fiscale monétaire financière acheter des gens pour un certain objectif à une priorité qui passe devant les valeurs et c'est un problème étant donné la quantité de pouvoir qu'ont ces entreprises et on a montré à quel point ces entreprises prenaient le sens du vent pour pouvoir maximiser leurs objectifs et leurs réussites François Saletiel

Meredith Whitaker on l'a dit on l'a appris vous avez été à Google vous avez travaillé longtemps vous avez fait partie aussi de celles et ceux qui ont contesté le moment où l'entreprise s'est alliée à des projets militaires avec les Etats-Unis c'était le projet Maven vous avez dénoncé justement ces contrats qu'en est-il aujourd'hui à votre avis de la mobilisation des gens de la tech parce que là à l'instant vous parliez des grands patrons mais parlons des employés par rapport à ce qu'on est en train de vivre aux Etats-Unis on peut penser à l'ICE par exemple est-ce que vous pensez que ce mouvement de contestation des employés est encore fort dans la Silicon Valley on a l'impression qu'il est moins visible ou est-ce que les gens ont peur ou vous pensez que c'est plus dans l'air du temps

je ne suis plus à l'intérieur de ces entreprises je ne sais plus exactement je sais que les gens sont inquiets les gens me parlent au sujet du mal potentiel que ces technologies peuvent faire dans des cadres qui peuvent réprimer la liberté d'expression qui s'opposent à des droits constitutionnels qui torpillent la loi et l'ordre oui bien sûr il y a des graves inquiétudes dans ce domaine mais je dois être clair moi je suis une dirigeante de la tech je suis un patron de la tech je ne suis pas en lien avec chaque individu qui parle qui parle avec des gens à l'intérieur de ces entreprises il y a des problèmes que font ces technologies pourquoi sont-elles utilisées dans le contexte des occupations militaires illégales par exemple ou des activités non constitutionnelles ou anticonstitutionnelles qui sont menées aux Etats-Unis bon alors justement vous avez à plusieurs reprises

Meredith Whitaker fait part de vos inquiétudes sur l'intelligence artificielle expliquez-nous pourquoi vous avez peur de l'utilisation de cette technologie

il y a plusieurs raisons et ça serait utile de faire quelques pas en arrière et de parler de ce qu'on entend par I.A.

intelligence artificielle parce que ce n'est pas un terme technique bien défini ce n'est pas un terme vraiment clair c'est un terme qui a été inventé en 1957 par John McCarthy qui était un scientifique de la data il l'a inventé pour décrire un ensemble de technologies qui n'ont rien à voir avec l'approche du deep learning d'aujourd'hui et à travers les 80 années qui se sont écoulées ça a été appliqué comme une aspiration pour tout un jeu de technologies qui tentait de créer des capacités semblables à celles de l'être humain et ça c'est une définition extrêmement large et je pars de là parce que je pense que ça nous donne une compréhension des possibilités de ce terme ça peut nous aider à voir comment ça émerge en tant que quelque chose très important particulièrement ces dernières années après l'émergence de ChatGPT et pour comprendre la réponse à cette question il faut comprendre le modèle d'affaires des plateformes technologiques et le fait que l'IA que l'on voit actuellement est un produit de ce que j'ai appelé le modèle d'affaires de la surveillance dans les années 2010 dans les années 2010 il y avait un fait qui reconnaissait que les grandes entreprises y compris Google j'étais témoin de première main que l'ancienne approche de deep learning pour l'IA les algorithmes qui revenaient des années 80 et des années 90 pouvaient faire des choses nouvelles et intéressantes dans un contexte de l'optimisation des médias sociaux impliqués quand on avait un très grand nombre de données et quand on avait une énorme capacité d'ordinateur et donc tout cela dans les mêmes mains d'acteurs c'était ça qui était nouveau au sujet de l'IA dans ce contexte pas l'approche technologique

François Saltiel vous refusez vous au sein de votre messagerie signal d'utiliser l'intelligence artificielle avec des chatbots c'est à dire d'avoir un agent conversationnel qui serait directement embarqué dans la messagerie comme ça peut être le cas par exemple du côté de Whatsapp vous vous pensez que la manière dont l'intelligence artificielle est utilisée et employée aujourd'hui par les grands acteurs est une manière d'amplifier le capitalisme de surveillance tel qu'il a été conceptualisé ou définie par Shoshana Zuboff

mais en fait on utilise un petit modèle d'IA c'est un modèle de détection faciale qui fonctionne sur votre appareil et qui permet donc quand vous prenez une photo et que vous faites un montage dans Signal vous pouvez le petit modèle qui est sur votre téléphone n'enverra pas votre visage dans le cloud donc vous ne mettez pas en danger si vous voulez les données biométriques de vos personnes avec qui vous parlez donc c'est un dérivé de ce modèle de surveillance oui c'est factuellement correct on a besoin de ces données ça a été construit autour de ces données mais mon inquiétude principale c'est que il y a beaucoup d'inquiétudes certes mais un de mes inquiétudes principales en tant que dirigeante de Signal c'est que personne n'a besoin d'un chatbot dans ses applications personne n'a besoin de cela dans le contexte de Signal c'est utilisé par des militaires des journalistes dans des situations de vie et de mort donc on ne veut pas prendre des données même avec un bot même si c'était possible de le faire de façon sûre même s'il y avait un chatbot qui était suffisamment petit qui pouvait opérer directement sur notre appareil ce qui n'existe pas pour l'instant donc il y a des inquiétudes sur la sécurité la vie privée et l'efficacité moi j'ai de la chance j'ai pas au-dessus de moi un gars comme Mark Zuckerberg qui me dit je dois intégrer l'IA dans mon système je ne dois pas trouver une raison pour que l'IA soit présente dans Signal parce qu'on a cette pureté des choses et que nous sommes une association sans but lucratif et on n'a pas cette pression

moi j'ai un espoir pour l'intelligence artificielle c'est que celle-ci coûte trop cher on a aujourd'hui l'exemple de ChatGPT qui fait énormément de cash burning qui utilise énormément d'argent beaucoup trop d'argent pour imaginer que la société soit rentable rapidement surtout si on compare cela au modèle chinois est-ce que finalement ça n'est pas un espoir c'est-à-dire que l'on puisse accomplir effectivement des tâches que des humains font mais à un coût direct et indirect je pense par exemple au coût écologique tel que finalement ça n'en vaille pas la peine Méridith Whitaker

vous savez l'IA est un terme générique et ces grands modèles sont très bons à trouver leur voix dans une quantité énorme

de données très bon mais ça coûte 100 milliards de dollars par an

c'est beaucoup d'argent le problème que l'on voit actuellement c'est qu'il y a des utilisations pour cela dans différents domaines certainement mais le CAPEX va bien bien au-delà des flux monétaires donc ça nous mène à des déploiements agentiques aussi d'agentivité et c'est ça qui est un problème dans l'IA François Saltiel

depuis le début de cet entretien on parle beaucoup de la sécurité des échanges de la confidentialité des échanges c'est évidemment un avantage comparatif de signal par rapport aux autres il y a une question récurrente qui se pose à vous par rapport à la confidentialité de ces échanges c'est celle des échanges illégaux criminels on voit qu'on a beaucoup d'états de politiques qui essayent de casser cette confidentialité en ce moment on est dans une pleine affaire Jeffrey Epstein avec la révélation de nombreux documents qui permettent aussi de nourrir une enquête s'il avait par exemple concentré tous ces échanges sur signal on n'aurait pas accès à ces documents là au moment où l'on se parle est-ce que vous pensez que c'est le prix à payer pour justement garantir cette liberté d'échange de tous les individus

il faut que je réponde à une partie d'abord nous avons tellement de documents dans le cas Epstein on a tellement de noms dans les documents Epstein personne n'est responsable donc on est là par vous personnellement un gouvernement un gouvernement est là et me dit les yeux dans les yeux que la seule barrière pour protéger les enfants pour se protéger du terrorisme pour faire ce qu'eux voulaient faire en tant que membres de la communauté des lois et ils ont plus de pouvoir que dans l'histoire humaine la seule barrière c'est les droits fondamentaux à la vie privée à la liberté d'expression et donc si vous cassez ce droit là rien ne pourra être arrêté parce que qui est responsable des documents Epstein ils sont dans le public donc le problème c'est pas le chiffrement ce dont on parle c'est une forme de pensée magique qui projette des problèmes sociaux très inconfortables en tant que problèmes technologiques et on en transforme cela en abstraction et on imagine qu'ils peuvent être résolus par une intervention technologique et il semble que ces interventions technologiques qui créent des portes d'entrée secrètes des bacs d'or qui torpilleraient les droits privés de tout le monde ou ça fonctionne pour tout le monde ou ça fonctionne pour personne et bien ça remplit si vous voulez les rêves des services de surveillance sans aucune preuve que ça pourrait éliminer le terrorisme ou protéger les enfants donc si vous regardez dans le dossier Epstein est-ce qu'il y a une véritable volonté de poursuivre ceux qui sont les auteurs de ce mal et de ces choses négatives

mais Edith Whitaker si on vous suit signal est donc une messagerie éthique une messagerie qui n'utilise pas les données de ses adhérents des personnes qui utilisent cette messagerie est-ce qu'il est possible selon vous de créer un logiciel d'intelligence artificielle du type de chat GPT d'autres applications un réseau social par exemple qui soit également éthique ou est-ce aujourd'hui quelque chose que l'on ne peut plus faire hélas ?

je pense qu'il y a beaucoup de façons d'on puisse construire une technologie qui soit éthique mais je crois qu'il faut commencer par la question de quelle est la société qu'on veut construire à quoi ça doit ressembler avoir une vie où il y a les ressources nécessaires pour vivre avoir du plaisir au monde ensemble quelle est la vision de notre monde et quelle technologie il faut pour le soutenir quelle technologie soutient l'accès à l'information objective est-ce qu'on peut soutenir les processus démocratiques quelle serait cette technologie et pas simplement prendre les modèles qui nous ont été donnés et construire un modèle d'affaires autour de ça qui est catastrophique comme étant notre seule option

François Saltiel En ce moment vous le savez et vous êtes attaché aussi à notre continent européen et à ses valeurs il y a des entreprises qui essayent d'arriver sur ce marché de l'intelligence artificielle en essayant de faire valoir une forme de souveraineté ou une approche peut-être un peu moins un peu plus éthique quelle est votre vision sur les projets qui sont actuellement européens autour de l'IA on pense à Mistral mais il y en a d'autres évidemment en Allemagne

Une partie de ce que l'on voit et je parlais des écarts de l'IA historique et le lien avec ce modèle d'affaires de la surveillance c'est venu de la commercialisation de l'internet tirée par les Etats-Unis et c'est un fait historique qu'il faut reconnaître l'IA comme quelque chose qui soit au sommet d'un modèle monopolistique c'est du fait c'est pas quelque chose c'est pas un casdificatif vain et ce modèle d'affaires des plateformes fonctionne sur les économies d'échelle et la réalité que les réseaux sociaux sont des monopoles aussi c'est compris dans par exemple ce qui est le télégraphe le téléphone dans les années 80-90 lorsque la commercialisation de l'internet se produisait ça se produisait à l'époque du moment néolibéral lorsque c'était considéré comme du bon sens comme c'était la vie privée le privé c'était ce qu'il fallait faire et que le gouvernement était là pour embêter les gens et donc on a laissé ça entre les mains du marché privé et les entreprises les grandes entreprises de l'IA viennent de là ce sont ces entreprises qui ont les plateformes les plateformes de médias sociaux de places de marché pour collecter les données et puis les possibilités de stockage et de les redistribuer mondialement et la capacité de former d'entraîner ces modèles y compris les mécanismes de distribution pour les mettre sur le marché que vous avez des infrastructures de hyperscaler que vous pouvez breveter pour avoir un accès aux API ou une plateforme de médias sociaux où vous pouvez intégrer ces d'IA comme faisant partie des éléments c'est le contexte dans ce que vous devez construire et monétiser et c'est venu des Etats-Unis d'une façon qui est très difficile de reproduire parce que l'on parle des sociétés qui ont de l'infrastructure qui ont des plateformes qui ont accès à des systèmes de l'IA monétisés dans un cycle qui se renforce de façon que vous ne pouvez pas en un claquement de doigts refaire ou copier vous pouvez créer quelque chose comme Mistral mais vous le faites sur des infrastructures d'hyperscaler vous pouvez entraîner un modèle comme Mistral vous y accédez mais vous n'avez pas de service de cloud qui puisse le monétiser et donc vous devez faire confiance à une partie de ce spectre et c'est là je pense qu'il est dangereux de mettre des espoirs de mettre cet espoir sur les épaules d'entreprises qui n'auront jamais les ressources nécessaires parce qu'ils n'ont pas émergé à l'époque de l'accumulation des données et des capacités techniques qui ont amené à cet état de fait d'aujourd'hui

Mérédith Whitaker merci d'avoir été avec nous patronne de la messagerie cryptée Signal dans quelques instants nous serons en compagnie de nos camarades Lucille Comeau François Saltiel a le droit de rester et Anne-Laure Chouin nous donnera les informations à 8h45 autrement dit dans quelques secondes