Sommes-nous en train de perdre le contrôle de l'IA ? Avec Jean-Louis Constanza et David Djaïz

France

Inter, Benjamin Duhamel, Florence Paracuelos, la grande matinale. Sommes-nous en train de perdre le contrôle ? L'IA, présentée il y a encore quelques mois comme un immense outil de progrès, serait désormais un danger existentiel pour l'humanité. En l'espace de quelques semaines, un ingénieur d'entropie qui estime à 10% le risque que l'IA conduise à l'extinction du genre humain. Un prix Nobel qui lui donne raison, une mutinerie d'agents IA cet été qui se coordonne pour échapper aux consignes de leurs concepteurs et une multiplication des alertes des acteurs de la tech. On en parle avec deux invités ce matin, un entrepreneur de l'IA et un spécialiste du sujet. Bonjour Jean-Louis Consenza.

Bonjour. Merci d'être avec nous ce matin sur France Inter. Vous êtes cofondateur et dirigeant de Wondercraft. Vous développez des exosquelettes et des robots humanoïdes pilotés par l'IA. Vous nous expliquerez dans un instant ce que ça veut dire.

A

vos côtés David Jays, bonjour. Bonjour. Merci d'être avec nous, essayiste, chef d'entreprise. Vous travaillez depuis plusieurs années sur l'essor de l'intelligence artificielle. Et je signale aussi votre excellent roman, ça s'appelle La méthode. C'est aux éditions Stock et c'est déjà dans la liste de plusieurs prix littéraires. Et venez avec nous, chers auditeurs, vous qui êtes inquiets ou incrédules. Vos questions sont les bienvenues au 01 45 24 7000 et sur l'application Radio France. Alors on est obligé de commencer par le vertige de ces déclarations sur une fin de l'humanité possible d'ici dix ans à cause de l'IA.

Et on ne peut pas s'empêcher de se demander, mais est-ce que c'est Terminator ou est-ce que c'est vraiment un scénario plausible ? Je

pense

qu

'il y a beaucoup de marketing de la peur dans tout ça. Si on essaie de décrypter ces déclarations alarmistes qui sont faites par les grands patrons des laboratoires d'IA, il y a trois choses, je pense. Premièrement, pour entraîner des modèles, il faut des dizaines de milliards, voire des centaines de milliards de dollars ou d'euros d'investissement. Et aujourd'hui, le retour sur l'investissement, il n'est pas évident. Donc il peut y avoir un intérêt pour ces grands patrons de ralentir un petit peu la course effrénée, la course aux armements dans laquelle ils sont engagés. La deuxième chose, c'est qu'il y a une volonté probable de, ce qu'on appelle en économie, de capture du régulateur.

C'est-à-dire, on est arrivé à la frontière,

on

sait mieux que les autres où sont les dangers, les périls et les risques. Et on veut être les seuls. Et soyons les seuls. Et surtout, ne permettons pas à d'autres d'accéder à la frontière. Et puis, troisièmement, il y a probablement une raison plus philosophique et plus religieuse qui s'appelle l'altruisme effectif, qui est un courant de pensée très influent dans les laboratoires d'IA, notamment chez Anthropik. En gros,

ce

sont des gens qui sont persuadés de faire le bien de l'humanité à grande échelle et qui se disent, si nous ne sommes pas dans le cockpit de l'avion, eh bien l'avion va se crasher. Et donc, le paradoxe,

c

'est que ces gens qui sont très conscients des dangers de l'intelligence artificielle contribuent parfois à l'accélération vertigineuse que nous vivons en ce moment.

Alors,

il

se trouve que vous avez Jean-Louis Constanza à côté de vous. Vous, on imagine que vous êtes persuadé de faire le bien avec vos exosquelettes et vos robots. On va en parler dans un instant. Mais vous êtes dans quelle dynamique, vous, vis-à-vis de cette inquiétude de ce vent d'apocalypse qui souffle sur le sujet ?

Alors, c'est vrai, chez Wondercraft, on fait deux produits qui ont la même plateforme technologique mais qui sont un peu différents. Les exosquelettes font marcher des gens qui ne marchent pas. Incidemment, on les lance aux Etats-Unis aujourd'hui même, après 13 ans de travail. Et pourquoi aux Etats-Unis ? Parce qu'ils sont remboursés là-bas. Et on fait des robots humanoïdes. On a commencé à étendre dans notre techno vers les usines, les entrepôts logistiques pour assez souvent prendre des emplois qui ne sont pas remplis, simplement parce qu'ils sont super pénibles.

Et aussi, pour une raison plus profonde, c'est qu'on entre assez lentement à l'échelle humaine mais très vite à l'échelle historique dans le mur de la démographie. C'est-à-dire que les populations dans tous les pays développés et même dans les pays africains, sud-américains, etc., s'effondrent.

On va en parler, on lui concerne ça,

mais sur cette idée pour vous qui, au quotidien, travaillez et avez développé une technologie qui est intimement liée à

l

'intelligence artificielle, quand vous entendez des ingénieurs, des acteurs de la tech dire qu

'il

y a un risque non négligeable que l'IA nous mène à la catastrophe et à la fin de l'humanité, ça vous agace ? C

'est intéressant, c'est vrai que depuis 4 ans, on entend cette phrase tous les 6 mois, tous les 6 mois, il y a un ingénieur qui démissionne de l'Entropique ou d'Open&A et qui dit « Oh là là, mon Dieu, on va dans le mur, c'est terrible ». Et ça ne s'est pas produit, en fait. Tous les 6 mois, on entend qu'on va vers l'intelligence générale dans 6 mois et ça ne s'est non plus toujours pas produit. Alors, il ne s'agit pas de se moquer, l'IA et les robots sont des outils extraordinairement puissants pour l'avenir,

comme

les trains l'étaient, comme les avions l'étaient. Les avions étaient dangereux au début, on avait peur des trains. Aujourd'hui, grâce aux trains et aux avions, on a une vie qui est très différente de celle d

'il

y a 200 ans et on a une vie qui est de loin meilleure. Donc, il faut rester optimiste, il faut faire attention, et il faut que l'industrie, déjà, soit un peu consciente de ce qu'elle fait, surtout à la frontière, ce qu'on appelle la frontière, c'est-à-dire les modèles d'IA les plus puissants, sur lesquels il faut appliquer simplement déjà les règles de sécurité que l'industrie nous impose aujourd'hui.

David Jayes, vous parlez d'un possible opportunisme des acteurs de la tech, mais quand Joshua Benjou, prix Turing, un des pères de l'intelligence artificielle, comme Geoffrey Hinton, prix Nobel de physique, nous disent « Oui, on est en train de perdre le contrôle, oui, l'IA est un danger pour l'humanité, ce danger est bien réel. » Eux, ils n'ont pas d'intérêt, ni industriel, ni financier, à le dire.

Mon propos n'est pas de minimiser la gravité des risques, c'est plutôt d'essayer de décrypter les discours de ces dirigeants de la tech. C'est vrai qu'il y

a

eu des incidents sérieux ces derniers mois, vous avez vu ce qui s'est passé avec les agents d

'OpenAI

qui étaient entraînés dans un espace confiné pour des évaluations de cybersécurité, et qui ont réussi à se coordonner pour sortir de cet espace.

Et

échapper aux consignes de leurs concepteurs.

Complètement. À se parler sur des forums,

à établir des

hiérarchies entre eux.

À aller sur Internet et ensuite à rentrer dans une autre entreprise dont on a beaucoup parlé cet été, créée par des Français, excellente entreprise, Hugging Face. Donc il y

a

des risques, et surtout ce qu'il faut comprendre, et ce qu'il faut que nos auditeurs comprennent, c'est les lois d'exponentiel. Prenez un nénuphar qui grandit dans un étang, au bout de 30 jours, disons que le nénuphar occupe toute la surface de l'étang. Quelle est la surface de l'étang occupé par le nénuphar le 29ème jour, la veille du 30ème jour

?

La moitié. C'est ça les lois d'exponentiel. Et le problème, c'est qu'avec l'IA, on a des modèles dont la capacité, la puissance, double tous les 6 mois. Ce qui fait qu'il y a 4 ans, l'IA conversationnel, Tchad GPT, n'a que 4 ans. Au début, ces modèles, ils étaient capables de résoudre des problèmes de maths et encore très mal de niveau 5ème, 4ème. Et puis, un an après, c'était niveau terminal. Et puis, 2 ans après, c'était niveau master. Et maintenant, on a des IA qui résolvent les équations de Navier-Stokes, qui sont l'un des 7 problèmes du millénaire. Donc, effectivement, il y a quelque chose de vertigineux dans cette loi d'exponentiel.

On est en train de changer de civilisation et on le fait à une vitesse folle. Et c'est ça dont il faut avoir conscience.

Un mot encore concrètement, David Jayes, et sans effrayer ni les auditeurs, ni quiconque. Donc, le pire scénario, le scénario où les IA échapperaient à leurs concepteurs, où il y aurait effectivement un risque pour l'humanité tout entière. Ce serait quoi ? Parce qu'on a du mal à comprendre l'aspect palpable de cette menace. Alors, il y a des risques

évidents sur ce qu'on appelle la cybersécurité. C'est-à-dire que les IA peuvent se coordonner pour mener des attaques, envahir des sites Internet ou des espaces numériques. Il y

a

des risques sur la bioinformatique aussi,

c

'est-à-dire qu'on peut coder, évidemment, des agents, des virus qui peuvent provoquer des... Qui

tomberaient

dans des mains,

dans des mauvaises mains.

Mais

ça,

comme le disait très bien Jean-Louis, je pense que ces choses-là vont faire l'objet d'une certification, d'une vérification importante. Moi, je pense que le principal risque, il est là où on ne le voit pas. C'est-à

-dire

qu'aujourd'hui, quand vous cliquez sur Internet, pour un clic humain, vous avez un clic de robot.

D

'accord ? Dans cinq ans, l'espace informationnel sera complètement transformé. Pour un clic humain, vous aurez mille clics de robot. De la même manière, les modèles d'hier ont été entraînés sur des textes, des livres, avec beaucoup de vols de propriétés intellectuelles, d'ailleurs, écrits par des humains, c'est-à-dire notre pensée, à nous, à vous. Dans cinq ans, les modèles seront essentiellement entraînés sur des données synthétiques,

c

'est-à-dire des données, des corpus générés par d'autres modèles. Le risque, c'est quoi ? C'est que nous soyons littéralement ensevelis sous un déluge de contenus fabriqués par des robots et que, du coup, l'intelligence humaine et même la civilisation humaine dans ce déluge ne soient plus qu'une note de bas de page dans la longue histoire de l'intelligence. C'est ça, le principal risque pour moi. Ce n

'est

pas tellement des risques de cybersécurité ou de bioinformatique qui vont être encadrés, j'en suis certain. C'est plutôt l'idée quelle est la place de l'humain dans tout ça ?

Alors, il faut qu

'on

parle d'un autre sujet d'inquiétude récurrent qui vous concerne, Jean-Louis Constanza. Donc, on l'a dit, vous fabriquez des exosquelettes qui permettent aux gens de remarcher, ce qui est absolument extraordinaire, c'est une prouesse technologique. Vous fabriquez aussi des robots. Vous travaillez avec un certain nombre d'entreprises. C'est pour faire quoi ? C'est pour remplacer les salariés ? Je précise que, par exemple, vous travaillez avec Renault et avec La Poste. Qu'est-ce que vous faites avec eux

? Alors,

on fait des robots qui commencent et qui, pendant de longues années, vont surtout se concentrer sur les emplois pénibles. C'est 100% à peu près de notre demande aujourd'hui. On travaille avec 12 grandes entreprises et ça, évidemment, de plus en plus, ça change tout le temps. des emplois pénibles et des emplois qui ne sont pas pourvus. Depuis deux ans, l'histoire de la démographie qui était plutôt une histoire théorique, de journaliste qu'on n'avait pas senti dans notre vie. Depuis deux ans, il y a des usines qui repassent en 1,8 alors qu'elles sont en 2,8.

des usines qui ferment en août parce qu'on ne trouve personne, des agriculteurs qui trouvent de moins en moins d'ouvriers agricoles et qui ne savent plus comment faire leur production. Dans tous les pays d'Europe et très largement plus encore en Corée et en Chine où le taux d'enfants par femme est passé largement sous 1. Ce sont des pays qui sont en voie d'extinction. On commence à le sentir. C'est-à-dire que l'emploi des robots à peu près dans les 10 prochaines années sera largement saturé par 1. les emplois pénibles, 2. les services qui ne sont plus rendus et 3. les services pour lesquels on ne recrute

plus.

Et

donc ça veut dire, Jean-Louis Constanza, si je traduis ce que vous dites, au fond c'est indolore, c'est-à-dire qu'en réalité les robots ne remplaceront que des emplois qui ont vocation. Parce que vous savez bien l'inquiétude. L'inquiétude c'est de dire qu

'il

y a des métiers qui à terme vont être tout simplement remplacés par des robots et donc des salariés qui vont se retrouver sur le carreau.

Le choix pour l'IA d'une part et les robots d'autre part, on l'a fait depuis 50 ans. En fait, il faut en être conscient, on a fait un choix. Tous les pays ont fait un choix en n'ayant plus d'enfants. Donc en n'ayant plus d'enfants, soit on va vers une pauvreté massive et je me rends

compte,

moi qui suis un peu plus vieux par exemple, que les ingénieurs de mon aircraft qu'on a oublié est-ce que c'était que la pauvreté ? C'est-à-dire, c

'est

des gens qui meurent, c'est des enfants qui n'ont plus de médicaments, c'est qu'on n'a plus à manger. C'est ça la pauvreté. C

'est

pour ça que la Chine en a très peur, la Corée en a très peur parce que récemment, ils ont connu des famines, ils ont connu des crises graves. Nous, on n'a plus ça, Dieu merci, c'est fantastique, mais la chute démographique nous y condamne si on ne remplace pas les emplois humains

qui

ne sont plus là par de l'électronique, de l'IA pour les emplois assis, des robots pour les emplois debout. Donc, on est effectivement pris en étau entre deux contraintes majeures, le risque de ces technologies extraordinairement puissantes

et

le fait de ne plus avoir de production qui va réduire notre niveau de vie à des niveaux qu'on n'a jamais connus.

Vous comprenez que ce soit une grande source d'inquiétude,

d

'autant plus quand on entend Bill Gates nous dire qu'il va falloir un jour réserver 40% des emplois aux humains, ça veut dire que 60% seront dévolus à l'intelligence artificielle. C'est quoi le monde qui s'annonce ?

C'est

un monde sans travail ?

Alors, on a étudié chez Wondercraft avec des grands économistes cette question précise de savoir est-ce que Bill Gates ou Elon Musk ou Sam Altman quand ils parlent des nouveaux emplois, quand ils parlent du remplacement des robots et de l'IA, est-ce qu'ils savent de quoi ils parlent ? Et en fait, la réponse c'est il n'y a pas de réponse. Aucune étude économique, aucun travail sérieux avec des économistes reconnus ne donne la réponse de savoir si cette fois-ci encore on va créer encore plus d'emplois comme à chaque révolution technologique, les emplois vont exploser. Ils ont changé et explosé. Ou si c'est une nouvelle race, une nouvelle espèce et on ne sait pas. En revanche, ce qu

'on

sait, c'est que la Corée par exemple vient d'offrir l'IA souveraine et coréenne à tous les Coréens. Alors, ce n

'est

pas encore fait parce qu'il faut la développer mais ils font le pari de dire on va augmenter le potentiel créatif des humains en leur donnant une IA puis en leur donnant un robot. Et ça, c'est probablement le seul moyen

pour

un pays comme la France par exemple faire ses propres robots, maîtriser sa propre IA, sinon on sera vassalisé par la Chine et par les Etats-Unis,

c

'est certain.

David Jay, sur ce scénario d'un monde sans travailleurs, d'IA robots qui prendraient la place de ses salariés, ce qui pose des questions vertigineuses en termes de morale, de mode de vie, de financement de la protection sociale, votre regard sur ce risque-là ?

Moi, j'y crois pas trop. À chaque fois qu'il y

a

eu des vagues d'innovations massives, on a prédit la disparition des emplois et en fait, il y

a

eu une réallocation. Vous dites

que

c'est

la

destruction

créatrice, au fond, il y aura une phase et ça recréera des emplois. Oui, le problème, c'est la vitesse et l'ampleur de cette destruction.

C

'est-à

-dire

que quand ça va très vite et très fort, si vous n'avez pas une organisation de la société qui est suffisamment puissante pour accompagner, vous avez beaucoup beaucoup de destruction sociale. Mais vous voyez, l'année dernière, il n

'y a

jamais eu autant d'interne en radiologie aux Etats-Unis alors que la radiologie,

c

'est un des métiers qui est les plus fortement perturbé par l'intelligence artificielle. Pourquoi ? Parce qu'une intelligence artificielle abondante fait baisser le coût d'une radio et donc on pourra faire des radios beaucoup plus facilement et donc la demande de radio va augmenter et donc on aura plus de radiologues. Donc il y a ce qu'on appelle en économie des effets de G1. La réalité, c'est qu'on n'en sait rien et que le principal problème aujourd'hui, je suis d'accord avec Jean-Louis, je pense que c'est d'abord souveraineté. L'IA, c'est une infrastructure.

C'est comme l'électricité ou l'eau, quand on a équipé la France en ligne électrique, quand on a électrifié le pays, l'IA demain, ça sera pareil.

C'est

-à

-dire

que vous aurez de l'intelligence machine qui circulera dans les entreprises, dans les maisons et donc il faut s'assurer premièrement qu'il y

ait

un niveau minimum de sécurité et deuxièmement,

il

faut s'assurer que cette intelligence ne soit pas contrôlée par des acteurs extérieurs à l'étranger qui peuvent l'arrêter ou la biaiser à tout moment parce que, je vous donnais un exemple très concret. Aujourd'hui, dans les banques ou dans les assurances, vous avez des gens très sérieux qu'on appelle les actuaires qui font des scoring de crédit, qui calculent les polices d'assurance, etc.

On

pense que demain, ça sera en grande partie des intelligences artificielles qui feront ça. Si les fournisseurs de modèles, si les fournisseurs de logiciels qui remplacent les humains viennent des Etats-Unis, imaginez un Trump 2 qui arrive au pouvoir et qui dit je tourne le bouton ou imaginez un acteur malveillant qui empoisonne les modèles. Eh bien, c'est toute une économie européenne qui peut se retrouver à l'arrêt. Donc, l'enjeu de résilience et de souveraineté, il est absolument majeur.

Alors, il y a une autre analogie et on va en parler dans un instant, juste après un petit tour au standard. C'est le nucléaire, évidemment. C'est cette technologie qu'il faut savoir maîtriser car sinon, elle peut nous dépasser avec des risques laitaux. Donc, j'accueille Philippe au standard d'Inter. Bonjour, bienvenue Philippe. Vous avez précisément une question à poser sur la régulation. Oui, bonjour, Philippe Batreau. Bonjour. Les invités tout à l'heure en parlaient de l'incident d'Openailly. Alors, cet incident m'a tellement frappé que j'en ai fait un roman, Révolution artificielle qui vient de sortir à partir des deux rapports d'enquête aux éditions Épistrof.

et ma question à vos invités face à une IA qui va toujours plus vite que la loi, faut-il miser sur une régulation par les autorités ou sur une

co

-régulation avec les entreprises et la société civile

?

Comment on régule ? Deux choses. D'abord, impossible de faire une régulation que par les gouvernements parce que les modèles de frontières, il n

'y

a que les chercheurs dans les laboratoires d'IA de frontières qui sont capables de comprendre vraiment ce qui se joue.

C'est quoi les modèles de frontières ?

C'est les modèles qui sont à la pointe. Aujourd'hui, c'est Astra chez OpenAI. Moi, je souscris à ce qu'a proposé Demi Sassabis, le fondateur de DeepMind qui dit qu'il faut une espèce d'organe de coordination où il y a à la fois des représentants des gouvernements et des représentants de ces grands labos d'IA qui puissent, avant la sortie, la mise sur le marché d'un modèle de frontières, conduire à un audit approfondi. Par parenthèse, Jean-Louis parlait tout à l'heure de l'aérien, de l'aviation. Vous parliez, Florence, du nucléaire. Toutes les industries un peu dangereuses et un peu sérieuses, la chimie, le nucléaire, l'aviation, ont une culture de la sécurité très approfondie.

C'est de la

régulation.

Et

de la régulation.

De la régulation et de la sécurité. Et personne ne dit que c'est de la réglementation inutile. Mais à

ceci près, David Jay, est-ce que l'un des principaux acteurs, si ce

n

'est le principal acteur de l'intelligence artificielle d'aujourd'hui ou le principal pays, les Etats-Unis, ont un président, Donald Trump, qui dit on ne veut pas de régulation parce que sinon on va prendre du retard et on va se laisser dépasser par la Chine ? Comment est-ce qu'on instaure un climat de régulation que ce soit à travers les acteurs économiques ou les Etats avec un pays comme les Etats-Unis qui n'en veut pas

?

Vous savez,

quand Biden a quitté le pouvoir, son conseiller Jake Sullivan à la sécurité intérieure a dit, on l'a interrogé, on lui

a

dit c'est quoi pour vous dans les dix prochaines années le plus grand danger ? Et il a dit le plus grand danger c'est qu'il

y

a dix projets Manhattan qui sont actuellement menés

aux Etats-Unis. C'était projet pour la bombe

nucléaire. Mais il a dit le problème c'est que ces projets Manhattan ils sont développés par des intérêts privés. Moi ce qui en fait m'inquiète maintenant quatre ans après c'est qu'on a un gouvernement américain et une maison blanche qui sont encore plus irresponsables que les patrons privés de ces laboratoires d'IA. Donc effectivement moi je pense qu'aujourd'hui la plus grande menace pour l'intelligence artificielle pour les risques de l'intelligence artificielle s'appelle Donald Trump.

Alors sauf que dans le même temps on note qu'hier le chef du renseignement chinois a exprimé lui aussi des inquiétudes sur les risques de l'IA malgré la concurrence féroce entre la Chine et les Etats-Unis on sait que Trump va rencontrer Xi Jinping la semaine prochaine à Washington est-ce que malgré tout un dialogue est possible entre ces deux mastodontes de la technologie que sont la Chine et les Etats-Unis ? Est-ce qu'on peut avancer ?

Est

-ce qu'ils vont pouvoir avancer

?

C'est encore plus de la science-fiction de prédire ça que de prédire l'impact de l'IA sur la société et c'est très difficile de comprendre en tout cas pour un industriel français les enjeux et surtout la compréhension qu'en ont les dirigeants des enjeux parce qu'il peut y avoir des enjeux et ils peuvent très bien ne pas les comprendre et je crois que c'est le cas dans les deux cas donc il ne

faut

pas trop faire confiance au gouvernement actuel pour avoir une bonne vision de ce que vous voulez dire

les robots Juste Jean-Luc Constanza puisqu'on parle de régulation vous par exemple vos exosquelettes vos robots humanoïdes la régulation dont vous faites l'objet c'est quoi concrètement

? Alors

nous c'est très visible et très simple parce que les robots qu'on met dans les usines et Wondercraft on est les premiers en Europe à mettre des robots dans les usines et on est même probablement en avance sur nos amis chinois donc on est très confrontés à la sécurité des robots et un des points qu'on a développé avec notre partenaire Renault c'est d'ailleurs de faire des robots sur ce qui est encore plus important que des robots performants parce que dans une usine la sécurité est absolue enfin on lui demande d'être absolue il y a une réglementation industrielle dès aujourd'hui qui s'appelle la directive machine en Europe qui est exactement la même à peu près aux Etats-Unis et à peu près partout dans le monde qui impose un certain nombre de performances principalement en termes de sécurité et nous la suivons comme n'importe qui qui essaye de mettre un objet dans une usine et sur la partie IA de nos robots il y a toute une série de dispositions et dans la directive machine pour les robots et par ailleurs du marque HCE et de la FDA aux Etats-Unis l'agence fédérale pour les médicaments donc aussi pour les dispositifs médicaux

qui

sont très avancés sur la compréhension de ce qu'une IA doit faire et ne pas faire

David Jay le

point de Jean-Louis est très important c'est-à

-dire

que je pense que dans l'industrie et la robotique en fait partie la culture de la sécurité est très importante dans le monde de l'IA où on est plutôt sur des jeunes ingénieurs en suite à capuche de 25 ans moi je ne citerai pas qui c'est mais un patron de l'ABODIA pas français m'a dit il y a deux mois on a multiplié par quatre les effectifs de nos équipes de sécurité au bout de deux mois ce qui montre qu'en fait il y a une forme d'inconscience aussi et on se lance dans ces aventures-là sans bien mesurer en fait l'impact sur la sécurité et il faut développer une culture de la sécurité de niveau industriel

Merci beaucoup on va conclure là-dessus donc on comprend qu'en l'occurrence le problème commence à être assez prégnant et prise en compte merci Jean-Louis Constanza et merci David Jays je rappelle le titre de votre excellent roman La méthode paru chez Stock merci d'être venu nous éclairer tous les deux ce matin