Intelligence artificielle : quels bouleversements pour demain ? : L'IA rendra-t-elle un jour la justice ?

France Culture, question du soir. Quentin l'a fait. A la fin du mois de décembre, le barreau de Paris et l'entreprise Mistral AI ont conclu un partenariat pour permettre à des cabinets d'avocats de bénéficier gratuitement d'outils d'intelligence artificielle. Cependant, l'usage de l'IA dans le domaine de la justice suscite des inquiétudes qui touchent à la philosophie du droit, à la manière de rendre la justice, aux grands principes qui font d'un procès équitable, à la dimension humaine surtout de la chose jugée. Alors l'IA va-t-elle remplacer les avocats et les juges ? Rendra-t-elle un jour la justice ? Trois invités pour en discuter, pour en débattre même ce soir, Sandrine Zientara-Loget.

Bonsoir. Bonsoir. Vous êtes magistrate, présidente de chambre à la cour de cassation, directrice du service de communication, des études et du rapport de la cour de cassation. A vos côtés, Camille Girard-Chanudet. Bonsoir. Bonsoir. Vous êtes post-doctorante en sociologie au centre Norbert Elias. Vous avez soutenu en 2023 une thèse intitulée « La justice algorithmique en chantier, sociologie du travail et des infrastructures de l'intelligence artificielle ». Et nous serons rejoints dans quelques instants par l'avocat Vincent Brenngart qui est coincé actuellement dans la tempête de neige qui traverse Paris. Il est avocat au barreau de Paris justement en droit pénal et liberté publique.

Il est essayiste et il signe aux éditions Dialogue l'ouvrage intitulé « À armes inégales ». Face au juge, le policier est-il un citoyen comme les autres ? Merci à vous deux prochainement, à vous trois d'être présents ce soir dans « Question du soir ». Et première question à la fois simple et vaste, Sandrine Zientara-Loget, lorsque l'on parle d'intelligence artificielle et de justice, lorsqu'on évoque justement ces deux sujets, les algorithmes et la justice, on a souvent le sentiment que dans deux ans, dix ans, vingt ans, des juges seront même plus à même de rendre par eux-mêmes la justice, qu'ils seront peut-être un jour remplacés par des intelligences artificielles.

Vous qui menez de front cette réflexion à la Cour de cassation, qu'en est-il ? Nos magistrats seront-ils un jour remplacés par des IA ?

Merci beaucoup pour cette question qui appelle, je crois, une réponse très directe. Non. Je ne crois vraiment pas que les magistrats sont appelés à être remplacés par l'intelligence artificielle. Ils sont appelés à être assistés, augmentés par l'intelligence artificielle, mais certainement pas remplacés. D'une part, ce serait légalement impossible, en droit européen, mais aussi en droit français. Une décision ne peut pas être entièrement automatisée. D'autre part, à mon sens, ce serait techniquement impossible.

Alors, je sais que les progrès de l'intelligence artificielle générative sont fulgurants, et qu'on parle maintenant d'une super-intelligence capable d'émotions, capable de stratégies, mais on n'y est pas, et je ne vois pas de ce point de vue-là comment techniquement ce serait possible. Et puis enfin, je crois vraiment que, éthiquement, ça n'est pas acceptable, pour différentes raisons qui sont liées à la fois à l'humanité de la justice, qui est une institution de la relation, qui sont liées à ce qu'est le raisonnement juridique, et qui sont liées à un certain nombre de droits fondamentaux, qui seraient, à mon sens, menacés si le juge était remplacé par une intelligence artificielle.

Camille Girard-Chanudet, je redonne le titre intéressant, passionnant même, de votre thèse, la justice algorithmique en chantier. On comprend bien que cette intelligence artificielle, elle pénètre peu à peu dans le domaine de la justice. Est-ce que vous êtes d'accord avec ce qui vient d'être dit ? Jamais l'intelligence artificielle ne remplacera les juges, les magistrats. C'est quasiment un engagement que vous pouvez prendre ce soir ?

Oui, j'irais tout à fait dans le sens de l'intervention précédente, d'autant plus qu'à mon sens, il est important, pour commencer en parlant de ce sujet, de déconstruire un peu qu'est-ce que c'est l'intelligence artificielle. On parle de cet objet comme si c'était un objet quasiment magique, tombé du ciel, qui viendrait remplacer les professionnels du droit. En fait, quand on regarde en pratique de quoi on parle, il y a beaucoup d'outils différents. Des outils qui sont des outils d'aide à la rédaction, des outils qui servent à anonymiser les décisions de justice, comme c'est le cas à la Cour de cassation, des outils d'analyse du contentieux.

C'est des outils, il y a quasiment autant d'outils que de contextes dans lesquels ils sont mis en œuvre et dans lesquels ils viennent s'articuler plus ou moins étratement avec la pratique des professionnels sur le terrain qui sont nécessaires, absolument nécessaires, pour accompagner, corriger, surveiller les résultats qui sont produits par ces dispositifs algorithmiques.

Mais qu'est-ce qui vous permet, entre guillemets, je le dis d'une manière provocante, mais d'être si sûr de vous, si je puis me permettre, comment êtes-vous certaine que jamais une intelligence artificielle, encore une fois un algorithme qui se fonderait sur une macro-analyse des décisions d'ores et déjà rendues par la justice, pourrait elle aussi rendre des décisions de justice ? Camille Gérard-Chanudet, pour commencer.

Pour moi, il y a une question de formulation de la question. Pour moi, on n'est pas tant dans est-ce que l'intelligence artificielle va remplacer les professionnels du droit, mais plutôt qui se trouve derrière cette intelligence artificielle ? L'intelligence artificielle, comme je le disais, n'est pas un objet autonome qui tomberait du ciel, mais c'est des outils qui sont conçus par des personnes. Vous parlez de l'outil qui est conçu par Mistral, qui vient de conclure un partenariat avec le barreau de Paris.

Mistral, c'est une entreprise avec des concepteurs, on a des ingénieurs, des data scientists, des annotateurs, qui participent à tout ce travail de façonnage d'un outil qui va ensuite pouvoir, en effet, produire des résultats. Mais ce n'est pas des résultats automatiques qui seraient tombés de nulle part. On a éventuellement des déplacements, en effet, du travail. L'intelligence artificielle, elle ne supprime pas le travail, elle ne remplace pas les acteurs, mais en effet, elle déplace le travail, elle le transforme, elle le recompose. Et pour moi, c'est plutôt cette question-là à laquelle il faudra s'intéresser dans les prochaines années qu'à la question du remplacement.

On va s'y intéresser, évidemment, mais je continue de creuser un petit peu. Je ne comprends pas en quoi votre réponse, justement, nous éclaire sur le fait que l'intelligence artificielle, d'une manière technique, autonome, peut-être en parallèle des magistrats actuellement, sera à même techniquement de rendre une décision de justice, j'ai envie de vous dire, à ce stade de la réflexion, peu importe qui se trouve derrière, non ?

Tout est la question aussi de qu'est-ce qu'on considère comme une décision de justice. La décision de justice, aujourd'hui, c'est l'acte, le résultat de l'acte des magistrats, c'est défini de cette façon-là. En effet, l'intelligence artificielle peut produire un texte qui ressemble à une décision de justice. La question, ça va être, est-ce que collectivement, est-ce que politiquement, on a envie d'opérer cette transformation-là, et de considérer qu'un acte généré automatiquement peut être une décision de justice ?

Je pense que les professionnels du droit, et notamment les magistrats, sont des professions qui disposent de nombreuses ressources pour défendre leur légitimité professionnelle à produire des décisions de justice, et que dans cette mesure-là, notamment parmi plein d'autres raisons, c'est en effet pro-probable, et c'est en ça que je rejoins votre intervention, que les décisions soient rendues automatiquement. Sandrine Interallogé ? Oui, alors je partage complètement ce que vient de dire Camille. Votre question, d'abord, quant à l'affaire, est difficile, parce qu'elle est prospective, et je ne suis pas scientifique, donc je ne suis pas en capacité, évidemment, de prédire ce que sera l'avenir.

Mais c'est pour ça que je m'interroge sur vos certitudes partagées. Mais c'est parce que c'est un choix éthique, en fait, par ce nom un peu rapide que j'ai immédiatement énoncé, je veux dire qu'il ne faut pas plus que ça ne sera pas. Et je crois à cet égard qu'il faut vraiment préserver l'humanité de la justice et qu'en l'État, on sait qu'il y a un risque épistémologique par rapport à ce qu'est le raisonnement juridique que de le confier à une intelligence artificielle.

Lequel alors ?

Alors lequel, il y a le fait que dans le raisonnement juridique, Carbonnier disait déjà que le raisonnement juridique n'était pas un pur syllogisme.

Carbonnier rend grand professeur.

Et c'est quelque chose qui me paraît une évidence en tant aussi que praticien du droit. Tout raisonnement juridique n'est pas modélisable par une IA, n'est pas réductible à un calcul objectif et prévisible. Il y a une part, par exemple, d'analyse conséquentialiste où on va prendre en compte des éléments d'évolution sociale, sociétale, économique, éthique. Il y a aussi, alors notamment dans une Cour suprême comme la Cour de cassation, mais aussi pour les juridictions du fond, la nécessité parfois de conduire une analyse axiologique, de mener un contrôle de proportionnalité.

Axiologique, c'est-à-dire fondée sur les valeurs. Sur les valeurs.

Et il me semble que ce sont des domaines qui ne peuvent pas, ne doivent pas être confiés à une intelligence artificielle. Et juste pour terminer et expliquer pourquoi j'ai été si affirmative tout à l'heure, c'est qu'à l'heure actuelle, dans le monde, il n'y a, semble-t-il, aucune justice entièrement robotisée. Je tire cela du dernier rapport de la CPEJ sur les développements de l'intelligence artificielle, essentiellement en Europe, mais aussi dans le monde. Donc, je crois qu'on est quand même très loin de cette justice robotisée, même si sur des contentieux très simples, barémisables, de masse, la question se pose.

Mais il y aura, à mon sens, toujours un contrôle humain et il faut surtout poser la règle selon laquelle le juge pourra toujours s'écarter d'une solution proposée par l'IA pour l'adapter aux spécificités de la situation et pour faire preuve aussi de subjectivité, d'attuition. Et maintenir ce principe

fondamental de l'individualisation de la peine et du procès. On va y revenir car ça soulève des questions fondamentales. Mais avant cela, Camille Girard-Chanudet, sur le plan technique, j'allais dire, qu'est-ce que l'IA ne peut pas réaliser aujourd'hui du point de vue du raisonnement juridique ? Où sont ces limites ?

Il y a quelque chose d'assez intéressant avec l'intelligence artificielle. Alors, celle dont on parle aujourd'hui, c'est-à-dire l'apprentissage automatique qui sont des outils qui traitent de façon massive des données fournies en entrée et qui produisent ces résultats à partir de cette analyse statistique massive des données fournies en entrée. Le fonctionnement de ces outils-là, c'est un fonctionnement probabiliste.

C'est-à-dire qu'on va analyser des milliers, des dizaines de milliers, voire des millions de décisions de justice et à partir de cette analyse-là, on va pouvoir prédire, par exemple, prédire, je mets tous les guillemets possibles autour de ce terme-là l'issue possible d'un prochain contentieux, par exemple. Statistiquement. Statistiquement, à partir de l'analyse de données fournies en entrée. On est sur un mode de raisonnement qui est un mode de raisonnement algorithmique, probabiliste, mathématique, qui est un mode de raisonnement complètement différent au mode de raisonnement juridique dont Sandrine parlait tout à l'heure.

Le syllogisme juridique, cette articulation d'une règle de droit abstraite, théorique et des faits particuliers d'une affaire qu'il va falloir sans cesse articuler. L'expertise juridique, l'expertise des professionnels du droit, c'est celle-ci spécifiquement qui vient se confronter, parfois se heurter ou alors entrer en complémentarité, c'est selon les situations, mais avec cette autre façon de traiter l'information qui est en tout cas pas du tout la même.

Pour bien comprendre ce qui est dit, ce qui est explicité là, Sandrine de Zientaralogès, cela signifie qu'une intelligence artificielle serait incapable de produire de la jurisprudence, c'est-à-dire de juger comme cela n'a pas toujours été le cas en l'occurrence ?

Exactement, je crois que vous mettez le doigt sur l'essentiel. Certains disent de l'intelligence artificielle que c'est un perroquet stochastique, c'est-à-dire que l'intelligence artificielle ne résonne pas, elle n'innove pas.

Stochastique, c'est-à-dire statistique ?

Voilà, statistique de répétition de ce qui a été. Elle va créer, elle va générer une solution, mais cette solution ne peut pas être innovante et c'est la raison pour laquelle on ne peut pas se contenter d'un juge automatisé, outre les raisons humaines que j'évoquais tout à l'heure, parce que la jurisprudence se doit d'évoluer pour s'adapter aux évolutions sociales, sociétales, économiques, environnementales, par exemple.

Bonsoir Vincent Brengard. Merci d'avoir bravé la neige et de nous avoir rejoint un peu plus tard. Vous avez signé dans le journal Le Monde une tribune qui met en lien justement la profession d'avocat et l'intelligence artificielle. Je vous cite « L'irruption de l'IA induit indéniablement pour un certain nombre de professions un bouleversement dont nous ne pouvons pas encore mesurer la portée. Il s'agit à n'en pas douter de la fin d'une ère. La technologie n'accompagne plus simplement la pensée, elle prétend la remplacer. Les avocats n'échappent pas à cette révolution technologique.

Si les applications de l'intelligence artificielle peuvent favoriser l'exécution d'un certain nombre de tâches on y reviendra accélérer la sacro-sainte productivité elle n'en demeure pas moins des menaces pesantant sur la pratique de notre profession que sur sa philosophie fin de citation. En quoi la philosophie de la profession d'avocat est-elle aujourd'hui menacée du moins ébranlée par l'intelligence artificielle ?

Je pense qu'en fait c'est une mutation technologique qui n'a pas uniquement un effet sur l'efficacité et sur la productivité mais qui est aussi un changement philosophique dans la conception que nous avons de la profession c'est-à-dire que moi j'ai par exemple évolué avec des avocats d'une soixanteaine d'années qui écrivaient leurs conclusions à la main qui les faisaient dactylographier et on leur a dit au départ internet l'ordinateur là aussi c'était des innovations et on a pensé que ça pouvait avoir une incidence sur leur manière de travailler et il y a eu une incidence mais en fait c'était une incidence qui a permis une accélération dans le traitement de l'information une accélération surtout dans la capacité de produire des écritures dans la capacité de produire de produire du travail maintenant la différence fondamentale me semble-t-il avec l'intelligence artificielle c'est que on n'est pas simplement sur un rapport de productivité on est sur une intelligence de substitution intelligence de substitution parce que même si vous avez encore et je le vois bien même au cabinet par rapport aux jeunes générations que nous pouvons avoir qui sont soit en stage soit des juristes soit des juristes en formation finalement vous avez un peu deux écoles vous avez la première école qui ne va pas se confronter et qui ne va pas avoir d'esprit critique à l'égard du résultat obtenu par le biais d'une recherche par le biais de l'intelligence artificielle c'est-à-dire

pardonnez-moi ces professionnels vont utiliser l'intelligence artificielle parce qu'elles sont confrontées à un problème juridique et elles vont prendre pour argent comptant le résultat proposé par l'IA générative

c'est exactement cela c'est-à-dire que déjà un premier point c'est que aujourd'hui l'intelligence artificielle est de plus en plus utilisée dans les cabinets d'avocats elle est de plus en plus utilisée dans les cabinets d'avocats parce qu'elle devient quasi incontournable en transparence

avec vos clients ?

en transparence avec nos clients après en tout cas moi je ne peux pas évidemment m'exprimer pour la totalité de la profession mais nous nous pouvons parfaitement l'évoquer elle est utilisée à deux titres elle est utilisée non seulement par exemple pour des tâches qui sont des tâches relativement basiques par exemple la rédaction de courrier typiquement via le chat de GPT et elle est utilisée également par exemple pour des recherches juridiques et cette fois avec soit d'ailleurs chat de GPT soit des logiciels qui sont des logiciels qui sont plus adaptés et qui sont développés par des éditeurs juridiques éditeurs juridiques qui aujourd'hui sont de plus en plus en capacité d'ailleurs de même de faire des modèles d'actes et en tout cas de tendre vers un quasi travail fini et par rapport à ces deux écoles moi ce dont je me rends compte c'est que vous avez aujourd'hui parfois des juristes des juristes en formation qui viennent auxquels vous allez demander par exemple une recherche et puis qui vont venir avec le fruit de la recherche qui va peut-être contenir la bonne réponse mais qui seront en fait dans l'incapacité de vous expliquer le raisonnement ou les raisons pour lesquelles ce serait cette solution et pas une autre et ça je pense que c'est assez dramatique parce que moi la manière en tout cas dont j'ai appris le droit c'est que tout est aussi dans la recherche parce que lorsque vous avez une solution juridique en fait tout le raisonnement ça consiste aussi à penser pourquoi est-ce que vous avez écarté telle ou telle solution et c'est pas uniquement dans le fait d'avoir la bonne réponse mais c'est dans une capacité de raisonnement et si vous la substituez et si bien c'est l'intelligence officielle qui s'en occupe et bien de fait vous la perdez et puis il peut y avoir une tendance à l'assistanat

Camille Gérard Chanudé en tant que sociologue du travail comment est-ce que vous analysez ce discours est-ce que c'est une crainte au fond pour la profession d'avocat et je vous redonnerai évidemment la parole pour votre métier la richesse de ce que permet votre profession ou est-ce que c'est une crainte plus généralement pour l'intérêt général j'ai dit à dire pour la qualité du service rendu au client

oui c'est assez intéressant en fait je pense qu'on a un enjeu avec l'intelligence artificielle à la resituer aussi dans une dynamique historique longue les dynamiques dont vous parlez en effet elles sont à l'oeuvre aujourd'hui mais elles n'arrivent pas avec l'intelligence artificielle on a beaucoup de dispositifs qui depuis des décennies voire beaucoup plus longtemps finalement cherchent déjà à cadrer à automatiser les pratiques professionnelles dans le domaine du droit je pense à des trames de rédaction à des barèmes à des référentiels l'intelligence artificielle elle s'inscrit en continuité de ces outils là elle pose des problématiques spécifiques mais je pense que c'est des questions qui ont déjà habité en fait depuis longtemps les professionnels du droit et qui vient en effet bousculer des pratiques et qui interroge sur comment est-ce qu'on forme à l'usage de ces outils là en effet aujourd'hui avec l'intelligence artificielle notamment l'IA générative les professionnels ne sont pas encore formés sont en tout cas en train d'être formés à ces outils là la question c'est formé aussi à ce que peut faire ne peut pas faire l'IA en effet une IA générative je le disais tout à l'heure les IA fonctionnent de façon probabiliste donc quand l'IA va générer un texte elle va générer un texte qui a des probabilités d'être vrai mais n'est pas certainement vrai donc les IA se retrouvent par exemple à générer des plaidoiries qui citent des cas passés complètement factices parce que c'est ce que fait l'IA générative bon ben là on est un peu dans un moment à mon sens en tout cas d'entre deux où on n'est pas encore formés les professionnels du droit mais les professionnels au-delà du monde du droit aussi ne sont pas encore forcément formés à ce mode de fonctionnement de l'intelligence artificielle et du coup l'utilisent pour lui faire faire des choses que ses outils ne savent pas faire et donc pour moi on a un enjeu de démystification de l'IA aussi justement c'est cet outil soi-disant magique comme je le disais on a l'impression qu'on peut tout lui faire faire quand on comprend ce qu'est l'IA comment elle fonctionne qu'elle fonctionne à partir de l'analyse statistique probabiliste de données qu'on va pouvoir avoir tels ou tels usages on pourra reparler des usages qui ont son fait à la cour de cassation j'imagine on peut l'orienter vers des finalités qui peuvent servir les professionnels du droit quand on ne sait pas l'utiliser en effet on peut aussi aboutir à des finalités problématiques pour la profession

Vous avez employé un peu plus tôt dans cette conversation Sandrine Zentaraloget une expression celle de magistrat augmenté celle de magistrat assisté et à la place de magistrat remplacé par l'intelligence artificielle concrètement là aussi dans le travail quotidien du magistrat ce serait quoi dans 2, 5 ou 10 ans un magistrat assisté ou augmenté par l'intelligence artificielle

alors l'intelligence artificielle est certainement capable de faire gagner beaucoup de temps au magistrat comme aux avocats on peut lui déléguer un certain nombre de tâches chronophages et sans grande valeur ajoutée humaine on peut aussi accélérer gagner un peu de temps dans la recherche juridique même si après il y a toujours un travail de vérification humaine très important à effectuer puisque l'IA peut se tromper et l'IA on l'a vu à ses limites et puis l'IA peut aussi avoir un atout intéressant qui n'est pas cette fois mesurable en termes d'efficacité de la justice mais bien plutôt de qualité par exemple l'IA et c'est comme ça qu'on entend l'utiliser à la cour de cassation par exemple permet de repérer dans les pourvois qui arrivent les connexités intellectuelles entre les pourvois et donc de les traiter ensemble les requêtes qui saisissent qui permettent aux justiciats par l'intermédiaire d'un avocat au conseil de saisir la cour de cassation donc ces dossiers posent souvent des questions de droits nouvelles des questions de droits émergentes il y a parfois des litiges sérielles et par l'intelligence artificielle on peut les repérer et à ce moment là rationaliser la manière dont on les audience pour les traiter en même temps et voir un problème dans toutes ses implications dans toute sa complétude juridique et puis l'autre rapport incommensurable de l'intelligence artificielle c'est la possibilité d'analyser une grande masse de données jurisprudentielles et ça ça peut permettre d'avoir une justice aussi plus éclairée qui a une vision au niveau de la cour suprême par exemple des grandes tendances de la juridiction du fond ça vient enrichir en fait le débat juridique et ça ça augmente à mon sens la capacité du juge parce que ça élargit son champ de vision sans toutefois d'aucune manière porter atteinte à son office

Est-ce que ça vous effraie cette notion Vincent Brengart en tant qu'avocat cette notion de magistrat assisté par l'intelligence artificielle de magistrat augmenté est-ce que le poids j'allais dire d'un travail mené par l'intelligence artificielle pourrait être influé d'une mauvaise manière moins humaine sans doute que ce qui se déroule dans le cadre d'une cour tout simplement est-ce que cela c'est quelque chose qui peut effrayer l'avocat que vous êtes

Oui très clairement parce que c'est pas tant finalement cette vision que je rejoins pour partie que le fait qu'elle s'inscrive en fait à un temps donné et surtout moi la projection qui m'inquiète c'est-à-dire qu'autant aujourd'hui on pourrait estimer effectivement qu'il y aurait une capacité d'augmentation intellectuelle parce qu'en fait nous nous avons la chance en fait d'avoir eu des formations qui étaient des formations soit de papier soit un moment où les outils n'étaient pas aussi développés et par conséquent en fait nous abordons l'intelligence artificielle parce qu'elle n'était pas inscrite dans nos diplômes universitaires comme étant un outil complémentaire à la formation intellectuelle que nous avons reçue ce qui n'est pas le cas

pour les générations à venir

mais bien sûr parce que même pour reprendre l'exemple d'ailleurs du travail et de l'augmentation du travail ne serait-ce que sur une question de recherche juridique ou de conclusion vous utilisez l'intelligence artificielle par gain de temps vous allez demander vous allez poser une question à l'intelligence artificielle vous allez lui demander de rédiger des conclusions ou des écrits pour telle ou telle matière mais étant donné en fait les connaissances quasi abyssales que va avoir l'intelligence artificielle comment allez être vous en capacité de pouvoir vérifier et de contrôler les informations parce que ce gain de temps que vous allez avoir en faisant usage de l'intelligence artificielle vous allez le faire disparaître au moment de la vérification et du contrôle des sources qui prend en fait quasiment autant de temps que si vous aviez établi vous-même la recherche

je vous pose une question naïve si on pourrait aussi se dire dans 5 ans 10 ans après tout l'intelligence artificielle ne commettra pratiquement plus ce type d'erreur et ce sera simplement une aide un appui vous n'aurez pratiquement plus à vérifier ce qu'elle vous soumet

mais dans ce cas ça veut dire aussi que si nous n'avons plus à vérifier ce qu'elle soumet ce sera aussi bien valable pour les avocats que les magistrats c'est à dire que puisque précisément vous allez avoir et on serait susceptible d'avoir des écrits d'un approfondissement extraordinaire inhumain par nature inhumain de fait le contrôle qui va intervenir ce sera un contrôle d'intelligence artificielle et moi je crains une société d'opposition entre des écrits d'intelligence artificielle et un contrôle qui soit celui aussi d'intelligence artificielle et après un deuxième point moi c'est plutôt une conception après si je peux dire si je devrais la qualifier un peu romantique de la profession d'avocat et de la profession de justice où je considère que c'est une profession qui nous lie déjà en tout cas la matière du droit nous lie en tant que société nous lie à travers les mots nous lie à travers l'établissement du droit et en fait si on commence à avoir une approche qui soit neutre du point de vue technologique il y a une déperdition de cette dimension il y a une déperdition en fait de son caractère humain parce que et c'est pas un magistrat je pense qui pourra me détromper aujourd'hui vous avez des décisions de justice et notamment en matière judiciaire peut-être même plus qu'en matière administrative qui sont rendues selon la règle de l'équité et pas forcément celle de la légité pas forcément celle du légalisme c'est-à-dire que si aujourd'hui vous opposez une intelligence artificielle extrêmement développée elle va aussi perdre cette capacité d'équité et cette capacité en fait émotionnelle que vous ne pouvez pas avoir si vous ne rencontrez pas les personnes que vous ne pouvez pas avoir si vous avez une appréciation en fonction de ce que vous êtes et en fonction du vécu aussi que vous avez

à ce titre je voudrais vous faire entendre l'extrait d'un texte signé Paul Ricoeur un extrait de l'acte de juger paru en 1995 l'horizon de l'acte de juger c'est finalement plus que la sécurité la paix sociale la finalité de la paix sociale fait apparaître en filigrane quelque chose qui touche à la reconnaissance mutuelle ne disons pas réconciliation parlons encore moins d'amour et de pardon qui ne sont plus des grandeurs juridiques parlons plutôt de reconnaissance mais en quel sens je pense que l'acte de juger a atteint son but lorsque celui qui a comme on dit gagné son procès se sent encore capable de dire mon adversaire celui qui a perdu demeure comme moi un sujet de droit sa cause méritait d'être entendu il avait des arguments plausibles et ceux-ci ont été entendus mais la reconnaissance ne serait complète que si la chose pouvait être dite par celui qui a perdu celui à qui on a donné tort le condamné il devrait pouvoir déclarer que la sentence qui lui donne tort n'était pas un acte de violence mais de reconnaissance Je trouve passionnante cette notion de reconnaissance dans la justice passionnante et féconde plus encore Sandrine Zentera-Loget si on se projette là aussi encore une fois à 5 ans 10 ans dans un monde où l'intelligence artificielle pourrait être assistée même un peu plus qu'assister les magistrats que devient cette notion de reconnaissance au fond la dimension humaine de la chose jugée

Oui alors comme je l'ai dit tout à l'heure en réponse à votre première question il faut éviter à tout prix une justice qui serait robotisée parce qu'alors cette finalité longue Ricœur dans d'autres textes parle de finalité longue du procès ne peut pas se réaliser il est évident que le procès le procès en présentiel est essentiel est essentiel Tom Tyler a aussi démontré que l'acceptabilité d'une décision de justice alors en matière pénale mais aussi en matière civile tient autant à sa nature qu'à la manière dont elle est rendue il est évident qu'il faut considérer toujours le justiciable comme digne de considération comme un sujet une personne à part entière c'est essentiel pour que la justice remplisse cette finalité je suis vraiment bien sûr complètement convaincue comme beaucoup de mes collègues parce que les propos qu'on vient d'entendre de Ricœur mais alors je reviens à l'IA si l'IA fait gagner un peu de temps elle permet peut-être de consacrer plus de temps au justiciable de consacrer plus de temps à l'audience et à ce temps qui permet de réaliser la reconnaissance mais alors j'en reviens un peu sur ce que j'ai dit tout à l'heure il y a plein de conditions à poser pour qu'on puisse réaliser pour rendre à la fois possible une justice augmentée par l'IA et une justice qui donne toute sa place à la personne et à la reconnaissance de la personne alors je rejoins complètement ce que vous avez dit maître sur la nécessité de formation la nécessité de contrôle

on va y revenir mais un principe d'abord qui peut être remis en cause par l'intelligence artificielle c'est le principe du contradictoire si le magistrat est assisté par une intelligence artificielle qui non pas qui lui dicte ce qu'il doit prendre comme décision mais qui lui trace un chemin possible et que le magistrat n'a pas le recul nécessaire pour se dire au fond ce n'est peut-être pas la bonne décision qu'on me soumet là que l'intelligence artificielle me propose est-ce que ce principe du contradictoire n'est pas n'est pas voué au néant Camille Girard Chanudet

en tout cas je pense qu'il y a quelque chose à interroger aussi par rapport à ça c'est en effet le professionnel du droit va avoir des difficultés éventuellement en fonction et là il faut remettre en contexte en fonction de la charge de travail en fonction de l'urgence dans laquelle il faut rendre le travail en fonction des moyens dont on dispose en juridiction dans une situation d'urgence à ne pas avoir les moyens de questionner la proposition qui lui est faite par l'intelligence artificielle mais là encore je pense que c'est essentiel de se réinterroger de ne pas dire la proposition qui lui est faite par l'intelligence artificielle mais par qui derrière l'intelligence artificielle par quels acteurs qui ont construit cette IA qui ont sélectionné les données qui les ont préparées pour l'entraînement qui ont calibré les modèles qui ont finalement cadré les résultats qui sont produits par l'IA ne sont pas des résultats hors sol et donc du coup ce principe du contradictoire en effet vient être questionné mais ne vient pas être questionné par l'intelligence artificielle mais par un écosystème d'acteurs qui vient se confronter arriver en tout cas aux portes du monde de la justice du monde des professionnels Sandrine

vous souhaitiez réagir sur ce point sur ce principe du contradictoire ébranlé possiblement ébranlé par l'intelligence artificielle

bien sûr vous avez raison l'intelligence artificielle son usage pose un certain nombre de questions par rapport aux règles du procès équitable et en particulier du principe du contradictoire et il faut y réfléchir et il faut y réfléchir collectivement bien entendu avec le barreau alors je précise qu'actuellement il n'y a dans la justice aucune solution pour les juridictions du fond pas d'usage de l'intelligence artificielle encore et en tout état de cause pour l'instant aucun projet d'aide à la décision par intelligence artificielle mais si un jour on devait par exemple officiellement

mais dans la pratique est-ce que les magistrats j'allais dire l'utilisent parfois dans le secret de leur bureau comme tout un chacun comme beaucoup beaucoup de professionnels dans des dizaines des centaines de secteurs

oui oui mais alors je il faut savoir que les IA généralistes pardon les IA génératifs généralistes sont vraiment pas du tout performantes en droit et que de surcroît un magistrat ne peut pas introduire des éléments d'un dossier dans une de ces IA puisqu'il y aurait atteinte évidemment au secret professionnel s'il le faisait après les IA proposées par les éditeurs juridiques et les légalités qui sont évidemment plus performantes mais aujourd'hui outre qu'il y aurait aussi ce problème de préservation du secret professionnel ces IA sont extrêmement coûteuses et à l'heure actuelle le ministère n'est pas abonné n'a pas abonné les magistrats à ces IA mais sur le principe du contradictoire ce que je veux dire par là c'est que si un jour on venait à avoir une proposition par exemple de solution ou un résumé de dossier par une intelligence artificielle de mon point de vue cela devrait être soumis au contradictoire par exemple on pourrait envisager puisque l'IA rédige très vite à des capacités de rédaction qui sont assez étonnantes on pourrait imaginer un rapport un résumé des faits par une intelligence artificielle et des prétentions des partis mais à mon sens il devrait être soumis à la contradiction à l'audience pour permettre une interactivité il faut vraiment utiliser l'IA dans le respect de nos principes fondamentaux Vincent Brengart je suis parfaitement d'accord sur le fait que ça pose une difficulté du point de vue du contradictoire du point de vue du procès équitable non seulement parce qu'il n'y aurait pas de transparence suffisante pour savoir s'il y a une utilisation de l'intelligence artificielle et après aussi pour questionner la question de la neutralité de l'intelligence artificielle qui est encore un autre débat pourquoi du point

du procès équitable est-ce qu'on pourrait se dire après tout les deux parties pourraient utiliser l'intelligence artificielle est-ce que l'IA favorise une partie plutôt que l'autre théoriquement

je pense que l'IA est susceptible en fait de favoriser une partie plutôt qu'une autre parce que à mon avis on va rapidement se retrouver dans une situation de concurrence des IA c'est-à-dire dans un nouveau marché on a souvent parlé évidemment de la question de la rupture du numérique et en fait il y a aussi des inégalités devant l'IA parce que par exemple vous pouvez avoir aujourd'hui des cabines d'avocats qui se dotent d'outils extrêmement performants et on y revenait tout à l'heure sur la question du coût des abonnements que ne peuvent pas avoir des structures plus petites et d'ailleurs c'est pour ça aussi que le barreau de Paris a dessiné une convention pour rendre accessible l'intelligence artificielle à des petites structures mais on voit que non seulement la tendance va être à se doter de ce prévu si ce n'est à les développer c'est ce que font certaines entreprises et ce que feront d'autres cabines d'avocats donc effectivement je trouve qu'il y a un point inhérent au principe du contraignatoire où même si on part toujours du principe que le juge est omniscient après tout l'intelligence artificielle ne serait que des connaissances que ce serait déjà sans savoir le magistrat mais ça interroge sur le fait de savoir se dire qu'il prendrait sa décision en fonction en fait d'un outil qui est un outil complémentaire mais que nous n'aurions pas forcément été en mesure de pouvoir déjuger de pouvoir nuancer et relativiser il y a un deuxième point qui me semble important par rapport aux propos que vous aviez tout à l'heure sur le fait que ce serait susceptible d'apporter si je puis dire de restaurer une dimension humaine humaniste à la justice la nuance que j'apporte à ce propos c'est que je crains aussi que l'intelligence artificielle s'inscrive dans un environnement multifactoriel où déjà la justice commence à dégrader c'est à dire qu'on a beaucoup dématérialisé la justice de plus en plus par exemple les audiences sont des audiences d'ailleurs il n'y a même plus d'audience je veux dire dans certains dans certains débats ce sont des procédures écrites on fait disparaître la question de l'oralité on fait disparaître le justiciable

le recours à la visioconférence augmente

d'une manière drastique que vous avez aussi le fait que nous sommes confrontés à des encombrements aussi bien des juridictions civiles que pénales on l'a bien révélé encore il y a quelques jours sur la question du nombre de procédures pénales qui doivent encore être traités et donc je pense malheureusement en fait que dans cet environnement on va percevoir l'intelligence artificielle non pas comme une possibilité en fait de restituer cette dimension cette dimension humaine mais en fait de favoriser encore une fois des moyens de productivité face en fait à une dégradation qui a été constante même si elle a connu quelques améliorations ces dernières années de la question des budgets qui sont alloués à la justice et de se dire tiens on aurait là en fait une solution de pouvoir apporter une solution à des problèmes qui sont en fait des problèmes récurrents que peut rencontrer la justice du point de vue des budgets du point de vue du nombre de dossiers qu'elle a traités

vous posez Camille Girard-Chanudet en filigrane depuis le début de cette émission cette question importante qui se loge derrière ces entreprises d'intelligence artificielle et qui pourrait par le truchement de l'IA participer à rendre des décisions de justice alors je vous pose cette question qui se loge derrière ces entreprises et notamment derrière celles que l'on appelle aujourd'hui les Legal Tech

Oui il y a quelque chose de très intéressant en effet sur le fait de prendre en compte le contexte justement le contexte de la justice le contexte des concepteurs de l'IA les Legal Tech donc ces entreprises qui produisent ces outils d'IA c'est des entreprises qui viennent de l'extérieur du monde de la justice pour la plupart les fondateurs des Legal Tech c'est en majorité des diplômés d'écoles de commerce des diplômés d'écoles d'ingénieurs qui contiennent de plus en plus de juristes mais qui à l'origine en fait viennent vraiment de l'extérieur des mondes du droit et qui viennent bousculer les frontières des mondes du droit et qui viennent aussi bousculer les frontières non seulement dans la conception des outils mais aussi dans les clientèles qu'elles développent et je pense que c'est un point complémentaire à ce qui a été dit juste avant sur le contexte d'exercice du droit un contexte qui est de plus en plus sous contrainte avec de moins en moins de moyens pour la justice les start-up de la Legal Tech essayent de vendre leurs produits professionnels du droit évidemment aux cabinets d'avocats qui sont des clients importants pour ces entreprises mais c'est des entreprises qui vendent aussi leurs solutions à d'autres acteurs et là je pense notamment aux compagnies d'assurance qui font partie des utilisateurs et des financeurs principaux de ces outils d'IA de ces outils d'IA prédictives notamment

qui font de leur modèle présent actuel sur l'intelligence artificielle absolument

et qui vont utiliser ces outils aussi pour appuyer un processus de déjudiciarisation d'une partie du contentieux en favorisant la gestion à l'amiable de litige qui vont du coup ne pas se retrouver face aux juridictions et ça à mon sens on a eu des discussions la prospective mais c'est quelque chose qui est en train de se produire aujourd'hui présentement appuyé par l'intelligence artificielle et la légitimité particulière cette légitimité algorithmique qu'elle confère à leurs utilisateurs et pour moi là on est sur un enjeu vraiment pressant de reconfiguration des équilibres professionnels appuyés par l'IA

Merci beaucoup à tous les trois de ces éclairages inquiétants parfois sur le devenir de la justice on est rassuré quand même que les professionnels comme vous soient au fait de ces évolutions majeures du point de vue technologique Sandrine Zientaraloger vous êtes magistrate présidente de chambre à la cour de cassation directrice du service de documentation des études et du rapport de la cour de cassation Vincent Braengart avocat au barreau de Paris en droit pénal et liberté publique essayiste vous avez signé je le rappelle à armes inégales face au juge le policier est-il un citoyen comme les autres c'est aux éditions Dialogue et Camille Girard-Chanudet post-doctorante en sociologie au centre Nord-Bérélias merci également à celles et ceux qui ont préparé cette émission Juliette Moellig Stéphanie Villeneuve Diane Devancet Antoine Héral à suivre après le journal Doctrine Monroe au fondement de l'intervention de Trump au Venezuela qui est là

dans le journal et en le journal de la journal qui est au fondement de la journal a suivre le journal qui est en train de la journal de la journal