Toute révolution porte en elle l’espoir du miracle et la peur du désastre. La révolution numérique, au cours de laquelle s’amorce un changement du statut des outils technologiques, fait partie de ces transitions chargées d’émotions aussi ambivalentes que passionnées.
Dans son dernier livre, l’écrivain et philosophe français Éric Sadin va jusqu’à caractériser l’intelligence artificielle d’un « antihumanisme radical ». Chargée de faciliter la manipulation de l’information, l’intelligence artificielle est attribuée le nouveau rôle « d’expertiser le réel », d’interpréter nos comportements en vue d’orienter le cours des actions humaines vers une organisation utilitariste de la société. Une optimisation de nos actions poussée au-delà des limites de l’intelligence humaine, une puissance d’expertise qui défie la vitesse du raisonnement cérébral.
Ainsi, le fonctionnement des sociétés modernes se trouve régi par les algorithmes. Véhicules autonomes, diagnostiques automatisés en médecine, chaînes de production industrielle, assistants de navigation GPS, robots numériques chargés de la sélection des candidats pour le recrutement, les exemples s’étendent à tous les secteurs. L’intelligence artificielle génère une puissance artificielle dotée d’un pouvoir incitatif sur nos actions, pouvoir qui effraie lorsqu’il est perçu comme impératif, voir coercif.
L’un des nombreux domaines dans lequel l’intelligence artificielle a étendu son champ de transformation, la justice a intégré les technologies algorithmiques dans les processus de règlements de conflits : c’est l’émergence de la cyberjustice.
Définie par Karim Benyekhlef, professeur à l’université de Montréal et fondateur du Laboratoire de cyberjustice, comme « l’intégration des technologies algorithmiques, de l’information et de la communication dans les processus judiciaires ou extrajudiciaires de règlement de conflit », la cyberjustice a pour objectif « d’accroître l’accès à la justice et d’alléger le fardeau des juges.”
Et si les algorithmes, dénués de la subjectivité propre à la condition humaine, étaient plus à même de produire un jugement impartial ? La neutralité n’est-elle pas l’idéal vers lequel tout processus judiciaire tend ? Les promesses de la cyberjustice sont tout aussi ravissantes que déconcertantes. L’exploit d’un idéal dépassant les limitations de la conscience humaine, ou la mort de l’humanisme sur lequel repose les fondements moraux de notre société ?
Répondant à ces craintes cristallisées dans la transition qui s’opère, la Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe vient d’annoncer l’adoption de sa première Charte éthique d’utilisation de l’intelligence artificielle dans les systèmes judiciaires.
S’adressant aux décideurs politiques, aux juristes et professionnels de la justice, la charte énonce cinq principes d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement : respect des droits fondamentaux, non-discrimination, qualité et sécurité, transparence, neutralité et intégrité intellectuelle, et maîtrise par l’utilisateur. Fournissant une analyse approfondie des différentes utilisations de l’intelligence artificielle dans les systèmes européens de justice, la charte recommande leurs applications à différents degrés compte tenu des cinq principes identifiés.
Outre Atlantique, la communauté scientifique québécoise a annoncé début décembre le lancement de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Née d’un processus délibératif inclusif entre experts, citoyens, organisations de la société civiles et représentants de l’industrie et des ordres professionnels, la déclaration élabore un cadre éthique pour le développement et le déploiement de l’intelligence artificielle, basé sur des principes tels que le respect de l’autonomie, la protection de la vie privée ou encore l’inclusion de la diversité.
En France, l’intelligence artificielle est également au cœur des débats. Au début du mois, avocats, magistrats et greffiers ont manifesté devant le Sénat, où le projet de loi est actuellement en cours d’examen. Porté par la garde des Sceaux Nicole Belloubet, le texte s’attaque aux « Cinq chantiers de la justice », visant notamment à améliorer et simplifier les procédures pénales et civiles par la dématérialisation des procédures. Marie-Aimée Payron, bâtonnier de Paris, s’oppose fermement à la réforme.
« Il éloigne le citoyen de la justice en écornant les droits de la défense et les libertés », alerte la représentante des 29 000 avocats du barreau de Paris.
Alors que le gouvernement français s’apprête à investir 1,5 milliards d’euros dans le développement de l’intelligence artificielle sur le quinquennat d’Emmanuel Macron, près d’un quart des français y sont « réfractaires ».
Le 11 novembre dernier, Gérald Darmanin, ministre de l’Action et des Comptes publics a annoncé la mise en place d’une expérimentation visant à scruter les comptes personnels des Français sur les réseaux sociaux pour lutter contre l’évasion fiscale début 2019. Un système d’algorithme fiscal calculant en temps réel les rentrées et les dépenses des contribuables en surveillant leurs signes extérieurs de richesse est déjà en place en Grande-Bretagne.
“Nous allons pouvoir mettre les réseaux sociaux dans une grande base de données. Il y aura la permissivité de constater que si vous vous faites prendre en photo, de nombreuses fois, avec une voiture de luxe alors que vous n’avez pas les moyens de le faire, peut-être que votre cousin ou votre copine l’a prêtée, ou peut-être pas”, a expliqué le ministre.
Aux Etats-Unis, des logiciels prédictifs sont utilisés dans de nombreuses juridictions locales pour évaluer les risques de récidives des prévenus. Une enquête de l’organisation à but non-lucratif ProPublica publiée en mai 2016 a révélé que ces logiciels reproduisent les discriminations ethniques en surévaluant largement les risques de récidive des Noirs, tout en sous-évaluant les mêmes risques pour les Blancs.
Spinoza, qui définissait la justice comme « une disposition constante de l’âme à attribuer à chacun ce qui d’après le droit civil lui revient, » serait probablement outré de constater la déshumanisation croissante des processus de justice. Dans un monde où l’intelligence artificielle est devenue sous-jacente aux divers processus économiques et sociaux, la justice est un domaine où son intégration s’annonce plus délicate. Au-delà de l’encadrement éthique indispensable à l’incorporation des technologies algorithmiques dans les processus de justice, c’est un réel questionnement sociétal qu’il est nécessaire d’amorcer pour faire en sorte que cette mutation s’opère en harmonie avec les valeurs de nos sociétés.
