Charte éthique IA
« L’utilisation de l’IA crée à la fois des possibilités et des risques », telle est l’opinion de la Commission Européenne. Cette dernière base son analyse sur la notion de risques et donc de mesures à mettre en place pour prévenir, gérer ou éviter toute défaillance de l’IA (préjudice matériel et immatériel) en termes d’éthique – en tant que principes partagés et au cœur de l’identité d’un groupe – ou de protection des personnes (droits fondamentaux : appareil judiciaire et répressif, accès au service public, santé, etc.).
La Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe a adopté le premier texte européen énonçant des principes éthiques relatifs à l’utilisation de l’intelligence artificielle (IA) dans les systèmes judiciaires.
Un texte crucial en matière d’utilisation de l’IA dans la justice
La Charte fournit un cadre de principes pouvant guider les décideurs politiques, les législateurs et les professionnels de la justice lorsqu’ils sont confrontés au développement rapide de l’IA dans les processus judiciaires nationaux.
Le point de vue de la CEPEJ, tel qu’il est exposé dans la Charte, est que l’application de l’IA dans le domaine de la justice peut contribuer à améliorer l’efficacité et la qualité. Mais elle doit être mise en œuvre de manière responsable, dans le respect des droits fondamentaux garantis notamment par la Convention européenne des droits de l’homme (CEDH) et la Convention du Conseil de l’Europe sur la protection des données personnelles. Pour la CEPEJ, il est essentiel de s’assurer que l’IA reste un outil au service de l’intérêt général et que son utilisation respecte les droits individuels.
Les 5 principes essentiels de cette Charte
La CEPEJ a identifié les principes fondamentaux à respecter dans le domaine de l’IA et de la justice :
- Respect des droits fondamentaux : assurer une conception et une mise en œuvre des outils et des services d’intelligence artificielle qui soient compatibles avec les droits fondamentaux.
- Non-discrimination : prévenir spécifiquement la création ou le renforcement de discriminations entre individus ou groupes d’individus.
- Qualité et sécurité : en ce qui concerne le traitement des décisions juridictionnelles et des données judiciaires, utiliser des sources certifiées et des données intangibles avec des modèles conçus d’une manière multidisciplinaire, dans un environnement technologique sécurisé.
- Transparence, neutralité et intégrité intellectuelle : rendre accessibles et compréhensibles les méthodologies de traitement des données, autoriser les audits externes.
- Maîtrise par l’utilisateur : bannir une approche prescriptive et permettre à l’usager d’être un acteur éclairé et maître de ses choix.
Pour la CEPEJ, le respect de ces principes doit être assuré dans le traitement des décisions et des données judiciaires par les algorithmes et dans l’utilisation qui en est faite.
La Charte de la CEPEJ est accompagnée d’une étude approfondie sur l’utilisation de l’IA dans les systèmes judiciaires, notamment les applications d’IA traitant des décisions et des données judiciaires.