Intelligence artificielle et formation du jugement : intermédiation algorithmique et garanties juridictionnelles

Résumé:
L’intelligence artificielle peut influencer le travail du juge sans prendre elle-même la décision. Elle peut, par exemple, choisir les documents qui apparaissent en premier, résumer un dossier, classer des précédents ou proposer une argumentation. Ces opérations sont utiles, mais elles peuvent aussi orienter la manière dont le juge comprend l’affaire avant même qu’il décide. Cette étude explique ce phénomène à partir de deux idées simples. Lippmann aide à comprendre que toute décision sur une réalité complexe dépend d’une représentation nécessairement partielle. Dewey rappelle, pour sa part, que l’expertise doit aider à mieux enquêter sans fermer trop tôt les questions possibles. À partir de ce contraste, l’article propose cinq critères pour apprécier l’intensité de l’intervention algorithmique : la sélection, la hiérarchisation, l’ouverture, la réversibilité et l’incidence sur les éléments déterminants de la décision. Il montre enfin que le maintien d’un juge humain n’est réellement protecteur que si celui-ci peut comprendre l’intervention du système, revenir aux sources, discuter les éléments importants, s’écarter de la proposition algorithmique et faire véritablement siennes les raisons de la décision.