Un décret présidentiel américain vient encadrer l’utilisation des intelligences artificielles dans le pays. Parmi les dispositions, on trouve un chapitre sur l’utilisation de l’IA dans le système judiciaire.
Après des jours de spéculation et d’attente, le décret présidentiel américain sur l’intelligence artificielle (IA) a finalement été publié le 30 octobre 2023 au matin. L’executive order, signé par le président Biden, vise large, et devrait avoir un impact conséquent sur les entreprises de la tech, mais pas que. Le document prévoit de nombreuses clauses sur des points tels que les armes biologiques, l’immigration, la santé, mais aussi le système carcéral.
Dans le texte, après les premières mesures concernant le partage de données et les procédures à mettre en place pour sécuriser l’utilisation de l’IA, dans la partie « Promouvoir l’équité et les droits civils », le décret parle de l’usage de ces outils dans les prisons américaines. Il est notamment question de « détermination » des peines à donner aux condamnés, ou bien de « surveillance » et de « police prédictive ».
L’IA dans le système judiciaire, une pratique qui a des biais
Plus précisément, le texte indique que le décret doit « garantir l’équité dans l’ensemble du système de justice pénale en élaborant de bonnes pratiques sur l’utilisation de l’IA dans la détermination de la peine, la libération conditionnelle et la probation, la mise en liberté provisoire et la détention, l’évaluation des risques, la surveillance, la prévision de la criminalité et la police prédictive, ainsi que l’analyse médico-légale. »
En préambule, le décret stipule que le gouvernement a conscience des biais des algorithmes et des intelligences artificielles, et que c’est pour cette raison qu’il veut « garantir l’équité ». Cependant, malgré tout, le texte permet toujours l’utilisation de ces outils — et ouvre la porte à de nombreux questionnements.
L’IA est déjà utilisée dans le système judiciaire américain, que ce soit au niveau des caméras de sécurité intelligentes, ou bien des algorithmes d’évaluation des risques — qui sont également utilisés en Angleterre. Mais Numerama n’a pas trouvé d’exemple d’IA ayant activement choisi la peine d’un condamné, ce qui est, d’après le décret, une piste qui pourrait être explorée aux US.
Pour le reste, le décret vient plutôt apporter un cadre plus strict quant à l’utilisation de l’IA dans le milieu, en mettant en avant l’intérêt d’avoir des « bonnes pratiques ». Le gouvernement explique aussi vouloir « s’attaquer à la discrimination algorithmique par la formation et l’assistance technique ».
L’IA n’est pas un outil neutre : de nombreuses études ont prouvé que les algorithmes reflètent les biais des humains, et en général, peuvent les renforcer. Ces outils sont donc loin d’être des instruments permettant d’assurer des décisions neutres.
On sait déjà que le système carcéral américain est fortement biaisé contre les personnes racisées. Une étude de l’ONU, publiée en septembre 2023, concluait ainsi que « le racisme systémique à l’encontre des personnes d’ascendance africaine est omniprésent dans les forces de police et le système de justice pénale des États-Unis. » Même chose pour la police préventive : ses algorithmes renforcent les biais racistes.
Le gouvernement a conscience des problèmes qui peuvent émerger à cause de l’intelligence artificielle. Le décret explique que « l’utilisation irresponsable de l’IA peut entraîner et aggraver la discrimination, les préjugés et d’autres abus dans les domaines de la justice » — et c’est certainement pour cela qu’il essaie de mieux encadrer les pratiques.
Néanmoins, le décret présidentiel ne donne aucune piste pour « assurer l’équité » dont il parle. Il est évident que ce n’est pas parce que le décret dit qu’il faut s’assurer de leur impartialité que les IA seront, automatiquement, sans biais.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
KABDEL MEDIA
