La technologie

Éliminer le racisme dans le système judiciaire américain avec l'aide d'Amnesty International

Du 1er juillet de cette année au système judiciaire de la villeSan Francisco (États-Unis), bien que sous forme d'expérimentation, prévoit d'introduire l'usage de l'intelligence artificielle pour aider les procureurs à exclure la possibilité d'un préjudice racial lors de l'inculpation par un suspect, rapporte The Verge.

Intelligence artificielle dans le système judiciaire

Comme rapporté dans le bureau du procureurÀ San Francisco, le système aura pour tâche non seulement d’analyser les rapports de police et d’en supprimer automatiquement des données, qui peuvent servir à déterminer la race du suspect (couleur des yeux, des cheveux, de la peau), mais également des données sur son environnement (parents, amis). , voisins, etc.), ce qui peut également indiquer indirectement que le suspect appartient à une race particulière. En outre, Amnesty International supprimera les noms et les données de témoins et de policiers des rapports afin d’exclure les facteurs pouvant affecter l’impartialité des procureurs.

«Si vous examinez le contingent de prisonniers aux États-Unis, vous remarquerez qu'il y a plus d'hommes et de femmes de couleur que de blancs», déclare le procureur du district de San Francisco, George Gascon.

Voir le même nom de suspect, par exemple,Hernandez, les enquêteurs peuvent immédiatement conclure que la personne est d'origine latino-américaine, ce qui peut affecter le résultat et les conclusions de l'enquête.

Il est à noter qu’en 2017, à la demande du districtUn avocat, à San Francisco, a enquêté sur des statistiques relatives à des affaires pénales. Il s'est avéré que pour la période allant de 2008 à 2014, 41% des arrestations ont été effectuées par des Afro-Américains. Cependant, ils ne représentaient que 6% de la population totale. Les analystes ont ensuite conclu que les décisions de justice étaient "d'importantes différences raciales et ethniques".

Gascon a expliqué que les procureurs devront d'abordexamine les rapports de police traités par le système et, en fonction de ceux-ci, prend une décision au sujet des accusations. Ensuite, ils pourront voir le rapport complet avec tous les noms et toutes les données pour déterminer s’il existe des circonstances atténuantes.

Actuellement, le système judiciaire enSan Francisco utilise une procédure de filtrage manuel beaucoup plus limitée pour garantir que les procureurs ne voient pas ces informations. Mais en règle générale, seules les premières pages du rapport contenant des informations générales sur le suspect sont supprimées. Dans le rapport réel, les informations sur une personne restent, il n’ya donc aucun sens pratique à partir d’un tel échantillon.

«Nous devions connecter les technologies d’apprentissage automatique à ce travail», a commenté Gascon.

Selon lui, cette pratique d'utiliserl'intelligence artificielle aux États-Unis sera appliquée pour la première fois. Gascon a également indiqué qu'il ne connaissait pas un seul organisme chargé de l'application de la loi qui avait déjà utilisé l'IA aux mêmes fins. Il a également ajouté que la technologie sera d'abord testée dans son bureau. Ensuite, s'il donne de bons résultats, il sera fourni gratuitement à tous les procureurs du pays.

Le système a été développé par des programmeurs-analystes etingénieurs du laboratoire de politique informatique de l'Université de Stanford. Selon l'un des auteurs du développement, Alex Choklas-Wood, il s'agit d'une petite application Web qui utilise plusieurs algorithmes d'apprentissage automatique qui modifient automatiquement les rapports de police, marquant certains mots et les remplaçant par des mots neutres: "lieu", "agent 1", "suspect "Et ainsi de suite.

Vous pouvez discuter de l'actualité dans notre discussion en ligne.