Technology

Викорінити расизм в судовій системі США хочуть за допомогою ІІ

З 1 липня цього року в судову систему містаСан-Франциско (США), поки що тільки у вигляді експерименту, планується впровадити практику використання штучного інтелекту, щоб той допомагав прокурорам виключати ймовірність расових забобонів при пред'явленні звинувачень підозрюваним, повідомляє портал The Verge.

Штучний інтелект в судовій системі

Як повідомили в офісі окружного прокурораСан-Франциско, завдання системи буде полягати не тільки в тому, щоб аналізувати звіти поліції і автоматично видаляти з них дані, за допомогою яких можна визначити расу підозрюваного (колір очей, волосся, шкіри), але і дані про його оточенні (родичів, друзів , сусідів і так далі), які також побічно можуть вказувати на приналежність підозрюваного до тієї чи іншої раси. Крім цього, ІІ буде прибирати зі звітів імена і дані свідків і співробітників поліції, щоб виключити фактори, які можуть вплинути на неупередженість прокурорів.

«Якщо подивитися на контингент ув'язнених в США, то можна відзначити, що кольорових чоловіків і жінок більше, ніж білих», - говорить окружний прокурор Сан-Франциско Джордж Гаскон.

Побачивши те ж ім'я підозрюваного, наприклад,Ернандес, слідчі відразу можуть зробити висновок, що людина має латиноамериканське походження, а це в свою чергу може вплинути на результат і висновки розслідування.

Відзначається, що в 2017 році на прохання окружногопрокурора, в Сан-Франциско досліджували статистику по кримінальних справах. З'ясувалося, що за період з 2008 по 2014 рік, 41% арештів припадав на афроамериканців. При цьому вони становили лише 6% від загального числа населення. Аналітики тоді зробили висновок, що в рішеннях судів є «суттєві расові та етнічні відмінності».

Гаскон пояснив, що спочатку прокурорам належитьвивчити поліцейські звіти, оброблені системою, і на їх підставі винести рішення про звинувачення. Потім вони зможуть переглянути повний звіт з усіма іменами і даними, щоб визначити, чи є в справі пом'якшувальні обставини.

В даний час судова система вСан-Франциско використовує набагато більш обмежену процедуру ручної фільтрації звітності, спрямовану на те, щоб прокурори не бачили цієї інформації. Але як правило зі звіту видаляються тільки перші сторінки, де містяться загальні дані про підозрюваного. У самому ж звіті інформація про людину залишається, тому від такої вибірки немає ніякого практичного спрямування.

«Нам необхідно було підключити до цієї роботи технології машинного навчання», - коментує Гаскон.

За його словами, подібна практика використанняштучного інтелекту в США буде застосовуватися вперше. Гаскон також зазначив, що не знає жодного правоохоронного агентства, яке раніше вже використовувало ІІ для тих же цілей. Він також додав, що спочатку технологію протестують в його офісі. Потім, якщо вона покаже хороший результат, її безкоштовно нададуть всім прокурорам країни.

Систему розробили програмісти-аналітики таінженери з лабораторії обчислювальної політики Стенфордського університету. За словами одного з авторів розробки Алекса Чоклас-Вуда, вона являє собою невелике веб-додаток, що використовує декілька алгоритмів машинного навчання, які автоматично редагують поліцейські звіти, відзначаючи певні слова і замінюючи їх нейтральними: «місце», «офіцер 1», «підозрюваний " і так далі.

Обговорити новину можна в нашому Telegram-чаті.