Technology

Штучний інтелект Amazon звинуватили в упередженості до раси людини

Розробкою системи розпізнавання осіб займаєтьсяпрактично кожна технологічна компанія. Однією з них є Amazon - її технологія називається Rekognition і, на думку фахівців з Массачусетського технологічного інституту, вона сильно поступається своїм аналогам. Справа в тому, що в ході оцінки її точності з'ясувалося, що система часто не може розрізнити підлогу чорношкірих людей. Це вже друга скарга на образливу роботу розпізнавання осіб Amazon.

Вчені перевіряли роботу штучного інтелектуRekognition протягом усього 2018 року. Кількість помилок при визначенні статі чорношкірих людей досягало 31% і це, на думку дослідників, жахливий результат. Для порівняння, розпізнавання осіб Microsoft допускає подібні помилки тільки в 1,5% випадків.

Компанія Amazon вважає, що претензіїдослідників позбавлені підстав. Вона запевнила, що у внутрішніх тестах оновленої версії Rekognition не було помічено жодної шибки. Дослідники звернули увагу, що співробітники MIT не назвали рівень точності, при досягненні якої робота штучного інтелекту Amazon вважалася б «правильної».

За словами генерального директора по глибокомунавчання Amazon Web Services Метта Вуда, вони самостійно перевірили систему, використовуючи мільйон зображень осіб з бази даних Megaface. В ході їх тестування штучний інтелект не допустив жодної помилки. При цьому представник компанії оголосив, що вони готові прислухатися до результатів сторонніх тестів для того, щоб поліпшити свій продукт.

Це далеко не перший випадок, коли штучний інтелект Amazon виявився в центрі скандалу. Влітку 2018 року вона взяла 28 членів Конгресу за злочинців, причому 38% з них були чорношкірими.

З подібними скандалами мали справу і іншікомпанії. На щастя, вони витягують уроки з ситуацій і постійно покращують технології. У червні Microsoft розширила кількість даних, що використовуються при розпізнаванні осіб - зокрема, система почала більше звертати увагу на стать, вік і відтінок шкіри. Це зменшило кількість помилок при сортуванні чоловіків і жінок до 20 разів.

Якщо у вас є які-небудь думки з приводу цієї новини - сміливо пишіть їх в коментарях! Також рекомендуємо вам вступити в наш чат в Telegram, де ви завжди знайдете з ким обговорити науку і технології.