Изкуственият интелект на Амазонка е обвиняван за пристрастия в човешката раса

Системата за разпознаване на лица е включенапочти всяка технологична компания. Една от тях е Amazon - технологията му се нарича Rekognition и според експерти от Масачузетския технологичен институт, тя е много по-малка от своите колеги. Факт е, че при оценката на нейната точност стана ясно, че системата често не може да разграничи пола на чернокожите. Това е второто оплакване за злоупотребата на Amazon с разпознаване на лица.

Учените са тествали работата на изкуствения интелектRekognition през 2018. Броят на грешките при определяне на пола на чернокожите достига 31% и това, според изследователите, е ужасен резултат. За сравнение, разпознаването на лицата на Microsoft прави такива грешки само в 1,5% от случаите.

Претенции на Amazon Companyизследователите са неоснователни. Тя увери, че във вътрешните тестове на актуализираната версия на Rekognition не е забелязана нито една грешка. Изследователите отбелязаха, че служителите на MIT не са определили нивото на точност, което, ако бъде постигнато, щеше да смята, че изкуственият интелект на Amazon е „правилен“.

Според главния изпълнителен директор за дълбокоОбучението на Amazon Web Services на Matt Wood, те независимо тестваха системата, използвайки милион изображения на хора от базата данни на Megaface. По време на тяхното тестване изкуственият интелект не е допуснал нито една грешка. В същото време представител на компанията обяви, че е готов да изслуша резултатите от тестовете на трети страни, за да подобри продукта си.

Това не е първият път, когато АИ в Амазонка е в центъра на един скандал. През лятото на 2018 г. тя прие 28 членове на Конгреса за престъпници, 38% от които бяха черни.

Други са се занимавали със сходни скандали.компанията. За щастие, те се учат от ситуации и постоянно подобряват технологията. През юни Microsoft разшири обема на използваните данни при разпознаването на лица - по-специално системата започна да обръща повече внимание на пола, възрастта и тонуса на кожата. Това намали броя на грешките при сортиране на мъже и жени до 20 пъти.

Ако имате някакви мисли за тази новина - не се колебайте да ги напишете в коментарите! Също така препоръчваме да се присъедините към нашия чат в Telegram, където винаги ще откривате с кого да обсъждате науката и технологиите.