Vědci přišli s cestou, jak z AI ztratit z rasismu

Na konci ledna byl Amazon znovucentrum skandálu spojeného s jeho umělou inteligencí pro rozpoznání tváře. Ukázalo se, že jeho systém Rekognition nedokáže rozlišit pohlaví černošských lidí, a proto je ve srovnání s analogiemi od společnosti Microsoft a dalších společností mnohem méněcenný. Logickým způsobem, jak tento problém vyřešit, by bylo využití lepších údajů o školení, ale výzkumníci z laboratoře umělé inteligence na univerzitě v Massachusetts přišli s efektivnějším způsobem.

Bylo známo, že vyvíjejí algoritmuskterý automaticky uvolní soubory trénovacích dat z fotografií, které mohou vést k chybě při rozpoznávání lidí s tmavou pletí. Výzkumníci neslibují, že tato metoda dá 100% výsledek, ale počet chyb bude jednoznačně menší. Důkazem toho jsou interní testy vědců: umělá inteligence se stala o 60% méně zaujatou a zároveň neztratila svou přesnost rozpoznávání. Technologie také zkrátí dobu učení - využití velkého množství dat tento proces značně zpomalilo.

Nedostatek zaujatosti - velmi důležitýcharakteristické pro umělou inteligenci. Je stále více využíván policií, takže i malá chyba algoritmu může způsobit, že zcela nevinný člověk půjde do vězení. Mnoho lidí nemá rád rozšířené používání systémů rozpoznávání obličeje, ale pokud mají být použity, je důležité, aby pracovaly co nejpřesněji.

Jsou již používány iv Rusku. Například během mistrovství světa v roce 2018 byl algoritmus rozpoznávání tváří zaveden do stanice metra Moskva Frunzenskaya. Díky ní byla policie schopna rychle najít osobu, která je žádoucí pro loupež. Stal se prvním zločincem, který byl chycen pomocí systému rozpoznávání tváří. Mimochodem, jeho náklady se odhadují na 4 miliardy rublů.

Chcete mluvit o systémech rozpoznávání obličeje? Vítejte v komentářích nebo v našem Telegram-chatu, kde jsou stovky účastníků vždy rádi, že mluví na téma vědy a techniky!