technologie

Wetenschappers hebben een manier bedacht om AI te sparen tegen racisme

Eind januari was Amazon weer binnenhet middelpunt van het schandaal in verband met zijn kunstmatige intelligentie voor gezichtsherkenning. Het bleek dat het systeem Rekognition niet in staat is om het geslacht van zwarte mensen te onderscheiden, en daarom is het veel minder geschikt in analogen van Microsoft en andere bedrijven. Een logische manier om het probleem op te lossen, zou zijn om betere trainingsgegevens te gebruiken, maar onderzoekers van het laboratorium voor kunstmatige intelligentie van de Universiteit van Massachusetts bedachten een effectievere manier.

Het werd bekend dat ze een algoritme ontwikkelenwaardoor de trainingsgegevenssets automatisch worden ontlast van foto's die kunnen leiden tot een fout bij het herkennen van mensen met een donkere huid. De onderzoekers beloven niet dat deze methode een 100% resultaat zal opleveren, maar het aantal fouten zal duidelijk minder worden. Dit wordt bewezen door de interne tests van wetenschappers: kunstmatige intelligentie is 60% minder bevooroordeeld geworden en heeft tegelijkertijd de herkenningsnauwkeurigheid niet verloren. De technologie zal ook de leertijd verminderen - het gebruik van grote hoeveelheden gegevens heeft het proces enorm vertraagd.

Gebrek aan vooroordelen - erg belangrijkkenmerkend voor kunstmatige intelligentie. Het wordt in toenemende mate gebruikt door de politie, dus zelfs een kleine algoritmefout kan ervoor zorgen dat een volledig onschuldig persoon naar de gevangenis gaat. Veel mensen houden niet van het wijdverspreide gebruik van gezichtsherkenningssystemen, maar als ze moeten worden gebruikt, is het belangrijk dat ze zo nauwkeurig mogelijk werken.

Ze worden al gebruikt, zelfs in Rusland. Tijdens het WK van 2018 bijvoorbeeld, werd het algoritme voor gezichtsherkenning geïntroduceerd in het metrostation Moscow Frunzenskaya. Dankzij haar kon de politie snel de persoon vinden die gezocht werd voor een overval. Hij werd de eerste crimineel die werd betrapt met behulp van gezichtsherkenning. De kostprijs hiervan wordt geschat op 4 miljard roebel.

Wil je praten over gezichtsherkenningssystemen? Welkom bij de reacties of bij onze Telegram-chat, waar honderden deelnemers altijd blij zijn om over het onderwerp wetenschap en technologie te praten!