Tecnologia

La inteligencia artificial de Amazon es culpada de sesgo en la raza humana

El sistema de reconocimiento facial está involucrado enCasi todas las empresas de tecnología. Uno de ellos es Amazon: su tecnología se llama Rekognition y, según los expertos del Instituto de Tecnología de Massachusetts, es muy inferior a sus contrapartes. El hecho es que durante la evaluación de su precisión, quedó claro que el sistema a menudo no puede distinguir entre el sexo de los negros. Esta es la segunda queja sobre el trabajo de reconocimiento facial abusivo de Amazon.

Los científicos probaron el trabajo de la inteligencia artificial.Reconocimiento a lo largo de 2018. La cantidad de errores en la determinación del sexo de las personas negras alcanzó el 31% y esto, según los investigadores, es un resultado terrible. A modo de comparación, el reconocimiento de rostros de Microsoft comete tales errores solo en el 1.5% de los casos.

Reclamaciones de Amazon CompanyLos investigadores son infundados. Aseguró que en las pruebas internas de la versión actualizada de Rekognition, no se notó un solo error. Los investigadores notaron que los empleados del MIT no mencionaron el nivel de precisión que, cuando se hubiera logrado, habría considerado que la inteligencia artificial de Amazon era "correcta".

De acuerdo con el CEO de profundaLa capacitación de Amazon Web Services de Matt Wood probó de forma independiente el sistema utilizando un millón de imágenes de personas de la base de datos Megaface. Durante sus pruebas, la inteligencia artificial no cometió un solo error. Al mismo tiempo, un representante de la compañía anunció que está listo para escuchar los resultados de las pruebas de terceros con el fin de mejorar su producto.

Esta no es la primera vez que la IA de Amazon se encuentra en el centro de un escándalo. En el verano de 2018, aceptó a 28 miembros del Congreso para delincuentes, el 38% de los cuales eran negros.

Otros han tratado con escándalos similares.la compañia Afortunadamente, están aprendiendo de situaciones y están mejorando constantemente la tecnología. En junio, Microsoft amplió la cantidad de datos utilizados en el reconocimiento facial, en particular, el sistema comenzó a prestar más atención al género, la edad y el tono de la piel. Esto redujo la cantidad de errores al clasificar hombres y mujeres hasta 20 veces.

Si tiene alguna idea sobre esta noticia, no dude en escribirla en los comentarios. También recomendamos que se una a nuestro chat en Telegram, donde siempre encontrará con quién hablar sobre ciencia y tecnología.