Fawkes-sovellus suojaa kasvojentunnistukselta Internetissä (3 kuvaa)

Nykyaikaiset yritykset käyttävät aktiivisestiInternet-sovellukset käyttäjien tunnistamiseksi kasvojen perusteella, mikä antaa heille mahdollisuuden muodostaa valtavia tietokantoja ja loukata yksityisyyttä. Torjuakseen sellaisia ​​hermoverkkoihin perustuvia järjestelmiä, Chicagon yliopistossa luotu sovellus pystyy välttämään valokuvien avulla tapahtuvan tunnistamisen ja häiritsemään sellaisten ohjelmien algoritmien toimintaa, kuten Clearview AI.

Käyttäjäkuva, kun sitä käytetäänFawkes-sovellukset peittävät valokuvan pikselitasolla korvaamalla tietyt kuvan kohdat muista valokuvista lainattuilla katkelmilla. Siten esimerkiksi valokuvan fragmentti muutetaan elementiksi, joka on otettu kuvasta, joka on mahdollisimman erilainen kuin alkuperäinen ja jopa vastakkaisen sukupuolen "luovuttajalta". Valokuvan muutokset ovat melkein näkymättömiä käyttäjille, mutta ne häiritsevät kasvohaun algoritmin toimintaa.

Kehittäjien mukaan käyttöFawkesin sovellukset ovat jo antaneet mahdollisuuden "huijata" Amazonin, Microsoftin ja kiinalaisen Megviin hakukoneet. Sovelluksen edelleenkehittämisellä vältetään tunnistaminen Clearview AI -algoritmilla, jota poliisi ja yksityiset yritykset ovat jo käyttäneet henkilöllisyyden tunnistamiseen usean miljardin dollarin tietokannan perusteella.

Chicagon yliopiston professori Ben Zhaoilmoitti, että Fawkes "saa Clearview menemään" tulevaisuudessa. Fawkes-sovellus on kuitenkin parhaillaan kehitteillä, eikä se aina toimi hyvin. Kehittäjien suunnitteleman ohjelman edelleen parantaminen voi johtaa siihen, että käyttäjät käsittelevät valokuvia aina ennen niiden lähettämistä verkkoon. Lisäksi sovelluksen integrointi suuriin sosiaalisiin verkostoihin estää sellaisia ​​sovelluksia, kuten Clearview, suorittamasta käyttäjän luvattoman tunnistamisen käyttäjän valokuvista.

Lähde: nytimes