onderzoek

China wil 'dipfaces' verbieden - nep-video's gemaakt met behulp van neurale netwerken

Het web is meer en meer gedistribueerde video's, naar verluidtopgenomen met de deelname van een beroemde persoon - maar ze is niet bekend. Fake video's tonen een persoon in een situatie die nooit heeft bestaan, en soms lijkt het onmogelijk om een ​​nep te onderscheiden. Zulke video's worden gemaakt met de medewerking van de GAN-neurale netwerken (een generatief-tegenstrijdig netwerk) van bijna niets: slechts een foto die van internet is gedownload. China besloot om een ​​einde te maken aan de verspreiding van dergelijke "deepfakes".

China verbiedt nep-video's

China is van plan om legaal te verbieden"Dipfeyki" - en dit is het eerste land dat de manipulatie van kunstmatige intelligentie uit de video serieus nam en ziet als een bedreiging. Op zaterdag stelde het hoogste wetgevende lichaam van China voor om illegale "vervorming van het beeld van een andere persoon of imitatie van stem met behulp van technologie" te verklaren, volgens een materiaal dat is gepubliceerd in de staatskrant China Daily.

Krant citeert senior wetgever ShenChunyao, die zegt dat "het misbruik van kunstmatige intelligentie-technologie niet alleen de mensenrechten schaadt in het beeld, maar ook de nationale veiligheid en publieke belangen schaadt."

"Deep fakes" of "dipfeyki" wordensteeds geavanceerder - in plaats van het gezicht van een persoon te vervangen, hebben codeerders geleerd het hele lichaam te vervangen. Dit betekent dat iedereen met technische knowhow iedereen kan transformeren in een digitale pop.

Als je niet begrijpt hoe het gevaarlijk kan zijn,In 2018 verscheen een nepvideo met een toespraak van de voormalige Amerikaanse president Barack Obama, waarin hij waarschuwde dat "we een tijdperk ingaan waarin onze vijanden iedereen op elk moment iets kunnen laten zeggen." De video zelf met deze verklaring is nep, dit is een incident.

Alleen hier beschouwde China deze waarschuwing als heel reëel. Lijkt deze technologie gevaarlijk voor u? Vertel het ons in onze chat in Telegram.