Какви опасности от невронните мрежи подценяваме?

Срещали ли сте някога мъж на улицатакой от един да прилича на теб? Облекло, лице, походка, начин на общуване, навици са напълно идентични с вашите. Сякаш сте сканирани и отпечатани на принтер. Звучи малко страховито, нали? А сега си представете, че сте видели видео, в което такъв човек разказва нещо за себе си. В най-добрия случай ще се опитате да запомните, когато сте ходили по такъв начин, че не сте запомняли нищо, но можете да кажете такива неща на камерата. Засега всичко това звучи като прости разсъждения, но технологията се доближи до създаването на такива хора. Те вече съществуват, но скоро ще има много повече.

Няма значение как си представяме лицето на невронните мрежи. Определено ще има опасности в тях.

Съдържанието

• 1 Откъде идва фалшификатът?
• 2 Какво е задълбочено обучение?
• 3 Какво е Deepfake? Кога се появи Deepfake?
• 4 Опасност Deepfake. Как да промените лицето във видеото?
• 5 Как да идентифицирате Deepfake?
• 6 Страшен сценарий на бъдещето

Откъде идва фалшификатът?

Сега има твърде много, което е приетофалшиви обаждания Те са навсякъде. Те могат да бъдат намерени в снимки, в новини, в производството на стоки и в информационни услуги. По-лесно е да се каже къде няма явления, придружени от тази дума. Докато можете да се борите с тях. Можете да проучите произхода на снимката, да проверите отличителните характеристики на марковия продукт от фалшив и да проверите новините. Въпреки че, новините са отделна тема.

В днешно време потребителят на съдържание не иска да чакаи изисква от създателя си моментално производство, понякога той дори не се интересува от качеството, най-важното, бързо. Тук възникват ситуации, когато някой е казал нещо, а останалите, без да проверяват, го влачат през своите уебсайтове и вестници. В някои случаи отнема много време, за да върнете тази топка назад и да докажете, че всичко това не е вярно.

Обяснете защо това е направено, няма смисъл. От една страна има такива, които просто искат да се смеят на ситуацията, от друга, тези, които наистина не са знаели, че грешат. Отделно място, приблизително в средата, е заето от онези, на които е банално изгодно. Това могат да бъдат интереси на влияние на различни нива, включително политически. Понякога това е целта да се реализира печалба. Например, сеитбата на паника на фондовия пазар и провеждането на печеливши операции с ценни книжа. Но често това се дължи на враждебност към човек (компания, продукт и т.н.), за да го омаловажат. Прост пример е „понижаването“ в рейтингите на неприемлив филм или институция. Разбира се, това изисква армия от онези, които отиват и поставят неприязън (понякога дори ботове), но това е друга история.

Какво е задълбочено обучение?

Напоследък този термин звучи все по-често. Понякога той дори не е от значение и се бърка с нещо друго. Така софтуерният продукт изглежда по-впечатляващ.

Дълбоко учене - (задълбочено обучение; английски език) Дълбоко обучение) - набор от методи за машинно обучение (с учител, с частично участие на учител, без учител, с подсилване), базиран на преподавателски представителства, а не на специализирани алгоритми за конкретни задачи.

Не мислете, че концепцията и основните принципиМашинното обучение се появи едва преди няколко години. Всъщност те са толкова много години, че много от нас дори не са се родили тогава. Основните принципи на системите за дълбоко обучение и математическите модели за тяхната работа са били известни още през 80-те години на миналия век.

По онова време те не са имали такъв усет порадилипса на един важен компонент. Това беше висока изчислителна сила. Само в средата на две хиляди се появиха системи, които могат да ви помогнат да работите в тази посока и да ви позволят да изчислите цялата необходима информация. Сега машините са се развили още повече и някои системи за машинно зрение, възприемане на глас и някои други работят толкова ефективно, че дори понякога надминават човешките възможности. Въпреки че те все още не са "засадени" в отговорни райони, което ги прави допълнение към човешките възможности, като същевременно поддържа контрол върху тях.

Ние ги учим, но как ще използват знанията и възможностите си?

Какво е deepfake? Кога се появи Deepfake?

Лесно е да се предположи, че Deepfake е малъккаламбури, свързани с Deep Learning и самите ментета, за които говорих по-горе. Тоест Deepfake трябва да изведе фалшивото на ново ниво и да облекчи човека в тази трудна материя, като му позволи да създаде фалшиво съдържание, без да губи никаква енергия върху него.

На първо място, подобни фалшификати са свързани с видеоклипа. Тоест всеки човек ще може да седне пред камерата, да каже нещо и лицето му ще бъде заменено от друг човек. Изглежда страшно, защото всъщност просто ще е необходимо да схванете основните движения на човек и ще бъде просто невъзможно да се разграничи фалшив. Да видим как започна всичко.

Първата генеративна състезателна невронна мрежа бешесъздаден от студент в Станфордския университет. Това се случи през 2014 г. и името на ученика беше Ян Гудфелд. Всъщност той обедини две невронни мрежи, едната от които се занимаваше с генериране на лица на хората, а втората ги анализира и каза, че е подобна или не. Така те се научиха един и един хубав ден, втората невронна мрежа започна да се обърква и да приема генерираните изображения за истински. Това е толкова постоянно усложнена система, която поражда Deepfake.

Сега един от основните популяризатори на идеятаDeepfake е Хао Ли (Хао Ли). Той се занимава не само с това, но и с много други неща. За това той многократно е награждаван с различни награди, включително неофициални. Между другото, той е един от тези, които трябва да кажат благодаря за появата на animoji на iPhone X. При интерес, на неговия уебсайт можете да се запознаете с него по-подробно. Днес той не е основната тема на дискусия.

Спомнихме си за него само защотона Световния икономически форум в Давос той показа молбата си, която ще замени лицето на човек, който седи пред камерата, с всеки друг човек. По-специално той показа как системата работи на примера на лицата на Леонардо Ди Каприо, Уил Смит и други известни личности.

При такива технологии основното е да сканирате и тогава е въпрос на технология. В най-верния смисъл на думата.

Можете да си представите обратната ситуация, когаистински човек ще каже нещо и тогава ще увери всички, че е бил в рамка. Как да бъдем в тази ситуация също не е много ясно. Това ще направи такава бъркотия в емисиите на новини, че просто не работи, за да го проверите отново в друг източник. В резултат на това ще стане напълно неразбираемо какво е вярно и кое е невярно в този свят. Появява се снимка от филми за едно тъмно бъдеще, като Сурогати или Терминатор, където Т-1000 беше представен от други хора и, наред с други неща, наречен Джон Конор от името на неговата осиновителка.

Сега дори не говоря за поредната злоупотреба, която ще ни позволи да съберем неверни доказателства. На този фон цялото забавление на играчката става твърде съмнително.

Как да идентифицирате Deepfake?

Проблемът не е, че са необходими такива системизабрани, но във факта, че това вече не е възможно. Те вече имат и развитието на технологиите, включително и четенето на лица, доведе до появата им и разпространението на отворен код. Дори да си представите, че системата в сегашния си вид ще престане да съществува, трябва да разберете, че тя ще бъде създадена отново. Те отново ще научат невронните мрежи да работят помежду си и това е всичко.

Когато невронните мрежи излязат от контрол, можете да разберете за това от нашия канал за новини в Telegram. Присъединете се, преди да е късно.

Докато всичко не е толкова страшно и определете фалшивотоМожете буквално с просто око. Картината е подобна, но е доста груба. Освен това понякога има някои проблеми с подравняването, особено по границите на лицето. Но нищо не стои неподвижно и да го развиете още повече изобщо не е трудно. Същият Хао Ли е сигурен, че това ще отнеме не повече от няколко месеца, а за създаването на „маски“, които дори компютърът не може да различи, са необходими още няколко години. След това няма да има връщане назад.

От една страна, може да защити от това.алгоритъм, който YouTube и Facebook вече създават. Между другото, последният дори отвори конкурс за разработване на технология за разпознаване - Deepfake Detection Challenge („Задачата за идентифициране на dipfakes“). Наградният фонд на този конкурс е 10 милиона долара. Състезанието вече е в ход и ще приключи през март 2020 г. Все още можете да имате време за участие.

Подмяната на лице във видеоклип вече не е проблем.

Може би тази щедрост се дължи на фалшиво видео със самия Марк Зукърбърг. Ако тези две неща са свързани, появата на подобна конкуренция не е изненадваща.

Ако замененото лице е напълносъвпадат с оригинала, противодействието срещу специална невронна мрежа ще бъде безсилно. В този случай тя ще трябва да улови минималните разлики в изражението на лицето, движенията и начина на говорене. В случай на известни хора този проблем ще бъде решен на ниво видео услуги, тъй като същият YouTube знае как се движи условното Доналд Тръмп. Когато става въпрос за по-малко известен човек, ще бъде по-трудно. Въпреки това, това може да се докаже и като го засадите пред камерата и провеждате непринуден разговор, докато невронната мрежа анализира нейните движения. Ще се окаже нещо като изучаване на пръстов отпечатък, но, както виждаме, това отново ще доведе до ненужни трудности.

Ако вградите система за аутентификация на видеов камери, те също могат да бъдат заобиколени. Можете да накарате камерата да маркира заснетия видеоклип и е ясно, че той не е заснет чрез отделно приложение или обработен в специална програма. Но какво в случая да бъде с видеоклипове, които са просто обработени. Например монтирано интервю. На изхода получаваме видео, в което вече няма да има този източник.

Няколко мема в края.

Страшен сценарий на бъдещето

Възможно ли е да се каже, че сега сме скицирали един отсценарии за мрачно бъдеще? Като цяло, да. Ако технологиите, които са създадени за постигане на добри цели, излязат извън контрол, можете да отпиете скръб с тях. Всъщност има много възможности за такива опасни технологии, но повечето от тях са защитени. Например ядрен синтез. Тук се занимаваме с код, който всеки може да получи.

Напишете в коментарите каква защита виждате.от фалшификати, като се има предвид, че маскиращата система успя да направи маските напълно идентични с оригиналните лица. И поради факта, че те са във видеото, човек не може дори да приложи разпознаване на дълбочина и обем към тях. Освен това, да предположим, че всеки код и ключ, вградени в изображението, могат да бъдат напукани. Както се казва, би било за какво. Сега можем да обсъдим всички уводни бележки.

</ P>