általános. kutatás. technológia

Milyen veszélyeket hordunk alá az idegi hálózatokból?

Találkoztál már valakivel az utcánmelyik lenne úgy néz ki, mint te? A ruházat, az arc, a járás, a kommunikáció és a szokások teljesen megegyeznek a sajátoddal. Mintha beolvasott volna és nyomtatóra nyomtatna. Kissé hátborzongatónak hangzik, igaz? Most képzeld el, hogy láttál egy videót, amelyben egy ilyen ember valamit mond magáról. A legjobb esetben megpróbál emlékezni, amikor olyan sétáltál, hogy nem emlékszel semmire, de mondhattál ilyen dolgokat a kamerának. Eddig mindez egyszerű érvelésnek hangzik, de a technológia közel állt ilyen emberek létrehozásához. Már léteznek, de hamarosan még sok más lesz.

Nem számít, hogyan képzeljük el az idegi hálózatok arcát. Bizonyára veszélyek merülnek fel bennük.

A tartalom

  • 1 honnan származik a hamis?
  • 2 Mi a mély tanulás?
  • 3 Mi a Deepfake? Mikor jelent meg a Deepfake?
  • 4 Veszélyes mélység. Hogyan lehet megváltoztatni az arcot a videóban?
  • 5 Hogyan lehet azonosítani a mélyfake-t?
  • 6 Ijesztő jövőbeli forgatókönyv

Honnan származik a hamis?

Most már túl sok elfogadotthívjon hamisítványokat. Mindenhol vannak. Megtalálhatók fényképekben, a hírekben, az áruk gyártásában és az információs szolgáltatásokban. Könnyebb megmondani, ahol nincsenek jelenségek, amelyek ezt a szót kísérik. Amíg harcolni tudsz velük. Megvizsgálhatja a fénykép eredetét, ellenőrizheti a márkás termék megkülönböztető tulajdonságait a hamisítványtól, és ellenőrizheti a híreket. A hír azonban külön téma.

Manapság a tartalomfogyasztó nem akar várniés megköveteli alkotójának azonnali gyártását, néha nem is törődik a minőséggel, ami a legfontosabb, gyorsan. Itt fordulnak elő olyan helyzetek, amikor valaki mondott valamit, és a többiek ellenőrzés nélkül áthúzták a saját weboldalaikon és újságukon keresztül. Bizonyos esetekben sok időbe telik, hogy visszatekerjük ezt a labdát, és bebizonyítsuk, hogy nem minden volt igaz.

Magyarázza el, miért történik ez az egész, nincs értelme. Egyrészt vannak olyanok, akik egyszerűen csak nevetni akarnak a helyzetről, másrészt azok, akik valóban nem tudták, hogy tévedtek. Egy külön helyet, körülbelül a közepén, azok foglalják el, akik számára ez meglehetősen jövedelmező. Ezek lehetnek különböző szintű befolyásoló érdekek, beleértve a politikai érdekeket is. Időnként ez a profitszerzés célja. Például pánik vetés a tőzsdén és nyereséges műveletek végrehajtása az értékpapírokkal. De gyakran ennek oka az ember (társaság, termék, stb.) Elleni ellenségesség annak oka, hogy megalázza őt. Egy egyszerű példa erre a kifogásolható film vagy intézmény minősítésének „csökkentése”. Természetesen ehhez olyan seregre van szükség, akik mennek és nem kedvelnek (néha még botok is vannak), de ez egy másik történet.

Mi a mély tanulás?

Az utóbbi időben ez a kifejezés egyre gyakrabban hangzik. Néha még csak nem is releváns, és összekeverik valami mással. Tehát a szoftver termék lenyűgözőbbnek tűnik.

Mély tanulás - (mély tanulás; angol Mély tanulás) - gépi tanulási módszerek (tanárral, tanár részleges bevonásával, tanár nélkül, megerősítéssel), tanítási reprezentációkon alapuló, és nem speciális algoritmusok az egyes feladatokhoz.

Ne gondolja, hogy a koncepció és az alapelvekA gépi tanulás csak néhány évvel ezelőtt jelent meg. Valójában annyira sok évesek, hogy sokan még akkor sem születtek. A mély tanulási rendszerek és a matematikai modellek alapelveit a múlt század 80-as éveiben ismerték meg.

Abban az időben nem volt ilyen értelmeegy fontos elem hiánya. Nagy számítási teljesítmény volt. Csak a kétezerik közepén jelent meg olyan rendszer, amely segíthet ebben az irányban dolgozni, és lehetővé teszi az összes szükséges információ kiszámítását. A gépek még tovább fejlesztettek, és néhány gépi látás, hangfelismerés és mások olyan hatékonyan működnek, hogy néha meghaladják az emberi képességeket. Noha ezeket még nem ültették be a felelős területeken, kiegészítve őket az emberi képességekkel, miközben megőrizték felettük a feletti ellenőrzést.

Tanítunk nekik, de hogyan fogják használni tudásukat és képességeiket?

Mi a deepfake? Mikor jelent meg a Deepfake?

Könnyű kitalálni, hogy a Deepfake kicsia mély tanuláshoz kapcsolódó pun-ok és azok a hamisítványok, amelyekről már fentebb beszéltünk. Vagyis a Deepfake-nek új szintre kell állítania a hamisítást, és ki kell ürítenie az embert ebben a nehéz ügyben, lehetővé téve hamis tartalom létrehozását anélkül, hogy rá pazarolná az energiát.

Mindenekelőtt az ilyen hamisítványok a videóval kapcsolatosak. Vagyis bármelyik személy ülhet a kamera előtt, mondhat valamit, és az arcát egy másik személy váltja fel. Ijesztőnek tűnik, mert valójában csak meg kell fogni egy ember alapvető mozgását, és egyszerűen lehetetlen megkülönböztetni a hamisítványt. Nézzük meg, hogy kezdődött az egész.

Az első generáló kontraverzális idegi hálózat voltkészítette egy Stanford Egyetem hallgatója. 2014-ben történt, és a hallgató Jan Goodfellow volt. Valójában két neurális hálózatot szorongatott, amelyek közül az egyik az emberek arcainak generálására irányult, a második pedig elemezte őket, és azt állította, hogy hasonló vagy nem. Így tanították egymást, és egy szép napon a második idegháló összezavarodott, és a generált képeket valódira vette. Ez egy ilyen folyamatosan bonyolult rendszer, amely a Deepfake-t eredményezi.

Most az ötlet egyik fő támogatójaA mélyfaj Hao Li (Hao Li). Nem csak ezzel foglalkozik, hanem sok más dologgal is. Erre többször különféle díjakat ítéltek oda, köztük a nem hivatalos díjakat is. Mellesleg ő egyike azoknak, akiknek köszönetet kell mondaniuk az animoji megjelenéséért az iPhone X-en. Ha érdekli, a honlapján részletesebben megismerkedhet vele. Manapság nem ő a vita fő témája.

Csak azért emlékeztünk rólaa Davoszi Világgazdasági Fórumon bemutatta jelentkezését, amely a kamera előtt ülő ember arcát más személyekkel helyettesíti. Különösen megmutatta, hogyan működik a rendszer Leonardo DiCaprio, Will Smith és más híres emberek arcán.

Az ilyen technológiáknál a legfontosabb a szkennelés, és akkor a technológia kérdése. A szó legmegfelelőbb értelmében.

Elképzelheti az ellenkező helyzetet, amikoregy igazi ember mondani fog valamit, és aztán mindenkinek biztosítja, hogy bekeretezték. Nem is egyértelmű, hogy hogyan lehet ebben a helyzetben. Ez olyan rendetlenséget okoz majd a hírcsatornákban, hogy egyszerűen nem működik annak ellenőrzésében, hogy egy másik forrásban van-e. Ennek eredményeként teljesen érthetetlenné válik, hogy mi igaz és mi hamis ebben a világban. Kép alakul ki a sötét jövőről szóló filmekből, mint például a Surrogates vagy a Terminator, ahol a T-1000-et más emberek vezették be, és többek között John Conornak hívták örökbefogadó anyja nevében.

Most már nem is beszélek egy másik visszaélésről, amely megengedi számunkra, hogy hamis bizonyítékokat gyűjtsünk. Mindezek alapján a játék minden szórakozása túl kétséges.

Hogyan lehet azonosítani a Deepfake-t?

A probléma nem az, hogy ilyen rendszerekre van szükségtiltani, de abban a tényben, hogy ez már nem lehetséges. Már rendelkeznek, és a technológia fejlődése, beleértve az arcolvasást, és az arcolvasás, megjelenésükhöz és a nyílt forráskód elterjedéséhez vezetett. Még ha el is képzelte, hogy a rendszer jelenlegi formájában megszűnik, meg kell értenie, hogy újra létrejön. Csak egyszer megtanítják a neurális hálózatokat, hogy működjenek egymás között, és ez minden.

Amikor a neurális hálózatok elkerülnek az irányítást, erről a Telegram hírcsatornánkból tájékozódhat. Csatlakozz, mielőtt késő lenne.

Amíg minden nem ilyen ijesztő, és határozza meg a hamisítástSzó szerint szabad szemmel is lehet. A kép hasonló, de meglehetősen durva. Ezen felül néha problémái vannak a kombinálással, különösen az arc szélén. De semmi sem áll meg, és még tovább fejlesztni egyáltalán nem nehéz. Ugyanaz a Hao Li biztos, hogy ez nem tart tovább, mint néhány hónap, és olyan „maszkok” létrehozásához, amelyeket még egy számítógép sem tud megkülönböztetni, még több évre van szüksége. Ezután nincs visszaút.

Egyrészt megvédi ezt.egy algoritmus, amelyet a YouTube és a Facebook már készít. Mellesleg, ez utóbbi versenyt is nyitott az elismerési technológia fejlesztésére - a Deepfake Detection Challenge ("A mágikus halak azonosításának feladata"). A verseny nyereményalapja 10 millió dollár. A verseny már folyamatban van, és 2020 márciusában ér véget. Még mindig van ideje részt venni.

Az arc cseréje egy videóban már nem jelent problémát.

Talán ez a nagylelkűség egy hamis videónak köszönhető, amelyet maga Mark Zuckerberg készített. Ha ez a két dolog összekapcsolódik, egy ilyen verseny megjelenése nem meglepő.

Ha a pótolt személy teljes mértékbenHa megegyezik az eredetivel, akkor a speciális ideghálózattal szembeni ellenállás erőtlen lesz. Ebben az esetben meg kell szereznie a minimális különbségeket az arckifejezésekben, a mozgásokban és a beszédmódban. Híres emberek esetében ezt a problémát a video szolgáltatás szintjén oldják meg, mivel ugyanaz a YouTube tudja, hogyan mozog a feltételes Donald Trump. Ha kevésbé ismert személyről van szó, akkor nehezebb lesz. Ennek ellenére azt is igazolhatja, hogy a kamera elé ül és alkalmi beszélgetést folytat, miközben a neurális hálózat elemzi a mozgását. Kiderül, hogy például az ujjlenyomat tanulmányozása, de amint látjuk, ez ismét szükségtelen nehézségekhez vezet.

Ha beágyaz egy video-hitelesítő rendszerta kamerákba, megkerülhetők is. Megadhatja, hogy a kamera megjelölje a felvett videót, és egyértelmű, hogy azt nem külön alkalmazáson keresztül készítik, vagy egy speciális programban dolgozzák fel. De mi lesz ebben az esetben az egyszerűen feldolgozott videókkal? Például egy csatolt interjú. A kimeneten olyan videót kapunk, amelyben már nem lesz az a forráskulcs.

Néhány mémek a végén.

Ijesztő jövő forgatókönyv

El lehet mondani, hogy most felvázoltuk az egyiketforgatókönyvek a homályos jövőre? Általában igen. Ha a jó célok elérésére létrehozott technológiák kikerülnek az irányításból, akkor szomorúságot fogyaszthat velük. Valójában számos lehetőség van az ilyen veszélyes technológiákra, de ezek többsége védett. Például atomfúzió. Itt olyan kóddal foglalkozunk, amelyet bárki megszerezhet.

Írja meg a megjegyzésekbe, hogy milyen védelmet lát.hamisításból, tekintettel arra, hogy a maszkoló rendszer képessé tette a maszkok teljesen azonosak az eredeti arcokkal. És mivel a videóban vannak, akkor még a mélység és a hangerő felismerését sem lehet rá alkalmazni. Tegyük fel, hogy a képbe ágyazott bármely kód és kulcs meg lehet repedni. Ahogy a mondás mondja, miért lenne. Most megvitathatjuk az összes bevezető megjegyzést.

</ p>