общ, изследване, технология

Може ли изкуственият интелект да унищожи човечеството до 2035 г.?

Британският теоретичен физик Стивън Хокинг вярвашече създаването на изкуствен интелект (AI) ще бъде „или най-лошото, или най-доброто събитие в човешката история“. Още през 2016 г. ученият се застъпи за създаването на научна организация, чиято основна задача би била да проучи перспективите на изкуствения интелект като „критичен въпрос за бъдещето на нашата цивилизация и нашия вид“. Наскоро криминалисти определиха най-добрите 18 заплахи за ИИ, за които трябва да се тревожим през следващите 15 години. Докато научната фантастика и популярната култура изобразяват смъртта на човечеството от ръцете на интелигентни роботи, изследванията показват, че основната заплаха всъщност има повече общо с нас, отколкото изглежда на пръв поглед.

Deep Fake е основната заплаха, породена от AI

AI заплаха ли е?

Днес може да изглежда толкова изкуственоинтелигентността, която представлява заплаха за човечеството, е много писатели на научна фантастика и филми като „Матрицата“ или „Аз съм робот“. Съгласете се, доста трудно е да си представите всемогъщ и ужасен ИИ, когато Сири не е в състояние да даде правилната прогноза за времето. Но Шейн Джонсън, директор на Центъра за престъпления на бъдещето на Дауес в UCLA, обяснява това броят на потенциалните заплахи ще расте и те ще стават все по-сложни, преплетени с нашето ежедневие.

Според Джонсън, цитиран от Inverse,живеем във непрекъснато променящ се свят, който създава нови възможности - и добри, и лоши. Ето защо е толкова важно да се предвидят бъдещи заплахи, включително увеличаване на престъпността. Това е необходимо, за да могат политиците и други заинтересовани страни с компетентност да идентифицират престъпления, преди да се случат. Да, точно както в Доклад за малцинствата с Том Круз в главните роли.

Въпреки че авторите на труда, публикуван в Crime Science, признават това констатациите от проучването по своята същност са спекулативни и зависят от настоящата политическа среда и технологично развитие, в бъдеще технологиите и политиката ще вървят ръка за ръка.

За да сте в крак с последните научни открития в областта на високите технологии и не само, абонирайте се за нашия канал в Google News.

Кадър от филма "Несъгласие мнение"

Изкуствен интелект и престъпност

За да направим тези футуристичниЗаключения изследователите събраха екип от 14 учени в свързани области, седем експерти от частния сектор и 10 експерти от публичния сектор. Тези 30 експерти бяха равномерно разпределени в групи от четири до шест души и получиха списък с потенциални престъпления с ИИ, вариращи от физически заплахи (като автономни атаки с безпилотни летателни апарати) до цифрови форми на заплахи. За да направят своите преценки, екипът разгледа четири основни характеристики на атаките:

  • Вред
  • Рентабилност
  • Достъпност
  • Привързаност

В този случай вредата може да се отнася дофизически, умствени или социални щети. Авторите на проучването освен това определят, че тези заплахи могат да навредят, било чрез побеждаване на ИИ (например чрез избягване на разпознаването на лицето) или използване на ИИ за извършване на престъпления (например чрез изнудване на хора с дълбоки фалшиви видеоклипове).

Въпреки че тези фактори всъщност не могат да бъдатотделени един от друг, експертите бяха помолени да разгледат въздействието на тези критерии поотделно. След това резултатите на екипите бяха сортирани, за да се определят общите най-опасни заплахи с ИИ през следващите 15 години.

AI - диаграма на заплахата

За разлика от роботизирана заплаха, способна напричинява физическа вреда или щети на имущество, дълбоката фалшификация може да ни лиши доверие в хората и в самото общество. Чрез оценка на заплахите по горните критерии изследователският екип установи, че дълбокото фалшифициране - технология, която вече съществува и се разпространява - представлява най-високото ниво на заплаха.

Важно е да се разбере, че заплахите, отправени от AI, несъмнено ще бъдат сила, с която трябва да се съобразяваме през следващите години.

Сравнявайки 18 различни вида AI заплахи, групата определи, че дълбоките фалшиви видео и аудио манипулации са най-големите заплахи.

„Хората имат силна склонност да вярват на своитесобствените ни очи и уши, така че на аудио и видео доказателства традиционно се дава голяма достоверност (и често юридическа сила), въпреки дългата история на фотографска измама “, обясняват авторите. „Но последните разработки в обучението (включително дълбокото менте) значително разшириха възможностите за генериране на фалшиво съдържание.“

Интересно: Изкуственият интелект разкрива тайната на щастливите отношения

Авторите на изследването смятат, че потенциалътвъздействието на тези манипулации варира от хора, които подмамят възрастните хора да се представят за член на семейството, до видеоклипове, предназначени да сеят недоверие към публични и правителствени фигури. Те също така добавят, че тези атаки са трудни за откриване от хора (и дори експерти в някои случаи), което ги прави трудно да се спрат. По този начин промените в поведението на гражданите може да са единствената ефективна защита.

Дълбоката фалшификация е основната заплаха за AI

Други основни заплахи включваха автономниколи, използвани като дистанционно оръжие, подобно на терористичните атаки на автомобили, които наблюдаваме през последните години, AI и фалшиви новини. Интересното е, че групата счита робот-крадците (малки роботи, които могат да се катерят през малки дупки, за да крадат ключове и да помагат на крадци и крадци) като една от най-малките заплахи.

Какво мислиш за това? Ще чакаме отговора тук!

Прокълнати сме?

Не, но трябва да свършим малко работа. Популярни изображения на AI заплаха предполагат, че ще имаме един червен бутон за натискане, който може да накара всички нечисти роботи и компютри да спрат. Всъщност заплахата се крие не толкова в самите роботи, а в начина, по който ги използваме, за да си манипулираме и да си навредим. Разбирането на тази потенциална вреда и правенето на всичко възможно за постигане на напредък под формата на информационна грамотност и изграждане на общността може да бъде мощен инструмент срещу този по-реалистичен робот апокалипсис.