изследване

Тайнственият "съвет по етика" DeepMind ще поеме контрола над общия ИИ, ако се появи

Съветът по етика на дълбоките мисли беше внимателно охранявантайна, след като Google придоби тази компания за изкуствен интелект през 2014 г. Въпреки това, Халист Ходсън от The Economist хвърля светлина върху това как е създаден етичният съвет и защо е необходим. Той пише, че DeepMind и Google подписаха „Споразумение за одит на етиката и сигурността“, изготвено от адвокати в Лондон година преди закупуването на компанията.

Какво прави Съветът по етика?

Това споразумение гласи, че ако DeepMindнякога ще успее да изпълни основната си задача да изгради общ изкуствен интелект (AGI) - който понякога означава, че една машина, която може успешно да изпълни всяка интелектуална задача, която човек може да извърши - контрол на тази машина ще принадлежи на онези, които са в управителния съвет - Съветът относно етиката.

Съветът по етика позволява на DeepMindзаконно поддържане на определено ниво на контрол върху технологиите, които създава, без значение колко ценни или опасни стават.

Също така трябва да се отбележи, че една машина с общ изкуствен интелект може да не иска да слуша онези, които го "контролират".

Въпреки многократните искания, DeepMind не разкрива кой е в Съвета по етика, но The Economist назовава всички трима основатели на DeepMind (Demis Hassabis, Mustafa Suleiman и Shane Legg).

През декември 2016 г. Сулейман обяви наконференцията на TechCrunch, че „съветът по етика работи и трябва да наблюдава редица наши инициативи отвътре”. Той добави: „Винаги сме казвали, че той ще бъде в голяма степен фокусиран върху пълноценни системи за обучение с общо предназначение и мисля, че това е много, много далечна перспектива. Ние сме на разстояние десетки години от рисковете, които съветът първоначално предвиждаше. Прилагаме много механизми, които се фокусират върху непосредствените последици. "

Година по-рано, на конференция в лондонския офис на Блумбърг през 2015 г., Сулейман каза: „Ще обявим имената, но това не е всичко. Това е един от компонентите на целия апарат. "

DeepMind често се нарича един от лидерите на състезанието AI, заедно с Facebook, Microsoft, OpenAI, Baidu и няколко други компании.

Но за сега, системи за изкуствен интелектмогат да спечелят хора само в някои игри, както и да изпълняват други нишови задачи в определени области. Невъзможно е да ги наречем всемогъщи и всемогъщи, и ще бъде още много години преди ситуацията да се промени.

DeepMind не отговори на коментари. Какво мислите? Разкажете ни в нашия чат в Telegram.