Research

Загадковий «рада з етики» DeepMind візьме під контроль загальний ІІ, якщо той з'явиться

Рада з етики DeepMind був ретельно охоронюванимсекретом з тих пір, як Google придбала цю компанію з розробки штучного інтелекту в 2014 році. Однак новий репортаж Хала Ходсона з The Economist проливає світло на те, як з'явився рада з етики та для чого він потрібен. Він пише, що DeepMind і Google підписали «Угоду про перевірку етики і безпеки», складене юристами в Лондоні за рік до покупки компанії.

Чим займається рада з етики DeepMind

У цій угоді йдеться, що якщо DeepMindколи-небудь досягне успіху в своєму основному завданню побудови загального штучного інтелекту (AGI) - під яким іноді розуміють машину, здатну успішно виконати будь-яку інтелектуальну задачу, яку може виконати людина - контроль над цією машиною буде належати тим, хто входить до складу керівного ради - Ради з етики.

Рада з етики, по суті, дозволяє DeepMindюридично підтримувати певний рівень контролю над технологіями, які він створює, незалежно від того, наскільки цінними або небезпечними вони стають.

Варто також відзначити, що машина з загальний штучним інтелектом може і не захотіти слухати тих, хто її «контролює».

Незважаючи на неодноразові запити, DeepMind так і не розкрив, хто входить до Ради з етики, проте The Economist називає всіх трьох засновників DeepMind (Деміс Хассабіс, Мустафа Сулейман і Шейн Легг).

У грудні 2016 року Сулейман заявив наконференції TechCrunch, що «рада з етики працює і йому доводиться спостерігати за рядом наших ініціатив зсередини». І додав: «Ми завжди говорили, що він буде в значній мірі зосереджений на повноцінних навчаються системах загального призначення, і я думаю, що це дуже і дуже далека перспектива. Ми на відстані десятків років від тих ризиків, які спочатку передбачав рада. Ми впроваджуємо безліч механізмів на місці, які зосереджені на найближчі наслідки ».

За рік до цього на конференції, що відбулася в лондонському офісі Bloomberg в 2015 році, Сулейман сказав: «Ми оприлюднимо імена, але це ще не все. Це один з компонентів всього апарату ».

DeepMind часто називають одним з лідерів гонки ІІ, разом з Facebook, Microsoft, OpenAI, Baidu і декількома іншими компаніями.

Але поки що системи штучного інтелектуздатні перемагати людей лише в деяких іграх, а також виконувати інші нішеві завдання в певних областях. Назвати їх всемогутніми і всесильними не можна, і пройде ще багато років, перш ніж ситуація зміниться.

DeepMind на коментарі не відповіла. А що думаєте ви? Розкажіть в нашому чаті в Телеграма.