Tajanstveni "etički savjet" DeepMind će preuzeti kontrolu nad općim AI ako se pojavi

Vijeće za etiku dubokog uma pažljivo je čuvano.tajna otkako je Google 2014. godine kupio tvrtku umjetne inteligencije. Međutim, Halist Hodson iz The Economist-a baca svjetlo na to kako je došlo do etičkog vijeća i zašto je potrebno. On piše da su DeepMind i Google potpisali "Ugovor o etičkom i sigurnosnom nadzoru", kojeg su izradili odvjetnici u Londonu godinu dana prije kupnje tvrtke.

Što radi Etičko vijeće za duboko pamćenje?

Ovaj sporazum navodi da ako DeepMindće ikada uspjeti u svojoj glavnoj zadaći izgradnje opće umjetne inteligencije (AGI) - što ponekad znači da stroj koji može uspješno obaviti bilo koji intelektualni zadatak koji osoba može obavljati - kontrola ovog stroja pripadati će onima koji su u upravnom vijeću - o etici.

Etičko vijeće, zapravo, dopušta DeepMinduzakonski održavati određenu razinu kontrole nad tehnologijama koje ona stvara, bez obzira na to koliko oni postanu vrijedni ili opasni.

Također je vrijedno spomenuti da stroj s općom umjetnom inteligencijom možda ne želi slušati one koji ga "kontroliraju".

Unatoč ponovljenim zahtjevima, DeepMind nije otkrio tko je na Etičkom vijeću, ali The Economist imenuje sva tri osnivača DeepMinda (Demis Hassabis, Mustafa Suleiman i Shane Legg).

U prosincu 2016. Suleiman je najavio ukonferencija TechCrunch koja “etičko vijeće radi i mora pratiti niz naših inicijativa iznutra”. Dodao je: „Uvijek smo govorili da će se u velikoj mjeri usredotočiti na cjelovite sustave učenja za opće namjene, i mislim da je to vrlo, vrlo daleka perspektiva. Nalazimo se na udaljenosti od nekoliko desetljeća od rizika koje je vijeće prvobitno predvidjelo. Primjenjujemo mnoge mehanizme koji se usredotočuju na neposredne posljedice. "

Godinu dana ranije, na konferenciji održanoj u londonskom uredu u Bloombergu 2015. godine, Suleiman je rekao: “Objavit ćemo imena, ali to nije sve. To je jedna od komponenti cijelog aparata. "

DeepMind se često naziva jedan od vođa AI utrke, zajedno s Facebookom, Microsoftom, OpenAI-jem, Baidu-om i nekoliko drugih tvrtki.

Ali za sada, sustavi umjetne inteligencijemože osvojiti ljude samo u nekim igrama, kao i obavljati druge nišne zadatke u određenim područjima. Nemoguće ih je nazvati svemoćnim i svemoćnim, i bit će još mnogo godina prije nego što se situacija promijeni.

DeepMind nije odgovorio na komentare. Što mislite? Recite nam u našem chatu u Telegramu.