kutatás

Titokzatos "etikai tanács" A DeepMind irányítja az általános AI-t, ha megjelenik

A DeepMind etikai tanácsát gondosan őrzik.titkos, mivel a Google 2014-ben megvásárolta a mesterséges intelligencia céget. A The Economist Halist Hodson azonban rávilágít arra, hogyan jött létre az etikai tanács és miért van szükség rá. Azt írja, hogy a DeepMind és a Google aláírta az ügyvédek által Londonban egy évvel korábban elkészített „Etikai és biztonsági ellenőrzési megállapodást”.

Mit tesz a DeepMind Etikai Tanács?

Ez a megállapodás azt állítja, hogy ha DeepMindsoha nem lesz sikeres az általános mesterséges intelligencia (AGI) megépítésében - ami néha olyan gépet jelent, amely sikeresen végrehajthat bármilyen olyan szellemi feladatot, amelyet egy személy képes végrehajtani - a gép ellenőrzése azokhoz tartozik, akik az igazgatóságban vannak - a Tanács az etikáról.

Az Etikai Tanács valójában lehetővé teszi a DeepMindetjogilag fenntartja bizonyos szintjét az általa létrehozott technológiák felett, függetlenül attól, hogy milyen értékes vagy veszélyes lesz.

Érdemes megjegyezni, hogy az általánosan mesterséges intelligenciával rendelkező gép nem kívánja meghallgatni azokat, akik „ellenőrzik”.

Az ismételt kérések ellenére a DeepMind nem hozta nyilvánosságra az etikai tanácsot, de a The Economist a DeepMind mindhárom alapítóját (Demis Hassabis, Mustafa Suleiman és Shane Legg) nevezi ki.

2016 decemberében Suleiman bejelentettea TechCrunch konferencián, hogy „az etikai tanács működik és számos belső kezdeményezésünket figyelemmel kell kísérnie”. Hozzátette: „Mindig azt mondtuk, hogy nagyrészt a teljes körű általános célú tanulási rendszerekre fog összpontosítani, és azt hiszem, ez nagyon-nagyon távoli kilátás. Tucatnyi távolságra vagyunk a Tanács által eredetileg tervezett kockázatoktól. Sok olyan mechanizmust valósítunk meg, amelyek a közvetlen következményekre összpontosítanak. ”

Az előző évben, a Bloomberg londoni irodájában 2015-ben megtartott konferencián Suleiman azt mondta: „Meg fogjuk jelenteni a neveket, de ez nem minden. Ez az egész készülék egyik összetevője. ”

A DeepMind-et gyakran az AI verseny egyik vezetőjének nevezik, a Facebook, a Microsoft, az OpenAI, a Baidu és számos más vállalat mellett.

De most mesterséges intelligencia rendszerekcsak néhány játékban nyerhet embereket, és bizonyos területeken más rést is elláthat. Lehetetlen mindent mindenhatónak és mindenhatónak nevezni, és sokkal több év lesz a helyzet megváltozása előtt.

A DeepMind nem válaszolt a megjegyzésekre. Mit gondolsz? Mondja el velünk a Telegramban.