onderzoek

Mysterieuze "ethische raad" DeepMind zal de algemene AI overnemen als het verschijnt

De DeepMind Ethics Council werd zorgvuldig bewaakt.geheim sinds Google dit kunstmatige intelligentiebedrijf in 2014 heeft overgenomen. De Halist Hodson van The Economist werpt echter licht op hoe de ethische raad tot stand is gekomen en waarom het nodig is. Hij schrijft dat DeepMind en Google een "Ethics and Security Audit Agreement" hebben ondertekend, opgesteld door advocaten in Londen een jaar voor de aankoop van het bedrijf.

Wat doet de DeepMind Ethics Council?

In deze overeenkomst staat dat als DeepMindzal ooit slagen in zijn hoofdtaak van het bouwen van een algemene kunstmatige intelligentie (AGI) - wat soms betekent dat een machine die elke intellectuele taak met succes kan uitvoeren die een persoon kan uitvoeren - de controle over deze machine zal toebehoren aan degenen die in de raad van bestuur zitten - de Raad over ethiek.

Ethics Council staat DeepMind zelfs toelegaal een bepaald niveau van controle behouden over de technologieën die het creëert, ongeacht hoe waardevol of gevaarlijk ze worden.

Het is ook vermeldenswaard dat een machine met algemene kunstmatige intelligentie misschien niet wil luisteren naar degenen die deze "beheersen".

Ondanks herhaalde verzoeken heeft DeepMind niet bekendgemaakt wie lid is van de Ethics Council, maar The Economist noemt alle drie de oprichters van DeepMind (Demis Hassabis, Mustafa Suleiman en Shane Legg).

In december 2016 heeft Suleiman aangekondigd opde TechCrunch-conferentie dat "de ethische raad werkt en een aantal van onze initiatieven van binnenuit moet volgen". Hij voegde eraan toe: “We hebben altijd gezegd dat hij zich grotendeels zal richten op volwaardige algemene leersystemen, en ik denk dat dit een zeer, zeer ver vooruitzicht is. We bevinden ons op tientallen jaren afstand van de risico's die de gemeente oorspronkelijk voorzag. We implementeren veel mechanismen die zijn gericht op de onmiddellijke gevolgen. "

Het jaar daarvoor zei Suleiman op een conferentie in Londen in Bloomberg in 2015: “We zullen de namen bekendmaken, maar dat is niet alles. Dit is een van de componenten van het hele apparaat. ”

DeepMind wordt vaak een van de leiders van de AI-race genoemd, samen met Facebook, Microsoft, OpenAI, Baidu en verschillende andere bedrijven.

Maar voor nu, kunstmatige intelligentiesystemenin staat om alleen mensen te winnen in sommige games, en andere nichetaken uit te voeren in bepaalde gebieden. Ze kunnen niet almachtig en almachtig worden genoemd en het zal nog vele jaren duren voordat de situatie verandert.

DeepMind heeft niet gereageerd op reacties. Wat denk jij Vertel het ons in onze chat in Telegram.