Forskning

Mystiske "etiske råd" DeepMind vil tage kontrol over det generelle AI, hvis det fremgår

The DeepMind Ethics Council blev omhyggeligt bevogtethemmeligt siden Google erhvervede dette kunstige intelligensfirma i 2014. Halist Hodson fra The Economist kaster imidlertid lys over, hvordan etikkrådet kom og hvorfor det er nødvendigt. Han skriver, at DeepMind og Google underskrev en "Ethics and Security Audit Agreement", udarbejdet af advokater i London et år før selskabets køb.

Hvad gør DeepMind Ethics Council?

Denne aftale siger, at hvis DeepMindvil aldrig lykkes i sin primære opgave at opbygge en generel kunstig intelligens (AGI) - som undertiden betyder en maskine, der med succes kan udføre enhver intellektuel opgave, som en person kan udføre - kontrol af denne maskine vil tilhøre dem, der er på det styrende råd - Rådet på etik.

Etikkrådet tillader faktisk DeepMindlovligt opretholde en vis grad af kontrol over de teknologier, det skaber, uanset hvor værdifulde eller farlige de bliver.

Det er også værd at bemærke, at en maskine med generel kunstig intelligens måske ikke vil lytte til dem, der "styrer" den.

På trods af gentagne anmodninger afslørede DeepMind ikke, hvem der er på Etikrådet, men The Economist navngiver alle tre grundlæggere af DeepMind (Demis Hassabis, Mustafa Suleiman og Shane Legg).

I december 2016 annoncerede Suleiman påTechCrunch-konferencen, at "etikkrådet arbejder, og det skal overvåge en række af vores initiativer indefra". Han tilføjede: "Vi har altid sagt, at han i høj grad vil fokusere på fuldt udviklede læringssystemer til almen brug, og jeg synes, at dette er et meget langt fjernt perspektiv. Vi er i en afstand af snesevis af år fra de risici, som Rådet oprindeligt havde planlagt. Vi implementerer mange mekanismer på plads, der fokuserer på de umiddelbare konsekvenser. "

Året før, på en konference holdt på Bloombergs kontor i Bloomberg i 2015, sagde Suleiman: "Vi vil annoncere navnene, men det er ikke alt. Dette er en af ​​komponenterne i hele apparatet. "

DeepMind kaldes ofte en af ​​lederne af AI-racen sammen med Facebook, Microsoft, OpenAI, Baidu og flere andre virksomheder.

Men for nu, kunstige intelligenssystemerKunne kun vinde folk i nogle spil samt udføre andre nicheopgaver på visse områder. Det er umuligt at kalde dem allmægtige og allmægtige, og det vil være mange år før situationen ændres.

DeepMind reagerede ikke på kommentarer. Hvad synes du? Fortæl os i vores chat i Telegram.