Recherche

"Conseil d'éthique" mystérieux DeepMind prendra le contrôle de l'intelligence artificielle générale si elle apparaît

Le conseil d'éthique DeepMind était soigneusement gardésecret depuis que Google a acquis cette société d’intelligence artificielle en 2014. Cependant, Halist Hodson de The Economist explique comment le conseil d'éthique a été créé et pourquoi il est nécessaire. Il écrit que DeepMind et Google ont signé un "accord d'audit sur l'éthique et la sécurité", rédigé par des avocats à Londres un an avant l'achat de la société.

Que fait le comité d'éthique DeepMind?

Cet accord stipule que si DeepMindréussira toujours dans sa tâche première de construire une intelligence artificielle générale (AGI) - ce qui signifie parfois une machine capable d’accomplir toute tâche intellectuelle qu’une personne peut effectuer - le contrôle de cette machine appartiendra à ceux qui siègent au conseil des gouverneurs - le Conseil sur l'éthique.

Le Conseil d'éthique permet en effet à DeepMindmaintenir légalement un certain niveau de contrôle sur les technologies qu’elles créent, peu importe leur valeur ou leur dangerosité.

Il convient également de noter qu’une machine à intelligence artificielle générale peut ne pas vouloir écouter ceux qui la «contrôlent».

Malgré des demandes répétées, DeepMind n'a pas révélé qui fait partie du Conseil d'éthique, mais The Economist a désigné les trois fondateurs de DeepMind (Demis Hassabis, Mustafa Suleiman et Shane Legg).

En décembre 2016, Suleiman a annoncé àLa conférence TechCrunch a déclaré que «le conseil d'éthique fonctionne et qu'il doit surveiller un certain nombre de nos initiatives de l'intérieur». Il a ajouté: «Nous avons toujours dit qu'il se concentrerait essentiellement sur des systèmes d'apprentissage complets à vocation générale, et je pense que cette perspective est très lointaine. Nous sommes à une dizaine d’années des risques initialement envisagés par le conseil. Nous mettons en place de nombreux mécanismes en place qui se concentrent sur les conséquences immédiates. "

L'année précédente, lors d'une conférence qui s'est tenue au bureau de Bloomberg à Londres en 2015, Suleiman a déclaré: «Nous annoncerons les noms, mais ce n'est pas tout. C'est l'un des composants de l'appareil dans son ensemble. "

DeepMind est souvent appelé l'un des leaders de la course à l'IA, avec Facebook, Microsoft, OpenAI, Baidu et plusieurs autres sociétés.

Mais pour l'instant, les systèmes d'intelligence artificiellecapable de gagner des gens que dans certains jeux, ainsi que d'effectuer d'autres tâches de niche dans certains domaines. Il est impossible de les appeler omnipotentes et omnipotentes, et il faudra encore beaucoup d’années avant que la situation change.

DeepMind n'a pas répondu aux commentaires. Qu'en pensez vous? Dites-nous dans notre conversation dans Telegram.