La technologie

OpenAI veut créer une IA tout-puissant. Mais dans le bon sens

Un samedi le mois dernier, cinq hommesde 19 à 26 ans a émergé avec confiance d’un nuage de fumée pourpre lors d’un salon de l’automobile reconverti à San Francisco. Ils se sont assis devant une rangée de claviers d'ordinateur, accueillis avec force par une foule de plusieurs centaines de personnes. Après quatre-vingt-dix minutes d'intenses clics de souris, le sourire des cinq se ternit et les applaudissements furent réconfortants. L'équipe OG, championne du monde du jeu compétitif le plus rentable au monde, Dota 2, a perdu deux matchs de suite contre l'équipe de robots à intelligence artificielle.

Ce résultat était remarquable carLes jeux vidéo compliqués sont mathématiquement plus compliqués que les jeux de plateau comme les échecs ou le go. Malgré tout, appuyé contre le mur derrière la scène, Sam Altman, directeur général de l’Institut de recherche OpenAI, qui a développé ces robots, a ressenti un soulagement pendant les vacances.

Intelligence Artificielle vs Doters

"Nous étions tous très nerveux ce matin - je pensaisque les chances sont 60 sur 40, dit Altman. Il est devenu PDG d'OpenAI en mars, après avoir quitté le poste de président de l'influent incubateur YCombinator. Pour réussir dans ce nouveau poste, Altman avait besoin de robots qui non seulement battaient les joueurs de jeux vidéo, mais aussi de meilleurs robots que les autres.

La mission déclarée d’OpenAI est deveiller à ce que toute l’humanité profite de toute future IA capable de dépasser «les hommes dans le travail le plus économiquement viable». De telles technologies - intelligence artificielle générale, intelligence artificielle «forte» ou AII (AGI) - ne se profilent même pas à l'horizon, mais OpenAI affirme que cette technologie et les autres progressent rapidement. L'organisation a montré qu'elle pouvait mener des recherches au niveau des meilleurs au monde. Et elle a eu les accusations d'avoir attisé le battage médiatique sur le sujet de l'IA, ainsi que de se fixer sur l'AIS et les menaces potentielles d'intelligence artificielle.

Selon le plan d'Altman, une étude OpenAI - etprovocations - ne devraient que prendre de la vitesse. Auparavant président du conseil d'administration de cette organisation, il a assumé la fonction de PDG après avoir transféré la plupart des employés à but non lucratif dans une nouvelle société commerciale, dans l'espoir d'attirer des investisseurs avec les milliards nécessaires pour façonner le destin d'IA et de l'humanité. Selon Altman, les grands laboratoires technologiques d’Alphabet et d’autres sociétés devraient être soumis à la pression de collègues qui ne cherchent pas à accroître la valeur pour leurs actionnaires. "Je ne veux pas être dans un monde dans lequel OII créera une entreprise, capturera toute sa valeur et prendra toutes les décisions", a-t-il déclaré.

Au MIT à la fin de 2014, le généralLe directeur de Tesla, Ilon Mask, a décrit la recherche sur l'IA comme une tentative de "convoquer un démon". À l'été 2015, il s'est entretenu avec Altman et plusieurs autres personnes lors d'un dîner et a proposé de créer un laboratoire de recherche, indépendant du segment de la technologie, qui donnerait à l'IA une direction positive. La même année, OpenAI a été créé, dans lequel Altman et Musk se sont retrouvés. Au début de 2018, Musk a quitté le conseil d'administration, évoquant des conflits potentiels avec ses autres rôles.

Dans sa courte vie, OpenAI a positionnévous-même comme un lieu sérieux pour la recherche sur l'IA. Ilya Sutskever, cofondateur de l'organisation, qui a démissionné de Google, est supervisé par un personnel composé d'anciens membres de Google, Facebook, Microsoft et Intel. Leurs travaux sur la robotique et l’apprentissage automatique ont été présentés lors des conférences les plus prestigieuses. La victoire sur l'équipe OG à Dota 2 leur a valu le respect dans le domaine de l'IA et du jeu.

Transformer OpenAI en une société commerciale étaitVous devez avoir accès à des ressources informatiques sans cesse croissantes pour pouvoir suivre le rythme de géants comme Alphabet. En 2015, OpenAI a annoncé que Altman, Mask, le cofondateur de LinkedIn, Reid Hoffman, le premier investisseur sur Facebook, Peter Thiel, et Amazon, détenaient un milliard de dollars. Maintenant, Altman dit qu'un milliard ne suffira pas. «Le montant d'argent dont nous avons besoin pour le succès d'une mission est bien plus important que je ne le pensais», dit-il.

Les applications IRS montrent qu’en 2017, lorsqueOpenAI a montré son premier bot dotera, elle a dépensé 8 millions de dollars sur le cloud computing. Depuis lors, ses dépenses ont probablement considérablement augmenté. En 2018, OpenAI a annoncé que le prédécesseur du système qui a valu à l'OG de connecter plus de 120 000 processeurs loués à la division cloud de Google pendant des semaines. La version championne s’entraîne depuis 10 mois, ce qui équivaut à 45 000 ans de jeu contre Dota 2. Combien cela a-t-il coûté? Greg Brockman, CTO OpenAI, a déclaré que «des millions de dollars» ont été affectés au projet, mais n'ont pas révélé de détails.

Altman n'est pas sûr que OpenAI continues'appuyer sur les services en nuage de ses concurrents - il est toujours possible d'acheter ou même de développer des équipements pour l'intelligence artificielle. L'organisation suit de près les nouvelles puces développées par Google et de nombreuses startups pour extraire davantage d'algorithmes d'apprentissage automatique.

Pour collecter les fonds nécessaires à l'accèsPour le futur équipement, Altman a essayé de vendre l’idée aux investisseurs selon un schéma qui n’était même pas naturel pour Silicon Valley. Investissez dans OpenAI, attendez, et l'entreprise vous remboursera un investissement 100 fois supérieur - dès qu'elle inventera des robots qui surpassent les personnes dans la plupart des tâches économiquement intéressantes.

Altman répond à ces attentesCe fut "l'expérience la plus intéressante de collecte de fonds de ma vie - elle ne convient à aucun autre modèle." Selon lui, le plus grand intérêt est manifesté par les personnes riches intéressées par l'IA. Hoffman et la société de capital-risque Khosla Ventures ont investi dans la nouvelle version commerciale OpenAI, mais n'ont pas répondu aux demandes de commentaires. Personne ne dit quand s'attendre à un remboursement, mais les paris OpenAI ne sont pas pour les impatients. Les sociétés sont informées que le délai de retour de leurs fonds peut dépasser la norme de l’industrie (dix ans). «Nous leur disons immédiatement que vous ne recevrez pas de fonds dans les 10 prochaines années», explique Altman.

Malgré tous les efforts, OpenAI est souvent critiqué.leaders de l'industrie. En février, la société a révélé des informations sur un logiciel de traitement du langage capable de générer un texte étonnamment vivant. Certains ont immédiatement qualifié cette invention de "dangereuse" et ont dit craindre qu'elle puisse être utilisée pour nuire aux réseaux sociaux.

Quelques personnalités dans le domaine de la recherche sur l'IAont été agacés, y compris la principale IA sur Facebook, Jan Lekun. Dans ses publications sur Facebook, il a défendu une publication ouverte de recherche sur le sujet de l'IA et a plaisanté en disant que les gens devraient cesser d'avoir des enfants, car ils publieraient un jour de fausses nouvelles.

Pour certains, cet épisode a souligné que la missionOpenAI n'est pas très différent des autres laboratoires d'entreprise ou académiques. «Ils font le même type de recherche que les autres, mais ils veulent attirer des milliards de dollars», a déclaré Zachary Lipton, professeur d’apprentissage automatique à la Carnegie Mellon University. "La seule façon de faire est d’essayer un peu d’âme."

Altman admet qu'OpenAI aurait pu marquerl'anxiété est trop tôt, mais dit que c'est mieux que d'être en retard. «L’industrie des technologies n’a pas fait du très bon travail en essayant d’être proactive contre les abus», dit-il. L'auto-censure est également requise par OpenAI elle-même.

Après la défaite des JO le mois dernier afin dePour exprimer sa sympathie, OpenAI a décidé de mener une deuxième expérience visant à démontrer le côté favorable de l'IA surhumaine. Les experts de Dota 2 et plusieurs débutants ont joué en équipe avec des bots.

Logiciel malchanceuxdevenir des partenaires des débutants de l’équipe, a pour la plupart fait preuve d’une indifférence surhumaine pour aider le joueur débutant. Au lieu de cela, il s'est concentré sur les victoires, à la suite d'instincts, après des mois d'entraînement dispendieux.

Personne ne sait comment faire une IA focalisée.plus flexible, ou quels composants peuvent être nécessaires pour faire de l’OII plus que de la fantaisie technologique. Même Altman a peur de l'ampleur du problème. «Il y a des jours où je crois que tout cela va se produire et des jours où tout cela semble être un rêve impossible», dit-il.

Que penses-tu que ça va marcher pour lui? Discutons dans notre discussion dans Telegram.