Technology

OpenAI хоче створити всемогутній ІІ. Але в хорошому сенсі

В одну із субот минулого місяця п'ять чоловіківвіком від 19 до 26 років впевнено вийшли з хмари пурпурного диму в переробленому автосалоні в Сан-Франциско. Вони сіли за ряд комп'ютерних клавіатур, їх голосно вітав натовп з декількох сотень людей. Через дев'яносто хвилин інтенсивних клацань миші посмішки п'ятірки стали смутними, а оплески - втішними. Команда OG, світові чемпіони найприбутковішою в світі змагальної гри Dota 2, програли дві гри поспіль команді ботів зі штучним інтелектом.

Цей результат став визначною, тому щоскладні відеоігри математично складніше настільних ігор на зразок шахів або го. І все ж, притулившись до стіни за лаштунками, Сем Альтман - генеральний директор дослідницького інституту OpenAI, який розробив цих ботів, випробував святкове полегшення.

Штучний інтелект проти Дотері

«Ми всі дуже нервували тим вранці - я думав,що шанси 60 на 40 », говорить Альтман. Він став CEO OpenAI в березні, після відходу з поста президента впливового інкубатора стартапів YCombinator. Щоб досягти успіху на новій посаді, Альтману потрібні були боти, які не просто перемагають людей у ​​відеоіграх - йому потрібні були боти, які краще людей в усьому.

Заявлена ​​місія OpenAI полягає в тому, щобгарантувати, що від будь-якого майбутнього ІІ, здатного перевершити «людей в найбільш економічно вигідною роботі» виграє все людство. Такі технології - загальний штучний інтелект, «сильний» штучний інтелект, або ОІІ (AGI) - поки навіть на горизонті не маячать, але OpenAI стверджує, що і вона, і інші стрімко прогресують. Організація показала, що може проводити дослідження на рівні кращих в світі. І здобула звинувачення в роздуванні галасу на тему ІІ, а також в фіксації на ОІІ і потенційні загрози штучного інтелекту.

За планом Альтмана, дослідження OpenAI - іпровокації - повинні тільки набирати темп. Будучи перш головою ради директорів цієї організації, він зайняв пост генерального директора після того, як допоміг перевести більшу частину некомерційного персоналу в нову комерційну компанію, сподіваючись залучити інвесторів з мільярдами, необхідними для формування долі ІІ і людства. Альтман говорить, що великі технологічні лабораторії в Alphabet та інших компаніях повинні відчувати тиск з боку колег, які не прагнуть збільшити свою акціонерну вартість. «Я не хочу бути в світі, в якому ОІІ створить одна компанія, захопить всю його цінність і буде приймати всі рішення», каже він.

На заході MIT в кінці 2014 року генеральнийдиректор Tesla Ілон Маск описав дослідження на тему ІІ як спробу «викликати демона». Влітку 2015 року його поговорив з Альтманом і декількома іншими за вечерею і запропонував створити дослідницьку лабораторію, незалежну від технологічного сегмента, яка направила б ІІ в позитивне русло. У тому ж році була створена OpenAI, в якій опинилися Альтман і Маск. На початку 2018 року Маск покинув раду директорів, пославшись на потенційні конфлікти з іншими його ролями.

За своє недовге життя OpenAI позиціонуваласебе як серйозне місце для досліджень ШІ. Ілля Суцкевер, співзасновник організації, який пішов з керівної посади з досліджень ІІ в Google, курирує персонал, до якого входять колишні вихідці з Google, Facebook, Microsoft і Intel. Їх роботи на тему робототехніки і машинного навчання з'являлися на найпрестижніших конференціях. Перемога над командою OG в Dota 2 принесла їм повагу в області ІІ і гейминга.

Перетворення OpenAI в комерційну корпорацію буловикликане відчуттям, що для того, щоб йти в ногу з такими гігантами, як Alphabet, буде потрібно доступ до постійно зростаючим обчислювальних ресурсів. У 2015 році OpenAI заявила, що у неї в розпорядженні 1 мільярд доларів, отриманий від Альтмана, Маска, співзасновника LinkedIn Рейда Хоффмана, раннього інвестора Facebook Пітера Тіля і Amazon. Тепер Альтман говорить, що одного мільярда буде недостатньо. «Грошовий обсяг, який нам необхідний для успіху місії, набагато більше, ніж я думав», говорить він.

Заявки IRS показують, що в 2017 році, колиOpenAI показала свого першого бота-Дотері, вона витратила 8 мільйонів доларів на хмарні обчислення. З тих пір її витрати, ймовірно, значно зросли. У 2018 році OpenAI оголосила, що попередник системи, яка перемогла OG, пов'язував більше 120 000 процесорів, орендованих у хмарного підрозділу Google, протягом тижнів. Перемогла чемпіонів версія тренувалася протягом 10 місяців, що еквівалентно 45 000 років гри в Dota 2 проти самої себе. Скільки це коштувало? Грег Брокман, CTO OpenAI каже, що на проект пішли «мільйони доларів», але не розкриває подробиці.

Альтман не впевнений, що OpenAI і далі будепокладатися на хмарні сервіси конкурентів - він як і раніше відкритий для покупки або навіть для розробки обладнання для штучного інтелекту. Організація пильно стежить за новими чіпами, що розробляються Google, і безліччю стартапів, щоб вичавлювати з алгоритмів машинного навчання ще більше.

Щоб залучити кошти, необхідні для доступудо майбутнього обладнанню, Альтман спробував продати ідею інвесторам за схемою, дикої навіть для Кремнієвої долини. Вкладіть гроші в OpenAI, почекайте, і компанія поверне вам вкладення стократ - як тільки винайде роботів, які перевершують людей в більшості економічно цінних завдань.

Альтман говорить, що відповідність цим очікуваннямбуло «найцікавішим досвідом збору коштів в моєму житті - він не підійде ні для якої іншої моделі». Найбільший інтерес, за його словами, виявляють зацікавлені в ІІ багаті люди. Hoffman і венчурна фірма Khosla Ventures інвестували в новий комерційний OpenAI, але не відповіли на запити про коментарі. Ніхто не говорить, коли очікувати повернення коштів, але ставки на OpenAI - не для нетерплячих. Компаніям повідомляють, що час повернення їх коштів може перевищувати стандарт галузі (десять років). «Ми відразу їм говоримо, що ви не отримаєте засобів в найближчі 10 років», говорить Альтман.

Незважаючи на всі старання, OpenAI часто критикуютьлідери галузі. У лютому компанія розкрила подробиці про ПО для обробки мови, яке було здатне генерувати напрочуд живий текст. Деякі відразу ж назвали винахід «небезпечним» і висловили побоювання, що його можна використовувати на шкоду, щоб засмітити соціальні мережі.

Деякі видатні люди в області дослідження ІІбули роздратовані, включаючи головного по ІІ в Facebook Яна Лекуна. У своїх постах на Facebook він захищав відкриту публікацію досліджень на тему ІІ і жартував, що людям варто було б перестати заводити дітей, оскільки одного разу ті будуть публікувати фейковий новини.

Для деяких цей епізод підкреслив, що місіяOpenAI не сильно відрізняється від інших корпоративних або академічних лабораторій. «Вони проводять плюс-мінус ті ж самі дослідження, як і інші, але хочуть залучити мільярди доларів», говорить Захарі Ліптон, професор машинного навчання в Університеті Карнегі-Меллона. «Єдиний спосіб зробити це - злегка покривити душею».

Альтман визнає, що OpenAI, можливо, забилатривогу занадто рано, але каже, що це краще, ніж спізнитися. «Технологічна галузь виконала не надто хорошу роботу, намагаючись проявляти ініціативу щодо зловживань», говорить він. Самоцензура необхідна і самої OpenAI.

Після поразки OG минулого місяця, щобвисловити співчуття, OpenAI вирішила провести другий експеримент, покликаний продемонструвати сприятливу сторону надлюдського ІІ. Експерти в області Dota 2 і кілька новачків грали в командах разом з ботами.

Програмне забезпечення, яким не пощастилостати партнерами нубов по команді, здебільшого проявило надлюдську байдужість до допомоги починаючому гравцеві. Замість цього воно зосередилося на перемогу, слідуючи інстинктам, відточеним місяцями дорогих тренувань.

Ніхто не знає, як зробити вузькоспрямований ІІбільш гнучким або які компоненти можуть знадобитися, щоб зробити ОІІ більшим, ніж технологічна фантазія. Навіть Альтман наляканий масштабами проблеми. «У мене бувають дні, коли я вірю, що все це станеться, і дні, коли все це здається нездійсненною мрією», говорить він.

Як думаєте, вийде у нього? Давайте обговоримо в нашому чаті в Телеграма.