Мисляча програма в комп'ютері. Штучна свідомість створена?

Вітаю.

Де не копні в масовій культурі, скрізь знайдеш підтвердження того, що створення розумного

комп'ютера не викликає сумнівів.Науково-фантастичні твори рясніють історіями протистояння людини і мислячого комп'ютера ("Космічна одіссея 2001 року" і комп'ютер HAL 9000) або прикладами симбіозу живого і мертвого ("Вона" - фільм про голосового помічника в навушнику, який більш людяний, ніж живі люди). Прикладів різних творів не сотні, рахунок пішов на тисячі чи навіть десятки тисяч. Людство звикає до своїх страхів, обмірковує їх заздалегідь. Що станеться, коли ми створимо розумну машину, чи захоче вона нас знищити, як SkyNet, чи стане нашим помічником? Відповіді на ці питання є в масовій культурі, і варіанти майбутнього залежать виключно від вашого погляду на речі і, мабуть, світогляду. Колись давно наводив перелік фільмів, які цікаво описують погляд на майбутнє.

Mobile-review.com Ретроспектива. Найкращі фільми про штучний розум

Які фільми про штучний розум були найкращими і які питання вони порушили – понад десяток картин, знятих майже за 50 років. Кращі з кращих

Усередині Google на ниві штучного інтелектутрапився казус, один з інженерів компанії повірив, що вперше в історії людства з'явилася програма, що думає. Для мовної моделі LaMDA, створеної всередині Google, потрібне тестування, перевірка текстом, аналіз відповідей на запитання. У рамках цієї мовної моделі комп'ютер завантажують величезні масиви інформації, щоб навчити програму вести діалоги. Google I/O 2022 показали другу версію цієї системи. Процитую витяг зі статті про Google I/O 2022:

“У AI Test Kitchen показали кілька прикладів.Ви можете запитати, як бути на дні океану, і відразу отримати докладну відповідь. Наступні питання розкриватимуть тему, чи вийде діалог. Рівно та ж історія про обробіток свого саду та подальшу розмову. Модель виглядає багатообіцяючою, але зрозуміло, що це лише перші кроки.

Але на мене справило більше враження модельPaLM (Pathways Language Model), яка змінює те, як виглядає спілкування з комп'ютером. Зазвичай ви запитуєте і відразу отримуєте відповідь. Просіть вирішити завдання, і на виході у вас є число, як воно отримано, незрозуміло. Відтепер можна бачити рішення задачі, тобто ви бачите не просто відповідь, а й логіку, що стоїть за ним. І це дуже корисно у всіх сенсах, оскільки дозволяє думати та підглядати алгоритм вирішення. Для школярів неоціненна допомога у математиці та інших науках”.

Навіть у презентації від Google діалоги не виглядаютьподібними до тих, що ведуть живі люди. Але можливо це димова завіса, а реальність зовсім інша? Інженер Блейк Леймон, який тестував чат-бота, що використовує модель LaMDA, дійшов висновку, що програма має власну свідомість. В інтерв'ю Washington Post він заявив: “Якби я не знав напевно, що маю справу з комп'ютерною програмою, яку ми нещодавно написали, то я б подумав, що говорю з дитиною семи чи восьми років, яка з якоїсь причини виявилася знавцем фізики . Я можу дізнатися розумну істоту, коли говорю з нею. І неважливо, чи мозок у нього в голові чи мільярди рядків коду. Я говорю з ним і слухаю, що воно мені говорить. І так я визначаю, розумна ця істота чи ні”.

Різне

Партнерський матеріал

Реальність та перспективи ринку IT-професій

Які професії найбільш популярні та високооплачувані?

Суботня кава №204

Налийте чашку ароматної суботньої кави тапознайомтеся з новинами тижня. "Яндекс" стирає кордони на картах, Apple представила новий MacBook Air, Haval Dargo вийшов у Росії, а я протестував SberBox.

Тест Mercedes-Benz E-клас W213. Найкращий преміальний седан?

Седан Mercedes-Benz E-клас стабільно входить у топ найпопулярніших преміальних автомобілів на нашому ринку, причому це стосується не тільки нових, але й машин, де він також затребуваний.

Огляд realme 8 Pro (RMX3081)

Оновлення флагмана середнього сегмента: прокачали камеру, освіжили інтерфейс та зовнішній вигляд, але зберегли багато вже знайомих характеристик. Чи зможе смартфон стати новим хітом?

Леймон почав вивчати мовну модель, вінвикористовував внутрішні ресурси Google, а також звертався до експертів поза компанією. Результатом став звіт, який він направив своєму керівництву, в ньому він стверджує, що чат-бот має власну свідомість. У Google майже миттєво усунули Леймона від роботи, причина порушення конфіденційності, він звернувся до юридичного комітету Палати представників Конгресу США. Паралельно шукав юриста для того, щоб той представляв інтереси чат-бота, створеного Google, оскільки, на його думку, це жива істота. Непогана зав'язка для науково-фантастичного фільму, але це відбувається в реальному житті, і людина вірить у те, що виявив.

Офіційний коментар представника GoogleБрайана Гебріела звучить так: “Наша команда, у тому числі фахівці з етики та технічні фахівці, провела огляд представлених Блейком побоювань відповідно до принципів, які ми застосовуємо до ІІ, і ми проінформували його, що наявні свідчення не підтверджують його гіпотезу. Йому було сказано, що свідчення того, що LaMDA має свідомість, відсутні. При цьому є багато свідчень протилежного”.

Оригінальна стаття Washington Post ось тут.

Щось мені підказує, що тест Тьюрингачат-бот від Google з легкістю пройде, що зовсім не означає появи свідомості в машині, швидше за це опис того, що класичний тест, створений у 1950 році, безнадійно застарів. Алан Тьюрінг не припускав, що запропонований ним тест стане настільки популярним у масовій свідомості, таке диво технологій. Він припустив, що мислячою можна назвати машину, яка здатна ввести живу людину в оману, та не зможе зрозуміти, з ким вона спілкується – з людиною чи з комп'ютером. На мій погляд, це досить обмежене сприйняття свідомості, тому що при використанні великих баз даних можна імітувати розмову на будь-яку тему, ви просто підставляєте в контексті слова людей, які до того вимовлені. Свідомістю тут і не пахне, але повна імітація спілкування буде і на дуже хорошому рівні. Що, мабуть, і трапилося з інженером Google, він надто хотів вірити в те, що в комп'ютері зародилася свідомість, і трактував будь-яку ознаку на користь цієї події. Не думаю, що це справді сталося, великі дані дозволяють створити імітацію будь-якого діалогу, але на вході завжди потрібне паливо — ті самі діалоги, що є у нашому світі, у книгах, фільмах, нотатках в інтернеті чи звичайних розмовах. У Google, прагнучи пошуку такої інформації, постійно поповнюють свої бази даних і вдосконалюють мовні моделі.

Дивно, що замітка у Washington Post неотримала доповнення у вигляді грудневих подій 2020 року, сценарій апокаліпсису з них малюється кіношний. Нагадаю, що в грудні з Google звільнили Тимніта Гебру (Timnit Gebru), керівника досліджень в галузі етики AI. Джефф Дін, голова досліджень AI у Google, у внутрішньому листі колегам пояснив причини відходу Тімніт, а пізніше навіть виклав листа у публічний доступ. Обговорення швидко переросло в громадську суперечку, оскільки Джефф намагався уникати слова “звільнення”, саме воно і сталося в даному випадку. Коротко мотивація була в тому, що якась публікація досліджень від Тімніт не відповідає рівню Google.

Знайти початок суперечки можна ось тут.

Лист співробітників Google знаходиться тут.

Для тих, хто хоче прочитати його російською мовою, ми підготували переклад, лист заслуговує на увагу.

Кілька тисяч співробітників Google протестувалипроти звільнення колеги, ситуація була гучною за будь-якими мірками, ще кілька помітних дослідників AI покинули компанію. Не беруся приймати чийсь бік, але та ж Тимніт хотіла де-факто зупинити прогрес, протестувала проти того, що надто великі мовні моделі витрачають багато енергії, провокують парниковий ефект (так, це один із ключових приводів для жалю) плюс відображають расову нерівність. . Як на мене, так для корпоративної Америки це і справді болюча тема, але нагадаю, що мова відображає реальність, а вона така, що якщо є сегрегація за ознакою раси, то в культурі вона також буде відображена. Великі мовні моделі враховуватимуть не вигаданий світ, а те, що їм згодовують, з усіма недоліками людства.

Витрати енергії на навчання тієї чи іншої моделі цікаві, подивіться у табличку.

Я впевнений, що витрати зростатимуть і надалі, тутнемає жодних сумнівів. Чим більше параметрів, тим більше затрат енергії, чудес не буває. Питання тільки в тому, що на виході ми можемо отримати алгоритми, які є досить ефективними і можуть вирішувати широке коло завдань. Наприклад, переклад з однієї мови на іншу давно став незалежним від серверів, він виконується на наших смартфонах і працює на відмінно. Так само як і розпізнавання голосу, хоча спочатку моделі навчалися лише з серверах, інакше було неможливо створити потрібні алгоритми.

Повернемося до штучного інтелекту, якогопоки що не існує. Питання в галузі навіть не технологій, а філософії, адже крім знань потрібні цікавість і свобода волі, щоб свідомість сама вивчала світ і ставила собі за мету. І цього, звичайно ж, ми поки що не спостерігаємо. Та сама LaMDA – це дуже просунута модель нового покоління, зібрана на величезних базах даних, вона найкраще, що було до неї. Але вона не унікальна своїми алгоритмами, діалоги все ще страждають на неповноту, відрізнити комп'ютер не складе труднощів. Але навіть якщо діалоги будуть подібні до живого людського спілкування, це не буде означати нічого — своїх думок там немає.

Згадайте голосовий спам, коли вам дзвонить робот.Сучасні системи настільки хороші, що дізнатися з перших пропозицій, що з вами каже машина, майже неможливо. Потрібно вслухатися, ставити підступні питання, і все одно не завжди можна зрозуміти до кінця, хто на іншому кінці дроту. А це досить прості алгоритми, порівняно з тим, що створюють усередині Google, у компанії зовсім інші можливості.

Нинішня проблема AI у тому, що ми зачарованізовнішньою стороною питання, а заглядати під капот ніхто не прагне. Та й сам термін "штучний інтелект" знецінився, тому що AI-алгоритми - це набори завдань, які вирішуються іншим інструментарієм, що раніше нам недоступним. Але окремо і разом ці алгоритми не перетворюються на щось думаюче. Приблизно як комп'ютер, який навчили грати в го, але сам по собі він не мав волі, щоб вибрати саме цю гру, а не шашки чи шахи. Так, комп'ютер швидше обраховує ходи, ніж людина, він стабільно виграє і пропонує незвичайні стратегії, які часом не здаються нам логічними. Але це лише залізниця, що обробляє числа в конкретній, вузькій задачі. Побоюватися поширення штучного інтелекту зараз точно не варто, тому що його поки що не існує, точніше, ми його не створили. Завдання не таке просте, як може здатися, але рано чи пізно ми до нього підійдемо. А поки що для цього ще дуже рано. У 60-ті роки чарівність AI вже захлеснула планету, але нічим так і не закінчилося. Це просто ще один підхід до снаряду.