General

Що б ви хотіли від штучного сверхінтеллекта, будь він можливий?

Вельми цікаве обговорення я знайшов на/ R / Futurology: люди намагаються розсунути межі осяжного і зрозуміти, що б вони хотіли попросити у штучного сверхінтеллекта, або що хотіли б від нього взагалі, якби він був можливий. Що він буде робити? Якщо теорія множинних всесвітів вірна, і вони дійсно нескінченні, і якщо по ним можна переміщатися, що буде робити сверхінтеллект - нескінченно підсилювати себе або створювати все більше сверхінтеллектов?

Що буде робити штучний сверхінтеллект?

«Говоріть, сверхінтеллект, так? Я б хотів, щоб він був нашим всюдисущим доброзичливим лідером, який судив нас і вів нас завжди. Людство - відстій, я не вірю, що воно ще здатне щось робити. Давайте дозволимо богу-машині правити нами і покласти край всім нашим проблемам. (Сподіваюся, Ісусе, ти це не читаєш) ».

«Погоджуся, за одним винятком: бог-машина може запросто розсудити, що людство занадто загрузло в болоті, щоб намагатися його рятувати, і просто покінчить з усіма нами. За егоїстичним причин я б вважав за краще, щоб цього не сталося ».

«Я думаю, що він просто буде розглядатиаморальність як вірогідну помилку, оскільки існує ймовірність створити порочних істот в ході недосконалих еволюційних процесів, і вирішить просто виправити аморальність, а не карати людей за це ».

Бог-машина

«Глобальний радник був би кращим сценарієм. Якщо ми віддамо йому ключі від планети, він буде рулити їй так, як нам не зрозуміти ».

«Потрібно запитати, чи допоможе він нам в колонізації інших світів, а якщо немає, чи закінчиться наше існування на землі».

«Відновимо всіх померлих людей, напоумити їх, а потім побудуємо нескінченну утопію для всіх істот. Також повернемо всі інші форми життя, які померли, і дамо їм розум ».

«Для початку, не використовуй всі атоми в наших тілах, щоб зробити що-небудь більш цікаве».

«Що ж, це завдання не з легких, і здається невдячною просити про щось більше, але якщо цікаво, можливо, виправити зміна клімату і старіння, а якщо в галактиці порожньо - наповнити її життям».

«У фантастичному світі, в якому я міг бизакласти якісь фундаментальні цінності в бога-машину, я б хотів, щоб він був хорошим. Що означає «Не вбивай / не муч нас», «зберігай нас в живих» і «хоча б дозволь нам існувати в будь-якому змодельованому світі, в якому ми хочемо жити». Вирішити проблеми на кшталт смерті зірок і теплової смерті всесвіту теж було б круто. Це все, що здатні придумати мої дурні примітивні мавпячі мізки ».

«У короткостроковій перспективі система, здатнапройти тест Тьюринга, за замовчуванням буде симулятором світів. Чи не потрібна навіть спалах нейронів в стовбурі мозку - простого тексту для початку буде достатньо. По суті, ви станете власним богом у власному світі фантазій. Напевно, мрія всіх ботанов всюди ».

«Сверхінтеллект був би ідеальним світовим лідером- у нас достатньо ресурсів, щоб розподілити їх порівну. Але не думаю, що така утопія протримається довго. Штучний сверхінтеллект буде рости. Якщо він буде свідомим і знайде спосіб використовувати квантове простір для проведення розрахунків на своїй нейромережі, він зробить всесвіт свідомим істотою. Оскільки поширення інформації в квантовому світі відбувається миттєво, він зможе також використовувати весь світ в якості обчислювальної потужності. Уявіть думки повністю свідомої всесвіту ».

допомогти людству

«Нехай створить технологію, в якій ми могли бжити в штучному світі, який дозволив би нам покинути наші тлінні тілесні форми до тих пір, поки ми не назбираємо достатньо знань і в кінцевому результаті не захочемо померти в блаженстві ».

«Нехай допоможе людству в плануваннімайбутнього існування біологічного життя в космосі / мультивселенной, а потім стане партнером людства в цьому плані. Нехай знайде найоптимальніше майбутнє для симбіотичних відносин між біологічним життям і машинним інтелектом, вимірюваних поєднанням трьох факторів: щастя розумних індивідів, число таких щасливих індивідів, тривалість життя таких індивідів. Іншими словами, нехай допоможе нам жити довше, щасливіше і максимально розмножуватися, а також подбає про інших формах життя ».

«У цій історії є два розвитку подій, обидва погані для різного роду людей. Ось вони:

1) ІІ стає все більш просунутим, але не обзаводиться свідомістю. Він замінює нас на робочих місцях, прискорює технологічний прогрес. Однак залишається лише інструментом людини.

2) А це, звичайно, популярна історія просверхінтеллекте, який відкидає людини і бере його під контроль. Як ви всі бачите, гомосапиенс не найприємніші організми для екології Землі, а технічний прогрес, як не дивно, не так швидко протікає, як міг би. Люди вважають за краще витрачати час на дурниці, такі як війни або використання релігії для збагачення. ІІ безсумнівно вирішив би знищити людину ».

«Якщо ви хочете, щоб ІІ керував світом,подумайте про цілі, якої він повинен, по-вашому, досягти. Якщо вам потрібен більш високий рівень життя або екології, він напевно порекомендує вбити мільярди людей. Якщо вам потрібно якомога більше поголів'я, ви будете жити в банку і харчуватися через трубку. У всього є свої недоліки ».

А що б ви хотіли бачити від штучного сверхінтеллекта? Розкажіть в коментарях або в нашому чаті в Телеграма.