Пора наділити штучний інтелект такий же захистом, як і тварин

Університети по всьому світу проводять серйознідослідження штучного інтелекту. Технологічні гіганти його активно розвивають. Найімовірніше, дуже скоро у нас буде штучний інтелект, за своїми розумовим здібностям стоїть на рівні мишей або собак. І значить, настав час подумати про те, що такого штучного інтелекту знадобиться етична захист, яку ми зазвичай дає тваринам.

Чи боляче штучного інтелекту?

До сих пір в дискусіях на тему «прав ІВ» або«Прав роботів» переважали питання про те, які етичні зобов'язання ми поклали б на ІІ з людським або чудовим інтелектом - начебто андроїда Дейта з «Зоряного шляху» або Долорес з «Миру Дикого Заходу». Але думати про це - значить починати не з того місця. Перш ніж ми створимо ІІ з людськими якостями, вартого людської етики, ми створимо менш складний ІІ, який заслуговує на етичних прав, в кращому випадку, тварин.

Ми вже почали бути обережним в дослідженнях, вяких залучені певні тварини. Особливі комітети оцінюють дослідні пропозиції, щоб гарантувати, що хребетні тварини ні вбиті без необхідності і не піддадуться надмірним стражданням. Якщо задіються стовбурові клітини людини або клітини людського мозку, стандарти нагляду ще суворіші. Біомедичні дослідження ретельно розглядаються, але дослідження ІІ, які можуть спричинити за собою деякі з тих же етичних ризиків, в даний час взагалі не вивчаються. Можливо, варто було б.

Ви могли б подумати, що ІІ не заслуговує такоїетичної захисту, оскільки не володіє свідомістю - тобто, оскільки у немає справжнього потоку досвіду, зі справжньою радістю і стражданнями. Ми з цим згодні. Але ось вам складне філософське питання: як ми дізнаємося, що створили щось, здатне на радість і страждання? Якщо ІІ схожий на Дейту або Долорес, він може поскаржитися і захистити себе, ініціюючи обговорення своїх прав. Але якщо ІІ не може висловити це, як миша або собака, або з якоїсь іншої причини не повідомляє нам про свого внутрішнього життя, можливо, він не зможе повідомити про страждання. Але ж собаки цілком можуть радіти і страждати.

Ось тут виникає загадка і труднощі, томущо наукове дослідження свідомості не досягло консенсусу про те, що ж таке свідомість, і як нам сказати, присутній воно чи ні. За деякими уявленнями - так би мовити, ліберальним - для наявності свідомості досить лише присутність процесу добре організованою обробки інформації. Ми, можливо, вже стоїмо на порозі такої системи. За іншими уявленнями - консервативним - свідомість може вимагати досить специфічних біологічних функцій, на зразок мозку ссавця у всій його красі: і тоді ми і близько не підійшли до створення штучного свідомості.

Незрозуміло, який з підходів вірний. Але якщо вірний «ліберальний» погляд, дуже скоро ми створимо безліч недочеловеческіх штучних інтелектів, які заслуговують етичної захисту. Виникає моральний ризик.

Обговорення «ризику ІІ» зазвичай фокусується наризики, які нові технології ІІ можуть представляти для нас, людей, на кшталт захоплення світу і знищення людства або руйнування нашої банківської системи. Куди рідше обговорюються етичні ризики, яким ми піддаємо ІІ внаслідок неправильного поводження з ним.

Все це може здатися надуманим, але оскількивчені зі спільноти розробників ІІ прагнуть розробити свідомий ІІ або надійні системи ШІ, які цілком можуть в кінцевому підсумку стати свідомими, ми повинні поставитися до цього питання серйозно. Подібні дослідження вимагають етичної перевірки на кшталт тієї, що ми проводимо в дослідженнях на тварин і зразках нервової тканини людини.

У разі досліджень на тваринах і навіть на людяхвідповідні заходи захисту були прийняті тільки після того, як виявлялися серйозні етичні порушення (наприклад, в разі непотрібних вівісекцій, військових медичних злочинів нацистів і інших). З ІІ у нас є шанс домогтися більшого. Можливо, нам доведеться створювати комітети нагляду, які оцінять передові дослідження в галузі ШІ з урахуванням цих питань. У такі комітети повинні входити не тільки вчені, а й дизайнери ІІ, когнитивісти, фахівці з етики та зацікавлені люди. Таким комітетам буде доручено ідентифікувати і оцінювати етичні ризики нових форм дизайну ІІ.

Цілком ймовірно, що такі комітети порахують усіпоточні дослідження в галузі ШІ цілком допустимими. У більшості випадків ніхто не вважає, що ми створюємо ІІ зі свідомим досвідом, що заслуговує етичного розгляду. Але незабаром ми, можливо, перетнемо цю межу. Потрібно бути готовими.

Ще більше цікавого матеріалу ви знайдете у нас в Дзене.