Ілон Маск назвав ймовірність, з якою ІІ знищить людство

Під час проведення семінару Great AI Debate ІлонМаск поділився своїми думками щодо розвитку сучасних ІІ-алгоритмів. Зокрема він назвав орієнтовну ймовірність «бунту» штучного інтелекту, яку інші фахівці галузі вважають відчутно заниженою.

За словами мільярдера, на сьогодніймовірність «повстання машин», у якому ІІ-технології обернуться проти людей, становить від 10 до 20%. Втім, на його думку, такий ризик виправдано. Він стверджує, що з метою безпеки необхідно розвивати ІІ таким чином, щоб він надавав лише правдиву інформацію.

Раніше дослідники виявили, що як тільки ІІнавчиться брехати людям, його поведінку вже неможливо буде змінити за допомогою існуючих заходів безпеки. Видання The New York Times назвала цю заяву «страшною новою статистикою, що охопила Кремнієву долину», при цьому різні керівники технологічних компаній дають вельми песимістичну оцінку негативного результату — аж до 50%.

Роман Ямпільський, дослідник безпеки ІІ тадиректор лабораторії кібербезпеки в Університеті Луїсвілля, також стверджує, що Маск має рацію, говорячи про загрозу ІІ. На його думку, фактична ймовірність захоплення штучним інтелектом контролю над людством набагато вища, ніж стверджує Маск (понад 99%).