Алгоритми життя і смерті: як зрозуміти штучний інтелект, який буде лікувати людей?

Коли мова заходить про застосування машинногонавчання, найчастіше розмови ведуть про медичній сфері. І це не дивно: величезна індустрія, яка генерує феноменальний обсяг даних і доходів, в якій технологічні досягнення можуть покращувати або рятувати життя мільйонів людей. Чи тиждень проходить без появи дослідження, яке передбачає, що алгоритми дуже скоро будуть краще експертів виявляти пневмонію або хвороба Альцгеймера - захворювання складних органів, від ока до серця. І все до цього йде, але ...

Проблеми переповнених лікарень і перевантаженогомедперсоналу отруюють державні системи охорони здоров'я і призводять до зростання витрат на приватні системи охорони здоров'я. І тут, знову ж таки, алгоритми пропонують привабливу рішення. Скільки разів насправді потрібно відвідати лікаря? Чи можна замінити ці відвідування розумним чатбот - який буде оснащений портативними діагностичними тестами, використовуючи останні досягнення в області біотехнологій? Непотрібні відвідування можна було б скоротити, і пацієнтів можна було б діагностувати і направляти до фахівців швидше, не чекаючи первинної консультації.

Як і у випадку з алгоритмами штучногоінтелекту, мета полягає не в тому, щоб замінити лікарів, а в тому, щоб дати їм інструменти для скорочення повсякденних або повторюваних частин роботи. З ІІ, який може досліджувати тисячі сканів за хвилину, «нудна рутина» залишається на машинах, і доктора можуть зосередитися на тих частинах роботи, які вимагають більш складного, тонкого, заснованого на досвіді судження про кращі методи лікування і потребах пацієнта.

зміст

• 1 Високі ставки
• 2 Занадто багато потоків, які потрібно розплутати
• 3 Оцінка алгоритмів
• 4 Досягнення балансу

високі ставки

І все ж, як і у випадку з алгоритмами ІІ,існують ризики, пов'язані з їх використанням - навіть для задач, які вважаються буденними. Проблеми алгоритмів «чорного ящика», які приймають незрозумілі рішення, досить серйозні, коли ви намагаєтеся зрозуміти, чому автоматизований чатбот-рекрутер не вразив вашим розповіддю під час співбесіди. В контексті охорони здоров'я, де приймаються рішення можуть означати життя або смерть, наслідки алгоритмічного збою можуть бути фатальними.

Нейронні мережі прекрасно справляються з обробкоювеликої кількості тренувальних даних і встановлення зв'язків, поглинанням нижчих закономірностей або логіки системи в прихованих шарах лінійно алгебри; будь то виявлення раку шкіри по фотографіях або навчання письму псевдошекспіровскім мовою. Однак вони жахливо пояснюють нижележащую логіку виявлених ними відносин: є дещо більше, ніж просто рядок цифр, статистичні «ваги» між шарами. І вони не можуть відрізнити кореляцію від причинно-наслідкового зв'язку.

Виникають цікаві дилеми для медичнихпрацівників. Мрія про великих даних в медицині полягає в тому, щоб забезпечувати нейронну мережу «величезними масивами даних про здоров'я», знаходити складні, неявні відносини і виносити індивідуальні оцінки по відношенню до пацієнтів. Що якщо такий алгоритм виявиться невиправдано ефективним в діагностиці стану здоров'я або призначення лікування, але у вас не буде наукового розуміння того, як цей зв'язок працює насправді?

Занадто багато потоків, які потрібно розплутати

Статистичні моделі, які лежать в основітаких нейронних мереж, часто припускають, що змінні незалежні один від одного, але в складній, яка взаємодіє системі зразок людського тіла, це не завжди так.

У певному сенсі це відома концепція вмедичних науках - існує багато явищ і зв'язків, які спостерігалися десятиліттями, але до сих пір погано вивчені на біологічному рівні. Парацетамол - одне з найпопулярніших болезаспокійливих засобів, але до сих пір ведуться активні дискусії про його дії. Лікарі-практики можуть прагнути використовувати будь-який інструмент, найбільш ефективний, незалежно від того, заснований він на глибокому науковому розумінні. Любителі копенгагенської інтерпретації квантової механіки можуть перефразувати це як «Заткнись і лікуй!».

Зрозуміло, в цій області ведуться дебати про те,чи не ризикуємо ми з цим підходом випустити з уваги більш глибоке розуміння, яке в кінцевому рахунку виявиться більш плідним - наприклад, для пошуку нових ліків.

Крім філософських закорючек, є і практичні проблеми: якщо ви не розумієте, як працює чорний ящик медичного алгоритму, як підходити до питань клінічних випробувань і регулювання?

Може знадобитися прозорість щодотого, як функціонує алгоритм - даних, на які він дивиться, порогових значень, на основі яких робить висновки або надає консультації, але це може суперечити мотивами отримання прибутку і прагненню до секретності в медичних стартапи.

Одним з рішень може бути виключенняалгоритмів, які не можуть пояснити самі себе або не покладаються на добре зрозумілу медичну науку. Але це може перешкодити людям пожинати плоди корисної роботи таких алгоритмів.

оцінка алгоритмів

Нові алгоритми в області охорони здоров'я незможуть зробити те, що фізики зробили з квантовою механікою, бо не будуть розгорнуті в польових умовах. І багато алгоритми поліпшуються саме працюючи в польових умовах. Як же нам вибрати максимально багатообіцяючий підхід?

Створення стандартизованої системи клінічнихвипробувань і тестування, яка в рівній мірі буде застосовна до алгоритмів, що працюють по-різному або використовують різні вхідні дані, буде складним завданням. Клінічні випробування, в яких використовуються вибірки невеликого розміру, наприклад, з алгоритмами, які намагаються персоналізувати лікування для окремих людей, також будуть складними. З невеликими вибірками і слабким науковим розумінням того, що відбувається неможливо буде визначити, досяг успіху алгоритм або зазнав краху, тому що він може бути непоганим в цілому, але показати невдалий приклад.

Додамо в цю суміш навчання і картина стаєще більш складною. «Що ще більш важливо, ідеальний алгоритм в« чорному ящику »пластичний і постійно оновлюється, тому традиційна модель клінічних випробувань не підходить, оскільки покладається на статичний продукт, який підлягає стабільної оцінці».

Доведеться підганяти всю систему медичних та клінічних випробувань.

досягнення балансу

Історія охорони здоров'я відображає історію штучного інтелекту в багатьох аспектах. Не випадково IBM намагалася змінити сферу охорони здоров'я, застосовуючи свій штучний інтелект Watson.

Баланс доведеться знайти. Нам доведеться знайти спосіб обробляти великі дані, використовувати моторошну силу нейронних мереж і автоматизувати мислення. Ми повинні усвідомлювати недоліки і упередження такого підходу до вирішення проблем.

При цьому ми повинні вітати ці технології,оскільки вони можуть бути корисним доповненням до навичок, знань і глибшому розумінню, яке можуть надати люди. Подібно нейронної мережі, наші галузі повинні навчатися, розширюючи цю кооперацію в майбутньому.

Чи згодні? Давайте обговоримо в нашому чаті в Телеграма.