Алгоритми на живота и смъртта: как да разберем изкуствения интелект, който ще излекува хората?

Когато става дума за използване на машинатаобучение, най-често се говори за медицинската област. И това не е изненадващо: огромна индустрия, която генерира феноменално количество данни и приходи, в които технологичният напредък може да подобри или спаси живота на милиони хора. Едва ли една седмица минава, без да се появи проучване, което предполага, че алгоритмите скоро ще бъдат по-добри за специалистите да идентифицират пневмония или болест на Алцхаймер - заболявания на сложни органи, от очи до сърце. И всичко това върви, но ...

Проблеми с многолюдни болници и задръстенимедицинският персонал е отровен от обществените здравни системи и води до увеличени разходи за частни здравни системи. И тук отново алгоритмите предлагат изкушаващо решение. Колко пъти всъщност трябва да посетите лекар? Възможно ли е тези посещения да се заменят с интелигентен чатбот - който ще бъде оборудван с преносими диагностични тестове, използвайки най-новите постижения в биотехнологиите? Ненужните посещения могат да бъдат намалени, а пациентите могат да бъдат диагностицирани и насочени към специалисти по-бързо, без да чакат първоначалната консултация.

Както е при изкуствените алгоритмиинтелигентност, целта не е да се заменят лекарите, а да им се предоставят инструментите за намаляване на ежедневните или повтарящи се части на работата. С AI, който може да изследва хиляди сканирания в минута, "скучната рутина" остава на машините и лекарите могат да се съсредоточат върху онези части от работата, които изискват по-сложна, фина, базирана на опит преценка на най-добрите методи на лечение и нуждите на пациента.

Съдържанието

• 1 Високи залози
• 2 Твърде много потоци, за да се разгадаят.
• 3 Оценка на алгоритмите
• 4 Постигане на баланс

Високи залози

И все пак, както е при AI алгоритмите,има рискове, свързани с използването им - дори и за задачи, които се считат за рутинни. Проблемите на алгоритмите на черната кутия, които вземат необясними решения, са достатъчно сериозни, когато се опитате да разберете защо автоматизираният рекрутер за чат не е бил впечатлен от вашата история по време на интервюто. В контекста на здравеопазването, където решенията могат да означават живот или смърт, последствията от един алгоритмичен провал могат да бъдат фатални.

Невронните мрежи са чудесни при работаголямо количество данни за обучение и установяване на връзки, усвояване на основните закони или логиката на системата в скрити слоеве линейна алгебра; дали това е откриването на рак на кожата от снимки или научаването да се пише на псевдо-шекспировски език Те обаче ужасно обясняват основата на логиката на откритите от тях връзки: между слоевете има нещо повече от просто низ от числа, статистически „тегла“. И те не могат да различат корелация от причинно-следствената връзка.

Има интересни дилеми за медицинскитеработници. Мечтата на големите данни в медицината е да предоставят на невронната мрежа „огромни количества здравни данни“, да намерят сложни, неявни връзки и да направят индивидуални оценки за пациентите. Какво става, ако такъв алгоритъм се окаже необосновано ефективен при диагностициране на здравословно състояние или предписване на лечение, но няма да имате научно разбиране за това как действително работи тази връзка?

Твърде много потоци, за да се разгадаят.

Статистически модели, които са в основататакива невронни мрежи често приемат, че променливите са независими една от друга, но в сложна, взаимодействаща система като човешкото тяло, това не винаги е така.

В известен смисъл това е добре позната концепция вмедицински науки - има много явления и връзки, които се наблюдават от десетилетия, но все още са слабо разбрани на биологично ниво. Парацетамолът е един от най-популярните обезболяващи, но все още има активни дискусии за неговото действие. Медиците могат да се стремят да използват всеки инструмент, който е най-ефективен, независимо дали той се основава на дълбоко научно разбиране. Феновете на интерпретацията на квантовата механика от Копенхаген могат да перифразират това като „Млъкни и лекувайте!“.

Разбира се, в тази област има дебат заНе рискуваме ли с този подход да изгубим поглед от по-дълбоко разбиране, което в крайна сметка ще се окаже по-ползотворно - например в търсенето на нови лекарства.

В допълнение към философските спорове има и практически проблеми: ако не разбирате как работи черната кутия на медицинския алгоритъм, как да подходите към въпросите на клиничните изпитвания и регулирането?

Може да се изисква прозрачност по отношение накак функционира алгоритъмът - данните, върху които изглежда, праговите стойности, въз основа на които той прави заключения или дава съвети, но това може да е в противоречие с мотивите за печалба и желанието за секретност при медицински стартъпи.

Едно решение може да бъде да се изключиалгоритми, които не могат да се обяснят или не разчитат на добре разбраната медицинска наука. Но това може да попречи на хората да използват ползите от полезната работа на подобни алгоритми.

Оценка на алгоритъма

Нови алгоритми в здравеопазването не саще могат да правят това, което физиците са направили с квантовата механика, защото няма да бъдат разгърнати в полето. И много алгоритми се подобряват именно чрез работа в полето. Как да изберем най-обещаващия подход?

Създаване на стандартизирана клинична систематестване и тестване, които еднакво ще бъдат приложими за алгоритмите, които работят по различен начин или използват различни входни данни, ще бъде трудна задача. Клиничните изпитвания, които използват малки проби, например с алгоритми, които се опитват да персонализират лечението за индивиди, също ще бъдат трудни. С малки извадки и слабо научно разбиране за случващото се ще бъде невъзможно да се определи дали алгоритъмът е успял или се е провалил, защото като цяло може да бъде доста добър, но да даде лош пример.

Добавете към тази комбинация от тренировки и картината ставаоще по-сложно. „По-важното е, че идеалният алгоритъм в черната кутия е пластичен и постоянно се актуализира, така че традиционният модел на клиничните изпитвания не е подходящ, тъй като разчита на статичен продукт, който подлежи на стабилна оценка.“

Ще трябва да персонализираме цялата система от медицински и клинични изпитвания.

Постигане на баланс

Историята на здравеопазването отразява историята на изкуствения интелект в много аспекти. Неслучайно IBM се опита да промени сектора на здравеопазването, като използва своя изкуствен интелект на Уотсън.

Баланс ще трябва да се намери. Ще трябва да намерим начин да обработваме големи данни, да използваме страхотната сила на невронните мрежи и да автоматизираме мисленето. Трябва да сме наясно с недостатъците и предразсъдъците на такъв подход за решаване на проблеми.

Правейки това, ние трябва да приветстваме тези технологии,защото те могат да бъдат полезно допълнение към уменията, знанията и по-дълбокото разбиране, които хората могат да предоставят. Подобно на невронната мрежа, нашите индустрии трябва да бъдат обучени, разширявайки това сътрудничество в бъдеще.

Съгласен ли сте? Нека да обсъдим в нашата чат в Телеграма.