Algoritmy života a smrti: jak rozumět umělé inteligenci, která lidi vyléčí?

Pokud jde o používání stroješkolení, nejčastěji mluvit o lékařském oboru. A to není překvapivé: obrovské odvětví, které vytváří fenomenální množství dat a příjmů, v nichž technologický pokrok může zlepšit nebo zachránit životy milionů lidí. Týden stěží uběhne, aniž by se objevila studie, která by naznačovala, že algoritmy budou velmi brzy lepší než odborníci k detekci pneumonie nebo Alzheimerovy choroby - nemoci složitých orgánů, od očí k srdci. A všechno jde k tomu, ale ...

Problémy přeplněných nemocnic a přetíženízdravotnický personál je otráven systémy veřejného zdravotnictví a vede k vyšším nákladům na soukromé zdravotnické systémy. A zde opět algoritmy nabízejí lákavé řešení. Kolikrát opravdu potřebujete navštívit lékaře? Je možné tyto návštěvy nahradit inteligentním chatbotem, který bude vybaven přenosnými diagnostickými testy s využitím nejnovějších poznatků v biotechnologii? Zbytečné návštěvy by mohly být omezeny a pacienti mohli být diagnostikováni a rychleji předáni specialistům, aniž by čekali na počáteční konzultaci.

Jako u umělých algoritmůinteligence, cílem není nahradit lékaře, ale poskytnout jim nástroje ke snížení každodenních nebo opakujících se částí práce. Díky AI, která může zkoumat tisíce skenů za minutu, zůstává „nudná rutina“ na strojích a lékaři se mohou zaměřit na ty části práce, které vyžadují složitější, jemnější a zkušenější posouzení nejlepších metod léčby a potřeb pacientů.

Obsah

• 1 Vysoké sázky
• 2 Příliš mnoho vláken k rozmotání
• 3 Vyhodnocení algoritmů
• 4 Dosažení rovnováhy

Vysoké sázky

A přesto, jako u algoritmů AI,s jejich použitím jsou spojena rizika - dokonce i pro úkoly, které jsou považovány za běžné. Problémy algoritmů černé skříňky, které dělají nevysvětlitelná rozhodnutí, jsou dostatečně závažné, když se pokusíte pochopit, proč automatizovaný náborový pracovník chatbotu na váš příběh během rozhovoru nezapůsobil. V kontextu zdravotní péče, kde rozhodnutí mohou znamenat život nebo smrt, mohou být důsledky selhání algoritmu fatální.

Neuronové sítě odvedou skvělou prácivelké množství tréninkových dat a navazování spojení, absorpce podkladových vzorů nebo logiky systému ve skrytých vrstvách lineární algebry; ať už detekuje rakovinu kůže z fotografií nebo učí pseudo-shakespearovské psaní. Strašně však vysvětlují základní logiku vztahů, které objevili: existuje více než jen řetězec čísel, statistické „váhy“ mezi vrstvami. A nemohou rozlišovat korelaci od příčinné souvislosti.

Existují zajímavá dilemata pro lékařské účelydělníci. Snem o velkých datech v medicíně je poskytnout neuronové síti „obrovské množství zdravotních údajů“, najít komplexní, implicitní vztahy a provést individuální hodnocení pacientů. Co když se takový algoritmus ukáže jako nepřiměřeně účinný při diagnostice zdravotního stavu nebo předepisování léčby, ale nemáte vědecké znalosti o tom, jak tento vztah skutečně funguje?

Příliš mnoho vláken k rozmotání

Statistické modely, které jsou základemTakové neuronové sítě často předpokládají, že proměnné jsou na sobě nezávislé, ale ve složitém interagujícím systému, jako je lidské tělo, tomu tak není vždy.

V jistém smyslu se jedná o dobře známou koncepcilékařské vědy - existuje mnoho jevů a vztahů, které byly pozorovány po celá desetiletí, ale stále jsou špatně studovány na biologické úrovni. Paracetamol je jedním z nejpopulárnějších léků proti bolesti, ale stále se diskutuje o jeho účinku. Odborníci se mohou snažit použít jakýkoli nástroj, který je nejúčinnější, bez ohledu na to, zda je založen na hlubokém vědeckém porozumění. Fanoušci kodaňské interpretace kvantové mechaniky to mohou přeformulovat jako „Drž hubu a uzdrav!“

Samozřejmě v této oblasti probíhá debata oriskujeme tímto přístupem, že ztratíme ze zřetele hlubší porozumění, které se nakonec ukáže jako plodnější - například při hledání nových drog.

Kromě filozofických hádanek existují i ​​praktické problémy: pokud nerozumíte tomu, jak funguje černá skříňka lékařského algoritmu, jak přistupovat k otázkám klinických hodnocení a regulace?

Může být vyžadována průhlednost.o tom, jak algoritmus funguje - data, na která se dívá, prahové hodnoty, na jejichž základě vyvozuje závěry nebo poskytuje rady, ale to může být v rozporu s motivy pro dosažení zisku a touhou po utajení v lékařských startupech.

Jedním řešením může být výjimkaalgoritmy, které se nemohou vysvětlit nebo nespoléhají na dobře srozumitelnou lékařskou vědu. To však může lidem zabránit v tom, aby sklízeli výhody užitečné práce takových algoritmů.

Vyhodnocení algoritmů

Nové zdravotní algoritmy nebudou schopni dělat to, co fyzici udělali s kvantovou mechanikou, protože nebudou v terénu nasazeni. A mnoho algoritmů je vylepšeno právě prací v terénu. Jak zvolíme nejslibnější přístup?

Vytvoření standardizovaného klinického systémuobtížné bude testování a testování, které se bude stejně vztahovat na algoritmy, které pracují odlišně nebo používají různá vstupní data. Klinické studie, které používají malé vzorky, například s algoritmy, které se snaží přizpůsobit léčbu jednotlivcům, budou také obtížné. S malými vzorky a špatným vědeckým porozuměním, co se děje, nebude možné určit, zda algoritmus uspěl nebo selhal, protože to může být celkem dobré, ale být špatným příkladem.

Přidejte k této směsi školení a obraz se staneještě složitější. "Ještě důležitější je, že ideální algoritmus černé skříňky je flexibilní a neustále aktualizovaný, takže tradiční model klinického hodnocení není vhodný, protože se spoléhá na statický produkt, který má být důsledně hodnocen."

Bude muset přizpůsobit celý systém lékařských a klinických hodnocení.

Dosažení rovnováhy

Historie zdravotní péče odráží historii umělé inteligence mnoha způsoby. Není náhodou, že se IBM pokusila změnit odvětví zdravotnictví pomocí své umělé inteligence Watson.

Bude třeba najít rovnováhu. Budeme muset najít způsob, jak zpracovat velká data, využít děsivou sílu neuronových sítí a automatizovat myšlení. Musíme si být vědomi nedostatků a předsudků tohoto přístupu k řešení problémů.

Přitom musíme tyto technologie přivítat,protože mohou být užitečným doplňkem dovedností, znalostí a hlubšího porozumění, které mohou lidé poskytnout. Stejně jako neurální síť musí být naše průmyslová odvětví proškolena a v budoucnu tuto spolupráci rozšiřovat.

Souhlasíte? Pojďme diskutovat v našem chat v telegramu.