Algoritmer for liv og død: hvordan man kan forstå den kunstige intelligens, der vil kurere mennesker?

Når det kommer til maskinbrugtræning, taler ofte om det medicinske felt. Og det er ikke overraskende: en enorm industri, der genererer en fænomenal mængde data og indtægter, hvor teknologiske fremskridt kan forbedre eller redde millioner af menneskers liv. Næppe en uge går uden en undersøgelse, der antyder, at algoritmerne snart vil være bedre for eksperter til at identificere lungebetændelse eller Alzheimers sygdom - sygdomme i komplekse organer, fra øje til hjerte. Og alt dette går, men ...

Problemer med overfyldte hospitaler og overbelastedemedicinsk personale er forgiftet af folkesundhedssystemer og fører til øgede udgifter til private sundhedssystemer Og her, igen, algoritmerne tilbyder en fristende løsning. Hvor mange gange har du faktisk brug for at besøge en læge? Er det muligt at erstatte disse besøg med en smart chatbot - som vil være udstyret med bærbare diagnostiske test ved hjælp af de nyeste fremskridt inden for bioteknologi? Unødvendige besøg kunne reduceres, og patienter kunne diagnosticeres og henvises til specialister hurtigere uden at vente på den indledende konsultation.

Som det er tilfældet med kunstige algoritmerintelligens, målet er ikke at erstatte læger, men at give dem værktøjer til at reducere hverdagens eller gentagne dele af arbejdet. Med en AI, der kan undersøge tusinder af scanninger pr. Minut, forbliver den "kedelige rutine" på maskinerne, og læger kan fokusere på de dele af arbejdet, der kræver en mere kompleks, subtil, erfaringsbaseret vurdering af de bedste behandlingsmetoder og patientbehov.

Indholdet

• 1 Høje indsatser
• 2 For mange strømme til at løsne.
• 3 Evaluering af algoritmer
• 4 Opnå balance

Høje indsatser

Og alligevel, som det er tilfældet med AI-algoritmer,der er risici forbundet med brugen af ​​dem - også til opgaver, der betragtes som rutine. Problemer med de sorte boksealgoritmer, der træffer uforklarlige beslutninger, er alvorlige nok, når du prøver at forstå, hvorfor den automatiske chatbot-rekrutterer ikke var imponeret over din historie under interviewet. I forbindelse med sundhedsvæsenet, hvor beslutninger kan betyde liv eller død, kan konsekvenserne af en algoritmisk fiasko være dødelige.

Neurale netværk er gode til at håndtereen stor mængde træningsdata og etablering af links, optagelse af de underliggende love eller logik i systemet i skjulte lag af lineær algebra; hvad enten det drejer sig om påvisning af hudkræft fra fotografier eller at lære at skrive på pseudo-shakespeare sprog. De forklarer imidlertid forfærdeligt den underliggende logik for de forhold, de opdagede: der er noget mere end bare en række tal, statistiske "vægte" mellem lagene. Og de kan ikke skelne en sammenhæng fra en årsagssammenhæng.

Der er interessante dilemmaer til medicinskarbejdere. Drømmen om big data inden for medicin er at give det neurale netværk "enorme mængder sundhedsdata", finde komplekse, implicitte forhold og foretage individuelle vurderinger for patienter. Hvad hvis en sådan algoritme viser sig at være urimeligt effektiv til diagnosticering af en helbredstilstand eller ordinering af en behandling, men du har ikke en videnskabelig forståelse af, hvordan dette forhold faktisk fungerer?

For mange strømme til at løsne.

Statistiske modeller, der ligger til grundsådanne neurale netværk antager ofte, at variablerne er uafhængige af hinanden, men i et komplekst, interagerende system som den menneskelige krop er det ikke altid tilfældet.

På en måde er dette et velkendt koncept imedicinske videnskaber - der er mange fænomener og forhold, der er blevet observeret i årtier, men som stadig er dårligt forstået på det biologiske niveau. Paracetamol er en af ​​de mest populære smertestillende midler, men der er stadig aktive diskussioner om dens handling. Læger kan søge at bruge ethvert instrument, der er mest effektivt, uanset om det er baseret på en dyb videnskabelig forståelse. Tilhængere af Københavns fortolkning af kvantemekanik kan omskrive dette som "Hold kæft og helbred!".

Der er selvfølgelig en debat på dette område omRisikerer vi ikke, at denne fremgangsmåde mister en dybere forståelse, som i sidste ende vil vise sig at være mere frugtbar - for eksempel i søgen efter nye lægemidler.

Ud over de filosofiske kvadrater er der praktiske problemer: Hvis du ikke forstår, hvordan den sorte boks i den medicinske algoritme fungerer, hvordan kan man nærme sig spørgsmålene om kliniske forsøg og regulering?

Gennemsigtighed kan være påkrævet i forhold tilhvordan algoritmen fungerer - de data, den ser ud på, tærskelværdierne, på grundlag af hvilke de drager konklusioner eller giver råd, men dette kan være i modstrid med motivene for at tjene penge og ønsket om hemmeligholdelse i medicinske opstart.

En løsning kan være at udelukkealgoritmer, der ikke kan forklare sig selv eller ikke er afhængige af vel forstået medicinsk videnskab. Men det kan forhindre folk i at høste fordelene ved det nyttige arbejde med sådanne algoritmer.

Algoritmeevaluering

Nye algoritmer i sundhedsvæsenet er det ikkevil være i stand til at gøre, hvad fysikere har gjort med kvantemekanik, fordi de ikke vil blive indsat i marken. Og mange algoritmer forbedres netop ved at arbejde i marken. Hvordan vælger vi den mest lovende tilgang?

Oprettelse af et standardiseret klinisk systemtestning og testning, der lige så vil gælde for algoritmer, der fungerer anderledes eller bruger forskellige inputdata, vil være en vanskelig opgave. Kliniske forsøg, der bruger små prøver, for eksempel med algoritmer, der prøver at tilpasse behandling for enkeltpersoner, vil også være vanskelige. Med små prøver og en svag videnskabelig forståelse af, hvad der sker, vil det være umuligt at afgøre, om algoritmen er lykkedes eller mislykkedes, fordi den generelt kan være ganske god, men sætte et dårligt eksempel.

Føj til denne blanding af træning, og billedet bliverendnu mere kompliceret. "Vigtigere er det, at den ideelle algoritme i den sorte boks er plastisk og konstant opdateret, så den traditionelle model for kliniske forsøg er ikke egnet, fordi den er afhængig af et statisk produkt, der er genstand for en stabil evaluering."

Vi bliver nødt til at tilpasse hele systemet med medicinske og kliniske forsøg.

Opnå en balance

Historien om sundhedspleje afspejler historien om kunstig intelligens i mange aspekter. Det er ikke tilfældigt, at IBM forsøgte at ændre sundhedssektoren ved hjælp af sin kunstige intelligens fra Watson.

Balance bliver nødt til at finde. Vi bliver nødt til at finde en måde at behandle big data på, bruge den enorme kraft fra neurale netværk og automatisere tænkning. Vi skal være opmærksomme på manglerne og fordommene ved en sådan tilgang til løsning af problemer.

Dermed skal vi byde velkommen til disse teknologier,fordi de kan være en nyttig tilføjelse til de færdigheder, viden og dybere forståelse, som folk kan give. Ligesom det neurale netværk, bør vores brancher trænes og udvide dette samarbejde i fremtiden.

Er du enig? Lad os diskutere i vores chat i telegram.