yleinen

Miksi tiedemiehet eivät saisi luottaa AI: hen tieteellisiin löytöihin, ainakin tähän mennessä

Elämme tieteellisten tietojen kultaisessa ajassa, ympäröivänvaltavat geneettisen tiedon varastot, lääketieteelliset kuvat ja tähtitieteelliset havainnot. Koneen oppimisalgoritmien nykyiset kyvyt mahdollistavat keinotekoisen älykkyyden mahdollisimman nopeasti ja tutkivat samalla huolellisesti näitä tietoja ja avaavat usein mahdollisia uusia tieteellisiä löytöjä. Emme kuitenkaan saisi sokeasti luottaa AI: n tekemien tieteellisten tutkimusten tuloksiin, sanoo tutkija Rice Genevera Allen University. Ainakin ei tämän teknologian nykyisellä kehitystasolla. Tiedemiehen mukaan ongelmana on se, että nykyaikaisilla AI-järjestelmillä ei ole kykyä arvioida kriittisesti työnsä tuloksia.

Allenin mukaan AI-järjestelmät käyttävät menetelmiäkoneen oppiminen, toisin sanoen silloin, kun oppiminen tapahtuu ratkaisujen soveltamisessa moniin vastaaviin tehtäviin, eikä vain uusien sääntöjen ja ohjeiden käyttöönottoa ja noudattamista, jotkut päätökset voidaan luottaa. Tarkemmin sanottuna on täysin mahdollista uskoa AI: lle ongelmien ratkaiseminen alueilla, joilla henkilö voi itse todentaa ja analysoida lopputuloksen. Esimerkiksi voimme esimerkiksi laskea kraatereiden määrän kuussa tai ennustaa toistuvia jälkijäämiä maanjäristyksen jälkeen.

Monimutkaisemman tarkkuuden ja tehokkuudenAlgoritmeja, joita käytetään analysoimaan hyvin suuria tietoryhmiä etsimään ja tunnistamaan aiemmin tuntemattomia tekijöitä tai eri toimintojen välisiä suhteita, on "vaikeampi testata", Allen toteaa. Näin ollen tällaisten algoritmien keräämien tietojen tarkistamisen mahdottomuus voi johtaa virheellisiin tieteellisiin päätelmiin.

Otetaan esimerkiksi tarkka lääkeTehokkaiden hoitomenetelmien kehittäminen asiantuntijat analysoivat potilaan metatietoja ja pyrkivät löytämään tiettyjä samanlaisia ​​geneettisiä ominaisuuksia omaavia ihmisiä. Jotkin geneettisten tietojen ”seulomiseksi” suunnitellut AI-ohjelmat osoittavat niiden tehokkuuden tunnistamalla onnistuneesti potilaiden ryhmät, joilla on samanlainen taipumus esimerkiksi rintasyövän kehittymiseen. Ne ovat kuitenkin täysin tehottomia tunnistamaan muita syöpätyyppejä, esimerkiksi kolorektaalia. Jokainen algoritmi analysoi tiedot omalla tavallaan, joten yhdistettäessä tuloksia voi usein olla ristiriita potilaan näytteen luokittelussa. Tämä puolestaan ​​tekee tutkijoille ajatuksen siitä, mitä AI lopulta luottaa.

Nämä ristiriitaisuudet johtuvat siitä, ettädatan analyysialgoritmit on suunniteltu noudattamaan näissä algoritmeissa annettuja ohjeita, jotka eivät jätä tilaa päättämättömyydelle ja epävarmuudelle, Allen kertoo.

”Jos asetat tehtävän klusterointialgoritmillelöytää nämä ryhmät tietokannassaan, hän suorittaa tehtävän ja sanoo, että hän on löytänyt useita ryhmiä annettujen parametrien mukaisesti. Kerro minulle, että löydän kolme ryhmää, hän löytää kolme. Pyydä etsimään neljä, hän löytää neljä, Allen kommentoi.

"Itse asiassa todellinen tehokkuusTällainen AI osoitetaan, kun ohjelma pystyy vastaamaan jotain tällaiseen: ”Uskon todella, että tämä potilasryhmä sopii vaadittuun luokitteluun, mutta näiden henkilöiden osalta, joiden tietoja olen myös tarkistanut ja verrannut, en ole aivan varma” .

Tutkijat eivät pidä epävarmuutta. Kuitenkin perinteiset menetelmät mittausepävarmuuksien määrittämiseksi on suunniteltu niissä tapauksissa, joissa on tarpeen analysoida tietyn hypoteesin arvioimiseksi erityisesti valittuja tietoja. Tietojen louhintaohjelmat eivät toimi lainkaan. Näitä ohjelmia ei ohjaa mikään ohjaava ajatus ja yksinkertaisesti analysoi kerättyjä tietoryhmiä ilman erityistä tavoitetta. Siksi nyt monet tutkijat AI: n alalla, mukaan lukien Allen itse, kehittävät uusia protokollia, joiden avulla uuden sukupolven AI-järjestelmät voivat arvioida löytöjensä tarkkuutta ja toistettavuutta.

Tutkija selittää, että yksi uusista menetelmistäperusteellinen analyysi perustuu uudelleen näytteenottoon. Oletetaan, että jos AI-järjestelmän oletetaan tekevän tärkeän havainnon, se määrittelee esimerkiksi potilaiden ryhmät, jotka ovat kliinisesti tärkeitä tutkimukselle, sitten tämä löytö tulisi näyttää muissa tietokannoissa. Uusien ja suurten tietosarjojen luominen AI-näytteen oikeellisuuden varmistamiseksi on tutkijoille erittäin kallista. Siksi Allanin mukaan voidaan käyttää lähestymistapaa, jossa "käytetään olemassa olevaa tietokokonaisuutta, jossa tiedot sekoitetaan satunnaisesti siten, että simuloidaan täysin uusi tietokanta." Ja jos AI pystyy aika ajoin määrittämään ominaisuudet, jotka mahdollistavat halutun luokituksen, "tässä tapauksessa voit olettaa, että sinulla on todella todellinen löytö käsissänne," lisää Allan.

Tilaa Yandex. Dzen, jotta voimme seurata tieteen ja teknologian maailman viimeisintä kehitystä.

Facebook -ilmoitus EU: lle! Sinun täytyy kirjautua sisään nähdäksesi ja julkaistaksesi FB -kommentteja!