Mitä tapahtuu, kun tekoäly saavuttaa huippunsa?

Mitä ajattelet, kun kyse onTekoäly? Oletan, että useimmat ihmiset muistavat teoksia kuten "I, Robot" tai lukuisia elokuvia, jotka puhuvat superälykkäästä tekoälystä, jonka tarkoituksena on tuhota ihmiskunta. Itse asiassa kaikki on paljon proosallisempaa: ihmiset, jotka ovat suoraan mukana tekoälyn kehittämisessä, ovat skeptisiä tällaisiin kauhutarinoihin eikä turhaan. On tuskin mahdollista kutsua Alicea esimerkiksi Yandexista uhkaksi ihmiskunnalle. On kuitenkin olemassa toinen tieteellisen tutkimuksen alue, joka käsittelee globaaleja riskejä eli tapahtumia, jotka voivat johtaa sivilisaatiomme romahtamiseen ja ihmiskunnan sukupuuttoon. Ja yllättävää kyllä, monien tutkijoiden mukaan tekoäly on todella mahdollinen uhka sinulle ja minulle. Kuten vuoden 2021 alussa tehdyn tutkimuksen tulokset osoittavat, emme todennäköisesti pysty hallitsemaan tietokoneiden superälyä. Tieteellisen työn tekijöiden mukaan superäly on monipuolinen ja siten mahdollisesti kykenevä mobilisoimaan erilaisia ​​resursseja omien päämääriensä saavuttamiseksi. Ja nämä tavoitteet ovat usein ihmisille käsittämättömiä.

Kannattaako luoda jotain, joka voi tuhota meidät?

Sisältö

• 1 Globaalien riskien tutkimus
• 2 Mitä tekoäly on?
• 3 Mahdollisia tekoälyn uhkia
• 4 Ja jos ei tuhota maailmaa?

Tutkimus globaaleista riskeistä

Nykyään tietomme ympärillämme olevasta maailmasta on sellaistavaltava, että kaikki aiemmat sukupolvet varmasti kadehtivat meitä. Kun isovanhempamme pesivät käsin, he pesivät myös lattiat ja astiat, nykyään yhä useammat ihmiset jakavat nämä tehtävät roboteille. Meille jää vain pesukoneen / astianpesukoneen lataaminen ja purkaminen, mikä ei yksinkertaisesti ole verrattavissa käsillämme työskentelemiseen.

Mutta tästä mukavuudesta sinun on kuitenkin maksettava.Historia kerta toisensa jälkeen osoittaa meille yhteiskunnan kehitystapoja. Tuon ihmiskunnan pienen historian aikana (verrattuna maailmankaikkeuden aikakauteen) kukistuivat sivilisaatiot kuten Maya, Muinainen Mesopotamia, Muinainen Kreikka, Olmeco-sivilisaatio, Muinainen Rooma ja muut.

Joidenkin muinaisten sivilisaatioiden kehitys on hämmästyttävää. Mutta jos ne katosivat maan pinnalta, mitä meille tapahtuu?

Ensi silmäyksellä saattaa tuntua siltä, ​​että se on historiaamuinaisten sivilisaatioiden ja imperiumien kukistuminen ei koske meitä. Loppujen lopuksi voimamme, kykymme lähettää raketteja avaruuteen, tutkia muita planeettoja ja yhdistää maailma yhdeksi informaatiokentäksi, pitäisi johtaa meidät parempaan tulevaisuuteen. Todellisuus kuitenkin, kuten usein tapahtuu, maalaa aivan toisenlaisen kuvan - juuri nyt olemme matkalla kohti katastrofia ja mahdollista sukupuuttoa.

Lisää aiheesta: Rooma perustettiin ja katosi – salaperäisen etruskien sivilisaation salaisuus paljastettiin

Tämän todistavat satojen tieteellisten tutkimusten tuloksettutkimusta. Äskettäin julkaistiin esimerkiksi uusi IPCC:n raportti ilmastonmuutoksen haasteista. Sen tulokset toistavat lukuisten tieteellisten töiden tuloksia, joiden johtopäätös on pettymys - sivilisaatiomme on parhaimmillaan 500 vuotta vanha.

Mutta nopeasti muuttuva ilmasto, me haluamme sentai ei, se ei ole ainoa vakava uhka ihmiskunnalle. Ja vaikka tutkijat ja asiantuntijat ympäri maailmaa ovat kiireisiä ilmaston lämpenemisen aiheuttamien ongelmien ratkaisemisessa, monet tutkijat uskalsivat katsoa teknologiseen tulevaisuutemme. Ja meillä on todellakin jotain pelättävää.

Puhuin siitä, millainen maailma voi olla vuoteen 2070 mennessä, sekä sivilisaatiotamme kohtaavista globaaleista riskeistä, tässä artikkelissa suosittelen lukemista

Mikä on tekoäly?

Tekoäly on yritys luodaälykkääseen käyttäytymiseen kykeneviä tietokoneita. Pohjimmiltaan se on yleinen termi, jota käytetään viittaamaan kaikkeen Siristä IBM Watsoniin ja tehokkaisiin teknologioihin, joita emme ole vielä keksineet.

Jotkut tutkijat erottavat "kapean tekoälyn" tai heikko AI - tietokonejärjestelmät, jotka ovat parempia kuin ihmiset tietyllä, tarkasti määritellyllä alalla, kuten shakin pelaamisessa, kuvien luomisessa tai syövän diagnosoinnissa - ja "Yleinen AI" - eli järjestelmiä, jotka voivat menestyä paremmininhimillisiä kykyjä monilla aloilla. Nykyään meillä ei ole yhteistä tekoälyä, mutta tutkijat ovat yhä tietoisempia ongelmista, joita se voi edustaa.

Kasvojentunnistustekniikka paranee vuosi vuodelta

Muutaman viime vuoden aikana kapea tekoäly on saavuttanutpoikkeuksellinen edistys: nykyään tekoälyjärjestelmät ovat erinomaisia ​​vieraan puheen kääntämisessä, shakin ja Go:n pelaamisessa ja myös ratkaisemaan tärkeitä tutkimusbiologian kysymyksiä, kuten ennustamaan proteiinien laskostumista ja luomaan kuvia.

Ihmettelet: Voiko tekoäly manipuloida ihmisen käyttäytymistä?

Lisäksi tekoälyjärjestelmätmäärittää, mitä tarkalleen näemme Google- tai Yandex-haussa tai Facebookin tai Vkontakten uutissyötteessä. He säveltävät musiikkia ja kirjoittavat artikkeleita, jotka ensi silmäyksellä eivät eroa ihmisten kirjoittamista teksteistä. Näitä samoja järjestelmiä kehitetään parantamaan miehittämättömien ilma-alusten ohjausta ja ohjusten havaitsemista.

Mutta kapea tekoäly on yhä vähemmän ... heikko. Tähän mennessä tutkijat ovat onnistuneet saavuttamaan merkittävää edistystä tekoälyn alalla, huolellisesti tietokonejärjestelmäkohtaisten käsitteiden opettaminen... Ja viime vuosina monien tutkijoiden kiinnostus on keskittynyt oppimaan kykenevien tietokonejärjestelmien luomiseen.

Toisin sanoen matemaattisen kuvauksen sijaanongelman yksityiskohtaiset ominaisuudet, tutkijat antoivat tietokonejärjestelmän tutkia näitä ominaisuuksia yksinään. Ja kun tämä järjestelmä kehittyy, tekoälyt alkavat osoittaa yleisempiä ominaisuuksia.

Yleensä edistystä keinotekoisen alallaälykkyys on auttanut tutkijoita saavuttamaan valtavia edistysaskeleita, ja se on myös nostanut esiin kiireellisiä eettisiä kysymyksiä. Esimerkiksi Rosie Campbell Kalifornian yliopistosta Berkeley AI Centeristä väittää, että nykyisillä vaikeuksilla ei ole mitään tekemistä niiden makaabereiden käsikirjoitusten kanssa, jotka kertovat elokuvista koneiden kapinasta. Pikemminkin ne johtuvat epäsuhtasta sen välillä, mitä käskemme järjestelmillemme tehdä ja mitä me todella haluamme niiden tekevän.

Tekoäly sisältää sekä edistystä että sivilisaation mahdollisen regression ja kuoleman riskin

Ongelmat syntyvät kuitenkin siitä, ettäjärjestelmät ovat todella hyviä saavuttamaan asetettu (tai annettu) tavoite; mutta tavoite, jonka he ovat oppineet oppimisympäristössään, ei ole tulos, jonka tutkijat todella halusivat saavuttaa.

”Tämän seurauksena luomme järjestelmiä, joita emme ymmärrä, mikä tarkoittaa sitä Emme voi aina ennustaa heidän käyttäytymistään”, tutkijat huomauttavat.

Lue lisää mielenkiintoisia artikkeleita tekoälyn kehityksestä ja toiminnasta Yandex.Zen-kanavallamme. Siellä on säännöllisesti julkaistuja artikkeleita, joita ei ole sivustolla!

Mahdolliset AI-uhat

No, tässä päästään mielenkiintoisimpaan.Jos tiedemiehet todellakin kohtaavat yllä kuvatut haasteet, mitä uhkia uusimmat tekoälylöydöt voivat tuoda meille? Itse asiassa yhä useammat tutkijat kyseenalaistavat kykymme hallita superälyä, johon kouluttamistamme järjestelmistä voi tulla.

Tarkoitus on hallita supermieliä,Ihmisen ymmärryksen ulkopuolella tarvitaan tämän superälyn jäljitelmää, jota voimme analysoida. Mutta jos emme pysty ymmärtämään näitä järjestelmiä, on mahdotonta luoda tällaista simulaatiota. Lisäksi emme voi edes vahvistaa Isaac Asimovin ehdottamia sääntöjä - "älä vahingoita ihmisiä". Loppujen lopuksi, jos emme ymmärrä, mitä skenaarioita tekoäly aikoo keksiä, kuinka estää ne?

Heti kun tietokonejärjestelmä voi toimiaOhjelmoijamme kykyjen ulkopuolella emme voi enää asettaa rajoja, kirjoittavat Journal of Artificial Intelligence Research -lehdessä julkaistun tutkimuksen kirjoittajat.

Tekoälyn kehityksen ongelma on, että se voi muuttua avustajasta vihollisemme.

Älä missaa: Artificial Intelligence on kirjoittanut artikkelin sivustolle. Siitä tuli realistinen ja pelottava

Mielenkiintoista on, että jotkut kohdassa kuvatuista perusteluistaTieteellinen työ juontaa juurensa Alan Turingin töihin vuonna 1936. Monimutkaisten matemaattisten yhtälöiden avulla hän keksi abstraktin laskentakoneen, joka formalisoi algoritmin määritelmän.

Toisin sanoen hän yritti ymmärtää, oliko se mahdollistaratkaista kaikki ongelmat matemaattisten algoritmien avulla (sekä sellaisia, jotka voidaan ratkaista vain raa'alla voimalla). Turing itse uskoi, että vuoteen 2000 mennessä koneet voisivat pettää ihmisiä 30 % ajasta.

Lopullinen kuvaus "Turingin koneesta"antoi tutkijoille mahdollisuuden käsitellä näitä monimutkaisia ​​ongelmia. Voit selvittää, mikä Turingin kone on Cambridgen yliopiston virallisilla verkkosivuilla.

Alan Turingilla oli valtava vaikutus tekoälyjärjestelmien kehitykseen

Toinen ongelma esiintyessäsuperälykkyys on, että mikä tahansa ohjelma, joka on kirjoitettu pysäyttämään tekoäly, joka haluaa tappaa kaikki ihmiset, voi "ymmärtää" tämän ohjelman (ja lopettaa) tai ei. Tärkeintä on, että matemaattisesti emme voi olla täysin varmoja siitä, mitä ohjelma tuottaa. Ja yksinkertaisesti se tarkoittaa sitä ohjelmaa "tuhoa kaikki" on mahdotonta hallita.

Ihmettelet: Voiko tekoäly tuhota ihmiskunnan vuoteen 2035 mennessä?

Ja jos ei tuhota maailmaa?

Vaihtoehto opettaa tekoälylle etiikkaa ja käskeä sille olla tuhoamatta maailmaa - missä mikään algoritmi ei voi olla täysin varma - on rajoittaa superälyn kykyjä... Se voi esimerkiksi olla katkaistu tietyistä Internetin osista tai tietyistä verkoista.

Mutta toinen tuore tutkimus kiistää tämänajatus, olettaen, että tekoälyn mahdollisuudet ovat rajalliset. Tämä argumentti on, että jos emme aio käyttää tekoälyä ihmisten kykyjen ulkopuolella olevien ongelmien ratkaisemiseen, miksi sitten luoda sitä?

Jos haluamme rakentaa tulevaisuuden, jossa tekoälyjärjestelmät ovat läsnä, emme ehkä edes tiedä kun hallinnassamme oleva yliäly ilmestyy, sellainen on hänen käsittämättömyytensä. Ja koska pyrimme luomaan superälyä, on aika kysyä vakavia kysymyksiä siitä, mihin suuntiin näiden teknologioiden kehitys on menossa.

Teknologioita voidaan käyttää sekä ihmisten hyväksi että päinvastoin. Älkäämme unohtako sitä

Superälykäs kone, joka hallitseemaailma kuulostaa tieteiskirjallisuudesta, sanoo Manuel Sebrian Max Planck Institute for Human Development -instituutista. Mutta nykyään on jo koneita, jotka suorittavat tiettyjä tärkeitä tehtäviä itsenäisesti ilman, että ohjelmoijat ymmärtävät täysin, kuinka he oppivat tämän.

Siksi herää kysymys - ja aivan oikein -voiko tekoäly muuttua jossain vaiheessa hallitsemattomaksi ja vaaralliseksi ihmiskunnalle? Esimerkiksi Elon Musk, kuten brittiläinen teoreettinen fyysikko Stephen Hawking, ajattelee kyllä. Mitä ajattelet tästä? Odotamme vastausta täällä, samoin kuin tämän artikkelin kommenteissa!