tehnologija

OpenAI želi stvoriti moćan AI. Ali na dobar način

Jedne subote prošlog mjeseca, pet ljudiu dobi od 19 do 26 godina pouzdano su se pojavili iz oblaka ljubičastog dima na konvertiranom auto showu u San Franciscu. Sjeli su za red kompjutorskih tipkovnica, glasno ih je pozdravila gomila od nekoliko stotina ljudi. Nakon devedeset minuta snažnih klikova mišem, osmijesi petica postali su tupi i pljesak je utješio. OG tim, svjetski prvaci najprofitabilnije konkurentne Dota 2 igre na svijetu, izgubili su dvije utakmice zaredom timu robota s umjetnom inteligencijom.

Ovaj rezultat je bio izvanredan jerKomplicirane video igre matematički su složenije od igara na ploči poput šaha ili igranja. Ipak, naslonjen na zid iza kulisa, Sam Altman, generalni direktor Instituta za istraživanje OpenAI, koji je razvio te robote, osjetio je blagdansko olakšanje.

Umjetna inteligencija u odnosu na Doters

"Svi smo bili jako nervozni tog jutra - pomislio sam."da su šanse 60 od 40, kaže Altman. U ožujku je postao izvršni direktor OpenAI-a, nakon što je napustio mjesto predsjednika utjecajnih inkubatorskih startupova YCombinator. Da bi uspio u novoj poziciji, Altmanu su bili potrebni roboti koji nisu samo pobijedili ljude u video igrama - potrebni su mu botovi koji su bolji od ljudi u svemu.

Navedena misija OpenAI je u tomeosigurati da će cijelo čovječanstvo imati koristi od budućih AI sposobnih nadmašiti „ljude u ekonomski najizglednijem radu“. Takve tehnologije - opća umjetna inteligencija, "jaka" umjetna inteligencija, ili AII (AGI) - čak se ne pojavljuju na horizontu, ali OpenAI tvrdi da i ona i drugi brzo napreduju. Organizacija je pokazala da može provoditi istraživanja na razini najboljih na svijetu. I dobila je optužbe da se rasplamsava hiper na temu AI, kao i da se usredotoči na AIS i potencijalne prijetnje umjetne inteligencije.

Prema Altmanovom planu, OpenAI studiji - iprovokacije - trebale bi samo podići tempo. Budući da je prethodno bio predsjednik upravnog odbora ove organizacije, preuzeo je mjesto izvršnog direktora nakon što je pomogao prenijeti većinu neprofitnog osoblja u novu trgovačku tvrtku, u nadi da će privući investitore s milijardama koje su potrebne za oblikovanje sudbine umjetnosti i čovječanstva. Altman kaže da bi veliki tehnološki laboratoriji u tvrtki Alphabet i drugim tvrtkama trebali biti pod pritiskom kolega koji ne žele povećati svoju vrijednost za dioničare. "Ne želim biti u svijetu u kojem će OII stvoriti jednu tvrtku, uhvatiti svu svoju vrijednost i donijeti sve odluke", kaže on.

Na MIT događaju krajem 2014. generalTeslin redatelj Ilon Mask opisao je istraživanje AI kao pokušaj "prizivanja demona". U ljeto 2015. razgovarao je s Altmanom i još nekoliko ljudi na večeri i predložio da se stvori istraživački laboratorij, neovisan o tehnološkom segmentu, koji bi AI poslao u pozitivnom smjeru. Iste godine stvoren je OpenAI, u kojem su se našli Altman i Musk. Početkom 2018. Musk je napustio upravni odbor, navodeći potencijalne sukobe s drugim ulogama.

U svom kratkom vijeku, OpenAI se pozicioniraosebe kao ozbiljno mjesto za istraživanje AI. Ilya Sutskever, suosnivač organizacije, koja je podnijela ostavku na poziciju AI-a za upravljanje istraživanjem u Googleu, nadgleda osoblje koje uključuje bivše ljude iz Googlea, Facebooka, Microsofta i Intela. Njihov rad na temu robotike i strojnog učenja pojavio se na najprestižnijim konferencijama. Pobjeda nad OG timom u Doti 2 im je donijela poštovanje u području AI i igranja.

Pretvoriti OpenAI u komercijalnu korporaciju bilo jeuzrokovan osjećajem da će vam biti potreban pristup sve većim računalnim resursima kako biste bili u korak s takvim divovima kao što su Abeceda. U 2015. godini, OpenAI je objavio da ima milijardu dolara od Altmana, Maska, suosnivača LinkedIna Reida Hoffmana, Facebooka, ranog investitora Petera Thiela i Amazona. Sada Altman kaže da jedna milijarda neće biti dovoljna. "Količina novca koja nam je potrebna za uspjeh misije je mnogo više nego što sam mislio", kaže on.

IRS aplikacije pokazuju da u 2017. godini, kadaOpenAI je pokazao svoj prvi bot dotera, potrošila je 8 milijuna dolara na cloud computing. Od tada su se njezini troškovi vjerojatno značajno povećali. Godine 2018., OpenAI je objavio da je prethodnik sustava koji je osvojio OG povezao više od 120.000 procesora iznajmljenih od Googleovog dijela oblaka tjednima. Pobjednička verzija je trenirala 10 mjeseci, što odgovara 45.000 godina igranja Dota 2 protiv sebe. Koliko je to koštalo? Greg Brockman, CTO OpenAI, kaže da su "milijune dolara" otišli u projekt, ali nisu otkrili detalje.

Altman nije siguran da će se OpenAI nastavitiosloniti se na konkurentske usluge u oblaku - još uvijek je otvoreno za kupnju ili čak za razvoj opreme za umjetnu inteligenciju. Organizacija pažljivo prati nove čipove koje je razvio Google i puno startupa kako bi istisnuli više algoritama strojnog učenja.

Za prikupljanje sredstava potrebnih za pristupZa buduću opremu, Altman je pokušao prodati ideju investitorima prema shemi koja je bila divlja čak i za Silicijsku dolinu. Investirajte u OpenAI, pričekajte, a tvrtka će vam vratiti stostruku investiciju - čim ona izmisli robote koji nadmašuju ljude u većini ekonomski vrijednih zadataka.

Altman kaže da ispunjava ta očekivanjaBila je to "najzanimljivije iskustvo prikupljanja sredstava u mom životu - nije prikladno za bilo koji drugi model". Prema njegovim riječima, najveći interes pokazuju bogati ljudi zainteresirani za AI. Hoffman i tvrtka rizičnog kapitala Khosla Ventures uložili su u novi komercijalni OpenAI, ali nisu odgovorili na zahtjeve za komentare. Nitko ne kaže kada se očekuje povrat, ali OpenAI oklade nisu za nestrpljive. Tvrtke su obaviještene da vrijeme povrata sredstava može premašiti industrijski standard (deset godina). "Odmah im kažemo da u sljedećih 10 godina nećete dobiti sredstva", kaže Altman.

Unatoč svim naporima, OpenAI se često kritizira.vodeći u industriji. U veljači je tvrtka otkrila pojedinosti o softveru za obradu jezika koji je mogao generirati iznenađujuće živahan tekst. Neki su odmah nazvali izum "opasnim" i izrazili bojazan da bi se mogao upotrijebiti za nanošenje štete društvenim mrežama.

Neki istaknuti ljudi na području istraživanja AIannoyed, uključujući glavni AI na Facebooku, Jan Lekun. U svojim je postovima na Facebooku branio otvorenu publikaciju istraživanja na temu umjetne inteligencije i našalio se kako bi ljudi trebali prestati imati djecu, jer će jednog dana objaviti lažne vijesti.

Za neke, ova epizoda je naglasila da je misijaOpenAI se ne razlikuje mnogo od drugih korporativnih ili akademskih laboratorija. "Oni obavljaju istu vrstu istraživanja, poput ostalih, ali žele privući milijarde dolara", rekao je Zachary Lipton, profesor strojnog učenja na Sveučilištu Carnegie Mellon. - Jedini način da se to učini je da se malo duša iscijedi.

Altman priznaje da je OpenAI možda postigao pogodaktjeskoba je prerano, ali kaže da je bolje nego kasno. „Tehnološka industrija nije dobro obavila posao pokušavajući biti proaktivna u borbi protiv zlouporaba“, kaže on. Samocenzuru zahtijeva i sama OpenAI.

Nakon poraza OG prošlog mjeseca kako bida bi izrazio sućut, OpenAI je odlučio provesti drugi eksperiment, osmišljen da pokaže povoljnu stranu nadljudskog AI. Dota 2 stručnjaci i nekoliko početnika igrali su se u timovima s robotima.

Nesretan softverda postanu partneri novajlija u timu, uglavnom su pokazali nadljudsku ravnodušnost kako bi pomogli početniku. Umjesto toga, usredotočio se na pobjedu, slijedeći instinkte, tijekom mjeseci skupih treninga.

Nitko ne zna kako napraviti fokusiranu AI.fleksibilniji, ili kakve bi komponente mogle biti potrebne da OII više od tehnološke fantazije. Čak se i Altman boji razmjera problema. "Imam dane kad vjerujem da će se sve to dogoditi i dani kada se sve to čini kao nemoguć san", kaže on.

Što misliš, što će mu pomoći? Razgovarajmo u našem chatu u Telegramu.