Teknologi

OpenAI ønsker at skabe et helt magtfuldt AI. Men på en god måde

En lørdag sidste måned, fem mændalder 19 til 26 år opstod trygt fra en sky af lilla røg på et konverteret auto show i San Francisco. De satte sig på en række computer tastaturer, højlydt mødt af en gruppe af flere hundrede mennesker. Efter 90 minutter med intense museklik blev smilene af de fem sløvede, og applauset var trøstende. OG-holdet, verdensmesterne for det mest rentable konkurrencedygtige Dota 2-spil i verden, mistede to spil i træk til holdet af robotter med kunstig intelligens.

Dette resultat var bemærkelsesværdigt, fordiKomplicerede videospil er matematisk mere kompliceret end brætspil som skak eller gå. Alligevel lænede Sam Altman, generaldirektør for OpenAI Research Institute, der udviklede disse bots, mod ferie på væggen bag kulisserne.

Artificial Intelligence vs Doters

"Vi var alle meget nervøse den morgen - tænkte jegat oddsene er 60 over 40, siger Altman. Han blev administrerende direktør for OpenAI i marts efter at have forladt stillingen som formand for den indflydelsesrige inkubator startups YCombinator. For at lykkes i den nye position havde Altman brug for bots, der ikke kun slog folk i videospil - han havde brug for bots der er bedre end mennesker i alt.

Det angivne mission for OpenAI er atsikre, at hele menneskeheden vil få gavn af ethvert fremtidigt AI, der kan overgå "mennesker i det mest økonomisk levedygtige arbejde". Sådanne teknologier - generel kunstig intelligens, "stærk" kunstig intelligens eller AII (AGI) - er ikke engang truende i horisonten, men OpenAI hævder, at både den og andre hurtigt udvikler sig. Organisationen har vist, at den kan udføre forskning på niveau med verdens bedste. Og hun fik beskyldninger om at udbrede hype om AI's emne, samt at fastgøre på AIS og potentielle trusler om kunstig intelligens.

Ifølge Altmans plan, en OpenAI undersøgelse - ogprovokationer - bør kun afhente tempoet. Tidligere bestyrelsesformand for denne organisation tog han stilling som administrerende direktør efter at have bidraget til at overføre de fleste nonprofitpersonale til et nyt kommercielt selskab i håb om at tiltrække investorer med de milliarder der er nødvendige for at forme AI og menneskehedens skæbne. Altman siger, at store teknologilaboratorier i alfabetet og andre virksomheder bør være under pres fra kolleger, der ikke søger at øge deres aktionær værdi. "Jeg ønsker ikke at være i en verden, hvor OII vil skabe et selskab, fange al sin værdi og træffe alle beslutninger," siger han.

På MIT begivenheden i slutningen af ​​2014, den generelleTesla-direktøren Ilon Mask beskrev AI-undersøgelsen som et forsøg på at "indkalde en dæmon". I sommeren 2015 talte han med Altman og flere andre til middag og foreslog at oprette et forskningslaboratorium, uafhængigt af teknologisegmentet, som ville sende AI i en positiv retning. I samme år blev OpenAI oprettet, hvor Altman og Musk fandt sig selv. I begyndelsen af ​​2018 forlod Musk bestyrelsen og citerede potentielle konflikter med sine andre roller.

I det korte liv har OpenAI placeretdig selv som et seriøst sted for AI forskning. Ilya Sutskever, medstifter af organisationen, der trådte tilbage fra en AI-ledelsesposition hos Google, overvåges af medarbejdere, der omfatter tidligere mennesker fra Google, Facebook, Microsoft og Intel. Deres arbejde med emnet robotik og maskinindlæring optrådte på de mest prestigefyldte konferencer. Sejren over OG holdet i Dota 2 gav dem respekt inden for AI og gaming.

Turning OpenAI til et kommercielt selskab varforårsaget af følelsen af, at du for at holde op med sådanne giganter som alfabet skal have adgang til stadigt voksende computerressourcer. I 2015 offentliggjorde OpenAI at det havde 1 milliarder dollar fra Altman, Mask, LinkedIn medstifter Reid Hoffman, Facebooks tidlige investor Peter Thiel og Amazon. Altman siger nu, at en milliard vil ikke være nok. "Hvor mange penge vi har brug for til succes for en mission er meget mere, end jeg troede," siger han.

IRS ansøgninger viser, at i 2017, hvornårOpenAI viste sin første bot dotera, hun brugte 8 millioner dollars på cloud computing. Siden da er hendes udgifter sandsynligvis steget betydeligt. I 2018 meddelte OpenAI, at forgængeren af ​​systemet, der vandt OG, tilsluttede mere end 120.000 processorer, der blev lejet fra Google Cloud-divisionen i uger. Den mester-vindende version har været i træning i 10 måneder, svarende til 45.000 år Dota 2 spiller mod sig selv. Hvor meget kostede det? Greg Brockman, CTO OpenAI siger, at "millioner af dollars" gik til projektet, men afslørede ikke detaljer.

Altman er ikke sikker på, at OpenAI vil fortsættestole på konkurrenternes sky tjenester - det er stadig åbent for at købe eller endda at udvikle udstyr til kunstig intelligens. Organisationen følger nøje de nye chips, der udvikles af Google, og mange startups til at presse ud flere maskinindlæringsalgoritmer.

At indhente de nødvendige midler til adgangtil det fremtidige udstyr forsøgte Altman at sælge ideen til investorer ifølge en ordning, der var vild selv for Silicon Valley. Invester i OpenAI, vent, og selskabet vil returnere hundredvis investering til dig - så snart det opdager robotter, der overgår folk i de fleste økonomisk værdifulde opgaver.

Altman siger at opfylde disse forventningerDet var "den mest interessante oplevelse af fundraising i mit liv - det er ikke egnet til nogen anden model." Ifølge ham er den største interesse vist af rige mennesker interesseret i AI. Hoffman og venturekapitalfirmaet Khosla Ventures investerede i et nyt kommercielt OpenAI, men reagerede ikke på anmodninger om kommentarer. Ingen siger, hvornår man kan forvente en tilbagebetaling, men OpenAI-væddemål er ikke for utålmodige. Virksomheder informeres om, at tilbageleveringstiden for deres midler kan overstige branchestandarden (ti år). "Vi fortæller straks dem, at du ikke vil modtage midler i de næste 10 år," siger Altman.

Trods alle anstrengelser kritiseres OpenAI ofte.branchens ledere. I februar afslørede virksomheden detaljer om sprogbehandlingssoftware, der kunne generere overraskende livlig tekst. Nogle kaldte øjeblikkeligt opfindelsen "farlig" og udtrykte frygt for, at det kunne bruges til at skade, til affaldssamfund.

Nogle fremtrædende mennesker inden for AI-forskningblev irriteret, herunder de vigtigste AI på Facebook, Jan Lekun. I sine stillinger på Facebook forsvarede han en åben publikation af forskning om AI's emne og skød, at folk skulle stoppe med at have børn, for en dag ville de offentliggøre falske nyheder.

For nogle understregede denne episode, at missionenOpenAI er ikke meget forskellig fra andre firmaer eller akademiske laboratorier. "De gør den samme slags forskning som de andre, men de vil tiltrække milliarder af dollars," sagde Zachary Lipton, professor i maskinindlæring på Carnegie Mellon University. "Den eneste måde at gøre dette på er at ryste en lille sjæl."

Altman indrømmer at OpenAI måske har scoretAngst er for tidligt, men siger, at det er bedre end at være sent. "Teknologibranchen har ikke gjort et meget godt stykke arbejde, der forsøger at være proaktiv mod misbrug," siger han. Selvcensur kræves også af OpenAI selv.

Efter nederlaget for OG sidste måned for atfor at udtrykke sympati besluttede OpenAI at gennemføre et andet eksperiment, designet til at demonstrere den overveldende side af overmenneskelig AI. Dota 2 eksperter og flere nybegyndere spillede i hold med bots.

Uheldige softwareat blive partnere af newbies på holdet, for det meste viste overmenneskelig ligegyldighed for at hjælpe startspilleren. I stedet fokuserede det på at vinde, efter instinkter, honed over måneder med dyre træning.

Ingen ved, hvordan man laver et fokuseret AI.mere fleksible, eller hvilke komponenter der kan være nødvendige for at gøre OII mere end teknologisk fantasi. Selv Altman er bange for omfanget af problemet. "Jeg har dage, når jeg tror, ​​at alt dette vil ske, og dage, hvor det hele virker som en umulig drøm," siger han.

Hvad tror du vil fungere for ham? Lad os diskutere i vores chat i Telegram.