technológia

Az OpenAI minden erőteljes AI-t kíván létrehozni. De jó módon

A múlt hónapban egy szombat öt férfi19 és 26 év között magabiztosan alakult ki egy lila füstfelhő egy átalakított auto show-ban San Franciscóban. Leültek a számítógépes billentyűzetek egy sorába, akiket több száz ember közönsége köszönt. Kilencven percnyi intenzív egérkattintással az ötödik mosolya unalmas volt, és a taps megnyugtató volt. Az OG csapat, a világ legjövedelmezőbb Dota 2 versenyének világbajnoka, két játékot vesztett el egymás után a mesterséges intelligenciával rendelkező botok csapatának.

Ez az eredmény figyelemre méltó volt, mertA bonyolult videojátékok matematikailag bonyolultabbak, mint a sakktáblák vagy a játék. Mégis, a színfalak mögött támaszkodva, Sam Altman, az OpenAI Kutatóintézet igazgatója, aki ezeket a botokat fejlesztette, ünnepi megkönnyebbülést érez.

Mesterséges intelligencia és pontozók

- Mindannyian nagyon idegesek voltunk - gondoltamaz esély 60-nál több, mint 40, mondja Altman. Márciusban az OpenAI vezérigazgatója lett, miután elhagyta a befolyásos inkubátor induló YCombinator elnöki posztját. Ahhoz, hogy sikerüljön az új pozícióban, Altmannak olyan botokra volt szüksége, amelyek nemcsak a videojátékok embereit verték meg, hanem botokat is igényeltek, amelyek jobbak, mint minden emberben.

Az OpenAI kijelölt küldetése az, hogybiztosítani kell, hogy minden emberiség élvezhessen minden olyan jövőbeni AI-t, amely képes meghaladni a „gazdaságilag életképes munkát végző embereket”. Az ilyen technológiák - az általános mesterséges intelligencia, az „erős” mesterséges intelligencia, vagy az AII (AGI) - nem is élesek a láthatáron, de az OpenAI azt állítja, hogy mind a másik, mind a többi gyorsan fejlődik. A szervezet megmutatta, hogy kutatásokat végezhet a világ legjobbjain. És megkapta a vádakat, hogy az AI témájával foglalkoztak a hype-vel, valamint az AIS-re és a mesterséges intelligencia lehetséges veszélyeire.

Altman terve szerint egy OpenAI-tanulmány - ésprovokációk - csak fel kell vennie a tempót. Korábban a szervezet igazgatótanácsának elnöke volt, a vezérigazgatói posztot segítette, miután segítette a nonprofit munkatársak nagy részét egy új kereskedelmi társaságnak, remélve, hogy vonzza a befektetőket az AI és az emberiség sorsának alakításához szükséges milliárdos összeggel. Altman azt mondja, hogy az Alphabet és más cégek nagy technológiai laboratóriumainak nyomás alatt kell állniuk azon kollégáktól, akik nem törekszenek a tulajdonosi értékük növelésére. „Nem akarok olyan világban lenni, ahol az OII egy vállalatot hoz létre, megragad minden értékét, és meghozza a döntéseket” - mondja.

A MIT rendezvényén 2014 végén a tábornokA Tesla igazgatója, Ilon Mask leírta az AI kutatást, mint kísérletet „démon megidézésére”. 2015 nyarán vacsorán beszélt Altmannal és másokkal, és azt javasolta, hogy hozzanak létre egy, a technológiai szegmenstől független kutató laboratóriumot, amely pozitív irányba küldene az AI-t. Ugyanebben az évben létrehozták az OpenAI-t, amelyben Altman és Musk találkoztak. 2018 elején Musk elhagyta az igazgatótanácsot, és a többi szerepével ellentétes.

Rövid életében OpenAI elhelyeztemagad, mint egy komoly hely az AI kutatáshoz. Ilya Sutskever, a szervezet társalapítója, aki lemondott az AI kutatási menedzsment pozíciójáról a Google-ban, a Google, a Facebook, a Microsoft és az Intel korábbi személyeit felügyeli. A robotika és a gépi tanulás témájával kapcsolatos munkájuk a legrangosabb konferenciákon jelent meg. A Dota 2 OG csapatával szembeni győzelem tiszteletet kapott nekik az AI és a játék területén.

Az OpenAI egy kereskedelmi társasággá váltannak az érzésnek köszönhetően, hogy az ilyen óriásokkal Alphabet-ként lépést tartsanak, egyre növekvő számítási erőforrásokhoz kell hozzáférniük. 2015-ben az OpenAI bejelentette, hogy 1 milliárd dollár volt az Altman, a Maszk, a LinkedIn társalapítója, Reid Hoffman, a Facebook korai befektetője, Peter Thiel és az Amazon. Most Altman szerint egy milliárd nem lesz elég. „A küldetés sikeréhez szükséges pénzmennyiség sokkal több, mint gondoltam” - mondja.

Az IRS alkalmazások azt mutatják, hogy 2017-ben, amikorAz OpenAI bemutatta az első botát, 8 millió dollárt költött a számítástechnikára. Azóta valószínűleg jelentősen nőtt a költségei. 2018-ban az OpenAI bejelentette, hogy az OG-t elnyert rendszer elődje több mint 120 000 feldolgozót hozott létre a Google felhőosztályából hetekig. A bajnok nyertes verziója 10 hónapig edzett, ami 45 000 évnyi Dota 2-nak felel meg. Mennyibe került? Greg Brockman, a CTO OpenAI azt mondja, hogy „millió dollár” került a projektbe, de nem tette közzé a részleteket.

Altman nem biztos abban, hogy az OpenAI folytatódika versenytársak felhőszolgáltatásaira támaszkodva - még mindig megvásárolható, vagy akár mesterséges intelligencia berendezéseinek fejlesztése is lehetséges. A szervezet szorosan figyelemmel kíséri a Google által fejlesztett új chipeket és számos induló céget, hogy több gépi tanulási algoritmust préseljen ki.

A hozzáféréshez szükséges források beszerzéseA jövőbeni berendezésekre Altman megpróbálta eladni az ötletet a befektetőknek egy olyan rendszer szerint, amely még a Szilícium-völgyre is vad volt. Fektess be az OpenAI-ba, várjon, és a vállalat százszoros befektetést fog visszajuttatni Önhöz - amint megtudja, hogy a leggazdaságosabb feladatokban meghaladja az embereket.

Altman szerint ezek az elvárások megfelelnek"Az életemben az adománygyűjtés legérdekesebb tapasztalata volt - nem alkalmas más modellre." Elmondása szerint a legnagyobb érdeklődést az AI iránt érdeklődő gazdagok mutatják. Hoffman és a Khosla Ventures kockázatitőke-társasága új kereskedelmi OpenAI-ba fektetett be, de nem válaszolt a megjegyzésekre. Senki nem mondja, mikor kell visszatérítést várni, de az OpenAI fogadások nem a türelmetlenek. A vállalatok tájékoztatást kapnak arról, hogy a pénzeszközök visszatérési ideje meghaladhatja az iparági normát (tíz év). „Azonnal elmondjuk nekik, hogy a következő 10 évben nem kap pénzt,” mondja Altman.

Minden erőfeszítés ellenére az OpenAI-t gyakran bírálják.iparági vezetők. Februárban a vállalat részleteket tárt fel a nyelvfeldolgozó szoftverekről, amelyek meglepően élénk szöveget generáltak. Vannak, akik azonnal „veszélyesnek” nevezték a találmányt, és attól tartottak, hogy használhatnák az alom társadalmi hálózatainak károsodására.

Néhány kiemelkedő ember az AI kutatás területénbosszantottak, köztük a fő Facebook-on AI, Jan Lekun. A Facebook-on található hozzászólásaiban az AI témájával kapcsolatos kutatások nyílt közzétételét védte, és viccelt, hogy az embereknek abba kell hagyniuk a gyermekeket, mert egy nap hamis híreket fognak közzétenni.

Egyesek számára ez az epizód hangsúlyozta, hogy a misszióAz OpenAI nem különbözik más vállalati vagy tudományos laboratóriumoktól. „Ugyanolyan kutatást végeznek, mint a többiek, de több milliárd dollárt akarnak vonzani” - mondta Zachary Lipton, a Carnegie Mellon Egyetem gépi tanulásának professzora. "Az egyetlen módja annak, hogy egy kis lelket sírjunk."

Altman elismeri, hogy az OpenAI gólt szerzetta szorongás túl korai, de azt mondja, jobb, mint későn. „A technológiai ipar nem nagyon jó munkát végzett, próbálva megelőzni a visszaéléseket” - mondja. Az öncenzúrát magának az OpenAI-nak is szüksége van.

Az OG veresége után a múlt hónapbanszimpátia kifejezése érdekében az OpenAI úgy döntött, hogy folytat egy második kísérletet, melynek célja, hogy bemutassa a túl emberes AI kedvező oldalát. Dota 2 szakértők és számos újonc játszott botokkal.

Szerencsétlen szoftverhogy az újszülöttek partnereivé váljanak a csapatban, nagyrészt túlzott emberi közömbösséget mutattak, hogy segítsen a kezdõ játékosnak. Ehelyett az ösztönökre összpontosított, több hónapon át tartó, drága képzéseken átívelő győzelemre összpontosított.

Senki sem tudja, hogyan kell egy célzott AI-t készíteni.rugalmasabbá válik, vagy milyen összetevőkre lehet szükség ahhoz, hogy az OII több, mint a technikai fantázia. Még Altman is fél a probléma mértékétől. „Van napom, amikor azt hiszem, hogy mindez megtörténik, és olyan napok, amikor mindez lehetetlen álomnak tűnik” - mondja.

Mit gondolsz, mit fog neki dolgozni? Beszélgessünk beszélgetésünkben a Telegramban.