"Keserű lecke": a tudós azt mondta, hogy 70 év az AI kutatás területén szinte hiába költött

A legnagyobb tanulság a 70-bőlAz AI-kutatás évek óta abban rejlik, hogy a számítást végző általános módszerek végső soron a leghatékonyabbnak bizonyulnak - és nagy mozgástérrel. Ennek legfőbb oka Moore törvénye. Vagy inkább általánosítása: a számítási processzorok folyamatos, exponenciális értékcsökkenése. Erről a "keserű leckéről" mondta Richard Sutton, egy kanadai számítógéptudós. Következő - az első személytől.

Miért van 70 év múlva a mesterséges intelligencia kutatása?

A legtöbb kutatás mesterségesaz intellektusokat úgy hajtották végre, mintha az ügynök rendelkezésére álló számítások állandóak lennének (és ebben az esetben az emberi tudás használata az egyetlen módja a termelékenység növelésének). De egy idő után - sokkal több, mint ami egy tipikus kutatási projekthez szükséges - elkerülhetetlenül sokkal több számítás érhető el. A rövid távon segítséget nyújtó fejlesztések keresése során a tudósok igyekeznek maximálisan kihasználni az emberi tudást ezen a területen, de az egyetlen dolog, ami hosszú távon számít, a számítások növekvő használata. E két szempontnak nem szabad egymással szemben lennie, hanem a gyakorlatban. Az egyikükre eltöltött idő nem egyenlő a másiknál ​​eltöltött idővel. Vannak pszichológiai kötelezettségek, hogy ebbe a megközelítésbe fektessenek be. A tudásalapú megközelítés azonban olyan módszerekkel bonyolítja a módszereket, hogy kevésbé alkalmasak a számítást alkalmazó közös módszerek kihasználására.

következtetés: azonnal el kell utasítania a kísérletet, hogy megoldja az AI problémát a „fejjel”, mert az idő eltelt, és sokkal gyorsabban és könnyebben megoldódik - a számítási teljesítmény növekedése miatt

Sok példa volt arra, hogy az AI kutatók későn megértették ezt a keserű leckét. Tanító lesz néhány kiemelkedő példát figyelembe venni.

A számítógépes sakkban a nyertes módszerekKasparov világbajnok 1997-ben hatalmas, mély keresésen alapult. Abban az időben a legtöbb számítógépes sakkkutató aggódott róluk, akik a sakk szerkezetének emberi megértésén alapuló módszereket alkalmaztak. Amikor egy egyszerűbb, keresési alapú megközelítés speciális hardverrel és szoftverrel sokkal hatékonyabbnak bizonyult, a sakk emberi megértéséből származó kutatók nem ismerik el a vereséget. Azt mondták: „Ezúttal a brutális erő megközelítése nyert, de nem lesz közös stratégia, és az emberek így nem játszanak sakkozni. Ezek a tudósok az emberi bemeneten alapuló módszereket akartak nyerni, és nagyon csalódott, amikor ez nem történt meg.

következtetés: a számítások egyszerű, brutális ereje előbb-utóbb megteheti

Hasonló kép a kutatás előrehaladásáróla számítógépen csak 20 év késéssel volt látható. Kezdetben óriási erőfeszítéseket tettek, hogy elkerüljék az emberi ismeretek vagy játékfunkciók használatát, de ezek az erőfeszítések szükségtelenek voltak, vagy még rosszabbak, ha a keresést hatékonyan és nagy mértékben alkalmazták. Fontos volt az is, hogy az önálló játék folyamata során az értékfüggvény megtanulása érdekében (mint sok más játékban és még sakkban is) csak a tanulás nem játszott nagy szerepet az 1997-es programban, amely először verte a világbajnokot. A saját magaddal való tanulás, az általános tanulás olyan, mint egy olyan keresés, amely lehetővé teszi, hogy hatalmas mennyiségű számítást alkalmazzon. A keresés és a képzés a technikusok két legfontosabb osztálya, akik hatalmas mennyiségű számítást használnak az AI kutatásban. A számítógépben, mint a számítógépes sakkban, a kutatók kezdeti erőfeszítései arra irányultak, hogy az emberi megértést használják (hogy kevesebb keresést használjanak), és csak sokkal később sokkal nagyobb sikereket értek el a keresés és a képzés használatával.

következtetés: a számítástechnikai erővel táplált keresés és képzés messze meghaladja a „nem-szabványos gondolkodási megközelítés” problémáját.

A beszédfelismerés területén az 1970-es években,a DARPA által támogatott verseny. A résztvevők különböző módszereket mutattak be, amelyek az emberi tudás előnyeit használták - szavak vagy hangok ismerete, az emberi vokális traktus stb. A barikádok másik oldalán újabb módszerek voltak, statisztikai jellegűek és több rejtett Markov-modell (HMM) alapján végzett számítást végeztek. És ismét a statisztikai módszerek az emberi tudáson alapuló módszereket nyertek. Ez jelentős változásokat eredményezett a természetes nyelv teljes feldolgozásában, fokozatosan bevezetve az évtizedek során, amíg a statisztikák és számítások végül nem uralkodtak ezen a területen. A beszédfelismerésben való mélyreható tanulás közelmúltbeli növekedése az utolsó lépés ebben a következetes irányban. A mélyreható képzési módszerek még kevésbé támaszkodnak az emberi ismeretekre, és még több számítást használnak, valamint a hatalmas mintahalmazok képzését, és félelmetes beszédfelismerő rendszereket hoznak létre.

Richard Sutton, kanadai számítógép-tudós

Mint a játékokban, a tudósok mindig is megpróbáltak létrehozniazok a rendszerek, amelyek a fejükben elképzelni tudnák - megpróbálták ezt a tudást a rendszereikbe helyezni -, de mindez rendkívül produktív módon jöttek ki, a tudósok egyszerűen csak időt töltöttek, amíg - a Moore törvénye miatt - hatalmasabb számítások álltak rendelkezésre és találtak szép alkalmazás.

következtetés: ugyanaz a hiba már évtizedek óta megismétlődött

Hasonló kép volt a számítógép területénkilátás. Az első módszereket bizonyos kontúrok, általánosított hengerek keresése, vagy a SIFT lehetőségeinek (a jellemzők skála-invariáns átalakítása) felhasználásával észlelték. De ma a kemencébe dobott. A modern, mélyreható neurális hálózatok csak a konvolúció és bizonyos invariánsok fogalmát használják, és sokkal jobban dolgoznak.

Ez egy nagy lecke.

Bárhol is nézünk, mindenhol vagyunkfolytassa ugyanazokat a hibákat. Ennek megértéséhez és hatékony leküzdéséhez meg kell értenünk, hogy miért olyan vonzóak ezek a hibák, és meg kell tanulnunk egy keserű leckét, hogy azt gondoljuk, hogyan gondoljuk, és nem fog hosszú távon működni. A történeti megfigyeléseken alapuló keserű lecke azt mutatja, hogy: 1) az AI kutatók gyakran igyekeztek tudást építeni ügynökeikbe; 2) rövid távon mindig segített, és elégedettséget hozott a tudósok számára; 3), de hosszú távon mindent megtévesztett, és lassította a további előrehaladást; 4) az áttörés előrehaladása elkerülhetetlenül az ellenkező megközelítés alkalmazásával jött létre, amely a számítások keresésen és képzésen keresztül történő skálázásán alapult. A siker keserű íz volt, és gyakran nem teljesen asszimilálódott, mert ez volt a számítások sikere, nem pedig az emberközpontú megközelítések sikere.

E keserű leckéből meg kell tanulnunk: az általános célú módszerek óriási ereje, a számítások növekedésével folytatódó módszerek, még akkor is, ha a rendelkezésre álló számítások nagyon nagyok. Két módszer, amelyek ily módon tetszőlegesen méreteznek, a keresés és a képzés.

A második dolog, amit ennek a keserűnek meg kell tanulnunka lecke abból áll, hogy az elme tényleges tartalma rendkívül és indokolatlanul összetett; abba kell hagynunk, hogy megkíséreljük megtalálni az elme tartalmának egyszerű megértését, hasonlóan a tér, az objektumok, a több ügynök vagy a szimmetria egyszerű megértéséhez. Mindegyikük egy önkényesen összetett külső világ része. Nem szabad megpróbálnunk kezdeni tőlük, mert bonyolultságuk végtelen; olyan metódusokra kell épülnünk, amelyek ezt az önkényes komplexitást megtalálják és megragadják. Ezek a módszerek jó közelítéseket találnak, de a keresésüket a mi módszereinkkel, nem pedig velünk kell végezni. Szükségünk van olyan AI-ügynökökre, akik ugyanúgy megnyílhatnak, mint mi, és nem tartalmaznak azt, amit felfedeztünk. A felfedezéseinkre építve csak bonyolítja a felfedezés és a keresés folyamatát.

következtetés: Meg kell bízni a számításokat, és nem próbálja megnyomon követheti az emberi gondolatokat és a komplex felfedezési és keresési módszerek egyszerű diagramokkal történő magyarázatát; hosszú távon az első fog működni, nem az utolsó.

Beszéljétek meg az AI kutatók keserű leckéjét a Telegramban.