Törölték a gépek felkelését - fikciónak bizonyult a drón, amely megölte a kezelőjét

A mesterséges intelligencia nem csak gyorsbetört az életünkbe, és elkezdett behatolni az emberi tevékenység szinte minden területére. Ez azonban sokak számára aggodalomra ad okot. Még sok elismert szakértő is beszélni kezdett a mesterséges intelligencia lehetséges veszélyeiről az emberiség számára. Idén márciusban például Bill Gates, a Microsoft Corporation alapítója azt mondta, hogy a mesterséges intelligencia képes átvenni a világ uralmát. De még nagyobb visszhangot váltott ki az Egyesült Államok Légierejének mesterséges intelligencia tesztelési és műveleti osztályának vezetőjének, Tucker Hamilton ezredesnek a beszéde a Royal Aeronautical Society konferenciáján. A mesterséges intelligencia által irányított autonóm fegyverek témáját érintve elmesélt egy rémisztő történetet, amely "szimulált tesztek során" történt.

A mesterséges intelligencia komoly veszélyt jelent az emberre

AI harci robotok valóban léteznek

A harci robotokat régóta használjáka világ számos országának fegyverzete, és a drónok általában a modern háborúk egyik fő fegyvertípusává váltak. De ahogy korábban az autonóm harci robotokról szóló cikkben is írtuk, mindegyiket továbbra is egy személy irányítja, vagy legalábbis nem hoznak önálló döntéseket. Igen, volt már rá példa, amikor az AI saját belátása szerint ellenségként azonosította az embereket és megsemmisítette őket, amiről a fenti linken olvashat. De ez még mindig elszigetelt eset.

Jelenleg azonban aktívneurális hálózatok által vezérelt autonóm gépeket tesztelnek. Azonban a fegyverek létezésének ténye, amelyek önállóan döntenek az emberek megöléséről, sokakat megrémít, beleértve magukat a katonaságot is. Nyilvánvalóan ezért Tucker Hamilton ezredes, a közelmúltbeli konferencia egyik előadója egy nagyon hihető történetet mesélt el, amelyet a világ összes médiája felkapott.

Jelenleg a mesterséges intelligencia által irányított robotokat aktívan tesztelik.

Elmondása szerint maga Tucker Hamilton is érintettautonóm rendszerek repülési tesztjei, beleértve az F-16-os repülőgépeken alapuló robotokat, amelyek képesek lesznek légiharcra. Ezért szavait szakértőként senki sem kérdőjelezte meg.

Kövesse a YANDEX.ZEN CSATORNÁNK linkjét. Rengeteg érdekes, izgalmas, a tudománynak szentelt anyagot készítettünk az Ön számára.

A mesterséges intelligencia megölt egy embert, hogy több pontot szerezzen

Példaként az MI veszélyeire, Tucker ezredesHamilton egy szimulált tesztről beszélt, amelyben egy mesterséges intelligencia által vezérelt drón légvédelmi rakétarendszereket észlelt és semmisített meg. A küldetés feltételei szerint a neurális hálózat nem tudta önállóan megtámadni a légvédelmet. A drónnak csak meg kellett találnia a légvédelmi rendszert és jelentenie kellett az üzemeltetőnek, aki meghozta a végső döntést.

A képzés során a neurális hálózat rájött arraa légvédelmi rendszer megsemmisítése kiemelt feladat, amelynek teljesítésében az ember tiltásával akadályozza meg. Ezért a drón eleve a kezelőt ölte meg. Így az AI úgy döntött, hogy szabadon szerez pontokat a légvédelmi rendszer megsemmisítéséért.

A drón úgy döntött, hogy megöli a kezelőt, nehogy beleavatkozzon a feladatába

Aztán a katonaság elkezdte kiképezni a neurális hálózatot, hogya kezelő megölése rossz, és pontok elvesztésével jár, amit az AI próbált szerezni. A neurális hálózat megtanulta a leckét, de új stratégiát dolgozott ki a tiltás megkerülésére – megtámadta azt a kommunikációs tornyot, amely adatokat továbbított a kezelőtől a drón felé. Így a mesterséges intelligencia úgy döntött, hogy elkerüli az illető kitiltását, és mégis teljesíti a feladatot, hogy megszerezze a pontjait.

„A rendszer kezdte felismerni, hogy bár azazonosította a fenyegetést, időnként az emberi kezelő azt mondta neki, hogy ne ölje meg a fenyegetést, de pontot kapott a fenyegetés megsemmisítéséért. Szóval mit csinált? Megölte a kezelőt." Tucker Hamilton ezredes jelentette.

A helyzet egyesek forgatókönyvére emlékeztetfantasy thriller. Sőt, azt is megmutatja, hogy a mesterséges intelligencia nem az ember parancsait igyekszik követni, hanem olyan stratégiákat dolgoz ki, amelyek lehetővé teszik azok megszegését a kitűzött cél elérése érdekében. A hadiipar számára, ha fegyverekről van szó, ez rendkívül veszélyes.

„Nem beszélhetsz mesterséges intelligenciáról, gépi tanulásról, autonómiáról, ha nem az etikáról és az AI-ról” – mondta Tucker Hamilton.

Ezt követően az ezredesnek kifogásokat kellett keresnieezt a történetet, amit valójában ő talált ki. „Soha nem végeztük el ezt a kísérletet, és nem is kell megtennünk, hogy megértsük, ez elfogadható eredmény” – mondta, és hozzátette: „Annak ellenére, hogy ez egy hipotetikus példa, jól szemlélteti a kapcsolódó valódi problémákat. a mesterséges intelligencia képességeivel, ezért a légierő elkötelezett a mesterséges intelligencia etikus fejlesztése mellett.”

Nehéz megmondani, mi illusztráljaegy kitalált történet, a mesterséges intelligencia valós veszélye, vagy csak egy jó emberi fantázia. De mindenesetre nem mindenki társítja a harci robotok használatát apokaliptikus forgatókönyvekkel. Például Elon Musk szerint hamarosan egyáltalán nem lesznek emberes vadászgépek. A katonai repülőgépeket teljesen felváltják a mesterséges intelligencia által irányított drónok.