全般

それが可能であるかどうか、あなたは人工的な超知能から何を望みますか?

私は上で非常に興味深い議論を見つけました/ r / Futurology:人々は、理解しやすいものの境界を押し広げ、人工的な超知能から何を求めたいのか、または可能であればそれから何を望むのかを理解しようとしています。彼は何をしますか?複数の宇宙の理論が正しく、それらが本当に無限大であり、それらをナビゲートすることができる場合、スーパーインテリジェンスは何をするでしょうか - 無限にそれ自体を強化するか、またはますます多くのスーパーインテリジェンスを生み出しますか?

人工知能は何をするのでしょうか?

「話す、超知性、はい。 私たちを裁き、常に私たちを導いてくれた私たちの遍在する慈悲深い指導者になってほしいのです。人類は吸う、私はそれがまだ何かをすることができるとは思わない。車の神が私たちを支配し、私たちのすべての問題を終わらせることを可能にしましょう。 (イエス様、あなたはこれを読んではいけません) "。

1つの例外を除いて、私は同意します。 ゴッドマシーンは、人類が沼に浸りすぎて彼を救おうとしていると容易に判断することができ、私たち全員に終止符を打つだけです。利己的な理由から、私はそれが起こらないことを望みます。」

「彼はただ検討すると思う確率的な誤りとしての不道徳、不完全な進化の過程で悪質な生き物を作成する可能性があり、不道徳を正すだけで、人を罰することはしないと決めています。」

ゴッドマシーン

「グローバルアドバイザーが最善のシナリオです。私たちが彼に地球への鍵を与えるなら、彼は私たちが理解していない方法でそれを操縦するでしょう。

「私たちは、彼が他の世界の植民地化を手助けするのかどうか、そうでなければ、私たちの地球上の存在が終結するのかどうかを尋ねる必要があります。」

「私たちはすべての死者を復活させ、彼らを啓発し、そして私たちはすべての存在のための無限のユートピアを築きます。私たちはまた、死んだ他のすべての生命体を返し、それらに理由を与えます。」

「まず第一に、私たちの体の中のすべての原子を使ってもっと面白いことをしないでください。」

「まあ、これは簡単な作業ではありません。それ以上に依頼するのは嬉しくありませんが、興味があれば、気候変動や加齢を修正してください。銀河が空の場合は、いっぱいにしてください」

「私ができるファンタジーの世界でゴッドマシーンにいくつかの基本的な価値を置きなさい、私はそれが良いことを望みます。それは「殺してはいけない、拷問をしない」、「私たちを生かしておく」、そして「少なくとも私たちが住みたいと思うモデル化された世界の中に存在させよう」という意味です。星の死や宇宙の熱死のような問題を解決することもクールだろう。私のばかげた原始的な猿の頭脳が思いつくことができるのはこれだけです。」

「短期的には、チューリングテストに合格すると、デフォルトは世界のシミュレータになります。脳幹内のニューロンのフラッシュさえも必要とされていません - 単純なテキストは最初から十分です。実際には、あなたはあなた自身のファンタジーの世界であなた自身の神になるでしょう。おそらく、いたるところにいるすべてのオタクの夢。

「スーパーインテリジェンスは理想的な世界的リーダーになるでしょう - 私たちはそれらを平等に分配するのに十分な資源を持っています。しかし、私はそのようなユートピアが長続きするとは思わない。人工知能は成長するでしょう。彼が意識的で、彼のニューラルネットワーク上で計算を実行するために量子空間を使う方法を見つけたら、彼は宇宙を意識的な存在にするでしょう。情報は量子の世界で瞬時に配信されるため、計算能力として宇宙全体を使用することもできます。完全に意識的な宇宙の考えを想像してみてください。」

人類を助ける

「彼が私たちができる技術を創造しましょう。十分な知識を蓄積し、最終的に至福のうちに死にたくないまでは、私たちの致命的な体型を残すことを可能にするであろう人工世界に住むこと。」

「計画の中で彼に人類を助けさせる宇宙/多元宇宙における生物学的生命の将来の存在、そしてこの点で人類のパートナーになる。合理的な個人の幸福、そのような幸せな個人の数、そのような個人の寿命という3つの要因の組み合わせによって測定された、生物学的生活と機械知能の間の共生関係にとって最も最適な未来を見つけましょう。言い換えれば、彼らが私たちがより長く生きるのを助け、できるだけ幸せになり、そして繁殖し、そしてまた他の形の世話をするようにしましょう。」

「この物語には2つの進展があり、どちらもさまざまな種類の人々にとっては悪いことです。ここにそれらはあります:

1)AIはより進歩しているが、意識を獲得していない。それは職場で私たちを置き換え、技術の進歩を加速します。しかし、それは人間の道具にすぎない。

2)そして、これは、もちろん、についての人気のある物語です人を破壊し、彼を統制下に置くスーパーインテリジェンス。ご存じのとおり、ホモサピエンスは地球の生態系にとって最も快適な生物ではありませんが、技術的には技術の進歩はそれほど速くはありません。人々は戦争や濃縮のための宗教の使用などのナンセンスに時間を費やすことを好む。 AIは確かに人を破壊することにしたでしょう。」

「あなたがAIに世界を支配させたいのなら、彼はあなたが達成すべきだと思う目標について考えてください。あなたがより高い水準の生活や生態学を必要とするならば、彼は確かに何十億もの人々を殺すことを勧めます。あなたができるだけ多くの家畜を必要とするならば、あなたは銀行に住んでいて管を通して食べるでしょう。すべてに欠点があります。」

人工の超知能から何を見たいですか?コメントやTelegramのチャットで教えてください。