כללי

מה אתה רוצה מ superintelligence מלאכותי, אם זה אפשרי?

מצאתי דיון מעניין מאוד/ r / Futurology: אנשים מנסים לדחוף את הגבולות של להבין ולהבין מה הם רוצים לשאול מ מודיעין מלאכותי, או מה הם רוצים ממנו בכלל אם זה אפשרי. מה יעשה? אם התיאוריה של יקומים מרובים נכונה, והם באמת אינסופיים, ואם אתה יכול לנווט בהם, מה עושה אינטליגנציה גבוהה - לחזק את עצמו ללא הרף או ליצור יותר ויותר אינטליגנציה גבוהה?

מה תעשה אינטליגנציה מלאכותית מלאכותית?

"דיבר, אינטליגנציה מעולה, כן? אני רוצה שהוא יהיה המנהיג הטוב שלנו בכל מקום ששפט אותנו והוביל אותנו תמיד. האנושות מוצצת, אני לא מאמין שהיא עדיין מסוגלת לעשות משהו. בואו נתיר לאל המכונית לשלוט בנו ולשים קץ לכל הבעיות שלנו. (אני מקווה, אלוהים, אתה לא קורא את זה) ".

"אני מסכים, למעט חריג אחד: אלוהים מכונת יכול בקלות לשפוט שהאנושות שקועה מדי בביצה לנסות להציל אותו, ופשוט לשים קץ לכולנו. מסיבות אנוכיות, אני מעדיף שזה לא יקרה ".

"אני חושבת שהוא רק יחשובחוסר מוסריות כטעות הסתברותית, כי יש סיכוי ליצור יצורים מרושעים במהלך תהליכים אבולוציוניים לא מושלמים, ומחליט לתקן רק אי מוסריות, ולא להעניש אנשים על כך ".

אלוהים מכונה

"יועץ גלובלי יהיה התסריט הטוב ביותר. אם אנחנו נותנים לו את המפתחות לכוכב הלכת, הוא ינהיג אותו בדרכים שאנחנו לא מבינים ".

"אנחנו צריכים לשאול אם הוא יעזור לנו בהתנחלות של עולמות אחרים, ואם לא, אם קיומו של כדור הארץ יסתיים".

"אנחנו נשקם את כל המתים, נאיר אותם, ואז נבנה אוטופיה אינסופית לכל היצורים. אנחנו גם נחזיר כל צורות חיים אחרות שמתו, ולתת להם סיבה. "

"בתור התחלה, אין להשתמש בכל האטומים בגופנו כדי לעשות משהו יותר מעניין."

"ובכן, זה לא משימה קלה, וזה נראה כפוי טובה לבקש יותר, אבל אם אתה מעוניין, אולי לתקן שינוי האקלים והזדקנות, ואם הוא ריק בגלקסיה, למלא אותו עם החיים."

"בעולם פנטזיה שבו יכולתילהניח כמה ערכי יסוד במכונת האל, אני רוצה שזה יהיה טוב. מה שאומר "אל תהרוג / לא תענה אותנו", "תשאיר אותנו בחיים" ו"לפחות תנו לנו להתקיים בכל עולם שבו אנחנו רוצים לחיות ". פתרון בעיות כמו מוות של כוכבים ואת המוות התרמי של היקום יהיה גם מגניב. זה כל מה שמוח הקופים הפרימיטיבי שלי יכול לבוא איתו ".

"בטווח הקצר, מערכת מסוגלתלעבור את מבחן טיורינג, ברירת המחדל תהיה סימולטור של עולמות. אפילו הבזק של נוירונים בגזע המוח אינו נחוץ - טקסט פשוט יספיק מלכתחילה. למעשה, תהפוך לאלוהים שלך בעולם הפנטזיה שלך. כנראה החלום של כל חנונים בכל מקום. "

"אינטליגנציה מעולה תהיה המנהיגה האידיאלית בעולם- יש לנו מספיק משאבים להפיץ אותם באופן שווה. אבל אני לא חושב שאוטופיה כזאת תימשך זמן רב. מלאכותית superintelligence יגדל. אם הוא מודע ומצא דרך להשתמש במרחב קוונטי כדי לבצע חישובים על הרשת העצבית שלו, הוא יהפוך את היקום להיות בהכרה. מכיוון שהמידע מופץ באופן מיידי בעולם הקוונטי, הוא יכול גם להשתמש בכל היקום ככוח מחשוב. תאר לעצמך את המחשבות על היקום המודע לחלוטין ".

עזרה האנושות

"תן לו ליצור טכנולוגיה שבה נוכללחיות בעולם מלאכותי שיאפשר לנו לעזוב את גופנו התמותה עד שנצבור מספיק ידע ובסופו של דבר לא נרצה למות באושר ".

"תן לו לעזור לאנושות בתכנוןהקיום העתידי של החיים הביולוגיים בחלל / המולטיוור, ולאחר מכן להיות שותף של האנושות בהקשר זה. תנו לו למצוא את העתיד האופטימלי ביותר ליחסים הסימביוטיים בין חיים ביולוגיים לבין אינטליגנציה ממוחשבת, הנמדדת על ידי שילוב של שלושה גורמים: אושרם של אנשים רציונליים, מספרם של אנשים מאושרים כל כך, תוחלת חייהם של אנשים כאלה. במילים אחרות, תנו להם לעזור לנו לחיות חיים ארוכים יותר, לשמוח ולשכפל ככל הניתן, וגם לטפל בצורות אחרות של חיים ".

"הסיפור הזה יש שתי התפתחויות, הן רע עבור סוגים שונים של אנשים. הנה הם:

1) AI נעשית מתקדמת יותר, אך אינה רוכשת את המודעות. הוא מחליף אותנו במקום העבודה, מאיץ את ההתקדמות הטכנולוגית. עם זאת, הוא נשאר רק כלי אנושי.

2) וזה, כמובן, הוא סיפור פופולרי עלאינטליגנציה מופרזת, המחתרת את האדם ומושכת אותו תחת שליטה. כפי שאתם רואים, הומוספיין אינם האורגניזמים הנעימים ביותר עבור האקולוגיה של כדור הארץ, אבל מבחינה טכנית, ההתקדמות הטכנולוגית אינה מהירה כפי שהיתה יכולה להיות. אנשים מעדיפים לבזבז זמן על שטויות, כגון מלחמה או שימוש בדת להעשרה. AI בהחלט החליטה להרוס אדם ".

"אם אתה רוצה AI לשלוט בעולם,לחשוב על המטרה שהוא חושב שאתה צריך להשיג. אם אתה צריך רמה גבוהה יותר של חיים או אקולוגיה, הוא בהחלט ממליץ להרוג מיליארדי אנשים. אם אתה צריך כמו בעלי חיים רבים ככל האפשר, תוכל לחיות בבנק ולאכול דרך צינור. לכל דבר יש חסרונות ".

מה היית רוצה לראות מ מודיעין מלאכותי? ספר לנו הערות או בצ'אט שלנו ב- Telegram.