ماذا سيحدث عندما يصل الذكاء الاصطناعي إلى ذروته؟

ما رأيك عندما يتعلق الأمرالذكاء الاصطناعي؟ أفترض أن معظم الناس يتذكرون أعمالًا مثل "أنا ، روبوت" أو العديد من الأفلام التي تتحدث عن ذكاء اصطناعي فائق الذكاء ، عازم على تدمير البشرية. في الواقع ، كل شيء أكثر تعقيدًا: الأشخاص الذين يشاركون بشكل مباشر في تطوير الذكاء الاصطناعي يشككون في قصص الرعب هذه وليس بدون سبب. من الصعب وصف أليس من شركة Yandex ، على سبيل المثال ، بأنها تهديد للبشرية. ومع ذلك ، هناك مجال آخر للبحث العلمي يتعامل مع دراسة المخاطر العالمية ، أي الأحداث التي من المحتمل أن تؤدي إلى سقوط حضارتنا وانقراض البشرية. والمثير للدهشة ، وفقًا للعديد من الباحثين ، أن الذكاء الاصطناعي يمثل تهديدًا محتملاً لك ولي. كما يتضح من نتائج دراسة أجريت في أوائل عام 2021 ، من غير المرجح أن نكون قادرين على التحكم في الذكاء الخارق للكمبيوتر. وفقًا لمؤلفي العمل العلمي ، فإن الذكاء الخارق متعدد الأوجه وبالتالي فهو قادر على تعبئة الموارد المختلفة لتحقيق أهدافه الخاصة. وغالبًا ما تكون هذه الأهداف غير مفهومة للناس.

هل يستحق إنشاء شيء يمكن أن يدمرنا؟

المحتوى

• 1 البحث عن المخاطر العالمية
• 2 ما هو الذكاء الاصطناعي؟
• 3 التهديدات المحتملة للذكاء الاصطناعي
• 4 وإلا لتهلك العالم؟

البحث عن المخاطر العالمية

اليوم معرفتنا بالعالم من حولنا كذلكشاسعة تجعلها جميع الأجيال السابقة تحسدنا بالتأكيد. بينما كان أجدادنا يقومون بالغسيل يدويًا ، قاموا أيضًا بغسل الأرضيات والأطباق ، واليوم يقوم المزيد والمزيد من الناس بإسناد هذه المسؤوليات إلى الروبوتات. كل ما تبقى لنا هو تحميل وتفريغ الغسالة / غسالة الصحون ، وهو ببساطة لا يمكن مقارنته بالعمل بأيدينا.

لكن من أجل هذه الراحة ، مع ذلك ، عليك أن تدفع.يوضح لنا التاريخ مرارًا وتكرارًا طرق تنمية المجتمع. خلال ذلك التاريخ الصغير للبشرية (بالمقارنة مع عصر الكون) ، سقطت حضارات مثل المايا وبلاد ما بين النهرين القديمة واليونان القديمة وحضارة أولمكو وروما القديمة وغيرها.

تطور بعض الحضارات القديمة أمر مذهل. لكن إذا اختفوا من على وجه الأرض ، ماذا سيحدث لنا؟

للوهلة الأولى ، قد يبدو هذا التاريخإن سقوط الحضارات والإمبراطوريات القديمة لا يتعلق بنا. بعد كل شيء ، يجب أن تقودنا قوتنا والقدرة على إرسال صواريخ إلى الفضاء ودراسة الكواكب الأخرى وربط العالم بمجال معلومات واحد إلى مستقبل أفضل. ومع ذلك ، فإن الواقع ، كما يحدث غالبًا ، يرسم صورة مختلفة تمامًا - في الوقت الحالي نحن نتجه نحو كارثة وانقراض محتمل.

المزيد عن الموضوع: تأسست روما واختفت - كشف سر الحضارة الأترورية الغامضة

يتضح هذا من خلال نتائج المئات من العلماءابحاث. في الآونة الأخيرة ، على سبيل المثال ، تم نشر تقرير جديد للفريق الحكومي الدولي المعني بتغير المناخ عن تحديات تغير المناخ. وتردد نتائجها صدى نتائج العديد من الأعمال العلمية ، والتي توحي الاستنتاج منها بأنها مخيبة للآمال - حضارتنا في أفضل الأحوال عمرها 500 عام.

لكن المناخ سريع التغير ، نريدهأم لا ، ليس هو التهديد الخطير الوحيد للبشرية. وبينما ينشغل الباحثون والخبراء من جميع أنحاء العالم في حل المشكلات الناجمة عن الاحتباس الحراري ، تجرأ عدد من العلماء على النظر في مستقبلنا التكنولوجي. ولدينا حقًا ما نخافه.

لقد تحدثت عما يمكن أن يكون عليه العالم بحلول عام 2070 ، وكذلك عن المخاطر العالمية التي تواجه حضارتنا ، في هذا المقال أوصي بقراءة

ما هو الذكاء الاصطناعي؟

الذكاء الاصطناعي هو محاولة للابتكارأجهزة كمبيوتر قادرة على السلوك الذكي. في الأساس ، هو مصطلح عام يستخدم للإشارة إلى كل شيء من Siri إلى IBM Watson والتقنيات القوية التي لم نخترعها بعد.

يميز بعض الباحثين بين "ضيق AI" أو ذكاء اصطناعي ضعيف - أنظمة كمبيوتر أفضل من البشر في منطقة محددة ومحددة جيدًا ، مثل لعب الشطرنج أو إنشاء الصور أو تشخيص السرطان - و "الذكاء الاصطناعي العام" - أي الأنظمة التي يمكن أن تتفوق في الأداءالقدرات البشرية في العديد من المجالات. اليوم ليس لدينا ذكاء إصطناعي مشترك ، لكن الباحثين أصبحوا أكثر وعيًا بالمشكلات التي يمكن أن يمثلها.

تتحسن تقنية التعرف على الوجه كل عام

على مدى السنوات القليلة الماضية ، حقق الذكاء الاصطناعي الضيقتقدم غير عادي: اليوم ، تعد أنظمة الذكاء الاصطناعي ممتازة في ترجمة الكلام الأجنبي ولعب الشطرنج والجو ، كما تساعد أيضًا في حل المشكلات المهمة في علم الأحياء البحثي ، مثل التنبؤ بكيفية طي البروتينات وإنشاء الصور.

سوف تتساءل: هل يستطيع الذكاء الاصطناعي التلاعب بالسلوك البشري؟

علاوة على ذلك ، أنظمة الذكاء الاصطناعيتحديد ما سنراه بالضبط في بحث Google أو Yandex أو في موجز أخبار Facebook أو Vkontakte. يؤلفون الموسيقى ويكتبون مقالات لا تختلف للوهلة الأولى عن النصوص التي كتبها الإنسان. يتم تطوير هذه الأنظمة نفسها لتحسين توجيه المركبات الجوية غير المأهولة واكتشاف الصواريخ.

لكن الذكاء الاصطناعي الضيق يصبح أقل ... ضعيفًا. حتى الآن ، تمكن العلماء بشق الأنفس من إحراز تقدم كبير في مجال الذكاء الاصطناعي تدريس مفاهيم محددة لأنظمة الكمبيوتر... وفي السنوات الأخيرة ، تركز اهتمام العديد من العلماء على إنشاء أنظمة كمبيوتر قادرة على التعلم.

بمعنى آخر ، بدلاً من الوصف الرياضيالميزات التفصيلية للمشكلة ، سمح الباحثون لنظام الكمبيوتر بدراسة هذه الميزات من تلقاء نفسه. ومع تطور هذا النظام ، تبدأ أنظمة الذكاء الاصطناعي في إظهار المزيد من القدرات العامة.

بشكل عام ، التقدم في مجال اصطناعيلقد مكن الذكاء العلماء من تحقيق تقدم هائل ، كما أثار قضايا أخلاقية ملحة. على سبيل المثال ، تجادل روزي كامبل من مركز الذكاء الاصطناعي بجامعة كاليفورنيا في بيركلي بأن الصعوبات الحالية لا علاقة لها بتلك السيناريوهات المروعة من الأفلام حول انتفاضة الآلات. بدلاً من ذلك ، فهي تنشأ من عدم التوافق بين ما نطلب من أنظمتنا القيام به وما نريده فعلاً أن يفعله.

يحمل الذكاء الاصطناعي التقدم وخطر الانحدار المحتمل وموت الحضارة

المشاكل ، ومع ذلك ، تنشأ من حقيقة ذلكالأنظمة جيدة حقًا في تحقيق هدف محدد (أو معين) ؛ لكن الهدف الذي تعلموه في بيئة التعلم الخاصة بهم ليس النتيجة التي أراد العلماء تحقيقها بالفعل.

"نتيجة لذلك ، نقوم بإنشاء أنظمة لا نفهمها ، مما يعني ذلك لا يمكننا دائمًا توقع سلوكهم "، لاحظ الباحثون.

اقرأ المزيد من المقالات الشيقة حول كيفية تطوير الذكاء الاصطناعي وعمله على قناتنا في Yandex.Zen. هناك مقالات منشورة بانتظام ليست على الموقع!

التهديدات المحتملة للذكاء الاصطناعي

حسنًا ، ها نحن نصل إلى الأكثر إثارة للاهتمام.إذا كان العلماء يواجهون بالفعل التحديات الموضحة أعلاه ، فما التهديدات التي يمكن أن تجلبها لنا اكتشافات الذكاء الاصطناعي الأخيرة؟ في الواقع ، يتساءل المزيد والمزيد من الباحثين عن قدرتنا على التحكم في الذكاء الخارق الذي يمكن أن تصبح عليه الأنظمة التي دربناها.

النقطة المهمة هي أنه للسيطرة على العقل الخارق ،بعيدًا عن الفهم البشري ، ستكون هناك حاجة لتقليد هذا الذكاء الخارق الذي يمكننا تحليله. ولكن إذا لم نتمكن من فهم هذه الأنظمة ، فمن المستحيل إنشاء مثل هذه المحاكاة. علاوة على ذلك ، لا يمكننا حتى وضع القواعد التي اقترحها إسحاق أسيموف - "لا تؤذي الناس". بعد كل شيء ، إذا لم نفهم السيناريوهات التي سيأتي بها الذكاء الاصطناعي ، فكيف نمنعها؟

بمجرد أن يعمل نظام الكمبيوترإلى جانب قدرات المبرمجين لدينا ، لن نتمكن بعد الآن من وضع حدود ، كما كتب مؤلفو دراسة نشرت في مجلة أبحاث الذكاء الاصطناعي.

تكمن مشكلة تطوير الذكاء الاصطناعي في أنه يمكن أن يتحول من مساعدنا إلى عدونا.

لا تفوت: لقد كتب الذكاء الاصطناعي مقالًا للموقع. اتضح أنها واقعية وزاحف

ومن المثير للاهتمام أن بعض المنطق الموصوف فييعود العمل العلمي إلى أعمال آلان تورينج عام 1936. باستخدام معادلات رياضية معقدة ، توصل إلى آلة حوسبة مجردة تضفي الطابع الرسمي على تعريف الخوارزمية.

بمعنى آخر ، حاول أن يفهم ما إذا كان ذلك ممكنًاحل أي مشكلة باستخدام الخوارزميات الرياضية (بالإضافة إلى تلك التي لا يمكن حلها إلا بالقوة الغاشمة). يعتقد تورينج نفسه أنه بحلول عام 2000 ، ستكون الآلات قادرة على خداع البشر بنسبة 30٪ من الوقت.

الوصف النهائي لـ "آلة تورينج"سمح للعلماء بمعالجة هذه المشاكل المعقدة. يمكنك معرفة ما هي آلة تورينج على الموقع الرسمي لجامعة كامبريدج.

كان لآلان تورينج تأثير كبير على تطوير أنظمة الذكاء الاصطناعي

مشكلة أخرى في حالة حدوثهاالذكاء الخارق ، هو أن أي برنامج مكتوب لإيقاف ذكاء اصطناعي يريد قتل جميع الناس يمكنه "فهم" هذا البرنامج (والتوقف) أو لا. خلاصة القول هي أنه رياضيًا ، لا يمكننا أن نكون متأكدين تمامًا مما سيخرجه البرنامج. وبكل بساطة ، هذا يعني ذلك سيكون من المستحيل احتواء برنامج "تدمير الكل".

سوف تتساءل: هل يستطيع الذكاء الاصطناعي تدمير البشرية بحلول عام 2035؟

وإن لم يكن لتدمير العالم؟

إن البديل لتعليم الذكاء الاصطناعي بعض الأخلاقيات وإخباره بعدم تدمير العالم - وهو المكان الذي لا يمكن أن تكون فيه خوارزمية مؤكدة تمامًا - هو الحد من قدرات الذكاء الخارق... على سبيل المثال ، قد يتم فصله عن أجزاء معينة من الإنترنت أو من شبكات معينة.

لكن دراسة حديثة أخرى ترفض ذلكفكرة ، على افتراض أن قدرات الذكاء الاصطناعي محدودة. هذه الحجة هي أننا إذا لم نكن سنستخدم الذكاء الاصطناعي لحل مشاكل تتجاوز القدرات البشرية ، فلماذا ننشئها على الإطلاق؟

إذا أردنا بناء مستقبل تكون فيه أنظمة الذكاء الاصطناعي حاضرة ، فقد لا نعرف حتى عندما يظهر ذكاء خارق خارج عن سيطرتنا، هذا هو عدم فهمه. وبما أننا نسعى جاهدين لإنشاء ذكاء خارق ، فقد حان الوقت لطرح أسئلة جادة حول الاتجاهات التي يتحرك فيها تطوير هذه التقنيات.

يمكن استخدام التقنيات لصالح البشر والعكس صحيح. دعونا لا ننسى ذلك

آلة فائقة الذكاء تتحكميقول مانويل سيبريان من معهد ماكس بلانك للتنمية البشرية إن العالم يبدو وكأنه خيال علمي. ولكن هناك بالفعل آلات اليوم تؤدي مهامًا مهمة معينة بمفردها ، دون أن يفهم المبرمجون تمامًا كيف تعلموا ذلك.

لذلك ، السؤال الذي يطرح نفسه - وهو محق تمامًا -هل يمكن للذكاء الاصطناعي في مرحلة ما أن يصبح غير خاضع للسيطرة وخطيرًا على البشرية؟ إيلون ماسك ، على سبيل المثال ، مثل عالم الفيزياء النظرية البريطاني ستيفن هوكينج ، يعتقد بنعم. ما رأيك بهذا؟ سننتظر الجواب هنا وكذلك في التعليقات على هذا المقال!