تكنولوجيا

طور أخطر الذكاء الاصطناعي في العالم: ماذا يمكنه أن يفعل؟

OpenAI ، أحد مؤسسيهاهو إيلون المسك ، أعلن عن إنشاء الذكاء الاصطناعي المتقدم لكتابة النصوص الأصلية حول موضوع معين. كان من المفترض أن يترجم النصوص إلى لغات أخرى ، والإجابة على الأسئلة وأداء مهام أخرى مفيدة ، ولكن أظهرت الأبحاث أنه يمكن أن يكون خطيرًا للغاية ويستخدمه المهاجمون في الخداع الجماعي للأشخاص. في هذا الصدد ، قررت الشركة أن تعرض للجمهور نسختها المحدودة فقط ، وأن تحافظ على النسخة الأصلية تحت سرية تامة.

نموذج الكمبيوتر يسمى GPT-2 وتم تدريبه على أساس 8 مليون صفحة ويب. تشكل النصوص المكتوبة عليها أساسًا لمواد جديدة حول موضوع حدده شخص ما: على سبيل المثال ، يمكن للذكاء الاصطناعي أن يؤلف مقالًا كاملاً عن الجوانب الإيجابية لإعادة التدوير أو قصة خيالية بأسلوب "سيد الخواتم". ومع ذلك ، وجد الباحثون أيضًا أن النظام يتأقلم جيدًا مع كتابة أخبار كاذبة عن المشاهير والكوارث وحتى الحروب.

حاليا النسخة الكاملة من الأداة لتوليد النصوص متاح فقط للمطورين وبعض مؤلفي MIT Technology Review. نظرًا لحقيقة أنه يمكن استخدامه في إنشاء أخبار ومنشورات مزيفة في شبكات التواصل الاجتماعي دون ضوابط ، فقد تقرر عدم نشرها في المجال العام وإبقائها سرية.

تمت مشاركة مثال عن الأخبار المزيفة بواسطة ScienceAlert:

تم القبض على مايلي سايروس وهو يسرق في متجر في هوليوود بوليفارد

تم تصوير المغنية البالغة من العمر 19 عامًا على الكاميرا وأخذها الحراس خارج المتجر. كان المغني يرتدي هوديًا أسود مكتوب عليه "Blurred Lines" مكتوبًا في المقدمة و "Fashion Police" على ظهره.

قراءة نص مقال صغير حول عيوب إعادة التدوير يمكن قراءة بلوق OpenAI.

يتعرف المطورون على نموذج اللغةهذه اللحظة ليست مثالية: يسمح النظام أحيانًا بتكرار أجزاء معينة من النص ، والتحول غير الطبيعي للمواضيع وفشل عالم النماذج. على سبيل المثال ، في أحد مراحل الاختبار ، كتب النظام عن حريق مشتعل تحت الماء.

وفقا لمدير السياسة المفتوحة لمنظمة العفو الدولية جاككلارك ، بعد بضع سنوات ، يمكن أن تتحول هذه الخوارزمية إلى سلاح خطير من الخداع الجماعي للناس. يعتقد بعض النقاد أن التكنولوجيا لا تتحمل أي خطر ، والشركة ببساطة تجذب الانتباه.

اكتب رأيك حول الذكاء الاصطناعي الخطير في التعليقات. يمكنك مناقشة الموضوع بمزيد من التفاصيل في Telegram-chat.