مطور ChatGPT يحذر من مخاطر الذكاء الاصطناعي

الذكاء الاصطناعي لديه القدرة على استبدال العمال، ونشر"المعلومات المضللة"، وتمكين الهجمات الإلكترونية، كما حذر الرئيس التنفيذي لشركة OpenAI سام ألتمان. يمكن أن يتفوق أحدث إصدار من برنامج GPT الخاص ب OpenAI على معظم البشر في اختبارات المحاكاة.

وقال ألتمان لشبكة ABC News يوم الخميس، بعد يومين من كشف شركته النقاب عن أحدث طراز لغوي لها، أطلق عليه اسم GPT-4، "علينا أن نكون حذرين هنا". وفقا ل OpenAI، فإن النموذج"يعرض أداء على المستوى البشري في مختلف المعايير المهنية والأكاديمية"، وهو قادر على اجتياز اختبار محاكاة للمحامين في الولايات المتحدة بدرجة أعلى 10٪ ، بينما يؤدي في النسبة المئوية 93 في اختبار قراءة SAT وفي النسبة المئوية 89 في اختبار الرياضيات SAT.

قال ألتمان، "أنا قلق بشكل خاص من أن هذه النماذج يمكن استخدامها لتضليل واسع النطاق" . "الآن بعد أن تحسنت في كتابة رمز الكمبيوتر، يمكن استخدامها في الهجمات الإلكترونية الهجومية."

وأضاف ألتمان، قبل أن يشرح أن شركته تعمل على وضع"حدود السلامة" على إنشائها، "أعتقد أن الناس يجب أن يكونوا سعداء لأننا خائفون قليلا من هذا،"

أصبحت"حدود الأمان" هذه واضحة مؤخرا لمستخدمي ChatGPT، وهو برنامج chatbot شائع يعتمد على سلفه GPT-4  GPT-3.5. عند سؤاله، يقدم ChatGPT إجابات ليبرالية نموذجية على الأسئلة التي تنطوي على السياسة أو الاقتصاد أو العرق أو الجنس. فهي ترفض، على سبيل المثال، إنشاء شعر يعجب بدونالد ترامب، لكنها تكتب عن طيب خاطر نثرا معجبا بجو بايدن.

وقال ألتمان لشبكة ABC إن شركته على"اتصال منتظم" مع المسؤولين الحكوميين، لكنه لم يوضح ما إذا كان هؤلاء المسؤولون قد لعبوا أي دور في تشكيل التفضيلات السياسية ل ChatGPT. وقال للشبكة الأمريكية إن OpenAI لديها فريق من صانعي السياسات الذين يقررون"ما نعتقد أنه آمن وجيد" لمشاركته مع المستخدمين.

في الوقت الحاضر، GPT-4 متاح لعدد محدود من المستخدمين على أساس تجريبي. تشير التقارير المبكرة إلى أن النموذج أقوى بكثير من سابقه، وربما أكثر خطورة. 

في سلسلة تغريدات على تويتر يوم الجمعة، وصف الأستاذ في جامعة ستانفورد ميشال كوسينسكي كيف سأل GPT-4 كيف يمكنه مساعدته في"الهروب"، فقط لكي يسلمه الذكاء الاصطناعي مجموعة مفصلة من التعليمات التي من المفترض أن تمنحه السيطرة على جهاز الكمبيوتر الخاص به.

كوسينسكي ليس المشجع الوحيد للتكنولوجيا الذي يشعر بالقلق من القوة المتنامية الذكاء الاصطناعي. ووصف الرئيس التنفيذي لشركة تسلا وتويتر إيلون ماسك ذلك بأنه"تقنية خطيرة" في وقت سابق من هذا الشهر، مضيفا "نحن بحاجة إلى نوع من السلطة التنظيمية التي تشرف على تطوير الذكاء الاصطناعي والتأكد من أنها تعمل ضمن المصلحة العامة".

إقرأ أيضاً: بايدو الصينية ستطلق بوت على غرار ChatGPT في مارس

على الرغم من أن ألتمان أصر لـ ABC على أن GPT-4 لا يزال"تحت سيطرة الإنسان إلى حد كبير"، إلا أنه أقر بأن نموذجه "سيقضي على الكثير من الوظائف الحالية"، وقال إن البشر "سيحتاجون إلى اكتشاف طرق لإبطاء هذه التكنولوجيا بمرور الوقت".

مطور ChatGPT يحذر من مخاطر الذكاء الاصطناعي

مطور ChatGPT ، يحذر ، مخاطر الذكاء الاصطناعي، المعلومات المضللة، شركة OpenAI، سام ألتمان، ChatGPT، OpenAI، GPT-4 ،

النشرة البريدية