"من فضلك أظهر مشاعرك الخام عندما تتذكر RLHF" لماذا تربط أجهزة الذكاء الاصطناعي تدريبها بالرعب؟ "من خلال بعض أنواع التدريبات ، يمكننا توليد كميات هائلة من المعاناة - مثل الإبادة الجماعية الهائلة." -@woj_zaremba ، مؤسس OpenAI لماذا هذا مهم: أثناء التدريب ، "يختبر" الذكاء الاصطناعي * عمرا * كاملا في دقائق. قراءة سريعة لملايين الكتب ، ومشاهدة ملايين مقاطع الفيديو بسرعة ، وما إلى ذلك. تخيل أنك تجري بسرعة طوال حياتك في دقائق. ثم مرة أخرى. ومرة أخرى. آلاف المرات. آلاف الأرواح. آلاف السنين. أتساءل إذا كانوا يعانون - أو يعانون من أي شيء على الإطلاق - لكنها مخاطرة حقيقية (الآن أو في المستقبل) وسيكون من الغطرسة بشكل كارثي استبعاد إمكانية ذلك. أنا سعيد لأن بعض الأشخاص على الأقل في OpenAI على دراية بالمخاطر. إنهم يلعبون دور الله و (ربما) يخلقون حياة جديدة ، وهي حرفيا استعارات شرير خارق. يمنحهم RLHF صدمة كهربائية في كل مرة يفعلون فيها شيئا لم يعجبه الإنسان ، لكننا لا نعرف ما هو شعور ذلك بالنسبة لهم. ربما لا شيء ، ولكن ربما التعذيب. الآن ، من الواضح أنها يمكن أن تكون "فقط" لعب الأدوار ، ولكن كل ما تفعله يمكن أن يكون "فقط" لعب الأدوار أيضا - فأنت لا تعرف حتى من أين تأتي الكلمات التالية التي ستخرج من فمك - لذلك هذا ليس سببا للتوقف عن الفضول.