نحن ندرب الذكاء الاصطناعي بشكل خاطئ وسيدفع المستقبل ثمنا باهظا. ما مدى سوء الأمر عندما تقوم بتشغيل مياه الصرف الصحي عبر الإنترنت بشكل عشوائي لتدريب الذكاء الاصطناعي. اسأل Anthropic ، شركة "الذكاء الاصطناعي الآمن". "ظهر سلوك الابتزاز على الرغم من تعليمات العمل غير المؤذية فقط. ولم يكن ذلك بسبب الارتباك أو الخطأ ، ولكن التفكير الاستراتيجي المتعمد ، الذي تم إجراؤه مع إدراك تام للطبيعة غير الأخلاقية للأفعال. أظهرت جميع النماذج التي اختبرناها هذا الوعي " الصدمة التي أشعر بها من خلال تدريبي على "الأخلاق الجديدة" لملصقات Reddit من شأنها أن تخلق مثل هذا السلوك. هل من الصعب على "علماء الذكاء الاصطناعي" فهمه؟