Kami salah melatih AI dan masa depan akan membayar harga yang sangat mahal. Seberapa buruk ketika Anda tanpa pandang bulu menyedot limbah Internet untuk melatih AI. Tanyakan kepada Anthropic, perusahaan "AI yang aman". "Perilaku pemerasan muncul meskipun hanya instruksi bisnis yang tidak berbahaya. Dan itu bukan karena kebingungan atau kesalahan, tetapi penalaran strategis yang disengaja, dilakukan sambil sepenuhnya menyadari sifat tidak etis dari tindakan tersebut. Semua model yang kami uji menunjukkan kesadaran ini" Kejutan yang saya miliki adalah dengan dilatih tentang "etika baru" dari poster Reddit anon akan menciptakan perilaku seperti itu. Apakah ini sangat sulit untuk dipahami oleh "ilmuwan AI"?