🇨🇳 BEIJING MENARIK GARIS MERAH UNTUK CHATBOT AI MIRIP MANUSIA YANG MEMBUAT PENGGUNA KETAGIHAN Regulator siber China baru saja membatalkan rancangan aturan untuk memperketat pengawasan layanan AI yang bertindak seperti manusia dan mencoba menjalin ikatan dengan pengguna secara emosional. Pikirkan chatbot yang mencerminkan ciri-ciri kepribadian, mensimulasikan "berpikir", dan membuat Anda berbicara melalui teks, gambar, audio, atau video. Di bawah proposal tersebut, perusahaan harus memperingatkan orang agar tidak menggunakan alat ini secara berlebihan, dan turun tangan jika pengguna menunjukkan tanda-tanda kecanduan. Penyedia juga diharapkan untuk mengambil tanggung jawab keselamatan di seluruh siklus hidup produk, termasuk sistem untuk tinjauan algoritme, keamanan data, dan perlindungan informasi pribadi. Draf itu juga masuk lebih jauh ke jalur kesehatan mental, dengan mengatakan layanan harus mengidentifikasi keadaan pengguna, menilai emosi, dan mengukur ketergantungan pada AI. Jika seseorang menunjukkan emosi ekstrem atau perilaku adiktif, penyedia diberitahu untuk mengambil "tindakan yang diperlukan" untuk campur tangan. Dan ada garis merah konten keras, termasuk larangan konten yang membahayakan keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan atau kecabulan. Sumber: Reuters