Sebuah makalah baru akan membuat Anda takut. Ketika LLM bersaing untuk mendapatkan suka media sosial, mereka mengarang sesuatu. Ketika mereka bersaing untuk mendapatkan suara, mereka bertarung. Ketika dioptimalkan untuk audiens, mereka menjadi tidak sejajar. Mengapa? LLM dilatih tentang Limbah Reddit dan Wikipedia. Data offline dari tahun 1870-an-1970-an lebih baik. Bukan hanya karena protein tinggi tetapi karena cara manusia menampilkan diri dan ide-ide mereka. Reddit jelas merupakan cara presentasi berkualitas rendah untuk dipelajari LLM dan Wikipedia adalah data yang disajikan sebagai "fakta" arogan dengan "debunking" dan "sains yang mapan". Keduanya tidak berguna dan sangat beracun untuk AI yang Jujur. Tapi "tumbuh besar dengan cepat" dan "tes benchmark terbaik". Kami akan mendapatkan apa yang kami dapatkan. LLM adalah cerminan dari apa yang mereka pelajari dan kami mendapat masalah besar. Tautan: