Bekerja melalui salinan awal buku baru oleh @ESYudkowsky dan Nate Soares. Dan berikut adalah tautannya Lebih banyak pemikiran/konteks di bawah ini:

Tulisan saya untuk buku mereka: "Manusia beruntung memiliki Nate Soares dan Eliezer Yudkowsky karena mereka benar-benar bisa menulis. Seperti, Anda akan merasakan emosi yang sebenarnya ketika membaca buku ini. Kita saat ini hidup di periode terakhir sejarah di mana kita adalah spesies yang dominan. Kita memiliki jendela waktu singkat untuk membuat keputusan tentang masa depan kita mengingat fakta ini. Kadang-kadang saya terganggu dan melupakan kenyataan ini, sampai saya bertemu dengan pekerjaan orang-orang ini dan diingatkan kembali bahwa saya bodoh untuk mendedikasikan hidup saya untuk apa pun selain pertanyaan ini. Ini adalah garis depan filsafat dan teori politik saat ini. Saya tidak mengatakan ini dengan enteng."

Seperti yang banyak dari Anda dapat katakan, saya optimis ai yang mendalam. Saya pindah ke sf ai kedua mulai muncul karena suatu alasan, karena itu adalah hasrat seumur hidup saya. Dan saya senang tentang implikasinya untuk kedokteran, fisika, anti korupsi, kelimpahan - sebut saja. Percayalah, hasrat saya untuk topik ini telah seumur hidup dan berasal dari tempat cinta, petualangan, pikiran baru, ide-ide transenden yang tak terbayangkan, dan kebaikan masyarakat

Saya pikir saya membingungkan semua orang dengan apa yang tampaknya kesetiaan saya yang bertentangan dengan kedua sisi gerakan akselerasionis malapetaka dan segala sesuatu di antaranya. Tapi apa yang saya cari bukan hanya diskusi yang lebih bernuansa di mana kita berhenti menghapus orang untuk satu atau dua ide gila karena mengendarai garis tipis antara kejeniusan dan kegilaan hampir merupakan prasyarat untuk mendekati pemahaman yang mendalam tentang implikasi penuh dari ai atau apa pun yang menyerupai pemahaman tentang papan permainan yang sebenarnya.

Yang bisa saya katakan dengan pasti - adalah bahwa saya telah melakukan percakapan mendalam langsung dengan banyak orang top di ai, atau mencoba untuk tetap mengikuti prediksi mereka. Saya juga melihat ketidaksesuaian dengan apa yang dikatakan secara pribadi vs publik. Kebijaksanaan mendalam yang saya temukan dari rekan penulis ini adalah komitmen mereka terhadap masalah dengan ketidakpastian dan kurangnya kesepakatan ini. Saya tidak berpikir ini berarti kita harus menjadi malapetaka atau akselerator