Doom Debate dengan @VitalikButerin telah diturunkan: Akankah "d/acc" Melindungi Umat Manusia dari AI Superintelligent? Vitalik adalah seorang tekno-optimis dan pembangun hardcore, dan seseorang yang bersedia secara serius mempertimbangkan regulasi dan mekanisme koordinasi AI. Dia menciptakan istilah "d/acc'" – percepatan defensif dan terdesentralisasi – sebagai jalur tengah antara akselerasi AI yang tidak kritis dan skenario jeda total. Kami memperdebatkan kemampuan penyelarasan AI, apakah pendekatan seperti d/acc benar-benar akan berhasil ketika kecerdasan super tiba, dan mengapa menurutnya dunia pluralistik AI yang bersaing mungkin lebih aman daripada kecerdasan super tunggal yang selaras. Inti dari ketidaksepakatan kami adalah bahwa saya pikir kami menuju skenario "tumbuhan vs. hewan" di mana AI hanya akan beroperasi pada skala waktu yang tidak dapat kami tandingi, sementara Vitalik percaya kami dapat mempertahankan agensi melalui kombinasi yang tepat dari teknologi defensif dan desain kelembagaan. Akhirnya, kami menangani wacana itu sendiri – saya meminta Vitalik untuk membantah serangan ad hominem umum terhadap malapetaka AI, dari "itu hanya posisi pinggiran" hingga "tidak ada pembangun sejati yang percaya pada malapetaka." Tanggapannya berbobot mengingat kredibilitasnya sebagai pengusaha sukses dan seseorang yang mempertahankan kejujuran intelektual sepanjang karirnya. Terima kasih banyak kepada Vitalik atas debat itikad baik!