POD BARU! Dalam episode @greenpillnet ini, saya bergabung dengan @edelwax, pendiri @meaningaligned Institute, untuk mengobrol dengan Full Stack AI Alignment. Topik: mengapa penyelarasan AI itu penting, pelajaran dari media sosial, peran insentif & institusi, dan empat "moonshots" untuk pembangun: negosiator super, regulator sumber daya publik, perantara pasar, dan agen pengelolaan nilai. Joe berbagi visi penuh harapan tentang AI, dan institusi yang memperkuat integritas dan perkembangan manusia. 00:00 – Pengantar musim baru Green Pill dan Joe Edelman 01:59 – Latar belakang Joe dan Institut Penyelarasan Makna 03:43 – Mengapa penyelarasan penting bagi AI dan institusi 05:46 – Pelajaran dari media sosial dan ekonomi perhatian 09:06 – Kritik terhadap pendekatan penyelarasan AI dangkal (RLHF, nilai-sebagai-teks) 13:20 – Model nilai yang tebal: lebih dalam dari cita-cita abstrak 15:11 – Penyelarasan tumpukan penuh di seluruh model, metrik, dan institusi 17:00 – Rekonsiliasi nilai-nilai dengan struktur insentif kapitalis 19:17 – Menghindari ekonomi distopia dan membangun pasar yang digerakkan oleh nilai 21:32 – Empat moonshot: negosiator super, regulator sumber daya publik, perantara pasar, agen pengelolaan nilai 27:32 – Perantara vs. agen penatalayanan nilai dijelaskan 29:09 – Bagaimana pembangun dan akademisi dapat terlibat dalam proyek penyelarasan tumpukan penuh 31:10 – Mengapa kolaborasi lintas institusi sangat penting 32:46 – Visi Joe tentang dunia dalam 10 tahun dengan penyelarasan tumpukan penuh 34:51 – Analogi sistem pangan: dari "gula" hingga AI yang bergizi 36:40 – Insentif jangka panjang vs. jangka pendek di pasar 38:25 – Prospek penuh harapan: membangun integritas ke dalam AI dan institusi 39:04 – Sambutan penutup dan tautan ke karya Joe Lihat makalah itu: Berlangganan pod => @greenpillnet