NY POD! I det här avsnittet av @greenpillnet får jag sällskap av @edelwax, grundare av @meaningaligned Institute, för att chatta Full Stack AI Alignment. Ämnen: varför AI-anpassning är viktigt, lärdomar från sociala medier, incitamentens och institutionernas roll och fyra "moonshots" för byggare: superförhandlare, offentliga resursregulatorer, marknadsmellanhänder och värdeförvaltare. Joe delar en hoppfull vision om AI och institutioner som stärker mänsklig integritet och blomstrande. 00:00 – Introduktion till Green Pills nya säsong och Joe Edelman 01:59 - Joes bakgrund och Meaning Alignment Institute 03:43 - Varför anpassning är viktigt för AI och institutioner 05:46 - Lärdomar från sociala medier och uppmärksamhetsekonomin 09:06 - Kritik av ytliga AI-anpassningsmetoder (RLHF, värden-som-text) 13:20 - Tjocka modeller av värde: att gå djupare än abstrakta ideal 15:11 - Full stack-anpassning mellan modeller, mätvärden och institutioner 17:00 - Att förena värderingar med kapitalistiska incitamentsstrukturer 19:17 – Att undvika dystopiska ekonomier och bygga värdedrivna marknader 21:32 - Fyra moonshots: superförhandlare, offentliga resursregulatorer, marknadsförmedlare, värdeförvaltningsagenter 27:32 - Mellanhänder kontra värdeförvaltningsagenter förklaras 29:09 - Hur byggare och akademiker kan engagera sig i fullstack alignment-projekt 31:10 - Varför tvärinstitutionellt samarbete är avgörande 32:46 - Joe's vision av världen om 10 år med full stack anpassning 34:51 - Analogi med livsmedelssystemet: från "socker" till närande AI 36:40 - Långsiktiga kontra kortsiktiga incitament på marknader 38:25 - Hoppfulla utsikter: bygga integritet i AI och institutioner 39:04 - Avslutande kommentarer och länkar till Joes arbete Kolla in det dokumentet: Prenumerera på podden => @greenpillnet