NY POD! I denne episoden av @greenpillnet får jeg selskap av @edelwax, grunnlegger av @meaningaligned Institute, for å chatte med Full Stack AI Alignment. Emner: hvorfor AI-tilpasning er viktig, lærdommer fra sosiale medier, rollen til insentiver og institusjoner, og fire "moonshots" for utbyggere: superforhandlere, offentlige ressursregulatorer, markedsformidlere og verdiforvaltningsagenter. Joe deler en håpefull visjon om AI, og institusjoner som forsterker menneskelig integritet og blomstring. 00:00 – Introduksjon til Green Pills nye sesong og Joe Edelman 01:59 – Joes bakgrunn og Meaning Alignment Institute 03:43 – Hvorfor justering er viktig for AI og institusjoner 05:46 – Lærdommer fra sosiale medier og oppmerksomhetsøkonomien 09:06 – Kritikk av grunne AI-justeringstilnærminger (RLHF, verdier-som-tekst) 13:20 – Tykke verdimodeller: går dypere enn abstrakte idealer 15:11 – Full stack-justering på tvers av modeller, beregninger og institusjoner 17:00 – Å forene verdier med kapitalistiske insentivstrukturer 19:17 – Unngå dystopiske økonomier og bygge verdidrevne markeder 21:32 – Fire måneskudd: superforhandlere, offentlige ressursregulatorer, markedsformidlere, verdiforvaltningsagenter 27:32 – Mellommenn vs. verdiforvalteragenter forklart 29:09 – Hvordan byggherrer og akademikere kan bli involvert i fullstack-justeringsprosjekter 31:10 – Hvorfor tverrinstitusjonelt samarbeid er avgjørende 32:46 – Joes visjon om verden om 10 år med full stack-justering 34:51 – Matsystemanalogi: fra "sukker" til nærende AI 36:40 – Langsiktige vs. kortsiktige insentiver i markeder 38:25 – Håpefulle utsikter: å bygge integritet inn i AI og institusjoner 39:04 – Avsluttende kommentarer og lenker til Joes arbeid Sjekk ut den artikkelen: Abonner på poden => @greenpillnet