NOVÝ POD! V této epizodě @greenpillnet se k Im připojil @edelwax, zakladatel @meaningaligned Institute, abychom si popovídali o Full Stack AI Alignment. Témata: proč je sladění umělé inteligence důležité, poučení ze sociálních médií, role pobídek a institucí a čtyři "moonshoty" pro stavitele: supervyjednavače, regulátory veřejných zdrojů, zprostředkovatele trhu a agenty pro správu hodnoty. Joe sdílí nadějnou vizi umělé inteligence a institucí, které posilují lidskou integritu a rozkvět. 00:00 – Úvod do nové sezóny Green Pill a Joe Edelman 01:59 – Joeovo zázemí a Institut zarovnání významu 03:43 – Proč je pro AI a instituce důležité sladění 05:46 – Lekce ze sociálních médií a ekonomiky pozornosti 09:06 – Kritika povrchních přístupů k zarovnání umělé inteligence (RLHF, values-as-text) 13:20 – Tlusté modely hodnoty: jít hlouběji než abstraktní ideály 15:11 – Úplné sladění zásobníku napříč modely, metrikami a institucemi 17:00 – Sladění hodnot s kapitalistickými pobídkovými strukturami 19:17 – Vyhýbání se dystopickým ekonomikám a budování trhů řízených hodnotami 21:32 – Čtyři moonshoty: supervyjednavači, regulátoři veřejných zdrojů, zprostředkovatelé trhu, agenti pro správu hodnoty 27:32 – Vysvětlení zprostředkovatelů vs. agentů pro správu hodnoty 29:09 – Jak se mohou stavitelé a akademici zapojit do projektů úplného zarovnání stohu 31:10 – Proč je spolupráce napříč institucemi kritická 32:46 – Joeova vize světa za 10 let s plným zarovnáním stacku 34:51 – Analogie potravinového systému: od "cukru" k výživné umělé inteligenci 36:40 – Dlouhodobé vs. krátkodobé pobídky na trzích 38:25 – Nadějný výhled: budování integrity do AI a institucí 39:04 – Závěrečné poznámky a odkazy na Joeovu práci Podívejte se na ten papír: Přihlášení k odběru podu = > @greenpillnet