CAPSULĂ NOUĂ! În acest episod din @greenpillnet, mi s-a alăturat @edelwax, fondatorul Institutului @meaningaligned, pentru a discuta Full Stack AI Alignment. Subiecte: de ce este importantă alinierea AI, lecții din social media, rolul stimulentelor și instituțiilor și patru "moonshots" pentru constructori: super-negociatori, autorități de reglementare a resurselor publice, intermediari de piață și agenți de administrare a valorii. Joe împărtășește o viziune plină de speranță asupra inteligenței artificiale și a instituțiilor care consolidează integritatea umană și înflorirea. 00:00 – Introducere în noul sezon al Green Pill și Joe Edelman 01:59 – Trecutul lui Joe și Institutul de Aliniere a Sensului 03:43 – De ce este importantă alinierea pentru IA și instituții 05:46 – Lecții din social media și economia atenției 09:06 – Critica abordărilor superficiale de aliniere AI (RLHF, values-as-text) 13:20 – Modele groase de valoare: mergând mai adânc decât idealurile abstracte 15:11 – Alinierea completă a stivei între modele, valori și instituții 17:00 – Reconcilierea valorilor cu structurile de stimulare capitaliste 19:17 – Evitarea economiilor distopice și construirea de piețe bazate pe valoare 21:32 – Patru lovituri de lună: supernegociatori, autorități de reglementare a resurselor publice, intermediari de piață, agenți de administrare a valorii 27:32 – Intermediari vs. agenți de administrare a valorii explicat 29:09 – Cum se pot implica constructorii și cadrele academice în proiectele de aliniere a stivei complete 31:10 – De ce colaborarea interinstituțională este esențială 32:46 – Viziunea lui Joe asupra lumii în 10 ani cu alinierea completă a stack-ului 34:51 – Analogia sistemului alimentar: de la "zahăr" la IA hrănitoare 36:40 – Stimulente pe termen lung vs. pe termen scurt pe piețe 38:25 – Perspectivă plină de speranță: construirea integrității în IA și instituții 39:04 – Observații de încheiere și link-uri către munca lui Joe Uitați-vă la acea lucrare: Abonați-vă la pod => @greenpillnet