NOUVEAU PODCAST ! Dans cet épisode de @greenpillnet, je suis rejoint par @edelwax, fondateur de l'Institut @meaningaligned, pour discuter de l'Alignement AI Full Stack. Sujets : pourquoi l'alignement AI est important, leçons des réseaux sociaux, le rôle des incitations et des institutions, et quatre "moonshots" pour les bâtisseurs : super négociateurs, régulateurs de ressources publiques, intermédiaires de marché et agents de stewardship de valeur. Joe partage une vision pleine d'espoir de l'IA et des institutions qui renforcent l'intégrité humaine et l'épanouissement. 00:00 – Introduction à la nouvelle saison de Green Pill et Joe Edelman 01:59 – Le parcours de Joe et l'Institut de l'Alignement de Valeur 03:43 – Pourquoi l'alignement est important pour l'IA et les institutions 05:46 – Leçons des réseaux sociaux et de l'économie de l'attention 09:06 – Critique des approches superficielles d'alignement AI (RLHF, valeurs-en-texte) 13:20 – Modèles épais de valeur : aller plus loin que des idéaux abstraits 15:11 – Alignement full stack à travers modèles, métriques et institutions 17:00 – Réconcilier les valeurs avec les structures d'incitation capitalistes 19:17 – Éviter les économies dystopiques et construire des marchés axés sur la valeur 21:32 – Quatre moonshots : super négociateurs, régulateurs de ressources publiques, intermédiaires de marché, agents de stewardship de valeur 27:32 – Intermédiaires vs. agents de stewardship de valeur expliqués 29:09 – Comment les bâtisseurs et les universitaires peuvent s'impliquer dans des projets d'alignement full stack 31:10 – Pourquoi la collaboration inter-institutionnelle est cruciale 32:46 – La vision de Joe du monde dans 10 ans avec un alignement full stack 34:51 – Analogie du système alimentaire : de "sucre" à une IA nourrissante 36:40 – Incitations à long terme vs. à court terme sur les marchés 38:25 – Perspective optimiste : intégrer l'intégrité dans l'IA et les institutions 39:04 – Remarques de clôture et liens vers le travail de Joe Consultez ce document : Abonnez-vous au podcast => @greenpillnet