NOWY PODCAST! W tym odcinku @greenpillnet dołącza do mnie @edelwax, założyciel @meaningaligned Institute, aby porozmawiać o pełnej zgodności AI. Tematy: dlaczego zgodność AI jest ważna, lekcje z mediów społecznościowych, rola zachęt i instytucji oraz cztery „moonshoty” dla twórców: super negocjatorzy, regulatorzy zasobów publicznych, pośrednicy rynkowi i agenci zarządzania wartością. Joe dzieli się optymistyczną wizją AI oraz instytucji, które wzmacniają ludzką integralność i dobrobyt. 00:00 – Wprowadzenie do nowego sezonu Green Pill i Joe Edelmana 01:59 – Tło Joe i Meaning Alignment Institute 03:43 – Dlaczego zgodność ma znaczenie dla AI i instytucji 05:46 – Lekcje z mediów społecznościowych i gospodarki uwagi 09:06 – Krytyka płytkich podejść do zgodności AI (RLHF, wartości jako tekst) 13:20 – Grube modele wartości: głębiej niż abstrakcyjne ideały 15:11 – Pełna zgodność w modelach, metrykach i instytucjach 17:00 – Pogodzenie wartości z kapitalistycznymi strukturami zachęt 19:17 – Unikanie dystopijnych gospodarek i budowanie rynków opartych na wartościach 21:32 – Cztery moonshoty: super negocjatorzy, regulatorzy zasobów publicznych, pośrednicy rynkowi, agenci zarządzania wartością 27:32 – Pośrednicy vs. agenci zarządzania wartością wyjaśnieni 29:09 – Jak twórcy i akademicy mogą zaangażować się w projekty pełnej zgodności 31:10 – Dlaczego współpraca międzyinstytucjonalna jest kluczowa 32:46 – Wizja Joe na świat za 10 lat z pełną zgodnością 34:51 – Analogia systemu żywnościowego: od „cukru” do odżywczego AI 36:40 – Długoterminowe vs. krótkoterminowe zachęty na rynkach 38:25 – Optymistyczne spojrzenie: budowanie integralności w AI i instytucjach 39:04 – Uwagi końcowe i linki do pracy Joe Sprawdź ten artykuł: Subskrybuj podcast => @greenpillnet