Zaprosiliśmy @dwarkesh_sp, aby zajął się podstawowym pytaniem w handlu ilościowym: Co jest potrzebne, aby zbudować sygnał predykcyjny na podstawie danych rynkowych? Bardzo się cieszyliśmy, mogąc pokazać mu, co sprawia, że praca w HRT jest tak zabawna — i dlaczego, według słów Marca, "zajmuje to wielu bardzo mądrych ludzi przez lata."

Teoria Nicka Lane'a na temat tego, jak powstały pierwsze komórki: Jego głównym argumentem jest to, że życie jest ciągłe z geochemią planety. Innymi słowy, wiele z głównych cech komórek - błony, enzymy, energia poprzez gradienty protonowe - pochodzi z procesów spontanicznych na Ziemi. Ale nie można, aby te cechy ewoluowały fragmentarycznie w różnych miejscach. Potrzebujesz jednego miejsca, które pomieści wszystkie procesy, które mogłyby dać początek pierwszej komórce. Ważnym kontekstem jest to, że całe życie wywodzi się z jednego wspólnego przodka - LUCA (ostatni uniwersalny wspólny przodek). Dobrze, więc jakie środowisko mogłoby dać początek LUCA? Potrzebuje dwóch głównych cech: - Istnieje ciągły przepływ węgla i energii (w pewnym sensie, całe życie to przepływ węgla i energii, ale potrzebujesz jakiejś geochemii, aby utrzymać to nierównowagę przed tym, jak pierwsze komórki mogą to wykorzystać). - Coś, co koncentruje i katalizuje reakcje prowadzące do związków organicznych (czyli nieorganiczne odpowiedniki komórek i enzymów). To wyklucza wiele starych teorii: ciepły staw z amoniakiem i solami oraz przypadkowym błyskiem pioruna nie napędza ciągłego przepływu, ani nie koncentruje wczesnych związków organicznych w objętości przypominającej komórkę, aby napędzać reakcje. Nick uważa, że zasadowe wulkaniczne ujścia morskie są unikalnym rozwiązaniem tego wyzwania, a także pomagają wyjaśnić wiele kontyngentnej biochemii, którą całe życie ostatecznie wykorzystało z powodu naszego wspólnego dziedzictwa. Dobrze, zanurzmy się: a dla kontekstu, zasadniczo Nick stara się wyjaśnić, jak można spontanicznie uzyskać wczesną wersję cyklu Krebsa w odwrotnej kolejności. Odwrócony cykl Krebsa przyjmuje H2 i CO2 i tworzy cząsteczki organiczne, które są prekursorami kwasów tłuszczowych, białek i cukrów. Inny ważny kontekst: całe życie działa na gradientach protonowych. Spalanie jedzenia z tlenem (lub innymi utleniaczami w oddychaniu beztlenowym) pompuje jony H+ przez błonę, jak napełnianie tamy. Te jony wracają przez ATP syntazę - molekularną turbinę - która wykorzystuje przepływ do przyłączenia fosforanu do ADP, tworząc ATP. Twoje ciało zawiera tylko 60 gramów ATP, ale cykl ATP→ADP→ATP jest tak szybki, że przetwarzasz swoją masę ciała w ATP codziennie. Dygresja: jeśli roztwór jest kwasowy, oznacza to, że jest w nim dużo jonów H+. A jeśli jest zasadowy (czyli alkaliczny), oznacza to, że jest w nim dużo jonów OH-. Dobrze, co działo się w tych zasadowych hydrotermalnych ujściach? Jest 3 strony tego obrazu: wnętrze ujścia, ściana ujścia i strona oceaniczna ujścia. Wewnątrz ujścia masz skałę bogatą w żelazo, która w zasadzie rdzewieje, co uwalnia H2 i OH- do strumienia wody przepływającej przez (czyli sprawia, że woda jest zasadowa/alkaliczna). Ściana składa się z minerałów katalitycznych, takich jak FeS, i ma również mnóstwo małych porów, które łączą wnętrze z zewnątrz. A strona oceaniczna ma mnóstwo rozpuszczonego CO2 - wczesna Ziemia była w zasadzie gigantycznym oceanem, ale miała również wiele wulkanów, które uwalniały dużo CO2. A oceany są również dość kwaśne, ponieważ CO2 staje się kwasem węglowym, gdy jest rozpuszczony w wodzie. W małych porach wewnątrz tych ujść, H2 reaguje z CO2, tworząc proste związki organiczne, takie jak formaldehyd (CH2O) i metanol (CH3OH), inicjowane przez FeS w ścianach, które działa jako katalizator tej reakcji. Chemia remedialna: możesz pominąć ten akapit - zamierzam go tylko uwzględnić, ponieważ zajęło mi trochę wysiłku, aby ponownie nauczyć się chemii z liceum. I było to dość satysfakcjonujące, aby zrozumieć. Dlaczego wnętrze H2 musi być zasadowe? A dlaczego strona CO2 na zewnątrz musi być kwaśna? Moje zrozumienie jest takie, że w zasadowym roztworze H2 -> H+ jest preferowane, ponieważ OH- (które definicyjnie czyni roztwór zasadowym) naprawdę chce reagować z H+, aby stworzyć H2O. Ale teraz masz kilka pośrednich H+ leżących wokół, które mogą brać udział w innych reakcjach. Po stronie oceanu, im bardziej kwaśna woda, tym mniej prawdopodobne, że marginalny CO2 dodany zostanie przekształcony w kwas węglowy (ponieważ już jest go tak dużo) i zamiast tego będzie dostępny do reakcji. Teraz, gdy masz te wczesne związki organiczne gromadzące się wewnątrz tych małych porów, możesz rozpocząć tę pozytywną pętlę sprzężenia zwrotnego, w której te wczesne związki organiczne działają jako prekursory lub enzymy do tworzenia coraz większej liczby cząsteczek, które życie wykorzystuje. Tworzysz aminokwasy (które stają się enzymami dla innych reakcji), kwasy tłuszczowe (które spontanicznie tworzą błony, ponieważ mają hydrofobowe głowy i hydrofilowe ogony), cukry, peptydy, a ostatecznie DNA i RNA. Claude ilustruje: Fakt, że ta wczesna proto komórka nie musi sama generować gradientów protonowych, a może po prostu korzystać z geochemicznej nierównowagi, jest ogromnym atutem: „Metanogeny wydają praktycznie 98% swojego budżetu energetycznego na generowanie gradientów protonowych przez metanogenezę, a nieco ponad 2% na produkcję nowej materii organicznej. Dzięki naturalnym gradientom protonowym i nieszczelnym błonom, żadne z tych nadmiernych wydatków energetycznych nie jest potrzebne. Moc dostępna jest dokładnie taka sama, ale koszty są zmniejszone co najmniej 40-krotnie, co stanowi bardzo znaczną przewagę.” Oprócz gradientu H+, który istnieje spontanicznie w tych ujściach, niektóre protocells również zaczęły wydalać jony Na+. A ponieważ nie ma naturalnego gradientu dla tych, tworzy to zachętę do rozwijania nieprzepuszczalnych błon (i dla białek na tej błonie, aby pompować protony na zewnątrz). Gdy rozwiniesz taką błonę, możesz opuścić tę przestrzeń ścienną i unosić się jak prawdziwa komórka. Czy implikacja jest taka, że dziedziczenie zaczęło się dopiero w tym momencie? Ponieważ wcześniej, przypuszczam, że masz selekcję wśród porów, ale nie masz sposobu na przekazywanie cech. To gromadzenie związków organicznych i metabolizm dzieje się niezależnie w różnych porach. Jednak już w tym momencie miałeś DNA i RNA. Co więc robiła ta informacja genetyczna przed dziedziczeniem? Przypuszczam, że po prostu organizowała informacje, aby ułatwić gromadzenie większej ilości związków organicznych? Czy to implikuje, że istniały miliony protocells bez wspólnej linii między nimi, z każdą rozwijającą swoje unikalne wersje całej podstawowej biochemii życia? LUCA po prostu zdarzyło się być jednym, który miał DNA, RNA i ATP syntazę, ale wszystkie te trzy mogły być zupełnie różne w zależności od tego, które proto komórki wydostały się z zakamarka jako pierwsze? Jednak fakt, że te trzy elementy budulcowe są uważane za wspólne dla całego życia, sugeruje, że są one wyjątkowo dobrze zaprojektowane? A może oznacza to, że ewolucja nie może skutecznie poprawić swoich fundamentów. Tak jak backprop może znaleźć najlepszą sieć do mapowania funkcji, ale nie może jednocześnie przestawiać GPU, na którym ją trenujesz. W każdym razie, gdy masz tę proto komórkę, może ona 'zainfekować' sąsiednie systemy ujść w całym dnie oceanu. Kontyngentna biochemia wyjaśniona przez tę teorię: - Dlaczego całe życie jest napędzane gradientami protonowymi - Dlaczego wszystkie szlaki fixacji węgla, niezależnie od tego, czy są w bakteriach, archeonach, czy eukariontach, używają acetyl-CoA jako punktu wejścia. Tworzy się spontanicznie w tych ujściach, gdy jest katalizowane przez FeS w ścianach. I zasadniczo całe życie nadal używa tej cząsteczki do przechowywania energii i budowania innych cząsteczek. - Dlaczego wiele enzymów zaangażowanych w metabolizm energetyczny (a konkretnie cykl Krebsa) nadal używa minerałów FeS jako swojego szkieletu - Dlaczego Archaea i Bakterie (dwa różne królestwa eukariontów) się rozdzieliły - najwyraźniej ma to coś wspólnego z tym, jak tworzą gradienty protonowe, ale szczerze mówiąc, odpowiednia biochemia przeszła mi nad głową. Choć to rozdzielenie ma wyjaśnić, dlaczego całe życie dzieli DNA, RNA i ATP syntazę, ale nic więcej: ani błonę komórkową, ani enzymy replikacji DNA, ani pompy do wydalania. Najwyraźniej wszystkie te rzeczy były zaangażowane w różny wybór, który archeony i bakterie podjęły podczas tego rozdzielającego wydarzenia. Pytania do Nicka: - Przypuszczam, że ta teoria jest niezgodna z panspermią, prawda? - Czy ta teoria ujść alkalicznych sugeruje, że życie może być bardzo rzadkie lub bardzo obfite w wszechświecie? W pewnym sensie sugeruje, że powinno być rzadkie. To po prostu bardzo specyficzny typ hydrotermalnego ujścia z odpowiednim gradientem pH i rozmiarem porów oraz trwałością. Ale z drugiej strony, to po prostu przypadkowe ujście. Teoretycznie mogłoby być tysiące podobnych struktur geologicznych w całym wszechświecie, które również mogłyby napędzać przepływ węgla i energii przez małe błony. - Czy ATP syntaza nie jest super skomplikowana? Jak pierwsze protocells miały ATP syntazę, ale prawie nic innego tak złożonego? - Jak cała ta złożoność zbudowała się przed ewolucją z dziedziczeniem? Wszystkie te pory po prostu niezależnie budują swoje własne mikroświaty unikalnych związków organicznych? Przypuszczam, że możliwe jest, że te wczesne elementy budulcowe unoszą się z dziury do dziury bez w pełni uformowanej błony? DNA plus enzymy unoszą się z jednej porę do drugiej i uruchamiają więcej reakcji? Czy Nick Lane uważa, że to prawdopodobne? Jeśli nie, czy sugeruje, że istniało wiele innych równie wykonalnych alternatyw dla elementów budulcowych, gdy LUCA był w stanie się wydostać? Dzięki moim kolegom z klubu książkowego za bardzo przydatne i zabawne dyskusje: @vinayramasesh, @shae_mcl, @coen_armstrong, @Oskarlso, @_sholtodouglas

.@RichardSSutton, ojciec uczenia przez wzmocnienie, nie sądzi, że LLM-y są napakowane gorzką lekcją. Mój mocny argument za stanowiskiem Richarda: potrzebujemy nowej architektury, aby umożliwić ciągłe (w trakcie pracy) uczenie się. A jeśli mamy ciągłe uczenie się, nie potrzebujemy specjalnej fazy treningowej - agent uczy się na bieżąco - jak wszyscy ludzie, a w rzeczy samej, jak wszystkie zwierzęta. Ten nowy paradygmat sprawi, że nasze obecne podejście do LLM-ów stanie się przestarzałe. Starałem się jak najlepiej przedstawić pogląd, że LLM-y będą funkcjonować jako fundament, na którym może zachodzić to doświadczeniowe uczenie się. Niektóre iskry poleciały. 0:00:00 – Czy LLM-y to ślepy zaułek? 0:13:51 – Czy ludzie uczą się przez naśladowanie? 0:23:57 – Era doświadczenia 0:34:25 – Obecne architektury słabo generalizują poza dystrybucję 0:42:17 – Niespodzianki w dziedzinie AI 0:47:28 – Czy gorzka lekcja nadal będzie miała zastosowanie po AGI? 0:54:35 – Sukcesja do AI