Pracuję nad wczesną wersją nowej książki autorstwa @ESYudkowsky'ego i Nate'a Soaresa. A oto link Więcej myśli/kontekstu poniżej :

Mój tekst do ich książki: "Ludzie mają szczęście, że mają Nate'a Soaresa i Eliezera Yudkowsky'ego, ponieważ potrafią naprawdę pisać. To znaczy, poczujesz prawdziwe emocje, gdy przeczytasz tę książkę. Obecnie żyjemy w ostatnim okresie historii, w którym jesteśmy dominującym gatunkiem. Mamy krótki czas na podjęcie decyzji o naszej przyszłości w świetle tego faktu. Czasami się rozpraszam i zapominam o tej rzeczywistości, aż natrafiam na prace tych ludzi i przypominam sobie, że jestem głupcem, poświęcającym swoje życie czemuś innemu niż to pytanie. To jest obecny front zarówno filozofii, jak i teorii politycznej. Nie mówię tego lekko."

Jak wielu z was może zauważyć, jestem głęboko optymistyczny w kwestii sztucznej inteligencji. Przeprowadziłem się do San Francisco, gdy sztuczna inteligencja zaczęła naprawdę zyskiwać na znaczeniu, z powodu mojej życiowej pasji. I jestem podekscytowany implikacjami dla medycyny, fizyki, walki z korupcją, obfitości - wymień to. Uwierzcie mi, moja pasja do tego tematu trwa od zawsze i pochodzi z miejsca miłości, przygody, nowych umysłów, transcendentnych, niewyobrażalnych idei i dobra społecznego.

Myślę, że mylę wszystkich moim rzekomym sprzecznym przywiązaniem do obu stron ruchów doomerów i akceleracjonistów oraz wszystkiego pomiędzy. Ale to, czego naprawdę szukam, to nie tylko bardziej zniuansowana dyskusja, w której przestajemy odrzucać ludzi za szalony pomysł czy dwa, ponieważ balansowanie na cienkiej linii między geniuszem a szaleństwem jest niemalże warunkiem wstępnym, aby zbliżyć się do głębokiego zrozumienia pełnych implikacji sztucznej inteligencji lub czegokolwiek, co przypomina zrozumienie rzeczywistej planszy gry.

Wszystko, co mogę powiedzieć z pewnością, to to, że miałem bezpośrednie, głębokie rozmowy z wieloma czołowymi osobami w dziedzinie AI lub starałem się być na bieżąco z ich prognozami. Zauważam również niezgodność między tym, co mówi się prywatnie, a tym, co mówi się publicznie. Głęboką mądrość, którą dostrzegam u tych współautorów, stanowi ich zaangażowanie w problemy związane z tą niepewnością i brakiem zgody. Nie sądzę, żeby to oznaczało, że musimy być pesymistami ani zwolennikami przyspieszenia.