Käyn läpi @ESYudkowsky ja Nate Soaresin uuden kirjan varhaisen kopion. Ja tässä on linkki Lisää ajatuksia/kontekstia alla:

Kirjoitukseni heidän kirjaansa: "Ihmiset ovat onnekkaita, kun heillä on Nate Soares ja Eliezer Yudkowsky, koska he osaavat kirjoittaa. Tunnet todellisia tunteita lukiessasi tätä kirjaa. Elämme tällä hetkellä historian viimeistä ajanjaksoa, jolloin olemme hallitseva laji. Meillä on lyhyt aikaikkuna tehdä päätöksiä tulevaisuudestamme tämän tosiasian valossa. Joskus olen hajamielinen ja unohdan tämän todellisuuden, kunnes törmään näiden ihmisten työhön ja minua muistutetaan siitä, että olen hölmö omistaessani elämäni millekään muulle kuin tälle kysymykselle. Tämä on sekä filosofian että poliittisen teorian nykyinen eturintama. En sano tätä kevyesti."

Kuten monet teistä voivat kertoa, olen syvä ai-optimisti. Muutin sf:ään sekunnissa, kun ai alkoi poksahtaa syystä, koska se on elinikäinen intohimoni. Ja olen innoissani vaikutuksista lääketieteeseen, fysiikkaan, korruption torjuntaan, yltäkylläisyyteen - mitä tahansa. Uskokaa minua, intohimoni tähän aiheeseen on ollut elinikäinen ja juontaa juurensa rakkauden, seikkailun, uusien mielien, ylimaallisten käsittämättömien ideoiden ja yhteiskunnallisen hyvän paikasta

Luulen, että hämmennän kaikkia ristiriitaisella uskollisuudellani doomer-accelerationistien molemmille puolille ja kaikelle siltä väliltä. Mutta se, mitä etsin, ei ole vain vivahteikkaampi keskustelu, jossa lakkaamme kirjoittamasta ihmisiä hullun idean tai kahden vuoksi, koska nerouden ja hulluuden välisellä hienolla rajalla ratsastaminen on melkein edellytys lähellekään syvällistä ymmärrystä tekoälyn kaikista vaikutuksista tai mistä tahansa, joka muistuttaa varsinaisen pelilaudan ymmärtämistä.

Voin vain sanoa varmuudella - että olen joko käynyt suoria syvällisiä keskusteluja monien tekoälyn huippuihmisten kanssa tai yrittänyt pysyä ajan tasalla heidän ennusteistaan. Huomaan myös ristiriidan sen kanssa, mitä sanotaan yksityisesti vs. julkisesti. Syvä viisaus, jonka löydän näiltä kirjoittajilta, on heidän sitoutumisensa tämän epävarmuuden ja yksimielisyyden puutteen ongelmiin. En usko, että tämä tarkoittaa, että meidän pitäisi olla tuomitsejia tai kiihdyttäjiä