Trabalhando em uma cópia inicial do novo livro de @ESYudkowsky e Nate Soares. E aqui está um link Mais pensamentos/contexto abaixo:

Minha redação para o livro deles: "Os humanos têm sorte de ter Nate Soares e Eliezer Yudkowsky porque eles podem realmente escrever. Por exemplo, você sentirá emoções reais ao ler este livro. Atualmente estamos vivendo no último período da história em que somos a espécie dominante. Temos uma breve janela de tempo para tomar decisões sobre nosso futuro à luz desse fato. Às vezes me distraio e esqueço essa realidade, até que me deparo com o trabalho dessas pessoas e sou lembrado de que estou sendo um tolo por dedicar minha vida a qualquer coisa além dessa questão. Esta é a vanguarda atual da filosofia e da teoria política. Eu não digo isso levianamente."

Como muitos de vocês podem dizer, sou um profundo otimista de IA. Eu me mudei para sf no segundo ai começou a aparecer por um motivo, porque é a minha paixão ao longo da vida. E estou animado com as implicações para a medicina, física, anticorrupção, abundância - o que você quiser. Acredite em mim, minha paixão por este tópico tem sido ao longo da vida e decorre de um lugar de amor, aventura, novas mentes, ideias transcendentes inimagináveis e bem social

Acho que confundo todo mundo com o que parece ser minha lealdade conflitante a ambos os lados dos movimentos aceleracionistas doomer e tudo mais. Mas o que eu realmente procuro não é apenas uma discussão mais sutil, onde paramos de descartar as pessoas por uma ou duas ideias malucas, porque andar na linha tênue entre gênio e loucura é quase um pré-requisito para chegar perto de uma compreensão profunda das implicações completas da IA ou qualquer coisa que se assemelhe a uma compreensão do tabuleiro do jogo real.

Tudo o que posso dizer com certeza - é que tive conversas diretas e profundas com muitas das principais pessoas da IA ou tentei ficar por dentro de suas previsões. Também noto uma incongruência com o que é dito em particular versus publicamente. Uma sabedoria profunda que encontro nesses co-autores é seu compromisso com os problemas com essa incerteza e falta de acordo. Não acho que isso signifique que temos que ser doomers nem aceleracionistas