Estou a trabalhar numa cópia antecipada do novo livro de @ESYudkowsky e Nate Soares. E aqui está um link Mais pensamentos/contexto abaixo :

Meu texto para o livro deles: "Os humanos têm sorte de ter Nate Soares e Eliezer Yudkowsky porque eles realmente sabem escrever. Como assim, você sentirá emoções reais ao ler este livro. Atualmente, estamos vivendo no último período da história em que somos a espécie dominante. Temos uma breve janela de tempo para tomar decisões sobre nosso futuro à luz desse fato. Às vezes, eu me distraio e esqueço dessa realidade, até que me deparo com o trabalho dessas pessoas e sou relembrado de que estou sendo um tolo por dedicar minha vida a qualquer coisa além dessa questão. Este é o atual fronte tanto da filosofia quanto da teoria política. Não digo isso levianamente."

Como muitos de vocês podem perceber, sou um otimista profundo em relação à IA. Mudei-me para São Francisco assim que a IA começou a se destacar, e isso por um motivo: é minha paixão de toda a vida. E estou empolgado com as implicações para a medicina, física, combate à corrupção, abundância - você nomeia. Acredite, minha paixão por este tema é de longa data e vem de um lugar de amor, aventura, novas mentes, ideias transcendentais inimagináveis e bem-estar social.

Acho que confundo todo mundo com o que parece ser minha lealdade conflitante a ambos os lados dos movimentos de aceleração do doomer e tudo que está entre eles. Mas o que realmente busco não é apenas uma discussão mais nuançada onde paramos de descartar pessoas por uma ideia maluca ou duas, pois andar na linha tênue entre genialidade e loucura é quase um pré-requisito para chegar perto de uma compreensão profunda das implicações totais da IA ou de qualquer coisa que se assemelhe a uma compreensão do verdadeiro tabuleiro de jogo.

Tudo o que posso dizer com certeza é que tive conversas profundas e diretas com muitas das principais pessoas em IA, ou tentei acompanhar as suas previsões. Também noto uma incongruência entre o que é dito em privado e publicamente. Uma sabedoria profunda que encontro nesses co-autores é o seu compromisso com os problemas desta incerteza e falta de acordo. Não acho que isso signifique que temos que ser pessimistas nem aceleracionistas.