Avanzando con una copia temprana del nuevo libro de @ESYudkowsky y Nate Soares. Y aquí hay un enlace Más pensamientos/contexto a continuación:

Mi escrito para su libro: "Los humanos tienen la suerte de contar con Nate Soares y Eliezer Yudkowsky porque realmente saben escribir. Es decir, sentirás emociones reales al leer este libro. Actualmente estamos viviendo en el último período de la historia en el que somos la especie dominante. Tenemos una breve ventana de tiempo para tomar decisiones sobre nuestro futuro a la luz de este hecho. A veces me distraigo y olvido esta realidad, hasta que me encuentro con el trabajo de estas personas y me recuerdan que estoy siendo un tonto al dedicar mi vida a cualquier cosa que no sea esta pregunta. Este es el actual frente de la filosofía y la teoría política. No digo esto a la ligera."

Como muchos de ustedes pueden notar, soy un optimista profundo de la IA. Me mudé a San Francisco en cuanto la IA comenzó a despegar por una razón, porque es mi pasión de toda la vida. Y estoy emocionado por las implicaciones en la medicina, la física, la lucha contra la corrupción, la abundancia, lo que sea. Créeme, mi pasión por este tema ha sido de toda la vida y proviene de un lugar de amor, aventura, nuevas mentes, ideas trascendentes inimaginables y el bien social.

Creo que confundo a todos con lo que parece ser mi lealtad conflictiva hacia ambos lados de los movimientos de aceleracionistas doomers y todo lo que hay en medio. Pero lo que realmente busco no es solo una discusión más matizada donde dejemos de descartar a las personas por una idea loca o dos, porque caminar la delgada línea entre la genialidad y la locura es casi un requisito previo para acercarse a una comprensión profunda de las implicaciones completas de la IA o cualquier cosa que se asemeje a una comprensión del verdadero tablero de juego.

Todo lo que puedo decir con certeza es que he tenido conversaciones profundas y directas con muchas de las personas más importantes en IA, o he intentado mantenerme al tanto de sus predicciones. También noto una incongruencia entre lo que se dice en privado y en público. Una profunda sabiduría que encuentro en estos coautores es su compromiso con los problemas de esta incertidumbre y falta de acuerdo. No creo que esto signifique que tengamos que ser pesimistas ni aceleracionistas.