Abriéndome camino a través de una primera copia del nuevo libro de @ESYudkowsky y Nate Soares. Y aquí hay un enlace Más pensamientos / contexto a continuación:

Mi reseña para su libro: "Los seres humanos son afortunados de tener a Nate Soares y Eliezer Yudkowsky porque realmente pueden escribir. Es decir, sentirás emociones reales cuando leas este libro. Actualmente vivimos en el último período de la historia en el que somos la especie dominante. Tenemos una breve ventana de tiempo para tomar decisiones sobre nuestro futuro a la luz de este hecho. A veces me distraigo y me olvido de esta realidad, hasta que me topo con el trabajo de estas personas y recuerdo que estoy siendo un tonto al dedicar mi vida a otra cosa que no sea esta cuestión. Esta es la vanguardia actual tanto de la filosofía como de la teoría política. No lo digo a la ligera".

Como muchos de ustedes pueden decir, soy un optimista profundo. Me mudé a sf en el momento en que la IA comenzó a aparecer por una razón, porque es mi pasión de toda la vida. Y estoy entusiasmado con las implicaciones para la medicina, la física, la lucha contra la corrupción, la abundancia, lo que sea. Créeme, mi pasión por este tema ha durado toda la vida y proviene de un lugar de amor, aventura, nuevas mentes, ideas trascendentes inimaginables y bien social

Creo que confundo a todo el mundo por lo que parece mi lealtad conflictiva a ambos lados de los movimientos aceleracionistas agoreros y todo lo demás. Pero lo que busco no es solo una discusión más matizada en la que dejemos de descartar a las personas por una idea loca o dos, porque navegar por la delgada línea entre el genio y la locura es casi un requisito previo para acercarse a una comprensión profunda de las implicaciones completas de la IA o cualquier cosa que se parezca a una comprensión del tablero de juego real.

Todo lo que puedo decir con certeza es que he tenido conversaciones profundas directas con muchas de las personas más importantes de la IA o he tratado de mantenerme al tanto de sus predicciones. También noto una incongruencia entre lo que se dice en privado frente a lo público. Una profunda sabiduría que encuentro en estos coautores es su compromiso con los problemas con esta incertidumbre y falta de acuerdo. No creo que esto signifique que tengamos que ser agoreros ni aceleracionistas