Doom Debate con @VitalikButerin ha caído: ¿"d/acc" protegerá a la humanidad de la IA superinteligente? Vitalik es a la vez un tecno-optimista y constructor empedernido, y alguien dispuesto a considerar seriamente los mecanismos de regulación y coordinación de la IA. Acuñó el término "d / acc" (aceleración defensiva y descentralizada) como un camino intermedio entre la aceleración de IA acrítica y los escenarios de pausa total. Debatimos la manejabilidad de la alineación de la IA, si enfoques como d/acc realmente funcionarían cuando llegue la superinteligencia, y por qué cree que un mundo pluralista de IA en competencia podría ser más seguro que una sola superinteligencia alineada. El quid de nuestro desacuerdo es que creo que nos dirigimos a un escenario de "plantas contra animales" en el que la IA simplemente operará en escalas de tiempo que no podemos igualar, mientras que Vitalik cree que podemos mantener la agencia a través de la combinación correcta de tecnologías defensivas y diseño institucional. Finalmente, abordamos el discurso en sí: le pido a Vitalik que desacredite los ataques ad hominem comunes contra los agoreros de la IA, desde "es solo una posición marginal" hasta "ningún constructor real cree en la fatalidad". Sus respuestas tienen peso dada su credibilidad como empresario exitoso y alguien que ha mantenido la honestidad intelectual a lo largo de su carrera. ¡Muchas gracias a Vitalik por un debate de buena fe!