Doom Debate com @VitalikButerin caiu: O "d/acc" protegerá a humanidade da IA superinteligente? Vitalik é um tecno-otimista e construtor hardcore, e alguém disposto a considerar seriamente os mecanismos de regulação e coordenação da IA. Ele cunhou o termo "d / acc" - aceleração defensiva e descentralizada - como um caminho intermediário entre a aceleração acrítica da IA e os cenários de pausa total. Debatemos a tratabilidade do alinhamento da IA, se abordagens como d / acc realmente funcionariam quando a superinteligência chegasse e por que ele acha que um mundo pluralista de IAs concorrentes pode ser mais seguro do que uma única superinteligência alinhada. O cerne da nossa discordância é que acho que estamos caminhando para um cenário de "plantas versus animais", onde a IA simplesmente operará em escalas de tempo que não podemos igualar, enquanto Vitalik acredita que podemos manter a agência por meio da combinação certa de tecnologias defensivas e design institucional. Finalmente, abordamos o discurso em si – peço a Vitalik que desmascare os ataques ad hominem comuns contra os doomers da IA, de "é apenas uma posição marginal" a "nenhum construtor real acredita em desgraça". Suas respostas têm peso, dada sua credibilidade como empresário de sucesso e alguém que manteve a honestidade intelectual ao longo de sua carreira. Muito obrigado a Vitalik por um debate de boa fé!