与 @VitalikButerin 的《末日辩论》已发布: “d/acc”能否保护人类免受超智能AI的威胁? Vitalik既是一个坚定的技术乐观主义者和建设者,也是一个愿意认真考虑AI监管和协调机制的人。他创造了“d/acc”这个术语——防御性、去中心化加速——作为不批判性AI加速和完全暂停场景之间的中间道路。 我们讨论了AI对齐的可行性,像d/acc这样的方式在超智能到来时是否真的有效,以及他为什么认为竞争的多元化AI世界可能比单一对齐的超智能更安全。 我们分歧的关键在于,我认为我们正朝着“植物与动物”的场景发展,AI将简单地在我们无法匹配的时间尺度上运作,而Vitalik则认为我们可以通过正确的防御技术和制度设计保持自主权。 最后,我们讨论了话语本身——我请Vitalik揭穿针对AI末日论者的常见人身攻击,从“这只是一个边缘立场”到“没有真正的建设者相信末日论”。他的回应具有分量,因为他作为成功企业家和在职业生涯中保持知识诚实的人,拥有很高的可信度。 非常感谢Vitalik进行这场真诚的辩论!
136.34K