正在阅读@ESYudkowsky和Nate Soares的新书的早期版本。 这里有一个链接 更多想法/背景如下:
我为他们的书写的内容: “人类很幸运有内特·索尔斯和埃利泽·尤德科夫斯基,因为他们真的会写作。也就是说,当你阅读这本书时,你会感受到真实的情感。我们目前正生活在历史的最后一个时期,在这个时期我们是主导物种。我们有一个短暂的时间窗口,可以根据这一事实对我们的未来做出决策。 有时我会分心,忘记这个现实,直到我碰到这些人的作品,重新提醒自己,除了这个问题,我把生命奉献给其他任何事情都是愚蠢的。 这是哲学和政治理论的前沿。我并不是轻易说这句话。”
正如你们中的许多人所知,我是一个深度人工智能的乐观主义者。我搬到旧金山是因为人工智能开始真正崭露头角,这对我来说是一个原因,因为这是我一生的热情。我对医学、物理学、反腐败、丰盈——你能想到的所有领域的影响感到兴奋。相信我,我对这个话题的热情是终生的,源于对爱、冒险、新思想、超越想象的理念和社会福祉的追求。
我想我让每个人都感到困惑,因为我似乎对厄运加速主义运动的两方及其间的一切都有矛盾的忠诚。 但我真正追求的并不仅仅是一个更细致的讨论,我们不再因为一个或两个疯狂的想法而否定别人,因为在天才与疯狂之间走钢丝几乎是接近深入理解人工智能或任何类似于理解实际游戏板的全部含义的先决条件。
我可以肯定地说,我要么与许多顶尖的人工智能专家进行了深入的直接对话,要么努力跟上他们的预测。 我还注意到,私下里和公开场合所说的内容之间存在不一致。 我从这些合著者那里发现的一种深刻智慧是,他们对这种不确定性和缺乏共识的问题的承诺。我认为这并不意味着我们必须成为悲观主义者或加速主义者。
197.7K