我正在閱讀 @ESYudkowsky和 Nate Soares 的新書的早期副本。 這是一個連結 更多想法/背景如下:
我為他們的書寫的文章: “人類很幸運有 Nate Soares 和 Eliezer Yudkowsky,因為他們實際上會寫作。 就像,當你閱讀這本書時,你會感受到真實的情感。 我們目前生活在歷史的最後階段,我們是主導物種。 根據這一事實,我們有一個短暫的時間視窗來決定我們的未來。 有時我會分心並忘記這個現實,直到我撞見這些人的工作,並再次提醒我,我是一個傻瓜,除了這個問題之外,我把我的一生都奉獻給了任何事情。 這是當前哲學和政治理論的前沿。 我不會輕易說這句話。
你們中的許多人都可以看出,我是一個深度的人工智慧樂觀主義者。 我搬到 sf 第二個 AI 開始 rly popping 是有原因的,因為這是我一生的熱情。 我對它對醫學、物理學、反腐敗、富足的影響感到興奮——你能想到的。 相信我,我對這個話題的熱情是終生的,它源於一個充滿愛、冒險、新思想、超凡脫俗的思想和社會公益的地方
我想我讓每個人都感到困惑,因為我似乎對厄運加速主義運動的兩方以及介於兩者之間的一切的忠誠相互矛盾。 但我所尋求的不僅僅是一個更細緻的討論,我們不再因為一兩個瘋狂的想法而忽視人們,因為在天才和瘋狂之間遊走幾乎是深入瞭解人工智慧的全部含義或任何類似於理解實際遊戲板的東西的先決條件。
我只能肯定地說 - 我要麼與 AI 領域的許多頂尖人士進行了直接的深入對話,要麼試圖掌握他們的預測。 我還注意到私下和公開所說的不一致。 我從這些合著者那裡發現了一個深刻的智慧,那就是他們致力於解決這種不確定性和缺乏共識的問題。 我不認為這意味著我們必須成為厄運論者或加速論者
197.7K