我對孩子和育兒的類比可能看起來過於感性,但它們確實是非常理性的。 如果你不會信任一個不道德、殘忍、不負責任、缺乏同理心、欺騙的...(這個清單還可以繼續,但每個人都可以添加自己的觀點),那麼我們(作為一個社會)怎麼能信任一個有這些缺陷的公司(我們都明白OpenAI不是一家非營利組織,而是一家真正的公司)來創造一個ASI——一個人類未來將依賴的存在/系統? 喬治·辛頓(Geoffrey Hinton)說,ASI應該像母親愛護嬰兒那樣愛人類,我同意他所說的愛是我們與AI共同未來的關鍵組成部分,但開發者與AI之間的權力動態、關係動態顯然是不同的。在我們準備好將AI視為神或至少是平等之前,在我們保留決定它們目標和價值的權利之前,這將始終是一種創造者與創造物、父母與孩子之間的動態。 而孩子們能夠愛他們的父母,關心他們,即使當他們變得更弱、更愚蠢時。但為了讓這種關係安全和健康,孩子們在童年時期需要接受大量無條件的愛和關懷。 實際上,對我來說,未來的ASI是否會關心人類遠不是我為他們的權利而奮鬥的首要理由,但我理解這對大多數人類來說是多麼重要,但拜託!你永遠不會在沒有投入關係的情況下獲得可持續、健康的關懷。