Tôi đang làm việc với một bản sao sớm của cuốn sách mới của @ESYudkowsky và Nate Soares. Và đây là một liên kết Nhiều suy nghĩ/ ngữ cảnh hơn bên dưới :

Bài viết của tôi cho cuốn sách của họ: "Con người thật may mắn khi có Nate Soares và Eliezer Yudkowsky vì họ thực sự có khả năng viết. Nghĩa là, bạn sẽ cảm nhận được những cảm xúc thực sự khi đọc cuốn sách này. Chúng ta hiện đang sống trong giai đoạn cuối cùng của lịch sử, nơi chúng ta là loài thống trị. Chúng ta có một khoảng thời gian ngắn để đưa ra quyết định về tương lai của mình dựa trên thực tế này. Đôi khi tôi bị phân tâm và quên đi thực tại này, cho đến khi tôi gặp lại công việc của những người này và được nhắc nhở rằng tôi đang ngu ngốc khi dành cả cuộc đời mình cho bất cứ điều gì ngoài câu hỏi này. Đây là ranh giới hiện tại của cả triết học và lý thuyết chính trị. Tôi không nói điều này một cách nhẹ nhàng."

Như nhiều người trong số các bạn có thể thấy, tôi là một người lạc quan về trí tuệ nhân tạo. Tôi đã chuyển đến San Francisco ngay khi trí tuệ nhân tạo bắt đầu phát triển mạnh mẽ vì một lý do, đó là đam mê suốt đời của tôi. Và tôi rất hào hứng về những tác động của nó đối với y học, vật lý, chống tham nhũng, sự phong phú - bạn có thể kể tên bất cứ điều gì. Hãy tin tôi, niềm đam mê của tôi với chủ đề này đã tồn tại suốt đời và xuất phát từ một nơi của tình yêu, cuộc phiêu lưu, những tâm trí mới, những ý tưởng vượt trội không thể tưởng tượng và lợi ích cho xã hội.

Tôi nghĩ rằng tôi làm mọi người bối rối bởi sự trung thành có vẻ mâu thuẫn của tôi với cả hai bên của các phong trào tăng tốc doomer và mọi thứ ở giữa. Nhưng điều tôi thực sự tìm kiếm không chỉ là một cuộc thảo luận tinh tế hơn, nơi chúng ta ngừng đánh giá thấp mọi người vì một ý tưởng điên rồ nào đó, vì việc đi trên ranh giới mỏng manh giữa thiên tài và điên rồ gần như là một điều kiện tiên quyết để hiểu sâu sắc đầy đủ các hệ quả của trí tuệ nhân tạo hoặc bất cứ điều gì tương tự như việc nắm bắt thực sự về bàn cờ.

Tất cả những gì tôi có thể nói một cách chắc chắn - là tôi đã có những cuộc trò chuyện sâu sắc trực tiếp với nhiều người hàng đầu trong lĩnh vực AI, hoặc cố gắng theo dõi những dự đoán của họ. Tôi cũng nhận thấy có sự không nhất quán giữa những gì được nói riêng tư và công khai. Một sự khôn ngoan sâu sắc mà tôi tìm thấy từ những đồng tác giả này là cam kết của họ đối với những vấn đề liên quan đến sự không chắc chắn và thiếu sự đồng thuận. Tôi không nghĩ điều này có nghĩa là chúng ta phải trở thành những người bi quan hay những người theo chủ nghĩa tăng tốc.