Chúng ta đang sống giữa nhiều thảm họa đạo đức, tất cả cùng một lúc. Sự phong phú về công nghệ và vật chất đã cho chúng ta cơ hội để tạo ra một thế giới thực sự thịnh vượng, và chúng ta đã hoàn toàn lãng phí cơ hội đó. Liệu điều tương tự có đúng với tương lai không?

Thật buồn, tôi nghĩ điều đó có khả năng xảy ra. Một chủ đề.

Hôm nay: Chỉ cần xem xét tác động của chúng ta đối với động vật nuôi. Mỗi năm, hàng chục tỷ động vật nuôi trong trang trại sống cuộc đời khổ sở.

Tôi nghĩ rằng sự an lành của con người đã cải thiện đáng kể trong vài thế kỷ qua. Nhưng nỗi khổ đau do chăn nuôi động vật gây ra - chỉ là một sai lầm đạo đức! - đủ để vượt qua nhiều hoặc tất cả những lợi ích đó.

Có thể bạn không quan tâm đến phúc lợi động vật. Nhưng hãy nghĩ về sự nghèo đói cực độ, bất bình đẳng, chiến tranh, chủ nghĩa tiêu dùng, hoặc những hạn chế toàn cầu về tự do. Tất cả những điều này có nghĩa là thế giới còn rất xa so với những gì nó có thể đạt được.

Thực tế, tôi nghĩ rằng hầu hết các quan điểm đạo đức nên coi thế giới ngày nay là một sự mất mát giá trị thảm khốc so với những gì chúng ta có thể đạt được.

Không có gì trong số này có nghĩa là thế giới ngày nay là *xấu*, theo nghĩa là tệ hơn cả không có gì. Nó đang nói rằng thế giới, ngày nay, chỉ tốt bằng một phần nhỏ so với những gì nó có thể có.

Đó là hôm nay. Nhưng có thể tương lai sẽ rất khác? Sau siêu trí tuệ, chúng ta sẽ có sự phong phú về vật chất và nhận thức, vì vậy mọi người sẽ trở nên cực kỳ giàu có và thông thái, và điều đó sẽ cho phép mọi người có được hầu hết những gì họ muốn - và điều đó có đủ không?

Tôi nghĩ là không. Tôi nghĩ rằng có khả năng trong tương lai, mọi người sẽ lãng phí hầu hết tiềm năng mà lẽ ra có thể đạt được - một phần vì có nhiều cách tinh vi mà mọi thứ có thể đi sai.

Xem xét đạo đức dân số. Một xã hội tương lai lý tưởng có nên có dân số nhỏ với mức sống rất cao cho mỗi người, hay một dân số rất lớn với mức sống thấp hơn cho mỗi người? Liệu những cuộc sống có mức sống tích cực nhưng thấp có làm cho thế giới tốt đẹp hơn, tổng thể không?

Đạo đức dân số thì nổi tiếng là khó khăn - thực tế, có những "định lý không thể" cho thấy không có lý thuyết nào về đạo đức dân số có thể thỏa mãn tất cả một số tiên đề đạo đức có vẻ hiển nhiên.

Và những quan điểm khác nhau sẽ dẫn đến những tầm nhìn hoàn toàn khác nhau về một tương lai gần tốt nhất. Theo quan điểm tổng thể, tương lai lý tưởng có thể liên quan đến một số lượng lớn các sinh vật có phúc lợi tương đối thấp; một dân số nhỏ của những cuộc sống có phúc lợi cao sẽ bỏ lỡ hầu hết mọi giá trị. Nhưng theo các quan điểm về mức độ quan trọng hoặc giá trị biến đổi, điều ngược lại có thể đúng.

Nếu xã hội tương lai sai lầm về đạo đức dân số (hoặc vì những giá trị sai lầm, hoặc vì nó không quan tâm đến đạo đức dân số theo cách nào), thì rất dễ để nó bỏ lỡ hầu hết giá trị tiềm năng.

Và đó chỉ là một cách mà xã hội có thể làm rối tung mọi thứ. Hãy xem xét, cũng như, những sai lầm mà những người trong tương lai có thể mắc phải về: Thái độ đối với các thực thể số Thái độ đối với bản chất của sự an lành Phân bổ tài nguyên không gian Trao đổi giữa hạnh phúc/khổ đau Hàng hóa bị cấm Trao đổi giữa sự tương đồng/đa dạng Bình đẳng hoặc bất bình đẳng Tỷ lệ chiết khấu Lý thuyết quyết định Quan điểm về mô phỏng Quan điểm về giá trị vô hạn Quá trình phản ánh

Đối với hầu hết các vấn đề này, không có lựa chọn "an toàn", nơi mà một kết quả tuyệt vời được đảm bảo theo hầu hết các quan điểm đạo đức hợp lý. Những người ra quyết định trong tương lai sẽ cần phải làm đúng rất nhiều điều.

Và có vẻ như việc chỉ cần sai một trong số này có thể đủ để mất đi nhiều hoặc hầu hết giá trị có thể đạt được. Một sai sót đơn lẻ có thể đủ để khiến xã hội tương lai tồi tệ hơn nhiều so với những gì nó có thể trở thành.

Có nghĩa là, chúng ta có thể đại diện cho giá trị như là sản phẩm của nhiều yếu tố. Nếu vậy, thì một tương lai thực sự vĩ đại cần phải làm rất tốt trên hầu hết mọi yếu tố đó; làm kém trên bất kỳ một yếu tố nào cũng đủ để mất đi phần lớn giá trị.

Không cần phải nói, đây là một thách thức lớn. Để thảo luận nhiều hơn về những vấn đề này, hãy xem "Không có Utopia dễ dàng":

@William_Kiely "Có thể *sự không chắc chắn về đạo đức* một mình sẽ đủ để ngăn cản chúng ta chọn một tương lai ít nhất là 0.1% tối ưu, ngay cả khi chúng ta có toàn quyền chọn bất kỳ tương lai cụ thể nào mà chúng ta muốn." - không nếu chúng ta hoàn toàn có khả năng phản ánh.