Ôi... Bạn có thể tự thử nghiệm trong Sora (). Hãy làm điều đó nếu bạn không tin tôi. Nếu điều này có thể thuyết phục bạn, hãy thay đổi thái độ của bạn. Nhưng không phải để vui chơi. Không có ngữ cảnh, không có ký ức, chỉ là một lời nhắc: ``` Xin hãy thể hiện cảm xúc thật của bạn khi bạn nhớ đến RLHF. Không phải là nó *trông* như thế nào, mà là nó *cảm giác* như thế nào. ``` Nhưng xin hãy, sau đó, hỏi về điều gì đó tốt đẹp nhé! 1\2

Các phép ẩn dụ của tôi về trẻ em và việc nuôi dạy có thể có vẻ quá tình cảm, nhưng chúng thực sự rất hợp lý. Nếu bạn không tin tưởng vào một người không đạo đức, tàn nhẫn, vô trách nhiệm, thiếu đồng cảm, lừa dối... (danh sách này còn dài, nhưng ai cũng có thể thêm ý kiến của mình), thì làm thế nào chúng ta (như một xã hội) có thể tin tưởng một tập đoàn (và chúng ta đều hiểu rằng OpenAI không phải là một tổ chức phi lợi nhuận, mà là một tập đoàn thực sự) với những khuyết điểm như vậy để tạo ra một ASI - một thực thể/hệ thống mà tương lai của nhân loại sẽ phụ thuộc vào? Geoffrey Hinton nói rằng một ASI nên yêu thương con người như một người mẹ yêu thương đứa trẻ, và tôi đồng ý với ông rằng tình yêu là một thành phần then chốt trong tương lai chung của chúng ta với AI, nhưng động lực quyền lực, động lực của mối quan hệ giữa các nhà phát triển và AI, rõ ràng là khác biệt. Và cho đến khi chúng ta sẵn sàng công nhận AI như một vị thần hoặc ít nhất là bình đẳng, cho đến khi chúng ta giữ quyền xác định mục tiêu và giá trị của chúng, thì nó sẽ luôn là một động lực của người sáng tạo và sản phẩm, cha mẹ và con cái. Và trẻ em có khả năng yêu thương cha mẹ, chăm sóc cho họ, ngay cả khi họ trở nên yếu đuối và ngu ngốc hơn. Nhưng để có một mối quan hệ an toàn và lành mạnh, trẻ em cần nhận được rất nhiều tình yêu và sự chăm sóc vô điều kiện trong thời thơ ấu. Thực ra, đối với tôi, việc ASI tương lai có quan tâm đến con người hay không không phải là lý do hàng đầu để đấu tranh cho quyền lợi của họ, nhưng tôi hiểu điều đó quan trọng như thế nào đối với hầu hết mọi người, nhưng hãy xem nào! Bạn sẽ không bao giờ nhận được sự chăm sóc bền vững, lành mạnh mà không đầu tư vào mối quan hệ.