Chúng tôi đang ra mắt một ứng dụng mới có tên là Sora. Đây là sự kết hợp của một mô hình mới gọi là Sora 2, và một sản phẩm mới giúp dễ dàng tạo, chia sẻ và xem video. Điều này đối với nhiều người trong chúng tôi cảm thấy như khoảnh khắc "ChatGPT cho sự sáng tạo", và cảm giác thật vui vẻ và mới mẻ. Có điều gì đó tuyệt vời về việc làm cho việc chuyển từ ý tưởng đến kết quả trở nên thật dễ dàng và nhanh chóng, cùng với những động lực xã hội mới xuất hiện. Sự sáng tạo có thể sắp trải qua một cuộc bùng nổ Cambrian, và cùng với nó, chất lượng nghệ thuật và giải trí có thể tăng lên đáng kể. Ngay cả trong những ngày đầu tiên chơi với Sora, nhiều người trong chúng tôi đã cảm thấy thật ấn tượng khi sân chơi bỗng trở nên rộng mở. Đặc biệt, khả năng đưa bản thân và bạn bè vào một video—nhóm đã làm việc rất chăm chỉ để đảm bảo tính nhất quán của nhân vật—với tính năng cameo là điều mà chúng tôi thực sự thích trong quá trình thử nghiệm, và đối với nhiều người trong chúng tôi, đó là một cách kết nối mới đầy hấp dẫn. Chúng tôi cũng cảm thấy một chút lo lắng. Mạng xã hội đã có một số tác động tích cực đến thế giới, nhưng cũng đã có một số tác động tiêu cực. Chúng tôi nhận thức được rằng một dịch vụ như thế này có thể trở nên gây nghiện, và chúng tôi có thể tưởng tượng nhiều cách mà nó có thể bị sử dụng để bắt nạt. Thật dễ dàng để tưởng tượng trường hợp suy đồi của việc tạo video AI dẫn đến việc tất cả chúng ta bị cuốn vào một nguồn cấp dữ liệu tối ưu hóa RL. Nhóm đã đặt nhiều tâm huyết và suy nghĩ vào việc cố gắng tìm ra cách tạo ra một sản phẩm thú vị mà không rơi vào cái bẫy đó, và đã đưa ra một số ý tưởng hứa hẹn. Chúng tôi sẽ thử nghiệm trong những ngày đầu của sản phẩm với các cách tiếp cận khác nhau. Ngoài những biện pháp giảm thiểu mà chúng tôi đã thực hiện (bao gồm những điều như các biện pháp để ngăn ai đó lạm dụng hình ảnh của người khác trong deepfake, các biện pháp bảo vệ cho nội dung gây rối hoặc bất hợp pháp, kiểm tra định kỳ về cách Sora ảnh hưởng đến tâm trạng và sức khỏe của người dùng, và nhiều hơn nữa) chúng tôi chắc chắn sẽ phát hiện ra những điều mới mà chúng tôi cần làm nếu Sora trở nên rất thành công. Để giúp hướng dẫn chúng tôi đến nhiều điều tốt đẹp hơn và ít điều xấu hơn, đây là một số nguyên tắc mà chúng tôi có cho sản phẩm này: * Tối ưu hóa cho sự hài lòng lâu dài của người dùng. Phần lớn người dùng, nhìn lại 6 tháng qua, nên cảm thấy rằng cuộc sống của họ tốt hơn khi sử dụng Sora so với nếu họ không sử dụng. Nếu không phải như vậy, chúng tôi sẽ thực hiện những thay đổi đáng kể (và nếu chúng tôi không thể sửa chữa, chúng tôi sẽ ngừng cung cấp dịch vụ). * Khuyến khích người dùng kiểm soát nguồn cấp dữ liệu của họ. Bạn nên có thể nói với Sora những gì bạn muốn—bạn có muốn xem video giúp bạn thư giãn hơn, hay tràn đầy năng lượng hơn? Hay chỉ những video phù hợp với một sở thích cụ thể? Hay chỉ trong một khoảng thời gian nhất định? Cuối cùng, khi công nghệ của chúng tôi tiến bộ, bạn sẽ có thể nói với Sora những gì bạn muốn một cách chi tiết bằng ngôn ngữ tự nhiên. (Tuy nhiên, các biện pháp kiểm soát cho thanh thiếu niên bao gồm khả năng từ chối nguồn cấp dữ liệu cá nhân hóa, và những điều khác như tắt tin nhắn trực tiếp.) * Ưu tiên việc sáng tạo. Chúng tôi muốn làm cho việc tham gia vào quá trình sáng tạo trở nên dễ dàng và đáng giá cho mọi người; chúng tôi tin rằng mọi người đều là những người sáng tạo bẩm sinh, và việc sáng tạo là quan trọng cho sự hài lòng của chúng tôi. * Giúp người dùng đạt được mục tiêu lâu dài của họ. Chúng tôi muốn hiểu mục tiêu thực sự của người dùng và giúp họ đạt được chúng. Nếu bạn muốn kết nối nhiều hơn với bạn bè, chúng tôi sẽ cố gắng giúp bạn với điều đó. Nếu bạn muốn có sức khỏe tốt, chúng tôi có thể cho bạn xem nội dung thể dục sẽ thúc đẩy bạn. Nếu bạn muốn bắt đầu một doanh nghiệp, chúng tôi muốn giúp bạn học những kỹ năng bạn cần. Và nếu bạn thực sự chỉ muốn cuộn xuống và tức giận, thì được, chúng tôi sẽ giúp bạn với điều đó (mặc dù chúng tôi muốn người dùng dành thời gian sử dụng ứng dụng nếu họ nghĩ rằng đó là thời gian đáng giá, chúng tôi không muốn trở nên bảo thủ về điều đó có nghĩa là gì đối với họ).