我們正在推出一款名為 Sora 的新應用程式。這是一個名為 Sora 2 的新模型與一個新產品的結合,使創建、分享和觀看視頻變得簡單。
對我們許多人來說,這感覺像是“創意的 ChatGPT”時刻,感覺既有趣又新穎。從想法到結果的過程變得非常簡單和快速,還有新社交動態的出現,這一切都讓人感到很棒。
創意可能即將經歷一次寒武紀大爆發,隨之而來的藝術和娛樂的質量也可能會大幅提升。即使在使用 Sora 的早期階段,我們許多人都驚訝於這個遊戲場突然變得如此開放。
特別是,將自己和朋友放入視頻中的能力——團隊在角色一致性上付出了很多努力——以及客串功能是我們在測試期間非常享受的,對我們許多人來說,這是一種令人驚訝的引人入勝的新連接方式。
我們也感到一些不安。社交媒體對世界有一些好的影響,但也有一些壞的影響。我們意識到這樣的服務可能會變得上癮,我們可以想像它可能被用來霸凌的許多方式。
很容易想像 AI 視頻生成的退化情況,最終讓我們都被吸入一個 RL 優化的垃圾信息中。團隊在試圖找出如何製作一個不會陷入這種陷阱的愉悅產品上付出了極大的心思,並提出了一些有前景的想法。我們將在產品的早期階段嘗試不同的方法。
除了我們已經實施的緩解措施(包括防止某人濫用他人肖像的深度偽造、對令人不安或非法內容的保護措施、定期檢查 Sora 對用戶情緒和福祉的影響等)之外,我們相信如果 Sora 變得非常成功,我們將會發現需要做的新事情。為了幫助我們朝著更多的好而少一些壞的方向前進,這裡是我們對這個產品的一些原則:
*優化長期用戶滿意度。大多數用戶在回顧過去六個月時,應該感覺到使用 Sora 使他們的生活變得更好。如果不是這樣,我們將進行重大改變(如果我們無法修復,我們將停止提供該服務)。
*鼓勵用戶控制他們的資訊流。你應該能告訴 Sora 你想要什麼——你想看到讓你更放鬆的視頻,還是更有活力的視頻?或者只想看到符合特定興趣的視頻?或者只想在特定的時間內觀看?隨著我們技術的進步,最終你將能夠用自然語言詳細告訴 Sora 你想要什麼。(不過,青少年的家長控制包括選擇退出個性化資訊流的能力,以及關閉私信等其他功能。)
*優先考慮創作。我們希望讓每個人都能輕鬆且有回報地參與創作過程;我們相信人們是天生的創作者,創作對我們的滿意度至關重要。
*幫助用戶實現他們的長期目標。我們希望了解用戶的真正目標,並幫助他們實現。如果你想與朋友更親近,我們會嘗試幫助你。如果你想變得健康,我們可以向你展示能激勵你的健身內容。如果你想創業,我們希望幫助你學習所需的技能。如果你真的只是想無所事事並感到憤怒,那也好,我們會幫助你(雖然我們希望用戶在認為時間花得值得的情況下使用該應用,但我們不想對他們的意義過於父權主義)。