我们正在推出一款名为 Sora 的新应用。这是一个名为 Sora 2 的新模型与一个新产品的结合，使得创建、分享和观看视频变得简单。 对我们许多人来说，这感觉像是“创造力的 ChatGPT”时刻，既有趣又新颖。从想法到结果的过程变得非常简单和快速，以及随之而来的新社交动态，这让人感到很棒。 创造力可能即将经历一次寒武纪大爆发，艺术和娱乐的质量也可能会大幅提升。即使在使用 Sora 的早期阶段，许多人也惊讶于这个游戏场突然变得如此开放。 特别是将自己和朋友放入视频中的能力——团队在角色一致性上付出了很大努力——通过客串功能，我们在测试期间非常享受这一点，对我们许多人来说，这是一种令人惊讶的新连接方式。 我们也感到一些忧虑。社交媒体对世界产生了一些积极影响，但也有一些消极影响。我们意识到这样的服务可能会变得多么上瘾，我们可以想象许多可能被用于欺凌的方式。 很容易想象 AI 视频生成的堕落案例，最终导致我们都被吸入一个 RL 优化的垃圾信息流。团队在努力思考如何制作一个令人愉悦的产品而不陷入这个陷阱上付出了极大的心血，并提出了一些有前景的想法。我们将在产品的早期阶段尝试不同的方法。 除了我们已经实施的缓解措施（包括防止某人滥用他人肖像的深度伪造、对令人不安或非法内容的保护措施、定期检查 Sora 对用户情绪和幸福感的影响等）外，我们相信如果 Sora 变得非常成功，我们会发现需要做的新事情。为了帮助我们朝着更多的好处而少一些坏处，这里是我们对这个产品的一些原则： * 优化长期用户满意度。大多数用户在回顾过去六个月时，应该会觉得使用 Sora 使他们的生活变得更好，而不是没有使用。如果不是这样，我们将进行重大更改（如果我们无法解决这个问题，我们将停止提供该服务）。 * 鼓励用户控制他们的内容。你应该能够告诉 Sora 你想要什么——你想看到让你更放松的，还是更有活力的视频？或者只想看到符合特定兴趣的视频？或者只想在特定时间内观看？随着我们的技术进步，最终你将能够用自然语言详细告诉 Sora 你想要什么。（不过，青少年的家长控制包括选择退出个性化内容的能力，以及关闭私信等其他功能。） * 优先考虑创作。我们希望让每个人都能轻松且有成就感地参与创作过程；我们相信人们是天生的创作者，创作对我们的满足感至关重要。 * 帮助用户实现他们的长期目标。我们希望了解用户的真实目标，并帮助他们实现。如果你想与朋友更紧密地联系，我们会尽力帮助你。如果你想变得更健康，我们可以向你展示能激励你的健身内容。如果你想创业，我们希望帮助你学习所需的技能。如果你真的只是想无所事事并感到愤怒，那也没问题，我们会帮助你（尽管我们希望用户在认为时间花得值得的情况下使用该应用，但我们不想对他们的定义过于家长式）。