Мы запускаем новое приложение под названием Sora. Это сочетание новой модели под названием Sora 2 и нового продукта, который упрощает создание, обмен и просмотр видео. Для многих из нас это похоже на момент "ChatGPT для креативности", и это кажется веселым и новым. Есть что-то замечательное в том, чтобы сделать переход от идеи к результату действительно простым и быстрым, а также в новых социальных динамиках, которые возникают. Креативность может пережить кембрийский взрыв, и вместе с ней качество искусства и развлечений может значительно возрасти. Даже в самые ранние дни работы с Sora многим из нас было заметно, насколько открытым стало игровое поле. В частности, возможность вставить себя и своих друзей в видео — команда очень усердно работала над согласованностью персонажей — с функцией камео это то, что нам действительно понравилось во время тестирования, и для многих из нас это удивительно привлекательный новый способ связи. Мы также испытываем некоторую тревогу. Социальные сети оказали некоторые положительные эффекты на мир, но также имели и негативные. Мы осознаем, насколько зависимым может стать такой сервис, и можем представить множество способов, как его можно использовать для запугивания. Легко представить себе дегенеративный случай генерации видео с помощью ИИ, который в конечном итоге приведет к тому, что мы все окажемся втянутыми в оптимизированный для RL поток. Команда проявила большую заботу и внимание, пытаясь выяснить, как создать приятный продукт, который не попадет в эту ловушку, и предложила ряд многообещающих идей. Мы будем экспериментировать в первые дни продукта с различными подходами. В дополнение к мерам, которые мы уже внедрили (включая такие вещи, как меры по предотвращению злоупотребления чьим-либо образом в дипфейках, защитные меры для тревожного или незаконного контента, периодические проверки того, как Sora влияет на настроение и благополучие пользователей и многое другое), мы уверены, что мы откроем новые вещи, которые нам нужно будет сделать, если Sora станет очень успешным. Чтобы помочь нам двигаться в сторону большего количества хорошего и меньшего количества плохого, вот некоторые принципы, которые мы имеем для этого продукта: *Оптимизировать для долгосрочного удовлетворения пользователей. Большинство пользователей, оглядываясь на последние 6 месяцев, должны чувствовать, что их жизнь стала лучше благодаря использованию Sora, чем если бы они не использовали его. Если это не так, мы внесем значительные изменения (и если мы не сможем это исправить, мы прекратим предоставление услуги). *Поощрять пользователей контролировать свою ленту. Вы должны иметь возможность сказать Sora, что вы хотите — хотите ли вы видеть видео, которые сделают вас более расслабленным или более энергичным? Или только видео, которые соответствуют определенному интересу? Или только на определенное время? В конечном итоге, по мере развития нашей технологии, вы сможете подробно сказать Sora, что вы хотите, на естественном языке. (Тем не менее, родительский контроль для подростков включает возможность отказаться от персонализированной ленты и другие вещи, такие как отключение личных сообщений.) *Приоритизировать создание. Мы хотим сделать участие каждого в процессе создания легким и вознаграждающим; мы верим, что люди — прирожденные создатели, и создание важно для нашего удовлетворения. *Помогать пользователям достигать их долгосрочных целей. Мы хотим понять истинные цели пользователя и помочь им их достичь. Если вы хотите быть более связанным с друзьями, мы постараемся помочь вам с этим. Если вы хотите стать более подтянутым, мы можем показать вам контент о фитнесе, который будет вас мотивировать. Если вы хотите начать бизнес, мы хотим помочь вам научиться необходимым навыкам. И если вы просто хотите бесконечно прокручивать и злиться, то хорошо, мы поможем вам с этим (хотя мы хотим, чтобы пользователи проводили время, используя приложение, если они считают это временем, проведенным с пользой, мы не хотим быть патерналистичными в том, что это значит для них).