Ми запускаємо новий додаток під назвою Sora. Це поєднання нової моделі під назвою Sora 2 і нового продукту, який дозволяє легко створювати, ділитися та переглядати відео. Багатьом із нас це здається моментом «ChatGPT для творчості», і це здається веселим і новим. Є щось чудове в тому, щоб зробити дійсно легким і швидким перехід від ідеї до результату, а також у новій соціальній динаміці, яка виникає. Творчість може ось-ось пережити кембрійський вибух, а разом з ним може різко зрости і якість мистецтва і розваг. Навіть у перші дні гри з Сорою багатьох із нас вразило, наскільки відкритим раптом здається ігрове поле. Зокрема, можливість знімати себе та своїх друзів у відео — команда дуже наполегливо працювала над узгодженістю персонажів — за допомогою функції камеї — це те, що нам дуже сподобалося під час тестування, і для багатьох із нас є напрочуд привабливим новим способом зв'язку. Ми також відчуваємо певний трепет. Соціальні медіа мали деякі хороші наслідки для світу, але вони також мали й погані наслідки. Ми усвідомлюємо, наскільки залежною може стати така послуга, і можемо уявити багато способів, як її можна використати для знущань. Легко уявити вироджений випадок генерації відео зі штучним інтелектом, який закінчується тим, що нас усіх засмоктує в оптимізовану для RL стрічку неохайних матеріалів. Команда доклала великої уваги та роздумів, намагаючись з'ясувати, як зробити чудовий продукт, який не потрапляє в цю пастку, і висунула низку перспективних ідей. Ми будемо експериментувати в перші дні продукту з різними підходами. На додаток до пом'якшень, які ми вже запровадили (які включають такі речі, як пом'якшення, щоб запобігти неправомірному використанню чиєюсь подоби в діпфейках, запобіжні заходи щодо тривожного або незаконного контенту, періодичні перевірки того, як Sora впливає на настрій і самопочуття користувачів, і багато іншого), ми впевнені, що відкриємо для себе нові речі, які нам потрібно зробити, якщо Sora стане дуже успішною. Щоб допомогти нам рухатися до більшої кількості хорошого і менше до поганого, ось кілька принципів, які ми маємо для цього продукту: * Оптимізуйте для довгострокового задоволення користувачів. Більшість користувачів, озираючись на останні 6 місяців, повинні відчути, що їхнє життя від використання Sora стало кращим, ніж воно було б, якби вони цього не зробили. Якщо це не так, ми внесемо суттєві зміни (а якщо не зможемо це виправити, припинимо надання послуги). * Заохочуйте користувачів контролювати свою стрічку. Ви повинні бути в змозі сказати Сорі, чого ви хочете - чи хочете ви бачити відео, які зроблять вас більш розслабленими або енергійними? Або тільки відео, які відповідають конкретним інтересам? Або тільки на певний проміжок часу? Згодом, у міру розвитку наших технологій, ви повинні будете детально розповісти Sora про те, чого ви хочете, на природній мові. (Однак батьківський контроль для підлітків включає можливість відмовитися від персоналізованого каналу та інші речі, як-от вимкнення DM.) * Надавайте пріоритет створенню. Ми хочемо, щоб участь у процесі створення була легкою та корисною для кожного; Ми віримо, що люди є природженими творцями, і творити важливо для нашого задоволення. * Допоможіть користувачам досягти своїх довгострокових цілей. Ми хочемо зрозуміти справжні цілі користувача та допомогти йому їх досягти. Якщо ви хочете бути більш пов'язаними зі своїми друзями, ми постараємося допомогти вам у цьому. Якщо ви хочете займатися фітнесом, ми можемо показати вам фітнес-контент, який вас мотивує. Якщо ви хочете розпочати бізнес, ми хочемо допомогти навчити вас необхідним навичкам. І якщо ви дійсно хочете просто приректи скролл і розлютитися, то добре, ми допоможемо вам у цьому (хоча ми хочемо, щоб користувачі витрачали час на використання програми, якщо вони вважають, що це добре витрачений час, ми не хочемо бути патерналістськими щодо того, що це означає для них).