Uruchamiamy nową aplikację o nazwie Sora. To połączenie nowego modelu o nazwie Sora 2 oraz nowego produktu, który ułatwia tworzenie, udostępnianie i oglądanie filmów. Dla wielu z nas to moment, który przypomina „ChatGPT dla kreatywności”, i wydaje się zabawny oraz nowy. Jest coś wspaniałego w tym, że można łatwo i szybko przejść od pomysłu do rezultatu, a nowe dynamiki społeczne, które się pojawiają, są fascynujące. Kreatywność może przejść przez eksplozję kambryjską, a wraz z nią jakość sztuki i rozrywki może drastycznie wzrosnąć. Już w bardzo wczesnych dniach zabawy z Sorą, wielu z nas zauważyło, jak otwarte nagle wydaje się pole do gry. Szczególnie możliwość umieszczenia siebie i swoich przyjaciół w filmie — zespół bardzo ciężko pracował nad spójnością postaci — z funkcją cameo to coś, co naprawdę cieszyło nas podczas testów i dla wielu z nas jest to zaskakująco przekonujący nowy sposób na połączenie się. Czujemy również pewną obawę. Media społecznościowe miały pewne pozytywne skutki dla świata, ale miały też negatywne. Jesteśmy świadomi, jak uzależniająca może stać się taka usługa, i wyobrażamy sobie wiele sposobów, w jakie mogłaby być wykorzystywana do prześladowania. Łatwo wyobrazić sobie degeneracyjną wersję generacji wideo AI, która kończy się tym, że wszyscy zostajemy wciągnięci w zoptymalizowany przez RL strumień śmieci. Zespół włożył wiele troski i myśli w to, aby spróbować stworzyć przyjemny produkt, który nie wpadnie w tę pułapkę, i wymyślił szereg obiecujących pomysłów. W pierwszych dniach produktu będziemy eksperymentować z różnymi podejściami. Oprócz środków zaradczych, które już wprowadziliśmy (w tym takich jak środki zapobiegające niewłaściwemu wykorzystaniu czyjegoś wizerunku w deepfake'ach, zabezpieczenia przed niepokojącymi lub nielegalnymi treściami, okresowe kontrole wpływu Sory na nastrój i samopoczucie użytkowników i inne), jesteśmy pewni, że odkryjemy nowe rzeczy, które musimy zrobić, jeśli Sora odniesie duży sukces. Aby pomóc nam kierować się w stronę większej ilości dobra i mniej zła, oto kilka zasad, które mamy dla tego produktu: *Optymalizuj dla długoterminowej satysfakcji użytkowników. Większość użytkowników, patrząc wstecz na ostatnie 6 miesięcy, powinna czuć, że ich życie jest lepsze dzięki korzystaniu z Sory, niż byłoby, gdyby z niej nie korzystali. Jeśli tak nie jest, wprowadzimy znaczące zmiany (a jeśli nie będziemy w stanie tego naprawić, zaprzestaniemy oferowania usługi). *Zachęcaj użytkowników do kontrolowania swojego feedu. Powinieneś być w stanie powiedzieć Sorze, czego chcesz — czy chcesz oglądać filmy, które sprawią, że poczujesz się bardziej zrelaksowany, czy bardziej energetyczny? A może tylko filmy, które pasują do konkretnego zainteresowania? Lub tylko przez określony czas? W miarę postępu naszej technologii, będziesz mógł szczegółowo powiedzieć Sorze, czego chcesz w naturalnym języku. (Jednakże, kontrola rodzicielska dla nastolatków obejmuje możliwość rezygnacji z spersonalizowanego feedu oraz inne rzeczy, takie jak wyłączenie DM-ów.) *Priorytet dla tworzenia. Chcemy ułatwić i nagradzać wszystkich za udział w procesie tworzenia; wierzymy, że ludzie są naturalnie urodzonymi twórcami, a tworzenie jest ważne dla naszej satysfakcji. *Pomagaj użytkownikom osiągać ich długoterminowe cele. Chcemy zrozumieć prawdziwe cele użytkownika i pomóc mu je osiągnąć. Jeśli chcesz być bardziej związany ze swoimi przyjaciółmi, postaramy się ci w tym pomóc. Jeśli chcesz się poprawić, możemy pokazać ci treści fitness, które cię zmotywują. Jeśli chcesz założyć firmę, chcemy pomóc nauczyć cię potrzebnych umiejętności. A jeśli naprawdę chcesz tylko przewijać i być zły, to w porządku, pomożemy ci w tym (chociaż chcemy, aby użytkownicy spędzali czas korzystając z aplikacji, jeśli uważają, że to dobrze spędzony czas, nie chcemy być paternalistyczni w tym, co to dla nich oznacza).