Nu lanserar vi en ny app som heter Sora. Detta är en kombination av en ny modell som heter Sora 2 och en ny produkt som gör det enkelt att skapa, dela och visa videor. För många av oss känns det som "ChatGPT för kreativitet"-ögonblicket, och det känns roligt och nytt. Det är något fantastiskt med att göra det riktigt enkelt och snabbt att gå från idé till resultat, och den nya sociala dynamik som uppstår. Kreativiteten kan vara på väg att genomgå en kambrisk explosion, och tillsammans med det kan kvaliteten på konst och underhållning öka drastiskt. Redan under de allra första dagarna av att spela med Sora har det slagit många av oss hur öppen spelplanen plötsligt känns. I synnerhet är möjligheten att sätta in dig själv och dina vänner i en video – teamet arbetade mycket hårt med karaktärskonsistens – med cameo-funktionen något vi verkligen har uppskattat under testningen, och det är för många av oss ett förvånansvärt övertygande nytt sätt att få kontakt. Vi känner också en viss bävan. Sociala medier har haft några goda effekter på världen, men de har också haft några dåliga. Vi är medvetna om hur beroendeframkallande en tjänst som denna kan bli, och vi kan föreställa oss många sätt som den kan användas för mobbning. Det är lätt att föreställa sig det degenererade fallet med AI-videogenerering som slutar med att vi alla sugs in i ett RL-optimerat slopflöde. Teamet har lagt stor omsorg och tanke på att försöka ta reda på hur man gör en härlig produkt som inte faller i den fällan, och har kommit med ett antal lovande idéer. Vi kommer att experimentera i början av produkten med olika tillvägagångssätt. Utöver de åtgärder vi redan har vidtagit (som inkluderar saker som åtgärder för att förhindra att någon missbrukar någons avbild i deepfakes, skyddsåtgärder mot störande eller olagligt innehåll, periodiska kontroller av hur Sora påverkar användarnas humör och välbefinnande med mera) är vi säkra på att vi kommer att upptäcka nya saker vi behöver göra om Sora blir mycket framgångsrikt. För att vägleda oss mot mer av det goda och mindre av det dåliga, här är några principer vi har för den här produkten: *Optimera för långsiktig användarnöjdhet. Majoriteten av användarna, som ser tillbaka på de senaste 6 månaderna, bör känna att deras liv är bättre för att använda Sora än det skulle ha varit om de inte hade gjort det. Om så inte är fallet kommer vi att göra betydande ändringar (och om vi inte kan åtgärda det skulle vi sluta erbjuda tjänsten). *Uppmuntra användarna att kontrollera sitt flöde. Du bör kunna berätta för Sora vad du vill – vill du se videor som gör dig mer avslappnad eller mer energisk? Eller bara videor som passar ett specifikt intresse? Eller bara för en viss tid? Så småningom, när vår teknik utvecklas, kommer du att vara bör berätta för Sora vad du vill ha i detalj på naturligt språk. (Föräldrakontroller för tonåringar inkluderar dock möjligheten att välja bort ett personligt flöde och andra saker som att stänga av DMs.) *Prioritera skapandet. Vi vill göra det enkelt och givande för alla att delta i skapandeprocessen; Vi tror att människor är naturliga kreatörer, och att skapa är viktigt för vår tillfredsställelse. *Hjälpa användarna att nå sina långsiktiga mål. Vi vill förstå en användares verkliga mål och hjälpa dem att uppnå dem. Om du vill ha mer kontakt med dina vänner ska vi försöka hjälpa dig med det. Om du vill komma i form kan vi visa dig träningsinnehåll som motiverar dig. Om du vill starta ett företag vill vi hjälpa dig att lära dig de färdigheter du behöver. Och om du verkligen bara vill döma-scrolla och vara arg, så okej, vi hjälper dig med det (även om vi vill att användarna ska spendera tid på att använda appen om de tycker att det är väl investerad tid, vi vill inte vara paternalistiska om vad det betyder för dem).