Vi lanserer en ny app som heter Sora. Dette er en kombinasjon av en ny modell kalt Sora 2, og et nytt produkt som gjør det enkelt å lage, dele og se videoer. Dette føles for mange av oss som "ChatGPT for kreativitet"-øyeblikket, og det føles morsomt og nytt. Det er noe bra med å gjøre det veldig enkelt og raskt å gå fra idé til resultat, og den nye sosiale dynamikken som dukker opp. Kreativitet kan være i ferd med å gå gjennom en kambrisk eksplosjon, og sammen med det kan kvaliteten på kunst og underholdning øke drastisk. Selv i de aller første dagene av å spille med Sora, har det vært slående for mange av oss hvor åpent spillefeltet plutselig føles. Spesielt muligheten til å sette deg selv og vennene dine inn i en video – teamet jobbet veldig hardt med karakterkonsistens – med cameo-funksjonen er noe vi virkelig har likt under testingen, og er for mange av oss en overraskende overbevisende ny måte å koble til på. Vi føler også en viss frykt. Sosiale medier har hatt noen gode effekter på verden, men det har også hatt noen dårlige. Vi er klar over hvor vanedannende en tjeneste som dette kan bli, og vi kan forestille oss mange måter den kan brukes til mobbing. Det er lett å forestille seg det degenererte tilfellet av AI-videogenerering som ender opp med at vi alle blir sugd inn i en RL-optimalisert slop-feed. Teamet har lagt stor omhu og omtanke i å prøve å finne ut hvordan man lager et herlig produkt som ikke går i den fellen, og har kommet opp med en rekke lovende ideer. Vi vil eksperimentere i de første dagene av produktet med forskjellige tilnærminger. I tillegg til avbøtende tiltak vi allerede har satt på plass (som inkluderer ting som avbøtende tiltak for å forhindre at noen misbruker noens likhet i deepfakes, sikkerhetstiltak for forstyrrende eller ulovlig innhold, periodiske kontroller av hvordan Sora påvirker brukernes humør og velvære, og mer) er vi sikre på at vi vil oppdage nye ting vi må gjøre hvis Sora blir veldig vellykket. For å hjelpe oss med å veilede oss mot mer av det gode og mindre av det dårlige, her er noen prinsipper vi har for dette produktet: *Optimaliser for langsiktig brukertilfredshet. Flertallet av brukerne, når de ser tilbake på de siste 6 månedene, bør føle at livet deres er bedre for å bruke Sora enn det ville vært hvis de ikke hadde gjort det. Hvis det ikke er tilfelle, vil vi gjøre betydelige endringer (og hvis vi ikke kan fikse det, vil vi slutte å tilby tjenesten). *Oppfordre brukerne til å kontrollere feeden sin. Du bør kunne fortelle Sora hva du vil – vil du se videoer som vil gjøre deg mer avslappet eller mer energisk? Eller bare videoer som passer til en bestemt interesse? Eller bare for en viss tid? Etter hvert som teknologien vår utvikler seg, vil du være nødt til å fortelle Sora hva du vil ha i detalj på naturlig språk. (Foreldrekontroll for tenåringer inkluderer imidlertid muligheten til å velge bort en personlig feed, og andre ting som å slå av DM-er.) *Prioriter oppretting. Vi ønsker å gjøre det enkelt og givende for alle å delta i skapelsesprosessen; Vi tror at mennesker er naturlige skapere, og det å skape er viktig for vår tilfredshet. *Hjelpe brukere med å nå sine langsiktige mål. Vi ønsker å forstå en brukers sanne mål, og hjelpe dem med å nå dem. Hvis du ønsker å være mer knyttet til vennene dine, vil vi prøve å hjelpe deg med det. Hvis du ønsker å komme i form, kan vi vise deg treningsinnhold som vil motivere deg. Hvis du ønsker å starte en bedrift, ønsker vi å hjelpe deg med å lære deg ferdighetene du trenger. Og hvis du virkelig bare vil doom scroll og være sint, så ok, vi hjelper deg med det (selv om vi vil at brukere skal bruke tid på å bruke appen hvis de synes det er vel anvendt tid, ønsker vi ikke å være paternalistiske om hva det betyr for dem).