Estamos lançando um novo aplicativo chamado Sora. Esta é uma combinação de um novo modelo chamado Sora 2 e um novo produto que facilita a criação, o compartilhamento e a visualização de vídeos. Para muitos de nós, isso parece o momento "ChatGPT para criatividade" e parece divertido e novo. Há algo ótimo em tornar realmente fácil e rápido ir da ideia ao resultado e às novas dinâmicas sociais que surgem. A criatividade pode estar prestes a passar por uma explosão cambriana e, junto com ela, a qualidade da arte e do entretenimento pode aumentar drasticamente. Mesmo nos primeiros dias de jogo com Sora, tem sido impressionante para muitos de nós como o campo de jogo de repente parece aberto. Em particular, a capacidade de colocar você e seus amigos em um vídeo - a equipe trabalhou muito na consistência do personagem - com o recurso de participação especial é algo que realmente gostamos durante os testes e é para muitos de nós uma nova maneira surpreendentemente atraente de se conectar. Também sentimos alguma apreensão. A mídia social teve alguns bons efeitos no mundo, mas também teve alguns efeitos ruins. Estamos cientes de como um serviço como esse pode se tornar viciante e podemos imaginar muitas maneiras de usá-lo para o bullying. É fácil imaginar o caso degenerado de geração de vídeo de IA que acaba com todos nós sendo sugados para um feed de lixo otimizado para RL. A equipe dedicou muito cuidado e pensamento para tentar descobrir como fazer um produto delicioso que não caia nessa armadilha e apresentou uma série de ideias promissoras. Vamos experimentar nos primeiros dias do produto diferentes abordagens. Além das mitigações que já implementamos (que incluem mitigações para evitar que alguém use indevidamente a imagem de alguém em deepfakes, salvaguardas para conteúdo perturbador ou ilegal, verificações periódicas sobre como o Sora está afetando o humor e o bem-estar dos usuários e muito mais), temos certeza de que descobriremos coisas novas que precisamos fazer se o Sora se tornar muito bem-sucedido. Para ajudar a nos guiar em direção a mais do bem e menos do mal, aqui estão alguns princípios que temos para este produto: *Otimize para a satisfação do usuário a longo prazo. A maioria dos usuários, olhando para trás nos últimos 6 meses, deve sentir que sua vida é melhor por usar o Sora do que teria sido se não tivessem. Se não for esse o caso, faremos alterações significativas (e se não pudermos corrigi-lo, descontinuaremos a oferta do serviço). *Incentive os usuários a controlar seu feed. Você deve ser capaz de dizer a Sora o que você quer - você quer ver vídeos que o deixarão mais relaxado ou mais energizado? Ou apenas vídeos que se encaixam em um interesse específico? Ou apenas por um certo tempo? Eventualmente, à medida que nossa tecnologia avança, você deve dizer a Sora o que deseja em detalhes em linguagem natural. (No entanto, os controles dos pais para adolescentes incluem a capacidade de desativar um feed personalizado e outras coisas, como desativar DMs.) *Priorize a criação. Queremos tornar mais fácil e gratificante para todos participarem do processo de criação; Acreditamos que as pessoas são criadores natos e criar é importante para nossa satisfação. *Ajude os usuários a atingir seus objetivos de longo prazo. Queremos entender os verdadeiros objetivos de um usuário e ajudá-lo a alcançá-los. Se você quiser estar mais conectado com seus amigos, tentaremos ajudá-lo com isso. Se você quiser entrar em forma, podemos mostrar conteúdo de fitness que irá motivá-lo. Se você deseja iniciar um negócio, queremos ajudar a ensinar as habilidades de que você precisa. E se você realmente quer apenas rolar a pena e ficar com raiva, então ok, nós o ajudaremos com isso (embora queiramos que os usuários passem algum tempo usando o aplicativo se acharem que é um tempo bem gasto, não queremos ser paternalistas sobre o que isso significa para eles).