Estamos a lançar uma nova aplicação chamada Sora. Esta é uma combinação de um novo modelo chamado Sora 2 e um novo produto que torna fácil criar, partilhar e visualizar vídeos. Isto parece para muitos de nós como o momento do "ChatGPT para a criatividade", e é divertido e novo. Há algo de grandioso em tornar realmente fácil e rápido passar da ideia ao resultado, e nas novas dinâmicas sociais que emergem. A criatividade pode estar prestes a passar por uma explosão cambriana, e juntamente com isso, a qualidade da arte e do entretenimento pode aumentar drasticamente. Mesmo nos primeiros dias de interação com o Sora, tem sido impressionante para muitos de nós como o campo de jogo de repente parece tão aberto. Em particular, a capacidade de colocar a si mesmo e os seus amigos num vídeo— a equipa trabalhou muito na consistência dos personagens— com a funcionalidade de cameo é algo que realmente apreciámos durante os testes, e é para muitos de nós uma nova forma surpreendentemente cativante de conectar. Também sentimos alguma apreensão. As redes sociais tiveram alguns efeitos positivos no mundo, mas também tiveram alguns negativos. Estamos cientes de quão viciante um serviço como este pode se tornar, e podemos imaginar muitas formas como poderia ser usado para bullying. É fácil imaginar o caso degenerado da geração de vídeos por IA que acaba por nos sugar a todos para um feed otimizado por RL. A equipa teve muito cuidado e reflexão em tentar descobrir como criar um produto agradável que não caia nessa armadilha, e surgiu com várias ideias promissoras. Vamos experimentar nos primeiros dias do produto com diferentes abordagens. Além das mitigations que já implementámos (que incluem coisas como mitigations para prevenir que alguém misuse a imagem de outra pessoa em deepfakes, salvaguardas para conteúdo perturbador ou ilegal, verificações periódicas sobre como o Sora está a impactar o humor e o bem-estar dos utilizadores, e mais) temos certeza de que iremos descobrir novas coisas que precisamos fazer se o Sora se tornar muito bem-sucedido. Para nos ajudar a orientar-nos mais para o bom e menos para o mau, aqui estão alguns princípios que temos para este produto: *Otimize para a satisfação do utilizador a longo prazo. A maioria dos utilizadores, olhando para os últimos 6 meses, deve sentir que a sua vida é melhor por usar o Sora do que teria sido se não o tivesse feito. Se esse não for o caso, faremos mudanças significativas (e se não conseguirmos corrigir, descontinuaremos o serviço). *Incentive os utilizadores a controlar o seu feed. Você deve ser capaz de dizer ao Sora o que deseja— quer ver vídeos que o deixem mais relaxado, ou mais energizado? Ou apenas vídeos que se encaixem num interesse específico? Ou apenas por um certo período de tempo? Eventualmente, à medida que a nossa tecnologia avança, você deverá ser capaz de dizer ao Sora o que deseja em detalhe em linguagem natural. (No entanto, os controles parentais para adolescentes incluem a capacidade de optar por não ter um feed personalizado, e outras coisas como desligar DMs.) *Priorize a criação. Queremos tornar fácil e gratificante para todos participarem no processo de criação; acreditamos que as pessoas são criadores natos, e criar é importante para a nossa satisfação. *Ajude os utilizadores a alcançar os seus objetivos a longo prazo. Queremos entender os verdadeiros objetivos de um utilizador e ajudá-lo a alcançá-los. Se você quer estar mais conectado aos seus amigos, tentaremos ajudá-lo com isso. Se você quer ficar em forma, podemos mostrar-lhe conteúdo de fitness que o motive. Se você quer iniciar um negócio, queremos ajudar a ensinar-lhe as habilidades que precisa. E se você realmente só quer rolar para baixo e ficar irritado, então ok, nós o ajudaremos com isso (embora queiramos que os utilizadores passem tempo usando a aplicação se acharem que é tempo bem gasto, não queremos ser paternalistas sobre o que isso significa para eles).