Nous lançons une nouvelle application appelée Sora. C'est une combinaison d'un nouveau modèle appelé Sora 2 et d'un nouveau produit qui facilite la création, le partage et la visualisation de vidéos. Pour beaucoup d'entre nous, cela ressemble à un moment de "ChatGPT pour la créativité", et c'est à la fois amusant et nouveau. Il y a quelque chose de formidable à rendre vraiment facile et rapide le passage de l'idée au résultat, ainsi que les nouvelles dynamiques sociales qui émergent. La créativité pourrait être sur le point de connaître une explosion cambrienne, et avec elle, la qualité de l'art et du divertissement pourrait augmenter considérablement. Même dans les tout premiers jours d'expérimentation avec Sora, il a été frappant pour beaucoup d'entre nous de constater à quel point le terrain de jeu semble soudainement ouvert. En particulier, la capacité de se mettre soi-même et ses amis dans une vidéo - l'équipe a travaillé très dur sur la cohérence des personnages - avec la fonctionnalité de caméo est quelque chose que nous avons vraiment apprécié lors des tests, et c'est pour beaucoup d'entre nous une nouvelle façon étonnamment convaincante de se connecter. Nous ressentons également une certaine appréhension. Les médias sociaux ont eu des effets positifs sur le monde, mais ils ont aussi eu des effets négatifs. Nous sommes conscients de la manière dont un service comme celui-ci pourrait devenir addictif, et nous pouvons imaginer de nombreuses façons dont il pourrait être utilisé pour le harcèlement. Il est facile d'imaginer le cas dégénéré de la génération de vidéos par IA qui nous entraîne tous dans un flux optimisé par RL. L'équipe a mis beaucoup de soin et de réflexion pour essayer de trouver comment créer un produit agréable qui ne tombe pas dans ce piège, et a proposé un certain nombre d'idées prometteuses. Nous expérimenterons dans les premiers jours du produit avec différentes approches. En plus des mesures que nous avons déjà mises en place (qui incluent des choses comme des mesures pour empêcher quelqu'un de mal utiliser l'image de quelqu'un d'autre dans des deepfakes, des protections contre le contenu perturbant ou illégal, des vérifications périodiques sur l'impact de Sora sur l'humeur et le bien-être des utilisateurs, et plus encore), nous sommes sûrs que nous découvrirons de nouvelles choses que nous devrons faire si Sora devient très réussi. Pour nous aider à nous orienter vers plus de bon et moins de mauvais, voici quelques principes que nous avons pour ce produit : *Optimiser pour la satisfaction à long terme des utilisateurs. La majorité des utilisateurs, en regardant les 6 derniers mois, devraient sentir que leur vie est meilleure grâce à Sora que si ils ne l'avaient pas utilisé. Si ce n'est pas le cas, nous apporterons des changements significatifs (et si nous ne pouvons pas le corriger, nous arrêterons d'offrir le service). *Encourager les utilisateurs à contrôler leur fil. Vous devriez pouvoir dire à Sora ce que vous voulez - voulez-vous voir des vidéos qui vous rendront plus détendu, ou plus énergique ? Ou seulement des vidéos qui correspondent à un intérêt spécifique ? Ou seulement pendant un certain temps ? Finalement, à mesure que notre technologie progresse, vous pourrez dire à Sora ce que vous voulez en détail dans un langage naturel. (Cependant, les contrôles parentaux pour les adolescents incluent la possibilité de ne pas participer à un fil personnalisé, et d'autres choses comme désactiver les messages directs.) *Prioriser la création. Nous voulons faciliter et récompenser la participation de tous au processus de création ; nous croyons que les gens sont des créateurs nés, et que créer est important pour notre satisfaction. *Aider les utilisateurs à atteindre leurs objectifs à long terme. Nous voulons comprendre les véritables objectifs d'un utilisateur et les aider à les atteindre. Si vous voulez être plus connecté à vos amis, nous essaierons de vous aider avec cela. Si vous voulez vous mettre en forme, nous pouvons vous montrer du contenu de fitness qui vous motivera. Si vous voulez créer une entreprise, nous voulons vous aider à acquérir les compétences dont vous avez besoin. Et si vous voulez vraiment juste faire défiler sans but et être en colère, alors d'accord, nous vous aiderons avec ça (bien que nous souhaitions que les utilisateurs passent du temps à utiliser l'application s'ils pensent que c'est du temps bien dépensé, nous ne voulons pas être paternalistes sur ce que cela signifie pour eux).