Estamos lanzando una nueva aplicación llamada Sora. Esta es una combinación de un nuevo modelo llamado Sora 2 y un nuevo producto que facilita la creación, el intercambio y la visualización de videos. A muchos de nosotros nos parece el momento de "ChatGPT para la creatividad", y se siente divertido y nuevo. Hay algo genial en hacer que sea realmente fácil y rápido pasar de la idea al resultado, y las nuevas dinámicas sociales que surgen. La creatividad podría estar a punto de pasar por una explosión cámbrica y, junto con ella, la calidad del arte y el entretenimiento puede aumentar drásticamente. Incluso en los primeros días de jugar con Sora, a muchos de nosotros nos ha sorprendido lo abierto que se siente de repente el campo de juego. En particular, la capacidad de ponerte a ti y a tus amigos en un video (el equipo trabajó muy duro en la consistencia del personaje) con la función de cameo es algo que realmente disfrutamos durante las pruebas, y es para muchos de nosotros una nueva forma sorprendentemente convincente de conectarnos. También sentimos cierta inquietud. Las redes sociales han tenido algunos efectos buenos en el mundo, pero también han tenido algunos malos. Somos conscientes de lo adictivo que podría llegar a ser un servicio como este, y podemos imaginar muchas formas en que podría usarse para el acoso. Es fácil imaginar el caso degenerado de la generación de video de IA que termina con todos nosotros siendo absorbidos por una alimentación de basura optimizada para RL. El equipo ha puesto mucho cuidado y pensamiento en tratar de descubrir cómo hacer un producto delicioso que no caiga en esa trampa, y se le han ocurrido una serie de ideas prometedoras. Experimentaremos en los primeros días del producto con diferentes enfoques. Además de las mitigaciones que ya hemos implementado (que incluyen cosas como mitigaciones para evitar que alguien haga un mal uso de la imagen de alguien en deepfakes, salvaguardas para contenido perturbador o ilegal, controles periódicos sobre cómo Sora está afectando el estado de ánimo y el bienestar de los usuarios, y más), estamos seguros de que descubriremos nuevas cosas que debemos hacer si Sora tiene mucho éxito. Para ayudarnos a guiarnos hacia más de lo bueno y menos de lo malo, aquí hay algunos principios que tenemos para este producto: * Optimizar para la satisfacción del usuario a largo plazo. La mayoría de los usuarios, mirando hacia atrás en los últimos 6 meses, deberían sentir que su vida es mejor para usar Sora de lo que habría sido si no lo hubieran hecho. Si ese no es el caso, haremos cambios significativos (y si no podemos solucionarlo, dejaremos de ofrecer el servicio). *Anima a los usuarios a controlar su feed. Deberías poder decirle a Sora lo que quieres: ¿quieres ver videos que te relajen más o te den más energía? ¿O solo videos que se ajustan a un interés específico? ¿O solo por un cierto tiempo? Eventualmente, a medida que nuestra tecnología progrese, deberá decirle a Sora lo que quiere en detalle en lenguaje natural. (Sin embargo, los controles parentales para adolescentes incluyen la capacidad de optar por no recibir un feed personalizado y otras cosas como desactivar los mensajes directos). * Priorizar la creación. Queremos que sea fácil y gratificante para todos participar en el proceso de creación; Creemos que las personas son creadores natos y crear es importante para nuestra satisfacción. * Ayudar a los usuarios a alcanzar sus objetivos a largo plazo. Queremos comprender los verdaderos objetivos de un usuario y ayudarlo a alcanzarlos. Si quieres estar más conectado con tus amigos, intentaremos ayudarte con eso. Si quieres ponerte en forma, podemos mostrarte contenido de fitness que te motivará. Si desea iniciar un negocio, queremos ayudarlo a enseñarle las habilidades que necesita. Y si realmente solo quieres desplazarte y estar enojado, entonces está bien, te ayudaremos con eso (aunque queremos que los usuarios pasen tiempo usando la aplicación si creen que es un tiempo bien empleado, no queremos ser paternalistas sobre lo que eso significa para ellos).