Stiamo lanciando una nuova app chiamata Sora. Questa è una combinazione di un nuovo modello chiamato Sora 2 e un nuovo prodotto che rende facile creare, condividere e visualizzare video. Questo sembra a molti di noi come il momento del "ChatGPT per la creatività", ed è divertente e nuovo. C'è qualcosa di fantastico nel rendere davvero facile e veloce passare dall'idea al risultato, e le nuove dinamiche sociali che emergono. La creatività potrebbe essere sul punto di attraversare un'esplosione cambriana, e insieme ad essa, la qualità dell'arte e dell'intrattenimento può aumentare drasticamente. Anche nei primissimi giorni di utilizzo di Sora, è stato sorprendente per molti di noi quanto il campo di gioco sembri improvvisamente aperto. In particolare, la possibilità di mettere te stesso e i tuoi amici in un video—il team ha lavorato molto sulla coerenza dei personaggi—con la funzione cameo è qualcosa che abbiamo davvero apprezzato durante i test, ed è per molti di noi un modo sorprendentemente coinvolgente per connettersi. Sentiamo anche un po' di trepidazione. I social media hanno avuto alcuni effetti positivi sul mondo, ma hanno anche avuto alcuni effetti negativi. Siamo consapevoli di quanto un servizio come questo possa diventare dipendente, e possiamo immaginare molti modi in cui potrebbe essere usato per il bullismo. È facile immaginare il caso degenerato della generazione di video AI che finisce con tutti noi risucchiati in un feed di contenuti ottimizzati per la RL. Il team ha messo grande cura e pensiero nel cercare di capire come creare un prodotto delizioso che non cada in quella trappola, e ha proposto una serie di idee promettenti. Sperimenteremo nei primi giorni del prodotto con approcci diversi. In aggiunta alle mitigazioni che abbiamo già messo in atto (che includono cose come mitigazioni per prevenire l'uso improprio dell'immagine di qualcuno nei deepfake, salvaguardie per contenuti disturbanti o illegali, controlli periodici su come Sora impatta l'umore e il benessere degli utenti, e altro) siamo certi che scopriremo nuove cose che dobbiamo fare se Sora diventa molto successo. Per aiutarci a orientarci verso più del buono e meno del cattivo, ecco alcuni principi che abbiamo per questo prodotto: *Ottimizzare per la soddisfazione a lungo termine degli utenti. La maggior parte degli utenti, guardando indietro agli ultimi 6 mesi, dovrebbe sentirsi che la propria vita è migliore grazie all'uso di Sora rispetto a come sarebbe stata se non l'avessero usata. Se non è così, apporteremo cambiamenti significativi (e se non possiamo risolverlo, interromperemo l'offerta del servizio). *Incoraggiare gli utenti a controllare il proprio feed. Dovresti essere in grado di dire a Sora cosa vuoi—vuoi vedere video che ti faranno sentire più rilassato, o più energico? O solo video che si adattano a un interesse specifico? O solo per un certo periodo di tempo? Alla fine, man mano che la nostra tecnologia progredisce, dovrai poter dire a Sora cosa vuoi in dettaglio in linguaggio naturale. (Tuttavia, i controlli parentali per gli adolescenti includono la possibilità di rinunciare a un feed personalizzato, e altre cose come disattivare i DM.) *Prioritizzare la creazione. Vogliamo rendere facile e gratificante per tutti partecipare al processo di creazione; crediamo che le persone siano creatori nati e che creare sia importante per la nostra soddisfazione. *Aiutare gli utenti a raggiungere i loro obiettivi a lungo termine. Vogliamo capire i veri obiettivi di un utente e aiutarlo a raggiungerli. Se vuoi essere più connesso ai tuoi amici, cercheremo di aiutarti con questo. Se vuoi metterti in forma, possiamo mostrarti contenuti fitness che ti motiveranno. Se vuoi avviare un'attività, vogliamo aiutarti a insegnarti le competenze necessarie. E se vuoi davvero solo scorrere senza meta e arrabbiarti, allora va bene, ti aiuteremo con questo (anche se vogliamo che gli utenti trascorrano tempo utilizzando l'app se pensano che sia tempo ben speso, non vogliamo essere paternalistici su cosa significhi per loro).