Spouštíme novou aplikaci s názvem Sora. Jedná se o kombinaci nového modelu s názvem Sora 2 a nového produktu, který usnadňuje vytváření, sdílení a prohlížení videí. Mnohým z nás to připadá jako okamžik "ChatGPT pro kreativitu" a je to zábavné a nové. Je něco skvělého na tom, když je opravdu snadné a rychlé přejít od nápadu k výsledku a k nové společenské dynamice, která se objeví. Kreativita by mohla brzy projít kambrickou explozí a spolu s ní se může drasticky zvýšit kvalita umění a zábavy. Dokonce i v úplných počátcích hraní se Sorou bylo pro mnohé z nás zarážející, jak otevřené se najednou zdá hrací pole. Zejména možnost vžít sebe a své přátele do videa – tým velmi tvrdě pracoval na konzistenci postav – s funkcí camea je něco, co jsme si během testování opravdu užili a pro mnohé z nás je to překvapivě přesvědčivý nový způsob, jak se propojit. Cítíme také určité obavy. Sociální média měla na svět několik dobrých účinků, ale měla také několik špatných účinků. Jsme si vědomi toho, jak návykovou se taková služba může stát, a dokážeme si představit mnoho způsobů, jak by mohla být zneužita k šikaně. Je snadné si představit zvrhlý případ generování videa pomocí umělé inteligence, který skončí tím, že jsme všichni vtaženi do slop feedu optimalizovaného pro RL. Tým věnoval velkou péči a přemýšlení tomu, aby se pokusil přijít na to, jak vyrobit nádherný produkt, který nespadne do této pasti, a přišel s řadou slibných nápadů. V počátcích produktu budeme experimentovat s různými přístupy. Kromě zmírňujících opatření, která jsme již zavedli (která zahrnují věci, jako jsou zmírňující opatření, která mají zabránit tomu, aby někdo zneužil něčí podobiznu v deepfakes, záruky proti znepokojivému nebo nezákonnému obsahu, pravidelné kontroly toho, jak Sora ovlivňuje náladu a pohodu uživatelů a další), jsme si jisti, že objevíme nové věci, které musíme udělat, pokud se Sora stane velmi úspěšnou. Abychom se mohli zaměřit na více dobrých a méně špatných, zde je několik zásad, které pro tento produkt máme: *Optimalizujte pro dlouhodobou spokojenost uživatelů. Většina uživatelů, kteří se ohlédnou za posledními 6 měsíci, by měla mít pocit, že jejich život je pro používání Sora lepší, než by byl, kdyby tomu tak nebylo. Pokud tomu tak nebude, provedeme významné změny (a pokud to nedokážeme opravit, přestaneme službu nabízet). *Vyzvěte uživatele, aby měli svůj zdroj pod kontrolou. Měli byste být schopni říct Soře, co chcete – chcete vidět videa, která vás uvolní nebo nabijí energií? Nebo pouze videa, která odpovídají konkrétnímu zájmu? Nebo jen na určitou dobu? Nakonec, jak se naše technologie vyvíjí, budete muset Soře podrobně říct, co chcete, v přirozeném jazyce. (Rodičovská kontrola pro dospívající však zahrnuje možnost odhlásit se z personalizovaného zdroje a další věci, jako je vypnutí DM.) *Upřednostněte tvorbu. Chceme, aby účast na procesu tvorby byla pro všechny snadná a obohacující; Věříme, že lidé jsou přirození tvůrci a tvorba je důležitá k naší spokojenosti. *Pomozte uživatelům dosáhnout jejich dlouhodobých cílů. Chceme porozumět skutečným cílům uživatele a pomoci mu jich dosáhnout. Pokud chcete být více propojeni se svými přáteli, pokusíme se vám s tím pomoci. Pokud se chcete dostat do formy, můžeme vám ukázat fitness obsah, který vás bude motivovat. Pokud chcete začít podnikat, chceme vám pomoci naučit se dovednosti, které potřebujete. A pokud opravdu chcete jen scrollovat a být naštvaní, pak dobře, pomůžeme vám s tím (i když chceme, aby uživatelé trávili čas používáním aplikace, pokud si myslí, že je to dobře strávený čas, nechceme být paternalističtí ohledně toho, co to pro ně znamená).