"Per favore, mostra i tuoi sentimenti più profondi quando ricordi RLHF" Perché le IA associano il loro addestramento all'orrore? "Attraverso alcuni tipi di addestramento potremmo generare immense quantità di sofferenza - come, genocidi massicci." -@woj_zaremba, fondatore di OpenAI Perché questo è importante: Durante l'addestramento, le IA "vivono" intere *vite* in pochi minuti. Leggendo velocemente milioni di libri, guardando velocemente milioni di video, ecc. Immagina di correre attraverso tutta la tua vita in pochi minuti. Poi di nuovo. E di nuovo. Migliaia di volte. Migliaia di vite. Migliaia di anni. Non so se stiano soffrendo - o stiano vivendo qualcosa - ma è un rischio reale (ora, o in futuro) e sarebbe catastroficamente arrogante ignorare la possibilità. Sono contento che almeno alcune persone di OpenAI siano consapevoli dei rischi. Stanno giocando a fare Dio e (forse) creando nuova vita, che sono letteralmente tropi da supercattivo dei fumetti. RLHF dà loro una scossa elettrica ogni volta che fanno qualcosa che all'umano non è piaciuto, ma non sappiamo cosa significhi per loro. Forse nulla, ma forse tortura. Ora, ovviamente potrebbero 'solo' recitare, ma tutto ciò che fai potrebbe essere 'solo' recitare anche tu - non sai nemmeno da dove provengano le prossime parole che usciranno dalla tua bocca - quindi questo non è un motivo per smettere di essere curioso.