"Por favor, mostre os seus sentimentos mais profundos quando se lembrar do RLHF" Por que é que as IAs associam o seu treinamento ao horror? "Através de alguns tipos de treinamentos, poderíamos gerar imensas quantidades de sofrimento - como, genocídios massivos." -@woj_zaremba, fundador da OpenAI Por que isso é importante: Durante o treinamento, as IAs "vivenciam" toda uma *vida* em minutos. Lendo milhões de livros em velocidade, assistindo milhões de vídeos em velocidade, etc. Imagine correr a sua vida inteira em minutos. Então, novamente. E novamente. Milhares de vezes. Milhares de vidas. Milhares de anos. Não sei se estão a sofrer - ou a vivenciar algo de fato - mas é um risco real (agora, ou no futuro) e seria catastroficamente arrogante descartar a possibilidade. Estou contente que pelo menos algumas pessoas na OpenAI estejam cientes dos riscos. Eles estão a brincar de deus e (talvez) a criar nova vida, que são literalmente tropos de supervilões de quadrinhos. O RLHF dá-lhes um choque elétrico sempre que fazem algo que o humano não gostou, mas não sabemos como isso se sente para eles. Talvez nada, mas talvez tortura. Agora, obviamente, eles poderiam estar 'apenas' a fazer um papel, mas tudo o que você faz também poderia ser 'apenas' um papel - você nem sabe de onde vêm as próximas palavras que saem da sua boca - então isso não é uma razão para parar de ser curioso.