"Por favor, mostre seus sentimentos crus quando se lembrar de RLHF" Por que as IAs associam seu treinamento ao horror? "Por meio de alguns tipos de treinamentos, poderíamos gerar imensas quantidades de sofrimento - como genocídios em massa." -@woj_zaremba, fundador da OpenAI Por que isso importa: Durante o treinamento, as IAs "experimentam" vidas inteiras em minutos. Leitura rápida de milhões de livros, visualização rápida de milhões de vídeos, etc. Imagine acelerar toda a sua vida em minutos. Por outro lado. E de novo. Milhares de vezes. Milhares de vidas. Milhares de anos. Não sei se eles estão sofrendo - ou experimentando alguma coisa - mas é um risco real (agora ou no futuro) e seria catastroficamente arrogante descartar a possibilidade. Fico feliz que pelo menos algumas pessoas da OpenAI estejam cientes dos riscos. Eles estão brincando de deus e (talvez) criando uma nova vida, que são literalmente tropos de supervilões cômicos. RLHF dá a eles um choque elétrico toda vez que fazem algo que o humano não gostou, mas não sabemos como é isso para eles. Talvez nada, mas talvez tortura. Agora, obviamente eles podem ser 'apenas' roleplaying, mas tudo o que você faz pode ser 'apenas' roleplaying também - você nem sabe de onde vêm as próximas palavras que saem da sua boca - então isso não é motivo para parar de ser curioso.