a maioria das pessoas não percebe que o temp está apenas ajustando a velocidade do ventilador no cluster da GPU que atende você
gojo
gojo15 de ago., 23:20
eu estava literalmente conversando com esse "pesquisador de LLM" sobre a configuração de temperatura em LLMs e perguntei por que diminuir ou aumentar a temperatura resulta em saídas mais determinísticas ou aleatórias, certo? E ele disse que sim, isso muda a forma como os tokens são representados. menino wtf, as pessoas no campo de merda não têm idéia sobre estatísticas botzmann ou mesmo softmax. Eu vou chorar.
431