Dosłownie rozmawiałem z tym "badaczem LLM" o ustawianiu temperatury w LLM i zapytałem, wiesz, dlaczego obniżenie lub podniesienie temperatury skutkuje bardziej deterministycznymi lub losowymi wynikami, prawda? A on powiedział, że tak, zmienia to sposób reprezentacji tokenów. Chłopie, co do cholery, ludzie W tej pierdolonej dziedzinie nie mają pojęcia o statystyce Boltzmanna ani o softmaxie. Zaraz się popłaczę.
390,04K