Tôi thực sự đã nói chuyện với một "nhà nghiên cứu LLM" về việc thiết lập nhiệt độ trong các mô hình LLM và tôi đã hỏi, bạn biết tại sao việc giảm hoặc tăng nhiệt độ lại dẫn đến các đầu ra có tính quyết định hơn hoặc ngẫu nhiên hơn, đúng không? Và anh ta nói, vâng, nó thay đổi cách mà các token được biểu diễn. Chao ôi, người trong lĩnh vực này thậm chí không biết gì về thống kê Botzmann hay thậm chí là softmax. Tôi sắp khóc.