Temperatura em LLMs, claramente explicada! A temperatura é um parâmetro de amostragem chave na inferência de LLM. Hoje vou mostrar o que isso significa e como realmente funciona. Vamos começar por solicitar ao OpenAI GPT-3.5 com um valor de temperatura baixo duas vezes. Observamos que ele produz respostas idênticas do LLM. Veja isso👇 Agora, vamos solicitar com um valor de temperatura alto. Desta vez, ele produz uma saída sem sentido. Veja a saída abaixo. O que está acontecendo aqui? 🤔 Vamos mergulhar nisso!...👇 Os LLMs geradores de texto são como modelos de classificação com uma camada de saída que abrange todo o vocabulário. No entanto, em vez de selecionar o token com a maior pontuação, eles "amostram" das previsões. Essa amostragem é controlada pelo parâmetro de Temperatura, que ajusta a função softmax. Veja isso👇 A temperatura controla como o comportamento da distribuição de probabilidade. ❗️Em temperaturas baixas, as probabilidades tornam-se acentuadamente picadas, tornando a amostragem quase gananciosa; o token com a maior pontuação é quase sempre escolhido. ❗️Em temperaturas altas, as probabilidades se achatam em direção a uma distribuição uniforme, tornando a amostragem aleatória e altamente estocástica. Veja isso👇 ✨ Algumas melhores práticas para usar a temperatura (T): - Defina um valor de T baixo para gerar respostas previsíveis. - Defina um valor de T alto para gerar respostas mais aleatórias e criativas. - Um valor de T extremamente alto raramente tem alguma utilidade real, ____ Isso é tudo! Compartilhe isso com sua rede se você achou isso interessante! Encontre-me → @akshay_pachaar ✔️ Para mais insights e tutoriais sobre IA e Aprendizado de Máquina! Cheers!!

Treine gpt-oss usando RL com apenas 15GB de VRAM:

Treine gpt-oss usando RL com apenas 15 VRAM: