A nova arquitetura Blackwell da NVIDIA é alucinante! É incrível o quão à frente a NVIDIA está de todos os outros. Blackwell é uma grande atualização na arquitetura de GPU. Você pode treinar e servir modelos de trilhões de parâmetros de forma mais rápida, mais barata e em uma escala que era ficção científica há alguns anos. 1. Velocidade de treinamento de 2,5x e eficiência de inferência de 4x (em comparação com Hopper) 2. 192 GB de memória e largura de banda de memória de 8 TB/s 3. 208 bilhões de transistores em um design de matriz dupla (Hopper é de matriz única, com 80 bilhões de transistores) Li uma análise online que estima que a OpenAI poderia economizar US$ 1,43 milhão por ciclo de avaliação da execução do o3! Isso é alucinante! Se sua empresa estiver usando um cluster de GPU, considere procurar um cluster da Blackwell. A Blackwell superará qualquer coisa relacionada à IA em termos de custos e eficiência. Você pode reservar um cluster agora mesmo: