¡La nueva arquitectura Blackwell de NVIDIA es asombrosa! Es increíble lo adelantado que está NVIDIA en comparación con los demás. Blackwell es una mejora masiva en la arquitectura de GPU. Puedes entrenar y servir modelos de un billón de parámetros más rápido, más barato y a una escala que hace unos años era ciencia ficción. 1. 2.5x velocidad de entrenamiento y 4x eficiencia de inferencia (en comparación con Hopper) 2. 192 GB de memoria y 8TB/s de ancho de banda de memoria 3. 208 mil millones de transistores en un diseño de doble chip (Hopper es de un solo chip, con 80 mil millones de transistores) Leí un análisis en línea que estima que OpenAI podría ahorrar $1.43 millones por ciclo de evaluación al ejecutar o3! ¡Esto es asombroso! Si tu empresa está utilizando actualmente un clúster de GPU, considera mirar un clúster Blackwell. Blackwell superará cualquier cosa relacionada con la IA en términos de costos y eficiencia. Puedes reservar un clúster ahora mismo: