NVIDIA 的新 Blackwell 架構令人驚嘆！ NVIDIA 在其他人面前的領先地位真是不可思議。 Blackwell 是 GPU 架構的一次重大升級。您可以以更快、更便宜的方式訓練和服務萬億參數的模型，並且在幾年前還是科幻的規模上進行。 1. 訓練速度提升 2.5 倍，推理效率提升 4 倍（與 Hopper 相比） 2. 192 GB 的記憶體和 8TB/s 的記憶體帶寬 3. 在雙晶片設計中擁有 2080 億個晶體管（Hopper 是單晶片，擁有 800 億個晶體管） 我讀到一篇線上分析，估計 OpenAI 每次運行 o3 的評估周期可以節省 143 萬美元！ 這真是令人驚嘆！ 如果您的公司目前正在使用 GPU 集群，考慮看看 Blackwell 集群。 在成本和效率方面，Blackwell 將超越任何與 AI 相關的產品。您現在就可以預訂一個集群：