Aujourd'hui, nous publions une mise à jour du livre JAX TPU, cette fois sur les GPU. Comment fonctionnent les GPU, surtout par rapport aux TPU ? Comment sont-ils interconnectés ? Et comment cela affecte-t-il l'entraînement des LLM ? 1/n
341,4K