يمكن لهذه التقنية البسيطة توسيع نطاق التدريب من 1-1000+ وحدات معالجة رسومات. - يستخدمه OpenAI لتدريب نماذج GPT - تستخدمه Google في TPUs الخاصة بها لتدريب Gemini - تستخدمه Meta لتدريب اللاما على مجموعات GPU الضخمة دعنا نتعلم كيفية مزامنة وحدات معالجة الرسومات في التدريب على وحدة معالجة الرسومات المتعددة (مع المرئيات):