- يبدأ إنشاء الدفعات الصغيرة في ربط النطاق الترددي للذاكرة ويبقى على هذا النحو مع زيادة طول السياق. - يمكنك جعله مرتبطا بالحساب (وضرب نوى الموتر هذه) عن طريق زيادة حجم الدفعة / عدد الطلبات المتوازية. - ولكن مع زيادة طول السياق ، يبدأ في أن يصبح أكثر ارتباطا بالنطاق الترددي مرة أخرى. - وهناك حد لحجم حجم الدفعة بسبب قيود الذاكرة. حجة قوية للنماذج ذات حجم الحالة الأصغر. إنها تساعدك على تجنب جدار الذاكرة حتى لتوليد الدفعات حتى أثناء نمو السياق