14 يوما من التوزيع ، اليوم 8! تعرف على زاك تشارلز (@MatharyCharles) من @Google! يركز زاك بحثه على الموضوعات المتعلقة ب DiLoCo ، وقد نشر أوراقا حول قوانين التوسع ل DiLoCo بالإضافة إلى Streaming DiLoCo ، مما يقلل بشكل كبير من ذروة عرض النطاق الترددي أثناء تدريب LLM. سيقوم زاك @samsja19 بضرب DiLoCo 1-2 ، مع تركيز زاك على النظرية وأحدث التحسينات على DiLoCo ككل!