14 днів роздачі, день 8! Знайомтеся, Зак Чарльз (@MatharyCharles ) з @Google! Зак зосереджує свої дослідження на темах, пов'язаних з DiLoCo, і опублікував статті про закони масштабування для DiLoCo, а також про потокову DiLoCo, яка значно знижує пікову пропускну здатність під час навчання LLM. Зак і @samsja19 проб'ють DiLoCo з рахунком 1-2, а Зак зосередиться на теорії та останніх удосконаленнях DiLoCo в цілому!