¡14 días de distribución, día 8! ¡Conoce a Zach Charles (@MatharyCharles ) de @Google! Zach centra su investigación en temas relacionados con DiLoCo y ha publicado artículos sobre Scaling Laws for DiLoCo, así como Streaming DiLoCo, que reduce significativamente el ancho de banda máximo durante el entrenamiento de LLM. Zach y @samsja19 golpearán 1-2 a DiLoCo, ¡con Zach centrándose en la teoría y las últimas mejoras en DiLoCo en su conjunto!