14 Dni Rozproszone, Dzień 8! Poznaj Zacha Charlesa (@MatharyCharles) z @Google! Zach koncentruje swoje badania na tematach związanych z DiLoCo i opublikował prace na temat Praw Skalowania dla DiLoCo oraz Streaming DiLoCo, co znacząco redukuje szczytową przepustowość podczas treningu LLM. Zach i @samsja19 będą wspólnie omawiać DiLoCo, przy czym Zach skupi się na teorii i najnowszych usprawnieniach dotyczących DiLoCo jako całości!