Schön, das zu sehen. Einige Fragen, die mir durch den Kopf gehen: * Welche Systemeinstellungen würden spärliche Kommunikation gegenüber Streaming Diloco bevorzugen? Was passiert, wenn man beides kombiniert? * Ist es manchmal ein Artefakt zufälliger Variation, dass SparseLoCo einen niedrigeren Verlust erzielt, oder können wir tatsächlich Hypothesentests zu diesem Ergebnis durchführen? * Fehlerfeedback ist ein verzerrter Operator - gibt es andere verzerrte Operationen, die die äußere Optimierung verbessern können?