Приємно, люблю це бачити. Декілька запитань, які у мене в голові: * Яким системним налаштуванням віддали б перевагу розріджений зв'язок перед потоковим Diloco? Що буде, якщо їх поєднати? * Чи є отримання SparseLoCo нижчих втрат іноді артефактом випадкової варіації, чи ми можемо провести фактичну перевірку гіпотез щодо цього результату? * Зворотний зв'язок по помилках є упередженим оператором - чи існують інші упереджені операції, які можуть поліпшити зовнішню оптимізацію?