Для оптимального фильтра (Винера) можно аналитически получить величину шага для градиентного спуска
Это не страшно, т.к для для самого алгоритма матрица корреляции тоже нужна, заодно можно найти и собственные числа (хотя на практике, наверное, считать это долго).
При переходе к адаптивной фильтрации (первый рассматриваемый алгоритм LMS) отказываются от усреднениям (можно не знать статистических характеристик процесса, здорово же!). Теперь в алгоритме используются просто мгновенные значения сигналов. Но при этом требования для устойчивости в книге указывается прежние. Но откуда же их взять если мы отказались от знания корреляционной матрицы, как правильно реализовать алгоритм?