ru.dsplib.org

Статья - Цифровой формирователь аналитического сигнала на основе квадратурного преобразователя. После формулы (7) идёт такой текст:

.....
На рисунке 7 показан квадрат модуля спектра полученного аналитического сигнала

По видимому надо либо писать модуль квадрата, либо перенести квадрат за скобки модуля.

Спасибо за статью Пример расчета цифрового фильтра нижних частот Баттерворта. Попробовал сверить конечные коэффициенты с тем что выдает программа filter, и получил другой порядок коэффициентов b0 и b3. Возможно это ошибка при подстановке чисел в формулу.

да действительно ошибка. В программе фильтр правильные значения. Должно быть 0.03047

http://www.dsplib.ru/content/ssb/ssb.html
Опечатка в формуле 8. Должно быть S(w)