ru.dsplib.org

Для того чтобы модулировать дискретный сигнал, я просто беру произведение y(n)*b(n), где y(n) - исследуемый сигнал, b(n) - несущая, получается амплитудная модуляция с подавлением несущей вроде как. Чтобы демодулировать сигнал я просто делю на b(n). Как провести аналогично операцию частотной модуляции/демодуляции ?

Для частотной читайте про FSK и ее разновидности

А вот более общая задача:
Пусть сигнал
(частотно-модулированный сигнал с гармониками)
Надо найти An(t)
Пример сигналов в файле: