Винеровское оценивание

Винеровское оценивание — задача нахождения импульсной характеристики линейной стационарной системы, которая минимизирует среднюю квадратическую ошибку между реальным y(t) и желаемым d(t) выходными сигналами при бесконечном времени наблюдения. На вход системы подается сигнал f(t), выходной сигнал определяется выражением $y(t)=\int_{-\infty}^{+\infty}w(\tau)f(t-\tau)d\tau$.

Условия

Предполагается, что условия применения, характер сигналов и помех остаются достаточно стабильными, их статистические характеристики меняются мало. Если же условия переменны и помехи в процессе работы систем изменяются существенно, то возникает необходимость автоматической оптимизации параметров систем. Это осуществляется в различного рода экстремальных, адаптивных, обучаемых системах.

Решение задачи

Ошибка системы равна разности между желаемым и реальным выходными сигналами $e(t)=d(t)-y(t)$. Минимальная среднеквадратическая ошибка по определению равна:

$\eta=\overline{e^{2}}=\overline{d^{2}}-2\,\overline{d\,y}+\overline{y^{2}}$ =

$\overline{d^{2}}-2\int_{-\infty}^{+\infty} w(\tau)\overline{f(t-\tau)d(t)} \, \mathrm{d}\tau + \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}w(\xi)w(\mu)\overline{f(t-\xi)f(t-\mu)}\, \mathrm{d}\xi\, \mathrm{d}\mu$ =

$\overline{d^{2}}-2\int_{-\infty}^{+\infty} w(\tau)\rho_{fd} \mathrm{d}\tau+\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}w(\xi)w(\mu)\rho_{ff}(\xi-\mu) \,\mathrm{d}\xi \,\mathrm{d} \mu$.

Здесь используются обозначения для корреляционных функций:

$\rho_{fd}(\tau)=\overline{f(t)\,d(t+\tau)}$

$\rho_{ff}(\tau)=\overline{f(t)\,f(t+\tau)}$.

Черта над формулой означает осреднение по времени. Будем считать, что оптимальная импульсная характеристика системы существует и равна $w_\text{opt}$.

Тогда любая отличающаяся от нее импульсная характеристика системы может быть представлена в виде

$w(t) = w_\text{opt}+\alpha\,\theta(t)$,

где $\theta(t)$ — произвольная функция времени, $\alpha$ — варьируемый коэффициент.

Минимум среднеквадратической ошибки отклонения достигается при $\alpha=0$. Для поиска $w_\text{opt}(t)$ нужно найти производную показателя качества $\eta$ по коэффициенту вариации $\alpha$ и приравнять ее нулю при $\alpha=0$:

$\frac{\partial\eta}{\partial\alpha}|_{\alpha=0}$ =

$-2\int_{-\infty}^{+\infty}\theta(\tau)\,\rho_{fd}(\tau)\, \mathrm{d}\tau+\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty} \left[w_\text{opt}(\xi)\,\theta(\mu) + w_\text{opt}(\mu)\,\theta(\xi)\right] \,\rho_{ff}(\xi-\mu) \,\mathrm{d}\xi \,\mathrm{d}\mu$ =

$-2\int_{-\infty}^{+\infty}\theta(\xi)\rho_{fd}(\xi)\,\mathrm{d}\xi + 2 \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}\theta(\xi)\, w_\text{opt}(\mu)\,\rho_{ff}(\xi-\mu)\,\mathrm{d}\xi\, \mathrm{d} \mu$ =

$2\int_{-\infty}^{+\infty} \theta(\xi)\, \left[\int_{-\infty}^{+\infty}w_\text{opt}(\mu)\rho_{ff}(\xi-\mu)\mathrm{d}\mu- \rho_{fd}(\xi) \right]\, \mathrm{d}\xi = 0$

Поскольку $\theta(\xi)$ — произвольная функция, последнее равенство выполняется тогда и только тогда, когда:

$\int_{-\infty}^{+\infty} w_\text{opt}(\mu)\, \rho_{ff}(\xi-\mu)\, \mathrm{d}\mu-\rho_{fd}(\xi)=0$.

Это и есть уравнение Винера-Хопфа, определяющее оптимальную импульсную характеристику системы по критерию минимальной среднеквадратической ошибки. Для решения применим преобразование Лапласа к полученному уравнению. Известно, что преобразование Лапласа от свертки равно произведению преобразований Лапласа, тогда:

$w_\text{opt}(p)S_{ff}(p)-S_{fd}(p)=0$,

где $w_\text{opt}(p)=L{w_\text{opt}(t)}$; $S_{ff}(p)=L{\rho_{ff}(t)}$; $S_{fd}(p)=L{\rho_{fd}(t)}$.

Таким образом определяем оптимальный винеровский фильтр 1-го рода:

$W_\text{opt I}= \frac{S_{fd}(p)}{S_{ff}(p)}$.

Когда порядок полинома в числителе оказывается выше порядка полинома в знаменателе, винеровский фильтр 1-го рода физически нереализуем. Для решения задачи, после определения импульсной характеристики ее принудительно приравнивают нулю при отрицательных значениях $t$ (именно отличие $w(t)$ от нуля при $t<0$ характеризует физическую нереализуемость системы) и таким образом получают физически реализуемый винеровский фильтр 2-го рода.

История

Во время второй мировой войны перед американским математиком Н. Винером встала задача отделения полезного сигнала от шума при решении задач автоматизации систем противовоздушной обороны, использующих радиолокационную технику. В 1942 г. Н. Винер решил эту задачу, допустив что искомая система должна быть линейной с постоянными параметрами, время наблюдения бесконечно, входной и желаемый выходной сигналы системы являются стационарными и стационарно связанными случайными процессами, система минимизирует среднюю квадратическую ошибку между желаемым и реальным выходными сигналами.

См. также

• Уравнение Винера — Хопфа

Литература

1. Норберт Винер «Я-математик», М., «Наука», 1964, гл 12 «Годы войны. 1940—1945», с. 213—265;
2. Хургин Я. И. «Да, нет или может быть…», 2-е изд., М., «Наука», 1983, 208 с., илл., 32.81 Х98 УДК 62-50 ББК 32.81 6Ф0.1, тир. 100000 экз., гл. «Искусство надежды», с. 138—148;
3. Л. А. Вайнштейн, В. Д. Зубаков «Выделение сигналов на фоне случайных помех», М., «Советское радио», 1960, 447 с., гл. 1 «Основные понятия теории фильтрации случайных процессов», с. 7-54;
4. Дж. Бендат «Основы теории случайных шумов и ее применения», М., «Наука», 1965, 464 стр. с илл., гл. 4 «Оптимальное линейное упреждение и фильтрация», с. 165—215;