где
— собственные числа и собственные функции интегрального уравнения [см. (15.38)]
(15.191)
то эти координаты не коррелированы, если справедлива гипотеза Но, но будут коррелированы, если верна гипотеза Ну.
Можно, однако, выбрать координаты процесса так, чтобы они не были коррелированными (следовательно, независимыми в силу нормального распределения) и при гипотезе Но, и при Ни с той лишь разницей, что при одной гипотезе дисперсии всех координат единичны, а при другой — различны для разных координат. Здесь имеет место аналогия с известным результатом высшей алгебры, согласно которому одним линейным преобразованием можно одну квадратичную форму привести к нормальному виду (т. е. к сумме квадратов переменных), а другую — к каноническому (см., например, [3]).
Пусть координаты процесса
и для гипотезы Но, и для гипотезы
определяются согласно (15.190), причем
— собственные числа и собственные функции (ненормированные) интегрального уравнения
(15.192)
а нормировка собственных функций производится относительно корреляционной функции
, т. е.
(15.192 а)
Тогда
(15.193 а)
15.6.2. Оптимальный дискретно-аналоговый алгоритм обнаружения.
Используя
нетрудно записать логарифм отношения правдоподобия для N наблюдаемых независимых координат
реализации гауссовского случайного процесса:
(15.194)
Из (15.194) следует, что оптимальный дискретно-аналоговый алгоритм обнаружения гауссовского сигнала на фоне аддитивной гауссовской помехи
(15.195)
где
определяются согласно (15.190), а
— собственные числа и собственные функции уравнения (15.192).
Нетрудно найти характеристическую функцию статистики
. Так как
гауссовская случайная величина, то характеристические функции
слагаемого суммы при гипотезах Но и
соответственно:

Учитывая независимость случайных величин
находим одномерные характеристические функции статистики
как произведения характеристических функций слагаемых суммы (15.195):
(15.196 а)
где
(15.196 в)
Обратным преобразованием Фурье можно из (15.196 а и б) найти плотности вероятности статистики 
15.6.3. Оптимальный аналоговый алгоритм обнаружения гауссовского сигнала на фоне белого шума.
Рассмотрим задачу синтеза оптимального аналогового алгоритма обнаружения гауссовского сигнала для случая, когда аддитивная гауссовская помеха — белый шум, т. е. когда
. В этом случае в формуле (15.194) собственные числа
(15.197)
где
— собственные числа линейного однородного интегрального уравнения
(15.198)
причем собственные функции
исходного уравнения (15.192) связаны с собственными функциями уравнения (15.198) соотношением
(15.199)
Из (15.194) находим дисперсии логарифма отношения правдоподобия
(15.200 а)
Так как в рассматриваемом случае аддитивного белого шума (см. (4.61))

то существует функционал отношения правдоподобия (регулярный случай) — предел при
выражения (15.194).
Рассмотрим предел при
статистики (15.195). Подставляя в (15.195) выражение для координат
из (15.190) и учитывая (15.198), (15.199), получаем
(15.201)
Функция двух переменных
(15.202)
удовлетворяет интегральному уравнению
(15.203)
Действительно, подставляя в левую часть (15.203) выражение
из (15.202), изменяя порядок суммирования и интегрирования и учитывая (15.198), получаем

Первая сумма представляет ортогональное разложение корреляционной функции сигнала

а вторая сумма в соответствии с (15.202) равна
Отсюда следует (15.203).
Используя (15.201) и (15.202), представим оптимальный аналоговый алгоритм обнаружения гауссовского сигнала на фоне аддитивного гауссовского белого шума в виде
(15.204)
где
— решение интегрального уравнения (15.203) и
— реализация наблюдаемого на интервале (0, Т) случайного процесса. Характеристические функции статистики
[см. (15.204)] при гипотезе и альтернативе получаются предельным переходом при
из (15.196 а), (15.196 б).
Заметим, что распределение статистики
не подчиняется нормальному закону, хотя эта статистика представляет бесконечную сумму независимых случайных величин [см. (15.201)]. Это происходит потому, что в рассматриваемом случае условие применимости центральной предельной теоремы не выполняется [см. (3.109)].
15.6.4. Пример сингулярного алгоритма обнаружения.
Предположим, что нормированные корреляционные функции независимых гауссовских сигнала и помехи одинаковы, а дисперсии различны и равны
— для сигнала и
— для помехи. Тогда
, где
Обозначим
и пусть
Тогда из (15.192) находим

откуда следует, что собственные числа интегрального уравнения постоянны и равны
Логарифм отношения правдоподобия в соответствии с (15.194) преобразуется к виду

и, следовательно,

так как последовательность случайных величин —
сходится по вероятности к единице, если верна гипотеза
если верна гипотеза 
Из (15.205) следует, что

Таким образом, рассматриваемый случай сингулярный и поэтому возможно при любом (произвольно малом) времени наблюдения выбрать правило проверки гипотезы с вероятностью единица. Такое правило непосредственно следует из (15.205), если вместо координат
подставить их выражения через наблюдаемую реализацию. Если для наблюдаемой на интервале (0, Т) реализации 
(15.206)
то принимается гипотеза
(дисперсия процесса равна
),
если предел в (15.206) равен
то принимается гипотеза
(дисперсия процесса равна
).
Очевидно, что в рассматриваемом случае
, так как
т. е. условие регулярности
нарушено.
15.6.5. Общее условие сингулярности.
Для случая, когда спектр стационарного гауссовского процесса представляет дробно-рациональную функцию частоты, сформулировано необходимое и достаточное условие сингулярности при проверке гипотезы
о том, что наблюдаемая реализация принадлежит процессу со спектром
, против альтернативы
, что она принадлежит процессу, спектр которого равен
. Это условие состоит в том, чтобы
(15.207)
Указанное выше [см. (15.206)]. сингулярное правило соответствует частному случаю (15.207), когда
. Если при
предел отношения дробно-рациональных спектров равен единице, то всегда будет иметь место регулярный случай, которому соответствуют отличные от нуля вероятности ошибочных решений.
Достаточным условием сингулярности является также существование конечного интервала частот, на котором один из энергетических спектров
или
тождественно равен нулю, а другой не равен нулю. Поэтому использование математической модели случайного процесса с ограниченным спектром приводит к сингулярности.
Наконец, укажем, что регулярный случай будет иметь место всегда, если при каждой из двух гипотез гауссовский процесс содержит аддитивную компоненту в виде белого шума одинаковой интенсивности, так как условие (15.207) безошибочной проверки гипотез основывается на использовании различия высокочастотной части энергетического спектра. Так как белый шум (представляющий, например, тепловые шумы) всегда присутствует в любых реальных устройствах, то добавление его устраняет парадокс сингулярности и приближает математическую модель к изучаемому физическому процессу.