17.4. АСИМПТОТИЧЕСКОЕ РАЗЛОЖЕНИЕ ЛОГАРИФМА ОТНОШЕНИЯ ПРАВДОПОДОБИЯ

17.4.1. Независимая выборка. Используя условия (17.4) и (17.23), представим логарифм отношения правдоподобия (17.35) для независимой выборки в виде

или

(17.51)

и функция определена согласно (17.19).

Введем условие

которое практически всегда выполняется.

Докажем сначала, что при гипотезяе Н последовательность случайных величин сходится по вероятности к нулю. Из условия (17.52) и ограниченности информации по Фишеру (17.21) следует, что при гипотезе Н

так как

Из (17.53) и (17.23) следует, что при гипотезе

Так как при то, учитывая (17.52), представим (17.51) в виде

где

Согласно закону больших чисел (см. п. 3.4.3) при гипотезе Н второй член в правой части (17.54) сходится по вероятности к постоянной величине, равной

(17.55)

где

(17-56)

Используя оценку

можно доказать, что при гипотезе Н случайная величина сходится по вероятности к нулю.

Теперь рассмотрим первый член разложения (17.54). Потребуем, чтобы выполнялось условие

которое является достаточным для применимости центральной предельной теоремы [см. (3.111)]. Тогда сумма асимптотически нормальная с нулевым средним и дисперсией , где определены согласно (17.56), (17.56 а).

Итак, первый член разложения (17.54) асимптотически нормальный с параметрами второй сходится к константе — а последние два члена сходятся к нулю. Распределение статистики при гипотезе Я также асимптотически нормальное с параметрами На основании леммы 1 (см. п. 17.3.1) отсюда следует, что последовательности распределений логарифма отношения правдоподобия при гипотезе и при альтернативе контигуальны. Поэтому свойства асимптотического разложения (17.54), доказанные при гипотезе , сохраняются и при альтернативе причем согласно лемме 2 (см. п. 17.3.2) распределение статистики и при альтернативе К асимптотически нормальное с параметрами

Таким образом, получаем следующую теорему:

Теорема 1. При выполнении условий (17.4), (17.52) и (17.57) имеет место следующее разложение логарифма отношения правдоподобия при гипотезе Я и при альтернативе К:

(17.58)

где

(17.59)

Распределение логарифма отношения правдоподобия при асимптотически нормальное и при гипотезе, и при альтернативе. Параметры предельного распределения при гипотезе Н равны а при альтернативе К равны —

17.4.2. Независимая последовательность векторных выборок.

Результаты п. 17.4.1 обобщаются на независимую последовательность -мерных векторных выборок (см. п. 17.2.2). Пусть -мерная плотность вероятности каждой векторной выборки удовлетворяет условиям (17.24) — (17.28).

Введем матрицу Q размеров с элементами [см. (17.38)]

(17.60)

и предположим, что эта матрица положительно определенная. Обозначим

(17.616)

причем (Если , то где — единичный вектор и )

Предположим, что для всех

(17.61 в)

Тогда при гипотезе Я имеет место следующее асимптотическое разложение логарифма отношения правдоподобия

(17.62)

где . Компоненты вектора в разложении (17.62)

(17.63)

где - компоненты вектора определенные согласно (17.25), а В — матрица размером с элементами [см. (17.27)]. Используя (17.26) и многомерный вариант центральной предельной теоремы (см. п. 3.4.6), можно при сформулированных условиях доказать, что первый член разложения при гипотезе Я слабо сходится к гауссовской случайной величине с нулевым средним и дисперсией Распределение статистики при гипотезе Н также асимптотически нормальное с параметрами . На основании леммы 1 (см. п. 17.3.1) отсюда следует, что последовательность функций распределения указанной статистики при гипотезе Я и при альтернативе К контигуальны. Поэтому асимптотическое разложение (17.62) сохраняется и при альтернативе, причем согласно лемме .2 (см. п. 17.3.2) статистика при альтернативе асимптотически нормальна, а параметры предельного распределения равны . Таким образом, получаем следующую теорему:

Теорема 2. При выполнении условий (17.24) — (17.28), (17.61) имеет место разложение (17.62) логарифма отношения правдоподобия и при гипотезе Н, и при альтернативе К. Распределение логарифма отношения правдоподобия асимптотически нормальное и при гипотезе, и при альтернативе, а параметры предельного распределения равны соответственно

17.4.3. Многосвязная марковская последовательность.

Используя (17.33), можно получить следующее асимптотическое разложение логарифма отношения правдоподобия для эргодической -связной марковской последовательности при гипотезе Н:

где - вектор компоненты которого согласно (17.30)

(17.65)

— информационная матрица Фишера [см. (17.32)], — положительно определенная матрица размером с элементами

Заметим, что компоненты векторов попарно некоррелированы, если .

(17.67)

где - элементы информационной матрицы Фишера

Эргодическая конечносвязная марковская последовательность удовлетворяет условию сильного перемешивания (см. например,. [22], с. 181 и [14], с. 233), при котором применима центральная предельная теорема (см. п. 5.2.7). Тогда, учитывая (17.31) и (17.67), можно доказать, что первый член разложения (17.64)

при гипотезе Н слабо сходится при к гауссовской случайной величине с нулевым средним и дисперсией

(17.69)

При доказательстве предполагается выполнение следующих условий [54]:

где - -мерный единичный вектор.

Распределение статистики при гипотезе Н асимптотически нормальное с параметрами — . На основании леммы 1 (см. п. 17.3.1) отсюда следует, что последовательности распределений указанной статистики при гипотезе Н и при альтернативе К контигуальны. Поэтому асимптотическое разложение (17.64) оохраняется и при альтернативе, причем согласно лемме 2 (см. п. 17.3.2) статистика также асимптотически нормальна, а параметры предельного распределения равны

Таким образом, получаем следующую теорему:

Теорема 3. При сформулированных условиях имеет место разложение (17.64) логарифма отношения правдоподобия при гипотезе Н и при альтернативе К. Распределение логарифма отношения правдоподобия асимптотически нормальное и при гипотезе, и при альтернативе. Параметры предельного распределения равны соответственно

17.4.4. Расстояние между предельными распределениями.

Рассмотренные асимптотические свойства статистики логарифма отношения правдоподобия имели место при сближающихся гипотезе и альтернативе, т. е. при сближающихся вероятностных мерах наблюдаемых выборок, когда сигнала нет и когда сигнал присутствует. Следует, однако, подчеркнуть, что сближаются распределения только выборок, но не статистик логарифма отношения правдоподобия при гипотезе и при альтернативе. Основное условие (17.4), исключающее сингулярные решения, влечет за собою конечное «расстояние» между предельными распределениями статистик логарифма отношения правдоподобия при гипотезе и при альтернативе. Мерой такого расстояния может служить величина

Из полученных результатов следует, что расстояние между предельными распределениями статистик логарифма отношения правдоподобия равно: в случае независимой выборки (см. теорему 1)

(17.70 а)

в случае независимой последовательности векторных выборок (см. теорему 2)

(17.70 б)

в случае многосвязной марковской последовательности (см. теорему 3)

17.4.5. Локальтгая асимптотическая нормальность.

Асимптотическая нормальность статистики логарифма отношения правдоподобия используется не только при проверке близких гипотез, но и при исследовании статистических оценок (см. [55, гл. 2)]).

Пусть Т — переменная величина, характеризующая длительность наблюдения представленного в векторной форме или в форме непрерывной реализации. Обозначим через вероятностную меру на интервале зависящую от параметра . Производную Радона — Никодима

(17-71)

абсолютно непрерывной компоненты по на наблюдении назовем отношением правдоподобия (функционалом отношения правдоподобия).

Семейство мер называется локальной асимптотически нормальным в точке при если для некоторой невырожденной матрицы размером и любого справедливо представление

(17.72)

При распределение случайного вектора сходится по мере к нормальному с нулевым средним и единичной ковариационной матрицей размером , а остаточный член сходится по той же вероятностной мере к нулю для любого

Рассмотренные асимптотические разложения логарифма отношения правдоподобия (для дискретного времени) являются частными случаями разложения (17.72). Например, при из (17.72) следует (17.58), если положить

(17.73)