книги / Статистический анализ временных рядов
..pdf5.4. |
ОЦЕНКИ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ |
213 |
Если |
обозначить |
* |
|
* |
- |
|
|
- |
1 |
• • • |
|||
|
|
1 |
Г1 |
'р_1 |
|
|
|
|
Г* |
1 |
. . . г * |
|
|
(25) |
R* = |
1 |
|
|
р — 2 |
|
|
|
|
|
|
||
|
_ |
Г* |
Г* |
. 1 |
1 |
_ |
|
p~l |
гр — 2 |
• ** |
|||
то (2 2 ) можно записать в виде |
|
|
||||
(26) |
|
|
|
R*b = — г*. |
II
~г\~ П2
1 гЛ- 1
Решением уравнений (26) будет b = —(R*)- 1r*, Эти уравнения обладают тем преимуществом, что они используют лишь р статис тик, а матрица R* является положительно определенной. (Мат рицу R* можно рассматривать как пропорциональную матрице, у которой элемент, находящийся на пересечении t-й строки и
т
/■го столбца, равен 2 { y t+ i — У) (yt+ j — У), t=—p
и разность
yt+i —
I^
полагается равной нулю при t + i < 0 и t + i > Т.) Кроме того, матрица R* симметрична и относительно главной диагонали и диа гонали, идущей из левого нижнего в правый верхний угол матрицы.
Специфическая форма R* и г* приводит к простому рекуррент ному способу вычисления коэффициентов уравнения (р + 1)-го порядка по решению соответствующего уравнения р-го порядка. Уравнения относительно вектора коэффициентов уравнения (р + + 1)-го порядка, который мы обозначим b (р + 1), имеют вид
(27) |
R;+1b(P + i) = |
- |
r;+1, |
|
|
|
где |
|
|
|
|
|
|
(28) |
Ь(р + |
1) |
ь(1,( / > + 1) \ |
|||
bp+ 1 (р + |
1)у |
|||||
|
|
|
|
|||
|
р+1 |
|
|
|
|
|
Rp и Гр задаются |
соотношениями |
(25), а Тр = (г'р, |
Гр-ь .... г\у |
есть просто Гр с координатами, записанными в |
обратном порядке. |
|||
При этом (27) распадается на два уравнения |
|
|
||
(29) |
R ; b ( , ) ( р + 1 ) + ?p b p + , (р + |
1) = |
- |
гр, |
(30) |
г*'Ь(,) (/?+ !) + bp+i (р + |
1) = |
— Гр+ь |
214 |
ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ |
Гл. 5. |
Исключив Ь(1>(р +1) из (29) и (30), получим
где вектор b (р) = (bp (р), bp- 1 (р), ..., Ьг (р))' получается из век тора b (р) изменением порядка его координат на противоположный. Подстановка (31) в (29) дает
(32) ь(|)( р + 1) = - ( R ;r v ; - ( ^ г 1 г Х н (р + о =
=*Ь(р) + Ь(р)Ьр+1(р+ 1).
В покомпонентной записи (31) и (32) имеют вид
р
(34) b; (Р + 1) = bj (р) + V H - / (Р) ЬР+ 1(Р + 1),
/ = 1......... Р•
Полученные уравнения позволяют легко вычислять оценки для процесса заданного порядка. Промежуточные вычисления дают коэффициенты для всех процессов более низкого порядка. В § 5.6
будет показано, что bp+1 (р + 1) есть частная |
корреляция между |
yt и !/t+p+ь «при фиксированных величинах |
.... yt+p»- Этот |
метод соответствует стандартному методу добавления в уравнение регрессии независимой переменной. Упрощенные формулы для этого случая были предложены Дурбином (1960а).
Мы уже замечали, что уравнения (9) для оценок коэффициентов стохастического разностного уравнения формально совпадают с уравнениями, используемыми в методе наименьших квадратов. В случае обычной регрессии оценки наименьших квадратов явля ются наилучшими несмещенными линейными оценками. Получае мые здесь оценки не линейны по yt. Обращаясь к уравнениям (9), Дурбин (1960b) назвал их линейными (относительно оценок) и несмещенными, в том смысле, что при замене в (9) оценок на истин ные значения параметров математические ожидания правой и ле вой частей совпадают. В пределах такого класса уравнения (9) являются наилучшими в том смысле, что дисперсия разности пра вой и левой частей минимальна.
5.5. |
АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК |
2*5 |
5.5.АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ
5.5.1.Обсуждение асимптотических свойств
Вэтом параграфе мы покажем, что оценки максимального прав доподобия, полученные в § 5.4, состоятельны и асимптотически нормальны при неограниченном возрастании периода наблюдений. Хотя доказательства оказываются здесь более сложными, соответ ствующие условия и результаты подобны сформулированным в тео реме 2 .6.1 и следствиях 2 .6 .1, 2 .6 .2 для оценок наименьших квадра тов. В связи с этим при больших выборках и в настоящем случае можно целиком использовать обычную технику регрессионного анализа.
В§ 5.3 было показано, что скалярное стохастическое разност ное уравнение порядка р можно рассматривать как частный слу чай p-компонентного векторного стохастического разностного урав нения первого порядка
(о |
у, -|- Ву,_, = |
щ, |
где |
|
|
(2) |
|
|
Здесь |
В — матрица коэффициентов |
размера р X р, §и, = О, |
&u,u/ = |
2 , и, независимы, а характеристические корни матрицы |
—В лежат в единичном круге. Уравнения, из которых определя ются оценки максимального правдоподобия для скалярной модели произвольного порядка, являются частным случаем уравнений, используемых для получения таких оценок в векторной модели
первого |
порядка: |
|
т |
|
(3) |
Т |
|
|
|
У '-'й -1в ' = |
— т |
2 |
y<-iy;. |
|
(4) |
2 = -Y 2 (у/ + ВУ<_,) (у, + |
B y ,.,) '. |
||
Если и, |
распределены нормально, |
а у0 |
считается заданным векто |
ром, то В, определяемая из (3), есть оценка максимального прав доподобия. Нам будет удобно сначала получить асимптотические свойства этих оценок, а затем уже перенести полученные результа ты на случай скалярного уравнения р-го порядка.
216 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.
Прежде всего мы покажем, что с точки зрения асимптотической
(при Т -> оо) теории, |
случай, |
когда |
(1) выполняется при |
t = 1, |
2 , ..., а вектор у0 фиксирован, ничем не отличается от случая, |
когда |
|||
(1) выполняется при |
всех t (t |
= |
—1, 0, 1, ...). Затем |
будет |
|
/V |
|
|
|
показано, что оценка В состоятельна и асимптотически нормальна. Далее находятся дисперсии и ковариации предельного распределе ния и показывается, что их можно состоятельно оценить. Эти ре зультаты будут распространены на модель скользящего среднего,
а также на модель стохастического разностного уравнения, |
в кото |
рой возмущение является скользящим средним. |
i |
При проведении доказательств предполагается, что все харак теристические корни скалярного стохастического разностного урав нения различны и что в векторном случае матрицу —В можно привести к диагональному виду. Однако соответствующие резуль таты будут иметь силу и без этих предположений. Важно только, чтобы характеристические корни лежали в единичном круге. Ука зания на необходимые изменения в доказательствах вынесены в под строчные примечания.
5.5.2.Асимптотическая эквивалентность выборочных моментов второго порядка двух процессов
|
т |
|
|
|
|
|
Рассмотрим сумму 2у*У*. в которой у,, t = |
1, |
Г, порожда |
||
ется с помощью (1) при заданном у0, так что |
|
|
|||
(5) |
У/ = S |
B)s «*-* + (— В1 у0- |
|
|
|
|
s=0 |
|
|
|
|
|
|
|
Т |
|
|
Наряду с ней рассмотрим сумму 2у<У<, в которой у\ |
удовлетворяет |
||||
соотношению (1) при всех t |
= |
.... —1, 0 , 1, |
так что |
||
(6 ) |
У ;= |
2 |
(“ В)* i w |
|
|
|
|
s = 0 |
|
|
|
тт
Покажем, что матрица 2 у<у< — 2 ytyu нормированная делением
на |
или на Т, сходится по вероятности к нулевой матрице. |
|
Из |
(5) и (6 ) следует, что |
у* — у, = (— В)* (уо — у0), где |
(7) |
У;=*2 |
( - В ) 5 и_,. |
s = a
6.5. |
АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК |
217 |
Поэтому
(в)i y ; y : - i > y ; =
М 1
|
= 2 (— В У (уо — Уо) У/ + |
2 |
У< (уо — Уо)' (— В')* + |
|
||||
|
<=1 |
|
|
<=i |
|
|
|
|
|
|
|
+ 2 |
(— В / (Уо — Уо) (Уо — Уо)' (— В ')‘ . |
||||
|
|
|
<=1 |
|
|
|
|
|
Сумма |
математических |
ожиданий |
квадратов элементов |
матрицы |
||||
т |
|
|
|
|
|
|
|
|
2 ( —ВУ (уо — Уо) У* Равна |
|
|
|
|
|
|||
1=1 |
|
|
|
|
|
|
|
|
(9) |
tr S 2 |
(— В / (yj — у0)у, [ 2 |
(— B)s (yS— Уо)у« |
|
||||
|
/==1 |
|
Ls=i |
|
|
|
||
|
|
— tr8 |
2 (—’ В)*(Уо — Уо)У<У5(Уо — УоУ О—В') 4 = |
|||||
|
|
|
t,s = l |
|
|
|
|
|
|
|
= 2 |
tr [(— В)' (F + УоУо)(— B')sl %!ys, |
|||||
|
|
/ , s = l |
|
|
|
|
|
|
в силу того, что вектор Уо (зависящий от u 0, u_i, |
...) |
не зависит от |
||||||
у,, •••, Ут (поскольку последние |
зависят только |
от |
иь |
..., иг) и |
||||
8 уоУо = |
F. |
|
|
|
|
|
|
|
Л емма 5.5.1. |
Для любого X, большего абсолютной величины мак |
симального по абсолютной величине характеристического корня матрицы —В, найдется такая константа с, что все элементы
матрицы (— ВУ будут |
меньше сХ1, t = 0, 1, ... . |
j |
Д оказательство. Матрицу (—ВУ можно записать в виде |
|
|
(10) |
(— В)' = СЛ'<Г\ |
|
где матрица Л диагональная и ее диагональ состоит из характерис
тических корней матрицы — В, |
а С — невырожденная матрица. |
|
В качестве указанной константы |
с можно взять |
произведение |
следующих трех чисел: порядка р, максимального абсолютного значения элементов матрицы С и максимального абсолютного зна чения элементов матрицы С-1. ■
1) В случае общей жордановой |
канонической формы при | X* | < |
К найдется |
||
константа |
такая, что (J) |
. При этом в с будет входить |
шах |
(См. |
упр. 17.) |
|
|
i |
|
218 |
|
ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ |
Гл. 5. |
|||||
Поскольку |
|
|
|
|
|
|
||
(11) |
|
*У/У; = |
2 |
( - |
B)rs ( - |
ВТ + ( - В)' УоУо ( - В')', |
|
|
для X < |
|
г=О |
|
|
|
|
||
1 и удовлетворяющих |
условию леммы 5.5.1, |
|
||||||
(12) |
|
%y'tyt = |
tr 8yty' |
2 |
сгХ2гр3max | ац | + с2Х21р2у0у0 ■ |
|
||
|
|
= |
с*р3max | Oil | |
|
+ с2р2у0у0Х2‘ < |
|
||
|
|
|
<?ps max 1а,--1 |
|
|
|
||
|
|
< ------Г-"Х2 |
+ |
С^УоУо- |
|
|||
где |
с — константа из леммы 5.5.1. Оценивая | Ну*ys | произведением |
|||||||
гЪу/у, |
г"%;у5 |
и |
используя |
для оценки последнего неравенство |
||||
(12) |
, мы можем оценить абсолютную величину второго из сомножи |
|||||||
телей, стоящих под знаком суммы в правой части (9). |
|
|||||||
Что касается первого сомножителя, то его абсолютная величина |
||||||||
ограничена значением |
КХ‘+*, |
где К равно произведению |
с2, р3 |
и максимума абсолютных значений элементов матрицы F + УоУоПоэтому
(13) 2 tr [ ( - в / (F + у0уо) (-В Т 1 < к х 2( - [ Е г - )* < T T S F •
Таким образом, правая часть (9) не превосходит некоторой не за висящей от Т постоянной. Отсюда и из неравенства Чебышева сле дует, что первая и вторая суммы в правой части (8 ), нормированные
делением на |/"7\ сходятся по вероятности к нулю.
Третья сумма в правой части (8 ) является положительно полу-
определенной. Ее математическое ожидание равно |
|
(14) g jj (—’в / (уо — Уо)(уо — Уо)' ( - В У |
= |
= 2 |
( - В)'(р + УоУо)(-В')г. |
След этой матрицы ограничен произведением р3, максимального
абсолютного значения элементов матрицы F + УоУо |
и Х2с2(Г— |
— Я27)/(1 — Я2), так что он равномерно ограничен по |
Т. При |
менение неравенства Чебышева в форме, используемой для неотри цательных случайных величин, показывает, что сумма диагональ ных элементов матрицы, представляющей третью сумму в правой
части (8 ), деленная на Y Т9 сходится по вероятности к нулю. По
5.5. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК 219
скольку эта матрица положительно полуопределенная, отсюда
следует, что вообще |
все |
ее элементы сходятся |
по |
вероятности к |
||||
нулю. |
Таким |
образом, |
показано, |
что разность |
г |
, |
т |
|
2у1уГ — 2 У*У/. |
||||||||
|
|
_ |
|
|
|
t=\ |
|
t~i |
деленная на V~T9 сходится по вероятности к нулю. |
|
|
||||||
Рассмотрим |
теперь разность |
|
|
|
|
|||
as) |
i y ; _ , y |
; ' - i > |
- i y ; = |
|
|
|
|
|
|
t=* i |
t= \ |
|
|
|
|
|
|
|
|
= i y ; - i [ y ; : . ( ~ B ' ) + u ; ] - |
|
|
|
|||
|
|
t=i |
|
|
|
|
|
|
|
|
— 2 y<-i ly L i (— B ') + ut\’ = |
|
|
|
|||
|
|
|
*=1 |
|
|
|
|
|
|
|
r i |
yL.y; : , — 2 |
у<-«у/. |
|
+ |
|
|
|
|
*=I |
*=i |
|
|
|
||
|
|
+ |
2 |
(у<_1 — у*—i) ur |
|
|
|
|
|
|
|
/=1 |
|
|
|
|
|
Сумма математических ожиданий квадратов элементов второго
слагаемого правой части равна |
|
|
|
|
(16) |
tr % 2 (— В)*"~' (уо — Уо) |
(уо — Уо)' (— ВУ~' = |
|
|
|
t,s=1 |
|
|
|
|
= (tr S) 2 |
tr ( - |
В /- 1(F + УоУ;) ( - |
В')'-* |
|
<=l |
р3, максимального |
|
|
и ограничена произведением чисел tr 2 , |
абсо |
|||
лютного значения элементов матрицы |
F + |
УоУо и с \ 1 —/,2Г)/(1—Я2). |
Поэтому она равномерно ограничена по Т. Отсюда следует, что
второе слагаемое правой части (15), деленное на Y T , |
сходится по |
|||
вероятности к нулю. |
|
|
||
Поскольку |
|
|
|
|
(17) |
Г2 уЬ |
у,*!, — 2 |
У‘-«У/-1 |
|
Ут |
t= 1 |
/=1 |
|
|
|
1 |
2 У;уГ - |
2 У/У; + УоУо' - УтУт - |
УоУо + УгУ'г] |
|
ут |
|||
|
t= 1 |
t=1 |
|
и последние четыре члена в правой части последнего соотношения сходятся по вероятности к нулю, то левая часть (17) сходится к нулю. Объединяя этот результат с предыдущим, получаем, что
разность (15), деленная на ]/7 \ сходится по вероятности к нулю*
220 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.
Теорема 5.5.1. Пусть процесс {у,} удовлетворяет соотношению
(1) для t = 1, 2 , ..., |
у о— фиксированный |
вектор, |
а процесс |
{у/} |
|
удовлетворяет соотношению (1) |
для всех |
t = . . . , |
— 1, 0 , 1, |
|
|
кроме того, случайные |
величины |
nt независимы, %xxt = 0 , %xxtxxt |
2 |
и все характеристические корни матрицы —В лежат в единичном круге. Тогда
Смысл этой теоремы заключается в том, что. асимптотические
свойства матриц В и 2 (состоятельность и асимптотическая нор мальность) будут одними и теми же и для процесса {у,}, и для
процесса {у*}. Иметь дело с процессом {у*} более удобно, поскольку он является стационарным.
5.5.3. Состоятельность оценок |
максимального правдоподобия |
||
|
Покажем теперь, что матрица коэффициентов при оценках |
||
максимального правдоподобия |
в (3) сходится по вероятности |
||
к |
некоторой невырожденной |
матрице, матрица в правой |
части |
(3) |
также сходится по вероятности к некоторой матрице и |
что ре |
зультирующее уравнение имеет в качестве единственного решения
матрицу параметров |
В. В этом разделе обозначение у, будет ука |
||||||||||
зывать на то, |
что процесс удовлетворяет (1) при всех / = |
—1, |
|||||||||
0 , 1, |
так |
что |
|
|
|
|
|
|
|
|
|
(21) |
у, = |
J] (*-B)sU/-s, |
|
|
— 1 , 0 , 1, |
. . . # |
|
||||
и |
|
S=s0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(22) |
% , y ; = i i ( - B)s 2 |
( - B,)s ==F. |
|
|
|
||||||
|
|
s=0 |
|
|
|
|
|
|
|
|
|
Лемма 5.5.2. |
Пусть |
случайные векторы ux, и2, ... |
независимы, |
||||||||
&ut = 0 |
и Su(u< = |
2 . |
Тогда |
если |
и, |
одинаково распределены |
или |
||||
& Ы 2+8< т, |
i = |
1 , |
р, t = |
1, 2 ....... |
для некоторых е > |
0 и |
|||||
т, то |
|
|
|
|
|
|
|
|
|
|
|
(23) |
|
|
|
|
p lim -jr^ иЛ |
= |
21- |
|
|
5.5. |
АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК |
221 |
|
Д оказательство. В случае одинаково распределенных |
случай |
ных векторов утверждение леммы следует непосредственно из закона больших чисел для одинаково распределенных случайных величин, применяемого к каждой компоненте уравнения (23). При
выполнении второго условия элемент матрицы ntnt, стоящий на пересечении i-й строки и /-го столбца, именно иищи имеет матема тическое ожидание оц и при этом
(24) |
Л | uitUjt |1+е/2 < |/"Л | ult |2+е Л | иjt |2+8 < т. |
Утверждение леммы вытекает в этом случае из закона больших чисел, известного под названием теоремы Маркова. [См, Лоэв (1963, § 20.1),] .
Л емма 5,5.3. |
Пусть yt |
определяется |
соотношением (21), все |
||||
характеристические |
корни |
матрицы —В |
лежат в |
единичном |
|||
круге, случайные |
величины |
и, |
независимы |
и |
Ли, — 0 , |
Ли,и* = 2 . |
|
Тогда |
|
|
|
|
|
|
|
(25) |
|
plim |
2 |
и<У_1 — °* |
|
|
|
|
|
г-*00 |
<=>1 |
|
|
|
|
Д оказательство. |
Сумма |
математических |
ожиданий |
квадратов |
|||
|
|
г |
|
|
|
|
|
элементов матрицы |
( 1 / 7 ) 2 и/У<-1 равна |
|
|
|
|||
|
|
^=1 |
|
|
|
|
|
(26) |
|
t=l |
|
|
|
|
|
S=1 |
|
|
|
|
|
|
|
= - 4 - 2 |
Л ь У5—iUjU,y’_, = - у г 2 |
ЩчйУмУ*-'- = |
|||||
s,*=I |
|
|
|
t=1 |
|
|
|
T |
|
|
|
|
|
|
|
= 4 - 2 t r S t r F = 4 t r S t r F |
|
|
|
||||
<=i |
|
|
|
|
|
|
|
в силу того, что Луs_ 1Usu^yi_i = |
0 при t Ф s (поскольку |
us не за |
висит от ys_i и и,у,_! при s >> / и и, не зависит от остальных сомно
жителей при 5 < t). |
Утверждение |
леммы следует из неравенства |
|||
Чебышева. |
в |
|
|
|
|
В соответствии с леммой 5.5.3 |
|
|
|
||
(27) |
plim [ 4 |
2 У<У-1 + В |
4 |
2 |
1 = °» |
|
т-»°° L |
|
|
<=» |
J |
222 |
ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ |
Гл. 5. |
|||||
а в соответствии с леммой 5.5.2 |
|
|
|
||||
(28) |
plirn |
Y 2 У/У) + |
в у- 2 У<-'У/ + |
у- 2 У<У*-1В' + |
|
||
|
Г-*-СО |
|
|
t=) |
|
|
|
|
|
|
|
+ B - f 2 у^ . у;_,в ' = S . |
|||
Если вычесть из (28) произведение (27) на В \ |
а также произведе |
||||||
ние В на транспонированное соотношение (27), то получим |
|
||||||
(29) |
|
?lim |
^ - 2 |
у& — в у - 2 у#*8 ' |
= 2. |
|
|
|
|
Г-и» |
*=1 |
f=*l |
|
«j |
|
Здесь использован тот факт, что разность |
2 |
|
|
||||
|
|
т |
|
{ т |
|
|
(30)- f 2 у Y 2 У'-iyLi = ~т (у^Уг—УоУо)1
сходится |
по вероятности к нулю. Поскольку уравнение |
(31) |
А — BAB' = 2 |
имеет единственное решение относительно А (см. упр.т 27), то (29) определяет предел по вероятности матрицы (1/7)2у<У< и этот предел равен (2 2 ).
Теорема |
5.5.2. Пусть yt определяется соотношением (21) для |
t = 1, 2, ... |
, причем все характеристические корни матрицы—В |
лежат в единичном круге, а случайные величины ut независимы и
!Ц = 0, |
SiifU; = 2. |
Пусть, |
кроме того, и, |
либо одинаково |
|||
распределены, |
либо |
£ | иц |2+е < т, |
i = |
1........р, |
t — 1, 2 , .... |
||
для некоторых |
е > 0 |
и т. Тогда |
|
|
|
||
(32) |
рПш ± |
2 у,у; = |
plim -у- 2 |
yi-iyLi = |
F* |
||
|
Т-УОО 1 |
^__J |
Г-ЮО |
1 |
|
|
|
где F задается соотношением (22). |
|
|
|
||||
Л емма 5.5.4. Если матрица 2 |
положительно |
определена, то |
|||||
такова же и матрица F. |
|
|
|
|
Д оказательство. Матрица F, во всяком случае, будет положи тельно полуопределенной как ковариационная матрица. Поскольку же F = 2 + BFB', она является положительно определенной как сумма положительно определенной и положительно полуопре деленной матриц. (См. упр. 28). в