Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Статистический анализ временных рядов

..pdf
Скачиваний:
2
Добавлен:
19.11.2023
Размер:
47.02 Mб
Скачать

5.5. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК 223

Т еорема 5.5.3. Пусть выполнены условия теоремыЬ,5.2 и матрица

F положительно

определена. Тогда

 

(33)

plim В =

В,

 

Т - У О О

 

(34)

plim 2 =

S.

Т- У О О

Доказательство. Д ля доказательства (33) заметим, что

(35)

plim В' — В' = plim

-=■ У

У'-iyL i

I

X

 

 

 

 

Т-*оо

Т-* 03 \

*

f )

 

 

 

 

 

 

 

 

 

/

 

1

т

 

,

1

т

\

 

 

х Г- т 2 у'->у< г 2 у- * у;-.в ') =

 

 

 

/

1

т

 

,

\- i

1

т

 

 

 

= — plim

-jr ^

У^—1У/_1

/

2

У<-'и<= 0 .

 

 

 

т-*°° \

 

,=1

 

 

/=1

 

Тогда

(34)

вытекает из представления

 

 

 

 

 

(36)2 = -±- 2 (У, + Ву,—>) (у, + By,-,)' =

—4"2 уЖ+ в 2 yt-Ф + "г2 у<у,-1®'+

<=i

,=i

_

,=i

 

 

 

т

 

 

 

+ в_г 2 * - * ;_ ,* .

 

 

 

м

и из соотношений (28) и (33). ш

 

Теорема 5.5.3 показывает,

что

указанные оценки для В и 2

состоятельны при довольно общих условиях, в частности более общих, чем те, при которых они являются оценками максимального правдоподобия. Мы выбрали эти условия потому, что они относи­ тельно просты и тоже приводят к асимптотической нормальности. Предположение о том, что все характеристические корни лежат в единичном круге, не является необходимым для состоятельности оценки матрицы В. Однако оно необходимо для общей теоремы об асимптотической нормальности. (См. Т. Андерсон (1959).)

Чтобы доказать состоятельность оценок для скалярного уравне*

ния порядка /?, остается показать невырожденность матрицы F.

Л емма 5.5.5. Если а 2 >

0, то матрица

(37)

F = 2 В*2В'Я,

224 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

положительно

определена,

 

где

 

 

 

 

 

 

 

 

“ а2 0

0

.. .

0

"

 

1

 

Рз .. • Рр

 

0

0

0

.. . 0

,

в =

0

0

.... 0

 

(38) S =

0

0

0

.. .

0

0

1

0

....

0

 

 

_ б

0

0

..

0

_

 

0

0

0

....

0

_

Д оказательство. Е сли для некоторого х оказывается, что

(39)

г-

со

^

x'Fx =

2

x'BsSB sx = О,

 

 

s=0

 

то при этом должны выполняться соотношения

0 =

х'Ёх = х2о2,

 

(40)

 

 

0 =

x'BsS(x'Bs)\

s = 1 , 2 , , .

Но из последних непосредственно следует, что хх = 0 и равны нулю

первые компоненты векторов

x'Bs, s =

1, 2, ... . Первая же ком­

понента

вектора

х'В

равна

х2,

так

что х2 — 0. Подобным

же

образом

показывается,

что

равны

нулю все

компоненты вектора

х. Итак, если x'Fx = 0, то обязательно х =

0, что и требовалось

доказать.*

 

 

 

 

 

 

 

 

 

Т

е о р е м а

5 . 5 . 4 .

Пусть yL определяется соотношением ( 1 )

из

§ 5 . 1

для

t = ...,

—1, 0,

1,

...,

причем все характеристические

корни этого уравнения лежат в единичном круге, а случайные вели-

чины щ независимы и %tu =

0 ,

= а 2 >

0 . Пусть, кроме того,

ut либо имеют

одинаковые

распределения,

либо £ | ut | 2+ 8 < т,

t — 1,2,..., для некоторых е > 0 и т. Тогда

(41)

plimjj =

p,

 

 

 

Т- * о о

 

 

(42)

рНш а2 =

а2.

 

Т•+ оо

5.5.4.Асимптотическая нормальность оценок Предельное распределение матрицы

(43) у т (В' - В') = - V T 1-Х 2

 

Г 4 - S

У

\

1

I

1

5.5.

АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК

225

совпадаете

предельным

распределением матрицы—F-1 (1/ j / Т) х

т

 

 

 

X 2

Покажем,

что предельное распределение

про­

извольной линейной комбинации элементов последней матрицы, например

(44)

является

нормальным.

 

 

 

 

 

 

 

 

Положим

 

 

 

 

 

 

 

 

 

 

 

(45)

 

 

 

 

У^> =

2 ( - B ) su ^ s,

 

 

 

 

 

 

 

 

 

s=0

 

 

 

 

 

 

(46)

^

= - ^

2

а;фу^„

 

 

 

 

 

 

 

 

 

 

У 1

ы\

 

 

 

 

 

 

 

 

(47)

*А Г==-Т=г2и;ф

2 ( - В ) Ч - ! - ,

 

 

 

Тогда

 

У 1

t=1

s=k+ 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(48)

%X2kT = y -

2

2

^

( - В

) Ч

- 1- 8и ;Ф ( - В ) Ч - 1 - 0 =

 

 

 

 

/,т=1 s,a=fe+l

 

 

 

 

 

 

 

 

 

= 4 -

2

2

8 tr ( -

в / u,_i_sU;_i_CT( -

в )°Ф'ихи;Ф=

 

 

 

/,т= 1

s>0=fe-fl

 

 

 

 

 

 

 

 

 

“= 4 - 2

2

tr(— B)JS (— В')‘Ф '2 Ф ^

 

 

 

 

 

<=1 s=ft+l

 

 

 

 

 

 

 

 

 

 

= ^ Ф 2 Ф

2

(— B)sS (— B')S= MA.

 

 

 

 

 

 

 

s=ft+l

 

 

 

 

 

 

 

(Здесь использовано соотношение

x'x =

trxx!.) Поскольку

ряд

oo

 

 

 

 

 

 

 

 

 

 

 

 

 

2

(—B)s 2 (—B')s

сходится,

то

Mk

0 при k - ^

oo. Для фикси-

s=0

 

k

случайная величина

 

 

 

 

 

 

рованного

 

 

 

 

 

 

(49)

 

 

 

« ;ф у ^ = «;ф 2

 

(—B)S

 

 

 

 

 

 

 

 

 

 

s = 0

 

 

 

 

 

имеет нулевое среднее и дисперсию

 

 

 

 

 

(50)

8

2

и'ф ( -

B)su,_,_su;® ( -

В)г

=

 

 

 

 

s,r=0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

2

tr (— B)s 2 (— B')s Ф'2 Ф =

a*.

 

 

 

 

 

 

 

 

s=0

 

 

 

 

226 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

Ковариация

двух таких

величин, взятых в точках

t и т (t Ф т),

равна

 

 

 

 

(51)

S

и^Ф( - B)sи

(— B)riix—i — r = О,

т ф и

 

s,r= 0

 

 

Кроме того, последовательность {щФуЙ} обладает тем свой­ ством, что любое конечное подмножество ее элементов, соответ­ ствующих значениям t = tlt ... , tn tx < ... < tn, не зависит от элементов, соответствующих t< . ti k 1 и t > tn + k + 1. Использование теоремы 7.7.5 приводит к следующей лемме.

Л емма 5.5.6. Пусть

у\к) определены

соотношением, (45),

при­

чем случайные величины

и, независимы и одинаково распределены

с нулевыми средними и

ковариационными

матрицами

= 2 .

Тогда распределение случайной величины ZkT, определенной соотноше­ нием (46),

(52)

Рг [ZkT <

2 } = FkT.(г)

имеет при Т -> оо предел

 

(5 3 )

Н т ^ Й - Ф ' ^ - ) ,

где

 

 

(54)

Ф (о) = |

~ = - e~wtl4w,

 

■—-оо

а а\ указаны в (50).

Далее,

 

(55)

£ " . ® ( - Я - ) - Ф ( т ) -

где

 

(56)

о2 = Нт а2 = tr 2ФРФ'.

 

k-юо

Здесь мы используем следствие 7.7.1.

Л емма 5.5.7.

Пусть выполнены условия леммы 5.5.6 и характе­

ристические корни матрицы —В лежат в единичном круге. Тогда случайная величина S T, определенная в (44), имеет в пределе при

Тоо нормальноераспределение снулевым средним и дисперсией а2.

Применение теоремы 7.7.7 приводит к искомому результату. Матрицу с элементами обозначим для краткости F <g) 2. Это есть кронекерово произведение матриц F и 2.

Теорема 5.5.5. Если выполнены условия лемм 5.5.6 и 5.5.7, то

— Т

(1/ ( / 7) 2 y/-iU( имеет в пределе нормальное распределение с нуле-

<=1

вым средним и ковариационной матрицей F <g> 2.

5.5.

 

 

АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК

227

Т еорема 5.5.6.

Пусть

{у*} — последовательность случайных

векторов,

удовлетворяющих уравнению (1), в котором x\t незави­

симые

и

одинаково

распределенные случайные векторы с

%wt = О

и

/ =

2 ,

и пусть

характеристические корни матрицы —В

лежат в единичном круге, а матрица F

положительно определена.

Тогда

У Т (В'

- В')

имеет

в пределе

нормальное

распределение

с нулевым средним и ковариационной матрйцей F_I

0 2.

 

Д оказательство. Этот

результат вытекает из теоремы

5.5.5 и

(43). (См. упр.

29.) в

 

 

 

 

 

Теорема 5.5.7. Пусть \yt) последовательность случайных величин, удовлетворяющая уравнению (1) из § 5.1 для t = ..., —1, О, 1, ..., и пусть корни характеристического уравнения, соот­ ветствующего (1), лежат в единичном круге, а случайные величины щ независимы и одинаково распределены с нулевыми средними и

.--/ч

дисперсиями о2. Тогда у Т (Р — Р) имеет в пределе нормальное распределение с нулевым средним и ковариационной матрицей

ст2 р -1 .

В формулировках теорем 5.5.6 и 5.5.7 условие одинаковой рас­ пределенности случайных величин можно заменить условием равно­ мерной ограниченности их моментов порядка 2 + е или исполь­ зовать вместо него условие типа Линдеберга.

5.5.5. Случай неизвестного среднего

Предположим теперь, что векторное разностное уравнение имеет вид

(57) у, + By#—I + v = и< или, что эквивалентно,

(58)

 

 

 

(У, —м) +

В (y^i ц) =

и(,

 

 

где

 

 

 

 

 

 

 

 

 

(59)

 

 

 

 

v =

— р, — Вр.

 

 

 

Тогда уравнениями

максимального правдоподобия

для В, v и 2

будут

— г

 

7

Л

- т

 

-

 

 

 

 

2

 

 

2

У'-1 В'

2

У*->У/

(60)

/=1

 

t=\

 

t=1

 

 

Т

 

 

 

Л

 

 

 

 

_

2

у«

 

т

V'

1

 

1

 

*=«1

 

 

_

 

(61)

2

~

Т" 2

+ By/-i + v) (у, +

Ву,„1

+

v)\

м

228

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

Уравнение (60)

приводит к следующей паре уравнений:

 

(62)

^

2

 

 

— y(1)y;,)j в ' =

 

-

^

2 y /-iy ;— у(1)У') *

(63)

 

 

 

 

v =

— у — Ву(1),

 

 

 

 

 

 

 

т

 

 

 

 

т

 

 

 

 

 

 

 

где у = (1 /Л 2 У , и У(1) =

0-1Т) 2у<-1-

Мы хотим показать, что

 

 

(=i

поведение

 

<=1

а

являющихся

решениями

асимптотическое

оценок

 

В,

уравнений (62)

и (3)

соответственно, одинаково при р =

0. Для

этого достаточно в свою очередь показать, что при р =

0 величины

У Т у щ У щ

и 1/7у(1)У'

сходятся по вероятности к нулю.

 

Рассмотримсначаласлучай, когда (57) выполняетсядля t =...,—1,

0, 1, ... . При этом

 

 

 

 

 

 

 

 

 

 

 

(64)

 

 

 

 

У* =

f* +

2

 

B)Su'-s-

 

 

 

 

 

 

 

 

 

 

 

s—0

 

 

 

 

 

 

 

гак что iy I =

р. Ковариационная

матрица векторов

у< и yt- для

t <

V есть

 

 

 

 

 

 

 

 

 

 

 

 

 

(65)

%

; - р)(у; . - р)'=

2

(-B )sfiu,_su;-_s.(~ B ')s' =

 

 

 

 

 

 

 

s,s'=0

 

 

 

 

 

 

 

 

 

 

 

 

 

s=0

(— B)s2 (— B')s+<,_1 = F(—

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Отсюда следует,

что

 

 

 

 

 

 

 

 

 

 

 

(66)

П

(у* -

р) (у* -

р)' =

4 г % 2

 

(у,* -

р) (у* -

р)' =

 

 

 

=

F + - f

2 V

-

s)F( -

B')s+ 4 - 2

-

s) (**- B>s F

 

 

 

 

 

S=1

 

 

 

 

 

 

S=1

 

 

 

И СХОДИТСЯ п ри Г

oo

к

 

 

 

 

 

 

 

 

 

(67)

ton

T’S (у*— P) (у* —’ p)' = F+

F 2

(— B')S+

2

(— B)s F =

 

T-*-co

 

 

 

 

 

 

 

S=J

 

s=l

 

 

 

 

 

 

 

 

 

 

р + р н в о о + в 'г Ч

 

 

 

 

 

 

 

 

 

+

(I +

B)-’ (— B) F =

 

 

 

 

 

 

 

 

 

 

= F(I + В Т 1+ (И - B)-1F — F.

В силу неравенства Чебышева V ?

(У *

— м) * — р)' сходится

по вероятности к нулевой матрице.

 

 

 

 

 

 

 

5.5. ' АСИМПТОТИЧЕСКОЕ р а с п р е д е л е н и е о ц ен о к 229

В случае когда (57) выполняется только для

f *= 1, 2, ... и у0

фиксированный вектор,

 

(68)

у, =

ц + ( - В)' (у0 - (1) + S (“ B)sIW

 

 

s=0

 

Разность

между

у], определяемым (64), и у(,

определяемым (6 8 ),

равна

 

 

 

(69)

 

(— В)' [уо — (у0 — |ы)1.

 

*

 

 

 

где уо задается_соотношением (7), так что соответствующая раз­

ность между V f y *

и У ~ Т у равна

(70)

v r

i ( - B ) '[ y o - ( y 0 - fi)] .

 

У 1

ы

Сумма же математических ожиданий квадратов элементов матрицы (70) сходится к нулю.

_Из приведенных результатов следует, что У'Тущу'ц) и

V т У(1)У' СХОДЯТСЯ при II = 0 по вероятности к нулю и во втором

л

случае. Оценки В для обеих моделей, определяемые (62) и (3), имеют одинаковые асимптотические свойства.

Т еорема 5.5.8. Пусть yt определяется соотношениями (64) или (6 8 ), в которых ut независимы и одинаково распределены с Ли* =

= 0 ,

%upit =

2 , и

все

характеристические

корни

матрицы

—В лежат

в единичном

круге.

 

Тогда предельное распределение

случайной величины У~Т (у — JA )

нормальное, имеет нулевое среднее

и ковариационную матрицу (67).

 

 

 

 

Д оказательство.

Пусть S T =

V~Tq>' (у — щ),

y<ft> равно правой

 

 

 

 

 

 

т

 

 

части (45) плюс р, ZkT =

(1/J/T) 2<р' (у\к) — М-). Хкт= S T ZkT.

Тогда, если yt определяется соотношением (64), то

 

(71)

%Х\т =

ф' (— В)',*+i

F + 4 -

г — 1

 

 

2 ( T - s ) F ( - B ') ‘ +

 

 

 

 

 

 

 

S=1

 

 

 

 

 

 

+

т

1

T~l

 

( - в ')*+1ф

 

 

 

 

 

- 2 > ( T - s ) ( - B ) sF

Правая часть (71) сходится к нулю, когда k -*■ о о .

Используя теоре­

му 7.7.5, находим, что ZkT имеет в пределе при Т -*■ о о

нормальное

распределение с нулевым средним и дисперсией, сходящейся при оо к некоторой постоянной. Применение следствия 7.7.1 при­ водит к заключению о том, что S T имеет в пределе нормальное

230

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл.

5.

распределение. Поскольку вектор

ср был произвольным, то

послед­

нее

означает

нормальность

в

пределе

случайного

вектора

У Т (у — ji).

Если у, определяется соотношением (6 8 ),

то надо

использовать (70) и еще раз применить следствие 7.7.1. в

 

 

 

Скалярное

стохастическое

разностное

уравнение порядка

р

можно записать в векторной форме, беря в качестве v вектор v,

укоторого отлична от нуля и равна v только первая компонента. Действительно, уравнения (60) для модели (57), в которой В

заменяется на В, у, на у, и и, на и„ показывают, что при этом

необходимо должны равняться нулю последние р 1 компонент

А

V , Тогда из (59) будет

р

следовать, что Есе компоненты вектора ц

равны

u = v/(l Н- 2 Р/)- Применяя полученные

результаты для

 

/=i

 

этого

случая, находим, что У Т (у — р) имеет в

пределе распре­

деление, совпадающее с предельным распределением У Т (у — р) е,

где е = (1,

1)',

 

 

5.5.6. Случай фиксированных

переменных

 

Оценки

максимального правдоподобия

были получены у нас

для модели

 

 

 

(72)

2 pjjt-s + 2 Уfit =

Щ-

 

s=0

/=1

 

Она может рассматриваться как частный случай р-компонентной

векторной

модели

(73)

 

у, -f By<_i +Гг( = и,

в которой

Г — матрица размера р х q, состоящая из констант, и

zt =

(z\t........ zqt)'. Оценки максимального правдоподобия для

В, Г

и 2

определяются из соотношений

Ч*1

7 £

-

 

1

т

у

2

_

/==1

475)

2 = 4

7 £

2

м

1т

у2

1т

у2

1

(У< +

 

1

1

ytlZt

 

Q0<

 

 

А

ztzi

 

Г'

 

 

+

Г**) (У( +

-1 т

у2 у*->у<

/=1

~Т~2

_

_

м

+

* V -

 

5.5. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК 231

Асимптотическая

теория,

развитая для В и

Е,

определяемых

уравнениями (3) и (4), может быть распространена

А

А А

и на В,

Г, Е,

определяемые из

(74) и

(75). Однако подробно

изложить

такую

теорию довольно сложно. Поэтому мы наметим ее лишь в общих чертах. (См. Т. Андерсон и Рубин (1950), а также Купменс, Рубин и Лейпник (1950).)

Если (73) выполняется для

t = 1,

2,

и у в— фиксирован­

ный вектор,

то

 

 

 

 

 

 

 

 

 

 

(76)

 

у, =

2

(“

в)‘ и'-ь + * < + ( — B)Vn,

 

 

 

 

 

 

s = 0

 

 

 

 

 

 

 

 

где

 

 

 

 

 

 

 

 

 

 

 

 

(77)

 

wt «

— 2

(— B)Tz,_s.

 

 

 

 

 

 

 

 

 

s = 0

 

 

 

 

 

 

 

Если (73) выполняется для всех

I .„, —1, 0 , 1,

и г( ** 0 для

t = 0, —1,

то решение (73) будет иметь вид

 

 

(78)

 

 

 

y; =

2 ( - B

) su,~b+ w ,.

 

 

 

 

 

 

 

 

 

s = 0

 

 

 

 

 

Разность у< — у( равна при этом

(—В)' (уо — у0), где

уо определено

в (7).

 

 

 

 

 

 

 

 

 

 

 

 

Т еорема

5.5.9.

Пусть

у,

определяется соотношением (73) для

t = 1,

2 , ...

при фиксированном векторе у0, а

у] определяется тем

же соотношением (73)

для всех t = .„,

—1,

0, 1,

,

Пусть при

этом

случайные

величины

и,

независимы,

Ни, — 0 ,

8 и,и) = 2 ,

а характеристические

корни

матрицы

—В лежат в

единичном

круге. Тогда, если z, = 0 для t =

0, —1, .,. и z<z, <

(V,

/ = 1, 2, ...

для некоторого N,

то

справедливы соотношения (18),

(19), (20) и

(79)

 

plim

 

|

у'-'г'

1

 

J :

 

 

 

 

~ Y f 2

 

 

 

 

 

Г-»ое[ у г

 

 

 

(80)

 

plim [ , V g w -

i

 

 

 

 

 

y f | , Ч =

 

 

 

 

Г-*-ОО

 

 

 

 

 

 

Д оказательство. Мы имеем

232 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

+

2

(— в )'(уо— у0) « Ч

 

t=

1

+

i

+ ( - « ) ' у» (Уо-УоГ(--В')Ч

*= 1 [ _ s = 0

+2 w/(Уо —Уо/ (-В')Ч

*=]

+ i ( - В)' (Уо -Уо)(Уо — Уо)'( - В '/.

Первый, третий и пятый члены в правой части, деленные на 1/~Т, сходятся по вероятности к нулю в силу доказательства теоремы 5.5.1. Сумма математических ожиданий квадратов компонент вто­ рого члена равна

(82)trS 2 (-B^yS-yoJw.'wHyS-yo/C-Bf -

=2 wiw/«tr(— B)'(F + y0yo)(— B 'f. tf-=1

Поскольку

] ЩУ/t’l <

V W/W( V W/'W/',

(83)

w 4 =

2 4 r ' ( - B ' ) s( - B f rz/_S'

s, s ' = 0

икаждый элемент вектора z, меньше ]/Л), то сумма (82) равномер­ но ограничена (по лемме 5.5.1). Из этого следует, что разность (81),

деленная на / Г , сходится по вероятности к нулю. Рассмотрим теперь

(84)

2

~ S У ' Ч = I ( ~ В /-1 (Уо - у » ) х / .

 

t = \

< = i

Сумма математических ожиданий квадратов компонент (84) огра­ ничена по тем же причинам, что и выше (надо только w( заменить на zt). Это доказывает (79).

Далее,

(85) i у ;_ ,у г -

i y *-iy ;=

-

Гi у ; - . у ; : .

- i

1 в' -

ы

t=\

L/=i

<=>i

J

-

[ i у ; . . * -

i

y * - i* ;lr ' +

i <#_, -

* - o «;•

 

L<=.i

м

J

<=.i