Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Статистический анализ временных рядов

..pdf
Скачиваний:
2
Добавлен:
19.11.2023
Размер:
47.02 Mб
Скачать

5.4.

ОЦЕНКИ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

213

Если

обозначить

*

 

*

-

 

-

1

• • •

 

 

1

Г1

_1

 

 

 

Г*

1

. . . г *

 

(25)

R* =

1

 

 

р — 2

 

 

 

 

 

 

 

_

Г*

Г*

. 1

1

_

 

p~l

гр — 2

• **

то (2 2 ) можно записать в виде

 

 

(26)

 

 

 

R*b = — г*.

II

~г\~ П2

1 гЛ- 1

Решением уравнений (26) будет b = —(R*)- 1r*, Эти уравнения обладают тем преимуществом, что они используют лишь р статис­ тик, а матрица R* является положительно определенной. (Мат­ рицу R* можно рассматривать как пропорциональную матрице, у которой элемент, находящийся на пересечении t-й строки и

т

/■го столбца, равен 2 { y t+ i — У) (yt+ j У), t=—p

и разность

yt+i —

I^

полагается равной нулю при t + i < 0 и t + i > Т.) Кроме того, матрица R* симметрична и относительно главной диагонали и диа­ гонали, идущей из левого нижнего в правый верхний угол матрицы.

Специфическая форма R* и г* приводит к простому рекуррент­ ному способу вычисления коэффициентов уравнения + 1)-го порядка по решению соответствующего уравнения р-го порядка. Уравнения относительно вектора коэффициентов уравнения + + 1)-го порядка, который мы обозначим b + 1), имеют вид

(27)

R;+1b(P + i) =

-

r;+1,

 

 

где

 

 

 

 

 

(28)

Ь(р +

1)

ь(1,( / > + 1) \

bp+ 1 +

1

 

 

 

 

 

р+1

 

 

 

 

Rp и Гр задаются

соотношениями

(25), а Тр = (г'р,

Гр-ь .... г\у

есть просто Гр с координатами, записанными в

обратном порядке.

При этом (27) распадается на два уравнения

 

 

(29)

R ; b ( , ) ( р + 1 ) + ?p b p + , +

1) =

-

гр,

(30)

г*'Ь(,) (/?+ !) + bp+i (р +

1) =

— Гр+ь

214

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

Исключив Ь(1>+1) из (29) и (30), получим

где вектор b (р) = (bp (р), bp- 1 (р), ..., Ьг (р))' получается из век­ тора b (р) изменением порядка его координат на противоположный. Подстановка (31) в (29) дает

(32) ь(|)( р + 1) = - ( R ;r v ; - ( ^ г 1 г Х н (р + о =

=*Ь(р) + Ь(р)Ьр+1(р+ 1).

В покомпонентной записи (31) и (32) имеют вид

р

(34) b; (Р + 1) = bj (р) + V H - / (Р) ЬР+ 1+ 1),

/ = 1......... Р

Полученные уравнения позволяют легко вычислять оценки для процесса заданного порядка. Промежуточные вычисления дают коэффициенты для всех процессов более низкого порядка. В § 5.6

будет показано, что bp+1 + 1) есть частная

корреляция между

yt и !/t+p+ь «при фиксированных величинах

.... yt+p»- Этот

метод соответствует стандартному методу добавления в уравнение регрессии независимой переменной. Упрощенные формулы для этого случая были предложены Дурбином (1960а).

Мы уже замечали, что уравнения (9) для оценок коэффициентов стохастического разностного уравнения формально совпадают с уравнениями, используемыми в методе наименьших квадратов. В случае обычной регрессии оценки наименьших квадратов явля­ ются наилучшими несмещенными линейными оценками. Получае­ мые здесь оценки не линейны по yt. Обращаясь к уравнениям (9), Дурбин (1960b) назвал их линейными (относительно оценок) и несмещенными, в том смысле, что при замене в (9) оценок на истин­ ные значения параметров математические ожидания правой и ле­ вой частей совпадают. В пределах такого класса уравнения (9) являются наилучшими в том смысле, что дисперсия разности пра­ вой и левой частей минимальна.

5.5.

АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК

2*5

5.5.АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

5.5.1.Обсуждение асимптотических свойств

Вэтом параграфе мы покажем, что оценки максимального прав­ доподобия, полученные в § 5.4, состоятельны и асимптотически нормальны при неограниченном возрастании периода наблюдений. Хотя доказательства оказываются здесь более сложными, соответ­ ствующие условия и результаты подобны сформулированным в тео­ реме 2 .6.1 и следствиях 2 .6 .1, 2 .6 .2 для оценок наименьших квадра­ тов. В связи с этим при больших выборках и в настоящем случае можно целиком использовать обычную технику регрессионного анализа.

В§ 5.3 было показано, что скалярное стохастическое разност­ ное уравнение порядка р можно рассматривать как частный слу­ чай p-компонентного векторного стохастического разностного урав­ нения первого порядка

у, -|- Ву,_, =

щ,

где

 

 

(2)

 

 

Здесь

В — матрица коэффициентов

размера р X р, §и, = О,

&u,u/ =

2 , и, независимы, а характеристические корни матрицы

—В лежат в единичном круге. Уравнения, из которых определя­ ются оценки максимального правдоподобия для скалярной модели произвольного порядка, являются частным случаем уравнений, используемых для получения таких оценок в векторной модели

первого

порядка:

 

т

 

(3)

Т

 

 

У '-'й -1в ' =

— т

2

y<-iy;.

(4)

2 = -Y 2 (у/ + ВУ<_,) (у, +

B y ,.,) '.

Если и,

распределены нормально,

а у0

считается заданным векто­

ром, то В, определяемая из (3), есть оценка максимального прав­ доподобия. Нам будет удобно сначала получить асимптотические свойства этих оценок, а затем уже перенести полученные результа­ ты на случай скалярного уравнения р-го порядка.

216 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

Прежде всего мы покажем, что с точки зрения асимптотической

(при Т -> оо) теории,

случай,

когда

(1) выполняется при

t = 1,

2 , ..., а вектор у0 фиксирован, ничем не отличается от случая,

когда

(1) выполняется при

всех t (t

=

—1, 0, 1, ...). Затем

будет

 

/V

 

 

 

показано, что оценка В состоятельна и асимптотически нормальна. Далее находятся дисперсии и ковариации предельного распределе­ ния и показывается, что их можно состоятельно оценить. Эти ре­ зультаты будут распространены на модель скользящего среднего,

а также на модель стохастического разностного уравнения,

в кото­

рой возмущение является скользящим средним.

i

При проведении доказательств предполагается, что все харак­ теристические корни скалярного стохастического разностного урав­ нения различны и что в векторном случае матрицу —В можно привести к диагональному виду. Однако соответствующие резуль­ таты будут иметь силу и без этих предположений. Важно только, чтобы характеристические корни лежали в единичном круге. Ука­ зания на необходимые изменения в доказательствах вынесены в под­ строчные примечания.

5.5.2.Асимптотическая эквивалентность выборочных моментов второго порядка двух процессов

 

т

 

 

 

 

 

Рассмотрим сумму 2у*У*. в которой у,, t =

1,

Г, порожда­

ется с помощью (1) при заданном у0, так что

 

 

(5)

У/ = S

B)s «*-* + (— В1 у0-

 

 

 

s=0

 

 

 

 

 

 

 

Т

 

 

Наряду с ней рассмотрим сумму 2у<У<, в которой у\

удовлетворяет

соотношению (1) при всех t

=

.... —1, 0 , 1,

так что

(6 )

У ;=

2

(“ В)* i w

 

 

 

 

s = 0

 

 

 

тт

Покажем, что матрица 2 у<у< — 2 ytyu нормированная делением

на

или на Т, сходится по вероятности к нулевой матрице.

Из

(5) и (6 ) следует, что

у* — у, = (— В)* (уо — у0), где

(7)

У;=*2

( - В ) 5 и_,.

s = a

6.5.

АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК

217

Поэтому

(в)i y ; y : - i > y ; =

М 1

 

= 2 (— В У (уо — Уо) У/ +

2

У< (уо — Уо)' (— В')* +

 

 

<=1

 

 

<=i

 

 

 

 

 

 

+ 2

(— В / (Уо — Уо) (Уо — Уо)' (— В ')‘ .

 

 

 

<=1

 

 

 

 

Сумма

математических

ожиданий

квадратов элементов

матрицы

т

 

 

 

 

 

 

 

 

2 ( —ВУ (уо — Уо) У* Равна

 

 

 

 

 

1=1

 

 

 

 

 

 

 

 

(9)

tr S 2

(— В / (yj — у0)у, [ 2

(— B)s (yS— Уо)у«

 

 

/==1

 

Ls=i

 

 

 

 

 

— tr8

2 (—’ В)*(Уо — Уо)У<У5(Уо — УоУ О—В') 4 =

 

 

 

t,s = l

 

 

 

 

 

 

 

= 2

tr [(— В)' (F + УоУо)(— B')sl %!ys,

 

 

/ , s = l

 

 

 

 

 

в силу того, что вектор Уо (зависящий от u 0, u_i,

...)

не зависит от

у,, •••, Ут (поскольку последние

зависят только

от

иь

..., иг) и

8 уоУо =

F.

 

 

 

 

 

 

 

Л емма 5.5.1.

Для любого X, большего абсолютной величины мак­

симального по абсолютной величине характеристического корня матрицы —В, найдется такая константа с, что все элементы

матрицы (— ВУ будут

меньше сХ1, t = 0, 1, ... .

j

Д оказательство. Матрицу (—ВУ можно записать в виде

 

(10)

(— В)' = СЛ'<Г\

 

где матрица Л диагональная и ее диагональ состоит из характерис­

тических корней матрицы — В,

а С — невырожденная матрица.

В качестве указанной константы

с можно взять

произведение

следующих трех чисел: порядка р, максимального абсолютного значения элементов матрицы С и максимального абсолютного зна­ чения элементов матрицы С-1. ■

1) В случае общей жордановой

канонической формы при | X* | <

К найдется

константа

такая, что (J)

. При этом в с будет входить

шах

(См.

упр. 17.)

 

 

i

 

218

 

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

Поскольку

 

 

 

 

 

 

(11)

 

*У/У; =

2

( -

B)rs ( -

ВТ + ( - В)' УоУо ( - В')',

 

для X <

 

г=О

 

 

 

 

1 и удовлетворяющих

условию леммы 5.5.1,

 

(12)

 

%y'tyt =

tr 8yty'

2

сгХ2гр3max | ац | + с2Х21р2у0у0 ■

 

 

 

=

с*р3max | Oil |

 

+ с2р2у0у0Х2‘ <

 

 

 

 

<?ps max 1а,--1

 

 

 

 

 

< ------Г-"Х2

+

С^УоУо-

 

где

с — константа из леммы 5.5.1. Оценивая | Ну*ys | произведением

гЪу/у,

г"%;у5

и

используя

для оценки последнего неравенство

(12)

, мы можем оценить абсолютную величину второго из сомножи­

телей, стоящих под знаком суммы в правой части (9).

 

Что касается первого сомножителя, то его абсолютная величина

ограничена значением

КХ‘+*,

где К равно произведению

с2, р3

и максимума абсолютных значений элементов матрицы F + УоУоПоэтому

(13) 2 tr [ ( - в / (F + у0уо) (-В Т 1 < к х 2( - [ Е г - )* < T T S F

Таким образом, правая часть (9) не превосходит некоторой не за­ висящей от Т постоянной. Отсюда и из неравенства Чебышева сле­ дует, что первая и вторая суммы в правой части (8 ), нормированные

делением на |/"7\ сходятся по вероятности к нулю.

Третья сумма в правой части (8 ) является положительно полу-

определенной. Ее математическое ожидание равно

(14) g jj (—’в / (уо — Уо)(уо — Уо)' ( - В У

=

= 2

( - В)'(р + УоУо)(-В')г.

След этой матрицы ограничен произведением р3, максимального

абсолютного значения элементов матрицы F + УоУо

и Х2с2(Г—

— Я27)/(1 — Я2), так что он равномерно ограничен по

Т. При­

менение неравенства Чебышева в форме, используемой для неотри­ цательных случайных величин, показывает, что сумма диагональ­ ных элементов матрицы, представляющей третью сумму в правой

части (8 ), деленная на Y Т9 сходится по вероятности к нулю. По­

5.5. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК 219

скольку эта матрица положительно полуопределенная, отсюда

следует, что вообще

все

ее элементы сходятся

по

вероятности к

нулю.

Таким

образом,

показано,

что разность

г

,

т

2у1уГ — 2 У*У/.

 

 

_

 

 

 

t=\

 

t~i

деленная на V~T9 сходится по вероятности к нулю.

 

 

Рассмотрим

теперь разность

 

 

 

 

as)

i y ; _ , y

; ' - i >

- i y ; =

 

 

 

 

 

t=* i

t= \

 

 

 

 

 

 

 

 

= i y ; - i [ y ; : . ( ~ B ' ) + u ; ] -

 

 

 

 

 

t=i

 

 

 

 

 

 

 

 

— 2 y<-i ly L i (— B ') + ut\’ =

 

 

 

 

 

 

*=1

 

 

 

 

 

 

 

r i

yL.y; : , — 2

у<-«у/.

 

+

 

 

 

*=I

*=i

 

 

 

 

 

+

2

<_1 — у*—i) ur

 

 

 

 

 

 

/=1

 

 

 

 

 

Сумма математических ожиданий квадратов элементов второго

слагаемого правой части равна

 

 

 

(16)

tr % 2 (— В)*"~' (уо — Уо)

(уо — Уо)' (— ВУ~' =

 

 

t,s=1

 

 

 

 

= (tr S) 2

tr ( -

В /- 1(F + УоУ;) ( -

В')'-*

 

<=l

р3, максимального

 

и ограничена произведением чисел tr 2 ,

абсо­

лютного значения элементов матрицы

F +

УоУо и с \ 1 —/,2Г)/(1—Я2).

Поэтому она равномерно ограничена по Т. Отсюда следует, что

второе слагаемое правой части (15), деленное на Y T ,

сходится по

вероятности к нулю.

 

 

Поскольку

 

 

 

(17)

Г2 уЬ

у,*!, — 2

У‘-«У/-1

 

Ут

t= 1

/=1

 

 

 

1

2 У;уГ -

2 У/У; + УоУо' - УтУт -

УоУо + УгУ'г]

 

ут

 

t= 1

t=1

 

и последние четыре члена в правой части последнего соотношения сходятся по вероятности к нулю, то левая часть (17) сходится к нулю. Объединяя этот результат с предыдущим, получаем, что

разность (15), деленная на ]/7 \ сходится по вероятности к нулю*

220 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

Теорема 5.5.1. Пусть процесс {у,} удовлетворяет соотношению

(1) для t = 1, 2 , ...,

у о— фиксированный

вектор,

а процесс

{у/}

удовлетворяет соотношению (1)

для всех

t = . . . ,

1, 0 , 1,

 

кроме того, случайные

величины

nt независимы, %xxt = 0 , %xxtxxt

2

и все характеристические корни матрицы —В лежат в единичном круге. Тогда

Смысл этой теоремы заключается в том, что. асимптотические

свойства матриц В и 2 (состоятельность и асимптотическая нор­ мальность) будут одними и теми же и для процесса {у,}, и для

процесса {у*}. Иметь дело с процессом {у*} более удобно, поскольку он является стационарным.

5.5.3. Состоятельность оценок

максимального правдоподобия

 

Покажем теперь, что матрица коэффициентов при оценках

максимального правдоподобия

в (3) сходится по вероятности

к

некоторой невырожденной

матрице, матрица в правой

части

(3)

также сходится по вероятности к некоторой матрице и

что ре­

зультирующее уравнение имеет в качестве единственного решения

матрицу параметров

В. В этом разделе обозначение у, будет ука­

зывать на то,

что процесс удовлетворяет (1) при всех / =

1,

0 , 1,

так

что

 

 

 

 

 

 

 

 

(21)

у, =

J] (*-B)sU/-s,

 

 

1 , 0 , 1,

. . . #

 

и

 

S=s0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(22)

% , y ; = i i ( - B)s 2

( - B,)s ==F.

 

 

 

 

 

s=0

 

 

 

 

 

 

 

 

Лемма 5.5.2.

Пусть

случайные векторы ux, и2, ...

независимы,

&ut = 0

и Su(u< =

2 .

Тогда

если

и,

одинаково распределены

или

& Ы 2+8< т,

i =

1 ,

р, t =

1, 2 .......

для некоторых е >

0 и

т, то

 

 

 

 

 

 

 

 

 

 

 

(23)

 

 

 

 

p lim -jr^ иЛ

=

21-

 

 

5.5.

АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ ОЦЕНОК

221

 

Д оказательство. В случае одинаково распределенных

случай­

ных векторов утверждение леммы следует непосредственно из закона больших чисел для одинаково распределенных случайных величин, применяемого к каждой компоненте уравнения (23). При

выполнении второго условия элемент матрицы ntnt, стоящий на пересечении i-й строки и /-го столбца, именно иищи имеет матема­ тическое ожидание оц и при этом

(24)

Л | uitUjt |1+е/2 < |/"Л | ult |2+е Л | иjt |2+8 < т.

Утверждение леммы вытекает в этом случае из закона больших чисел, известного под названием теоремы Маркова. [См, Лоэв (1963, § 20.1),] .

Л емма 5,5.3.

Пусть yt

определяется

соотношением (21), все

характеристические

корни

матрицы —В

лежат в

единичном

круге, случайные

величины

и,

независимы

и

Ли, 0 ,

Ли,и* = 2 .

Тогда

 

 

 

 

 

 

 

(25)

 

plim

2

и<У_1 — °*

 

 

 

 

г-*00

<=>1

 

 

 

Д оказательство.

Сумма

математических

ожиданий

квадратов

 

 

г

 

 

 

 

 

элементов матрицы

( 1 / 7 ) 2 и/У<-1 равна

 

 

 

 

 

^=1

 

 

 

 

 

(26)

 

t=l

 

 

 

 

 

S=1

 

 

 

 

 

 

= - 4 - 2

Л ь У5—iUjU,y’_, = - у г 2

ЩчйУмУ*-'- =

s,*=I

 

 

 

t=1

 

 

 

T

 

 

 

 

 

 

 

= 4 - 2 t r S t r F = 4 t r S t r F

 

 

 

<=i

 

 

 

 

 

 

 

в силу того, что Луs_ 1Usu^yi_i =

0 при t Ф s (поскольку

us не за­

висит от ys_i и и,у,_! при s >> / и и, не зависит от остальных сомно­

жителей при 5 < t).

Утверждение

леммы следует из неравенства

Чебышева.

в

 

 

 

 

В соответствии с леммой 5.5.3

 

 

 

(27)

plim [ 4

2 У<У-1 + В

4

2

1 = °»

 

т-»°° L

 

 

<=»

J

222

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

а в соответствии с леммой 5.5.2

 

 

 

(28)

plirn

Y 2 У/У) +

в у- 2 У<-'У/ +

у- 2 У<У*-1В' +

 

 

Г-*-СО

 

 

t=)

 

 

 

 

 

 

 

+ B - f 2 у^ . у;_,в ' = S .

Если вычесть из (28) произведение (27) на В \

а также произведе­

ние В на транспонированное соотношение (27), то получим

 

(29)

 

?lim

^ - 2

у& — в у - 2 у#*8 '

= 2.

 

 

 

Г-и»

*=1

f=*l

 

«j

 

Здесь использован тот факт, что разность

2

 

 

 

 

т

 

{ т

 

 

(30)- f 2 у Y 2 У'-iyLi = (уг—УоУо)1

сходится

по вероятности к нулю. Поскольку уравнение

(31)

А — BAB' = 2

имеет единственное решение относительно А (см. упр.т 27), то (29) определяет предел по вероятности матрицы (1/7)2у<У< и этот предел равен (2 2 ).

Теорема

5.5.2. Пусть yt определяется соотношением (21) для

t = 1, 2, ...

, причем все характеристические корни матрицы—В

лежат в единичном круге, а случайные величины ut независимы и

!Ц = 0,

SiifU; = 2.

Пусть,

кроме того, и,

либо одинаково

распределены,

либо

£ | иц |2+е < т,

i =

1........р,

t — 1, 2 , ....

для некоторых

е > 0

и т. Тогда

 

 

 

(32)

рПш ±

2 у,у; =

plim -у- 2

yi-iyLi =

F*

 

Т-УОО 1

^__J

Г-ЮО

1

 

 

где F задается соотношением (22).

 

 

 

Л емма 5.5.4. Если матрица 2

положительно

определена, то

такова же и матрица F.

 

 

 

 

Д оказательство. Матрица F, во всяком случае, будет положи­ тельно полуопределенной как ковариационная матрица. Поскольку же F = 2 + BFB', она является положительно определенной как сумма положительно определенной и положительно полуопре­ деленной матриц. (См. упр. 28). в