книги / Статистический анализ геофизических полей
..pdfЭто означает, что если важны лишь асимптотические свойства тестов при близких альтернативах, то достаточно ограничиться классом тестов, статистики которых представляют^собой произволь
ные измеримые функции от М статистики Ж( ) . Это свойство Т (Т^-уёГ) может быть принято за определение аоимптотической до
статочности /1097. |
|
|
|
|
|
|
||
Рассмотрим следующую задачу проверки гипотез |
о параметре гГ |
|||||||
среднего |
значения |
нормального распределения в |
|
: |
||||
Ь |
x \ f } |
= Щ |
Г (%))■, V, X |
i |
f } ~ К ( Г ф ? , г ф ) , (1 .2 .4 5 ) |
|||
_ |
l/m |
Г |
( в |
» |
Ф |
0, |
|
|
где ГСв |
). |
|
-*■- |
— |
|
|||
О |
|
Я |
|
0 • |
|
имеет решающее |
||
Исследование задачи проверки гипотез |
ff7 |
значение при построении "хороших" тестов для общей параметриче ской гипотезы согласия. Отметим, что нормальные распределения,
соответствующие гипотезам |
0С |
и |
Яг , |
совпадают с |
предельными рас |
|||||||||||
пределениями АД статистики при гипотезе |
: 0~= ^ |
и близкой аль |
||||||||||||||
тернативе |
Нг : (Г - |
f+ T /fV '- |
|
|
|
|
|
|
|
|
|
|
||||
|
Полный класс тестов для задачи |
( Г .2 .4 5 ) |
определяется |
поня |
||||||||||||
тием допустимых^ тестов. Тест ? |
( f |
) допустим, |
если не |
существует |
||||||||||||
другого теота |
9 ( f ) , для которого при всех |
г * ¥ * 0 |
выполняется не |
|||||||||||||
равенство |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( Г ) , |
гле |
|
|
|
|
|
|
( I - 2 *4 6 ) |
||
Естественно, |
что |
использовать |
тест, |
не являющийся допустимым, не |
||||||||||||
целесообразно, |
поскольку найдется другой т ест , лучший при всех |
|||||||||||||||
яГ. Аналогично, |
используя функцию м о щ н о о т и (% * Т/г |
) |
, |
можно |
||||||||||||
определить асимптотически допустимые тесты |
|
|
Для проверки |
|||||||||||||
близких гипотез |
|
Н0 s |
f •= f |
ft, ■0 = |
T , |
0<\&\<c |
|
о |
пара |
|||||||
метре |
распределения |
р(Тл , |
«Г) и асимптотически полныйкласс те |
|||||||||||||
стов для |
этой |
задачи. |
|
|
|
|
|
|
|
|
|
|
||||
|
Т е о р е м а |
I.2 -.2 |
/8§7. Полный класс |
допустимых |
тестов |
|||||||||||
9 ( f ) |
для |
задачи |
проверки гипотез |
(Т .2.4-5) |
образуется |
индикатора |
||||||||||
ми к внешности произвольных замкнутых выпуклых множеств |
S |
в |
||||||||||||||
|
|
|
|
|
|
_ |
( 1 , |
если |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
•"Ч’ Л о, |
|
|
|
|
|
|
|
|
|
|
|
Т е о р е м а |
1 .2 .3 |
З о б /* |
Пусть тест |
9 ( f < |
? & |
|
облада |
||||||||
ет каким-либо свойством оптимальности (например, является РИМ, |
||||||||||||||||
НИМ, |
байесовским, минимаксным, инвариантным, допустимым и д р .) |
|||||||||||||||
для задачи проверки гипотез ( Г Л .4 5 ) . Тогда |
тест |
|
|
|
|
|||||||||||
0О)) |
асимптотически при < —-=■» |
обладает |
тем же |
свойотвом опти- |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
41 |
дальности для исходного семейства распределений |
/> (^ |
,( Г ) |
в |
за |
||
даче проверки гипотезы согласия н-ИГ* |
ffg против близкой |
альтер |
||||
нативы |
.'/"=■ 8^ + fy if, <?<\гТ\< с |
(является |
AFHM, |
HAFHM, |
БАО, |
асимптотически минимаксным, асимптотически инвариантным, асимпто
тически допустимым и д р .) .
Теоремы 1 .2 .1 и 1 .2 .3 по существу дают исчерпывающее реше
ние задачи построения "асимптотически хороших" тестов для провер
ки гипотез согласия |
//д •Т = &> Нт• |
(f0 |
в ситуации, когда |
се - |
|||||||||||
мейотво |
распределений |
наблюдений /> (^ , (Г) |
удовлетворяет услови |
||||||||||||
ям ЛАН в точке |
|
. Из этих теорем, в частности, следует, что |
|
||||||||||||
функция мощности всех асимптотически допустимых тестов |
|
||||||||||||||
стремятся равномерно |
по |xf 1 < с к |
некоторой предельней функции |
|||||||||||||
причем |
iT) есть |
функция мощности теста |
9 ( f ) в |
задаче провер |
|||||||||||
ки гипотезы согласия |
(Г .2 .4 5 ), |
определяемого соотношением |
|
||||||||||||
|
|
|
|
% |
I |
|
|
(v> |
% |
) } - г с * ~ ( ь > |
|
|
|||
|
|
Дальнейшие результаты аоимптотичеокой теории проверки гипо |
|||||||||||||
тез |
содержатся, |
например, в |
обзоре |
{ ! ] , |
а |
также в |
работах /3, |
4§Д |
|||||||
|
|
Г .З . ОПТИМАЛЬШЕ ОЦЕНКИ ПАРАМЕТРОВ |
|
|
|
|
|||||||||
|
|
РАСПРЕДЕЛЕНИЯ НШВДЕНИЙ |
|
|
|
|
|
|
|
||||||
|
|
"Абсолютно оптимальные" оценки. Если распределение наблюде |
|||||||||||||
ние |
|
, |
г ; |
) г |
описывается параметрической моделью /(Г# ; |
||||||||||
f |
), |
<Ге €><=#$, та, |
|
анализируя наблюдения, можно вынести решение |
|||||||||||
о |
том значении |
ЦТ , |
которое |
имело место |
в данном статистическом |
||||||||||
эксперименте, т . е . |
найти точечную оценку & ( *# ) , в каком-то смыо- |
||||||||||||||
ле |
близкую к |
. |
Оценкой может быть, |
в |
принципе, |
любая функция, |
|||||||||
отображающая выборочное пространство |
на /??, но естественно отре- |
||||||||||||||
мящаяоя к "хорошим" оценкам. Качество |
оценки S(T v ) достаточно |
||||||||||||||
полно характеризуется |
ее матрицей |
среднеквадратичного рассеяния |
|||||||||||||
|
|
|
|
|
£zrwQ % |
(?(%>-£)'-/$ (fa tеЩ (г.зл) |
|||||||||
|
|
|
|
^ |
|
* |
£ Ф |
" |
<%)<Ъ ( * „ ) dU K )> |
|
|||||
где |
$ у (§ У cavg~ & |
(x# ) - ковариационная матрица оценки; |
J " |
||||||||||||
|
|
|
|
вектор ее |
смещений. |
|
|
|
|
|
|||||
|
|
Оценку &~(ТМ) |
называют |
эффективной, |
если при каждом f & & |
||||||||||
соответотвующая |
ей |
матрица рассеяния |
|
С®) имеет |
"наименьший |
|
|||||||||
объем", |
т .е , для любой другой |
оценки |
в (х~ ) имеет |
место неравен |
|||||||||||
ство |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
42 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( Т .3 .2 )
где А> О означает неотрицательную определенность матрицы А . Построение эффективных оценок тесно связано с понятием информа ционной матрицы Фишерт, которая определяется следующей формулой:
|
ъ & ) ш \ ( vp(*~v >& ))(ч р (Гя >' |
|
е ) |
</Tr , |
(1 .3 .3 ) |
|||||||
где |
V p (% ; s ’) « ^ щ |
р |
(Тм ; |
i |
е |
j - |
вектор |
частных |
произ |
|||
водных плотности наблюдений р(л#-, 0 ) |
JIO |
параметрам |
. Плот- |
|||||||||
нооть |
распределения наблюдений |
р(Хц‘, |
& ) |
называется |
регулярной, |
|||||||
если /X 17 г |
|
|
|
|
|
|
|
|
|
|
|
|
А ) / ( а^ ; ЁГ) |
непрерывна по |
в |
той |
области |
® е |
Л ? г |
в |
ко |
||||
торой могут лежать |
значения параметров; |
|
|
|
|
|
||||||
|
2) при каждом |
|
/ е й |
существует $(Ё Г) , т .е . |
интеграл |
|
||||||
Ц .З .З ) оходится; |
|
|
|
|
|
|
|
|
|
|
|
|
_3) функция 'lр(Тя; |
) ' |
непрерывно дифференцируема по |
<Ру |
, |
(?■
В случае статистического эксперимента с регулярной пло'тноотьго для любой оценки 6 (>J) справедливо неравенство Рао - Краммера /Ш , M J:
|
!„ {? )> |
{f+ JB g & W ’cS') (7+ Ц , ( Г ) ) +£ < * ) ? / ( ? ) , |
( 1 .3 .4 ) |
||||||||||||||||
где |
^ „ ((Г ^ jjg |
|
|
)t |
j i f ] |
~ |
матР1П*а |
|
частных |
производных |
|||||||||
вектора смещения по параметрам. Величины |
|
|
|
и Ру ( & ) в |
пра |
||||||||||||||
вой |
чаоти |
неравенства |
(Т .3 .4 ) определяются |
структурой самой оцен |
|||||||||||||||
ки S |
(Ё~м) , |
в |
то |
|
время как |
информационная матрица Фишера |
^ (G ’J |
||||||||||||
зависит |
только |
от плотности распределения наблюдений p i T # ’, |
& )• |
||||||||||||||||
Поэтому, если рассматривать класс оценок |
|
|
с |
фиксированным сме |
|||||||||||||||
щением ^ |
|
|
, |
в |
этом классе |
наилучшей будет |
та оценка, |
для кото |
|||||||||||
рой при всех |
в е |
® |
в |
выражении (1 .3 .4 ) достигается знак равен |
|||||||||||||||
ства . Существуют примеры плотностей |
; (Г) |
|
и статистик $ (*# ), |
||||||||||||||||
для которых это |
|
имеет место. Среди классов |
|
наибольший инте- |
|||||||||||||||
рео представляет |
класс |
Кв |
несмещенных оценок, |
для которых |
(в |
||||||||||||||
= 0 |
и неравенство |
(1 .3 .4 ) |
имеет |
особенно |
|
простой |
вид |
|
|
||||||||||
|
|
_ |
|
|
|
|
|
|
{ |
( |
|
1 |
. |
|
3 |
. |
5 |
) |
|
Оценка |
ё(Т м)& |
К0 , |
для |
которой в выражении (1 .3 .5 ) достигается |
|||||||||||||||
равенство, |
называется |
эффективной по Фишеру |
( |
К - |
эффективной в |
||||||||||||||
терминологии /Й/ ) . |
р |
-эффективные |
оценки |
существуют далеко не |
|||||||||||||||
всегда. Возможны ситуации, когда |
в |
классе |
|
К0 |
есть |
оценка просто |
|||||||||||||
эффективная |
(в |
смысле |
неравенства |
( Г .3 .3 ) ) , |
однако для |
нее |
не |
43
обязательно достигается граница Рао - Краммера в неравенстве
( Г .3 . 5 ) . Так бывает, например, когда плотность |
|
|
в~) |
принад |
|||||||||||
лежит экспоненциальному семейству: |
|
|
|
|
|
|
|
|
|
|
|||||
р 1 ^ ,в ) лЛ (Г„)ехр\^р (% )*/< ?) + М ^ ) } . |
|
|
|
(Г .3 .6 ) |
|||||||||||
|
|
|
|
J |
|
|
|
|
|
|
|
|
|
|
|
Справедливы следующие утверждения [ V i J : |
|
|
|
|
|
Sj (6> ) в |
|||||||||
1 ) множество в |
|
значений параметра |
|
и функции |
|||||||||||
семействе ( I .3 .6 ) таковы, |
что а ( 8 ) |
"зачеркивает" |
некоторый |
па |
|||||||||||
раллелепипед в |
|
когда |
8~ "пробегает" |
& |
; |
|
^ |
|
|
||||||
2) существует произвольная несмещенная оценка |
в * (■*>), |
тог |
|||||||||||||
да оценка |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(Г .3 .7 ) |
|
'аффективная в классе |
Х0 . |
|
|
|
|
|
|
|
|
|
|
|
|||
Условие достижения границы Рао - |
Краммера |
налагает |
дополни |
||||||||||||
тельные ограничения |
на плотность |
|
|
) |
B A J , заключающиеся в |
||||||||||
следущ ем: |
Я -эффективная |
оценка |
существует тогда и только тог |
||||||||||||
да, когда |
р (*//’ |
в~) |
принадлежит экспоненциальному |
семейству |
|
||||||||||
( 1 .3 .6 ) специального |
видя, |
в котором векторы |
|
|
|
(? ,(* # ), |
|
||||||||
Т<£ { J ) , |
а |
(%(&), i e / 7 f ) |
и функции |
Я(х^), |
Ь(в~) |
тако |
|||||||||
вы, что: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
а ) |
|
|
S , |
|
|
- |
У / 0 ?~), |
|
|
(1 .3 .8 ) |
|||||
( т .е . вектор f OTN).= |
fy (*'N '>)T |
представляет |
собой Я- |
||||||||||||
эффективную оценку); |
|
|
|
|
|
|
|
|
|
|
|
|
|||
б) вектор |
Ш |
Г )“ (%(& ~ ),, о ( 8~) ) т |
имеет |
матрицу частных |
|||||||||||
производных |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
в ) |
скалярные функции />(Т^ ) |
и |
К в ) |
обеспечивают |
условие |
||||||||||
мировки плотности и одновременное выполнение указанных выше тре |
|||||||||||||||
бований к f i * # ) |
и |
а (< Г ). |
|
|
|
|
|
|
|
|
|
|
|
||
Оказывается также, что для рассматриваемого семейства век |
|||||||||||||||
тор f ( £ n ) |
является |
оценкой максимума |
правдоподобия, |
т .е . удов |
|||||||||||
летворяет |
соотношению |
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
f |
(Х~я )s e rg m x />(*"> |
6 )■ |
|
|
|
|
(I .ЗЛО ) |
Таким образом, существование /С-эффективных оценок возможно только для очень специальных параметрических моделей наблюдений, редко согласующихся о естественными моделями, возникающими аз 44
"физических" соображений. Вместе о тем, если такие сщенки суще ствуют, то их можно построить методом максимума правдоподобия. Последнее соображение в определенной степени объясняет широкое распространение этого метода.
Аоимптотичеокие критерии оптимальности оценок. Сформулиро
ванные выше принципиально важные результаты теории оценивания скорее иллюотриругот исключительное положение экопоненциальных семейств параметрических моделей распределения наблюдений, неже ли дают практически осуществимые рекомендации для построения хо роших оценок. В овязи с этим на практике приходится довольство
ваться оценками, отвечающими более "слабым", нежели эффектив ность, критериям оптимальности. Среди таких критериев главную роль играют состоятельность и асимптотическая эффективность.
Последние критерии регламентируют поведение оценок при больших размерах И выборки наблюдений и согласуются о интуитивными пред ставлениями о том, что, чем больше имеется однородных наблюдений, тем меньшее влияние должен оказывать их случайный характер на
статистические.выводы. |
|
|
|
|
|
|
|
|
|||||
Оценка |
¥ ( Тн) |
называется состоятельной, |
если с |
ростом |
t она |
||||||||
стремится |
по вероятности к истинному значению параметра fi |
, т .в . |
|||||||||||
любого |
(Г ->0: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
^вг />{]£(%)-¥]># }-л |
|
|
(Г.з.и) |
|||||
В частности, если ¥ (х~н ) |
имеет при любых |
!> |
среднее и ковариаци |
||||||||||
онную матрицу, то |
из условия (Г .З Л 1 ) следует, что |
|
|
|
|||||||||
|
|
|
|
¥Й(<Г)= |
|
(7я ) - в ) ~ |
О, |
|
|
|
|
||
|
timt VK{T )= f tj/n |
( * „ ) - ¥ ) (д |
|
|
О |
( I . 3 . J 2 ) |
|||||||
Из выражения |
(1 .3 Л 2 ) и неравенства Рао - Краммера |
(Г .3 .5 ) выте |
|||||||||||
кает, |
что |
существований несмещенных состоятельных оценок возмож |
|||||||||||
но только |
тогда, |
когда информационная матрица Фишера неограничен |
|||||||||||
но возрастает с |
ростом размера выборки, |
т .е . |
|
|
|
|
|
||||||
|
|
|
|
|
ш |
J ' j { f i ) ~ 0 , |
f i e ® . |
|
|
(Г .З Л З ) |
|||
|
|
|
|
|
/У-»- н |
|
|
|
|
|
|
|
|
Более того для таких оценок скорость стремления |
£ (О) |
к нулю не |
|||||||||||
может превышать аналогичную скорость для |
( ¥ ) , |
т . е . |
если по |
||||||||||
следовательность |
Хц\0 |
такова, |
что |
|
|
|
|
|
|
||||
|
|
|
0< |
wn |
в |
YH (ff) \ ~ с * |
<*», |
|
|
( { .З Л 4 ) |
45
то обязательно выполняется неравенство |
|
ffгТт fn' J V ft: \ f ) И |
(Г .З Л 6 ) |
Для наилучших несмещенных состоятельных оценок эти скорости |
|
могут совпадать, т .е . |
|
|
^ |
и ¥* ( f ) )1<б‘< |
т а |
> |
$ \ гУ < Г ) я |
(-**ЗЛ6) |
||
Такие |
оценки назовем (^-состоятельными. |
Для них последователь |
||||||
ность |
случайных величин fj\ d « ( ^ ) |
| |
ограничена по вероятно |
|||||
сти, |
т .е . для любого е > о найдется |
с |
такое, |
что для всех |
0 |
|||
|
|
fig- { Г ] I ^ |
Ъ ) |
~ Г \ > с ) |
"-*■ |
« - З Л 7 ) |
||
Условие (I .S .T 7 ) |
и представляет |
собой строгое |
определение |
^ -с о |
||||
стоятельности (или / ^ -состоятельн ости ). В большинстве |
задач, |
связанных с независимыми наблюдениями и стационарными временными
рядами, |
последовательность fy , для которой справедливы условия |
|||
(1 .3 Л 6 ) |
и ( 1 .3 Л 7 ) , эквивалентна |
0 |
~ г/г и |
состоятельные |
оценки в |
таких задачах называются |
{ |
7 -состоятельными. |
|
Критерий асимптотической эффективности в |
отличие от крите |
рия f -состоятельности регламентирует скорость стремления к нулю среднеквадратичного уклонения оценки не только по показателю сте
пени |
Ж, но и по константе при этой степени. Оценка в |
{ 7ц) назы |
вается |
асимптотически эффективной (АЭ), еоли для нее |
|
|
5 <*) = / / (/ ■ I * 0 (у ‘ ) . |
(1 .3 Л 8 ) |
Часто ввиду центральной предельной теоремы (практически |
||
всегда |
имеющей место для параметричеоних стационарных моделей) |
в определение асимптотической эффективности включают не только требование минимального разброса оценки при больших 0 , но и уоловие нормализации ее закона распределения /287. При этом # (fy )
называется асимптотически эффективной по Фишеру, еоли она асимп тотически нормальна с параметрами ( 7 , ^ '( Г ) )
Введенный выше критерий асимптотической эффективности дей ствительно определяет асимптотически наилучшую при всех 0~е 0
оценку |
в |
классе |
^ |
несмещенных сценок, |
так как |
из |
выражения |
||||
( 1 ,3 .5 ) |
|
следует, что |
в классе |
К0 |
всегда |
имеет |
место неравенство |
||||
|
|
|
ton |
% ( Г |
) £ j. ( 0 |
{Гй у |
е ) ( 0 (хй ) - 0 ) |
r > f, |
(I .З Л 9 ) |
||
где |
I |
- |
единичная матрица, |
а |
соотношение (1 .3 Л 8 ) |
можно перепи |
|||||
сать |
в |
виде |
|
|
|
|
|
|
|
|
|
46 |
|
|
|
|
|
|
|
|
|
|
|
/jn , ?„(* )tr |
( ? ( ? „ ) -? )(3 < 7 „ y ff)r~r. |
(Г.3.20) |
Следовательно, в классе ^ |
АЭ оценка при больших 0 близка к |
^-эффективной. Однако в классе произвольных (смещенных) оценок
|
ie |
задач |
были найдены так н азы ваете суперэффективные оценки |
|||||
|
у |
) / Ш |
, для которых в некоторое точках |
(точках су |
||||
перэффективности) |
выполняется неравенство |
|
||||||
|
|
|
|
|
|
|
|
(1 .3 .2 1 ) |
|
|
|
!& . |
|
( ? * < * „ ) - * * ) { • * ( * * > - * * ) ' 7 |
|||
в то |
время |
как |
в |
остальных точках 0 |
<= в> выполняется равенство |
|||
( J . 3 . 2 0 ) . |
Таким образом, среди произвольных |
оценок асимптотиче |
||||||
ски |
эффективная |
в |
смысле равенства |
( J .3 .2 0 ) |
оценка не может, |
|||
строго говоря, |
считаться наилучшей. |
Какой же асимптотический кри |
терий оптимальности оказывается непротиворечивым для класса про извольных оценок? Такой критерий был впервые введен в / 2 8 / и сле дует иэ неравенства 1'аека, являющегося асимптотическим обобщени
ем неравенства Рао - |
Краммера. Последнее неравенство и следующее |
||||||||
из него |
асимптотическое |
соотношение |
(Г .З Л 9 ) |
для класса |
несмещен |
||||
ных оценок справедливы в случае, |
когда плотность распределения |
||||||||
наблюдений /?(*# ; f ) |
удовлетворяет |
описанному выше условию регу |
|||||||
лярности. Однако если р(7я \ Г |
) |
в точке ff = |
t |
облапает |
свойством |
||||
ЛАН (см. {вздел 1 .2 , |
определение |
1 ), то для |
произвольна, оценок |
||||||
& (Хц) справедливо неравенство Гаека Д 02/ |
|
|
|
||||||
|
Urn |
|
* |
& |
x |
■& ) $ ( 7 ff) - 0 ) r>Z, |
(1 -3 .2 2 ) |
||
|
\6>-7\<<? |
* |
|
|
|
||||
где |
0 - любое числе. |
Сравнивая |
неравенства |
(Г .3 .2 1 ) |
и (J .3 .2 2 ), |
видим, что явление суперэффективности есть следствие неравномер
ного по 0 е |
<з> |
стремления к пределу нормированного уклонения |
||||
оценки. |
__ |
|
|
|
|
|
Оценка f |
(~х ) , для_ которой |
при всех |
t е & |
|
||
linr |
lim |
sup |
£ ( ? ) 40- |
< *<% ) - * |
) ( 8 i * t ) - 0 уг~/, |
( f . 3.23) |
|
|
|
|
называется асимптотически минимаксной (AM) в & /28/. Для класса произвольных оценок АМ-оценка - наилучшая в смыоле единственного непротиворечивого асимптотического критерия качества, следующего из неравенства Гаека. AM-оценка также асимптотически эффективная.
Обратное (в |
общем случае) |
неверно и з-за явления |
суперэффективно |
сти. Однако асимптотически |
эффективная пс Фишеру оценка в (*# ) |
||
оказывается |
и асимптотически минимаксной, если |
случайные величи- |
|
|
|
|
47 |
на г * ( ^ ) = / / |
( 9 ) ( 8 ( х м) - ( Г ) ш еот (при достаточно больших Я ) |
|||||
моменты любого порядка: |
|
|
|
|
||
|
\ |
|
|
п > е |
/V, |
(Г.3,24) |
а матрица Фишера удовлетворяет условию |
|
|
|
|||
|
Ш |
t f |
( % ) 7 „ i S e ) = H % , |
|
(1.3.25) |
|
где предел - равномерный по |
^ , ^ 6 ® |
и матрица |
* ( f , |
% > - |
||
непрерывная по |
#п &2 |
/ 2 8 7 . |
|
|
|
|
В случае |
если условия |
(Г.3.24) и |
(1.3.25) не выполняются, |
то |
асимптотически аффективная по Фишеру оценка вое же остается в |
|||
условиях ЛАН наилучшей не только в классе ^ |
несмещенных оценок, |
|||
но |
и в гораздо |
более широком клаоое К * регулярных оценок, для |
||
которых последовательность |
случайных величин гГ( % ) имеет равно |
|||
мерно по (Т е ® |
предельные |
распределения |
/28/. Яоно, что |
класс х ' (кстати, не содержащий суперэффективных оценок) вклю чает в себя все практически интересные оценки. И, наконец, дока зать асимптотическую эффективность какой-либо оценки в конкрет ной задаче часто бывает гораздо проще, чем убедиться, что она асимптотически минимаксна. В силу сказанного в последующем изло жении основное внимание уделяется анализу методов построения оценок, асимптотически эффективных по Фишеру, Доказательство асимптотической минимаксности полученных оценок в каждом конк ретном случае можно осуществить, проверяя выполнение условий (1.3.24) и (1.3.25).
Методы построения AM- и АЭ-оценок. Предыдущий обзор был свя зан о проблемой построения асимптотических критериев качества, непротиворечивых для широких классов оценок. Рассмотрим теперь, при каких условиях существуют AM- и АЭ-оценки и каковы методы их построения. Как отмечалось, при конечных /У регулярные способы построения эффективных и ^-эффективных несмещенных оценок можно указать только для семейств распределений очень специального ви да. Ниже доказано, что условия существования АЭ- и AM-оценок зна чительно более широки. Это позволяет находить такие оценки для многих естественных параметрических моделей наблюдений, в кото рых не существует эффективных д Я -эффективных оценок.
Важнейший результатом'аоимптотичеокой теории оценивания, по лученным в последнее время /Й8/, является тс, что при достаточно слабых ограничениях яа плотность распределения наблюдений ( Г ) асимптотически минимаксными оказываются оценки максимального правдоподобия
4 8
и байесовские оценки
* |
4 |
|
|
\ |
)p (fa ; в Щ й Р С ? ), |
(Г .3.27) |
|
|
|
|
|
|
|
||
где и<д (/) |
- |
функции^потерь, принадлежащая широкому классу, |
опи |
||||
санному в |
т |
? i Р (& ) |
- |
априорное раопределение параметра |
/Г |
||
Указанные ограничения |
несколько громоздко формулируются по отно- |
оению к функции p (fy ; в ) /2§7,' однако в идейном плане они доста точно просты и сводятся к усилению свойства локальной асимптоти
ческой нормальности, которое было введено в разделе |
Т .2 |
(см . оп |
||||||||||||||||
ределение 1_. 2 Л ) . |
Это усиленное |
свойство |
ЛАН заключается в допол |
|||||||||||||||
нительных требованиях к отношению правдоподобия |
|
|
|
|
|
|||||||||||||
|
|
|
|
fag |
(^)~p(fa> 0 |
* fa У) /p(fa, 0 ), |
|
|
(Г .3.28) |
|||||||||
(где |
j^ \0 |
( у — ■>«) |
- |
числовая |
последовательность, |
такая, |
что |
|
||||||||||
|
|
|
|
/КМ п |
f t |
II 1 ( 0 ) |
Ц< |
|
<Ге |
& |
|
|
(1.3.29) |
|||||
рассматриваемому как случайный процесс по |
gT е |
R 1. |
Справедлива |
|||||||||||||||
следующая теорема. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
Т е о р е м а |
|
Г .3 .1 |
/2§7. Цуоть выполнены условия: |
|
|
||||||||||||
|
1) |
случайная функция |
fa j ( |
& |
) , $ < £ > стремится к нулю по ве |
|||||||||||||
роятности при |
1 гГ| *-•=’'* |
равномерно по / |
« Г е ® , |
i . e , |
для лю |
|||||||||||||
бого |
Ь>0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( J , 3 ‘ 30) |
|
|
2) |
при всех / е |
® |
существует |
аоимптотичеокое |
разложение |
|
|||||||||||
|
" |
fa ? |
(7)= exp(я 'и Г (7#, в ) - / 7 |
^ |
( 7 ) 7 ^ ( f a . 7 |
) } |
f |
(1 .3 .3 4 ) |
||||||||||
для которого: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
а ) |
последовательность матриц fa (в") |
имеет |
равномерный по |
|
|||||||||||||
7 е |
® |
предел Г(<7) |
, |
причем матрица |
Г ((Г ) |
непрерывна и положи |
||||||||||||
тельно |
определена} |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
б) |
распределение |
статистики T7(fa,&) |
равномерно по Р~е |
® |
|||||||||||||
сходится к |
нормальному с |
|
параметрами |
( 0 ,f ( 4 7 ) ) ; |
„ |
__ |
|
|||||||||||
|
в ) |
для любого |
с |
> 0 |
|
случайные функции <*? (fa ’ |
)> |
' Ml <c |
|
|||||||||
непрерывны по |
If |
о вероятностью |
единица и сходятся |
к нулю по |
рас |
|||||||||||||
пределению в пространстве |
|
непрерывных функций над |
сферой |
|||||||||||||||
$ ~ {\ 9 \ < с |
} |
с |
равномерной метрикой, т .е . для любого |
г > с |
|
49
Таким образом, усиление свойства ЛАН, необходимое для дока зательства асимптотической минимаксности ОМП и байесовоких сце нок, связано в основном с доказательством сходимости остаточного члена У ) в ЛАН разложении к нулю как случайного процеооа по гГ , что не требуется в "обычной" ЛАН (ом. раздел Т .2 , опреде ление 1 ,2 .1 ) и налагает дополнительные ограничения на семейство распределений
Отметим, что последовательность матриц £(Р~) в ЛАН разло жении (1 .3 .3 0 ) обладает свойством
|
«яг |
^ ') "О, |
(1 .3 .3 3 ) |
и поэтому предел Г ( в ) этих матриц |
(и для простоты - |
даже после |
|
довательность |
этих матриц) |
естественно называть предель |
|
ной ьормированной матрицей Фишера (ПЮ-матрицей). |
|
||
Трудности применения оценок максимума правдоподобия и байе |
|||
совских оценок при анализе временных рядов связаны |
оо следующи |
ми обстоятельствами. Многие практически интересные параметриче ские модели стационарных временных рядов получаются в результате задания энергетического спектра этих процессов в виде функции Р М ,0 ), зависящей от неизвестных параметров. Типичным примером являются широко известные процессы авторегреосии - окользящего
среднего (см. раздел Г .1 ) . При этом даже в предположении гауосовского распределения временного ряда плотность распределения его
наблюдений р (? ц >%& ), как правило, не выражается в |
виде явной или |
|
.достаточно проотой функции параметра |
В лучшем |
олучае можно |
лить указать вычислительный алгоритм получения значения р(^ц '<9 ) при заданных Тц и в . Это сильно усложняет практическое примене ние оценок максимума правдоподобия, и тем более байесовских оце нок. Действительно, в описанной ситуации вычисление значения ОШ возможно лишь численными методами, в частности итерационными про
цедурами минимизации |
в "/. При использовании последних на |
|||||
каждой т ~й итерации должно вычисляться значение р(кг ,‘ 0 ) , |
соот |
|||||
ветствующее |
"текущему" |
значению в (п) |
параметра, |
а также значения |
||
производных |
Vp (fy, & |
' &) 1i e |
) ' |
Ясно, |
что |
коли |
чество операций, необходимых для вычисления |
) |
ж V p & .e ) , |
имеет решающее значение для1практической реализации ОШ. 50