книги / Непараметрическая статистика

тистик. Следуя работе Дмитриева и Тарасенко [1], остано­ вимся на классе, порождаемом функциями F(t), которые раз­ ложимы в степенной ряд по t:

и приближенная квази-^-статистика I типа для У будет иметь вид

Таким образом, оценивание У сводится к оцениванию интег­ ралов от степенной неизвестной плотности. Последняя зада­ ча рассматривалась в работе Дмитриева и Тарасенко [1].

Приведем теперь пример оценивания конкретного функ­ ционала. Пусть

квази-Н-статистика I типа для этого функционала оказыва­ ется очень простой:

Среднее значение УN равно

Так как hN-+0 при N-*-oo, то JN является асимптотически несмещенной оценкой:

lV->oo

Вычислим теперь дисперсию JN, введя для краткости обозна­ чение

IЬи

lN LN

205

Во всех суммах индексы, характеризующие каждый член, не совпадают. Предполагая симметричность весовой функции К,

8.6.2. КВАЗИ- U-СТАТИСТИКИ НА ГИСТОГРАММЕ

Другой класс оценок возникает, если в качестве непара­ метрической оценки плотности воспользоваться гистограм­ мой. Квази-П-статистика I типа для функционала (8.6.2) бу­ дет иметь следующий вид:

ш

В отличие от оценок, рассмотренных в предыдущем разде­ ле, в данном случае квааи-£/-статистики совпадают с прямы­ ми оценками (сравни (8.6.22) с (8.5.27)) со всеми вытекаю­ щими отсюда последствиями (см. раздел 8.5.2).

Рассмотрим теперь оценки II типа. В этом случае квази- 17-статистика имеет вид:

(8.6.23)

где р1н и р2 * относительные частоты (оценки рк), получен­ ные по подвыборкам объемов Ni и N2 соответственно. Учи­

тывая асимптотическую нормальность и независимость р\к и р2 к и предположив разложимость F в ряд Тэйлора, ограни­

чившись (на тех же основаниях, что и в 8.5.2) двумя членами этого ряда, имеем:

откуда

(8.6.24)

Как видим, N3 вообще не влияет на смещение. Это объясня­ ется тем, что по второй подвыборке строится Н-статистика, вообще не обладающая смещением (см. § 8.3). Проводя со­ ответствующие вычисления для дисперсии /л ^ ,, получим:

D J v ^ ± - [ 2 i F\ph- ( 2 l FkPkY) +

307

за счет разных подвыборок имеют различный характер, что интересно само по себе. При N\ = N2= N /2 (8.6.25) при­ ведет к результату

22

8.6.3.КВАЗИ- U-СТАТИСТИКИ НА ПОЛИГРАММЕ

Проделав все операции, необходимые для получения квази-СУ-статистики I типа, легко убедиться, что получатся статистики, отличающиеся от прямых оценок (8.5.32) на ве­ личину порядка N~K Это означает, что квази-[/-статистики и прямые оценки на полиграмме асимптотически эквива­ лентны.

§ 8.7. ОЦЕНИВАНИЕ «НЕЯВНЫХ» ПАРАМЕТРОВ

До сих пор речь шла об оценивании параметров, прирав­ ниваемых к значению некоторого функционала. При этом оценка функционала и являлась оценкой соответствующего параметра. Однако в ряде случаев интересующий нас па­ раметр 0о не может быть приравнен определенному функцио­ налу. (Типичным примером является параметр запаздыва­ ния между двумя реализациями сигнала при разнесенном приеме). Довольно часто в таких случаях оцениваемый па­

ра 0 (той же природы и размерности, что и 0о). Этот функ­ ционал задается таким образом, чтобы при 0= 0Ои 7(0О, 0)

идея оценивания 0Осостоит в том, чтобы принять в качестве

0о то значение 0, при котором оценка /уу(0о, 0) обладает ука­ занным свойством. Понятно, что качество получаемой таким образом оценки зависит от характера функционала /; от ти­

даже для одной задачи можно предложить несколько функ­ ционалов, обладающих требуемым свойством, возможно не­ сколько вариантов оценок неявного параметра. Любопытно, что оценивание по методу максимума правдоподобия также

208

может быть интерпретировано как вариант изложенного ме­ тода. Пусть известна плотность f(x/Q). Определим энтро­ пийный функционал

и нам остается лишь найти то значение 0, которое доставляет JN минимальное значение. Таким образом, оценки макси­ мального правдоподобия есть оценки параметров, неявно за­ данных через энтропийный функционал при и з в е с т н о м т и п е п л о т н о с т и и и с п о л ь з о в а н и и U-с т а т и с т и к . В чисто непараметрической постановке число возможных оце­ нок неявного параметра увеличивается еще и за счет наличия разных способов оценивания одного и того же функционала (см. предыдущие параграфы данной главы).

Общий подход к оцениванию неявных параметров развит недостаточно и сводится пока к идее Ходжеса и Лемана [2], которые предложили (на примере оценки параметра сдвига) пользоваться непараметрическими тестами для проверки ну­ левой гипотезы против альтернативы, связанной с оценивае­ мым параметром (в их случае — со сдвигом). Проще всего продемонстрировать этот подход на примере двувыборочной

ки, естественно, будут связаны с качествами используемого теста.

В своей исходной статье Ходжес и Леман [2] рассмотре­ ли свойства такой оценки сдвига при пользовании ранговы­ ми тестами (см. гл. X), основанными на статистике Вилкоксона и статистике с нормальными метками. Интересно, что

209

при пользовании тестом Вилкоксона статистика 0 оказалась эквивалентной медиане разностей {xt—f/y}, а в одновыбороч­ ной задаче — медиане полусумм (х^х^/2, i < j • Этот факт исключает необходимость поисковой процедуры по 0 в дан­ ном случае. Отметим, что аналогичная ситуация возникает при пользовании тестом Крамера — фон Мизеса (см. гл. IX). Мы снова приходим к медиане разностей (Файн [1]). Иссле­ дованию свойств оценок неявно задаваемого параметра сдви­ га посвящено большое количество работ. Появилось несколь­ ко статей по оценке параметра масштаба таким же методом, поскольку, деля выборочные значения одной из выборок на изменяемую величину 0, мы можем снова отыскать те зна­ чения 8* и 0**, при которых масштабы двух выборок станут неразличимыми для данного теста.

Однако законченная теория оценивания неявных пара­ метров еще ждет своего построения. К числу вопросов, на которые должна ответить эта теория, относятся следующие: 1. Существует ли среди различных функционалов, через ко­ торые можно определить неявный параметр, наилучший, «наиболее чувствительный», т.е. дающий оценки наивысше­ го качества по заданному критерию? Если да, то как строить такой функционал для данной задачи? 2. Поскольку один и тот же функционал можно оценивать по-разному, то какой способ оценивания предпочтителен в смысле качества полу­ чаемой оценки параметра? 3. Случайным или закономерным является то, что в некоторых случаях оценка по методу Ходжеса-Лемана оказывается эквивалентной некоторой беспоисковой оценке? Если это закономерность, то нет ли спо­ соба нахождения сразу беспоисковой оценки? Выполнение такой программы является трудным, но чрезвычайно инте- ' ресным делом.

ГЛАВА IX

КРИТЕРИИ СОГЛАСИЯ

§ 9.1. ЗАДАЧА СОГЛАСИЯ И ЕЕ ВАРИАНТЫ

Коротко задача согласия может быть сформулирована следующим образом: по независимым наблюдениям Xj, ..., Xff требуется вынести суждение о том, принадлежат ли они к распределению заданного типа. Подобные задачи возника­ ют в самых разнообразных случаях; типичным примером яв­ ляется необходимость экспериментальной проверки приемле­

210

мости принятой статистической модели. Хотя проблема про­ верки соответствия между теоретической моделью и экспери­ ментальными данными является столь же древней, как и сама наука, по отношению к статистическим гипотезам эта проблема впервые была количественно поставлена и решена К Пирсоном [1] в 1900 г. В этой знаменитой работе, посвя­ щенной х2_кРитеРию> Пирсон, в частности, продемонстриро­ вал, сколь опасно переносить опыт сглаживания эксперимен­ тальных данных, содержащих лишь незначительные (по срав­ нению с основным эффектом) погрешности эксперимента, на аппроксимацию распределений случайных величин по выбор­ ке. Он не упустил возможности пошутить над двумя извест­ ными своими современниками — сэром Дж. Эйри и профес­ сором Мерриманом. Оба они опубликовали по серии наблю­ дений, которые, как они утверждали, являются хорошим при­ мером случайных величин, подчиняющихся нормальному рас­ пределению; суждение выносилось «на глаз», просто визу­ альным сравнением теоретической и экспериментальной кри­ вых. Пирсон показал, что вероятность неслучайного соответ­ ствия этих кривых в случае Эйри равна 0,014; а у Мерри­ мака оказалось всего полтора шанса на миллион! С этого момента и до настоящего времени задача согласия привле­ кает неослабевающее внимание статистиков. Различные ва­ рианты задачи согласия возникают в связи с тем, что в ее постановке могут фигурировать разные типы гипотез и аль­ тернатив, а также различные предположения о наличном ста­ тистическом материале (одновыборочные, двувыборочные, многовыборочные задачи).

По типу гипотезы задачи согласия разбиваются на два класса.

З а д а ч а с о г л а с и я с п р о с т о й г и п о т е з о й . По

раметричность задачи выражается в непараметричности аль­ тернативы, которая может быть сформулирована как в одно­ сторонних, так и в двустороннем вариантах:

З а д а ч а с о г л а с и я со с л о ж н о й г и п о т е з о й . Во многих случаях в статистической практике предлагаемая статистическая модель формулируется не в виде конкретного распределения, а в виде предположения о его типе: например,

211

предполагается, что выборочные значения распределены нор­ мально с произвольными параметрами о и а. Более общо, проверке подлежит гипотеза, состоящая в том, что распре­

При формулировании типа альтернативы возможны также различные варианты задачи согласия. Так, если гипотеза со­

состоит в том, что выборочные значения не являются неза­ висимыми, мы имеем так называемую з а д а ч у з а в и с и ­ м о с т и (которую мы будем рассматривать отдельно). Воз­ можны также конкретные альтернативы регрессионного типа и т. д.

Далее отметим следующее существенное обстоятельство.

Здесь звездочками отмечены соответствующие распределе­ ния выборки в приведенном пространстве (см. гл. 1). Попут­ но заметим, что плотность вероятности приведенной выборки при гипотезе равна единице для всех и е [0 , 1], альтернатив­ ная плотность приведенной выборки выражается через ис­ ходные плотности как

имеют стандартную структуру: значение некоторой статисти­

зойден или нет этот порог, принимается то или иное решение.

212

Специфика критерия согласия состоит прежде всего в том, что статистика S должна быть чувствительной к л ю б ы м отличиям между истинным распределением G(x) и гипотети­ ческим распределением F(x). В связи с этим первой пробле­ мой, которая должна быть решена, является построение ста­ тистик, обладающих указанным свойством. Как мы увидим впоследствии, может быть предложено великое множество таких статистик; практически же полезными будут лишь те из них, при пользовании которыми можно установить одно­ значное соответствие между критическими знач'ениями и уров­ нями значимости теста. Отсюда возникает вторая задача*теории критериев согласия: найти точное или асимптотическое распределение данной статистики S при истинности гипоте­ зы. Далее, было бы весьма желательным сравнить между собой многочисленные критерии согласия по их способности различать альтернативы того или иного типа. Поэтому тре­ тьей задачей теории критериев согласия является изучение их мощностных свойств при различных альтернативах. Все эти задачи будут обсуждаться в последующих параграфах дан­ ной главы.

§ 9.2. ПРИНЦИПЫ ПОСТРОЕНИЯ СТАТИСТИК

ДЛЯ КРИТЕРИЕВ СОГЛАСИЯ

Поскольку задача согласия есть, по существу, задача срав­ нения двух распределений, одно или (в двувыборочном вари­ анте) оба из которых могут быть неизвестными, то конструи­ рование статистик для этих критериев опирается на три ис­ ходных пункта: а) выбирается та или иная мера различия между сравниваемыми распределениями («расстояние» меж­ ду ^ и G); б) выбирается та или иная оценка неизвестного распределения по заданной выборке; в) тестовая статистика получается путем подстановки в функционал, выражающий «расстояние», выбранной оценки истинной функции распре­ деления.

Многообразие критериев согласия объясняется прежде все­ го тем, что как оценки распределения, так и расстояния между ними могут быть введены различным образом. Кро­ ме того, дополнительные классы критериев согласия появля­ ются в связи с тем, что можно оценивать как функцию рас­ пределения, так и плотность вероятностей. Для построения критериев согласия могут быть использованы любые оценки функций распределения и плотностей; наиболее употреби­ тельные из них описаны в главе VII.

Что касается расстояний между двумя функциями рас­ пределения, то здесь также имеется широкий простор для

213

изобретательности. Известны, например, следующие вариан­ ты мер различия между функциями распределения (сводка которых имеется у Залера [1]):

d^F, G)= sup I/=■(*)-(?(.*)]

d 2( F ,G ) = sup (F(x)—G(x) | ^ F(x)),

X

dA F , G ) = J [F (x )-G (x )] dF(x),

- oo

d'JyF, G)= f № ) - 0 ( * ) 1 2ф ( / ^ ) ) а В Д ,

d.(F,G) = J F(x) dF(x)-

G(x)

здесь через ip(t) ^ 0 обозначена некоторая весовая функция. Аналогичным образом могут быть построены меры различия между плотностями. Например, ряд критериев согласия, ис­ пользующих плотности в приведенном пространстве, построен (Кейл [1]) на «расстояниях» следующих типов:

в формулу для выбранного «расстояния» некоторой оценки соответствующего распределения. На деле, конечно, бывали случаи, когда тот или "иной автор предлагал конкретную ста­ тистику из других, часто интуитивных, соображений; но впо­ следствии обычно оказывалось, что эту же статистику можно построить и указанным выше алгоритмическим способом.

§ 9.3. КРИТЕРИИ СОГЛАСИЯ НА СТАТИСТИКАХ «СТРУКТУРЫ d»

Общим для критериев этого класса является использова­ ние эмпирической функции распределения (см. § 7.2) GN (х)

214