Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Математическая теория энтропии

..pdf
Скачиваний:
17
Добавлен:
12.11.2023
Размер:
19.07 Mб
Скачать

72

Гл, 1. Сведения из теории вероятностей

тогда

$Р(Ао)*(©)> 0.

А

Доказательство. Определим на пространстве интегрируемых

случайных величин, т. е. на Ll (Q, Т , Р), операторы 5„ и следующим образом:

если п — 0,

(Snx)(a)

хоТ^©),

если п== 1, 2, 3, ...

(Sn х) (и) = max {S* (и): k = 0, 1, 2, . . . . п}.

Заметим, что S ix ^ O и что множества Л„ = {©: Snx(w)>0} образуют возрастающую последовательность измеримых мно­ жеств, объединение которых есть А.

Если &= 0, 1, ... , п, то Snх ^ Skx, откуда Six о Т ^ Skx о Т.

Поэтому

* + S/t*°Ti>x-t-S*xoT = St+,*, 6 = 0, 1,

или же

x + S^xoT>S*x, 6 = 1, 2, ... , /г+ 1,

и поэтому

х + s ix ° Т > шах {Sftx: 1 ^ k ^ п).

Поскольку S n * > 0 на множестве Ап и SoX = 0,

max{S*x: 1 ^ 6 ^ / t } = SnX

на множестве Ап. Поэтому

 

J Р (da) [х + S ix о Т] >

J Р (da) S ix ,

Ап

Ап

откуда в силу неотрицательности функции SnX°T и того, что SnX = 0 на множестве Q — Ап, следует неравенство

 

Р (da) х >

J Р (d<°) & х -

\ Р (da) S ix ° Т.

.

л п

а

а

Поскольку преобразование Т сохраняет меру, правая часть этого неравенства равна нулю. Множества Ап сходятся к А возрастая, поэтому лемма доказана.

1.8. Эргодическая теорема

13

Теорема 1.24 (эргодическая теорема). Если (Л, ЗГ, Р, Т)— эр-

еодичная динамическая система, а х интегрируемая вещест­ венная случайная величина на пространстве Q,.ro

^ ,

Л-1

 

 

Нгп

У* х о Т* (©) = ^ Р (d&) х (<о),

 

 

/Го-

о

 

как почти всюду, так и в норме IA

 

Доказательство. Зафиксируем два вещественных числа а <

Ь

и определим множество Q(a, Ь) как

 

Q (а, 6) =

 

( о е £2: L (а) < а < Ъ < Г (©)},

 

где

 

 

в—1

 

 

 

 

 

L (©) = lim inf

У х о Т1(ю),

 

 

П+ч»

п Н

 

 

 

 

/-о

 

а L (©) — это_ верхний

предел

того же выражения. Поскольку

L OT = L H L OT = L,

ясно, что множество Q(a, Ь) является

Т-

инвариантным. Поэтому можно применить максимальную эргодическую лемму к ограничению функции *(©) —Ь на множество О (с, V) и получить, что

P id a )x> b P (Л),

где

п - 1

A = {o e Q (o , 6): sup~У * (х —Мо)оТ/(ю) > 0).

1=0

Поскольку

Л -1

 

lim sup

V х о Т1 (а) > b

Л->ОО

/-0

 

для всех ю е Q (а, 6), получаем,{что Q (а, 6) с|Л . Следовательно,

Q(a, Ь) = А и

 

J P(dco)jt>W>.(Q(a, &)).

Q (a, 6)

 

Применение аналогичного рассуждения к ограничению функ­ ции а х (и) на множество Q (а, Ь) дает неравенство

^ Р (da) x^.aP (Q (a, 6)).

0(о.6)

Поэтому

(b — a)P (Q(a, 6))< 0 . Поскольку b — a > 0 , получаем, что P(Q(a, b)) = 0.

74

Гл. 1. Сведения из теории вероятностей

Заметим теперь, что множество, на котором последователь­ ность (l/n)Y*f-oX°Tf не имеет предела, — это в точности мно­ жество тех точек со, для которых L (со) < L (со), и оно может

быть представлено как объединение множеств Q (г1э г2) по всем парам (г,, г2) таких рациональных чисел, что г, < г2. Мы пока­ зали, что каждое из этих множеств имеет нулевую меру, по­ этому п. в.

lim

— V JC O T^ (со) =

St(со).

 

n

т

Н • Ч V

 

 

 

 

 

/- О

 

 

 

Очевидно, что J?OT =

^, а из леммы

Фату

следует, что слу­

чайная величина к

интегрируема.

 

имеют одно и то

Покажем, что случайные величины х и i

же математическое

ожидание,

т. е..

 

 

^ Р (da) х (со) =

^ Р (da) к (а).

 

Qа

Вслучае ограниченности х это немедленно следует из теоремы

омажорированной сходимости. В общей ситуации достаточно рассмотреть только неотрицательные функции х.

Тогда из леммы Фату следует, что

Р(da) к (а) ^ ^ Р (da) х (со).

иа

Предположим, что равенство здесь не достигается, т. е.

^ Р (da) к (со) <

^ Р (da) х (со).

а

о

 

 

Поскольку

 

 

 

^ Р (da) х (со) = sup | ^ Р (da) g (со):

0 ^

g ^

х, g ограниченаj.,

существует ограниченная функция 0 ^

g ^

х, для которой

Р (da) к(со) < ^ Р (da) g (a )= ^ P (da) g (a).

a

Q

a

Но § ^ k , поскольку g ^ x . Полученное

противоречие доказы­

вает справедливость рассматриваемого

равенства.

Поскольку к ° Т = к, случайная

величина к должна быть

измеримой относительно a-алгебры

Т-инвариантных множеств.

Но эргодичность Т означает,

что

эта о-алгебра тривиальна

(mod 0), т. е. состоит только из

множеств меры нуль или еди­

1.8. Эргодическая теорема

75

ница, поэтому любая функция, являющаяся измеримой отно­ сительно этой e-алгебры, должна быть п. в. постоянна. Таким образом,

k = ^ Р (da) к (to) я** ^ Р (da) х (а).

Q

а

Если х — ограниченная

функция, то из теоремы о мажори­

рованной сходимости немедленно следует, что доказанная схо­ димость имеет место не только п. в., но и в норме пространства £Л В общем случае это утверждение может быть получено с помощью аппроксимации х ограниченными функциями.

Имеются и более общие варианты эргодической теоремы1), однако для наших целей достаточно приведенной формули­ ровки. Сходимость в среднем в эргодической теореме была до­ казана фон Нейманом, а сходимость п. в. — Биркгофом. Поэто­ му, говоря о сходимости в среднем, эту теорему называют эргодической теоремой «в среднем> или теоремой, фон Неймана, а говоря о поточечной сходимости п. в., — индивидуальной эргоди­ ческой теоремой или теоремой Биркгофа2).

Перейдем теперь к рассмотрению случайных последователь­

ностей другого типа,

так называемых мартингалов. Пусть

{*„: n e Z } — заданная

последовательность случайных величин,

принимающих значения из некоторого множества Г. Обозначим

через

разбиение

Vn__«.Хп' (е), где е — это

точечное разбие­

ние множества Г.

Если представлять себе

хп как исход не­

которого случайного испытания, проводимого в момент времени п,

то —это совокупность событий, определяемых поведением случайного процесса {*„} от бесконечного прошлого вплоть до

момента времени t. Разбиения £°°=

V Г-о1* и |_оо=А«^о^ от­

вечают соответственно

событиям,

определенным поведением

■) Без всяких изменений эта теорема переносится и на случай, когда ди­

намическая система (Q, У ,

Р, Т) не является эргодической, с той лишь раз­

ницей, чтоздесь в качестве к следует взять условное математическое ожи­ дание х относительно cr-алгебры Т-инвариантных множеств. В этом случае динамическая система (£2, ЗГ, Р, Т) может быть разложена на эргодические компоненты в следующем смысле: на п. в. элементах С измеримого раз­

биения пространства Q, отвечающего о-алгебре инвариантных множеств, эн­ доморфизм Т определяет преобразования Тс, которые эргодичны и сохраняют условную меру на С. Такое разложение единственно (modO). По поводу об­ общений и дугах доказательств эргодической теоремы см. Katznelson, Weiss

[1982],

Вершик, Корнфельд, Синай [1985], Krengel [1985]. — Прим, перев.

2)

Обычно эргодической теоремой фон Неймана или статистической эрго­

дической теоремой называют утверждение о-сходимости средних в норме пространства L* доказанное впервые фон Нейманом операторными методами. Индивидуальной эргодической теоремой, или теоремой Биркгофа (а также Биркгофа— Хинчина), называют утверждение о сходимости средних п. в., откуда легко выводится сходимость в норме L* или L*. — Прим, перев.

76 Га. 1. Сведения из теории вероятностей

траекторий случайного процесса на всем их протяжении, и со­ бытиям, определяемым бесконечным прошлым процесса.

В случае когда рассматриваемые случайные величины при­ нимают вещественные значения и их математические ожидания (т. е. интегралы хп) конечны, значение условного математиче­ ского ожидания случайной величины хп+\ относительно разбие­ ния показывает, каким образом знание исходов всех случай­ ных испытаний до момента времени п влияет на ожидаемое зна­ чение исхода испытания, проводящегося в следующий момент времени. Если условное математическое ожидание хп+\ относи­ тельно разбиения \ п совпадает со случайной величиной хп, то знание прошлого никак не скажется на том, чего можно ожи­ дать от будущего. Например, пусть хп— это суммарный выиг­ рыш к моменту времени п игрока, участвующего в какой-то азартной игре. После того как он сыграл п раз, ему известен общий выигрыш хп. Условное Математическое ожидание хп+\ относительно разбиения — это ожидаемое значение его выиг­ рыша по окончании следующей Партии, вычисленное с учетом исходов всех предыдущих партий! Если это условное математи­ ческое ожидание совпадает с текущим значением общего выиг­ рыша, то игру можно считать «справедливой», поскольку в этом случае знание прошлого не может увеличить или уменьшить ожидаемое значение будущего выигрыша. Подобные процессы называются мартингалами.

Определение 1.25. Пусть {хп: / i e Z + } - последовательность вещественнозначных случайных величин, а { £„ } — такая после­ довательность измеримых разбиений, что случайная величина хп является £п-измеримой при любом п. Последовательность слу­ чайных величин {хп} называется мартингалом относительно последовательности разбиений {£„}, если £ „ ^ £ я + 1 для любого n e Z + и

Е П(^т) == %п

при всех ш > п. Последовательность { хп} называется обращен- ным-мартингалом относительно последовательности разбиений {!„}, если £ „> £ „+1 и

Е^т(хп) = хт для всех т > п .

Дубу принадлежит теорема о сходимости мартингалов и обращенных мартингалов. Ее доказательство, подобно доказа­ тельству эргодической теоремы, основывается на одной лемме, которую мы сформулируем и докажем, перед тем как сформу­ лировать теорему о сходимости мартингалов. Предварительно введем необходимые обозначения.

1.8. Эргодическая теорема

77

Пусть х — функция на

множестве N =

{ 1, 2..........л} с ве­

щественными значениями

и

[а, Ъ] — невырожденный отрезок

на вещественной оси. Будем

считать, что xt = x(j) — это коор­

дината некоторой движущейся частицы в момент времени j.

Обозначим через А число пересечений этой частицей

отрезка

[а, Ь\ слева направо в течение промежутка

времени N.

Полу­

чим

теперь

неравенство,

в котором

будет

участвовать целое

число Л.

 

 

 

 

 

 

 

 

 

 

 

 

 

Пусть

 

 

A, = min{AeAf:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

и вообще

 

 

fcj = min{AeJV: xk ^

b,

A>A, }

 

 

 

A2/+i = min{AeiV: xk ^ a ,

A >A 2/},

 

 

 

 

 

 

 

 

 

 

 

 

A2/+2 — min{AeJV: xk ^ b ,

A >

A2/+I }.

 

 

Если множество, участвующее в определении At,

 

 

пусто, положим

А/ = » +

1. Таким образом, мы задали отобра­

жение

А из

множества {1, 2,

 

п )

в

множество {1, 2, ...

... , п, п +

1}, для которого А2 >

п в том и только том случае,

когда

Л =

0, а если А2 ^

л, то Л — это наибольшее целое число,

такое,

что

А2Л^

п.

на множестве

{1, 2..........л + 1 } ,

по­

Зададим

функцию i

лагая

 

 

 

 

О,

.если

А ^ At,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1,

если

А2/ <

А ^

А2/+1,

 

 

 

 

 

 

 

 

{О,

если

А2/+1 <

А ^

А2/+2.

 

 

Для

случая, когда Л > 0, если

A2ft+1^ n ,

то

 

 

j t j

(А) [* (А) — дг (А — 1)] =

(А3) -

х (А2)] +

(А*) - * (А4)] +

 

а если А2Л+1> « , то

+ • • • +

I* (Агл+i) — * (*2л)1 < (° — ь) А>

 

 

 

 

 

 

 

 

 

i m

 

(А) — лг(А — 1)] =

[* (Аз) -

* (А2)] + ...

 

 

.. . ~Ь[х(л)

 

х (A2t,)] =

(А3)

х (А2)]-f- ... + х (А2Л)] +

 

 

 

 

 

 

 

+

[* (л) — a ] < (а — А) Л + [х (/г) — а].

В случае когда Л = 0, первое неравенство

тривиальным

обра­

зом

выполнено,

поскольку тогда

i(А) =

0 при всех А. Итак, во

всех случаях

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Е

* (*) lx* — *fe-i] <

(a — b) h + [x (n) — a]+.

 

 

 

 

 

ft-2

 

 

 

 

 

 

 

 

 

 

 

78

Гл I- Сведения из теории вероятностей

Воспроизводя с очевидными изменениями приведенное рас­ суждение для вещественной функции х на множестве N — = { — п, —« + 1 , . J , —1} и обозначая через А число пере­ сечений отрезка [а, 6], можно получить неравенство

Е 2 l(k — n — 1)[**_!я_1 — < (а — b)h+ [х (—1) — а]+.

Лемма о пересечениях (Дуб). Пусть { х1г х2......... хп } — мар­ тингал или обращенный мартингал относительно последователь­ ности разбиений {| ft: A = 1, 2, .. . , п), а [а, Ь\ — невырожден­ ный отрезок. Д л я каждой точки <оs Q обозначим через Н (со)

число пересечений отрезка [а ,

Ъ] последовательностью { хх(со), . . .

... , хп(со)}

для случая мартингала или

последовательностью

{*/-п(®)> •••

. У-\ (©) }> г^е y_i (со) =

xt (со),

для случая обращен­

ного мартингала. Тогда

 

 

 

(,b -a )[P (d (p )H {a ) <

s u p

[ Р (da)[xk (<o) - а ] + .

 

Q

l<k<ni

 

Доказательство. Мы рассмотрим только случай мартинга­ лов. Для обращенных мартингалов доказательство аналогично.

Будем обозначать ререз /(А) (со) участвующую в выведенном перед формулировкой;леммы неравенстве величину i(А) для по­

следовательности

(x i('c o ), ...,

*„(©)}. Тогда для всех со

Е I (А) (со) [xk (со) — xk_x(со)] <

b) Н (со) + [хп(со) — а ]+ .

ft-2

 

 

 

 

Легко видеть, что функции /(А)

и Н измеримы и неотрицатель­

ны, поэтому

интегрированием

этого неравенства получим, что

П

 

 

- Ъ) JР (rfco) Я (со) +

ZS Р (da,) [** (со) -

* ft_, (со)] <

Л-2Ak

 

 

 

9.

 

 

 

 

+ jj Р(дсо) [хп(со) а ] + ,

где Ak = {со;

/ (А) (со) = 1}.

 

 

Поскольку

{ xk } — мартингал *),

^ Р (d(o) [xk — xft_|] = $ P,(dco) Elk-' (xk — xk_i) —

Ak

 

Ak

 

= \ P(de>)[^k- 1(xk) — **_,] = °.

 

 

 

 

l) Ниже используется измеримость функции I(k) и множества Ak отно­ сительно разбиения g*-i.— Прим, перев.

1,8. Эргодическая теорема

79

Таким образом,

(ft - a) J Р (da) Я (©)< $ Р (da) (хп(со) - а]+.

Используя выведенные в разд. 1.6 свойства условного ма­

тематического ожидания

и то

обстоятельство, что

{ж*} — мар­

тингал

относительно последовательности

разбиений

{£*},

полу­

чаем, что для k ^ n

 

 

 

 

 

 

 

 

 

 

Е1к [*„ — а]+ > Е1к [хп — а\ = хк — а.

 

 

 

Поскольку Е?к[хп — а]+ ^ 0 ,

отсюда следует, что

 

 

 

 

Е1к [хп — а]+>

[хк — а]+

 

 

 

для всех k ^ .n . Поэтому

 

 

 

 

 

 

 

 

 

\p (d a )(x n(a ) - a ] + \P ida) Е1к [хп -

а)+> J P(da) [**(ю) - а]+

а

 

 

 

 

 

 

 

 

 

 

для всех, k ^ n , так. что

 

 

 

 

 

 

 

 

 

 

(b — а) \ Р (da) Н (со) <

sup

[ Р (da) [хк (а) — а]+,

 

 

а

 

 

 

 

 

 

 

 

 

и лемма доказана.

 

 

 

 

 

 

 

 

 

Теорема 1.26 (теорема

о

сходимости

мартингалов).

Если

{хп: n e Z +} - мартингал

или обращенный мартингал

относи­

тельно последовательности разбиений

{!„} и su p „£ (|x „|) < оо,

то п. в.

Нш хп— х.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

я-»-во

 

 

 

 

 

 

 

Если

{х^} — мартингал,

то

случайная

величина

х

является

( Vn^-oln) -измеримой, а

если {

}

обращенный

мартингал,

то случайная величина х

является “-о£п) -измеримой.

 

Доказательство. Для любых двух вещественных чисел а < Ъ

определим множество Q (а,

Ъ)

как

 

 

 

 

 

 

£2 (а, Ь) — {©: Нш inf хп (а) < а < Ъ< Нш sup хп(о)).

Как и в доказательстве эргодической теоремы, если мы пока­ жем, что P(Q(a, b)) — 0 для любых а и Ь, то отсюда будет

следовать существование п. в. х (а) — Нш хп(а).

П->оо

Обозначим через

Нп(а)

число пересечений отрезка [а, 6]

последовательностью

{^(ю)

........ х„(со)}, если {х*} — мартингал,

80 Гл. 1. Сведения из теории вероятностей

или последовательностью {де„((о)........ JC, (to)}, если' {**} — обра­ щенный мартингал. Для любой точки <ое Q(a, Ь) последователь­

ность

Я„(со) возрастает и

Я (со) == lim Я„(со) =

оо.

 

По

лемме о пересечениях

П->оо

 

 

 

 

 

 

 

 

 

\ Р (dco) Я„ (со) < (6 — а)

sup

\ Р (efo) [xfc (to) — а]+ ^

 

0(а,Ь)

 

 

 

1

Q

 

 

 

 

 

 

 

 

<(& —а)” Ч sup

 

£ (|х » |) +

|а |] .

Поэтому

 

 

 

7

1<*<л

 

 

 

 

 

I

 

• 1

 

 

 

 

 

 

 

 

 

5

Р (do) Я (со) ^ (6 — a)-1 [sup £ (| *„ |) -Н я I ] < 0°

 

 

А (а. 6)

 

 

1

 

 

 

 

и Р (Q (а, 6)) = 0.

 

 

 

 

 

каждая из ко­

Функция х является пределом функций х„,

 

торый измерима относительно о-алгебры

поэтому х измерима

относительно предела a-алгебр

т. е. относительно а-алгебры

( V :_0 £„)

а случае,

когда

{хп} — мартингал,

и относительно

a-алгебры

(Д “_0|„)

в случае,

когда {*„} — обращенный

мар­

тингал.

 

 

 

 

 

 

 

 

Следствие 1.27. Если {£„} — монотонная последовательность измеримых разбиений с пределом Ъ, а х — ограниченная случай­ ная величина, то

lim Eln {х) = Е1 {х)

 

 

П->сю

 

 

п. в. и в D -норме ’).

 

 

Доказательство. Предположим сначала, что

X |. Из

тео­

ремы 1.20 следует, что случайные величины уп=

(х)

обра­

зуют обращенный мартингал, поэтому в силу теоремы о схо­

димости мартингалов п. в. существует у — lim уп. Поскольку

Л-»оо

случайная величина х является ограниченной, по теореме 1.17 |t/„| = |£ s«(*)| < £ 5( |x |) < ||x |L <

и из теоремы о мажорированной сходимости следует, что Уп~*У 8 норме пространства L1. Вновь применяя теорему 1Л7,

*) Это утверждение часто называют теоремой о сходимости условных вероятностей. Оно справедливо не только для ограниченных, но и для про­ извольных интегрируемых случайных величин х. Прим. перев.

 

1.8. Эргодическая теорема

81

получим, что Е*(уп)-*-Е*(у) = у

в силу ^ ‘измеримости у.

Но

Для всех п,

поэтому

 

 

 

Е1(уп) = Е1(Е1"(х)) = ЕНх)

 

и у = &(х).

 

 

 

Пусть теперь

f |. В этом

случае уп= Е*п (х) — мартингал,

и мы вновь получаем, что у =

Нт уп существует п в, а в силу

f t * * 00

ограниченности {у„} сходимость здесь имеет место и в /.‘-норме. Зафиксируем е > 0 и Л е Г - Поскольку уп-* у в пространстве

L1, существует такое

число N u

что для всех n ^ N x

 

 

 

jj Р (da) I Уп— УI <

в/3.

 

 

а в силу того, что

f |, существует такое число N2,

что при

всех п

найдется множество

 

 

для которого Р (А А В п)<

< е/(31[ д;Цое). Пусть

шах (Nx,

Ы2). Тогда

 

 

I ^ Р (da) х (а) — ^ Р (da) у (а) <

^ Р (da) х — ^ Р (da) х

+

I а

а

 

I а

 

в п

 

 

+

^ Р (da) х —

^ Р (da) у

+

^ Р (da) у — ^Р (da) у

< Я х Ъ .Р (А Д В 1 +

U P(da) Е*п (х) — J Р (da) у

< Т - + Т = е-

 

 

 

 

 

 

В силу произвольности е

 

 

 

 

 

 

Р (da) у (а) = ^ Р (da) х (<о)=

^ Р (da) Е*(х)

 

 

А

А

 

 

А

 

 

для всех А е Поскольку условное математическое ожидание единственно, у = Е*(х) п. в.

Приводимый далее пример имеет существенное значение. Пусть (£2, SF, Р, Т) — обратимая динамическая система, а ко­ нечное измеримое разбиение пространства Q. Если положить

i n=* V jlnT-/I, то Т-1| п = £я+1 и £„>!„+,. Последовательность {!„}“_© является убывающей, и для любого множества Е <=&"

последовательность случайных величин Р*п(а, Е) = Е*п (1в) об­ разует обращенный мартингал, поэтому в силу следствия 1.27

lilim Р5»(<в, Е) =

(а, Е),

Я-*00

 

Соседние файлы в папке книги