книги / Математическая теория энтропии

< 4 У ? Р (С (/)) . (4.43)

Положим £21= иге0(п)С(/). Тогда из неравенств (4.43) и (4.38) следует, что

Поскольку Р (Q — Qj) < Ы ъ получаем, что

U — Л К 1 б У 7 + 4 ^ 2< 2 0 У ? < с .

Теперь мы готовы перейти к доказательству основной леммы. Оно основывается на построении последовательности Коши разбиений из i£ft(Q) с помощью леммы 4.35.

Лемма 4.36 (основная лемма Орнстейна). Пусть S — (0, 1 ,..., k — 1}, а р — дискретное вероятностное распределение ш S. Дня

лением р, отстоящей от %в метрике разбиений не более чем на с .

Доказательство. Зафиксируем с>0, и для каждого /1=1, 2 ,...

обозначим через d'n число d', отвечающее числу с/2" по лемме

сительно метрики разбиений, из неравенства (4.46) вытекает, что существует rj = lim ^ ^ rjn. В силу того что d'n < (с/2")2/400,

а функция А(Т, •) непрерывна, из неравенства (4.45) следует, что h (Т, ц) — Н (р). Аналогичным образом из непрерывности функции Я (•) в метрике распределений и неравенства (4.44) следует, что Н(р) = Н(г\). Таким образом, h (Т, r\) — Н (т)), и на основании следствия 2.28 разбиение ц — бернуллиевское.

4.6.ТЕОРЕМА ОБ ИЗОМОРФИЗМЕ СИСТЕМ БЕРНУЛЛИ

В этом разделе мы приведем доказательство теоремы об изоморфизме систем Бернулли, опирающееся на основную

Если разбиение rji е 2Zk (Qi) обладает тем свойством, что

<йтгЧ -< ^ тг'ч)

ение V jL—дг Дл я некоторых целого N и малого веществен­ ного с. Тогда при достаточно большом К и некотором малом с' разбиение т] будет с'-укрупнять разбиение Vf__/cT(r|1.

Затем при достаточно большом « надо взять «-башню а, для динамической системы (Qlf 3Tl9 Ри Tj) и «-башню дх в фак-

торпространстве по разбиению V Jl_00T|r]b для которых

d (Е xri|1 л (о)) = d СЕт^ п (о0•

С помощью этих башен и разбиений ^ и л, можно, как это делалось в предыдущем разделе, получить множества, объеди­ нения которых составят элементы разбиения т)|, такого, что

d СЕтгг ^ v^ nai(0)) =d СЕтгг(л vч,) пд1(0)) ‘

Это можно сделать так, что разбиение rjJ будет достаточно близким к разбиению г),, с тем чтобы затем применить к т)*

основную лемму и, изменяя его, получить искомое разбиение. Подробно эта конструкция описана у Шилдса [139].

необходимости эта теорема была доказана Колмогоровым [69] и Ьытекает из следствия 2.38. Таким образом, мы приведем здесь только доказательство достаточности (которое, как гово­

что Л(Т,) = /г(То).

Применяя лемму 4.32 к множеству 5 = (£22)ь с дискретным

вероятностным распределением p = d (t2), получим разбиение 11<0| пространства состояний динамической системы (Qi,*Fi, Ри Т,), для которого

|<*(Г1(0))-<*(Ы 1<<*

0 < Я ( У - А ( Т „ л(0,) < ^

гд$ d — число из формулировки основной леммы, отвечающее значению с = 1 . Из основной леммы следует, что существует разбиение rj0*, для которого

с конечной энтропией'), отсюда следует, что энтропия является полным метрическим инвариантом систем Бернулли.

Теорема 4.39 (Колмогоров — Орнстейн). Необходимым и достаточным условием изоморфизма двух систем Бернулли является равенство их энтропий.

Следствие 4.40. Любой класс эргодических обратимых дина­ мических систем, содержащий все системы Бернулли и внутри которого энтропия является. полным метрическим инвариантом, совпадает с классом систем Бернулли.

Доказательство. Пусть 8 — такой класс. Для любой системы (Q, &~, Р, Т) из 8 существует сдвиг Бернулли с энтропией А (Т). Поскольку и система (Q, , Р, Т), и этот сдвиг Бернулли лежат в 8 , они изоморфны, т. е. (£2, Р, Т) — система Бернулли.

4.7. ХАРАКТЕРИЗАЦИЯ СИСТЕМ БЕРНУЛЛИ

После того как мы доказали, что энтропия является пол­ ным метрическим инвариантом для систем Бернулли, а класс систем Бернулли — максимальный класс, обладающий этим свойством, важно получить средства для определения того,, будет ли данная система (или класс систем) бернуллиевской. Как видно из примера 4.10, существуют системы, которые не связаны непосредственно со стационарными случайными процессами, но являются тем не менее системами Бернулли.

Мы уже использовали один внутренний критерий (т. е. такой, в котором участвует только сама система) для доказательства бернуллиевости систем, а именно условие существования бернуллиевского образующего разбиения. Но с динамической системой связано множество разбиений, и задача отыскания среди них такого, которое было бы не только бернуллиевским, но и образующим, представляется устрашающей.

Вскоре после того, как Орнстейн доказал свою первую тео­ рему об изоморфизме, он вместе с Фридманом [41] показал, что перемешивающие цепи Маркова являются системами Бер­ нулли и, следовательно, что энтропия —это полный метриче­ ский инвариант для таких систем. Этот результат был получен с помощью следующего утверждения: если для динамической системы существует образующее разбиение, для которого доста­ точно удаленные (во времени) повторения почти независимы.

') Этого недостаточно, поскольку образующее разбиение, получаемое по теореме Кригера, не обязано быть бернуллиевским. Здесь еще надо исполь­ зовать конечную определенность любого разбиения пространства состояний сдвига Бернулли (см. разд. 4.7). — Прим, перво.

TOj для этой системы существует и бернуллиевское образующее разбиение. Указанный тип почти независимости называется •слабой бернуллиевостью.

Определение 4.41. Конечное разбиение £ пространства состояний эргодической динамической системы (Q, ST, Р, Т) называется слабо бернуллиевским, если для любого с > О

существует N > 0, такое, что разбиение V°«_mT*£ является ^-независимым от разбиения при всех т — 0, 1, 2, ... .

Пример 4.42 {перемешивающий сдвиг Маркова). Если все элёменты матрицы А переходных вероятностей сдвига Маркова (2 (S), SF, р, М) (см. разд. 2.12.10) положительны и для всех *\ / существует Нтя-*оо aff, то этот сдвиг Маркова является пере­

мешивающим 1), а начальное разбиение £0 = ({<*>: со (0) = /}: / e S ) слабо бернуллиевским.

То обстоятельство, что перемешивающие сдвиги Маркова являются системами Бернулли, вновь иллюстрирует различие между сдвигами Бернулли и системами Бернулли. Существует некоторое образующее разбиение пространства 2 (S),( являю­ щееся бернуллиевским, но ясно, что начальное разбиенйё в этом случае не будет бернуллиевским. Более того, бернуллиевское образующее разбиение может не быть измеримым относительно никакой из а-алгебр, порожденных конечным числом координат случайного процесса (М, £0).

I Вскоре после получения результата Фридмана — Орнстейна условие слабой бернуллиевости было модифицировано в связи с изучением потоков Бернулли [96] (см. также разд. 2.12.4) и было показано, что из этого модифицированного условия сле­ дует существование бернуллиевского образующего разбиения.

; Определение 4.43. Конечное разбиение £ пространства состоя­

<Ч<тг1П Л}?-\ { П } ^ ) < с

прё всех А е

!) Второе условие вытекает из первого. В действительности, для того чтобы марковская цепь с матрицей переходных вероятностей А была переме­ шивающей, необходимо и достаточно,1чтобы положительными были все эле­ менты некоторой степени матрицы А , — П р и м , п ер ев .

250 Г л. 4. Э ргоди ч еская теория

0 < Л (Т , ! ) - Л ( Г ,

■следует, что

s u p ^ T ^ : * , {T " 6 'C J ) < C.

п

С помощью средств, близких к использованным при дока­ зательстве теоремы об изоморфизме, Орнстейн показал, что энтропия является полным метрическим инвариантом для систем с конечно определенными образующими разбиениями, т. е. что эти системы — бернуллиевские. (Браун [27] основывает свое доказательство теоремы об изоморфизме на применении конечно определенных разбиений.)

Из теоремы Орнстейна о копировании (Шилдс [139, стр. 54]) следует, что бернуллиевские разбиения конечно определены, откуда вытекает следующая теорема.

Теорема 4.46. Обратимая эргодическая динамическая система является системой Бернулли тогда и только тогда, когда у нее существует конечно определенное образующее разбиение.

Действительное преимущество использования конечно опре­ деленных разбиений заключается в том, что не только бернул­ лиевские образующие разбиения систем Бернулли конечно определены, но и всякое конечное разбиение пространства •состояний системы Бернулли конечно определено. Стоит срав­ нить это с тем обстоятельством, что у систем Бернулли есть разбиения, которые не являются ни бернуллиевскими, ни слабо бернуллиевскими (Смородинский [147]).

Заметим, что из конечной определенности любого разбиения пространства состояний системы Бернулли следует, что каждая •факторсистема системы Бернулли сама также является системой Бернулли, поскольку она получена факторизацией по разбие­

нию VJL_eoT,| для некоторого £. Тем не менее в общем слу­ чае не верно, что всякая факторсистема произвольной обрати­ мой эргодической системы может быть получена факторизацией по разбиению V /L -JT ^ для некоторого конечного £.

Окончательно соотношение между внутренними критериями (бернуллиевость, слабая бернуллиевость, очень слабая бернуллиевость) и внешним критерием (конечная определенность) было установлено Орнстейном и Вейсом [105J, доказавшими, что всякое конечно определенное разбиение является также очень слабо бернуллиевским и, следовательно, что всякое раз­ биение пространства состояний системы Бернулли — очень слабо бернуллиевское. Таким образом, Задача определения того, является ли данная система системой Бернулли, сводится

к определению того, будет ли для этой системы всякое подхо­ дящим образом выбранное образующее разбиение, напримерначальное разбиение случайного процесса, очень слабо бернуллиевским.

4.8.ОТНОСИТЕЛЬНЫЙ ИЗОМОРФИЗМ

Вэтом разделе мы рассмотрим изоморфизмы систем Бер­ нулли, которые порождают изоморфизмы, и заданных факторсистем этих систем. Подобные изоморфизмы мы будем называтьотносительными (relative) изоморфизмами.

На протяжении этого раздела все динамические системы считаются обратимыми, эргодическ-ими и имеющими конечную энтропию. Измеримое разбиение £ пространства состояний динамической системы (Q, Ф , Р, Т) называется инвариантным, если T£= £(modO), т. е. если действующее в соответствующем факторпространстве преобразование Tj является его автомор­ физмом1). По этой причине инвариантные разбиения иногда называют факторами. Конечность или счетность инвариантных разбиений не требуется, и в большинстве случаев они имеют

вид р°°= Vn.-coT*P> где р — некоторое конечное разбиение.

В частности, если 5 — инвариантное разбиение пространства состояний системы Бернулли, то автоморфизм Тс является автоморфизмом Бернулли, и поэтому существует бернуллиевское разбиение Р, для которого £= 0".

Инвариантное разбиение 5 называется дополняемым, если существует инвариантное разбиение у (дополнение С), такое, что разбиения £ и у независимы, а их произведение £ V Y есть, точечное разбиение е. Заметим, что если у системы имеется дополняемое инвариантное разбиение, то она изоморфна произ­ ведению факторсистем, отвечающих этому разбиению и его дополнению. В частности, если система Бернулли обладает дополняемым инвариантным разбиением, то она разлагается в произведение двух систем Бернулли, и обратно, произведение двух систем Бернулли есть система Бернулли с дополняемым инвариантным разбиением2). _

Пусть (Q, Ф, Р, Т) и (Q, Ф , Р, Т) — две динамические системы

с инвариантными разбиениями £ и £ соответственно. Их отно­ сительным изоморфизмом называется метрический изоморфизм R.

1) Более распространена несколько иная терминология, согласно которой;

2) В дальнейшем под динамической системой с инвариантным разбиением авторы понимают пару, составленную из динамической системы и некоторого инвариантного разбиения ее пространства состояний. — Прим. Нерев.