книги / Математическая теория энтропии

Поскольку

тем самым

Z Р ( А ' - В 1) <2с' ,

откуда

1Е )Р (д ,д в ,)< 2 1Р(л,дл;) + 11;1Р(м ;-в,)< as.

Кроме того,

шиеся элементы разбиения т) в любом порядке (т. е. упорядо­

ченное разбиение fj = {B,}?_i получено перестановкой элементов-, разбиения TJ). Тогда

| | - Ч К |Е / И , Д в , ) + 1Е 1Р К - г , ) + (5 (Р (Л ) + + £ /> (л ;)< зс ' + 2с' + £(б + 1)с' +

+ k ( k + l ) c ' + c' = c' (2k2 + 2k + G) < с.

Лемма 4.20. Для любых с > 0 и положительного целого к > Г

Доказательство. Зафиксируем с я к . Поскольку функция

—/lo g / равномерно непрерывна на отрезке [0, 1], существует d, > 0, такое, что из неравенства | /t — /21< rf, следует неравен­

ство |/flo g / , — /2 log /2 1< c(k + l)-1. Положим d = dl, где d%< <m in{di, c (k + l)-1}.

Пусть £ и rj — разбиения из SZk (Q), удовлетворяющие нера­ венству 11 — т] | < d. Если I = {Alf ... , Ak} и rj = {В{, ... , Bk}, то

k

всюду, за исключением некоторого 11-множества, мера которого не превосходит d2. Поскольку d2< du по выбору d{ из неравен­ ства (4.15) следует, что

к

£ IР" (со, Ai) log Рп(со, At) — 1вг (со) log 1 в, (со) | < i - 1

всюду, за исключением Ti-множества меры не больше, чем d2. Таким образом,

л № ) = 5 Р (d®) | — X р" (®. Л,) log Р" (со, А*) | =

\ £ (rf< o )|^]|p 1,(co, A,)logРЧ(ш, Aj) — 1вг(со)log 1в,(ю)11 +

Аналогично доказывается и то, что Я (ij/|) < с.

Следствие 4.21.) Топологическое пространство, определенное расстоянием Рохлина в пространстве неупорядоченных разбиений

с k элементами, гомеоморфно факторпространству пространства. S£k (Q) с метрикой разбиений по отношению эквивалентности, при котором отождествляются упорядоченные разбиения с одним и тем же набором элементов.

Н Ш ^ Н Ш ' Х с .

Теорема 4.23. Пусть (Q, 2Г, Р, Т) — динамическая система.. Скорость создания информации преобразованием Т равномерно­ непрерывна на 2Zk (Q) относительно метрики разбиений и псевдо­ метрики Рохлина и непрерывна на i£(Q) относительно псевдо­ метрики Рохлина.

Доказательство. Оно немедленно получается из неравенства

разбиение {Л41, Л<2........ Atk), полученное следующим образом.. Для всех / — 2, 3........ k семейство множеств {Att: t е [0, 1]}: монотонно возрастает по t, AXi== At и P(Ati) — tP(A{) при любом.

следует, что А(Т, £,)— это непрерывное отображение отрезка [О, 1] на отрезок [О, Л(Т, £)]. Поскольку непрерывная числовая функция принимает все промежуточные значения, следствиедоказано.

Следовательно,

Е . Е' Е'

откуда

Y J\xl - y i \< 2 d l + ± < c .

d - d ? . Пусть | —счетное разбиение, а 5 — произвольное изме­ римое разбиение, такие, что Н (£) — Я (£/£) < d.

Тогда в силу леммы 2.8

Из леммы 4.25 теперь следует, что для почти всех а ф Е

£ |РС(ю, Л) — Р (Л) | < с, Ле$

т. е. разбиение | является с-независймым от £.

Теорема 4.27. Для любых с > 0 и целого k > 1 существует d > 0, такое, что если £ е SZk (Q) и разбиение £ d-независимо от некоторого измеримого разбиения £, то Н (£) — Я (£/£) < с.

Доказательство. Зафиксируем с > 0 и k. Возьмем d1 столь малым, что из неравенства |£j — t%\<.d\ следует неравенство*

тем свойством, что ^d-независимо от 5, где d=min {dt, eel2 (£+1)}. Пусть В — ^-множество, мера которого меньше, чем d, такое,

что

—(СО, Л) log РЕ(со, Л ) ||<

<Т Т Г + 7 /><в ) < с-

-4.5. КОДИРОВАНИЕ И ОСНОВНАЯ ЛЕММА ОРНСТЕИНА

В разд. 1.7 мы показали, каким образом измеримое раз­ биение 5 пространства состояний некоторой динамической системы порождает случайный процесс. Напомним, что прост­ ранство траекторий этого процесса изоморфно факторпрост-

ранству, отвечающему разбиению V jl.ooT- ^, и, следователь­ но, если %— образующее разбиение, то пространство траекто­ рий случайного процесса (Т, |) изоморфно пространству состоя­ ний исходной системы.

последовательностей 2(QS). Вернувшись к примеру 4.10, чита­

тель найдет там конкретный пример подобного изоморфизма. Предположим теперь, что (Я, Р, Т ) — обратимая эргодическая динамическая система, а £ — бернуллиевское образую-

шее разбиение ее пространства состояний. Ясно, что возни­ кающая динамическая система (2 (Qt), В) является сдвигом Бер­

нулли, и наоборот, если (£2, (Г, Р, Т) — система Бернулли, то существует бернуллиевское. образующее разбиение ее прост­ ранства состояний. В качестве такого разбиения достаточно взять образ начального разбиения сдвига Бернулли, изоморф­ ного системе, относительно связующего изоморфизма.

Таким образом, для построения изоморфизмов между сдви­ гами Бернулли можно попытаться использовать бернуллиевские образующие разбиения. При этом изоморфизм будет по­ строен в том и только том случае, когда совместные распре­ деления соответствующих случайных процессов будут одними и теми же. Для того чтобы иметь возможность отождествлять, совместные распределения, мы должны указать способ упоря­ дочивания произведения нескольких упорядоченных разбиений. Это делается с использованием лексикографического порядка на множестве упорядоченных наборов п целых чисел.

При этом соглашении Q5vn = {0. 1, 2, 3, 4, 5}, и можно оп­ ределить распределение разбиения %V Л как

... , /„) стоит на l-м месте в лексикографическом порядке. Лег­ ко видеть, что Я является взаимно однозначным отображением

индуцируемые автоморфизмами Т и Т соответственно, комму­ тируют с построенным отображением. Таким образом, мы по­ лучили изоморфизм между двумя факторсистемами, причем,

поскольку | — образующее разбиение, факторсистема, отвечаю­ щая разбиению V/L-oo^t, изоморфна системе (£2, F , Р, Т).

Итак, мы получили, что из существования разбиения 5, удовлетворяющего условию (4.16), следует, что динамическая

система (й, 5Г, Р, Т) изоморфна фактору системы (Й, Р, Т), а если £ — образующее разбиение, то эти две системы изоморф­ ны. _

Предположим теперь, что Т-система является системой Бер­

нулли, а | — бернуллиевское образующее разбиение. Если удастся найти разбиение | пространства состояний Т-системы,

для которого выполняется условие (4.16), то, поскольку {т^} — последовательность независимых разбиений, это будет озна­ чать, что | — бернуллиевское разбиение. В случае когда £ — образующее разбиение, отсюда следует, что динамическая

система (й, F", Р, Т) изоморфна системе Бернулли (й, F , Р, Т). В частности, если р = (р1( р2, .... рк) — конечное дискретное

вероятностное распределение, можно в качестве Т-системы. взять сдвиг Бернулли (В, р) и попытаться найти разбиение | данной системы (Й, Р, Т), которое было бы бернуллиевским и удовлетворяло равенству d(£) = p. Поскольку разбиение £

ществует бернуллиевское разбиение £, такое, что rf(£) = p. Рас­

ное вероятностное распределение из теоремы Синая, можно получить отсюда, что существует бернуллиевское разбиение пространства состояний другой системы с этим распределением, т. е. факторсистема, отвечающая этому разбиению, изоморфна первой системе.

Если бы можно было изменить это бернуллиевское разбие­ ние таким образом, чтобы новое разбиение было по-прежнему бернуллиевским и имело то же распределение, но, кроме того, было бы еще и образующим, то этим была бы доказана изоморфность двух систем Бернулли. В 1969 г. Орнстейн [93] изо­ брел способ построения одних разбиений из других с помо-