книги из ГПНТБ / Папернов А.А. Методы упорядочения информации в цифровых системах

60 ГЛ. ?. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ УПОРЯДОЧЕНИЯ

ным для размещения объекта целиком. В частности, мо­ жет быть выделена всего одна ячейка памяти. При этом обмен должен организовываться специальной програм­ мой с перемещением информации об объектах по ча­ стям. Оценка трудоемкости обмена в этом случае долж­ на быть проведена непосредственно по выбранной про­

последовательность операций сравнения, пересылки и обмена, которая, используя только выделенное множе­ ство позиций, преобразует неупорядоченное множество объектов, расположенных в некоторой последовательно­ сти позиций с адресами a[i], iŒ{ 1, 2, 3,..., n ) , в упоря­ доченное по некоторому признаку тс множество объек­ тов, размещенное, возможно, в некоторой новой последо­ вательности позиций с адресами а>[/], /Œ { 1 , 2, 3,..., п\.

К процедурам упорядочения различные системы предъявляют различные требования. Наиболее часто предъявляются требования о минимизации числа исполь­ зуемых позиций и времени упорядочения при заданном числе объектов. В дальнейшем этим требованиям будет уделено основное внимание при рассмотрении и анализе различных процедур упорядочения.

Всю заданную совокупность объектов, расположен­ ных в некоторой последовательности позиций, будем в дальнейшем называть массивом объектов или просто массивом. Любое подмножество объектов, расположен­

§2.2. Характеристики состояния информации

вмассиве

2.2.1. Информационная оценка состояния массива.

В массиве возможно любое распределение объектов по последовательности позиций. В упорядоченном массиве должно быть упорядоченное распределение объектов по позициям. Для массива, состоящего из п объектов, воз* можны п\ различных способов распределения объектов в последовательности из п позиций. Каждое такое рас-

пределение будем называть состоянием массива. Распре­ деление объектов по позициям в упорядоченном массиве при наличии объектов с совпадающими значениями при­ знаков также неоднозначно, так как любые перестанов­ ки объектов с совпадающими значениями признаков не

однозначно. Такие массивы в дальнейшем будем назы­ вать простыми массивами.

Начальное распределение объектов по позициям или начальное состояние массива неизвестно. Возможность того или иного состояния массива определяется соответ­ ствующим распределением вероятностей состояний.

Для массива, рассматриваемого в виде системы, спо­ собной находиться во многих состояниях, возможно ис­ пользование шенноновского понятия энтропии как меры

Наибольшей энтропией обладает система, у которой все

Следует заметить, что для любой системы с s равновозможными состояниями энтропия

Энтропия упорядоченного массива при условии, что все допустимые для него состояния также равновозможны, определяется выражением

k k

Для простого упорядоченного массива, не имеющего объектов с повторяющимися значениями признака, все пк=\. Энтропия такого массива равна нулю.

В процессе упорядочения массива его энтропия долж­ на измениться на величину

Как известно, изменение энтропии характеризует ко­ личество информации, получаемой при выполнении дан­ ного процесса. Изменение энтропии при упорядочении массива равно количеству информации о массиве, полу­ ченному в процессе упорядочения.

Процедура упорядочения, как правило, сводится к последовательности сравнений значений признаков неко­ торых пар объектов и перераспределению объектов по позициям в зависимости от результатов сравнения.

После выполнения очередной операции сравнения признаков неопределенность информации о состоянии массива уменьшается, так как все множество возможных до этого способов распределения объектов по позициям разбивается на два подмножества возможных способов распределения — совместимых и не совместимых с ре­ зультатом сравнения. Дальнейшему анализу подвергает­ ся лишь множество способов распределения объектов, совместимых с результатом сравнения. Если до сравне­ ния число возможных состояний массива s , а число воз­ можных состояний массива, совместимых с результатом сравнения S i < s , то уменьшение энтропии в результате сравнения определяется как

Это выражение определяет количество информации, по­ лучаемой при одном сравнении, в предположении равновозможности всех допустимых состояний массива.

В зависимости от исхода сравнения определяется то или иное допустимое подмножество состояний. В этих условиях разумно выразить информационную ценность результата сравнения в виде математического ожидания изменения энтропии. Пусть s — число возможных состоя­ ний массива до сравнения, s\ — число состояний масси­ ва, совместимых с положительным результатом сравне­ ния, S2 — число состояний массива, совместимых с отри­ цательным результатом сравнения, и у массива нет со­ стояний, совместимых и с положительным, и с отрица­ тельным результатом сравнения. При этом, учитывая равновозможность всех состояний, получим вероятность

т. е. среднее количество информации, получаемое при одном сравнении, может в лучшем случае достигать одной двоичной единицы (одного бита). При этом ве­ роятности положительного и отрицательного результа­ тов сравнения должны быть равны друг другу. Выра­ зим информационную ценность сравнения через вероят­ ность положительного результата сравнения.

Имеем

о массиве, получаемое в процессе упорядочения, и непри­ годна поэтому для оценки массива с точки зрения его упорядоченности. Действительно, если в результате се-

66 ГЛ. 2. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ УПОРЯДОЧЕНИЯ

нарушения заданного порядка для любой пары позиций

2. Значение функции инверсии при і = / всегда равно нулю (на основании свойства 1° (см. п. 2.1.1) отношения порядка или следования, требующего, чтобы любой объ­ ект находился в порядке по отношению к самому себе). Таким образом, И[і, і] = О, і Œ{ 1, 2,. •.., п\.

3. Для любых трех индексов i-</<С k из соотношения

И[і, j] = H[j, k] следует И[і, k] = И[і, j]. Это свойство функции инверсии является следствием свойства 3° от­

Покажем, что матрица инверсий дает полную инфор­ мацию о состоянии массива. Исходя только из матрицы инверсий, можно указать такую перестановку объектов по позициям, которая упорядочивает массив. Для этого необходимо по матрице инверсий для каждого значения индекса подсчитать число инверсий данной позиции с позициями, имеющими большее и меньшее значение

68 ГЛ. 2. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ УПОРЯДОЧЕНИЯ

позиции из противоположного подмножества. Это потре­ бует перестановки объекта с рассматриваемой позиции і на позицию і' в упорядоченном массиве, причем зна­ чение і' определяется выражением

так как число позиций, предшествующих позиции дан­ ного объекта, из-за указанных перестановок должно уве­

1°. Все элементы на главной диагонали матрицы ин­

няться функциональная зависимость: для любых трех

элементов матрицы определяются инверсиями пар по­

индексов, должны располагаться нули, так как члены последовательности между собой упорядочены, а значе­ ния остальных элементов матрицы определяются инвер­ сиями пар позиций, не вошедших в выделенную после­ довательность (рис. 2.8).

в) В массиве существуют две группы объектов, рас­ положенных на позициях с индексами от і\ до і2 и от із до ц, таких, что каждый объект первой группы упоря­ дочен с каждым объектом второй группы и, наоборот, каждый объект второй группы упорядочен с каждым объектом первой группы, но объекты внутри групп не