- •Предисловие
- •Введение
- •1. ИНФОРМАЦИЯ И ИНФОРМАЦИОННЫЕ СИСТЕМЫ
- •1.1. Основные понятия и концепции теории информации
- •1.2. Основные направления в современной теории информации
- •1.4. Информационные системы
- •1.5. Критерии оценки качества информационных систем
- •2. СИСТЕМЫ СВЯЗИ И ИХ ОСНОВНЫЕ ХАРАКТЕРИСТИКИ
- •2.1. Основные понятия и определения
- •2.2. Системы связи
- •2.3. Основные показатели качества функционирования системы связи
- •3. МАТЕМАТИЧЕСКИЕ МОДЕЛИ СИГНАЛОВ И ПОМЕХ
- •4. ДИСКРЕТИЗАЦИЯ И КВАНТОВАНИЕ НЕПРЕРЫВНЫХ СООБЩЕНИЙ
- •4.1. Способы квантования сигналов
- •4.2. Общая постановка задачи дискретизации
- •4.3. Способы восстановления непрерывного сигнала
- •4.6. Равномерная дискретизация. Теорема Котельникова
- •4.7. Адаптивная дискретизация
- •4.8. Квантование сигналов по уровню
- •5. ЭНТРОПИЯ, КОЛИЧЕСТВО ИНФОРМАЦИИ
- •5.3. Энтропия непрерывного источника информации (дифференциальная энтропия)
- •5.4. Фундаментальное свойство энтропии дискретных эргодических процессов
- •5.6. Статистическая мера количества информации
- •6.1. Основные определения
- •6.3. Связь между энтропией и числом различных последовательностей сообщений
- •6.4. Кодирование дискретных источников
- •7. ДИСКРЕТНЫЕ КАНАЛЫ БЕЗ ШУМОВ
- •7.2. Пропускная способность канала связи
- •7.4. Кодирование как средство криптографического закрытия информации
- •9. ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ СИСТЕМ, РАБОТАЮЩИХ С НЕПРЕРЫВНЫМИ СИГНАЛАМИ
- •9.1. Непрерывные ансамбли и источники
- •dxdy,
- •Эпсилон-энтропия
- •Эпсилон-энтропия гауссовского источника без памяти
- •10. ЭФФЕКТИВНОСТЬ ИНФОРМАЦИОННЫХ СИСТЕМ
- •10.1. Критерии оценки эффективности информационных систем
- •10.2. Способы повышения эффективности информационных систем
- •11.3. Способы повышения помехоустойчивости информационных систем
- •СПИСОК ЛИТЕРАТУРЫ
- •ОГЛАВЛЕНИЕ
- •Пахомов Герман Ильич
4. ДИСКРЕТИЗАЦИЯ И КВАНТОВАНИЕ НЕПРЕРЫВНЫХ СООБЩЕНИЙ
4.1.Способы квантования сигналов
Влюбую систему информация поступает в виде сигналов. Различ ные параметры физических процессов с помощью датчиков обычно преобразуются в электрические сигналы. Как правило, ими являются непрерывно изменяющиеся ток или напряжение, но возможно поступ ление и импульсных сигналов, как, например, в радиолокации. Печат ный текст отображается буквами, цифрами и другими знаками.
Хотя поступающую информацию можно хранить, передавать и обрабатывать как в виде непрерывных (аналоговых), так и в виде дискретных сигналов, на современном этапе развития информацион ной техники предпочтение отдается дискретным сигналам, поэтому сигналы, как правило, преобразуются в дискретные. С этой целью каждый непрерывный сигнал подвергается операциям квантования по времени (дискретизации) и по уровню.
Под дискретизацией подразумевают преобразование функции непре рывного времени в функцию дискретного времени, представляемую со вокупностью величин, называемых координатами, по значениям которых исходгная непрерывная функция может быть восстановлена с заданной точностью. Роль координат часто выполняют мгновенные значения функ ции, отсчитанные в определенные моменты времени.
Под квантованием подразумевают преобразование некоторой ве личины с непрерывной шкалой значений в величину, имеющую диск ретную шкалу значений. Оно сводится к замене любого мгновенного значения одним из конечного множества разрешенных значений, на зываемых уровнями квантования.
Аналоговый сигнал (рис. 4.1 а), описывается непрерывной (или кусочно-непрерывной) функцией х(/), причем и аргумент, и сама фун кция могут принимать любые значения из некоторых интервалов: f< t< t",x'< x< x" (см. рис. 4.1а).
Первоначально в электросвязи использовались преимущественно аналоговые сигналы. Их можно просто генерировать, усиливать, переда вать и принимать. Недостатком таких сигналов является то, что любое из
менение их формы из-за помех и искажений влечет за собой изменение принимаемого сообщения. Возросшие требования к качеству передачи сообщений заставили перейти к дискретньт и цифровым сигналам.
Причины перехода к дискретному и цифровому выражению ин формации заключаются в следующем.
Для конкретных задач управления или исследования интересую щего нас объекта обычно требуется значительно меньше информации, чем ее поступает с датчиков в виде сигналов, изменяющихся во вре мени непрерывно. Учет априорных сведений об этих сигналах и целях их получения позволяет ограничиться отсчетами, взятыми через опре деленные моменты времени.
При неизбежных флуктуациях во времени интересующих нас параметров и конечной погрешности средств измерения информа ция о величине сигнала в каждый момент отсчета всегда ограничена, что и выражается в конечном числе уровней квантования. Кроме того, специфика решаемых в системе задач часто такова, что целесообраз но ограничиться значительно меньшим числом уровней, чем следует из указанных выше ограничений.
Во многих случаях информация извлекается и передается с целью дальнейшей обработки средствами цифровой техники, в первую оче редь ЭВМ и микропроцессорами. Рациональное выполнение операций дискретизации и квантования при этом приводит к значительному эко номическому эффекту как за счет снижения затрат на хранение и обра ботку получаемой информации, так и вследствие сокращения времени обработки информации, что ведет к улучшению качества управления.
При передаче и обработке информации в цифровой технике существу ет принципиальная возможность снижения вероятности получения оши бочного результата до весьма малых значений. Она возникает потому, что при использовании дискретных сигналов, во-первых, применимы такие методы кодирования, которые обеспечивают обнаружение и исправление ошибок, а во-вторых, можно избежать свойственного аналоговым сигна лам эффекта накопления искажений в процессе их передачи и обработки, поскольку квантованный сигнал легко восстановить до первоначального уровня всякий раз, когда величина накопленных искажений приблизится к половине кванта. Практическая реализация указанных методов наиболее эффективна при минимальном числе уровней, равном двум.
Выражение информации в цифровой форме облегчает унифика цию операций ее преобразования на всех этапах обращения. Массо вость изготовления типовых узлов и блоков, простота их настройки, отсутствие необходимости регулировки в процессе эксплуатации поз
воляют, в свою очередь, улучшить такие важнейшие технико-экономи ческие показатели средств цифровой техники, как стоимость изготов ления и эксплуатации, а также надежность.
Низкая стоимость и высокая надежность больших интегральных схем, естественно, являются мощными стимулами дальнейшего рас ширения областей использования цифровых сигналов.
В данной главе ограничимся рассмотрением методов преобразо вания непрерывных сигналов в дискретные.
Дискретные сигналы - это сигналы, принимающие конечное чис ло значений или состояний. Числа, составляющие последовательность значений сигнала, называются от счет ам и сигнала (samples). Отсчеты берутся через промежутки времени Т, называемые периодом дискр е т изации (или инт ервалом, ш агом дискр ет изац ии - sample time). Ве личина, обратная периоду дискретизации,^ =1/7’ назы вает ся част о т ой дискр ет изац ии (sampling frequency).
Дискретные сигналы могут непосредственно создаваться на вы ходе преобразователя «сообщение - сигнал» или образовываться в результате дискретизации аналоговых сигналов. Процесс преобразо вания аналогового сигнала в последовательность отсчетов называется д искрет изац ией (sampling), а результат такого преобразования - дис крет ны м (р еш ет чат ы м ) сигналом (рис. 4.1,6). Дискретный сигнал описывается решетчатой функцией х (п Т ), где п - номер отсчета, п — О, 1,2,3 ... Он может быть вещественным или комплексным.
При обработке сигнала в вычислительных устройствах его отсче ты представляются в виде двоичных чисел, имеющих ограниченное число разрядов. Вследствие этого отсчеты могут принимать лишь конечное множество значений и, следовательно, при представлении сигнала неизбежно происходит его округление. Процесс преобразо вания отсчетов сигнала в числа называется квант ованием по уровню (quantization), а возникающие при этом ошибки округления - о ш и б ка м и (или ш у м а м и ) квант ования.
Сигнал, дискретный как во времени, так и по состоянию, называет ся цифровым (рис. 4.1, в). Сигналы этого типа также описываются ре шетчатыми функциями х ц(п 7 ), которые, однако, могут принимать только конечное число значений из некоторого конечного интервала х ' < х < х". Эти значения называются уровнями квантования, а соответствующие фун кции - квантованными.