Глава 1. СИСТЕМЫ ПЕРЕДАЧИ ДИСКРЕТНЫХ СООБЩЕНИЙ

1.1. ОСНОВНЫЕ ПОНЯТИЯ И ОПРЕДЕЛЕНИЯ

Информация, сообщение, сигналы.

Под термином «информация» понимают различные сведения, которые поступают к получателю. Академия наук СССР рекомендует следующее определение: информация — это сведения, являющиеся объектом передачи, распределения, преобразования, хранения или непосредственного использования. Это могут быть сведения о результатах измерения, наблюдения за каким-либо объектом и т. п. В дальнейшем нас будут интересовать лишь вопросы, связанные с информацией как объектом передачи.

Сообщение является формой представления информации. Одно и то же сведение может быть представлено в различной форме. Например, сведение о часе приезда вашего приятеля может быть передано по телефону или же в виде телеграммы. В первом случае имеем дело с информацией, представленной в непрерывном виде (непрерывное сообщение). Будем считать, что это сообщение вырабатывается некоторым источником — в данном случае источником непрерывных сообщений. Во втором случае информация представлена в дискретном виде (дискретное сообщение). Это сообщение вырабатывается источником дискретных сообщений.

При передаче сведений по телеграфу информация заложена в буквах, из которых составляются слова, и цифрах. Очевидно, что на конечном отрезке времени число букв или цифр, называемых в дальнейшем символами, является конечным. Это и является отличительной особенностью дискретного, или счетного, сообщения. В то же время число различных возможных значений звукового давления, измеренное при разговоре, даже на конечном отрезке времени будет бесконечным. В дальнейшем будем рассматривать только вопросы передачи дискретных сообщений.

Информация, содержащаяся в сообщении, передается получателю по каналу передачи дискретных сообщений (рис. 1.1). Рассмотрим основные характеристики тракта передачи, в состав которого входят источник (ИС) и получатель (ПС) дискретных сообщений.

Рис. 1.1. Тракт передачи дискретных сообщений

Источник дискретных сообщений характеризуется алфавитом передаваемых символов А. Пусть объем (число символов) этого алфавита К, а вероятность выдачи символа равна . К числу основных информационных характеристик источника сообщений относятся: количество информации в отдельных символах, энтропия и производительность источника сообщений [1.1-1.4].

Количество информации в передаваемом символе определяется в битах. Чем меньше вероятность появления того или иного символа (сообщения), тем большее количество информации извлекается при его получении. Если источник может выдать один из двух независимых символов и первый из них выдается с вероятностью то символ не несет информации, ибо он заранее известен получателю. Единицей измерения количества информации является бит.

Было предложено определять количество информации, которое приходится на один символ выражением

Среднее количество информации которое приходится на один символ, поступающий от источника без памяти, получим, применив операцию усреднения по всему объему алфавита [1.1]:

Выражение (1.1) известно как формула Шеннона для энтропии источника дискретных сообщений. Энтропия — это мера неопределенности в поведении ИС. Она равна нулю, если с вероятностью единица источником выдается всегда одно и то же сообщение (в этом случае неопределенность в поведении ИС отсутствует). Энтропия максимальна, если символы источника появляются независимо и с одинаковой вероятностью.

Определим энтропию ИС для . Тогда

Следовательно, 1 бит — это количество информации, которое переносит один символ источника дискретных сообщений в том случае, когда алфавит источника состоит из двух равновероятных символов.

Рис. 1.2 Принцип передачи сообщений

Если в предыдущем примере взять , то бит/символ. Таким образом, бит — максимальное среднее количество информации, которое переносит один символ ИС в том случае, когда алфавит источника включает два независимых символа.

Среднее количество информации, выдаваемое источником в единицу времени, называют производительностью источника и определяют по формуле:

где Т — среднее время, отводимое на передачу одного символа, с.

Для канала ПДС вводят аналогичную характеристику — скорость передачи информации по каналу (R). Она определяется количеством бит, передаваемых в секунду. Максимально возможное значение скорости передачи информации по каналу при заданных условиях называют пропускной способностью канала и обозначают буквой С.

Сообщение, поступающее от источника, преобразуется в сигнал, который является его переносчиком в системах ПДС. На приемной стороне сигнал преобразуется в сообщение. Система ПДС обеспечивает доставку сигнала из одной точки пространства в другую с заданными качественными показателями. Система передачи сообщений, в состав которой входят преобразователи сообщение — сигнал — сообщение, приведена на рис. 1.2. Преобразование сообщения в сигнал в телеграфных системах выполняет передающая часть телеграфного аппарата (см. гл 4).