Что принято называть информационными каналами

Передача информации. Информационные каналы

Информация передается в виде сообщений от некоторого источника информации к ее приемнику посредством канала связи между ними. Источник посылает передаваемое сообщение, которое кодируется в передаваемый сигнал. Этот сигнал посылается по каналу связи. В результате в приемнике появляется принимаемый сигнал, который декодируется и становится принимаемым сообщением. Передача информации по каналам связи часто сопровождается воздействием помех, вызывающих искажение и потерю информации.

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

Любое событие или явление может быть выражено по-разному, разными способами, разным алфавитом. Чтобы информацию более точно и экономно передать по каналам связи, ее надо соответственно закодировать.

Информация не может существовать без материального носителя, без передачи энергии. Закодированное сообщение приобретает вид сигналов-носителей информации, которые идут по каналу. Выйдя на приемник, сигналы должны обрести вновь общепонятный вид с помощью декодирующего устройства.

Совокупность устройств, предметов или объектов, предназначенных для передачи информации от одного из них, именуемого источником, к другому, именуемому приемником, называется каналом информации, или информационным каналом.

Примером канала может служить почта. Информация, закодированная в виде текста, помещается в конверт, поступает в почтовый ящик, извлекается оттуда и перевозится в почтовое отделение, где сортируется (вручную или машиной). Далее информация перемещается с помощью поезда (самолета, теплохода и т.п.) в почтовое отделение пункта назначения, сортируется и доставляется адресату. Таким образом, почтовый канал включает в себя: конверт (предмет), транспорт и сортировочные машины (устройства), почтовых работников (объекты). Информация, помещенная в этот канал, остается неизменной.

Другим примером может служить телефон. При телефонной передаче источник сообщения – говорящий. Кодирующее устройство, изменяющее звуки слов в электрические импульсы, – микрофон. Канал, по которому передается информация, – телефонный провод. Часть трубки, которую мы подносим к уху, выполняет роль декодирующего устройства (электрические сигналы снова преобразуются в звуки). Информация поступает в “принимающее устройство” – ухо человека на другом конце провода. Канал включает в себя телефонные аппараты (устройства), провода (предметы) и аппаратуру АТС (устройства). Особенностью этого информационного канала является то обстоятельство, что при поступлении в него информация, представленная в виде звуковых волн, преобразуется в электрические колебания и затем передается. Такой канал называется каналом с преобразованием информации.

Еще один пример – компьютер. Отдельные его системы передают одна другой информацию с помощью сигналов. Компьютер – устройство для обработки информации (как станок – устройство для обработки металла), он не создает из “ничего” информацию, а преобразует то, что в него введено. Компьютер является информационным каналом с преобразованием информации: информация поступает с внешних устройств (клавиатура, диск, микрофон), преобразуется во внутренний код и обрабатывается, преобразуется в вид, пригодный для восприятия внешним выходным устройством (монитором, печатающим устройством, динамиками и др.), и передается на них.

Живой нерв канал связи совершенно другой природы. Здесь все сообщения передаются нервным импульсом. Но в технических каналах связи направление передачи информации может меняться, а по нервной системе передача идет в одном направлении.

Характеристики информационного канала

Информационные каналы различаются по своей пропускной способности.

Пропускная способность это количество информации, передаваемое каналом в единицу времени. Измеряется пропускная способность в бит/с. В честь изобретателя телеграфа этой единице было дано имя Бод:

Пропускная способность информационного канала определяется двумя параметрами: разрядностью и частотой. Она пропорциональна их произведению.

Разрядностью называют максимальное количество информации, которое может быть одновременно помещено в канал.

Частота показывает, сколько раз информация может быть помещена в канал в течение единицы времени.

Разрядность почтового канала огромна. Так, пересылая по почте, например, лазерный диск, можно поместить одновременно в канал более 600 Мб информации. В то же время частота почтового канала очень низкая – выемка почты из ящиков происходит не чаще пяти раз в сутки.

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

Телефонный канал информации однобитный: одновременно по телефонному проводу можно послать или единицу (ток, импульс), или ноль. Частота этого канала может достигать десятки и сотни тысяч циклов в секунду. Это свойство телефонной сети позволяет использовать ее для связи между компьютерами.

Абстрактный алфавит

Информация передается в виде сообщений. Дискретная информация записывается с помощью некоторого конечного набора знаков, которые будем называть буквами, не вкладывая в это слово привычного ограниченного значения (типа “русские буквы” или “латинские буквы”). Буква в данном расширенном понимании – любой из знаков, которые некоторым соглашением установлены для общения. Например, при привычной передаче сообщений на русском языке такими знаками будут русские буквы – прописные и строчные, знаки препинания, пробел; если в тексте есть числа – то и цифры. Вообще, буквой будем называть элемент некоторого конечного множества (набора) отличных друг от друга знаков. Множество знаков, в котором определен их порядок, назовем алфавитом (общеизвестен порядок знаков в русском алфавите: А, Б. Я).

Рассмотрим некоторые примеры алфавитов.

1, Алфавит прописных русских букв:

А Б В Г Д Е Е Ж З И Й К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Ъ Ы Ь Э Ю Я

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

3. Алфавит клавиатурных символов ПЭВМ IBM (русифицированная клавиатура):

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

4. Алфавит знаков правильной шестигранной игральной кости:

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

5. Алфавит арабских цифр:

6. Алфавит шестнадцатиричных цифр:

0 1 2 3 4 5 6 7 8 9 A B C D E F

Этот пример, в частности, показывает, что знаки одного алфавита могут образовываться из знаков других алфавитов.

7. Алфавит двоичных цифр:

Алфавит 7 является одним из примеров, так называемых, “двоичных” алфавитов, т.е. алфавитов, состоящих из двух знаков. Другими примерами являются двоичные алфавиты 8 и 9:

8. Двоичный алфавит “точка, “тире”:. _

10. Алфавит прописных латинских букв:

A B C D E F G H I J K L M N O P Q R S T U V W X Y Z

11. Алфавит римской системы счисления:

12. Алфавит языка блок-схем изображения алгоритмов:

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

Кодирование и декодирование

В канале связи сообщение, составленное из символов (букв) одного алфавита, может преобразовываться в сообщение из символов (букв) другого алфавита. Правило, описывающее однозначное соответствие букв алфавитов при таком преобразовании, называют кодом. Саму процедуру преобразования сообщения называют перекодировкой. Подобное преобразование сообщения может осуществляться в момент поступления сообщения от источника в канал связи (кодирование) и в момент приема сообщения получателем (декодирование). Устройства, обеспечивающие кодирование и декодирование, будем называть соответственно кодировщиком и декодировщиком. На рис. 3 приведена схема, иллюстрирующая процесс передачи сообщения в случае перекодировки, а также воздействия помех (см. следующий пункт).

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

Рис. 3. Процесс передачи сообщения от источника к приемнику

Рассмотрим некоторые примеры кодов.

1. Азбука Морзе в русском варианте (алфавиту, составленному из алфавита русских заглавных букв и алфавита арабских цифр ставится в соответствие алфавит Морзе):

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

2. Код Трисиме (знакам латинского алфавита ставятся в соответствие комбинации из трех знаков: 1,2,3):

АHOV
ВIPW
СJQX
ВKRY
DLSZ
FMT.
GNU

Код Трисиме является примером, так называемого, равномерного кода (такого, в котором все кодовые комбинации содержат одинаковое число знаков – в данном случае три). Пример неравномерного кода – азбука Морзе.

3. Кодирование чисел знаками различных систем счисления см. лекцию 3.

Понятие о теоремах Шеннона

Теоремы Шеннона затрагивают проблему эффективного кодирования Первая теорема декларирует возможность создания системы эффективного кодирования дискретных сообщений, у которой среднее число двоичных символов на один символ сообщения асимптотически стремится к энтропии источника сообщений (в отсутствии помех). Вторая теорема Шеннона гласит, что при наличии помех в канале всегда можно найти такую систему кодирования, при которой сообщения будут переданы с заданной достоверностью.

Источник

Лекция №4 Передача информации

Схема передачи информации. Канал передачи информации. Скорость передачи информации.

Существуют три вида информационных процессов: хранение, передача, обработка.

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

· Основные свойства хранилищ информации.

С хранением информации связаны следующие понятия: носитель информации (память), внутренняя память, внешняя память, хранилище информации.

Носитель информации – это физическая среда, непосредственно хранящая информацию. Память человека можно назвать оперативной памятью. Заученные знания воспроизводятся человеком мгновенно. Собственную память мы еще можем назвать внутренней памятью, поскольку ее носитель – мозг – находится внутри нас.

Информацию, хранимую на устройствах компьютерной памяти, принято называть данными. Организованные хранилища данных на устройствах внешней памяти компьютера принято называть базами и банками данных.

· Общая схема процесса обработки информации.

· Постановка задачи обработки.

· Типовые задачи обработки информации.

Схема обработки информации:

Исходная информация – исполнитель обработки – итоговая информация.

В процессе обработки информации решается некоторая информационная задача, которая предварительно может быть поставлена в традиционной форме: дан некоторый набор исходных данных, требуется получить некоторые результаты. Сам процесс перехода от исходных данных к результату и есть процесс обработки. Объект или субъект, осуществляющий обработку, называют исполнителем обработки.

Для успешного выполнения обработки информации исполнителю (человеку или устройству) должен быть известен алгоритм обработки, т.е. последовательность действий, которую нужно выполнить, чтобы достичь нужного результата.

Различают два типа обработки информации. Первый тип обработки: обработка, связанная с получением новой информации, нового содержания знаний (решение математических задач, анализ ситуации и др.). Второй тип обработки: обработка, связанная с изменением формы, но не изменяющая содержания (например, перевод текста с одного языка на другой).

Важным видом обработки информации является кодирование – преобразование информации в символьную форму, удобную для ее хранения, передачи, обработки. Кодирование активно используется в технических средствах работы с информацией (телеграф, радио, компьютеры). Другой вид обработки информации – структурирование данных (внесение определенного порядка в хранилище информации, классификация, каталогизация данных).

Ещё один вид обработки информации – поиск в некотором хранилище информации нужных данных, удовлетворяющих определенным условиям поиска (запросу). Алгоритм поиска зависит от способа организации информации.

· Источник и приемник информации.

· Роль органов чувств в процессе восприятия информации человеком.

· Структура технических систем связи.

· Что такое кодирование и декодирование.

· Понятие шума; приемы защиты от шума.

· Скорость передачи информации и пропускная способность канала.

Схема передачи информации:

Источник информации – информационный канал – приемник информации.

Информация представляется и передается в форме последовательности сигналов, символов. От источника к приёмнику сообщение передается через некоторую материальную среду. Если в процессе передачи используются технические средства связи, то их называют каналами передачи информации (информационными каналами). К ним относятся телефон, радио, ТВ. Органы чувств человека исполняют роль биологических информационных каналов.

Процесс передачи информации по техническим каналам связи проходит по следующей схеме (по Шеннону):

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

Термином «шум» называют разного рода помехи, искажающие передаваемый сигнал и приводящие к потере информации. Такие помехи, прежде всего, возникают по техническим причинам: плохое качество линий связи, незащищенность друг от друга различных потоков информации, передаваемой по одним и тем же каналам. Для защиты от шума применяются разные способы, например, применение разного рода фильтров, отделяющих полезный сигнал от шума.

Клодом Шенноном была разработана специальная теория кодирования, дающая методы борьбы с шумом. Одна из важных идей этой теории состоит в том, что передаваемый по линии связи код должен быть избыточным. За счет этого потеря какой-то части информации при передаче может быть компенсирована. Однако нельзя делать избыточность слишком большой. Это приведёт к задержкам и подорожанию связи.

При обсуждении темы об измерении скорости передачи информации можно привлечь прием аналогии. Аналог – процесс перекачки воды по водопроводным трубам. Здесь каналом передачи воды являются трубы. Интенсивность (скорость) этого процесса характеризуется расходом воды, т.е. количеством литров, перекачиваемых за единицу времени. В процессе передачи информации каналами являются технические линии связи. По аналогии с водопроводом можно говорить об информационном потоке, передаваемом по каналам. Скорость передачи информации – это информационный объем сообщения, передаваемого в единицу времени. Поэтому единицы измерения скорости информационного потока: бит/с, байт/с и др. информационный процесс передача канал

Еще одно понятие – пропускная способность информационных каналов – тоже может быть объяснено с помощью «водопроводной» аналогии. Увеличить расход воды через трубы можно путем увеличения давления. Но этот путь не бесконечен. При слишком большом давлении трубу может разорвать. Поэтому предельный расход воды, который можно назвать пропускной способностью водопровода. Аналогичный предел скорости передачи данных имеют и технические линии информационной связи. Причины этому также носят физический характер.

1. Классификация и характеристики канала связи
Канал связи – это совокупность средств, предназначенных для передачи сигналов (сообщений).
Для анализа информационных процессов в канале связи можно использовать его обобщенную схему, приведенную на рис. 1.

f Z X Y W Рис. 1. Обобщенная схема канала связи
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

На рис. 1 приняты следующие обозначения: X, Y, Z, W – сигналы, сообщения; f – помеха; ЛС – линия связи;ИИ, ПИ – источник и приемник информации; П – преобразователи (кодирование, модуляция, декодирование, демодуляция).
Существуют различные типы каналов, которые можно классифицировать по различным признакам:
1. По типу линий связи: проводные; кабельные; оптико-волоконные;
линии электропередачи; радиоканалы и т.д.
2. По характеру сигналов: непрерывные; дискретные; дискретно-непрерывные (сигналы на входе системы дискретные, а на выходе непрерывные, и наоборот).
3. По помехозащищенности: каналы без помех; с помехами.
Каналы связи характеризуются:
1. Емкость канала определяется как произведениевремени использования канала Tк, ширины спектра частот, пропускаемых каналом Fк и динамического диапазона Dк., который характеризует способность канала передавать различные уровни сигналов

Vк = Tк Fк Dк. (1)
Условие согласования сигнала с каналом:
Vc £ Vk;Tc £ Tk;Fc £ Fk;Vc £ Vk;Dc £ Dk.
2.Скорость передачи информации – среднее количество информации, передаваемое в единицу времени.
3. Пропускная способность канала связи – наибольшая теоретически достижимая скорость передачи информации при условии, что погрешность не превосходит заданной величины.
4. Избыточность – обеспечивает достоверность передаваемой информации (R = 0¸1).
Одной из задач теории информации является определение зависимости скорости передачи информации и пропускной способности канала связи от параметров канала и характеристик сигналов и помех.
Канал связи образно можно сравнивать с дорогами. Узкие дороги – малая пропускная способность, но дешево. Широкие дороги – хорошая пропускная способность, но дорого. Пропускная способность определяется самым «узким» местом.
Скорость передачи данных в значительной мере зависит от передающей среды в каналах связи, в качестве которых используются различные типы линий связи.
Проводные:
1. Проводные– витая пара (что частично подавляет электромагнитное излучение других источников). Скорость передачи до 1 Мбит/с. Используется в телефонных сетях и для передачи данных.
2. Коаксиальный кабель.Скорость передачи 10–100 Мбит/с – используется в локальных сетях, кабельном телевидении и т.д.
3. Оптико-волоконная.Скорость передачи 1 Гбит/с.
В средах 1–3 затухание в дБ линейно зависит от расстояния, т.е. мощность падает по экспоненте. Поэтому через определенное расстояние необходимо ставить регенераторы (усилители).
Радиолинии:
1. Радиоканал.Скорость передачи 100–400 Кбит/с. Использует радиочастоты до 1000 МГц. До 30 МГц за счет отражения от ионосферы возможно распространение электромагнитных волн за пределы прямой видимости. Но этот диапазон сильно зашумлен (например, любительской радиосвязью). От 30 до 1000 МГц – ионосфера прозрачна и необходима прямая видимость. Антенны устанавливаются на высоте (иногда устанавливаются регенераторы). Используются в радио и телевидении.
2. Микроволновые линии.Скорости передачи до 1 Гбит/с. Используют радиочастоты выше 1000 МГц. При этом необходима прямая видимость и остронаправленные параболические антенны. Расстояние между регенераторами 10–200 км. Используются для телефонной связи, телевидения и передачи данных.
3. Спутниковая связь. Используются микроволновые частоты, а спутник служит регенератором (причем для многих станций). Характеристики те же, что у микроволновых линий.
2. Пропускная способность дискретного канала связи
Дискретный канал представляет собой совокупность средств, предназначенных для передачи дискретных сигналов [5].
Пропускная способность канала связи – наибольшая теоретически достижимая скорость передачи информации при условии, что погрешность не превосходит заданной величины.Скорость передачи информации – среднее количество информации, передаваемое в единицу времени. Определим выражения для расчета скорости передачи информации и пропускной способности дискретного канала связи.
При передаче каждого символа в среднем по каналу связи проходит количество информации, определяемое по формуле
I (Y, X) = I (X, Y) = H(X) – H (X/Y) = H(Y) – H (Y/X), (2)
где: I (Y, X) – взаимная информация, т.е.количество информации, содержащееся в Y относительно X; H(X) – энтропия источника сообщений; H (X/Y) – условная энтропия, определяющая потерю информации на один символ, связанную с наличием помех и искажений.
При передаче сообщения XT длительности T, состоящего из n элементарных символов, среднее количество передаваемой информации с учетом симметрии взаимного количества информации равно:
I(YT, XT) = H(XT) – H(XT/YT) = H(YT) – H(YT/XT) = n [H(X) – H (X/Y), (3)
где T = n Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами; Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами – среднее время передачи одного символа; n‑число символов в сообщении длительностью Т.
Для символов равной длительности Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами= t, в случае неравновероятных символов неравной длительности
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
При этом скорость передачи информации
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами[бит/с]. (4)
Скорость передачи информации зависит от статистических свойств источника, метода кодирования и свойств канала.
Пропускная способность дискретного канала связи
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами. (5)
Максимально-возможное значение, т.е. максимум функционала ищется на всем множестве функций распределения вероятности p(x).
Пропускная способность зависит от технических характеристик канала (быстродействия аппаратуры, вида модуляции, уровня помех и искажений и т.д.). Единицами измерения пропускной способности канала являются: [bit/s], [Kbit/s], [Mbit/s], [Gbit/s].
2.1 Дискретный канал связи без помех
Если помехи в канале связи отсутствуют, то входные и выходные сигналы канала связаны однозначной, функциональной зависимостью.
При этом условная энтропия равна нулю, а безусловные энтропии источника и приемника равны, т.е. среднее количество информации в принятом символе относительно переданного равно
I (X, Y) = H(X) = H(Y); H (X/Y) = 0.
Если ХТ – количество символов за время T, то скорость передачи информации для дискретного канала связи без помех равна
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами(6)
где V = 1/ Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами – средняя скорость передачи одного символа.
Пропускная способность для дискретного канала связи без помех
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами(7)
Т.к. максимальная энтропия соответствует для равновероятных символов, то пропускная способность для равномерного распределения и статистической независимости передаваемых символов равна:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами. (8)
Первая теорема Шеннона для канала:Если поток информации, вырабатываемый источником, достаточно близок к пропускной способности канала связи, т.е.
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами, где Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами— сколь угодно малая величина,
то всегда можно найти такой способ кодирования, который обеспечит передачу всех сообщений источника, причем скорость передачи информации будет весьма близкой к пропускной способности канала.
Теорема не отвечает на вопрос, каким образом осуществлять кодирование.
Пример 1. Источник вырабатывает 3 сообщения с вероятностями:
p1 = 0,1; p2 = 0,2 и p3 = 0,7.
Сообщения независимы и передаются равномерным двоичным кодом (m = 2) с длительностью символов, равной 1 мс. Определить скорость передачи информации по каналу связи без помех.
Решение: Энтропия источника равна
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами[бит/с].
Для передачи 3 сообщений равномерным кодом необходимо два разряда, при этом длительность кодовой комбинации равна 2t.
Средняя скорость передачи сигнала
V =1/2t = 500 [1/c].
Скорость передачи информации
C = vH = 500×1,16 = 580 [бит/с].
2.2 Дискретный канал связи с помехами
Мы будем рассматривать дискретные каналы связи без памяти.
Каналом без памяти называется канал, в котором на каждый передаваемый символ сигнала, помехи воздействуют, не зависимо от того, какие сигналы передавались ранее. То есть помехи не создают дополнительные коррелятивные связи между символами. Название «без памяти» означает, что при очередной передаче канал как бы не помнит результатов предыдущих передач.
При наличии помехи среднее количество информации в принятом символе сообщении – Y, относительно переданного – X равно:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
Для символа сообщения XT длительности T, состоящегоиз n элементарных символов среднее количество информации в принятом символе сообщении – YT относительно переданного – XT равно:
I(YT, XT) = H(XT) – H(XT/YT) = H(YT) – H(YT/XT) = n [H(Y) – H (Y/X). (9)
Для определения потерь в дискретном канале связи используется канальная матрица (матрица переходных вероятностей), позволяющая определить условную энтропию характеризующую потерю информации на символ сообщения.
Скорость передачи информации по дискретному каналу с помехами
равна:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами(10)
Пропускная способность дискретного канала при наличии помех равна максимально допустимой скорости передачи информации, причем максимум разыскивается по всем распределениям вероятностей p(x) на X и, поскольку, энтропия максимальна для равномерного распределения (для равновероятных символов сообщения), то выражение для пропускной способности имеет вид:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами. (11)
Как видно из формулы, наличие помех уменьшает пропускную способность канала связи.
Пример. По каналу связи передаются сообщения, вероятности которых соответственно равны:

p(x1)=0,1; p(x2)=0,2; p(x3)=0,3; p(x4)=0,4.
Канальная матрица, определяющая потери информации в канале связи имеет вид:

Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

.
Определить:
1. Энтропию источника информации – H(X).
2. Безусловную энтропию приемника информации – H(Y).
3. Общую условную энтропию – H (Y/X).
4. Скорость передачи информации, если время передачи одного символа первичного алфавита t = 0,1 мс.
5. Определить потери информации в канале связи при передаче 500 символов алфавита.
6. Среднее количество принятой информации.
7. Пропускную способность канала связи.
Решение:
1. Энтропия источника сообщений равна
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
2. Вероятности появления символов на входе приемника
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Проверка:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Энтропия приемника информации равна
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
3. Общая условная энтропия равна
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
4. Скорость передачи информации равна:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
=(1,85–0,132)/0,0001=17,18 Кбит/с. Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
5. Потери информации в канале связи при передаче 500 символов алфавита равны:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами500×0,132=66 бит.
6. Среднее количество принятой информации равно:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
=500×(1,85–0,132)=859 бит.
7. Пропускная способность канала связи
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами(2–0,132)/0,0001=18,68 Кбит/с.
2.3 Пропускная способность бинарного, симметричного канала
Бинарным дискретным каналом называется канал, по которому передается только два элементарных дискретных символа (т.е. используется двоичный код).
Симметричным дискретным каналом называется канал, в котором. вероятности не зависят от передаваемых символов, т.е. вероятности правильной передачи одинаковы (p(x1)= p(x2)) и вероятности ошибочной передачи одинаковы (p(y1 /x2)= p(y2/x1)).
Рассмотрим двоичный дискретный канал, по которому передаются дискретные символы «0» и «1» (m=2). Если передаваемые символы независимы и равновероятны (p(x1)= p(x2)=1/2), то сигнал имеет максимальную энтропию (Hmax(X)=1), при этом p (1/0) = p (0/1).
Если Pош – вероятность ошибки то 1‑Рош – вероятность правильного приема. Диаграмма передачи двоичных сигналов по симметричному калу приведена на рис. 2.
p(y1/ x1) = 1‑Рош
x1 не искажен y1
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами

искажен p(y1/x2) =Pош
искажен p(y2/x1) =Pош
x2 не искажен y2
p(y2 / x2)= 1‑Рош
Рис. 2. Диаграмма переходных вероятностей симметричного канала
Условная энтропия для симметричного канала равна
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Пропускная способность для двоичного, симметричного канала
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами(12)
Это уравнение Шеннона для симметричного двоичного канала.
Наличие ошибки приводит к уменьшению пропускной способности.
Так при pош = 0,01 пропускная способность равна C = 0,9/t = 0,9Cmax.
Основная теорема Шеннона о кодировании для дискретного канала с помехами: Для дискретного канала с помехами существует такой способ кодирования, который позволяет осуществлять безошибочную передачу информации, если производительность источника ниже пропускной способности
Пример. Определить скорость передачи по двоичному, симметричному каналу связи Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами, если шумы в канале вносят ошибки, таким образом, что в среднем 4 символа из 100 принимаются неверно (т.е. «1» вместо «0» и наоборот).

1. В канал связи передаются сообщения, составленные из алфавита x1, x2 и x3 с вероятностями p(x1)=0,2;p(x2)=0,3 и p(x3)=0,5.
Канальная матрица имеет вид:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналамипри этом Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
Вычислить:
1. Энтропию источника информации H(X) и приемника H(Y).
2. Общую и условную энтропию H (Y/X).
3. Потери информации в канале при передаче к символов (к = 100).
4. Количество принятой информации при передаче к символов.
5. Скорость передачи информации, если время передачи одного символа t = 0,01 мс.
2. По каналу связи передаются символы алфавита x1, x2, x3 и x4 с вероятностями Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами. Определить количество информации принятой при передаче 300 символов, если влияние помех описывается канальной матрицей:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
3. Определить потери информации в канале связи при передаче равновероятных символов алфавита, если канальная матрица имеет вид
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
Определить скорость передачи информации, если время передачи одного символа t = 0,001 сек.
4.Определить потери информации при передаче 1000 символов алфавита источника x1, x2 и x3 с вероятностями p Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами=0,2; p Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами=0,1 и p( Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами)=0,7, если влияние помех в канале описывается канальной матрицей:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
5. Определить количество принятой информации при передаче 600 символов, если вероятности появления символов на выходе источника X равны: Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналамиа влияние помех при передаче описывается канальной матрицей:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
6. В канал связи передаются сообщения, состоящие из символов алфавита Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами, при этом вероятности появления символов алфавита равны: Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Канал связи описан следующей канальной матрицей:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
Определить скорость передачи информации, если время передачи одного символа Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналамимс.
7.По каналу связи передаются сигналы x1, x2 и x3 с вероятностями p Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами=0,2; p Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами=0,1 и p( Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами)=0,7.Влияние помех в канале описывается канальной матрицей:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
Определить общую условную энтропию и долю потерь информации, которая приходится на сигнал x1(частную условную энтропию).
8. По каналу связи передаются символы алфавита x1, x2, x3 и x4 с вероятностями Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
Помехи в канале заданы канальной матрицей
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.
Определить пропускную способность канала связи, если время передачи одного символа t = 0,01 сек.
Определить количество принятой информации при передаче 500 символов, если вероятности появления символов на входе приемника Y равны: Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами, а влияние помех при передаче описывается канальной матрицей:
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами.

Пропускная способность непрерывного канала связи
Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами(14)
Для дискретного канала связи максимальное значение скорости передачи соответствует равновероятным символам алфавита. Для непрерывного канала связи, когда заданной является средняя мощность сигнала, максимальная скорость обеспечивается при использовании нормальных центрированных случайных сигнала.
Если сигнал центрированный (mx = 0) т.е. без постоянной составляющей при этом мощность покоя равна нулю (P0 = 0). Условие центрированности обеспечивает максимум дисперсии при заданной средней мощности сигнала Что принято называть информационными каналами. Смотреть фото Что принято называть информационными каналами. Смотреть картинку Что принято называть информационными каналами. Картинка про Что принято называть информационными каналами. Фото Что принято называть информационными каналами
Если сигнал имеет нормальное распределение, то априорная дифференциальная энтропия каждого отсчета максимальна.
Поэтому при расчете пропускной способности непрерывного канала считаем, что по каналу передается непрерывный сигнал с ограниченной средней мощностью – Pc и аддитивная помеха (y = x+f) также с ограниченной средней мощностью – Pn типа белого (гауссова) шума.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *