Руководство для практических занятий на базе Mathcad 6.0 Plus
Основные понятия и расчетные соотношения теории информации: энтропийные характеристики, дискретные и непрерывные случайные величины; оценка информационных систем. Эффективное кодирование с использованием программного обеспечения Matchad 6.0 Plus.
| Рубрика | Программирование, компьютеры и кибернетика |
| Вид | учебное пособие |
| Язык | русский |
| Дата добавления | 17.10.2013 |
| Размер файла | 516,7 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
;
Две последних вероятности P6 объединяются в одну вспомогательную вероятность Ps6:
; ; ;
Вероятности снова располагаются в порядке их убывания в дополнительном столбце
;
Две последних вероятности P7 объединяются в одну вспомогательную вероятность Ps7:
; ; ;
Вероятности снова располагаются в порядке их убывания в дополнительном столбце
;
Две последних вероятности P8 объединяются в одну вспомогательную вероятность Ps8:
; ; ;
Вероятности снова располагаются в порядке их убывания в дополнительном столбце
;
На этом при получении дополнительного столбца с вероятностью, равной единице, процесс заканчивается. Матрица M, на основе которой проводится кодирование, принимает вид:
;
;
;
На основании данной таблицы строим кодовое дерево (рис. 4.2.1), ветки которого соответствуют вероятностям, согласно матрице M.
1
Размещено на http://www.allbest.ru/
Размещено на http://www.allbest.ru/
Рис. 4.2.1
Каждой ветке дерева присваивается символ "1" при выходе из узла вверх и символ "0" при выходе из узла вниз. Движение по кодовому дереву из вершины с P=1.00 к сообщениям, определяемым соответствующими вероятностями, дает двоичные кодовые комбинации эффективного кода, приведенные в табл. 4.1.1.
Таблица 4.1.1
|
Сообщения |
Вероятность |
Двоичный код |
|
|
x1 |
0.04 |
00000 |
|
|
x2 |
0.06 |
00001 |
|
|
x3 |
0.08 |
0001 |
|
|
x4 |
0.10 |
100 |
|
|
x5 |
0.10 |
101 |
|
|
x6 |
0.12 |
010 |
|
|
x7 |
0.15 |
011 |
|
|
x8 |
0.15 |
001 |
|
|
x9 |
0.20 |
11 |
Согласно таблице кодирования 4.1.1, длину кодовых комбинаций можно описать вектор-строкой
Средняя длина кодового слова в битах
;
Энтропия источника сообщений
;
На основании (4.2) минимально возможная средняя длина кодового слова равна энтропии источника, т.е.
;
В случае равномерного двоичного кодирования девяти сообщений требуется четырехразрядное кодовое слово для каждого сообщения, так как 23<9. При таком кодировании максимальная средняя длина кодового слова bit.
Таким образом, проведенное кодирование более эффективно, чем равномерное. Однако оно не достигает максимально возможной эффективности, так как ncp.min< ncp< ncp.max.
4.3 Типовые задачи
Задача 4.3.1
Построить код Хаффмена для ансамбля сообщений {xi}, i=1..5 при с вероятностями
.
Определить характеристики эффективного кода.
Ответ. Таблица кодирования
|
Сообщения |
x1 |
x2 |
x3 |
x4 |
x5 |
|
|
Код |
10 |
01 |
00 |
110 |
111 |
Средняя длина кодового слова в битах . Минимально возможная средняя длина кодового слова . Избыточность кода
Задача 4.3.2
Построить код Хаффмена для ансамбля сообщений {xi}, i=1..8 при с вероятностями
.
Определить характеристики кода
Ответ. Таблица кодирования
|
Сообщения |
x1 |
x2 |
x3 |
x4 |
x5 |
x6 |
x7 |
x8 |
|
|
Код |
01 |
10 |
000 |
001 |
1100 |
1101 |
1110 |
1111 |
Средняя длина кодового слова в битах . Минимально возможная средняя длина кодового слова . Избыточность кода
Задача 4.3.3
Ансамбль сообщений {xi}, i=1..5 задан при вектор-строкой вероятностей
.
Закодировать сообщения эффективным кодом Хаффмена и обычным двоичным кодом. Определить характеристики кодов и скорость передачи по каналу при условии, что длительность двоичного символа .
Ответ. Таблица кодирования
|
Сообщения |
x1 |
x2 |
x3 |
x4 |
x5 |
|
|
Эффективный код |
0 |
10 |
110 |
1110 |
1111 |
|
|
Обычный код |
001 |
010 |
011 |
100 |
101 |
Для эффективного кода Хаффмена: средняя длина кодового слова , скорость передачи по каналу , минимально возможная средняя длина кодового слова , максимально возможная скорость передачи по каналу , избыточность и эффективность .
Для обычного двоичного кода: длина кодового слова , скорость передачи по каналу , избыточность и эффективность .
Задача 4.3.4
Построить код Хаффмена для ансамбля сообщений {xi}, i=1..4 при с вероятностями
.
Определить характеристики кода и скорость передачи сообщений по каналу при условии, что длительность двоичного символа . Сравнить с обычным двоичным кодированием.
Ответ. Таблица кодирования
|
Сообщения |
x1 |
x2 |
x3 |
x4 |
|
|
Код |
0 |
100 |
101 |
11 |
Пропускная способность канала связи , средняя длина кодового слова , скорость передачи информации , минимально возможная средняя длина кодового слова , максимально возможная скорость передачи информации , избыточность и эффективность .
Для обычного двоичного кода характеристики соответственно будут: , , и .
Задача 4.3.5
Сообщение состоит из последовательности трех букв A, B и C, вероятности появления которых не зависят от предыдущего сочетания букв и равны , , и .
Провести кодирование по алгоритму Шеннона-Фано отдельных букв и двухбуквенных сочетаний. Сравнить коды по их эффективности и избыточности.
Ответ. Таблица кодирования отдельных букв
|
Сообщения |
A |
B |
C |
|
|
Код |
1 |
01 |
00 |
Таблица кодирования двухбуквенных сочетаний
|
Сообщения |
AA |
AB |
BA |
AC |
CA |
|
|
Код |
1 |
011 |
010 |
0011 |
0010 |
|
Сообщения |
BB |
BC |
CB |
CC |
|
|
Код |
0001 |
00001 |
000001 |
000000 |
Эффективности кодов соответственно и .
Избыточности кодов соответственно и .
ЛИТЕРАТУРА
Темников Ф.Е., Афонин В.А., Дмитриев В.И., Теоретические основы информационной техники. М.: Энергия, 1977.
Орнатский П.П. Теоретические основы информационно-измерительной техники. M: Высшая школа, 1983.
Вострокнутов Н.Г., Евтихнеев Б.Н. Информационно-измерительная техника. M.: Высшая школа, 1977.
Лапа В.Г. Математические основы кибернетики. M.: Высшая школа, 1971.
Кузин Л.Т. Основы кибернетики. М.: Высшая школа, 1973.
Солодов А.В. Теория информации и ее применение к задачам автоматического управления. М.: Физматгиз, 1967.
Орлов В.А., Филиппов Л.И. Теория информации в упражнениях и задачах. Учебное пособие для втузов. М.: Высшая школа, 1976г.
Кавчук А.А. Основы передачи непрерывных сообщений по дискретным каналам связи. Учебное пособие, Таганрог, 1978.
Корн Г, Корн Т. Справочник по математике для научных работников и инженеров. М.: Наука, 1973.
Клюев Н.И. Информационные основы передачи информации. M.: Советское радио, 1966.
Голдман С. Теория информации. M.: ИЛ, 1957.
Вентцель Е.С. Теория вероятностей. M.: Физматгиз, 1964.
MATHCAD 6.0 PLUS. Финансовые, инженерные и научные расчеты в среде Windows 95. Руководство пользователя / Пер. с англ. Информационно-издательский дом “Филинъ”, 1996.
Размещено на Allbest.ru
...Подобные документы
Источники сообщений, сигналы и коды, примеры применения знания основ теории информации для практических целей. Расчет информационных характеристик и согласование дискретного источника с дискретным каналом без шума и с шумом, эффективное кодирование.
курсовая работа [179,6 K], добавлен 13.11.2009Использование электрических сигналов в технических системах. Классификация сигналов: непрерывные и дискретные, детерминированные и случайные, периодические, каузальные, финитные, когерентные и ортогональные. Длительность, ширина, объем и база сигнала.
реферат [59,9 K], добавлен 09.07.2009Предмет и основные понятия информационных систем. Базовые стандарты корпоративных информационных систем. Характеристика входящих и исходящих потоков информации. Основные понятия искусственного интеллекта. Обеспечение безопасности информационных систем.
курс лекций [295,6 K], добавлен 11.11.2014Проектирование информационного обеспечения, систем классификации и кодирования. Технология разработки программного обеспечения. Произведение расчётов по кредитам компании и организация межтабличных связей для автоматического заполнения необходимых ячеек.
курсовая работа [1,6 M], добавлен 13.11.2011Проектирование программного обеспечения Web-приложений информационных систем сайта, которое будет обеспечивать продажу декоративных постеров, а также обеспечивать распространение рекламы и информации о деятельности компании TOO "ILLUSTRATE studio".
дипломная работа [1,6 M], добавлен 14.07.2014Разработка и цели внедрения свободного программного обеспечения в образовательные учреждения. Основные понятия векторной графики на примере редактора Inkscape, интерфейс программы. Разработка серии практических заданий с использованием Inkscape.
курсовая работа [4,1 M], добавлен 15.01.2011Определение понятия "система". История развития и особенности современных информационных систем. Основные этапы развития автоматизированной информационной системы. Использование отечественных и международных стандартов в области информационных систем.
презентация [843,9 K], добавлен 14.10.2013Основные принципы концепции типа данных в языках программирования. Разновидности структур данных. Дискретные и непрерывные скалярные типы. Файл, последовательность, множество. Линейный список. Сложность алгоритмов. Построение рекурсивных подпрограмм.
презентация [2,5 M], добавлен 14.10.2013Определение зависимости одной физической величины от другой. Применение метода наименьших квадратов с помощью программного обеспечения Mathcad. Суть метода наименьших квадратов. Корреляционный анализ, интерпретация величины корреляционного момента.
курсовая работа [63,8 K], добавлен 30.10.2013Оптимальное статистическое (экономное) кодирование. Основные понятия и определения теории кодирования. Принципы построения оптимальных кодов. Способность системы осуществлять прием информации в условиях наличия помех. Увеличение мощности сигналов.
реферат [69,3 K], добавлен 09.07.2009Классификация угроз информационной безопасности. Ошибки при разработке компьютерных систем, программного, аппаратного обеспечения. Основные способы получения несанкционированного доступа (НСД) к информации. Способы защиты от НСД. Виртуальные частные сети.
курсовая работа [955,3 K], добавлен 26.11.2013Способы построения защищенных сегментов локальных систем. Анализ систем обнаружения вторжений и антивирусное обеспечение. Анализ технологии удаленного сетевого доступа. Установка программного обеспечения на серверы аппаратно-программного комплекса.
дипломная работа [2,4 M], добавлен 14.03.2013Эволюция технического обеспечения. Основные требования, применение и характеристики современных технических средств автоматизированных информационных систем. Комплексные технологии обработки и хранения информации. Создание базы данных учета и продажи.
курсовая работа [127,1 K], добавлен 01.12.2010Система линейных алгебраических уравнений. Декартова прямоугольная система координат на плоскости. Дифференциальные уравнения и их приложения в математике, механике. Основные понятия теории вероятностей. Представление информации и кодирование информации.
курс лекций [3,9 M], добавлен 16.06.2015История развития информационных технологий. Классификация, виды программного обеспечения. Методологии и технологии проектирования информационных систем. Требования к методологии и технологии. Структурный подход к проектированию информационных систем.
дипломная работа [1,3 M], добавлен 07.02.2009Изучение деятельности фирмы СООО "Гейм Стрим", занимающейся разработкой программного обеспечения интеллектуальных систем. Проведение работы по тестированию информационных систем на степень защищенности и безопасности от разного рода информационных атак.
отчет по практике [933,1 K], добавлен 05.12.2012Необходимость защиты информации. Виды угроз безопасности ИС. Основные направления аппаратной защиты, используемые в автоматизированных информационных технологиях. Криптографические преобразования: шифрование и кодирование. Прямые каналы утечки данных.
курсовая работа [72,1 K], добавлен 22.05.2015История развития и классификация информационных систем. Применение информационных систем в образовании. Практические аспекты использования прикладного программного обеспечения при разработке сайта. Функциональные возможности программного приложения.
курсовая работа [47,9 K], добавлен 19.01.2017Виды архитектуры распределенных информационных систем. Сущность синхронного и асинхронного, блокирующего и неблокирующего взаимодействия в распределенных информационных системах. Основные проблемы и принципы реализации удаленного вызова процедур.
реферат [26,4 K], добавлен 22.06.2011Анализ технического обеспечения информационных систем (микропроцессоры). Программное обеспечение информационных систем. Классификация программного обеспечения. Программы подготовки первичных документов на примере "1С: Бухгалтерия", "1С: Налогоплательщик".
контрольная работа [808,5 K], добавлен 20.07.2010
