Анализ информационных характеристик закодированных сообщений
Оценка взаимосвязи информационных характеристик. Вычисление вероятности появления символов. Арифметическое и помехозащищенное кодирование. Совместная энтропия, коэффициенты сжатия и избыточности. Информационные характеристики закодированного сообщения.
| Рубрика | Программирование, компьютеры и кибернетика |
| Вид | лабораторная работа |
| Язык | русский |
| Дата добавления | 23.03.2016 |
| Размер файла | 302,9 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
Определим взаимные информационные характеристики закодированного сообщения.
Длина алфавита - 52
Энтропия элементарного символа: H = -0.6085162441485028 бит
MAX Энтропия элементарного символа: Hmax= 1.0 бит
Совместная энтропия H (X, Y):
= 1.487388143474201 бит
Коэффициент сжатия:
Ксж = Н /Нmax = -0.6085162441485028
Коэффициент избыточности:
Киз= 1 - Кс = 0,391483755851498
Энтропия H(X):
0.7883025473650026 бит
MAX Энтропия H(Х): = 1.0 бит
Коэффициент сжатия:
Ксж = Н (X)/Н (X)max= 0.6085162441485028
Коэффициент избыточности:
Киз= 1 - Кс = 0.2116974526349974
Так как закон распределения для Х и для Y одинаковы, то информационные характеристики Y будут такими же, как и для Х. Отрицательный коэффициент сжатия говорит о том, что эффективное кодирование более удобное и функциональное, чем арифметическое.
Определим частные условные энтропии сообщения Х, условную энтропию (двумя способами), коэффициенты сжатия и избыточности по взаимосвязи.
Сначала определим условную вероятность сообщения Х:
Частная условная энтропия:
Условная энтропия сообщения Х:
0.4750855961091983 бит (1-ый способ)
H(X/Y) = H (X, Y) - H(Y) = 0.4750855961091983 бит (2-ой способ)
Коэффициент сжатия по взаимосвязи:
Ксв = Н (X/Y)/Н (X)= 0.4750855961091983
Коэффициент избыточности по взаимосвязи:
Киз= 1 - Ксв = 0,52491440389
Так как закон распределения для Х/Y и для Y/X одинаковы, то информационные характеристики Y/X будут такими же, как и для Х/Y. Отрицательный коэффициент сжатия говорит о том, что эффективное кодирование более удобное и функциональное, чем арифметическое.
Так же можно сказать, что сообщения Х и Y оптимальны; взаимосвязь присутствует, является источником избыточности.
Вывод: Таким образом, суммируя все ранее сделанные выводы можно сказать, что эффективное сжатие-это наиболее удобный, простой , действенный способ кодирования информации. Эффективное кодирование более удобное и функциональное, чем арифметическое.
Рассмотрим кодирование в троичной системе счисления.
Кодируем символы в троичной системе по Шеннону-Фано. Результаты кодирования занесены в таблицу 4.3 "Эффективное кодирование по Шеннону-Фано".
Таблица 4.3 "Эффективное кодирование по Шеннону-Фано"
|
mk |
mk (0) |
mk(1) |
mk(2) |
Код |
Символы |
|||||
|
6 |
1 |
0 |
3 |
222 |
2 |
2 |
||||
|
5 |
1 |
1 |
2 |
221 |
А |
2 |
||||
|
4 |
1 |
2 |
1 |
211 |
О |
1 |
1 |
|||
|
4 |
2 |
0 |
2 |
202 |
И |
0 |
0 |
|||
|
7 |
0 |
1 |
3 |
1222 |
Т |
1 |
2 |
2 |
2 |
|
|
6 |
0 |
2 |
2 |
1212 |
е |
1 |
||||
|
5 |
0 |
3 |
1 |
1211 |
Н |
1 |
||||
|
5 |
0 |
3 |
1 |
1121 |
С |
1 |
2 |
|||
|
4 |
0 |
4 |
0 |
1111 |
Р |
1 |
||||
|
4 |
1 |
2 |
1 |
1021 |
К |
0 |
2 |
|||
|
3 |
1 |
3 |
0 |
1011 |
В |
1 |
||||
|
5 |
1 |
1 |
2 |
221 |
л |
0 |
2 |
2 |
1 |
|
|
5 |
1 |
1 |
2 |
212 |
П |
1 |
1 |
2 |
||
|
4 |
2 |
2 |
202 |
У |
2 |
0 |
||||
|
5 |
1 |
1 |
2 |
122 |
Д |
1 |
2 |
|||
|
3 |
2 |
1 |
1 |
120 |
М |
0 |
||||
|
3 |
1 |
3 |
0 |
111 |
ы |
1 |
1 |
|||
|
2 |
2 |
2 |
0 |
110 |
. |
0 |
||||
|
3 |
2 |
1 |
1 |
102 |
я |
0 |
2 |
|||
|
2 |
2 |
2 |
0 |
101 |
, |
1 |
||||
|
1 |
3 |
1 |
0 |
100 |
З |
0 |
||||
|
5 |
1 |
1 |
2 |
221 |
Б |
2 |
2 |
1 |
||
|
4 |
1 |
2 |
1 |
211 |
х |
1 |
||||
|
5 |
1 |
1 |
2 |
122 |
ь |
1 |
2 |
2 |
||
|
4 |
1 |
2 |
1 |
121 |
г |
1 |
||||
|
4 |
1 |
1 |
1 |
112 |
ч |
1 |
2 |
|||
|
5 |
0 |
3 |
1 |
1112 |
ж |
1 |
||||
|
4 |
0 |
4 |
0 |
1111 |
ю |
|||||
|
1 |
3 |
1 |
0 |
10 |
й |
0 |
0 |
|||
|
4 |
2 |
0 |
2 |
22 |
ш |
0 |
2 |
|||
|
4 |
2 |
1 |
211 |
ф |
2 |
1 |
1 |
|||
|
5 |
1 |
1 |
2 |
122 |
ц |
1 |
2 |
2 |
||
|
4 |
1 |
2 |
1 |
121 |
- |
1 |
||||
|
4 |
1 |
2 |
1 |
112 |
- |
1 |
2 |
|||
|
3 |
1 |
3 |
0 |
111 |
o |
1 |
||||
|
2 |
2 |
2 |
0 |
110 |
щ |
0 |
||||
|
4 |
2 |
0 |
2 |
22 |
n |
0 |
2 |
2 |
||
|
5 |
1 |
1 |
2 |
212 |
" |
2 |
1 |
|||
|
4 |
1 |
2 |
1 |
211 |
" |
1 |
||||
|
5 |
1 |
1 |
2 |
122 |
? |
1 |
2 |
2 |
||
|
4 |
1 |
2 |
1 |
121 |
э |
1 |
||||
|
4 |
1 |
2 |
1 |
112 |
! |
1 |
2 |
|||
|
3 |
1 |
3 |
0 |
111 |
… |
1 |
||||
|
2 |
2 |
2 |
0 |
110 |
; |
0 |
||||
|
4 |
2 |
2 |
22 |
S |
0 |
2 |
2 |
|||
|
3 |
2 |
1 |
1 |
21 |
T |
1 |
||||
|
2 |
3 |
1 |
20 |
f |
0 |
|||||
|
3 |
2 |
1 |
1 |
12 |
m |
1 |
2 |
|||
|
2 |
2 |
2 |
0 |
11 |
r |
1 |
||||
|
1 |
3 |
1 |
0 |
10 |
w |
0 |
||||
|
0 |
4 |
0 |
0 |
0 |
y |
0 |
0 |
Эффективно закодируем исходное сообщение и определим вероятность появления символов.
22211010111121102111200200012201211220222211011112110021220001222212021222112110101212021222022221102121022121010121122010102121212202222112212021100222120211221111210222121122201110221121122220212002122120112000122011122121200212212012222211110211120221201211220122221122210202011221111021101012112202222111222111011102122211210220112212002111222211021211020121000122122211221221110221011120200122221021211201222010101212000222001212221122111021121210211221121012120111221201212012112202222110000221222110211022122110022111120122010222011221202221111210001121211202110122221202110022010222022221102120111121102122012222110221102111200002202210121122211112120211102120212012122200222121121220102221111210222121122200002220202201122121021211110012120101212112010201211222022022221111210112122022212111112111102010221222021102210112020110212120122020220221112122111212201022120021112222112102211011122110212120020001222202120021212102110001221121210012200121120012222102112121010121122102220222211021210221210112122021212111201212122010222002212110121110212111001222202121021212202121211020221001211102001222221102121202122201122122202222021212020120211012112202212202121110221010121100122221022211102211101212211221102221112121202110001221122121101122110011121112001222210222110211021102222121202020220000221011211101221112112111110101212120212012112211021112012211121201112212112212222022022102122121111202011021222122212110212011112121122022102020021202211022121211222201122121220121200212120211121221122111012112212021222122111211021101112211120121012222120121112022212100121120020001222201112101002110112221122111201202022111211101101201200112212012112200010000002200012100011100011100000110000102000121000121000111220000111000121000010122000002100000120001210000210122222011202222111011200121212112222022221211112112001022212012102221012110111121101222201112121111121122221121102111111211212212012122122121011111202011021100122012112221222201201222111202120002220121001220121122211011120001122002112211120112022112011021102112200111111212011202001222221111120010120120212101010212021201212220211212120121111212222001011110200122220112212110111020102220101101212011221201211221222121102120111121211220220222211101120211112122010200211221112121121221022111110121212112222112121011120121222102220211121101211021220200122222012021101010212212221210101211220222211021202121211110021220102212002111222202221112111121221211200102110200211202211120001110011121202112022122121120211111000122112212110112222022122111022101112212012222211122021202001111212002110001122012122021102210112020110212120122020221121010221001212120021112222200111101211220222211021210120102212012122211212101112121221102110011112122200112221221211110211211112211102012112211021110202011101212012121120102221022212021112221201111222010120220221011112120021220102212012122201122122220120112122111022102111211201222120211200122222122202222111121011212221111221101112211220221021221200221200200111122022221211211221200212121001222221102122110111211120122121101010212021122102112110111201102010221200211122012222011210202211102221112211121200212212121122112012122221112222010121110102001111221121221211202211210120001211102110211221122010101021202110121122202202210212212111120201100221220222111200111121102122012211201212221112120111221112221212201022212220011112111200102110211012112221102121202002112022000112121122211002211021202112001222212021222200211022211121110220011220111211102212120120211021122112122211101201101212220011222111212112110101212021212002001111221121220221101010212110222202202121012012012021100122220212211112110202211121211202222111012110021220101201120102221102111112110111211020221122202222000022000221210012201211221221211110211211112020221122211021100111121012112201112022102112120021212002012122112122212110212120002220110200121122120211122020012112202222111111222121222010212002000122220211212010112020122211001112111202220220001011010221211002210012111021200002122021210101212221122121101122120122222111222110222101121120200121222120121122000011222102112121221111210222121122201110221002111222210222110022111112211021201111222022112102201221211112120111101222210222022212111112111102010221201111220211121002120212022122110211021102222110112200002220012120211202212012111021112221111102012122011221202112121220201022120021112222001211210021122001212121110011121102112220101202201011111210021112222111022111020221022202221211110022212122110212011110122221102121111222012021222102121112010202112122211021102112000221202120121222120212220222211112122211111211120120200012222102011201011010121202120122221222121102120111121211220220112212110212120002220102212121122221121022110021122022221211112220002110121122121121221120211121120012121211222211221110121122120212221102111201221112120111221211212101211222022022100212121221022200111201202121011212210211212202210222212121122221022121011222111111202120122001122211021102110222211011220000222001212220112212110211120002212112021201222202221211111211110201022212021222021212111201212122010222021120120022112201222202222111121011212202122111010101211001222212021100221202110012222111121022212112220000222020221202121112110212220221112122212101012222111212011201012111022111112111022202222110022122202212012122112101020001211202110122220211022101120201102121201220202211121201120211201202120021112222111022111020222022022210112100222001211220222010200211122221102110011112101211220021202210021112222011122011211010220122020012112210202001111211021201212122221202122202211012000022022122022221111002211112012201020122222022101200012101022202222021212020112122110212220222111211021221110100212212121122220112212021202210211002220102211220222121111121011122011121212201022211010121210220001212001222212221211021201111212112200121122022211120112121102221202122211212202211010121122022211120102211021220122221022202222111110121202122111102212021112202001211221112120112011122011121212112222122111211021101112211120012112210202012211101212011112010221212112222200112220211022112002120012112202211102122211210100211120022101211220222111211122201112121211222202121211222121012022202202211101012120212020102212121122221022200111022112210101212111012222022221101111211002121210121122112121010121102121200121222211120220111221110101020012112122200101111212122010222120121221122110111220111212121122112012120122001120011202122111010101211102012120112020001222201112212112201121222202222110111110121102220201022121211222212101012112202222112202221011210022022101220011200112000212211010121211211212021112122112211101211000012222102020101211002122010111201212220022122211221202120212211012200112001120002122112022221211220011122110121122000212202211010200111221212112211201212221222121102120111121211220012200112001120002122122020220022121010121101211221222121102120111121211220000020220221002121212202210111121102122000121010200002022000212211202221112120012120102212121122220222212122101212122020001222212211102210111221200220122001120011200021220212212000012122000212211020102212121122221222121102120111121211220012222000212202210021222022211121111212220122121012112200221222112211222022101112211111110202211202110201022120021111201020122221022120021212021201212221021121221111210022212012200112
Определим взаимные информационные характеристики закодированного сообщения.
Длина алфавита - 52
Энтропия элементарного символа: H = 1,3546097582439254 бит
MAX Энтропия элементарного символа: Hmax= 1,5849625007211563 бит
Совместная энтропия H (X, Y):
= 3,0364241628612594 бит
Коэффициент сжатия:
Ксж = Н /Нmax =0,9672821960257605
Коэффициент избыточности:
Киз= 1 - Кс = 0,0327178039742395
Энтропия H(X):
1,5204756656983616 бит
MAX Энтропия H(Х): = 1,5849625007211563 бит
Коэффициент сжатия:
Ксж = Н (X)/Н (X)max= 0,0593133370704648
Коэффициент избыточности:
Киз= 1 - Кс = 0,140686662929535156
Так как закон распределения для Х и для Y одинаковы, то информационные характеристики Y будут такими же, как и для Х. Отрицательный коэффициент сжатия говорит о том, что эффективное кодирование более удобное и функциональное, чем арифметическое.
Определим частные условные энтропии сообщения Х, условную энтропию (двумя способами), коэффициенты сжатия и избыточности по взаимосвязи. Сначала определим условную вероятность сообщения Х:
Частная условная энтропия:
Условная энтропия сообщения Х:
1,5159484971628978 бит (1-ый способ)
H(X/Y) = H (X, Y) - H(Y) = 1,5159484971628978 бит (2-ой способ)
Коэффициент сжатия по взаимосвязи:
Ксв = Н (X/Y)/Н (X)= 0,2435429883
Коэффициент избыточности по взаимосвязи:
Киз= 1 - Ксв = 0,7564570117
Так как закон распределения для Х/Y и для Y/X одинаковы, то информационные характеристики Y/X будут такими же, как и для Х/Y. Отрицательный коэффициент сжатия говорит о том, что эффективное кодирование более удобное и функциональное, чем арифметическое.
Так же можно сказать, что сообщения Х и Y оптимальны; взаимосвязь присутствует, является источником избыточности.
Вывод: Таким образом, суммируя все ранее сделанные выводы можно сказать, что эффективное сжатие-это наиболее удобный, простой , действенный способ кодирования информации.
Рассмотрим кодирование четверичной системе счисления.
Кодируем символы в троичной системе по Шеннону-Фано. Результаты кодирования занесены в таблицу 4.4 "Эффективное кодирование по Шеннону-Фано". Таблица 4.4 "Эффективное кодирование по Шеннону-Фано".
Эффективно закодируем исходное сообщение и определим вероятность появления символов.
333101331213331111222100113031331213102131012323301133322232332131321223211233121311121233212203133013311222333121313322231013232111331213322312122323223312133113223232331120123320230021302232222112320333331132312223322222323203333213331231021331132310133313312131232311221323233213123233213320122232331323213223322300213232313323212133113022100333312322322223223312203200232330323321331123213223111332131223202232032031331213100112232311111133313211312133233232020330233212112133223001232232223103333222310132020331213111202131112233232331323313231222002311303133312132223112322232032330132322132320203312133223121223232233002323323333023321232231213301122331223221302003133233331213121312222333121223121332231213310123323311111302310132322222321033113213232121333223312332012223233213123310223111222210011333112012322311100213213223011301122220333312321322301333133123331213111212332122223331122232130322320203301322231223112322313203333112123223331122231231130112132233033333111222232330233233121233322222332223103133113331121213311301333101133312333121331131322233321331121121333222231002132133213221331003231222033331233313231111121322222332333300112122223132232121333131121330133322223203133132312222321213332022322133233233331131123212133222233132323323232132320213221323333123101121131233222323233023322320320123222312233321331122313322232332321213331111022312222230333322222321312122301122221001133302212201220233321331222222233331213331122122233222023320313300113000130012130012200122000000022001213001213001223300023001213000213300012000110012130011103333233213121311222220322232323312132121332232220203322222312112231021310333302222312133223232332131323112133223223332222233323222302122223313231011303133323323322223231222320023233223011303133310220012323311133121332332131132221323111133003212133320231003333311213323301332332223212202022232032331113222222312133323323301331213310033330233213212133101233301331223202332031332323213232021322132333312131122222312132320200122331213332213232123311213303222323233213223022032331233311122312231112233233033332332223101331123233223013331331213111211222312133012323312332012223233121121333121323222322202013223311123333121332330032003232111233332322232223112133002132133213221333233332321213311302232033333123211210021320122001232332233311111302310132322222321033213122113011232012223233233021031331213111212223312332032332132230222233313231003222333233023332322231213311131213311230313313231123101213303203221302033123332223123232021332331222333311302132012323312332032330233233233222213232121331131112232222323211123303333323312131213122223333121331022313311311232013222210021331213221321332012322301133331112310221213323323222312202022231331232131321213323313223312332012223203333023123113132333123212133320123322232322130323331232330133311221002133213232223222332131222330112132311113321323312202022231031332333311311232121332222331321133312112133233021311122332322130323312133320223123232232020332322330213122202013231031333111222223311123333001232232323101321323211123303333222323323311112112133311232330232331213331123322222223111133213232311222331322233323302333121333221313212232112222100213321323211312202022312333233331121222332222223101133311231213132233331213332213121311223101232331222332130203313231121333102213223333213331212330023002322301130313323222312133111312131033213331323100322230313302211311132012322210223332132323213232222013223313223303133222312321003133121311213323232232233123222100113331113201332222332323100323122233233330011313212332132113011213232001113311212203233213321322133203333312323112112222322223303233222223232000313312321322333121332231212232322331213311301222323312333132113121332321323202133233332131232332322231213332021033331233312122312133223121331012332021331112230123112113331323111112131023233002323303211123333222223132312323112133102233302332111322321012332012223233011222301223301123212133003231111332331222333301331213322301222323312133113132233331233312122312133013232232132320210333313232121332322332223233123223213020111323313231111233013222232032332223233121312132323112133312222222330113331230230133122032112033332323213232021322132333302332132322220132233123322232323321312331012233121321213323223301220313322322333213111223222032223232332133112231332223233132312222321213332022322132230313323333113012322333123330032233222321222233312321323211312132223232331233212223231121332223203300333313231111121310232330023233032330233213231222013222322232033331212231213322312133101233322232331122232130322320203311123322211323203333121312131222233311231122013331011333222310132222310113331213322312122323223300232332333322232121333111233113213232321220333312133320230133311233112133311233312131013223223333222223332131221001122223103333111113023101323222223210331213332023111233222320122232331213311313223333233331211222230132233031331210200122232331323100322230313301231130122232330222332131321232332321003133123100213111203223233222323311312223300231133312131132113121332332320200333323333122233011202033121233322222332132321323233121121333111231122012332223232330233211211311101322331233133121223121332230222331213332232020331321223212323301122330333323232132320213221323303133121121332332132231233322232332132321131220313312112133233123311122332323312333121311213303211231132332223123210031331213332023022233121333222323233232121333111102231222031331231023212133032021233123322232323323302333111113222112011223211313232332131220122222113031331211213331232233121333222323233112223232321222333323333113132122321121012332223232331233300321132321220321213303333121310213101232230313321322301333111222203233312223302231122020011222333233013312133322320203322222333213310222331213332223232213032033003300331123112201333112303202310011333022322132332132323312131021122311211012332223232332230133313312131331211222230132113033003300330022331321223221321322231223332133112231000333312310122310123233122213032330132232313322232112310330033003300223321312132213233022310313300223311312210022322232322130323323232132320213221323303300330033002233232103301322230133310313323232132320213221323300103311301232233311302131112233011202000103300223321312112133320112233123322232323312132232122322321001133323212133113022320132033003300330022331123200032330022331322331233222323233232321323202132213233033330022331130123331211213331213232233232223031330132232313321333113022311213313223333213111101233201222130200333312332012322232032331232132321213322301323203300334.3. Определим взаимные информационные характеристики закодированного сообщения.
Длина алфавита - 52
Энтропия элементарного символа: H = 1.9039999007214687 бит
MAX Энтропия элементарного символа: Hmax= 2.0 бит
Совместная энтропия H (X, Y):
= 3.3908830430633032бит
Коэффициент сжатия:
Ксж = Н /Нmax = 3.684310614540849
Коэффициент избыточности:
Киз= 1 - Кс = 0.04800004963926563
Энтропия H(X):
1.8481083366546658бит
MAX Энтропия H(Х): = 2.0 бит
Коэффициент сжатия:
Ксж = Н (X)/Н (X)max= 0.9240541683273329
Коэффициент избыточности:
Киз= 1 - Кс = 0.07594583167266711
Так как закон распределения для Х и для Y одинаковы, то информационные характеристики Y будут такими же, как и для Х. Отрицательный коэффициент сжатия говорит о том, что эффективное кодирование более удобное и функциональное, чем арифметическое.
Определим частные условные энтропии сообщения Х, условную энтропию (двумя способами), коэффициенты сжатия и избыточности по взаимосвязи.
Сначала определим условную вероятность сообщения Х:
Частная условная энтропия:
Условная энтропия сообщения Х:
1.5760295262854978 бит (1-ый способ)
H(X/Y) = H (X, Y) - H(Y) = 1.5760295262854978 бит (2-ой способ)
Коэффициент сжатия по взаимосвязи:
Ксв = Н (X/Y)/Н (X)= 0.7880147631427489
Коэффициент избыточности по взаимосвязи:
Киз= 1 - Ксв = 0.21198523685725112
Так как закон распределения для Х/Y и для Y/X одинаковы, то информационные характеристики Y/X будут такими же, как и для Х/Y. Отрицательный коэффициент сжатия говорит о том, что эффективное кодирование более удобное и функциональное, чем арифметическое.
Так же можно сказать, что сообщения Х и Y оптимальны; взаимосвязь присутствует, является источником избыточности.
Таким образом, суммируя все ранее сделанные выводы можно сказать, что эффективное сжатие-это наиболее удобный, простой , действенный способ кодирования информации. Эффективное кодирование более удобное и функциональное, чем арифметическое.
5. Помехоустойчивое кодирование
Цель: изучение матричного способа помехоустойчивого кодирования, позволяющего обнаружить и исправить одну ошибку при передаче данных. На основании данной работы сделать вывод.
Ход работы:
1. Определить количество контрольных разрядов и построить матрицу, порождающую помехоустойчивые кодовые комбинации.
Количество контрольных разрядов k находится из условия :
Для рассматриваемого случая m = 8 (количество информационных символов), получаем k = 6 (количество контрольных символов). Теперь необходимо построить матрицу, порождающую помехозащищенные кодовые комбинации. Для этого строится квадратная порождающая матрица размером 8 х 8 для формирования информационных кодовых комбинаций, матрица представлена в виде следующей таблицы.
Таблица 5.1 "Квадратная порождающая матрица"
|
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
|
|
0 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
|
|
0 |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
|
|
0 |
0 |
0 |
1 |
0 |
0 |
0 |
0 |
|
|
0 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
|
|
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
|
|
0 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
|
|
0 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
Справа к этой матрице присоединяется прямоугольная матрица размером 8 х 6, строки которой заполняются различными двоичными числами, каждое из которых должно содержать не менее двух единиц. Прямоугольная матрица размера 8 х6 представлена в виде следующей таблицы.
Таблица 5.2 "Прямоугольная матрица размера 8 х 6".
|
1 |
1 |
0 |
0 |
0 |
0 |
|
|
0 |
1 |
1 |
0 |
0 |
0 |
|
|
0 |
0 |
1 |
1 |
0 |
0 |
|
|
0 |
0 |
0 |
1 |
1 |
0 |
|
|
0 |
0 |
0 |
0 |
1 |
1 |
|
|
1 |
0 |
1 |
0 |
0 |
0 |
|
|
1 |
0 |
0 |
0 |
0 |
1 |
|
|
0 |
0 |
1 |
1 |
0 |
0 |
Транспонируем матрицу размером 8 х 6, и пририсовываем к ней справа порождающую матрицу размером 6 х 6. В результате получается прямоугольная матрица 6 х 14. Она представлена следующей таблице 5.3.
информационный кодирование арифметический
Таблица 5.3
|
Х1 |
Х2 |
Х3 |
Х4 |
Х5 |
Х6 |
Х7 |
Х8 |
Х9 |
Х10 |
Х11 |
Х12 |
Х13 |
Х14 |
|
|
1 |
0 |
0 |
0 |
0 |
1 |
1 |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
|
|
1 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
0 |
|
|
0 |
1 |
1 |
0 |
0 |
1 |
0 |
1 |
0 |
0 |
1 |
0 |
0 |
0 |
|
|
0 |
0 |
1 |
1 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
1 |
0 |
0 |
|
|
0 |
0 |
0 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
|
|
0 |
0 |
0 |
0 |
1 |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
Используя таблицу 2, найдем дизъюнктивно складывая те , напротив которых стоят единицы.
Теперь задаем структуру контрольного числа и составляем контрольную таблицу.
Контрольное число будет представлять собой двоичное четырехразрядное число, составленное любым образом из символов . Таких чисел может быть 6! = 720. Например, выберем такую структуру: N = Для такой структуры контрольной будет являться ранее построенная таблица 5.3.
Надо последовательно вносить одну ошибку в 1-й, 2-й, …,9-й разряды и вычислять для каждого случая значения. В результате получится следующая таблица 5.4.
Таблица 5.4
|
Np |
0 |
1 |
2 |
3 |
4 |
5 |
6 |
||
|
Nk |
000000 |
110000 |
011000 |
001100 |
000110 |
000011 |
101000 |
||
|
Np |
7 |
8 |
9 |
10 |
11 |
12 |
13 |
14 |
|
|
Nk |
100001 |
001100 |
100000 |
010000 |
001000 |
000100 |
000010 |
000001 |
После этого мы Х1-Х8 включительно приравниваем к любым произвольным значениям, затем подставляем их в выражение (2) и считаем. Затем полученный результат записываем (1) в выражение и считаем еще раз.
Закодируем исходный текст в двоичной системе тремя способами: арифметически, эффективно, помехоустойчиво. Пропустим данные тексты через каналы связи с вероятностью ошибки 0.1, 0.01, 0.001. Декодируем данные, прошедшие через каналы связи и проанализируем принятые тексты, приведенные ниже.
|
Количество ошибок в русском тексте |
||||
|
Вероятность ошибки в канале связи |
0,1 |
0,01 |
0,001 |
|
|
Количество ошибок в русском тексте при эффективном кодировании |
284 |
4 |
0 |
|
|
Количество ошибок в русском тексте при арифметическом кодировании |
1365 |
130 |
12 |
|
|
Количество ошибок в русском тексте при помехоустойчивом кодировании |
1129 |
113 |
10 |
Помехоустойчивое кодирование имеет наибольший коэффициент избыточности, но при передаче по каналу связи оно наиболее защищено от помех, но не исправляет полностью все ошибки , так как защищает только от одной ошибки в кодовой комбинации. Эффективное кодирования наименее защищено от помех при передаче по каналу связи, так как оно максимально сжимает исходный текст.
Размещено на Allbest.ru
...Подобные документы
Источники сообщений, сигналы и коды, примеры применения знания основ теории информации для практических целей. Расчет информационных характеристик и согласование дискретного источника с дискретным каналом без шума и с шумом, эффективное кодирование.
курсовая работа [179,6 K], добавлен 13.11.2009Механизм передачи информации, ее количество и критерии измерения. Единицы информации в зависимости от основания логарифма. Основные свойства и характеристики количества информации, ее энтропия. Определение энтропии, избыточности информационных сообщений.
реферат [33,9 K], добавлен 10.08.2009Схема и коэффициент эффективности дискретного канала. Функции блоков, свойства канальных матриц, информационные характеристики источника сообщений и приемника. Теоремы Шеннона о критической скорости, криптографическому и помехоустойчивому кодированию.
учебное пособие [994,9 K], добавлен 06.05.2011Особенности вычисления количества информации, получаемой при фазовом сдвиге сигнала, если известна его амплитуда. Расчет информационных характеристик источников дискретных сообщений и дискретного канала. Особенности применения дискретизации и квантования.
курсовая работа [557,7 K], добавлен 15.11.2009Энтропия и количество информации. Комбинаторная, вероятностная и алгоритмическая оценка количества информации. Моделирование и кодирование. Некоторые алгоритмы сжатия данных. Алгоритм арифметического кодирования. Приращаемая передача и получение.
курсовая работа [325,1 K], добавлен 28.07.2009Роль структуры управления в информационной системе. Примеры информационных систем. Структура и классификация информационных систем. Информационные технологии. Этапы развития информационных технологий. Виды информационных технологий.
курсовая работа [578,4 K], добавлен 17.06.2003Схема организационной структуры управления информационных и аналитических технологий аппарата администрации. Математическая постановка задачи классификации информационных сообщений СМИ. Описание информационного обеспечения на примере АИС "Классификатор".
дипломная работа [677,2 K], добавлен 28.07.2009Развитие корпоративных информационных порталов. Классификация порталов в сетях, преимущества, получаемые при использовании. Архитектура, структура и технологические аспекты создания порталов. Анализ характеристик информационного портала AxiomPortal.
дипломная работа [756,9 K], добавлен 23.07.2011Общее число неповторяющихся сообщений. Вычисление скорости передачи информации и пропускной способности каналов связи. Определение избыточности сообщений и оптимальное кодирование. Процедура построения оптимального кода по методике Шеннона-Фано.
курсовая работа [59,4 K], добавлен 17.04.2009Основные характеристики и принцип новой информационной технологии. Соотношение информационных технологий и информационных систем. Назначение и характеристика процесса накопления данных, состав моделей. Виды базовых информационных технологий, их структура.
курс лекций [410,5 K], добавлен 28.05.2010Основные характеристики информационного пространства. Требования к составу и оценке качественных характеристик экономической информации. Определение степени взаимосвязи и меры организованности совокупности элементов информационного пространства.
практическая работа [207,5 K], добавлен 22.06.2010Общая характеристика информационных систем, предназначенных для передачи, преобразования и хранения информации. Изучение форм представления детерминированных сигналов. Энтропия сложных сообщений. Рассмотрение основных элементов вычислительных машин.
лекция [1,5 M], добавлен 13.04.2014Рассмотрение взаимосвязи информационных подсистем предприятия. Характеристика сервис-ориентированной архитектуры информационных систем. Оценка реализации SOA-инфраструктуры на базе сервисной шины предприятия. Анализ бизнес-цели внедрения SOA-решений.
контрольная работа [1,0 M], добавлен 28.03.2018Жизненный цикл информационных систем, методологии и технологии их проектирования. Уровень целеполагания и задач организации, классификация информационных систем. Стандарты кодирования, ошибки программирования. Уровни тестирования информационных систем.
презентация [490,2 K], добавлен 29.01.2023Теоритические аспекты информационных технологий на предприятиях. Системы, используемые в информационных технологиях. Особенности применения информационных технологий в маркетинговой деятельности. Влияние информационных технологий на туристическую отрасль.
курсовая работа [498,9 K], добавлен 29.10.2014Объединение как совокупность нескольких ансамблей дискретных, случайных событий. Безусловная энтропия - среднее количество информации, приходящееся на один символ. Описание информационных свойств непрерывного источника. Понятие дифференциальной энтропии.
контрольная работа [106,8 K], добавлен 28.07.2009Классификация и основные характеристики метода сжатия данных. Вычисление коэффициентов сжатия и оценка их эффективности. Алгоритмы полиноминальных, экстраполяционных и интерполяционных методов сжатия и их сравнение. Оптимальное линейное предсказание.
курсовая работа [1,1 M], добавлен 17.03.2011Информационные технологии, сущность и особенности применения в строительстве. Анализ деятельности информационных технологий, основные направления совершенствования применения информационных технологий, безопасность жизнедеятельности на ООО "Строитель".
дипломная работа [1,7 M], добавлен 26.09.2010Задачи и постулаты прикладной теории информации. Разновидности помехоустойчивых кодов. Кодирование информации для канала с помехами. Энтропия при непрерывном сообщении. Количественная оценка информации. Условная и взаимная энтропия и ее свойства.
курс лекций [3,2 M], добавлен 28.04.2009Использование информационных систем в рекламе. Информационная структура планово-экономического отдела. Аспекты использования информационных технологий. Оценка экономической эффективности использования информационных систем, их правовое обеспечение.
курсовая работа [158,8 K], добавлен 23.08.2011
