Анализ научного пути Клода Элвуда Шеннона и теория информации

Путь Клода Шеннона в науках, вклад в математические и технические науки, в частности, анализ идеи теории информации. Оценка научного пути американского инженера и математика, его "Теория связи в секретных системах" и статья "Математическая теория связи".

Рубрика Программирование, компьютеры и кибернетика
Вид статья
Язык русский
Дата добавления 07.01.2016
Размер файла 16,8 K

Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже

Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.

Размещено на http://www.allbest.ru//

Размещено на http://www.allbest.ru//

Уральский Федеральный университет

Анализ научного пути Клода Элвуда Шеннона и теория информации

Шайхузина Екатерина Радиковна

студент

Бывальцев Сергей Васильевич, кандидат технических наук, доцент кафедры Информационных технологий и автоматизации проектирования

Аннотация

Данная статья, предназначенная для ознакомления с читателями, содержит сжатую информацию, полученную путем исследования, а именно путь Клода Элвуда Шеннона в науках, вклад в математические и технические науки, в частности анализ идеи теории информации.

Abstract

This article is intended to familiarize the readers contains concise information obtained by the research , namely the path of Claude Elwood Shannon in science , contributions to mathematical and engineering sciences, in particular the analysis of the ideas of information theory.

Ключевые слова

Клод Элвуд Шеннон; теория информации; кодирование информации

Keywords

Claude Elwood Shannon ; information theory; data encryption

Теория информации неразрывно связана с опубликованной в 1948 году статьей Шеннона «Математическая теория связи». Шеннон утверждал, что теория информации целый раздел математической теории связи. Теория информации задает основные границы возможностей систем передачи информации, устанавливает исходные принципы их разработки и практического воплощения. 

Целью данной статьи является анализ научного пути Клода Элвуда Шеннона, влияния тех и иных факторов на него и раскрытие сущности его теории информации.

Клод Элвуд Шеннон - инженер, математик Америки. Родился 30 апреля 1916 года в городе Петоцки, штат Мичиган, США. В юности Шеннон увлекался конструированием механических и автоматических устройств, что позволило ему собирать модели самолетов, радиотехнические цепи, а также радиоуправляемую лодку и небольшую телеграфную систему, данный фактор можно выделить первым на научном пути Клода Элвуда Шеннона.

После окончания общеобразовательной средней школы он поступил в Мичиганский университет, заканчивая который получил степени бакалавра по специальностям математика и электротехника, что ясно показывает, насколько Шеннон был увлечен техническими науками, это второй фактор, так как если бы он разочаровался в этом, мы бы никогда не увидели эволюцию очень важной и по сей день развивающейся науки «кибернетики». Еще студентом его заинтересовали работы Джорджа Буля, применение которым в последствии Шеннон увидел в электрических схемах дифференциального анализатора. В 1938 году публикуется статья, написанная с его магистерской работы «Символьный анализ реле и коммутаторов. Говард Гарднер из Гарвардского университета отозвался о работе Шеннона, как о «возможно, самой важной, а также самой известной магистерской работе столетия». Докторская диссертация, написанная во время участия в работе по генетике, называлась «Алгебра для теоретической генетики», и была завершена весной 1940 года. Шеннон получил докторскую степень по математике и степень магистра по электротехнике, данный шаг и есть третий фактор.

В последствии он преподавал в университете и работал в американской телефонной компании Белл. Исследуя переключающие цепи, Шеннон обнаружил передовой метод организации цепей, который позволяет сократить количество контактов реле, необходимых в исполнении сложных логических функций. В дальнейшем публикуется его доклад «Организация двухполюсных переключающих цепей». Сам же Шеннон старался решить проблемы создания схем переключения.

Со вступлением США во Вторую мировую войну Шеннон присоединился к работе над программой для систем управления огнем для противовоздушной обороны и работал над устройствами обнаружения самолетов противника и наведения на них зенитных установок, также он разрабатывал криптографические системы, в том числе и правительственную связь. Участие Шеннона в работе можно объявить третьим фактором, как говорил он сам, работа в области криптографии подтолкнула его к созданию теории информации.

В период с 1950 по 1956 года он занимался созданием логических машин. Далее он создал машину, которая могла играть в шахматы. В 1952 Шеннон создал обучаемую машину поиска выхода из лабиринта. В 1966 году он вышел на пенсию.

Клод Шеннон ушел из жизни 24 февраля 2001 года, он внёс вклад в области наук, входящие в понятие «кибернетика», в теорию автоматов, теорию систем управления, теорию вероятностных схем.

Опубликование статьи «Математическая теория связи» ославила Шеннона, она содержала идеи, ставшие основой современных теорий и техник обработки, передачи и хранения информации. Клод Шеннон обобщил идеи Хартли и ввел понятие информации. Информация. Он первым стал рассматривать передаваемые сообщения и шумы в каналах связи с точки зрения статистики, рассматривая различные множества сообщений, как конечные, так и непрерывные множества. Конечные сообщения формируются последовательной выдачей сообщений отдельных элементов источником. Непрерывные не разделены на элементы, описываются непрерывными функциями времени. Теория информации Шеннона помогла решить ряд проблем: устранить избыточность предаваемых сообщений, произвести кодирование, передать сообщение по каналам связи с шумами.

Задачи теории информации можно представить в виде структурной схемы, типичной системы передачи или хранения информации.

В структурной схеме передачи сообщения есть определенный принцип действия. Изначально источник информации порождает сообщение, которое необходимо передать, далее это сообщение преобразуют в электрические сигналы. После этого кодер источника оптимизирует информацию, далее кодер канала обрабатывает полученное для защиты сообщения от помех при передаче или искажений во время хранения. Модулятор в свою очередь формирует сообщение в сигналы, которые соответствуют виду канала или среде накопителя информации. Далее канал связи добавляет во время передачи сообщения шум, который помогает защитить его от точного прочтения. Последующие операции выполняются обратно первым, то есть демодулятор, после этого декодер канала, далее декодер источника и получатель информации. шеннон информация связь секретный

Информация должна обладать рядом характеристик для передачи: 

Информация должна быть полезной потребителю (релевантность)

Информация должна быть исчерпывающей (полнота)

Информация должна быть актуальна для нужд в определенное время (своевременной)

Информация должна быть правдивой (достоверность)

Информация должны быть открытой для получения (доступность)

Информация должна быть строго организованна для чтения (защищенность)

Информация должна быть удобной в использовании (эргономичность)

Информация должна быть точной (адекватность). 

Структура информации также может включать информационные совокупности, выделенные по определенному критерию. Количество информации - мера сокращения неопределенности знания при получении сообщения. Самой маленькой единицей количества информации считают бит. При равновероятных сообщениях конечного множества сообщений используется формула Хартли, в которой количество информации равно логарифму по основанию 2 от возможного множества сообщений. При неодинаковой вероятности сообщений используют формулу Шеннона, в которой количество информации равно сумме произведений вероятностей, что n-ое сообщение верно на логарифм по основанию 2 от возможного множества сообщений с противоположным знаком.

Требования для использования формулы Шеннона: непрерывность меры, возможность выбора в два шага, при котором функции конечного результата является суммой функций промежуточных результатов.

Кодирование можно разделить на несколько типов:

Кодирование источников дискретного вида. У данного метода передача информации происходит со сжатием и без помех (теоретическая модель)

Кодирование информации с шумом. Сообщение имеет возможность быть однозначно расшифрованным, для этого достаточно чтобы код был префиксным.

Код является префиксным, когда никакое кодовое слово в нем не является префиксным какого-то другого кодового слова.

Кодирование с определенным критерием качества. Восстановление закодированного сообщения происходит с ошибкой, максимальное значение которой определенно критерием.

Кодирование для многопользовательских систем.

Секретная связь. Защита от несанкционированного доступа. 

Данный анализ приводит нас к выводу, что теория информации в её первозданном виде актуальна и по сей день, но в настоящее время является комплексной, в основном математической теорией, включающей в себя методы извлечения, передачи, хранения и типизации информации. Знание теории информации является важным пунктом в подготовке инженеров, специализирующихся в области автоматизированных систем управления и обработки информации. Данные системы должны включать в себя получение, подготовку, передачу, хранение и обработку информации, так как необходимо достичь нужное воздействие, что гарантируется правильностью функционирования системы. 

Библиографический список

1. Лекция "Основы теории информации" [электронный ресурс] // Электронная статья. URL: http://refleader.ru/poljgernayfs.html

2. Свободная энциклопедия Википедия "Клод Шеннон" [электронный ресурс] // Электронная статья. URL: https://ru.wikipedia.org/wiki/%D0%A8%D0%B5%D0%BD%D0%BD%D0%BE%D0%BD,_%D0%9A%D0%BB%D0%BE%D0%B4

3. Вики-конспекты "Кодирование информации" [электронный ресурс] // Электронная статья. URL:http://neerc.ifmo.ru/wiki/index.php?title=%D0%9A%D0%BE%D0%B4%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%B8%D0%BD%D1%84%D0%BE%D1%80%D0%BC%D0%B0%D1%86%D0%B8%D0%B8#.D0.9F.D1.80.D0.B5.D1.84.D0.B8.D0.BA.D1.81.D0.BD.D1.8B.D0.B9_.D0.BA.D0.BE.D0.B4

Размещено на Allbest.ru

...

Подобные документы

  • Возникновение информатики во второй половине XX столетия. Теория графов. Понятие и терминология теории графов. Некоторые задачи теории графов. Математическая логика и теория типов. Теория вычислимости и искусственный интеллект.

    реферат [247,4 K], добавлен 15.08.2007

  • Общее число неповторяющихся сообщений. Вычисление скорости передачи информации и пропускной способности каналов связи. Определение избыточности сообщений и оптимальное кодирование. Процедура построения оптимального кода по методике Шеннона-Фано.

    курсовая работа [59,4 K], добавлен 17.04.2009

  • Вычисление количества информации, приходящейся на один символ по формуле Шеннона. Изменения информационной энтропии в текстах экономического, естественнонаучного и литературного содержания. Максимальное количество информации на знак по формуле Хартли.

    лабораторная работа [28,2 K], добавлен 06.12.2013

  • Определение понятий кода, кодирования и декодирования, виды, правила и задачи кодирования. Применение теорем Шеннона в теории связи. Классификация, параметры и построение помехоустойчивых кодов. Методы передачи кодов. Пример построения кода Шеннона.

    курсовая работа [212,6 K], добавлен 25.02.2009

  • Основные понятия теории информации как науки. Среднее количество информации, приходящееся на 1 знак определяемое формулой Шеннона. Общая схема передачи сообщения. Пропускная способность канала. Булева алгебра и техническая реализация процесса вычисления.

    презентация [365,8 K], добавлен 13.08.2013

  • Задачи и постулаты прикладной теории информации. Разновидности помехоустойчивых кодов. Кодирование информации для канала с помехами. Энтропия при непрерывном сообщении. Количественная оценка информации. Условная и взаимная энтропия и ее свойства.

    курс лекций [3,2 M], добавлен 28.04.2009

  • Механизм передачи информации, ее количество и критерии измерения. Единицы информации в зависимости от основания логарифма. Основные свойства и характеристики количества информации, ее энтропия. Определение энтропии, избыточности информационных сообщений.

    реферат [33,9 K], добавлен 10.08.2009

  • Типы сжатия данных: с потерями (lossy) и без потерь (lossless). Сжатие с минимальной избыточностью. Кодирование методом Шеннона-Фано. Проверка работы программы по сжатию файлов формата bmp и xls. Реализация на Delphi алгоритма сжатия Шеннона и Хаффмана.

    курсовая работа [2,6 M], добавлен 26.01.2011

  • Общая схема действия каналов связи, их классификация и характеристика. Дискретный, бинарный канал связи и определение их пропускной способности, особенности действия с помехами и без них по теореме Шеннона. Пропускная способность непрерывного канала.

    реферат [111,4 K], добавлен 14.07.2009

  • Обзор концепции информации в пространстве научного знания. Информатика и формирование информационных наук. Информационный подход в исследованиях. Информационная глобалистика: пути развития. Освоение мира человеком: информационная концепция деятельности.

    контрольная работа [39,8 K], добавлен 07.03.2016

  • Бит, неопределенность, количество информации и энтропия. Формула Шеннона. Формула Хартли. Логарифмы. Количество информации, получаемой в процессе сообщения. Взаимодействие источника и приемника информации. Количество, информационная емкость ячеек памяти.

    реферат [579,6 K], добавлен 17.07.2008

  • Определение среднего количества информации. Зависимость между символами матрицы условных вероятностей. Кодирование методом Шеннона–Фано. Пропускная способность канала связи. Эффективность кодирования сообщений методом Д. Хаффмана, характеристика кода.

    контрольная работа [94,6 K], добавлен 04.05.2015

  • Количество информации и ее мера. Определение количества информации, содержащегося в сообщении из ансамбля сообщений источника. Свойства количества информации и энтропии сообщений. Избыточность, информационная характеристика источника дискретных сообщений.

    реферат [41,4 K], добавлен 08.08.2009

  • Информатика - наука об общих свойствах и закономерностях информации. Появление электронно-вычислительных машин. Математическая теория процессов передачи и обработки информации. История компьютера. Глобальная информационная сеть.

    реферат [120,1 K], добавлен 18.04.2004

  • Понятие и типы мобильной системы связи. Особенности построения и функционирования. Система обеспечения защиты информации. Понятие и классификация угроз. Виды представления информации и возможные каналы ее утечки. Сценарии несанкционированного доступа.

    курсовая работа [278,1 K], добавлен 23.11.2013

  • Теория информации как наука, предмет и методы ее изучения, применение в компьютерной технике. Системы передачи информации, разновидности сообщений и их источники. Разновидности помехи и способы их устранения. Аппаратура, используемая при передаче данных.

    реферат [23,7 K], добавлен 14.07.2009

  • Теория графов и её применения. Разработка программного продукта для решения задач нахождения минимального пути. Анализ надежности и качества ПП "метода Дейкстры". Математическая модель задачи. Алгоритмы Дейкстры на языке программирования Turbo Pascal.

    курсовая работа [1,6 M], добавлен 26.03.2013

  • Важнейшие стороны обеспечения информационной безопасности. Технические средства обработки информации, ее документационные носители. Типовые пути несанкционированного получения информации. Понятие об электронной подписи. Защита информации от разрушения.

    реферат [138,5 K], добавлен 14.07.2015

  • Порядок и основные этапы разработки теста на тему "Теория вероятностей и математическая статистика". Создание сайта, на котором будет размещен данный тест. Языки PHP и HTML. Текст программы и ее практическая апробация, листинг и специфика реализации.

    курсовая работа [29,0 K], добавлен 04.06.2011

  • Обоснование актуальности проблемы защиты информации. Концепция защиты информации в адвокатской фирме "Юстина". Каналы и методы несанкционированного доступа к защищаемой информации. Организация комплексной системы защиты информации в адвокатской конторе.

    курсовая работа [92,4 K], добавлен 21.10.2008

Работы в архивах красиво оформлены согласно требованиям ВУЗов и содержат рисунки, диаграммы, формулы и т.д.
PPT, PPTX и PDF-файлы представлены только в архивах.
Рекомендуем скачать работу.