Использование нейронных сетей

Размещено на http://www.allbest.ru/

Омский государственный университет путей сообщения

(ОмГУПС (ОмИИТ))

Кафедра «Автоматика и системы управления»

ОТЧЕТ

по учебной практике

Студент гр. 25 q

М.В. Мойсей

Руководитель учебной практики

заведующий кафедрыАиСУ

С.Н.Чижма

2015/2016 учебный год

Введение

В последние несколько лет мы наблюдаем взрыв интереса к нейронным сетям, которые успешно применяются в самых различных областях -бизнесе, медицине, технике, геологии, физике. Нейронные сети вошли в практику везде, где нужно решать задачи прогнозирования, классификации или управления. Такой впечатляющий успех определяется несколькими причинами. искусственный интеллект нейронный сеть

Нейронные сети - исключительно мощный метод моделирования, позволяющий воспроизводить чрезвычайно сложные зависимости. В частности, нейронные сети нелинейны по свой природе (смысл этого понятия подробно разъясняется далее в этой главе). На протяжение многих лет линейное моделирование было основным методом моделирования в большинстве областей, поскольку для него хорошо разработаны процедуры оптимизации. В задачах, где линейная аппроксимация неудовлетворительна (а таких достаточно много), линейные модели работают плохо. Кроме того, нейронные сети справляются с «проклятием размерности», которое не позволяет моделировать линейные зависимости в случае большого числа переменных

Нейронные сети учатся на примерах. Пользователь нейронной сети подбирает представительные данные, а затем запускает алгоритм обучения, который автоматически воспринимает структуру данных. При этом от пользователя, конечно, требуется какой-то набор эвристических знаний о том, как следует отбирать и подготавливать данные, выбирать нужную архитектуру сети и интерпретировать результаты, однако уровень знаний, необходимый для успешного применения нейронных сетей, гораздо скромнее, чем, например, при использовании традиционных методов статистики

1. Искусственный интеллект и нейронные сети

Основной задачей искусственного интеллекта является разработка парадигм или алгоритмов, обеспечивающих компьютерное решение когнитивных задач, свойственных человеческому мозгу. Следует заметить, что это определение искусственного интеллекта не является единственно возможным.

Системы искусственного интеллекта должны обеспечивать решение следующих трех задач: накопление знаний, применение накопленных знаний для решения проблемы и извлечение знаний из опыта. Системы искусственного интеллекта реализуют три ключевые функции: представление, рассуждение и обучение (рисунок 1).

Рисунок 1 - Три ключевые функции систем искусственного интеллекта

Представление. Одной из отличительных черт систем искусственного интеллекта является использование символьного языка для представления общих знаний о предметной области и конкретных знаний о способах решения задачи. Символы обычно формулируются в уже известных терминах. Это делает символьное представление относительно простым и понятным человеку. Более того, понятность символьных систем искусственного интеллекта делает их пригодными для человеко-машинного общения.

Термин «знания», используемый создателями систем искусственного интеллекта, является всего лишь еще одним названием данных. Знания могут иметь процедурный и декларативный характер. В декларативном представлении знания это статический набор фактов. При этом существует относительно малый объем процедур, используемых для манипуляций этими фактами. Характерной особенностью декларативного представления является то, что в глазах человека оно имеет смысл само по себе, независимо от использования в системах искусственного интеллекта.

В процедурном представлении знания внедрены в процедуры, функционирующие независимо от смысла самих знаний. В большинстве предметных областей требуются одновременно оба типа представления знаний.

Рассуждения. Под рассуждениями обычно понимается способность решать задачи. Для того чтобы систему можно было назвать разумной, она должна удовлетворять следующим условиям:

- описывать и решать широкий спектр задач;

- понимать явную и неявную информацию;

- иметь механизм управления, определяющий операции, выполняемые для решения отдельных задач.

Решение задач можно рассматривать как некоторую задачу поиска. В процессе поиска используются правил, данные и управляющие воздействия. Правила действуют на области данных, а управляющие воздействия определяются для правил.

Во многих практических задачах доступный набор знаний является неполным или неточным. В таких ситуациях используются вероятностные рассуждения, позволяющие системам искусственного интеллекта работать в условиях неопределенности.

Обучение. В простейшей модели машинного обучения (рисунок 2) информацию для обучаемого элемента предоставляет сама среда.

Рисунок 2 - Простейшая модель машинного обучения

Обучаемый элемент использует полученную информацию для модернизации базы знаний, знания из которой функциональный элемент затем использует для выполнения поставленной задачи. Информация, поступающая из внешней среды, является несовершенной, поэтому обучаемый элемент заранее не знает, как заполнить пробелы или игнорировать несущественные детали. Машина действует наугад, после чего получает сигнал обратной связи от функционального элемента. Механизм обратной связи позволяет системе проверять рабочие гипотезы и пересматривать их по мере необходимости.

Машинное обучение может включать два совершенно разных способа обработки информации: индуктивный и дедуктивный. При индуктивной обработке информации общие шаблоны и правила создаются на основании практического опыта и потоков данных. При дедуктивной обработке информации для определения конкретных фактов используются общие правила. Обучение на основе подобия представляет собой индуктивный процесс, а доказательство теорем дедуктивный, поскольку оно опирается на известные аксиомы и уже доказанные теоремы.

В обучении на основе объяснения используется как индукция, так и дедукция. Возникающие при обучении сложности и накопленный при этом опыт привели к созданию различных методов и алгоритмов пополнения баз знаний. В частности, если в данной предметной области работают опытные профессионалы, проще получить их обобщенный опыт, чем пытаться дублировать экспериментальный путь, который они прошли в процессе его накопления. Эта идея и положена в основу экспертных систем. Возникает вопрос: как сравнить когнитивные модели нейронных сетей с символьными системами искусственного интеллекта. Для такого сравнения разобьем проблему на три части: уровень объяснения, стиль обработки и структуру представления.

Уровень объяснения. Классические системы искусственного интеллекта основаны на символьном представлении. С точки зрения познания предполагает существование ментального представления, в котором познание осуществляется как последовательная обработка символьной информации. В центре внимания нейронных сетей находятся модели параллельной распределенной обработки. В этих моделях предполагается, что обработка информации происходит за счет взаимодействия большого количества нейронов, каждый из которых передает сигналы возбуждения и торможения другим нейронам сети. Более того, в теории нейронных сетей большое внимание уделяется нейробиологическому описанию процесса познания.

Стиль обработки. В классических системах искусственного интеллекта обработка происходит последовательно, как и в традиционном программировании. Даже если порядок выполнения действий строго не определен (например, при сканировании правил и фактов в экспертных системах), операции все равно выполняются пошагово. Такая последовательная обработка, скорее всего, объясняется последовательной природой естественных языков и логических заключений, а также структурой машины фон Неймана. Нельзя забывать о том, что классические системы искусственного интеллекта зародились практически в ту же интеллектуальную эру, что и машина фон Неймана. В отличие от них, концепция обработки информации в нейронных сетях проистекает из принципа параллелизма, который является источником их гибкости. Более того, параллелизм может быть массовым (сотни тысяч нейронов), что придает нейронным сетям особую форму робастности. Если вычисления распределены между множеством нейронов, практически не важно, что состояние отдельных нейронов сети отличается от ожидаемого. Зашумленный или неполный входной сигнал все равно можно распознать; поврежденная сеть может продолжать выполнять свои функции на удовлетворительном уровне, а обучение не обязательно должно быть совершенным. Производительность сети в пределах некоторого диапазона снижается достаточно медленно. Кроме того, можно дополнительно повысить робастность сети, представляя каждое свойство группой нейронов.

Структура представления. В классических системах искусственного интеллекта в качестве модели выступает язык мышления, поэтому символьное представление имеет квазилингвистическую структуру. Подобно фразам обычного языка, выражения классических систем искусственного интеллекта, как правило, сложны и составляются путем систематизации простых символов. Учитывая ограниченное количество символов, новые смысловые выражения строятся на основе композиции символьных выражений и аналогии между синтаксической структурой и семантикой.

С другой стороны, в нейронных сетях природа и структура представления являются ключевыми проблемами.

Символьные модели искусственного интеллекта это формальные системы, основанные на использовании языка алгоритмов и представлении данных по принципу «сверху вниз», а нейронные сети это параллельные распределенные процессоры, обладающие естественной способностью к обучению и работающие по принципу «снизу вверх». Поэтому при решении когнитивных задач целесообразно создавать структурированные модели на основе связей или гибридные системы, объединяющие оба подхода. Это обеспечит сочетание свойств адаптивности, робастности и единообразия, присущих нейронным сетям, с представлениями, умозаключениями и универсальностью систем искусственного интеллекта. Для реализации этого подхода были разработаны методы извлечения правил из обученных нейронных сетей. Эти результаты не только позволяют интегрировать нейронные сети с интеллектуальными машинами, но и обеспечивают решение следующих задач:

- верификация нейросетевых компонентов в программных системах. Для этого внутреннее состояние нейронной сети переводится в форму, понятную пользователям;

- улучшение обобщающей способности нейронной сети за счет выявления областей входного пространства, не достаточно полно представленных в обучающем множестве, а также определения условий, при которых обобщение невозможно;

- выявление скрытых зависимостей на множестве входных данных;

- интеграция символьного и коннекционистского подходов при разработке интеллектуальных машин;

- обеспечение безопасности систем, для которых она является критичной.

2. Особенности использования искусственных нейронных сетей в системах управления

В историческом плане можно утверждать, что разработка систем управления (СУ) всегда происходит поэтапно. В качестве таких этапов можно выделить:

этап разработки концепции построения СУ;

этап моделирования СУ, в соответствии с предлагаемой концепцией построения;

этап анализа получаемых результатов;

этап доработки (модернизации) концепции построения СУ.

На протяжении всех этих этапов не прекращаются теоретические исследования, которые позволяют выбирать основные направления совершенствования первоначально сформулированной концепции построения СУ и распространять ее основные идеи на ряд смежных областей.

По аналогичной схеме происходит развитие СУ, использующих искусственные НС. Однако следует заметить, что большое количество разработанных аппаратных и программных моделей нейросетевых СУ часто опережают теоретическое понимание происходящих при этом процессов и имеющихся проблем.

Необходимым этапом решения задач управления нелинейными динамическими системами является получение их адекватных математических моделей, базирующееся, как правило, на теоретическом и экспериментальном анализе свойств этих систем. Теоретический анализ процессов, происходящих в системе, позволяет получить математическое описание в виде, например, дифференциальных уравнений. При экспериментальном анализе на основе наблюдений входных и выходных сигналов системы получают либо ее параметрическую, либо непараметрическую модель. Наиболее широкое распространение получили параметрические модели, требующие решения задач структурной и параметрической идентификации и использующие ограниченное число параметров. Несмотря на огромное количество работ, многообразие видов нелинейностей не позволяет создать единую теорию идентификации нелинейных систем. Применяемый чаще всего классический подход основан на аппроксимации нелинейностей, например рядами Вольтера, Гаммерштейна, Винера, полиномами Колмогорова-Габора и других. Однако область применения таких моделей ограничена. Кроме того, дополнительные трудности получения адекватного математического описания обусловлено наличием в реальных сигналах помех.

Одной из классических моделей СУ является модель с обратной связью с регулируемыми в реальном масштабе времени коэффициентами, например самонастраивающийся регулятор Астрома. Коэффициенты такого контроллера регулируются в течение каждого цикла управления в соответствии с оценкой параметров системы. Блок-схема управления с обратной связью и регулируемыми в реальном масштабе времени коэффициентами приведена на рисунке 3.

Системы адаптивного управления, использующие эталонную модель Ляпунова проектируются таким образом, чтобы выходной сигнал управляемой модели, в конце концов, соответствовал выходному сигналу предварительно определенной модели, которая имеет желаемые характеристики. Такая система должна быть асимптотически устойчивой, то есть управляемая система в итоге отслеживает эталонную модель с нулевой ошибкой. Более того, переходные процессы на этапе адаптивного управления или обучающего управления имеют гарантированные пределы. Блок-схема адаптивного управления с эталонной моделью представлена на рисунке 4.

Рисунок 3 - Блок-схема управления с обратной связью и регулируемыми коэффициентами

Рисунок 4 - Блок-схема адаптивного управления с эталонной моделью

Системы управления, так или иначе использующие искусственные НС являются одной из возможных альтернатив классическим методам управления. Возможность использования НС для решения задач управления во многом основывается на том, что НС, состоящая из двух слоев и имеющая в скрытом слое произвольное большое количество узлов, может аппроксимировать любую функцию действительных чисел с заданной степенью точности. Таким образом, для решения задач идентификации и управления могут быть использованы НС даже с одним скрытым слоем.

Одним из первых используемых методов построения нейросетевых СУ был метод, основанный на «копировании» существующего контроллера. Применив этот метод в 1964 Уидроу назвал его методом построения экспертной системы за счет получения знаний от уже существующего эксперта. Архитектура такой СУ представлена на рисунке 5.

Глядя на этот рисунок можно усомниться в полезности этого метода. Зачем нужно использовать еще один управляющий контроллер (в виде НС), если один уже существует. Однако, во-первых, существующий контроллер может быть неудобен при использовании (например, в роли такого контроллера может выступать человек), а во-вторых, для выработки эффективного управления НС может использовать отличную, от существующего контроллера, по способу представления (легче измерить, формализовать и т. д.) информацию о состоянии объекта управления.

В настоящее время достаточно хорошо разработан и широко используется целый ряд других возможных архитектур построения нейросетевых СУ. Во всех из них, назначением нейросетевого контроллера является выработка адекватного управляющего сигнала для управления динамикой состояний объекта управления от начального состояния до желаемого итогового состояния. Причем смена состояний должна происходить по оптимальной траектории.

Рисунок 5 - Нейросетевая СУ, основанная на «копировании» существующего контроллера

Организация контроля за состоянием объекта управления и реализация нейросетевого контроллера в значительной степени зависят от выбранного алгоритма обучения и используемой структуры управления. Наиболее широко используемыми являются схема прямого (непосредственного) управления и схема косвенного управления. При этом чаще всего в качестве алгоритма обучения используется алгоритм обратного распространения ошибки.

В схеме косвенного управления параметры объекта управления определяются в каждый момент времени и затем используются для оценки параметров контроллера (рисунок 6). Таким образом, имеет место явно выраженный процесс идентификации.

Рисунок 6 - Схема косвенного управления

Недостатком такой схемы является то, что идентификация и управление основываются исключительно на ошибке ‚ и, следовательно, минимизацию ошибки на выходе системы гарантировать нельзя.

В схеме прямого управления параметры нейросетевого контроллера регулируются таким образом, чтобы уменьшить непосредственно ошибку выхода еу (рисунок 7).

Рисунок 7 - Схема прямого управления

В качестве целевой функции, которая должна быть минимизирована контроллером используется среднеквадратическая ошибка на выходе объекта управления

Одной из областей теоретических исследований, рассматривающих проблемы использования НС в системах управления, является сравнение таких методов управления с другими известными типами СУ, выявление присущих нейросетевым методам особенностей и их анализ.

В методе с использованием НС отсутствуют ограничения на линейность системы, он эффективен в условиях шумов и после окончания обучения обеспечивает управление в реальном масштабе времени. Нейросетевые СУ более гибко настраиваются на реальные условия, образуя модели полностью адекватные поставленной задаче, не содержащие ограничений, связанных с построением формальных систем. Кроме того, нейросетевые СУ не только реализуют стандартные адаптивные методы управления, но и предлагают свои алгоритмические подходы к ряду задач, решение которых вызывает затруднение вследствие неформализованности. Так, появляется возможность обработки в рамках одной модели данных одной природы - для НС важна лишь их коррелированность.

Таким образом, напрашивается следующий вывод. Будущее интеллектуального управления лежит в сочетании традиционного управления с потенциальными возможностями и перспективами использования систем, основанных на использовании искусственных НС.

Заключение

У нейронных сетей много важных свойств, но ключевое из них - это способность к обучению. На сегодняшний день нейронные сети являются одним из приоритетных направлений исследований в области искусственного интеллекта.

Развитие нейронных сетей вызвало немало энтузиазма и критики. Некоторые сравнительные исследования оказались оптимистичными, другие - пессимистичными. Для многих задач, таких как распознавание образов, пока не создано доминирующих подходов. Нужно пытаться понять возможности, предпосылки и область применения различных подходов и максимально использовать их дополнительные преимущества для дальнейшего развития интеллектуальных систем.

Сегодня нейронные сети используются для работы в относительно узких областях, и неизвестно, доверят ли им когда-нибудь решение вопросов, которые требуют понимания социального контекста. Между тем нейронные сети уверенно продолжают проникать в нашу жизнь, и примеров тому немало.

Библиографический список

1 Пупков, К.А. Методы классической и современной теории автоматического управления. В 5 ч. Ч.5. Методы современной теории автоматического управления / Под ред. К.А. Пупкова, Н.Д. Егупова. М.: Издательство МГТУ им. Н.Э.Баумана, 2004. 784с.

2 Осовский С. Нейронные сети для обработки информации / Пер. с польского И.Д. Рудинского. М.: Финансы и статистика, 2004. 344с.

3 Комашинский В.И. Нейронные сети и их применение в системах управления и связи / В.И. Комашинский, Д.А. Смирнов М.: Горячая линия-Телеком, 2003. 94с.

4 Саймон Х. Нейронные сети: полный курс / Пер с англ. Н.Н. Куссуль М.: Издательский дом «Вильямс», 2006. 1104с.

Размещено на Allbest.ru