Воссоздание перцептрона

Размещено на http: //www. allbest. ru/

Воссоздание перцептрона

автор: Петров Александр

Руководитель: Ветюков Д. А.

Москва 2013

Оглавление

Введение

1. Основная часть

1.1 Глава первая. Подробнее о нейронных сетях. Необучаемая нейронная сеть

1.1.1 Биологическая нейронная сеть

1.1.2 Искусственная нейронная сеть

1.1.3 Разбор задачи и демонстрация программы

1.2. Глава вторая. Принципы обучения нейронной сети

1.2.1 Принципы обучения

1.2.2 Разбор примера и демонстрация программы

Заключение

Список литературы

Введение

В настоящее время электронные устройства находятся на довольно высоком уровне. Для их дальнейшего развития необходимо использование не просто линейного и объектноориентированного программирования, а более нового и сложного типа - программирования аналога биологической нейронной сети. Ее главной особенностью является ее возможность самообучаться.

В своем дипломе, я хочу изучить строение и принцип работы нейронных сетей, понять принципы их работы и научиться их программировать в среде DELPHI.

Цель моего диплома - изучение работы нейронов и нейронных сетей и обучение программирования таких сетей в среде DELPHI. Также мне нужно выяснить, как обучить нейронную сеть и что для этого нужно.

Объектом моего исследования являются нейронные сети. Простейшие необучаемые и, соответственно, более сложные обучаемые.

Предметом моего исследования являются принципы организации самообучающихся нейронных сетей.

Конечным продуктом своего диплома я вижу создание конструктивных программ, которые будут являться базой для более сложных программ, моделирующих самообучающиеся нейронные сети

Метод изучения:

1. Изучение биологических аналогов изучаемых нейронных сетей

2. перенос полученных знаний на искусственные нейронные сети и моделирование программ, показывающих их работу

3. Формализация модулей этих программ. Получения некоторых модулей, параметры которых позволяют решить целый круг различных задач.

Наша работа относится к теоретическим исследованиям, так как это первый шаг к изучению работы нейронных сетей. В дальнейшем эта работа может быть использована как пособие к созданию прикладного исследования.

Для достижения поставленной цели необходимо решение следующих задач:

Во - первых, разобраться с научными терминами, которыми я буду оперировать в своем дипломе ( такими как нейрон, нейронная сеть и т.д.)

Во - вторых, разобраться с принципами работы нейронных сетей и их обучения

В - третьих, Смоделировать обучаемую нейронную сеть и создание программ, являющихся пособием, которые показывают работу :
- простейшей необучаемой нейронной сети

- самообучающейся нейронной сети

Я считаю, что тема «нейронные сети» актуальна в первую очередь потому, что сейчас ведутся исследования в области науки и новых технологий, и искусственные нейронные сети могут продвинуть науку на новый уровень.

1. Основная часть

1.1 Глава Первая. Подробнее о нейронных сетях. Необучаемая нейронная сеть

1.1.1 Биологическая нейронная сеть

Биологическая нейронная сеть состоит из большого числа соединенных между собой однотипных элементов (нейронов), но обладает разнообразием функций по сравнению с нейроном. Биологическая нейрон имеет несколько дендритов, по которым он получает сигнал, тело, в котором происходит простейшее действие (вычисление) и единственный аксон, по которому сигнал передается далее по сети. Аксон контактирует с дендритами других нейронов через специальные образования, называемые синапсами. Синапсы влияют на вес сигнала. Как это работает? При прохождении синапса вес сигнала меняется в определенное число раз. Сигналы, поступающие к нейрону по нескольким дендритам, суммируются. Если суммарный вес превышает некоторый порог, нейрон возбуждается и создает свой сигнал, который он передает далее по своему аксону.

Дендрит - это ветвящийся отросток нейрона, воспринимающий возбуждающие или тормозные влияния других нейронов или рецепторных клеток. Аксон - это отросток нейрона, проводящий нервные импульсы от тела нейрона к другим нейронам

Синапс - это специализированная зона контакта между отростками нейронов, обеспечивающая передачу информационного сигнала.

Нейрон - это функциональная и структурная единица нервной системы, функцией которой является прием сигналов, поступающих от рецепторов и других нейронов, переработка их и передача в форме нервных импульсов к нервным окончаниям, контролирующим деятельность исполнительных органов

1.1.2 Искусственная нейронная сеть

Искусственная нейронная сеть (ИНС, нейронная сеть) - это набор искусственных нейронов, соединенных между собой. Искусственный нейрон - узел искусственной нейронной сети. Представляется в виде сумматора входящих сигналов. Как правило, передаточные функции всех нейронов в нейронной сети фиксированы, а веса являются параметрами нейронной сети и могут изменяться. Некоторые входы нейронов помечены как внешние входы нейронной сети, а некоторые выходы - как внешние выходы нейронной сети. Подавая любые числа на входы нейронной сети, мы получаем какой-то набор чисел на выходах нейронной сети. Таким образом, работа нейронной сети состоит в преобразовании входного вектора в выходной вектор, причем это преобразование задается весами нейронной сети. перцептрон нейронный сеть алгоритм

Каждый нейрон выполняет небольшой объем работ ? например, суммирует пришедшие на него сигналы с некоторыми весовыми коэффициентами и дополнительно нелинейно преобразует эту взвешенную сумму входных данных. Другим распространённым вариантом является нейрон-детектор, выдающий высокий выходной сигнал при малых отличиях своих входных сигналов от некоторого запомненного эталона, и низкий выходной сигнал при существенных отличиях. Например, у нас есть группа параметров, которые присутствуют или отсутствуют в данный момент, а так же есть вес этих параметров. Мы суммируем веса включенных параметров и сравниваем их со значением порога. Если суммарный вес больше или равен порогу, то мы считаем, что сигнал проходит дальше.

1.1.3 Разбор задачи и демонстрация программы

Рассмотрим на конкретном примере принцип работы такой необучаемой нейронной сети:

На входе программы у нас есть следующие параметры: освещенность и температура, которые могут принимать два значения: 0 и 1. То есть темно или светло (освещенность) или Тепло или холодно (температура). На выходе программы у нас два варианта: бабочка или открывает крылья, или закрывает ( не открывает).

В данном случае и светло, и тепло, поэтому бабочка открывает крылья.

В этом случае темно, но светло, значит бабочка открывает крылья

В этом случае и темно, и холодно, значит бабочке нет смысла открывать крылья.

Суммарный вес в такой задаче считается по формуле:

Присутствие параметра(если параметр присутствует, то 1, если нет, то 0)

Умножаем на вес параметра.

В ходе своей работы я создал универсальную программу для решения задач такого типа. Рассмотрим работу этой программы в первом случае ( случай описан в первой таблице)

2. Глава Вторая. Принципы обучения нейронной сети

2.1 Принципы обучения

Обучаемая нейронная сеть отличается от необучаемой тем, что обучение происходит путем изменения веса.

Рассмотрим принцип обучения нейронной сети

Принципы работы искусственной нейронной сети

Искусственная нейросеть, как и её биологический прототип, может обучаться: она, меняя вес входящих сигналов, может менять свое поведение, добиваясь улучшения точности решения некоторой задачи.

Нейронная сеть обучается решению задачи на некотором "учебнике" ? наборе ситуаций, каждая из которых описывает значения входных сигналов нейросети и требуемый при этих входных сигналах ответ. "Учебник" задает набор эталонных ситуаций с известными исходами, а нейронная сеть должна обнаружить и запомнить зависимости между входными сигналами и требуемыми ответами

Кроме обучения с учителем возможно и обучение без учителя ? при этом происходит анализ описаний ситуаций и ищутся те или иные тенденции (например, похожие ситуации объединяются в группы так, чтобы данные внутри группы были больше похожи друг на друга, чем на данные из другой группы)

2.1.1 Разбор примера и демонстрация программы

Рассмотрим пример обучения нейронной сети на конкретном примере:

У нас есть ситуация, когда в комнате находится собака. Перед ней стоит миска. Это неизменные параметры. Теперь об изменяющихся:

В комнате может присутствовать хозяин этой собаки. В миске может лежать, или не лежать кусок мяса и, наконец, свет может быть включен, или выключен. На картинке, показанной далее видны все возможные случаи в этой задаче. Так бы она решалась, если бы это была необучаемая нейронная сеть.

На входе программы есть три параметра: присутствие хозяина, наличие куска мяса в миске и освещенность. На выходе программы два случая: собака или ест, или не ест мясо

Но необученная нейронная сеть (в данном случае, собака, не знает, как поступать). Знаем только мы и мы должны дать понять, правильно ли поступила собака, или нет. Условимся следовать следующему алгоритму:

1) Случайным образом распределяются включенные, или выключенные параметры и веса данных параметров, а также определяется порог

2) Объект ( собака) совершает какое - либо действие. Например, ест кусок мяса.

3) Получаем правильное решение данной задачи из таблицы на рисунке

4) Сравниваем решение задачи объектом и нами.

5) Если эти значения совпадают, то мы считаем, что те параметры, которые были включены на момент совершения действия, важны для принятия решения, а, значит, мы увеличиваем их вес на единицу. Отключенные параметры считаются не сильно повлиявшими, а значит, с весами этих параметров мы ничего не делаем

6) Если же значения не совпадают, то мы считаем, что те параметры, которые были включены на момент совершения действия, мешали принять собаке правильное решение, а значит веса этих параметров мы уменьшаем на единицу.

7) После расчета новых значений весов мы заново считаем порог веса для постановки новых ситуаций в задаче.

2.1.2 Рассмотрим решение конкретно этой задачи при помощи искусственной нейронной сети

При решении данной задачи у меня осталась нерешенной проблема расчета нового порога веса. То есть я могу выбирать случайный порог веса, чтобы посмотреть решение задачи в каком то конкретном случае, но я не могу просчитать порог для того случая, когда программа будет обучаться автоматически. И из - за неправильного подсчета значения порога, у меня не всегда получаются правильные решения задачи в моей программе

Я считаю, что под каждую конкретную задачу нужно слегка менять формулу расчета порога. Универсальной формулы пока не найдено

Заключение

В своей работе я изучил принципы работы нейронных сетей и их обучения. Создал простейшие математические аналоги в среде Delphi. Но на стадии разработки программы для обучаемой нейронной сети возникли непредвиденные сложности. Задача сильно усложнилась из - за того, что пока не решен вопрос расчета порога для каждого нового случая. Я считаю, что под каждую конкретную задачу нужно слегка менять формулу расчета порога. Универсальной формулы пока не найдено

Список литературы

Информацию для своего диплома я беру из следующих источников:

1) Статья М. Б. Берклинблита «Нейронные сети».

2) Авторский сайт Царегородцева Виктора Геннадьевича http://neuropro.ru/.

Размещено на Allbest.ru