Синтез алгоритмов обучения нейронных сетей с нелинейными синаптическими входами для задач анализа и обработки информации

Размещено на http://www.allbest.ru/

НАЦИОНАЛЬНАЯ АКАДЕМИЯ НАУК КЫРГЫЗСКОЙ РЕСПУБЛИКИ

ИНСТИТУТ АВТОМАТИКИ И ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЙ

Диссертационный совет Д.05.11.030

На правах рукописи УДК 004.89

Автореферат

диссертации на соискание ученой степени кандидата технических наук

МУСАКУЛОВА ЖЫЛДЫЗ АБДЫМАНАПОВНА

Официальные оппоненты: доктор технических наук, профессор

Исмаилов Бактыбек Искакович

кандидат технических наук, доцент

Узакбаев Карабек Эргешбаевич

Ведущая организация: Кыргызско-Российский Славянский университет имени Б. Н. Ельцина

Защита состоится «__» _______ 2013 г. в ____ на заседании Диссертационного совета Д.05.11.030 при Институте автоматики и информационных технологий Национальной академии наук Кыргызской Республики по адресу: 720071, г. Бишкек, пр. Чуй, 265, ауд. 118

С диссертацией можно ознакомиться в библиотеке Национальной академии наук Кыргызской Республики

Автореферат разослан « __ »___________2013г.

к.т.н. И.В. Брякин

ОБЩАЯ ХАРАКТЕРИСТИКА

Актуальность темы. Развитие вычислительной техники, а именно ее производительности, стимулировало развитие научных исследований в области нейросетевых методов обработки информации. Стали возможны вычислительно затратные процедуры обработки информации в области интеллектуальных методов принятия решений. Разработанные в последнее время методы и алгоритмы принятия решений в различных сферах человеческой деятельности, продвинули компьютерные технологии в область создания систем искусственного интеллекта. Такие системы способны конкурировать с человеческим интеллектом в области принятия решений, особенно в сфере, базирующейся на большом объеме статистической информации.

В настоящее время большое количество работ современных авторов посвящены вопросам конфигурирования, обучения и применения искусственных нейронных сетей в задачах производства, медицины, робототехники, электроники, телекоммуникаций, автомобильной и космической промышленности, банковского дела, финансового дела, страхования, безопасности, транспортировки и т.д.

Важные теоретические и прикладные результаты в создании и моделировании нейросетевых архитектур представлены в работах Ф. Розенблата, Т. Кохонена, Дж. Хопфильда, Д. Румельхарта, М. Хаггана, Р. Каллана, С. Хайкина, В. Круглова, Е. Бодянского, А. Горбаня, Д. Рутковской и ряда других авторов.

Обучение и выбор удачной конфигурации нейронной сети является основной задачей в построении нейросетевых архитектур. К настоящему времени предложено и изучено большое количество моделей нейроподобных элементов и нейронных сетей. Но, не смотря на это, выбор эффективных алгоритмов обучения нейронных сетей остается проблемной теоретической задачей, решение которой является актуальной и в настоящее время. Также актуальной является проблема усовершенствования математической модели нейрона для получения дополнительных возможностей влияния на процесс обучения нейронной сети.

Искусственные нейронные сети позволяют анализировать хаотические процессы при небольшом объеме входных данных и выявлять в них аномалии, что ведёт их к широкому использованию в прикладных задачах медицины. Кроме того актуальным является применение интеллектуальных алгоритмов принятия решений в областях медицинской диагностики, особенно в связи с возрастающей нехваткой квалифицированных медицинских кадров. Таким образом, проведенные в работе исследования, направленные на разработку новых математических моделей искусственного нейрона и исследование алгоритмов обучения нейронных сетей для прикладных задач медицинской диагностики являются весьма актуальными.

Связь темы диссертации с крупными научными проектами и основными научно-исследовательскими работами. Настоящая диссертационная работа выполнена в соответствии с планом научно-исследовательской работы Международного университета Кыргызстана «Использование технологий нейронных сетей для создания интеллектуальных систем в образовании и медицине» (2008-2012 гг.), а также в рамках научно-исследовательских проектов Министерства образования и науки Кыргызской Республики «Разработка методов и алгоритмов оперативного прогнозирования природных катастроф с использованием технологий нейронных сетей» (2009 г.) и «Разработка интеллектуальных методов принятия решений на базе нейросетевых технологий в прикладных задачах» (2012 г.)

Цели и задачи исследования. Целью работы является разработка новых математических моделей искусственного нейрона, имеющих лучшие перспективы обучения, а также разработка алгоритмов обучения нейронных сетей, построенных на новых моделях нейрона для задач анализа и обработки информации в прикладных медицинских задачах. Для достижения поставленной цели в работе был решен ряд теоретических и экспериментальных задач, основными из которых являются:

- анализ математических моделей искусственного нейрона;

- анализ основных принципов построения нейросетевых архитектур;

- синтез моделей искусственного нейрона с нелинейными синаптическими входами, имеющих лучшие перспективы обучения;

- синтез градиентных алгоритмов обучения нейронных сетей с нелинейными синаптическими входами;

- синтез алгоритма обратного распространения ошибки для многослойных нейронных сетей с нелинейными синаптическими входами;

- анализ принципов и методов использования нейросетевых моделей в медицине;

- разработка алгоритма агрегирования данных электроэнцефалограмм для обучения нейронной сети в задаче классификации заболеваний головного мозга;

- разработка двухуровневой нейросетевой архитектуры классификации типов электроэнцефалограмм;

- разработка нейросетевого классификатора типов электроэнцефалограмм на базе многослойной нейронной сети с нелинейными синаптическими входами;

- разработка нейросетевой автоматизированной системы классификации данных электроэнцефалограмм.

Научная новизна работы состоит в следующем:

- предложены новые математические модели искусственного нейрона с нелинейными синаптическими входами, имеющие лучшие перспективы обучения;

- разработаны новые методы обучения однослойных и многослойных нейронных сетей с нелинейными синаптическими входами;

- предложены принципы и разработаны алгоритмы классификации данных электроэнцефалограмм с помощью многослойных нейронных сетей с нелинейными входами.

Практическая значимость полученных результатов. Разработанные новые математические модели искусственного нейрона, позволяют создавать нейросетевые приложения с лучшими перспективами обучения, за счет использования нелинейной функции активации на входах нейрона и введения дополнительных настраиваемых параметров в структуру нейрона. Нейронные сети на базе разработанных моделей искусственного нейрона могут использоваться в различных прикладных задачах, в том числе в задачах медицинской диагностики.

Разработанная, на базе предложенных алгоритмов, нейросетевая автоматизированная система классификации данных электроэнцефалограмм успешно протестирована и используется в «Медицинском центре функциональной диагностики», а также в многопрофильном медицинском центре «Эркай». Использование разработанного комплекса программ позволяет сократить затраты времени на клинический анализ электроэнцефалограммы и облегчить работу медицинского персонала диагностической клиники.

Результаты теоретических исследований, приведенных в диссертации, используются в учебном процессе при чтении специальных курсов на кафедре «Компьютерных информационных систем и управления» Международного университета Кыргызстана, и на кафедре «Математических методов и исследования операций в экономике» Кыргызско-Российского Славянского университета имени Б. Ельцина.

Основные положения диссертации, выносимые на защиту.

- Модели искусственного нейрона с нелинейными синаптическими входами.

- Метод настройки свободных параметров сети в градиентном алгоритме обучения нейронной сети с нелинейными синаптическими входами.

- Метод настройки свободных параметров сети в алгоритме обратного распространения ошибки для нейронной сети с нелинейными синаптическими входами.

- Алгоритм агрегирования данных электроэнцефалограмм для обучения нейронной сети.

- Двухуровневая нейронная сеть классификации типов электроэнцефалограмм.

- Нейросетевой классификатор типов электроэнцефалограмм, реализованный на базе многослойной нейронной сети с нелинейными синаптическими входами;

- Комплекс программ, реализующий автоматизированную классификацию данных электроэнцефалограмм.

Личный вклад соискателя. Все результаты, представленные в диссертационной работе и имеющие научную новизну, получены автором лично и под руководством научного руководителя.

В работе [3] Миркину Е. Л. принадлежит постановка задачи синтеза модели искусственного нейрона с нелинейными синаптическими входами.

В работах [1,2,9] автору принадлежат методы настройки свободных параметров при обучении нейронной сети.

Апробация результатов диссертации. Результаты диссертационной работы докладывались и обсуждались на Международной конференции «Проблемы управления и информационных технологий» (Бишкек, Кыргызстан 2010 г.), на VII Международной научно-практической конференции «Перспективы развития информационных технологий» (Новосибирск, Россия, 2012 г.), на III Международной научно-практической конференции «Научная дискуссия: вопросы технических наук». (Москва, Россия, 2012 г.), на Международной научно-практической конференции «Актуальные проблемы информатики и процессов управления» (Алматы, Казахстан, 2012 г.), на научно-теоретическом семинаре кафедры «Математические методы и исследование операций в экономике» КРСУ (Бишкек, Кыргызстан, 2012г.).

Публикации. Основные научные результаты, полученные в диссертации, опубликованы в 11-ти печатных работах, в том числе 4 статьи в соавторстве.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения - всего 112 страниц, а также списка литературы и приложения.

ОСНОВНОЕ СОДЕРЖАНИЕ ДИССЕРТАЦИИ

Во введении обосновывается актуальность темы диссертационной работы, сформулированы ее цели и задачи, научная новизна, практическая значимость полученных результатов, сформулированы основные положения, выносимые на защиту.

В первой главе «Анализ принципов построения искусственных нейронных сетей» приведен обзор основных этапов развития теории искусственных нейронных сетей, приведен аналитический обзор основных принципов построения нейросетевых архитектур, описаны основные алгоритмы обучения искусственных нейронных сетей, обозначены перспективные направления исследований в этой области.

Во второй главе «Синтез алгоритмов обучения нейронных сетей с нелинейными синаптическими входами» предложены новые математические модели искусственного нейрона с нелинейными синаптическими входами, в которых входные сигналы подаются через сигмоидальную функцию активации, с настраиваемым параметром наклона сигмоиды.

Формальная модель нейрона МакКаллока-Питса, представленная на рис.1, лежит в основе искусственных нейронных сетей и описывается следующими зависимостями:

где - входные сигналы нейрона, - синаптические веса нейрона, - порог нейрона, обеспечивающий смещение сигнала, - индуцированное локальное поле нейрона, - функция активации нейрона (сигмоидальная функция), - выходной сигнал нейрона, - количество входных сигналов нейрона, t - номер итерации, который соответствует t-му примеру из обучающего множества.

Сигмоидальная функция активации является монотонно возрастающей всюду дифференцируемой нелинейной функцией с насыщением:

где - параметр наклона сигмоидальной функции активации.

Предлагается новая структура нейрона, представленная на рис. 2, которая отличается от известной модели тем, что нелинейные модели синапсов с выхода нейрона (1) перемещаются на входы нейрона, тем самым нормируя входные данные. При этом предлагается настраивать параметр функции активации нейрона тем, самым увеличивая количество настраиваемых параметров.

где - настраиваемый коэффициент сигмоидальной функции активации на входе нейрона (параметр наклона сигмоиды), - сигнал смещения для входных сигналов, - смещение сигнала для выходной функции активации.

Рис. 1. Формальная модель нейрона

Рис. 2. Предложенная модель нейрона

МакКаллока-Питса с нелинейными синаптическими входами

Также предлагается модель искусственного нейрона с нелинейными синаптическими входами и усилителем на выходе. Выходной сигнал такого нейрона определяется выражением (4):

где - локальное индуцированное поле, определяемое (3), - усилитель на выходе нейрона.

В работе синтезированы градиентный алгоритм и алгоритм обратного распространения ошибки для обучения нейронной сети с нелинейными синаптическими входами.

Алгоритм обратного распространения ошибки. Схема передачи сигнала в многослойной нейронной сети с нелинейными синаптическими входами представлена на рис. 3.

Сигнал ошибки на выходе нейрона j на итерации t, которая соответствует t-му примеру из обучающего множества, определяется следующим выражением:

, (5)

где - выходной сигнал нейрона j, - желаемый отклик нейронной сети.

Общая энергия ошибки сети вычисляется путем сложения среднеквадратической ошибки по всем нейронам выходного слоя:

где - количество нейронов выходного слоя сети.

Индуцированное локальное поле нейрона j с нелинейными синаптическими входами определяется следующим выражением:

где - общее смещение сигнала на выходе нейрона j, - сигмоидальная функция, определяемая следующим выражением:

где - настраиваемый коэффициент сигмоидальной функции активации на входе нейрона j, - входные сигналы нейрона j, - сигнал смещения для входных сигналов нейрона j. Функциональный сигнал на выходе нейрона j равен:

, (8)

искусственный нейрон сеть синаптический

где - настраиваемый параметр усиления на выходе нейрона j, - индуцированное локальное поле нейрона j (7).

Алгоритм обратного распространения ошибки состоит в последовательной подстройке свободных параметров сети , , , .

Коррекция применяемая к параметру , пропорциональна частной производной , и определяется следующим образом:

где - параметр скорости обучения, - локальный градиент, указывающий на требуемое изменение настраиваемого параметра.

Если нейрон j расположен в скрытом слое сети, желаемый отклик для него не известен. Следовательно, сигнал ошибки скрытого нейрона должен рекурсивно вычисляться на основе сигналов ошибки всех нейронов, с которыми он непосредственно связан. Для нахождения локального градиента нейрона, расположенного в скрытом слое, представим нейрон j, как нейрон скрытого слоя, а нейрон k, как нейрон выходного слоя (рис.3). Следовательно, с учетом выражений (6)-(8) получим:

Тогда с учетом (13), выражение (12) примет следующий вид:

Коррекция применяемая к параметру пропорциональна частной производной и определяется как:

где локальный градиент , указывающий на требуемое изменение настраиваемого параметра, определяется выражением (10) для нейрона выходного слоя, и выражением (16) для нейрона скрытого слоя.

Коррекция применяемая к параметру пропорциональна частной производной и описывается выражением:

где локальный градиент , указывающий на требуемое изменение настраиваемого параметра, определяется выражением (10) для нейрона выходного слоя, и выражением (16) для нейрона скрытого слоя.

Коррекция применяемая к параметру пропорциональна частной производной и определяется как:

где локальный градиент , указывающий на требуемое изменение настраиваемого параметра, определяется следующим выражением:

а для нейрона скрытого слоя, локальный градиент определяется выражением:

Таким образом, при обучении многослойной нейронной сети, на базе нейронов с нелинейными синаптическими входами, алгоритмом обратного распространения различают два прохода, выполняемых в процессе вычислений, это прямой проход и обратный проход. При прямом проходе все параметры нейронной сети остаются неизменными, а функциональные сигналы вычисляются последовательно от нейрона к нейрону, согласно выражениям (7)-(8), в результате чего вычисляется сигнал ошибки (5). Обратный проход начинается с выходного слоя предъявлением ему сигнала ошибки, который передается в обратном направлении с параллельным вычислением локального градиента для каждого нейрона для всех настраиваемых параметров сети последовательно. При этом локальные градиенты выходного слоя определяются выражением (10) для параметров и выражением (20) для параметра , а локальные градиенты скрытого слоя выражением (16) для параметров и выражением (21) для параметра , Затем происходит коррекция настраиваемых параметров согласно выражениям (9), (17), (18), (19). Таким образом, последовательно выполняются прямой и обратный проходы для всех примеров обучения, до тех пор, пока не будет обеспечена сходимость алгоритма обучения.

Градиентный алгоритм обучения. Также в работе предлагается градиентный алгоритм обучения многослойной нейронной сети с нелинейными синаптическими входами.

В многослойной нейронной сети ошибка обучения на выходе сети, определяется выражением (12). Изменения коэффициентов нацелены на пошаговое приближение выходного сигнала к желаемому . Эта цель достигается за счет минимизации функции энергии ошибки (11). Предлагается настраивать параметр наклона сигмоидальных функций на входе, смещение на входе , смещение на выходе и коэффициент усиления выходного сигнала .

Введем настраиваемый массив параметров для нейрона :

где , Соответственно настраиваемый массив параметров на каждом шаге обучения будет изменяться по следующему правилу:

где - константа, параметр скорости обучения, - предыдущее значение массива настраиваемых коэффициентов, - последующее значение массива настраиваемых коэффициентов, - вектор градиента, вычисленный в точке :

где s - общее число настраиваемых коэффициентов нейрона, - градиент.

Обучение многослойной нейронной сети осуществляется путем последовательного предъявления векторов обучающего множества, с одновременной подстройкой свободных настраиваемых параметров сети , в соответствии с градиентным алгоритмом обучения, пока ошибка настройки (12) по всему множеству не достигнет приемлемого низкого уровня. При достижении требуемой ошибки обучения, нейронная сеть считается обученной.

Разработанные алгоритмы настройки нейронной сети являются инструментом повышения эффективности обучения нейронных сетей, за счет использования оригинальной топологии и дополнительных настраиваемых параметров сети. Предложенные модели искусственного нейрона с нелинейными синаптическими входами, позволяют избавиться от проблемы нормирования входных данных, обеспечивая быстрое обучение нейронной сети. В работе приведены примеры компьютерного моделирования, подтверждающие эффективность предложенных нейросетевых топологий.

В третьей главе «Использование аппарата искусственных нейронных сетей в задаче классификации электроэнцефалограмм» проанализированы принципы использования нейронных сетей в медицине, и установлено, что искусственные нейронные сети, по сравнению с традиционными схемами решений медицинских задач, имеют ряд преимуществ:

- позволяют решать задачи, которые трудно или невозможно решить традиционными методами в силу отсутствия формализованных математических методов описания процессов функционирования системы;

- способны накапливать информацию, использование которой повышает производительность системы;

- позволяют сделать диагностический контроль объективным.

В свете выше сказанного актуальным является применение аппарата искусственных нейронных сетей в медицинской диагностике заболеваний головного мозга. При диагностике заболеваний головного мозга одной из основных задач является клинический анализ записи электроэнцефалограммы (ЭЭГ) пациента, которая отражает электрическую активность нейронов головного мозга. Используемый в медицине процесс визуального анализа ЭЭГ занимает длительное время, и, кроме того, результат зависит от уровня квалификации электроэнцефалографиста.

При написании клинического заключения электроэнцефалографист в первую очередь определяет тип ЭЭГ, который классифицируется в зависимости от распространения альфа-ритма в головном мозге в направлении от затылочных областей к лобным областям головы. Согласно общепринятой классификации различают два основных типа: организованный и дезорганизованный. Определение типа ЭЭГ является основой написания клинического заключения, при этом на этот процесс затрачивается достаточно большое время.

Для повышения качества работы электроэнцефалографиста в работе разработана нейросетевая автоматизированная компьютерная система определения типа электроэнцефалограммы пациента по характеру прохождения альфа-ритма в головном мозге.

Реализация нейросетевой компьютерной системы определения типа ЭЭГ, была осуществлена в два этапа:

1) создание модуля агрегирования данных и формирования базы данных обучающего множества для обучения нейронной сети;

2) создание, обучение и тестирование нейронной сети (синтез нейросетевого классификатора).

На первом этапе в связи с большим объемом получаемой информации при записи ЭЭГ, для обучения нейронной сети было необходимо извлечь основные информационные признаки, по которым определяется тип ЭЭГ. Для извлечения основных информационных признаков и агрегирования данных записи ЭЭГ были решены следующие задачи:

1. Получение записи ЭЭГ, с помощью специализированного медицинского оборудования.

2. Конвертирование записи ЭЭГ в требуемый, для агрегирования информации, формат (*.txt).

3. Извлечение фоновой записи ЭЭГ.

4. Удаление артефактов из фоновой записи ЭЭГ.

5. Фильтрация сигналов альфа-ритма в безартефактной фоновой записи ЭЭГ.

6. Сжатие информационных признаков, согласно наличию или отсутствию альфа-ритма в определенный временной интервал.

Алгоритм агрегирования данных представлен на рис. 4:

На основе агрегированных данных для каждого пациента была создана битовая матрица информационных признаков, состоящая из 7 строк (основные съемные датчики) и 50 столбцов (временные такты), где 1 обозначает присутствие альфа-ритма, а 0 - его отсутствие.

На этапе создания, обучения и тестирования нейронной сети, была реализована нейросетевая архитектура классификации типов электроэнцефалограмм (нейросетевой классификатор), созданная на основе нейронных сетей Кохонена. Учитывая большую размерность данных подаваемых в нейросетевой классификатор, для повышения качества обработки данных, было принято решение ввести промежуточный этап классификации, и, таким образом, разделить нейронные сети Кохонена на два уровня.

Первый уровень классификации предназначен для получения промежуточных данных по каждому временному интервалу, так как в результате предварительной обработки и агрегирования данных была получена информационная битовая матрица, то для каждого столбца создается своя нейронная сеть 1-го уровня. В результате были созданы 50 нейронных сетей Кохонена - для каждого столбца в битовой карте распределения альфа-ритма. Для первой нейронной сети были вырезаны все первые столбцы матрицы, для второй нейронной сети - все вторые столбцы матрицы и т. д. Вырезанные столбцы образовали обучающее множество для нейронных сетей. Затем все 50 нейронных сетей 1-го уровня были обучены на своих обучающих множествах. Этап промежуточной классификации представлен на рис. 5.

В результате промежуточной классификации для всего обучающего множества на выходе нейронных сетей Кохонена 1-го уровня формируется общий информационный вектор, подаваемый на вход нейронной сети Кохонена 2-го уровня. С помощью нейронной сети Кохонена 2-го уровня представленной на рис. 6. определяется тип записи ЭЭГ.

Таким образом, был создан нейросетевой классификатор типов ЭЭГ, реализованный на базе нейронных сетей Кохонена 1-го и 2-го уровней.

Для обучения нейросетевого классификатора были использованы записи ЭЭГ 200 пациентов, полученные в «Медицинском центре функциональной диагностики». Записи ЭЭГ были обработаны программным модулем агрегирования данных и записаны в базу данных обучающего множества. На основе данных из базы данных обучающего множества, с помощью стандартных алгоритмов обучения, было произведено обучение нейросетевого классификатора.

Для оценки качества обучения нейросетевого классификатора было произведено тестирование на основе данных не входящих в обучающее множество. В качестве тестовой выборки были выбраны ЭЭГ 6 пациентов, обработаны с помощью алгоритма агрегирования данных и переданы в нейросетевой классификатор (рис. 7).

В результате нейросетевой классификатор распределил ЭЭГ пациентов по двум классам. Для определения достоверности классификации, результаты классификации были сопоставлены с заключениями ЭЭГ эксперта нейрофизиолога. Результаты тестирования приведены на рис. 7, на котором видно, что из 6 ЭЭГ, 5 были правильно отнесены в свой класс. В класс дезорганизованного типа попали 2 пациента, а в класс организованного типа ЭЭГ попали 4 пациента, при этом 1 пациент попал в первый класс ошибочно.

Оценка качества построенного нейросетевого классификатора при тестовой выборке показала, что вероятность успешной классификации данных ЭЭГ составляет примерно 83%.

Для повышения качества классификации и скорости обучения в нейросетевом классификаторе вместо нейронной сети Кохонена 2-го уровня, было решено использовать многослойную нейронную сеть с нелинейными синаптическими входами, которая реализована на основе новых моделей нейронов и алгоритмов обучения, разработанных во второй главе.

Для обучения многослойной нейронной сети, на основе заключений ЭЭГ, сделанных экспертом нейрофизиологом, была создана база данных желаемых откликов (учитель) нейронной сети (рис. 8).

В результате обучения и тестирования нейросетевого классификатора, реализованного на основе многослойной нейронной сети с нелинейными синаптическими входами, было выявлено, что многослойная нейросетевая архитектура с нелинейными синаптическими входами обладает лучшими параметрами обучения, по сравнению с классическими схемами. Преимуществом нейросетевого классификатора с нелинейными синаптическими входами явилось более быстрое время обучения нейронной сети, по сравнению с нейронной сетью Кохонена 2-го уровня.

В результате проделанной работы был создан нейросетевой классификатор на основе многослойной нейронной сети с нелинейными синаптическими входами. Оценка качества построенного нейросетевого классификатора при тестовой выборке показала, что вероятность успешной классификации для разных классов составляет примерно 89%.

Рис. 8. Обучение нейросетевого классификатора с нелинейными синаптическими входами

В четвертой главе «Разработка нейросетевой автоматизированной системы классификации данных ЭЭГ» выделены основные этапы проектирования автоматизированной системы классификации данных ЭЭГ и представлена ее структура. На основе алгоритмов представленных во второй главе реализованы основные нейросетевые модули системы, представленные на рис. 9.

Разработанная автоматизированная система классификации ЭЭГ, реализована на основе современного технического оборудования для регистрации ЭЭГ «Нейрон-Спектр-5/S» и программного обеспечения, реализованного на основе языка Visual C++.

Разработанная система классификации ЭЭГ состоит из трех основных программных модулей: модуль предварительной обработки данных, модуль промежуточной классификации ЭЭГ, модуль классификации ЭЭГ. Автоматизированная система может работать в режиме обучения нейронной сети и в режиме непосредственной её эксплуатации. Система позволяет переобучать нейронную сеть по мере накопления данных о новых пациентах. Нейросетевая автоматизированная система классификации ЭЭГ имеет удобный интерфейс, позволяющий работать в разных режимах. Система интуитивно понятна для конечного пользователя, так как построена на основе современных средств визуального проектирования.

Использование разработанной автоматизированной системы позволяет: сократить затраты времени на клинический анализ результатов ЭЭГ обследования, а также использовать опыт и знания экспертов нейрофизиологов для дальнейшего обучения нейронной сети.

Рис. 9. Структура нейросетевой автоматизированной системы определения типа ЭЭГ

В приложении приведены акты использования полученных теоретических результатов в учебном процессе, а также акты практического внедрения атоматизированной системы определения типов ЭЭГ в медицинских учреждениях.

1. Проведен анализ математических моделей искусственного нейрона и основных принципов построения нейросетевых архитектур. Выявлены факторы, влияющие на скорость обучения нейронных сетей.

2. Разработаны новые математические модели искусственного нейрона с нелинейными синаптическими входами, имеющие лучшие перспективы обучения.

3. Разработаны различные модификации градиентных алгоритмов обучения нейронных сетей с нелинейными синаптическими входами. Разработанные алгоритмы обучения являются инструментом повышения эффективности обучения нейронных сетей, за счет использования нелинейной функции активации на входе нейрона и дополнительных настраиваемых параметров сети.

4. Проведен анализ принципов использования нейронных сетей в медицине. Разработан алгоритм агрегирования данных электроэнцефалограмм, позволяющий получать матрицу информационных признаков из общей записи ЭЭГ.

5. Предложена двухуровневая нейросетевая архитектура классификации электроэнцефалограмм, реализованная с помощью нейронных сетей Кохонена.

6. Разработан нейросетевой классификатор типов электроэнцефалограмм на базе многослойной нейронной сети с нелинейными синаптическими входами, позволяющий выявить тип электроэнцефалограммы на основе фоновой записи ЭЭГ.

7. Разработана нейросетевая автоматизированная система классификации данных электроэнцефалограмм, позволяющая сократить затраты времени на клинический анализ результатов ЭЭГ обследования, а также использовать опыт и знания экспертов нейрофизиологов для дальнейшего обучения нейронной сети.

СПИСОК ОПУБЛИКОВАННЫХ РАБОТ

1. Мусакулова, Ж. А. Настройка сигмоидальной логистической функции активации в алгоритме обратного распространения [Текст] / Е. Ю. Савченко, Ж. А. Мусакулова // Материалы межд. конф. «Проблемы управления и информационных технологий». - Бишкек. 2010. - №1 - С. 241-245.

2. Мусакулова, Ж. А. Оперативное прогнозирование природных катастроф с использованием технологий нейронных сетей [Текст] / В. И. Замай, Т. И. Курманалиев, Е. Л. Миркин, Ж. А. Мусакулова, Е. Ю. Савченко // Материалы межд. конф. «Проблемы управления и информационных технологий». - Бишкек. 2010. - №2 - С. 58-62.

3. Мусакулова, Ж. А. Модель искусственного нейрона с нелинейными синаптическими входами [Текст]. / Е. Л. Миркин, Ж. А. Мусакулова // Проблемы автоматики и управления. - Бишкек: Илим. - 2012. -№1 - С. 79-88.

4. Мусакулова, Ж. А. Модель нейрона с входной сигмоидальной функцией активации [Текст] / Ж. А. Мусакулова // Материалы межд. конф. «Перспективы развития информационных технологий». - Новосибирск. 2012. - С. 90-96.

5. Мусакулова, Ж. А. Обучение многослойной нейронной сети с нелинейным сигмоидальным входом [Текст] / Ж. А. Мусакулова // Новый университет. Серия «Технические науки». - Йошкар-Ола: Изд-во ООО Коллоквиум. - 2012. - №3(9). - С. 38-44.

6. Мусакулова, Ж. А. Синтез алгоритма обратного распространения для многослойной нейронной сети с нелинейными синаптическими входами [Текст] / Ж. А. Мусакулова // Проблемы автоматики и управления. - Бишкек: Илим. - 2012. - №2. - С. 21-29.

7. Мусакулова, Ж. А. Синтез алгоритмов обучения многослойных нейронных сетей с нелинейными синаптическими входами [Текст] / Ж. А. Мусакулова // Материалы межд. конф. «Актуальные проблемы информатики и процессов управления». - Алматы. 2012. - С. 379-385.

8. Мусакулова, Ж. А. Настройка входной сигмоидальной функции активации в алгоритме обучения нейронных сетей [Текст] / Ж. А. Мусакулова // Научный аспект. - Самара: Изд-во ООО Аспект. -2012. - №4. - Т.2. - С. 231-238.

9. Мусакулова, Ж. А. Использование многослойной нейронной сети с нелинейным сигмоидальным входом в задачах адаптивного тестирования знаний [Текст] / Ж. А. Мусакулова, Е. Ю. Савченко // Материалы межд. конф. «Научная дискуссия: вопросы технических наук». - Москва. 2012. - С. 18-25.

10. Мусакулова, Ж. А. Синтез модифицированной модели искусственного нейрона с нелинейным входом [Текст] / Ж. А. Мусакулова // Проблемы автоматики и управления. - Бишкек: Илим. - 2012. - №2. - С. 110-115.

11. Мусакулова, Ж. А. Использование искусственных нейронных сетей для задач классификации паттернов ЭЭГ человека [Текст] / Ж. А. Мусакулова // Известия КГТУ им. Раззакова. - Бишкек: Изд-во КГТУ. -2012. - №27. - С. 167-171.

РЕЗЮМЕСИ

Мусакулова Жылдыз Абдыманаповнанын 05.13.01 «Системалык анализ, башкаруу жана маалыматты иштетїї» адистиги боюнча: «Анализдин маселелери жана маалыматтарды иштетїї їчїн, синаптикалык сызыксыз кирїїчї нейрон желелерин окуутунун алгоритмдерин синтездєє» - деген темада, техника илимдеринин кандидаты деген окумуштуулук даражасын алуу їчїн талаптанууга болгон

Негизги сєздєр: жасалма нейрон, сызыксыз синаптикалык кирїї, нейрожеле архитектурасы, окутуунун алгоритми, электроэнцефалограмма, классификациялоо, нейрожелелїї классификатору.

Алынган жыйынтыктар. Жасалма нейрондун математикалык моделдеринин анализи жана нейрожеле архитектурасынын медицинадагы негизги принциптеринин анализи жїргїзїлгєн. Перспективтїї окуутуга мїмкїнчїлїк берген, синаптикалык сызыксыз кирїїчї жасалма нейрондун жаўы моделдери синтезделген. Сызыксыз кирїїчї нейрожелелерин окуутунун алгоритмдери иштелип чыккан. Электроэнцефалограмманын тїрїн классификациялациялоодо эки деўгээлдїї нейрожеле архитектурасы иштелип чыккан. Кєп катмарлуу сызыксыз синаптикалык кирїїсї бар нейрон желелерин пайдалануу менен, электроэнцефалограммалардын тїрїн класификациясы їчїн нейрожелелїї классификатору иштелип чыккан. Электроэнцефалограммалардын маалыматтарын классификациялоо їчїн, автоматташтырылган нейрожеле системасы иштелип чыккан.

Ключевые слова: искусственный нейрон, нелинейный синаптический вход, нейросетевая архитектура, алгоритм обучения, электроэнцефалограмма, классификация, нейросетевой классификатор.

Цель работы. Заключается в разработке новых математических моделей искусственного нейрона, имеющих лучшие перспективы обучения, а также в синтезе алгоритмов обучения нейронных сетей, построенных на новых моделях нейрона для задач анализа и обработки информации в прикладных медицинских задачах.

Полученные результаты. Проведен анализ математических моделей искусственного нейрона и основных принципов построения нейросетевых архитектур в медицине. Синтезированы новые модели искусственного нейрона с нелинейными синаптическими входами, имеющие лучшие перспективы обучения. Разработаны алгоритмы обучения нейронных сетей с нелинейными входами. Разработана двухуровневая нейросетевая архитектура классификации типов электроэнцефалограмм. Разработан нейросетевой классификатор типов электроэнцефалограмм, с использованием многослойной нейронной сети с нелинейными синаптическими входами. Разработана нейросетевая автоматизированная система классификации данных электроэнцефалограмм.

Results. The analysis of mathematical models of artificial neurons and basic principles of network architectures in medicine. Synthesized new model of an artificial neuron with nonlinear synaptic inputs, with the best prospects of learning. The algorithms of training neural networks with non-linear inputs. Developed a two-tier architecture of the neural network classifier types of electroencephalograms. Developed a neural network classifier of types of EEGs, using multi-layer neural network with nonlinear synaptic inputs. Neural network developed an automated system to classify data electroencephalograms.

Подписано к печати: 05.04.2013г. Формат 60х90 1/16

Бумага офс. Объем 1 п. л. Тираж 100 экз. Заказ 269

Издательство КРСУ 720000, Бишкек, ул. Киевская 44