Исследование алгоритмов обучения нейро-нечеткой системы управления биотехнологическим процессом
Сравнительный анализ алгоритмов обучения нейро-нечеткой системы с функциями принадлежности с применением метода обратного распространения ошибки и гибридного метода. Решение задачи управления биотехнологическими процессами микробиологических производств.
Рубрика | Программирование, компьютеры и кибернетика |
Вид | статья |
Язык | русский |
Дата добавления | 26.05.2017 |
Размер файла | 95,6 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
Размещено на http://www.allbest.ru/
ФГБОУ ВПО «Кубанский государственный технологический университет», Краснодар, Россия
Исследование алгоритмов обучения нейро-нечеткой системы управления биотехнологическим процессом
Лубенцова Елена Валерьевна
к. т. н., доцент
Пиотровский Дмитрий Леонидович
д. т. н., профессор
Введение
В настоящее время в связи с появлением новых возможностей применение нейро-нечетких систем (ННС), совмещающих принципиально различные подходы, становится одним из наиболее актуальных направлений автоматизации различных производств АПК, в числе которых пищевая промышленность, а также производства, производящие минеральные удобрения, химикаты - те производства, которые обеспечивают сельское хозяйство материальными ресурсами и где используются технологические комплексы, присутствует массовость и серийность производства.
Теоретически, интеллектуальные системы с нечеткой логикой и искусственные нейронные сети подобны друг другу, однако на практике у них имеются свои собственные достоинства и недостатки. Данное соображение легло в основу создания аппарата нейро-нечетких сетей, в которых выводы делаются на основе аппарата нечеткой логики, но соответствующие функции принадлежности подстраиваются с использованием алгоритмов обучения нейронных сетей. В основном, разрабатываемые гибридные ННС носят прикладной характер и направлены на наиболее эффективное решение какой-либо конкретной задачи в различных сферах деятельности. Поэтому при отсутствии общих рекомендаций выбор типа ННС и функции принадлежности, а также оценка их эффективности для управления технологическими комплексами является одним из важных этапов адаптации ННС к задаче управления.
В настоящее время интенсивно развиваются гибридные модели ННС в интеллектуальных системах управления технологическими объектами прикладной биотехнологии [2]. Адаптация этих моделей, предусматривающая в качестве первоочередных этапов обучение нейронной сети (НС) и выбор функции принадлежности (ФП), подстраиваемых с помощью НС с целью повышения эффективности управления, является актуальной задачей.
1. Постановка и решение задачи
Гибридизация нейронных сетей с нечеткой логикой (НЛ) позволяет существенно повысить эффективность работы систем автоматического управления с такими ННС за счет того, что недостатки, присущие одной из технологий, компенсируются преимуществами другой [4]. В частности, НС обладают хорошей способностью обучаться, но процесс работы обучающей сети сложен для понимания. В тоже время системы с НЛ хорошо объясняют выводы, но имеют ограничения на количество входных переменных. Вследствие этого возможно построение ННС, в которых выводы формируются на основе НЛ, а функции принадлежности подстраиваются с помощью НС. Преимущество таких систем очевидно: построенная структура не только использует априорную информацию, но может приобретать новые знания, являясь логически «прозрачной» [1, 3].
В настоящее время имеются различные по архитектуре, возможностям и используемым методам гибридные нейро-нечеткие сети [4]. На основе их анализа можно отметить следующие ключевые свойства: возможность автоматического формирования набора решающих правил; возможность применения различных алгоритмов обучения; возможность оперативного обучения в процессе поступления данных; возможность изменения структуры; сохранение заложенных в систему знаний в процессе параметрической оптимизации или обучения новым правилам. Основные особенности некоторых гибридных нейро-нечетких систем и рекомендации по их выбору в зависимости от типа решаемой задачи приведены в [6]. В соответствии с приведенными в [6] данными для построения системы управления технологическим процессом целесообразно использовать адаптивную систему нейро-нечеткого вывода - ANFIS (Adaptive Network-based Fuzzy Inference System) [1]. ANFIS обладает по сравнению с другими методами высокой скоростью обучения, простотой алгоритма и оптимальной проработанностью программного обеспечения в системе математического моделирования MatLab [7, 10]. В данной системе выводы делаются на основе аппарата НЛ, а параметры ФП настраиваются с помощью алгоритма обратного распространения ошибки или гибридным методом в процессе обучения НС. Такой подход позволит выделять закономерности и обнаруживать новые зависимости. С учетом отмеченных рекомендаций в данной работе моделирование системы управления биотехнологическим процессом выполнено в среде MаtLab с пакетом расширения Fuzzy Logic Toolbox [7]. В пакете Fuzzy Logic Toolbox системы МatLab адаптивная система нейро-нечеткого вывода ANFIS представляет собой гибридную сеть, которая является многослойной нейронной сетью специальной структуры без обратных связей. В данной сети используются обычные (не нечеткие) сигналы, веса и функции активации, а выполнение операции суммирования основано на использовании фиксированной Т-нормы, Т-конормы или некоторой другой непрерывной операции [4]. При этом значения входов, выходов и весов гибридной нейронной сети представляют собой вещественные числа из отрезка [0, 1].
В качестве алгоритма вывода решения могут применяться известные алгоритмы вывода: Мамдани, Сугено, Цукамото, Ларсена [10]. Данные алгоритмы по-разному реализуют нечеткий логический вывод, но существенных отличий не имеют [9]. Однако правильно выбранный алгоритм вывода может повысить точность получаемого управляющего сигнала. Сравнительный анализ алгоритмов показал [5], что при прочих равных условиях погрешность аппроксимации функции с применением алгоритма Сугэно несколько меньше, чем с применением алгоритма Мамдани. Причем алгоритм Сугэно с вычислительной точки зрения реализуется значительно проще, чем алгоритм Мамдани, а время счета для него меньше, чем для алгоритма Мамдани в 50-100 раз. Поэтому для построения нечеткого регулятора системы управления биотехнологическим объектом воспользуемся алгоритмом Сугэно [8]. В пакете Matlab система вывода Сугено представлена ANFIS-редактором.
Методика обучения сети ANFIS для определения параметров функций принадлежности систем нечеткого вывода типа Сугено может использовать алгоритм обратного распространения ошибки или алгоритм гибридного обучения. Проведем сравнительный анализ обучения четырехслойной нейро-нечеткой сети с различными функциями принадлежности с применением метода обратного распространения ошибки и гибридного метода. Для обучения ANFIS-сети могут быть применены типовые процедуры обучения нейронных сетей, так как в ней используют только дифференцируемые функции. Обычно применяется комбинация градиентного спуска в виде алгоритма обратного распространения ошибки и метода наименьших квадратов.
Алгоритм обратного распространения ошибки настраивает параметры антецедентов правил, т.е. функций принадлежности. Методом наименьших квадратов оцениваются коэффициенты заключений правил, так как они линейно связаны с выходом сети. Каждая итерация процедуры настройки выполняется в два этапа. На первом этапе на входы подается обучающая выборка и по невязке между желаемым и действительным поведением сети итерационным методом наименьших квадратов находятся оптимальные параметры узлов четвертого слоя. На втором этапе остаточная невязка передается с выхода сети на входы, и методом обратного распространения ошибки модифицируются параметры узлов первого слоя. При этом найденные на первом этапе коэффициенты заключений правил не изменяются. Итерационная процедура настройки продолжается пока невязка превышает заранее установленное значение.
Для оценки эффективности использования сети ANFIS для управления биотехнологическим процессом ферментации использована обучающая выборка, содержащая данные по температуре и концентрации растворенных в культуральной жидкости газов: кислорода (рО2) и углекислого газа (рСО2), характеризующих различные состояния биосистемы: нормальное протекание процесса ферментации, условия лимитирования процесса роста микроорганизмов кислородом рО2 и условия, ингибирующие синтез целевого продукта повышенными концентрациями растворенного углекислого газа рСО2. Фрагмент экспертной матрицы знаний для режимов роста биомассы и синтеза целевого продукта в реакторе-ферментаторе приведен в табл. 1.
Таблица 1. Экспертная матрица знаний для режимов роста биомассы и синтеза целевого продукта
Номер правила |
ЕСЛИ <входы> |
ТО <выход> |
Вес правила |
|||
Концентрация рО2 в режиме роста биомассы при dрО2/dt<0, рО2·10-2 мг/л |
Концентрация рО2 в режиме синтеза продукта при dрО2/dt>0, рО2·10-2 мг/л |
Температура в реакторе, оС |
||||
1 |
4 |
3.3 |
26 |
0 |
1 |
|
2 |
3.5 |
3.3 |
26.5 |
0 |
1 |
|
3 |
3.5 |
3 |
25.5 |
0 |
1 |
|
… |
||||||
7 |
2 |
2 |
27 |
1 |
1 |
|
8 |
1.5 |
1.8 |
26.5 |
1 |
1 |
|
9 |
1.5 |
1.7 |
26.8 |
1 |
1 |
|
… |
||||||
14 |
2 |
0.7 |
28 |
2 |
1 |
|
15 |
3 |
0.6 |
30 |
2 |
1 |
|
16 |
3.5 |
0.75 |
30 |
2 |
1 |
|
… |
||||||
21 |
2 |
0.3 |
26.5 |
3 |
1 |
|
22 |
1.8 |
0.2 |
29 |
3 |
1 |
|
23 |
1.8 |
0.3 |
30 |
3 |
1 |
2. Результаты и их обсуждение
Вначале НС была обучена при помощи алгоритма обратного распространения ошибки (рис. 1). После 3000 эпох обучения получена ошибка обучения составила д=2,52·10-3. По результатам обучения гибридным методом (рис. 2) ошибка обучения после 37 эпох составила д=9,30·10-4, т.е. в 2,7 раза меньше, чем при обучении алгоритмом обратного распространения ошибки.
Рисунок 1. Процесс обучения ННС алгоритмом обратного распространения ошибки
Рисунок 2. Процесс обучения ННС гибридным методом
Отсюда следует, что гибридный метод осуществляет обучение сети за число эпох в 23 раза меньшее, чем алгоритм обратного распространения ошибки. Поэтому для обучения нейронной сети в работе использован гибридный метод.
При построении нейро-нечеткой сети чрезвычайно важен выбор функции принадлежности (ФП). В таблице 2 приведена ошибка обучения сети, полученная при различных ФП в результате обучения сети гибридным методом.
Таблица 2. Ошибка обучения сети, полученная при различных функциях принадлежности
Наименование функции принадлежности |
Ошибка обучения сети |
Число эпох |
|
треугольная функция принадлежности (trimf) |
0,075882 |
34 |
|
трапециевидная функция принадлежности (trampf) |
0,137540 |
84 |
|
обобщенная колоколообразная функция принадлежности (gbellmf) |
0,003857 |
120 |
|
симметричная гауссовская функция принадлежности (gaussmf) |
0,006087 |
125 |
|
двухсторонняя гауссовская функция принадлежности (gauss2mf) |
0,003283 |
140 |
|
функция принадлежности в виде разности между двумя сигмоидными функциями (dsigmf) |
0,013696 |
277 |
|
произведение двух сигмоидных функций принадлежности (psigmf) |
0,013715 |
290 |
В ходе исследований установлено, что двухсторонняя гауссовская ФП обеспечивает наименьшую ошибку обучения сети д, равную 3,28·10-3, при числе эпох N=140 по сравнению с симметричной гауссовской ФП, дающей ошибку д=6,09·10-3 при числе эпох N=125, и по сравнению с трапециевидной ФП, дающей наибольшую ошибку обучения сети д=0,138 при числе эпох N=84. Поэтому при адаптации ННС в решении задачи управления целесообразно использование двухсторонней гауссовской ФП.
Заключение
В современных условиях повышение конкурентоспособности предприятий различных отраслей АПК связано с автоматизаций технологических процессов и применением интеллектуальных систем управления (нечетких, нейросетевых и нейро-нечетких). Предметом исследований данной работы являлся алгоритм обучения нейро-нечеткой системы с различными функциями принадлежности. В известных опубликованных работах отсутствуют результаты подобных исследований, что затрудняет синтез нейро-нечеткой системы управления новыми объектами в прикладной биотехнологии, в том числе технологическими объектами АПК. В процессе исследования использованы метод обратного распространения ошибки и гибридный метод. В результате исследования установлено, что эффективным методом является гибридный метод, а рациональной функцией принадлежности является двухсторонняя гауссовская функция принадлежности, обеспечивающие минимальную ошибку обучения сети. Полученные рекомендации по использованию методов обучения и выбору функций принадлежности позволят повысить эффективность разрабатываемой нейро-нечеткой системы управления биотехнологическими объектами.
По результатам исследований можно сделать вывод, что для адаптации нейро-нечеткой сети ANFIS и системы нечеткого вывода Сугено нулевого порядка к решению задачи управления биотехнологическими процессами микробиологических производств эффективным является использование гибридного метода обучения и двухсторонней гауссовской функции принадлежности.
Литература
управление микробиологический гибридный алгоритм
1. Адаптивные нейро-нечеткие системы инференции (ANFIS) [Электронный ресурс]. - Режим доступа: http://life-prog.ru/1_22027_adaptivnie-neyronechetkie-sistemi-inferentsii-NFIS.html (дата обращения 28.05.2015).
2. Ивашкин Ю.А. Управление нечеткими объектами в прикладной биотехнологии / Ю.А. Ивашкин, И.И. Протопопов // Журнал Горный информационно-аналитический бюллетень (научно-технический журнал). - М.: МГГУ. - 1999. - Вып. 4. - С. 1-3.
3. Карпенко А.П. Многокритериальная оптимизация на основе нейро-нечеткой аппроксимации функции предпочтений лица, принимающего решения / А.П. Карпенко, Д.А. Моор, Д.Т. Мухлисуллина // Электронное научно-техническое издание: наука и образование. - 2010. - № 1. URL: http://technomag.edu.ru/doc/143964.html (дата обращения 18.02.2015).
4. Круглов В.В. Гибридные нейронные сети / В.В. Круглов, В.В. Борисов. - Смоленск: Русич, 2001. - 224 с.
5. Круглов В.В. Сравнение алгоритмов Мамдани и Сугэно в задаче аппроксимации функции / В.В. Круглов. 2001. http://sgma.alpha-design.ru/MMORPH/N-7-html/KRUGLOV/kruglov.htm.
6. Кузькин А.А. Оценивание показателей эффективности и результативности ИТ-процессов с использованием гибридных нейро-нечетких сетей / А.А. Кузькин // Интернет-журнал «Науковедение». - Вып. 1, январь - февраль 2014.
7. URL: http://naukovedenie.ru/PDF/57TVN114.pdf (дата обращения 20.09.2015).
8. Леоненков А.В. Нечеткое моделирование в среде MATLAB и fuzzyTECH / А.В. Леоненков. - СПб.: БХВ-Петербург, 2003. - 736 с.
9. Лубенцова, Е.В. Интеллектуальные технологии в управлении нечетко-определенными объектами биосистемы / Е.В. Лубенцова // Математические методы в технике и технологиях - ММТТ-26: сб. трудов XXVI Междунар. науч. конф.: в 10 т. Т. 8. Секция 7 / под общ. ред. А.А. Большакова. - Нижний Новгород: Нижегород. гос. техн. ун-т, 2013. - С. 71-72.
10. Петрова И.Ю. Прогнозирование электропотребления с помощью нейро-нечеткой системы ANFIS. Алгоритм отбора входных переменных / И.Ю. Петрова, А.А. Глебов // Электронное издание «НАУКА и ОБРАЗОВАНИЕ». - Издатель ФГБОУ ВПО «МГТУ им. Н.Э. Баумана». - № 7, 2006.
11. Штовба С.Д. Проектирование нечетких систем средствами MATLAB / С.Д. Штовба. - М.: Горячая линия - Телеком, 2007. - 288 с.
Размещено на Allbest.ru
...Подобные документы
Диагностический анализ изучения алгоритмов обучения нейронных сетей "с учителем". Сбор входных и выходных переменных для наблюдений и понятие пре/пост процессирования. Подготовка и обобщение многослойного персептрона, модель обратного распространения.
курсовая работа [249,3 K], добавлен 22.06.2011Изучение методов разработки систем управления на основе аппарата нечеткой логики и нейронных сетей. Емкость с двумя клапанами с целью установки заданного уровня жидкости и построение нескольких типов регуляторов. Проведение сравнительного анализа.
курсовая работа [322,5 K], добавлен 14.03.2009Обучение нейронных сетей как мощного метода моделирования, позволяющего воспроизводить сложные зависимости. Реализация алгоритма обратного распространения ошибки на примере аппроксимации функции. Анализ алгоритма обратного распространения ошибки.
реферат [654,2 K], добавлен 09.06.2014Обучение простейшей и многослойной искусственной нейронной сети. Метод обучения перцептрона по принципу градиентного спуска по поверхности ошибки. Реализация в программном продукте NeuroPro 0.25. Использование алгоритма обратного распространения ошибки.
курсовая работа [1019,5 K], добавлен 05.05.2015Исследование нечеткой модели управления. Создание нейронной сети, выполняющей различные функции. Исследование генетического алгоритма поиска экстремума целевой функции. Сравнительный анализ нечеткой логики и нейронной сети на примере печи кипящего слоя.
лабораторная работа [2,3 M], добавлен 25.03.2014Обучение нейросимулятора определению видовой принадлежности грибов по их заданным внешним признакам с применением алгоритма обратного распространения ошибки. Зависимость погрешностей обучения и обобщения от числа нейронов внутреннего слоя персептрона.
презентация [728,2 K], добавлен 14.08.2013Искусственные нейросетевые системы как перспективное направление в области разработки искусственного интеллекта. Назначение нейро-нечётких сетей. Гибридная сеть ANFIS. Устройство и принцип работы нейро-нечётких сетей, применение в экономике и бизнесе.
контрольная работа [102,5 K], добавлен 21.06.2012Понятие и суть нечеткой логики и генетических алгоритмов. Характеристика программных пакетов для работы с системами искусственного интеллекта в среде Matlab R2009b. Реализация аппроксимации функции с применением аппарата нечеткого логического вывода.
курсовая работа [2,3 M], добавлен 23.06.2012Программное обеспечение для получения исходных данных для обучения нейронных сетей и классификации товаров с их помощью. Алгоритм метода обратного распространения ошибки. Методика классификации товаров: составление алгоритма, программная реализация.
дипломная работа [2,2 M], добавлен 07.06.2012Критерии и основные стратегии планирования процессора. Разработка моделей алгоритмов SPT (Shortest-processing-task-first) и RR (Round-Robin). Сравнительный анализ выбранных алгоритмов при различных условиях и различном количестве обрабатываемых данных.
курсовая работа [179,3 K], добавлен 21.06.2013Решение задачи на тему максимизации функций многих переменных. Описание метода дихотомии, его применение для решения нелинейных уравнений. Решение данной задачи с использованием метода покоординатного спуска. Составление алгоритмов, листинг программы.
курсовая работа [138,5 K], добавлен 01.10.2009Методы, системы, типы и способы проводимых измерений в автоматизированных системах медицинского обеспечения безопасности на транспорте. Проектирования нечеткого алгоритма предрейсовых медицинских осмотров на основе адаптивной сети нейро-нечеткого вывода.
дипломная работа [6,5 M], добавлен 06.05.2011Опыт отечественной науки - ситуационные системы управления. Manufacturing executing systems - автоматизированные системы управления производственными процессами. Особенности технологии производства партий пластин. Разработка алгоритмов и программ.
дипломная работа [1,7 M], добавлен 14.09.2010Особенности шифрования данных, предназначение шифрования. Понятие криптографии как науки, основные задачи. Анализ метода гаммирования, подстановки и метода перестановки. Симметрические методы шифрования с закрытым ключом: достоинства и недостатки.
курсовая работа [564,3 K], добавлен 09.05.2012Процесс создания автоматизированной системы управления. Требования, предъявляемые к техническому обеспечению вычислительной системы. Разработка общей концепции и алгоритмов работы вычислительной системы. Выбор аппаратных средств локальных сетей.
дипломная работа [7,6 M], добавлен 28.08.2014Рассмотрение способов применения и основных понятий нейронных сетей. Проектирование функциональной структуры автоматизированной системы построения нейросети обратного распространения ошибки, ее классов и интерфейсов. Описание периода "бета тестирования".
дипломная работа [3,0 M], добавлен 02.03.2010Описание метода простой итерации. Численное интегрирование по правилу прямоугольника. Программа уточнения корня. Назначение и отличительные особенности WinRAR, его ограничения. Режимы управления файлами и архивами. Использование контекстных меню.
курсовая работа [591,8 K], добавлен 10.01.2016Популярность алгоритмов машинного обучения для компьютерных игр. Основные техники обучения с подкреплением в динамической среде (компьютерная игра "Snake") с экспериментальным сравнением алгоритмов. Обучение с подкреплением как тип обучения без учителя.
курсовая работа [1020,6 K], добавлен 30.11.2016Использование нечеткой логики при управлении техническими объектами, основанными на имитации действия человека-оператора при помощи ЭВМ, в соединении с пропорционально-интегрально-дифференциальным регулированием и алгоритмах управления процессом флотации.
доклад [74,7 K], добавлен 21.12.2009Структура языка Паскаль, встроенные процедуры и функции. Составление алгоритма решения уравнения, описывающего работу кривошипно-шатунного механизма, с помошью метода итерации, метода Гаусса и метода Зейделя. Блок-схемы алгоритмов и текст программы.
курсовая работа [64,6 K], добавлен 07.05.2011