Генетический алгоритм с оценкой временных рядов

Размещено на http://www.allbest.ru/

Генетический алгоритм с оценкой временных рядов

ВВЕДЕНИЕ

В настоящее время в решении плохо формализуемых задач широкое применение получили методы мягких вычислений. И среди них - генетические алгоритмы (ГА). Однако при использовании в оптимизационных задачах стандартный ГА подвержен попаданиям в локальные оптимумы, что значительно увеличивает требуемое на поиск решения время. Для решения этой проблемы наиболее распространенной методикой является разделение пространства решения на параллельно существующие под-популяции, что позволяет при небольших затратах на модификацию стандартного алгоритма на большинстве задач решить проблему попадания поискового алгоритма в локальные оптимумы. Другой подход заключается в использовании дополнительного блока управления алгоритмом.

Описанные выше методики повышают способность ГА к этапу поиска области оптимума. С другой стороны, поисковые способности алгоритма на этапе отыскания точного значения оптимума в пространстве решения снижаются. Разделение этапов во времени соответствует известному соотношению Парето 20/80 (первый и второй этапы соответственно). В теории ГА это соотношение известно как правило Рехенберга.

1. АНАЛИЗ ЛИТЕРАТУРЫ

Для привнесения в ГА способности к настройке собственной структуры и/или параметров разработаны так называемые адаптивные алгоритмы. К ним можно отнести: адаптивное изменение параметров скрещивания, адаптивное изменение размера популяции, а также введение нечеткости в блок управления ГА. Рассмотрим эти решения подробно.

Уменьшать мутацию в зависимости от времени работы генетического алгоритма впервые предложил еще Холланд[1]. Дальнейшее развитие эта идея получила в [2] и [3]. В последней работе предложен способ экспоненциально изменять вероятность мутации с течением времени. В [3] также предложено повышать вероятность мутации, если потомок имеет расстояние по Хэммингу меньшее, чем минимальное расстояние в популяции.

Другой способ динамически изменять область поиска решения заключается в модификации оператора кроссинговера. Так, в работе [4] делается вывод о высоких качествах BLX- кроссинговера, который за счет случайных вариаций позволяет расширить исследуемое пространство решений. Однако такой кроссинговер с большей вероятностью разрушает устоявшиеся сочетания генов (схемы) [5].

Расширением приведенного выше подхода можно назвать предложенную Спирсом в работе [6] методику динамически менять тип кроссинговера. Таким образом, если в начале жизни популяции имеет смысл с достаточно большой вероятностью разрушать схемы, то по мере нахождения глобального оптимума устойчивость схем следует динамически повышать. Как страховка от попадания в локальные оптимумы возможно также динамически уменьшать устойчивость геномных схем по мере стабилизации приспособленности лучшего представителя популяции. Там же предложен и другой подход - тип оператора кроссинговера заносится в специальный битовый ген и добавляется к основному генному набору каждого представителя популяции.

Другой подход к изменению как параметров скрещивания, так и вероятности и величины мутации, основан на исследовании естественного мутационного процесса в природе. В работе [7] было замечено, что как расположение точек кроссинговера, так и вероятность мутации, случайными назвать нельзя. Зависимость наблюдается в связи с расположением гена в хромосоме. Таким образом, в хромосоме можно выделить более и менее подверженные изменениям генные зоны. Попадание в так называемые «холодные» зоны может полностью исключить изменение гена в поколении. В ГА подобная методика использована в работе [2].

Следующим классом методик по повышению способностей ГА к адаптации можно назвать те модификации алгоритма, которые оказывают непосредственное влияние на динамическое изменение размера популяции [8], и так называемые нишевые алгоритмы, которые заключаются в разделении пространства решений на области (ниши). Причем эволюционный поиск может проходить как независимо по нишам, так и с обменом их представителей [9].

К типу адаптивных ГА можно отнести и SANUX - статистический алгоритм, предложенный в 2002 году Янгом [10]. Это ГА с бинарным кодированием, основанный на предположении, что в процессе жизни популяции по мере сходимости алгоритма аллели хромосом стремятся к некоторому определенному оптимальному значению (0 или 1). И, следовательно, по статистике истории изменения значения генов можно сделать предположение о направленности отбора. Отдельным направлением в развитии ГА является использование нечетких правил управления динамически изменяемыми параметрами алгоритма. Так, используемая в стандартных ГА линейная зависимость параметров скрещивания заменяется на нечеткую функциональную зависимость. Вид такой зависимости задается с привлечением эксперта. [11]

2. ГЕНЕТИЧЕСКИЙ АЛГОРИТМ НА ОСНОВЕ ОЦЕНКИ ВРЕМЕННЫХ РЯДОВ

В классической реализации ГА реализуется действие естественного отбора (ЕО) на уровне индивидов. В нишевых алгоритмах, кроме того, учитывается и ЕО на уровне ниш. Однако достаточно распространенная в микробиологии точка зрения на ЕО, как на отбор генов [12] в ГА распространение не получила.

Будем считать конкуренцию между генами за попадание в следующее поколение - требуемой основой для отбора на уровне генов. Мерой оценки генов будем считать стабильность значения гена в процессе смены поколений на основе статистически накапливаемых данных.

Предлагаемый в данной работе ГА на основе статистики относится к классу нечетких ГА с вещественным кодированием. В отличие от SANUX в данном алгоритме сбор статистики ведется по аллелям лучшего представителя популяции, а не по всей популяции целиком, что повышает производительность алгоритма. Необходимо сформулировать нечеткие правила управления, которые будут задавать параметры операторов рекомбинации:

П1: Если история гена нестабильная То вероятность его наследования невелика.

П2: Если приспособленность индивида хорошая То вероятность его наследования достаточно велика

Второе нечеткое правило введено с целью предотвратить попадание в локальный оптимум.

Стабильность истории гена будем определять по контрольным картам Шухарта (ГОСТ Р 50779.40-96), которые предназначены для статистического анализа и управления качеством технологических процессов.

Карты Шухарта используются для определения, находится ли процесс в статистически управляемом состоянии. Для достаточно надежного расчета требуется не менее 20-30 параметров - членов временного ряда исследуемого процесса, которые откладываются по оси Y. Практическое использование карт Шухарта основывается на утверждении, что чем статистически управляемей процесс, тем выше его качество и тем меньше ошибок в течение процесса.

Карты Шухарта составляются следующим образом:

1. Производится временная выборка исследуемого параметра процесса.

2. Составляется 2-мерная матрица данных размерностью , где N-длина временного ряда. Таким образом, первая строка матрицы - временной вектор параметра, вторая строка - время.

3. Строится тренд с использованием какого-либо из методов аппроксимации (например, с использованием метода наименьших квадратов). Если же нет необходимости учитывать тренд процесса, то строится медиана как

,

где N - длина временного ряда.

4. Рассчитывается среднеквадратичное отклонение от среднего значения (либо тренда), как

,

где N - длина временного ряда.

5. Если полосу допуска не попадает более чем 0.7% членов временного ряда, то процесс считается статистически неуправляемым. И, следовательно, требуется внешнее управление процессом для повышения его качества. Для более жесткого управления качеством процесса используется следующее соотношение: если полосу допуска не попадает более, чем 5.54% членов временного ряда, то процесс считается статистически неуправляемым.

Стандартное использование карт Шухарта предполагает четкое управление процессом. В предлагаемом алгоритме используется следующее четкое правило управления:

l Если временной ряд гена является статистически неуправляемым, То скачкообразно повысить коэффициент мутации до значения M*K с последующим динамическим снижением до прежнего уровня:

;

l Иначе динамически понижать коэффициент мутации до значения

,

где K - эмпирически выбрано равным 2.0, N- длина временного ряда, - значение коэффициента мутации в момент времени t.

Управление коэффициентом мутации проводится раз в N поколений.

Также можно предложить следующее четкое правило управления ГА на основе карт Шухарта:

l Если временной ряд приспособленности лучшего представителя популяции является статистически неуправляемым, То скачкообразно повысить коэффициент размер популяции до значения P*K с последующим динамическим снижением до прежнего уровня:

;

l Иначе динамически понижать коэффициент мутации до значения

.

где K - эмпирически выбрано равным 2.0, N- длина временного ряда, - размер популяции в момент времени t.

Управление размером популяции проводится раз в N поколений.

Заметим, однако, что варьирование параметра K может оказывать значительное влияние на сходимость алгоритма. В связи с этим предлагается использовать нечеткую меру оценки качества исследуемого процесса.

Таким образом, правила управления преобразуются к виду:

l Если временной ряд гена является значительно статистически неуправляемым, То скачкообразно повысить коэффициент мутации на значительно большую величину с последующим динамически плавным снижением до прежнего уровня в течение N поколений;

l Если временной ряд гена является полностью статистически управляемым, То динамически плавно понижать коэффициент мутации до небольшого значения в течение N поколений.

Где курсивом выделены нечеткие переменные, полужирным шрифтом выделены функциональные части правила.

Управление коэффициентом мутации проводится раз в N поколений.

Для управления же размером популяции можно предложить следующие нечеткие правила управления ГА на основе карт Шухарта:

l Если временной ряд приспособленности лучшего представителя популяции является значительно статистически неуправляемым, То скачкообразно повысить размер популяции на значительно большую величину с последующим динамически плавным снижением до прежнего уровня в течение N поколений;

l Если временной ряд приспособленности лучшего представителя популяции является полностью статистически управляемым, То динамически плавно понижать размер популяции до небольшого значения в течение N поколений.

Управление размером популяции проводится раз в N поколений.

3. ГЕНЕТИЧЕСКИЙ АЛГОРИТМ С ПРЕДСКАЗАНИЕМ

Воспользуемся рассмотренным в предыдущем параграфе предположением о том, что об устойчивости генома лучшего представителя популяции можно по контрольным картам Шухарта. Таким образом, задачу подбора оптимальных значений генома можно свести к задаче статистического прогнозирования временных рядов. В роли оцениваемого временного ряда выступает вектор:

,

где P - глубина прогноза (временной интервал из прошлых значений гена, выраженный в единицах поколений), , N - длина генома.

Алгоритм ГА с предсказанием запишем следующим образом:

l Если временной ряд i-го гена лучшего представителя популяции управляем по Шухарту за последние L поколений

l То добавить в популяцию особь, геном которой составлен из предсказанных значений генов на K поколений вперед, где значения L и K выбираются пользователем, и, как правило, удовлетворяют следующим граничным условиям:

L > 15, 15 > K > 5.

В качестве процедуры предсказания предлагается использовать метод наименьших квадратов.

4. ЭКСПЕРИМЕНТ

Для экспериментального подтверждения приведенных выше положений проведем подбор оптимальных значений для следующих двух функций:

1.,

где N (длина генома) - 50, размер популяции - 20, начальный разброс значений задан на отрезке [-10;10], точность - 0.1

2.,

где N (длина генома) - 25, размер популяции - 60, начальный разброс значений задан на отрезке [-5.12;5.12], точность - 0.001

Для первой функции количество поколений в среднем составило 501 и 414 для стандартного ГА и для ГА с предсказанием соответственно. Для второй 337 и 261 соответственно. Таким образом, можно сказать, что ГА с предсказанием обладает на 15-20% большей сходимостью, чем классический ГА.

ЗАКЛЮЧЕНИЕ

На основе проведенного эксперимента можно сделать вывод о практической применимости разработанного алгоритма в оптимизационных и поисковых задачах, требующих большой точности вычислений. Дальнейшее направление работы связано с организацией гибридной структуры ГА, составной частью которой должен быть алгоритм с оценкой и предсказанием временных рядов.

ЛИТЕРАТУРА

генетический алгоритм временный ряд

1. Holland J.H. Adaptation in natural and artificial systems / The University of Michigan Press, 1975.

2. Back T. The interaction of mutation rate, selection, and self-adaptation within genetic algorithm / Parallel problem solving from nature 2, Elsevier Science Publishers, Amsterdam, 1992.

3. Herrera F., Lozano M. Adaptation of genetic algorithm parameters based on fuzzy logic controllers.

4. Herrera F., Lozano M., Verdegay J.L. Tackling Real-Coded Genetic Algorithms: Operators and Tools for Behavioural Analysis, 1996 / Department of Computer Science and Artifcial Intelligence University of Granada, Spain.

5. Goldberg D.E., Sastry K. A Practical Schema Theorem for Genetic Algorithm Design and Tuning / Illinois Genetic Algorithms Laboratory, 2001.

6. Spears W.M. Adapting crossover in a genetic algorithm.

7. Gorlov I.P., Ladygina T.Yu., Serov O.L., Borodin P.M. // Heredity, 1991.-V.66. -P.453-458.

8. J.E. Baker. An analysis of the effects of selection in genetic algorithms / Doctoral dissertation, University of Vanderbilt, 1985

9. Mahfoud S.W. Niching methods for genetic algorithms / IlliGAL Report No. 95001, 1995

10. Yang S. Adaptive crossover in genetic algorithms using statistic mechanism. / Artificial Life VIII, Standish, Abbass, Bedau (eds)(MIT Press), 2002.

11. Ярушкина Н.Г. Основы теории нечетких и гибридных систем / Учебное пособие. -М.: Финансы и статистика, 2004.

12. Грант В. Эволюционный процесс: Критический обзор эволюционной теории / перевод с англ. М.: Мир, 1991.

13. Шмальгаузен И.И. Избранные труды. Организм как целое в индивидуальном и историческом развитии. - М.: Наука, 1982. -С.348-372.

14. Шишкин М.А. Индивидуальное развитие и уроки эволюционизма / Онтогенез, 2006. - Т. 37. - С179-198.

Размещено на Allbest.ru