Рекуррентная параметрическая идентификация многомерных линейных динамических систем на основе метода нелинейных наименьших квадратов

Размещено на http://www.allbest.ru/

Самарский государственный университет путей сообщения

РЕКУРРЕНТНАЯ ПАРАМЕТРИЧЕСКАЯ ИДЕНТИФИКАЦИЯ МНОГОМЕРНЫХ ЛИНЕЙНЫХ ДИНАМИЧЕСКИХ СИСТЕМ НА ОСНОВЕ МЕТОДА НЕЛИНЕЙНЫХ НАИМЕНЬШИХ КВАДРАТОВ

Д.В. Иванов, О.А. Кацюба

Аннотация

Предложен рекуррентный алгоритм, позволяющий получать сильно состоятельные оценки параметров многомерных по входу линейных динамических систем при наличии помех наблюдения во входных и выходных сигналах. Проведенные численные эксперименты подтвердили высокую эффективность предложенного метода идентификации.

Ключевые слова: рекуррентная идентификация, модели с ошибками в переменных, стохастическая аппроксимация.

Введение

рекуррентный многомерный линейный динамический

Проблема идентификации динамических систем с помехами во входных и выходных сигналах, несомненно, является более сложной, чем классическая постановка задачи в регрессионном анализе, когда зашумленным является только выходной сигнал. Особый интерес представляют рекуррентные методы идентификации, позволяющие получать оценки параметров в реальном масштабе времени. В настоящее время наблюдается активное развитие состоятельных методов идентификации систем с помехами во входных и выходных. В англоязычной литературе развиваются методы инструментальных переменных и их рекуррентные модификации [1, 2], а также нерекуррентные методы, требующие для своего применения знания высших статистик [3]. В русскоязычной литературе развиваются методы на основе нелинейного метода наименьших квадратов [4], однако рекуррентные модификации отсутствуют, за исключением [5]. В данной работе алгоритм обобщается на случай многомерной по входу линейной динамической системы, а также для частных случаев: динамической системы и авторегрессии с помехами в выходном сигнале.

Постановка задачи

Рассмотрим линейную динамическую систему, описываемую следующими стохастическими уравнениями с дискретным временем

(1)

,

где , - ненаблюдаемая и наблюдаемая выходные переменные; , - ненаблюдаемая и наблюдаемая переменные в j-том входном сигнале; - помеха наблюдения в j-том входном и выходном сигналах.

Предположим, что выполняются следующие условия:

1⁰. Множество , которому априорно принадлежат истинные значения параметров устойчивой линейной системы, является компактным.

2⁰. Помехи , - статистически независимые последовательности. , - стационарные в совокупности в узком смысле последовательности независимых случайных векторов с и для некоторых постоянных и : и п.н., где - оператор математического ожидания.

3⁰. статически не зависят от .

4⁰. Последовательности - стационарные в совокупности в узком смысле с дробно-рациональной плотностью случайные сигналы с . Для некоторого : п.н.

5⁰. Априорно известно отношение

6⁰. Выполняется условие несократимости полиномов и ,

где

- оператор сдвига назад, .

Требуется рекуррентно определять оценки неизвестных коэффициентов динамической системы, описываемой уравнением (1), по наблюдаемым последовательностям

Рекуррентный алгоритм идентификации

В [4] показано, что оценки будут сильно состоятельны при следующем критерии:

, (2)

где - вектор

- вектор - вектор

- вектор

- вектор

.

Оценки неизвестного вектора можно получить с помощью стохастически градиентного алгоритма минимизации функционала:

(3)

где - последовательность, для которой выполняются условия и при тогда оценки, определяемые алгоритмом (3), либо п.н., либо

В доказательстве утверждения главную роль играют теоремы 3.15 и 3.17 [6, c. 113]. Теорема 3.15 доказана Л. Льюнгом в [7], строгое доказательство теоремы 3.17 получено [6, c.114].

Доказательство состоятельности оценок

Построим асимптотическую непрерывную детерминированную модель алгоритма (3). Векторный случайный процесс с дробно-рациональной спектральной плотностью может быть представлен через векторный белый шум, для которого

, (4)

где - символ Кронекера, - единичная матрица.

Представим уравнение (1) c учетом (4) в пространстве состояний, тогда на основании теоремы 3.1 [8, c. 47] вектор является марковским случайным процессом.

Функционал (3) можно представить в виде:

,

при ,

где

что следует из 1⁰, 4⁰, 6^0.

- вектор - вектор

В данном случае асимптотическая непрерывная детерминированная модель имеет вид:

Пусть функция Ляпунова равна

так как , то множество состоит из стационарных точек функционала [6, с. 114].

Однако из теоремы 3.15 [6, с. 113] следует, что возможными предельными точками алгоритма (3) являются точки множества

(выполнение условия 2 теоремы 3.15 следует из (условия 1⁰-4⁰) ; выполнение условия 3 этой же теоремы вытекает из стационарности процесса, описываемого уравнением (1).

Покажем, что , т.е. множество состоит из одной единственной точки.

Для этого рассмотрим функционал

,

где

- единичная матрица размерности r+1.

Очевидно, что

(5)

где - минимальное собственное число регулярного пучка форм (так как - положительно определенная матрица), т.е. - наименьший корень уравнения

Пусть и - какие-либо соответствующие им главные собственные векторы. Тогда , где , являются стационарными значениями функции , которые достигаются при , равных соответственно. Следовательно, стационарные значения функции ; достигаются в точках

Причем из (4) следует, что .

Остается показать, что

(6)

лишь в одной стационарной точке .

Задача определения минимума функции эквивалентна задаче на условный экстремум

(7)

Задача (7) может быть решена с помощью метода неопределенных множителей Лагранжа. Тогда необходимые условия запишутся в виде

(8)

где - неопределенный множитель Лагранжа. Множеством решений системы (8) являются и соответствующие им главные собственные векторы .

Исследуем матрицу на положительную определенность. Из (5) следует, что

где и - минимальные собственные числа матриц и соответственно,

- матрица

- матрица

- матрица

В свою очередь, по теореме Штурма [9, с. 146]

или

(9)

Из (9) следует, что матрица неотрицательно определена лишь при и (6) выполняется в , т.е. для всех матрица имеет отрицательные собственные значения, откуда непосредственно следует (3). Основная особенность алгоритма, позволяющая обосновать глобальную сходимость простого стохастически градиентного алгоритма, состоит в том, что функция потерь является ограниченной как снизу, так и сверху, а также в том факте, что среди всех стационарных точек функции лишь точка - точка минимума, а все остальные являются седловыми точками и одна - точкой максимума.

Результаты моделирования

Предложенный алгоритм (3) был реализован в Matlab и сравнен с рекуррентным алгоритмом наименьших квадратов и рекуррентным методом инструментальных переменных. Динамическая система описывается уравнениями

, (10)

На j-тый вход подавался сигнал:

,

где - белый шум.

Среднеквадратическое отклонение помехи в выходном сигнале , отношение «сигнал-помеха» на входах и выходе . Начальные значения параметров равны 0. Вектор инструментальных переменных [5]:

(11)

Однако при одинаковой размерности векторов и метод инструментальных переменных оказывается плохо обусловлен и точность его неудовлетворительна. В ряде случаев эта проблема может быть решена введением расширенного вектора инструментальных переменных. размерность которого больше размерности . Был использован следующий расширенный вектор инструментальных переменных:

- вектор

- вектор

На рисунке представлены графики погрешности оценок параметров, определяемые по формуле

Графики погрешности оценок параметров: 1 - рекуррентный метод наименьших квадратов; 2 - рекуррентный расширенный метод инструментальных переменных; 3 - алгоритм (3)

Очевидно, что предложенный алгоритм дает наиболее точные оценки параметров.

Заключение

В работе предложены рекуррентные алгоритмы для оценивания параметров многомерной линейной динамической системы с помехами во входных и выходных сигналах. Алгоритм, предложенный в данной работе, может быть обобщен на случай коррелированных помех, а также на нелинейную динамическую систему, что послужит основой для создания новых высокоэффективных автоматических систем управления технологическими процессами (АСУТП), а также построения более качественных моделей, применяемых во многих других областях науки и техники.

Библиографический список

1. Soderstrom T., Mahata K. On instrumental variable and total least squares approaches for identification of noisy systems. International Journal of Control, 75(6): 381-389, April 2002.

2. Thil S., Gilson M., Garnier H. On instrumental variable-based methods for errors-in-variables model identification. Proc. 17th IFAC World Congress, Seoul, Korea, July 6-11, 2008.

3. Tugnait J.K. Stochastic system identification with noisy input using cumulant statistics. IEEE Transactions on Automatic Control, 37(4): 476-485, April 1992.

4. Волныкин А.Н., Кацюба О.А. Идентификация многомерных по входу стационарных линейных динамических систем // Известия Самарского научного центра Российской академии наук. 2006. №4. С. 1026-1033.

5. Кацюба О.А., Жданов А.И. Рекуррентное оценивание параметров стохастических линейных динамических систем с ошибками по входу и выходу // Изв. АН СССР. Техническая кибернетика. 1986. №3. С. 191-194.

6. Деревицкий Д.П., Фрадков А.Л. Прикладная теория дискретных адаптивных систем управления. М.: Наука, 1991. 215 с.

7. Ljung L. Analisys of recursive stochastic algorithms // IEEE Trans. Aut. Control. 1977 v.AC-22 №4. pp. 551-575.

8. Невельсон М.Б., Хасьминский Р.З. Стохастическая аппроксимация и реккурентное оценивание. М.: Наука, 1972. 304 с.

9. Беллман Р. Введение в теорию матриц. М.: Наука, 1989. 376 с.

Размещено на Allbest.ru