Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности
Для моделювання в класі систем авторегресійних рівнянь розроблено системний критерій регулярності методу групового урахування аргументів з розбиттям спостережень на навчальні й перевірні підвибірки. Доведено існування оптимальної множини регресорів. Встановлено умову редукції оптимальної системи рег...
Gespeichert in:
| Datum: | 2015 |
|---|---|
| 1. Verfasser: | |
| Format: | Artikel |
| Sprache: | Russian |
| Veröffentlicht: |
Інститут кібернетики ім. В.М. Глушкова НАН України
2015
|
| Schriftenreihe: | Проблемы управления и информатики |
| Schlagworte: | |
| Online Zugang: | https://nasplib.isofts.kiev.ua/handle/123456789/208022 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Zitieren: | Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности / А.П. Сарычев // Проблемы управления и информатики. — 2015. — № 4. — С. 79-103. — Бібліогр.: 27 назв. — рос. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
irk-123456789-208022 |
|---|---|
| record_format |
dspace |
| spelling |
irk-123456789-2080222025-10-19T00:07:03Z Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности Моделювання в класі систем авторегресійних рівнянь в умовах структурної невизначеності Modeling in a class of autoregression equations systems in conditions of structural uncertainty Сарычев, А.П. Методы управления и оценивания в условиях неопределенности Для моделювання в класі систем авторегресійних рівнянь розроблено системний критерій регулярності методу групового урахування аргументів з розбиттям спостережень на навчальні й перевірні підвибірки. Доведено існування оптимальної множини регресорів. Встановлено умову редукції оптимальної системи регресійних рівнянь, що залежить від параметрів системи авторегресійних рівнянь та обсягів вибірок. For modeling in a class of autoregression equations systems the system criterion of regularity of Group Method of Data Handling with subdividing of observations into training and testing subsamples is offered. It is proved, that the optimum set of regressors exists. The condition of a reduction of optimum system of autoregression equations is obtained. This condition depends on parameters of autoregression equations system and the size of samples. 2015 Article Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности / А.П. Сарычев // Проблемы управления и информатики. — 2015. — № 4. — С. 79-103. — Бібліогр.: 27 назв. — рос. 0572-2691 https://nasplib.isofts.kiev.ua/handle/123456789/208022 519.25:681.5 10.1615/JAutomatInfScien.v47.i7.60 ru Проблемы управления и информатики application/pdf Інститут кібернетики ім. В.М. Глушкова НАН України |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| language |
Russian |
| topic |
Методы управления и оценивания в условиях неопределенности Методы управления и оценивания в условиях неопределенности |
| spellingShingle |
Методы управления и оценивания в условиях неопределенности Методы управления и оценивания в условиях неопределенности Сарычев, А.П. Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности Проблемы управления и информатики |
| description |
Для моделювання в класі систем авторегресійних рівнянь розроблено системний критерій регулярності методу групового урахування аргументів з розбиттям спостережень на навчальні й перевірні підвибірки. Доведено існування оптимальної множини регресорів. Встановлено умову редукції оптимальної системи регресійних рівнянь, що залежить від параметрів системи авторегресійних рівнянь та обсягів вибірок. |
| format |
Article |
| author |
Сарычев, А.П. |
| author_facet |
Сарычев, А.П. |
| author_sort |
Сарычев, А.П. |
| title |
Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности |
| title_short |
Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности |
| title_full |
Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности |
| title_fullStr |
Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности |
| title_full_unstemmed |
Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности |
| title_sort |
моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности |
| publisher |
Інститут кібернетики ім. В.М. Глушкова НАН України |
| publishDate |
2015 |
| topic_facet |
Методы управления и оценивания в условиях неопределенности |
| url |
https://nasplib.isofts.kiev.ua/handle/123456789/208022 |
| citation_txt |
Моделирование в классе систем авторегрессионных уравнений в условиях структурной неопределенности / А.П. Сарычев // Проблемы управления и информатики. — 2015. — № 4. — С. 79-103. — Бібліогр.: 27 назв. — рос. |
| series |
Проблемы управления и информатики |
| work_keys_str_mv |
AT saryčevap modelirovanievklassesistemavtoregressionnyhuravnenijvusloviâhstrukturnojneopredelennosti AT saryčevap modelûvannâvklasísistemavtoregresíjnihrívnânʹvumovahstrukturnoíneviznačeností AT saryčevap modelinginaclassofautoregressionequationssystemsinconditionsofstructuraluncertainty |
| first_indexed |
2025-10-19T01:07:42Z |
| last_indexed |
2025-10-20T01:09:00Z |
| _version_ |
1846461113766510592 |
| fulltext |
© А.П. САРЫЧЕВ, 2015
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 79
МЕТОДЫ УПРАВЛЕНИЯ И ОЦЕНИВАНИЯ
В УСЛОВИЯХ НЕОПРЕДЕЛЕННОСТИ
УДК 519.25:681.5
А.П. Сарычев
МОДЕЛИРОВАНИЕ В КЛАССЕ
СИСТЕМ АВТОРЕГРЕССИОННЫХ
УРАВНЕНИЙ В УСЛОВИЯХ
СТРУКТУРНОЙ НЕОПРЕДЕЛЕННОСТИ
Введение
Задача построения системы авторегрессионных уравнений в условиях структур-
ной неопределенности по количеству и составу входных переменных в уравнениях
является одним из объектов исследования в методе группового учета аргументов
(МГУА) , который разработал академик НАН Украины А. Г. Ивахненко [1–8].
Определение порядка авторегрессионных моделей в условиях структурной
неопределенности — важная задача в теории идентификации, и для ее решения
существуют различные подходы [9–21]. Часто используемым критерием качества
для систем авторегрессионных уравнений является многомерный аналог инфор-
мационного критерия Акаике [9]. Его недостаток состоит в том, что он построен
в предположении, что все выходные переменные объекта определяются общим
множеством регрессоров. В прикладных задачах могут встречаться объекты более
широкого класса, в которых выходные переменные могут определяться, вообще
говоря, разными подмножествами регрессоров.
Известный подход к построению критериев качества статистических мо-
делей — МГУА, который основан на разбиении выборки наблюдений на обучающую
и проверочную части: на обучающей выборке оцениваются коэффициенты модели,
а на проверочной — качество модели. В соответствии с принципами моделиро-
вания в МГУА для того, чтобы найти систему авторегрессионных уравнений
оптимальной сложности, необходимо:
указать метод оценивания коэффициентов в системе авторегрессионных
уравнений;
задать алгоритм генерирования систем авторегрессионных уравнений
(структур моделей);
разработать внешний критерий для оценки качества перебираемых структур;
исследовать поведение математического ожидания критерия в зависимости
от состава регрессоров;
доказать существование системы авторегрессионных моделей оптимальной
сложности.
При моделировании в классе авторегрессионных уравнений в МГУА тра-
диционно применяется сумма внешних критериев отдельных авторегрессионных
уравнений, параметры которых оцениваются независимо. Поэтому построение
и обоснование критерия МГУА в условиях, когда параметры системы авторег-
рессионных уравнений оцениваются совместно — актуальная задача, решению
которой и посвящена данная работа.
80 ISSN 0572-2691
1. Априорные предположения о динамической системе
Пусть функционирование динамического объекта подчиняется закону в виде
системы авторегрессионных уравнений [22]:
,
)(ζ
)(ζ
)(ζ
)(ζ
),(θ
),(θ
),(θ
)()()(
)()()(
)()()(
)()()(
)(
)(
)(
)(
1
1
1
0
o
2
o
1
o
1
21
21
201
110
2
1
k
k
k
k
qk
qk
qk
qxqxqx
qxqxqx
qxqxqx
qxqxqx
kx
kx
kx
kx
n
i
p
h
q
pnnn
piii
p
p
n
i
,...,,2,1 hk (1)
которую в матрично-векторной форме можно записать
,...,,2,1),;1(),();()(
1
o
hkkqkqpk
h
q
ζθZx (2)
где )(k
x — ненаблюдаемый )1( n –вектор значений k -й выходной переменной
объекта в дискретные моменты времени ,itt ;...,,2,1 ni n — общее число
наблюдений за объектом; p — число предыдущих значений выходных переменных,
которые влияют на их текущее значение; );( qp
Z — )( pn -матрица p предыдущих
ненаблюдаемых значений q -й переменной, ,...,,2,1 hq p означает, что в (1), (2)
при формировании величины )(kxi
участвуют величины ...,),(),(( 21 qxqx ii
;))(qx pi h — число выходных переменных, образующих множество ;X
),(
o
qkθ — )1( p -вектор неизвестных детерминированных, не зависящих от времени
коэффициентов; );1( kζ — ненаблюдаемый случайный )1( n -вектор, в обозна-
чении которого –1 означает, что в (1), (2) при формировании величины )(kxi
аддитивно участвует величина ).(ζ 1 ki
В (1), (2) предполагается, что в формировании текущего значения k -й выходной
переменной участвуют все p предыдущих значений всех h выходных переменных.
В общем случае не все переменные и не все их предыдущие значения могут уча-
ствовать в этом формировании. Для записи моделей в общем случае введем
структурные матрицы, смысл которых покажем на примере. Пусть на текущее
значение k -й выходной переменной влияют первое, второе и четвертое преды-
дущие значения q -й переменной из максимально заданного возможного числа
влияющих предыдущих значений .5p Тогда вместо матрицы );( qp
Z в системе
авторегрессионных уравнений (1), (2) следует записать произведение матриц
),();( qkqp SZ
)()()(
)()()(
)()()(
)()()(
000
100
000
010
001
)()()()()(
)()()()()(
)()()()()(
)()()()()(
421
421
201
310
54321
54321
32101
43210
qxqxqx
qxqxqx
qxqxqx
qxqxqx
qxqxqxqxqx
qxqxqxqxqx
qxqxqxqxqx
qxqxqxqxqx
nnn
iii
nnnnn
iiiii
, (3)
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 81
где )35( -матрица ),( qkS представляет собой структурную матрицу, отражающую
влияние первого, второго и четвертого предыдущих значений переменной с номе-
ром q на текущее значение переменной состояния с номером .k Априорная
информация о значении p и о том, какие именно предыдущие значения каждой
из переменных определяют текущие значения выходных переменных в законе
функционирования объекта (1), (2), представляется совокупностью структурных
матриц ,...,,2,1,),,( hqkqk S которые могут быть различными для выходных
переменных. Пока будем предполагать, что эти структурные матрицы заданы.
С учетом введенных структурных матриц закон функционирования (2) для
общего случая формирования выходных переменных запишем в виде
,...,,2,1),;1()();1(),(),();()(
1
o
hkkkkqkqkqpk
h
q
ζxζθSZx (4)
где ),(
o
qkθ — )1),(( qkm -вектор неизвестных детерминированных коэффициентов;
)(k
x — ненаблюдаемая составляющая )1( n -вектора значений k -й переменной;
),( qkm — число столбцов в матрице );,( qkS ),(...)2,()1,( kkmkmkm
)(),(... kmhkm — общее число неизвестных коэффициентов в модели для вы-
ходной переменной с номером .k
Пусть для наблюдений k -й выходной переменной объекта выполняется
,...,,2,1,...,,2,1),(ε)()( hknikkxkx iii
(5)
где )(kxi — наблюдаемое значение k -й переменной в момент времени ,itt
)(kxi
— ненаблюдаемое значение; )(ε ki — случайная ненаблюдаемая ошибка.
Запишем с учетом (5) модель наблюдения объекта в векторной форме
....,,2,1,)()()( hkkkk
εxx (6)
Введем обозначения
)(...,(2),(1), hxxxX , (7)
,])(...,(2),(1),[ h
xxxX , ,])(...,(2),(1),[ h
xxxX (8)
)(...,(2),(1),,);1(...,2),;1(1),;1()1( hh εεεΕζζζΓ (9)
и с учетом (6)–(9) модели функционирования и наблюдения запишем в обоб-
щенном виде
)1(
ΓXX , .ΕXX
(10)
Пусть относительно ,);1( kζ ,...,,2,1 hk выполнено:
;),(σ});1();1({,});1({ ζ
T
nn kkkkEkE Iζζ0ζ (11)
;;...,,2,1,,),(σ});1();1({ ζ
T qkhqkqkqkE n Iζζ (12)
,...,,2,1,,,...,,1,,0});1(ζ);1(ζ{ 212121
hqkiiniiqkE ii (13)
82 ISSN 0572-2691
где }{E — знак математического ожидания по возможным реализациям случай-
ных векторов );1( kζ и ;);1( qζ n0 — )1( n -вектор, состоящий из нулей;
),(σζ kk — дисперсия величины ),;1(ζ ki ,...,,2,1 ni ограниченная вели-
чина; ),(σζ qk — ковариация случайных величин );1(ζ ki и ),;1(ζ qi ,...,,2,1 ni
ограниченная величина; nI — единичная )( nn -матрица.
Пусть относительно ),(kε ,...,,2,1 hk выполнено:
;...,,2,1,),(σ})()({,})({ ε
T hkkkkkEkE nn Iεε0ε (14)
;,...,,2,1,,),(σ})()({ ε
T qkhqkqkqkE n Iεε (15)
,...,,2,1,,,...,,2,1,,0})(ε)(ε{ 212121
hqkiiniiqkE ii (16)
где }{E — знак математического ожидания по возможным реализациям случайных
векторов )(kε и );(qε ),(σε kk — дисперсия величины ,...,,2,1),(ε niki огра-
ниченная величина; ),(σε qk — ковариация случайных величин )(ε ki и ).(ε qi
Предположения (11)–(13) и (14)–(16) могут быть записаны в обобщенном виде:
,})1({ )( hnE OΓ ,})1(])1([{ ζ
T
ΣΓΓ nE (17)
,}{ )( hnE OΕ ,}{ ε
T
ΣΕΕ nE (18)
где )( hnO — нулевая )( hn -матрица; ,ζΣ εΣ — заданные ковариационные
)( hh -матрицы в моделях функционирования и наблюдения соответственно.
Также будем предполагать, что матрица в законе функционирования объекта
)1(Γ и матрица ошибок наблюдения Ε статистически независимы:
.})1({ )(
T
hhE OΓΕ (19)
Пусть в результате наблюдения в моменты времени ,itt ,21 pi
,0...,,22 p ,...,,2,1 n получена ))2(( hpn -матрица значений выходных пере-
менных объекта:
.
)0(
)()2()1(
)()2()1(
)()2()1(
)()2()1(
)()2()1(
)()2()1(
222
111
000
222222
212121
X
X
hxxx
hxxx
hxxx
hxxx
hxxx
hxxx
nnn
ppp
ppp
(20)
Пусть заданы: p — число предыдущих значений выходных переменных,
которые влияют на их текущее значение; набор структурных матриц ),,( qkS
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 83
,...,,2,1, hqk которые определяют, какие именно предыдущие значения каждой
из переменных характеризуют текущие значения выходных переменных объек-
та (1)–(19).
Для оценивания неизвестных коэффициентов ),,(
o
qkθ ,...,,2,1, hqk по
результатам наблюдения объекта (20) в [22, 23] разработаны итерационные
процедуры параметрической идентификации, в которых )0(X используется в качестве
начальных условий.
2. Оценивание коэффициентов в системах авторегрессионных уравнений
Для )1( n -вектора )(kx согласно [22] выполняется
,...,,2,1,)(),(),();()(
1
o
hkkqkqkqpk
h
q
ξθSZx (21)
где );( qp
Z — )( pn -матрица ненаблюдаемых значений q -й переменной объек-
та, по своей структуре она аналогична матрице );( qp
Z в (1):
,
)()()(
)()()(
)()()(
);(
21
201
110
qxqxqx
qxqxqx
qxqxqx
qp
pnnn
p
p
Z ;...,,2,1 hq (22)
)(kξ — случайный )1( n -вектор с нулевым математическим ожиданием
),;1(),(),(]);,2([)()(
o
1
kqkqkqZkk
h
q
ζθSΓεξ (23)
;...,,2,1,})({ hkkE n 0ξ (24)
);,2( qZΓ — )( pn -матрица ненаблюдаемых случайных величин
,
)(ζ)(ζ)(ζ
)(ζ)(ζ)(ζ
)(ζ)(ζ)(ζ
);,2(
132
110
21
qqq
qqq
qqq
qZ
pnnn
p
p
Γ ....,,2,1 hq (25)
Введем следующие обозначения:
;...,,2,1,)),(...,),2,(,)1,(()(),()( TT
o
T
o
T
oo
hkhkkkkkk θθθθxy (26)
,]),();(...),();(...)2,()2;()1,()1;([)( hkhpkkkpkpkpk SZSZSZSZR
(27)
)(kR — матрица регрессоров для k -й выходной переменной.
Учитывая (26), (27), систему регрессионных моделей (21) запишем в виде
....,,2,1),()()()()()(
oo
hkkkkkkk ξyξθRy (28)
84 ISSN 0572-2691
Введем обозначения
,
)(
)2(
)1(
hy
y
y
y
,
)(
)2(
)1(
o
o
o
o
hy
y
y
y
,
)(
)2(
)1(
o
o
o
o
hθ
θ
θ
θ
,
)(
)2(
)1(
hξ
ξ
ξ
ξ
(29)
,
)(
)2(
)1(
))2(())1((
))(())1((
))(())2((
hmnmn
hmnmn
hmnmn
ROO
ORO
OOR
R
(30)
где y — объединенный )1( N -вектор наблюдаемых зашумленных значений;
o
y — )1( N -вектор ненаблюдаемых значений;
o
θ — )1( M -вектор неизвестных
коэффициентов; ξ — )1( N -вектор ненаблюдаемых случайных аддитивных
составляющих; R — объединенная )( MN -матрица регрессоров; ;hnN
)1(mM .)(...)2( hmm
Запишем систему h регрессионных уравнений (28) учетом (29), (30):
.
oo
ξθRξyy (31)
Согласно [22] для оценки коэффициентов
o
θ выполняется
,yCd
,
)(
)2(
)1(
hd
d
d
d
....,,2,1,
),(
)2,(
)1,(
)( hk
hk
k
k
k
d
d
d
d
(32)
В (32) для )( NM -матрицы ,C состоящей из )( hh блоков, выполняется
,)( 1T11T
ΣRRΣRC (33)
где Σ — ковариационная )( NN -матрица введенного в (29) объединенного
)1( N -вектора ненаблюдаемых аддитивных случайных составляющих .ξ
Для ковариационной матрицы ,Σ состоящей из )( hh блоков, выполняется [22]
,nn IΣΨIΣΣ (34)
где nIΣ — кронекеровское произведение матриц Σ и ;nI ,εΣ ζΣ — ковариа-
ционные )( hh -матрицы в моделях наблюдения и функционирования, введенные
в (17), (18).
В (34) )( NN -матрица Ψ состоит из )( hh блоков, а ее ),( qk -й блок
( hqk ...,,2,1, ) представляет собой )( nn -матрицу:
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 85
)0()1(0000
)1()0(0000
00)0()1()1(0
00)1()0()2()1(
00)1()2()0()1(
000)1()1()0(
),(
kqkq
kqkq
kqkqkq
kqkqkqkq
kqkqkqkq
kqkqkq
p
pp
pp
p
qk
Ψ . (35)
В (35) величины ),(kq ,1,2...,,2,1 pppp определяются
по формулам
})(ξ)(ξ{Cov)(
21
qk iikq
h
q
h
q
qqqqiiqkqkqq
1
2
o
2211
T
1
T
o
21ζ
1 21
),(),()(),(),(),(σ θSISθ , (36)
где )( 21 iip I — )( pp -матрица, у которой все элементы равны нулю, кроме
элементов одной диагонали, равных единице: если ,021 ii то это — главная
диагональ; если ,0 то это — диагональ, расположенная выше главной диагонали
на строк; если ,0 то это — диагональ, расположенная ниже главной
диагонали на строк.
Таким образом, ),( qk -й блок матрицы Σ представляет собой )( nn -матрицу
,),(σ),(),(σ),( ε nn qkqkqkqk IΨIΣ ....,,2,1, hqk (37)
С учетом (33)–(37) для оценок коэффициентов выполняется
.)( 1T11T
yΣRRΣRd
(38)
В формулу (33) для матрицы C входит ненаблюдаемая матрица регрессоров
,R а в формулу (34) для матрицы Σ — матрица ,Ψ элементы которой, как следует
из (35), (36), зависят от неизвестных коэффициентов .
o
θ Эти обстоятельства
использованы для построения итерационных процедур вычисления неизвестных
коэффициентов в виде (32): в [22] разработана итерационная процедура для случая,
когда ковариационные матрицы ,ζΣ εΣ априорно известны, а в [23] — для случая,
когда они неизвестны. Процедуры исследованы методом статистических испытаний.
Учитывая (29) и (32), оценки (38) запишем в виде
,
)(
)2(
)1(
)(
)2(
)1(
2
1
hh h y
y
y
C
C
C
yC
d
d
d
d
т.е. ,
)(
)2(
)1(
)(
h
k k
y
y
y
Cd
(39)
где
hkkkk CCCC 21 (40)
является k -й строкой блоков матрицы ,C состоящей из )( hh блоков.
86 ISSN 0572-2691
Для оценки )(k
d с учетом (28) и (38) выполняется
h
l
kq
h
q
lqkl
h
q
qqqk
1 1
o
1T11T
1
)()()(][])([)( ξCθRΣRRΣRd
h
l
lqkl
h
kqq
q
1
o
1T11T
)(1
)(][])([ θRΣRRΣR
)()(][])([
11
o
1T11T
qk kq
h
q
h
l
lkkl ξCθRΣRRΣR
.)()(
1
o
qk kq
h
q
ξCθ
(41)
Для соответствующих регрессионных моделей из (41) следует
)()()()()()()()()()(
1
o
1
o
qkkqkkkkkk kq
h
q
kq
h
q
ξCRyξCRθRdRy
, (42)
где )(k
y — )1( n -вектор выхода модели для k -й переменной, ....,,2,1 hk
Для регрессионных моделей выполняется
,...,,2,1),()()()()()( hkkkkkkk
udRuyy (43)
где )(ku — )1( n -вектор остатков [24], для которого выполняется
),()()()(
1
qkkk kq
h
q
ξCRξu
,})({ nkE 0u (44)
т.е. его математическое ожидание равно нулевому )1( n -вектору.
3. Системный критерий регулярности МГУА
для моделирования в классе систем авторегрессионных уравнений
Введем матрицы наблюдений ,Y выходов
Y и остатков U системы мо-
делей (43):
,])(...,(2),(1),[ hyyyY ,])(...,(2),(1),[ h
yyyY ,])(...,(2),(1),[ huuuU (45)
.])()(...,(2),(2)(1),(1)[ hh
yyyyyyYYU (46)
Введем объединенные матрицы коэффициентов (29), оценок коэффициентов (41)
и объединенный вектор остатков (44):
,
)(
)2(
)1(
o
)()(
)2(
o
)2(
)1()1(
o
o
hhmhm
mm
mm
θ00
0θ0
00θ
Θ
,
)(
)2(
)1(
)()(
)2()2(
)1()1(
hhmhm
mm
mm
d00
0d0
00d
D
;
)(
)2(
)1(
hu
u
u
u
(47)
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 87
введем объединенные матрицы векторов (23) и регрессоров (27):
,])(...,(2),(1),[ hξξξΞ .])(...,),2(),1([ hRRRR (48)
С учетом (45)–(48) запишем систему моделей (28) и систему моделей (43):
,
oo
ΞYΞΘRY .UYUDRY
(49)
Рассмотрим функционал качества системы авторегрессионных уравнений, от-
ражающий требование минимизации математического ожидания (матрицы
o
Y и
Y
введены в (46)–(49))
,][][detln
1 o
T
o
YYYY
h
EJS (50)
который является системным аналогом J-функционала, известного для модели
одномерной во выходу регрессии [26, с. 172] и получившего в МГУА название
«идеальный внешний критерий» [3, с. 99]. Функционал (50) не может применяться
при решении практических задач (содержит ненаблюдаемую матрицу ),
o
Y но может
использоваться для теоретического сравнения методов оценивания, в том числе
на основе метода статистических испытаний [8].
Пусть набор структурных матриц
,...,,2,1,},),({
oo
hqkqkS S (51)
соответствует истинной структуре модели объекта (1)–(19), т.е. этот набор одно-
значно задает структуру системы авторегрессионных уравнений: он указывает,
какие именно предыдущие значения каждой из переменных определяют текущие
значения выходных переменных объекта (1)–(19). Пусть набор структурных мат-
риц (51) неизвестен и его требуется определить по результатам наблюдения
функционирования объекта (20), т.е. рассмотрим задачу структурной идентифи-
кации. Далее будем предполагать, что для генерации и анализа структур моделей
применяется алгоритм полного перебора всех возможных структур моделей, а
значение p — число предыдущих значений выходных переменных, которые
влияют на их текущее значение — априорно известно.
Пусть
,...,,2,1,},),({ hqkqkS S (52)
— набор структурных матриц текущей анализируемой структуры модели.
Используем (21)–(52) для построения системного критерия регулярности,
предназначенного для отыскания оптимального множества регрессоров в системе
авторегрессионных моделей.
Существует ли конструктивная альтернатива выбору ненаблюдаемой
матрицы
o
Y в JS -функционале (50), сохраняющая для соответствующего функ-
ционала свойства JS -функционала? Положительный ответ на этот вопрос для
систем статических (одновременных) регрессионных уравнений [25] получен
в рамках так называемой схемы повторных наблюдений, которая может быть
реализована в условиях активного эксперимента. В этой схеме для заданного
вектора значений входных переменных объекта проводится не одно, а пара
независимых наблюдений выходных переменных. Первое наблюдение из этой
пары участвует в формировании выборки ,A второе — выборки B и в ре-
зультате в схеме повторных наблюдений выполняется .)()( BA XX
88 ISSN 0572-2691
Такую схему можно реализовать для статических регрессионных моделей,
но для авторегрессионных моделей она принципиально нереализуема: значение
каждой из переменных множества X в силу модели (1) формируется с участием
случайной ненаблюдаемой составляющей, которую «воспроизвести» нельзя.
Поскольку добиться выполнения )()( BA XX невозможно, остается попытка
обеспечить выполнение
)()(T AA XX )()(T BB XX (53)
и исследовать системный критерий регулярности в этих условиях.
Будем предполагать, что объект принадлежит к классу объектов, допускающих
возможность неоднократного наблюдения реализаций функционирования (например,
временные ряды показателей некоторого технологического процесса). И будем
выбирать такие реализации, которые начинаются с приблизительно одинаковых
начальных условий )0,()0,(T AA XX ),0,()0,(T BB XX имеют качественно
одинаковый характер переходных процессов и заканчиваются близкими состояниями
в конечные моменты времени.
Пусть в качестве двух выборок наблюдений A и B выбраны наблюдения
двух реализаций функционирования объекта — две выборки наблюдений h вы-
ходных переменных множества ,X обладающих указанными выше свойствами.
Первую выборку A будем называть обучающей, а вторую B — проверочной. На
обучающей выборке будем оценивать параметры в системе авторегрессионных
уравнений с текущей анализируемой структурой, а на проверочной оценивать каче-
ство построенной модели. (В дальнейшем такой способ формирования обучающей
и проверочной выборок будем называть «схемой квазиповторных наблюдений».)
В соответствии с (49) для ))(( hBn -матрицы остатков на выборке B вы-
полняется
),,(),()(),|()(),/( SASBBSABBSAB
DRYYYU (54)
где )(BY — ))(( hBn -матрица наблюдений выходных переменных выборки ;B
),|( SAB
Y — ))(( hBn -матрица выходов системы регрессионных моделей на
выборке B , рассчитанная по модели, оценки коэффициентов которой ),( SA
D
получены в соответствии с (21)–(41) на обучающей выборке A для структуры ;S
)(Bn — объем проверочной выборки.
В соответствии с (43) для )1)(( Bn -векторов остатков в матрице ),|( SABU
выполняется
);,();,(),()S;,|(),();,|( kSAkSBkBkABkBkSAB dRyyyu
),();,(),(),();,(),(),(
1
o
1
o
SAkSBqASAkSBkBkB kq
h
q
kq
h
q
CRyCRξy
,),(),();,(),();,|(),(
1
qASASkBkBkSABqA kq
h
q
ξCRξδξ
(55)
где
),(),();,(),();,|(
o
1
o
qASAkSBkBkSAB kq
h
q
yCRyδ
(56)
— так называемый )1( n -вектор смещения, обусловленный выбором структуры
S вместо .
o
S
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 89
Объединим )1)(( Bn -векторы остатков (55) в ))(( hBn -матрицу
),,|(...,2),;,|(1),;,|(),|( hSABSABSABSAB uuuU (57)
и введем матрицу ковариаций остатков
),|(),|(),|( T SABSABSAB UUW . (58)
Определение 1. Случайная величина
)),|(det(ln
1
)( SAB
h
SARS W (59)
называется системным критерием регулярности для системы авторегрессионных
уравнений.
Определение 2. Оптимальным множеством регрессоров называется множест-
во регрессоров, соответствующее набору структурных матриц :0S
)},({minarg
)(
0
*
SARSES
pSS
(60)
где )(* pS — множество возможных наборов структурных матриц при заданном
параметре .p
Определение 3. Оптимальной по количеству и составу регрессоров называет-
ся система авторегрессионных уравнений, построенная на множестве регрессоров,
соответствующем набору структурных матриц .0S
Вычислим математическое ожидание матрицы ковариаций остатков (58). Для
),( qk -элемента этой матрицы с учетом результатов [23] выполняется
});,|();,|({]}),|(),|({[),|( TT qSABkSABESABSABESAB kqkq uuUUΩ
);,((),([{}]),(),([{);,|();,|( TTT qSBkBEqBkBEqSABkSAB Rξξξδδ
}]),()),(),();,(([{}])),(),( T
11
qBrASAkSBEsASA kr
h
r
qs
h
s
ξξCRξC
}.])),(),();,(()),(),();,(([{
1
T
1
sASAqSBrASAkSBE qs
h
s
kr
h
r
ξCRξCR
(61)
Для второго слагаемого в (61) с учетом (34)–(37) выполняется
,)),(σ)0(ψ),(σ)((}),(),({ ε
T qkqkBnqBkBE kq ξξ (62)
а третье и четвертое слагаемые равны нулю, поскольку )(Aξ и )(Bξ независимы.
Для пятого слагаемого в (61) выполняется
h
s
qskr
h
r
sASAqSBkSBSArAE
1
TTT
1
),(),();,();,(]),([),( ξCRRCξ
.]][),();,();,(]),([[tr ξ
TT
11
srqskr
h
s
h
r
SAqSBkSBSA ΣCRRC
(63)
Учитывая
,]),()),(),(([),( 1T11T
krkr SASASASA
ΣRRΣRC
(64)
,]),()),(),(([),( 1T11T
qsqs SASASASA
ΣRRΣRC (65)
90 ISSN 0572-2691
используя rkkr SASA )],([)],([ TT
CC и симметричность матрицы ξΣ , получаем
);,();,(])),(),((),([[tr T11T1
11
qSBkSBSASASA rk
h
s
h
r
RRRΣRRΣ
),()(,([tr]][]),()),(),(([
T
ξ
1T11T
SASBSASASA srqs RRΣΣRRΣR
.]),()),(
T11
kqSBSA RRΣ
(66)
Подставляя в (61) выражения (62) и (66), имеем
)),(σ)0(ψ),(σ()();,|();,|(),|( ε
T qkqkBnqSABkSABSAB kqkq δδΩ
kqSBSASASB ]),()),(),((),([tr
T11T
RRΣRR
kqkqkq SABqkqkBnSAB ]),,([tr)),(σ)0(ψ),(σ()(]),|([ ε PΔ , (67)
где ),|( SABΔ — матрица отклонений, обусловленных выбором структуры S
вместо :
o
S
),;,|();,|(]),|([ T qSABkSABSAB kq δδΔ ;...,,2,1, hqk (68)
.),()),(),((),(),,(
T11T
SBSASASBSAB RRΣRRP
(69)
Введем обозначения для матриц:
)0(ψ)0(ψ)0(ψ
)0(ψ)0(ψ)0(ψ
)0(ψ)0(ψ)0(ψ
21
22221
11211
ψ
hhhh
h
h
Σ , (70)
)],;,,([tr)]2,;,,([tr])1,;,,([tr
)],2;,,([tr)]2,2;,,([tr])1,2;,,([tr
)],1;,,([tr)]2,1;,,([tr])1,1;,,([tr
)(
hhSABhSABhSAB
hSABSABSAB
hSABSABSAB
SP
PPP
PPP
PPP
T
. (71)
Тогда для ковариационной матрицы ),/( SABΩ окончательно получаем
)()()(),|(),|( ζψε SBnSABSAB PTΣΣΣΔΩ . (72)
Для случая совпадения структуры S c
o
S выполняется )...,,2,1,( hqk
,]),,([tr)),(σ)0(ψ),(σ()(),|(
o
ε
o
kqkqkq SABqkqkBnSAB PΩ (73)
),()()(),|(
o
ζψε
o
SBnSAB PTΣΣΣΩ (74)
где матрицы ),,(
o
SABP и )(
o
SPT могут быть записаны аналогично (69) и (71).
4. Исследование системного критерия регулярности МГУА
Установим свойства системного критерия регулярности МГУА. С этой целью
исследуем, как изменяется математическое ожидание критерия в зависимости
от состава множества регрессоров. В случае истинной структуры для математиче-
ского ожидания критерия регулярности, используя (74), получаем
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 91
))(]),|([det(ln
1
})]),|([det(ln{
1
)}({
1
ooo
knSAB
h
SABE
h
SARSE
h
k
ΩW
.))(])()()([det(ln
1
1
o
ζψε knSBn
h
h
k
P
TΣΣΣ (75)
Для критерия регулярности модели с текущей структурой ,S используя (72),
имеем
))(]),|([det(ln
1
})]),|([det(ln{
1
})({
1
knSAB
h
SABE
h
SARSE
h
k
ΩW
))(])()()(),|([det(ln
1
1
ζψε knSBnSAB
h
h
k
P
TΣΣΣΔ . (76)
При расчете математических ожиданий определителей матриц ),|(
o
SABW
и ),|( SABW в (75) и (76) учтено, что они в соответствии с определением
[26, с. 236-237] имеют распределение Уишарта.
Случай недостающего регрессора. Рассмотрим случай, когда в текущей
структуре пропущен один регрессор. Предположим для простоты, что это регрес-
сор для переменной с номером h , и он является максимально удаленным преды-
дущим значением этой переменной, участвующим в формировании ее текущего
значения, т.е. между структурными матрицами выполняется соотношение
,]),([),(
o
sSS hhhh (77)
где ),(
o
hhS — структурная )),((
o
hhmp -матрица истинной модели (авторег-
рессионного уравнения) для переменной с номером ;h ),( hhS — структур-
ная ))1),((( hhmp -матрица текущей модели для переменной с номером ;h
s — )1( p -вектор, для которого выполняется
.)1...,,0,0( Ts (78)
Другими словами, в модели функционирования (4) для h -й переменной в
формировании величины )(hxi
участвует величина ),(hx pi
но в текущую мо-
дель она не включена.
Используя (75), (76), вычислим разность математических ожиданий систем-
ного критерия регулярности для структур S и :
o
S
]),|([det
]),|([det
ln
1
})({)}({),(Δ
o
1
oo
1
SAB
SAB
h
SARSESARSESS
Ω
Ω
.
])()()([det
]),|(])()()([[det
ln
1
o
ζψε
ζψε
SBn
SABSBn
h
P
P
TΣΣΣ
ΔTΣΣΣ
(79)
Вычислим )( hh -матрицу ),|( SABΔ в (79), для которой выполняется
,),|(
T
1
1)1()1(
hhh
hhh
SAB
0
0O
Δ (80)
где ;);,|();,|(T hSABhSABhh δδ );,|( hSABδ — введенное в (56) смещение,
обусловленное выбором текущей структуры S вместо истинной структуры .
o
S
92 ISSN 0572-2691
Для объединенного вектора смещения ),|( SABδ выполняется
oooooo
),(),(),(),()(),(),()(),|( θRCRθRyCRyδ SASASBSBASASBBSAB
oo
1T11T
oo
),(),()),(),((),(),( θRΣRRΣRRθR SASASASASBSB
. (81)
Для матриц регрессоров, соответствующих наборам
o
S и S в (77), выполняется
,1...,,2,1),,(),(
o
hkkSkS RR (82)
,1...,,2,1,),,(),,(
o
hqqhSqhS RR (83)
],),,([]),([]),([),(),,(
oo
mRXsSXsSXSXR hhShhhhhhhhS (84)
где m — )1( n -вектор наблюдений пропущенного регрессора.
Для матриц )(
o
SR и )(SR с учетом (82)–(84) получаем
,])([)(
o
RSS δRR )....,,,( TTTT
m00δ nnR (85)
Запишем (81) с учетом (85):
1T11T
o
),()),(),((),(])(),([),|( ΣRRΣRRθδRδ SASASASBBSBSAB R
oo
])(),([)(),( θδRθδR BSBASA RR
o
1T11T
])(),()),(),((),(),([ θδΣRRΣRRR ASASASASBSB R
o
1T11T
)1(
)](),()),(),((),()([ o θδΣRRΣRRδO ASASASASBB RR
MN
o
1
)1(
])(),,()([ o θδΣPδO ASABB RR
MN
, (86)
),()),(),((),(),,(
T11T
SASASASBSAB RRΣRRP
. (87)
Учитывая (86) и (87) для величины hh , введенной в (80), получаем
o
1
T1TT
T
1
1)1()1(
T
o
))(),,()((
)),,()()((
o
ooo
θ
δΣPδ
PΣδδ
0
0O
θ
ASABB
SABAB
RR
RR
M
MMM
hh . (88)
Для ),(
oo
MM -го элемента матрицы в (88) выполняется ))(...)2()1((
oooo
hmmmM
))(),,()(()),,()()(( 1T1TT ASABBSABABa RRRR δΣPδPΣδδ
)(),()),(),((),()()()( 1T11TTT ASASASASBBBB RRRR δΣRRΣRRδδδ
)(),()),(),((),()(
T11T1T BSBSASASAA RR δRRΣRRΣδ
),()),(),((),()(
T11T1T SBSASASAAR RRΣRRΣδ
.)(),()),(),((),( 1T11T
ASASASASB RδΣRRΣRR
(89)
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 93
Далее, используем то обстоятельство, что обучающая )(A и проверочная )(B
выборки получены особым способом как пара реализаций функционирования
объекта с близкими начальными условиями, качественно одинаковым характером
переходных процессов и близкими состояниями в конечные моменты времени.
Введем в рассмотрение разности:
))(),,()())(,,()()(( 1T1TT ASABBSABABa RRRR δΣPδPΣδδ
),()()()()( TT AABBX XXXXG (90)
,)()()()()()()()()( TTTT AABBAABBg RRRR mmmmδδδδm (91)
),(),(),(),(),(
TT
SASASBSBSR RRRRG
,
),,(),,(
),,(),,(
)2,,()2,,(
)2,,()2,,(
)1,,()1,,(
)1,,()1,,(
T
T
))2()(())1()((
))()2((T
T
))1()2((
))()1(())2()1((T
T
hSAhSA
hSBhSB
SASA
SBSB
SASA
SBSB
mhmmhm
hmmmm
hmmmm
RR
RR
OO
O
RR
RR
O
OO
RR
RR
(92)
т.е. представляет собой матрицу размера ,MM имеет блочно-диагональный
вид, состоит из )( hh блоков и ),( qk -блок имеет размеры );()( qmkm
),()(),()(),( TTT SAASBBSR RR RδRδg
,)),,()(),,()(...,,,( TTT
)2(
T
)1( hSAAhSBBmm RmRm00 (93)
т.е. представляет собой вектор размера ,1 M состоит из h блоков и только один
h -й блок — ненулевой )(hm -мерный вектор.
Влияние скаляра ),(Rg вектора ),,( SRg матрицы ),( SRG на упрощение
структуры по числу регрессоров оценено методом статистических испытаний
в отдельном исследовании.
Учитывая (90)–(93), для (89) получаем
),()(]),(),([)( 1
TT
mδMMδ ASASAAa RR (94)
где ),( SAM — ))()(( АNАN -матрица, состоящая из )( hh блоков:
],),()),(),((),([),( 1T11T
ΣRRΣRRIM SASASASASA N (95)
а для скаляра )(1 m выполняется
)()(),()),(),((),()()( T1T11TT
1 AASASASASRg RR δδΣRRΣRgmm
),()(),()),(),((),( 1T11T1 SAASRSASASA R RΣδgRΣRRΣ
),()),(),((),()),(),((
T11T11T
SASASASRSASA RRΣRGRΣR
),(),()()(),(),()()( TTT1 SRSAAASASRgA RRR gCδδCgmδΣ
.)(),(),(),()( TT ASASRSAA RR δCGCδ (96)
94 ISSN 0572-2691
Учитывая (77), (94), (95) и соотношения
)(
)2(
)1(
o
o
o
o
hθ
θ
θ
θ
,
)(θ
)(θ
)(θ
)(
)(
o
2
o
1
o
o
o
h
h
h
h
hm
θ , (97)
получаем
o
1
TTT
1
1)1()1(T
o
)()(),(),()(o
ooo
θ
mδMMδ0
0O
θ
ASASAA RR
M
MMM
hh
o
1
TTT
1
1)1()1(T
o
)()()],(),([)(o
ooo
θ
mmMMm0
0O
θ
ASASAA hh
M
MMM
)())(θ()(),()())(θ( 1
2
)(
o
T2
)(
o
oo
mmHm hASAAh hmhhhm , (98)
1T1T ),((),([),(),(),( ΣRRΣIMMH SASASASASA N
]),()),(),((),([]),()),( 1T11TT1
ΣRRΣRRIRR SASASASASASA N . (99)
Итак, в (86)–(99) установлено
)(),()())(θ();,|();,|( T2
)(
o
T o
ASAAhhSABhSAB hhhmhh mHmδδ
).())(θ( 1
2
)(
o
o
m hhm (100)
Введем )1( h -вектор
T2/1 ))(,0...,,0,0( hhb такой, что ),,/(T SABΔbb
и, применяя правило ,)1(][det][det 1TT
bAbAbbA
вычислим определитель
в числителе (79):
])()()([det]),/(])()()([[det ζψεζψε SBnSABSBnc PP TΣΣΣΔTΣΣΣ
)()([det}))(,0...,,0,0())(,0...,,0,0(1{ ζψε
T2/112/1
ΣΣΣA Bnhhhh
}.)(]])()()([[)(1{])( 2/11
ζψε
2/1
hhhhPhhP SBnS
TΣΣΣT (101)
Используя (101), для разности (79) получаем
.
])()()([det
})(]])()()([[)(1{
])()()([det
ln
1
),(Δ
o
ζψε
2/11
ζψε
2/1
ζψε
o
1
SBn
SBn
SBn
h
SS
P
hhhhPhh
P
TΣΣΣ
TΣΣΣ
TΣΣΣ
(102)
Продолжая вычисление разности математических ожиданий системного кри-
терия регулярности для структур S и ,
o
S установим соотношение )( hh -матриц
)(SPT и )(
o
SPT в (102). В соответствии с (71) для их разности выполняется
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 95
]),;,,(),;,,([tr])()([
oo
qkSABqkSABSS kqPP PPTT
....2,1,,]),,(),,([tr
o
hqkSABSAB kq PP (103)
Учитывая (85), вычислим
),()),(),((),(),,(),,(
T11T
o
SBSASASBSABSAB RRΣRRPP
),([),(),()),(),((),(
T
o
T1
o
1
o
T
o
SASBSBSASASB RRRRΣRR
)](),([),(]),(
T11 BSBSBSA RδRRRΣ
),([),(
)(
),(
])(),([
)(
),( T
T
T
1
1
T
T
SASB
B
SB
ASA
A
SA
R
R
R
RR
δ
R
δRΣ
δ
R
)(),(),(]),(
T11 BSBSBSA RδRRRΣ
.
)(
),(
)()(),()(
)(),(),(),(
T
T
1
1T1T
1T1T
B
SB
AASAA
ASASASA
RRRR
R
δ
R
δΣδRΣδ
δΣRRΣR
(104)
Для перемножения блочных матриц в (104) применим формулу обращения
блочной матрицы (она является частным случаем формулы Фробениуса [27, с. 302]):
., 1T
11T1
111T1111
T
1
cBd
Bd
cBBdcBB
d
cB
A
ef
ff
ff
e
(105)
В данном случае выполняется
,)(),(),,(),( 1T1T
ASASASA RδΣRcRΣRB
(106)
,)()(),,()( 1T1TT AAeSAA RRR δΣδRΣδd
(107)
11T1T1T )),(),((),()()()( SASASAAAAf RRR RΣRRΣδδΣδ
)(),()()(),( 1T1T
ASAAASA RRR δMΣδδΣR
. (108)
Продолжая (104) и учитывая (105)–(107), получаем
)](),([),,(),,(
o
BSBSABSAB RδRPP
111T1
11T111T11T11
),()(
)(),(),()()(),(
fSAAf
fASASAAfASA
R
RRR
BRΣδ
δΣRBBRΣδδΣRBB
)()(),(),(
)(
),( T1T11
T
T
AASASBf
B
SB
RR
R
δδΣRBR
δ
R
)()(),(),(),(),( T1T11T11 BASASBfSBSA RR δδΣRBRRBRΣ
.)()(),(),()()( T1T11T1 BBfSBSAABf RRRR δδRBRΣδδ
(109)
96 ISSN 0572-2691
Учитывая (109), для (103) получаем
)()()(]),,(),,([tr)]()([ T11
oo
AAfgfSABSABSS kqkqPP mmmPPTT
kkkh SAAfASAkRf ]),([)()(]),([),( T11T1T1
RmmΣRBg
),(]),([)()(]),([ 11T11T1 qRSAAfASA hqkh gBRΣmmΣRB
)()(]),([]),([)( T1T11T1 AfASASAAf qqhq mmRBRΣm
)()(]),([),,,(]),([ T11T111 AfASAkqSRSA khhq mmΣRBGBRΣ
)(]),([)],([)],([]),([ 1T1T11 ASASASASA khkkqqhq mΣRBRRBRΣ
.)()],([)],([ 1TT1
mmMMm kqkhhq ffSASAf (110)
Здесь ),( SAM — ))()(( ANAN -матрица, состоящая из )( hh блоков, введена
в (94), (95); а для )(mkqf — ),( qk -го элемента ),( hh -матрицы ),(mF выполняется
)(]),([),()()()( 1T1T ASAkRgf khkqkq mΣRBgmmFm
),,(]),([)(),(]),([)( 11T11T kqRSAAqRSAA hqhq GBRΣmgBRΣm
)()(]),([),()g()(]),([ TT1T1 AASAkRASA khkh mmCg-mmΣRB
).(]),([),,()],([)(),()],([ TTT ASAkqRSAAqRSA khhqhq mCGCmgC (111)
Из (110), (111) следует (во второй строке (112) буквы A и S опущены)
]),,([tr]),,([tr)()(
oo
SABSABSS PP PPTT
)(
][][][
][][][
][][][
1
TT
2
TT
1
TT
T
2
T
2
T
2
T
1
T
2
T
T
1
T
2
T
1
T
1
T
1
T
1
mF
mMMmmMMmmMMm
mMMmmMMmmMMm
mMMmmMMmmMMm
ff
hhhhhhhhhh
hhhhhhh
hhhhhhh
)()()],([),()( 1TT1
mFmMMm
fASASAAf hh , (112)
,
),(
),(
),(
),(,
)(
)(
)(
)(
2
1
SA
SA
SA
SA
A
A
A
A
hh
h
h
h
nn
nn
nn
M
M
M
M
m00
0m0
00m
m
(113)
.])],([)],([)],([[)],([ T
2
T
1
TT
hhhhh SASASASA MMMM (114)
Вычислим определитель в знаменателе (102), выполнив подстановку из (112):
)()(]),([]),([)()()( 1TT1
o
mFmMMmTT
fASASAAfSS hhPP . (115)
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 97
Применяя формулу ][det][det][det 1TT
BABIABBA
h из [27, с. 302],
получаем
)()()([det])()()([det ζψε
o
ζψε SBnSBn PP TΣΣΣTΣΣΣ
)([det])(]),([),()()( TT11 BnASASAAff hh mMMmmF
)()],([[det)]()()( T11
ζψε ASAffS hhP mMImFTΣΣΣ
.)],()()]()()()([ T11
ζψε SAAfSBn hP
MmmFTΣΣΣ (116)
Подставляя (116) в (102), получаем
hhP fSBn
h
SS ])]()()()([[1(ln
1
),(Δ 11
ζψε
o
1 mFTΣΣΣ
hhhhhm SAfASAAh )],([[(det)))()(),()(())(θ( T1
1
T2
)(
o
o
MImmHm
.)]),()()]()()()([)( T11
ζψε SAAfSBnA hP
MmmFTΣΣΣm (117)
Если ,0),(Δ
o
1 SS то структура
o
S лучше ;S если ,0),(Δ
o
1 SS то структура
S лучше ;
o
S если ,0),(Δ
o
1 SS то структура S лучше
o
S по дополнительному
принципу простоты.
Выполнение 0),(Δ
o
1 SS является условием так называемой редукции
(упрощения) оптимальной по структуре модели. Из (117) для условия редукции
получаем
2
)(
o
11
ζψε ))(θ(])]()()()([[1(
o
hfSBn hmhhP mFTΣΣΣ
)()],([[det()))()(),()(( T1
1
T ASAfASAA hhhh mMImmHm
,1)]),()(])]()()()([ T11
ζψε
SAAfSBn hP MmmFTΣΣΣ (118)
где )(SPT — )( hh -матрица, введена в (69), (71); ),( SAM — )( NN -матрица,
введена в (95); )(1 m и f — скалярные величины, определены в (96) и (108)
соответственно; ),( SAF — )( hh -матрица, введена в (111).
К сожалению, получить условие редукции (118) в простом виде удается толь-
ко при дополнительных предположениях.
Оценивание степени влияния скаляра (m)1 и матрицы (m)F
1
f на
условие редукции. Оценивание такого влияния в условиях схемы квазиповторных
наблюдений проведено на основе метода статистических испытаний. Исследова-
ние проводилось в четыре этапа. На первом этапе проведено 200 испытаний в соответ-
ствии с экспериментом, описанным в работе [22]. На втором этапе по графикам
временных рядов трех выходных переменных из 200 испытаний визуально
отобрано 50 испытаний, которые попали в класс с условным названием «затухающие
98 ISSN 0572-2691
колебания». На третьем этапе рассмотрены все возможные пары испытаний,
в которых первое испытание из пары назначалось обучающей выборкой ,A а второе
испытание — проверочной выборкой .B Всего рассмотрено 2450505050 пар.
Для каждой пары рассчитаны все величины, входящие в формулы (21)–(115),
в том числе величины, входящие в условие редукции (118): ),(0 m ),(1 m
),()()( ζψε SBn PTΣΣΣF0 ).(1
mF
f На четвертом этапе по результатам
2450 испытаний построены эмпирические гистограммы распределений скаляров
)(0 m и ),(1 m определителей матриц 0F и ),(1
mF
f ),( hh -элементов матриц
,][ 1
0F 11 )]([
mFf и ;)]([ 11 mFF0 f рассчитаны эмпирические средние
и среднеквадратичные отклонения исследуемых величин (приведены в таблице).
Таблица
Величина Среднее Среднеквадратичное отклонение
)(0 m 608,76 80,31
)(1 m 27,00 114,98
)()( 10 mm 636,76 82,13
][det 0F 4,4293e+08 2,4432e+07
])([det 1
mF
f -1,3711e-01 2,4478e+00
])([det 1
mFF0
f 4,4613e+08 1,2406e+08
hh)][( 1
0F 1,3135e-03 3.8114e-05
hhf )])([( 11 mFF0
1,3148e-03 3.9754e-05
Из анализа гистограмм и статистических характеристик следует:
1) матрицей )(1
mF
f в условии редукции (118) можно пренебречь;
2) наличие скаляра )(1 m в условии (118) вносит смещение в сторону увели-
чения (при отрицательном )(1 m ) или в сторону уменьшения (при положитель-
ном )(1 m ) критического значения коэффициента ),(θ )(
o
o
hhm при котором насту-
пает редукция. Но принципиальная возможность редукции (упрощения) опти-
мальной по сложности модели при наличии )(1 m сохраняется.
Косвенное подтверждение истинности условия редукции. Установим, ка-
кой вид принимает условие (118), если предположить, что в законе функциониро-
вания объекта (1) выполняется ,1p т.е. порядок авторегрессии равен единице.
В этом случае для ),( qk -го блока матрицы 1Ψ в соответствии с (35) выполняется
(величина )0(kq введена в (36))
....,,2,1,,)0(),(1 hqkqk nkq IΨ (119)
Для блочной матрицы 1Ψ выполняется (матрица ψΣ введена в (70))
.ψ1 nIΣΨ (120)
Для ковариационной матрицы ,Σ состоящей из )( hh блоков, выполняется
(см. (34))
.ψ nnn IΣIΣIΣΣ (121)
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 99
С учетом (121) для )( hh -матрицы )(SPT в (71) выполняется
)(),(σ)()2,(σ)()1,(σ
)2(),2(σ)2()2,2(σ)2()1,2(σ
)1(),1(σ)1()2,1(σ)1()1,1(σ
)(
ξξξ
ξξξ
ξξξ
hmhhhmhhmh
mhmm
mhmm
SP
T (122)
или
,})(...,),2(),1(diag{)( ξΣT hmmmSP (123)
а матрица )(
o
SPT получается из )(SPT заменой )(km на ),(
o
km ....,,2,1 hk
С учетом условия 1p для знаменателя (118) выполняется
)(])()()([)()],([[det T11
ξ
T1 AfSBnASAf Phh mmFTΣmMI
)]()()([det
])()([det
]),(
1
ξ
o
ξ
mFTΣ
TΣ
M
fSBn
SBn
SA
P
P
h . (124)
Подставляя (124) в (118), получаем
hhPP fSBnfSBn ]])()()([[1{])()()([(det 11
ξ
1
ξ mFTΣmFTΣ
.1)])()([(det)}))()(),()(())(θ(
o
ξ1
T2
)(
o
o
SBnASAAh Phhhm TΣmmHm (125)
Проводя вычисления аналогично [25], учитывая соотношения ,)()(
o
kmkm
,1...,,2,1 hk и ,1)()(
o
hmhm которые следуют из (77), и, пренебрегая влия-
нием матрицы ,)(1
mF
f получаем
2
)(
o
1
ξ
1
1
ξ ))(θ(][))()((1{))()((][(det
o
hhmBnkmBn hmhh
h
k
ΣΣ
1)))()((][(det)}))()(),()((
o
1
ξ1
T
kmBnASAA
h
k
hh ΣmmHm (126)
или
.)]([))()(),()(())(θ( 11
ξ1
T2
)(
o
o hhhhhm ASAAh ΣmmHm (127)
Отличие условия (127) от результата (95) работы [23] состоит только в нали-
чии члена )(1 m , что косвенно подтверждает истинность условия редукции (118).
Редукция модели, оптимальной по составу регрессоров, означает, что при
выполнении соотношения между параметрами модели (127) следует исключить
регрессор m из модели для h -й переменной. Редуцированная модель будет иметь
меньшую ошибку прогнозирования выходных переменных на новых выборках
наблюдений по сравнению с моделью, построенной на истинной структуре.
Из (127) следует, что возможность редукции модели может быть обусловлена
пятью причинами:
— малостью нормы коэффициента );(θ )(
o
o
hhm
— малостью нормы вектора наблюдений регрессора );(Am
— малым объемом выборок наблюдений );(Bn
— высокой степенью линейной зависимости регрессора )(Am с другими
регрессорами в матрице );()(),,( hAhSA SXR
— большим значением величины .)][( 11
hhΣ
100 ISSN 0572-2691
Случай избыточного регрессора. Рассмотрим случай, когда в текущую
структуру включен излишний регрессор. Предположим для простоты, что это
регрессор для переменной с номером h является максимально удаленным пре-
дыдущим значением этой переменной (определяется заданным параметром p
в (1)) и не участвует в формировании ее текущего значения, т.е. между структур-
ными матрицами выполняется соотношение
,]),([),(
o
sSS hhhh (128)
где ),(
o
hhS — структурная )),((
o
hhmp -матрица истинной модели (авторегрес-
сионного уравнения) для переменной с номером ;h ),( hhS — структурная
))1),((( hhmp -матрица текущей модели для переменной с номером ;h
s — )1( p -вектор, для которого выполняется
T)1...,,0,0(s . (129)
Другими словами, в модели функционирования объекта (4) для h -й пере-
менной в формировании )(hxi
не участвует величина ),(hx pi
но в текущую мо-
дель она включена.
Сначала вычислим математическое ожидание критерия регулярности. В рас-
сматриваемом случае избыточного регрессора )( hh -матрица ),|( SABΔ в (68) явля-
ется нулевой матрицей. Для доказательства этого факта достаточно показать, что век-
тор смещения ),|( SABδ для случая избыточного регрессора нулевой. Действительно,
различие в структурных матрицах (128), (129) приводит к выполнению:
,1...,,2,1),,(),(
o
hkkSkS RR (130)
,1...,,2,1),,,(),,(
o
hqqhSqhS RR (131)
,]),,([]),([]),([),(),,(
ooo
rRsXSXsSXSXR hhShhhhhhhhS (132)
где r — )1( n -вектор наблюдений избыточного регрессора.
Для матриц )(SR и )(
o
SR с учетом (130)–(132) получаем
,])([)(
o
RSS δRR .)...,,,( TTTT
r00δ nnR (133)
Для вектора смещения ),|( SABδ в случае избыточного регрессора выполняется
oooooo
),(),(),(),()(),(),()(),|( θRCRθRyCRyδ SASASBSBASASBBSAB
)(
),(
])(),([
)(
),(
])(),([),(
T
o
T
1
o
1
T
o
Tooo
A
SA
ASA
A
SA
BSBSB
R
R
R
R
δ
R
δRΣ
δ
R
δRθR
.),(
oo
1
θRΣ SA
(134)
Далее, проведя вычисления аналогично (80)–(101), получаем .0hh
Для случая избыточного регрессора аналогично результатам (107)–(111)
получаем
kqkqPP SABSABSS ]),,(),,([tr])()([
oo
PPTT
)()()],([)],([)(
o
1
oo
TT
o
1
rrMMr kqkhhq fSfSASASf , (135)
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 101
)()())()(()()()()()( 1
o
T1
o
1
o
T
o
1T1T
o
ASSSSAAASf RRRR δΣRRΣRRΣδδΣδ
)(),()(
o
1T ASAA RR δMΣδ
(136)
— положительная величина, поскольку матрицы 1
Σ и ),(
o
SAM положительно
определены; ),(
o
SAM — )( NN -матрица, состоящая из )( hh блоков, анало-
гична (94), (95); r — )1( n -вектор и )(ARδ — )1( N -вектор, определенные
в (129)–(133); для )(rkqf — ),( qk -го элемента ),( hh -матрицы ),(rF выполняется
)()(]),([),()()()( T1
o
T1T AASAkRgf khkqkq rrΣRBgrrFr
),,(]),([)(),(]),([ 1
o
1T1
o
1 kqRSAAqRSA hqhq GBRΣrgBRΣ
.)(]),([ 1
o
T1 ASA kh rΣRB
(137)
Из (135) следует (во второй строке (138) буквы A и
o
S опущены)
)],,([tr)],,([tr)()(
oo
SABSABSS PP PPTT
rMMrrMMrrMMr
rMMrrMMrrMMr
rMMrrMMrrMMr
hhhhhhhhhh
hhhhhhh
hhhhhhh
Sf
][][][
][][][
][][][
)(
TT
2
TT
1
TT
T
2
T
2
T
2
T
1
T
2
T
T
1
T
2
T
1
T
1
T
1
T
o
1
)()()(]),([),()()()()(
o
1
o
T
o
T
o
1
o
1
rFrMMrrF SfASASAASfSf hh
, (138)
где обозначения hh SASAA )],([),,(),(
o
T
o
MMr аналогичны (113), (114).
Теперь рассмотрим разность
)}({)}({),(Δ
oo
2 SARSESARSESS
.
])()()([det
])]()()([[det
ln
1
)],|([det
]),|([det
ln
1
o
ζψε
ζψε
o
2
SBn
SBn
h
SAB
SAB
h
P
P
TΣΣΣ
TΣΣΣ
Ω
Ω
(139)
Учитывая (138), пренебрегая влиянием )()(
o
1
rFSf и применяя формулу
для вычисления определителя матрицы ][det][det][det 1TT
BABIABBA
h
из [27, с. 302], получаем
hPP SBnSBn ITΣΣΣTΣΣΣ [det)]()()([det])()()([det
o
ζψεζψε
.]),()()]()()([)()],([)(
o
T1
o
ζψε
o
T
o
1 SAASBnASASf hPh
MmTΣΣΣmM (140)
Подставляя (140) в (139), имеем
)([)()],([)([(detln
1
),(Δ
o
T
o
1
o
2 BnASASf
h
SS hh rMI
.0])),()()]()(
o
T1
o
ζψε
SAAS hP MrTΣΣΣ (141)
102 ISSN 0572-2691
Матрица ]),()(])()()([)()],([
o
T1
o
ζψε
o
T SAASBnASA hPh
MrTΣΣΣrM по-
ложительно определена, а величина )(
o
1 Sf положительна, поэтому величи-
на (141) положительна.
Из (141) следует, что в случае избыточного регрессора истинная структура
o
S
всегда лучше структуры ,S а регрессор r действительно не следует включать
в модель.
Заключение
По принципам МГУА построен и исследован критерий структурной иден-
тификации для моделирования в классе систем авторегрессионных уравнений.
Получены условия редукции (упрощения) системы авторегрессионных уравнений,
оптимальной по составу регрессоров. Разработанный критерий является системным
критерием структурной идентификации, при построении которого предполагается
совместное оценивание коэффициентов системы авторегрессионных уравнений.
В частном случае независимого оценивания коэффициентов в разных авторегресси-
онных уравнениях предложенный критерий представляет собой сумму критериев
регулярности отдельных авторегрессионных уравнений, т.е. является обобщением
системного критерия регулярности, традиционно применяемого в МГУА.
О.П. Саричев
МОДЕЛЮВАННЯ В КЛАСІ СИСТЕМ
АВТОРЕГРЕСІЙНИХ РІВНЯНЬ В УМОВАХ
СТРУКТУРНОЇ НЕВИЗНАЧЕНОСТІ
Для моделювання в класі систем авторегресійних рівнянь розроблено систем-
ний критерій регулярності методу групового урахування аргументів з розбит-
тям спостережень на навчальні й перевірні підвибірки. Доведено існування оп-
тимальної множини регресорів. Встановлено умову редукції оптимальної сис-
теми регресійних рівнянь, що залежить від параметрів системи авторегресійних
рівнянь та обсягів вибірок.
A.P. Sarychev
MODELING IN A CLASS OF AUTOREGRESSION
EQUATIONS SYSTEMS IN CONDITIONS
OF STRUCTURAL UNCERTAINTY
For modeling in a class of autoregression equations systems the system criterion of
regularity of Group Method of Data Handling with subdividing of observations into
training and testing subsamples is offered. It is proved, that the optimum set of regres-
sors exists. The condition of a reduction of optimum system of autoregression equations is
obtained. This condition depends on parameters of autoregression equations system and
the size of samples.
1. Ивахненко А.Г. Индуктивный метод самоорганизации моделей сложных систем. — Киев:
Наук. думка, 1982. — 296 с.
2. Self-organizing methods in modelling: GMDH type algorithms / Ed. by S.J. Farlow. — New
York; Basel : Marcel Decker Inc., 1984. — 350 p.
3. Ивахненко А.Г., Степашко В.С. Помехоустойчивость моделирования. — Киев: Наук. думка,
1985. — 216 с.
Международный научно-технический журнал
«Проблемы управления и информатики», 2015, № 4 103
4. Ивахненко А.Г., Мюллер Й.А. Самоорганизация прогнозирующих моделей. — Киев: Техніка,
1985. — 223 с.
5. Ивахненко А.Г., Юрачковский Ю.П. Моделирование сложных систем по эксперимен-
тальным данным. — М. : Радио и связь, 1987. — 120 с.
6. Madala H.R., Ivakhnenko A.G. Inductive learning algorithms for complex system modeling. — Lon-
don, Tokyo : CRC Press Inc., 1994. — 370 p.
7. Muller J.-A., Lemke F. Self-organizing data mining. Extraсting knowledge from data. — Hamburg :
Libri, 2000. — 250 p.
8. Сарычев А.П. Идентификация состояний структурно-неопределенных систем. — Днепро-
петровск : Институт технической механики, 2008. — 268 с.
9. Современные методы идентификации систем / Под ред. П. Эйкхоффа. — М. : Мир,
1983. — 400 с.
10. Сильвестров А.Н., Чинаев П.И. Идентификация и оптимизация автоматических систем. —
М. : Энергоатомиздат, 1987. — 199 с.
11. Льюнг Л. Идентификация систем. Теория для пользователя. — М. : Наука, 1991. — 432 с.
12. Green W.H. Econometric analysis. — New Jersey : Fifth edition, 2002. — 1056 p.
13. Söderström T., Soverini U., Mahata K. Perspectives on errors-in-variables estimation for dynamic
systems // Signal Processing. — 2002. — 82, N 8. — P. 1139–1154.
14. Кунцевич В.М. О точности построения аппроксимирующих моделей при ограниченных
помехах измерений // Автоматика и телемеханика. — 2005. — № 5. — С. 125–133.
15. Кунцевич В.М. Управление в условиях неопределенности: гарантированные результаты в
задачах управления и идентификации. — Киев : Наук. думка, 2006. — 264 с.
16. Markovsky I., Van Huffel S. Overview of total least squares methods // Signal Processing. —
2007. — 87. — P. 2283–2302.
17. Söderström T. Errors-in-variables methods in system identification // Automatica. — 2007. —
43 (6). — P. 939–958.
18. Губарев В.Ф., Гуммель А.В., Жуков А.О. Особенности и взаимосвязь задач идентификации
и управления в условиях неопределенности // Международный научно-технический журнал
«Проблемы управления и информатики». — 2008. —№ 5. — С. 23–38.
19. Губарев В.Ф., Жуков А.О. Исследование метода итеративной идентификации многомерных
дискретных систем // Там же. — 2010. — № 1. — С. 50–62.
20. Кременецкий И.А., Сальников Н.Н. Нестохастический подход к определению размерности
и параметров линейных авторегрессионных моделей по результатам измерения входных
и выходных переменных // Там же. — 2010. — № 1. — C. 63–75.
21. Губарев В.Ф., Мельничук С.В. Идентификация многомерных систем по параметрам устано-
вившегося режима // Там же. — 2012. — № 5. — С. 26–42.
22. Сарычев А.П. Идентификация параметров систем авторегрессионных уравнений при известных
ковариационных матрицах // Там же. — 2012. — № 3. — С. 14–30.
23. Сарычев А.П. Исследование методом статистических испытаний итерационной процедуры
для идентификации параметров системы авторегрессионных уравнений // Системні
технології. — 2014. — Вип. 3 (92). — С. 77–89.
24. Себер Дж. Линейный регрессионный анализ. — М. : Мир, 1980. — 456 с.
25. Сарычев А.П. Моделирование в классе систем регрессионных уравнений на основе метода
группового учета аргументов // Международный научно-технический журнал «Проблемы
управления и информатики». — 2013. — № 2. — С. 8–24.
26. Андерсон Т. Введение в многомерный статистический анализ. — М. : Физматгиз. — 1963.
— 500 с.
27. Ермаков С.М., Жиглявский А.А. Математическая теория оптимального эксперимента. —
М. : Наука, 1987. — 320 с.
Получено 02.12.2013
После доработки 10.11.2014
|