Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
The problem of finding linear unbiased estimates of the linear operator of unknown matrices — components of the observations vector, is investigated. It is assumed that the observation vector additively depends on a random vector with zero expected value, and the unknown correlation matrix belongs t...
Gespeichert in:
| Datum: | 2020 |
|---|---|
| Hauptverfasser: | , , , |
| Format: | Artikel |
| Sprache: | Ukrainisch |
| Veröffentlicht: |
The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute"
2020
|
| Schlagworte: | |
| Online Zugang: | https://journal.iasa.kpi.ua/article/view/228376 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
| Назва журналу: | System research and information technologies |
| Завантажити файл: |  |
Institution
System research and information technologies| _version_ | 1866302720472776704 |
|---|---|
| author | Nakonechnyi, Oleksandr Kudin, Grygoriy Zinko, Petro Zinko, Taras |
| author_facet | Nakonechnyi, Oleksandr Kudin, Grygoriy Zinko, Petro Zinko, Taras |
| author_sort | Nakonechnyi, Oleksandr |
| baseUrl_str | http://journal.iasa.kpi.ua/oai |
| collection | OJS |
| datestamp_date | 2021-04-08T14:17:06Z |
| description | The problem of finding linear unbiased estimates of the linear operator of unknown matrices — components of the observations vector, is investigated. It is assumed that the observation vector additively depends on a random vector with zero expected value, and the unknown correlation matrix belongs to a known bounded set. For the introduced class of linear estimates, necessary and sufficient conditions for the existence of solutions of operator equations that determine the unknown parameters of the vector estimate, are proved. The form of the guaranteed mean square error of the estimate is introduced on the sets of constraints of the problem parameters. The influence on the linear unbiased estimate of small perturbations of known rectangular matrices, which are the composites of the observations vector components, is also investigated. The analytical form is given through the parameters of the perturbed set of singularities for the introduced special operators that depend on a small parameter, which determine the corresponding operator equations, as well as their approximate solutions, in the first approximation of the small parameter method. A test example of solving the problem of finding a linear unbiased estimate under the condition of perturbation of both linearly independent and linearly dependent known observation matrices is presented. |
| doi_str_mv | 10.20535/SRIT.2308-8893.2020.4.07 |
| first_indexed | 2025-07-17T10:27:06Z |
| format | Article |
| fulltext |
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько, 2020
Системні дослідження та інформаційні технології, 2020, № 4 89
TIДC
МЕТОДИ ОПТИМІЗАЦІЇ, ОПТИМАЛЬНЕ
УПРАВЛІННЯ І ТЕОРІЯ ІГОР
УДК 519.711
DOI: 10.20535/SRIT.2308-8893.2020.4.07
НАБЛИЖЕНІ ГАРАНТОВАНІ ОЦІНКИ МАТРИЦЬ У ЗАДАЧАХ
ЛІНІЙНОЇ РЕГРЕСІЇ З МАЛИМ ПАРАМЕТРОМ
О.Г. НАКОНЕЧНИЙ, Г.І. КУДІН, П.М. ЗІНЬКО, Т.П. ЗІНЬКО
Анотація. Досліджено задачу знаходження лінійних незміщуваних оцінок лі-
нійного оператора невідомих матриць — складових вектора спостережень.
Припускається, що вектор спостережень адитивно залежить від випадкового
вектора з нульовим математичним сподіванням, а невідома кореляційна мат-
риця належить до відомої обмеженої множини. Для введеного класу лінійних
оцінок доводяться необхідні і достатні умови існування розв’язків оператор-
них рівнянь, які визначають невідомі параметри векторної оцінки. Подано ви-
гляд гарантованої середньоквадратичної похибки оцінки на множинах обме-
жень параметрів задачі. Досліджено вплив на лінійну незміщувану оцінку
малих збурень відомих прямокутних матриць, які є складовими компонент
вектора спостережень. Для введених спеціальних операторів, залежних від ма-
лого параметра, які визначають відповідні операторні рівняння, а також їх
наближені розв’язки у першому наближенні методу малого параметра, подано
аналітичний вигляд через параметри збуреного набору сингулярностей. Наве-
дено тестовий приклад розв’язування задачі знаходження лінійної незміщува-
ної оцінки за умови збурення як лінійно незалежних, так і лінійно залежних
відомих матриць спостереження.
Ключові слова: лінійне оцінювання, незміщені оцінки, гарантована середньо-
квадратична похибка, лінійні операторні рівняння, псевдообернені матриці,
малий параметр, збурені відомі матриці спостереження.
ВСТУП
Лінійне оцінювання спостережень з метою отримання незміщених оцінок є
предметом дослідження численних наукових публікацій. Перші публікації з
лінійного оцінювання спостережень охоплюють кінець попереднього сто-
річчя [1–6], нині інтерес до тематики зберігається [7].
Задачі лінійного регресійного аналізу в умовах, коли компонентами
векторів спостережень є матриці, відомі з яких за припущенням мають малі
відхилення від розрахункових, досліджувалися в публікаціях [9, 10]. Із ви-
користанням технології псевдообернених операторів, а також методу збу-
рення були досліджені рівняння для незміщених оцінок.
У цій роботі розв’язано задачу лінійного оцінювання у просторі прямо-
кутних матриць спостереження, коли відомі матриці також зазнали малих
збурень. Отримано операторні рівняння для коефіцієнтів векторної лінійної
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько
ISSN 1681–6048 System Research & Information Technologies, 2020, № 4 90
оцінки. Досліджено залежності лінійних оцінок від малих збурень матрич-
них коефіцієнтів лінійної регресії. Наведено тестовий приклад розв’язання
задачі лінійної регресії в умовах невизначеності з малими збуреннями.
ПОСТАНОВКА ЗАДАЧІ ГАРАНТОВАНОГО ЛІНІЙНОГО ОЦІНЮВАННЯ
Нехай спостерігається вектор NRy вигляду
, CXy (1)
де C — лінійний оператор, що діє із простору nmH матриць розмірності
nm у векторний простір NR ; X — невідома матриця, що належить до
відомої множини nmHG 0 ; NR — випадковий вектор, для якого
REE T,0 ( E символ математичного сподівання), R — невідома
кореляційна матриця із множини
}1)(sp:{1 QRRG , (2)
де Q — відома симетрична додатно визначена матриця; )(sp — слід
матриці.
Оскільки справедливі рівності
),(sp))((sp),( TT*
i
ii XAeCXeCX (3)
де C — оператор, спряжений до C , Niei ,1, — базис у NR , ,nmi HA
Ni ,1 , то спостереження (1) можна переписати у вигляді
NiXAy iii ,1,)(sp T .
Задано лінійний оператор L , що діє із простору матриць nmH у скін-
ченновимірний простір H розмірності s з базисом sie i ,1, :
.,1,),(sp))((sp),( TT* siHDXDeLXeLX nmii
ii
Ставиться задача знаходження лінійних незміщених оцінок вектора
XL , гарантованої середньоквадратичної похибки лінійної оцінки, а також
гарантованої середньоквадратичної похибки оцінки.
ЛІНІЙНА НЕЗМІЩЕНА ОЦІНКА
Лінійну оцінку вектора XL будемо шукати у класі оцінок вигляду
s
k
k
k eyuUyLX
1
^
),( , (4)
де NsHU — невідома матриця, ),...,( 1
T
)( kNkk uuu , sk ,1 ,
.)( ,1
,1
sk
NjkjuU
Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
Системні дослідження та інформаційні технології, 2020, № 4 91
Твердження 1. Для незміщеності оцінки вигляду (4) необхідно і достат-
ньо, щоб існували вектори sku k ,1, такі, що існують розв’язки рівнянь:
,)( )( kkk Du sk ,1 , (5)
де k — лінійний оператор, що діє із простору NR у простір матриць nmH ,
і який має вигляд
N
i
ikikk Auu
1
)( )( .
Доведення необхідності. Нехай виконуються умови (5), тобто існу-
ють вектори ),,( 1
T
)( kNkk uuu , sk ,1 — розв’язки системи рівнянь (5),
тоді можна отримати:
LXUCXLXUUCXEXLLXE )()(
^
0
)(sp
)(sp
(sp
(sp
T
T
1
T
T
1
)(
T
)1(
T
sNs XD
XD
XA
XA
u
u
skDAuX ki
N
i
ki ,1,0sp TT
1
.,1,0TT
1
skDAu ki
N
i
ki
Отже, оцінка вектора XL є незміщеною.
Доведення достатності. Якщо оцінка XL у класі лінійних оцінок ви-
гляду (4) за виконання умов (5) є незміщеною:
skDAuX ki
N
i
ki ,1,0sp TT
1
,
то з довільності матриць nmHX і векторів sku k ,1,T
)( випливають рів-
ності:
skDAu ki
N
i
ki ,1,0TT
1
,
які закінчують доведення твердження 1.
Позначимо через k оператор, псевдообернений до оператора k .
Твердження 2 [1]. Для того щоб рівняння (5) мали розв’язки (а отже,
існували незміщені оцінки), необхідно і достатньо, щоб матриці skDk ,1,
були такі, що виконуються умови:
skDD kkkk ,1,)( ,
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько
ISSN 1681–6048 System Research & Information Technologies, 2020, № 4 92
і при цьому розв’язки рівнянь (5) подаються у вигляді
))(()()( kkkkkk wIDu ,
де kw — вектор із простору NR ; I — одиничний оператор.
Означення. Гарантованою середньоквадратичною похибкою оцінки
^
LX (формула (4)) називається величина
. sup)(
2/12^
, 10
XLLXEU
GG
Твердження 3. Нехай nmHU , тоді гарантована середньоквадратична
похибка оцінки
^
LX набуде вигляду
,}:{якщо,
,}:{якщо,)(
)(
T-1
max2
UCLUV
UCLUVUUQ
U
Доведення. Оскільки
,sup)(sup | |sup)(
222^
,
2
1010
UEXUCLXLLXEU
GGGG
то якщо VU , виконується .(sup)(
22
1
UEU
G
Із нерівності ),,(max
2
~
2
lQlUlUl
G
де }1),(:{
~
llQlG , випливає, що
)( max)( T-1
max
2
~
2 UUQUlU
Gl
.
Очевидно, що якщо VU , то 2
)(sup
0
XUCL
G
.
Наслідок 1. Матриця T1UUQ подається у вигляді sjiji uuQ ,1,
1 ),(
.
Наслідок 2. Нехай існує незміщена оцінка (4). Тоді виконується нерів-
ність
)()(maxmin max
2
, 10
QU
GGU
,
де )(,),( ,1,
1
iiisjiji DuuuQQ
.
Наслідок 3. Нехай існує незміщена оцінка (4). Тоді якщо 1s , викону-
ється рівність
),()()(maxmin 11
1
max
2
, 10
uuQQU
GGU
,
де )( 111 Du
і оператор 1 , якщо IQ 2 , набувають вигляду
2
1
1
11111 )()()( DD .
Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
Системні дослідження та інформаційні технології, 2020, № 4 93
РОЗВ’ЯЗУВАННЯ ЗАДАЧІ ГАРАНТОВАНОГО ЛІНІЙНОГО ОЦІНЮВАННЯ
МЕТОДОМ МАЛОГО ПАРАМЕТРА
Далі будемо припускати, що лінійний оператор C (формула (1)) залежить
від малого параметра )0(, , тобто )(CC . Фактично із цього припу-
щення випливає, що відомі матриці NiHA nmi ,1, (формула (3)) (ком-
поненти вектора спостережень NRy , формула (1)) допускають малі
відхилення від розрахункових і залежать від малого параметра:
NiHAA nmii ,1,)( . Відповідно, у лінійній оцінці вектора XL (фор-
мула (4)) невідома матриця NsHU залежить від малого параметра, тобто
NsHUU )( , у системі рівнянь (6) kiu = Niuki ,1),( , sk ,1 —
невідомі компоненти вектор-рядка ,)(T
)(
N
k Ru sk ,1 матриці NsHU )( .
В евклідовому просторі розглядається лінійний оператор )( , що діє
зі скінченного евклідового векторного простору NR у простір матриць
nmH розмірності nm :
,,1,)()()()(
1
)( skDAuu ki
N
i
kik
(6)
де )(kiu — невідомі компоненти k -го вектор-рядка матриці NsHU )( , а
також спряжений до нього N
nm RH :)(* . Спряженим оператором
)(* до оператора )( є лінійний оператор, що діє в оберненому
операторі )( напрямку:
sk
ADsp
ADsp
D
Nk
k
k ,1,
))((
))((
)(
T
1
T
*
. (7)
Добутком двох операторів NN RR :)()(* (оператор )( ви-
значений формулою (6), а оператор )(* — формулою (7)) є лінійний опе-
ратор, матриця якого має вигляд
.
))()((sp))()((sp
))()((sp))()((sp
)()()(
T
1
T
T
11
T
1
*
NNN
N
AAAA
AAAA
F
Досліджуватимемо тепер розв’язок системи операторних рівнянь (6):
,,1,,)()()( skHDDu nmkkk
(8)
де
N
j
T
kjjjk DVspD
1
1 ),)(()()()( Njj ,1),(2 — власні числа
матриці )(F ; Njj ,1),( — відповідні їм власні вектори:
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько
ISSN 1681–6048 System Research & Information Technologies, 2020, № 4 94
NjHAV nmjk
N
k
k
j
j ,1,)()(
)(
1
)(
1
, (9)
Nkjjk ,1,),( — компоненти векторів ),...(),(()( 21 jj
T
j
,))(..., jN .,1 Nj
Лінійні оцінки за такого вибору sku k ,1),()( будуть такими:
s
k
k
k eyDLX
1
^
),)(( .
Визначення набору власних чисел і власних векторів матриці
)(F методом збурень. Набір власних векторів і власних чисел
,))(),(( 2 jj Nj ,1 матриці )(F — розв’язки задачі на власні числа і
власні вектори:
.,1),()()()( 2 NjF jjj (10)
У загальному випадку задача (10) аналітичного розв’язку не має, але
можна отримати наближений аналітичний розв’язок за допомогою відомого
методу збурення [8], якщо використовувати відомий розв’язок розглянутої
задачі за умови, що 0 , тобто відомий набір власних чисел і власних век-
торів матриці )0(F :
,)()1()0()( oIFFF NN
де NNI — матриця розмірності )( NN , усі елементи якої дорівнюють 1,
)(o — нескінченно мала величина.
Для матриці нульового наближення )0(F можна припустити (без об-
меження загальності), що перші r ))0(rang( Fr власні числа додатні і
різні (тобто rjijijij ,1,,,00,0)0( 222 ), а власне число 0)0(2
має кратність )( rN .
Згідно з теорією збурення набори сингулярностей ,))(),(( 2 jj
Nj ,1 (розв’язки задачі (10)) подаються такими виразами (у першому
наближенні):
;,1,)()1()0())( 222 Njojjj (11)
.,1,)()1()0()( 1 NjoI Njjj (12)
Тут rjj ,1,0)0(2 (у наборі нульового наближення сингулярні чис-
ла додатні), Nrjj ,1,0)0(2 (у наборі нульового наближення нульове
сингулярне число кратності )( rN ). Власні вектори Njj ,1,)( —
ортонормовані.
Підставляння виразів для збуреного набору сингулярностей (11), (12)
у рівняння (10) дозволяє отримати співвідношення:
Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
Системні дослідження та інформаційні технології, 2020, № 4 95
0 : ,,1,0)0()0()0()0( 2 rjF jjj (13)
;,1,0)0()0( NrjF j (14)
1 : ,,1),0()1()0()1()1()0()1()0( 22 rjFF jjjjjj
.,1),0()1()0()1()1()0( 2 NrjFF jjjj (15)
Рівності (13) визначають набір сингулярнстей нульового наближення
додатних власних чисел ,,1,0)0()),0(),0(( 22 rjjjj )0(rang Fr чи-
сел, а рівності (14) для власного 0)0(2 визначають )( rN ортонормова-
них векторів:
,)0(),...,0(),0( 00
2
0
1 Nrr NrjF j ,1,0)0()0( 0 , (16)
які можуть бути складовими базису підпростору rNP власного числа
0)0(2 . У рівностях (12) власні вектори Nrjj ,1),0( власних чисел
,0)0(2 j Nrj ,1 подаються лінійними комбінаціями ортонормованих
векторів (16):
.,1,)0()0(
1
0 Nrjd
N
r
jj
(17)
Алгоритм обчислення невідомих значень ,jd Nrj ,1, . Підста-
вивши подання власних векторів нульового власного числа через лінійні
комбінації ортогональних векторів підпростору rNP (формула (17)) у век-
тори (15) (рівняння для Nrjv j ,1),1( ) і спроектувавши їх на вектори
Nr ,1),0(0 базису (16), дістанемо )( rN систем рівнянь типу систем
рівнянь на власні числа і власні вектори матриці )1(F :
,,1,,0))1(())1()1((
1
202 NrjdF
N
r
jjj
(18)
де .,1,),0())0((),0()1())0(()1( 0T00T0 NrFF
Тут Nrd jj ,1,))1(( 20 — компоненти ортонормованих векторів,
що визначаються з точністю до довільної константи.
Якщо припустити, що корені Nrjj ,1),1(2 алгебричних рівнянь
Nrj
FF
FF
jNNrN
Nrjrr
,1,0
))1((
))1((
2
,1,
,1.
2
1.1
(19)
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько
ISSN 1681–6048 System Research & Information Technologies, 2020, № 4 96
додатні і прості, то для нульового кратного в нульовому наближенні власно-
го числа в першому наближенні розв’язками рівняння (10) визначаються
поправки, тобто виконуються рівності:
.,1,0)1(,)()1())( 222 Nrjo jjj (20)
Шукані значення параметрів Nrjd j ,1,, (формула (17)) визна-
чаються у процесі ортогоналізації векторів .,1,)0(
1
00 Nrjd
N
r
j
Отримана система N -вимірних векторів Njj ,1),0( (розв’язки сис-
теми (13), а також лінійні комбінації (17)) ортонормована і в методі збурен-
ня наступні наближення подаються розкладами за цією системою з подаль-
шим їх ортонормуванням:
.,1,)0()1()1(
1
NjC
N
jj
Перше наближення розв’язку задачі (10) на власні числа і власні векто-
ри з урахуванням формул (17)–(20) визначається виразами [10]:
;,1,)()1()0())( 222 rjojjj (21)
),0()1()0()1( T2
jjj F rj ,1 ;
,,1,)()1())( 22 Nrjojj (22)
де Nrjj ,1),1(2 — корені рівняння (19),
;`,1,)()1()0()( 1 NjoINjjj (23)
;,1,)0(1)1(
1
NjC
N
jj
,,,1,)),0()0(/()0()1()0()1( 22T jqrjqFC jqjqjq ;,1,0)1( rjC jj
;,1,,1),0(/)0()1()0()1( 2T NrqrjFC jjqjq
;,1,,1),0(/))0()1()0((1( 2T rqNrjFC qjqjq
NrqCq ,1,,)1( — довільні.
Відхилення норм власних векторів першого наближення, що відпові-
дають кратному нульовому власному числу, від одиниці згідно з методом
збурення пропорційно квадрату малого параметра. Зазначену похибку мож-
на мінімізувати вибором невизначених коефіцієнтів ,)1(qC Nrq ,1, .
Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
Системні дослідження та інформаційні технології, 2020, № 4 97
Перше наближення лінійної оцінки елемента ,)(sp T
iXDXL
.,1 si Отримані в першому наближенні N власних чисел і власних векто-
рів для збуреного оператора )()(* дозволяють знайти в першому на-
ближенні невідомі компоненти Niskuki ,1,,1),( k -го вектор-рядка
матриці NsHU )( — лінійної оцінки вектора XL вигляду )()(
^
yULX
(формули (7), (8)):
,,1),)((sp)()()(
1
T1
)( skDVu
N
j
kjjjk
де
rjojjj ,1,)()1()0())( 222 (формула (20));
,)()1())( 22 ojj Nrj ,1 (формула (21));
NjoI Njjj ,1,)()1()0()( 1 (формула (22));
NjHAV nmjk
N
k
k
j
j ,1,)()(
)(
1
)(
1
; ),( jk Nkj ,1, —
компоненти векторів .,1,)( NjR N
j
ПРИКЛАД
Нехай спостереження описуються системою лінійних рівностей:
2,1,))((sp T KkXAy kkk ,
де KkааA ккk 2,1,))(),(()( T
21 — відомі вектори:
;)2()1()(,1)( 21 kkkk hhaa
,2,1,)2(,)1()1( 1
1 KkRhhh k
k
k (24)
)0( —— малий параметр; T
21 ),( xxX —— невідомий вектор; ,k
Kk 2,1 —— компоненти випадкового вектора KR2 , для якого ,0E
RE )( T R( —— невідома кореляційна матриця із множини (2));
,))(sp),(sp( TT
2
T
1 XDXDLX (25)
T
2
T
1 )1,0(,)1,1( DD — відомі вектори.
Необхідно оцінити вектор T
221 ),( xxxLX .
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько
ISSN 1681–6048 System Research & Information Technologies, 2020, № 4 98
Розв’язування. Лінійна оцінка компонентів вектора LX визначається
розв’язком системи двох матричних рівнянь:
,2,1,0))()(
2
1
iDAu ik
K
k
ki (26)
де )(kiu — невідомі компоненти векторів )),(,,)(()( ,21
T
)( iKii uuu
2,1i —— рядків матриці T
)2()1( ))(),(()( uuU .
З урахуванням формул (24), (25) система рівнянь (26) переписується у
вигляді:
,1))2()1()((
,1)(
2
1
1
2
1
1
kk
K
k
k
K
k
k
hhu
u
,1))2()1()((
,0)(
2
1
2
2
1
2
kk
K
k
k
K
k
k
hhu
u
для якої в межах пошуку розв’язку з мінімальною нормою подаються опти-
мальні оцінки 2,1,2,1),( iKkuki
у вигляді:
.2,1,2,1,)(,)(
;))2()1(()()()(
1)(
2
)(
1
)(
2
)(
1
iKkRzz
hhzzu
ii
kk
ii
ki
(27)
Невідомі параметри 2,1,,)( 1 iqRzi
q визначаються розв’язком
операторних рівнянь:
,2,1),)(())(),((
;)()()()())(),()((
1
T)(
2
)(
1
2
)(
21
)(
1
T)(
2
)(
11
iDzz
DBzBzzz
i
ii
i
iiii
(28)
де
T
22
2
12122
T
21 )2,()(,),2()( HHHHBHKB ;
,)2(,)2()1(
;2),2(
2
1
2
22
2
1
12
2
11
2
1
2
K
k
k
K
k
kk
K
k
k
hHhhH
KhHhH
)(1 — оператор, псевдообернений до )(1 .
Спряженим оператором )(*
1 до оператора )(1 є лінійний оператор
2,1,
))((sp
))((sp
))((
2
T
1
T
*
1
i
BD
BD
D
i
i
i .
Матриця оператора KK RR 22
1
*
1 :)()( це матриця:
;)1()0()( 111 FFF
Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
Системні дослідження та інформаційні технології, 2020, № 4 99
,
0
04
)0(
2
1
2
1
H
K
F
12112
12
1
4)2(
)2(0
)1(
HHHKH
HKH
F .
Набір власних чисел і власних векторів матриці )(1 F у першому набли-
женні методу малого параметра для матриці )(F :
.)0,1(
2
)1,0()(,4)(
;))1,0(
2
)0,1()(,4)(
T
1
2T
2121
2
1
2
2
T
1
2T
1
22
1
HK
H
HHH
HK
H
K
(29)
Власні вектори у формулах (29) — ортонормовані.
Система нульового наближення не вироджена. У першому набли-
женні методу малого параметра отримуються розв’язки систем рівнянь (28):
)4(2
)(
2
1
)()(
12211
211
2
1
)1(
1 KHHHHK
HHH
KH
zD ;
)2(22
1
)()(
121
21
2
1
)2(
2
HHK
HH
HK
zD ,
які за підставляння у формули (27) визначають у першому наближенні ма-
лого параметра оптимальні оцінки 2,1,2,1),( iKkuki
у вигляді:
KkhHKhhH
KH
u kkkk 2,1)),1()2(2()1((
2
1
)( 21
1
1
;
KkhHKh
KH
u kkk 2,1)),1()2(2(
2
1
)( 2
1
2
.
Отримані вирази для 2,1,2,1),( iKkuki
дозволяють у першому на-
ближенні малого параметра визначити шукану оптимальну незміщену оцінку:
K
i
ii
K
i
ii
yu
yu
x
xx
LX 2
1
2
2
1
1
2
21^
)()(
)()(
.
Оцінка
^
LX у першому наближенні малого параметра суттєво спрос-
титься, якщо Kkhha k
k 2,1,)1( 21,2 . Для цього випадку
2
1122 2,2 KhHKhH ,
що дозволяє дістати вирази 2,1,,1),( iNkuki
у вигляді:
;))1(1()1((
2
1
)(1 kkk hhh
K
u
.2,1,,)1()1()),1(1(
2
1
)(
2
1
2
12 Kk
h
h
hhhhh
K
u k
kkk
(30)
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько
ISSN 1681–6048 System Research & Information Technologies, 2020, № 4 100
У такий спосіб у першому наближенні малого параметра визначено
матрицю T
)2()1( ))()(()( uuU
, компоненти рядків якої подано форму-
лами (30).
Згідно із твердженням 2 квадрат гарантованої середньоквадратичної
похибки оцінки
^
LX — це величина
))()(( | |sup)( T1-
max
2
^
,
2
10
UQUXLLXEU
GG
.
У розглянутому прикладі ()( U ,))(),( T
)2()1( uu
IQ -1 ( I оди-
нична матриця). Використовуючи значення в першому наближенні малого
параметра компонент матриці )(U (формули (30)), нескладно отримати
2
1
2
2
1
22
1
2
2
1
2222
1
2
T1- ,
)1()()1()(
)1()()()1(
)2(
1
)()(
h
h
h
hhhhhh
hhhhhhh
K
UQU
.
Шукана величина ))()(( T-1
max UQU за різних значень параметрів
набуває вигляду
2
1
T-1
max ))()(( 0 hUQU ;
.2))()(( 2
2
2
2
T-1
max
2
12 hhUQUhh (31)
Гарантована середньоквадратична похибка оцінки в першому набли-
женні в невиродженому випадку (формула (31)) за малих збурень приводить
до зменшення похибки.
Система нульового наближення вироджена. Розв’язки систем рів-
нянь (28) у першому наближенні методу малого параметра, якщо 01 h , ви-
значаються набором власних чисел і власних векторів матриці )(1 F :
.
02
24
)(
2
2
2
1
KH
KHK
F
Власні числа й власні вектори матриці )(1 F :
;))1,0(
2
)0,1()(,4)( T2T
1
22
1 K
H
K
.)0,1(
2
)1,0()(,0)( T2T
2
2
2 K
H
(32)
Власні вектори у формулах (32) ортонормовані
У підсумку отримано розв’язки систем рівнянь (28) у першому
наближенні методу малого параметра:
)/(12
)(
22
2)1(
HHK
H
z ,
2
)2( 0
)(
H
z ,
які за підставляння у формули (27) визначають у першому наближенні ма-
лого параметра оптимальні оцінки 2,1,2,1),( iKkuki
у вигляді:
Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
Системні дослідження та інформаційні технології, 2020, № 4 101
))/)2()2(2(()1()( 221 HhhKHu kkk
;
.2,1,)2()1()( 2
2
2 KkhHu kk
Оцінка
^
LX у першому наближенні малого параметра для цього випад-
ку за умови, що Kkhhk 2,1,)2( 2 , спроститься:
K
i
ii
K
i
ii
yu
yu
x
xx
LX
2
1
2
2
1
1
2
21
^
)()(
)()(
,
де
))2/(14()1()(ˆ 21 KKhu i , .2,1,2)1()( 2
2
2
2 KiKhu i
(33)
У припущенні IQ -1 і з використанням значень у першому наближен-
ні малого параметра компонент матриці )(U (формули (30), (33)) матриця
)()( T-1 UQU набуває вигляду
.
0
)12(
4)()(
2
2
2
2
2
22
22T1-
h
hh
KUQU
Гарантована середньоквадратична похибка оцінки в першому набли-
женні малого параметра (вироджений випадок) така:
))()(( T-1
max UQU 2
2 )21( h ,
тобто малі збурення призводять до збільшення похибки.
ВИСНОВКИ
У роботі досліджено задачу лінійного оцінювання; отримано операторні
рівняння для коефіцієнтів векторної лінійної незміщеної оцінки. Для введе-
ного класу лінійних оцінок наведено необхідні і достатні умови існування
розв’язків рівнянь, які визначають невідомі вектори шуканих оцінок, подано
вигляд гарантованої середньоквадратичної похибки оцінки. Запропоновано
розв’язання задачі лінійного оцінювання, коли в компонентах вектора спо-
стережень для відомих матриць можливі малі збурення як лінійно незалеж-
них, так і лінійно залежних відомих матриць. У першому наближенні ме-
тоду малого параметра розв’язано рівняння для невідомих параметрів
шуканих оцінок. Наведено тестовий приклад наближеного аналітичного
розв’язку поставленої задачі.
ЛІТЕРАТУРА
1. А. Алберт, Регресія, псевдоінверсія, рекурентне оцінювання. Москва: Наука,
1977, 305 с.
2. B.F. Arnold and P. Stanlecker, “Linear estimation in regression analysis using fuzzy
prior information”, Rardom Oper. And Stoch. Equ, vol. 5, no. 2, pp. 105–116, 1997.
О.Г. Наконечний, Г.І. Кудін, П.М. Зінько, Т.П. Зінько
ISSN 1681–6048 System Research & Information Technologies, 2020, № 4 102
3. O. Nakonechnyi and J. Michalek, “Minimax estimates of linear parameters function
in regression model under restraictions on parameters and variance-covariance ma-
trix”, J.Comput.Appl.Math., no. 1(81), pp. 22–32, 1997.
4. N. Christopeit and K. Helmes, “Linear minimax estimation with ellipsoidal con-
straints”, Acta Applicandae Mathematicae, 43, 1, pp. 3–15, 1996.
5. V. Girko, “Spektral Theory of Minimax Estirnation”, Acta applicandae mathemati-
cae, 43, 1, pp. 59–69, 1996.
6. G. Trenkler and P. Stahlekecr, “Quasi minimax estimation in the linear regression
model”, Statistics, 18, pp. 219–226, 1987.
7. H. Дрейпер та Г. Смит, Прикладний регресійний аналіз. Видавничий будинок
«Вільямс», 2007, 912 с.
8. Д.І. Блохинцев, Основи квантової механіки. Москва: Наука, 1976, 864 с.
9. O.G. Nakonechnyi, G.I. Kudin, and T.P. Zinko, “Formule of perturbation for one
class of inverse operators”, Matematychni Studii, 52, no. 2. pp. 124–132, 2019.
10. А.Г. Наконечний, Г.И. Кудин, П.Н. Зинько, та Т.П. Зинько, “Метод збурень
у задачах лінійної матричної регресії”, Проблеми керування й інформатики,
№ 1, с. 38–47, 2020.
Надійшла 22.12.2020
INFORMATION ON THE ARTICLE
Oleksandr G. Nakonechnyi, ORCID: 0000-0002-8705-3070, Taras Shevchenko Na-
tional University of Kyiv, Ukraine, e-mail: a.nakonechniy@gmail.com.
Grygoriy I. Kudin, ORCID: 0000-0002-1322-4551, Taras Shevchenko National Univer-
sity of Kyiv, Ukraine, e-mail: gkudin@ukr.net.
Petro M. Zinko, ORCID: 0000-0002-5111-4417, Taras Shevchenko National University
of Kyiv, Ukraine, e-mail: petro.zinko@gmail.com
Taras P. Zinko, ORCID: 0000-0003-1263-9293, Taras Shevchenko National University
of Kyiv, Ukraine, e-mail: taras.zinko@gmail.com
APPROXIMATE GUARANTEED ESTIMATES FOR MATRICES IN LINEAR
REGRESSION PROBLEMS WITH A SMALL PARAMETER / O.G. Nakonechnyi,
G.I. Kudin, P.M. Zinko, T.P. Zinko
Abstract. The problem of finding linear unbiased estimates of the linear operator of
unknown matrices — components of the observations vector, is investigated. It is
assumed that the observation vector additively depends on a random vector with
zero expected value, and the unknown correlation matrix belongs to a known
bounded set. For the introduced class of linear estimates, necessary and sufficient
conditions for the existence of solutions of operator equations that determine the un-
known parameters of the vector estimate, are proved. The form of the guaranteed
mean square error of the estimate is introduced on the sets of constraints of the prob-
lem parameters. The influence on the linear unbiased estimate of small perturbations
of known rectangular matrices, which are the composites of the observations vector
components, is also investigated. The analytical form is given through the parame-
ters of the perturbed set of singularities for the introduced special operators that de-
pend on a small parameter, which determine the corresponding operator equations,
as well as their approximate solutions, in the first approximation of the small pa-
rameter method. A test example of solving the problem of finding a linear unbiased
estimate under the condition of perturbation of both linearly independent and line-
arly dependent known observation matrices is presented.
Keywords: linear estimation, unbiased estimates, guaranteed mean square error, lin-
ear operator equations, pseudo inverse matrices, small parameter, perturbed known
observation matrices.
Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром
Системні дослідження та інформаційні технології, 2020, № 4 103
ПРИБЛИЖЕННЫЕ ГАРАНТИРОВАНЫЕ ОЦЕНКИ МАТРИЦ В ЗАДАЧАХ
ЛИНЕЙНОЙ РЕГРЕССИИ С МАЛЫМ ПАРАМЕТРОМ / А.Г. Наконечный,
Г.И. Кудин, П.Н. Зинько, Т.П. Зинько
Аннотация. Исследована задача нахождения несмещенных оценок линейного
оператора неизвестных матриц — составляющих вектора наблюдений. Пред-
полагается, что вектор наблюдений аддитивно зависит от случайного вектора с
нулевым математическим ожиданием, а неизвестная корреляционная матрица
принадлежит известному ограниченному множеству. Для введенного класса
линейных оценок доказываются необходимые и достаточные условия су-
ществования решений операторных уравнений определяющих неизвестные
параметры векторной оценки. Подан вид гарантированной среднеквадратиче-
ской погрешности оценки на множествах ограничений параметров задачи. Ис-
следовано влияние на линейную несмещенную оценку малых возмущений из-
вестных прямоугольных матриц, которые являются составляющими компонент
вектора наблюдений. Для введенных специальных операторов, зависящих от ма-
лого параметра, которые определяют соответствующие операторные уравне-
ния, а также их приближенные решения в первом приближении метода метода
малого параметра, подано аналитический вид через параметры возмущенного
набора сингулярностей. Приведен тестовый пример решения задачи нахожде-
ния линейной несмещенной оценки при условиях возмущения как линейно не-
зависимых, так и линейно зависимых известных матриц наблюдения.
Ключевые слова: линейное оценивание, несмещенные оценки, гарантирован-
ная среднеквадратическая погрешность, линейные операторные уравнения,
псевдообратные матрицы, малый параметр, возмущенные известные матрицы
наблюдения.
REFERENCES
1. А. Albert, Regression, pseudo inverse, recurrent evaluation. Moskow: Nauka, 1977,
305 p.
2. B.F. Arnold and P. Stanlecker,“Linear estimation in regression analysis using fuzzy
prior information”, Rardom Oper. And Stoch. Equ, vol. 5, no. 2, pp. 105–116, 1997.
3. O. Nakonechnyi and J. Michalek,“Minimax estimates of linear parameters function
in regression model under restraictions on parameters and variance-covariance ma-
trix”, J.Comput.Appl.Math, no. 1(81), pp. 22–32,1997.
4. N. Christopeit and K. Helmes,“Linear minimax estimation with ellipsoidal con-
straints”, Acta Applicandae Mathematicae, 43, 1, pp.3–15,1996.
5. V. Girko,“Spektral Theory of Minimax Estirnation”, Acta applicandae mathemati-
cae, 43,1, pp.59–69, 1996.
6. G. Trenkler and P. Stahlekecr,“Quasi minimax estimation in the linear regression
model”, Statistics, 18, pp. 219–226, 1987.
7. N. Draper and H. Smith, Applied Regression Analysis. Publishing house “Williams”,
2007, 912 p.
8. D.I. Blokhintsev, Fundamentals of quantum mechanics. Moskow: Nauka, 1976,
864 p.
9. O.G. Nakonechnyi, G.I. Kudin, and T.P. Zinko, “Formulas of perturbation for one
class of inverse operators”, Matematychni Studii, 52, no. 2. pp. 124–132, 2019.
10. O.G. Nakonechnyi, G.I. Kudin, P.M. Zinko, and T.Р. Zinko,“Excitation method in
problems of regression of a linear matrix”, International Scientific Technical Journal
“Problems of Control and Informatics”, vol.1, pp. 38–47, 2020.
|
| id | journaliasakpiua-article-228376 |
| institution | System research and information technologies |
| keywords_txt_mv | keywords |
| language | Ukrainian |
| last_indexed | 2025-07-17T10:27:06Z |
| publishDate | 2020 |
| publisher | The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute" |
| record_format | ojs |
| resource_txt_mv | journaliasakpiua/45/079fd4bbd08cedc7c2791de837483045.pdf |
| spelling | journaliasakpiua-article-2283762021-04-08T14:17:06Z Approximate guaranteed estimates for matrices in linear regression problems with a small parameter Приближенные гарантированые оценки матриц в задачах линейной регрессии с малым параметром Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром Nakonechnyi, Oleksandr Kudin, Grygoriy Zinko, Petro Zinko, Taras линейное оценивание несмещенные оценки гарантированная среднеквадратическая погрешность линейные операторные уравнения псевдообратные матрицы малый параметр возмущенные известные матрицы наблюдения linear estimation unbiased estimates guaranteed mean square error linear operator equations pseudo inverse matrices small parameter perturbed known observation matrices лінійне оцінювання незміщені оцінки гарантована середньоквадратична похибка лінійні операторні рівняння псевдообернені матриці малий параметр збурені відомі матриці спостереження The problem of finding linear unbiased estimates of the linear operator of unknown matrices — components of the observations vector, is investigated. It is assumed that the observation vector additively depends on a random vector with zero expected value, and the unknown correlation matrix belongs to a known bounded set. For the introduced class of linear estimates, necessary and sufficient conditions for the existence of solutions of operator equations that determine the unknown parameters of the vector estimate, are proved. The form of the guaranteed mean square error of the estimate is introduced on the sets of constraints of the problem parameters. The influence on the linear unbiased estimate of small perturbations of known rectangular matrices, which are the composites of the observations vector components, is also investigated. The analytical form is given through the parameters of the perturbed set of singularities for the introduced special operators that depend on a small parameter, which determine the corresponding operator equations, as well as their approximate solutions, in the first approximation of the small parameter method. A test example of solving the problem of finding a linear unbiased estimate under the condition of perturbation of both linearly independent and linearly dependent known observation matrices is presented. Исследована задача нахождения несмещенных оценок линейного оператора неизвестных матриц — составляющих вектора наблюдений. Предполагается, что вектор наблюдений аддитивно зависит от случайного вектора с нулевым математическим ожиданием, а неизвестная корреляционная матрица принадлежит известному ограниченному множеству. Для введенного класса линейных оценок доказываются необходимые и достаточные условия существования решений операторных уравнений определяющих неизвестные параметры векторной оценки. Подан вид гарантированной среднеквадратической погрешности оценки на множествах ограничений параметров задачи. Исследовано влияние на линейную несмещенную оценку малых возмущений известных прямоугольных матриц, которые являются составляющими компонент вектора наблюдений. Для введенных специальных операторов, зависящих от малого параметра, которые определяют соответствующие операторные уравнения, а также их приближенные решения в первом приближении метода метода малого параметра, подано аналитический вид через параметры возмущенного набора сингулярностей. Приведен тестовый пример решения задачи нахождения линейной несмещенной оценки при условиях возмущения как линейно независимых, так и линейно зависимых известных матриц наблюдения. Досліджено задачу знаходження лінійних незміщуваних оцінок лінійного оператора невідомих матриць — складових вектора спостережень. Припускається, що вектор спостережень адитивно залежить від випадкового вектора з нульовим математичним сподіванням, а невідома кореляційна матриця належить до відомої обмеженої множини. Для введеного класу лінійних оцінок доводяться необхідні і достатні умови існування розв’язків операторних рівнянь, які визначають невідомі параметри векторної оцінки. Подано вигляд гарантованої середньоквадратичної похибки оцінки на множинах обмежень параметрів задачі. Досліджено вплив на лінійну незміщувану оцінку малих збурень відомих прямокутних матриць, які є складовими компонент вектора спостережень. Для введених спеціальних операторів, залежних від малого параметра, які визначають відповідні операторні рівняння, а також їх наближені розв’язки у першому наближенні методу малого параметра, подано аналітичний вигляд через параметри збуреного набору сингулярностей. Наведено тестовий приклад розв’язування задачі знаходження лінійної незміщуваної оцінки за умови збурення як лінійно незалежних, так і лінійно залежних відомих матриць спостереження. The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute" 2020-12-29 Article Article application/pdf https://journal.iasa.kpi.ua/article/view/228376 10.20535/SRIT.2308-8893.2020.4.07 System research and information technologies; No. 4 (2020); 89-103 Системные исследования и информационные технологии; № 4 (2020); 89-103 Системні дослідження та інформаційні технології; № 4 (2020); 89-103 2308-8893 1681-6048 uk https://journal.iasa.kpi.ua/article/view/228376/227498 |
| spellingShingle | лінійне оцінювання незміщені оцінки гарантована середньоквадратична похибка лінійні операторні рівняння псевдообернені матриці малий параметр збурені відомі матриці спостереження Nakonechnyi, Oleksandr Kudin, Grygoriy Zinko, Petro Zinko, Taras Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром |
| title | Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром |
| title_alt | Approximate guaranteed estimates for matrices in linear regression problems with a small parameter Приближенные гарантированые оценки матриц в задачах линейной регрессии с малым параметром |
| title_full | Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром |
| title_fullStr | Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром |
| title_full_unstemmed | Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром |
| title_short | Наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром |
| title_sort | наближені гарантовані оцінки матриць у задачах лінійної регресії з малим параметром |
| topic | лінійне оцінювання незміщені оцінки гарантована середньоквадратична похибка лінійні операторні рівняння псевдообернені матриці малий параметр збурені відомі матриці спостереження |
| topic_facet | линейное оценивание несмещенные оценки гарантированная среднеквадратическая погрешность линейные операторные уравнения псевдообратные матрицы малый параметр возмущенные известные матрицы наблюдения linear estimation unbiased estimates guaranteed mean square error linear operator equations pseudo inverse matrices small parameter perturbed known observation matrices лінійне оцінювання незміщені оцінки гарантована середньоквадратична похибка лінійні операторні рівняння псевдообернені матриці малий параметр збурені відомі матриці спостереження |
| url | https://journal.iasa.kpi.ua/article/view/228376 |
| work_keys_str_mv | AT nakonechnyioleksandr approximateguaranteedestimatesformatricesinlinearregressionproblemswithasmallparameter AT kudingrygoriy approximateguaranteedestimatesformatricesinlinearregressionproblemswithasmallparameter AT zinkopetro approximateguaranteedestimatesformatricesinlinearregressionproblemswithasmallparameter AT zinkotaras approximateguaranteedestimatesformatricesinlinearregressionproblemswithasmallparameter AT nakonechnyioleksandr približennyegarantirovanyeocenkimatricvzadačahlinejnojregressiismalymparametrom AT kudingrygoriy približennyegarantirovanyeocenkimatricvzadačahlinejnojregressiismalymparametrom AT zinkopetro približennyegarantirovanyeocenkimatricvzadačahlinejnojregressiismalymparametrom AT zinkotaras približennyegarantirovanyeocenkimatricvzadačahlinejnojregressiismalymparametrom AT nakonechnyioleksandr nabliženígarantovaníocínkimatricʹuzadačahlíníjnoíregresíízmalimparametrom AT kudingrygoriy nabliženígarantovaníocínkimatricʹuzadačahlíníjnoíregresíízmalimparametrom AT zinkopetro nabliženígarantovaníocínkimatricʹuzadačahlíníjnoíregresíízmalimparametrom AT zinkotaras nabliženígarantovaníocínkimatricʹuzadačahlíníjnoíregresíízmalimparametrom |