Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors
We consider the vector linear errors-in-variables model. For this model, we construct an adjusted least-squares estimator and prove its weak and strong consistency under various assumptions about measurement errors.
Gespeichert in:
| Datum: | 2012 |
|---|---|
| Hauptverfasser: | , |
| Format: | Artikel |
| Sprache: | Ukrainisch Englisch |
| Veröffentlicht: |
Institute of Mathematics, NAS of Ukraine
2012
|
| Online Zugang: | https://umj.imath.kiev.ua/index.php/umj/article/view/2679 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
| Назва журналу: | Ukrains’kyi Matematychnyi Zhurnal |
| Завантажити файл: |  |
Institution
Ukrains’kyi Matematychnyi Zhurnal| _version_ | 1860508625028513792 |
|---|---|
| author | Sen'ko, I. O. Сенько, І. О. |
| author_facet | Sen'ko, I. O. Сенько, І. О. |
| author_sort | Sen'ko, I. O. |
| baseUrl_str | https://umj.imath.kiev.ua/index.php/umj/oai |
| collection | OJS |
| datestamp_date | 2020-03-18T19:32:37Z |
| description | We consider the vector linear errors-in-variables model. For this model, we construct an adjusted least-squares estimator and prove its weak and strong consistency under various assumptions about measurement errors. |
| first_indexed | 2026-03-24T02:28:11Z |
| format | Article |
| fulltext |
УДК 519.21
I. О. Сенько (Київ. нац. ун-т iм. Т. Шевченка)
КОНCИСТЕНТНIСТЬ ПОКРАЩЕНОЇ ОЦIНКИ НАЙМЕНШИХ КВАДРАТIВ
У ВЕКТОРНIЙ ЛIНIЙНIЙ МОДЕЛI З ПОХИБКАМИ ВИМIРЮВАННЯ
We consider the vector linear errors-in-variables model. For this model, we construct an adjusted least-squares estimator
and prove its weak and strong consistency under various assumptions about measurement errors.
Рассматривается векторная линейная модель с погрешностями в переменных, для которой построена исправленная
оценка наименьших квадратов. Доказаны слабая и строгая состоятельность этой оценки при различных предполо-
жениях о погрешностях измерений.
1. Вступ. Моделi з похибками в змiнних є важливим узагальненням регресiйних моделей,
оскiльки iснує велика кiлькiсть практичних застосувань, де всi данi, що є в моделi, отримуються
в результатi вимiрювань, а отже, є неточними. Зокрема, такi моделi зустрiчаються в задачах
iдентифiкацiї динамiчних систем, обробки сигналiв, поширення звуку, а також в задачах геоло-
гiчних та океанографiчних дослiджень. Загальний огляд моделей з похибками в змiнних можна
знайти в [1]. Для коректного розв’язування подiбних задач необхiдно враховувати наявнiсть
похибок як у залежних, так i в незалежних змiнних.
Розв’язання матричного рiвняння AX = B при великiй кiлькостi рядкiв у матрицях A, B
по сутi є розв’язанням переозначеної системи лiнiйних рiвнянь. Подiбна модель для однови-
мiрного випадку, коли X є вектором, розглядалася, зокрема, у [2]. Якщо сукупна коварiацiйна
матриця адитивних похибок у спостережених матрицях A, B вiдома з точнiстю до сталого
множника, то отримують оцiнку повних найменших квадратiв [3] або її модифiкацiї. Наприк-
лад, зважену оцiнку найменших квадратiв розглянуто в [4]. Оптимальнiсть покращеної оцiнки
найменших квадратiв для одновимiрного випадку було доведено в [5]. Також оцiнки, побудо-
ванi подiбними способами, розглядалися в [6] для полiномiальної моделi та в [7] для бiлiнiйної
векторної моделi. У випадку, коли жодної iнформацiї про кореляцiйну матрицю похибок у на-
явностi немає, можна використати iдею кластеризацiї, як це було зроблено у [8].
У данiй роботi розглянуто переозначену систему лiнiйних рiвнянь AX = B. Сукупна кова-
рiацiйна матриця похибок у спостереженнях матрицi A є вiдомою, а матрицi B — невiдомою.
Вивчається покращена оцiнка найменших квадратiв та її консистентнiсть, коли кiлькiсть рядкiв
у матрицi A нескiнченно зростає.
Надалi будемо використовувати наступнi позначення. Усi вектори є стовпцями; ‖z‖ — ев-
клiдова норма вектора z ∈ Rn; In — одинична матриця розмiру n× n; для матрицi Z ∈ Rm×n,
Z = (zij)
m
i=1,
n
j=1, будемо позначати через ‖Z‖ операторну норму матрицi, що вiдповiдає евклi-
довiй нормi у Rn та Rm, а ‖Z‖F =
√∑m
i=1
∑n
j=1
z2ij — норма Фробенiуса матрицi Z. Че-
рез Z† будемо позначати псевдообернену матрицю [9] до матрицi Z. Математичне сподiвання
та дисперсiю будемо позначати символами E та var вiдповiдно. Для послiдовностi випадкових
матриць
{
Xm ∈ Rn×d,m > 0
}
запис Xm
P−→ X0, m → ∞, означає, що ‖Xm −X0‖
P−→ 0,
m → ∞. Аналогiчно визначається збiжнiсть випадкових матриць майже напевно Xm
P1−→ X0,
m → ∞. Позначення Xm = oP(1), m → ∞, означає, що Xm
P−→ 0, m → ∞, а Xm = OP(1),
c© I. О. СЕНЬКО, 2012
1536 ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
КОНCИСТЕНТНIСТЬ ПОКРАЩЕНОЇ ОЦIНКИ НАЙМЕНШИХ КВАДРАТIВ У ВЕКТОРНIЙ ЛIНIЙНIЙ . . . 1537
m → ∞, означає, що послiдовнiсть випадкових величин {‖Xm‖} стохастично обмежена. Для
квадратної симетричної матрицi V через λmin (V ) та λmax (V ) будемо позначати вiдповiдно
її найменше та найбiльше власнi числа. Через const будемо позначати довiльну сталу, яка не
залежить вiд кiлькостi вимiрювань m.
Опишемо коротко будову статтi. У пунктi 2 наведено опис моделi спостережень та показано
зв’язок множинної векторної моделi регресiї з матричним рiвнянням. У пунктi 3 побудовано
покращену оцiнку найменших квадратiв за умови, що є вiдомою сукупна кореляцiйна матриця
похибок спостережень прихованих змiнних. У пунктi 4 наведено умови, за яких ця оцiнка є
слабко та строго консистентною. Пункт 5 присвячено дослiдженню швидкостi збiжностi оцiнки.
Доведення теорем винесено у додаток.
2. Модель спостережень. Нехай є деякий невiдомий лiнiйний оператор X з Rn в Rd,
Xz = XT
0 z, z ∈ Rn. Тут X0 =
(
x0ij
) n
i=1,
d
j=1. Для знаходження цього оператора спостерiгаються
набори його вхiдних i вихiдних значень; спостереження мiстять адитивнi випадковi похибки.
Позначимо через a0i ∈ Rn, i > 1, невипадковi вектори, що задають iстиннi значення вхiдних
даних; b0i ∈ Rd, i > 1, — вектори, що задають iстиннi значення вихiдних даних; елементи цих
векторiв позначатимемо вiдповiдно a0ij та b0ij . Для iстинних значень виконується рiвнiсть
b0i = XT
0 a
0
i , i > 1.
Будемо спостерiгати за векторами ai ∈ Rn, bi ∈ Rd, 1 6 i 6 m, причому
ai = a0i + ãi, bi = b0i + b̃i,
де ãi та b̃i — центрованi похибки вимiрювань. Елементи цих векторiв будемо позначати ана-
логiчно через aij , ãij , bij , b̃ij . Тодi векторна лiнiйна модель з похибками у змiнних задається
рiвностями
bi = XT
0 a
0
i + b̃i, ai = a0i + ãi, 1 6 i 6 m.
Використовуючи позначення A =
[
a1 a2 . . . am
]T
= (aij)
m
i=1,
n
j=1 i так само задаючи
A0, Ã, B, B0, B̃, де A = A0 + Ã, B = B0 + B̃, цю модель можна символiчно записати у виглядi
наближеної рiвностi
AX ≈ B
за умови, що
A0X0 = B0.
Будемо позначати через VÃ = E ÃT Ã кореляцiйну матриця сукупних похибок у регресорi.
Вона вважається вiдомою.
Основним припущенням щодо похибки спостережень є наступне:
(i) набори похибок {ãij , i > 1, 1 6 j 6 n} та {b̃il, i > 1, 1 6 l 6 d} незалежнi мiж собою,
центрованi, а також мають скiнченнi другi моменти.
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
1538 I. О. СЕНЬКО
3. Побудова оцiнки. Скористаємось методом виправленої оцiночної функцiї, описаним
у [10] (розд. 7). Розпочнемо з цiльової функцiї, яка вiдповiдає методу найменших квадратiв:
qLS (X,A,B)
df
= ‖AX −B‖2F.
У просторi матриць Rn×d розглянемо скалярний добуток
(U, V )
df
= tr
(
UV T
)
, U, V ∈ Rm×d.
Тодi норма Фробенiуса ‖ · ‖F буде породжуватися цим скалярним добутком. Похiдна
∂qLS
∂X
є
лiнiйним функцiоналом на Rn×d,
1
2
∂qLS
∂X
(H) = tr
(
AT (AX −B)HT
)
=
(
AT (AX −B) , H
)
, H ∈ Rn×d.
За вiдсутностi похибок у змiнних, тобто коли Ã = 0 та B̃ = 0, оцiнку найменших квадратiв
отримуємо за допомогою мiнiмiзацiї цiльової функцiї qLS, а отже, оцiнку можна обчислити
з рiвняння
∂qLS
∂X
= 0. Тому оцiночною функцiєю для методу найменших квадратiв буде функцiя
ψLS (X,A,B)
df
= AT (AX −B) ,
i за необтяжливих умов оцiнка найменших квадратiв буде консистентною при m → ∞, якщо
похибки у вимiрюваннях вiдсутнi.
Використовуючи вищезгаданий метод виправленої оцiночної функцiї, будемо шукати нову
оцiночну функцiю ψ (X,A,B) так, щоб виконувалося спiввiдношення
E
(
ψ
(
X,A0 + Ã, B
)∣∣∣B) = ψLS (X,A0, B) ∀X,A0. (1)
Розв’язком (1) у класi полiномiальних матричнозначних функцiй є функцiя
ψ = AT (AX −B)− E Ã
T ÃX =
(
ATA− VÃ
)
X −ATB.
Тодi оцiнка X̂ = X̂m визначається з рiвняння
ψ
(
X̂, A,B
)
= 0, X̂ ∈ Rn×d. (2)
Точнiше, покладемо
X̂ =
(
ATA− VÃ
)†
ATB. (3)
Цю оцiнку називатимемо покращеною оцiнкою найменших квадратiв.
Якщо матриця ATA − VÃ невироджена, то X̂ в точностi задовольняє рiвняння (2) i є його
єдиним розв’язком. При доведеннi теорем про консистентнiсть буде показано, що при необме-
женому зростаннi m ця матриця буде невиродженою з iмовiрнiстю, що прямує до одиницi.
4. Слабка та строга консистентнiсть оцiнки. Для доведення консистентностi будемо
використовувати наступнi припущення:
(ii) рядки матрицi à є незалежними випадковими векторами, тобто незалежними є век-
тори {ãi, i > 1}, та рядки матрицi B̃ незалежнi, тобто незалежними є вектори {b̃i, i > 1};
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
КОНCИСТЕНТНIСТЬ ПОКРАЩЕНОЇ ОЦIНКИ НАЙМЕНШИХ КВАДРАТIВ У ВЕКТОРНIЙ ЛIНIЙНIЙ . . . 1539
(iii) E ã4ij 6 const; E b̃2il 6 const, i > 1, 1 6 j 6 n, 1 6 j 6 n;
(iii′) ∃i0 > 1 ∀i > i0 : компоненти векторiв ãi попарно незалежнi, а також E ã2ij 6 const;
E b̃2il 6 const, i > 1, 1 6 j 6 n, 1 6 j 6 n;
(iv)
λmax (VA0) +m
λ2min (VA0)
→ 0, m→∞, де VA0
df
= AT
0A0.
Зауваження 1. Умова (iv) — це умова П. Галло, яку вперше для подiбних задач розгляну-
то в [11].
Теорема 1. Нехай виконуються припущення (ii), (iv) та одне з припущень (iii) або (iii)′.
Тодi X̂
P−→ X0, m→∞.
Доведення. Перетворимо рiвняння (3) таким чином:
X̂ =
(
ATA− VÃ
)†
ATB =
(
ATA− VÃ
)†
AT
(
B0 + B̃
)
.
Якщо iснує
(
ATA− VÃ
)−1
, то це рiвняння можна записати у виглядi(
ATA− VÃ
)
X̂ = AT
(
B0 + B̃
)
.
Iз припущення (iv) випливає, що iснує m0 ∈ N таке, що для будь-якого m > m0 виконується
detVA0 6= 0. Тодi для m > m0
V −1A0
(
ATA− VÃ
)
X̂ = V −1A0
(
ATA0X0 +AT B̃
)
. (4)
Для консистентностi оцiнки (3) достатньо показати, що при m→∞
V −1A0
(
ATA− VÃ
) P−→ In, (5)
V −1A0
(
ATA0
) P−→ In, (6)
V −1A0
AT B̃
P−→ 0. (7)
Доведення цих збiжностей при виконаннi умов теореми 1 винесено в додаток.
З урахуванням виконання (5) – (7) рiвнiсть (4) набирає вигляду(
In + oP(1)
)
X̂ =
(
In + oP(1)
)
X0 + oP(1), m→∞,
а отже,
X̂
P−→ X0, m→∞.
Теорему доведено.
Для доведення строгої консистентностi введемо посиленi умови, порiвняно з умовами (iii)
та (iv):
(v) ∃r > 2: E |ãij |2r 6 const;E
∣∣∣b̃il∣∣∣2r 6 const, i > 1, 1 6 j 6 n, 1 6 l 6 d;
(vi) для числа r з умови (v) та деякого m0 > 1 виконується
∞∑
m=m0
(
mr/2
λrmin (VA0)
+
λrmax (VA0)
λ2rmin (VA0)
)
<∞.
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
1540 I. О. СЕНЬКО
Теорема 2. Якщо виконуються припущення (ii), (v), (vi), то
X̂
P1−→ X0, m→∞.
Доведення вмiщено в додатку.
5. Порядок збiжностi. Нехай виконуються умови теореми 1. Тодi з iмовiрнiстю, що прямує
до 1 при m→∞, матимемо (
ATA− VÃ
)
X̂ = ATB.
Позначимо ∆̂ = X̂ −X0 i розглянемо m > m0, при яких матриця VA0 буде невиродженою.
Тодi (
ATA− VÃ
)
∆̂ = AT
(
A0X0 + B̃
)
−
(
ATA− VÃ
)
X0,
V −1A0
(
ATA− VÃ
)
∆̂ = V −1A0
AT B̃ + V −1A0
(
ATA0X0 −
(
ATA− VÃ
)
X0
) df
= R1 +R2.
(8)
З (5) маємо (
ATA− VÃ
)
∆̂ =
(
In + oP(1)
)
∆̂, m→∞. (9)
У процесi доведення збiжностi (7) (див. додаток) отримуємо
E ‖R1‖2F 6 const
λmax (VA0) +m
λ2min (VA0)
.
Тодi
R1 =
√
λmax (VA0) +m
λ2min (VA0)
OP(1), m→∞. (10)
Запишемо розклад R2 = R21 +R22, де
R21
df
= V −1A0
(
ATA0X0 − VA0X0
)
= V −1A0
ÃTA0X0,
R22
df
= V −1A0
(
(ATA− VÃ)X0 − VA0X0
)
=
= V −1A0
(
ÃT Ã− VÃ
)
X0 − V −1A0
(
AT
0 Ã+ ÃTA0
)
X0.
Розглянемо R21. Використовуючи доведення теореми 1 (див. додаток), маємо
E ‖V −1A0
ÃTA0‖2F 6 const
λmax (VA0)
λ2min (VA0)
.
Отже,
E ‖R21‖ 6 const
λmax (VA0)
λ2min (VA0)
,
R21 =
√
λmax (VA0)
λmin (VA0)
OP(1), m→∞.
(11)
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
КОНCИСТЕНТНIСТЬ ПОКРАЩЕНОЇ ОЦIНКИ НАЙМЕНШИХ КВАДРАТIВ У ВЕКТОРНIЙ ЛIНIЙНIЙ . . . 1541
Далi, так само оцiнимо R22 :
E
∥∥∥V −1A0
(
ÃT Ã− VÃ
)∥∥∥2
F
6 const
m
λ2min (VA0)
,
E
∥∥∥V −1A0
ÃTA0
∥∥∥2
F
6 const
λmax (VA0)
λ2min (VA0)
.
Отже,
R22 =
√
m+
√
λmax (VA0)
λmin (VA0)
OP(1), m→∞. (12)
Остаточно з (8) – (12) при виконаннi умов теореми 1 отримуємо
X̂ −X0 =
√
m+
√
λmax (VA0)
λmin (VA0)
OP(1), m→∞.
6. Висновки. У роботi розглянуто множинну векторну модельAX = B, для якої побудовано
покращену оцiнку найменших квадратiв (3), що є консистентною у випадку, коли залежнi змiннi
моделi спостерiгаються з похибками. Дослiджено швидкiсть збiжностi цiєї оцiнки до iстинного
параметра X0.
Подальший iнтерес викликає встановлення умов асимптотичної нормальностi оцiнки (3) та
побудова модифiкацiї оцiнки для малого та середнього обсягу вибiрки. Модифiкована оцiнка
повинна мати таку ж асимптотичну ефективнiсть, але бути бiльш стiйкою з обчислювальної
точки зору для реального обсягу вибiрки.
7. Додаток. 7.1. Доведення збiжностей (5) – (7). 1. Нехай виконано припущення (ii) – (iv).
Доведемо (5). Маємо
V −1A0
(
ATA− VÃ
)
= In + V −1A0
(
ÃT Ã− VÃ
)
+ V −1A0
(
ÃTA0 +AT
0 Ã
)
, (13)
E
∥∥∥V −1A0
(
ÃT Ã− VÃ
)∥∥∥2
F
6
∥∥∥V −1A0
∥∥∥2 E
∥∥∥ÃT Ã− VÃ
∥∥∥2
F
,
∥∥∥V −1A0
∥∥∥ =
1
λmin (VA0)
.
З умов (ii), (iii) випливає, що
E
∥∥∥ÃT Ã− VÃ
∥∥∥2
F
= E
n∑
i,k=1
m∑
j=1
(ãjiãjk − E ãjiãjk)
2 =
=
n∑
i,k=1
var
m∑
j=1
ãjiãjk
=
n∑
i,k=1
m∑
j=1
var (ãjiãjk) .
З умови (iii) отримуємо
var (ãjiãjk) = E (ãjiãjk)2 − (E ãjiãjk)2 6 E (ãjiãjk)2 6
√
E ã4ji
√
E ã4jk 6 const. (14)
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
1542 I. О. СЕНЬКО
Тому
E
∥∥∥ÃT Ã− VÃ
∥∥∥2
F
6 const ·m.
З припущення (iv) випливає, що
E
∥∥∥V −1A0
(
ÃT Ã− VÃ
)∥∥∥2
F
6
const ·m
λ2min (VA0)
→ 0, m→∞.
Отже,
V −1A0
(
ÃT Ã− VÃ
)
P−→ 0, m→∞. (15)
Далi, з використанням (ii) та (iii) отримуємо
E
∥∥∥∥V −1A0
(
ÃTA0 +AT
0 Ã
)∥∥∥∥2
F
6
∥∥∥V −1A0
∥∥∥2 E ∥∥∥∥(ÃTA0 +AT
0 Ã
)∥∥∥∥2
F
6
6
1
λ2min (VA0)
E
(∥∥∥ÃTA0
∥∥∥
F
+
∥∥∥AT
0 Ã
∥∥∥
F
)2
=
4
λ2min (VA0)
E
∥∥∥ÃTA0
∥∥∥2
F
,
(16)
E
∥∥∥ÃTA0
∥∥∥2
F
=
n∑
i,k=1
E
m∑
j=1
a0ij ãik
2 =
=
n∑
i,k=1
E
m∑
j=1
(
a0ji
)2
(ãjk)2 +
m∑
j,j′=1
j 6=j′
a0jia
0
j′iãjkãj′k
=
=
n∑
i,k=1
m∑
j=1
(
a0ji
)2
E (ãjk)2 + 2
m∑
j,j′=1
j6j′
a0jia
0
j′i E
(
ãjkãj′k
) =
=
n∑
i,k=1
m∑
j=1
(
a0ji
)2
E (ãjk)2 6
6 const · ‖A0‖2F 6 const · λmax (VA0) .
Тому
E
∥∥∥V −1A0
(
ÃTA0 +AT
0 Ã
)∥∥∥2
F
6
const · λmax (VA0)
λ2min (VA0)
→ 0, m→∞,
що випливає з (iv). Отже,
V −1A0
(
ÃTA0 +AT
0 Ã
)
P−→ 0, m→∞. (17)
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
КОНCИСТЕНТНIСТЬ ПОКРАЩЕНОЇ ОЦIНКИ НАЙМЕНШИХ КВАДРАТIВ У ВЕКТОРНIЙ ЛIНIЙНIЙ . . . 1543
З (13), (15) i (17) маємо (5).
Для доведення (6) запишемо
V −1A0
(
ATA0
)
= In + V −1A0
ÃTA0.
З (16) маємо
E
∥∥∥V −1A0
ÃTA0
∥∥∥2
F
6
∥∥∥V −1A0
∥∥∥2 E
∥∥∥ÃTA0
∥∥∥2
F
6
const
λ2min (VA0)
λmax (VA0) −−−−→
m→∞
0.
Отже,
V −1A0
ÃTA0
P−→ 0, m→∞.
Звiдси i отримуємо (6).
Доведемо спiввiдношення (7):∥∥∥V −1A0
AT B̃
∥∥∥2
F
6
1
λ2min (VA0)
∥∥AT B̃
∥∥2
F
.
З умов (ii) та (iii) маємо
E
∥∥∥AT B̃
∥∥∥2
F
=
n∑
j=1
d∑
l=1
E
(
m∑
i=1
aij b̃il
)2
=
n∑
j=1
d∑
l=1
m∑
i=1
E a
2
ij E b̃
2
il 6
n∑
j=1
m∑
i=1
E a
2
ij =
=
∑
j,i
E
(
(a0ij)
2 + 2a0ij ãij + (ãij)
2
)
=
∑
j,i
(a0ij)
2 +
∑
j,i
E(ãij)
2 6
6 ‖A0‖2F +
n∑
j=1
m∑
i=1
(
E ã
4
ij
)1/2
6 const (λmax (VA0) +m) .
Тодi
E
∥∥∥AT B̃
∥∥∥2
F
6 const
λmax (VA0) +m
λ2min (VA0)
→ 0, m→∞,
за припущенням (iv). Це i доводить справедливiсть (7).
2. Розглянемо випадок, коли виконано припущення (ii), (iii′), (iv). Тодi доведення не змiню-
ється, за винятком того, що у (14) оцiнювання вiдбувається з використанням припущення (iii′):
var (ãjiãjk) 6 E (ãjiãjk)2 = E ã
2
jiE ã
2
jk 6 const.
7.2. Нерiвнiсть Розенталя. При доведеннi строгої консистентностi буде суттєво вико-
ристовуватися наступне твердження [12, с. 244].
Лема 1 (нерiвнiсть Розенталя). Нехай {ηi, i > 1} — послiдовнiсть незалежних випадкових
величин, E ηi = 0, i > 1. Тодi для будь-яких t ∈ R, t > 2 i m > 1
E
∣∣∣∣∣
m∑
i=1
ηi
∣∣∣∣∣
t
6 c(t) max
m∑
i=1
E |ηi|t ,
(
m∑
i=1
E η
2
i
)t/2,
де величина c(t) залежить лише вiд t i не залежить вiд m.
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
1544 I. О. СЕНЬКО
7.3. Доведення теореми 2. Можна показати, що збiжнiсть у (5) – (7) за даних умов є збiжнiс-
тю з iмовiрнiстю 1. Тодi з (4) випливатиме доведення теореми.
Оцiнимо момент рiзницi ÃT Ã− VÃ, де r — число з умови (v):
E
∥∥∥ÃT Ã− VÃ
∥∥∥r
F
= E
∥∥∥∥∥
m∑
i=1
(
ãiã
T
i − E ãiã
T
i
)∥∥∥∥∥
r
F
6
6 const ·max
m∑
i=1
E
∥∥ãiãTi − E ãiã
T
i
∥∥r
F
,
(
m∑
i=1
E
∥∥ãiãTi − E ãiã
T
i
∥∥2
F
)r/2 ,
E
∥∥ãiãTi − E ãiã
T
i
∥∥r
F
= E
n∑
j,k=1
(ãij ãik − E ãij ãik)2
r/2 6
6 const · E
n∑
j,k=1
(
|ãij ãik|r + r|ãij ãik|r−1 E |ãij ãik|
)
=
= const ·
n∑
j,k=1
(
E |ãij ãik|r + r E |ãij ãik|r−1 E |ãij ãik|
)
6
6 const ·
n∑
j,k=1
(√
E |ãij |2r
√
E |ãik|2r+
+r
√
E |ãij |2r−2
√
E |ãik|2r−2 E
√
|ãij |2|ãik|2
)
6 const,
E
∥∥∥ÃT Ã− VÃ
∥∥∥2
F
6
(
E
∥∥∥ÃT Ã− VÃ
∥∥∥r
F
) r
2
6 const.
Оскiльки r > 2, то з леми 1 маємо
E
∥∥∥ÃT Ã− VÃ
∥∥∥r
F
6 const ·mr/2.
Далi,
E
∥∥∥V −1A0
(
ÃT Ã− VÃ
)∥∥∥r
F
6
∥∥∥V −1A0
∥∥∥r E∥∥∥ÃT Ã− VÃ
∥∥∥r
F
6 const · mr/2
λrmin (VA0)
.
Тодi з умови (vi) за лемою Бореля – Кантеллi отримуємо
V −1A0
(
ÃT Ã− VÃ
)
P1−→ 0, m→∞.
Так само можна довести, що
V −1A0
(
ÃTA0 +AT
0 Ã
)
P1−→ 0, m→∞.
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
КОНCИСТЕНТНIСТЬ ПОКРАЩЕНОЇ ОЦIНКИ НАЙМЕНШИХ КВАДРАТIВ У ВЕКТОРНIЙ ЛIНIЙНIЙ . . . 1545
Дiйсно,
E
∥∥∥AT
0 Ã
∥∥∥2r
F
= E
∥∥∥∥∥
m∑
i=1
a0i ã
T
i
∥∥∥∥∥
2r
F
6 const ·max
(
m∑
i=1
E
∥∥a0i ãTi ∥∥2rF ,
(
m∑
i=1
∥∥∥a0i ãTi ∥∥∥2
F
)r)
,
E
∥∥a0i ãTi ∥∥2rF 6 const · ‖a0i ‖2r E ‖ãi‖
2r
(v)
6 const · ‖a0i ‖2r,
E
∥∥∥AT
0 Ã
∥∥∥2r
F
6 const ·max
(
m∑
i=1
‖a0i ‖2r,
(
m∑
i=1
‖a0i ‖2
)r)
6
6 const
(
‖A0‖2F
)r
6 const · λrmax (VA0) .
Тому
E
∥∥∥V −1A0
(
ÃTA0 +AT
0 Ã
)∥∥∥2r
F
6
∥∥∥V −1A0
∥∥∥2r · 2E∥∥∥AT
0 Ã
∥∥∥2r
F
6 const · λ
r
max (VA0)
λ2rmin (VA0)
.
Оскiльки
∞∑
m=m0
λrmax (VA0)
λ2rmin (VA0)
< +∞,
то за лемою Бореля – Кантеллi
V −1A0
(
ÃTA0 +AT
0 Ã
)
P1−→ 0, m→∞.
Отже, збiжнiсть у (5) буде в сенсi збiжностi м. н.
Аналогiчно матрицi в (6) збiгаються з iмовiрнiстю 1.
Для доведення збiжностi з iмовiрнiстю 1 у (7) розглянемо
E
[∥∥∥AT B̃
∥∥∥2r
F
∣∣∣∣ Ã] = E
∥∥∥∥∥
m∑
i=1
aib̃
T
i
∥∥∥∥∥
2r
F
∣∣∣∣∣∣ Ã
6
6 const
(
m∑
i=1
E
[∥∥∥aib̃Ti ∥∥∥2r
F
∣∣∣∣ Ã]+
(
m∑
i=1
E
[∥∥∥aib̃Ti ∥∥∥2
F
∣∣∣∣ Ã]
)r)
.
З використанням припущення (v) маємо
E
[∥∥∥aib̃Ti ∥∥∥2r
F
∣∣∣∣ Ã] 6 E
[
‖ai‖2r b̃i‖2r
∣∣∣ Ã] 6 const‖ai‖2r E
∥∥∥b̃Ti ∥∥∥2r 6const‖ai‖2r.
Далi,
E
(
m∑
i=1
E
[∥∥∥aib̃Ti ∥∥∥2r
F
∣∣∣∣ Ã]
)
6 const
m∑
i=1
E ‖ai‖2r 6 const
m∑
i=1
(
‖a0i ‖2r + E ‖ãi‖2r
)
6
6 const
(
‖A0‖2rF +m
)
= const (λrmax (VA0) +m) ,
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
1546 I. О. СЕНЬКО
E
(
m∑
i=1
E
[∥∥∥aib̃Ti ∥∥∥2
F
∣∣∣∣ Ã]
)r
6 const
(
m∑
i=1
E ‖ai‖2
)r
6 const
m∑
i=1
(
‖a0i ‖2 + E ‖ãi‖2
)r
6
6 const
(
λmax
(
VA0
)
+m
)r
6 const
(
λrmax (VA0) +mr
)
.
Тому
E
∥∥∥AT B̃
∥∥∥2r
F
6 const · λ
r
max (VA0) +mr
λ2rmin (VA0)
.
Тодi, використовуючи припущення (vi) та лему Бореля – Кантеллi, маємо
V −1A0
AT B̃
P1−→ 0, m→∞.
Зрештою, матрицi у (5) – (7) збiгаються з iмовiрнiстю 1, i теорему доведено.
1. Fuller W. A. Measurement error models. – New York: Wiley, 1987. – 440 p.
2. Cheng C.-L., Van Ness J. Structural and functional models revisited // Recent Advances in Total Least Squares
Techniques and Error-in-Variables Modeling: SIAM Proceedings Series (Leuven, Belgium, August 21 – 24, 1996). –
Philadelphia, 1997. – P. 37 – 50.
3. Van Huffel S., Vandewalle J. The total least squares problem: Computation aspects and analysis. – Philadelphia:
SIAM, 1991. – 300 p.
4. Kukush A., Van Huffel S. Consistency of elementwise-weighted total least squares estimator in a multivariate errors-
in-variables model AX = B // Metrika. – 2004. – 59. – P. 75 – 97.
5. Kukush A., Otto Mashke E. The efficiency of adjusted least squares in the linear functional relationship // J. Multivar.
Anal. – 2003. – 87. – P. 261 – 274.
6. Cheng C.-L., Schneeweiss H. Polynomial regression with errors in the variables // J. R. Statist. Soc. B. – 2000. – 60.
– P. 189 – 199.
7. Kukush A., Markovsky I., Van Huffel S. Consistent estimator in the bilinear multivariate errors-in-variables model //
Metrika. – 2003. – 57. – P. 253 – 285.
8. Кукуш О. Г., Полеха М. Я. Конзистентна оцiнка у векторнiй моделi з похибками у змiнних при невiдомiй
коварiацiйнiй структурi похибок // Укр. мат. журн. – 2007. – 59, № 8. – P. 1026 – 1033.
9. Гантмахер Ф. Р. Теория матриц. – М.: Наука, 1988. – 576 c.
10. Carroll R. J., Ruppert D., Sefanski L. A. Measurement error in nonlinear models: number 63 in monographs on
statistics and applied probability. – London: Chapman & Hall, 1995. – 305 p.
11. Gallo P. P. Consistency of regression estimates when some variables are subject to error // Communs Statist. B-Theory
Methods. – 1982. – 11. – P. 973 – 893.
12. Härdle W., Kerkyacharian G., Picard D., Tsybakov A. Wavelets approximation and statistical applications. – New
York: Springer-Verlag, 1998. – 265 p.
Одержано 04.04.12
ISSN 1027-3190. Укр. мат. журн., 2012, т. 64, № 11
|
| id | umjimathkievua-article-2679 |
| institution | Ukrains’kyi Matematychnyi Zhurnal |
| keywords_txt_mv | keywords |
| language | Ukrainian English |
| last_indexed | 2026-03-24T02:28:11Z |
| publishDate | 2012 |
| publisher | Institute of Mathematics, NAS of Ukraine |
| record_format | ojs |
| resource_txt_mv | umjimathkievua/71/7b634831672441d810797eb44ca2f071.pdf |
| spelling | umjimathkievua-article-26792020-03-18T19:32:37Z Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors Консистентність покращеної оцінки найменших квадратів у векторній лінійній моделі з похибками вимірювання Sen'ko, I. O. Сенько, І. О. We consider the vector linear errors-in-variables model. For this model, we construct an adjusted least-squares estimator and prove its weak and strong consistency under various assumptions about measurement errors. Рассматривается векторная линейная модель с погрешностями в переменных, для которой построена исправленная оценка наименьших квадратов. Доказаны слабая и строгая состоятельность этой оценки при различных предположениях о погрешностях измерений. Institute of Mathematics, NAS of Ukraine 2012-11-25 Article Article application/pdf https://umj.imath.kiev.ua/index.php/umj/article/view/2679 Ukrains’kyi Matematychnyi Zhurnal; Vol. 64 No. 11 (2012); 1536-1546 Український математичний журнал; Том 64 № 11 (2012); 1536-1546 1027-3190 uk en https://umj.imath.kiev.ua/index.php/umj/article/view/2679/2117 https://umj.imath.kiev.ua/index.php/umj/article/view/2679/2118 Copyright (c) 2012 Sen'ko I. O. |
| spellingShingle | Sen'ko, I. O. Сенько, І. О. Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors |
| title | Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors |
| title_alt | Консистентність покращеної оцінки найменших квадратів у векторній лінійній моделі з похибками вимірювання |
| title_full | Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors |
| title_fullStr | Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors |
| title_full_unstemmed | Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors |
| title_short | Consistency of an adjusted least-squares estimator in a vector linear model with measurement errors |
| title_sort | consistency of an adjusted least-squares estimator in a vector linear model with measurement errors |
| url | https://umj.imath.kiev.ua/index.php/umj/article/view/2679 |
| work_keys_str_mv | AT sen039koio consistencyofanadjustedleastsquaresestimatorinavectorlinearmodelwithmeasurementerrors AT senʹkoío consistencyofanadjustedleastsquaresestimatorinavectorlinearmodelwithmeasurementerrors AT sen039koio konsistentnístʹpokraŝenoíocínkinajmenšihkvadratívuvektorníjlíníjníjmodelízpohibkamivimírûvannâ AT senʹkoío konsistentnístʹpokraŝenoíocínkinajmenšihkvadratívuvektorníjlíníjníjmodelízpohibkamivimírûvannâ |