Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів
Розглядається лiнiйна модель регресiї зi слабко залежним випадковим шумом та регресорами, якi залежать вiд часу та спостерiгаються зi слабко залежними похибками. Дослiджуються властивостi консистентностi та асимптотичної нормальностi оцiнки найменших квадратiв параметрiв такої моделi регресiї. Расс...
Saved in:
| Published in: | Доповіді НАН України |
|---|---|
| Date: | 2014 |
| Main Authors: | , |
| Format: | Article |
| Language: | Ukrainian |
| Published: |
Видавничий дім "Академперіодика" НАН України
2014
|
| Subjects: | |
| Online Access: | https://nasplib.isofts.kiev.ua/handle/123456789/87696 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| Journal Title: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Cite this: | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів / О.В. Iванов, I.В. Орловський // Доповiдi Нацiональної академiї наук України. — 2014. — № 5. — С. 24-28. — Бібліогр.: 9 назв. — укр. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| _version_ | 1859953321636265984 |
|---|---|
| author | Іванов, О.В. Орловський, І.В. |
| author_facet | Іванов, О.В. Орловський, І.В. |
| citation_txt | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів / О.В. Iванов, I.В. Орловський // Доповiдi Нацiональної академiї наук України. — 2014. — № 5. — С. 24-28. — Бібліогр.: 9 назв. — укр. |
| collection | DSpace DC |
| container_title | Доповіді НАН України |
| description | Розглядається лiнiйна модель регресiї зi слабко залежним випадковим шумом та регресорами, якi залежать вiд часу та спостерiгаються зi слабко залежними похибками.
Дослiджуються властивостi консистентностi та асимптотичної нормальностi оцiнки найменших квадратiв параметрiв такої моделi регресiї.
Рассматривается линейная модель регрессии со слабо зависимым случайным шумом и регрессорами, которые зависят от времени и наблюдаются со слабо зависимыми ошибками.
Исследуются свойства состоятельности и асимптотической нормальности оценки наименьших квадратов параметров такой модели регрессии.
A linear regression model with weakly dependent random noise and time-dependent regressors
which are observed with weakly dependent errors is considered. The consistency and the asymptotic
normality of the least squares estimator of such a regression model are proved.
|
| first_indexed | 2025-12-07T16:18:11Z |
| format | Article |
| fulltext |
УДК 519.21
О.В. Iванов, I. В. Орловський
Асимптотичнi властивостi оцiнки параметрiв лiнiйної
регресiї у випадку слабко залежних регресорiв
(Представлено членом-кореспондентом НАН України П.С. Кноповим)
Розглядається лiнiйна модель регресiї зi слабко залежним випадковим шумом та регре-
сорами, якi залежать вiд часу та спостерiгаються зi слабко залежними похибками.
Дослiджуються властивостi консистентностi та асимптотичної нормальностi оцiн-
ки найменших квадратiв параметрiв такої моделi регресiї.
У роботi отримано умови консистентностi та асимптотичної нормальностi оцiнки наймен-
ших квадратiв (о. н. к.) невiдомого параметра лiнiйної моделi регресiї з випадковими регре-
сорами та корельованими спостереженнями. Модель такого типу є природним узагальнен-
ням класичної моделi типу “сигнал + шум”.
О. н. к. обрано як одну з найважливiших та широко вживаних оцiнок параметрiв регре-
сiйних моделей. Асимптотичнi властивостi о. н. к. параметрiв лiнiйної та нелiнiйної регресiї,
без помилок у регресорах, розглядались багатьма дослiдниками, i ми пошлемося лише на
монографiї О.В. Iванова та М.М. Леоненка [1], О.В. Iванова [2], в яких мiститься доста-
тньо повна бiблiографiя робiт з даного питання.
Асимптотичнi властивостi о. н. к. параметрiв лiнiйних моделей з випадковими регресо-
рами та корельованими спостереженнями є менш вивченими. В книзi А.Я. Дороговцева [3]
розглядалась асимптотична поведiнка о. н. к. параметрiв лiнiйної моделi зi слабко залежни-
ми помилками в регресорах, якi мають незалежнi вiд часу тренди, та слабко залежним
шумом. У статтi Л.П. Голубовської, О.В. Iванова та I. В. Орловського [4] дослiджено кон-
систентнiсть та асимптотичну нормальнiсть параметрiв моделей зi слабко залежними по-
милками в регресорах i слабко або сильно залежним випадковим шумом.
У роботi увагу зосереджено на отриманнi сильної консистентностi та асимптотичної нор-
мальностi о. н. к. параметрiв лiнiйної моделi зi слабко залежними помилками в регресорах,
якi мають залежнi вiд часу тренди.
1. Постановка задачi. Розглянемо модель регресiї
X(t) =
q∑
i=1
θizi(t) + ε(t), t ∈ [0, T ], zi(t) = ai(t) + yi(t), i = 1, q, (1)
де θ∗ = (θ1, . . . , θq) ∈ R
q — вектор невiдомих параметрiв (∗ означає транспонування),
ai : [0,∞) → R
1, i = 1, q, — деякi невипадковi неперервнi функцiї i:
A1. yi(t), t ∈ R
1, i = 1, q, — незалежнi, неперервнi у середньоквадратичному, вимiрнi
стацiонарнi гауссiвськi процеси, Eyi(0) = 0.
A2. Випадковий шум ε(t), t ∈ R
1, — неперервний в середньому квадратичному, вимiр-
ний, гауссiвський стацiонарний процес, що не залежить вiд yi(t), t ∈ R
1, i = 1, q, Eε(0) = 0.
© О.В. Iванов, I. В. Орловський, 2014
24 ISSN 1025-6415 Reports of the National Academy of Sciences of Ukraine, 2014, №5
Означення 1. О. н. к. невiдомого параметра θ, одержаною за спостереженнями
{X(t), zi(t), i = 1, q, t ∈ [0, T ]} виду (1), називається будь-який випадковий вектор θ̂T =
= θ̂T (X(t), zi(t), i = 1, q, t ∈ [0, T ]), для якого
QT (θ̂T ) = inf
τ∈Rq
QT (τ), QT (τ) =
T∫
0
[
X(t) −
q∑
i=1
τizi(t)
]2
dt.
Введемо такi позначення:
A∗(t) = (a1(t), . . . , aq(t)), Y ∗(t) = (y1(t), . . . , yq(t)), Z(t) = A(t) + Y (t).
Тодi
θ̂T = Λ−1
T T−1
T∫
0
Z(t)X(t) dt = θ + Λ−1
T T−1
T∫
0
Z(t)ε(t) dt, (2)
де ΛT = (Λil
T )
q
i,l=1 = T−1
T∫
0
Z(t)Z∗(t) dt.
2. Допомiжнi твердження. Розглянемо деякi твердження, якi використовуються для
отримання основних результатiв роботи.
Введемо подальшi припущення:
A3. Випадковi процеси yi(t), t ∈ R
1, i = 1, q, мають абсолютно iнтегрованi коварiацiйнi
функцiї (к.ф.) Bi(t) = Eyi(0)yi(t).
Лiтерами k будемо позначати додатнi константи. Нехай також,
d2T = diag(d2iT )
q
i=1, d2iT =
T∫
0
a2i (t) dt, i = 1, q.
B1. lim
T→∞
T−1d2iT = ki, 0 < ki < ∞, i = 1, q.
B2. ai(t), t ∈ [0,∞), i = 1, q, — обмеженi функцiї.
Запишемо
JT = (J il
T )
q
i,l=1, J il
T = T−1
T∫
0
ai(t)al(t) dt.
B3. lim
T→∞
JT = J , де J = (J il)qi=1 — деяка додатно визначена матриця.
Введемо також позначення
Λ = R(0) + J, R(0) = diag(Bi(0))
q
i=1.
У нижченаведенiй лемi розглянуто асимптотичну поведiнку ΛT .
Лема 1. Якщо виконано умови A1, A3, B1–B3, то
ΛT −→
T→∞
Λ, майже напевно (м. н.).
ISSN 1025-6415 Доповiдi Нацiональної академiї наук України, 2014, №5 25
З леми випливає таке твердження.
Наслiдок 1. Якщо виконано умови A1, A3, B1–B3, то для майже всiх ω ∈ Ω iснує
таке T0 = T0(ω), що для всiх T > T0 о. н. к. θ̂T , яку задано (2), є визначеною.
Сформулюємо одну властивiсть повiльно змiнної функцiї (п. з.ф.), яка є узагальненням
теореми 2.7 працi [5, c. 65–67] i використовується при доведеннi консистентностi о. н. к.
параметрiв моделi (теорема 2).
Лема 2. Нехай число η > 0 та вимiрна функцiя f(t, s), визначена на (0,∞) × (0,∞),
такi, що iнтеграл
β∫
0
β∫
0
f(t, s)
|t− s|η dtds
збiгається при деякому 0 < β < ∞. Нехай п. з. ф. L обмежена на кожному скiнченному
iнтервалi з R+. Тодi при η > 0 виконується спiввiдношення
β∫
0
β∫
0
L(T |t− s|)f(t, s) dtds ∼
T→∞
L(T )
β∫
0
β∫
0
f(t, s) dtds.
У випадку η = 0 для виконання цього спiввiдношення достатньо неспадання на пiвосi
(0,∞) функцiї L.
При доведеннi асимптотичної нормальностi о. н. к. (теорема 5) використовується одно-
рiдна нерiвнiсть Гельдера–Юнга–Браскампа–Лiба, формулювання якої можна знайти
в [6, 7].
3. Сильна консистентнiсть о. н. к. Зробимо додаткове припущення стосовно процесу
ε(t), t ∈ R
1.
A4. Випадковий процес ε(t), t ∈ R
1, має абсолютно iнтегровну к.ф. B(t) = Eε(0)ε(t).
Теорема 1. Якщо виконано умови A1–A4 та B1–B3, то о. н. к. θ̂T є сильно консис-
тентною оцiнкою параметрiв θ, тобто θ̂T −→
T→∞
θ м. н.
Нехай замiсть A4 виконано умову
A5. Випадковий шум ε(t), t ∈ R
1, має к.ф. B(t) = L(|t|)|t|−α, де L(t), t > 0, — п. з.ф.,
яка обмежена на кожному скiнченному iнтервалi, α ∈ (0, 1/2).
Теорема 2. Якщо виконано умови A1–A3, A5 та B1–B3, то θ̂T −→
T→∞
θ м. н.
Зауважимо, що для випадку, коли деякi з ki = ∞, є вiрними аналогiчнi результати.
У цьому випадку умови B1–B3 переформулюються таким чином.
B1′. lim
T→∞
T−1d2iT = ki, 0 < ki 6 ∞, i = 1, q, якщо для деякого i ki = ∞, то iснує таке
µi > 0, що Td−2
iT = o(T−µi).
B2′. sup
t∈[0,T ]
|ai(t)|d−1
iT 6 k̆iT
−1/2, i = 1, q.
Позначимо
J̃T = (J̃ il
T )
q
i,l=1, J̃ il
T = d−1
iT d−1
lT
T∫
0
ai(t)al(t) dt.
B3′. lim
T→∞
J̃T = J̃ , де J̃ = (J̃ il)qi,l=1 — деяка додатно визначена матриця.
26 ISSN 1025-6415 Reports of the National Academy of Sciences of Ukraine, 2014, №5
Теорема 3. Якщо виконано умови A1–A4 та B1′–B3′, то
T−1/2dT (θ̂T − θ) −→
T→∞
0 м. н.
Теорема 4. Якщо виконано умови A1–A3, A5 та B1′–B3′, то
T−1/2dT (θ̂T − θ) −→
T→∞
0 м. н.
4. Асимптотична нормальнiсть о. н. к. Введемо матричну мiру µT (dx) на (R1,B1)
з матрицею щiльностi
(µjl
T (x))
q
j,l=1,
µjl
T (x) = ajT (x)a
l
T (x)
(∫
R1
|ajT (x)|2dx
∫
R1
|alT (x)|2dx
)
−1/2
,
ajT (x) =
T∫
0
eixtaj(t) dt, j, l = 1, q.
Зауважимо, що d2jT = (2π)−1
∫
R1
|ajT (x)|2dx, j = 1, q.
Зазначимо також, що за умови A4 випливає, що випадковий процес ε(t), t ∈ R
1, має
спектральну щiльнiсть fε.
B4. Сiм’я мiр µT (·) слабко збiгається до мiри µ(·) при T → ∞ та
∫
R1
fε(x)µ(dx) — додатно
визначена матриця.
Означення 2. Матрична мiра µ(·) називається спектральною мiрою функцiї регресiї
q∑
i=1
θiai(t) (бiльш детально див. [1, 8, 9]).
Введемо деякi позначення:
Γ = diag(ki)
q
i=1, де ki задано в B1; bi =
∞∫
−∞
Bi(t)B(t) dt, i = 1, q;
σ = 2πΓ1/2
(∫
R1
fε(x)µ(dx)
)
Γ1/2 + diag(bi)
q
i=1.
Теорема 5. Якщо виконано умови A1–A4 та B1–B4, то розподiл нормованої о. н. к.√
T (θ̂T − θ) при T → ∞ збiгається до гауссiвського розподiлу N(0,Λ−1σΛ−1).
Для випадку, коли деякi з ki = ∞, теорема 5 переформулюється таким чином.
Теорема 6. Якщо виконано умови A1–A4, B1′–B3′ та B4, то розподiл нормованої
о. н. к. dT (T )(θ̂T − θ) при T → ∞ збiгається до гауссiвського розподiлу N(0, Λ̃−1σ̃Λ̃−1), де
σ̃ = 2π
∫
R1
fε(x)µ(dx) + diag
(
bi
ki
)q
i=1
,
Λ̃ = diag((1/ki)Bi(0))
q
i=1 + J̃ (вважатимемо, що 1/ki = 0 у випадку ki = ∞).
Отриманi результати узагальнюють результати, отриманi в [3], та продовжують дослiд-
ження [4], розширюючи їх на випадок слабко залежних похибок у спостереженнях.
ISSN 1025-6415 Доповiдi Нацiональної академiї наук України, 2014, №5 27
1. Иванов А. В., Леоненко Н.Н. Статистический анализ случайных полей. – Київ: Вища шк., 1986. –
216 с.
2. Ivanov A.V. Asymptotic theory of nonlinear regression. – Dordrecht: Kluwer, 1997. – 327 p.
3. Дороговцев А.Я. Теория оценок параметров случайных процессов. – Киев: Вища шк., 1982. – 192 с.
4. Голубовська Л.П., Iванов О.В., Орловський I.В. Асимптотичнi властивостi оцiнки параметрiв лiнiй-
ної регресiї у випадку сильнозалежних регресорiв // Наук. вiстi НТУУ “КПI”. – 2012. – № 4(84). –
С. 26–33.
5. Сенета Е. Правильно меняющиеся функции. – Москва: Наука, 1985. – 144 с.
6. Avram F., Leonenko N., Sakhno L. On a Szegö type limit theorem, the Hölder–Young–Brascamp–Lieb
inequality, and the asymptotic theory of integrals and quadratic forms of stationary fields // ESAIM: PS. –
2010. – 14. – P. 210–255.
7. Lieb E.H. Inequalities: selecta of Elliott H. Lieb. – Berlin: Springer, 2000. – 711 p.
8. Ибрагимов И.А., Розанов Ю.А. Гауссовские случайные процессы. – Москва: Наука, 1970. – 384 с.
9. Grenander U., Rosenblatt M. Statistical analysis of stationary time series. – Stockholm: Almqvist and
Wiksell, 1956. – 300 p.
Надiйшло до редакцiї 05.11.2013НТУ України “Київський полiтехнiчний iнститут”
А.В. Иванов, И. В. Орловский
Асимптотические свойства оценки параметров линейной регрессии
в случае слабо зависимых регрессоров
Рассматривается линейная модель регрессии со слабо зависимым случайным шумом и ре-
грессорами, которые зависят от времени и наблюдаются со слабо зависимыми ошибками.
Исследуются свойства состоятельности и асимптотической нормальности оценки наи-
меньших квадратов параметров такой модели регрессии.
A.V. Ivanov, I. V. Orlovsky
Asymptotic properties of the estimator of linear regression parameters
in the case of weakly dependent regressors
A linear regression model with weakly dependent random noise and time-dependent regressors
which are observed with weakly dependent errors is considered. The consistency and the asymptotic
normality of the least squares estimator of such a regression model are proved.
28 ISSN 1025-6415 Reports of the National Academy of Sciences of Ukraine, 2014, №5
|
| id | nasplib_isofts_kiev_ua-123456789-87696 |
| institution | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| issn | 1025-6415 |
| language | Ukrainian |
| last_indexed | 2025-12-07T16:18:11Z |
| publishDate | 2014 |
| publisher | Видавничий дім "Академперіодика" НАН України |
| record_format | dspace |
| spelling | Іванов, О.В. Орловський, І.В. 2015-10-23T19:07:10Z 2015-10-23T19:07:10Z 2014 Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів / О.В. Iванов, I.В. Орловський // Доповiдi Нацiональної академiї наук України. — 2014. — № 5. — С. 24-28. — Бібліогр.: 9 назв. — укр. 1025-6415 https://nasplib.isofts.kiev.ua/handle/123456789/87696 519.21 Розглядається лiнiйна модель регресiї зi слабко залежним випадковим шумом та регресорами, якi залежать вiд часу та спостерiгаються зi слабко залежними похибками. Дослiджуються властивостi консистентностi та асимптотичної нормальностi оцiнки найменших квадратiв параметрiв такої моделi регресiї. Рассматривается линейная модель регрессии со слабо зависимым случайным шумом и регрессорами, которые зависят от времени и наблюдаются со слабо зависимыми ошибками. Исследуются свойства состоятельности и асимптотической нормальности оценки наименьших квадратов параметров такой модели регрессии. A linear regression model with weakly dependent random noise and time-dependent regressors which are observed with weakly dependent errors is considered. The consistency and the asymptotic normality of the least squares estimator of such a regression model are proved. uk Видавничий дім "Академперіодика" НАН України Доповіді НАН України Математика Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів Асимптотические свойства оценки параметров линейной регрессии в случае слабо зависимых регрессоров Asymptotic properties of the estimator of linear regression parameters in the case of weakly dependent regressors Article published earlier |
| spellingShingle | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів Іванов, О.В. Орловський, І.В. Математика |
| title | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів |
| title_alt | Асимптотические свойства оценки параметров линейной регрессии в случае слабо зависимых регрессоров Asymptotic properties of the estimator of linear regression parameters in the case of weakly dependent regressors |
| title_full | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів |
| title_fullStr | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів |
| title_full_unstemmed | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів |
| title_short | Асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів |
| title_sort | асимптотичні властивості оцінки параметрів лінійної регресії у випадку слабко залежних регресорів |
| topic | Математика |
| topic_facet | Математика |
| url | https://nasplib.isofts.kiev.ua/handle/123456789/87696 |
| work_keys_str_mv | AT ívanovov asimptotičnívlastivostíocínkiparametrívlíníinoíregresííuvipadkuslabkozaležnihregresorív AT orlovsʹkiiív asimptotičnívlastivostíocínkiparametrívlíníinoíregresííuvipadkuslabkozaležnihregresorív AT ívanovov asimptotičeskiesvoistvaocenkiparametrovlineinoiregressiivslučaeslabozavisimyhregressorov AT orlovsʹkiiív asimptotičeskiesvoistvaocenkiparametrovlineinoiregressiivslučaeslabozavisimyhregressorov AT ívanovov asymptoticpropertiesoftheestimatoroflinearregressionparametersinthecaseofweaklydependentregressors AT orlovsʹkiiív asymptoticpropertiesoftheestimatoroflinearregressionparametersinthecaseofweaklydependentregressors |