Марковская модель авторегрессии с гетероскедастичными остатками

Анализируются временные ряды для построения прогнозируемых значений с помощью теории цепей Маркова. Главная задача — нахождение оценок переходных вероятностей марковской цепи на основании наблюдаемых данных временного ряда. Доказывается, что нахождение таких вероятностей, отвечающих всем требованиям...

Ausführliche Beschreibung

Gespeichert in:

Bibliographische Detailangaben
Datum:	2008
Hauptverfasser:	Матвеев, А.А., Шадурскис, К.П.
Format:	Artikel
Sprache:	Russian
Veröffentlicht:	Навчально-науковий комплекс "Інститут прикладного системного аналізу" НТУУ "КПІ" МОН та НАН України 2008
Schriftenreihe:	Системні дослідження та інформаційні технології
Schlagworte:	Математичні методи, моделі, проблеми і технології дослідження складних систем
Online Zugang:	https://nasplib.isofts.kiev.ua/handle/123456789/14611
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!
Назва журналу:	Digital Library of Periodicals of National Academy of Sciences of Ukraine
Zitieren:	Марковская модель авторегрессии с гетероскедастичными остатками / А.А. Матвеев, К.П. Шадурскис // Систем. дослідж. та інформ. технології. — 2008. — № 2. — С. 97-109. — Бібліогр.: 10 назв. — рос.

Institution

Digital Library of Periodicals of National Academy of Sciences of Ukraine

id	nasplib_isofts_kiev_ua-123456789-14611
record_format	dspace
spelling	nasplib_isofts_kiev_ua-123456789-146112025-02-10T00:44:00Z Марковская модель авторегрессии с гетероскедастичными остатками The Markov autoregression model with heteroskedastic remainders Марковська модель авторегресії із гетероскедастичними остачами Матвеев, А.А. Шадурскис, К.П. Математичні методи, моделі, проблеми і технології дослідження складних систем Анализируются временные ряды для построения прогнозируемых значений с помощью теории цепей Маркова. Главная задача — нахождение оценок переходных вероятностей марковской цепи на основании наблюдаемых данных временного ряда. Доказывается, что нахождение таких вероятностей, отвечающих всем требованиям, сводится к задаче квадратичного программирования на симплексе. Строятся состоятельные и несмещенные оценки переходных вероятностей с использованием решения задачи квадратичного программирования в среде МАТLAB. Полученные оценки проверены экспериментально методом Монте-Карло. Time series forecasting by using the theory of Markov’s chains are considered. The main task was to find the transition probabilities for Markov’s chain on the basis of observed values of the time series. It is shown that to find the transition probabilities which meet all the necessary requirements, one should use the quadratic programming on simplex. Consistent and unbiased estimations of the transition probabilities are built via the solution of the quadratic programming problem in MATLAB. Аналізуються часові ряди для побудови значень, які прогнозуються, за допомогою теорії ланцюгів Маркова. Головна задача — знаходження оцінок перехідних ймовірностей марковського ланцюга на основі даних часового ряду, що спостерігаються. Доводиться, що знаходження таких ймовірностей, які відповідають усім вимогам, зводиться до задачі квадратичного програмування на симплексі. Будуються обґрунтовані та незміщені оцінки перехідних ймовірностей із використанням рішення задачі квадратичного програмування у середовищі MATLAB. 2008 Article Марковская модель авторегрессии с гетероскедастичными остатками / А.А. Матвеев, К.П. Шадурскис // Систем. дослідж. та інформ. технології. — 2008. — № 2. — С. 97-109. — Бібліогр.: 10 назв. — рос. 1681–6048 https://nasplib.isofts.kiev.ua/handle/123456789/14611 519.21 ru Системні дослідження та інформаційні технології application/pdf Навчально-науковий комплекс "Інститут прикладного системного аналізу" НТУУ "КПІ" МОН та НАН України
institution	Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection	DSpace DC
language	Russian
topic	Математичні методи, моделі, проблеми і технології дослідження складних систем Математичні методи, моделі, проблеми і технології дослідження складних систем
spellingShingle	Математичні методи, моделі, проблеми і технології дослідження складних систем Математичні методи, моделі, проблеми і технології дослідження складних систем Матвеев, А.А. Шадурскис, К.П. Марковская модель авторегрессии с гетероскедастичными остатками Системні дослідження та інформаційні технології
description	Анализируются временные ряды для построения прогнозируемых значений с помощью теории цепей Маркова. Главная задача — нахождение оценок переходных вероятностей марковской цепи на основании наблюдаемых данных временного ряда. Доказывается, что нахождение таких вероятностей, отвечающих всем требованиям, сводится к задаче квадратичного программирования на симплексе. Строятся состоятельные и несмещенные оценки переходных вероятностей с использованием решения задачи квадратичного программирования в среде МАТLAB. Полученные оценки проверены экспериментально методом Монте-Карло.
format	Article
author	Матвеев, А.А. Шадурскис, К.П.
author_facet	Матвеев, А.А. Шадурскис, К.П.
author_sort	Матвеев, А.А.
title	Марковская модель авторегрессии с гетероскедастичными остатками
title_short	Марковская модель авторегрессии с гетероскедастичными остатками
title_full	Марковская модель авторегрессии с гетероскедастичными остатками
title_fullStr	Марковская модель авторегрессии с гетероскедастичными остатками
title_full_unstemmed	Марковская модель авторегрессии с гетероскедастичными остатками
title_sort	марковская модель авторегрессии с гетероскедастичными остатками
publisher	Навчально-науковий комплекс "Інститут прикладного системного аналізу" НТУУ "КПІ" МОН та НАН України
publishDate	2008
topic_facet	Математичні методи, моделі, проблеми і технології дослідження складних систем
url	https://nasplib.isofts.kiev.ua/handle/123456789/14611
citation_txt	Марковская модель авторегрессии с гетероскедастичными остатками / А.А. Матвеев, К.П. Шадурскис // Систем. дослідж. та інформ. технології. — 2008. — № 2. — С. 97-109. — Бібліогр.: 10 назв. — рос.
series	Системні дослідження та інформаційні технології
work_keys_str_mv	AT matveevaa markovskaâmodelʹavtoregressiisgeteroskedastičnymiostatkami AT šadurskiskp markovskaâmodelʹavtoregressiisgeteroskedastičnymiostatkami AT matveevaa themarkovautoregressionmodelwithheteroskedasticremainders AT šadurskiskp themarkovautoregressionmodelwithheteroskedasticremainders AT matveevaa markovsʹkamodelʹavtoregresííízgeteroskedastičnimiostačami AT šadurskiskp markovsʹkamodelʹavtoregresííízgeteroskedastičnimiostačami
first_indexed	2025-12-02T06:19:01Z
last_indexed	2025-12-02T06:19:01Z
_version_	1850376287612305408
fulltext	 А.А. Матвеев, К.П. Шадурскис, 2008 Системні дослідження та інформаційні технології, 2008, № 2 97 TIДC МАТЕМАТИЧНІ МЕТОДИ, МОДЕЛІ, ПРОБЛЕМИ І ТЕХНОЛОГІЇ ДОСЛІДЖЕННЯ СКЛАДНИХ СИСТЕМ УДК 519.21 МАРКОВСКАЯ МОДЕЛЬ АВТОРЕГРЕССИИ С ГЕТЕРОСКЕДАСТИЧНЫМИ ОСТАТКАМИ А.А. МАТВЕЕВ, К.П. ШАДУРСКИС Анализируются временные ряды для построения прогнозируемых значений с помощью теории цепей Маркова. Главная задача — нахождение оценок пере- ходных вероятностей марковской цепи на основании наблюдаемых данных временного ряда. Доказывается, что нахождение таких вероятностей, отве- чающих всем требованиям, сводится к задаче квадратичного программирова- ния на симплексе. Строятся состоятельные и несмещенные оценки переходных вероятностей с использованием решения задачи квадратичного программиро- вания в среде МАТLAB. Полученные оценки проверены экспериментально методом Монте-Карло. ВВЕДЕНИЕ Одной из основных задач современной эконометрии является развитие ме- тодов анализа временных рядов },{ Z∈txt с помощью авторегрессионных моделей без априорных предположений о форме зависимости условного ма- тематического ожидания фазовой координаты от ее прошлых значений (см., например, [1, 2]). Основная причина отказа от традиционных линейных мо- делей — негауссовский характер случайных величин, описывающих пове- дение реальных моделей. Напомним, что предположение о нормальности распределения временного ряда позволяет вычислять условное математиче- ское ожидание фазовой переменной в виде линейного функционала ее про- шлых значений },{ tsxs < . Отсутствие информации о законе распределения не позволяет вычис- лить упомянутое условное математическое ожидание аналитически в виде некоторой функции с неизвестными параметрами и свести проблему к оцен- ке по методу наименьших квадратов, как это принято в линейной гауссов- ской теории. Поэтому при отсутствии информации о законе распределения во многих прикладных задачах регрессионного анализа временного ряда },{ N∈txt уже в простейшем случае приходится иметь дело с оценкой неиз- вестной функции )(xf в нелинейном разностном уравнении первого поряд- ка [1,3–5] ttt hxfx += − )( 1 , (1) А.А. Матвеев, К.П. Шадурскис ISSN 1681–6048 System Research & Information Technologies, 2008, № 2 98 где th — некоррелированные остатки, в среднем равные нулю. Описанная проблема анализа временных рядов получила название не- параметрического оценивания авторегрессии [6]. Если обозначить tZ ми- нимальную сигма-алгебру, относительно которой измеримы случайные ве- личины },{ tshs ≤ , то искомую функцию можно определить с помощью условного математического ожидания }/{:)( 1 1 − − = t tt xxf FE . Используя по- следовательность сигма-алгебр },{ ZF ∈tt и условную дисперсию =:2 tσ }/{: 12 −= t th FE , остатки th в уравнении (1) можно представить в форме про- изведения белого шума },{ Z∈ttξ (последовательности независимых оди- наково распределенных случайных величин с нулевым средним и единич- ной дисперсией) и условного среднеквадратичного отклонения ttth ξσ=: [7]. Ясно, что определенная выше последовательность сигма-алгебр в этом случае является минимальной для },{ Z∈ttξ . Условная дисперсия 2 tσ мо- жет быть случайной 1−tF -измеримой величиной, зависеть от }1,{ −≤ tssξ и также подлежит оценке. Это свойство дисперсии остатков называется ус- ловной гетероскедастичностью и моделируется линейными разностными уравнениями с коэффициентами, линейно зависящими от белого шума (GARCH ),( qp -процессы) [7]. Для отыскания функции )(xf область значе- ний дискретизируют (разбивают на интервалы достаточно малой длины δ) и затем на каждом интервале используют либо метод наименьших квадратов либо минимизируют специально построенный функционал в виде интеграла с ядрами различной формы (ядерное оценивание [2, 6]). ПОСТАНОВКА ЗАДАЧИ. ОПИСАНИЕ МОДЕЛИ Предположим, что наблюдается случайный процесс вида 11 )( ++ += nnnn xfx ξσ , (2) где nξ — случайная ошибка наблюдений { } 0=nξΕ ; )( nxf — нелинейная функция от элементов цепи nx . Уравнение (2) можно интерпретировать так, что случайная последова- тельность { }nx зависит от своей «истории». Обозначим tF минимальную сигма-алгебру, относительно которой из- меримы случайные величины остатков. Тогда искомую функцию можно оп- ределить с помощью условного математического ожидания =− :)( 1txf }/{: 1−= t tx FE . Это означает, что условное математическое ожидание слу- чайной величины nx имеет вид { } { } ∑ === ++ y nnn n n xfyyxpxxx )(),(\|\| 11 EFE , (3) Марковская модель авторегрессии с гетероскедастичными остатками Системні дослідження та інформаційні технології, 2008, № 2 99 что и определяет нелинейность функциональной зависимости 1+nx от nx . Цель наших исследований — описание динамики цепи { }nx , т.е. нахожде- ние функциональной зависимости )( nxf , задаваемой уравнением (3). Для отыскания функции )(xf область значений дискретизируют и за- тем на каждом интервале используют либо метод наименьших квадратов, либо минимизируют специально построенный функционал в виде интеграла с ядрами различной формы. Рассмотрим модель дискретизации фазового пространства и представление его в форме конечного числа непересекаю- щихся областей },...,1,{ rkSk = , которые можно рассматривать как состоя- ния некоторой цепи Маркова. Для простой марковской цепи условную вероятность того, что в мо- мент 1+m система находится в состоянии j , если в момент m она находи- лась в состоянии i , обозначим )(mpij . )(}\|{ 1 mpiXjXP ijmm ===+ . Далее рассмотрим однородную цепь Маркова, т. е. ijij pmp =)( . Марковская цепь полностью определяется множеством моментов дис- кретизации xT и множеством пространства состояний S , распределением начальных состояний }{ 0 iXPpi == и матрицей вероятностей перехода )( ijpP = с условием нормировки ∑ == j ij rip ,...,2,1,1 , 10 ≤≤ ijp . Поскольку распределение вероятностей начального состояния 0X и матрица переходных вероятностей P полностью определяют вероятностное поведение марковской цепи, то при заданных 0X и P возникает задача ус- тановления распределения вероятностей для каждого mX и, возможно, пре- дельного распределения значений случайной величины nx при ,∞→n если такое распределение существует. Если цепь Маркова неприводимая и апе- риодическая, а следовательно, и эргодическая, то существует единственная вектор-строка ),...,,( 21 rπππ=π — вектор стационарных вероятностей та- кой, что ,,...,2,1,,lim )( rjip j m ijm == ∞→ π где )(m ijp представляет собой ),( ji -й элемент матрицы )(mpij , т. е. переход из состояния i марковской цепи nx в состояние j за m шагов =)(m ijp )\|( 0 iXjXP m === , 10 ≤≤ jπ ∑ == j j rj ,...,2,1,1π , πPπ = . А.А. Матвеев, К.П. Шадурскис ISSN 1681–6048 System Research & Information Technologies, 2008, № 2 100 ОЦЕНИВАНИЕ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ ПО МИКРОДАННЫМ Рассмотрим оценки переходных вероятностей, когда имеется выборка мик- роданных и последовательность повторяющихся наблюдений за состоянием эргодической марковской цепи. Пусть в момент времени 0=t в состоянии i находится )0(in микрообъектов и пусть в процессе наблюдений фиксируется последовательное изменение состояний микрообъектов в моменты времени Tt ,...,2,1= . Вероятность упорядоченного набора состояний однородной марковской цепи задается таким образом: )\|()(),...,,( 1 1 000 − = ∏= t T t tT xxPxPxxxP . (4) Пусть )(tnij обозначено число микрообъектов, для которых ixt =−1 , jxt = , и пусть ∑= t ijij tnn )( . Как известно [8], формула (4) определяет функцию правдоподобия, ко- торая служит для вычисления оценок переходных вероятностей и для про- верки различных гипотез о принимаемых ими значениях. К сожалению, столь детальная информация часто недоступна или обходится слишком до- рого, поэтому приходится работать с агрегированными данными. Так, на- пример, при переписи населения определяется только распределение числа индивидуальных объектов по всевозможным состояниям за каждый год пе- реписи, но остается неизвестной траектория движения отдельного объекта. Однако в экономических задачах, например, при оценивании изменения процентной ставки, иногда возможно проследить изменение составляющих компонентов усредененной процентной ставки (индексы потребительской корзины, биржевые индексы и т.д.), что позволяет смоделировать и оценить характеристики марковской цепи по микроданным. По формуле (4) вероятность фиксированной совокупности наборов со- стояний n микрообъектов можно определить как ∏∝ ji n ijT ijpxPxxxP , 010 ,)()\|,,,( n (5) где ∝ — знак пропорциональности; ))(,),(),(()( 21 tntntnt r=′n — вектор, элементы которого равны числу микрообъектов в различных состояниях в момент времени t . (Здесь и далее символ ′)( означает транспонирование). Совокупность данных ijn образует множество достаточных статис- тик [3]. Распределение вероятностей )(tnij можно получить, рассматривая ∑=− j iji tntn )()1( наблюдений значений величин, распределенных по полиномиальному закону с вероятностями ijp . Можно доказать, что сос- тоятельная, но смещенная оценка максимального правдоподобия Марковская модель авторегрессии с гетероскедастичными остатками Системні дослідження та інформаційні технології, 2008, № 2 101 ∑ = j ij ij ij n n p̂ . (6) Как показано в работе [3], с увеличением объема выборки смещение стремится к нулю, и оценка максимального правдоподобия, определяемая уравнением (6), асимптотически нормальна. ОЦЕНИВАНИЕ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ ПО МАКРОДАННЫМ Построим оценки переходных вероятностей для случая, когда вместо ин- формации о траекториях движения отдельных микрообъектов )(tnij имеется только агрегированная информация в виде относительных частот состояний в каждый из моментов времени t . Если вместо выборочных значений )(tnij имеются только агрегирован- ные данные ∑= i ijj tntn )()( , то для того, чтобы использовать наблюдаемые относительные частоты при оценке вероятностей перехода, необходимо со- отношение )\|()(),( 111 ixjxPixPjxixP ttttt ====== −−− . (7) Тогда по формуле полной вероятности )\|()()( ixjxPixPjxP ttt i t ===== −−∑ 11 или ∑ −= i ijij ptqtq )1()( , (8) где )(tq j и )1( −tq j — безусловные вероятности )( jxP t = и )( 1 ixP t =− соответственно. Если безусловные вероятности )(tq j и )1( −tq j в (8) заме- нить фактическими значениями наблюдаемых частот )(ty j и )1( −ty j , то не найдется таких оценок вероятностей перехода, которые с вероятностью, равной единице, удовлетворяли бы соотношению (8). Таким образом, если признать, что истинное значение относительной частоты и ее оценка )(ty j не совпадают, то, обозначив )(tu j величину ошибки в правой части уравнения (8), можно записать, что выборочные на- блюдения удовлетворяют стохастическому уравнению ∑ +−= i jijij tuptyty )()1()( , (9) которое можно рассматривать как линейную статистическую модель для оценивания переходных вероятностей. А.А. Матвеев, К.П. Шадурскис ISSN 1681–6048 System Research & Information Technologies, 2008, № 2 102 ОЦЕНИВАНИЕ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ ПО МЕТОДУ НАИМЕНЬШИХ КВАДРАТОВ Развивая метод, предложенный в работе [8], для оценивания переходных вероятностей по выборочным значениям частот с помощью уравнения (9) запишем его в векторной форме ,jjjj X upy += (10) где )}({ ty jj =y — это )1( ×T -вектор выборочных значений; =′jp ),,,( 21 rjjj ppp = — )1( ×r -вектор неизвестных параметров (оцениваемых переходных вероятностей; ju — )1( ×T -вектор случайных ошибок и, нако- нец, jX — следующая )( rT × -матрица.                 −−− −−−= )1(...)1()1( )1(...)1()1( )0(...)0()0( 21 21 21 TyTyTy tytyty yyy X r r r j   . (11) Ранг матрицы jX равен r . Вектор ошибок ju запишем как 0)( =juΕ , jjjij ωσ=′ )( uuΕ , где jjω — положительно-определенная диагональная )( TT × -матрица. Уравнения (9) и (10) представляют собой часть расширенной системы уравнений             +                         =             rrrr X X X u u u p p p y y y       2 1 2 1 2 1 2 1 00 00 00 (12) или ,upy += X (13) где X — блочно-диагональная матрица, в которой rXXX === 21 , 0)( =uΕ , Σ=′)( uuΕ , где Σ — недиагональная вырожденная матрица размера )( rTrT × . В случае линейной статистической модели в форме (12) или (13) при rT > в работе [8] предложено для оценки переходных вероятностей приме- нять обычный метод наименьших квадратов. Другими словами, задача оце- Марковская модель авторегрессии с гетероскедастичными остатками Системні дослідження та інформаційні технології, 2008, № 2 103 нивания рассматривается как задача определения такой оценки p̂ , которая минимизирует положительно-определенную квадратичную форму )()( pypyuu XX −′−=′=ϕ . (14) Решая эту задачу, находим, что yp XXX ′′= −1)(ˆ (15) при условии, что XX ′ является невырожденной, а это действительно так. В силу положительной определенности (а также симметричности) мат- рицы XX ′ для вектора p̂ выполняются как необходимые, так и достаточ- ные условия минимума функционала (14). Несмотря на то, что уравнения системы (12) связаны помехой, в силу условия rXXX === 21 эти r уравнений могут оцениваться как вместе, так и порознь с одними и теми же результатами [3]. Таким образом, в соот- ветствии с (15) обычная оценка метода наименьших квадратов jp̂ (подвек- тора p̂ ) запишется так: rjXXX jjjjj ,...,2,1,)(ˆ 1 =′′= − yp . (16) Возникает вопрос, удовлетворяют ли полученные оценки условиям не- отрицательности и нормировки, а именно 10 ≤≤ ijp , (17) ∑ == j ij rip ,...,2,1,1 . (18) Нетрудно доказать [8], что оценка переходных вероятностей по методу наименьших квадратов автоматически удовлетворяет условию нормировки. Этого, к сожалению, нельзя сказать про условие неотрицательности. Т.е. применение обычного метода наименьших квадратов (без учета ограниче- ний) может привести к тому, что полученные вероятности будут отрица- тельными (или превышать единицу). УСЛОВИЕ НЕОТРИЦАТЕЛЬНОСТИ Итак, чтобы полученные оценки (16) могли быть оценками переходных ве- роятностей, должны быть выполнены условия (17), (18). Однако при ис- пользовании обычного метода наименьших квадратов без учета ограниче- ний оценки переходных вероятностей могут быть отрицательными, а, следовательно, некоторые из них могут быть больше единицы. Докажем это. Запишем оценки, полученные методом наименьших квадратов без уче- та ограничений (15), в виде следующей системы уравнений: yp XXX ′=′ ~)( . (19) В этой системе А.А. Матвеев, К.П. Шадурскис ISSN 1681–6048 System Research & Information Technologies, 2008, № 2 104             ′ ′ ′ =′ rr XX XX XX XX     00 00 00 22 11 представляет собой )( 22 rr × -матрицу, а 22 XX ′ — )( rr × -матрицу, состав- ленную из неотрицательных элементов, и             ′ ′ ′ =′ rrX X X X y y y y  22 11 есть )1( 2 ×r -вектор из неотрицательных элементов. Таким образом, правая часть и матрица системы (19) неотрицательны. Для того чтобы исследовать неотрицательность решений системы (19), положим ,~)(~)( pp dAIdXX −′=′ где d — невырожденная диагональная матрица из положительных эле- ментов. Тогда (19) можно переписать в виде [ ] 0~)( 1 ≥′′=− − yp XddAI или 0~)( ≥=− cwAI . Если A — неотрицательная блочно-диагональная матрица, у которой ∑∑ == <<≤≤ r j ij r i ijij aaa 11 1,1,10 для всех ji, , то справедлива следующая тео- рема. Теорема. 0~~)( ≥==− cwBwAI имеет неотрицательное решение w~ тогда и только тогда, когда 0;...;0;0 1 111 2221 1211 11 >>> nnn n bb bb bb bb b    . (20) Это так называемое условие Хоукинса – Саймона [3], которое эквива- лентно утверждению: вектор c должен содержаться в выпуклом конусе, на- тянутом на вектор-столбцы матрицы B или )( AI − . В силу того что XX ′ — положительно-определенная матрица с неотрицательными элемен- тами, для нее условия (20) выполнены, однако требования, накладываемые в теореме 1 на элементы матрицы A , не выполняются. Отсюда следует, что в общем случае оценки по методу наименьших квадратов без учета ограниче- ний могут получиться отрицательными или больше единицы. В таком слу- Марковская модель авторегрессии с гетероскедастичными остатками Системні дослідження та інформаційні технології, 2008, № 2 105 чае предлагается пользоваться оценками, которые принадлежат границе множества допустимых значений параметров и на множестве точек границы доставляют минимальное значение в квадратичной форме (14). Эта идея сформулирована в работе [8]. Основываясь на ней, найдем оценку, миними- зирующую квадратичную форму (14) при ограничениях rG ηp = , (21) 0≥p (22) с целью написания MATLAB-процедуры для решения задачи квадратичного программирования. Так как форма ϕ в уравнении (14) является квадратич- ной, а ограничения (21) и (22) линейны, то эта задача относится к типичным задачам квадратичного программирования. Опираясь на теорему Куна – Таккера [3] для задач нелинейного программирования и на принцип двойст- венности для квадратичного программирования, задачу (14), (21),(22) можно свести к задаче в следующей линейной постановке: найти cp~ , максимизи- рующее ppy )~( ′′−′ cXXX (23) при ограничениях ,rG ηp ≤ (24) rG ηp −≤− , (25) 0≥p , (26) где cp~ — оптимальная оценка по методу наименьших квадратов при учете ограничений. В соответствии с принципом двойственности для задач ли- нейного программирования двойственная задача состоит в том, чтобы ми- нимизировать [ ]       − ′′ r r η η λλ 21 при ограничениях [ ] cXXXGG py λ λ ~ 2 1 ′−′≥      ′ ′ ′−′ и 0, 21 ≥λλ , где 1λ и 2λ — )1( ×r -векторы двойственных переменных. Чтобы построить алгоритм решения, заменим в прямой и двойственной задачах cp~ на p и запишем задачу в следующей комбинированной форму- лировке, которая позволит получить одновременно решение прямой и двой- ственной задач: максимизировать 0 )( 221121 ≤′−′−′− = ′+′−′′−′ pβαλαληληλppy rrXXX (27) А.А. Матвеев, К.П. Шадурскис ISSN 1681–6048 System Research & Information Technologies, 2008, № 2 106 при ограничениях ,rG ηp = (28) ,)( 21 yβpλλ XXXGG ′=− ′+′−′ (29) ,0,,, ,, 2121 ≥ βααλλp (30) где 1α , 2α и β — векторы дополнительных переменных прямой и двойст- венной задач. Задача (27) – (30) может быть решена с помощью стандартно- го симплекс-метода для задач квадратичного программирования (табл. 1). Т а б л и ц а 1 . Симплекс-таблица задачи квадратичного программирова- ния для оценки по методу наименьших квадратов с учетом ограничений 0B 1λ 2λ p 1α 2α β rη G I rη− G− I yX ′ G′ G′− XX ′ –I Воспользуемся пакетом MATLAB (MathWorks Inc.) Для минимизации квадратичной формы, зависящей от большого числа переменных, использу- ем подпрограмму-функцию quadprog. Исходные данные занесем в mat-файл qpboxl.mat, где они имеют вид положительно определенной квадратичной формы. Матрица Гессиана H является симметричной трехдиагональной. Имеются верхний и нижний пределы ограничений диапазонов переменных. Трудности определения выборочных свойств оценок переходных веро- ятностей по методу наименьших квадратов при учете ограничений и то об- стоятельство, что для оценок других типов имеются лишь асимптотические результаты, позволяют нам перейти к самому общему методу построения оценок переходных вероятностей — методу Монте-Карло. Для выборочных оценок используем однородную марковскую цепь первого порядка, полученную с помощью анализа временного ряда RIGIBOR 6M (см. рисунок). Для моделирования матрицы переходных вероятностей необходимо за- дать число состояний моделируемой цепи Маркова и вектор начальных ве- роятностей. Не умоляя общности, можем ограничиться числом состояний марковской цепи, равному 4. Построим эргодическую марковскую цепь, т.е. в предположении существования стационарных вероятностей. Для того что- бы полностью определить марковскую цепь при фиксированной матрице вероятностей переходов, нужно задать начальное распределение вероятно- стей. Если обозначить )0(y )1( r× -вектор начальных значений частот, а )(ty )1( r× -вектор вероятностей (агрегированных частот) в момент времени t , то по определению марковской цепи, ,)0()( tt Pyy = где P — матрица вероятностей переходов. Марковская модель авторегрессии с гетероскедастичными остатками Системні дослідження та інформаційні технології, 2008, № 2 107 Очевидно, что разные начальные векторы )0(y приводят к разным тра- екториям агрегированных данных )(ty . В нашей модели имеются четыре разных начальных состояния микрообъектов. Траектории изменения агреги- рованных данных, соответствующих каждому из этих начальных состояний, по-разному влияют лишь на скорость сходимости состояний марковской цепи к положению равновесия. РЕЗУЛЬТАТЫ ВЫБОРОЧНОГО ЭКСПЕРИМЕНТА ДЛЯ МАКРОДАННЫХ 1. Метод наименьших квадратов без учета ограничений. По выбор- ке, извлекаемой из генеральной совокупности 1000 микрообъектов, для по- лучения оценок переходных вероятностей по методу наименьших квадратов без учета ограничений определялись значения относительных частот в мо- менты времени с 1-го по 25-й включительно. Во всех случаях нарушалось условие неотрицательности оценок переходных вероятностей. Средние зна- чения и среднеквадратические ошибки оценок для разных выборок при 50- кратном повторении эксперимента приведены в табл. 2. Для каждой выборки три-четыре раза нарушалось условие неотрица- тельности оценок. Как и следовало ожидать, с увеличением объема выборки среднеквадратическая ошибка уменьшается. Если сложить все среднеквад- ратические ошибки оценок разных переходных вероятностей, то для выбо- рок объема 25, 50 и 100 соответствующие агрегированные ошибки равны 2,49; 2,05 и 1,95. Временной ряд составного банковского индекса RIGIBID/RIGIBOR (усредненные данные) А.А. Матвеев, К.П. Шадурскис ISSN 1681–6048 System Research & Information Technologies, 2008, № 2 108 Т а б л и ц а 2 . Средние значения и среднеквадратические ошибки для оценок по методу наименьших квадратов без учета ограничений Объем выборки Средние значения Среднеквадратические ошибки 25 0,5165 0,5089 0,0180 –0,0434 0,1583 0,2228 0,2134 0,1407 0,1504 0,3866 0,4466 0,0164 0,1437 0,2170 0,2541 0,1608 –0,0104 0,1408 0,6067 0,2629 0,1127 0,1272 0,1795 0,1265 –0,0001 0,0007 0,1586 0,8408 0,0802 0,0973 0,1503 0,1099 100 0,5480 0,4857 –0,0218 –0,0119 0,1115 0,1526 0,1845 0,1268 0,1724 0,2553 0,4719 0,0004 0,1494 0,2017 0,2295 0,1615 –0,0350 0,1806 0,6501 0,2043 0,0824 0,1235 0,1137 0,0858 0,0144 –0,0260 0,1114 0,9002 0,0411 0,0688 0,0655 0,0513 2. Метод наименьших квадратов при учете ограничений. Средние значения и среднеквадратические ошибки оценок по методу наименьших квадратов при учете ограничений для 50-кратного повторения эксперимента приведены в табл. 3. Оказывается, что эти оценки гораздо лучше оценок переходных веро- ятностей без учета ограничений из табл. 2. Прежде всего, оценки, получен- ные при учете ограничений, неотрицательны, а их среднеквадратические ошибки меньше среднеквадратических ошибок соответствующих оценок п. 1. Т а б л и ц а 3 . Средние значения и среднеквадратические ошибки для оценок по методу наименьших квадратов при учете ограничений Объем выборки Средние значения Среднеквадратические ошибки 25 0,4992 0,4272 0,0723 0,0013 0,1521 0,1513 0,1369 0,0058 0,1315 0,4593 0,3943 0,0149 0,1011 0,1603 0,1406 0,0291 0,0160 0,0992 0,6344 0,2504 0,0307 0,0649 0,1324 0,0921 0,0051 0,0262 0,1361 0,8326 0,0143 0,0407 0,1123 0,1149 100 0,5657 0,3953 0,0390 0,0001 0,0868 0,1147 0,0840 0,0001 0,1224 0,4754 0,3959 0,0063 0,0712 0,1199 0,0912 0,0145 0,0043 0,1060 0,6875 0,2022 0,0099 0,0393 0,0629 0,0404 0,0017 0,0113 0,0929 0,8941 0,0049 0,0232 0,0459 0,0432 Таким образом, используя заданную выборку и методы оценивания па- раметров цепей Маркова в предположении стационарности процесса (1), мы оцениваем вероятности перехода. ЛИТЕРАТУРА 1. Auestad B., Tjøstheim D. Identification of nonlinear time series: First order characterization and order estimation // Biometrika. — 1990. — 77. — Р. 669–687. Марковская модель авторегрессии с гетероскедастичными остатками Системні дослідження та інформаційні технології, 2008, № 2 109 2. Bierens H.J. Kernel estimators of regression functions. — Advances in Economet- rics: Cambridge University Press, 1987. 3. Granger C., Teroasvirta T. Modeling Nonlinear Dynamic Relationships. — Oxford: Oxford University Press, 1992. 4. Priestley M.B. Nonlinear and Nonstationary Time Series Analysis. — NY: Aca- demic Press, 1988. 5. Tjøstheim D. Nonlinear time series and markov chains // Advanced Applied Probability. — 1990. — 22. —Р. 587–611. 6. Benedetti J.K. On the nonparametric estimation of regression functions // Journal of the Royal Statistical Society. — 1977. — Series B. — 39. — Р. 248–253. 7. Bollerslev T. Generalized autoregressive conditional heteroscedasticity // Journal of Econometrics. — 1986. — 31. — Р. 307–327. 8. Andreson T., Goodman L. Statistical Inference About Markov Chain // The Annals of Mathematical Statistics. — 1967. — 38. — Р. 89–110. 9. Carkova V., Swerdan M. On mean square stability of linear stochastic difference equations // Theory of Stochastic Processes. — 11(27). — 2005. — Р. 6–11. 10. Лумельский Я.П., Чичагов В.В. Статистическое оценивание в схеме марковских случайных блужданий // Статистические методы / Пермь: Перм. ун-т, 1986. — С. 36–45. Поступила 10.08.2006 МАТЕМАТИЧНІ МЕТОДИ, МОДЕЛІ, ПРОБЛЕМИ І ТЕХНОЛОГІЇ ДОСЛІДЖЕННЯ СКЛАДНИХ СИСТЕМ Марковская модель авторегрессии с гетероскедастичными остатками А.А. Матвеев, К.П. Шадурскис ВВЕДЕНИЕ ПОСТАНОВКА ЗАДАЧИ. ОПИСАНИЕ МОДЕЛИ ОЦЕНИВАНИЕ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ ПО МИКРОДАННЫМ ОЦЕНИВАНИЕ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ ПО МАКРОДАННЫМ ОЦЕНИВАНИЕ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ ПО МЕТОДУ НАИМЕНЬШИХ КВАДРАТОВ УСЛОВИЕ НЕОТРИЦАТЕльНОСТИ Результаты выборочного эксперимента для макроданных Временной ряд составного банковского индекса RIGIBID/RIGIBOR (усредненные данные)

Марковская модель авторегрессии с гетероскедастичными остатками

Institution

Ähnliche Einträge