Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів
У статті розглядаються деякі нові підходи до аналізу та прогнозування часових рядів за допомогою математичного апарату різноманітних прихованих марковських моделей. Пропонується використання сумішей неоднорідних прихованих марковських моделей для аналізу часових рядів, а також для прогнозування час...
Збережено в:
| Опубліковано в: : | Штучний інтелект |
|---|---|
| Дата: | 2010 |
| Автори: | , |
| Формат: | Стаття |
| Мова: | Українська |
| Опубліковано: |
Інститут проблем штучного інтелекту МОН України та НАН України
2010
|
| Теми: | |
| Онлайн доступ: | https://nasplib.isofts.kiev.ua/handle/123456789/58427 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Цитувати: | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів / І.В. Баклан, Г.А. Степанкова 
 // Штучний інтелект. — 2010. — № 4. — С. 337-341. — Бібліогр.: 9 назв. — укр. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraine| _version_ | 1860101134679539712 |
|---|---|
| author | Баклан, І.В. Степанкова, Г.А. |
| author_facet | Баклан, І.В. Степанкова, Г.А. |
| citation_txt | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів / І.В. Баклан, Г.А. Степанкова 
 // Штучний інтелект. — 2010. — № 4. — С. 337-341. — Бібліогр.: 9 назв. — укр. |
| collection | DSpace DC |
| container_title | Штучний інтелект |
| description | У статті розглядаються деякі нові підходи до аналізу та прогнозування часових рядів за допомогою математичного апарату різноманітних прихованих марковських моделей. Пропонується використання сумішей неоднорідних прихованих марковських моделей для аналізу часових рядів, а також для прогнозування часових рядів пропонується використання гібридної моделі – нечіткої прихованої марковської моделі.
В статье рассматриваются некоторые новые подходы к анализу и прогнозированию временных рядов с помощью математического аппарата скрытых марковских моделей. Предлагается использование смесей неоднородных скрытых марковских моделей для анализа временных рядов, а также для прогнозирования временных рядов предлагается использование гибридной модели – нечеткой скрытой марковской модели.
In this paper we consider some new approaches to analysis and prognosis of time series by means of hidden Markov’s models. We propose for time series analysis to use mixtures of unhomogenous hidden Markov’s models. Also we consider some properties of hybrid fuzzy hidden Markov’s models for time series prognosis.
|
| first_indexed | 2025-12-07T17:28:57Z |
| format | Article |
| fulltext |
«Штучний інтелект» 4’2010 337
5Б
УДК 519.8
І.В. Баклан, Г.А. Степанкова
Національна академія управління, м. Київ, Україна
iaa@ukr.net, a.a.stepankova@gmail.com
Про деякі нові особливості використання
прихованих марковських моделей
для аналізу та прогнозування часових рядів
У статті розглядаються деякі нові підходи до аналізу та прогнозування часових рядів за допомогою
математичного апарату різноманітних прихованих марковських моделей. Пропонується використання
сумішей неоднорідних прихованих марковських моделей для аналізу часових рядів, а також для прогнозування
часових рядів пропонується використання гібридної моделі – нечіткої прихованої марковської моделі.
Вступ
Метою даної роботи є розробка нових підходів до аналізу та прогнозування ча-
сових рядів на основі математичного апарату прихованих марковських моделей.
Пропонується підхід до побудови гібридної моделі на основі апарату нечітких мно-
жин та прихованих марковських моделей (ПММ), яка отримала назву нечіткої при-
хованої марковської моделі (НПММ). Будемо застосовувати вже відомі принципи гіб-
ридизації різноманітних моделей з прихованими марковськими моделями [1], [2].
Особливістю цього підходу є застосування алгоритму нечіткого очікування в ПММ.
Цей підхід полягає у застосуванні алгоритму на кшталт алгоритму максимального очі-
кування, подібного до алгоритму Баума-Велша.
Надалі нами розглянуті випадки дискретних та безперервних ПММ та показуєть-
ся вища продуктивність НПММ порівняно зі звичайними ПММ.
Кластеризація нечітких середніх (КНС) є одним з найбільш використовуваних
підходів кластерного аналізу [3]. На основі цього підходу відоме рішення, що отри-
мало назву нечіткого квантування векторів [4], але в ньому передбачений виключно
дискретний варіант – спостереження дискретних символів. Він не застосовується до
безперервних ПММ, тобто коли спостереження є безперервним та стоїть задача мо-
делювання функції щільності ймовірностей.
В останні роки для аналізу часових рядів застосовується апарат прихованих мар-
ковських моделей (ПММ) [5], [6]. У цьому випадку неоднорідність може виникнути
в часі таким чином, що буде зачіпати прихований процес, тобто ймовірності переходу
між прихованими станами.
Формалізація моделі
Перед нами стоїть проблема створення підходу, який можна було б застосовувати
як для дискретних, так і для безперервних ПММ. Відзначимо, що фактично нам треба
дати відповіді на такі три нагальні питання.
Баклан І.В., Степанкова Г.А.
«Искусственный интеллект» 4’2010 338
5Б
Наш підхід буде своєрідною гібридною моделлю використання теорії нечітких
множин та алгоритму максимізації для оцінки параметрів λ моделі ПММ. Для вирішення
наших проблем звернемося до визначення функції приналежності Ss∈ , [ ])(ouU s= ,
( ) 1=∑
s
s ou , ( ) 10 ≤< ous для максимального ( ) ( )λλ OPOL log, = на досліджуваному
наборі даних O за допомогою функції, визначеної як ( )λ,UQF , та певними зусиллями
для максимізації λ . При цьому F – константа більша за 1. Також за нашим алгорит-
мом НМО повинно бути отримано ( ) ( )λλ ,, UQUQ FF ≥ , що фактично отримується у
два кроки.
Перший крок – визначення U , де ( ) ( )λλ ,, UQUQ FF ≥ . А вже на другому кроці
знаходимо λ , для якої справедливо співвідношення ( ) ( )λλ ,, UQUQ FF ≥ .
Шкала незалежних досліджень O та s-станів визначається за наступними рівнян-
нями:
( ) ( ) ( )∑−=
s
s
F
sF odouUQ 2,λ , ( ) ( )λsoPod s ,log2 −= .
Для максимізації ( )λ,UQF в останньому рівнянні треба максимізувати КНС функ-
цію:
( ) ( )
( )∑ −
= 1
2
F
i
s
s od
od
ou
У цьому рівнянні ( )ods – відстань або шкала незалежних досліджень O та ста-
нів I , вираз отримання якого буде наведений пізніше. Оцінка параметрів λ має на-
ступні кроки.
1. Спочатку визначимо величину константи F , визначити s та першу частину
параметрів для λ .
2. Надалі обчислимо U та ( )λ,UQF на основі λ та U .
3. Визначимо λ , коли максимальне ( )λ,UQF .
4. Міняємо U на U та λ на λ та повторюємо з другого кроку.
Тепер розглянемо дискретні нечіткі приховані марковські моделі.
Нехай у нас буде ( )λ,UQF – функція з наведеного вище рівняння:
( ) ( ) ( )∑∑∑
= = =
+ ===
T
t
N
i
M
j
ttt
F
ijtF jsisOPouUQ
1 1 1
1,,log, λλ ,
де ( )t
F
ijt ou – функція приналежності, що вказує, за якою мірою послідовності спосте-
режень O належить стан i на момент часу t та стан j на момент часу 1+t , та яка за-
довольняє наступним умовам:
( )∑∑
= =
=
N
i
M
j
tijt ou
1 1
1, ( ) 10 ≤< tijt ou .
Нечіткі Q-функції досліджуваної послідовності даних для нечітких ПММ визна-
чаються наступним чином:
( ) ( )
( )
1
1 1
1
2 −
= =
−
∑∑
=
N
k
M
l
F
tklt
tijt
tijt od
od
ou ,
Про деякі нові особливості використання прихованих марковських моделей...
«Штучний інтелект» 4’2010 339
5Б
де ( )tijt od – відстань недосліджуваного to в стані i на момент часу t та стані j на мо-
мент часу 1+t , яка задовольняє наступному співвідношенню:
( ) ( ) ( )∑=
S
F
sF SOPOuUQ λλ ,log, .
Застосовуючи ті ж самі методи оптимізації, що й для традиційних ПММ, пара-
метри нечітких ПММ оцінюються наступним чином:
( ) ( ) ( ) ( ) ( ){ }jobaijsisoPod ttjijtttttijt 111
2 log,,log +++ −===−= βαλ ,
( )t
N
j
F
ijti ou∑
=
=
1
π ,
( )
( )∑∑
∑
−
= =
−
== 1
1 1
1
1
T
i
N
j
t
F
ijt
T
i
t
F
ijt
ij
ou
ou
a , ( )
( )
( )
∑
∑∑
∑
=∈
−
= =
−
==
kt vot
T
i
N
j
t
F
ijt
T
i
t
F
ijt
i
ou
ou
kb 1
1 1
1
1 .
Надалі розглянемо принцип гібридизації безперервних нечітких ПММ.
Тепер нехай ( )λ,UQF – нечітка функція параметрів ПММ – визначається на ос-
нові НМО алгоритму:
( ) ( ) ( )[ ]∑∑∑
= = =
=
T
t
N
i
M
k
ikiktikt
F
iktF oNcouUQ
1 1 1
,,,log, σµλ . (1)
Аналогічно до дискретного випадку, нехай ( )tikt ou – функція приналежності, що
вказує, за якою мірою послідовності спостережень O належить стан і на момент ча-
су t та стан j на момент часу 1+t , та яка задовольняє наступним умовам:
( )∑∑
= =
=
N
i
M
k
tikt ou
1 1
1 , ( ) 10 ≤< tikt ou .
Елементи нечітких функцій в рівнянні (1) обчислюються наступним чином:
( ) ( )
( )
1
1 1
1
2 −
= =
−
∑∑
=
N
j
M
l
F
tjlt
tikt
tikt od
odou ,
де відстань ( )odijt знаходимо зі співвідношення, наведеного нижче, та величина якого
показує масштаб неспостережності to в стані l та момент часу t та комбінації k -х.
( ) ( ) ( ) ( ) ( ){ }joNobaikkjsoPd tjkjkttjijttttikt 11
2 ,,log,,log ++−===−= βσµαλ .
Використовуючи той самий метод оптимізації стосовно НМО параметрів нечіт-
кої ПММ, отримуємо наступні співвідношення оцінки:
( )
( )∑∑
∑
= =
== T
t
M
j
t
F
ijt
T
t
t
F
ikt
ik
ou
ou
c
1 1
1 ,
( )
( )∑
∑
=
== T
t
t
F
ikt
T
t
tt
F
ikt
ik
ou
oou
1
1µ ,
( )( )( )
( )∑
∑
=
=
−−
= T
t
t
F
ikt
T
t
T
iktiktt
F
ikt
ik
ou
ooou
1
1
µµ
σ
Ми представляємо кінцеву суміш НОПММ, де кожний з компонентів відрізняє-
ться лише прихованим процесом. Наша мета має два аспекти: класифікувати предмети
за їх поведінкою у часі та за оцінками непараметричної максимальної правдоподіб-
ності змішаних НОПММ. Ефективність даної пропозиції планується перевірити за до-
помогою експериментів на побудованій моделі дослідження.
Багато уваги під час аналізу даних часових рядів приділяється еволюції окремих
прихованих характеристик, які можуть бути оцінені непрямим способом через декілька
Баклан І.В., Степанкова Г.А.
«Искусственный интеллект» 4’2010 340
5Б
відповідних змінних. Моделі такого роду аналізу відомі під назвою прихованих мар-
ковських моделей (ПMM), де інтерес до еволюції прихованої характеристики пред-
ставляється неспостережуваним ланцюгом Маркова з невеликою кількістю станів та
відповідних змінних, які вважаються умовно незалежними від заданого прихованого
процесу.
Така схема аналізу з використанням однорідних ПММ може бути застосована
для аналізу даних кількох людей, які спостерігаються періодично, для опису розвитку
хвороби або змін у динаміці поведінки. Але припущення про однорідність в моделі
Маркова, тобто що ймовірності переходів є постійними в часі та між окремими особа-
ми, можуть бути серйозним обмеженням для використання цих моделей.
Щоб розв’язати цю проблему, пропонується ввести поняття неоднорідних ПММ.
Це дозволяє матриці переходу прихованого ланцюжка змінюватися у часі або за іншим
параметром на основі екзогенних коваріацій. Треба зауважити, що не завжди наявні
коваріації в змозі охопити всі окремі однорідні джерела дослідження. У цьому випадку
приходимо до так званого класу змішаних ПММ. Недосліджувані окремі неоднорід-
ності можна моделювати за допомогою підходу прихованого класу. Особи групуються
у класи за прихованою неконтрольованістю з урахуванням їх динамічної поведінки.
Отримана модель є сумішшю ПММ, де непомітні джерела неоднорідності. Цей під-
хід дозволяє аналізувати дані в різних ситуаціях. Тим не менше, такий вибір може на
практиці мати певні складності в обчисленні, саме ті складності, що виникають при
оцінці чергового кроку. Оцінка ПMM може здійснюватися через вже добре відомі ме-
тоди, такі як метод максимальної правдоподібності, метод Монте-Карло або через метод
оцінки підпростору. Всі методи створюють певні проблеми із складністю обчислень.
В нашому випадку змішаних ПММ може стати цікавим і цілком корисним метод не-
параметричної максимальної правдоподібності (НПМП), де розподіл випадкових впли-
вів оцінюється дискретними багатовимірними випадковими величинами з кінцевим
числом опорних точок. У результаті НПМП оцінки призводять до кінцевої суміші ПММ,
як і у випадку прихованого класу ПММ.
Висновки
Підвищення ефективності оцінки ПММ можна продемонструвати на основі роз-
пізнавання траєкторій, які залишає «мишка». Навчання відбувалося за 8 траєкторіями
(сеансами роботи за чітко визначеним алгоритмом), які виконували 8 людей. Для пере-
кодування використовували структурний лінгвістичний підхід [7], [8].
При цьому якість розпізнавання на проведених дослідах показала 10% помилок
при використанні традиційного підходу для дискретних ПММ, на відміну до майже
5% при застосуванні нечітких дискретних ПММ.
До того ж на безперервних ПММ були отримані 8 % для традиційного та 4 % –
для використання НМО.
Наведені дані підтверджують підвищення якості розпізнавання для цього типу
сигналів.
Ми запропонували використання кінцевої суміші НОПММ за рахунок розши-
рення теорії Діаса для неоднорідного випадку [9]. Передбачається, що недосліджува-
на однорідність впливає тільки на прихований процес, тоді як окремі розподіли, стала
часу, випадкові параметри мають дискретний характер. В такий спосіб ми визначаємо
доволі гнучку модель для опису широкого спектра динаміки поведінки, що забезпечує
як неконтрольовану класифікацію суб’єктів та напівпараметричну оцінку змішаної
Про деякі нові особливості використання прихованих марковських моделей...
«Штучний інтелект» 4’2010 341
5Б
ПMM. Параметри моделі оцінюються за допомогою максимальної правдоподібності
та за допомогою EM-алгоритму.
Такий підхід можна розглядати як можливе вирішення питань, які виникають
при проведенні обчислювальних експериментів зі змішаними НОПММ.
Література
1. Баклан І.В. Гібридні технології в проектуванні інтелектуальних систем прийняття рішень / І.В. Бак-
лан // Сучасні інформаційні та інноваційні технології на транспорті : матеріали Міжнародної науко-
во-практичної конференції. – Херсон : Видавництво Херсонського державного морського інститу-
ту, 2009. – Том 1. – С.32-37.
2. Баклан І.В. Основні проблеми при застосуванні прихованих марковських моделей / І.В. Баклан,
Г.А. Степанкова // Інтелектуальні системи прийняття рішень та проблеми обчислювального інте-
лекту : матеріали міжнародної наукової конференції. – Херсон : ХНТУ, 2009. – Том 2. – С. 430-432.
3. Jamse C. Bezdek. Pattern Recognition with Fuzzy Objective Function Algorithms / Jamse C. Bezdek. –
Plenum Press, New York and London, 1987.
4. Tsuboro E. On the Fuzzy Vector Quantization based Hidden Markov Models / E. Tsuboro, J. Nakanashi //
Proc. Of IEEE Intl Conf. ASSP. – 1994. – С. 637-640.
5. Баклан І.В. Імовірнісні моделі для аналізу та прогнозування часових рядів / І.В. Баклан, Г.А. Степан-
кова // Искусственный интеллект. – 2008. – № 3. – C. 505-515.
6. Степанкова Г.А. Деякі підходи до навчання прихованих марківських моделей / Г.А. Степанкова,
І.В. Баклан // Матеріали міжнародної наукової конференції «Інтелектуальні системи прийняття рі-
шень та проблеми обчислювального інтелекту». – Євпаторія. – 2008. – Т. 3 (ч. 2). – С. 87-91.
7. Баклан І.В. Структурний підхід до аналізу та прогнозування поведінки часових рядів / І.В. Баклан,
Ю.М. Селін // Вісник Херсонського національного технічного університету. – Херсон : ХНТУ, 2005. –
№ 2. – C. 27-31.
8. Баклан И.В. Анализ поведения экономических часовых рядов с использованием структурных под-
ходов / И.В. Баклан, Ю.Н. Селин // Вісник Херсонського національного технічного університету. –
Херсон : ХНТУ, 2006. – № 2. – С. 29-34.
9. Dias J.G., Vermunt J.K., Ramos S. Mixture hidden Markov models in finance research // In: Fink A., Ber-
thold L., Seidel W. and Ultsch A. (eds.) Advances in data analysis, data handling and business intelligen-
ce, Springer: Berlin-Heidelberg, 2010. – Р. 451-459.
И.В. Баклан, А.А. Степанкова
Про некоторые новые особенности использования скрытых марковских моделей
для анализа и прогнозирования временных рядов
В статье рассматриваются некоторые новые подходы к анализу и прогнозированию временных рядов
с помощью математического аппарата скрытых марковских моделей. Предлагается использование смесей
неоднородных скрытых марковских моделей для анализа временных рядов, а также для прогнозирования
временных рядов предлагается использование гибридной модели – нечеткой скрытой марковской модели.
I.V. Baklan, G.F. Stepankova
On Some New Pecularities of Hidden Markov’s Model Usage for Analysis and Prognosis of Time Series
In this paper we consider some new approaches to analysis and prognosis of time series by means of hidden Markov’s
models. We propose for time series analysis to use mixtures of unhomogenous hidden Markov’s models.
Also we consider some properties of hybrid fuzzy hidden Markov’s models for time series prognosis.
Стаття надійшла до редакції 30.06.2010.
|
| id | nasplib_isofts_kiev_ua-123456789-58427 |
| institution | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| issn | 1561-5359 |
| language | Ukrainian |
| last_indexed | 2025-12-07T17:28:57Z |
| publishDate | 2010 |
| publisher | Інститут проблем штучного інтелекту МОН України та НАН України |
| record_format | dspace |
| spelling | Баклан, І.В. Степанкова, Г.А. 2014-03-23T15:51:44Z 2014-03-23T15:51:44Z 2010 Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів / І.В. Баклан, Г.А. Степанкова 
 // Штучний інтелект. — 2010. — № 4. — С. 337-341. — Бібліогр.: 9 назв. — укр. 1561-5359 https://nasplib.isofts.kiev.ua/handle/123456789/58427 519.8 У статті розглядаються деякі нові підходи до аналізу та прогнозування часових рядів за допомогою математичного апарату різноманітних прихованих марковських моделей. Пропонується використання сумішей неоднорідних прихованих марковських моделей для аналізу часових рядів, а також для прогнозування часових рядів пропонується використання гібридної моделі – нечіткої прихованої марковської моделі. В статье рассматриваются некоторые новые подходы к анализу и прогнозированию временных рядов с помощью математического аппарата скрытых марковских моделей. Предлагается использование смесей неоднородных скрытых марковских моделей для анализа временных рядов, а также для прогнозирования временных рядов предлагается использование гибридной модели – нечеткой скрытой марковской модели. In this paper we consider some new approaches to analysis and prognosis of time series by means of hidden Markov’s models. We propose for time series analysis to use mixtures of unhomogenous hidden Markov’s models. Also we consider some properties of hybrid fuzzy hidden Markov’s models for time series prognosis. uk Інститут проблем штучного інтелекту МОН України та НАН України Штучний інтелект Интеллектуальные системы планирования, управления, моделирования и принятия решений Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів Про некоторые новые особенности использования скрытых марковских моделей для анализа и прогнозирования временных рядов On Some New Pecularities of Hidden Markov’s Model Usage for Analysis and Prognosis of Time Series Article published earlier |
| spellingShingle | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів Баклан, І.В. Степанкова, Г.А. Интеллектуальные системы планирования, управления, моделирования и принятия решений |
| title | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів |
| title_alt | Про некоторые новые особенности использования скрытых марковских моделей для анализа и прогнозирования временных рядов On Some New Pecularities of Hidden Markov’s Model Usage for Analysis and Prognosis of Time Series |
| title_full | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів |
| title_fullStr | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів |
| title_full_unstemmed | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів |
| title_short | Про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів |
| title_sort | про деякі нові особливості використання прихованих марковських моделей для аналізу та прогнозування часових рядів |
| topic | Интеллектуальные системы планирования, управления, моделирования и принятия решений |
| topic_facet | Интеллектуальные системы планирования, управления, моделирования и принятия решений |
| url | https://nasplib.isofts.kiev.ua/handle/123456789/58427 |
| work_keys_str_mv | AT baklanív prodeâkínovíosoblivostívikoristannâprihovanihmarkovsʹkihmodeleidlâanalízutaprognozuvannâčasovihrâdív AT stepankovaga prodeâkínovíosoblivostívikoristannâprihovanihmarkovsʹkihmodeleidlâanalízutaprognozuvannâčasovihrâdív AT baklanív pronekotoryenovyeosobennostiispolʹzovaniâskrytyhmarkovskihmodeleidlâanalizaiprognozirovaniâvremennyhrâdov AT stepankovaga pronekotoryenovyeosobennostiispolʹzovaniâskrytyhmarkovskihmodeleidlâanalizaiprognozirovaniâvremennyhrâdov AT baklanív onsomenewpecularitiesofhiddenmarkovsmodelusageforanalysisandprognosisoftimeseries AT stepankovaga onsomenewpecularitiesofhiddenmarkovsmodelusageforanalysisandprognosisoftimeseries |