Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів
Розглядається задача багатокрокового прогнозування часових рядів. Представлені існуючі моделі рекурентних та нерекурентних нейронних мереж, що застосовуються для задач прогнозування. Описується спосіб навчання нейромереж методом розширеного фільтра Калмана з обчисленням похідних методом зворотного п...
Saved in:
| Published in: | Математичні машини і системи |
|---|---|
| Date: | 2012 |
| Main Author: | |
| Format: | Article |
| Language: | Ukrainian |
| Published: |
Інститут проблем математичних машин і систем НАН України
2012
|
| Subjects: | |
| Online Access: | https://nasplib.isofts.kiev.ua/handle/123456789/83774 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| Journal Title: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Cite this: | Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів / А.М. Чернодуб // Мат. машини і системи. — 2012. — № 4. — С. 41-51. — Бібліогр.: 9 назв. — укр. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
nasplib_isofts_kiev_ua-123456789-83774 |
|---|---|
| record_format |
dspace |
| spelling |
Чернодуб, А.М. 2015-06-23T08:32:05Z 2015-06-23T08:32:05Z 2012 Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів / А.М. Чернодуб // Мат. машини і системи. — 2012. — № 4. — С. 41-51. — Бібліогр.: 9 назв. — укр. 1028-9763 https://nasplib.isofts.kiev.ua/handle/123456789/83774 681.513.7 Розглядається задача багатокрокового прогнозування часових рядів. Представлені існуючі моделі рекурентних та нерекурентних нейронних мереж, що застосовуються для задач прогнозування. Описується спосіб навчання нейромереж методом розширеного фільтра Калмана з обчисленням похідних методом зворотного поширення в часі. Пропонується метод псевдорегуляризації для зменшення ефекту зникнення градієнтів, що приводить до підвищення якості прогнозування в багатокроковому випадку. Наводяться результати чисельних експериментів на прикладі прогнозування кількості сонячних плям за рік і хаотичного процесу Маккея-Гласса. Рассматривается задача многошагового прогнозирования временных рядов. Представлены существующие модели рекуррентных и нерекуррентных нейронный сетей, которые применяются для задач прогнозирования. Описывается способ обучения нейросетей методом расширенного фильтра Калмана с вычислением производных методом обратного распространения во времени. Предлагается метод псевдорегуляризации для уменьшения эффекта исчезновения градиентов, что приводит к повышению качества прогнозирования в многошаговом случае. Приводятся результаты численных экспериментов на примере прогнозирования годового количества солнечных пятен и хаотического процесса Маккея-Гласса. The problem of time series multi-step prediction is considered. The existing models of recurrent and nonrecurrent neural networks which are used for prediction problems were represented. Efficient training method of neural networks using Extended Kalman Filter and Backpropagation Through Time technique of dynamic derivatives calculation is described. Pseudoregularization method for vanishing gradients effect reducing that leads to prediction accuracy in muli-step case improvement is proposed. The results of numerical experiments on the example of yearly sunspots number and Chaotic Mackey-Glass Time Series predicting are presented. uk Інститут проблем математичних машин і систем НАН України Математичні машини і системи Обчислювальні системи Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів Обучение рекуррентных нейронных сетей методом псевдорегуляризации для многошагового прогнозирования временных рядов Recurrent neural networks training by pseudoregularization method for time series multi-step prediction Article published earlier |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| title |
Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів |
| spellingShingle |
Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів Чернодуб, А.М. Обчислювальні системи |
| title_short |
Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів |
| title_full |
Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів |
| title_fullStr |
Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів |
| title_full_unstemmed |
Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів |
| title_sort |
навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів |
| author |
Чернодуб, А.М. |
| author_facet |
Чернодуб, А.М. |
| topic |
Обчислювальні системи |
| topic_facet |
Обчислювальні системи |
| publishDate |
2012 |
| language |
Ukrainian |
| container_title |
Математичні машини і системи |
| publisher |
Інститут проблем математичних машин і систем НАН України |
| format |
Article |
| title_alt |
Обучение рекуррентных нейронных сетей методом псевдорегуляризации для многошагового прогнозирования временных рядов Recurrent neural networks training by pseudoregularization method for time series multi-step prediction |
| description |
Розглядається задача багатокрокового прогнозування часових рядів. Представлені існуючі моделі рекурентних та нерекурентних нейронних мереж, що застосовуються для задач прогнозування. Описується спосіб навчання нейромереж методом розширеного фільтра Калмана з обчисленням похідних методом зворотного поширення в часі. Пропонується метод псевдорегуляризації для зменшення ефекту зникнення градієнтів, що приводить до підвищення якості прогнозування в багатокроковому випадку. Наводяться результати чисельних експериментів на прикладі прогнозування кількості сонячних плям за рік і хаотичного процесу Маккея-Гласса.
Рассматривается задача многошагового прогнозирования временных рядов. Представлены существующие модели рекуррентных и нерекуррентных нейронный сетей, которые применяются для задач прогнозирования. Описывается способ обучения нейросетей методом расширенного фильтра Калмана с вычислением производных методом обратного распространения во времени. Предлагается метод псевдорегуляризации для уменьшения эффекта исчезновения градиентов, что приводит к повышению качества прогнозирования в многошаговом случае. Приводятся результаты численных экспериментов на примере прогнозирования годового количества солнечных пятен и хаотического процесса Маккея-Гласса.
The problem of time series multi-step prediction is considered. The existing models of recurrent and nonrecurrent neural networks which are used for prediction problems were represented. Efficient training method of neural networks using Extended Kalman Filter and Backpropagation Through Time technique of dynamic derivatives calculation is described. Pseudoregularization method for vanishing gradients effect reducing that leads to prediction accuracy in muli-step case improvement is proposed. The results of numerical experiments on the example of yearly sunspots number and Chaotic Mackey-Glass Time Series predicting are presented.
|
| issn |
1028-9763 |
| url |
https://nasplib.isofts.kiev.ua/handle/123456789/83774 |
| citation_txt |
Навчання рекурентних нейронних мереж методом псевдорегуляризації для багатокрокового прогнозування часових рядів / А.М. Чернодуб // Мат. машини і системи. — 2012. — № 4. — С. 41-51. — Бібліогр.: 9 назв. — укр. |
| work_keys_str_mv |
AT černodubam navčannârekurentnihneironnihmerežmetodompsevdoregulârizacíídlâbagatokrokovogoprognozuvannâčasovihrâdív AT černodubam obučenierekurrentnyhneironnyhseteimetodompsevdoregulârizaciidlâmnogošagovogoprognozirovaniâvremennyhrâdov AT černodubam recurrentneuralnetworkstrainingbypseudoregularizationmethodfortimeseriesmultistepprediction |
| first_indexed |
2025-12-07T15:40:47Z |
| last_indexed |
2025-12-07T15:40:47Z |
| _version_ |
1850864616417001472 |