Deeplearning-based approach to improving numerical weather forecasts

Deeplearning-based approach to improving numerical weather forecasts

This paper briefly describes the history of numerical weather prediction development. The difficulties, which occur in the modelling of atmospheric processes, their nature and possible ways of their mitigation, are described. It also indicates alternative methods of improving the quality of meteorol...

Повний опис

Збережено в:
Бібліографічні деталі
Дата:2023
Автори: Doroshenko, А.Yu., Shpyg, V.M., Kushnirenko, R.V.
Формат: Стаття
Мова:Ukrainian
Опубліковано: Інститут програмних систем НАН України 2023
Теми:
deep learning
numerical weather prediction
COSMO
2m temperature
UDC 51:681.3.06
Онлайн доступ:https://pp.isofts.kiev.ua/index.php/ojs1/article/view/585
Теги: Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:Problems in programming
Завантажити файл: Pdf

Репозитарії

Problems in programming
id pp_isofts_kiev_ua-article-585
record_format ojs
resource_txt_mv ppisoftskievua/3e/ffa5d6a6bdd94de397eaa5f56dba1d3e.pdf
spelling pp_isofts_kiev_ua-article-5852024-04-28T11:55:00Z Deeplearning-based approach to improving numerical weather forecasts Уточнення чисельних метеорологічних прогнозів за допомогою глибокого навчання Doroshenko, А.Yu. Shpyg, V.M. Kushnirenko, R.V. deep learning; numerical weather prediction; COSMO; 2m temperature UDC 51:681.3.06 глибоке навчання; чисельний прогноз; COSMO; температура повітря УДК 51:681.3.06 This paper briefly describes the history of numerical weather prediction development. The difficulties, which occur in the modelling of atmospheric processes, their nature and possible ways of their mitigation, are described. It also indicates alternative methods of improving the quality of meteorological forecasts. A brief history of deep learning and possible ways of its application to meteorological problems are given. Then, the paper describes the format used to store the 2m temperature forecasts of the COSMO numerical regional model. The proposed neural network architecture enables correcting the forecast errors of the numerical model. We conducted the experiments on the data of eight meteorological stations of the Kyiv region, so we obtained eight trained neural network models. The results showed that the proposed architecture enables obtaining better-quality forecasts in more than 50% of cases. Root-mean-square errors of the resulting forecasts decreased, and it is a widespread skill-score of improved-quality forecasts in meteorological science.Prombles in programming 2023; 3: 91-98 Подано короткий огляд розвитку чисельного прогнозування погоди. Описано проблеми, які мають місце в моделюванні атмосферних процесів, їхню природу та можливі шляхи подолання. Зазначено альтернативні способи покращення якості метеорологічних прогнозів. Наведено коротку історію розвитку "глибокого навчання" та його застосування до метеорологічних задач. Описано формат, у якому зберігаються прогнози приземної температури повітря  чисельної регіональної моделі COSMO. Запропоновано архітектуру нейронної мережі, яка дозволяє коригувати помилки прогнозу чисельної моделі. Проведено експерименти на даних восьми метеорологічних станцій Київської області та отримано вісім натренованих нейромережевих моделей. Показано, що запропонована архітектура дає можливість досягти покращення прогнозу більше, ніж у 50% випадків. Також спостерігається зменшення значень середнього квадратичного відхилення, що у метеорологічній науці є загальноприйнятим критерієм якості прогнозу.Prombles in programming 2023; 3: 91-98 Інститут програмних систем НАН України 2023-10-06 Article Article application/pdf https://pp.isofts.kiev.ua/index.php/ojs1/article/view/585 10.15407/pp2023.03.091 PROBLEMS IN PROGRAMMING; No 3 (2023); 91-98 ПРОБЛЕМЫ ПРОГРАММИРОВАНИЯ; No 3 (2023); 91-98 ПРОБЛЕМИ ПРОГРАМУВАННЯ; No 3 (2023); 91-98 1727-4907 10.15407/pp2023.03 uk https://pp.isofts.kiev.ua/index.php/ojs1/article/view/585/635 Copyright (c) 2023 PROBLEMS IN PROGRAMMING
institution Problems in programming
baseUrl_str https://pp.isofts.kiev.ua/index.php/ojs1/oai
datestamp_date 2024-04-28T11:55:00Z
collection OJS
language Ukrainian
topic deep learning
numerical weather prediction
COSMO
2m temperature
UDC 51:681.3.06
spellingShingle deep learning
numerical weather prediction
COSMO
2m temperature
UDC 51:681.3.06
Doroshenko, А.Yu.
Shpyg, V.M.
Kushnirenko, R.V.
Deeplearning-based approach to improving numerical weather forecasts
topic_facet deep learning
numerical weather prediction
COSMO
2m temperature
UDC 51:681.3.06
глибоке навчання
чисельний прогноз
COSMO
температура повітря
УДК 51:681.3.06
format Article
author Doroshenko, А.Yu.
Shpyg, V.M.
Kushnirenko, R.V.
author_facet Doroshenko, А.Yu.
Shpyg, V.M.
Kushnirenko, R.V.
author_sort Doroshenko, А.Yu.
title Deeplearning-based approach to improving numerical weather forecasts
title_short Deeplearning-based approach to improving numerical weather forecasts
title_full Deeplearning-based approach to improving numerical weather forecasts
title_fullStr Deeplearning-based approach to improving numerical weather forecasts
title_full_unstemmed Deeplearning-based approach to improving numerical weather forecasts
title_sort deeplearning-based approach to improving numerical weather forecasts
title_alt Уточнення чисельних метеорологічних прогнозів за допомогою глибокого навчання
description This paper briefly describes the history of numerical weather prediction development. The difficulties, which occur in the modelling of atmospheric processes, their nature and possible ways of their mitigation, are described. It also indicates alternative methods of improving the quality of meteorological forecasts. A brief history of deep learning and possible ways of its application to meteorological problems are given. Then, the paper describes the format used to store the 2m temperature forecasts of the COSMO numerical regional model. The proposed neural network architecture enables correcting the forecast errors of the numerical model. We conducted the experiments on the data of eight meteorological stations of the Kyiv region, so we obtained eight trained neural network models. The results showed that the proposed architecture enables obtaining better-quality forecasts in more than 50% of cases. Root-mean-square errors of the resulting forecasts decreased, and it is a widespread skill-score of improved-quality forecasts in meteorological science.Prombles in programming 2023; 3: 91-98
publisher Інститут програмних систем НАН України
publishDate 2023
url https://pp.isofts.kiev.ua/index.php/ojs1/article/view/585
work_keys_str_mv AT doroshenkoayu deeplearningbasedapproachtoimprovingnumericalweatherforecasts
AT shpygvm deeplearningbasedapproachtoimprovingnumericalweatherforecasts
AT kushnirenkorv deeplearningbasedapproachtoimprovingnumericalweatherforecasts
AT doroshenkoayu utočnennâčiselʹnihmeteorologíčnihprognozívzadopomogoûglibokogonavčannâ
AT shpygvm utočnennâčiselʹnihmeteorologíčnihprognozívzadopomogoûglibokogonavčannâ
AT kushnirenkorv utočnennâčiselʹnihmeteorologíčnihprognozívzadopomogoûglibokogonavčannâ
first_indexed 2024-10-02T04:07:03Z
last_indexed 2024-10-02T04:07:03Z
_version_ 1818568511023218688
fulltext Моделі та методи машинного навчання 91 УДК 51:681.3.06 http://doi.org/10.15407/pp2023.03.91 А.Ю. Дорошенко, В.М. Шпиг, Р.В. Кушніренко УТОЧНЕННЯ ЧИСЕЛЬНИХ МЕТЕОРОЛОГІЧНИХ ПРОГНОЗІВ ЗА ДОПОМОГОЮ ГЛИБОКОГО НАВЧАННЯ Зроблено короткий огляд розвитку чисельного прогнозування погоди. Описано проблеми, які мають міс- це в моделюванні атмосферних процесів, їхню природу та можливі шляхи подолання. Запропоновано архітектуру нейронної мережі, яка дозволяє коригувати помилки про гнозу приземної температури по- вітря чисельної ре гіональної моделі COSMO. Показано, що за пропонована архі тектура дає можли вість покращити прогноз у понад 50% ви падків, що підкрі плюється також зменшенням кореня середнього квадратичного відхилення. Ключові слова: “глибоке навчання”, чисельний прогноз, COSMO, температура повітря. Вступ Атмосферні процеси та явища мо­ жуть значно вплинути на різні сфери людської життєдіяльності, починаючи від сільського господарства і закінчуючи ци вільною та військовою авіацією. Що­ більше, такі природні явища як повені, си льні зливи, урагани тощо можуть зав- давати великих збитків господарству, ба навіть гі рше ­ становити загрозу життю багатьох людей. Тому дуже важливою науковою задачею є все більше вдоско- налення якості метеорологічного прогно- зування, адже це може дозволити попере- дити та зменшити негативні наслідки від надзвичайних си туацій природного і тех- ногенного характе ру. До будь­якого прогнозування, зокре- ма, до метеорологічного, логічно ви сунути дві основні вимоги: точність (правдивість) прогнозу і своєчасність його отримання. Як зазначено у [1], відбулася “тиха революція” чисельних гідродинамі чних методів про- гнозу погоди, що мала на меті якнайпов- ніше задовольнити обидві вказані вимоги. Зокрема, розробка більш довершених і ре- алістичних математичних моделей, а та- кож істотне збільшення обся гу початкових метеорологічних даних умож ливлює вико- нання першої вимоги. Друга ж вимога за- безпечується передусім появою все більш потужних обчислю вальних систем. Проте попри величезний прогрес ос- танніх років, ми не можемо назвати якість отриманих прогнозів абсо лютною. Причи- ною цього є складність бу дови атмосфери й різноманіття процесів та явищ, наявних у ній. Зокрема, одні про цеси відбуваються на великій території протягом тривалого часу, інші ж можуть мати місце на незначній за площею території та впродовж короткого часового проміжку. Найбільш розповсюдженою на сьо­ годні є шкала масштабів атмосферних про­ цесів та об’єктів, згідно з якою вони поділя- ються на три типи [2]: мікро масштабні (до 200 м), мезомасштабні (від 200 м до 2000 км) та макромасштабні (понад 2000 км). Зрозуміло, що процеси всіх пере рахованих вище масштабів впливають на формування явищ, що вини кають в атмо сфері в кожній конкретній області. Тимча сом роль кожного процесу в різних умовах буде неоднаковою. Так формування зага льної циркуляції на територіях, співставних за розмірами з кон- тинентами, виникає переважно під впли- вом макромасштабних процесів. Водночас мезомас штабні процеси роблять менш важ- ливий внесок. Таким чином цілком зрозумілими є труднощі, що виникають під час спроб моделювання метеорологічних проце- сів рі зних масштабів з єдиних позицій, оскільки зв’язки між циркуляцією ат- мосфери та закономірностями обміну ім- пульсом, те плом і вологою у приземному / примежово му шарі атмосфери безпосе- редньо проя вляються під час розв’язання відповідних задач. ©А.Ю. Дорошенко, В.М. Шпиг, Р.В. Кушніренко, 2023 ISSN 1727-4907. Проблеми програмування. 2023. №3 Моделі та методи машинного навчання 92 Складність математичних моделей, що описують циркуляційні процеси в атмос- фері обумовлює реалізацію про гностичних систем за допомогою чи сельних методів. Рівняння, з яких складаю ться такі моделі, є переважно нелінійними тривимірними рівняннями другого порядку з малим па- раметром у разі похідних другого порядку. Наявність малого параметра при старших похідних може зумовлювати зміну типу рівняння (до прикладу, з еліпти чного на гіперболічний або параболічний) залежно від режиму руху в атмосфері, що моделю- ється. Наразі навіть ресурси ду же потужних комп’ютерних систем не дають змоги здійс- нювати просторову дис кретизацію моделі атмосфери з високим розділенням. Водно- час більш груба просторова дискретизація призводить до того, що багато мезомасш- табних метеоро логічних процесів не опису- ються цією моделлю, оскільки у такому разі опиняю ться у класі процесів підсіткового мас штабу. Оскільки прогноз погоди потрібно отримувати завчасно, значною проблемою у створенні прогнозів, що базуються на реалізації математичних моделей, є обме­ ження на час розв’язання. Як зазначено ви ще, навіть сучасні потужні обчислю- вальні системи не дозволяють використо- вувати дрібну просторову сітку в області розв’язан ня задачі, що дало б можливість підвищити точність прогнозу. Особливо ак- туальною дана проблема постає для Укра- їни, тому що питання зменшення витрат машинного часу у розв’язанні задач ди- намічної метеорології стоїть особливо го- стро у зв’язку з відсутністю в національній гідрометслужбі потужної об числювальної техніки, яку використовують у світових і національних метеорологічних центрах розвинутих держав. На щастя, існують альтернативні способи покращити якість метеорологічно­ го прогнозування. Один з них викори стовує той факт, що задача моделювання метео- рологічних процесів передбачає для свого розв’язання розщеплення рівнянь за коор- динатами [3], що своєю чергою забез печує так званий природний паралелізм виконан- ня операцій [4], тобто такий паралелізм ви- конання операцій, що зумовлений специфі- кацією задачі, а не ви пливає з алгоритму її розв’язання. Отож, одним із перспекти вних на- прямів покращення якості метеорологічно- го прогнозування є розроб ка і дослідження систем паралельних і розподілених обчис- лень. Зокрема, важли вою метою є розвиток архі тектурно­ і мовно­незалежних засобів про грамування мультипроцесорних обчи­ слювальних си стем, якого можна досягти за допомогою програмних абстракцій у ви- гляді алгебро­алгоритмічних мов і моделей. Зазначимо, що алгебро­алгоритмічний під- хід до побу дови структурованих абстракцій у моделях паралельних програм має на меті забезпе чення високої продукти вності пара- лельних обчислень. Іншим альтернативним способом покращення якості метеорологічно го про­ гнозування є використання так званого “глибокого навчання” (deep learning, DL). Все більш успішне використання цієї тех- ніки стало можливим завдяки збільшен ню обчислювальної потужності систем, до­ ступності великих наборів даних і швид­ кому розвитку нових архітектур нейронних мереж. Деякі з цих нових архітектур мо­ жуть виконувати певні задачі набагато ефе­ ктивніше, аніж класичні повнозв’язні ней- ронні мережі прямого поширення. Однією з таких особливо успішних концепцій, що має широке застосовування, є концепція згорткової нейронної мережі (convolutional neural network, CNN) [5]. Ця архітектура нейронної мережі являє собою стек фільтрів малого розміру з невеликою кількістю параметрів, які власне “навчаю­ ться”. Вона застосовується до зображень або інших даних на прямокут ній сітці для отримання узага льнених характерних осо- бливостей дослі джуваного об’єкта. У ца- рині метеорологі чного і клімати чного про- гнозування згорткові мережі можуть бути використані для виявлення просторових характеристик, як­от, під час аналізу супут- никових зобра жень [6]. Іншою корисною і широко вжива- ною концепцією є рекурентні нейронні ме- режі (recurrent neural network, RNN). Цей вид нейромережевої архі тектури був роз- Моделі та методи машинного навчання 93 роблений для вивчення залежних від часу особливостей даних, до прикладу, тексту [7] та мовлен ня [8]. Реку рентність — це лише загальна ідея, яка полягає у тому, що топологічно та ка архі тектура нейронної ме- режі може бути пред ставлена орієнтованим у часі графом. Завдяки цьому утворюєть- ся “пам’ять” ме режі (вектор внутрішнього стану), що і до зволяє виявляти динамічні (у часовому вимірі) характеристики дослі­ джуваних даних. Двома найпопулярнішими видами рекурентних нейронних мереж є мережа довгої короткочасної пам’яті (long short­term memory, LSTM) [9] та вентиль- ний рекурентний вузол (gated recurrent unit, GRU) [10]. Зокрема, GRU­шари будуть ви­ користані для розв’язання поставленої в да- ній статті задачі. Зазначимо, що GRU­ та LSTM­шари можуть бути вбудовані в складніші архі­ тектури нейронних ме реж. Наприклад, по­ єднання звичайної CNN з LSTM дає так звану мережу ConvLSTM [11]. Кількість задач, для розв’язання яких можуть використовуватися нейронні мережі, надзвичайно велика, навіть якщо брати до уваги тільки сферу метеорологі­ чного прогнозування. Ось декілька прикла дів. Класифікація метеорологічних супут никових знімків за допомогою CNN була здійснена в [12]. У [13] дослідники викори стовували LSTM для прогнозування зобра жень хмар. Беручи за основу принци- пи ви користання “глибокого навчання” для про гнозування відео, дослідники зробили короткострокове про гнозування зображень неба та радіолока ційних зображень [14]. Та кож здійснювалися деякі спроби створи­ ти прогноз погоди, використовуючи бага­ тошаровий персептрон, зокрема, у [15]. Дослі дження [16] можна розглядати як перший крок до заміни динамічного ядра чисельної моделі погоди, оскільки у ньому “навчання без вчителя” застосовувалося до рівнянь Нав’є­Стокса для нестискува- ної рі дини. Проте, як було показано у [17], ще рано говорити про повну заміну чи сельних гідродинамі чних методів прогнозу погоди на методи, що базуються лише на “глибо- кому навчанні” і спостережуваних даних. Хоча “глибоке навчання” останнім часом показує себе успішно у різних сферах і по- при те, що робляться спроби його застосу- вання до метеорологічних задач, такі до- слідження все ще знаходяться в зародково- му стані. Це пов’язано перед усім з тим, що характерні особливості метеорологічних даних вимагають розроб ки нових підходів поза межами класичних концепцій комп’ю- терного зору, розпізнаван ня мовлення та інших типових задач, що ставляться перед “глибоким на вчанням”. Попри те, що робо- та над цими новими підходами посувається та вже багато про блем успішно розв’язано, не існує єдиного методу, що вирішував би усі про блеми одночасно. А саме він і потрі- бен для успішної повної заміни чи сельних методів метеорологічного прогнозування. Однак, відповідно до [18], є тенден- ція до розробки гібридних підходів моделю- вання, які поєднали б моделі фізи чних про- цесів з універсальністю інструментів “гли- бокого на вчання” для досягнення кращих результатів. Зокрема, існують дослідження можливості успішно го використання “гли- бокого на вчання” на різних стадіях чисель- ного прогнозу: обробка спостережень [19], асиміляція даних [20], прогностична мо- дель [21] та постпроцесинг отриманих ре- зультатів [22]. Власне, дана стаття пропонує під- хід до застосування “глибокого навчання” до постпроцесингу результатів прогнозу при земної температури, отриманого за до- помогою чисельних гідродинамі чних ме- тодів метеорологічного прогнозування. Подальша розробка цього підходу може уможливити досягнення належного ступе- ня точності метеорологічних прогнозів, ви­ користовуючи відносно невелику обчислю­ вальну потужність. Опис даних “Глибоке навчання” як техніка ви окремлення характерних особливос- тей даних сут тєво залежить від якості, репре зентативності та цілісності викори­ стовуваних даних. Тому правильний відбір і підготовка даних є важливими факторами для отримання хороших і узагальнюючих результатів. Моделі та методи машинного навчання 94 Зокрема, відбір даних має бути спрямований на охоплення якнайповнішої варіативності значень змінних, на яких базуватиметься власне навчання нейроме- режевої моделі. Хороші дані мають дозво- ляти моделі охоплювати зв’язки між змін- ними, на основі яких робиться прогноз. Водночас важливим є уникнення надлиш- ковості у даних. Нижче поданий опис даних, ви- користаних для дослідження, описано­ го у даній статті. Ці дані складалися з чо­ тириелементних кортежів і містили на­ ступну інформацію: • дата, • час за Гринвічем, • прогнозоване значення температури (Fcst), завчасністю в одну добу від моменту ініціалізації чисельної ре­ гіональної моделі, • спостережуване значення температури (Obs). Чисельною регіональною моделлю прогнозу по годи, згаданою вище, є модель однойменного європейського консорці- уму COSMO (Consortium for Small­scale Modelling). Ця модель викори стовується в Украї нському гідрометеоро логічному ін­ ституті ДСНС України та НАН України для наукових та прикла дних задач, почи наючи із липня 2011 р. [23]. COSMO є негідро статичною модел­ лю, здатною ефективно відтворю вати широкий спектр атмо сферних про цесів у масштабі мезо­β та мезо­γ. В основу ди­ намічного ядра моделі покладено рівнян- ня термо­ та гідродинамі ки, що опи сують по тік у воло гій атмо сфері. Рі зноманітні фізи чні про цеси враховуються схемами параметриза ції [24]. Рис. 1 зображує розрахункову об- ласть чисельної регіональної моделі: кі­ лькість вузлів із заходу на схід – 209; кі­ лькість вузлів із півдня на північ – 101; кі лькість рівнів по вертикалі – 50; крок ~ 14 км. Наявні дані охоплюють проміжок часу від 01.07.2012 до 31.03.2014, або 639 днів. Спостереження проводилися кож­ ні три години, а саме о 00:00, 03:00, 06:00, 09:00, 12:00, 15:00, 18:00 і 21:00 за Гринві­ чем. Для цих же моментів часу обчислю­ вався і прогноз регіональної моделі. Таким чином, для кожної дати має­ мо по вісім кортежів. Відповідно 639 днів дають 5112 кортежів. Рис. 1. Розрахункова область моделі прогнозу погоди COSMO Що стосується просторової при- належності, то дані охоплюють спо­ стережувані значення і прогнози для стан- цій “Біла Церква”, “Бориспіль”, “Київ”, “Миронівка”, “Тетерів”, “Фастів”, “Чорно- биль” та “Яготин”. Рекурентні нейронні мережі Як зазначалося вище, поточне дослі- дження використовує концепцію рекурент- них нейронних мереж. Це зумовлено тим, що метеорологічні дані мають природу ча- сового ряду, тобто містять залежні від часу особливості. А концепція рекурентних ней- ронних мереж була розроблена для роботи саме з даними такого роду. З­поміж наявних видів рекурентних архітектур була обрана архітектура венти­ льного рекурентного вузла (GRU), оскіль- ки вона містить небагато параметрів, а тому швидко навчається. Водночас вузол GRU дозволяє уникнути основних про­ блем, що виникають під час аналізу довго­ строкових залежностей. Цими проблема- ми є ефект зникнення градієнтів (vanishing gradient effect) і безпосередньо пов’язаний з ним ефект вибуху градіє нтів (exploding gradients effect). Моделі та методи машинного навчання 95 Моделі та методи машинного навчання 96 Таблиця. Порівняння нейронної мережі (NN) і чисельної моделі (COSMO) Станція RMSE (COSMO), °C RMSE (NN), °C Покра- щення, % Біла Це рква 1.9864 1.8865 54.81 Борис піль 2.0007 1.9958 53.21 Київ 2.1888 1.9824 53.97 Ми ронівка 2.0945 2.0099 57.48 Тете рів 2.0457 2.0215 52.29 Фастів 1.9728 1.8565 54.68 Чорнобиль 1.9696 2.0094 50.59 Яго тин 2.2437 2.1157 52.21 Висновки На прикладі прогнозів моделі COSMO приземної температури повітря для восьми метеорологічних станцій Київської області та відповідних їм даних фактичних спостережень запропоновано архітектуру нейронної мережі, яка до зволяє покращува- ти прогноз чисельної ре гіональної моделі. Показано, що запропонована архі­ тектура дає можливість досягти покращен­ ня прогнозу приземної температури пові тря більше, ніж у 50% ви падків. Цей ре зультат підкріплюється зменшенням значень коре- ня середнього квадратичного відхилення. Отримані результати дають під стави для застосування нейромережевого підходу до коригування прогнозів інших неперерв- них метеорологічних величин. Література 1. Bauer, P., Thorpe, A. and Brunet, G., 2015. The quiet revolution of numerical weather prediction. Nature, 525(7567), pp.47­55. 2. Orlanski, I., 1975. A rational subdivision of scales for atmospheric processes. Bulle- tin of the American Meteorological Soci- ety, pp.527­530. 3. Prusov, V.A., Doroshenko, A.E., Chernysh, R.I. and Guk, L.N., 2007. Efficient differ- ence scheme for numerical solution of a convective diffusion problem. Cybernetics and Systems Analysis, 43, pp.368­376. 4. Прусов, В.А. and Дорошенко, А.Ю., 2006. Моделювання природних і техно­ генних процесів в атмосфері. Київ: Наукова Думка. 5. LeCun, Y., Bottou, L., Bengio, Y. and Haffner, P., 1998. Gradient­based learning applied to document recognition. Proceed- ings of the IEEE, 86(11), pp.2278­2324. 6. Zhu, X.X., Tuia, D., Mou, L., Xia, G.S., Zhang, L., Xu, F. and Fraundorfer, F., 2017. Deep learning in remote sensing: A comprehensive review and list of resourc- es. IEEE geoscience and remote sensing magazine, 5(4), pp.8­36. 7. Graves, A., Liwicki, M., Fernandez, S., Bertolami, R., Bunke, H. and Schmidhu- ber, J., 2009. A novel connectionist system for improved unconstrained handwrit- ing. IEEE Transactions on Pattern Analy- sis and Machine Intelligence, 31(5). 8. Sak, H., Senior, A. and Beaufays, F., 2014. Long short­term memory based recurrent neural network architectures for large vo- cabulary speech recognition. arXiv pre- print arXiv:1402.1128. 9. Hochreiter, S. and Schmidhuber, J., 1997. Long short­term memory. Neural compu- tation, 9(8), pp.1735­1780. 10. Cho, K., Van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H. and Bengio, Y., 2014. Learning phrase representations using RNN encoder­de- coder for statistical machine transla- tion. arXiv preprint arXiv:1406.1078. 11. Shi, X., Chen, Z., Wang, H., Yeung, D.Y., Wong, W.K. and Woo, W.C., 2015. Convo- lutional LSTM network: A machine learn- ing approach for precipitation nowcast- ing. Advances in neural information pro- cessing systems, 28. 12. Zhou, Y., Wang, H., Xu, F. and Jin, Y.Q., 2016. Polarimetric SAR image classifi- cation using deep convolutional neural networks. IEEE Geoscience and Remote Sensing Letters, 13(12), pp.1935­1939. 13. Xu, Z., Du, J., Wang, J., Jiang, C. and Ren, Y., 2019, May. Satellite image pre- diction relying on GAN and LSTM neural networks. In ICC 2019-2019 IEEE inter- national conference on communications (ICC) (pp. 1­6). IEEE. 14. Schmidt, V., Alghali, M., Sankaran, K., Yuan, T. and Bengio, Y., 2020. Modeling cloud reflectance fields using condition- al generative adversarial networks. arXiv preprint arXiv:2002.07579. 15. Dueben, P.D. and Bauer, P., 2018. Chal- lenges and design choices for global weather and climate models based on ma- chine learning. Geoscientific Model Devel- opment, 11(10), pp.3999­4009. 16. Wandel, N., Weinmann, M. and Klein, R., 2020. Unsupervised deep learning of in- Моделі та методи машинного навчання 97 compressible fluid dynamics. arXiv pre- print arXiv:2006.08762. 17. Schultz, M.G., Betancourt, C., Gong, B., Kleinert, F., Langguth, M., Leufen, L.H., Mozaffari, A. and Stadtler, S., 2021. Can deep learning beat numerical weather pre- diction?. Philosophical Transactions of the Royal Society A, 379(2194), p.20200097. 18. Bauer, P., Dueben, P.D., Hoefler, T., Quin- tino, T., Schulthess, T.C. and Wedi, N.P., 2021. The digital revolution of Earth­sys- tem science. Nature Computational Sci- ence, 1(2), pp.104­113. 19. Prudden, R., Adams, S., Kangin, D., Rob- inson, N., Ravuri, S., Mohamed, S. and Arribas, A., 2020. A review of radar­based nowcasting of precipitation and applicable machine learning techniques. arXiv pre- print arXiv:2005.04988. 20. Bonavita, M. and Laloyaux, P., 2020. Machine learning for model error infer- ence and correction. Journal of Advanc- es in Modeling Earth Systems, 12(12), p.e2020MS002232. 21. Krasnopolsky, V.M., Fox­Rabinovitz, M.S. and Chalikov, D.V., 2005. New approach to calculation of atmospheric model phys- ics: Accurate and fast neural network em- ulation of longwave radiation in a climate model. Monthly Weather Review, 133(5), pp.1370­1383. 22. Rasp, S. and Lerch, S., 2018. Neural networks for postprocessing ensemble weather forecasts. Monthly Weather Re- view, 146(11), pp.3885­3900. 23. Shpyg, V., Budak, I., Pishniak, D. and Poperechnyi, P., 2013, November. The ap- plication of regional NWP models to op- erational weather forecasting in Ukraine. In CAS Technical Conference (TECO) on» Responding to the Environmental Stress- ors of the 21st Century» Available from: http://www. wmo. int/pages/prog/arep/cas/ documents/Ukraine-NWPModels. pdf [Ac- cessed 27/02/2020]. 24. Doms, G. and Baldauf, M., 2011. A de- scription of the nonhydrostatic regional COSMO­Model Part I: dynamics and nu- merics. Deutscher Wetterdienst, Offenbach. 25. https://keras.io/ 26. https://www.tensorflow.org/ 27. https://www.python.org/ References 1. Bauer, P., Thorpe, A. and Brunet, G., 2015. The quiet revolution of numerical weather prediction. Nature, 525(7567), pp.47­55. 2. Orlanski, I., 1975. A rational subdivision of scales for atmospheric processes. Bulle- tin of the American Meteorological Soci- ety, pp.527­530. 3. Prusov, V.A., Doroshenko, A.E., Chernysh, R.I. and Guk, L.N., 2007. Efficient differ- ence scheme for numerical solution of a convective diffusion problem. Cybernetics and Systems Analysis, 43, pp.368­376. 4. Prusov, V.A. and Doroshenko, A.Y., 2006. Modeling of Natural and Technogenic Pro- cesses in the Atmosphere [in Ukrainian]. 5. LeCun, Y., Bottou, L., Bengio, Y. and Haffner, P., 1998. Gradient­based learning applied to document recognition. Proceed- ings of the IEEE, 86(11), pp.2278­2324. 6. Zhu, X.X., Tuia, D., Mou, L., Xia, G.S., Zhang, L., Xu, F. and Fraundorfer, F., 2017. Deep learning in remote sensing: A comprehensive review and list of resourc- es. IEEE geoscience and remote sensing magazine, 5(4), pp.8­36. 7. Graves, A., Liwicki, M., Fernandez, S., Bertolami, R., Bunke, H. and Schmidhu- ber, J., 2009. A novel connectionist system for improved unconstrained handwrit- ing. IEEE Transactions on Pattern Analy- sis and Machine Intelligence, 31(5). 8. Sak, H., Senior, A. and Beaufays, F., 2014. Long short­term memory based recurrent neural network architectures for large vo- cabulary speech recognition. arXiv pre- print arXiv:1402.1128. 9. Hochreiter, S. and Schmidhuber, J., 1997. Long short­term memory. Neural compu- tation, 9(8), pp.1735­1780. 10. Cho, K., Van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H. and Bengio, Y., 2014. Learning phrase representations using RNN encoder­de- coder for statistical machine transla- tion. arXiv preprint arXiv:1406.1078. 11. Shi, X., Chen, Z., Wang, H., Yeung, D.Y., Wong, W.K. and Woo, W.C., 2015. Convo- lutional LSTM network: A machine learn- ing approach for precipitation nowcast- ing. Advances in neural information pro- cessing systems, 28. 12. Zhou, Y., Wang, H., Xu, F. and Jin, Y.Q., 2016. Polarimetric SAR image classifi- cation using deep convolutional neural networks. IEEE Geoscience and Remote Sensing Letters, 13(12), pp.1935­1939. 13. Xu, Z., Du, J., Wang, J., Jiang, C. and Ren, Y., 2019, May. Satellite image pre- diction relying on GAN and LSTM neural networks. In ICC 2019-2019 IEEE inter- national conference on communications (ICC) (pp. 1­6). IEEE. 14. Schmidt, V., Alghali, M., Sankaran, K., Yuan, T. and Bengio, Y., 2020. Modeling Моделі та методи машинного навчання 98 cloud reflectance fields using condition- al generative adversarial networks. arXiv preprint arXiv:2002.07579. 15. Dueben, P.D. and Bauer, P., 2018. Chal- lenges and design choices for global weather and climate models based on ma- chine learning. Geoscientific Model Devel- opment, 11(10), pp.3999­4009. 16. Wandel, N., Weinmann, M. and Klein, R., 2020. Unsupervised deep learning of in- compressible fluid dynamics. arXiv pre- print arXiv:2006.08762. 17. Schultz, M.G., Betancourt, C., Gong, B., Kleinert, F., Langguth, M., Leufen, L.H., Mozaffari, A. and Stadtler, S., 2021. Can deep learning beat numerical weather pre- diction?. Philosophical Transactions of the Royal Society A, 379(2194), p.20200097. 18. Bauer, P., Dueben, P.D., Hoefler, T., Quin- tino, T., Schulthess, T.C. and Wedi, N.P., 2021. The digital revolution of Earth­sys- tem science. Nature Computational Sci- ence, 1(2), pp.104­113. 19. Prudden, R., Adams, S., Kangin, D., Rob- inson, N., Ravuri, S., Mohamed, S. and Arribas, A., 2020. A review of radar­based nowcasting of precipitation and applicable machine learning techniques. arXiv pre- print arXiv:2005.04988. 20. Bonavita, M. and Laloyaux, P., 2020. Machine learning for model error infer- ence and correction. Journal of Advanc- es in Modeling Earth Systems, 12(12), p.e2020MS002232. 21. Krasnopolsky, V.M., Fox­Rabinovitz, M.S. and Chalikov, D.V., 2005. New approach to calculation of atmospheric model phys- ics: Accurate and fast neural network em- ulation of longwave radiation in a climate model. Monthly Weather Review, 133(5), pp.1370­1383. 22. Rasp, S. and Lerch, S., 2018. Neural networks for postprocessing ensemble weather forecasts. Monthly Weather Re- view, 146(11), pp.3885­3900. 23. Shpyg, V., Budak, I., Pishniak, D. and Poperechnyi, P., 2013, November. The ap- plication of regional NWP models to op- erational weather forecasting in Ukraine. In CAS Technical Conference (TECO) on» Responding to the Environmental Stress- ors of the 21st Century» Available from: http://www. wmo. int/pages/prog/arep/cas/ documents/Ukraine-NWPModels. pdf [Ac- cessed 27/02/2020]. 24. Doms, G. and Baldauf, M., 2011. A de- scription of the nonhydrostatic regional COSMO­Model Part I: dynamics and nu- merics. Deutscher Wetterdienst, Offenbach. 25. https://keras.io/ 26. https://www.tensorflow.org/ 27. https://www.python.org/ Одержано: 01.09.2023 Про авторів: Дорошенко Анатолій Юхимович, доктор фізико­математичних наук, професор, завідувач відділу ІПС НАНУ, професор кафедри інформаційних систем та технологій КПІ імен Ігоря Сікорського. Кількість наукових публікацій в українських виданнях – понад 200. Кількість наукових публікацій в зарубіжних виданнях – понад 90. http://orcid.org/0000­0002­8435­1451, Шпиг Віталій Михайлович, кандидат географічних наук, завідувач відділу фізики атмосфери Українського гідрометеорологічного інституту ДСНС України та НАН України, експерт Комісії з атмосферних наук Всесвітньої метеорологічної організації. Кількість наукових публікацій в українських виданнях – понад 50. Кількість наукових публікацій в зарубіжних виданнях – понад 50. https://orcid.org/0000­0003­1055­7120, Кушніренко Роман Владиславович, аспірант. Кількість наукових публікацій в українських виданнях – 2. https://orcid.org/0000­0002­1990­8727. Місце роботи авторів: Інститут програмних систем НАН України, 03187, м. Київ­187, проспект Академіка Глушкова, 40. Тел.: 38 044 526­60­33. E­mail: doroshenkoanatoliy2@gmail.com, roman.kushnirenk@gmail.com. Український гідрометеорологічний інститут ДСНС України та НАН України, 03028, м. Київ, проспект Науки, 37. Тел.: (38)(044) 525­86­30. E­mail: vitold82@i.ua.

Схожі ресурси