STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS
The article provides a systematic critical analysis of the steepest descent (SD) method in the context of optimizing modern energy systems. Despite its historical significance as the archetype of iterative algorithms, SD has been proven to be significantly limited in solving large-scale problems suc...
Saved in:
| Date: | 2026 |
|---|---|
| Main Authors: | , , , |
| Format: | Article |
| Language: | Ukrainian |
| Published: |
Institute of Renewable Energy National Academy of Sciences of Ukraine
2026
|
| Subjects: | |
| Online Access: | https://ve.org.ua/index.php/journal/article/view/623 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| Journal Title: | Vidnovluvana energetika |
| Download file: |  |
Institution
Vidnovluvana energetika| _version_ | 1870287564831719424 |
|---|---|
| author | Korovushkin , V. Boichenko , S. Kuznietsov , M. Danilin , O. |
| author_facet | Korovushkin , V. Boichenko , S. Kuznietsov , M. Danilin , O. |
| author_institution_txt_mv | [
{
"author": "V. Korovushkin ",
"institution": "Національний технічний університет України \"Київський політехнічний інститут імені Ігоря Сікорського\", м. Київ, Україна"
},
{
"author": "S. Boichenko ",
"institution": "Національний технічний університет України \"Київський політехнічний інститут імені Ігоря Сікорського\", м. Київ, Україна"
},
{
"author": "M. Kuznietsov ",
"institution": "Інститут відновлюваної енергетики НАН України, м. Київ, Україна"
},
{
"author": "O. Danilin ",
"institution": "Національний технічний університет України \"Київський політехнічний інститут імені Ігоря Сікорського\", м. Київ, Україна"
}
] |
| author_sort | Korovushkin , V. |
| baseUrl_str | https://ve.org.ua/index.php/journal/oai |
| collection | OJS |
| datestamp_date | 2026-07-09T12:14:07Z |
| description | The article provides a systematic critical analysis of the steepest descent (SD) method in the context of optimizing modern energy systems. Despite its historical significance as the archetype of iterative algorithms, SD has been proven to be significantly limited in solving large-scale problems such as economic load dispatch (ELD) and optimal power flow (AC-OPF). The paper investigates the mathematical reasons for this phenomenon in detail: it shows that the physical heterogeneity of power system components (different scales of line impedances and generation characteristics) leads to a poor condition of the objective function Hessian. A high condition number (κ) causes a “zigzag” convergence trajectory, which makes the method unsuitable for real-time operational control. Based on a comparative analysis with second-order methods (Newton's method) and quasi-Newton algorithms (L-BFGS), the transition to interior point methods as an industry standard for constrained problems is justified. The key novelty of the work lies in the study of the relevance of gradient methods in modern computational paradigms in the era of artificial intelligence. The authors demonstrate a paradigm shift: characteristics that were limiting factors in deterministic optimization (noisy trajectory and simplified gradient processing) have been transformed into decisive advantages of stochastic gradient descent (SGD). It has been proven that it is precisely this stochastic nature that allows neural networks to be effectively trained for the tasks of forecasting RES generation and demand management, transforming the traditional method into the foundation of modern data-driven solutions in the energy sector. |
| doi_str_mv | 10.36296/1819-8058.2026.2(85).80-100 |
| first_indexed | 2026-07-10T01:00:14Z |
| format | Article |
| fulltext |
80
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
УДК 519.85:621.31 https://doi.org/10.36296/1819-8058.2026.2(85).80-100
МЕТОД НАЙШВИДШОГО СПУСКУ: АНАЛІЗ ОБМЕЖЕНЬ
ТА ЕВОЛЮЦІЯ ЗАСТОСУВАННЯ В СУЧАСНИХ ЕНЕРГЕТИЧНИХ СИСТЕМАХ
Отримано 18 бер. 2026 р.; рекомендовано до публікації 26 чер. 2026 р.
Доступно онлайн 30 чер. 2026 р.
Коровушкін В. О.1, Бойченко С. В.2,
Кузнєцов М. П.3, Данілін О. В.4
Автор для кореспонденції: Коровушкін Віталій,
e-mail: vitalijkorovuskin@gmail.com
Анотація. У статті здійснено системний критичний ана-
ліз методу найшвидшого спуску (SD) в контексті оптимі-
зації сучасних енергетичних систем. Попри зазначення фу-
ндаментальної ролі в теорії ітераційних алгоритмів,
доведено суттєві обмеження МНШ при розв’язанні вели-
комасштабних задач, як-от економічний розподіл наван-
таження (ELD) та оптимальний потік потужності (AC-
OPF). У роботі детально досліджено математичні при-
чини цього явища: показано, що фізична гетерогенність
компонентів енергосистеми (різні масштаби імпедансів ліній та характеристик генерації) призво-
дить до поганої обумовленості гесіана цільової функції. Високе число обумовленості (κ) спричиняє
«зигзагоподібну» траєкторію збіжності, що робить метод обмежено придатним для оператив-
ного управління режимами в реальному часі. На основі порівняльного аналізу з методами другого
порядку (метод Ньютона) та квазіньютонівськими алгоритмами (L-BFGS) обґрунтовано перехід до
методів внутрішньої точки як галузевого стандарту для задач з обмеженнями. Ключова новизна
роботи полягає в дослідженні розширення сфери застосування градієнтних методів в еру штуч-
ного інтелекту. Автори демонструють парадигмальний зсув: характеристики, що були обмежу-
вальними факторами в детермінованій оптимізації (шумна траєкторія та спрощена обробка гра-
дієнта), трансформувалися у вирішальні переваги стохастичного градієнтного спуску (SGD).
Доведено, що саме ця стохастична природа дає змогу ефективно навчати нейронні мережі для за-
дач прогнозування генерації ВДЕ та управління попитом, перетворюючи традиційний метод на фу-
ндамент сучасних Data-driven рішень в енергетиці.
Ключові слова: оптимізація енергосистеми; оптимальний розподіл потужності в змінному струмі
(AC-OPF); метод найкрутішого спуску; стохастичний градієнтний спуск (SGD); погано обумовлені за-
дачі; аналіз збіжності.
Перелік використаних позначень та скорочень
ВДЕ – відновлювані джерела енергії
KKT – умови Каруша – Куна – Такера
ЛЕП – лінія електропередачі
МНШ – метод найшвидшого спу-ску
AC-OPF – Optimal Power Flow змінного струму
BFGS – Broyden–Fletcher–Goldfarb–Shanno
ELD – Economic Load Dispatch,
IPM – Interior Point Methods
L-BFGS – Limited-memory BFGS
ML – Machine Learning
NLP – Nonlinear Programming,
SGD – Stochastic Gradient Descent
SQP – Sequential Quadratic Programming
Вступ. Сучасні енергетичні системи є одними з найскла-
дніших інженерних та кіберфізичних систем, створених
людством. Їх функціонування, від щосекундного балан-
сування генерації та попиту до довгострокового плану-
вання розвитку, пронизане фундаментальними оптимі-
заційними викликами. Необхідність оптимізації в
енергетиці диктується трьома основними факторами:
економічною ефективністю, надійністю системи та ви-
кликами декарбонізації [1–3].
З економічного погляду навіть незначне (наприклад,
0.1 %) покращення ефективності роботи об’єднаної
енергосистеми трансформується в мільйонні заоща-
дження на вартості палива [4]. Задачі, такі як економі-
чний розподіл навантаження (Economic Load Dispatch,
1 аспірант
https://orcid.org/0000-0002-7571-7124
2 д-р. техн. наук
https://orcid.org/0000-0002-2489-4980
3 д-р. техн. наук
https://orcid.org/0000-0002-0497-7439
4 канд. техн. наук
https://orcid.org/0000-0003-3207-1156
1, 2, 4 Національний технічний університет
України "Київський політехнічний інститут
імені Ігоря Сікорського", м. Київ, Україна
3 Інститут відновлюваної енергетики НАН
України, м. Київ, Україна
https://orcid.org/0000-0002-7571-7124
https://orcid.org/0000-0002-2489-4980
https://orcid.org/0000-0002-0497-7439
https://orcid.org/0000-0003-3207-1156
81
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
ELD) та оптимальний потік потужності (Optimal Power
Flow, OPF), безпосередньо мінімізують загальні ви-
трати на генерацію [5].
З погляду надійності система повинна працювати в ме-
жах жорстких фізичних обмежень: теплові обмеження
ліній електропередачі, межі напруги у вузлах, резерви
генерації та обмеження стійкості. Оптимізація (зокрема,
OPF) є інструментом, який знаходить найдешевший ро-
бочий режим, не порушуючи жодного з цих обмежень
безпеки [6].
Нарешті, інтеграція стохастичних відновлюваних дже-
рел енергії (ВДЕ), як-от вітрові та сонячні станції, вносить
високий ступінь невизначеності. Це вимагає нових опти-
мізаційних підходів, що здатні оперувати в умовах сто-
хастики, а також управляти попитом (Demand-Response)
та системами зберігання енергії [7]. Особливої важливо-
сті набувають задачі оптимізації в ситуаціях з обмеже-
ним доступом до централізованого постачання енергії
та переходом до розподіленої генерації (утворення сис-
теми мікромереж, спільного використання засобів збе-
рігання енергії, вибору точки приєднання ВДЕ для
зменшення трафіку електроенергії та її втрат, питань
взаємного обміну енергією тощо).
Більшість цих проблем (зокрема, AC-OPF – Optimal
Power Flow змінного струму) математично формулю-
ються як великомасштабні, нелінійні, не опуклі та си-
льно обмежені задачі нелінійного програмування
(Nonlinear Programming, NLP). Застосування розподіле-
ної генерації з ВДЕ потребує врахування модульної по-
будови та переходу до цілочисельних задач. Розмір-
ність таких задач для реальних систем може сягати
десятків або сотень тисяч змінних та обмежень, а ви-
мога до їх вирішення в реальному часі (або близькому
до нього) ставить жорсткі обмеження щодо швидкодії
до обчислювальних методів [8].
Мета роботи – кількісна оцінка обмежень методу най-
швидшого спуску при розв’язанні класичних задач ене-
ргетики (ELD, AC-OPF) через проблему високої обумов-
леності (κ) та гетерогенності енергосистем, а також
порівняльний аналіз його ефективності з сучасними ме-
тодами оптимізації. Водночас дослідження спрямоване
на переосмислення ролі методу в сучасних умовах: де-
монстрацію його переходу від традиційного інструме-
нту детермінованої оптимізації до основи стохастичного
градієнтного спуску (SGD), який є критично важливим
для навчання нейромереж в енергетичних задачах (про-
гнозування ВДЕ, попиту)
Для розуміння обмежень методу спершу необхідно чі-
тко встановити його математичні основи. МНШ є мето-
дом для вирішення задачі безумовної оптимізації.
Постановка задачі безумовної оптимізації. Розглянемо
задачу знаходження локального мінімуму диферен-
ційовної функції f(x) [5] (1):
min
𝑥∈ℝ𝑛
𝑓(𝑥) (1)
де f: λmax → ℝ є гладкою функцією, принаймні класу С1
(тобто має неперервні перші часткові похідні).
Ключовими інструментами аналізу є:
1. Градієнт: Вектор перших часткових похідних, ∇f(x)∈
ℝn, який вказує в напрямку найшвидшого зрос-
тання функції в точці x.
2. Гесіан: Матриця других часткових похідних, ∇f(x)∈
ℝn×n, яка описує кривизну функції в точці x.
Необхідною умовою першого порядку для того, щоб то-
чка x* була локальним мінімумом, є ∇f(x*) = 0. Такі точки
називаються стаціонарними. МНШ, як і більшість ітера-
тивних методів, намагається знайти саме таку стаціона-
рну точку.
Ідея МНШ полягає в тому, щоб на кожному кроці руха-
тися з поточної точки xk у напрямку pk, який забезпечує
найбільше локальне зменшення значення функції f.
Для формалізації цього розглянемо розклад функції f у
ряд Тейлора першого порядку навколо точки x [5] (2):
𝑓(x + α𝑝) ≈ 𝑓(x) + α ∇𝑓(x)T𝑝 (2)
де p – це деякий одиничний напрямок (||p||2 =
1), а α > 0 – мала довжина кроку (передбачається наяв-
ність ортнонормованого базису в області визначення).
Необхідно знайти такий напрямок p, який мінімізує
зміну f(x + αp) – f(x), що еквівалентно мінімізації добутку
∇f(x)Tp.
Отже, вирішується задача (3):
min
𝑝
∇𝑓(x)T𝑝 за умови ‖р‖2 = 1 (3)
Згідно з нерівністю Коші – Шварца (4):
|∇𝑓(x)T𝑝| ≤ ‖∇𝑓(x)‖2 ∙ ‖р‖2 (4)
Мінімум (тобто найбільш негативне значення) досяга-
ється, коли p є колінеарним і протилежно спрямованим
до ∇f(x). Тобто (5):
р = −
∇𝑓(x)
‖∇𝑓(x)‖2
(5)
Цей напрямок p називається напрямком найшвидшого
спуску. Він локально гарантує найстрімкіше зменшення
цільової функції.
Алгоритмічна структура. На основі цього виведення іте-
раційний процес МНШ будується в такий спосіб: для за-
даної початкової точки x0 [5]:
Алгоритм 1: Метод найшвидшого спуску (МНШ)
1. Для k = 0, 1, 2, ...
2. Якщо ∇f(xk) = 0, то Стоп
3. Обчислити напрямок спуску: pk = -∇f(xk)
4. Обчислити довжину кроку: αk> 0 (за допомогою про-
цедури лінійного пошуку)
5. Оновити точку: xk+1 = xk + αkpk
6. Кінець
Алгоритм має дві ключові обчислювальні компоненти
на кожній ітерації:
1. Обчислення напрямку pk (вимагає обчислення граді-
єнта ∇f(xk)).
82
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
2. Обчислення довжини кроку αk (процедура, відома як
linesearch, або одновимірна мінімізація).
Саме вибір αk є критично важливим для ефективності
методу.
Точний лінійний пошук (Line Search). Теоретично опти-
мальний підхід полягає у виборі кроку αk, який мінімізує
функцію f вздовж напрямку pk [5] (6):
α𝑘 = arg min
α>0
𝑓(x𝑘 + α𝑘𝑝𝑘) = arg min
α>0
𝜑(α) (6)
Це, по суті, одновимірна задача оптимізації. Умова оп-
тимальності для φk дає φ'(αk) = 0. Застосовуючи ланцю-
гове правило, отримуємо (7):
φ′(α𝑘) = ∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 = 0 (7)
Це означає, що при точному лінійному пошуку новий гра-
дієнт ∇f(xk+1) є ортогональним до попереднього напрямку
pk. Оскільки pk = -∇f(x)k, це також означає, що ∇f(xk+1)Т∇f(xk)
= 0. Послідовні градієнти є ортогональними.
Саме ця властивість зумовлює характерну «зигзагоподі-
бну» (zigzag) поведінку МНШ [8]. Уявімо вузьку, витяг-
нуту «долину» цільової функції. На «схилі» долини гра-
дієнт вказує переважно поперек долини (в напрямку
найкрутішого схилу), а не вздовж неї до мінімуму. МНШ
з точним пошуком робить крок pk і переходить у точку
на протилежному «схилі» в точці xk+1, де новий градієнт
∇f(xk+1) є ортогональним до pk. Оскільки pk був майже
перпендикулярним до оптимального шляху (вздовж
«дна» долини), новий градієнт ∇f(xk+1) буде майже в
протилежному напрямку до ∇f(xk). Алгоритм здійснюва-
тиме ітераційні переходи (зигзагом) між схилами до-
лини, роблячи дуже повільний прогрес у напрямку
справжнього мінімуму.
Таким чином, «оптимальність» (точний пошук кроку) на
кожному кроці призводить до глобальної субоптималь-
ної траєкторії.
Єдиний випадок, де точний пошук є обчислювально ви-
правданим, – це додатно визначена квадратична функ-
ція [9]. У цьому разі αk має замкнену форму (8):
α𝑘 =
∇𝑓𝑘
𝑇∙∇𝑓𝑘𝑝𝑘
∇𝑓𝑘
𝑇∙Q∇𝑓𝑘𝑝𝑘
(8)
Де∇fk = Qxk - b
Неточний лінійний пошук (Умови Вольфа). У загаль-
ному випадку, для нелінійних функцій, знаходити точ-
ний мінімум αk є недоцільним з огляду на обчислюва-
льні витрати (витрати ресурсів можуть перевищувати
вартість самої ітерації МНШ).
На практиці використовуються процедури неточного лі-
нійного пошуку, які гарантують «достатньо хороший»
крок. Стандартом де-факто є Умови Вольфа (Wolfe
Conditions), які вимагають, щоб αk задовольняв дві
умови [10]:
Умова Арміхо (Armijo) (достатнє зменшення) (9):
𝑓(x𝑘 + α𝑘𝑝𝑘) ≤ 𝑓(x𝑘)+𝑐1α𝑘∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (9)
де c1∈ (0, 1), типово c1 = 10-4. Це гарантує, що крок αk не
«надто великий» і дає реальне зменшення функції.
Умова кривизни (Curvature) (10):
∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 ≥ 𝑐2∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (10)
де c2 ∈ (c1, 1), типово c2 = 0.9.
Існування такого αk, що задовольняє обидві
умови, гарантоване для гладких функцій, обмежених
знизу. Використання умов Вольфа є ключовим для до-
ведення глобальної збіжності методу.
Теоретичні гарантії збіжності. Глобальна збіжність
МНШ (тобто збіжність до стаціонарної точки x* з будь-
якої x0) гарантується за досить м’яких умов. Ключовою є
умова L-гладкості.
Означення (L-гладкість): Функція f називається умовно
L-гладкою, якщо її градієнт ∇f є Ліпшицевим з констан-
тою L > 0 [11], тобто (11):
‖∇𝑓(x) − ∇𝑓(x)‖2 ≤ 𝐿‖x − 𝑦‖2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (11)
Якщо f ∈ C2, це еквівалентно тому, що найбільше власне
значення Гессіана∇2f(x) є обмеженим L, тобто ∇2f(x)⪯ LI.
Теорема 1 (Збіжність для L-гладких функцій) [12]:
Якщо f є L-гладкою та обмеженою знизу, то МНШ з не-
точним пошуком (що задовольняє умови Вольфа) або
зі сталим кроком αk = α∈ (0, 2/L) гарантує, що limk →ꚙ
||∇f(xk)||2 = 0.
Ця теорема лише каже, що зрештою зійдемося до точки,
де градієнт дорівнює нулю. Однак, вона нічого не гово-
рить про те, як швидко це станеться.
Аналіз швидкості збіжності. Для аналізу швидкості нам
потрібна сильніша умова – сильна опуклість.
Означення (m-сильна опуклість) [13]: Функція f назива-
ється m-сильно опуклою (з m > 0), якщо (12):
𝑓(𝑦) ≥ 𝑓(x) + ∇𝑓(x𝑘)𝑇(𝑦 − 𝑥)
+
𝑚
2
‖𝑦 − 𝑥‖2
2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (12)
Якщо f ∈ C2, це еквівалентно тому, що найменше вла-
сне значення гесіана∇2f(x) є обмеженим знизу m, тобто
∇2f(x) ⪰mI.
Теорема 2 (Лінійна збіжність для сильно опуклих
функцій) [14]:
Якщо f є L-гладкою та m-сильно опуклою, то МНШ з
точним лінійним пошуком або з оптимально вибра-
ним сталим кроком збігається до єдиного глобаль-
ного мінімуму x* з лінійною (або геометричною) швид-
кістю (13, 14):
𝑓(𝑥𝑘) ≥ 𝑓(x∗) ≤ (1 − 𝐶)𝑘𝑓((𝑥0) − 𝑓(x∗)) (13)
‖𝑥𝑘 − x∗‖2
2 ≤ (1 − 𝐶)𝑘‖𝑥0 − x∗‖2
2 (14)
де C > 0 – константа збіжності.
83
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
На перший погляд «лінійна збіжність» виглядає задові-
льно. Однак існує залежність від значення константи C.
Для квадратичної функції (15):
𝑓(x) =
1
2
xTQx − bTx, Q ≻ 0, (15)
константи L та m є просто найбільшим (λmax) та наймен-
шим (λmin) власними значеннями матриці Q. У цьому
разі можна показати, що (16):
𝑓(x𝑘) − 𝑓(x∗) ≤ (
𝜆max−𝜆min
𝜆max+𝜆min
)
2
(𝑓(x0) − 𝑓(x∗)) (16)
Специфіка збіжності за умов поганої обумовленості: κ
як міра «складності». Введемо ключовий параметр
будь-якої оптимізаційної задачі: число обумовленості κ
(17).
κ =
𝐿
𝑚
=
𝜆max(𝑄)
𝜆min(𝑄)
(17)
κ вимірює відношення найбільшої кривизни до
найменшої; геометрично це міра того, наскільки «витя-
гнутою» є цільова функція.
Перепишемо вираз для швидкості збіжності через κ (18):
𝑓(x𝑘) − 𝑓(x∗) ≤ (
𝜅−1
𝜅+1
)
2𝜅
(𝑓(x0) − 𝑓(x∗)) (18)
Проаналізуємо формулу (18):
Випадок 1 (Ідеальний): κ = 1.
Це означає L = m, λmax = λmin. Гесіан Q = λI. Рівні значення
функції f є ідеальними концентричними колами (або
сферами в ℝn).
Фактор збіжності (19)
(
1−1
1+1
)
2
= 0 (19)
Метод збігається за один крок з будь-якої початкової то-
чки. Градієнт ∇f(x0) = Qx0 – b завжди вказує точно на
центр x* = Q-1b.
Випадок 2 (Реалістичний, «погано обумовлений»): κ>> 1.
Це означає L >> m. Рівні функції f є дуже витягнутими елі-
псами (еліпсоїдами).
Фактор збіжності (20):
𝜅−1
𝜅+1
=
𝐿
𝑚
−1
𝐿
𝑚
+1
=
𝐿−𝑚
𝐿+𝑚
≈
𝐿
𝐿
= 1 (20)
Більш точно, використовуючи наближення
1
1+𝑥
≈ 1 − 𝑥,
маємо (21):
𝜅−1
𝜅+1
=≈ 1 −
2
𝜅
(21)
Швидкість збіжності (22):
(1 −
2
𝜅
)
2𝑘
(22)
Наприклад, нехай κ = 1000. Фактор збіжності ≈ (1 −
0.002)2k ≈ (0.998)2k ≈ (0.996)2k. Це означає, що на
кожній ітерації помилка f(xk) – f(x*) зменшується лише
на 0.4 %.
Щоб зменшити помилку в 1000 разів (тобто 0.996k<
0.001), потрібно k >
𝑙𝑛(0.001)
𝑙𝑛(0.996)
≈ −
6.9
−0.004
≈ 1725 ітерацій.
Якщо κ = 10 000, потрібно буде понад 17 000 ітерацій.
Це математичне спостереження є прямим поясненням,
чому на сьогодні МНШ обмежено придатний для реаль-
них енергосистем. Енергосистема за своєю природою є
гетерогенною. Вона складається з елементів з дуже різ-
ними фізичними властивостями, наприклад:
1. Лінії: магістральна ЛЕП 750 кВ має дуже низький ак-
тивний опір (R << X), тоді як локальна розподільча лі-
нія 10 кВ може мати R ≈ X.
2. Генератори: криві витрат C(P) мають різну кривизну
(другу похідну ai в aiP2 + ...). Базова АЕС має майже
плоску криву (ai ≈ 0), тоді як пікова газова турбіна має
дуже круту криву (ai>> 0). Для вітрової турбіни крива
потужності наближено описується логістичною кри-
вою зі змінною кривизною, залежною від швидкості
вітру, а для сонячної електростанції стохастичний ха-
рактер генерації обумовлює криву потужності, тео-
ретично розривну в кожній точці.
Ця фізична гетерогенність (різні масштаби імпедансів,
витрат, чутливостей) математично транслюється в ге-
сіан цільової функції (або гесіан Лагранжіана в обмеже-
них задачах) з великим розкидом власних значень. λmax
(що відповідає «жорстким» зв’язкам / обмеженням)
буде великим, а λmin (що відповідає «м’яким» зв’язкам)
буде малим.
Отже, будь-яка реалістична великомасштабна енерго-
система гарантовано породжує оптимізаційну задачу з
доволі великим числом обумовленості κ. Відповідно до
Теореми 2, МНШ гарантовано матиме неприйнятно по-
вільну збіжність на будь-якій реальній задачі OPF чи ELD.
Його неефективність – це прямий наслідок фізики енер-
госистеми.
Тепер застосуємо отримані теоретичні висновки до двох
ключових задач оптимізації в енергетиці: економічного
розподілу навантаження (ELD) та оптимального потоку
потужності (OPF) [15].
Випадок 1: Економічний розподіл навантаження (ELD).
Постановка задачі. Класична ELD (без втрат) [16] (23):
min
𝑃𝐺𝑖
∑ 𝐶𝑖𝑃𝐺𝑖
𝑁
𝑖=1 = ∑ 𝑎𝑖𝑃𝐺𝑖
2 + 𝑏𝑖𝑃𝐺𝑖
𝑁
𝑖=1 +𝑐𝑖 (23)
за умови балансу потужності (24):
∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑
𝑁
𝑖=1 (24)
та обмежень генерації (25):
𝑃𝐺𝑖
min ≤ 𝑃𝐺𝑖 ≤ 𝑃𝐺𝑖
min ∀ 𝑖 . (25)
ELD з урахуванням втрат (B-матриця) [17]:
Задача ускладнюється, оскільки баланс потужності стає
нелінійним (26):
∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑
𝑁
𝑖=1 + 𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) (26)
84
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
де втрати в мережі PLoss апроксимуються квадратичною
формою (формула Крона, B-матриця) [17] (27):
𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) = ∑ ∑ 𝑃𝐺𝑖𝐵𝑖𝑗𝑃𝐺𝑗 + 𝑁
𝑗=1
𝑁
𝑖=1 ∑ 𝐵𝑖𝑗𝑃𝐺𝑖 + 𝐵00
𝑁
𝑖=1 )
(27)
Цільова функція та обмеження тепер нелінійно
пов’язані.
Адаптація МНШ для вирішення ELD. МНШ – це метод
безумовної оптимізації. ELD – обмежена задача. Щоб
застосувати МНШ, обмеження потрібно якось враху-
вати. Існує два поширених підходи [18]:
1. Метод штрафних функцій: задача перетворюється
на безумовну, додаючи обмеження до цільової фун-
кції як «штраф» за їх порушення (28):
𝑓(𝑃𝐺) = ∑ 𝐶𝑖(𝑃𝐺𝑖)
𝑁
𝑖=1 + 𝜇(∑ 𝑃𝐺𝑖 − 𝑃𝐷 − 𝑃𝐿𝑜𝑠𝑠
𝑁
𝑖=1 )2 +
∑ 𝜈𝑖 ⋅ [𝑚𝑎𝑥(0, 𝑃𝐺𝑖 − 𝑃𝐺𝑖
𝑚𝑎𝑥)]2𝑁
𝑖=1 + ∑ 𝜔𝑖 ⋅𝑁
𝑖=1
[𝑚𝑎𝑥(0, 𝑃𝐺𝑖
𝑚𝑖𝑛 − 𝑃𝐺𝑖)]
2
, (28)
де μ > 0 – штрафний параметр за порушення балансу по-
тужності; νi, ωi> 0 – штрафні параметри за обмеження
нерівностей; 𝑃𝐺𝑖
min, 𝑃𝐺𝑖
ma𝑥 – нижня та верхня межі генера-
ції; max(0,·) – забезпечує штраф тільки при порушенні
обмежень. Після цього до f (PG) застосовується МНШ.
2. Метод проєкції градієнта: цей метод можна вико-
ристати для простих «коробкових» обмежень (𝑃𝐺𝑖
min,
𝑃𝐺𝑖
ma𝑥). Ідея полягає в тому, щоб зробити крок МНШ,
і якщо нова точка xk+1 виходить за межі, «спроєкту-
вати» її назад на допустиму область.
Аналіз ефективності МНШ для ELD. Обидва підходи є
вкрай неефективними для ELD.
Проблема 1 (Погана обумовленість). Навіть у найпрос-
тішому випадку ELD без втрат гесіан цільової функції
∑Ci(PGi0 є діагональною матрицею H = diag (2a1, ..., 2aN).
Число обумовленості 𝜅 =
𝑚𝑎𝑥(𝑎𝑖)
𝑚𝑖𝑛(𝑎𝑖)
. Як зазначалося ра-
ніше, у реальній системі з дешевими базовими (малий
ai) та «дорогими» піковими (великий ai) генераторами,
κ буде дуже великим. МНШ демонструватиме класичну
повільну, зигзагоподібну поведінку.
Коли ми додаємо B-матрицю, гесіан стає H = diag(2ai) +
2μB. Це ще більше погіршує ситуацію.
Проблема 2 (Погіршення обумовленості через засто-
сування штрафних функцій). Інтеграція методу штраф-
них функцій критично знижує обчислювальну ефектив-
ність МНШ. Оскільки для точного задоволення
обмежень задачі штрафний параметр μ повинен пряму-
вати до нескінченності (μ→ꚙ).
Можна показати, що гесіан штрафної функції f (PG) стає
все більш погано обумовленим, коли μ зростає. Факти-
чно, κ→ꚙ коли μ→ꚙ.
МНШ, швидкість якого критично залежить від κ, стає
практично непридатним для досягнення збіжності саме
тоді, коли ми вимагаємо від нього точності.
Тож для ELD МНШ є вкрай неефективним підходом для
«простої» ELD, методи, що явно враховують обмеження
(наприклад, методи на основі вирішення системи умов
Каруша – Куна – Таккера (KKT) або спеціалізовані ме-
тоди, що враховують структуру задачі), є на порядки
ефективнішими. Існують дослідження, що використову-
ють МНШ у поєднанні з множниками Лагранжа для ви-
рішення екологічного економічного розподілу, але це
вже модифіковані, а не «чисті» версії методу [19].
Випадок 2: Оптимальний потік потужності (OPF), скла-
дність задачі AC-OPF. Це основна задача операційного
управління. Задача AC-OPF є великомасштабною нелі-
нійною (через рівняння потоку потужності) та не опук-
лою (має багато локальних мінімумів) [20].
Формально (спрощено) (29):
min
V,θ,PG,QG
∑ С𝑖(𝑃𝐺𝑗) (29)
За умови (обмеження-рівності – рівняння потоку потуж-
ності) (30):
Для кожного вузла i (30), за умови, де
x = [PG, QG, V, θ] – вектор оптимізації;
μP, μQ – штрафні параметри за рівняння балансу потуж-
ності;
νi
P+, νi
P- – штрафні параметри за обмеження PG;
ωi
Q+, ωi
Q- – штрафні параметри за обмеження QG;
κi
V+, κi
V- – штрафні параметри за обмеження напруги;
λij – штрафні параметри за обмеження ліній;
NG – кількість генераторів, N – кількість вузлів, L – мно-
жина ліній:
min 𝑓(𝑥) = ∑ С𝑖(𝑃𝐺𝑖
) + 𝜇𝑃 ∑ [𝑃𝑖(𝑉, 𝜃) − (𝑃𝐺𝑖
−𝑁
𝑖=0
𝑁𝐺
𝑖=0
𝑃𝐷𝑖
)]
2
+ 𝜇𝑄 ∑ [𝑄𝑖(𝑉, 𝜃) − (𝑄𝐺𝑖 − 𝑄𝐷𝑖)]2 +𝑁
𝑖=0
∑ 𝜈𝑖
𝑃+[max(0, 𝑃𝐺𝑖
− 𝑃𝐺𝑖
𝑚𝑎𝑥)]
2𝑁𝐺
𝑖=0 +
∑ 𝜈𝑖
𝑃−[max(0, 𝑃𝐺𝑖
𝑚𝑖𝑛−𝑃𝐺𝑖
)]
2
+ ∑ 𝜔𝑖
𝑄+[max(0, 𝑄𝐺𝑖
−
𝑁𝐺
𝑖=0
𝑁𝐺
𝑖=0
𝑄𝐺𝑖
𝑚𝑎𝑥)]
2
+ ∑ 𝜔𝑖
𝑄−[max(0, 𝑄𝐺𝑖
𝑚𝑖𝑛−𝑄𝐺𝑖
)]
2𝑁𝐺
𝑖=0 +
∑ 𝜅𝑖
𝑉+[max(0, |𝑉𝑖| − 𝑉𝑖
𝑚𝑎𝑥)]2𝑁𝐺
𝑖=0 +
∑ 𝜅𝑖
𝑉−[max(0, 𝑉𝑖
𝑚𝑖𝑛 − |𝑉𝑖|)]
2𝑁𝐺
𝑖=0 +
∑ λ𝑖𝑗𝑖,𝑗 ∈ 𝐿 [max(0, 𝑆𝑖𝑗(𝑉, 𝜃) − 𝑆𝑖𝑗
𝑚𝑎𝑥)]
2
(30)
Примітка: Усі штрафні параметри μ, ν, ω, κ, λ > 0 є дода-
тними та досить великими величинами [21].
За умови (обмеження-нерівності):
• Межі генерації: 𝑃𝐺𝑖
𝑚𝑖𝑛 ≤ 𝑃𝐺𝑖
≤ 𝑃𝐺𝑖
𝑚𝑎𝑥; 𝑄𝐺𝑖
𝑚𝑖𝑛 ≤ 𝑄𝐺𝑖
≤
𝑄𝐺𝑖
𝑚𝑎𝑥
85
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
• Межі напруги: 𝑉𝑖
𝑚𝑖𝑛 ≤ |𝑉𝑖| ≤ 𝑉𝑖
𝑚𝑎𝑥
• Теплові обмеження ліній: 𝑆𝑖𝑗(𝑉, 𝜃) ≤ 𝑆𝑖𝑗
𝑚𝑎𝑥
Застосування МНШ до OPF. Пряме застосування МНШ
до AC-OPF є неможливим. Це задача безумовної опти-
мізації, тоді як OPF визначається тисячами складних не-
лінійних обмежень – рівностей та нерівносте.
Як і у випадку з ELD, можна спробувати «вбудувати» всі
ці обмеження в цільову функцію через штрафи та
бар’єри. Це призведе до створення багатовимірної ці-
льової функції зі складним градієнтним рельєфом, ці-
льової функції, гесіан якої буде надзвичайно погано обу-
мовленим, роблячи МНШ недоцільним.
Історично, ранні спроби вирішення OPF (наприклад,
«Reduced Gradient Method» Карпонт’є) використову-
вали градієнтну інформацію. Але ці методи були наба-
гато складнішими, ніж чистий МНШ. Вони використову-
вали рівняння потоку потужності для зменшення
розмірності задачі (виражаючи залежні змінні через не-
залежні) і намагалися «рухатися» вздовж межі допусти-
мої області, що визначається обмеженнями.
Сучасний підхід. Сучасні, надійні вирішувачі AC-OPF ні-
коли не використовують МНШ. Вони базуються на мето-
дах, що явно та ефективно обробляють обмеження, ви-
користовуючи інформацію другого порядку (або її
апроксимацію):
1. Методи внутрішньої точки (Interior Point Methods,
IPM). Домінуючий підхід. Вони перетворюють за-
дачу з нерівностями на послідовність задач з рівнос-
тями за допомогою бар'єрних функцій. Потім вони
застосовують метод Ньютона до системи умов KKT
для цієї бар’єрної задачі. Вони працюють з гесіаном
Лагранжіана і є надзвичайно ефективними для вели-
комасштабних опуклих та (часто) не опуклих задач.
2. Послідовне квадратичне програмування (Sequential
Quadratic Programming, SQP). Інший потужний ме-
тод, який на кожній ітерації апроксимує задачу OPF
квадратичною задачею (апроксимуючи лагранжіан)
та вирішує її.
3. Метод змінних напрямків множників (Alternating
Direction Method of Multipliers, ADMM), що набуває все
більшої популярності для децентралізованої оптиміза-
ції, зокрема при управлінні мікромережами та розподі-
леною генерацією з ВДЕ. Він дає змогу розбити складну
великомасштабну задачу на локальні підзадачі, які
розв’язуються паралельно, що ідеально відповідає архі-
тектурі сучасних інтелектуальних мереж.
Табл. 1 чітко показує, що для кожної з основних детер-
мінованих оптимізаційних задач в енергетиці МНШ є
або непридатним, або вкрай неефективним вибором.
Таблиця 1. Аналіз застосовності МНШ до задач в енергетиці
Задача Тип задачі Розмір-
ність Обмеження Придатність
МНШ Чому? (Ключова проблема)
ELD (без втрат) Опукла,
квадратична
Середня 1 рівність, N
нерівностей
Низька Повільна збіжність (κ визна-
чається різницею ai). Потре-
бує штрафів
ELD (з B-мат-
рицею)
Не опукла,
квадратична
Середня 1 нелінійна рів-
ність, N
нерівностей
Дуже низька Погана обумовленість (κ ве-
лике). Штрафні методи руй-
нують κ
AC OPF Не опукла,
NLP
Висока Складні нелі-
нійні рівності та
нерівності
Непридатний МНШ – метод безумовної оп-
тимізації. Не може обробити
обмеження
DC OPF Опукла, LP
(лінійне про-
грамування)
Висока Лінійні рівності
/ нерівності
Непридатний Це задача лінійного програ-
мування. Потрібні симплекс-
метод або IPM
Оцінка стану
(State
Estimation, SE)
Нелінійні МНК Висока - Низька Зазвичай вирішується як не-
лінійні МНК (Метод наймен-
ших квадратів, Гаус – Нью-
тон), що набагато швидше
Обмежена ефективність МНШ мотивувала розробку до-
сконаліших алгоритмів. Щоб зрозуміти, чому вони
кращі, проаналізуємо їх у порівнянні з МНШ.
Особливість «найшвидшого» спуску. Як було продемон-
стровано, назва «найшвидший» є такою, що не повною
мірою відображає реальні характеристики збіжності:
метод є найшвидшим лише локально (тобто, з погляду
миттєвої зміни f), але призводить до однієї з найповіль-
ніших глобальних траєкторій збіжності.
Фундаментальна проблема МНШ полягає в строгій ло-
кальності [5]: на кожному кроці k не відбувається нако-
пичення історії попередніх напрямків p0, …, pk-1. Він ви-
користовує лише інформацію першого порядку (∇fk) і
робить це неефективно, оскільки напрямок pk = -I∙∇fk (де
86
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
I – одинична матриця) ігнорує будь-яку інформацію про
кривизну задачі.
Методи другого порядку: Метод Ньютона. Метод Нью-
тона використовує інформацію другого порядку (есіан
(∇f2(x)) для побудови повної квадратичної моделі функ-
ції в точці xk і здійснює ітераційний перехід безпосеред-
ньо в мінімум цієї моделі [22]. Ітерація методу Ньютона
(31):
𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘
𝑁𝑒𝑤𝑡𝑜𝑛 (31)
де 0 ≤ αk ≤ 1 – довжина кроку;
𝑝𝑘
𝑁𝑒𝑤𝑡𝑜𝑛 = −[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘)
Тобто з явним записом напрямку (32):
𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘
𝑁𝑒𝑤𝑡𝑜𝑛 = −[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘) (32)
МНШ робить крок 𝑝𝑘 = −𝐼 ⋅ ∇𝑓𝑘 . Метод Ньютона вико-
ристовує «ідеальну» метрику: 𝑝𝑘 = −𝐻−1∇𝑓𝑘. Мно-
ження на H-1 (обернений гесіан) діє як перетворення
простору (масштабування), яке перетворює витягнуті
«еліпси» рівнів f на ідеальні «кола». У цьому трансфор-
мованому просторі напрямок −∇ 𝑓 вказує точно на міні-
мум.
Переваги [23]:
• Квадратична збіжність (‖𝑥𝑘+1 − 𝑥∗‖ ≈ 𝐶 ‖𝑥𝑘 −
𝑥∗‖2). Це означає, що кількість правильних значу-
щих цифр подвоюється на кожній ітерації. Збіжність
надзвичайно швидка.
• Афінна інваріантність, тобто метод нечутливий до
числа обумовленості κ. Він знайде мінімум квадра-
тичної функції з κ = 1000 так само швидко (за 1 крок),
як і для κ =1.
Недоліки (в контексті енергетичних систем) [24]:
• Метод Ньютона є непрактичним для великомасшта-
бних задач, таких як OPF, у своєму чистому вигляді:
• Обчислення гесіана: ∇2 𝑓(𝑥) має n2 елементів. Для
системи з n = 50 000 вузлів це неможливо.
• Зберігання гесіана: Потрібна пам’ять O(n2).
• Розв’язання системи: Розв’язання Hp = -g вимагає O(n3)
операцій (для щільного H) або O(n1.5) – O(n2) (для розрі-
дженого H, як у OPF). Це все одно надто дорого для ко-
жної ітерації.
«Розумні» методи першого порядку: Метод спряже-
них градієнтів (CG). Метод спряжених градієнтів
(ConjugateGradients, CG) – це фективна модифікація ви-
рішення проблеми відсутності накопичення передісто-
ріі та «зигзагів» МНШ, яке не вимагає гесіана [25].
Ідея полягає в тому, щоб оптимізувати вибір напрямку
pk. Напрямок pk будується як лінійна комбінація поточ-
ного негативного градієнта та попереднього напрямку
(33):
𝑝𝑘+1 = −∇ 𝑓(𝑥𝑘+1) + 𝛽𝑘𝑝𝑘 (33)
Коефіцієнт 𝛽𝑘 (наприклад, за формулою Флетчера –
Рівза або Полака – Ріб’єра) вибирають так, щоб
напрямки 𝑝𝑘 були Q-спряженими (для квадратичної за-
дачі 𝑓(𝑥) =
1
2
𝑥𝑇𝑄 𝑥 + ⋯ ), тобто 𝑝𝑖
𝑇𝑄𝑝𝑗 = 0 для 𝑖 ≠ 𝑗.
Переваги:
1. N-крокова збіжність для квадратичної задачі розмі-
рності 𝑛 × 𝑛, CG гарантовано знаходить точний мі-
німум за не більше ніж n ітерацій.
2. Ефективність. Він уникає «зигзагів» МНШ, оскільки
напрямки 𝑝𝑘 враховують передісторію кроків і зали-
шаються спряженими.
3. Вартість, тобто складність ітерації (O(n)) та пам’ять
(O(n)) – такі самі, як у МНШ.
Отже, для великомасштабних квадратичних задач (або
нелінійних, де він застосовується ітеративно), CG у всіх
відношеннях перевершує МНШ.
Квазіньютонівські методи (BFGS / L-BFGS) намагаються
досягти швидкої збіжності Ньютона, не уникаючи знач-
них обчислювальних витрат та обернення гесіана [26].
Ідея полягає в тому, щоб не обчислювати 𝐻𝑘 =
∇2 𝑓(𝑥𝑘). Замість цього будувати апроксимацію оберне-
ного гесіана, 𝐵𝑘 ≈ [∇2 𝑓(𝑥𝑘)]−1, на кожному кроці.
• Ітерація: 𝑥𝑘+1 = 𝑥𝑘 − 𝛼𝑘𝐵𝑘∇𝑓𝑘.
• Оновлення: 𝐵𝑘+1 отримують з 𝐵𝑘 додаванням поправки
низького рангу, яка використовує лише інформацію з
градієнтів:
1. 𝑠𝑘 = 𝑥𝑘+1 − 𝑥𝑘
2. 𝑦𝑘 = ∇𝑓𝑘+1 − ∇𝑓𝑘
3. 𝐵𝑘+1 = (формула оновлення 𝐵𝐹𝐺𝑆, що залежить
від 𝐵𝑘, 𝑠𝑘, 𝑦𝑘)
Найуспішнішою формулою оновлення є BFGS (Брой-
ден – Флетчер – Гольдфарб – Шанно) [27].
• Переваги (BFGS): Суперлінійна збіжність (майже така
сама швидка, як у Ньютона).
• Проблема (BFGS): Потрібно зберігати та оновлювати
матрицю 𝐵𝑘, що вимагає 𝑂(𝑛2) пам'яті. Це знову не-
можливо для n = 50 000.
• Рішення: L-BFGS (Limited-memory BFGS)
Це високоефективне алгоритмічне рішення.
Ідея тут полягає в тому, щоб не зберігати повну матрицю
𝐵𝑘. Зберігати лише m останніх пар векторів {𝑠𝑖 , 𝑦𝑖} (де m
мале, наприклад, m = 10 або m = 20).
Алгоритм: Напрямок 𝑝𝑘 = −𝐵𝑘∇𝑓𝑘 не обчислюється
явно. Замість цього він відтворюється динамічно (в
процесі обчислень) за допомогою двопрохідного реку-
рсивного алгоритму, який використовує лише ці m пар
векторів.
Переваги (L-BFGS) [28]:
• Збіжність: Суперлінійна (хоч і повільніша, ніж у пов-
ного BFGS, але значно перевищує швидкість збіжно-
сті МНШ).
87
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
• Пам’ять: Вимоги до пам’яті лінійні: 𝑂(𝑚 ⋅ 𝑛).
• Обчислення: Вартість ітерації лінійна: 𝑂(𝑚 ⋅ 𝑛).
L-BFGS став де-факто стандартом для великомасштабної
безумовної нелінійної оптимізації в багатьох галузях.
Табл. 2 візуалізує аналіз оптимізаційних алгоритмів.
Вона чітко показує, чому МНШ поступається в ефектив-
ності: CG пропонує ту саму вартість (O(n)), але наба-
гато кращу збіжність. L-BFGS пропонує майже таку саму
низьку (лінійну) вартість, але майже Ньютонівську збіж-
ність і низьку чутливість до 𝜅.
Таблиця 2. Порівняльний аналіз збіжності методів
Метод
Швид-
кість
збіжності
Вартість
ітерації
(Обчис-
лення)
Вимоги
до пам'-
яті
Чутли-
вість
до κ
Найшвид-
ший
спуск (SD)
Лінійна
(пові-
льна)
O(n) O(n)
Дуже
висока
Спряжені
градієнти
(CG)
Суперлі-
нійна (n-
крокова
для
квадр.)
O(n) O(n)
Середня
L-BFGS
(m=10)
Суперлі-
нійна
(швидка)
𝑂(𝑚 ⋅ 𝑛) 𝑂(𝑚
⋅ 𝑛)
Низька
Метод
Ньютона
Квадра-
тична
(найшви-
дша)
𝑂(𝑛3) 𝑂(𝑛2)
Відсутня
Таким чином, МНШ не має практичних переваг у засто-
суванні до детермінованих задач.
Теоретичне та прикладне значення МНШ. Аналіз, про-
ведений у цій роботі, приводить до однозначного вис-
новку: як детермінований інструмент для вирішення
класичних, великомасштабних, погано обумовлених за-
дач оптимізації в енергетиці (таких як OPF, ELD, SE), ме-
тод найшвидшого спуску є дещо обмежено придатним
для сучасних задач високої розмірності та практично не-
придатним.
Його повільна лінійна збіжність, яка суттєво погіршу-
ється зі зростанням числа обумовленості 𝜅, робить його
неконкурентоспроможним порівняно з методами спря-
жених градієнтів, L-BFGS, і тим більше з методами внут-
рішньої точки, які домінують у сучасних промислових
вирішувачах OPF.
Однак цінність МНШ сьогодні є педагогічною. Це базо-
вий (архетипний) алгоритм нелінійної оптимізації. Розу-
міння його недоліків (критична залежність від 𝜅, зигза-
гоподібна поведінка) є необхідною умовою для
розуміння, чому були винайдені і чому так добре пра-
цюють L-BFGS, CG та IPM.
Концептуальна трансформація градієнтних методів:
Стохастичний градієнтний спуск (SGD). З появою нової
парадигми оптимізації, керованої даними – машинного
навчання (Machine Learning, ML) – МНШ набув нового
етапу актуалізації [29].
Сучасна енергетика дедалі більше покладається на ML
для вирішення нових задач [30]:
• Прогнозування генерації ВДЕ (вітер, сонце).
• Прогнозування навантаження (коротко- та довгостро-
кове).
• Навчання моделей попиту (Demand Response).
• Оцінка стану на основі PMU (Phasor Measurement Units).
Математично більшість задач навчання (наприклад,
тренування нейронної мережі) зводяться до задачі міні-
мізації емпіричного ризику (34) [31]:
𝑚𝑖𝑛
𝑥∈ℝ𝑛
𝑓(𝑤) =
1
𝑁
∑ 𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁
𝑖=1 (34)
де w – параметри моделі (ваги мережі), L – функція
втрат, а N – кількість точок даних, яка може бути вели-
чезною (мільйони або мільярди).
Проблема в тому, щоб зробити один крок МНШ, L-BFGS
або Ньютона, потрібно обчислити повний градієнт
∇𝑓(𝑤) (35) [32]:
∇ f(w) =
1
𝑁
∑ ∇w𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁
𝑖=1 (35)
Це вимагає N обчислень, тобто «перебору» всієї бази
даних. Це надто дорого. Рішення в застосуванні стохас-
тичного градієнтного спуску (SGD) [33], де на кожному
кроці k замість повного градієнта, ми беремо лише одну
точку (або невеликий «пакет») даних i та робимо крок у
напрямку її градієнта (стохастичного градієнта) (36):
wk+1 = wk − αk∇w L(wk, datai) (36)
Напрямок ∇w L(wk, datai) є «шумною», але незміще-
ною (𝐸[∇𝑤 𝐿] = ∇ f(w)) оцінкою повного градієнта. По
суті, SGD – це МНШ з дуже «шумним» градієнтом.
Для наочного та кількісного підтвердження аналітичних
висновків щодо впливу гетерогенності системи на ефек-
тивність оптимізації, було проведено чисельне моделю-
вання. Як тестове середовище використано класичну за-
дачу мінімізації додатно визначеної квадратичної
функції вигляду (15), що дає змогу ізольовано керувати
числом обумовленості 𝜅 через власні значення матриці
Гессе Q, імітуючи різницю масштабів параметрів реаль-
них енергосистем.
Для обчислення кроку МНШ застосовувався точний
лінійний пошук згідно з (8). З метою забезпечення ма-
тематичної строгості експерименту та відтворення
найгіршого сценарію збіжності (за нерівністю Канто-
ровича), початкова точка x0 генерувалася з урахуван-
ням напрямків головних осей еліпсоїда. Комплексні
результати порівняльного моделювання наведено на
рисунку.
88
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
Рисунок. Чисельне дослідження ефективності МНШ на тестовій квадратичній задачі
Еволюція траєкторії збіжності за умов: (а) ідеальної обу-
мовленості, 𝜅 = 1; (б) помірної гетерогенності, 𝜅 = 10;
(в) сильної гетерогенності, 𝜅 = 50 (демонстрація зигза-
гоподібної поведінки). Графік (г) ілюструє повільну лі-
нійну збіжність МНШ порівняно з N-кроковою збіжністю
методу спряжених градієнтів (CG). Залежність (д) підтве-
рджує теоретичні висновки: при значеннях 𝜅 > 103, ха-
рактерних для енергосистем, необхідна кількість ітера-
цій зростає експоненційно, роблячи метод обчислю-
вально неефективним.
Важливо зазначити, що хоча SGD і класичний МНШ ма-
ють спільне математичне коріння (обчислення градіє-
нта), вони представляють різні парадигми оптимізації.
SGD є ефективним алгоритмом для навчання нейроме-
реж не завдяки властивостям класичного детермінова-
ного спуску, а, імовірніше, завдяки специфічним ефек-
там стохастичності. Напрямок спуску, що є «шумною»
оцінкою повного градієнта, діє як неявна регуляризація,
допомагаючи моделі уникати локальних мінімумів та сі-
длових точок. Таким чином, спільна математична база
адаптувалася під принципово нові обчислювальні пот-
реби сучасних Data-driven рішень в енергетиці.
Висновки
Метод найшвидшого спуску є класичним базовим алго-
ритмом, чия роль в оптимізації енергетичних систем ка-
рдинально змінилася.
Метод найшвидшого спуску, незважаючи на свою фун-
даментальну теоретичну та педагогічну важливість, де-
монструє низьку швидкість збіжності та обчислювальну
неефективність при застосуванні до реальних, погано
обумовлених оптимізаційних задач в енергетиці. Його
аналіз є критично важливим не через його пряме су-
часне застосування, а як відправна точка для розуміння
необхідності та еволюції до більш досконалих методів
(наприклад, спряжених градієнтів, квазіньютонівських
методів та методів внутрішньої точки), які сьогодні до-
мінують у галузі.
Метод найшвидшого спуску, незважаючи на свою фун-
даментальну теоретичну та педагогічну важливість, де-
монструє суттєві обмеження при застосуванні до реаль-
них погано обумовлених оптимізаційних задач в
енергетиці. Згідно з математичним аналізом та чисель-
ним моделюванням, швидкість збіжності методу знижу-
ється пропорційно 𝜅2. Для типових задач AC-OPF, де
𝜅 ∼ 103 через різницю масштабів імпедансів ліній та
характеристик генерації, це вимагає на 2–3 порядки
більше ітерацій порівняно з методами внутрішньої то-
чки (IPM) або методами спряжених градієнтів.
Теоретичне та прикладне значення МНШ в енергетиці
полягає не в його поточному використанні, а в тому, як
його обчислювальні обмеження на реальних задачах
стимулювали розвиток альтернативних підходів. Про-
блеми, які МНШ не міг вирішити (наприклад, AC-OPF),
змусили дослідників не стільки покращувати МНШ, скі-
льки спрощувати проблему, що, наприклад, привело до
широкого розповсюдження лінеаризованих моделей
(наприклад, DC-OPF (OptimalPowerFlow постійного
струму)). Таким чином, МНШ – це частково і поява спро-
щених моделей, які досі використовуються, оскільки по-
вноцінні задачі були нерозв’язними для алгоритмів того
часу.
89
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
Подяка. Частину досліджень виконано авторами
С. В. Бойченком і В. О. Коровушкіним у межах науково-
дослідного проєкту, що фінансується за рахунок держа-
вного бюджету України (за Наказом Міністерства освіти
і науки України від 09.01.2026 № 23), а також ініціатив-
них наукових тематик кафедри автоматизації електроте-
хнічних і мехатронних комплексів КПІ ім. Ігоря Сікорсь-
кого.
ПОСИЛАННЯ
1. Status of Power System Transformation: Leading
Topics of 2024. National Renewable Energy
Laboratory, 2024.
URL: https://docs.nrel.gov/docs/fy24osti/91357.pdf
(дата звернення: 07.01.2026)
2. Коровушкін В. О., Босак А. В. Підвищення надійності
електропостачання від нетрадиційних та відновлю-
ваних джерел енергії. Vidnovluvana energetika. 2025.
№ 2(81). С. 88–96. URL:
https://doi.org/10.36296/1819-8058.2025.2(81).88-96
(дата звернення: 12.01.2026).
3. Modern optimization technologies in hybrid renewable
energy systems: a systematic review of research gaps
and prospects for decisions / V. Korovushkin et
al. Energies. 2025. Vol. 18, no. 17. P. 4727.
URL: https://doi.org/10.3390/en18174727 (date of
access: 12.01.2026).
4. Targeting energy savings? Better on primary than final
energy and less on intensity metrics / M. Rodríguez та
ін. Energy economics. 2023. С. 106797. URL:
https://doi.org/10.1016/j.eneco.2023.106797 (дата
звернення: 07.01.2026).
5. Wood A. J., Wollenberg B. F., Sheblé G. B. Power
Generation, Operation, and Control. 3rd ed. Hoboken,
NJ : Wiley, 2013. 656 p.
6. Smart grid, demand response and optimization: a
critical review of computational methods / U. Assad та
ін. Energies. 2022. Т. 15, № 6. С. 2003. URL:
https://doi.org/10.3390/en15062003 (дата звер-
нення: 07.01.2026).
7. Castillo A., O'Neill R. P. Survey of Approaches to
Solving the ACOPF. Optimal Power Flow Paper 4.
Federal Energy Regulatory Commission, 2013.
URL: https://www.ferc.gov/sites/default/files/2020-
05/acopf-4-solution-techniques-survey.pdf (дата звер-
нення: 07.01.2026).
8. Using gradient descent: cost decreases, then
increases. Mathematics Stack Exchange.
URL: https://math.stackexchange.com/questions/9751
80/using-gradient-descent-cost-decreases-then-
increases (дата звернення: 07.01.2026).
9. International Energy Agency. World Energy Outlook
2023. Paris: IEA, 2023.
10. Wood A. J., Wollenberg B. F., Sheblé G. B. Power
Generation, Operation, and Control. 3rd ed. New York:
Wiley, 2013.
11. Kundur P. Power System Stability and Control. New
York: McGraw-Hill, 1994.
12. Blaabjerg F., Yang Y., Yang D., Wang X. Distributed
Power-Generation Systems and Protection.
Proceedings of the IEEE. 2017. Vol. 105. No. 7.
P. 1311–1331.
13. Low S. H. Convex Relaxation of Optimal Power Flow.
Proceedings of the IEEE. 2014. Vol. 102. No. 1. P. 1–20.
14. Dommel H. W., Tinney W. F. Optimal Power Flow
Solutions. IEEE Transactions on Power Apparatus and
Systems. 1968. Vol. PAS-87. No. 10. P. 1866–1876.
15. Duffin R. J. Nonlinear Networks: II // Proceedings of
the IRE. 1959. Vol. 4., No. 3. P. 388–394.
16. Nocedal J., Wright S. J. Numerical Optimization. 2nd
ed. New York: Springer, 2006.
17. Bertsekas D. P. Nonlinear Programming. Belmont, MA:
Athena Scientific, 1999.
18. Fletcher R. Practical Methods of Optimization. 2nd ed.
New York: Wiley, 1987.
19. Wolfe P. Convergence Conditions for Ascent Methods
// SIAM Review. 1969. Vol. 11. No. 2. P. 226–235.
20. Hestenes M. R., Stiefel E. Methods of Conjugate
Gradients for Solving Linear Systems. Journal of
Research of the National Bureau of Standards. 1952.
Vol. 49. No. 6. P. 409–436.
21. Dennis J. E., Schnabel R. B. Numerical Methods for
Unconstrained Optimization and Nonlinear Equations.
Englewood Cliffs: Prentice-Hall, 1983.
22. Nesterov Y. Introductory Lectures on Convex
Optimization. Boston: Springer, 2004.
23. Nesterov Y. A Method for Solving the Convex
Programming Problem of Unconditional Minimization
// Soviet Mathematics Doklady. 1983. Vol. 27. P. 372–
376.
24. Park J. B., Park K. S., Won J. R., Lee K. Y. Economic Load
Dispatch Considering Transmission Losses // IEEE
Transactions on Power Systems. 2005. Vol. 20. No. 1.
P. 343–352.
25. Kron A. Tensor Analysis of Networks. New York: Wiley,
1939.
26. Coelho L. S. Constrained Optimization in Power
Systems // Electric Power Systems Research. 2009. Vol.
79. P. 615–623.
27. Bukhsh W. A., Grothey A., McKinnon K. I. M., Trodden
P. A. Local Solutions of Optimal Power Flow. IEEE
Transactions on Power Systems. 2013. Vol. 28. No. 4.
P. 4780–4788.
https://docs.nrel.gov/docs/fy24osti/91357.pdf
https://doi.org/10.36296/1819-8058.2025.2(81).88-96
https://doi.org/10.3390/en18174727
https://doi.org/10.1016/j.eneco.2023.106797
https://doi.org/10.3390/en15062003
https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf
https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf
https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases
https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases
https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases
90
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
28. Carpentier J. Optimal Power Flows // International
Journal of Electrical Power & Energy Systems. 1989.
Vol. 11. No. 1. P. 3–15.
29. Research on photovoltaic power prediction using an
LSTM recurrent neural network / S. Boichenko et
al. Studies in systems, decision and control. Cham,
2024. P. 421–443. URL: https://doi.org/10.1007/978-3-
031-67091-6_19 (дата звернення: 07.01.2026).
30. Boyd S., Vandenberghe L. Convex Optimization.
Cambridge: Cambridge University Press, 2004.
31. Spall J. C. Introduction to Stochastic Search and
Optimization. Hoboken: Wiley, 2003.
32. Castillo A. A Review of AC Optimal Power Flow
Methods // Electric Power Systems Research. 2013.
Vol. 95. P. 223–232.
33. Bottou L. Stochastic Gradient Descent Tricks // In:
Neural Networks: Tricks of the Trade. Springer, 2012.
P. 421–436.
https://doi.org/10.1007/978-3-031-67091-6_19
https://doi.org/10.1007/978-3-031-67091-6_19
91
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
УДК 519.85:621.31 https://doi.org/10.36296/1819-8058.2026.2(85).80-100
STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY
IN MODERN POWER SYSTEMS
Received Mar. 07, 2026; accepted Jun. 26, 2026
Available online June. 30, 2026
Korovushkin V.1, Boichenko S.2,
Kuznietsov M.3, Danilin O.4
Author for correspondence: Korovushkin Vitalii,
e-mail: vitalijkorovuskin@gmail.com
Abstract. The article provides a systematic critical analysis of
the steepest descent (SD) method in the context of optimizing
modern energy systems. Despite its historical significance as
the archetype of iterative algorithms, SD has been proven to be
significantly limited in solving large-scale problems such as
economic load dispatch (ELD) and optimal power flow (AC-
OPF). The paper investigates the mathematical reasons for this
phenomenon in detail: it shows that the physical heterogeneity
of power system components (different scales of line
impedances and generation characteristics) leads to a poor condition of the objective function Hessian. A
high condition number (κ) causes a “zigzag” convergence trajectory, which makes the method unsuitable for
real-time operational control. Based on a comparative analysis with second-order methods (Newton's
method) and quasi-Newton algorithms (L-BFGS), the transition to interior point methods as an industry
standard for constrained problems is justified. The key novelty of the work lies in the study of the relevance
of gradient methods in modern computational paradigms in the era of artificial intelligence. The authors
demonstrate a paradigm shift: characteristics that were limiting factors in deterministic optimization (noisy
trajectory and simplified gradient processing) have been transformed into decisive advantages of stochastic
gradient descent (SGD). It has been proven that it is precisely this stochastic nature that allows neural
networks to be effectively trained for the tasks of forecasting RES generation and demand management,
transforming the traditional method into the foundation of modern data-driven solutions in the energy
sector.
Keywords: Power System Optimization; AC Optimal Power Flow (AC-OPF); Steepest Descent Method; Stochastic
Gradient Descent (SGD); Ill-conditioned problems; Convergence analysis.
List of Symbols and Abbreviations
AC-OPF – Alternating Current Optimal Power Flow
BFGS – Broyden–Fletcher–Goldfarb–Shanno
ELD – Economic Load Dispatch
IPM – Interior Point Methods
KKT – Karush-Kuhn-Tucker conditions
L-BFGS – Limited-memory BFGS
ML – Machine Learning
NLP – Nonlinear Programming
SD – Steepest Descent
SGD – Stochastic Gradient Descent
SQP – Sequential Quadratic Programming
Introduction. Modern energy systems are among the most
complex engineering and cyber-physical systems ever cre-
ated by humankind. Their operation—from the second-by-
second balancing of generation and demand to long-term
development planning—is permeated by fundamental op-
timization challenges. The need for optimization in the en-
ergy sector is driven by three main factors: economic effi-
ciency, system reliability, and the challenges of
decarbonization [1–3].
From an economic standpoint, even a slight (e.g., 0.1%) im-
provement in the efficiency of the integrated power system
translates into millions in fuel cost savings [4]. Tasks such
as Economic Load Dispatch (ELD) and Optimal Power Flow
(OPF) directly minimize total generation costs [5].
From a reliability perspective, the system must operate
within strict physical constraints: thermal limits of trans-
mission lines, voltage limits at nodes, generation reserves,
and stability constraints. Optimization (in particular, OPF) is
a tool that finds the cheapest operating mode without vio-
lating any of these safety constraints [6].
Finally, the integration of stochastic renewable energy
sources (RES), such as wind and solar power plants,
1 PhD student
https://orcid.org/0000-0002-7571-7124
2 Dr. of Sciences (Tech.)
https://orcid.org/0000-0002-2489-4980
3 Dr. of Sciences (Tech.)
https://orcid.org/0000-0002-0497-7439
4 Cand. of Sciences (Tech.)
https://orcid.org/0000-0003-3207-1156
1, 2, 4 National Technical University of
Ukraine “Igor Sikorsky Kyiv Polytechnic In-
stitute”, Kyiv, Ukraine
3 Institute of renewable energy, NAS of
Ukraine, Kyiv, Ukraine
https://orcid.org/0000-0002-7571-7124
https://orcid.org/0000-0002-2489-4980
https://orcid.org/0000-0002-0497-7439
https://orcid.org/0000-0003-3207-1156
92
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
introduces a high degree of uncertainty. This requires new
optimization approaches capable of operating under sto-
chastic conditions, as well as managing demand response
and energy storage systems [7]. Optimization problems be-
come particularly important in situations with limited ac-
cess to centralized energy supply and the transition to dis-
tributed generation (creation of microgrid systems, shared
use of energy storage facilities, selection of RES connection
points to reduce electricity traffic and losses, issues of mu-
tual energy exchange, etc.).
Mathematically, most of these problems (in particular, AC-
OPF—Alternating Current Optimal Power Flow) are formu-
lated as large-scale, nonlinear, non-convex, and strongly con-
strained nonlinear programming (NLP) problems. The appli-
cation of distributed generation from RES requires
consideration of modular structure and a transition to inte-
ger programming problems. The dimensionality of such
problems for real-world systems can reach tens or hundreds
of thousands of variables and constraints, and the require-
ment to solve them in real time (or close to it) imposes strict
performance constraints on computational methods [8].
The aim of this work is to quantitatively assess the limita-
tions of the steepest descent method in solving classical
power system optimization problems (ELD, AC-OPF) due to
the high conditionality (κ) and heterogeneity of power sys-
tems, as well as to conduct a comparative analysis of its ef-
fectiveness against modern optimization methods. At the
same time, the study aims to rethink the role of the method
in modern conditions: demonstrating its transition from a
traditional tool for deterministic optimization to the basis
of stochastic gradient descent (SGD), which is critically im-
portant for training neural networks in power system prob-
lems (forecasting RES, demand).
To understand the limitations of the method, it is first nec-
essary to clearly establish its mathematical foundations. SD
is a method for solving the unconstrained optimization
problem.
Formulation of the unconstrained optimization problem.
Consider the problem of finding a local minimum of the dif-
ferentiable function f(x) [5](1):
min
𝑥∈ℝ𝑛
𝑓(𝑥) (1)
where f: λmax → ℝ is a smooth function of at least class C¹
(i.e., it has continuous first-order partial derivatives).
The key tools of the analysis are:
1. Gradient: The vector of first partial derivatives, ∇f(x)∈
ℝn, which points in the direction of the steepest rise of
the function at the point x.
2. Hessian: Matrix of second partial derivatives, ∇f(x)∈
ℝn×n, which describes the curvature of the function at a
point x.
A first-order necessary condition for a point x* to be a local
minimum is ∇f(x*) = 0. Such points are called stationary
points. The Gradient Descent method, like most iterative
methods, attempts to find precisely such a stationary point.
The idea behind the SD is to move at each step from the
current point xk in the direction pk, which ensures the great-
est local decrease in the value of the function f.
To formalize this, let us consider the first-order Taylor se-
ries expansion of the function f around the point x [5] (2):
𝑓(x + α𝑝) ≈ 𝑓(x) + α ∇𝑓(x)T𝑝 (2)
where p — is a unit direction vector (||p||2 = 1), аnd α > 0
— small step size (assuming the presence of an orthonor-
mal basis in the domain). We need to find a direction p that
minimizes the change f(x + αp) – f(x), which is equivalent
to minimizing the product ∇f(x)Tp.
So, the problem is solved (3):
min
𝑝
∇𝑓(x)T𝑝 𝑝𝑟𝑜𝑣𝑖𝑑𝑒𝑑 𝑡ℎ𝑎𝑡 ‖р‖2 = 1 (3)
According to the Cauchy–Schwarz inequality (4):
|∇𝑓(x)T𝑝| ≤ ‖∇𝑓(x)‖2 ∙ ‖р‖2 (4)
The minimum (i.e., the most negative value) is achieved
when p is collinear with and opposite in direction to ∇f(x).
That is, (5):
р = −
∇𝑓(x)
‖∇𝑓(x)‖2
(5)
This direction p is called the direction of the steepest de-
scent. It locally guarantees the steepest decrease in the ob-
jective function.
Based on this conclusion, the iterative process of the gradi-
ent descent method is constructed as follows: for a given
initial point x0 [5]:
Algorithm 1: The Steepest Descent Method (SD)
1. For k = 0, 1, 2, ...
2. If ∇f(xk) = 0, then Stop
3. Calculate the descent direction: pk = - ∇f(xk)
4. Calculate the step size: αk> 0 (using the linear search
procedure)
5. Update the point: xk+1 = xk + αkpk
6. End
The algorithm has two key computational components in
each iteration:
3. Calculating the direction pk (requires calculating the gradi-
ent ∇f(xk)).
1. Calculation of the step size αk (a procedure known as
line search or one-dimensional minimization).
2. The choice of αk is critical to the method’s effectiveness.
Line Search. The theoretically optimal approach involves
selecting a step size αk, hat minimizes the function f along
the direction pk [5] (6):
α𝑘 = arg min
α>0
𝑓(x𝑘 + α𝑘𝑝𝑘) = arg min
α>0
𝜑(α) (6)
This is, in essence, a one-dimensional optimization prob-
lem. The optimality condition for φk gives φ'(αk) = 0. Apply-
ing the chain rule, we get (7):
φ′(α𝑘) = ∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 = 0 (7)
This means that in an exact linear search, the new gradient
∇f(xk+1) is orthogonal to the previous direction pk. Since pk
= -∇f(x)k, also implies that ∇f(xk+1)Т∇f(xk) = 0. Consecutive
gradients are orthogonal.
93
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
It is precisely this property that determines the character-
istic “zigzag” behavior of the SD [8]. Let us imagine a nar-
row, elongated “valley” of the objective function. On the
“slope” of the valley, the gradient points predominantly
across the valley (in the direction of the steepest slope), ra-
ther than along it toward the minimum. The exact search
gradient descent takes a step and moves to a point on the
opposite “slope” at xk+1, where the new gradient ∇f(xk+1)
is orthogonal to pk. Since pk was nearly perpendicular to the
optimal path (along the “bottom” of the valley), the new
gradient ∇f(xk+1) will be nearly in the opposite direction to
∇f(xk). The algorithm will perform iterative transitions (zig-
zagging) between the valley slopes, making very slow pro-
gress toward the true minimum.
Thus, “optimality” (exact step search) at each step leads to
a globally suboptimal trajectory.
The only case where an exact search is computationally jus-
tified is a positive-definite quadratic function [9]. In this
case, αk has the closed-form expression (8):
α𝑘 =
∇𝑓𝑘
𝑇∙∇𝑓𝑘𝑝𝑘
∇𝑓𝑘
𝑇∙Q∇𝑓𝑘𝑝𝑘
(8)
where∇ fk = Qxk – b
Inexact line search (Wolfe Conditions). In general, for non-
linear functions, finding the exact minimum αk is imprac-
tical due to computational costs (resource costs may ex-
ceed the cost of the SD iteration itself).
In practice, inexact line search procedures are used, which
guarantee a “sufficiently good” step. The de facto standard
is the Wolfe Conditions, which require that αk satisfy two
conditions [10]:
The Armijo Condition (sufficient decrease) (9):
𝑓(x𝑘 + α𝑘𝑝𝑘) ≤ 𝑓(x𝑘)+𝑐1α𝑘∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (9)
where c1∈ (0, 1), typically c1 = 10-4. This ensures that the
step size αk is not “too large” and results in a real decrease
in the function.
The curvature condition (10):
∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 ≥ 𝑐2∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (10)
where c2 ∈ (c1, 1), typically c2 = 0.9.
The existence of an αk, that satisfies both conditions is guar-
anteed for smooth functions that are bounded from below.
The use of Wolf’s conditions is key to proving the global
convergence of the method.
Theoretical convergence guarantees. The global conver-
gence of the SD (i.e., convergence to a stationary point x*
from any x0) s guaranteed under fairly mild conditions. The
L-smoothness condition is key.
Definition (L-smoothness): A function f is said to be condi-
tionally L-smooth if its gradient ∇f is Lipschitz with a con-
stant L > 0 [11], i.e., (11):
‖∇𝑓(x) − ∇𝑓(x)‖2 ≤ 𝐿‖x − 𝑦‖2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (11)
If f ∈ C2, this is equivalent to the largest eigenvalue of the
Hessian ∇2f(x) being bounded by L, i.e. ∇2f(x)⪯ LI.
Theorem 1 (Convergence for L-smooth functions) [12]: If f is
L-smooth and bounded below, then the SD with an inexact
search (satisfying Wolf’s conditions) or with a constant step
size αk = α∈ (0, 2/L) guarantees that limk →ꚙ ||∇f(xk)||2 = 0.
This theorem states that we will eventually converge to a
point where the gradient is zero. However, it says nothing
about how quickly this will happen.
Analysis of the rate of convergence. To analyze the rate, we
need a stronger condition—strong convexity. Definition (m-
strong convexity) [13]: A function f is called m-strongly con-
vex (with m > 0) if (12):
𝑓(𝑦) ≥ 𝑓(x) + ∇𝑓(x𝑘)𝑇(𝑦 − 𝑥)
+
𝑚
2
‖𝑦 − 𝑥‖2
2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (12)
If f ∈ C2, this is equivalent to the smallest eigenvalue of the
Hessian ∇2f(x) being bounded from below by m, ∇2f(x)
⪰mI.
Theorem 2 (Linear convergence for strongly convex func-
tions) [14]:
If f is L-smooth and m-strongly convex, then the SD with ex-
act linear search or with an optimally chosen constant step
converges to a unique global minimum x* at a linear (or ge-
ometric) rate (13, 14):
𝑓(𝑥𝑘) ≥ 𝑓(x∗) ≤ (1 − 𝐶)𝑘𝑓((𝑥0) − 𝑓(x∗)) (13)
‖𝑥𝑘 − x∗‖2
2 ≤ (1 − 𝐶)𝑘‖𝑥0 − x∗‖2
2 (14)
where C > 0 — is the convergence constant.
At first glance, “linear convergence” seems satisfactory.
However, there is a dependence on the value of the con-
stant C. For the quadratic function (15):
𝑓(x) =
1
2
xTQx − bTx, Q ≻ 0, (15)
the constants L and m are simply the largest (λmax) and
smallest (λmin) eigenvalues of the matrix Q. In this case, it
can be shown that (16):
𝑓(x𝑘) − 𝑓(x∗) ≤ (
𝜆max−𝜆min
𝜆max+𝜆min
)
2
(𝑓(x0) − 𝑓(x∗)) (16)
The Specifics of Convergence Under Ill-Conditioned Sce-
narios: κ as a Measure of “Complexity”. Let us introduce a
key parameter of any optimization problem: the condition
number κ (17).
κ =
𝐿
𝑚
=
𝜆max(𝑄)
𝜆min(𝑄)
(17)
κ measures the ratio of the largest to the smallest curva-
ture; geometrically, it is a measure of how “stretched” the
objective function is.
Let us rewrite the expression for the convergence rate in
terms of κ (18):
𝑓(x𝑘) − 𝑓(x∗) ≤ (
𝜅−1
𝜅+1
)
2𝜅
(𝑓(x0) − 𝑓(x∗)) (18)
Let’s analyze formula (18):
Case 1 (Ideal): κ = 1.
94
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
This means L = m, λmax = λmin. The Hessian Q = λI. The level
sets of the function f are ideal concentric circles (or spheres
in ℝn).
Convergence factor (19):
(
1−1
1+1
)
2
= 0 (19)
The method converges in one step from any initial point.
The gradient ∇f(x0) = Qx0 – b always points exactly to the
center x* = Q-1b.
Case 2 (Realistic, «bad-conditioned»): κ >> 1.
This implies L >> m. The levels of the function f are highly
elongated ellipses (ellipsoids).
Convergence factor (20):
𝜅−1
𝜅+1
=
𝐿
𝑚
−1
𝐿
𝑚
+1
=
𝐿−𝑚
𝐿+𝑚
≈
𝐿
𝐿
= 1 (20)
More precisely, using the approximation
1
1+𝑥
≈ 1 − 𝑥, we
obtain (21):
𝜅−1
𝜅+1
=≈ 1 −
2
𝜅
(21)
The rate of convergence (22):
(1 −
2
𝜅
)
2𝑘
(22)
For example, let κ = 1000. The convergence factor ≈
(1 − 0.002)2k ≈ (0.998)2k ≈ (0.996)2k. This means
that at each iteration, the error f(xk) – f(x*) decreases by
only 0.4%.
To reduce the error by a factor of 1000 (i.e. 0.996k < 0.001),
we need k >
𝑙𝑛(0.001)
𝑙𝑛(0.996)
≈ −
6.9
−0.004
≈ 1725 iterations.
If κ = 10 000, more than 17,000 iterations will be required.
This mathematical observation directly explains why, as of
today, the SD is of limited applicability to real power sys-
tems. A power system is heterogeneous by nature. It con-
sists of elements with very different physical properties, for
example:
1. Lines: a 750 kV transmission line has very low active
resistance (R << X), whereas a local 10 kV distribution
line may have R ≈ X.
2. Generators: The power-cost curves C(P) have different
curvatures (second derivative ai in aiP2 + ...).
A base-load nuclear power plant has an almost flat curve (ai
≈ 0), whereas a peaking gas turbine has a very steep curve
(ai >> 0). For a wind turbine, the power curve is approxi-
mately described by a logistic curve with variable curvature
depending on wind speed, while for a solar power plant,
the stochastic nature of generation results in a power curve
that is theoretically discontinuous at every point.
This physical heterogeneity (different scales of imped-
ances, losses, sensitivities) is mathematically reflected in
the Hessian of the objective function (or the Hessian of the
Lagrangian in constrained problems) with a wide spread of
eigenvalues. λmax (corresponding to “hard” constraints) will
be large, while λmin (corresponding to “soft” constraints)
will be small.
Thus, any realistic, large-scale power system is guaranteed
to generate an optimization problem with a fairly large con-
dition number κ. According to Theorem 2, the SD is guaran-
teed to have unacceptably slow convergence on any real
OPF or ELD problem. Its inefficiency is a direct consequence
of the physics of the power system.
Now, let us apply the obtained theoretical conclusions to
two key optimization problems in power engineering: eco-
nomic load dispatch (ELD) and optimal power flow (OPF)
[15].
Case 1: Economic Load Dispatch (ELD).
Problem formulation. Classical ELD (lossless) [16] (23):
min
𝑃𝐺𝑖
∑ 𝐶𝑖𝑃𝐺𝑖
𝑁
𝑖=1 = ∑ 𝑎𝑖𝑃𝐺𝑖
2 + 𝑏𝑖𝑃𝐺𝑖
𝑁
𝑖=1 +𝑐𝑖 (23)
subject to power balance (24):
∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑
𝑁
𝑖=1 (24)
and generation constraints (25):
𝑃𝐺𝑖
min ≤ 𝑃𝐺𝑖 ≤ 𝑃𝐺𝑖
min ∀ 𝑖 . (25)
ELD accounting for losses (B-matrix) [17]:
The problem becomes more complex because the power
balance becomes nonlinear (26):
∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑
𝑁
𝑖=1 + 𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) (26)
where the network losses PLoss are approximated by a quad-
ratic form (Kron's formula, B-matrix) [17] (27):
𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) = ∑ ∑ 𝑃𝐺𝑖𝐵𝑖𝑗𝑃𝐺𝑗 + 𝑁
𝑗=1
𝑁
𝑖=1 ∑ 𝐵𝑖𝑗𝑃𝐺𝑖 + 𝐵00
𝑁
𝑖=1 )
(27)
The objective function and constraints are now nonlinearly
related.
Adapting SD to solve ELD. SD — is an unconstrained optimi-
zation method. ELD — is a constrained problem. To apply
SD, the constraints must be accounted for in some way.
There are two common approaches [18]:
1. Penalty function method: the problem is transformed
into an unconstrained one by adding the constraints to
the objective function as a “penalty” for violating them
(28):
𝑓(𝑃𝐺) = ∑ 𝐶𝑖(𝑃𝐺𝑖)
𝑁
𝑖=1 + 𝜇(∑ 𝑃𝐺𝑖 − 𝑃𝐷 − 𝑃𝐿𝑜𝑠𝑠
𝑁
𝑖=1 )2 +
∑ 𝜈𝑖 ⋅ [𝑚𝑎𝑥(0, 𝑃𝐺𝑖 − 𝑃𝐺𝑖
𝑚𝑎𝑥)]2𝑁
𝑖=1 + ∑ 𝜔𝑖 ⋅𝑁
𝑖=1
[𝑚𝑎𝑥(0, 𝑃𝐺𝑖
𝑚𝑖𝑛 − 𝑃𝐺𝑖)]
2
, (28)
where μ > 0 - is the penalty parameter for violating the
power balance; νi, ωi > 0 – are penalty parameters for
inequality constraints; 𝑃𝐺𝑖
min, 𝑃𝐺𝑖
ma𝑥 - are the lower and
upper generation limits; max (0, ·) - imposes a penalty
only when constraints are violated. After that, the SD is
applied to f(PG).
95
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
2. Gradient projection method can be used for simple
“box” constraints (𝑃𝐺𝑖
min, 𝑃𝐺𝑖
ma𝑥). The idea is to take an SD
step, and if the new point xk+1 goes out of bounds, “pro-
ject” it back into the feasible region.
Analysis of SD efficiency for ELD. Both approaches are highly
inefficient for ELD.
Problem 1 (Bad Conditioning). Even in the simplest case of
lossless ELD, the Hessian of the objective function ∑Ci(PGi0
is a diagonal matrix H = diag (2a1, ..., 2aN). The condition
number 𝜅 =
𝑚𝑎𝑥(𝑎𝑖)
𝑚𝑖𝑛(𝑎𝑖)
. As noted earlier, in a real system with
cheap base (small ai) and “expensive” peak (large ai) gener-
ators, κ will be very large. SD will exhibit classic slow, zigzag
behavior.
When we add the B-matrix, the Hessian becomes H =
diag(2ai) + 2μB. This further worsens the situation.
Problem 2 (Deterioration of condition number due to the
use of penalty functions). The integration of the penalty
function method critically reduces the computational effi-
ciency of the SD. Since, to precisely satisfy the constraints
of the problem, the penalty parameter μ must tend to in-
finity (μ→∞).
It can be shown that the Hessian of the penalty function
f(PG) becomes increasingly ill-conditioned as μ increases. In
fact, κ→∞ as μ→∞.SD, whose speed critically depends on
κ, becomes practically unusable for achieving convergence
precisely when we require it to be accurate.
Thus, for ELD, the SD is an extremely inefficient approach
for “simple” ELD; methods that explicitly account for con-
straints (e.g., methods based on solving the Karush-Kuhn-
Tucker (KKT) conditions or specialized methods that ac-
count for the structure of the problem) are orders of mag-
nitude more efficient. There are studies that use the SD in
combination with Lagrange multipliers to solve environ-
mental-economic allocation problems, but these are modi-
fied, rather than “pure,” versions of the method [19].
Case 2: Optimal Power Flow (OPF), the complexity of the
AC-OPF problem. This is the main operational control prob-
lem. The AC-OPF problem is large-scale, nonlinear (due to
the power flow equations), and non-convex (it has many lo-
cal minima) [20].
Formally (simplified) (29):
min
V,θ,PG,QG
∑ С𝑖(𝑃𝐺𝑗) (29)
Subject to (constraints—equalities—power flow equations)
(30):
For each node i (30), subject to, where:
x = [PG, QG, V, θ] - is the optimization vector;
μP, μQ - are penalty parameters for the power balance
equation;
νi
P+, νi
P- - are penalty parameters for the PG constraint;
ωi
Q+, ωi
Q- - are penalty parameters for the QG constraint;
κi
V+, κi
V- - are penalty parameters for the voltage constraint;
λij - are penalty parameters for the line constraints;
NG - number of generators, N - number of nodes, L - set of
lines:
min 𝑓(𝑥) = ∑ С𝑖(𝑃𝐺𝑖
) + 𝜇𝑃 ∑ [𝑃𝑖(𝑉, 𝜃) − (𝑃𝐺𝑖
−𝑁
𝑖=0
𝑁𝐺
𝑖=0
𝑃𝐷𝑖
)]
2
+ 𝜇𝑄 ∑ [𝑄𝑖(𝑉, 𝜃) − (𝑄𝐺𝑖 − 𝑄𝐷𝑖)]2 +𝑁
𝑖=0
∑ 𝜈𝑖
𝑃+[max(0, 𝑃𝐺𝑖
− 𝑃𝐺𝑖
𝑚𝑎𝑥)]
2𝑁𝐺
𝑖=0 +
∑ 𝜈𝑖
𝑃−[max(0, 𝑃𝐺𝑖
𝑚𝑖𝑛−𝑃𝐺𝑖
)]
2
+ ∑ 𝜔𝑖
𝑄+[max(0, 𝑄𝐺𝑖
−
𝑁𝐺
𝑖=0
𝑁𝐺
𝑖=0
𝑄𝐺𝑖
𝑚𝑎𝑥)]
2
+ ∑ 𝜔𝑖
𝑄−[max(0, 𝑄𝐺𝑖
𝑚𝑖𝑛−𝑄𝐺𝑖
)]
2𝑁𝐺
𝑖=0 +
∑ 𝜅𝑖
𝑉+[max(0, |𝑉𝑖| − 𝑉𝑖
𝑚𝑎𝑥)]2𝑁𝐺
𝑖=0 +
∑ 𝜅𝑖
𝑉−[max(0, 𝑉𝑖
𝑚𝑖𝑛 − |𝑉𝑖|)]
2𝑁𝐺
𝑖=0 +
∑ λ𝑖𝑗𝑖,𝑗 ∈ 𝐿 [max(0, 𝑆𝑖𝑗(𝑉, 𝜃) − 𝑆𝑖𝑗
𝑚𝑎𝑥)]
2
(30)
Note: All penalty parameters μ, ν, ω, κ, λ > 0 are positive
and sufficiently large values [21].
Subject to the following constraints (inequalities):
• Generation constraints:
𝑃𝐺𝑖
𝑚𝑖𝑛 ≤ 𝑃𝐺𝑖
≤ 𝑃𝐺𝑖
𝑚𝑎𝑥; 𝑄𝐺𝑖
𝑚𝑖𝑛 ≤ 𝑄𝐺𝑖
≤ 𝑄𝐺𝑖
𝑚𝑎𝑥
Voltage constraints: 𝑉𝑖
𝑚𝑖𝑛 ≤ |𝑉𝑖| ≤ 𝑉𝑖
𝑚𝑎𝑥
Line thermal constraints: 𝑆𝑖𝑗(𝑉, 𝜃) ≤ 𝑆𝑖𝑗
𝑚𝑎𝑥
Application of SD to OPF Direct application of SD to AC-OPF
is not possible. This is an unconstrained optimization prob-
lem, whereas OPF is defined by thousands of complex non-
linear constraints—equalities and inequalities.
As with ELD, one can attempt to “embed” all these con-
straints into the objective function via penalties and barri-
ers. This would result in a multidimensional objective func-
tion with a complex gradient landscape, an objective
function whose Hessian would be extremely ill-condi-
tioned, rendering the SD impractical.
Historically, early attempts to solve the OPF (e.g., Carpen-
tier’s “Reduced Gradient Method”) utilized gradient infor-
mation. However, these methods were far more complex
than pure SD. They used power flow equations to reduce
the dimensionality of the problem (expressing dependent
variables in terms of independent ones) and attempted to
“move” along the boundary of the feasible region defined
by the constraints.
Modern approach. Modern, reliable AC-OPF solvers never
use the SD. They are based on methods that explicitly and
efficiently handle constraints using second-order infor-
mation (or its approximation):
1. Interior Point Methods (IPM): The dominant approach.
They transform the inequality problem into a sequence
of equality problems using barrier functions. They then
apply the Newton method to the KKT conditions for this
barrier problem. They work with the Lagrangian Hessian
96
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
and are extremely efficient for large-scale convex and
(often) non-convex problems.
2. Sequential Quadratic Programming (SQP): Another
powerful method that, at each iteration, approximates
the OPF problem with a quadratic problem (by approxi-
mating the Lagrangian) and solves it.
3. The Alternating Direction Method of Multipliers
(ADMM), which is gaining increasing popularity for de-
centralized optimization, particularly in the manage-
ment of microgrids and distributed generation from
RES. It allows a complex large-scale problem to be
broken down into local subproblems that are solved in
parallel, which perfectly matches the architecture of
modern smart grids.
Table 1 clearly shows that for each of the main deter-
ministic optimization problems in the power sector, the
ADMM is either unsuitable or an extremely inefficient
choice.
Table 1. Applicability of SGD to tasks in the energy sector analysis
Task Problem Type Dimen-
sionality Constraints Applicability
of SD Key issue
ELD
(lossless)
Convex,
quadratic
Medium 1 equality,
N inequalities
Low Slow convergence (𝜅) is defined by
the difference in
ai). Requires penalties
ELD (with
B-matrix)
Non-convex,
quadratic
Medium 1 nonlinear equa-
lity, N inequalities
Very low Ill-conditioning (large κ). Penalty
methods destroy κ
AC OPF Non-convex,
NLP
High Complex nonlinear
equalities and
inequalities
Inapplicable SD is an unconstrained optimization
method. Cannot handle constraints
DC OPF Convex, LP High Linear equalities/
inequalities
Inapplicable A Linear Programming problem. Re-
quires Simplex or IPM
State Esti-
mation (SE)
Nonlinear
Least Squares
High - Low Usually solved via nonlinear least
squares (Gauss-Newton), which is
much faster
The limited effectiveness of the SD motivated the develop-
ment of more sophisticated algorithms. To understand why
they are better, let’s analyze them in comparison with the SD.
A peculiarity of the “fastest” descent. As has been demon-
strated, the name “fastest” does not fully reflect the actual
convergence characteristics: the method is fastest only lo-
cally (i.e., in terms of the instantaneous change in f), but
leads to one of the slowest global convergence trajectories.
The fundamental problem of the SD lies in its strict locality
[5]: at each step k, there is no accumulation of the history
of previous directions p0, …, pk-1. it uses only first-order in-
formation (∇fk) and does so inefficiently, since the direction
pk = -I∙∇fk (where I is the identity matrix) ignores any infor-
mation about the curvature of the problem.
Second-order methods: Newton’s method. Newton’s
method uses second-order information (the Hessian
(∇f2(x)) to construct a complete quadratic model of the
function at point xk and performs an iterative transition di-
rectly to the minimum of this model [22]. Iteration of New-
ton’s method (31)):
𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘
𝑁𝑒𝑤𝑡𝑜𝑛 (31)
where 0 ≤ αk ≤ 1 – step size; 𝑝𝑘
𝑁𝑒𝑤𝑡𝑜𝑛 =
−[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘)
That is, with the explicit expression for the gradient (32):
𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘
𝑁𝑒𝑤𝑡𝑜𝑛 = −[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘) (32)
The SD takes a step 𝑝𝑘 = −𝐼 ⋅ ∇𝑓𝑘 . The Newton method
uses an “ideal” metric: 𝑝𝑘 = −𝐻−1∇𝑓𝑘 . Multiplication by
H-1 (the inverse Hessian) acts as a space transformation
(scaling) that transforms the elongated “ellipses” of the f
levels into ideal “circles.” In this transformed space, the di-
rection -∇f points exactly to the minimum.
Advantages [23]:
• Quadratic convergence (‖𝑥𝑘+1 − 𝑥∗‖ ≈ 𝐶 ‖𝑥𝑘 −
𝑥∗‖2). This means that the number of correct
significant digits doubles at each iteration. Convergence
is extremely fast.
• Affine invariance, i.e., the method is insensitive to the
condition number κ. It will find the minimum of a
quadratic function with κ = 1000 just as quickly (in 1
step) as for κ = 1.
Disadvantages (in the context of power systems) [24]:
Newton’s method is impractical for large-scale problems,
such as OPF, in its pure form:
• Computing the Hessian: ∇2 𝑓(𝑥) has n2 elements. For a
system with n = 50,000 nodes, this is impossible.
• Storing the Hessian: Requires O(n2).
• Solving the system: Solving Hp = -g requires O(n3)
operations (for a dense H) or O(n1.5) – O(n2) ( (for a
sparse H, as in OPF). This is still too expensive for each
iteration.
97
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
“Smart” first-order methods. Conjugate Gradients (CG).
The Conjugate Gradients (CG) method is an effective modi-
fication to address the lack of history accumulation and the
“zigzags” of the SD, which does not require the Hessian
[25].
The idea is to optimize the choice of direction pk. The direc-
tion pk is constructed as a linear combination of the current
negative gradient and the previous direction (33):
𝑝𝑘+1 = −∇ 𝑓(𝑥𝑘+1) + 𝛽𝑘𝑝𝑘 (33)
The coefficient 𝛽𝑘 (e.g., according to the Fletcher–Reeves
or Polak–Ribier formula) is chosen such that the directions
𝑝𝑘 are Q-conjugate (for a quadratic problem𝑓(𝑥) =
1
2
𝑥𝑇𝑄 𝑥 + ⋯ ), i.e. 𝑝𝑖
𝑇𝑄𝑝𝑗 = 0 for 𝑖 ≠ 𝑗.
Advantages:
1. N-step convergence for an 𝑛 × 𝑛 quadratic
problem, CG is guaranteed to find the exact
minimum in no more than n iterations.
2. Efficiency as it avoids the “zigzags” of the SD, since the
directions 𝑝𝑘 take into account the history of steps and
remain conjugate.
3. Cost, i.e., the complexity of the iteration (O(n)) and
memory (O(n)), is the same as that of the SD.
Thus, for large-scale quadratic problems (or nonlinear ones,
where it is applied iteratively), CG outperforms the SD in
every respect.
Quasi-Newton methods (BFGS / L-BFGS) aim to achieve the
fast convergence of Newton’s method without incurring
significant computational costs or performing Hessian in-
versions [26].
The idea is to avoid computing 𝐻𝑘 = ∇2 𝑓(𝑥𝑘). Instead,
construct an approximation of the inverse Hessian, 𝐵𝑘 ≈
[∇2 𝑓(𝑥𝑘)]−1, at each step.
• Iteration: 𝑥𝑘+1 = 𝑥𝑘 − 𝛼𝑘𝐵𝑘∇𝑓𝑘 .
• Update: 𝐵𝑘+1 is obtained from 𝐵𝑘 by adding a low-rank
correction that uses only information from the gradi-
ents:
1. 𝑠𝑘 = 𝑥𝑘+1 − 𝑥𝑘
2. 𝑦𝑘 = ∇𝑓𝑘+1 − ∇𝑓𝑘
3. 𝐵𝑘+1 =
(𝐵𝐹𝐺𝑆 𝑢𝑝𝑑𝑎𝑡𝑒 𝑓𝑜𝑟𝑚𝑢𝑙𝑎, 𝑤ℎ𝑖𝑐ℎ 𝑑𝑒𝑝𝑒𝑛𝑑𝑠
𝑜𝑛 𝐵𝑘, 𝑠𝑘, 𝑦𝑘)
The most successful update formula is BFGS (Broyden–
Fletcher–Goldfarb–Shanno) [27].
• Advantages (BFGS): Superlinear convergence (almost
as fast as Newton’s method).
• Problem (BFGS): It is necessary to store and update the
matrix 𝐵𝑘, which requires 𝑂(𝑛2) memory. This is again
impossible for n=50,000.
• Solution: L-BFGS (Limited-memory BFGS)
This is a highly efficient algorithmic solution. The idea here
is not to store the full matrix 𝐵𝑘. Store only the m most
recent pairs of vectors {𝑠𝑖, 𝑦𝑖} (where m is small, e.g., m=10
or m=20).
Algorithm: The gradient 𝑝𝑘 = −𝐵𝑘∇𝑓𝑘 is not computed
explicitly. Instead, it is reconstructed dynamically (during
computation) using a two-pass recursive algorithm that
uses only these m pairs of vectors.
Advantages (L-BFGS) [28]:
• Convergence: Superlinear (though slower than full
BFGS, it significantly exceeds the convergence rate of
SD).
• Memory: Memory requirements are linear: O(m⋅ n).
• Computational Cost: The cost per iteration is linear:
O(m⋅ n).
L-BFGS has become the de facto standard for large-scale
unconstrained nonlinear optimization in many fields.
Table 2 visualizes the analysis of optimization algorithms. It
clearly shows why SD is less efficient: CG offers the same
cost (O(n)), but much better convergence. L-BFGS offers
nearly the same low (linear) cost, but near-Newtonian
convergence and low sensitivity to κ.
Table 2. Comparative analysis of method convergence
Method Conver-
gence rate
Iteration
cost (Com-
putational)
Memory re-
quirements
Sensi-
tivity
to κ
Steepest
Descent
(SD)
Linear
(slow) O(n) O(n)
Very
high
Conjugate
Gradients
(CG)
Superlinear
(n-step for
quadratic)
O(n) O(n)
Moder-
ate
L-BFGS
(m=10)
Superlinear
(fast) 𝑂(𝑚 ⋅ 𝑛) 𝑂(𝑚 ⋅ 𝑛)
Low
Newton's
Method
Quadratic
(fastest) 𝑂(𝑛3) 𝑂(𝑛2)
None
Thus, the SD offers no practical advantages when applied
to deterministic problems.
Theoretical and applied significance of the SD. The analysis
conducted in this paper leads to an unambiguous conclu-
sion: as a deterministic tool for solving classical, large-scale,
ill-posed optimization problems in power engineering (such
as OPF, ELD, SE), the steepest descent method is of some-
what limited applicability to modern high-dimensional
problems and is practically unsuitable.
Its slow linear convergence, which deteriorates significantly
with increasing condition number κ, makes it uncompeti-
tive, compared to conjugate gradient methods, L-BFGS, and
even more so, compared to interior-point methods, which
dominate modern industrial OPF solvers.
However, the value of the SD today is pedagogical. It is a
basic (archetypal) algorithm for nonlinear optimization. Un-
derstanding its shortcomings (critical dependence on κ, zig-
zag behavior) is a prerequisite for understanding why L-
BFGS, CG, and IPM were invented and why they work so
well.
98
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
Conceptual transformation of gradient methods: Stochastic
Gradient Descent (SGD). With the emergence of a new
data-driven optimization paradigm—machine learning
(ML)—SGD has entered a new phase of relevance [29].
The modern energy sector is increasingly relying on ML to
address new challenges [30]:
• Forecasting renewable energy generation (wind, solar).
• Load forecasting (short- and long-term).
• Training demand response models.
• Condition assessment based on PMUs (Phasor Meas-
urement Units).
Mathematically, most learning tasks (e.g., training a neural
network) boil down to the problem of minimizing empirical
risk (34) [31]:
𝑚𝑖𝑛
𝑥∈ℝ𝑛
𝑓(𝑤) =
1
𝑁
∑ 𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁
𝑖=1 (34)
where w represents the model parameters (net-
work weights), L is the loss function, and N is the number
of data points, which can be enormous (millions or billions).
The problem is that to take a single step in SD, L-BFGS, or
Newton, one must compute the full gradient ∇𝑓(𝑤) (35)
[32]:
∇ f(w) =
1
𝑁
∑ ∇w𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁
𝑖=1 (35)
This requires N computations, i.e., a “scan” of the entire da-
tabase. This is too expensive. The solution lies in the
application of Stochastic Gradient Descent (SGD) [33],
where at each step k, instead of the full gradient, we take
only one data point (or a small “batch”) i and take a step in
the direction of its gradient (stochastic gradient) (36):
wk+1 = wk − αk∇w L(wk, datai) (36)
The term ∇w L(wk, datai) is a “noisy” but unbiased
(𝐸[∇𝑤 𝐿] = ∇ f(w)) estimate of the total gradient. Essen-
tially, SGD is the SD method with a very “noisy” gradient.
To provide a visual and quantitative confirmation of the an-
alytical conclusions regarding the impact of system hetero-
geneity on optimization efficiency, numerical simulations
were performed. The classical problem of minimizing a pos-
itive-definite quadratic function of the form (15) was used
as a test environment, which allows for isolated control of
the condition number κ via the eigenvalues of the Hessian
matrix Q, simulating the difference in parameter scales of
real power systems.
To calculate the SD step size, an exact linear search was ap-
plied according to (8). To ensure the mathematical rigor of
the experiment and to reproduce the worst-case conver-
gence scenario (according to the Kantorovich inequality),
the initial point x0 was generated taking into account the
directions of the principal axes of the ellipsoid. The com-
prehensive results of the comparative modelling are pre-
sented in Figure.
Figure. Numerical study of the effectiveness of the SD on a test quadratic problem
Evolution of the convergence trajectory under the follow-
ing conditions: (a) ideal regularity, κ=1; (b) moderate heter-
ogeneity, κ=10; (c) strong heterogeneity, κ=50 (demon-
strating zigzag behavior). Graph (d) illustrates the slow
linear convergence of the SD method compared to the N-
step convergence of the conjugate gradient (CG) method.
The dependence (e) confirms the theoretical conclusions:
for values of κ > 10³, typical for power systems, the required
99
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
number of iterations grows exponentially, making the
method computationally inefficient.
It is important to note that although SGD and classical gra-
dient descent share a common mathematical foundation
(gradient calculation), they represent different optimiza-
tion paradigms. SGD is an effective algorithm for training
neural networks not because of the properties of classical
deterministic descent, but rather due to specific effects of
stochasticity. The descent direction, which is a “noisy” esti-
mate of the full gradient, acts as implicit regularization,
helping the model avoid local minima and saddle points.
Thus, the common mathematical foundation has been
adapted to the fundamentally new computational needs of
modern data-driven solutions in the energy sector.
Conclusions. The steepest descent method is a classic basic
algorithm whose role in the optimization of power systems
has changed dramatically.
Despite its fundamental theoretical and pedagogical im-
portance, the steepest descent method exhibits slow con-
vergence rates and computational inefficiency when ap-
plied to real-world, ill-posed optimization problems in the
power industry. Its analysis is critically important not be-
cause of its direct modern application, but as a starting
point for understanding the necessity and evolution toward
more sophisticated methods (such as conjugate gradient,
quasi-Newton, and interior-point methods) that dominate
the field today.
The steepest descent method, despite its fundamental the-
oretical and pedagogical importance, exhibits significant
limitations when applied to real-world, ill-posed optimiza-
tion problems in power systems. According to mathemati-
cal analysis and numerical simulations, the convergence
rate of the method decreases proportionally to κ^2. For
typical AC-OPF problems, where κ ≈ 10³ due to the differ-
ence in scales between line impedances and generation
characteristics, this requires 2–3 orders of magnitude more
iterations compared to interior-point methods (IPM) or
conjugate gradient methods.
The theoretical and practical significance of the SD in power
engineering lies not in its current use, but in how its com-
putational limitations on real-world problems have stimu-
lated the development of alternative approaches. Prob-
lems that the SD could not solve (e.g., AC-OPF) forced
researchers not so much to improve the SD as to simplify
the problem, which, for example, led to the widespread use
of linearized models (e.g., DC-OPF (Direct Current Optimal
Power Flow)). Thus, the theoretical and practical signifi-
cance of the SD lies in part in the emergence of simplified
models that are still in use today, since the full-scale prob-
lems were unsolvable for the algorithms of that time.
Acknowledgments. Part of this research was conducted by
S.V. Boichenko and V.O. Korovushkin as part of a research
project funded by the State Budget of Ukraine (pursuant to
Order No. 23 of the Ministry of Education and Science of
Ukraine dated January 9, 2026), as well as through inde-
pendent research topics of the Department of Automation
of Electrical and Mechatronic Systems at Igor Sikorsky Kyiv
Polytechnic Institute.
REFERENCES
1. Status of Power System Transformation: Leading
Topics of 2024. National Renewable Energy
Laboratory, 2024. URL:
https://docs.nrel.gov/docs/fy24osti/91357.pdf (date of
access: 07.01.2026)
2. V. Korovushkin, A. Bosak Improving the Reliability of
Electricity Supply from Non-Traditional and Renewable
Energy Sources (Ukr.). Vidnovluvana energetika. 2025.
№ 2(81). С. 88–96. URL:
https://doi.org/10.36296/1819-8058.2025.2(81).88-96
(date of access: 12.01.2026).
3. Modern optimization technologies in hybrid renewable
energy systems: a systematic review of research gaps
and prospects for decisions / V. Korovushkin et
al. Energies. 2025. Vol. 18, no. 17. P. 4727.
URL: https://doi.org/10.3390/en18174727 (date of
access: 12.01.2026).
4. Targeting energy savings? Better on primary than final
energy and less on intensity metrics / M. Rodríguez et
al. Energy economics. 2023. С. 106797.
URL: https://doi.org/10.1016/j.eneco.2023.106797 (da
te of access: 07.01.2026).
5. Wood A. J., Wollenberg B. F., Sheblé G. B. Power
Generation, Operation, and Control. 3rd ed. Hoboken,
NJ : Wiley, 2013. 656 p.
6. Smart grid, demand response and optimization: a
critical review of computational methods / U. Assad та
ін. Energies. 2022. Т. 15, № 6. С. 2003.
URL: https://doi.org/10.3390/en15062003 (date of
access: 07.01.2026).
7. Castillo A., O'Neill R. P. Survey of Approaches to
Solving the ACOPF. Optimal Power Flow Paper 4.
Federal Energy Regulatory Commission, 2013.
URL: https://www.ferc.gov/sites/default/files/2020-
05/acopf-4-solution-techniques-survey.pdf (date of
access: 07.01.2026).
8. Using gradient descent: cost decreases, then
increases. Mathematics Stack Exchange.
URL: https://math.stackexchange.com/questions/9751
80/using-gradient-descent-cost-decreases-then-
increases (date of access: 07.01.2026).
9. International Energy Agency. World Energy Outlook
2023. Paris: IEA, 2023.
10. Wood A. J., Wollenberg B. F., Sheblé G. B. Power
Generation, Operation, and Control. 3rd ed. New York:
Wiley, 2013.
11. Kundur P. Power System Stability and Control. New
York: McGraw-Hill, 1994.
https://docs.nrel.gov/docs/fy24osti/91357.pdf
https://doi.org/10.36296/1819-8058.2025.2(81).88-96
https://doi.org/10.3390/en18174727
https://doi.org/10.1016/j.eneco.2023.106797
https://doi.org/10.3390/en15062003
https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf
https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf
https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases
https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases
https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases
100
Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ
12. Blaabjerg F., Yang Y., Yang D., Wang X. Distributed
Power-Generation Systems and Protection //
Proceedings of the IEEE. 2017. Vol. 105, No. 7.
P. 1311–1331.
13. Low S. H. Convex Relaxation of Optimal Power Flow //
Proceedings of the IEEE. 2014. Vol. 102, No. 1. P. 1–20.
14. Dommel H. W., Tinney W. F. Optimal Power Flow
Solutions // IEEE Transactions on Power Apparatus and
Systems. 1968. Vol. PAS-87, No. 10. P. 1866–1876.
15. Duffin R. J. Nonlinear Networks: II // Proceedings of
the IRE. 1959. Vol. 47, No. 3. P. 388–394.
16. Nocedal J., Wright S. J. Numerical Optimization.
2nd ed. New York: Springer, 2006.
17. Bertsekas D. P. Nonlinear Programming. Belmont, MA:
Athena Scientific, 1999.
18. Fletcher R. Practical Methods of Optimization. 2nd ed.
New York: Wiley, 1987.
19. Wolfe P. Convergence Conditions for Ascent Methods
// SIAM Review. 1969. Vol. 11, No. 2. P. 226–235.
20. Hestenes M. R., Stiefel E. Methods of Conjugate
Gradients for Solving Linear Systems // Journal of
Research of the National Bureau of Standards. 1952.
Vol. 49, No. 6. P. 409–436.
21. Dennis J. E., Schnabel R. B. Numerical Methods for
Unconstrained Optimization and Nonlinear Equations.
Englewood Cliffs: Prentice-Hall, 1983.
22. Nesterov Y. Introductory Lectures on Convex
Optimization. Boston: Springer, 2004.
23. Nesterov Y. A Method for Solving the Convex
Programming Problem of Unconditional Minimization
// Soviet Mathematics Doklady. 1983. Vol. 27. P. 372–
376.
24. Park J. B., Park K. S., Won J. R., Lee K. Y. Economic Load
Dispatch Considering Transmission Losses // IEEE
Transactions on Power Systems. 2005. Vol. 20, No. 1.
P. 343–352.
25. Kron A. Tensor Analysis of Networks. New York: Wiley,
1939.
26. Coelho L. S. Constrained Optimization in Power
Systems // Electric Power Systems Research. 2009.
Vol. 79. P. 615–623.
27. Bukhsh W. A., Grothey A., McKinnon K. I. M., Trodden
P. A. Local Solutions of Optimal Power Flow // IEEE
Transactions on Power Systems. 2013. Vol. 28, No. 4.
P. 4780–4788.
28. Carpentier J. Optimal Power Flows // International
Journal of Electrical Power & Energy Systems. 1989.
Vol. 11, No. 1. P. 3–15.
29. Research on photovoltaic power prediction using an
LSTM recurrent neural network / S. Boichenko et
al. Studies in systems, decision and control. Cham,
2024. P. 421–443. URL: https://doi.org/10.1007/978-3-
031-67091-6_19 (date of access: 07.01.2026).
30. Boyd S., Vandenberghe L. Convex Optimization.
Cambridge: Cambridge University Press, 2004.
31. Spall J. C. Introduction to Stochastic Search and
Optimization. Hoboken: Wiley, 2003.
32. Castillo A. A Review of AC Optimal Power Flow
Methods // Electric Power Systems Research. 2013.
Vol. 95. P. 223–232.
33. Bottou L. Stochastic Gradient Descent Tricks // In:
Neural Networks: Tricks of the Trade. Springer, 2012.
P. 421–436.
https://doi.org/10.1007/978-3-031-67091-6_19
https://doi.org/10.1007/978-3-031-67091-6_19
|
| id | veorgua-article-623 |
| institution | Vidnovluvana energetika |
| keywords_txt_mv | keywords |
| language | Ukrainian |
| last_indexed | 2026-07-10T01:00:14Z |
| publishDate | 2026 |
| publisher | Institute of Renewable Energy National Academy of Sciences of Ukraine |
| record_format | ojs |
| resource_txt_mv | veorgua/35/787840df0d746f48bc03876ca4f75235.pdf |
| spelling | veorgua-article-6232026-07-09T12:14:07Z STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS МЕТОД НАЙШВИДШОГО СПУСКУ: АНАЛІЗ ОБМЕЖЕНЬ ТА ЕВОЛЮЦІЯ ЗАСТОСУВАННЯ В СУЧАСНИХ ЕНЕРГЕТИЧНИХ СИСТЕМАХ Korovushkin , V. Boichenko , S. Kuznietsov , M. Danilin , O. Power System Optimization; AC Optimal Power Flow (AC-OPF); Steepest Descent Method; Stochastic Gradient Descent (SGD); Ill-conditioned problems; Convergence analysis. оптимізація енергосистеми; оптимальний розподіл потужності в змінному струмі (AC-OPF); метод найкрутішого спуску; стохастичний градієнтний спуск (SGD); погано обумовлені задачі; аналіз збіжності. The article provides a systematic critical analysis of the steepest descent (SD) method in the context of optimizing modern energy systems. Despite its historical significance as the archetype of iterative algorithms, SD has been proven to be significantly limited in solving large-scale problems such as economic load dispatch (ELD) and optimal power flow (AC-OPF). The paper investigates the mathematical reasons for this phenomenon in detail: it shows that the physical heterogeneity of power system components (different scales of line impedances and generation characteristics) leads to a poor condition of the objective function Hessian. A high condition number (κ) causes a “zigzag” convergence trajectory, which makes the method unsuitable for real-time operational control. Based on a comparative analysis with second-order methods (Newton's method) and quasi-Newton algorithms (L-BFGS), the transition to interior point methods as an industry standard for constrained problems is justified. The key novelty of the work lies in the study of the relevance of gradient methods in modern computational paradigms in the era of artificial intelligence. The authors demonstrate a paradigm shift: characteristics that were limiting factors in deterministic optimization (noisy trajectory and simplified gradient processing) have been transformed into decisive advantages of stochastic gradient descent (SGD). It has been proven that it is precisely this stochastic nature that allows neural networks to be effectively trained for the tasks of forecasting RES generation and demand management, transforming the traditional method into the foundation of modern data-driven solutions in the energy sector. У статті здійснено системний критичний аналіз методу найшвидшого спуску (SD) в контексті оптимізації сучасних енергетичних систем. Попри зазначення фундаментальної ролі в теорії ітераційних алгоритмів, доведено суттєві обмеження МНШ при розв’язанні великомасштабних задач, як-от економічний розподіл навантаження (ELD) та оптимальний потік потужності (AC-OPF). У роботі детально досліджено математичні причини цього явища: показано, що фізична гетерогенність компонентів енергосистеми (різні масштаби імпедансів ліній та характеристик генерації) призводить до поганої обумовленості гесіана цільової функції. Високе число обумовленості (κ) спричиняє «зигзагоподібну» траєкторію збіжності, що робить метод обмежено придатним для оперативного управління режимами в реальному часі. На основі порівняльного аналізу з методами другого порядку (метод Ньютона) та квазіньютонівськими алгоритмами (L-BFGS) обґрунтовано перехід до методів внутрішньої точки як галузевого стандарту для задач з обмеженнями. Ключова новизна роботи полягає в дослідженні розширення сфери застосування градієнтних методів в еру штучного інтелекту. Автори демонструють парадигмальний зсув: характеристики, що були обмежувальними факторами в детермінованій оптимізації (шумна траєкторія та спрощена обробка градієнта), трансформувалися у вирішальні переваги стохастичного градієнтного спуску (SGD). Доведено, що саме ця стохастична природа дає змогу ефективно навчати нейронні мережі для задач прогнозування генерації ВДЕ та управління попитом, перетворюючи традиційний метод на фундамент сучасних Data-driven рішень в енергетиці.&nbsp; Institute of Renewable Energy National Academy of Sciences of Ukraine 2026-06-30 Article Article application/pdf https://ve.org.ua/index.php/journal/article/view/623 10.36296/1819-8058.2026.2(85).80-100 Vidnovluvana energetika ; No. 2(85) (2026): Scientific and applied Journal renewable energy ; 80-100 Возобновляемая энергетика; № 2(85) (2026): Scientific and applied Journal renewable energy ; 80-100 Відновлювана енергетика; № 2(85) (2026): Науково-прикладний журнал Відновлювана енергетика; 80-100 2664-8172 1819-8058 10.36296/1819-8058.2026.2(85) uk https://ve.org.ua/index.php/journal/article/view/623/534 Copyright (c) 2026 Vidnovluvana energetika |
| spellingShingle | Power System Optimization AC Optimal Power Flow (AC-OPF) Steepest Descent Method Stochastic Gradient Descent (SGD) Ill-conditioned problems Convergence analysis. Korovushkin , V. Boichenko , S. Kuznietsov , M. Danilin , O. STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS |
| title | STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS |
| title_alt | МЕТОД НАЙШВИДШОГО СПУСКУ: АНАЛІЗ ОБМЕЖЕНЬ ТА ЕВОЛЮЦІЯ ЗАСТОСУВАННЯ В СУЧАСНИХ ЕНЕРГЕТИЧНИХ СИСТЕМАХ |
| title_full | STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS |
| title_fullStr | STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS |
| title_full_unstemmed | STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS |
| title_short | STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS |
| title_sort | steepest descent method: limitations analysis and evolving applicability in modern power systems |
| topic | Power System Optimization AC Optimal Power Flow (AC-OPF) Steepest Descent Method Stochastic Gradient Descent (SGD) Ill-conditioned problems Convergence analysis. |
| topic_facet | Power System Optimization AC Optimal Power Flow (AC-OPF) Steepest Descent Method Stochastic Gradient Descent (SGD) Ill-conditioned problems Convergence analysis. оптимізація енергосистеми оптимальний розподіл потужності в змінному струмі (AC-OPF) метод найкрутішого спуску стохастичний градієнтний спуск (SGD) погано обумовлені задачі аналіз збіжності. |
| url | https://ve.org.ua/index.php/journal/article/view/623 |
| work_keys_str_mv | AT korovushkinv steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems AT boichenkos steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems AT kuznietsovm steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems AT danilino steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems AT korovushkinv metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah AT boichenkos metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah AT kuznietsovm metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah AT danilino metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah |