STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS

The article provides a systematic critical analysis of the steepest descent (SD) method in the context of optimizing modern energy systems. Despite its historical significance as the archetype of iterative algorithms, SD has been proven to be significantly limited in solving large-scale problems suc...

Повний опис

Збережено в:
Бібліографічні деталі
Дата:2026
Автори: Korovushkin , V., Boichenko , S., Kuznietsov , M., Danilin , O.
Формат: Стаття
Мова:Українська
Опубліковано: Institute of Renewable Energy National Academy of Sciences of Ukraine 2026
Теми:
Онлайн доступ:https://ve.org.ua/index.php/journal/article/view/623
Теги: Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:Vidnovluvana energetika
Завантажити файл: Pdf

Репозитарії

Vidnovluvana energetika
_version_ 1870287564831719424
author Korovushkin , V.
Boichenko , S.
Kuznietsov , M.
Danilin , O.
author_facet Korovushkin , V.
Boichenko , S.
Kuznietsov , M.
Danilin , O.
author_institution_txt_mv [ { "author": "V. Korovushkin ", "institution": "Національний технічний університет України \"Київський політехнічний інститут імені Ігоря Сікорського\", м. Київ, Україна" }, { "author": "S. Boichenko ", "institution": "Національний технічний університет України \"Київський політехнічний інститут імені Ігоря Сікорського\", м. Київ, Україна" }, { "author": "M. Kuznietsov ", "institution": "Інститут відновлюваної енергетики НАН України, м. Київ, Україна" }, { "author": "O. Danilin ", "institution": "Національний технічний університет України \"Київський політехнічний інститут імені Ігоря Сікорського\", м. Київ, Україна" } ]
author_sort Korovushkin , V.
baseUrl_str https://ve.org.ua/index.php/journal/oai
collection OJS
datestamp_date 2026-07-09T12:14:07Z
description The article provides a systematic critical analysis of the steepest descent (SD) method in the context of optimizing modern energy systems. Despite its historical significance as the archetype of iterative algorithms, SD has been proven to be significantly limited in solving large-scale problems such as economic load dispatch (ELD) and optimal power flow (AC-OPF). The paper investigates the mathematical reasons for this phenomenon in detail: it shows that the physical heterogeneity of power system components (different scales of line impedances and generation characteristics) leads to a poor condition of the objective function Hessian. A high condition number (κ) causes a “zigzag” convergence trajectory, which makes the method unsuitable for real-time operational control. Based on a comparative analysis with second-order methods (Newton's method) and quasi-Newton algorithms (L-BFGS), the transition to interior point methods as an industry standard for constrained problems is justified. The key novelty of the work lies in the study of the relevance of gradient methods in modern computational paradigms in the era of artificial intelligence. The authors demonstrate a paradigm shift: characteristics that were limiting factors in deterministic optimization (noisy trajectory and simplified gradient processing) have been transformed into decisive advantages of stochastic gradient descent (SGD). It has been proven that it is precisely this stochastic nature that allows neural networks to be effectively trained for the tasks of forecasting RES generation and demand management, transforming the traditional method into the foundation of modern data-driven solutions in the energy sector.
doi_str_mv 10.36296/1819-8058.2026.2(85).80-100
first_indexed 2026-07-10T01:00:14Z
format Article
fulltext 80 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ УДК 519.85:621.31 https://doi.org/10.36296/1819-8058.2026.2(85).80-100 МЕТОД НАЙШВИДШОГО СПУСКУ: АНАЛІЗ ОБМЕЖЕНЬ ТА ЕВОЛЮЦІЯ ЗАСТОСУВАННЯ В СУЧАСНИХ ЕНЕРГЕТИЧНИХ СИСТЕМАХ Отримано 18 бер. 2026 р.; рекомендовано до публікації 26 чер. 2026 р. Доступно онлайн 30 чер. 2026 р. Коровушкін В. О.1, Бойченко С. В.2, Кузнєцов М. П.3, Данілін О. В.4 Автор для кореспонденції: Коровушкін Віталій, e-mail: vitalijkorovuskin@gmail.com Анотація. У статті здійснено системний критичний ана- ліз методу найшвидшого спуску (SD) в контексті оптимі- зації сучасних енергетичних систем. Попри зазначення фу- ндаментальної ролі в теорії ітераційних алгоритмів, доведено суттєві обмеження МНШ при розв’язанні вели- комасштабних задач, як-от економічний розподіл наван- таження (ELD) та оптимальний потік потужності (AC- OPF). У роботі детально досліджено математичні при- чини цього явища: показано, що фізична гетерогенність компонентів енергосистеми (різні масштаби імпедансів ліній та характеристик генерації) призво- дить до поганої обумовленості гесіана цільової функції. Високе число обумовленості (κ) спричиняє «зигзагоподібну» траєкторію збіжності, що робить метод обмежено придатним для оператив- ного управління режимами в реальному часі. На основі порівняльного аналізу з методами другого порядку (метод Ньютона) та квазіньютонівськими алгоритмами (L-BFGS) обґрунтовано перехід до методів внутрішньої точки як галузевого стандарту для задач з обмеженнями. Ключова новизна роботи полягає в дослідженні розширення сфери застосування градієнтних методів в еру штуч- ного інтелекту. Автори демонструють парадигмальний зсув: характеристики, що були обмежу- вальними факторами в детермінованій оптимізації (шумна траєкторія та спрощена обробка гра- дієнта), трансформувалися у вирішальні переваги стохастичного градієнтного спуску (SGD). Доведено, що саме ця стохастична природа дає змогу ефективно навчати нейронні мережі для за- дач прогнозування генерації ВДЕ та управління попитом, перетворюючи традиційний метод на фу- ндамент сучасних Data-driven рішень в енергетиці. Ключові слова: оптимізація енергосистеми; оптимальний розподіл потужності в змінному струмі (AC-OPF); метод найкрутішого спуску; стохастичний градієнтний спуск (SGD); погано обумовлені за- дачі; аналіз збіжності. Перелік використаних позначень та скорочень ВДЕ – відновлювані джерела енергії KKT – умови Каруша – Куна – Такера ЛЕП – лінія електропередачі МНШ – метод найшвидшого спу-ску AC-OPF – Optimal Power Flow змінного струму BFGS – Broyden–Fletcher–Goldfarb–Shanno ELD – Economic Load Dispatch, IPM – Interior Point Methods L-BFGS – Limited-memory BFGS ML – Machine Learning NLP – Nonlinear Programming, SGD – Stochastic Gradient Descent SQP – Sequential Quadratic Programming Вступ. Сучасні енергетичні системи є одними з найскла- дніших інженерних та кіберфізичних систем, створених людством. Їх функціонування, від щосекундного балан- сування генерації та попиту до довгострокового плану- вання розвитку, пронизане фундаментальними оптимі- заційними викликами. Необхідність оптимізації в енергетиці диктується трьома основними факторами: економічною ефективністю, надійністю системи та ви- кликами декарбонізації [1–3]. З економічного погляду навіть незначне (наприклад, 0.1 %) покращення ефективності роботи об’єднаної енергосистеми трансформується в мільйонні заоща- дження на вартості палива [4]. Задачі, такі як економі- чний розподіл навантаження (Economic Load Dispatch, 1 аспірант https://orcid.org/0000-0002-7571-7124 2 д-р. техн. наук https://orcid.org/0000-0002-2489-4980 3 д-р. техн. наук https://orcid.org/0000-0002-0497-7439 4 канд. техн. наук https://orcid.org/0000-0003-3207-1156 1, 2, 4 Національний технічний університет України "Київський політехнічний інститут імені Ігоря Сікорського", м. Київ, Україна 3 Інститут відновлюваної енергетики НАН України, м. Київ, Україна https://orcid.org/0000-0002-7571-7124 https://orcid.org/0000-0002-2489-4980 https://orcid.org/0000-0002-0497-7439 https://orcid.org/0000-0003-3207-1156 81 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ ELD) та оптимальний потік потужності (Optimal Power Flow, OPF), безпосередньо мінімізують загальні ви- трати на генерацію [5]. З погляду надійності система повинна працювати в ме- жах жорстких фізичних обмежень: теплові обмеження ліній електропередачі, межі напруги у вузлах, резерви генерації та обмеження стійкості. Оптимізація (зокрема, OPF) є інструментом, який знаходить найдешевший ро- бочий режим, не порушуючи жодного з цих обмежень безпеки [6]. Нарешті, інтеграція стохастичних відновлюваних дже- рел енергії (ВДЕ), як-от вітрові та сонячні станції, вносить високий ступінь невизначеності. Це вимагає нових опти- мізаційних підходів, що здатні оперувати в умовах сто- хастики, а також управляти попитом (Demand-Response) та системами зберігання енергії [7]. Особливої важливо- сті набувають задачі оптимізації в ситуаціях з обмеже- ним доступом до централізованого постачання енергії та переходом до розподіленої генерації (утворення сис- теми мікромереж, спільного використання засобів збе- рігання енергії, вибору точки приєднання ВДЕ для зменшення трафіку електроенергії та її втрат, питань взаємного обміну енергією тощо). Більшість цих проблем (зокрема, AC-OPF – Optimal Power Flow змінного струму) математично формулю- ються як великомасштабні, нелінійні, не опуклі та си- льно обмежені задачі нелінійного програмування (Nonlinear Programming, NLP). Застосування розподіле- ної генерації з ВДЕ потребує врахування модульної по- будови та переходу до цілочисельних задач. Розмір- ність таких задач для реальних систем може сягати десятків або сотень тисяч змінних та обмежень, а ви- мога до їх вирішення в реальному часі (або близькому до нього) ставить жорсткі обмеження щодо швидкодії до обчислювальних методів [8]. Мета роботи – кількісна оцінка обмежень методу най- швидшого спуску при розв’язанні класичних задач ене- ргетики (ELD, AC-OPF) через проблему високої обумов- леності (κ) та гетерогенності енергосистем, а також порівняльний аналіз його ефективності з сучасними ме- тодами оптимізації. Водночас дослідження спрямоване на переосмислення ролі методу в сучасних умовах: де- монстрацію його переходу від традиційного інструме- нту детермінованої оптимізації до основи стохастичного градієнтного спуску (SGD), який є критично важливим для навчання нейромереж в енергетичних задачах (про- гнозування ВДЕ, попиту) Для розуміння обмежень методу спершу необхідно чі- тко встановити його математичні основи. МНШ є мето- дом для вирішення задачі безумовної оптимізації. Постановка задачі безумовної оптимізації. Розглянемо задачу знаходження локального мінімуму диферен- ційовної функції f(x) [5] (1): min 𝑥∈ℝ𝑛 𝑓(𝑥) (1) де f: λmax → ℝ є гладкою функцією, принаймні класу С1 (тобто має неперервні перші часткові похідні). Ключовими інструментами аналізу є: 1. Градієнт: Вектор перших часткових похідних, ∇f(x)∈ ℝn, який вказує в напрямку найшвидшого зрос- тання функції в точці x. 2. Гесіан: Матриця других часткових похідних, ∇f(x)∈ ℝn×n, яка описує кривизну функції в точці x. Необхідною умовою першого порядку для того, щоб то- чка x* була локальним мінімумом, є ∇f(x*) = 0. Такі точки називаються стаціонарними. МНШ, як і більшість ітера- тивних методів, намагається знайти саме таку стаціона- рну точку. Ідея МНШ полягає в тому, щоб на кожному кроці руха- тися з поточної точки xk у напрямку pk, який забезпечує найбільше локальне зменшення значення функції f. Для формалізації цього розглянемо розклад функції f у ряд Тейлора першого порядку навколо точки x [5] (2): 𝑓(x + α𝑝) ≈ 𝑓(x) + α ∇𝑓(x)T𝑝 (2) де p – це деякий одиничний напрямок (||p||2 = 1), а α > 0 – мала довжина кроку (передбачається наяв- ність ортнонормованого базису в області визначення). Необхідно знайти такий напрямок p, який мінімізує зміну f(x + αp) – f(x), що еквівалентно мінімізації добутку ∇f(x)Tp. Отже, вирішується задача (3): min 𝑝 ∇𝑓(x)T𝑝 за умови ‖р‖2 = 1 (3) Згідно з нерівністю Коші – Шварца (4): |∇𝑓(x)T𝑝| ≤ ‖∇𝑓(x)‖2 ∙ ‖р‖2 (4) Мінімум (тобто найбільш негативне значення) досяга- ється, коли p є колінеарним і протилежно спрямованим до ∇f(x). Тобто (5): р = − ∇𝑓(x) ‖∇𝑓(x)‖2 (5) Цей напрямок p називається напрямком найшвидшого спуску. Він локально гарантує найстрімкіше зменшення цільової функції. Алгоритмічна структура. На основі цього виведення іте- раційний процес МНШ будується в такий спосіб: для за- даної початкової точки x0 [5]: Алгоритм 1: Метод найшвидшого спуску (МНШ) 1. Для k = 0, 1, 2, ... 2. Якщо ∇f(xk) = 0, то Стоп 3. Обчислити напрямок спуску: pk = -∇f(xk) 4. Обчислити довжину кроку: αk> 0 (за допомогою про- цедури лінійного пошуку) 5. Оновити точку: xk+1 = xk + αkpk 6. Кінець Алгоритм має дві ключові обчислювальні компоненти на кожній ітерації: 1. Обчислення напрямку pk (вимагає обчислення граді- єнта ∇f(xk)). 82 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ 2. Обчислення довжини кроку αk (процедура, відома як linesearch, або одновимірна мінімізація). Саме вибір αk є критично важливим для ефективності методу. Точний лінійний пошук (Line Search). Теоретично опти- мальний підхід полягає у виборі кроку αk, який мінімізує функцію f вздовж напрямку pk [5] (6): α𝑘 = arg min α>0 𝑓(x𝑘 + α𝑘𝑝𝑘) = arg min α>0 𝜑(α) (6) Це, по суті, одновимірна задача оптимізації. Умова оп- тимальності для φk дає φ'(αk) = 0. Застосовуючи ланцю- гове правило, отримуємо (7): φ′(α𝑘) = ∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 = 0 (7) Це означає, що при точному лінійному пошуку новий гра- дієнт ∇f(xk+1) є ортогональним до попереднього напрямку pk. Оскільки pk = -∇f(x)k, це також означає, що ∇f(xk+1)Т∇f(xk) = 0. Послідовні градієнти є ортогональними. Саме ця властивість зумовлює характерну «зигзагоподі- бну» (zigzag) поведінку МНШ [8]. Уявімо вузьку, витяг- нуту «долину» цільової функції. На «схилі» долини гра- дієнт вказує переважно поперек долини (в напрямку найкрутішого схилу), а не вздовж неї до мінімуму. МНШ з точним пошуком робить крок pk і переходить у точку на протилежному «схилі» в точці xk+1, де новий градієнт ∇f(xk+1) є ортогональним до pk. Оскільки pk був майже перпендикулярним до оптимального шляху (вздовж «дна» долини), новий градієнт ∇f(xk+1) буде майже в протилежному напрямку до ∇f(xk). Алгоритм здійснюва- тиме ітераційні переходи (зигзагом) між схилами до- лини, роблячи дуже повільний прогрес у напрямку справжнього мінімуму. Таким чином, «оптимальність» (точний пошук кроку) на кожному кроці призводить до глобальної субоптималь- ної траєкторії. Єдиний випадок, де точний пошук є обчислювально ви- правданим, – це додатно визначена квадратична функ- ція [9]. У цьому разі αk має замкнену форму (8): α𝑘 = ∇𝑓𝑘 𝑇∙∇𝑓𝑘𝑝𝑘 ∇𝑓𝑘 𝑇∙Q∇𝑓𝑘𝑝𝑘 (8) Де∇fk = Qxk - b Неточний лінійний пошук (Умови Вольфа). У загаль- ному випадку, для нелінійних функцій, знаходити точ- ний мінімум αk є недоцільним з огляду на обчислюва- льні витрати (витрати ресурсів можуть перевищувати вартість самої ітерації МНШ). На практиці використовуються процедури неточного лі- нійного пошуку, які гарантують «достатньо хороший» крок. Стандартом де-факто є Умови Вольфа (Wolfe Conditions), які вимагають, щоб αk задовольняв дві умови [10]: Умова Арміхо (Armijo) (достатнє зменшення) (9): 𝑓(x𝑘 + α𝑘𝑝𝑘) ≤ 𝑓(x𝑘)+𝑐1α𝑘∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (9) де c1∈ (0, 1), типово c1 = 10-4. Це гарантує, що крок αk не «надто великий» і дає реальне зменшення функції. Умова кривизни (Curvature) (10): ∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 ≥ 𝑐2∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (10) де c2 ∈ (c1, 1), типово c2 = 0.9. Існування такого αk, що задовольняє обидві умови, гарантоване для гладких функцій, обмежених знизу. Використання умов Вольфа є ключовим для до- ведення глобальної збіжності методу. Теоретичні гарантії збіжності. Глобальна збіжність МНШ (тобто збіжність до стаціонарної точки x* з будь- якої x0) гарантується за досить м’яких умов. Ключовою є умова L-гладкості. Означення (L-гладкість): Функція f називається умовно L-гладкою, якщо її градієнт ∇f є Ліпшицевим з констан- тою L > 0 [11], тобто (11): ‖∇𝑓(x) − ∇𝑓(x)‖2 ≤ 𝐿‖x − 𝑦‖2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (11) Якщо f ∈ C2, це еквівалентно тому, що найбільше власне значення Гессіана∇2f(x) є обмеженим L, тобто ∇2f(x)⪯ LI. Теорема 1 (Збіжність для L-гладких функцій) [12]: Якщо f є L-гладкою та обмеженою знизу, то МНШ з не- точним пошуком (що задовольняє умови Вольфа) або зі сталим кроком αk = α∈ (0, 2/L) гарантує, що limk →ꚙ ||∇f(xk)||2 = 0. Ця теорема лише каже, що зрештою зійдемося до точки, де градієнт дорівнює нулю. Однак, вона нічого не гово- рить про те, як швидко це станеться. Аналіз швидкості збіжності. Для аналізу швидкості нам потрібна сильніша умова – сильна опуклість. Означення (m-сильна опуклість) [13]: Функція f назива- ється m-сильно опуклою (з m > 0), якщо (12): 𝑓(𝑦) ≥ 𝑓(x) + ∇𝑓(x𝑘)𝑇(𝑦 − 𝑥) + 𝑚 2 ‖𝑦 − 𝑥‖2 2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (12) Якщо f ∈ C2, це еквівалентно тому, що найменше вла- сне значення гесіана∇2f(x) є обмеженим знизу m, тобто ∇2f(x) ⪰mI. Теорема 2 (Лінійна збіжність для сильно опуклих функцій) [14]: Якщо f є L-гладкою та m-сильно опуклою, то МНШ з точним лінійним пошуком або з оптимально вибра- ним сталим кроком збігається до єдиного глобаль- ного мінімуму x* з лінійною (або геометричною) швид- кістю (13, 14): 𝑓(𝑥𝑘) ≥ 𝑓(x∗) ≤ (1 − 𝐶)𝑘𝑓((𝑥0) − 𝑓(x∗)) (13) ‖𝑥𝑘 − x∗‖2 2 ≤ (1 − 𝐶)𝑘‖𝑥0 − x∗‖2 2 (14) де C > 0 – константа збіжності. 83 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ На перший погляд «лінійна збіжність» виглядає задові- льно. Однак існує залежність від значення константи C. Для квадратичної функції (15): 𝑓(x) = 1 2 xTQx − bTx, Q ≻ 0, (15) константи L та m є просто найбільшим (λmax) та наймен- шим (λmin) власними значеннями матриці Q. У цьому разі можна показати, що (16): 𝑓(x𝑘) − 𝑓(x∗) ≤ ( 𝜆max−𝜆min 𝜆max+𝜆min ) 2 (𝑓(x0) − 𝑓(x∗)) (16) Специфіка збіжності за умов поганої обумовленості: κ як міра «складності». Введемо ключовий параметр будь-якої оптимізаційної задачі: число обумовленості κ (17). κ = 𝐿 𝑚 = 𝜆max(𝑄) 𝜆min(𝑄) (17) κ вимірює відношення найбільшої кривизни до найменшої; геометрично це міра того, наскільки «витя- гнутою» є цільова функція. Перепишемо вираз для швидкості збіжності через κ (18): 𝑓(x𝑘) − 𝑓(x∗) ≤ ( 𝜅−1 𝜅+1 ) 2𝜅 (𝑓(x0) − 𝑓(x∗)) (18) Проаналізуємо формулу (18): Випадок 1 (Ідеальний): κ = 1. Це означає L = m, λmax = λmin. Гесіан Q = λI. Рівні значення функції f є ідеальними концентричними колами (або сферами в ℝn). Фактор збіжності (19) ( 1−1 1+1 ) 2 = 0 (19) Метод збігається за один крок з будь-якої початкової то- чки. Градієнт ∇f(x0) = Qx0 – b завжди вказує точно на центр x* = Q-1b. Випадок 2 (Реалістичний, «погано обумовлений»): κ>> 1. Це означає L >> m. Рівні функції f є дуже витягнутими елі- псами (еліпсоїдами). Фактор збіжності (20): 𝜅−1 𝜅+1 = 𝐿 𝑚 −1 𝐿 𝑚 +1 = 𝐿−𝑚 𝐿+𝑚 ≈ 𝐿 𝐿 = 1 (20) Більш точно, використовуючи наближення 1 1+𝑥 ≈ 1 − 𝑥, маємо (21): 𝜅−1 𝜅+1 =≈ 1 − 2 𝜅 (21) Швидкість збіжності (22): (1 − 2 𝜅 ) 2𝑘 (22) Наприклад, нехай κ = 1000. Фактор збіжності ≈ (1 − 0.002)2k ≈ (0.998)2k ≈ (0.996)2k. Це означає, що на кожній ітерації помилка f(xk) – f(x*) зменшується лише на 0.4 %. Щоб зменшити помилку в 1000 разів (тобто 0.996k< 0.001), потрібно k > 𝑙𝑛(0.001) 𝑙𝑛(0.996) ≈ − 6.9 −0.004 ≈ 1725 ітерацій. Якщо κ = 10 000, потрібно буде понад 17 000 ітерацій. Це математичне спостереження є прямим поясненням, чому на сьогодні МНШ обмежено придатний для реаль- них енергосистем. Енергосистема за своєю природою є гетерогенною. Вона складається з елементів з дуже різ- ними фізичними властивостями, наприклад: 1. Лінії: магістральна ЛЕП 750 кВ має дуже низький ак- тивний опір (R << X), тоді як локальна розподільча лі- нія 10 кВ може мати R ≈ X. 2. Генератори: криві витрат C(P) мають різну кривизну (другу похідну ai в aiP2 + ...). Базова АЕС має майже плоску криву (ai ≈ 0), тоді як пікова газова турбіна має дуже круту криву (ai>> 0). Для вітрової турбіни крива потужності наближено описується логістичною кри- вою зі змінною кривизною, залежною від швидкості вітру, а для сонячної електростанції стохастичний ха- рактер генерації обумовлює криву потужності, тео- ретично розривну в кожній точці. Ця фізична гетерогенність (різні масштаби імпедансів, витрат, чутливостей) математично транслюється в ге- сіан цільової функції (або гесіан Лагранжіана в обмеже- них задачах) з великим розкидом власних значень. λmax (що відповідає «жорстким» зв’язкам / обмеженням) буде великим, а λmin (що відповідає «м’яким» зв’язкам) буде малим. Отже, будь-яка реалістична великомасштабна енерго- система гарантовано породжує оптимізаційну задачу з доволі великим числом обумовленості κ. Відповідно до Теореми 2, МНШ гарантовано матиме неприйнятно по- вільну збіжність на будь-якій реальній задачі OPF чи ELD. Його неефективність – це прямий наслідок фізики енер- госистеми. Тепер застосуємо отримані теоретичні висновки до двох ключових задач оптимізації в енергетиці: економічного розподілу навантаження (ELD) та оптимального потоку потужності (OPF) [15]. Випадок 1: Економічний розподіл навантаження (ELD). Постановка задачі. Класична ELD (без втрат) [16] (23): min 𝑃𝐺𝑖 ∑ 𝐶𝑖𝑃𝐺𝑖 𝑁 𝑖=1 = ∑ 𝑎𝑖𝑃𝐺𝑖 2 + 𝑏𝑖𝑃𝐺𝑖 𝑁 𝑖=1 +𝑐𝑖 (23) за умови балансу потужності (24): ∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑 𝑁 𝑖=1 (24) та обмежень генерації (25): 𝑃𝐺𝑖 min ≤ 𝑃𝐺𝑖 ≤ 𝑃𝐺𝑖 min ∀ 𝑖 . (25) ELD з урахуванням втрат (B-матриця) [17]: Задача ускладнюється, оскільки баланс потужності стає нелінійним (26): ∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑 𝑁 𝑖=1 + 𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) (26) 84 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ де втрати в мережі PLoss апроксимуються квадратичною формою (формула Крона, B-матриця) [17] (27): 𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) = ∑ ∑ 𝑃𝐺𝑖𝐵𝑖𝑗𝑃𝐺𝑗 + 𝑁 𝑗=1 𝑁 𝑖=1 ∑ 𝐵𝑖𝑗𝑃𝐺𝑖 + 𝐵00 𝑁 𝑖=1 ) (27) Цільова функція та обмеження тепер нелінійно пов’язані. Адаптація МНШ для вирішення ELD. МНШ – це метод безумовної оптимізації. ELD – обмежена задача. Щоб застосувати МНШ, обмеження потрібно якось враху- вати. Існує два поширених підходи [18]: 1. Метод штрафних функцій: задача перетворюється на безумовну, додаючи обмеження до цільової фун- кції як «штраф» за їх порушення (28): 𝑓(𝑃𝐺) = ∑ 𝐶𝑖(𝑃𝐺𝑖) 𝑁 𝑖=1 + 𝜇(∑ 𝑃𝐺𝑖 − 𝑃𝐷 − 𝑃𝐿𝑜𝑠𝑠 𝑁 𝑖=1 )2 + ∑ 𝜈𝑖 ⋅ [𝑚𝑎𝑥(0, 𝑃𝐺𝑖 − 𝑃𝐺𝑖 𝑚𝑎𝑥)]2𝑁 𝑖=1 + ∑ 𝜔𝑖 ⋅𝑁 𝑖=1 [𝑚𝑎𝑥(0, 𝑃𝐺𝑖 𝑚𝑖𝑛 − 𝑃𝐺𝑖)] 2 , (28) де μ > 0 – штрафний параметр за порушення балансу по- тужності; νi, ωi> 0 – штрафні параметри за обмеження нерівностей; 𝑃𝐺𝑖 min, 𝑃𝐺𝑖 ma𝑥 – нижня та верхня межі генера- ції; max(0,·) – забезпечує штраф тільки при порушенні обмежень. Після цього до f (PG) застосовується МНШ. 2. Метод проєкції градієнта: цей метод можна вико- ристати для простих «коробкових» обмежень (𝑃𝐺𝑖 min, 𝑃𝐺𝑖 ma𝑥). Ідея полягає в тому, щоб зробити крок МНШ, і якщо нова точка xk+1 виходить за межі, «спроєкту- вати» її назад на допустиму область. Аналіз ефективності МНШ для ELD. Обидва підходи є вкрай неефективними для ELD. Проблема 1 (Погана обумовленість). Навіть у найпрос- тішому випадку ELD без втрат гесіан цільової функції ∑Ci(PGi0 є діагональною матрицею H = diag (2a1, ..., 2aN). Число обумовленості 𝜅 = 𝑚𝑎𝑥(𝑎𝑖) 𝑚𝑖𝑛(𝑎𝑖) . Як зазначалося ра- ніше, у реальній системі з дешевими базовими (малий ai) та «дорогими» піковими (великий ai) генераторами, κ буде дуже великим. МНШ демонструватиме класичну повільну, зигзагоподібну поведінку. Коли ми додаємо B-матрицю, гесіан стає H = diag(2ai) + 2μB. Це ще більше погіршує ситуацію. Проблема 2 (Погіршення обумовленості через засто- сування штрафних функцій). Інтеграція методу штраф- них функцій критично знижує обчислювальну ефектив- ність МНШ. Оскільки для точного задоволення обмежень задачі штрафний параметр μ повинен пряму- вати до нескінченності (μ→ꚙ). Можна показати, що гесіан штрафної функції f (PG) стає все більш погано обумовленим, коли μ зростає. Факти- чно, κ→ꚙ коли μ→ꚙ. МНШ, швидкість якого критично залежить від κ, стає практично непридатним для досягнення збіжності саме тоді, коли ми вимагаємо від нього точності. Тож для ELD МНШ є вкрай неефективним підходом для «простої» ELD, методи, що явно враховують обмеження (наприклад, методи на основі вирішення системи умов Каруша – Куна – Таккера (KKT) або спеціалізовані ме- тоди, що враховують структуру задачі), є на порядки ефективнішими. Існують дослідження, що використову- ють МНШ у поєднанні з множниками Лагранжа для ви- рішення екологічного економічного розподілу, але це вже модифіковані, а не «чисті» версії методу [19]. Випадок 2: Оптимальний потік потужності (OPF), скла- дність задачі AC-OPF. Це основна задача операційного управління. Задача AC-OPF є великомасштабною нелі- нійною (через рівняння потоку потужності) та не опук- лою (має багато локальних мінімумів) [20]. Формально (спрощено) (29): min V,θ,PG,QG ∑ С𝑖(𝑃𝐺𝑗) (29) За умови (обмеження-рівності – рівняння потоку потуж- ності) (30): Для кожного вузла i (30), за умови, де x = [PG, QG, V, θ] – вектор оптимізації; μP, μQ – штрафні параметри за рівняння балансу потуж- ності; νi P+, νi P- – штрафні параметри за обмеження PG; ωi Q+, ωi Q- – штрафні параметри за обмеження QG; κi V+, κi V- – штрафні параметри за обмеження напруги; λij – штрафні параметри за обмеження ліній; NG – кількість генераторів, N – кількість вузлів, L – мно- жина ліній: min 𝑓(𝑥) = ∑ С𝑖(𝑃𝐺𝑖 ) + 𝜇𝑃 ∑ [𝑃𝑖(𝑉, 𝜃) − (𝑃𝐺𝑖 −𝑁 𝑖=0 𝑁𝐺 𝑖=0 𝑃𝐷𝑖 )] 2 + 𝜇𝑄 ∑ [𝑄𝑖(𝑉, 𝜃) − (𝑄𝐺𝑖 − 𝑄𝐷𝑖)]2 +𝑁 𝑖=0 ∑ 𝜈𝑖 𝑃+[max(0, 𝑃𝐺𝑖 − 𝑃𝐺𝑖 𝑚𝑎𝑥)] 2𝑁𝐺 𝑖=0 + ∑ 𝜈𝑖 𝑃−[max(0, 𝑃𝐺𝑖 𝑚𝑖𝑛−𝑃𝐺𝑖 )] 2 + ∑ 𝜔𝑖 𝑄+[max(0, 𝑄𝐺𝑖 − 𝑁𝐺 𝑖=0 𝑁𝐺 𝑖=0 𝑄𝐺𝑖 𝑚𝑎𝑥)] 2 + ∑ 𝜔𝑖 𝑄−[max(0, 𝑄𝐺𝑖 𝑚𝑖𝑛−𝑄𝐺𝑖 )] 2𝑁𝐺 𝑖=0 + ∑ 𝜅𝑖 𝑉+[max(0, |𝑉𝑖| − 𝑉𝑖 𝑚𝑎𝑥)]2𝑁𝐺 𝑖=0 + ∑ 𝜅𝑖 𝑉−[max(0, 𝑉𝑖 𝑚𝑖𝑛 − |𝑉𝑖|)] 2𝑁𝐺 𝑖=0 + ∑ λ𝑖𝑗𝑖,𝑗 ∈ 𝐿 [max(0, 𝑆𝑖𝑗(𝑉, 𝜃) − 𝑆𝑖𝑗 𝑚𝑎𝑥)] 2 (30) Примітка: Усі штрафні параметри μ, ν, ω, κ, λ > 0 є дода- тними та досить великими величинами [21]. За умови (обмеження-нерівності): • Межі генерації: 𝑃𝐺𝑖 𝑚𝑖𝑛 ≤ 𝑃𝐺𝑖 ≤ 𝑃𝐺𝑖 𝑚𝑎𝑥; 𝑄𝐺𝑖 𝑚𝑖𝑛 ≤ 𝑄𝐺𝑖 ≤ 𝑄𝐺𝑖 𝑚𝑎𝑥 85 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ • Межі напруги: 𝑉𝑖 𝑚𝑖𝑛 ≤ |𝑉𝑖| ≤ 𝑉𝑖 𝑚𝑎𝑥 • Теплові обмеження ліній: 𝑆𝑖𝑗(𝑉, 𝜃) ≤ 𝑆𝑖𝑗 𝑚𝑎𝑥 Застосування МНШ до OPF. Пряме застосування МНШ до AC-OPF є неможливим. Це задача безумовної опти- мізації, тоді як OPF визначається тисячами складних не- лінійних обмежень – рівностей та нерівносте. Як і у випадку з ELD, можна спробувати «вбудувати» всі ці обмеження в цільову функцію через штрафи та бар’єри. Це призведе до створення багатовимірної ці- льової функції зі складним градієнтним рельєфом, ці- льової функції, гесіан якої буде надзвичайно погано обу- мовленим, роблячи МНШ недоцільним. Історично, ранні спроби вирішення OPF (наприклад, «Reduced Gradient Method» Карпонт’є) використову- вали градієнтну інформацію. Але ці методи були наба- гато складнішими, ніж чистий МНШ. Вони використову- вали рівняння потоку потужності для зменшення розмірності задачі (виражаючи залежні змінні через не- залежні) і намагалися «рухатися» вздовж межі допусти- мої області, що визначається обмеженнями. Сучасний підхід. Сучасні, надійні вирішувачі AC-OPF ні- коли не використовують МНШ. Вони базуються на мето- дах, що явно та ефективно обробляють обмеження, ви- користовуючи інформацію другого порядку (або її апроксимацію): 1. Методи внутрішньої точки (Interior Point Methods, IPM). Домінуючий підхід. Вони перетворюють за- дачу з нерівностями на послідовність задач з рівнос- тями за допомогою бар'єрних функцій. Потім вони застосовують метод Ньютона до системи умов KKT для цієї бар’єрної задачі. Вони працюють з гесіаном Лагранжіана і є надзвичайно ефективними для вели- комасштабних опуклих та (часто) не опуклих задач. 2. Послідовне квадратичне програмування (Sequential Quadratic Programming, SQP). Інший потужний ме- тод, який на кожній ітерації апроксимує задачу OPF квадратичною задачею (апроксимуючи лагранжіан) та вирішує її. 3. Метод змінних напрямків множників (Alternating Direction Method of Multipliers, ADMM), що набуває все більшої популярності для децентралізованої оптиміза- ції, зокрема при управлінні мікромережами та розподі- леною генерацією з ВДЕ. Він дає змогу розбити складну великомасштабну задачу на локальні підзадачі, які розв’язуються паралельно, що ідеально відповідає архі- тектурі сучасних інтелектуальних мереж. Табл. 1 чітко показує, що для кожної з основних детер- мінованих оптимізаційних задач в енергетиці МНШ є або непридатним, або вкрай неефективним вибором. Таблиця 1. Аналіз застосовності МНШ до задач в енергетиці Задача Тип задачі Розмір- ність Обмеження Придатність МНШ Чому? (Ключова проблема) ELD (без втрат) Опукла, квадратична Середня 1 рівність, N нерівностей Низька Повільна збіжність (κ визна- чається різницею ai). Потре- бує штрафів ELD (з B-мат- рицею) Не опукла, квадратична Середня 1 нелінійна рів- ність, N нерівностей Дуже низька Погана обумовленість (κ ве- лике). Штрафні методи руй- нують κ AC OPF Не опукла, NLP Висока Складні нелі- нійні рівності та нерівності Непридатний МНШ – метод безумовної оп- тимізації. Не може обробити обмеження DC OPF Опукла, LP (лінійне про- грамування) Висока Лінійні рівності / нерівності Непридатний Це задача лінійного програ- мування. Потрібні симплекс- метод або IPM Оцінка стану (State Estimation, SE) Нелінійні МНК Висока - Низька Зазвичай вирішується як не- лінійні МНК (Метод наймен- ших квадратів, Гаус – Нью- тон), що набагато швидше Обмежена ефективність МНШ мотивувала розробку до- сконаліших алгоритмів. Щоб зрозуміти, чому вони кращі, проаналізуємо їх у порівнянні з МНШ. Особливість «найшвидшого» спуску. Як було продемон- стровано, назва «найшвидший» є такою, що не повною мірою відображає реальні характеристики збіжності: метод є найшвидшим лише локально (тобто, з погляду миттєвої зміни f), але призводить до однієї з найповіль- ніших глобальних траєкторій збіжності. Фундаментальна проблема МНШ полягає в строгій ло- кальності [5]: на кожному кроці k не відбувається нако- пичення історії попередніх напрямків p0, …, pk-1. Він ви- користовує лише інформацію першого порядку (∇fk) і робить це неефективно, оскільки напрямок pk = -I∙∇fk (де 86 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ I – одинична матриця) ігнорує будь-яку інформацію про кривизну задачі. Методи другого порядку: Метод Ньютона. Метод Нью- тона використовує інформацію другого порядку (есіан (∇f2(x)) для побудови повної квадратичної моделі функ- ції в точці xk і здійснює ітераційний перехід безпосеред- ньо в мінімум цієї моделі [22]. Ітерація методу Ньютона (31): 𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘 𝑁𝑒𝑤𝑡𝑜𝑛 (31) де 0 ≤ αk ≤ 1 – довжина кроку; 𝑝𝑘 𝑁𝑒𝑤𝑡𝑜𝑛 = −[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘) Тобто з явним записом напрямку (32): 𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘 𝑁𝑒𝑤𝑡𝑜𝑛 = −[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘) (32) МНШ робить крок 𝑝𝑘 = −𝐼 ⋅ ∇𝑓𝑘 . Метод Ньютона вико- ристовує «ідеальну» метрику: 𝑝𝑘 = −𝐻−1∇𝑓𝑘. Мно- ження на H-1 (обернений гесіан) діє як перетворення простору (масштабування), яке перетворює витягнуті «еліпси» рівнів f на ідеальні «кола». У цьому трансфор- мованому просторі напрямок −∇ 𝑓 вказує точно на міні- мум. Переваги [23]: • Квадратична збіжність (‖𝑥𝑘+1 − 𝑥∗‖ ≈ 𝐶 ‖𝑥𝑘 − 𝑥∗‖2). Це означає, що кількість правильних значу- щих цифр подвоюється на кожній ітерації. Збіжність надзвичайно швидка. • Афінна інваріантність, тобто метод нечутливий до числа обумовленості κ. Він знайде мінімум квадра- тичної функції з κ = 1000 так само швидко (за 1 крок), як і для κ =1. Недоліки (в контексті енергетичних систем) [24]: • Метод Ньютона є непрактичним для великомасшта- бних задач, таких як OPF, у своєму чистому вигляді: • Обчислення гесіана: ∇2 𝑓(𝑥) має n2 елементів. Для системи з n = 50 000 вузлів це неможливо. • Зберігання гесіана: Потрібна пам’ять O(n2). • Розв’язання системи: Розв’язання Hp = -g вимагає O(n3) операцій (для щільного H) або O(n1.5) – O(n2) (для розрі- дженого H, як у OPF). Це все одно надто дорого для ко- жної ітерації. «Розумні» методи першого порядку: Метод спряже- них градієнтів (CG). Метод спряжених градієнтів (ConjugateGradients, CG) – це фективна модифікація ви- рішення проблеми відсутності накопичення передісто- ріі та «зигзагів» МНШ, яке не вимагає гесіана [25]. Ідея полягає в тому, щоб оптимізувати вибір напрямку pk. Напрямок pk будується як лінійна комбінація поточ- ного негативного градієнта та попереднього напрямку (33): 𝑝𝑘+1 = −∇ 𝑓(𝑥𝑘+1) + 𝛽𝑘𝑝𝑘 (33) Коефіцієнт 𝛽𝑘 (наприклад, за формулою Флетчера – Рівза або Полака – Ріб’єра) вибирають так, щоб напрямки 𝑝𝑘 були Q-спряженими (для квадратичної за- дачі 𝑓(𝑥) = 1 2 𝑥𝑇𝑄 𝑥 + ⋯ ), тобто 𝑝𝑖 𝑇𝑄𝑝𝑗 = 0 для 𝑖 ≠ 𝑗. Переваги: 1. N-крокова збіжність для квадратичної задачі розмі- рності 𝑛 × 𝑛, CG гарантовано знаходить точний мі- німум за не більше ніж n ітерацій. 2. Ефективність. Він уникає «зигзагів» МНШ, оскільки напрямки 𝑝𝑘 враховують передісторію кроків і зали- шаються спряженими. 3. Вартість, тобто складність ітерації (O(n)) та пам’ять (O(n)) – такі самі, як у МНШ. Отже, для великомасштабних квадратичних задач (або нелінійних, де він застосовується ітеративно), CG у всіх відношеннях перевершує МНШ. Квазіньютонівські методи (BFGS / L-BFGS) намагаються досягти швидкої збіжності Ньютона, не уникаючи знач- них обчислювальних витрат та обернення гесіана [26]. Ідея полягає в тому, щоб не обчислювати 𝐻𝑘 = ∇2 𝑓(𝑥𝑘). Замість цього будувати апроксимацію оберне- ного гесіана, 𝐵𝑘 ≈ [∇2 𝑓(𝑥𝑘)]−1, на кожному кроці. • Ітерація: 𝑥𝑘+1 = 𝑥𝑘 − 𝛼𝑘𝐵𝑘∇𝑓𝑘. • Оновлення: 𝐵𝑘+1 отримують з 𝐵𝑘 додаванням поправки низького рангу, яка використовує лише інформацію з градієнтів: 1. 𝑠𝑘 = 𝑥𝑘+1 − 𝑥𝑘 2. 𝑦𝑘 = ∇𝑓𝑘+1 − ∇𝑓𝑘 3. 𝐵𝑘+1 = (формула оновлення 𝐵𝐹𝐺𝑆, що залежить від 𝐵𝑘, 𝑠𝑘, 𝑦𝑘) Найуспішнішою формулою оновлення є BFGS (Брой- ден – Флетчер – Гольдфарб – Шанно) [27]. • Переваги (BFGS): Суперлінійна збіжність (майже така сама швидка, як у Ньютона). • Проблема (BFGS): Потрібно зберігати та оновлювати матрицю 𝐵𝑘, що вимагає 𝑂(𝑛2) пам'яті. Це знову не- можливо для n = 50 000. • Рішення: L-BFGS (Limited-memory BFGS) Це високоефективне алгоритмічне рішення. Ідея тут полягає в тому, щоб не зберігати повну матрицю 𝐵𝑘. Зберігати лише m останніх пар векторів {𝑠𝑖 , 𝑦𝑖} (де m мале, наприклад, m = 10 або m = 20). Алгоритм: Напрямок 𝑝𝑘 = −𝐵𝑘∇𝑓𝑘 не обчислюється явно. Замість цього він відтворюється динамічно (в процесі обчислень) за допомогою двопрохідного реку- рсивного алгоритму, який використовує лише ці m пар векторів. Переваги (L-BFGS) [28]: • Збіжність: Суперлінійна (хоч і повільніша, ніж у пов- ного BFGS, але значно перевищує швидкість збіжно- сті МНШ). 87 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ • Пам’ять: Вимоги до пам’яті лінійні: 𝑂(𝑚 ⋅ 𝑛). • Обчислення: Вартість ітерації лінійна: 𝑂(𝑚 ⋅ 𝑛). L-BFGS став де-факто стандартом для великомасштабної безумовної нелінійної оптимізації в багатьох галузях. Табл. 2 візуалізує аналіз оптимізаційних алгоритмів. Вона чітко показує, чому МНШ поступається в ефектив- ності: CG пропонує ту саму вартість (O(n)), але наба- гато кращу збіжність. L-BFGS пропонує майже таку саму низьку (лінійну) вартість, але майже Ньютонівську збіж- ність і низьку чутливість до 𝜅. Таблиця 2. Порівняльний аналіз збіжності методів Метод Швид- кість збіжності Вартість ітерації (Обчис- лення) Вимоги до пам'- яті Чутли- вість до κ Найшвид- ший спуск (SD) Лінійна (пові- льна) O(n) O(n) Дуже висока Спряжені градієнти (CG) Суперлі- нійна (n- крокова для квадр.) O(n) O(n) Середня L-BFGS (m=10) Суперлі- нійна (швидка) 𝑂(𝑚 ⋅ 𝑛) 𝑂(𝑚 ⋅ 𝑛) Низька Метод Ньютона Квадра- тична (найшви- дша) 𝑂(𝑛3) 𝑂(𝑛2) Відсутня Таким чином, МНШ не має практичних переваг у засто- суванні до детермінованих задач. Теоретичне та прикладне значення МНШ. Аналіз, про- ведений у цій роботі, приводить до однозначного вис- новку: як детермінований інструмент для вирішення класичних, великомасштабних, погано обумовлених за- дач оптимізації в енергетиці (таких як OPF, ELD, SE), ме- тод найшвидшого спуску є дещо обмежено придатним для сучасних задач високої розмірності та практично не- придатним. Його повільна лінійна збіжність, яка суттєво погіршу- ється зі зростанням числа обумовленості 𝜅, робить його неконкурентоспроможним порівняно з методами спря- жених градієнтів, L-BFGS, і тим більше з методами внут- рішньої точки, які домінують у сучасних промислових вирішувачах OPF. Однак цінність МНШ сьогодні є педагогічною. Це базо- вий (архетипний) алгоритм нелінійної оптимізації. Розу- міння його недоліків (критична залежність від 𝜅, зигза- гоподібна поведінка) є необхідною умовою для розуміння, чому були винайдені і чому так добре пра- цюють L-BFGS, CG та IPM. Концептуальна трансформація градієнтних методів: Стохастичний градієнтний спуск (SGD). З появою нової парадигми оптимізації, керованої даними – машинного навчання (Machine Learning, ML) – МНШ набув нового етапу актуалізації [29]. Сучасна енергетика дедалі більше покладається на ML для вирішення нових задач [30]: • Прогнозування генерації ВДЕ (вітер, сонце). • Прогнозування навантаження (коротко- та довгостро- кове). • Навчання моделей попиту (Demand Response). • Оцінка стану на основі PMU (Phasor Measurement Units). Математично більшість задач навчання (наприклад, тренування нейронної мережі) зводяться до задачі міні- мізації емпіричного ризику (34) [31]: 𝑚𝑖𝑛 𝑥∈ℝ𝑛 𝑓(𝑤) = 1 𝑁 ∑ 𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁 𝑖=1 (34) де w – параметри моделі (ваги мережі), L – функція втрат, а N – кількість точок даних, яка може бути вели- чезною (мільйони або мільярди). Проблема в тому, щоб зробити один крок МНШ, L-BFGS або Ньютона, потрібно обчислити повний градієнт ∇𝑓(𝑤) (35) [32]: ∇ f(w) = 1 𝑁 ∑ ∇w𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁 𝑖=1 (35) Це вимагає N обчислень, тобто «перебору» всієї бази даних. Це надто дорого. Рішення в застосуванні стохас- тичного градієнтного спуску (SGD) [33], де на кожному кроці k замість повного градієнта, ми беремо лише одну точку (або невеликий «пакет») даних i та робимо крок у напрямку її градієнта (стохастичного градієнта) (36): wk+1 = wk − αk∇w L(wk, datai) (36) Напрямок ∇w L(wk, datai) є «шумною», але незміще- ною (𝐸[∇𝑤 𝐿] = ∇ f(w)) оцінкою повного градієнта. По суті, SGD – це МНШ з дуже «шумним» градієнтом. Для наочного та кількісного підтвердження аналітичних висновків щодо впливу гетерогенності системи на ефек- тивність оптимізації, було проведено чисельне моделю- вання. Як тестове середовище використано класичну за- дачу мінімізації додатно визначеної квадратичної функції вигляду (15), що дає змогу ізольовано керувати числом обумовленості 𝜅 через власні значення матриці Гессе Q, імітуючи різницю масштабів параметрів реаль- них енергосистем. Для обчислення кроку МНШ застосовувався точний лінійний пошук згідно з (8). З метою забезпечення ма- тематичної строгості експерименту та відтворення найгіршого сценарію збіжності (за нерівністю Канто- ровича), початкова точка x0 генерувалася з урахуван- ням напрямків головних осей еліпсоїда. Комплексні результати порівняльного моделювання наведено на рисунку. 88 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ Рисунок. Чисельне дослідження ефективності МНШ на тестовій квадратичній задачі Еволюція траєкторії збіжності за умов: (а) ідеальної обу- мовленості, 𝜅 = 1; (б) помірної гетерогенності, 𝜅 = 10; (в) сильної гетерогенності, 𝜅 = 50 (демонстрація зигза- гоподібної поведінки). Графік (г) ілюструє повільну лі- нійну збіжність МНШ порівняно з N-кроковою збіжністю методу спряжених градієнтів (CG). Залежність (д) підтве- рджує теоретичні висновки: при значеннях 𝜅 > 103, ха- рактерних для енергосистем, необхідна кількість ітера- цій зростає експоненційно, роблячи метод обчислю- вально неефективним. Важливо зазначити, що хоча SGD і класичний МНШ ма- ють спільне математичне коріння (обчислення градіє- нта), вони представляють різні парадигми оптимізації. SGD є ефективним алгоритмом для навчання нейроме- реж не завдяки властивостям класичного детермінова- ного спуску, а, імовірніше, завдяки специфічним ефек- там стохастичності. Напрямок спуску, що є «шумною» оцінкою повного градієнта, діє як неявна регуляризація, допомагаючи моделі уникати локальних мінімумів та сі- длових точок. Таким чином, спільна математична база адаптувалася під принципово нові обчислювальні пот- реби сучасних Data-driven рішень в енергетиці. Висновки Метод найшвидшого спуску є класичним базовим алго- ритмом, чия роль в оптимізації енергетичних систем ка- рдинально змінилася. Метод найшвидшого спуску, незважаючи на свою фун- даментальну теоретичну та педагогічну важливість, де- монструє низьку швидкість збіжності та обчислювальну неефективність при застосуванні до реальних, погано обумовлених оптимізаційних задач в енергетиці. Його аналіз є критично важливим не через його пряме су- часне застосування, а як відправна точка для розуміння необхідності та еволюції до більш досконалих методів (наприклад, спряжених градієнтів, квазіньютонівських методів та методів внутрішньої точки), які сьогодні до- мінують у галузі. Метод найшвидшого спуску, незважаючи на свою фун- даментальну теоретичну та педагогічну важливість, де- монструє суттєві обмеження при застосуванні до реаль- них погано обумовлених оптимізаційних задач в енергетиці. Згідно з математичним аналізом та чисель- ним моделюванням, швидкість збіжності методу знижу- ється пропорційно 𝜅2. Для типових задач AC-OPF, де 𝜅 ∼ 103 через різницю масштабів імпедансів ліній та характеристик генерації, це вимагає на 2–3 порядки більше ітерацій порівняно з методами внутрішньої то- чки (IPM) або методами спряжених градієнтів. Теоретичне та прикладне значення МНШ в енергетиці полягає не в його поточному використанні, а в тому, як його обчислювальні обмеження на реальних задачах стимулювали розвиток альтернативних підходів. Про- блеми, які МНШ не міг вирішити (наприклад, AC-OPF), змусили дослідників не стільки покращувати МНШ, скі- льки спрощувати проблему, що, наприклад, привело до широкого розповсюдження лінеаризованих моделей (наприклад, DC-OPF (OptimalPowerFlow постійного струму)). Таким чином, МНШ – це частково і поява спро- щених моделей, які досі використовуються, оскільки по- вноцінні задачі були нерозв’язними для алгоритмів того часу. 89 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ Подяка. Частину досліджень виконано авторами С. В. Бойченком і В. О. Коровушкіним у межах науково- дослідного проєкту, що фінансується за рахунок держа- вного бюджету України (за Наказом Міністерства освіти і науки України від 09.01.2026 № 23), а також ініціатив- них наукових тематик кафедри автоматизації електроте- хнічних і мехатронних комплексів КПІ ім. Ігоря Сікорсь- кого. ПОСИЛАННЯ 1. Status of Power System Transformation: Leading Topics of 2024. National Renewable Energy Laboratory, 2024. URL: https://docs.nrel.gov/docs/fy24osti/91357.pdf (дата звернення: 07.01.2026) 2. Коровушкін В. О., Босак А. В. Підвищення надійності електропостачання від нетрадиційних та відновлю- ваних джерел енергії. Vidnovluvana energetika. 2025. № 2(81). С. 88–96. URL: https://doi.org/10.36296/1819-8058.2025.2(81).88-96 (дата звернення: 12.01.2026). 3. Modern optimization technologies in hybrid renewable energy systems: a systematic review of research gaps and prospects for decisions / V. Korovushkin et al. Energies. 2025. Vol. 18, no. 17. P. 4727. URL: https://doi.org/10.3390/en18174727 (date of access: 12.01.2026). 4. Targeting energy savings? Better on primary than final energy and less on intensity metrics / M. Rodríguez та ін. Energy economics. 2023. С. 106797. URL: https://doi.org/10.1016/j.eneco.2023.106797 (дата звернення: 07.01.2026). 5. Wood A. J., Wollenberg B. F., Sheblé G. B. Power Generation, Operation, and Control. 3rd ed. Hoboken, NJ : Wiley, 2013. 656 p. 6. Smart grid, demand response and optimization: a critical review of computational methods / U. Assad та ін. Energies. 2022. Т. 15, № 6. С. 2003. URL: https://doi.org/10.3390/en15062003 (дата звер- нення: 07.01.2026). 7. Castillo A., O'Neill R. P. Survey of Approaches to Solving the ACOPF. Optimal Power Flow Paper 4. Federal Energy Regulatory Commission, 2013. URL: https://www.ferc.gov/sites/default/files/2020- 05/acopf-4-solution-techniques-survey.pdf (дата звер- нення: 07.01.2026). 8. Using gradient descent: cost decreases, then increases. Mathematics Stack Exchange. URL: https://math.stackexchange.com/questions/9751 80/using-gradient-descent-cost-decreases-then- increases (дата звернення: 07.01.2026). 9. International Energy Agency. World Energy Outlook 2023. Paris: IEA, 2023. 10. Wood A. J., Wollenberg B. F., Sheblé G. B. Power Generation, Operation, and Control. 3rd ed. New York: Wiley, 2013. 11. Kundur P. Power System Stability and Control. New York: McGraw-Hill, 1994. 12. Blaabjerg F., Yang Y., Yang D., Wang X. Distributed Power-Generation Systems and Protection. Proceedings of the IEEE. 2017. Vol. 105. No. 7. P. 1311–1331. 13. Low S. H. Convex Relaxation of Optimal Power Flow. Proceedings of the IEEE. 2014. Vol. 102. No. 1. P. 1–20. 14. Dommel H. W., Tinney W. F. Optimal Power Flow Solutions. IEEE Transactions on Power Apparatus and Systems. 1968. Vol. PAS-87. No. 10. P. 1866–1876. 15. Duffin R. J. Nonlinear Networks: II // Proceedings of the IRE. 1959. Vol. 4., No. 3. P. 388–394. 16. Nocedal J., Wright S. J. Numerical Optimization. 2nd ed. New York: Springer, 2006. 17. Bertsekas D. P. Nonlinear Programming. Belmont, MA: Athena Scientific, 1999. 18. Fletcher R. Practical Methods of Optimization. 2nd ed. New York: Wiley, 1987. 19. Wolfe P. Convergence Conditions for Ascent Methods // SIAM Review. 1969. Vol. 11. No. 2. P. 226–235. 20. Hestenes M. R., Stiefel E. Methods of Conjugate Gradients for Solving Linear Systems. Journal of Research of the National Bureau of Standards. 1952. Vol. 49. No. 6. P. 409–436. 21. Dennis J. E., Schnabel R. B. Numerical Methods for Unconstrained Optimization and Nonlinear Equations. Englewood Cliffs: Prentice-Hall, 1983. 22. Nesterov Y. Introductory Lectures on Convex Optimization. Boston: Springer, 2004. 23. Nesterov Y. A Method for Solving the Convex Programming Problem of Unconditional Minimization // Soviet Mathematics Doklady. 1983. Vol. 27. P. 372– 376. 24. Park J. B., Park K. S., Won J. R., Lee K. Y. Economic Load Dispatch Considering Transmission Losses // IEEE Transactions on Power Systems. 2005. Vol. 20. No. 1. P. 343–352. 25. Kron A. Tensor Analysis of Networks. New York: Wiley, 1939. 26. Coelho L. S. Constrained Optimization in Power Systems // Electric Power Systems Research. 2009. Vol. 79. P. 615–623. 27. Bukhsh W. A., Grothey A., McKinnon K. I. M., Trodden P. A. Local Solutions of Optimal Power Flow. IEEE Transactions on Power Systems. 2013. Vol. 28. No. 4. P. 4780–4788. https://docs.nrel.gov/docs/fy24osti/91357.pdf https://doi.org/10.36296/1819-8058.2025.2(81).88-96 https://doi.org/10.3390/en18174727 https://doi.org/10.1016/j.eneco.2023.106797 https://doi.org/10.3390/en15062003 https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases 90 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ 28. Carpentier J. Optimal Power Flows // International Journal of Electrical Power & Energy Systems. 1989. Vol. 11. No. 1. P. 3–15. 29. Research on photovoltaic power prediction using an LSTM recurrent neural network / S. Boichenko et al. Studies in systems, decision and control. Cham, 2024. P. 421–443. URL: https://doi.org/10.1007/978-3- 031-67091-6_19 (дата звернення: 07.01.2026). 30. Boyd S., Vandenberghe L. Convex Optimization. Cambridge: Cambridge University Press, 2004. 31. Spall J. C. Introduction to Stochastic Search and Optimization. Hoboken: Wiley, 2003. 32. Castillo A. A Review of AC Optimal Power Flow Methods // Electric Power Systems Research. 2013. Vol. 95. P. 223–232. 33. Bottou L. Stochastic Gradient Descent Tricks // In: Neural Networks: Tricks of the Trade. Springer, 2012. P. 421–436. https://doi.org/10.1007/978-3-031-67091-6_19 https://doi.org/10.1007/978-3-031-67091-6_19 91 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ УДК 519.85:621.31 https://doi.org/10.36296/1819-8058.2026.2(85).80-100 STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS Received Mar. 07, 2026; accepted Jun. 26, 2026 Available online June. 30, 2026 Korovushkin V.1, Boichenko S.2, Kuznietsov M.3, Danilin O.4 Author for correspondence: Korovushkin Vitalii, e-mail: vitalijkorovuskin@gmail.com Abstract. The article provides a systematic critical analysis of the steepest descent (SD) method in the context of optimizing modern energy systems. Despite its historical significance as the archetype of iterative algorithms, SD has been proven to be significantly limited in solving large-scale problems such as economic load dispatch (ELD) and optimal power flow (AC- OPF). The paper investigates the mathematical reasons for this phenomenon in detail: it shows that the physical heterogeneity of power system components (different scales of line impedances and generation characteristics) leads to a poor condition of the objective function Hessian. A high condition number (κ) causes a “zigzag” convergence trajectory, which makes the method unsuitable for real-time operational control. Based on a comparative analysis with second-order methods (Newton's method) and quasi-Newton algorithms (L-BFGS), the transition to interior point methods as an industry standard for constrained problems is justified. The key novelty of the work lies in the study of the relevance of gradient methods in modern computational paradigms in the era of artificial intelligence. The authors demonstrate a paradigm shift: characteristics that were limiting factors in deterministic optimization (noisy trajectory and simplified gradient processing) have been transformed into decisive advantages of stochastic gradient descent (SGD). It has been proven that it is precisely this stochastic nature that allows neural networks to be effectively trained for the tasks of forecasting RES generation and demand management, transforming the traditional method into the foundation of modern data-driven solutions in the energy sector. Keywords: Power System Optimization; AC Optimal Power Flow (AC-OPF); Steepest Descent Method; Stochastic Gradient Descent (SGD); Ill-conditioned problems; Convergence analysis. List of Symbols and Abbreviations AC-OPF – Alternating Current Optimal Power Flow BFGS – Broyden–Fletcher–Goldfarb–Shanno ELD – Economic Load Dispatch IPM – Interior Point Methods KKT – Karush-Kuhn-Tucker conditions L-BFGS – Limited-memory BFGS ML – Machine Learning NLP – Nonlinear Programming SD – Steepest Descent SGD – Stochastic Gradient Descent SQP – Sequential Quadratic Programming Introduction. Modern energy systems are among the most complex engineering and cyber-physical systems ever cre- ated by humankind. Their operation—from the second-by- second balancing of generation and demand to long-term development planning—is permeated by fundamental op- timization challenges. The need for optimization in the en- ergy sector is driven by three main factors: economic effi- ciency, system reliability, and the challenges of decarbonization [1–3]. From an economic standpoint, even a slight (e.g., 0.1%) im- provement in the efficiency of the integrated power system translates into millions in fuel cost savings [4]. Tasks such as Economic Load Dispatch (ELD) and Optimal Power Flow (OPF) directly minimize total generation costs [5]. From a reliability perspective, the system must operate within strict physical constraints: thermal limits of trans- mission lines, voltage limits at nodes, generation reserves, and stability constraints. Optimization (in particular, OPF) is a tool that finds the cheapest operating mode without vio- lating any of these safety constraints [6]. Finally, the integration of stochastic renewable energy sources (RES), such as wind and solar power plants, 1 PhD student https://orcid.org/0000-0002-7571-7124 2 Dr. of Sciences (Tech.) https://orcid.org/0000-0002-2489-4980 3 Dr. of Sciences (Tech.) https://orcid.org/0000-0002-0497-7439 4 Cand. of Sciences (Tech.) https://orcid.org/0000-0003-3207-1156 1, 2, 4 National Technical University of Ukraine “Igor Sikorsky Kyiv Polytechnic In- stitute”, Kyiv, Ukraine 3 Institute of renewable energy, NAS of Ukraine, Kyiv, Ukraine https://orcid.org/0000-0002-7571-7124 https://orcid.org/0000-0002-2489-4980 https://orcid.org/0000-0002-0497-7439 https://orcid.org/0000-0003-3207-1156 92 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ introduces a high degree of uncertainty. This requires new optimization approaches capable of operating under sto- chastic conditions, as well as managing demand response and energy storage systems [7]. Optimization problems be- come particularly important in situations with limited ac- cess to centralized energy supply and the transition to dis- tributed generation (creation of microgrid systems, shared use of energy storage facilities, selection of RES connection points to reduce electricity traffic and losses, issues of mu- tual energy exchange, etc.). Mathematically, most of these problems (in particular, AC- OPF—Alternating Current Optimal Power Flow) are formu- lated as large-scale, nonlinear, non-convex, and strongly con- strained nonlinear programming (NLP) problems. The appli- cation of distributed generation from RES requires consideration of modular structure and a transition to inte- ger programming problems. The dimensionality of such problems for real-world systems can reach tens or hundreds of thousands of variables and constraints, and the require- ment to solve them in real time (or close to it) imposes strict performance constraints on computational methods [8]. The aim of this work is to quantitatively assess the limita- tions of the steepest descent method in solving classical power system optimization problems (ELD, AC-OPF) due to the high conditionality (κ) and heterogeneity of power sys- tems, as well as to conduct a comparative analysis of its ef- fectiveness against modern optimization methods. At the same time, the study aims to rethink the role of the method in modern conditions: demonstrating its transition from a traditional tool for deterministic optimization to the basis of stochastic gradient descent (SGD), which is critically im- portant for training neural networks in power system prob- lems (forecasting RES, demand). To understand the limitations of the method, it is first nec- essary to clearly establish its mathematical foundations. SD is a method for solving the unconstrained optimization problem. Formulation of the unconstrained optimization problem. Consider the problem of finding a local minimum of the dif- ferentiable function f(x) [5](1): min 𝑥∈ℝ𝑛 𝑓(𝑥) (1) where f: λmax → ℝ is a smooth function of at least class C¹ (i.e., it has continuous first-order partial derivatives). The key tools of the analysis are: 1. Gradient: The vector of first partial derivatives, ∇f(x)∈ ℝn, which points in the direction of the steepest rise of the function at the point x. 2. Hessian: Matrix of second partial derivatives, ∇f(x)∈ ℝn×n, which describes the curvature of the function at a point x. A first-order necessary condition for a point x* to be a local minimum is ∇f(x*) = 0. Such points are called stationary points. The Gradient Descent method, like most iterative methods, attempts to find precisely such a stationary point. The idea behind the SD is to move at each step from the current point xk in the direction pk, which ensures the great- est local decrease in the value of the function f. To formalize this, let us consider the first-order Taylor se- ries expansion of the function f around the point x [5] (2): 𝑓(x + α𝑝) ≈ 𝑓(x) + α ∇𝑓(x)T𝑝 (2) where p — is a unit direction vector (||p||2 = 1), аnd α > 0 — small step size (assuming the presence of an orthonor- mal basis in the domain). We need to find a direction p that minimizes the change f(x + αp) – f(x), which is equivalent to minimizing the product ∇f(x)Tp. So, the problem is solved (3): min 𝑝 ∇𝑓(x)T𝑝 𝑝𝑟𝑜𝑣𝑖𝑑𝑒𝑑 𝑡ℎ𝑎𝑡 ‖р‖2 = 1 (3) According to the Cauchy–Schwarz inequality (4): |∇𝑓(x)T𝑝| ≤ ‖∇𝑓(x)‖2 ∙ ‖р‖2 (4) The minimum (i.e., the most negative value) is achieved when p is collinear with and opposite in direction to ∇f(x). That is, (5): р = − ∇𝑓(x) ‖∇𝑓(x)‖2 (5) This direction p is called the direction of the steepest de- scent. It locally guarantees the steepest decrease in the ob- jective function. Based on this conclusion, the iterative process of the gradi- ent descent method is constructed as follows: for a given initial point x0 [5]: Algorithm 1: The Steepest Descent Method (SD) 1. For k = 0, 1, 2, ... 2. If ∇f(xk) = 0, then Stop 3. Calculate the descent direction: pk = - ∇f(xk) 4. Calculate the step size: αk> 0 (using the linear search procedure) 5. Update the point: xk+1 = xk + αkpk 6. End The algorithm has two key computational components in each iteration: 3. Calculating the direction pk (requires calculating the gradi- ent ∇f(xk)). 1. Calculation of the step size αk (a procedure known as line search or one-dimensional minimization). 2. The choice of αk is critical to the method’s effectiveness. Line Search. The theoretically optimal approach involves selecting a step size αk, hat minimizes the function f along the direction pk [5] (6): α𝑘 = arg min α>0 𝑓(x𝑘 + α𝑘𝑝𝑘) = arg min α>0 𝜑(α) (6) This is, in essence, a one-dimensional optimization prob- lem. The optimality condition for φk gives φ'(αk) = 0. Apply- ing the chain rule, we get (7): φ′(α𝑘) = ∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 = 0 (7) This means that in an exact linear search, the new gradient ∇f(xk+1) is orthogonal to the previous direction pk. Since pk = -∇f(x)k, also implies that ∇f(xk+1)Т∇f(xk) = 0. Consecutive gradients are orthogonal. 93 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ It is precisely this property that determines the character- istic “zigzag” behavior of the SD [8]. Let us imagine a nar- row, elongated “valley” of the objective function. On the “slope” of the valley, the gradient points predominantly across the valley (in the direction of the steepest slope), ra- ther than along it toward the minimum. The exact search gradient descent takes a step and moves to a point on the opposite “slope” at xk+1, where the new gradient ∇f(xk+1) is orthogonal to pk. Since pk was nearly perpendicular to the optimal path (along the “bottom” of the valley), the new gradient ∇f(xk+1) will be nearly in the opposite direction to ∇f(xk). The algorithm will perform iterative transitions (zig- zagging) between the valley slopes, making very slow pro- gress toward the true minimum. Thus, “optimality” (exact step search) at each step leads to a globally suboptimal trajectory. The only case where an exact search is computationally jus- tified is a positive-definite quadratic function [9]. In this case, αk has the closed-form expression (8): α𝑘 = ∇𝑓𝑘 𝑇∙∇𝑓𝑘𝑝𝑘 ∇𝑓𝑘 𝑇∙Q∇𝑓𝑘𝑝𝑘 (8) where∇ fk = Qxk – b Inexact line search (Wolfe Conditions). In general, for non- linear functions, finding the exact minimum αk is imprac- tical due to computational costs (resource costs may ex- ceed the cost of the SD iteration itself). In practice, inexact line search procedures are used, which guarantee a “sufficiently good” step. The de facto standard is the Wolfe Conditions, which require that αk satisfy two conditions [10]: The Armijo Condition (sufficient decrease) (9): 𝑓(x𝑘 + α𝑘𝑝𝑘) ≤ 𝑓(x𝑘)+𝑐1α𝑘∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (9) where c1∈ (0, 1), typically c1 = 10-4. This ensures that the step size αk is not “too large” and results in a real decrease in the function. The curvature condition (10): ∇𝑓(x𝑘 + α𝑘𝑝𝑘)𝑇 ∙ 𝑝𝑘 ≥ 𝑐2∇𝑓(x𝑘)𝑇 ∙ 𝑝𝑘 (10) where c2 ∈ (c1, 1), typically c2 = 0.9. The existence of an αk, that satisfies both conditions is guar- anteed for smooth functions that are bounded from below. The use of Wolf’s conditions is key to proving the global convergence of the method. Theoretical convergence guarantees. The global conver- gence of the SD (i.e., convergence to a stationary point x* from any x0) s guaranteed under fairly mild conditions. The L-smoothness condition is key. Definition (L-smoothness): A function f is said to be condi- tionally L-smooth if its gradient ∇f is Lipschitz with a con- stant L > 0 [11], i.e., (11): ‖∇𝑓(x) − ∇𝑓(x)‖2 ≤ 𝐿‖x − 𝑦‖2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (11) If f ∈ C2, this is equivalent to the largest eigenvalue of the Hessian ∇2f(x) being bounded by L, i.e. ∇2f(x)⪯ LI. Theorem 1 (Convergence for L-smooth functions) [12]: If f is L-smooth and bounded below, then the SD with an inexact search (satisfying Wolf’s conditions) or with a constant step size αk = α∈ (0, 2/L) guarantees that limk →ꚙ ||∇f(xk)||2 = 0. This theorem states that we will eventually converge to a point where the gradient is zero. However, it says nothing about how quickly this will happen. Analysis of the rate of convergence. To analyze the rate, we need a stronger condition—strong convexity. Definition (m- strong convexity) [13]: A function f is called m-strongly con- vex (with m > 0) if (12): 𝑓(𝑦) ≥ 𝑓(x) + ∇𝑓(x𝑘)𝑇(𝑦 − 𝑥) + 𝑚 2 ‖𝑦 − 𝑥‖2 2 ∀ 𝑥, 𝑦 ∈ ℝ𝑛 (12) If f ∈ C2, this is equivalent to the smallest eigenvalue of the Hessian ∇2f(x) being bounded from below by m, ∇2f(x) ⪰mI. Theorem 2 (Linear convergence for strongly convex func- tions) [14]: If f is L-smooth and m-strongly convex, then the SD with ex- act linear search or with an optimally chosen constant step converges to a unique global minimum x* at a linear (or ge- ometric) rate (13, 14): 𝑓(𝑥𝑘) ≥ 𝑓(x∗) ≤ (1 − 𝐶)𝑘𝑓((𝑥0) − 𝑓(x∗)) (13) ‖𝑥𝑘 − x∗‖2 2 ≤ (1 − 𝐶)𝑘‖𝑥0 − x∗‖2 2 (14) where C > 0 — is the convergence constant. At first glance, “linear convergence” seems satisfactory. However, there is a dependence on the value of the con- stant C. For the quadratic function (15): 𝑓(x) = 1 2 xTQx − bTx, Q ≻ 0, (15) the constants L and m are simply the largest (λmax) and smallest (λmin) eigenvalues of the matrix Q. In this case, it can be shown that (16): 𝑓(x𝑘) − 𝑓(x∗) ≤ ( 𝜆max−𝜆min 𝜆max+𝜆min ) 2 (𝑓(x0) − 𝑓(x∗)) (16) The Specifics of Convergence Under Ill-Conditioned Sce- narios: κ as a Measure of “Complexity”. Let us introduce a key parameter of any optimization problem: the condition number κ (17). κ = 𝐿 𝑚 = 𝜆max(𝑄) 𝜆min(𝑄) (17) κ measures the ratio of the largest to the smallest curva- ture; geometrically, it is a measure of how “stretched” the objective function is. Let us rewrite the expression for the convergence rate in terms of κ (18): 𝑓(x𝑘) − 𝑓(x∗) ≤ ( 𝜅−1 𝜅+1 ) 2𝜅 (𝑓(x0) − 𝑓(x∗)) (18) Let’s analyze formula (18): Case 1 (Ideal): κ = 1. 94 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ This means L = m, λmax = λmin. The Hessian Q = λI. The level sets of the function f are ideal concentric circles (or spheres in ℝn). Convergence factor (19): ( 1−1 1+1 ) 2 = 0 (19) The method converges in one step from any initial point. The gradient ∇f(x0) = Qx0 – b always points exactly to the center x* = Q-1b. Case 2 (Realistic, «bad-conditioned»): κ >> 1. This implies L >> m. The levels of the function f are highly elongated ellipses (ellipsoids). Convergence factor (20): 𝜅−1 𝜅+1 = 𝐿 𝑚 −1 𝐿 𝑚 +1 = 𝐿−𝑚 𝐿+𝑚 ≈ 𝐿 𝐿 = 1 (20) More precisely, using the approximation 1 1+𝑥 ≈ 1 − 𝑥, we obtain (21): 𝜅−1 𝜅+1 =≈ 1 − 2 𝜅 (21) The rate of convergence (22): (1 − 2 𝜅 ) 2𝑘 (22) For example, let κ = 1000. The convergence factor ≈ (1 − 0.002)2k ≈ (0.998)2k ≈ (0.996)2k. This means that at each iteration, the error f(xk) – f(x*) decreases by only 0.4%. To reduce the error by a factor of 1000 (i.e. 0.996k < 0.001), we need k > 𝑙𝑛(0.001) 𝑙𝑛(0.996) ≈ − 6.9 −0.004 ≈ 1725 iterations. If κ = 10 000, more than 17,000 iterations will be required. This mathematical observation directly explains why, as of today, the SD is of limited applicability to real power sys- tems. A power system is heterogeneous by nature. It con- sists of elements with very different physical properties, for example: 1. Lines: a 750 kV transmission line has very low active resistance (R << X), whereas a local 10 kV distribution line may have R ≈ X. 2. Generators: The power-cost curves C(P) have different curvatures (second derivative ai in aiP2 + ...). A base-load nuclear power plant has an almost flat curve (ai ≈ 0), whereas a peaking gas turbine has a very steep curve (ai >> 0). For a wind turbine, the power curve is approxi- mately described by a logistic curve with variable curvature depending on wind speed, while for a solar power plant, the stochastic nature of generation results in a power curve that is theoretically discontinuous at every point. This physical heterogeneity (different scales of imped- ances, losses, sensitivities) is mathematically reflected in the Hessian of the objective function (or the Hessian of the Lagrangian in constrained problems) with a wide spread of eigenvalues. λmax (corresponding to “hard” constraints) will be large, while λmin (corresponding to “soft” constraints) will be small. Thus, any realistic, large-scale power system is guaranteed to generate an optimization problem with a fairly large con- dition number κ. According to Theorem 2, the SD is guaran- teed to have unacceptably slow convergence on any real OPF or ELD problem. Its inefficiency is a direct consequence of the physics of the power system. Now, let us apply the obtained theoretical conclusions to two key optimization problems in power engineering: eco- nomic load dispatch (ELD) and optimal power flow (OPF) [15]. Case 1: Economic Load Dispatch (ELD). Problem formulation. Classical ELD (lossless) [16] (23): min 𝑃𝐺𝑖 ∑ 𝐶𝑖𝑃𝐺𝑖 𝑁 𝑖=1 = ∑ 𝑎𝑖𝑃𝐺𝑖 2 + 𝑏𝑖𝑃𝐺𝑖 𝑁 𝑖=1 +𝑐𝑖 (23) subject to power balance (24): ∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑 𝑁 𝑖=1 (24) and generation constraints (25): 𝑃𝐺𝑖 min ≤ 𝑃𝐺𝑖 ≤ 𝑃𝐺𝑖 min ∀ 𝑖 . (25) ELD accounting for losses (B-matrix) [17]: The problem becomes more complex because the power balance becomes nonlinear (26): ∑ 𝑃𝐺𝑖 = 𝑃𝐷𝑒𝑚𝑎𝑛𝑑 𝑁 𝑖=1 + 𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) (26) where the network losses PLoss are approximated by a quad- ratic form (Kron's formula, B-matrix) [17] (27): 𝑃𝐿𝑜𝑠𝑠(𝑃𝐺) = ∑ ∑ 𝑃𝐺𝑖𝐵𝑖𝑗𝑃𝐺𝑗 + 𝑁 𝑗=1 𝑁 𝑖=1 ∑ 𝐵𝑖𝑗𝑃𝐺𝑖 + 𝐵00 𝑁 𝑖=1 ) (27) The objective function and constraints are now nonlinearly related. Adapting SD to solve ELD. SD — is an unconstrained optimi- zation method. ELD — is a constrained problem. To apply SD, the constraints must be accounted for in some way. There are two common approaches [18]: 1. Penalty function method: the problem is transformed into an unconstrained one by adding the constraints to the objective function as a “penalty” for violating them (28): 𝑓(𝑃𝐺) = ∑ 𝐶𝑖(𝑃𝐺𝑖) 𝑁 𝑖=1 + 𝜇(∑ 𝑃𝐺𝑖 − 𝑃𝐷 − 𝑃𝐿𝑜𝑠𝑠 𝑁 𝑖=1 )2 + ∑ 𝜈𝑖 ⋅ [𝑚𝑎𝑥(0, 𝑃𝐺𝑖 − 𝑃𝐺𝑖 𝑚𝑎𝑥)]2𝑁 𝑖=1 + ∑ 𝜔𝑖 ⋅𝑁 𝑖=1 [𝑚𝑎𝑥(0, 𝑃𝐺𝑖 𝑚𝑖𝑛 − 𝑃𝐺𝑖)] 2 , (28) where μ > 0 - is the penalty parameter for violating the power balance; νi, ωi > 0 – are penalty parameters for inequality constraints; 𝑃𝐺𝑖 min, 𝑃𝐺𝑖 ma𝑥 - are the lower and upper generation limits; max (0, ·) - imposes a penalty only when constraints are violated. After that, the SD is applied to f(PG). 95 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ 2. Gradient projection method can be used for simple “box” constraints (𝑃𝐺𝑖 min, 𝑃𝐺𝑖 ma𝑥). The idea is to take an SD step, and if the new point xk+1 goes out of bounds, “pro- ject” it back into the feasible region. Analysis of SD efficiency for ELD. Both approaches are highly inefficient for ELD. Problem 1 (Bad Conditioning). Even in the simplest case of lossless ELD, the Hessian of the objective function ∑Ci(PGi0 is a diagonal matrix H = diag (2a1, ..., 2aN). The condition number 𝜅 = 𝑚𝑎𝑥(𝑎𝑖) 𝑚𝑖𝑛(𝑎𝑖) . As noted earlier, in a real system with cheap base (small ai) and “expensive” peak (large ai) gener- ators, κ will be very large. SD will exhibit classic slow, zigzag behavior. When we add the B-matrix, the Hessian becomes H = diag(2ai) + 2μB. This further worsens the situation. Problem 2 (Deterioration of condition number due to the use of penalty functions). The integration of the penalty function method critically reduces the computational effi- ciency of the SD. Since, to precisely satisfy the constraints of the problem, the penalty parameter μ must tend to in- finity (μ→∞). It can be shown that the Hessian of the penalty function f(PG) becomes increasingly ill-conditioned as μ increases. In fact, κ→∞ as μ→∞.SD, whose speed critically depends on κ, becomes practically unusable for achieving convergence precisely when we require it to be accurate. Thus, for ELD, the SD is an extremely inefficient approach for “simple” ELD; methods that explicitly account for con- straints (e.g., methods based on solving the Karush-Kuhn- Tucker (KKT) conditions or specialized methods that ac- count for the structure of the problem) are orders of mag- nitude more efficient. There are studies that use the SD in combination with Lagrange multipliers to solve environ- mental-economic allocation problems, but these are modi- fied, rather than “pure,” versions of the method [19]. Case 2: Optimal Power Flow (OPF), the complexity of the AC-OPF problem. This is the main operational control prob- lem. The AC-OPF problem is large-scale, nonlinear (due to the power flow equations), and non-convex (it has many lo- cal minima) [20]. Formally (simplified) (29): min V,θ,PG,QG ∑ С𝑖(𝑃𝐺𝑗) (29) Subject to (constraints—equalities—power flow equations) (30): For each node i (30), subject to, where: x = [PG, QG, V, θ] - is the optimization vector; μP, μQ - are penalty parameters for the power balance equation; νi P+, νi P- - are penalty parameters for the PG constraint; ωi Q+, ωi Q- - are penalty parameters for the QG constraint; κi V+, κi V- - are penalty parameters for the voltage constraint; λij - are penalty parameters for the line constraints; NG - number of generators, N - number of nodes, L - set of lines: min 𝑓(𝑥) = ∑ С𝑖(𝑃𝐺𝑖 ) + 𝜇𝑃 ∑ [𝑃𝑖(𝑉, 𝜃) − (𝑃𝐺𝑖 −𝑁 𝑖=0 𝑁𝐺 𝑖=0 𝑃𝐷𝑖 )] 2 + 𝜇𝑄 ∑ [𝑄𝑖(𝑉, 𝜃) − (𝑄𝐺𝑖 − 𝑄𝐷𝑖)]2 +𝑁 𝑖=0 ∑ 𝜈𝑖 𝑃+[max(0, 𝑃𝐺𝑖 − 𝑃𝐺𝑖 𝑚𝑎𝑥)] 2𝑁𝐺 𝑖=0 + ∑ 𝜈𝑖 𝑃−[max(0, 𝑃𝐺𝑖 𝑚𝑖𝑛−𝑃𝐺𝑖 )] 2 + ∑ 𝜔𝑖 𝑄+[max(0, 𝑄𝐺𝑖 − 𝑁𝐺 𝑖=0 𝑁𝐺 𝑖=0 𝑄𝐺𝑖 𝑚𝑎𝑥)] 2 + ∑ 𝜔𝑖 𝑄−[max(0, 𝑄𝐺𝑖 𝑚𝑖𝑛−𝑄𝐺𝑖 )] 2𝑁𝐺 𝑖=0 + ∑ 𝜅𝑖 𝑉+[max(0, |𝑉𝑖| − 𝑉𝑖 𝑚𝑎𝑥)]2𝑁𝐺 𝑖=0 + ∑ 𝜅𝑖 𝑉−[max(0, 𝑉𝑖 𝑚𝑖𝑛 − |𝑉𝑖|)] 2𝑁𝐺 𝑖=0 + ∑ λ𝑖𝑗𝑖,𝑗 ∈ 𝐿 [max(0, 𝑆𝑖𝑗(𝑉, 𝜃) − 𝑆𝑖𝑗 𝑚𝑎𝑥)] 2 (30) Note: All penalty parameters μ, ν, ω, κ, λ > 0 are positive and sufficiently large values [21]. Subject to the following constraints (inequalities): • Generation constraints: 𝑃𝐺𝑖 𝑚𝑖𝑛 ≤ 𝑃𝐺𝑖 ≤ 𝑃𝐺𝑖 𝑚𝑎𝑥; 𝑄𝐺𝑖 𝑚𝑖𝑛 ≤ 𝑄𝐺𝑖 ≤ 𝑄𝐺𝑖 𝑚𝑎𝑥 Voltage constraints: 𝑉𝑖 𝑚𝑖𝑛 ≤ |𝑉𝑖| ≤ 𝑉𝑖 𝑚𝑎𝑥 Line thermal constraints: 𝑆𝑖𝑗(𝑉, 𝜃) ≤ 𝑆𝑖𝑗 𝑚𝑎𝑥 Application of SD to OPF Direct application of SD to AC-OPF is not possible. This is an unconstrained optimization prob- lem, whereas OPF is defined by thousands of complex non- linear constraints—equalities and inequalities. As with ELD, one can attempt to “embed” all these con- straints into the objective function via penalties and barri- ers. This would result in a multidimensional objective func- tion with a complex gradient landscape, an objective function whose Hessian would be extremely ill-condi- tioned, rendering the SD impractical. Historically, early attempts to solve the OPF (e.g., Carpen- tier’s “Reduced Gradient Method”) utilized gradient infor- mation. However, these methods were far more complex than pure SD. They used power flow equations to reduce the dimensionality of the problem (expressing dependent variables in terms of independent ones) and attempted to “move” along the boundary of the feasible region defined by the constraints. Modern approach. Modern, reliable AC-OPF solvers never use the SD. They are based on methods that explicitly and efficiently handle constraints using second-order infor- mation (or its approximation): 1. Interior Point Methods (IPM): The dominant approach. They transform the inequality problem into a sequence of equality problems using barrier functions. They then apply the Newton method to the KKT conditions for this barrier problem. They work with the Lagrangian Hessian 96 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ and are extremely efficient for large-scale convex and (often) non-convex problems. 2. Sequential Quadratic Programming (SQP): Another powerful method that, at each iteration, approximates the OPF problem with a quadratic problem (by approxi- mating the Lagrangian) and solves it. 3. The Alternating Direction Method of Multipliers (ADMM), which is gaining increasing popularity for de- centralized optimization, particularly in the manage- ment of microgrids and distributed generation from RES. It allows a complex large-scale problem to be broken down into local subproblems that are solved in parallel, which perfectly matches the architecture of modern smart grids. Table 1 clearly shows that for each of the main deter- ministic optimization problems in the power sector, the ADMM is either unsuitable or an extremely inefficient choice. Table 1. Applicability of SGD to tasks in the energy sector analysis Task Problem Type Dimen- sionality Constraints Applicability of SD Key issue ELD (lossless) Convex, quadratic Medium 1 equality, N inequalities Low Slow convergence (𝜅) is defined by the difference in ai). Requires penalties ELD (with B-matrix) Non-convex, quadratic Medium 1 nonlinear equa- lity, N inequalities Very low Ill-conditioning (large κ). Penalty methods destroy κ AC OPF Non-convex, NLP High Complex nonlinear equalities and inequalities Inapplicable SD is an unconstrained optimization method. Cannot handle constraints DC OPF Convex, LP High Linear equalities/ inequalities Inapplicable A Linear Programming problem. Re- quires Simplex or IPM State Esti- mation (SE) Nonlinear Least Squares High - Low Usually solved via nonlinear least squares (Gauss-Newton), which is much faster The limited effectiveness of the SD motivated the develop- ment of more sophisticated algorithms. To understand why they are better, let’s analyze them in comparison with the SD. A peculiarity of the “fastest” descent. As has been demon- strated, the name “fastest” does not fully reflect the actual convergence characteristics: the method is fastest only lo- cally (i.e., in terms of the instantaneous change in f), but leads to one of the slowest global convergence trajectories. The fundamental problem of the SD lies in its strict locality [5]: at each step k, there is no accumulation of the history of previous directions p0, …, pk-1. it uses only first-order in- formation (∇fk) and does so inefficiently, since the direction pk = -I∙∇fk (where I is the identity matrix) ignores any infor- mation about the curvature of the problem. Second-order methods: Newton’s method. Newton’s method uses second-order information (the Hessian (∇f2(x)) to construct a complete quadratic model of the function at point xk and performs an iterative transition di- rectly to the minimum of this model [22]. Iteration of New- ton’s method (31)): 𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘 𝑁𝑒𝑤𝑡𝑜𝑛 (31) where 0 ≤ αk ≤ 1 – step size; 𝑝𝑘 𝑁𝑒𝑤𝑡𝑜𝑛 = −[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘) That is, with the explicit expression for the gradient (32): 𝑥𝑘+1 = 𝑥𝑘 + 𝛼𝑘𝑝𝑘 𝑁𝑒𝑤𝑡𝑜𝑛 = −[∇2 𝑓(𝑥𝑘)]−1∇𝑓(𝑥𝑘) (32) The SD takes a step 𝑝𝑘 = −𝐼 ⋅ ∇𝑓𝑘 . The Newton method uses an “ideal” metric: 𝑝𝑘 = −𝐻−1∇𝑓𝑘 . Multiplication by H-1 (the inverse Hessian) acts as a space transformation (scaling) that transforms the elongated “ellipses” of the f levels into ideal “circles.” In this transformed space, the di- rection -∇f points exactly to the minimum. Advantages [23]: • Quadratic convergence (‖𝑥𝑘+1 − 𝑥∗‖ ≈ 𝐶 ‖𝑥𝑘 − 𝑥∗‖2). This means that the number of correct significant digits doubles at each iteration. Convergence is extremely fast. • Affine invariance, i.e., the method is insensitive to the condition number κ. It will find the minimum of a quadratic function with κ = 1000 just as quickly (in 1 step) as for κ = 1. Disadvantages (in the context of power systems) [24]: Newton’s method is impractical for large-scale problems, such as OPF, in its pure form: • Computing the Hessian: ∇2 𝑓(𝑥) has n2 elements. For a system with n = 50,000 nodes, this is impossible. • Storing the Hessian: Requires O(n2). • Solving the system: Solving Hp = -g requires O(n3) operations (for a dense H) or O(n1.5) – O(n2) ( (for a sparse H, as in OPF). This is still too expensive for each iteration. 97 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ “Smart” first-order methods. Conjugate Gradients (CG). The Conjugate Gradients (CG) method is an effective modi- fication to address the lack of history accumulation and the “zigzags” of the SD, which does not require the Hessian [25]. The idea is to optimize the choice of direction pk. The direc- tion pk is constructed as a linear combination of the current negative gradient and the previous direction (33): 𝑝𝑘+1 = −∇ 𝑓(𝑥𝑘+1) + 𝛽𝑘𝑝𝑘 (33) The coefficient 𝛽𝑘 (e.g., according to the Fletcher–Reeves or Polak–Ribier formula) is chosen such that the directions 𝑝𝑘 are Q-conjugate (for a quadratic problem𝑓(𝑥) = 1 2 𝑥𝑇𝑄 𝑥 + ⋯ ), i.e. 𝑝𝑖 𝑇𝑄𝑝𝑗 = 0 for 𝑖 ≠ 𝑗. Advantages: 1. N-step convergence for an 𝑛 × 𝑛 quadratic problem, CG is guaranteed to find the exact minimum in no more than n iterations. 2. Efficiency as it avoids the “zigzags” of the SD, since the directions 𝑝𝑘 take into account the history of steps and remain conjugate. 3. Cost, i.e., the complexity of the iteration (O(n)) and memory (O(n)), is the same as that of the SD. Thus, for large-scale quadratic problems (or nonlinear ones, where it is applied iteratively), CG outperforms the SD in every respect. Quasi-Newton methods (BFGS / L-BFGS) aim to achieve the fast convergence of Newton’s method without incurring significant computational costs or performing Hessian in- versions [26]. The idea is to avoid computing 𝐻𝑘 = ∇2 𝑓(𝑥𝑘). Instead, construct an approximation of the inverse Hessian, 𝐵𝑘 ≈ [∇2 𝑓(𝑥𝑘)]−1, at each step. • Iteration: 𝑥𝑘+1 = 𝑥𝑘 − 𝛼𝑘𝐵𝑘∇𝑓𝑘 . • Update: 𝐵𝑘+1 is obtained from 𝐵𝑘 by adding a low-rank correction that uses only information from the gradi- ents: 1. 𝑠𝑘 = 𝑥𝑘+1 − 𝑥𝑘 2. 𝑦𝑘 = ∇𝑓𝑘+1 − ∇𝑓𝑘 3. 𝐵𝑘+1 = (𝐵𝐹𝐺𝑆 𝑢𝑝𝑑𝑎𝑡𝑒 𝑓𝑜𝑟𝑚𝑢𝑙𝑎, 𝑤ℎ𝑖𝑐ℎ 𝑑𝑒𝑝𝑒𝑛𝑑𝑠 𝑜𝑛 𝐵𝑘, 𝑠𝑘, 𝑦𝑘) The most successful update formula is BFGS (Broyden– Fletcher–Goldfarb–Shanno) [27]. • Advantages (BFGS): Superlinear convergence (almost as fast as Newton’s method). • Problem (BFGS): It is necessary to store and update the matrix 𝐵𝑘, which requires 𝑂(𝑛2) memory. This is again impossible for n=50,000. • Solution: L-BFGS (Limited-memory BFGS) This is a highly efficient algorithmic solution. The idea here is not to store the full matrix 𝐵𝑘. Store only the m most recent pairs of vectors {𝑠𝑖, 𝑦𝑖} (where m is small, e.g., m=10 or m=20). Algorithm: The gradient 𝑝𝑘 = −𝐵𝑘∇𝑓𝑘 is not computed explicitly. Instead, it is reconstructed dynamically (during computation) using a two-pass recursive algorithm that uses only these m pairs of vectors. Advantages (L-BFGS) [28]: • Convergence: Superlinear (though slower than full BFGS, it significantly exceeds the convergence rate of SD). • Memory: Memory requirements are linear: O(m⋅ n). • Computational Cost: The cost per iteration is linear: O(m⋅ n). L-BFGS has become the de facto standard for large-scale unconstrained nonlinear optimization in many fields. Table 2 visualizes the analysis of optimization algorithms. It clearly shows why SD is less efficient: CG offers the same cost (O(n)), but much better convergence. L-BFGS offers nearly the same low (linear) cost, but near-Newtonian convergence and low sensitivity to κ. Table 2. Comparative analysis of method convergence Method Conver- gence rate Iteration cost (Com- putational) Memory re- quirements Sensi- tivity to κ Steepest Descent (SD) Linear (slow) O(n) O(n) Very high Conjugate Gradients (CG) Superlinear (n-step for quadratic) O(n) O(n) Moder- ate L-BFGS (m=10) Superlinear (fast) 𝑂(𝑚 ⋅ 𝑛) 𝑂(𝑚 ⋅ 𝑛) Low Newton's Method Quadratic (fastest) 𝑂(𝑛3) 𝑂(𝑛2) None Thus, the SD offers no practical advantages when applied to deterministic problems. Theoretical and applied significance of the SD. The analysis conducted in this paper leads to an unambiguous conclu- sion: as a deterministic tool for solving classical, large-scale, ill-posed optimization problems in power engineering (such as OPF, ELD, SE), the steepest descent method is of some- what limited applicability to modern high-dimensional problems and is practically unsuitable. Its slow linear convergence, which deteriorates significantly with increasing condition number κ, makes it uncompeti- tive, compared to conjugate gradient methods, L-BFGS, and even more so, compared to interior-point methods, which dominate modern industrial OPF solvers. However, the value of the SD today is pedagogical. It is a basic (archetypal) algorithm for nonlinear optimization. Un- derstanding its shortcomings (critical dependence on κ, zig- zag behavior) is a prerequisite for understanding why L- BFGS, CG, and IPM were invented and why they work so well. 98 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ Conceptual transformation of gradient methods: Stochastic Gradient Descent (SGD). With the emergence of a new data-driven optimization paradigm—machine learning (ML)—SGD has entered a new phase of relevance [29]. The modern energy sector is increasingly relying on ML to address new challenges [30]: • Forecasting renewable energy generation (wind, solar). • Load forecasting (short- and long-term). • Training demand response models. • Condition assessment based on PMUs (Phasor Meas- urement Units). Mathematically, most learning tasks (e.g., training a neural network) boil down to the problem of minimizing empirical risk (34) [31]: 𝑚𝑖𝑛 𝑥∈ℝ𝑛 𝑓(𝑤) = 1 𝑁 ∑ 𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁 𝑖=1 (34) where w represents the model parameters (net- work weights), L is the loss function, and N is the number of data points, which can be enormous (millions or billions). The problem is that to take a single step in SD, L-BFGS, or Newton, one must compute the full gradient ∇𝑓(𝑤) (35) [32]: ∇ f(w) = 1 𝑁 ∑ ∇w𝐿(𝑤, 𝑑𝑎𝑡𝑎𝑖)𝑁 𝑖=1 (35) This requires N computations, i.e., a “scan” of the entire da- tabase. This is too expensive. The solution lies in the application of Stochastic Gradient Descent (SGD) [33], where at each step k, instead of the full gradient, we take only one data point (or a small “batch”) i and take a step in the direction of its gradient (stochastic gradient) (36): wk+1 = wk − αk∇w L(wk, datai) (36) The term ∇w L(wk, datai) is a “noisy” but unbiased (𝐸[∇𝑤 𝐿] = ∇ f(w)) estimate of the total gradient. Essen- tially, SGD is the SD method with a very “noisy” gradient. To provide a visual and quantitative confirmation of the an- alytical conclusions regarding the impact of system hetero- geneity on optimization efficiency, numerical simulations were performed. The classical problem of minimizing a pos- itive-definite quadratic function of the form (15) was used as a test environment, which allows for isolated control of the condition number κ via the eigenvalues of the Hessian matrix Q, simulating the difference in parameter scales of real power systems. To calculate the SD step size, an exact linear search was ap- plied according to (8). To ensure the mathematical rigor of the experiment and to reproduce the worst-case conver- gence scenario (according to the Kantorovich inequality), the initial point x0 was generated taking into account the directions of the principal axes of the ellipsoid. The com- prehensive results of the comparative modelling are pre- sented in Figure. Figure. Numerical study of the effectiveness of the SD on a test quadratic problem Evolution of the convergence trajectory under the follow- ing conditions: (a) ideal regularity, κ=1; (b) moderate heter- ogeneity, κ=10; (c) strong heterogeneity, κ=50 (demon- strating zigzag behavior). Graph (d) illustrates the slow linear convergence of the SD method compared to the N- step convergence of the conjugate gradient (CG) method. The dependence (e) confirms the theoretical conclusions: for values of κ > 10³, typical for power systems, the required 99 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ number of iterations grows exponentially, making the method computationally inefficient. It is important to note that although SGD and classical gra- dient descent share a common mathematical foundation (gradient calculation), they represent different optimiza- tion paradigms. SGD is an effective algorithm for training neural networks not because of the properties of classical deterministic descent, but rather due to specific effects of stochasticity. The descent direction, which is a “noisy” esti- mate of the full gradient, acts as implicit regularization, helping the model avoid local minima and saddle points. Thus, the common mathematical foundation has been adapted to the fundamentally new computational needs of modern data-driven solutions in the energy sector. Conclusions. The steepest descent method is a classic basic algorithm whose role in the optimization of power systems has changed dramatically. Despite its fundamental theoretical and pedagogical im- portance, the steepest descent method exhibits slow con- vergence rates and computational inefficiency when ap- plied to real-world, ill-posed optimization problems in the power industry. Its analysis is critically important not be- cause of its direct modern application, but as a starting point for understanding the necessity and evolution toward more sophisticated methods (such as conjugate gradient, quasi-Newton, and interior-point methods) that dominate the field today. The steepest descent method, despite its fundamental the- oretical and pedagogical importance, exhibits significant limitations when applied to real-world, ill-posed optimiza- tion problems in power systems. According to mathemati- cal analysis and numerical simulations, the convergence rate of the method decreases proportionally to κ^2. For typical AC-OPF problems, where κ ≈ 10³ due to the differ- ence in scales between line impedances and generation characteristics, this requires 2–3 orders of magnitude more iterations compared to interior-point methods (IPM) or conjugate gradient methods. The theoretical and practical significance of the SD in power engineering lies not in its current use, but in how its com- putational limitations on real-world problems have stimu- lated the development of alternative approaches. Prob- lems that the SD could not solve (e.g., AC-OPF) forced researchers not so much to improve the SD as to simplify the problem, which, for example, led to the widespread use of linearized models (e.g., DC-OPF (Direct Current Optimal Power Flow)). Thus, the theoretical and practical signifi- cance of the SD lies in part in the emergence of simplified models that are still in use today, since the full-scale prob- lems were unsolvable for the algorithms of that time. Acknowledgments. Part of this research was conducted by S.V. Boichenko and V.O. Korovushkin as part of a research project funded by the State Budget of Ukraine (pursuant to Order No. 23 of the Ministry of Education and Science of Ukraine dated January 9, 2026), as well as through inde- pendent research topics of the Department of Automation of Electrical and Mechatronic Systems at Igor Sikorsky Kyiv Polytechnic Institute. REFERENCES 1. Status of Power System Transformation: Leading Topics of 2024. National Renewable Energy Laboratory, 2024. URL: https://docs.nrel.gov/docs/fy24osti/91357.pdf (date of access: 07.01.2026) 2. V. Korovushkin, A. Bosak Improving the Reliability of Electricity Supply from Non-Traditional and Renewable Energy Sources (Ukr.). Vidnovluvana energetika. 2025. № 2(81). С. 88–96. URL: https://doi.org/10.36296/1819-8058.2025.2(81).88-96 (date of access: 12.01.2026). 3. Modern optimization technologies in hybrid renewable energy systems: a systematic review of research gaps and prospects for decisions / V. Korovushkin et al. Energies. 2025. Vol. 18, no. 17. P. 4727. URL: https://doi.org/10.3390/en18174727 (date of access: 12.01.2026). 4. Targeting energy savings? Better on primary than final energy and less on intensity metrics / M. Rodríguez et al. Energy economics. 2023. С. 106797. URL: https://doi.org/10.1016/j.eneco.2023.106797 (da te of access: 07.01.2026). 5. Wood A. J., Wollenberg B. F., Sheblé G. B. Power Generation, Operation, and Control. 3rd ed. Hoboken, NJ : Wiley, 2013. 656 p. 6. Smart grid, demand response and optimization: a critical review of computational methods / U. Assad та ін. Energies. 2022. Т. 15, № 6. С. 2003. URL: https://doi.org/10.3390/en15062003 (date of access: 07.01.2026). 7. Castillo A., O'Neill R. P. Survey of Approaches to Solving the ACOPF. Optimal Power Flow Paper 4. Federal Energy Regulatory Commission, 2013. URL: https://www.ferc.gov/sites/default/files/2020- 05/acopf-4-solution-techniques-survey.pdf (date of access: 07.01.2026). 8. Using gradient descent: cost decreases, then increases. Mathematics Stack Exchange. URL: https://math.stackexchange.com/questions/9751 80/using-gradient-descent-cost-decreases-then- increases (date of access: 07.01.2026). 9. International Energy Agency. World Energy Outlook 2023. Paris: IEA, 2023. 10. Wood A. J., Wollenberg B. F., Sheblé G. B. Power Generation, Operation, and Control. 3rd ed. New York: Wiley, 2013. 11. Kundur P. Power System Stability and Control. New York: McGraw-Hill, 1994. https://docs.nrel.gov/docs/fy24osti/91357.pdf https://doi.org/10.36296/1819-8058.2025.2(81).88-96 https://doi.org/10.3390/en18174727 https://doi.org/10.1016/j.eneco.2023.106797 https://doi.org/10.3390/en15062003 https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf https://www.ferc.gov/sites/default/files/2020-05/acopf-4-solution-techniques-survey.pdf https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases https://math.stackexchange.com/questions/975180/using-gradient-descent-cost-decreases-then-increases 100 Відновлювана енергетика. № 2/2026 | Комплексні проблеми енергетичних систем на основі НВДЕ 12. Blaabjerg F., Yang Y., Yang D., Wang X. Distributed Power-Generation Systems and Protection // Proceedings of the IEEE. 2017. Vol. 105, No. 7. P. 1311–1331. 13. Low S. H. Convex Relaxation of Optimal Power Flow // Proceedings of the IEEE. 2014. Vol. 102, No. 1. P. 1–20. 14. Dommel H. W., Tinney W. F. Optimal Power Flow Solutions // IEEE Transactions on Power Apparatus and Systems. 1968. Vol. PAS-87, No. 10. P. 1866–1876. 15. Duffin R. J. Nonlinear Networks: II // Proceedings of the IRE. 1959. Vol. 47, No. 3. P. 388–394. 16. Nocedal J., Wright S. J. Numerical Optimization. 2nd ed. New York: Springer, 2006. 17. Bertsekas D. P. Nonlinear Programming. Belmont, MA: Athena Scientific, 1999. 18. Fletcher R. Practical Methods of Optimization. 2nd ed. New York: Wiley, 1987. 19. Wolfe P. Convergence Conditions for Ascent Methods // SIAM Review. 1969. Vol. 11, No. 2. P. 226–235. 20. Hestenes M. R., Stiefel E. Methods of Conjugate Gradients for Solving Linear Systems // Journal of Research of the National Bureau of Standards. 1952. Vol. 49, No. 6. P. 409–436. 21. Dennis J. E., Schnabel R. B. Numerical Methods for Unconstrained Optimization and Nonlinear Equations. Englewood Cliffs: Prentice-Hall, 1983. 22. Nesterov Y. Introductory Lectures on Convex Optimization. Boston: Springer, 2004. 23. Nesterov Y. A Method for Solving the Convex Programming Problem of Unconditional Minimization // Soviet Mathematics Doklady. 1983. Vol. 27. P. 372– 376. 24. Park J. B., Park K. S., Won J. R., Lee K. Y. Economic Load Dispatch Considering Transmission Losses // IEEE Transactions on Power Systems. 2005. Vol. 20, No. 1. P. 343–352. 25. Kron A. Tensor Analysis of Networks. New York: Wiley, 1939. 26. Coelho L. S. Constrained Optimization in Power Systems // Electric Power Systems Research. 2009. Vol. 79. P. 615–623. 27. Bukhsh W. A., Grothey A., McKinnon K. I. M., Trodden P. A. Local Solutions of Optimal Power Flow // IEEE Transactions on Power Systems. 2013. Vol. 28, No. 4. P. 4780–4788. 28. Carpentier J. Optimal Power Flows // International Journal of Electrical Power & Energy Systems. 1989. Vol. 11, No. 1. P. 3–15. 29. Research on photovoltaic power prediction using an LSTM recurrent neural network / S. Boichenko et al. Studies in systems, decision and control. Cham, 2024. P. 421–443. URL: https://doi.org/10.1007/978-3- 031-67091-6_19 (date of access: 07.01.2026). 30. Boyd S., Vandenberghe L. Convex Optimization. Cambridge: Cambridge University Press, 2004. 31. Spall J. C. Introduction to Stochastic Search and Optimization. Hoboken: Wiley, 2003. 32. Castillo A. A Review of AC Optimal Power Flow Methods // Electric Power Systems Research. 2013. Vol. 95. P. 223–232. 33. Bottou L. Stochastic Gradient Descent Tricks // In: Neural Networks: Tricks of the Trade. Springer, 2012. P. 421–436. https://doi.org/10.1007/978-3-031-67091-6_19 https://doi.org/10.1007/978-3-031-67091-6_19
id veorgua-article-623
institution Vidnovluvana energetika
keywords_txt_mv keywords
language Ukrainian
last_indexed 2026-07-10T01:00:14Z
publishDate 2026
publisher Institute of Renewable Energy National Academy of Sciences of Ukraine
record_format ojs
resource_txt_mv veorgua/35/787840df0d746f48bc03876ca4f75235.pdf
spelling veorgua-article-6232026-07-09T12:14:07Z STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS МЕТОД НАЙШВИДШОГО СПУСКУ: АНАЛІЗ ОБМЕЖЕНЬ ТА ЕВОЛЮЦІЯ ЗАСТОСУВАННЯ В СУЧАСНИХ ЕНЕРГЕТИЧНИХ СИСТЕМАХ Korovushkin , V. Boichenko , S. Kuznietsov , M. Danilin , O. Power System Optimization; AC Optimal Power Flow (AC-OPF); Steepest Descent Method; Stochastic Gradient Descent (SGD); Ill-conditioned problems; Convergence analysis. оптимізація енергосистеми; оптимальний розподіл потужності в змінному струмі (AC-OPF); метод найкрутішого спуску; стохастичний градієнтний спуск (SGD); погано обумовлені задачі; аналіз збіжності. The article provides a systematic critical analysis of the steepest descent (SD) method in the context of optimizing modern energy systems. Despite its historical significance as the archetype of iterative algorithms, SD has been proven to be significantly limited in solving large-scale problems such as economic load dispatch (ELD) and optimal power flow (AC-OPF). The paper investigates the mathematical reasons for this phenomenon in detail: it shows that the physical heterogeneity of power system components (different scales of line impedances and generation characteristics) leads to a poor condition of the objective function Hessian. A high condition number (κ) causes a “zigzag” convergence trajectory, which makes the method unsuitable for real-time operational control. Based on a comparative analysis with second-order methods (Newton's method) and quasi-Newton algorithms (L-BFGS), the transition to interior point methods as an industry standard for constrained problems is justified. The key novelty of the work lies in the study of the relevance of gradient methods in modern computational paradigms in the era of artificial intelligence. The authors demonstrate a paradigm shift: characteristics that were limiting factors in deterministic optimization (noisy trajectory and simplified gradient processing) have been transformed into decisive advantages of stochastic gradient descent (SGD). It has been proven that it is precisely this stochastic nature that allows neural networks to be effectively trained for the tasks of forecasting RES generation and demand management, transforming the traditional method into the foundation of modern data-driven solutions in the energy sector. У статті здійснено системний критичний аналіз методу найшвидшого спуску (SD) в контексті оптимізації сучасних енергетичних систем. Попри зазначення фундаментальної ролі в теорії ітераційних алгоритмів, доведено суттєві обмеження МНШ при розв’язанні великомасштабних задач, як-от економічний розподіл навантаження (ELD) та оптимальний потік потужності (AC-OPF). У роботі детально досліджено математичні причини цього явища: показано, що фізична гетерогенність компонентів енергосистеми (різні масштаби імпедансів ліній та характеристик генерації) призводить до поганої обумовленості гесіана цільової функції. Високе число обумовленості (κ) спричиняє «зигзагоподібну» траєкторію збіжності, що робить метод обмежено придатним для оперативного управління режимами в реальному часі. На основі порівняльного аналізу з методами другого порядку (метод Ньютона) та квазіньютонівськими алгоритмами (L-BFGS) обґрунтовано перехід до методів внутрішньої точки як галузевого стандарту для задач з обмеженнями. Ключова новизна роботи полягає в дослідженні розширення сфери застосування градієнтних методів в еру штучного інтелекту. Автори демонструють парадигмальний зсув: характеристики, що були обмежувальними факторами в детермінованій оптимізації (шумна траєкторія та спрощена обробка градієнта), трансформувалися у вирішальні переваги стохастичного градієнтного спуску (SGD). Доведено, що саме ця стохастична природа дає змогу ефективно навчати нейронні мережі для задач прогнозування генерації ВДЕ та управління попитом, перетворюючи традиційний метод на фундамент сучасних Data-driven рішень в енергетиці.&amp;nbsp; Institute of Renewable Energy National Academy of Sciences of Ukraine 2026-06-30 Article Article application/pdf https://ve.org.ua/index.php/journal/article/view/623 10.36296/1819-8058.2026.2(85).80-100 Vidnovluvana energetika ; No. 2(85) (2026): Scientific and applied Journal renewable energy ; 80-100 Возобновляемая энергетика; № 2(85) (2026): Scientific and applied Journal renewable energy ; 80-100 Відновлювана енергетика; № 2(85) (2026): Науково-прикладний журнал Відновлювана енергетика; 80-100 2664-8172 1819-8058 10.36296/1819-8058.2026.2(85) uk https://ve.org.ua/index.php/journal/article/view/623/534 Copyright (c) 2026 Vidnovluvana energetika
spellingShingle Power System Optimization
AC Optimal Power Flow (AC-OPF)
Steepest Descent Method
Stochastic Gradient Descent (SGD)
Ill-conditioned problems
Convergence analysis.
Korovushkin , V.
Boichenko , S.
Kuznietsov , M.
Danilin , O.
STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS
title STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS
title_alt МЕТОД НАЙШВИДШОГО СПУСКУ: АНАЛІЗ ОБМЕЖЕНЬ ТА ЕВОЛЮЦІЯ ЗАСТОСУВАННЯ В СУЧАСНИХ ЕНЕРГЕТИЧНИХ СИСТЕМАХ
title_full STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS
title_fullStr STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS
title_full_unstemmed STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS
title_short STEEPEST DESCENT METHOD: LIMITATIONS ANALYSIS AND EVOLVING APPLICABILITY IN MODERN POWER SYSTEMS
title_sort steepest descent method: limitations analysis and evolving applicability in modern power systems
topic Power System Optimization
AC Optimal Power Flow (AC-OPF)
Steepest Descent Method
Stochastic Gradient Descent (SGD)
Ill-conditioned problems
Convergence analysis.
topic_facet Power System Optimization
AC Optimal Power Flow (AC-OPF)
Steepest Descent Method
Stochastic Gradient Descent (SGD)
Ill-conditioned problems
Convergence analysis.
оптимізація енергосистеми
оптимальний розподіл потужності в змінному струмі (AC-OPF)
метод найкрутішого спуску
стохастичний градієнтний спуск (SGD)
погано обумовлені задачі
аналіз збіжності.
url https://ve.org.ua/index.php/journal/article/view/623
work_keys_str_mv AT korovushkinv steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems
AT boichenkos steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems
AT kuznietsovm steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems
AT danilino steepestdescentmethodlimitationsanalysisandevolvingapplicabilityinmodernpowersystems
AT korovushkinv metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah
AT boichenkos metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah
AT kuznietsovm metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah
AT danilino metodnajšvidšogospuskuanalízobmeženʹtaevolûcíâzastosuvannâvsučasnihenergetičnihsistemah