Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу
Розглянуто задачу ідентифікації параметрів лінійного обʼєкта за наявності негауссівських завад. Алгоритм ідентифікації є градієнтною процедурою мінімізації критерію найменшого середнього ексцесу. Використання такого функціоналу дозволяє отримати оцінки з робастними властивостями. Алгоритм ідентифіка...
Збережено в:
| Опубліковано в: : | Проблемы управления и информатики |
|---|---|
| Дата: | 2022 |
| Автори: | , |
| Формат: | Стаття |
| Мова: | Українська |
| Опубліковано: |
Інститут кібернетики ім. В.М. Глушкова НАН України
2022
|
| Теми: | |
| Онлайн доступ: | https://nasplib.isofts.kiev.ua/handle/123456789/210874 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Цитувати: | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу / О.Г. Руденко, О.О. Безсонов // Проблеми керування та інформатики. — 2022. — № 2. — С. 39-52. — Бібліогр.: 45 назв. — укр. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraine| _version_ | 1859459396890787840 |
|---|---|
| author | Руденко, О.Г. Безсонов, О.О. |
| author_facet | Руденко, О.Г. Безсонов, О.О. |
| citation_txt | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу / О.Г. Руденко, О.О. Безсонов // Проблеми керування та інформатики. — 2022. — № 2. — С. 39-52. — Бібліогр.: 45 назв. — укр. |
| collection | DSpace DC |
| container_title | Проблемы управления и информатики |
| description | Розглянуто задачу ідентифікації параметрів лінійного обʼєкта за наявності негауссівських завад. Алгоритм ідентифікації є градієнтною процедурою мінімізації критерію найменшого середнього ексцесу. Використання такого функціоналу дозволяє отримати оцінки з робастними властивостями. Алгоритм ідентифікації — це градієнтна процедура. Визначено умови збіжності процедури, що застосовується, в середньому і середньоквадратичному за наявності негауссівських завад вимірів. Крім того, отримано оцінки для визначення оптимального значення параметра алгоритму, що забезпечують його максимальну швидкість збіжності. На основі цих оцінок визначено асимптотичні та неасимптотичні значення похибок оцінювання параметрів та похибок ідентифікації. У звʼязку з цим отримані вирази містять невідомі параметри (значення дисперсій сигналів і завад). Для їх застосування слід використовувати оцінки цих параметрів. Отримані співвідношення досить громіздкі, однак їх спрощення дозволяє провести якісний аналіз сталості. Слід зазначити, що всі отримані в роботі оцінки залежать від низки параметрів, проблема визначення яких залишається відкритою. Вони дозволяють досліднику попередньо оцінити можливості алгоритму ідентифікації та ефективність його використання при вирішенні практичних задач.
The problem of parameter identification for a linear object in the presence of non-Gaussian noise is considered. The identification algorithm is a gradient procedure for minimizing the least mean excess criterion. Using such functionality allows for obtaining estimates with robust properties. The identification algorithm is a gradient procedure. The convergence conditions of the applied procedure are defined in the mean and mean square sense in the presence of non-Gaussian measurement noise. Additionally, estimates for determining the optimal value of the algorithm parameter, ensuring its maximum convergence speed, are obtained.
|
| first_indexed | 2026-03-12T12:31:09Z |
| format | Article |
| fulltext |
© О.Г. РУДЕНКО, О.О. БЕЗСОНОВ, 2022
Міжнародний науково-технічний журнал
«Проблеми керування та інформатики», 2022, № 2 39
УДК 517.9;519.711
О.Г. Руденко, О.О. Безсонов
ПРО ОДИН АЛГОРИТМ ІДЕНТИФІКАЦІЇ ЛІНІЙНИХ
ОБʼЄКТІВ НА ОСНОВІ НАЙМЕНШОГО ЕКСЦЕСУ
Руденко Олег Григорович
Харківський національний університет радіоелектроніки,
oleg.rudenko@nure.ua
Безсонов Олександр Олександрович
Харківський національний університет радіоелектроніки,
oleksandr.bezsonov@nure.ua
Розглянуто задачу ідентифікації параметрів лінійного обʼєкта за наявності не-
гауссівських завад. Алгоритм ідентифікації є градієнтною процедурою мінімі-
зації критерію найменшого середнього ексцесу. Використання такого функціо-
налу дозволяє отримати оцінки з робастними властивостями. Алгоритм іденти-
фікації — це градієнтна процедура. Визначено умови збіжності процедури, що
застосовується, в середньому і середньоквадратичному за наявності негауссів-
ських завад вимірів. Крім того, отримано оцінки для визначення оптимального
значення параметра алгоритму, що забезпечують його максимальну швидкість
збіжності. На основі цих оцінок визначено асимптотичні та неасимптотичні
значення похибок оцінювання параметрів та похибок ідентифікації. У звʼязку з
цим отримані вирази містять невідомі параметри (значення дисперсій сигналів і
завад). Для їх застосування слід використовувати оцінки цих параметрів. Отри-
мані співвідношення досить громіздкі, однак їх спрощення дозволяє провести
якісний аналіз сталості. Слід зазначити, що всі отримані в роботі оцінки зале-
жать від низки параметрів, проблема визначення яких залишається відкритою.
Вони дозволяють досліднику попередньо оцінити можливості алгоритму іден-
тифікації та ефективність його використання при вирішенні практичних задач.
Ключові слова: ексцес, функціонал, градієнтний алгоритм, дисперсія, асимп-
тотична оцінка, точність ідентифікації, завада, сталий процес.
Вступ
У основі багатьох задач обробки інформації (обробка та фільтрація складних
сигналів, ідентифікація обʼєктів та управління ними, прогнозування тимчасових
послідовностей, класифікація тощо) лежить задача побудови моделі виду
T( ) ( ) ( ),y k x k k= + (1)
де ( )y k — вихідний сигнал; T
1 2
( ) ( ( ), ( ), )).. (
N
x k x k x k x k= — вектор вхідних сиг-
налів 1;N T
1 2
( , , )..
N
= — вектор параметрів, що обчислюються 1;N
( )k — завада.
Припускається, що:
а) 2( ) (0, );
x
x i N
б) T{ ( ) ( 1)} 0 , ;M x i j i j − =
в) 2( ) (0, );k N
г) { ( ) ( )} 0 , .M x i j i j =
Задача ідентифікації зводиться до мінімізації деякого наперед обраного кри-
терію якості (критерію ідентифікації).
40 ISSN 1028-0979
Широковикористовуваний на практиці квадратичний функціонал приводить
до різних алгоритмів ідентифікації, що дозволяє отримати оцінки пошукового век-
тора
при нормальних розподілах завади, тобто 2( ) (0, ).k N
Засноване на цьому припущенні МНК-рішення асимптотично оптимальне
з мінімальною дисперсією в класі незміщених оцінок. Однак це припущення,
як правило, не виконується в реальних умовах, оскільки майже завжди апріор-
на інформація про розподіли зазвичай недоступна або ж завада засмічена не-
гауссівським шумом. Це призводить до того, що деякі вимірювання значно
віддалені від основного обʼєму даних і утворюють так звані «хвости». Нестій-
кість оцінки МНК за наявності таких завад стала підставою для розвитку аль-
тернативного, робастного оцінювання в статистиці, метою якого і стало ви-
ключення впливу завад.
За наявності інформації щодо приналежності завади до деякого певного
класу розподілів завдання спрощується. У цьому випадку може бути отрима-
на оцінка максимальної правдоподібності (М-оцінка) шляхом мінімізації оп-
тимального критерію, що становить собою логарифм функції розподілу зава-
ди, узятий з оберненим знаком. За відсутності такої інформації для оцінюван-
ня вектора параметрів необхідно застосовувати будь-який неквадратичний
критерій. Це забезпечує робастність отриманої оцінки. Одним з таких крите-
ріїв є модульний, мінімізація якого приводить до знакового алгоритму.
Теоретичне дослідження властивостей знакового алгоритму оцінювання
вперше було проведено в [1]. Практичне застосування цього критерію в задачі
ідентифікації обʼєкта за наявності імпульсних завад розглядалося в [2–6]. Зок-
рема, в [2, 3] вивчалася ефективність афінного проекційного знакового алго-
ритму, в [4] використовувався афінний проекційний знаковий алгоритм зі
змінним коефіцієнтом посилення. Необхідно зазначити, що знакові алгоритми,
забезпечуючи робастність одержуваної оцінки, мають низьку швидкість збіж-
ності. Тому з метою прискорення процесу оцінювання в [5] пропонувався і до-
сліджувався нормалізований знаковий алгоритм ідентифікації. У роботі [6] ви-
вчається простий в реалізації алгоритм, який використовує для корекції дов-
жини кроку середньоквадратичну помилку і розрахункову потужність завади.
Позитивні властивості модульного критерію використовуються в так званих
комбінованих функціоналах, найбільш поширеними серед яких є комбіновані
функціонали, запропоновані в [7, 8]. Вони включають квадратичний функціо-
нал, що забезпечує оптимальність оцінок для гауссівського розподілу, і моду-
льний, що дозволяє отримати оцінку, більш робастну до розподілів з важкими
«хвостами» (викидами). Слід, однак, зазначити, що ефективність робастних оці-
нок залежить від численних параметрів, що використовуються в даних умовах.
У зазначених роботах наведені деякі рекомендації щодо вибору цих парамет-
рів. Однак здебільшого вони обираються на основі досвіду дослідника [9].
У [10–12] розглянуто проблему робастного нейромережевого навчання на ос-
нові функціоналів Хьюбера і Хемпеля [6, 7] і розроблено деякі практичні ре-
комендації щодо вибору параметрів функціоналів. У [13] досліджувалася
більш загальна проблема робастного оцінювання за наявності завад з асимет-
ричним розподілом. Однак проблема вибору параметрів функціоналів залиша-
ється відкритою.
У роботах [14–18] розвивався значно простіший підхід до побудови комбінова-
них функціоналів, а також квадратичного і модульного, позбавлений вказаного недо-
Міжнародний науково-технічний журнал
«Проблеми керування та інформатики», 2022, № 2 41
ліку. Вперше такий критерій запропоновано в [14]. У [14–18] цей критерій застосову-
вався для розвʼязання задачі ідентифікації за наявності імпульсних завад. У [15] розг-
лядалися питання стійкості нормалізованого алгоритму, в [16] вирішувалася приклад-
на задача ідентифікації. У [17] пропонувалася адаптивна комбінація нормалізованих
фільтрів, у [18] вивчалися питання збіжності алгоритму ідентифікації і вирішувалося
завдання вибору його оптимальних значень параметрів.
У [19] запропонований критерій найменшого четвертого ступеня, власти-
вості якого вивчалися у [19–24]. Так, у [20] розглядалася стійкість нормалізо-
ваного алгоритму при гауссівських вхідних сигналах, у [21] описувався про-
цес нормалізації алгоритму, у [22, 23] розглядалися питання глобальної стій-
кості відповідних алгоритмів, а у [24] вирішувалося завдання стохастичного
аналізу стійкості адаптивного алгоритму. Проблема збільшення швидкості
збіжності даного алгоритму шляхом використання оптимального параметра
кроку налаштування вивчалася у [25, 26]. У [27] для забезпечення робастнос-
ті і стійкості алгоритму запропоновано використання змінного параметра
кроку, що враховує енергію помилки (у термінах найменших квадратів).
У [28] запропонована модифікація алгоритму методу найменшого четвертого
ступеня на основі квазі-ньютонівської процедури. Нарешті, робота [29] була
присвячена питанням реалізації даного алгоритму з використанням квантових
обчислень.
Комбінований критерій оцінювання для прискорення процесу ідентифіка-
ції, в якому використовується обʼєднання квадратичного критерію і критерію
четвертого ступеня, запропоновано в [30]. У [31] даний підхід застосовувався
для прискорення процесу ідентифікації за наявності імпульсних завад. Влас-
тивості адаптивного алгоритму мінімізації такого комбінованого критерію ви-
вчалися в [32].
У [33] запропоновано комбінований критерій, що складається з критерію чет-
вертого ступеня і модульного, і розглядалися особливості його роботи.
Для отримання робастних оцінок у [34] застосовувся критерій найменшого
середнього ексцесу (КНСЕ), а в [35, 36] — його модифікації. У [37] вивчався гра-
дієнтний алгоритм оптимізації даного критерію. Застосування КНСЕ для вирі-
шення завдання прогнозування хаотичних часових рядів розглядалося в [38].
У [39] досліджувався градієнтний алгоритм оптимізації даного критерію з вико-
ристанням певним чином побудованих ядер. Стохастичний аналіз градієнтного
алгоритму проводився в [40, 41], а в [42] аналогічний аналіз проводився для мо-
дифікованого КНСЕ.
Як показує аналіз робіт, присвячених проблемі робастної ідентифікації
обʼєктів керування [36, 43], застосування критерію найменшого середнього ексце-
су досить ефективне. З іншого боку, такий підхід значно простіший порівняно з
іншими критеріями. Проте у згаданих роботах відсутні результати досліджень
особливостей робастних алгоритмів оцінювання параметрів моделі, побудованих
з використанням КНСЕ.
Все це дозволяє стверджувати, що дослідження властивостей робастного ал-
горитму ідентифікації, отриманого на основі критерію найменшого середнього
ексцесу, з метою його практичного застосування є доцільним.
Дослідження властивостей робастного алгоритму ідентифікації
Для врахувування негауссовості в оцінці необхідно мати кількісну міру нега-
уссовості випадкової величини. Однією з характеристик відхилення щільності
ймовірності від нормального розподілу є ексцес, який визначається як
42 ISSN 1028-0979
4
4
2 2
{ ( )}
3,
{ ( )}
e
M e k
M e k
= −
де 4{ ( )}M e k — четвертий центральний момент; 2 2{ ( )}
e
M e k = — дисперсія ви-
падкової величини; {•}M — символ математичного сподівання.
Тут «мінус три» введено у визначення коефіцієнта ексцесу, щоб задовольни-
ти вимогу
4 0
e
= для нормального розподілу.
Ексцес дорівнює нулю для гауссівської випадкової величини. Для більшості
(але не всіх) негауссівських випадкових величин ексцес відмінний від нуля. Існу-
ють негауссівські випадкові змінні, які мають нульовий ексцес, але їх можна вва-
жати дуже рідкісними.
Ексцес може бути як позитивним, так і негативним. Випадкові змінні з нега-
тивним ексцесом називаються субгауссовими, а з позитивним — супергауссови-
ми. Супергауссові випадкові змінні зазвичай мають «гостру» функцію щільності
ймовірності (ФЩЙ) з важкими хвостами, тобто ФЩЙ відносно велика при нулі і
при великих значеннях змінної і незначна для проміжних значень. Типовим при-
кладом є розподіл Лапласа.
Застосування ексцесу або, швидше, його абсолютного значення, як запобіж-
ної міри неоднозначності, досить привабливе в задачах статистичного оцінювання
в силу його обчислювальної простоти. З обчислювальної точки зору ексцес можна
оцінити просто, використовуючи четвертий момент вибіркових даних (якщо дис-
персія залишається постійною).
Алгоритм найменшого ексцесу (Least Mean Kurtosis — LMK), який має
вигляд
2 2( ) ( 1) 4 ( )[3 ( )] ( ) ( ),
e
k k k e k e k x k = − + − (2)
спочатку був запропонований як адаптивний, стійкий до розподілу шуму спосте-
реження [34].
Критерій якості для алгоритму LMK — відʼємний ексцес ( ),e k що визнача-
ється виразом
2 2 4[ ( )] 3 { ( )} { ( )},F e k M e k M e k= − (3)
тут T( ) ( ) ( ) ( ) ( 1 ( ) ( );€€ )e k y k y k y k k x k k= − = − − + ( )€y k — вихідний сигнал мо-
делі; T
1 2
( 1) ( ( 1), ( 1), ( 1))€ € € €..
N
k k k k − = − − − — вектор пошукових параметрів
1;N 2
e
— середньоквадратична похибка, яка залежить від €; ( )k — деякий
параметр, що впливає на швидкість збіжності алгоритму; {•}M — символ мате-
матичного сподівання.
Як зазначається в [34–38], наявність в (2), (3) невідомої величини
2 ( )
e
k
створює значні аналітичні труднощі при дослідженні алгоритму. Тому в цих ро-
ботах пропонувалося оцінювати
2 ( )
e
k так:
2 2 2( ) ( 1) ( ),
e e
k k e k = − + (4)
де (0, 1); 2 2( ) ) (0) (1), ( )}.{ ( , ...
e e
k M k k =
Міжнародний науково-технічний журнал
«Проблеми керування та інформатики», 2022, № 2 43
Дещо інша апроксимація аналізувалася в [40–42].
Розглянемо похибку оцінювання
( ) ( ),€k k = − (5)
що дозволяє записати вираз для ( )e k таким чином:
T( ) ( 1) ( ) ( ) ( ) ( ),
a
e k k x k k e k k= − + = + (6)
де T( ) ( 1) ( )
a
e k k x k= − — апріорна похибка ідентифікації.
У звʼязку з припущенням в) маємо
22 2 2{ ( ))} { ( ) },
x
M e k M k
= + (7)
де • — евклідова норма.
Запишемо алгоритм (2) щодо помилок ідентифікації ( ):i
2 2( ) ( 1) 4 ( )[3 2 ( )] ( ) ( )
e
k k k e k e k x k = − − + =
2 2( 1) 4 ( )[3 2( ( 1) ( ) ( )) ]( ( 1) ( ) ( )) ( ).
e
k k k x k k k x k k x k= − − + − + − + (8)
Позначивши ( 1) ( ),p k x k= − перепишемо (8) так:
2 T 2 T 2 T
2 2 3 2
2 T 2 T 2 T
2
( ) ( 1)
4 ( )[3 ( ) ( ) 2 ( ) ( ) 6 ( ) ( ) ( )] ( 1)
4 ( )[3 ( ) ( ) 4 ( ) ( ) 2 ( ) ( ) ]
[ 4 ( )[3 ( ) ( ) 2 ( ) ( ) 6 ( ) ( ) ( )]] ( 1)
4 ( )[3 ( ) (
e
e
e
e
k k
k x k x k p x k x k k x k x k k
k x k k p x k k x k k
I k x k x k p x k x k k x k x k k
k x k
= − −
− + + − −
− + + =
= − + + − −
− 2 3 2) 4 ( ) ( ) 2 ( ) ( ) ]k p x k k x k k+ + .
Розглянемо математичне сподівання { ( )}M k з урахуванням властивостей
корисних сигналів та завад.
Після усереднення обох частин (8) отримуємо
{ ( )}M k =
2 T 2 T 2 T{[ 4 ( )[3 ( ) ( ) 2 ( ) ( ) 6 ( ) ( ) ( )]] ( 1)}.
e
M I k x k x k p x k x k k x k x k k= − + + − (9)
Враховуючи, що
22 2 2{ } {( ( 1) ( )) } { ( 1) },
x
M p M k x k M k= − = −
T 2{ ( ) ( )} ,
xx x
M x k x k R I= =
2 2{ ( )} ,M k
=
44 ISSN 1028-0979
вираз (9) перепишемо так:
22 2 2{ ( )} [ 4 ( )[3 2 ( 1) 6 ( ) ]] { ( 1)}.
e xx x xx xx
M k I k R k R k R M k
= − + − + −
Звідси випливає, що алгоритм (2) буде збігатися в середньому за виконання умови
22 2 24 ( )[3 2 ( 1) 6 ( ) ] ,
e xx x xx xx
I k R k R k R I
− + − +
тобто при
22 2 2
1
0 ( )
4(3 2 ( 1) 6 ) tr
e x xx
k
k R
+ − +
або
22 2 2 2
1
0
4(3 2 ( 1) 6 )
( ) .
e x x
k
k
+ − +
Тут
xx
R — кореляційна матриця вхідного сигналу.
Для дослідження збіжності алгоритму в середньоквадратичному розглянемо
функцію Ляпунова
2
{ }.( )M k
Помноживши обидві частини (8) зліва на T ( )k і враховуючи припущення а)–г),
маємо
2 2 2 2
22 2 2 2 2
( ) ( 1) 8 ( )[3 2( ( )) ]( ( ))
16 ( )[3 2( ( )) ] ( ( )) ( )
e
e
k k k p k p k p
k p k p k x k
= − − + + + +
+ + + + .
Після нескладних перетворень цей вираз набуде вигляду
2 22 2 2 2 4 2( ) 1 8 ( )[[3 6 ( )] 2 ] 16 ( ) ( )
e
k k k k p p k x k = − − + + + ( )
2 4 2 2 4 3 2 4 2 2 4 2 3
2 2 2 2 3 2 2 2 2 3
2 2 2 2 3 2 4 6 5
4 2 5 4 2 3 3
9 18 ( ) 9 ( ) 12 24 ( )
12 ( ) 24 ( ) 48 ( ) 24 ( )+
12 ( ) 24 ( ) 12 ( ) 4 8 ( )
4 ( ) 16 ( ) 32 ( ) 16
e e e e e
e e e e
e e e
p p k k p p k
p k p k p k p k
p k p k k p p k
p k p k p k p
+ + + + +
+ + + +
+ + + + + +
+ + + + 4 2
3 3 2 4 4 2 3 3 2 4
3 3 2 4 5 2 4 5 6
( ) 8 ( )
16 ( ) 8 ( ) 16 ( ) 32 ( ) 16 ( )+
16 ( ) 32 ( ) 16 ( ) 4 ( ) 8 ( ) 4 ( )
k p k
p k p k p k p k p k
p k p k p k p k p k k
+ +
+ + + + +
+ + + + + +
. (10)
Обчислимо математичне сподівання (10) з урахуванням того, що
22 2{ } { ( 1) };
x
M p M k= −
2 22 4{ ( ) } ( 2) { ( 1) };
x
M p x k N M k= + −
Міжнародний науково-технічний журнал
«Проблеми керування та інформатики», 2022, № 2 45
24 4{ } 3 { ( 1) };
x
M p M k −
2 24 6 2{ ( ) } (3 12) ( { ( 1) }) ;
x
M p x k N M k + −
2 26 8 3{ ( ) } (15 90) ( { ( 1) }) ;
x
M p x k N M k + −
22 4 2 4{ } { ( )} { ( )} { 1 };( )
x
M p M k M k M k −
2 26 6 2 6{ ( ) } { ( ) } { } { };
x
M x k M x k M N M = =
2 2{ ( ) } .
x
M x k N=
Підставляючи дані вирази в (10) і враховуючи припущення а)–в), а також
3 5( ( )) ( ( )) ( ( )) 0,M k M k M k = = = отримуємо
2
2 2 6
22 4 2 2
2 4
4
22 6 2 2 2
2
{ ( ) }
8 ( ) (3 6 { ( )})
1 { ( ) }9 72 { ( )}
16 ( ) ( 2)
60 { ( )}
[16 ( ) (3 12)(12 60 { ( )})]( { ( 1) })
64 (
x e
e e
x
x e
M k
k M k
M kk
k N
M k
k N M k M k
k
=
+ −
= − − + +
− +
+
− + + − +
+
28 3) (15 90)( { ( 1) })
x
N M k + − +
2 2 2 4 2 2 4 616 ( ) [9 { ( )} 12 { ( )} 4 { ( )}].
x e e
k M k M k M k+ + + (11)
Аналіз виразу (11) досить складний, тому доцільно скористатися підходом,
застосованим у [26]. У даній роботі зазначається, що коли алгоритм збігається,
величина
2
{ }( )M k буде малою, тому при аналізі слід знехтувати величинами
2 2( { })( )M k та
2 3( { })( )M k і обмежитися розглядом величини
2
2 4
22
2 2 4 2 4
{ ( ) }
(3 6 { ( )})
1 8 ( ) { ( ) }
2 (9 72 60 { ( )})
e
x
x e e
M k
M k
k M k
M k
=
+ −
= − +
− + +
2 2 2 4 2 2 4 616 ( )( 2) [9 { ( )} 12 { ( )} 4 { ( )}].
x e e
k N M k M k M k+ + + + (12)
З (12) випливає, що процедура (2) збігатиметься в середньоквадратичному
(приріст функції Ляпунова буде негативним) за виконання умови
46 ISSN 1028-0979
2 4 2 2
2 2 2
4
3 24 { ( )}
1 8 ( ) (3 6 { ( )}) 48 ( ) 1,
20 { ( )}
e e
e x
M k
k M k k
M k
+ +
− + −
+
тобто якщо параметр ( )k задовольняє нерівності
2 2
2 2 4 2 2 4
2 { ( )}
0 ( ) .
( 2) (3 24 { ( )} 20 { ( )})
e
x e e
M k
k
N M k M k
+
+ + +
(13)
Оптимальне значення цього параметра, що забезпечує максимальну швид-
кість збіжності алгоритму, яке отримуємо при розвʼязанні рівняння
2
{ ( ) }
0,
( )
M k
k
=
матиме такий вигляд:
2 2
opt
2 2 4
2 { ( )}
( ) .
96 { ( )}
e
x e
M k
k
M k
+
=
(14)
Із (14) випливає, що величина opt ( )k залежить від розмірності досліджува-
ного обʼєкта ,N статистичних властивостей сигналів та завад і величини
2 .
ae
Слід зазначити, що ця формула дозволяє визначити вплив інших параметрів на
властивості алгоритму.
Визначення асимптотичних значень помилок оцінювання та ідентифікації
Із співвідношення (12) можна отримати вираз для асимптотичної похибки
оцінювання:
2
{ ( ) }M =
2 2 2 4 2
2
2 4 6
2 4 2 2 4 2 4
9 9 { ( )}
2 ( )( 2)
12 { ( )} 4 { ( )}
.
(3 6 { ( )}) 2 ( ) (9 72 44 { ( )})
e e
x
e
e x e e
M k
k N
M k M k
M k k M k
+ +
+
+ +
=
+ − + +
(15)
Із (15) випливає, що для забезпечення
2
lim { ( ) } 0
k
M
→
= параметр ( )k зі
зростанням k повинен наближатися до нуля, тобто задовольняти умовам Дворець-
кого [35].
Підстановка (15) в (6) дає вираз для асимптотичної помилки ідентифікації:
2 2{ ( )}M e = +
2 2 2 2 4 2 2 4 6
2 4 2 2 4 2 4
2( 2) [9 9 { ( )} 12 { ( )} 4 { ( )}]
.
(3 6 { ( )}) 2 (9 72 60 { ( )})
x e e e
e x e e
N M k M k M k
M k M k
+ + + +
+
+ − + +
(16)
Ці вирази справедливі для будь-яких шумів вимірювань із симетричною
функцією щільності ймовірності (Probability density function — PDF) та мали-
Міжнародний науково-технічний журнал
«Проблеми керування та інформатики», 2022, № 2 47
ми значеннями. Вищі порядки моментів шуму вимірів, тобто 4{ ( )}M k та
6{ ( )},M k слід розраховувати для відповідної PDF. Зокрема, для гаусcового
шуму 4 4{ ( )} 3M k = і 6 6{ ( )} 15 ,M k = для двійкового шуму 4 4{ ( )}M k =
і 6 6{ ( )}M k = — для рівномірного шуму 4 49
{ ( )}
5
M k = і 6{ ( )}M k =
627
,
7
= для шуму, розподіленого за законом Релея 4 4{ ( )} 8M k = і 6{ ( )}M k =
648 = — для закону Пуассона (з параметром ) 4 2 3{ ( )} 7M k = + + +
4+ і 6 2 3{ ( )} 31 90M k = + + +
465 15+ + [45].
Крім того, в (14)–(16) входить величина
2 ,x яка часто на практиці неві-
дома. Для оцінки
2
x можна скористатися процедурою, аналогічною (4), яка
має вигляд
22 2( ) ( 1) (1 ) ( ) ,x xk k x k = − + −
де (0,1).
Дані формули представляють радше теоретичний інтерес, оскільки характе-
ризують граничні можливості алгоритму.
Моделювання
Розглядалося завдання ідентифікації стаціонарного лінійного обʼєкта, що
описується рівнянням (1) з такими параметрами: 110; 89; 90;( 66; 55; − − − − − =
T50; 36; 21; 0; 2; 20; 42; 62; 87; 88;1 .07)− − − Як вхідний сигнал ( )х k вибиралися
послідовності нормально розподілених величин ( )х k ~ (0; 1).N При тестуванні
робастності алгоритмів у вихідний сигнал обʼєкта додавався незалежний шум з
рівномірним розподілом в інтервалі [–1, 1] і засмічуючим гауссівським шумом з
48. = Гістограма такої завади показана на рис. 1.
Рис. 1
Результати моделювання за різних значень параметра ( )k представлені
на рис. 2, 3. На рис. 2 показані графіки налаштування параметрів моделі при
використанні МНК (рис. 2, а) і алгоритму (3) з параметром
1( )k k− = (рис. 2, б)
400
300
200
100
0
0 20 10 ‒ 10 ‒ 20
48 ISSN 1028-0979
і
0,5( )k k− = (рис. 2, в), а на рис. 3, а–в — помилки ідентифікації відповідних
алгоритмів.
а
б
в
Рис. 2
а
Рис. 3
‒ 250
‒ 150
‒ 50
50
150
250
0 50 100 150 200 250 300 350 400 450 500
450
‒ 150
‒ 50
50
150
0 50 100 150 200 250 300 350 400 450 500
‒ 2000
‒ 1000
0
2000
1000
0 50 100 150 200 250 300 350 400 450 500
‒ 200
‒ 100
0
200
100
0 50 100 150 200 250 300 350 400 500
Міжнародний науково-технічний журнал
«Проблеми керування та інформатики», 2022, № 2 49
Продовження рис. 3
б
в
Як видно із результатів моделювання, при використанні критерію найменших
квадратів оцінювання параметрів моделі за наявності змішаної завади неможливе.
При використанні критерію найменшого середнього ексцесу можна отримати оцін-
ку вектора невідомих параметрів. У цьому випадку швидкість збіжності алгорит-
му залежить від вибору параметра ( ).k
Висновок
Досліджено збіжність робастного алгоритму ідентифікації, що використовує
критерій найменшого середнього ексцесу, та отримано аналітичні оцінки його
збіжності в середньому та середньоквадратичному.
Визначено гранично досяжні (асимптотичні) значення помилок оцінювання
параметрів та помилок ідентифікації в умовах, що розглядаються.
Слід зазначити, що отримані у роботі результати залежать від розмірнос-
ті завдання ,N величини ( ),k а також від статистичних властивостей сигна-
лів і завад
2( ,x
4 ,x
2 ,e
2{ },M 24{ }).M Якщо величина N відома, параметр
( )k може бути обраний, величина
2
e може бути оцінена за формулою (4), а
2
x — за формулою (16), то статистичні властивості завад на практиці часто
невідомі. Оскільки розглянуті алгоритми призначені для вирішення задачі
ідентифікації у реальному часі, у подальшому доцільна розробка ефективних
процедур оцінювання статистичних характеристик сигналів і завад. Це особ-
ливо важливо, оскільки даний підхід може застосовуватися для ідентифікації
динамічних обʼєктів, представлених, наприклад, моделлю псевдолінійної ре-
гресії. Для урахування корельованості завад також необхідні рекурентні про-
цедури оцінювання статистичних характеристик.
‒ 2000
‒ 1000
0
1500
1000
0 50 100 150 200 250 300 350 400 450 500
‒ 1000
0
2000
1000
0 50 100 150 200 250 300 350 400 450 500
50 ISSN 1028-0979
Таким чином, отримані в даній роботі оцінки представляють швидше теоре-
тичний інтерес, оскільки характеризують граничні можливості алгоритму і дозво-
ляють під час вирішення практичних завдань заздалегідь оцінити можливості да-
ного алгоритму та ефективність його застосування.
О. Rudenko, O. Bezsonov
ON AN ALGORITHM FOR IDENTIFICATION
OF LINEAR PLANTS ON THE BASIS
OF THE LEAST EXCESS
Oleg Rudenko
Kharkiv National University of Radio Electronics,
oleg.rudenko@nure.ua
Oleksandr Bezsonov
Kharkiv National University of Radio Electronics,
oleksandr.bezsonov@nure.ua
The problem of identifying the parameters of a linear plant in the presence of
non-Gaussian noise is considered. The identification algorithm is a gradient pro-
cedure for minimizing the criterion of the least average kurtosis. The use of such
functional allows to obtain estimates that have robust properties. The identifica-
tion algorithm is a gradient procedure. The conditions for the convergence of the
applied procedure in the mean and the root-mean-square in the presence of non-
Gaussian measurement noises are determined. In addition, expressions have
been obtained for determining the optimal values of the algorithm parameter that
ensure its maximum convergence rate. Based on the estimates obtained, the asymp-
totic and non-asymptotic values of the parameter estimation errors and identifi-
cation errors are determined. Due to the fact that the obtained expressions con-
tain a number of unknown parameters (values of dispersions of signals and
noise), for their practical application, estimates of these parameters should be
used. The obtained relations are rather cumbersome, but their simplification al-
lows one to conduct a qualitative analysis of stability. It should be noted that all
the estimates obtained in the work depend on a number of parameters, the prob-
lem of their determining remains open. The estimates obtained in this work al-
low the researcher to assess preliminarily the capabilities of the identification
algorithm and the effectiveness of its use in solving practical problems
Keywords: kurtosis, functional, gradient algorithm, weighing parameter, asymptotic
estimate, identification accuracy, noise, established process
REFERENCES
1. Бедельбаева А.А. Релейные алгоритмы оценивания. Автоматика и телемеханика. 1978.
№ 1. С. 87–95.
2. Shao T., Zheng Y.R., Benesty J. An affine projection sign algorithm robust against impulsive in-
terferences. IEEE Signal Process. Lett. 2010. 17, N 4. Р. 327–330. doi: https://doi.org/10.1109/
lsp.2010.2040203.
3. Shin J., Yoo J., Park P. Variable step-size affine projection sign algorithm. Electronics Letters.
2012. 48, N 9. Р. 483. doi: https://doi.org/ 10.1049/el.2012.0751.
4. Lu L., Zhao H., Li K., Chen B. A novel normalized sign algorithm for system identification under im-
pulsive noise interference. Circuits, Systems, and Signal Processing. 2015. 35, N 9. Р. 3244–3265.
doi: https://doi.org/10.1007/s00034-015-0195-1.
5. Huang H.-C., Lee J. A new variable step-size NLMS algorithm and its performance analysis.
IEEE Transactions on Signal Processing. 2012. 60, N 4. Р. 2055–2060. doi: https://doi.org/-
10.1109/tsp.2011.2181505.
Міжнародний науково-технічний журнал
«Проблеми керування та інформатики», 2022, № 2 51
6. Casco-Sánchez F.M., Medina-Ramírez R.C., López-Guerrero M. A new variable step-size NLMS
algorithm and its performance evaluation in echo cancelling applications. J. of Applied Research
and Technology. 2011. 9, N 3. Р. 302–313.
7. Huber P.J. Robust methods of estimation of regression coefficients. Series Statistics. 1977. 8, N 1.
Р. 41–53. doi: https://doi.org/ 10.1080/02331887708801356.
8. Hampel F.R. The influence curve and its role in robust estimation. Journal of the American Statis-
tical Association. 1974. 69, N 346. Р. 383–393. doi: https://doi.org/10.1080/01621459.1974.
10482962.
9. Adamczyk T. Application of the Huber and Hampel M-estimation in real estate value modeling.
Geomatics and Environmental Engineering. 2017. 11, N 1. doi: https://doi.org/10.7494/
geom.2017.11.1.15.
10. Руденко O.Г., Бессонов A.A. Робастное обучение радиально-базисных сетей. Кибернетика
и системный анализ. 2011. № 6. С. 38–46.
11. Руденко O.Г., Бессонов A.A. Робастная нейроэволюционная идентификация нестационар-
ных объектов. Кибернетика и системный анализ. 2014. № 5. С. 21–36.
12. Руденко O.Г., Бессонов A.A. Руденко С.O. Робастная идентификация нелинейных объектов
с помощью эволюцинирующей радиально-базисной сети. Кибернетика и системный ана-
лиз. 2013. № 2. С. 15–26.
13. Rudenko O., Bezsonov O. Function approximation using robust radial basis function networks.
Journal of Intelligent Learning Systems and Applications. 2011. 3, N 1. Р. 17–25. doi: https://-
doi.org/10.4236/jilsa.2011.31003.
14. Chambers J.A., Tanrikulu O., Constantinides A.G. Least mean mixed-norm adaptive filtering.
Electronics Letters. 1994. 30, N 19. Р. 1574–1575. doi: https://doi.org/10.1049/el:19941060.
15. Rakesh P., Kumar T.K., Albu F. Modified least-mean mixed-norm algorithms for adaptive sparse
system identification under impulsive noise environment. 42nd International Conference on Tele-
communications and Signal Processing (TSP). 2019. P. 557–561. doi: https://doi.org/10.1109/-
tsp.2019.8768813.
16. Papoulis E.V., Stathaki T. A normalized robust mixed-norm adaptive algorithm for system identi-
fication. IEEE Signal Processing Letters. 2004. 11, N 1. 56–59. doi: https://doi.org/10.1109/
lsp.2003.819353.
17. Arenas-García J., Figueiras-Vidal A.R. Adaptive combination of normalised filters for robust sys-
tem identification. Electronics Letters. 2005. 41, N 15. P. 874. doi: https://doi.org/10.1049/
el:20051936.
18. Rudenko O., Bezsonov О., Lebediev О., Serdiuk N. Robust identification of non-stationary ob-
jects with nongaussian interference. Eastern-European Journal of Enterprise Technologies. 2019.
N 5/4 (101). Р. 44–52. doi: 10.15587/1729-4061.2019.181256.
19. Walach E., Widrow B. The least mean fourth (LMF) adaptive algorithm and its family. IEEE
Transactions on Information Theory. 1984. 30, N 2. Р. 275–283. doi: https://doi.org/10.1109/
tit.1984.1056886.
20. Bershad N.J., Bermudez J.C.M. Mean-square stability of the normalized least-mean fourth algo-
rithm for white gaussian inputs. Digital Signal Processing. 2011. 21, N 6. Р. 694–700. doi:
https://doi.org/10.1016/j.dsp.2011.06.002.
21. Eweda E., Zerguine A. New insights into the normalization of the least mean fourth algorithm.
Signal, Image and Video Processing. 2011. 7, N 2. Р. 255–262. doi: https://doi.org/10.1007/
s11760-011-0231-y.
22. Eweda E. Global stabilization of the least mean fourth algorithm. IEEE Transactions on Signal
Processing. 2012. 60, N 3. Р. 1473–1477. doi: https://doi.org/10.1109/tsp.2011.2177976.
23. Eweda E., Bershad N.J. Stochastic analysis of a stable normalized least mean fourth algorithm for
adaptive noise canceling with a white gaussian reference. IEEE Transactions on Signal Pro-
cessing. 2012. 60, N 12. Р. 6235–6244. doi: https://doi.org/ 10.1109/tsp.2012.2215607 20.
24. Hubscher P.I., Bermudez J.C.M., Nascimento Ví.H. A mean-square stability analysis of the least
mean fourth adaptive algorithm. IEEE Transactions on Signal Processing. 2007. 55, N 8.
Р. 4018–4028. doi: https://doi.org/10.1109/tsp.2007.894423.
25. Zhang J., Zhang S. Fast stable normalized least mean absolute fourth algorithm. Electron Lett.
2015. 51, N 2. Р. 1276–1277. doi:10.1049/ el.2015.0421.
26. Guan S., Meng C., Biswal B. Optimal step-size of least mean fourth algorithm in low SNR. 2019.
https: arXiv preprint arXiv: 1908.08165,2019-arxiv.org.
52 ISSN 1028-0979
27. Asad S.M., Chambers J. A robust and stable variable step-size design for the least mean fourth al-
gorithm using quotient form. Signal Processing. 2019. 162. Р. 196–210. doi: https://doi.org/
10.1016/j.sigpro.2019.04.021.
28. Mansoor U., Mayyala Q., Moinuddin M., Zerguine A. Quasi-Newton least-mean fourth adaptive
algorithm. 2017 25th European Signal Processing Conference (EUSIPCO). 2017. P. 2708–2712.
doi: 10.23919/ EUSIPCO.2017.8081689.
29. Sadiq A., Usmany M., Khany S., Naseemz I., Moinuddinx M., Al-Saggaf U. q-LMF: quantum
calculus-based least mean fourth algorithm. 2019. arXiv:1812.02588v2 [eess.SP] 20 Dec 2018.
30. Zerguine А., Cowan CFN,. Bettayeb М. LMS-LMF adaptive scheme for echo cancellation. Elec-
tron Lett. 1996. 32, N 19. Р. 1776–1778. doi:10.1049/el:19961202.
31. Zerguine А., Aboulnasr Т. Convergence analysis of the variable weight mixed-norm LMS-LMF
adaptive algorithm. Іn Proc 34th Annual Asilomar Conf Signals, Syst, Comput. 2000. Р. 249–282.
32. Zerguine А. A variable-parameter normalized mixed-norm (VPNMN) adaptive algorithm. EUR-
ASIP Journal on Advances in Signal Processing. 2012. N 55. 13 p. http://asp.eurasipjournals.
com/content/2012/1/55.
33. Rudenko O., Bezsonov О., Lebediev О., Lebediev, Оliinyk K. Studying the properties of a robust
algorithm for identifying linear objects, which minimizes a combined functional. Eastern-
European Journal of Enterprise Technologies. 2020. N 4/4 (106). P. 37–46. doi: 10.15587/1729-
4061.2020.210129.
34. Tanrikulu O., Constantinendes A.G. Least Mean Kurtosis: A novel higher-order statistics based
adaptive filtering algorithm. Electronics Letters. 1984. 30, N 3. Р. 189–190.
35. Fonolossa J.A.F. Adaptive system identification based on high order statistics. Proc. ICASSP
1991 Toronto, Canada. 1991. Р. 3437–3440.
36. Pazaitis D.I., Constantinides A.G. LMS+F algorithm. IEE Electron. Lett. 1995. 17, N 31.
Р. 1423–1424.
37. Pazaitis D.I., Constantinides A.G. A novel kurtosis driven variable step-size adaptive algorithm.
IEEE Trans. Signal Processing. 1999. 47, N 3. Р. 864–872.
38. Qu H., Mа W.-T., Zhao J.-H., Chen B.-D. Kernel least mean kurtosis based online chaotic time
series prediction. Сhin. phys. lett. 2013. 30, N 4. 5 р. doi: 10.1088/0256-307X/30/11/110505.
39. Sanubari J. Analysis of steady-state excess mean-square-error of the least mean kurtosis adaptive
algorithm. 14th European Signal Processing Conference (EUSIPCO 2006), Florence, Italy, Sep-
tember 4-8, 2006. 5 р.
40. Bershad N.J., Bermudez J.C.M. Stochastic analysis of the least mean kurtosis algorithm for
Gaussian inputs. Digital Signal Processing. 2016. 54, N 6. Р. 1–11. http://dx.doi.org/10.1016/
j.dsp.2016.03.012.
41. Hübscher P.I., Bermudez J.C.M. Properties of the kurtosis performance surface in linear estima-
tion: application to adaptive filtering. Proc. of the 2004 IEEE International Conference on Acous-
tics, Speech, and Signal Processing, IEEE, Montreal, Canada. 2004. P. 837–840.
42. Hübscher P.I., Bermudez J.C.M. A model for the behavior of the least mean kurtosis (LMK)
adaptive algorithm with Gaussian inputs. Proc. of the 2002 International Telecommunications
Symposium, SBrT, Natal, RN, Brazil, 2002.
43. Eghbal M.K., Alipoor G. LMSK: a robust higher-order gradient-based adaptive algorithm. IET
Signal Processing. 2019. 13, N 5. P. 506–515. doi: 10.1049/iet-spr.2018.5242.
44. Гладышев E.Г. О стохастической аппроксимации. Теория вероятности и ее применения.
1965. 10, № 2. С. 275–278. doi: https://doi.org/10.1137/1110031.
45. Spiegel M.S., Lin, J. Mathematical handbook of formulas and tables. Third ED. N.Y. 2008. 312 р.
Отримано 24.12.2021
http://asp.eurasipjournals.com/content/2012/1/55
http://asp.eurasipjournals.com/content/2012/1/55
http://dx.doi.org/10.1016/j.dsp.2016.03.012
http://dx.doi.org/10.1016/j.dsp.2016.03.012
|
| id | nasplib_isofts_kiev_ua-123456789-210874 |
| institution | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| issn | 0572-2691 |
| language | Ukrainian |
| last_indexed | 2026-03-12T12:31:09Z |
| publishDate | 2022 |
| publisher | Інститут кібернетики ім. В.М. Глушкова НАН України |
| record_format | dspace |
| spelling | Руденко, О.Г. Безсонов, О.О. 2025-12-19T17:18:20Z 2022 Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу / О.Г. Руденко, О.О. Безсонов // Проблеми керування та інформатики. — 2022. — № 2. — С. 39-52. — Бібліогр.: 45 назв. — укр. 0572-2691 https://nasplib.isofts.kiev.ua/handle/123456789/210874 517.9;519.711 10.34229/2786-6505-2022-2-3 Розглянуто задачу ідентифікації параметрів лінійного обʼєкта за наявності негауссівських завад. Алгоритм ідентифікації є градієнтною процедурою мінімізації критерію найменшого середнього ексцесу. Використання такого функціоналу дозволяє отримати оцінки з робастними властивостями. Алгоритм ідентифікації — це градієнтна процедура. Визначено умови збіжності процедури, що застосовується, в середньому і середньоквадратичному за наявності негауссівських завад вимірів. Крім того, отримано оцінки для визначення оптимального значення параметра алгоритму, що забезпечують його максимальну швидкість збіжності. На основі цих оцінок визначено асимптотичні та неасимптотичні значення похибок оцінювання параметрів та похибок ідентифікації. У звʼязку з цим отримані вирази містять невідомі параметри (значення дисперсій сигналів і завад). Для їх застосування слід використовувати оцінки цих параметрів. Отримані співвідношення досить громіздкі, однак їх спрощення дозволяє провести якісний аналіз сталості. Слід зазначити, що всі отримані в роботі оцінки залежать від низки параметрів, проблема визначення яких залишається відкритою. Вони дозволяють досліднику попередньо оцінити можливості алгоритму ідентифікації та ефективність його використання при вирішенні практичних задач. The problem of parameter identification for a linear object in the presence of non-Gaussian noise is considered. The identification algorithm is a gradient procedure for minimizing the least mean excess criterion. Using such functionality allows for obtaining estimates with robust properties. The identification algorithm is a gradient procedure. The convergence conditions of the applied procedure are defined in the mean and mean square sense in the presence of non-Gaussian measurement noise. Additionally, estimates for determining the optimal value of the algorithm parameter, ensuring its maximum convergence speed, are obtained. uk Інститут кібернетики ім. В.М. Глушкова НАН України Проблемы управления и информатики Адаптивне керування та методи ідентифікації Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу On an algorithm for identifying linear objects based on the least excess. Article published earlier |
| spellingShingle | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу Руденко, О.Г. Безсонов, О.О. Адаптивне керування та методи ідентифікації |
| title | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу |
| title_alt | On an algorithm for identifying linear objects based on the least excess. |
| title_full | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу |
| title_fullStr | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу |
| title_full_unstemmed | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу |
| title_short | Про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу |
| title_sort | про один алгоритм ідентифікації лінійних обʼєктів на основі найменшого ексцесу |
| topic | Адаптивне керування та методи ідентифікації |
| topic_facet | Адаптивне керування та методи ідентифікації |
| url | https://nasplib.isofts.kiev.ua/handle/123456789/210874 |
| work_keys_str_mv | AT rudenkoog proodinalgoritmídentifíkacíílíníinihobʼêktívnaosnovínaimenšogoekscesu AT bezsonovoo proodinalgoritmídentifíkacíílíníinihobʼêktívnaosnovínaimenšogoekscesu AT rudenkoog onanalgorithmforidentifyinglinearobjectsbasedontheleastexcess AT bezsonovoo onanalgorithmforidentifyinglinearobjectsbasedontheleastexcess |