Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы
Предложен метод обучения нейро-фаззи систем, который включает процессы эволюции архитектуры, самообучения функций принадлежности и обучения синаптических весов. Этот подход обеспечивает высокое быстродействие и возможность обрабатывать информацию в on line режиме, адаптируя при этом параметры и стру...
Saved in:
| Published in: | Кибернетика и системный анализ |
|---|---|
| Date: | 2015 |
| Main Authors: | , , |
| Format: | Article |
| Language: | Russian |
| Published: |
Інститут кібернетики ім. В.М. Глушкова НАН України
2015
|
| Subjects: | |
| Online Access: | https://nasplib.isofts.kiev.ua/handle/123456789/124833 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| Journal Title: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Cite this: | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы / Е.В. Бодянский, Е.А. Бойко, И.П. Плисс // Кибернетика и системный анализ. — 2015. — Т. 51, № 4. — С. 13-18. — Бібліогр.: 21 назв. — рос. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| _version_ | 1860118986346201088 |
|---|---|
| author | Бодянский, Е.В. Бойко, Е.А. Плисс, И.П. |
| author_facet | Бодянский, Е.В. Бойко, Е.А. Плисс, И.П. |
| citation_txt | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы / Е.В. Бодянский, Е.А. Бойко, И.П. Плисс // Кибернетика и системный анализ. — 2015. — Т. 51, № 4. — С. 13-18. — Бібліогр.: 21 назв. — рос. |
| collection | DSpace DC |
| container_title | Кибернетика и системный анализ |
| description | Предложен метод обучения нейро-фаззи систем, который включает процессы эволюции архитектуры, самообучения функций принадлежности и обучения синаптических весов. Этот подход обеспечивает высокое быстродействие и возможность обрабатывать информацию в on line режиме, адаптируя при этом параметры и структуру системы к условиям задачи.
Запропоновано метод навчання нейро-фаззі систем, який поєднує процеси еволюції архітектури, самонавчання функцій належності і навчання синаптичних ваг. Цей підхід забезпечує високу швидкодію і можливість обробляти інформацію в on line режимі, адаптуючи при цьому параметри і структуру системи до умов задачі.
A neuro-fuzzy system learning method is proposed. It combines architecture evolving processes, membership functions self-learning, and synaptic weights learning. This method provides quick response and on-line information processing by adapting the system parameters and structure to problem conditions.
|
| first_indexed | 2025-12-07T17:38:37Z |
| format | Article |
| fulltext |
ÓÄÊ 004.032.26
Å.Â. ÁÎÄßÍÑÊÈÉ, Å.À. ÁÎÉÊÎ, È.Ï. ÏËÈÑÑ
ÀÄÀÏÒÈÂÍÛÉ ÌÅÒÎÄ ÃÈÁÐÈÄÍÎÃÎ ÎÁÓ×ÅÍÈß
ÝÂÎËÞÖÈÎÍÈÐÓÞÙÅÉ ÍÅÉÐÎ-ÔÀÇÇÈ ÑÈÑÒÅÌÛ
Àííîòàöèÿ. Ïðåäëîæåí ìåòîä îáó÷åíèÿ íåéðî-ôàççè ñèñòåì, êîòîðûé âêëþ÷àåò ïðîöåññû
ýâîëþöèè àðõèòåêòóðû, ñàìîîáó÷åíèÿ ôóíêöèé ïðèíàäëåæíîñòè è îáó÷åíèÿ ñèíàïòè÷åñ-
êèõ âåñîâ. Ýòîò ïîäõîä îáåñïå÷èâàåò âûñîêîå áûñòðîäåéñòâèå è âîçìîæíîñòü îáðàáàòû-
âàòü èíôîðìàöèþ â on line ðåæèìå, àäàïòèðóÿ ïðè ýòîì ïàðàìåòðû è ñòðóêòóðó ñèñòåìû
ê óñëîâèÿì çàäà÷è.
Êëþ÷åâûå ñëîâà: íåéðî-ôàççè ñèñòåìà, ãèáðèäíîå îáó÷åíèå, ýâîëþöèîíèðóþùàÿ ñèñòå-
ìà, âû÷èñëèòåëüíûé èíòåëëåêò, ýâîëþöèÿ àðõèòåêòóðû.
ÂÂÅÄÅÍÈÅ
 íàñòîÿùåå âðåìÿ íåéðî-ôàççè ñèñòåìû (NFS) âû÷èñëèòåëüíîãî èíòåëëåêòà
[1–4] âñëåäñòâèå óíèâåðñàëüíûõ àïïðîêñèìèðóþùèõ âîçìîæíîñòåé, ñïîñîá-
íîñòè îáó÷àòüñÿ íà îñíîâàíèè äàííûõ, õàðàêòåðèçóþùèõ ôóíêöèîíèðîâàíèå
èññëåäóåìîãî ÿâëåíèÿ èëè îáúåêòà, à òàêæå ëèíãâèñòè÷åñêîé èíòåðïðåòàöèè
ïîëó÷àåìûõ ðåçóëüòàòîâ øèðîêî ïðèìåíÿþòñÿ äëÿ ðåøåíèÿ ðàçëè÷íûõ çàäà÷
Data Mining, èíòåëëåêòóàëüíîãî óïðàâëåíèÿ, ïðîãíîçèðîâàíèÿ, èäåíòèôèêàöèè,
ýìóëÿöèè è ò.ï. â óñëîâèÿõ íåîïðåäåëåííîñòè, íåëèíåéíîñòè, ñòîõàñòè÷íîñòè
è õàîòè÷íîñòè, ðàçíîîáðàçíûõ âîçìóùåíèé è ïîìåõ.
 ñëó÷àå íåîáõîäèìîñòè îáðàáîòêè èíôîðìàöèè â àäàïòèâíîì on line ðåæè-
ìå ïðåæäå âñåãî âîçíèêàåò ïðîáëåìà ñêîðîñòè ñõîäèìîñòè ïðîöåññà îáó÷åíèÿ,
ñóùåñòâåííî îãðàíè÷èâàþùàÿ êîëè÷åñòâî NFS, ïðèãîäíûõ äëÿ ðàáîòû â ýòèõ
óñëîâèÿõ. Â ñâÿçè ñ ýòèì íàèáîëåå ýôôåêòèâíû ANFIS- è TSK-ñèñòåìû [1, 2, 5],
âûõîäíîé ñèãíàë êîòîðûõ ëèíåéíî çàâèñèò îò íàñòðàèâàåìûõ ïàðàìåòðîâ (ñè-
íàïòè÷åñêèõ âåñîâ), ÷òî ïîçâîëÿåò èñïîëüçîâàòü äëÿ èõ îáó÷åíèÿ ìíîæåñòâî èç-
âåñòíûõ ëèíåéíûõ àëãîðèòìîâ îáó÷åíèÿ [6], ìåòîäîâ àäàïòèâíîé èäåíòèôèêà-
öèè [7, 8], èìåþùèõ âûñîêîå áûñòðîäåéñòâèå.
Âìåñòå ñ òåì, ÷òîáû èçáåæàòü âîçíèêíîâåíèÿ «äûð» â ïðîñòðàíñòâå âõîäíûõ
ñèãíàëîâ â ðåçóëüòàòå ðàññåÿííîãî ðàçáèåíèÿ (scatter partitioning) [9], èñïîëüçóå-
ìîãî â ANFIS- è TSK-ñèñòåìàõ, íåîáõîäèìî îïðåäåëÿòü è íàñòðàèâàòü ïàðàìåò-
ðû ôóíêöèé ïðèíàäëåæíîñòè â ïåðâîì ñêðûòîì ñëîå NFS, êîëè÷åñòâî êîòîðûõ
îáû÷íî âûáèðàåòñÿ èç ñóãóáî ýìïèðè÷åñêèõ ïðåäïîëîæåíèé. Äëÿ íàñòðîéêè ïà-
ðàìåòðîâ ôóíêöèé ïðèíàäëåæíîñòè, êàê ïðàâèëî, èñïîëüçóåòñÿ àëãîðèòì îáðàò-
íîãî ðàñïðîñòðàíåíèÿ îøèáîê, ðåàëèçóåìûé íà ìíîæåñòâå ýïîõ [6], òàê ÷òî
ðàññìàòðèâàòü îáó÷åíèå â on line ðåæèìå â äàííîì ñëó÷àå íå áóäåì.
 ñâÿçè ñ ýòèì öåëåñîîáðàçíà ðàçðàáîòêà ìåòîäà àäàïòèâíîé íàñòðîéêè
ïàðàìåòðîâ ôóíêöèé ïðèíàäëåæíîñòè, à òàêæå îïðåäåëåíèå èõ êîëè÷åñòâà íåïî-
ñðåäñòâåííî â ïðîöåññå îáó÷åíèÿ NFS ïî ìåðå ïîñëåäîâàòåëüíîãî ïîñòóïëåíèÿ
íà åå âõîä äàííûõ îáó÷àþùåé âûáîðêè. Äëÿ ðåøåíèÿ ýòîé çàäà÷è ìîæíî âîñ-
ïîëüçîâàòüñÿ ìåòîäàìè òåîðèè ýâîëþöèîíèðóþùèõ ñèñòåì âû÷èñëèòåëüíîãî èí-
òåëëåêòà [10–14], ñî÷åòàÿ ïðè ýòîì ïàðàäèãìû êîíòðîëèðóåìîãî îáó÷åíèÿ
(ñ ó÷èòåëåì) è ñàìîîáó÷åíèÿ (áåç ó÷èòåëÿ).
ÀÐÕÈÒÅÊÒÓÐÀ ÝÂÎËÞÖÈÎÍÈÐÓÞÙÅÉ ÍÅÉÐÎ-ÔÀÇÇÈ ÑÈÑÒÅÌÛ
Àðõèòåêòóðà ðàññìàòðèâàåìîé ñèñòåìû, ïðèâåäåííàÿ íà ðèñ. 1, ñîñòîèò èç
ïÿòè ïîñëåäîâàòåëüíûõ ñëîåâ.
Íà âõîäíîé ñëîé NFS ïîäàåòñÿ ( )n´1 -ìåðíûé âåêòîð ïîäëåæàùèõ îáðàáîòêå
ñèãíàëîâ-îáðàçîâ x k x k x k x kn( ) ( ( ), ( ), ..., ( ))= 1 2
T , ãäå k =1 2, ,K — òåêóùåå äèñ-
êðåòíîå âðåìÿ. Ïåðâûé ñêðûòûé ñëîé ñîäåðæèò h óçëîâ (ñì. ðèñ. 1) è nh ôóíêöèé
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2015, òîì 51, ¹ 4 13
Ó Å.Â. Áîäÿíñêèé, Å.À. Áîéêî, È.Ï. Ïëèññ, 2015
ïðèíàäëåæíîñòè m li ix( ), i n=1 2, , ..., , l h=1 2, , ..., , è âûïîëíÿåò ôàççèôèêàöèþ
âõîäíîãî ïðîñòðàíñòâà. Ïðè ýòîì ïîäðàçóìåâàåòñÿ, ÷òî â ïðîöåññå îáó÷å-
íèÿ–ýâîëþöèè íàñòðàèâàþòñÿ ïàðàìåòðû ýòèõ ôóíêöèé è îïðåäåëÿåòñÿ èõ ÷èñëî.
Âòîðîé ñêðûòûé ñëîé îáåñïå÷èâàåò àãðåãèðîâàíèå óðîâíåé ïðèíàäëåæíîñ-
òè, ðàññ÷èòàííûõ â ïåðâîì ñêðûòîì ñëîå, è ñîñòîèò èç h áëîêîâ óìíîæåíèÿ. Òðå-
òèé ñêðûòûé ñëîé ñîäåðæèò íàñòðàèâàåìûå ñèíàïòè÷åñêèå âåñà w w wh1 2, , ..., ,
îïðåäåëÿåìûå â ïðîöåññå êîíòðîëèðóåìîãî îáó÷åíèÿ. ×åòâåðòûé ñêðûòûé ñëîé
îáðàçîâàí äâóìÿ ñóììàòîðàìè è âû÷èñëÿåò ñóììû âûõîäíûõ ñèãíàëîâ âòîðîãî è
òðåòüåãî ñêðûòûõ ñëîåâ. È íàêîíåö, â ïÿòîì (âûõîäíîì) ñêðûòîì ñëîå ïðîâîäèòñÿ
äåôàççèôèêàöèÿ, â ðåçóëüòàòå êîòîðîé âû÷èñëÿåòñÿ âûõîäíîé ñèãíàë NFS $ ( )y k .
Òàêèì îáðàçîì, åñëè íà âõîä NFS ïîäàí âåêòîðíûé ñèãíàë x k( ), ýëåìåíòû
ïåðâîãî ñêðûòîãî ñëîÿ ïðîâîäÿò åãî ôàççèôèêàöèþ, âû÷èñëÿÿ óðîâíè ïðèíàä-
ëåæíîñòè 0 1< £m li ix k( ( )) . Îáû÷íî â êà÷åñòâå ôóíêöèé ïðèíàäëåæíîñòè èñ-
ïîëüçóþòñÿ òðàäèöèîííûå ãàóññèàíû
m
s
li i
i li
i
x k
x k c
( ( ))
( ( ) )
= -
-æ
è
ç
ç
ö
ø
÷
÷
exp
2
22
, (1)
ãäå ñli , s i — ïàðàìåòðû öåíòðîâ è øèðèíû ñîîòâåòñòâåííî. Çàìåòèì òàêæå,
÷òî ïðåäâàðèòåëüíîå íîðìèðîâàíèå äàííûõ íà íåêîòîðûé èíòåðâàë, íàïðèìåð
- £ £1 1x ki ( ) , ïîçâîëÿåò óïðîñòèòü ðàñ÷åòû, ïîñêîëüêó ïàðàìåòðû øèðèíû s i
ìîæíî ïðèíÿòü îäèíàêîâûìè äëÿ âñåõ âõîäîâ, ò.å. s si = .
Êðîìå ãàóññèàíîâ (1) ìîæíî èñïîëüçîâàòü è èíûå ÿäåðíûå ôóíêöèè, íàïðè-
ìåð B-ñïëàéíû, ñîîòâåòñòâóþùèå óñëîâèþ åäèíè÷íîãî ðàçáèåíèÿ, à òàêæå ÷åò-
íûå âýéâëåòû, ãèáêèå ôóíêöèè àêòèâàöèè–ïðèíàäëåæíîñòè [15, 16] è ò.ä.
14 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2015, òîì 51, ¹ 4
Ðèñ. 1. Àðõèòåêòóðà ýâîëþöèîíèðóþùåé íåéðî-ôàççè ñèñòåìû
m11 1( )x
m12 2( )x
m1i ix( )
m21 1( )x
m22 2( )x
m2n nx( )
mh x1 1( )
mh x2 2( )
mhn nx( )
m1
w2
w1
Àëãîðèòì
îáó÷åíèÿ–ñàìîîáó÷åíèÿ
m2
1
i i
i
n
x( )
=
Õ
m1
1
i i
i
n
x( )
=
Õ
mhn i
i
n
x( )
=
Õ
1
w x
l li i
i
n
l
h
m ( )
==
Õå
11
mli i
i
n
l
h
x( )
==
Õå
11
+ y-
m2
m
h
xn
x2
x1
Âî âòîðîì ñêðûòîì ñëîå âû÷èñëÿþòñÿ àãðåãèðîâàííûå çíà÷åíèÿ
m li i
i
n
x k( ( ))
=
Õ
1
, ïðè ýòîì äëÿ ãàóññèàíîâ ñ îäèíàêîâûìè ïàðàìåòðàìè øèðèíû
m
s
li i
i
n
i li
i
n
x k
x k c
( ( ))
( ( ) )
= =
Õ Õ= -
-æ
è
ç
ç
ö
ø
÷
÷
=
1
2
2
1 2
exp exp -
-æ
è
ç
ç
ö
ø
÷
÷
| | ( ) | |x k cl
2
22s
,
ãäå c c c cl l l l n= ( , , ..., )1 2
T , ò.å. ñèãíàëû íà âûõîäàõ áëîêîâ óìíîæåíèÿ âòîðîãî
ñêðûòîãî ñëîÿ àíàëîãè÷íû ñèãíàëàì íà âûõîäàõ íåéðîíîâ ïåðâîãî ñêðûòîãî
ñëîÿ îáû÷íûõ ñåòåé ðàäèàëüíî-áàçèñíûõ ôóíêöèé (Radial Basis Function
Network, RBFN) [6].
Âûõîäàìè òðåòüåãî ñêðûòîãî ñëîÿ åñòü çíà÷åíèÿ w x kl li i
i
n
m ( ( ))
=
Õ
1
, ÷åòâåð-
òîãî — çíà÷åíèÿ w x kl
l
h
li i
i
n
= =
å Õ
1 1
m ( ( )) è m li i
i
n
l
h
x k( ( ))
==
Õå
11
è, íàêîíåö, íà âûõîäå
ñèñòåìû (ïÿòîãî âûõîäíîãî ñëîÿ) ïîÿâëÿåòñÿ ñèãíàë
$ ( ( ))
( ( ))
( ( ))
y x k
w x k
x k
l li i
i
n
l
h
li i
i
n
l
h
= ==
==
Õå
Õ
m
m
11
11
å
å
Õ
Õå
= =
=
=
==
w
x k
x k
l
l
h li i
i
n
li i
i
n
l
h
1
1
11
m
m
( ( ))
( ( ))
= =
=
å w x k w x kl l
l
h
h hj j( ( )) ( ( ))
1
T , (2)
ãäå
j
m
m
l
li i
i
n
li i
i
n
l
h
x k
x k
x k
( ( ))
( ( ))
( ( ))
= =
==
Õ
Õå
1
11
, w w w wh
h= ( , , ..., )1 2
T ,
j j j jh
hx k x k x k x k( ( )) ( ( ( )), ( ( )), ..., ( ( )))= 1 2
T .
Íåñëîæíî çàìåòèòü, ÷òî ðàññìàòðèâàåìàÿ ñèñòåìà ðåàëèçóåò íåëèíåéíîå
îòîáðàæåíèå âõîäíîãî ïðîñòðàíñòâà â ñêàëÿðíûé âûõîäíîé ñèãíàë (R Rn ® 1)
ïîäîáíî íîðìàëèçîâàííîé RBFN [8], à åå àðõèòåêòóðà (ïðè ôèêñèðîâàííîì h)
ñîâïàäàåò ñ TSK-ñèñòåìîé íóëåâîãî ïîðÿäêà, ò.å. ñ àðõèòåêòóðîé Âàíãà–Ìåíäåëÿ [17].
ÑÀÌÎÎÁÓ×ÅÍÈÅ–ÝÂÎËÞÖÈß ÏÅÐÂÎÃÎ ÑÊÐÛÒÎÃÎ ÑËÎß
Ïðîöåññ íàñòðîéêè ïàðàìåòðîâ è óâåëè÷åíèå ÷èñëà ôóíêöèé ïðèíàäëåæíîñòè
ïðîèñõîäèò ñëåäóþùèì îáðàçîì. Ïóñòü íà âõîä ñèñòåìû, ó êîòîðîé â èñõîä-
íîì ñîñòîÿíèè â ïåðâîì ñêðûòîì ñëîå íå èìååòñÿ ôóíêöèé ïðèíàäëåæíîñòè,
ïîñòóïàåò ïåðâûé ñèãíàë îáó÷àþùåé âûáîðêè x x x xn( ) ( ( ), ( ), ..., ( ))1 1 1 11 2= T .
Äàííîå íàáëþäåíèå ôîðìèðóåò ïåðâûé óçåë ïåðâîãî ñêðûòîãî ñëîÿ m1 òàê,
÷òî c xi i1 1 1( ) ( )= . Òàêèì îáðàçîì ñîçäàåòñÿ n ôóíêöèé ïðèíàäëåæíîñòè è ôîð-
ìèðóåòñÿ åäèíñòâåííûé ñèíàïòè÷åñêèé âåñ w1 0( ), çàäàâàåìûé ñëó÷àéíî â èí-
òåðâàëå - £ £1 0 11w ( ) . Äàëåå äëÿ ýòîé ôóíêöèè ïðèíàäëåæíîñòè m1 çàäàåòñÿ
ðàäèóñ ñîñåäñòâà r, îïðåäåëÿåìûé ìàêñèìàëüíî âîçìîæíûì ÷èñëîì h ôóíêöèè
ïðèíàäëåæíîñòè â NFS. Òàê, åñëè ôóíêöèè ïðèíàäëåæíîñòè ïî îñÿì ðàñïðåäå-
ëåíû ðàâíîìåðíî, òî r
h
=
-
2
1
.
Äàëåå ïðè ïîñòóïëåíèè âòîðîãî âåêòîðíîãî ñèãíàëà x( )2 ïðîâåðÿåòñÿ óñëî-
âèå
max| ( )|
i
i ic x r1 2- £ , (2)
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2015, òîì 51, ¹ 4 15
16 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2015, òîì 51, ¹ 4
è, åñëè îíî âûïîëíÿåòñÿ, ïðîâîäèòñÿ êîððåêöèÿ öåíòðîâ ôóíêöèé ïðèíàäëåæ-
íîñòè óçëà m1 ñîãëàñíî ïðàâèëó c c x ci i i i1 1 12 1 2 2 1( ) ( ) ( )( ( ) ( ))= + -h , ãäå h( )2 —
ïàðàìåòð øàãà îáó÷åíèÿ, ò.å. ïðè h( ) ,2 0 5= èìååì
c
c x
i
i i
1
12
1 2
2
( )
( ) ( )
=
+
.
Åñëè óñëîâèå (2) íå âûïîëíÿåòñÿ, ôîðìèðóåòñÿ âòîðîé óçåë m2 ôóíêöèé
ïðèíàäëåæíîñòè ïåðâîãî ñêðûòîãî ñëîÿ, öåíòðû êîòîðûõ c xi i2 2 2( ) ( )= .
Îäíîâðåìåííî ñ óçëîì m2 â NFS ââîäèòñÿ âòîðîé ñèíàïòè÷åñêèé âåñ w2 , òàêæå
çàäàâàåìûé ñëó÷àéíûì îáðàçîì.
Ïóñòü ê ìîìåíòó ïîñòóïëåíèÿ íà âõîä NFS âåêòîðíîãî ñèãíàëà x k( ) ñôîðìè-
ðîâàíî p óçëîâ ôóíêöèé ïðèíàäëåæíîñòè m m m1 2, , ..., p , p h< , ñ öåíòðàìè
c kli ( )-1 , l p=1 2, , ..., , i n=1 2, , ..., , ïðè ýòîì ïðîâåðÿåòñÿ óñëîâèå
max| ( )| , , ...,
i
li ic x k r l p- £ " =1 2 , (3)
è, åñëè îíî âûïîëíÿåòñÿ, ïðîâîäèòñÿ êîððåêöèÿ öåíòðîâ ôóíêöèé ïðèíàäëåæ-
íîñòè, áëèæàéøèõ ê ñîîòâåòñòâóþùèì êîìïîíåíòàì x ki ( ) ñîãëàñíî ïðàâèëó
c k c k k x k c kli li i li( ) ( ) ( ) ( ( ) ( ))= - + - -1 1h . (4)
Íåñëîæíî çàìåòèòü, ÷òî ïðàâèëî (4) âåñüìà áëèçêî ê ïðàâèëó ñàìîîáó÷åíèÿ
Ò. Êîõîíåíà: «Ïîáåäèòåëü ïîëó÷àåò âñå» [18], êîòîðîå ðåàëèçóåòñÿ íà ãèïåðñôå-
ðå | | ( )| |x k 2 1= , òîãäà êàê ïðàâèëî (4) — íà ãèïåðêóáå | | ( )| |x k ¥ =1 .
Åñëè óñëîâèå (3) íå âûïîëíÿåòñÿ, â ñèñòåìå ôîðìèðóåòñÿ ( )p +1 -é, p h+ £1 ,
óçåë m p+1 ñ öåíòðàìè ôóíêöèé ïðèíàäëåæíîñòè c k x kp i i+ =1, ( ) ( ). Îäíîâðåìåííî
ñ óçëîì m p+1 ôîðìèðóåòñÿ ñèíàïòè÷åñêèé âåñ wp+1.
Äàííàÿ ïðîöåäóðà åñòü ãèáðèä ýâîëþöèîíèðóþùåãî àëãîðèòìà Í. Êàñàáîâà [13]
è ñàìîîáó÷àþùåéñÿ êàðòû Ò. Êîõîíåíà [18], ïðè ýòîì ïðîöåññ ýâîëþöèè àðõèòåêòóðû
è ñàìîîáó÷åíèÿ ôóíêöèé ïðèíàäëåæíîñòè ìîæåò ïðîèñõîäèòü êàê íåïðåðûâíî, òàê è
äî äîñòèæåíèÿ ïðåäåëüíîãî çíà÷åíèÿ nh ÷èñëà ôóíêöèé ïðèíàäëåæíîñòè.
ÀÄÀÏÒÈÂÍÎÅ ÎÁÓ×ÅÍÈÅ ÑÈÍÀÏÒÈ×ÅÑÊÈÕ ÂÅÑÎÂ
Êàê óæå îòìå÷àëîñü, äëÿ íàñòðîéêè ñèíàïòè÷åñêèõ âåñîâ NFS ìîæíî èñïîëü-
çîâàòü èçâåñòíûå àëãîðèòìû îáó÷åíèÿ–èäåíòèôèêàöèè, íàïðèìåð:
— ýêñïîíåíöèàëüíî-âçâåøåííûé ðåêóððåíòíûé ìåòîä íàèìåíüøèõ êâàäðàòîâ
w k w k
k y k w k x kh h
h h h
h
( ) ( )
( )( ( ) ( ) ( ( )))
(
= - +
- - -
+
1
1 1P T
T
j
b j x k k x k
x k
w k
k y k
h h
h
h
h
( )) ( ) ( ( ))
( ( ))
( )
( )( ( )
P
P
-
=
= - +
-
1
1
1
j
j
-
+ -
$ ( ( )))
( ( )) ( ) ( ( ))
( ( )),
(
y x k
x k k x k
x k
k
h
h h h
h
h
b j j
j
T P
P
1
) ( )
( ) ( ( )) ( ( )) ( )
(
= - -
- -
+
1
1
1 1
b
j j
b j
P
P PT
T
h
h h h h
h
k
k x k x k k
x( )) ( ) ( ( ))
( ( )) ( ( ))
k k x k
x x
h h
h h
k
P
T
-
æ
è
ç
ç
ö
ø
÷
÷
=
=
=
1
1
j
j t j t
t
å
æ
è
ç
ç
ö
ø
÷
÷
< £
ì
í
ï
ï
ï
ï
ï
ï
î
ï
ï
ï
ï
ï
ï
-1
0 1, ,b
(5)
ãäå y k( ) — âíåøíèé îáó÷àþùèé ñèãíàë, b — ïàðàìåòð çàáûâàíèÿ óñòàðåâøåé
èíôîðìàöèè;
— îïòèìàëüíûé ïî áûñòðîäåéñòâèþ ãðàäèåíòíûé îäíîøàãîâûé àëãîðèòì
Êà÷ìàæà–Óèäðîó–Õîôôà
w k w k
y k w k x k
x k
h h
h h
h
h( ) ( )
( ) ( ) ( ( ))
| | ( ( ))| |
= - +
- -
1
1
2
T j
j
j ( ( ))x k ; (6)
— àëãîðèòì îáó÷åíèÿ, èìåþùèé ñëåäÿùèå è ñãëàæèâàþùèå ñâîéñòâà [19, 20],
w k w k k y k w k x k xh h h h h h( ) ( ) ( ( )) ( ( ) ( ) ( ( ))) (= - + - --1 11b j jT ( )),
( ) ( ) | | ( ( ))| | , .
k
k k x kh h hb bb j b= - + £ £
ì
í
ï
îï 1 0 12
(7)
Îòìåòèì, ÷òî àëãîðèòìû (5) è (7) âçàèìîñâÿçàíû ñîîòíîøåíèåì
b h hk Tr k( ) ( )= P , à ïðè b = 0 àëãîðèòì (7) ïîäîáåí àëãîðèòìó (6).
Ïðîöåññ íàñòðîéêè ñèíàïòè÷åñêèõ âåñîâ ìîæåò ïðîõîäèòü îäíîâðåìåííî
ñ ñàìîîáó÷åíèåì–ýâîëþöèåé ïåðâîãî ñêðûòîãî ñëîÿ.
Ïóñòü ê ìîìåíòó ïîñòóïëåíèÿ âåêòîðíîãî ñèãíàëà x k( ) ñôîðìèðîâàíî p óçëîâ
ôóíêöèé ïðèíàäëåæíîñòè m m m1 2, , ..., p è ðàññ÷èòàí âåêòîð ñèíàïòè÷åñêèõ âå-
ñîâ w kp ( )-1 . Ïóñòü óñëîâèå (3) íå âûïîëíÿåòñÿ, ÷òî ïðèâîäèò ê ôîðìèðîâàíèþ
óçëà m
p+1
è çàäàíèþ ïðîèçâîëüíîãî íà÷àëüíîãî çíà÷åíèÿ ñèíàïòè÷åñêîãî âåñà
wp+1. Ïðè ýòîì âûõîäíîé ñèãíàë NFS ìîæíî ïðåäñòàâèòü â âèäå
$ ( ( )) ( ( )) ( ( ))y x k w k x kp p p+ + += -1 1 11 T j = - + + +w k x k w x kp p
p p
T ( ) ( ( )) ( ( ))1 1 1j j ,
à àëãîðèòì (7) — ñëåäóþùèì îáðàçîì:
w k
w k
w
kp
p
p
p+
+
+ -=
-
- - - - -
æ
è
ç
ç
ç
ç
ö
ø
÷
÷
÷
÷
+1
1
1 1
1
( )
( )
( )
( ( ))b ( ( ) $ ( ( )))
( ( ))
( ( ))
y k y x k
x k
x k
p
p
p
- - - - - -
æ
è
ç
ç
ç
ç
ö
ø
÷
+
+
1
1
j
j
÷
÷
÷
= - + +
ì
í
ï
+
+
,
( ) ( ) | | ( ( ))| | ( ( )).b bb j jp p p
p
k k x k x k1 2
1
21
ïï
î
ï
ï
ï
Êàê ìîæíî âèäåòü, ïðîöåññ îäíîâðåìåííûõ ýâîëþöèè–ñàìîáó÷åíèÿ–êîíòðîëè-
ðóåìîãî îáó÷åíèÿ íå âûçûâàåò âû÷èñëèòåëüíûõ ïðîáëåì.
ÐÅÇÓËÜÒÀÒÛ ÂÛ×ÈÑËÈÒÅËÜÍÎÃÎ ÝÊÑÏÅÐÈÌÅÍÒÀ
Ðåøåíèå çàäà÷è ýìóëÿöèè äèíàìè÷åñêîãî îáúåêòà [21], îïèñàííîãî óðàâíåíèåì
y k f y k y k y k u k u kp p p p( ) ( ( ), ( ), ( ), ( ), ( ))+ = - - -1 1 2 1 , (8)
ïîäòâåðæäàåò ýôôåêòèâíîñòü ïðåäëîæåííîãî ïîäõîäà.
Äëÿ ýìóëÿöèè îáúåêòà èñ-
ïîëüçîâàëàñü íåéðî-ôàççè ñèñ-
òåìà ñ êîëè÷åñòâîì âõîäîâ
n = 5. Îáó÷åíèå ñèñòåìû ïðî-
âîäèëîñü íà îñíîâå âûáîðêè,
ïîëó÷åííîé ñ ïîìîùüþ óðàâ-
íåíèÿ (8), ñ óïðàâëÿþùèìè ñèã-
íàëàìè f x x x x x( , , , , )1 2 3 4 5 =
=
- +
+ +
x x x x x x
x x
1 2 3 5 3 4
3
2
2
2
1
1
( )
è u k( ) =
= sin ( / )2 250pk äëÿ k < 500.
 êà÷åñòâå ïðîâåðî÷íûõ äàííûõ
ýìóëÿòîðà èñïîëüçîâàëñÿ äèíà-
ìè÷åñêèé îáúåêò (8) ñ àíàëîãè÷-
íûìè óïðàâëÿþùèìè ñèãíàëàìè
äëÿ k £ 500, à äàëåå äëÿ k > 500
âèä óïðàâëÿþùèõ ñèãíàëîâ ìåíÿëñÿ íà u k k k( ) , sin ( / ) , sin ( / )= +0 8 2 250 0 2 2 25p p .
Êðèòåðèåì êà÷åñòâà ïðîãíîçà ÿâëÿëàñü ñðåäíåêâàäðàòè÷íàÿ îøèáêà. Ðåçóëü-
òàòû ýìóëÿöèè äèíàìè÷åñêîãî îáúåêòà (8) ïðèâåäåíû íà ðèñ. 2. Êàê âèäíî, äâå
êðèâûå, ïðåäñòàâëÿþùèå ôàêòè÷åñêèå çíà÷åíèÿ (ñïëîøíàÿ ëèíèÿ) è çíà÷åíèÿ
ýìóëÿöèè (øòðèõîâàÿ ëèíèÿ), ïðàêòè÷åñêè ñîâïàäàþò.
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2015, òîì 51, ¹ 4 17
Ðèñ. 2. Ôðàãìåíò ðåçóëüòàòîâ ýìóëÿöèè äèíàìè÷åñêîãî
îáúåêòà
y
k
Äàííûé ýêñïåðèìåíò ïðîâîäèëñÿ äëÿ íåñêîëüêèõ çíà÷åíèé h. Òàê, ñðåäíå-
êâàäðàòè÷íàÿ îøèáêà ñîñòàâèëà 0,00145 ïðè h = 5; 0,00122 ïðè h =10; 0,00121 ïðè
h = 20. Êàê ñëåäóåò èç ïðèâåäåííûõ ýêñïåðèìåíòàëüíûõ ðåçóëüòàòîâ, ïðåäëîæåí-
íàÿ àðõèòåêòóðà íåéðî-ôàççè ñèñòåìû îáåñïå÷èâàåò âûñîêóþ òî÷íîñòü ýìóëÿöèè.
ÂÛÂÎÄÛ
Îïèñàí ìåòîä ãèáðèäíîãî îáó÷åíèÿ ìíîãîñëîéíûõ íåéðî-ôàççè ñèñòåì, âêëþ-
÷àþùèé ïðîöåññû ýâîëþöèè àðõèòåêòóðû, ñàìîîáó÷åíèÿ ôóíêöèé ïðèíàäëåæ-
íîñòè è êîíòðîëèðóåìîãî îáó÷åíèÿ ñèíàïòè÷åñêèõ âåñîâ. Îñíîâíûìè ïðåèìó-
ùåñòâàìè ïðåäëàãàåìîãî ïîäõîäà ê îáó÷åíèþ ÿâëÿþòñÿ ïðîñòîòà âû÷èñëåíèÿ,
âûñîêîå áûñòðîäåéñòâèå, èñïîëüçîâàíèå â àäàïòèâíîì on line ðåæèìå, îáåñïå-
÷åíèå âûñîêèõ àïïðîêñèìèðóþùèõ âîçìîæíîñòåé íàðÿäó ñî ñëåäÿùèìè è ôè-
ëüòðóþùèìè ñâîéñòâàìè.
ÑÏÈÑÎÊ ËÈÒÅÐÀÒÓÐÛ
1. J a n g J . - S . , S u n C . - T . , M i z u t a n i E . Neuro-fuzzy and soft computing: A computational
approach to learning and machine intelligence. — Upper Saddle River: Prentice Hall, 1997. — 640 p.
2. R u t k o w s k i L . Computational intelligence. Methods and techniques. — Berlin; Heidelberg:
Springer-Verlag, 2008. — 514 p.
3. K r u s e R . , B o r g e l t C . , K l a w o n n F . , M o e w e s C . , S t e i n b r e c h e r M . , H e l d P .
Computational intelligence. — Berlin: Springer, 2013. — 488 p.
4. D u K . - L . , S w a m y M . N . S . Neural networks and statistical learning. — London:
Springer-Verlag, 2014. — 824 p.
5. T a k a g i T . , S u g e n o M . Fuzzy identification of systems and its applications to modeling and
control // IEEE Trans. on Systems, Man, and Cybernetics. — 1985. — 15. — P. 116–132.
6. H a y k i n S . Neural networks: A comprehensive foundation. — Upper Saddle River, N.J.: Prentice
Hall, Inc., 1999. — 842 p.
7. L j u n g L . System identification: Theory for the user. — Upper Saddle River: Prentice Hall, Inc.,
1987. — 432 p.
8. N e l l e s O . Nonlinear system identification. — Berlin: Springer, 2001. — 785 p.
9. F r i e d m a n J . , H a s t i e T . , T i b s h i r a n i R . The elements of statistical learning. Data
mining, inference and prediction. — Berlin: Springer, 2003. — 552 p.
10. K a s a b o v N . Evolving fuzzy neural networks — algorithms, applications and biological
motivation // Eds. T. Yamakawa, G. Matsumoto «Methodologies for the Conception, Design and
Application of Soft Computing». — Singapore: World Scientific, 1998. — P. 271–274.
11. K a s a b o v N . Evolving fuzzy neural networks: theory and applications for on-line adaptive
prediction, decision making and control // Australian J. of Intelligent Information Processing
Systems. — 1998. — 5 (3). — P. 154-160.
12. K a s a b o v N . Evolving fuzzy neural network for on-line supervised/unsupervised, knowledge-based
learning // IEEE Trans. on Man, Machine and Cybernetics. — 2001. — 31, N 6. — P. 902–918.
13. K a s a b o v N . Evolving connectionist systems. — London: Springer-Verlag, 2003. — 307 p.
14. L u g h o f e r E . Evolving fuzzy systems — methodologies, advanced concepts and applications. —
Berlin: Springer, 2011. — 410 p.
15. B o d y a n s k i y Y e . , P l i s s I . , V y n o k u r o v a O . Flexible neo-fuzzy neuron and
neuro-fuzzy network for monitoring time series properties // Information Technology and
Management Science. — 2013. — 16. — P. 47–52.
16. B o d y a n s k i y Y e . , P l i s s I . , V y n o k u r o v a O . Flexible wavelet-neuro-fuzzy neuron in
dynamic data mining tasks // Oil and Gas Power Engineering. — 2013. — 2(20). — P. 158–162.
17. W a n g L . - X . , M e n d e l J . M . Fuzzy basis functions, universal approximation and orthogonal
least squares learning // IEEE Trans. on Neural Networks. — 1993. — 3. — P. 807–814.
18. K o h o n e n T . Self-organizing maps. — Berlin: Springer-Verlag, 1995. — 362 p.
19. B o d y a n s k i y Y e . , K o l o d y a z h n i y V . , S t e p h a n A . An adaptive learning algorithm for
a neuro-fuzzy network // Ed. by B. Reusch «Computational Intelligence. Theory and Applications».
— Berlin-Heidelberg-New York: Springer, 2001. — P. 68–75.
20. O t t o P . , B o d y a n s k i y Y e . , K o l o d y a z h n i y V . A new learning algorithm for a forecasting
neuro-fuzzy network // Integrated Computer-Aided Engineering. — 2003. — 10, N 4. — P. 399–409.
21. N a r e n d r a K . S . , P a r t h a s a r a t h y K . Identification and control of dynamical systems using
neural networks // IEEE Trans. on Neural Networks. — 1990. — 1. — P. 4–26.
Ïîñòóïèëà 01.12.2014
18 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2015, òîì 51, ¹ 4
|
| id | nasplib_isofts_kiev_ua-123456789-124833 |
| institution | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| issn | 0023-1274 |
| language | Russian |
| last_indexed | 2025-12-07T17:38:37Z |
| publishDate | 2015 |
| publisher | Інститут кібернетики ім. В.М. Глушкова НАН України |
| record_format | dspace |
| spelling | Бодянский, Е.В. Бойко, Е.А. Плисс, И.П. 2017-10-06T18:57:53Z 2017-10-06T18:57:53Z 2015 Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы / Е.В. Бодянский, Е.А. Бойко, И.П. Плисс // Кибернетика и системный анализ. — 2015. — Т. 51, № 4. — С. 13-18. — Бібліогр.: 21 назв. — рос. 0023-1274 https://nasplib.isofts.kiev.ua/handle/123456789/124833 004.032.26 Предложен метод обучения нейро-фаззи систем, который включает процессы эволюции архитектуры, самообучения функций принадлежности и обучения синаптических весов. Этот подход обеспечивает высокое быстродействие и возможность обрабатывать информацию в on line режиме, адаптируя при этом параметры и структуру системы к условиям задачи. Запропоновано метод навчання нейро-фаззі систем, який поєднує процеси еволюції архітектури, самонавчання функцій належності і навчання синаптичних ваг. Цей підхід забезпечує високу швидкодію і можливість обробляти інформацію в on line режимі, адаптуючи при цьому параметри і структуру системи до умов задачі. A neuro-fuzzy system learning method is proposed. It combines architecture evolving processes, membership functions self-learning, and synaptic weights learning. This method provides quick response and on-line information processing by adapting the system parameters and structure to problem conditions. ru Інститут кібернетики ім. В.М. Глушкова НАН України Кибернетика и системный анализ Кибернетика Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы Адаптивний метод гібридного навчання еволюціонуючої нейро-фаззі системи Adaptive method of hybrid learning for evolving neuro-fuzzy system Article published earlier |
| spellingShingle | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы Бодянский, Е.В. Бойко, Е.А. Плисс, И.П. Кибернетика |
| title | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы |
| title_alt | Адаптивний метод гібридного навчання еволюціонуючої нейро-фаззі системи Adaptive method of hybrid learning for evolving neuro-fuzzy system |
| title_full | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы |
| title_fullStr | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы |
| title_full_unstemmed | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы |
| title_short | Адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы |
| title_sort | адаптивный метод гибридного обучения эволюционирующей нейро-фаззи системы |
| topic | Кибернетика |
| topic_facet | Кибернетика |
| url | https://nasplib.isofts.kiev.ua/handle/123456789/124833 |
| work_keys_str_mv | AT bodânskiiev adaptivnyimetodgibridnogoobučeniâévolûcioniruûŝeineirofazzisistemy AT boikoea adaptivnyimetodgibridnogoobučeniâévolûcioniruûŝeineirofazzisistemy AT plissip adaptivnyimetodgibridnogoobučeniâévolûcioniruûŝeineirofazzisistemy AT bodânskiiev adaptivniimetodgíbridnogonavčannâevolûcíonuûčoíneirofazzísistemi AT boikoea adaptivniimetodgíbridnogonavčannâevolûcíonuûčoíneirofazzísistemi AT plissip adaptivniimetodgíbridnogonavčannâevolûcíonuûčoíneirofazzísistemi AT bodânskiiev adaptivemethodofhybridlearningforevolvingneurofuzzysystem AT boikoea adaptivemethodofhybridlearningforevolvingneurofuzzysystem AT plissip adaptivemethodofhybridlearningforevolvingneurofuzzysystem |