Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети
Розглянуто задачу робастної нейромережевої ідентифікації нелінійних динамічних об'єктів в умовах негаусівських завад. В якості нейронної мережі, яка використовується, вибрано радіально-базисну мережу, визначення структури та навчання якої здійснюється за допомогою генетичного алгоритму. Наведен...
Gespeichert in:
| Veröffentlicht in: | Кибернетика и системный анализ |
|---|---|
| Datum: | 2013 |
| Hauptverfasser: | , , |
| Format: | Artikel |
| Sprache: | Russian |
| Veröffentlicht: |
Інститут кібернетики ім. В.М. Глушкова НАН України
2013
|
| Schlagworte: | |
| Online Zugang: | https://nasplib.isofts.kiev.ua/handle/123456789/86210 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Zitieren: | Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети / О.Г. Руденко, А.А. Бессонов, С.О. Руденко // Кибернетика и системный анализ. — 2013. — Т. 49, № 2. — С. 15-26. — Бібліогр.: 23 назв. — рос. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
nasplib_isofts_kiev_ua-123456789-86210 |
|---|---|
| record_format |
dspace |
| spelling |
Руденко, О.Г. Бессонов, А.А. Руденко, С.О. 2015-09-09T17:49:59Z 2015-09-09T17:49:59Z 2013 Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети / О.Г. Руденко, А.А. Бессонов, С.О. Руденко // Кибернетика и системный анализ. — 2013. — Т. 49, № 2. — С. 15-26. — Бібліогр.: 23 назв. — рос. 0023-1274 https://nasplib.isofts.kiev.ua/handle/123456789/86210 519.71 Розглянуто задачу робастної нейромережевої ідентифікації нелінійних динамічних об'єктів в умовах негаусівських завад. В якості нейронної мережі, яка використовується, вибрано радіально-базисну мережу, визначення структури та навчання якої здійснюється за допомогою генетичного алгоритму. Наведено результати імітаційного моделювання, які підтверджують ефективність підходу, що розвивається. The problem of robust neural network identification of a nonlinear dynamic object in the presence of non-Gaussian noise is considered. To solve this problem, a radial-basis network is chosen. Definition of its structure and its training are done by a genetic algorithm. The results of simulation confirm the efficiency of the proposed approach. ru Інститут кібернетики ім. В.М. Глушкова НАН України Кибернетика и системный анализ Кибернетика Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети Робастна ідентифікація нелінійних об'єктів за допомогою еволюціонуючої радіально-базисної мережі Robust identification of nonlinear objects with evolving radial-basis network Article published earlier |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| title |
Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети |
| spellingShingle |
Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети Руденко, О.Г. Бессонов, А.А. Руденко, С.О. Кибернетика |
| title_short |
Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети |
| title_full |
Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети |
| title_fullStr |
Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети |
| title_full_unstemmed |
Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети |
| title_sort |
робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети |
| author |
Руденко, О.Г. Бессонов, А.А. Руденко, С.О. |
| author_facet |
Руденко, О.Г. Бессонов, А.А. Руденко, С.О. |
| topic |
Кибернетика |
| topic_facet |
Кибернетика |
| publishDate |
2013 |
| language |
Russian |
| container_title |
Кибернетика и системный анализ |
| publisher |
Інститут кібернетики ім. В.М. Глушкова НАН України |
| format |
Article |
| title_alt |
Робастна ідентифікація нелінійних об'єктів за допомогою еволюціонуючої радіально-базисної мережі Robust identification of nonlinear objects with evolving radial-basis network |
| description |
Розглянуто задачу робастної нейромережевої ідентифікації нелінійних динамічних об'єктів в умовах негаусівських завад. В якості нейронної мережі, яка використовується, вибрано радіально-базисну мережу, визначення структури та навчання якої здійснюється за допомогою генетичного алгоритму. Наведено результати імітаційного моделювання, які підтверджують ефективність підходу, що розвивається.
The problem of robust neural network identification of a nonlinear dynamic object in the presence of non-Gaussian noise is considered. To solve this problem, a radial-basis network is chosen. Definition of its structure and its training are done by a genetic algorithm. The results of simulation confirm the efficiency of the proposed approach.
|
| issn |
0023-1274 |
| url |
https://nasplib.isofts.kiev.ua/handle/123456789/86210 |
| citation_txt |
Робастная идентификация нелинейных объектов с помощью эволюционирующей радиально-базисной сети / О.Г. Руденко, А.А. Бессонов, С.О. Руденко // Кибернетика и системный анализ. — 2013. — Т. 49, № 2. — С. 15-26. — Бібліогр.: 23 назв. — рос. |
| work_keys_str_mv |
AT rudenkoog robastnaâidentifikaciânelineinyhobʺektovspomoŝʹûévolûcioniruûŝeiradialʹnobazisnoiseti AT bessonovaa robastnaâidentifikaciânelineinyhobʺektovspomoŝʹûévolûcioniruûŝeiradialʹnobazisnoiseti AT rudenkoso robastnaâidentifikaciânelineinyhobʺektovspomoŝʹûévolûcioniruûŝeiradialʹnobazisnoiseti AT rudenkoog robastnaídentifíkacíânelíníinihobêktívzadopomogoûevolûcíonuûčoíradíalʹnobazisnoímereží AT bessonovaa robastnaídentifíkacíânelíníinihobêktívzadopomogoûevolûcíonuûčoíradíalʹnobazisnoímereží AT rudenkoso robastnaídentifíkacíânelíníinihobêktívzadopomogoûevolûcíonuûčoíradíalʹnobazisnoímereží AT rudenkoog robustidentificationofnonlinearobjectswithevolvingradialbasisnetwork AT bessonovaa robustidentificationofnonlinearobjectswithevolvingradialbasisnetwork AT rudenkoso robustidentificationofnonlinearobjectswithevolvingradialbasisnetwork |
| first_indexed |
2025-11-24T05:55:34Z |
| last_indexed |
2025-11-24T05:55:34Z |
| _version_ |
1850843892969111552 |
| fulltext |
ÓÄÊ 519.71
Î.Ã. ÐÓÄÅÍÊÎ, À.À. ÁÅÑÑÎÍÎÂ, Ñ.Î. ÐÓÄÅÍÊÎ
ÐÎÁÀÑÒÍÀß ÈÄÅÍÒÈÔÈÊÀÖÈß ÍÅËÈÍÅÉÍÛÕ
ÎÁÚÅÊÒÎÂ Ñ ÏÎÌÎÙÜÞ ÝÂÎËÞÖÈÎÍÈÐÓÞÙÅÉ
ÐÀÄÈÀËÜÍÎ-ÁÀÇÈÑÍÎÉ ÑÅÒÈ
Êëþ÷åâûå ñëîâà: íåéðîííàÿ ñåòü, îáó÷åíèå, èäåíòèôèêàöèÿ, ýâîëþöèîííûé
àëãîðèòì, ðîáàñòíîñòü.
ÂÂÅÄÅÍÈÅ
Çàäà÷à ïîëó÷åíèÿ ìàòåìàòè÷åñêèõ ìîäåëåé ðåàëüíûõ îáúåêòîâ, àäåêâàòíî îòî-
áðàæàþùèõ èõ ñâîéñòâà, íå òîëüêî ïðåäñòàâëÿåò ñàìîñòîÿòåëüíûé èíòåðåñ, íî
è ÿâëÿåòñÿ íåîòúåìëåìîé ÷àñòüþ çàäà÷è îïòèìèçàöèè ôóíêöèîíèðîâàíèÿ äàí-
íûõ îáúåêòîâ (óïðàâëåíèå, ïðåäñêàçàíèå èõ ïîâåäåíèÿ è ò.ä.). Îñíîâíûå òðóä-
íîñòè êà÷åñòâåííîãî ðåøåíèÿ çàäà÷è èäåíòèôèêàöèè îáóñëîâëåíû íåëèíåé-
íîñòüþ è íåñòàöèîíàðíîñòüþ õàðàêòåðèñòèê èññëåäóåìûõ îáúåêòîâ, íàëè÷èåì
ðàçëè÷íîãî ðîäà ïîìåõ, îòñóòñòâèåì äîñòàòî÷íî ïîëíîé àïðèîðíîé èíôîðìà-
öèè êàê î ñàìèõ îáúåêòàõ, òàê è îá óñëîâèÿõ èõ ôóíêöèîíèðîâàíèÿ. Åñëè òåî-
ðèÿ èäåíòèôèêàöèè ëèíåéíûõ ñòàöèîíàðíûõ îáúåêòîâ ðàçðàáîòàíà äîñòàòî÷íî
ïîëíî, òî èäåíòèôèêàöèÿ íåëèíåéíûõ îáúåêòîâ îñóùåñòâëÿåòñÿ íàèáîëåå ÷à-
ñòî ñóáúåêòèâíî è èñïîëüçóåò â îñíîâíîì àïïðîêñèìàöèþ íåëèíåéíîñòåé ðàç-
ëè÷íûìè ðÿäàìè (Âîëüòåððû, Ãàììåðøòåéíà, Âèíåðà è ò.ï.) ëèáî ïîëèíîìà-
ìè. Îäíàêî ýòè êëàññè÷åñêèå ìîäåëè ÿâëÿþòñÿ íåïàðàìåòðè÷åñêèìè, ÷òî ñó-
ùåñòâåííî çàòðóäíÿåò ðåøåíèå çàäà÷è èäåíòèôèêàöèè.
Òðóäíîñòè, ñâÿçàííûå ñ èäåíòèôèêàöèåé íåëèíåéíûõ äèíàìè÷åñêèõ îáúåêòîâ
òðàäèöèîííûìè ìåòîäàìè, ïðèâåëè ê ïîÿâëåíèþ è ðàçâèòèþ àëüòåðíàòèâíîãî, íåé-
ðîñåòåâîãî, ïîäõîäà ê ðåøåíèþ ýòîé çàäà÷è. Ïîñêîëüêó ñ ìàòåìàòè÷åñêîé òî÷êè
çðåíèÿ çàäà÷à èäåíòèôèêàöèè ïðåäñòàâëÿåò ñîáîé çàäà÷ó àïïðîêñèìàöèè (èëè âîñ-
ñòàíîâëåíèÿ) íåêîòîðîé â îáùåì âèäå ñëîæíîé íåëèíåéíîé ôóíêöèè, äëÿ åå
ðåøåíèÿ èñïîëüçóþò èñêóññòâåííûå íåéðîííûå ñåòè (ÈÍÑ), îáðàçóåìûå íåéðîíàìè
ñ íåëèíåéíûìè ôóíêöèÿìè àêòèâàöèè è ÿâëÿþùèåñÿ õîðîøèìè àïïðîêñèìàòîðàìè.
Ñëåäóåò îòìåòèòü, ÷òî ïðè èññëåäîâàíèè íåëèíåéíûõ îáúåêòîâ ñ ïîìîùüþ ÈÍÑ
â ôóíäàìåíòàëüíîé ðîëè âûñòóïàþò îáúåêòû âèäà NARMAX (Nonlinear
Auto-Regressive Moving Average with eXogeneous inputs) èëè NARX (Nonlinear
Auto-Regressive eXogeneous with inputs) ìîäåëåé, èìåþùèõ ñîîòâåòñòâåííî âèä [1–3]
y k f y k y k K u k u k Ky u( ) [ ( ), ..., ( ), ( ), ..., ( ),� � � � �1 1
� � ��( ), ..., ( )] ( )k k K k� � �1 , (1)
y k f y k y k K u k u k K ky u( ) [ ( ), ..., ( ), ( ), ..., ( )] ( )� � � � � �1 1 � , (2)
ãäå y i( ), u i( ) — âûõîäíîé è âõîäíîé ñèãíàëû ñîîòâåòñòâåííî; K y , Ku , K� —
ïîðÿäêè çàïàçäûâàíèÿ ïî âûõîäíûì, âõîäíûì ñèãíàëàì îáúåêòà è ïîìåõå ñî-
îòâåòñòâåííî; f [•] — íåëèíåéíàÿ ôóíêöèÿ; �( )k — ïîìåõà.
Äëÿ ìîäåëåé (1), (2) çàäà÷à èäåíòèôèêàöèè ñîñòîèò â ïîëó÷åíèè îöåíêè
ôóíêöèè f [•] ïî èçìåðåíèÿì âõîäíûõ è âûõîäíûõ ïåðåìåííûõ.
Ïî àíàëîãèè ñ òðàäèöèîííûì ïîäõîäîì ê ðåøåíèþ çàäà÷è èäåíòèôèêàöèè, ïðè
êîòîðîì ïðîöåññ ïîñòðîåíèÿ ìîäåëè ïîäðàçäåëÿåòñÿ íà äâà ýòàïà: ñòðóêòóðíóþ è
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2 15
© Î.Ã. Ðóäåíêî, À.À. Áåññîíîâ, Ñ.Î. Ðóäåíêî, 2013
ïàðàìåòðè÷åñêóþ èäåíòèôèêàöèþ, ïðèìåíåíèå ÈÍÑ òàêæå òðåáóåò ðåøåíèå äâóõ çà-
äà÷: îïðåäåëåíèÿ ñòðóêòóðû ñåòè è íàñòðîéêè åå ïàðàìåòðîâ ïóòåì îáó÷åíèÿ.
Ïðîñòîòà ñòðóêòóðû è íàëè÷èå áîëüøîãî êîëè÷åñòâà àëãîðèòìîâ îáó÷åíèÿ
ðàäèàëüíî-áàçèñíûõ ñåòåé (ÐÁÑ) îáåñïå÷èëè èì øèðîêîå ïðèìåíåíèå ïðè èäåí-
òèôèêàöèè íåëèíåéíûõ äèíàìè÷åñêèõ îáúåêòîâ [4–9].
ÑÒÐÓÊÒÓÐÀ ÐÁÑ
ÐÁÑ èìååò äâóõñëîéíóþ ñòðóêòóðó. Ñêðûòûé ñëîé ñîñòîèò èç íåéðîíîâ, êàæ-
äûé èç êîòîðûõ âû÷èñëÿåò íåêîòîðîå ðàññòîÿíèå ìåæäó åãî öåíòðîì � è âõîä-
íûì âåêòîðîì ñåòè x( )k . Íèæå èñïîëüçóåòñÿ NARX ìîäåëü, äëÿ êîòîðîé
x ( ) [ ( ), ( ), ..., ( ), ( ), ( ), ...,k y k y k y k K u k u ky� � � � � �1 2 1 2 u k Ku
T( )]� .
Çàòåì êàæäûé íåéðîí ñêðûòîãî ñëîÿ ïðåîáðàçóåò ðåçóëüòàò ñ ïîìîùüþ îïðå-
äåëåííîé íåëèíåéíîé áàçèñíîé ôóíêöèè (ÁÔ) �i k f( ( ) , ) (| | | | , )x , x� �� �� �
(çäåñü � — ðàäèóñ ÁÔ).
Ìîäåëü, ïðåäñòàâëåííàÿ ðàäèàëüíî-áàçèñíîé ñåòüþ, èìååò âèä
� [ ] ( ( ), , )y k a w ki i
i
N
� �
�
�0
1
� x � � ,
(3)
ãäå a0 — ñìåùåíèå íåéðîíà âûõîäíîãî ñëîÿ, wi — âåñ ñâÿçè i-ãî íåéðîíà ñêðû-
òîãî ñëîÿ ñ íåéðîíîì âûõîäíîãî ñëîÿ, N — ÷èñëî íåéðîíîâ â ñêðûòîì ñëîå.
Íàèáîëåå ÷àñòî â êà÷åñòâå ÁÔ âûáèðàþòñÿ ôóíêöèè, ïðèâåäåííûå â òàáë. 1.
Ò à á ë è ö à 1
Íîìåð
ôóíêöèè
Íàèìåíîâàíèå
ôóíêöèè
Âèä ôóíêöèè
1 Ãàóññîâñêàÿ �( ) exp
( )
x
x
� �
��
�
�
�
�
�
2
2
2
«Ìåêñèêàíñêàÿ
øëÿïà»
�( )
( )
( )
x
x
e
x
� �
��
�
�
�
�
�
�
�
�
�
1
2
2
2
2�
�
�
�
3 Ëàïëàñà �( ) exp
| |
x
x
� �
��
�
�
�
�
�
4 Ðåëåÿ �( )
( )
exp
( )
x
x x
�
�
�
��
�
�
�
2 2
2
�
�
�
�
5
Îáîáùåííàÿ
ãàóññîâñêàÿ
�( ) ( ) ( )
x � � � ��
e
T Rx x� �1
, ãäå R r i j L k Nij
k� � � �1 1 1[ ], , , , , , —
ìàñøòàáèðóþùàÿ ìàòðèöà (L — ðàçìåðíîñòü âõîäíîãî ñèãíàëà,
N — êîëè÷åñòâî íåéðîíîâ)
6 Êîñèíóñîèäàëüíàÿ �( )
( )
x
x
�
��
�
�
�
cos
2� �
�
7 Ïàðàáîëè÷åñêàÿ �( )
( )
x
x
� �
�
1
2
2
�
�
Âîïðîñ âûáîðà ñòðóêòóðû ÐÁÑ (êîëè÷åñòâà è âèäà áàçèñíûõ ôóíêöèé îò-
äåëüíûõ íåéðîíîâ) ÿâëÿåòñÿ ÷ðåçâû÷àéíî âàæíûì, ïîñêîëüêó îò ýòîãî çàâèñèò è
òî÷íîñòü, è ñëîæíîñòü ðåøåíèÿ ïîñòàâëåííîé çàäà÷è.  íàñòîÿùåå âðåìÿ íå ñó-
ùåñòâóåò åäèíîé èëè õîòÿ áû äîñòàòî÷íî ýôôåêòèâíîé ìåòîäîëîãèè îïðåäåëå-
íèÿ ñòðóêòóðû ñåòåé, ïîýòîìó âûáîð òîïîëîãèè ñåòè ÿâëÿåòñÿ ýìïèðè÷åñêèì,
16 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2
îñíîâàííûì íà îïûòå ïðîåêòèðîâùèêà. Åñëè â ðàáîòàõ [10, 11] ðàññìàòðèâàëîñü
ïîñëåäîâàòåëüíîå óñëîæíåíèå ñòðóêòóðû ÐÁÑ ïóòåì ââåäåíèÿ íîâîãî íåéðîíà íà
îñíîâàíèè îïðåäåëåííîãî êðèòåðèÿ, òî âïîñëåäñòâèè âî ìíîãèõ ïóáëèêàöèÿõ
(ñì., íàïðèìåð, áèáëèîãðàôèþ ê [12–14]) äëÿ îïðåäåëåíèÿ ñòðóêòóðû ñåòè
èñïîëüçîâàëñÿ ýâîëþöèîííûé ïîäõîä íà îñíîâå ãåíåòè÷åñêîãî àëãîðèòìà (ÃÀ).
ÒÐÀÄÈÖÈÎÍÍÎÅ ÎÁÓ×ÅÍÈÅ ÐÁÑ
Îáó÷åíèå ÐÁÑ ñ áàçîâûìè ôóíêöèÿìè, ïðèâåäåííûìè â òàáë. 1, çàêëþ÷àåòñÿ
â îïðåäåëåíèè âåêòîðà ïàðàìåòðîâ ñêðûòîãî ñëîÿ � �� ( , , , )a T
0 w � íà îñíîâà-
íèè ïðåäúÿâëåíèÿ ñåòè îáó÷àþùèõ ïàð { }x ( ), ( ) , , ,k y k k �1 2 �
Ïðè âûáîðå êðèòåðèÿ
F
k
e ik
i
K
( ) ( ( , ))� � ��
�
�
1
1
, (4)
ãäå � �( ( , ))e i — íåêîòîðàÿ ôóíêöèÿ ïîòåðü; e i y i y i( , ) ( ) � ( , )� �� � — îøèáêà,
îáó÷åíèå ñâîäèòñÿ ê ïîèñêó îöåíêè � min ( ),� �
�
k kF� arg îïðåäåëÿåìîé êàê ðå-
øåíèå ñèñòåìû óðàâíåíèé
� �
�
�
�
�
�
�
�
�F
F
e i
e i
j
j i
K
j
( )
( )
( ( , ))
( , )
.�
�
�
� �
�
�1
0 (5)
Çäåñü � �
� �
�
( ( , ))
( ( , ))
( , )
e i
e i
e i
�
�
�
— ôóíêöèÿ âëèÿíèÿ.
Áîëüøèíñòâî èñïîëüçóåìûõ â íàñòîÿùåå âðåìÿ àëãîðèòìîâ îáó÷åíèÿ îñíî-
âàíî íà ãèïîòåçå ïðèíàäëåæíîñòè ê íîðìàëüíîìó çàêîíó ðàñïðåäåëåíèÿ ïîìåõ � ,
îíè ïðåäñòàâëÿþò ñîáîé ðàçëè÷íûå ìîäèôèêàöèè ìåòîäà íàèìåíüøèõ êâàäðà-
òîâ, ìèíèìèçèðóþùåãî êâàäðàòè÷íóþ ôóíêöèþ ïîòåðü � �( ( , ))e i è îáåñïå÷èâàþ-
ùåãî â ýòèõ óñëîâèÿõ ðåøåíèå, àñèìïòîòè÷åñêè îïòèìàëüíîå ñ ìèíèìàëüíîé
äèñïåðñèåé â êëàññå íåñìåùåííûõ îöåíîê.
Åñëè ðàñïðåäåëåíèå ïîìåõ îòëè÷íî îò íîðìàëüíîãî, èìååò âûáðîñû èëè
äëèííûå «õâîñòû», òî ÌÍÊ-îöåíêà îêàçûâàåòñÿ íåóñòîé÷èâîé, ÷òî è ÿâèëîñü
ïðåäïîñûëêîé äëÿ ðàçâèòèÿ àëüòåðíàòèâíîãî, ðîáàñòíîãî îöåíèâàíèÿ â ñòàòèñòè-
êå ñ öåëüþ èñêëþ÷åíèÿ âëèÿíèÿ áîëüøèõ îøèáîê.
Ñðåäè îñíîâíûõ òèïîâ ðîáàñòíûõ îöåíîê, M-, L-, è R-îöåíîê, ÿâëÿþùèõñÿ ñî-
îòâåòñòâåííî îöåíêàìè ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ, ëèíåéíûìè êîìáèíàöèÿìè
ïîðÿäêîâûõ ñòàòèñòèê è îöåíêàìè, ïîëó÷àåìûìè â ðàíãîâûõ êðèòåðèÿõ, â çàäà÷àõ
îáó÷åíèÿ íàèáîëåå ÷àñòî èñïîëüçóåòñÿ ïðåäëîæåííàÿ Õüþáåðîì Ì-îöåíêà [15].
Ì-îöåíêà òàêæå ïðåäñòàâëÿåò ñîáîé îöåíêó ��, îïðåäåëÿåìóþ êàê ðåøåíèå
ýêñòðåìàëüíîé çàäà÷è (4) èëè êàê ðåøåíèå ñèñòåìû óðàâíåíèé (5), îäíàêî ôóíê-
öèÿ ïîòåðü �( )ei âûáèðàåòñÿ îòëè÷íîé îò êâàäðàòè÷íîé. Èññëåäîâàíèå ðàçëè÷-
íûõ êëàññîâ ðàñïðåäåëåíèé ïîìåõ ïîçâîëèëî ïîëó÷èòü äëÿ ýòèõ êëàññîâ íàèìå-
íåå áëàãîïðèÿòíûå, ò.å. ìèíèìèçèðóþùèå èíôîðìàöèþ Ôèøåðà, ðàñïðåäåëåíèÿ,
èñïîëüçîâàíèå êîòîðûõ, â ñâîþ î÷åðåäü, îïðåäåëÿåò âèä ôóíêöèè ïîòåðü è îáåñ-
ïå÷èâàåò ïîëó÷åíèå ðîáàñòíûõ îöåíîê, ÿâëÿþùèõñÿ ðàáîòîñïîñîáíûìè
ïðàêòè÷åñêè äëÿ ëþáûõ ðàñïðåäåëåíèé ïîìåõ.
Êëàññè÷åñêèå ðîáàñòíûå ìåòîäû îðèåíòèðîâàíû íà ñèììåòðè÷íîñòü çàñîðå-
íèÿ, êîãäà âûáðîñû îäèíàêîâî ÷àñòî ïîÿâëÿþòñÿ êàê â èíòåðâàëå îòðèöàòåëüíûõ,
òàê è â èíòåðâàëå ïîëîæèòåëüíûõ çíà÷åíèé. Ðîáàñòíûå àëãîðèòìû îáó÷åíèÿ ÐÁÑ
ðàññìàòðèâàëèñü â ðàáîòàõ [17–22].
Óêàçàííûå ìåòîäû ïîçâîëÿþò ýôôåêòèâíî áîðîòüñÿ ñ ïîìåõàìè, îïèñûâàå-
ìûìè ìîäåëüþ Òüþêè–Õüþáåðà [15, 16],
� � � � �( ) ( ) ( ) ( ),� � �1 0 q (6)
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2 17
ãäå � �0 ( ) — ïëîòíîñòü ñîîòâåòñòâóþùåãî îñíîâíîãî ðàñïðåäåëåíèÿ; q( )� —
ïëîòíîñòü çàñîðÿþùåãî ðàñïðåäåëåíèÿ; �[ , ]0 1 — ïàðàìåòð, õàðàêòåðèçóþùèé
ñòåïåíü çàñîðåíèÿ îñíîâíîãî ðàñïðåäåëåíèÿ.  ýòîì ñëó÷àå îñíîâíîå è çàñîðÿ-
þùåå ðàñïðåäåëåíèÿ ÿâëÿþòñÿ ãàóññîâñêèìè ñ íóëåâûìè ìàòåìàòè÷åñêèìè
îæèäàíèÿìè è äèñïåðñèÿìè �
1
2 è �
2
2 , � �
1
2
2
2�� .
 áîëåå îáùåé ñèòóàöèè ïðîèçâîëüíîãî âèäà çàñîðåíèÿ (íàïðèìåð, êîãäà ãàóñ-
ñîâñêîå çàñîðÿþùåå ðàñïðåäåëåíèå èìååò íåíóëåâîå ìàòåìàòè÷åñêîå îæèäàíèå
èëè çàñîðÿþùåå ðàñïðåäåëåíèå ÿâëÿåòñÿ íåñèììåòðè÷íûì (Ðåëåÿ, ëîãíîðìàëüíîå,
Ãàììà-ðàñïðåäåëåíèå, Âåéáóëëà–Ãíåäåíêî è äð.)), îöåíêè, ïîëó÷åííûå íà îñíîâàíèè
ýòèõ ìåòîäîâ, áóäóò ñìåùåííûìè. Íåîáõîäèìîñòü ó÷åòà àñèììåòðèè ðàñïðåäåëåíèé
îáóñëîâëèâàåò öåëåñîîáðàçíîñòü âûáîðà àñèììåòðè÷íûõ ôóíêöèîíàëîâ [23].
Òàêèì îáðàçîì, åñëè â íàñòîÿùåå âðåìÿ ðàçðàáîòàíî è õîðîøî èçó÷åíî äî-
ñòàòî÷íî áîëüøîå êîëè÷åñòâî àëãîðèòìîâ íàñòðîéêè ïàðàìåòðîâ ñåòè, òî âîïðî-
ñû âûáîðà åå îïòèìàëüíîé ñòðóêòóðû îñòàþòñÿ îòêðûòûìè.
ÍÅÉÐÎÝÂÎËÞÖÈÎÍÍÛÉ ÀËÃÎÐÈÒÌ ÎÁÓ×ÅÍÈß ÐÁÑ
Äëÿ àëãîðèòìîâ, èñïîëüçóþùèõ ìîäåëè ìåõàíèçìîâ åñòåñòâåííîé ýâîëþöèè,
îáû÷íî ïðèìåíÿþò îáîáùåííîå íàçâàíèå — ýâîëþöèîííûå àëãîðèòìû. Ñó-
ùåñòâóåò ìíîæåñòâî ðàçíîâèäíîñòåé ïîäîáíîãî ðîäà àëãîðèòìîâ, îòëè÷àþ-
ùèõñÿ ñïîñîáîì èñïîëüçîâàíèÿ îïðåäåëåííûõ ìåõàíèçìîâ, à òàêæå ïðåäñòàâ-
ëåíèåì îñîáåé. Îäíèì èç íàèáîëåå ðàñïðîñòðàíåííûõ âèäîâ ýâîëþöèîííûõ
àëãîðèòìîâ ÿâëÿþòñÿ ãåíåòè÷åñêèå àëãîðèòìû, ïðåäëîæåííûå Äæ. Õîëëàíäîì.
 ÃÀ êàæäàÿ îñîáü êîäèðóåòñÿ ñõîäíûì ñ ÄÍÊ ìåòîäîì — â âèäå ñòðîêè
(õðîìîñîìû), ñîäåðæàùåé îïðåäåëåííûé íàáîð ãåíîâ. Äëèíà õðîìîñîìû ïîñòî-
ÿííà. Ïîïóëÿöèÿ, ñîñòîÿùàÿ èç íåêîòîðîãî êîëè÷åñòâà îñîáåé, ïîäâåðãàåòñÿ ïðî-
öåññó ýâîëþöèè ñ èñïîëüçîâàíèåì îïåðàöèé ñêðåùèâàíèÿ è ìóòàöèé.
Êëàññè÷åñêèé ÃÀ ñîäåðæèò ñëåäóþùèå øàãè.
1. Ñîçäàíèå íà÷àëüíîé ïîïóëÿöèè.
1.1. Èíèöèàëèçàöèÿ õðîìîñîìû êàæäîé îñîáè.
1.2. Îöåíèâàíèå íà÷àëüíîé ïîïóëÿöèè.
2. Ýòàï ýâîëþöèè — ïîñòðîåíèå íîâîãî ïîêîëåíèÿ.
2.1. Îòáîð êàíäèäàòîâ íà ñêðåùèâàíèå (ñåëåêöèÿ).
2.2. Ñêðåùèâàíèå, ò.å. ïîðîæäåíèå êàæäîé ïàðîé îòîáðàííûõ
êàíäèäàòîâ íîâûõ èíäèâèäîâ.
2.3. Ìóòàöèÿ.
2.4. Îöåíèâàíèå íîâîé ïîïóëÿöèè.
3. Ïðîâåðêà êðèòåðèÿ çàâåðøåíèÿ; åñëè íå âûïîëíåíî — ïåðåõîä ê ï. 2.
 íà÷àëå ðàáîòû íåéðîýâîëþöèîííîãî àëãîðèòìà ñëó÷àéíûì îáðàçîì èíè-
öèàëèçèðóåòñÿ ïîïóëÿöèÿ P0 , ñîñòîÿùàÿ èç S îñîáåé (ÐÁÑ ñåòåé),
P H H H S0 1 2� { }, , ,� . Ïðè ýòîì êàæäàÿ îñîáü â ïîïóëÿöèè ïîëó÷àåò ñâîå óíè-
êàëüíîå îïèñàíèå, çàêîäèðîâàííîå â õðîìîñîìå H h h hj j j Lj� { }1 2, , ,� , êîòîðàÿ
ñîñòîèò èç L ãåíîâ, ãäå h w wij �[ , ]min max — çíà÷åíèå i-ãî ãåíà j-é õðîìîñîìû
( minw — ìèíèìàëüíîå, wmax — ìàêñèìàëüíîå äîïóñòèìûå çíà÷åíèÿ ñîîòâåò-
ñòâåííî). Ôîðìàò õðîìîñîìû è ñîîòâåòñòâèå ìåæäó ãåíàìè è ïàðàìåòðàìè ÐÁÑ
ïðåäñòàâëåí íà ðèñ. 1. Çäåñü ñ1 è ñ2 — ìàòîæèäàíèå ñîîòâåòñòâåííî îñíîâíîé è
çàñîðÿþùåé ïî-
ìåõ; s1 è s2 — ñî-
îòâåòñòâåííî äèñ-
ïåðñèÿ îñíîâíîé è
18 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2
Îáùèå ïàðàìåòðû ñåòè i-é íåéðîí
s1 s2 c1 c2 a0 � � � 1/0 BF wi �i � i � � �
Ðèñ. 1
çàñîðÿþùåé ïîìåõ. Ñëåäóåò îòìåòèòü, ÷òî äëèíà õðîìîñîìû ïîñòîÿííà è îãðà-
íè÷èâàåòñÿ ìàêñèìàëüíî äîïóñòèìûì êîëè÷åñòâîì íåéðîíîâ.
Êàê âèäèì èç ðèñóíêà, êàæäàÿ õðîìîñîìà ñîñòîèò èç ãåíîâ, â êîòîðûõ õðà-
íèòñÿ èíôîðìàöèÿ î ñîîòâåòñòâóþùèõ ïàðàìåòðàõ ñåòè. Ïåðâûå ãåíû õðîìîñî-
ìû õðàíÿò èíôîðìàöèþ î ïàðàìåòðàõ ïîìåõè è ÿâëÿþòñÿ àêòèâíûìè ëèøü â ñëó-
÷àå èäåíòèôèêàöèè çàøóìëåííûõ îáúåêòîâ. Ñëåäóþùèé ãåí êîäèðóåò èíôîðìà-
öèþ î ïàðàìåòðå a0 — ñìåùåíèè íåéðîíà âûõîäíîãî ñëîÿ ñåòè. Çàòåì ñëåäóþò
áëîêè ãåíîâ, êîäèðóþùèå ïàðàìåòðû ñîîòâåòñòâóþùèõ íåéðîíîâ ñêðûòîãî ñëîÿ.
Ïåðâûé ãåí êàæäîãî òàêîãî áëîêà (1/0) îïðåäåëÿåò ïðèñóòñòâèå ñîîòâåòñòâóþùå-
ãî íåéðîíà â ñòðóêòóðå ñåòè, ò.å. ó÷àñòèå (èëè íåó÷àñòèå) åãî â âû÷èñëåíèè âû-
õîäíîé ðåàêöèè ñåòè íà ïîñòóïèâøèé âõîäíîé ñèãíàë. Ãåí BF îïðåäåëÿåò âèä
áàçèñíîé ôóíêöèè èç çàäàííîãî íàáîðà ÁÔ, êîòîðàÿ èñïîëüçóåòñÿ äëÿ
âû÷èñëåíèÿ ðåàêöèè íåéðîíà.
Äàëåå â õðîìîñîìå ñëåäóåò ãðóïïà ãåíîâ, êîäèðóþùàÿ íåïîñðåäñòâåííî ïà-
ðàìåòðû ñîîòâåòñòâóþùåãî íåéðîíà, à èìåííî: w — åãî âåñîâîé ïàðàìåòð, � —
öåíòð áàçèñíîé ôóíêöèè, � — ðàäèóñ áàçèñíîé ôóíêöèè. Ñëåäóåò îòìåòèòü, ÷òî
êîëè÷åñòâî ýòèõ ïàðàìåòðîâ, à ñëåäîâàòåëüíî, è äëèíà õðîìîñîìû, çàâèñèò îò
ðàçìåðíîñòè èäåíòèôèöèðóåìîãî îáúåêòà. Íà ýòàïå èíèöèàëèçàöèè âñåì ýòèì
ïàðàìåòðàì ñ ïîìîùüþ äàò÷èêà ñëó÷àéíûõ ÷èñåë ïðèñâàèâàþò íà÷àëüíûå
çíà÷åíèÿ, íàõîäÿùèåñÿ â íåêîòîðîì äîïóñòèìîì äèàïàçîíå.
ÎÖÅÍÈÂÀÍÈÅ ÏÎÏÓËßÖÈÈ
Ïîñëå ôîðìèðîâàíèÿ íà÷àëüíîé ïîïóëÿöèè îöåíèâàåòñÿ ïðèñïîñîáëåííîñòü
êàæäîé îñîáè, âõîäÿùåé â ïîïóëÿöèþ, èñõîäÿ èç àíàëèçà ôóíêöèè ïðèñïîñîá-
ëåííîñòè (ôèòíåññ-ôóíêöèÿ).  êà÷åñòâå òàêîé ôóíêöèè â ñëó÷àå îáó÷åíèÿ
off-line è ïðè íàëè÷èè ïîëíîé âûáîðêè âõîäíûõ-âûõîäíûõ ñèãíàëîâ îáúåêòà
èìååì
f x
M
y x y xi j j j j j
j
M
( ) | ( ) � ( )|*� �
�
�
1
1
, (7)
ãäå y k* ( ) — æåëàåìàÿ ðåàêöèÿ ñåòè; � ( )y k — ðåàëüíûé âûõîäíîé ñèãíàë;
M — ðàçìåð âûáîðêè.
Äëÿ óïðîùåíèÿ äàëüíåéøèõ îïåðàöèé ñîðòèðîâêè ïîïóëÿöèè îáû÷íî ôóíê-
öèÿ ïðèñïîñîáëåííîñòè íîðìàëèçóåòñÿ êàê
f x
f x
f x
i
N
j
i j
j j
j
N
( )
( )
( )
�
�
�
1
. (8)
Ñëåäóåò îòìåòèòü, ÷òî äëÿ îáåñïå÷åíèÿ ðîáàñòíîñòè ïîëó÷àåìîãî ðåøåíèÿ
â êà÷åñòâå ôèòíåññ-ôóíêöèè ìîæåò áûòü èñïîëüçîâàíà íåêâàäðàòè÷íàÿ ôóíêöèÿ
ïîòåðü � �( , )i , ïðèìåíÿåìàÿ äëÿ Ì-îáó÷åíèÿ ÐÁÑ.  ýòîì ñëó÷àå íåò íåîáõîäè-
ìîñòè îöåíèâàòü ïàðàìåòðû ïîìåõè
äëÿ óñòðàíåíèÿ ñìåùåíèÿ ïîëó÷àå-
ìîãî ðåøåíèÿ, à ñòðóêòóðà õðîìîñî-
ìû ïðèíèìàåò âèä, ïîêàçàííûé íà
ðèñ. 2.
Òàêèì îáðàçîì, ÷òîáû îïðåäåëèòü ïðèñïîñîáëåííîñòü ñåòè, íåîáõîäèìî âû-
ïîëíèòü åå ñèìóëÿöèþ íà âñåé âûáîðêå è çàòåì ñðàâíèòü ðåàêöèè ñåòè ñ ðåàëü-
íûì âûõîäíûì ñèãíàëîì îáúåêòà.
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2 19
i-é íåéðîí
a0 � � � 1/0 BF wi �i � i � � �
Ðèñ. 2
ÑÅËÅÊÖÈß
Ïîñëå âû÷èñëåíèÿ äëÿ êàæäîé îñîáè (ñåòè) åå ôóíêöèè ïðèñïîñîáëåííîñòè
â ïîïóëÿöèè íåîáõîäèìî ïðîâåñòè îòáîð îñîáåé, õðîìîñîìû êîòîðûõ áóäóò
ïðèíèìàòü ó÷àñòèå â ôîðìèðîâàíèè íîâîãî ïîêîëåíèÿ. Äëÿ ýòîãî ïðîâîäèòñÿ
âû÷èñëåíèå ñðåäíåãî çíà÷åíèÿ ôèòíåññ-ôóíêöèè f av ïîïóëÿöèè êàê ñðåäíåãî
àðèôìåòè÷åñêîãî çíà÷åíèÿ ôèòíåññ-ôóíêöèé âñåõ âõîäÿùèõ â íåå îñîáåé:
f
N
f i
j
N
av �
�
�
1
1
.
Çàòåì äëÿ êàæäîé îñîáè âû÷èñëÿåòñÿ ñëåäóþùåå ñîîòíîøåíèå:
P j
f
f
s
i( ) �
av
,
è â çàâèñèìîñòè îò çíà÷åíèÿ P js ( ) ôîðìèðóåòñÿ ìàññèâ îñîáåé, õðîìîñîìû
êîòîðûõ áóäóò ó÷àñòâîâàòü â ïðîöåññå ñêðåùèâàíèÿ.
Âîçìîæåí òàêæå âàðèàíò ñåëåêöèè ñ èñïîëüçîâàíèåì ïîðîãîâîãî çíà÷åíèÿ
ôóíêöèè ïðèñïîñîáëåííîñòè. Ïðè ýòîì ïðîâîäèòñÿ ñîðòèðîâêà îñîáåé ïî óáûâà-
íèþ íîðìèðîâàííîãî çíà÷åíèÿ ôóíêöèè ïðèñïîñîáëåííîñòè (8), çàäàåòñÿ ïîðîã
� �[ , ]0 1 . Äëÿ ó÷àñòèÿ â ïðîöåäóðå ñêðåùèâàíèÿ îòáèðàþòñÿ ëèøü òå îñîáè, äëÿ
êîòîðûõ âûïîëíÿåòñÿ óñëîâèå f i � �.
ÑÊÐÅÙÈÂÀÍÈÅ
Ïîñëå îòáîðà ðîäèòåëüñêèõ îñîáåé ìåòîäîì ñåëåêöèè îñóùåñòâëÿåòñÿ èõ ñêðå-
ùèâàíèå (êðîññîâåð). Êðîññîâåð ïðèìåíÿåòñÿ ñ öåëüþ âîñïðîèçâåäåíèÿ ïîòîì-
ñòâà äëÿ îáìåíà ãåíåòè÷åñêîé èíôîðìàöèåé ìåæäó ðîäèòåëüñêèìè îñîáÿìè.
Ïóñòü ðîäèòåëüñêèå îñîáè îïèñûâàþòñÿ âûðàæåíèÿìè
H h h hi L
( ) ( ) ( ) ( ), , , ,1
1
1 1 1� { }� � ;
H h h hi L
( ) ( ) ( ) ( ), , , ,2
1
2 2 2� { }� � ,
à èõ ïîòîìêè îïèñûâàþòñÿ êàê
Y y y yi L
( ) ( ) ( ) ( ), , , ,1
1
1 1 1� { }� � ;
Y y y yi L
( ) ( ) ( ) ( ), , , ,2
1
2 2 2� { }� � .
Êîëè÷åñòâî ðîäèòåëåé è ïîòîìêîâ çàâèñèò îò âûáîðà îïåðàòîðà êðîññîâåðà
è ìîæåò ìåíÿòüñÿ.  íàñòîÿùåå âðåìÿ ñóùåñòâóåò äîñòàòî÷íî áîëüøîå ÷èñëî
ðàçëè÷íûõ îïåðàòîðîâ ñêðåùèâàíèÿ: òî÷å÷íîå, îäíîðîäíîå, ðàâíîìåðíîå, ñðàâ-
íèòåëüíîå, äèàãîíàëüíîå, íå÷åòêîå è ò.ä. Íàèáîëåå ïðîñòûì îïåðàòîðîì, êîòî-
ðûé áûë èñïîëüçîâàí â íàñòîÿùåé ñòàòüå, ÿâëÿåòñÿ îïåðàòîð îäíîòî÷å÷íîãî
ñêðåùèâàíèÿ, ïðè êîòîðîì äâå ðîäèòåëüñêèå îñîáè: H ( )1 è H ( )2 , ôîðìèðóþò
õðîìîñîìû äâóõ ïîòîìêîâ ñëåäóþùèì îáðàçîì:
Y h h h hi i L
( ) ( ) ( ) ( ) ( ), ..., , , ...,1
1
1 1
1
2 2�
�
{ },
Y h h h hi i L
( ) ( ) ( ) ( ) ( ), ..., , , ...,2
1
2 2
1
1 1�
�
{ },
ãäå i — ñëó÷àéíàÿ âåëè÷èíà â èíòåðâàëå [ , ]1 L .
20 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2
ÌÓÒÀÖÈß
Ìóòàöèÿ ïîçâîëÿåò ñîçäàòü íîâûé ãåíåòè÷åñêèé ìàòåðèàë â ïîïóëÿöèè äëÿ ñîõðàíå-
íèÿ åå ðàçíîîáðàçèÿ. Ìóòàöèÿ — ýòî íå ÷òî èíîå êàê èçìåíåíèå ñëó÷àéíîé ÷àñòè
õðîìîñîìû, ïðåäñòàâëÿþùåé îòäåëüíóþ îñîáü. Êîëè÷åñòâî ìóòàöèé â ïîïóëÿöèè ðå-
ãóëèðóåòñÿ ïàðàìåòðîì pm , êîòîðûé îïðåäåëÿåò âåðîÿòíîñòü ìóòàöèè. Òàêèì îáðà-
çîì, òîëüêî p Nm � ñëó÷àéíûõ õðîìîñîì â ïîïóëÿöèè ìîãóò ìóòèðîâàòü.
Îïåðàòîð ìóòàöèè îñóùåñòâëÿåò âîçìîæíûå ìóòàöèè íà îïðåäåëåííûõ ãå-
íàõ íåêîòîðîé õðîìîñîìû. Åñëè õðîìîñîìà ïåðåä ìóòàöèåé èìåëà âèä
H h h hj j ij Lj� { }1 , ..., , ..., ,
ãäå hij — ãåí, â êîòîðîì äîëæíà ïðîèçîéòè ìóòàöèÿ, òî ïîñëå ìóòàöèè åå
ìîæíî çàïèñàòü ñëåäóþùèì îáðàçîì:
� � �H h h hj j ij Lj{ }1 , ..., , ..., .
 äàííîé ñòàòüå èñïîëüçîâàëàñü íåðàâíîìåðíàÿ ìóòàöèÿ, ïðè êîòîðîé ãåí �hij
ñîçäàåòñÿ èç ãåíà h h hij �[ , ]min max , ãäå hmin è hmax — ìèíèìàëüíî è ìàêñè-
ìàëüíî äîïóñòèìûå çíà÷åíèÿ äëÿ äàííîãî ãåíà, ñëåäóþùèì îáðàçîì:
� �
� � �
� �
h
h k h h
h k h h
ij
ij ij
ij ij
�
�
( , ),
( , ),
max
min
åñëè 0;
å
ñëè 1,
�
�
�
çäåñü
— ñëó÷àéíàÿ áèíàðíàÿ âåëè÷èíà ñ ðàâíîìåðíûì ðàñïðåäåëåíèåì. Çíà-
÷åíèå ôóíêöèè � âû÷èñëÿåòñÿ ôîðìóëîé
� ( , ) ( ),k y y
k
T
b
� �
�
�
�
�
�
�
�
1
1
�
ãäå � — ñëó÷àéíàÿ âåëè÷èíà, ðàâíîìåðíî ðàñïðåäåëåííàÿ â èíòåðâàëå [ , ]0 1 ,
T — ìàêñèìàëüíîå ÷èñëî èòåðàöèé àëãîðèòìà, k — òåêóùàÿ èòåðàöèÿ, b —
ïàðàìåòð, îïðåäåëÿþùèé ñòåïåíü íåðàâíîìåðíîñòè ðàñïðåäåëåíèÿ.
Îïåðàòîð � ( , )k y ìîæåò ïðèíèìàòü çíà÷åíèÿ â äèàïàçîíå [ , ]0 y , ïðè÷åì âå-
ðîÿòíîñòü òîãî, ÷òî ýòî çíà÷åíèå ñòðåìèòñÿ ê íóëþ, âîçðàñòàåò ñ óâåëè÷åíèåì k.
Òàêèì îáðàçîì, íà íà÷àëüíîé ñòàäèè ðàáîòû ÃÀ íåðàâíîìåðíàÿ ìóòàöèÿ ïîçâî-
ëÿåò ñóùåñòâåííî èçìåíÿòü çíà÷åíèå ìóòèðóþùåãî ãåíà, à íà áîëåå ïîçäíèõ ñòà-
äèÿõ îñóùåñòâëÿþòñÿ ëèøü íåáîëüøèå óòî÷íÿþùèå ìóòàöèè, êîòîðûå
ïîçâîëÿþò óâåëè÷èòü òî÷íîñòü óæå ïîëó÷åííîãî ðåøåíèÿ.
Ñëåäóåò îòìåòèòü, ÷òî ìåòîä íåðàâíîìåðíîé ìóòàöèè ïðèìåíÿåòñÿ ëèøü äëÿ
ãåíîâ, êîäèðóþùèõ ïàðàìåòðû ñåòè. Äëÿ ãåíîâ, îòâå÷àþùèõ çà àêòèâàöèþ íåé-
ðîíîâ è âèä áàçèñíîé ôóíêöèè, èñïîëüçóåòñÿ ñëó÷àéíàÿ çàìåíà:
h h hij � rand [ , ],min max
ãäå rand [ , ]x y — ñëó÷àéíîå öåëîå ÷èñëî â èíòåðâàëå [ , ]x y , ðàñïðåäåëåííîå ïî
ðàâíîìåðíîìó çàêîíó. Òàê, äëÿ ãåíà, îòâå÷àþùåãî çà àêòèâàöèþ íåéðîíà,
x y� �0 1, , à äëÿ ãåíà, îïðåäåëÿþùåãî âèä áàçèñíîé ôóíêöèè, x y P� �1, , ãäå
P — êîëè÷åñòâî èñïîëüçóåìûõ áàçèñíèõ ôóíêöèé.
Ñëåäóåò îòìåòèòü, ÷òî, ñ îäíîé ñòîðîíû, ìóòàöèè ìîãóò ïðèâåñòè ê óõóäøå-
íèþ ïðèñïîñîáëåííîñòè äàííîé îñîáè, à ñ äðóãîé — îíè ÿâëÿþòñÿ åäèíñòâåí-
íûì ñïîñîáîì âíåñåíèÿ íîâîé èíôîðìàöèè â åå õðîìîñîìó.
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2 21
ÌÎÄÅËÈÐÎÂÀÍÈÅ
Ýêñïåðèìåíò 1. Ïðîâîäèëàñü èäåíòèôèêàöèÿ íåëèíåéíîãî ñòàöèîíàðíîãî îáúåêòà
y k
u k y k
u k y k
( ) ,
( ) ( )
( ) ( )
�
� � �
� � � �
�
�
0 725
16 1 8 1
3 4 1 4 12 2
sin �
�
�
�
�
�
� � � � �0 2 1 0 2 1, ( ) , ( ) ( )u k y k k� (9)
ïðè íàëè÷èè ïîìåõè �( )k , îïèñûâàåìîé ìîäåëüþ
� ( ) ( ) ( ) ( )k q k q k� � �1 1 2 , (10)
ãäå � 01, ; q k1 ( ), q k2 ( ) — íîðìàëüíî ðàñïðåäåëåííûå ïîìåõè ñ ìàòåìàòè÷åñêè-
ìè îæèäàíèÿìè m m1 2 0� � è äèñïåðñèÿìè �1= 0,6; � 2= 12 ñîîòâåòñòâåííî.
Äëÿ êîððåêöèè ðåçóëüòàòîâ, ñâÿçàííîé ñ íåîáõîäèìîñòüþ óñòðàíåíèÿ ñìå-
ùåíèÿ, âûçâàííîãî äåéñòâèåì ïîìåõè (10), â [21–23] ïàðàìåòðû ïîìåõ îöåíèâà-
ëèñü ñ ïîìîùüþ ðåêóððåíòíûõ àëãîðèòìîâ. Â äàííîì ýêñïåðèìåíòå äëÿ îöåíêè
ïàðàìåòðîâ ìîäåëè ïîìåõè (9) â õðîìîñîìå, êîäèðóþùåé ñòðóêòóðó ÐÁÑ, áûëè
èñïîëüçîâàíû ÷åòûðå äîïîëíèòåëüíûõ ãåíà (ñì. ðèñ. 1), â êîòîðûõ õðàíÿòñÿ ïà-
ðàìåòðû s1, s2 (îöåíêè �1 è � 2), c1, c2 (îöåíêè m1 è m2). Ôóíêöèÿ
ïðèñïîñîáëåííîñòè (7) òàêæå áûëà ìîäèôèöèðîâàíà ñëåäóþùèì îáðàçîì:
f
M
y x y x c
y x y x c
i
j j j j
j j j j
�
� �
� �
1 1
1
2 1
*
*( ) � ( )
, ( ) � ( )
�
åñëè �
� �
�
�
�
�
�
�
3�
�
1
1
2
2
2
1
1
;
( ) � ( )*
j
M
j j j j
j
M
M
y x y x c
â ïðîòèâíîì ñëó÷àå.
(11)
Ðåçóëüòàòû èäåíòèôèêàöèè îáúåêòà (9), çàøóìëåííîãî ïîìåõîé (10), ïðåäñòàâ-
ëåíû íà ðèñ. 3. Çäåñü ïîêàçàíû ãèñòîãðàììà ïîìåõè (ðèñ. 3, à) è âîññòàíîâëåííàÿ
ïîâåðõíîñòü (ðèñ. 3, á). Ïîñëå 2000 ýïîõ îáó÷åíèÿ áûëè ïîëó÷åíû ñëåäóþùèå îöåíêè
ïàðàìåòðîâ ïîìåõ: �1 0 5860� , ; � 2 12 5818� , ; c1 0 0333� , ; c2 01646� � , . Ñåòü ñîñòî-
ÿëà èç 13 íåéðîíîâ (ñåìü íåéðîíîâ ñ ÁÔ âèäà (5) è øåñòü íåéðîíîâ ñ ÁÔ âèäà (6)).
Ýêñïåðèìåíò 2. Ðàññìàòðèâàëàñü çàäà÷à èäåíòèôèêàöèè îáúåêòà (9) ïðè íà-
ëè÷èè ïîìåõè �( )k , èìåþùåé ðàâíîìåðíîå ðàñïðåäåëåíèå è èìåþùåé ðàñïðåäåëå-
íèå Ðåëåÿ (Ray(1,6)). Íà ðèñ. 4, à ïðèâåäåíû ãèñòîãðàììû ïîìåõè, à íà ðèñ. 4, á —
âèäû âîññòàíîâëåííûõ ïîâåðõíîñòåé.
Ïðåäïîëàãàÿ, ÷òî ðåàëüíîå ðàñïðåäåëåíèå ïîìåõè íåèçâåñòíî, â äàííîì ýêñ-
ïåðèìåíòå èñïîëüçîâàëàñü ïðèìåíÿåìàÿ â [21, 22] àïïðîêñèìàöèÿ ðàñïðåäåëåíèé
22 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2
Ðèñ. 3
– 1
– 0,5
2500
2000
1500
1000
500
0
– 30 – 20 –10 0 10 20
×èñëî ïîìåõ èçìåðåíèé
â èíòåðâàëå
Èíòåðâàëû
à á
1,5
1
0,5
0
– 0,5
– 1
0
0,51
0
– 0,4
0,4
1
y k( )
y k( )� 1 u k( )� 1
ïîìåõ ìîäåëüþ Òüþêè–Õüþáåðà (10), â êîòîðîé è îñíîâíîå, è çàñîðÿþùåå ðàñ-
ïðåäåëåíèÿ ÿâëÿþòñÿ íîðìàëüíûìè ñ îöåíêàìè m1, m2 0� .  ðåçóëüòàòå îáó÷å-
íèÿ ÐÁÑ áûëè ïîëó÷åíû ñëåäóþùèå ïàðàìåòðû çàñîðåííîé ïîìåõè äëÿ ðàâíî-
ìåðíîãî ðàñïðåäåëåíèÿ: �1 �12,60 ; � 2 �1,83 ; c1 0� ; c2 � �0,17; äëÿ ðàñïðåäå-
ëåíèÿ Ðåëåÿ: �1 0 9981� , ; � 2 0 8555� , ; m1 19702� , ; m2 5 2842� , , êîòîðûå èñïîëü-
çîâàëèñü äëÿ êîððåêöèè âûõîäíûõ ñèãíàëîâ ñåòè. Ïðè ýòîì ñåòü ñîäåðæàëà
14 íåéðîíîâ (ïÿòü íåéðîíîâ ñ ÁÔ âèäà (5) è äåâÿòü íåéðîíîâ ñ ÁÔ âèäà (6)).
Ýêñïåðèìåíò 3. Ðåøàëàñü çàäà÷à èäåíòèôèêàöèè ìíîãîìåðíîãî îáúåêòà
(MIMO), êîòîðûé îïèñûâàëñÿ ñëåäóþùèìè óðàâíåíèÿìè:
y k
u k y k
u k
u k1
1 2
1
2 1
15 1 1
2 50 1
0 5 1 0( )
( ) ( )
[ ( )]
, ( ) ,�
� �
� �
� � � 25 1 0 12 1y k k( ) , ( );� � � �
y k
u k y k u k
k2
2 1 2
2
1 1 2 1
3
( )
( ( ) ( )) ( )
( ),�
� � � �
�
sin �
�
(12)
ãäå u1, u2 — âõîäíûå ñèãíàëû; y1 è y2 — âûõîäíûå ñèãíàëû; �1 è �2 — ïî-
ìåõè èçìåðåíèé.
Ïîìåõà �1 îïèñûâàëàñü ìîäåëüþ (10) è èìåëà òå æå ïàðàìåòðû, ÷òî è â ýêñ-
ïåðèìåíòå 1. Ïîìåõà �2 èìåëà ðàñïðåäåëåíèå Ðåëåÿ (Ray(1,6)). Òàêèì îáðàçîì,
âûõîäíûå ñèãíàëû îáúåêòà áûëè çàøóìëåíû ðàçëè÷íûìè ïîìåõàìè. Êðîìå òîãî,
ïîñêîëüêó äàííûé îáúåêò ÿâëÿåòñÿ ìíîãîñâÿçíûì, îêîí÷àòåëüíûé âèä ðàñïðåäå-
ëåíèé óñòàíîâèòü âåñüìà ñëîæíî. Ïîñëå 2000 ýïîõ îáó÷åíèÿ áûëè ïîëó÷åíû ñëå-
äóþùèå îöåíêè ïàðàìåòðîâ ïîìåõ (íåçàâèñèìûå ïî êàæäîìó âûõîäó îáúåêòà):
�
1
1 �1,2042 ; �
2
1 � 7,4612 ; m
1
1 0 0� , ; m
2
1 � 0,6765 — äëÿ ïåðâîãî âûõîäà;
�
1
2 � 2,5593 ; �
2
2 �1.5492 ; m
1
2 0 0� , ; m
2
2 � 2,0294 — äëÿ âòîðîãî âûõîäà.
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2 23
Ðèñ. 4
– 1
– 0,5
300
250
200
150
100
50
0
– 0,8 – 0,6 – 0,4 – 0,2 0 0,2 0 ,4 0,6
×èñëî ïîìåõ èçìåðåíèé
â èíòåðâàëå
Èíòåðâàëû
1,5
1
0,5
0
– 0,5
– 1
0
0,51
0
– 0,4
0,4
1
y k( )
y k( )� 1 u k( )� 1
– 1
– 0,5
600
500
400
300
200
100
0 1 2 3 4 5
Èíòåðâàëû
à á
1
0,8
0,6
0,4
0,2
0
– 0,2
– 0,4
– 0,6
– 0,8
– 1
0
0,51
0
– 0,4
0,4
1
y k( )
y k( )� 1 u k( )� 1
Ñåòü ñîäåðæàëà 17 íåéðîíîâ (äåâÿòü íåéðîíîâ ñ ÁÔ ¹ 1 (ñì. òàáë.1) è âîñåìü
íåéðîíîâ ñ ÁÔ ¹ 2). Ðåçóëüòàòû ìîäåëèðîâàíèÿ ïðèâåäåíû íà ðèñ. 5. Ýòàëîííûå
ïîâåðõíîñòè, îïèñûâàåìûå âûðàæåíèÿìè (12), ïðåäñòàâëåíû íà ðèñ. 5, à; âîññòà-
íîâëåííûå ïîâåðõíîñòè — íà ðèñ. 5, á; ãðàôèê èçìåíåíèÿ çíà÷åíèÿ ôèò-
íåññ-ôóíêöèè îñîáè-ïîáåäèòåëÿ — íà ðèñ. 5, â; ãðàôèê èçìåíåíèÿ êîëè÷åñòâà àê-
òèâíûõ íåéðîíîâ îñîáè-ïîáåäèòåëÿ — íà ðèñ. 5, ã.
Ýêñïåðèìåíò 4. Âûïîëíÿëàñü èäåíòèôèêàöèÿ îáúåêòà (9) ñ ïàðàìåòðàìè ïî-
ìåõè òàêèìè æå, êàê è â ýêñïåðèìåíòå 1, è ñ èñïîëüçîâàíèåì ôèòíåññ-ôóíêöèè
âèäà (7), ãäå â êà÷åñòâå ôóíêöèîíàëà � èñïîëüçîâàëîñü âûðàæåíèå
�[ ( )]
( )
( )
e k
e k
e k
�
�
2
21
. (13)
Íà ðèñ. 6, à ïîêàçàí ãðàôèê èçìåíåíèÿ çíà÷åíèÿ ôèòíåññ-ôóíêöèè (7) äëÿ
îñîáè-ïîáåäèòåëÿ, íà ðèñ. 6, á — ãðàôèê èçìåíåíèÿ êîëè÷åñòâà àêòèâíûõ íåéðî-
íîâ. Âîññòàíîâëåííàÿ ïîâåðõíîñòü ïðèâåäåíà íà ðèñ. 6, â. Ðåçóëüòàòû ìîäåëèðî-
âàíèÿ ñâèäåòåëüñòâóþò î òîì, ÷òî èñïîëüçîâàíèå ôèòíåññ-ôóíêöèè (7) ñ ôóíêöè-
îíàëîì (13) ïîçâîëÿåò ýôôåêòèâíî óñòðàíÿòü ïîìåõó, èñïîëüçóÿ áîëåå ïðîñòîé
ôîðìàò õðîìîñîìû.
24 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2
Ðèñ. 5
– 1
– 0,5
0
0,5
0– 0,5
0,5
1
y k2 ( )
y k1 1( )�
u k2 ( )
– 1
– 0,5
Êîëè÷åñòâî
ýïîõ
à
á
1,5
1
0,5
0
– 0,5
– 1
–
– 1,5
0
0,51
0
– 0,5
0,5
1
y k2 ( )
y k1 1( )� u k2( )
1,5
1
0,5
0
– 0,5
– 1
– 1
– 0,5
0
0,5
1
0
– 0,5
0,5
1
y k1 ( )
y k2 1( )� u k1 ( )
1
140
120
100
80
60
40
20
0 200 400 600 800 1000 1200 1400 1600 1800
â
f
ã
1
0,5
0
– 0,5
– 1
– 1
– 0,5
0
0,5
1
0
– 0,5
0,5
y k1 ( )
y k2 1( )� u k1 ( )
1
N
0 200 400 600 800 1000 1200 1400 1600 1800
20
18
16
14
12
10
8
1
0,5
0
– 0,5
– 1
ÇÀÊËÞ×ÅÍÈÅ
Êàê âèäíî èç ðåçóëüòàòîâ ìîäåëèðîâàíèÿ, ýâîëþöèîíèðóþùàÿ ÐÁÑ, èñïîëüçó-
þùàÿ ÃÀ êàê äëÿ îïðåäåëåíèÿ ñòðóêòóðû íåéðîñåòåâîé ìîäåëè, òàê è îöåíè-
âàíèÿ åå ïàðàìåòðîâ, îáëàäàåò âûñîêîé ñòåïåíüþ ðîáàñòíîñòè è ñïîñîáíà ðå-
øàòü çàäà÷ó èäåíòèôèêàöèè ñèëüíî çàøóìëåííûõ îáúåêòîâ. Ïðè ýòîì âîçìîæ-
íû äâà ïîäõîäà ê óñòðàíåíèþ âëèÿíèÿ ïîìåõè. Ïåðâûé áàçèðóåòñÿ íà
èñïîëüçîâàíèè ìîäåëè Òüþêè–Õüþáåðà è çàêëþ÷àåòñÿ â îöåíèâàíèè ïàðàìåò-
ðîâ ïîìåõè, âòîðîé ïîäõîä îñíîâàí íà èñïîëüçîâàíèè Ì-îáó÷åíèÿ è ïîçâîëÿ-
åò íåñêîëüêî óïðîñòèòü ñòðóêòóðó õðîìîñîìû, òàê êàê íå òðåáóåò õðàíåíèÿ
äîïîëíèòåëüíûõ ïàðàìåòðîâ. Ðåçóëüòàòû ìîäåëèðîâàíèÿ äåìîíñòðèðóþò ýô-
ôåêòèâíîñòü îáîèõ ïîäõîäîâ.
ÑÏÈÑÎÊ ËÈÒÅÐÀÒÓÐÛ
1. L e o n t a r i t i s I . J . , B i l l i n g s S . A . Input-output parametric models for non-linear systems.
Part I: Deterministic non-linear systems // Inf. J. of Control. — 1985. — 41. — P. 303–308.
2. L e o n t a r i t i s I . J . , B i l l i n g s S . A . Input-output parametric models for non-linear systems.
Part II: Stochastic non-linear systems // Int. J. of Control. — 1985. — 41. — P. 309–344.
3. C h e n S . , B i l l i n g s S . A . Representations of nonlinear systems: the NARMAX model // Int. J.
of Control. — 1983. — 49(3). — P. 1013–1032.
4. N a r e n d r a K . S . , P a r t h a s a r a t h y K . Identification and control of dynamical systems using
neural networks // IEEE Trans. on Neural Networks. — 1990. — 1, N 1. — P. 4–26.
5. C h e n S . , B i l l i n g s S . A . , G r a n t P . M . Recursive hybrid algorithm for non-linear system
identification using radial basis function networks // Int. J. of Control. — 1992. — 55. —
P. 1051–1070.
6. Õ à é ê è í Ñ . Íåéðîííûå ñåòè: ïîëíûé êóðñ. — Ì.: Èçä. äîì «Âèëüÿìñ», 2006. — 1104 ñ.
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2 25
Ðèñ. 6
23,5
23
22,5
22
21,5
21
20,5
20
19,5
0 100 200 300 400 500 600 700 800
f
Êîëè÷åñòâî
ýïîõ
– 1
– 0,5
á
â
0
0,5
0
– 0,5
0,5
1
y k( )
y k( )� 1 u k( )� 1
à
0 100 200 300 400 500 600 700 800 900
15
14
13
12
11
10
9
8
7
6
5
– 1
N
7. S p o o n e r J . T . , P a s s i n o K . M . Decentralized adaptive control of nonlinear systems using
radial basis neural networks // IEEE Trans. on Automatic Control. — 1999. — 44, N 11. —
P. 2050–2057.
8. S h i l l i n g R . J . , C a r r o l l J . J . , A l - A j l o u n i A . F . Approximation of nonlinear systems
with radial basis function neural networks // IEEE Trans. on Neural Networks. — 2001. — 12, N 6.
— P. 1–15.
9. Ð ó ä å í ê î Î . Ã . , Á å ñ ñ î í î â À . À . Èäåíòèôèêàöèÿ íåëèíåéíûõ íåñòàöèîíàðíûõ îáúåê-
òîâ â ðåàëüíîì âðåìåíè ñ ïîìîùüþ ðàäèàëüíî-áàçèñíûõ ñåòåé // Êèáåðíåòèêà è ñèñòåìíûé
àíàëèç. — 2003. — ¹ 6. — C. 177–185.
10. L i Y . , S u n d a r a r a j a n N . , S a r a t c h a n d r a n P . Analysis of minimal radial basis function
network algorithm for real-time identification of nonlinear dynamic systems // IEEE Proc. — Control
Theory Appl. — 2000. — 147, N 4. — P. 476–484.
11. Y u D . L . , Y u D . W . A new structure adaptation algorithm for RBF networks and its application
// Neural Comput. & Appl. — 2007. — 16. — P. 91–100.
12. M a i l l a r d E . P . , G u e r i o t D . RBF neural network, basis functions and genetic algorithm //
Proc. Int. Conf. Neural Networks, Houston, TX. — 1997. — 4. — P. 2187–2192.
13. D i n g S . , X u L . , Z h u H . Studies on optimization algorithms for some artificial neural
networks based on genetic algorithm (GA) // J. Computers. — 2011. — 6, N 5. — P. 939–946.
14. B u c h t a l a O . , K l i m e k M . , S i c k B . Evolutionary optimization of radial basis function
classifiers for data mining applications // IEEE Trans. on Systems, Man, and Cybernetics, Part B. —
2005. — 35, N 5. — P. 928–947.
15. Õ ü þ á å ð Ï . Ðîáàñòíîñòü â ñòàòèñòèêå. — Ì.: Ìèð, 1984. — 304 ñ.
16. H a m p e l F . R . , R o n c h e t t i E . M . , R o u s s e e u w P . J . , S t a h e l W . A . Robust
statistics. The approach based on influence functions. — N.Y.: John Wiley and Sons, 1986. — 526 p.
17. C h e n D . S . , J a i n R . C . A robust back-propagation learning algorithm for function
approximation // IEEE Tran. on Neural Networks. — 1994. — 5. — P. 467–479.
18. L i a n o K . A robust approach to supervised learning in neural network // Proc. ICNN. — 1994. —
1. — P. 513–516.
19. L e e C h . - C h . , C h u n g P . - C h . , T s a i J . - R . , C h a n g C h . - I . Robust radial basis
function neural networks. Part B: Cybernetics // IEEE Trans. on Systems, Man, and Cybernetics. —
1999. — 29, N 6. — P. 674–685.
20. Ð ó ä å í ê î Î . à . , Á å ñ ñ î í î â À . À . Ðîáàñòíîå îáó÷åíèå âýéâëåò-íåéðîñåòåé // Ïðîáëåìû
óïðàâëåíèÿ è èíôîðìàòèêè. — 2010. — ¹ 5. — C. 66–79.
21. Ð ó ä å í ê î Î . à . , Á å ñ ñ î í î â À . À . Ðîáàñòíîå îáó÷åíèå ðàäèàëüíî-áàçèñíûõ ñåòåé // Êè-
áåðíåòèêà è ñèñòåìíûé àíàëèç. — 2011. — ¹ 6. — C. 38–46.
22. R u d e n k o O . , B e z s o n o v O . Function approximation using robust radial basis function
networks // J. of Intelligent Learning Systems and Appl. — 2011. — 3. — P. 17–25.
23. Ð ó ä å í ê î Î . à . , Á å ñ ñ î í î â À . À . Ì-îáó÷åíèå ðàäèàëüíî-áàçèñíûõ ñåòåé ñ èñïîëüçîâà-
íèåì àñèììåòðè÷íûõ ôóíêöèé âëèÿíèÿ // Ïðîáëåìû óïðàâëåíèÿ è èíôîðìàòèêè. — 2012. —
¹ 1. — Ñ. 79–93.
Ïîñòóïèëà 15.01.2012
26 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2013, ¹ 2
|