Об устойчивости нейронной сети на временной шкале
Отримано достатнi умови рiвномiрної асимптотичної, експоненцiальної та рiвномiрної експоненцiальної стiйкостi стану рiвноваги нейронної системи на часовiй шкалi. Наведено достатнi умови регресивностi функцiї системи та достатнi умови iснування та єдиностi стану рiвноваги нейронної системи. The suffi...
Збережено в:
| Опубліковано в: : | Доповіді НАН України |
|---|---|
| Дата: | 2010 |
| Автори: | , |
| Мова: | Російська |
| Опубліковано: |
Видавничий дім "Академперіодика" НАН України
2010
|
| Теми: | |
| Онлайн доступ: | https://nasplib.isofts.kiev.ua/handle/123456789/19247 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Цитувати: | Об устойчивости нейронной сети на временной шкале / А.А. Мартынюк, Т.А. Лукьянова // Доп. НАН України. — 2010. — № 1. — С. 21-26. — Бібліогр.: 6 назв. — рос. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraine| _version_ | 1860263551488229376 |
|---|---|
| author | Мартынюк, А.А. Лукьянова, Т.А. |
| author_facet | Мартынюк, А.А. Лукьянова, Т.А. |
| citation_txt | Об устойчивости нейронной сети на временной шкале / А.А. Мартынюк, Т.А. Лукьянова // Доп. НАН України. — 2010. — № 1. — С. 21-26. — Бібліогр.: 6 назв. — рос. |
| collection | DSpace DC |
| container_title | Доповіді НАН України |
| description | Отримано достатнi умови рiвномiрної асимптотичної, експоненцiальної та рiвномiрної експоненцiальної стiйкостi стану рiвноваги нейронної системи на часовiй шкалi. Наведено достатнi умови регресивностi функцiї системи та достатнi умови iснування та єдиностi стану рiвноваги нейронної системи.
The sufficient conditions of uniform asymptotic, exponential, and uniform exponential stabilities for the neural systems on the time scale are obtained. The sufficient conditions of regressivity of system’s function and the existence of unique equilibrium are given.
|
| first_indexed | 2025-12-07T18:58:01Z |
| fulltext |
УДК 517.929
© 2010
Академик НАН Украины А.А. Мартынюк, Т. А. Лукьянова
Об устойчивости нейронной сети на временной шкале
Отримано достатнi умови рiвномiрної асимптотичної, експоненцiальної та рiвномiр-
ної експоненцiальної стiйкостi стану рiвноваги нейронної системи на часовiй шкалi.
Наведено достатнi умови регресивностi функцiї системи та достатнi умови iснування
та єдиностi стану рiвноваги нейронної системи.
Динамика нейронной сети в непрерывном и дискретном случаях исследована достаточно
подробно (см., напр., [1, 2] и приведенную там библиогр.). На вопрос о том, что происходит
в нейронной сети, работающей в режиме непрерывно-дискретной во времени системы, “меж-
ду” непрерывным и дискретным состояниями, позволяет дать ответ теория динамических
уравнений на временной шкале. Элементы математического анализа на временной шкале
приведены во многих работах (см., напр., [3] и приведенную там библиогр.).
В данной работе описывается нейронная сеть на временной шкале и исследуется рав-
номерная асимптотическая устойчивость и равномерная экспоненциальная устойчивость.
В качестве примера рассматривается двухкомпонентная нейронная сеть на временной
шкале.
Основные обозначения и определения [3]. Временной шкалой T называется произ-
вольное непустое замкнутое подмножество множества вещественных чисел R. Примерами
временной шкалы являются: множество вещественных чисел R, множество целых чисел Z,
множество натуральных чисел N, множество целых неотрицательных чисел N0, множество
qN0 = {qn : n ∈ N0}, где q > 1.
Для любого t ∈ T функции скачка вперед и скачка назад определяются соотношениями
σ(t) = inf{s ∈ T : s > t} и ρ(t) = sup{s ∈ T : s < t}
соответственно. Если σ(t) = t (ρ(t) = t), то точка t ∈ T называется плотной справа (слева),
если σ(t) > t (ρ(t) < t), то точка t ∈ T называется рассеяной справа (слева). При этом
предполагается, что inf ∅ = supT (т. е. σ(t) = t, если T содержит максимальный элемент t)
и sup∅ = inf T (т. е. ρ(t) = t, если T содержит минимальный элемент t). Наряду с множе-
ством T применяется множество T
k = T. Если T содержит рассеяный слева максимум m,
то T
k = T \ {m}, в остальных случаях T
k = T.
Расстояние от произвольного элемента t ∈ T до его последователя называется зернисто-
стью временной шкалы T и определяется формулой µ(t) = σ(t) − t.
Если T = R, то σ(t) = t и µ(t) = 0, если T = Z, то σ(t) = t+ 1, ρ(t) = t− 1 и µ(t) = 1.
Функция f : T → R называется ∆-дифференцируемой в точке t ∈ T
k, если существует
такое γ ∈ R, что для любого ε > 0 существует W -окрестность точки t ∈ T
k, такая что
выполняется неравенство |[f(σ(t))− f(s)]− γ[σ(t)− s]| < ε|σ(t)− s| при всех s ∈W . В этом
случае обозначается f∆ = γ.
Если функция f(t) является ∆-дифференцируемой при любом t ∈ T
k, то f : T → R
называется ∆-дифференцируемой на T
k.
ISSN 1025-6415 Доповiдi Нацiональної академiї наук України, 2010, №1 21
Если функции f , g ∆-дифференцируемы в точке t ∈ T
k, то верны следующие утвер-
ждения:
1) сумма f + g ∆-дифференцируема в точке t и (f + g)∆(t) = f∆(t) + g∆(t);
2) для любой постоянной α ∈ R функция αf(t) ∆-дифференцируема в точке t и αf∆(t) =
= αf∆(t);
3) произведение fg ∆-дифференцируемо в точке t и (fg)∆(t) = f∆(t)g(t)+f(σ(t)) g∆(t) =
= f(t)g∆(t) + f∆(t)g(σ(t));
4) f(σ(t)) = f(t) + µ(t)f∆(t).
Заметим, что если T = R, то f∆(t) = f ′(t), что является эйлеровой производной функции
f(t), и если T = Z, то f∆(t) = ∆f(t) = f(t + 1) − f(t), т. е. получаем первую разность для
функции f(t).
Функция f : T → R является rd-непрерывной, если она непрерывна в плотных справа
точках на T и существует конечный левосторонний предел в плотных слева точках шкалы T.
Множество всех rd-непрерывных функций обозначается Crd = Crd(T) = Crd(T,R).
Функция f : T → R называется регрессивной, если 1 + µ(t)f(t) 6= 0 при всех t ∈ T
k,
и положительно регрессивной, если 1 + µ(t)f(t) > 0 при всех t ∈ T
k.
Функция f : T×R
n → R
n называется регрессивной, если оператор I+µ(t)f(t, ·) при всех
t ∈ T
k обратим. Тут I : Rn → R
n — единичный оператор.
Множество всех rd-непрерывных и регрессивных функций f : T → R обозначим через R.
Определим функцию (ср. [4])
βk(t) =
{
µ−1(t) log |1 + µ(t)k(t)|, если µ(t) > 0,
k(t), если µ(t) = 0,
где k ∈ R, t ∈ [t0,+∞). Здесь и далее [a,+∞) = {t ∈ T : a 6 t < +∞}.
Функция ψ : R+ → R+ принадлежит K-классу, если ψ(0) = 0 и она непрерывна и строго
возрастает на R+.
Матрица A ∈ R
n×n называется M -матрицей, если все ее внедиагональные элементы
неположительные, а все главные миноры положительные.
Отображение H : Rn : → R
n называется гомеоморфизмом, если оно взаимно однознач-
ное, непрерывно отображает множество само на себя и обратное отображение также не-
прерывно.
Кроме того, обозначим через ‖x‖ =
( n
∑
i=1
x2i
)1/2
норму вектора x ∈ R
n, ‖A‖ =
= (λM (ATA))1/2 — норму матрицы A = {aij} ∈ R
n×n, λm(A), λM (A) — минимальное и мак-
симальное собственные числа матрицы A соответственно, |A| = {|aij |}, A
−1 — матрицу,
обратную к матрице A.
Предположим, что на временной шкале T определена система динамических уравнений
x∆(t) = f(t, x(t)), t ∈ T, (1)
x(t0; t0, x0) = x0, t0 ∈ T, x0 ∈ R
n, (2)
где x ∈ R
n, f : T×R
n → R
n, supT = +∞, и что для задачи (1), (2) выполняются все условия
существования единственного решения при всех t ∈ [t0,+∞). Пусть x(t) = x∗ — состояние
равновесия системы (1).
22 ISSN 1025-6415 Reports of the National Academy of Sciences of Ukraine, 2010, №1
Определение 1.
I. Состояние равновесия x(t) = x∗ системы (1) называется устойчивым, если для лю-
бых ε > 0 и t1 ∈ T существует постоянная δ = δ(ε, t1) > 0 такая, что из условия
‖x1 − x∗‖ < δ следует оценка ‖x(t; t1, x1) − x∗‖ < ε при всех t ∈ [t1,+∞). Если величина δ
не зависит от t1, то состояние равновесия x(t) = x∗ системы (1) равномерно устойчиво.
II. Если состояние равновесия x(t) = x∗ системы (1) равномерно устойчиво и сущест-
вует постоянная δ1 > 0 такая, что для любого t1 ∈ T из условия ‖x1 − x∗‖ < δ1 следует,
что lim
t→+∞
‖x(t; t1, x1)− x∗‖ = 0, то состояние равновесия x(t) = x∗ системы (1) равномер-
но асимптотически устойчиво.
III. Состояние равновесия x(t) = x∗ системы (1) называется экспоненциально устой-
чивым, если существуют постоянные δ2 > 0, λ > 0 такие, что для любого t1 ∈ [t0,+∞)
существует постоянная N = N(t1) > 0 такая, что из условия ‖x(t1) − x∗‖ < δ2 следует
оценка ‖x(t; t1, x1) − x∗‖ 6 Ne−λ(t−t0)‖x(t1) − x∗‖ при всех t ∈ [t1,+∞). Если величина N
не зависит от t1, то состояние равновесия x(t) = x∗ системы (1) равномерно экспонен-
циально устойчиво.
Нейронная сеть на временной шкале. Рассмотрим нейронную сеть на временной
шкале, динамика которой описывается уравнениями вида
x∆(t) = −Bx(t) + Ts(x(t)) + J, t ∈ [0,+∞). (3)
Решение x(t; t0, x0) при t = t0 принимает значение x0, т. е.
x(t0; t0, x0) = x0, t0 ∈ [0,+∞), x0 ∈ R
n, (4)
где t ∈ T, T — произвольная временная шкала, 0 ∈ T, supT = +∞. В системе (3) x∆(t) —
∆-производная на временной шкале T, вектор x ∈ R
n характеризует состояние нейронов,
T = {tij} ∈ R
n×n, компоненты tij описывают взаимодействие между i-м и j-м нейронами,
s : Rn → R
n, s(x) = (s1(x1), s2(x2), . . ., sn(xn))
T, функция si описывает ответ i-го нейрона,
B ∈ R
n×n, B = diag{bi}, bi > 0, i = 1, 2, . . . , n, J ∈ R
n — постоянный вектор внешнего входа.
Если T = R, то x∆ = d/dt и начальная задача (3), (4) эквивалентна начальной задаче
для непрерывной нейронной системы типа Хопфилда [5]:
dx(t)
dt
= −Bx(t) + Ts(x(t)) + J, t > 0, (5)
x(t0; t0, x0) = x0, t0 > 0, x0 ∈ R
n. (6)
Если T = N0, то x∆(k) = x(k+1)−x(k) = ∆x(k) и начальная задача (3), (4) эквивалентна
следующей:
∆x(k) = −Bx(k) + Ts(x(k)) + J, t ∈ N0, (7)
x(k0; k0, x0) = x0, k0 ∈ N0, x0 ∈ R
n. (8)
Относительно системы (3) сделаем следующие предположения.
S1. Вектор-функция f(x) = −Bx+ Ts(x) + J является регрессивной.
S2. Существуют положительные постоянные Mi > 0, i = 1, 2, . . . , n, такие, что |si(u)| 6
6 Mi при всех u ∈ R.
ISSN 1025-6415 Доповiдi Нацiональної академiї наук України, 2010, №1 23
S3. Существуют положительные постоянные Li > 0, i = 1, 2, . . . , n, такие, что |si(u) −
− si(v)| 6 Li|u − v| при всех u, v ∈ R.
S4. Функция зернистости временной шкалы 0 < µ(t) ∈ M при всех t ∈ [0,+∞), где
M ⊂ R — компактное множество.
Из теоремы 8.24 работы [6] следует, что если выполняются условия S1–S3, то зада-
ча (3), (4) при любых (t0, x0) ∈ [0,+∞) × R
n имеет точно одно решение на интервале
[t0,+∞).
Анализ устойчивости состояния равновесия. Обозначим Λ = diag{Li} ∈ R
n×n,
r =
( n
∑
i=1
( n
∑
j=1
Mj |Tij | + |Ji|
)2
/b2i
)1/2
, b = min
i
{bi}, b = max
i
{bi}, L = max
i
{Li}. В работе
доказаны следующие утверждения.
Теорема 1. Если для системы (3) выполняются условия S1−S3, то существует состо-
яние равновесия x(t) = x∗ системы (3) и при этом ‖x∗‖ 6 r. Если, кроме того, матрица
BΛ−1 − |T | является M -матрицей, то это состояние равновесия единственно.
Теорема 2. Предположим, что для системы (3) выполняются предположения S1−S4
на временной шкале T и существует постоянная µ∗ ∈ M такая, что µ(t) 6 µ∗ при всех
t ∈ [0,+∞). Если выполняется неравенство
2b− 2L‖T‖ − µ∗(b+ L‖T‖)2 > 0,
то состояние равновесия x(t) = x∗ системы (3) равномерно асимптотически устойчиво.
Теорема 3. Пусть выполняются следующие условия:
1) для системы (3) на временной шкале T имеют место предположения S1 − S4;
2) функции si ∈ C2(R) и существуют постоянные Ki > 0 такие, что |s′′i (u)| 6 Ki при
всех u ∈ R, i = 1, 2, . . . , n;
3) существует постоянная µ∗ ∈ M такая, что µ(t) 6 µ∗ при всех t ∈ [0,+∞);
4) существует положительно определенная симметрическая матрица P ∈ R
n×n та-
кая, что выполняется неравенство λM (PB1+B
T
1 P )+µ
∗‖P‖‖B1‖
2 < 0, где B1 = −B+TG,
G = diag{s′i(0)} ∈ R
n×n.
Тогда состояние равновесия x(t) = x∗ системы (3) равномерно асимптотически устой-
чиво.
Теорема 4. Пусть выполняются следующие условия:
1) для системы (3) имеют место предположения S1 − S3;
2) функции si ∈ C2(R) и существуют постоянные Ki > 0 такие, что |s′′i (u)| 6 Ki при
всех u ∈ R, i = 1, 2, . . . , n;
3) существует положительно определенная симметрическая матрица P ∈ R
n×n и су-
ществует постоянная M > 0 такие, что |1 + µ(t)A(t)| > M при всех t ∈ [t0,+∞), где
B1 = −B + TG, G = diag{s′i(0)} ∈ R
n×n, A(t) = λM (PB1 +BT
1 P ) + µ(t)‖P‖‖B1‖
2.
Тогда:
4) если lim sup
t→+∞
βA(τ) = q < 0, то состояние равновесия x(t) = x∗ системы (3) экспо-
ненциально устойчиво;
5) если sup{βA(t) : t ∈ [0,+∞)} = q < 0, то состояние равновесия x(t) = x∗ системы (3)
равномерно экспоненциально устойчиво.
Замечание 1. Рассмотрим шкалу T = N0 (µ(t) ≡ 1). Начальная задача (3), (4) в этом
случае будет эквивалентна задаче (7), (8) и условие равномерной асимптотической устой-
чивости состояния равновесия системы (3), полученное в теореме 2, при µ∗ = 1 примет вид
24 ISSN 1025-6415 Reports of the National Academy of Sciences of Ukraine, 2010, №1
2b− 2L‖T‖ − (b+ L‖T‖)2 > 0.
Этот результат полностью совпадает со следующим для дискретной системы (8).
Теорема 5. Пусть для нейронной дискретной системы (8) выполнены предположе-
ния S2 − S3. Тогда состояние равновесия x(t) = x∗ системы (8) будет равномерно асим-
птотически устойчиво при условии, что
2b− 2L‖T‖ − (b+ L‖T‖)2 > 0.
Теорема 6. Пусть выполнено предположение S3. Если при каждом фиксированном
t ∈ T матрица C = (I − µ(t)B)Λ−1 − µ(t)|T | является M -матрицей, то функция f(x) =
= −Bx + Ts(x) + J регрессивна.
Численный пример. На временной шкале
P1,b =
∞
⋃
j=0
[j(1 + b), j(1 + b) + 1], b > 0,
рассмотрим двухкомпонентную нейронную сеть
x∆1 = −b1x1 + t11s(x2) + t12s(x2) + i1,
x∆2 = −b2x1 + t21s(x1) + t22s(x2) + i2, (9)
где x1, x2 ∈ R, b1 = b2 = 1, T =
(
0,1 −0,5
0,5 0,1
)
, s(u) = thu. Для временной шкалы P1,b
функция зернистости
µ(t) =
0, t ∈
∞
⋃
j=0
[j(1 + b), j(1 + b) + 1),
b, t ∈
∞
⋃
j=0
{j(1 + b) + 1}.
Выбрав матрицу P = diag{0,5; 0,5} получим функцию
βA(t) =
b−1 log |1 + b(−0,9 + 0,53b)|, t ∈
∞
⋃
j=0
{j(1 + b) + 1},
−0,9 + 0,53b, t ∈
∞
⋃
j=0
[j(1 + b), j(1 + b) + 1),
и условие регрессивности в виде неравенств
{
1− 1,1b > 0,
(1− 1,1b)2 − 0,25b2 > 0.
При 0 < b < 0,625 выполнены все условия теорем 1, 4 и 6. Cистема (9) имеет единствен-
ное состояние равновесия при любых i1, i2 ∈ R и это состояние равновесия равномерно
экспоненциально устойчиво.
ISSN 1025-6415 Доповiдi Нацiональної академiї наук України, 2010, №1 25
Следует отметить, что все достаточные условия устойчивости получены нами в пред-
положении, что функция зернистости ограничена. Вопрос же об устойчивости нейронной
сети при неограниченной функции зернистости все еще остается открытым и нуждается
в дальнейшем изучении.
1. Wang K., Michel A.N. Robustness and perturbation analysis of a class of artifical neural networks //
Neural networks. – 1994. – 7. – P. 251–259.
2. Feng Z., Michel A.N. Robustness analysis of a class of discrete-time systems with applications to neural
networks // Nonlinear dynamics and systems theory. – 2003. – 3, No 1. – P. 75–86.
3. Бохнер М., Мартынюк А.А. Элементы теории устойчивости А.М. Ляпунова для динамических урав-
нений на временной шкале // Прикл. механика. – 2007. – 43, № 9. – С. 3–27.
4. Мартынюк А.А. Об экспоненциальной устойчивости на временной шкале // Докл. АН. – 2008. – 421,
№ 3. – С. 312–317.
5. Hopfield J. J. Neurons with graded response have collective computational properties like those of two state
neurons // Proc. Nat. Acad. Sci. USA. – 1984. – 81. – P. 3088–3092.
6. Bohner M., Peterson A. Dynamic equations on time scales: an introduction with applications. – Boston:
Birkhäuser, 2001. – 358 p.
Поступило в редакцию 06.05.2009Институт механики им. С.П. Тимошенко
НАН Украины, Киев
Academician of the NAS of Ukraine A.A. Martynyuk, T. A. Lukyanova
On the stability of a neural network on the time scale
The sufficient conditions of uniform asymptotic, exponential, and uniform exponential stabilities
for the neural systems on the time scale are obtained. The sufficient conditions of regressivity of
system’s function and the existence of unique equilibrium are given.
26 ISSN 1025-6415 Reports of the National Academy of Sciences of Ukraine, 2010, №1
|
| id | nasplib_isofts_kiev_ua-123456789-19247 |
| institution | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| issn | 1025-6415 |
| language | Russian |
| last_indexed | 2025-12-07T18:58:01Z |
| publishDate | 2010 |
| publisher | Видавничий дім "Академперіодика" НАН України |
| record_format | dspace |
| spelling | Мартынюк, А.А. Лукьянова, Т.А. 2011-04-23T11:52:03Z 2011-04-23T11:52:03Z 2010 Об устойчивости нейронной сети на временной шкале / А.А. Мартынюк, Т.А. Лукьянова // Доп. НАН України. — 2010. — № 1. — С. 21-26. — Бібліогр.: 6 назв. — рос. 1025-6415 https://nasplib.isofts.kiev.ua/handle/123456789/19247 517.929 Отримано достатнi умови рiвномiрної асимптотичної, експоненцiальної та рiвномiрної експоненцiальної стiйкостi стану рiвноваги нейронної системи на часовiй шкалi. Наведено достатнi умови регресивностi функцiї системи та достатнi умови iснування та єдиностi стану рiвноваги нейронної системи. The sufficient conditions of uniform asymptotic, exponential, and uniform exponential stabilities for the neural systems on the time scale are obtained. The sufficient conditions of regressivity of system’s function and the existence of unique equilibrium are given. ru Видавничий дім "Академперіодика" НАН України Доповіді НАН України Математика Об устойчивости нейронной сети на временной шкале On the stability of a neural network on the time scale published earlier |
| spellingShingle | Об устойчивости нейронной сети на временной шкале Мартынюк, А.А. Лукьянова, Т.А. Математика |
| title | Об устойчивости нейронной сети на временной шкале |
| title_alt | On the stability of a neural network on the time scale |
| title_full | Об устойчивости нейронной сети на временной шкале |
| title_fullStr | Об устойчивости нейронной сети на временной шкале |
| title_full_unstemmed | Об устойчивости нейронной сети на временной шкале |
| title_short | Об устойчивости нейронной сети на временной шкале |
| title_sort | об устойчивости нейронной сети на временной шкале |
| topic | Математика |
| topic_facet | Математика |
| url | https://nasplib.isofts.kiev.ua/handle/123456789/19247 |
| work_keys_str_mv | AT martynûkaa obustoičivostineironnoisetinavremennoiškale AT lukʹânovata obustoičivostineironnoisetinavremennoiškale AT martynûkaa onthestabilityofaneuralnetworkonthetimescale AT lukʹânovata onthestabilityofaneuralnetworkonthetimescale |