Substantiation of the backpropagation technique via the Hamilton—Pontryagin formalism for training nonconvex nonsmooth neural networks
The paper observes the similarity between the stochastic optimal control over discrete dynamical systems and the lear ning multilayer neural networks. It focuses on contemporary deep networks with nonconvex nonsmooth loss and activation functions. The machine learning problems are treated as nonco...
Gespeichert in:
| Veröffentlicht in: | Доповіді НАН України |
|---|---|
| Datum: | 2019 |
| 1. Verfasser: | Norkin, V.I. |
| Format: | Artikel |
| Sprache: | English |
| Veröffentlicht: |
Видавничий дім "Академперіодика" НАН України
2019
|
| Schlagworte: | |
| Online Zugang: | https://nasplib.isofts.kiev.ua/handle/123456789/162684 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Zitieren: | Substantiation of the backpropagation technique via the Hamilton—Pontryagin formalism for training nonconvex nonsmooth neural networks / V.I. Norkin // Доповіді Національної академії наук України. — 2019. — № 12. — С. 19-26. — Бібліогр.: 15 назв. — англ. |
Institution
Digital Library of Periodicals of National Academy of Sciences of UkraineÄhnliche Einträge
-
Substantiation of the backpropagation technique via the Hamilton—Pontryagin formalism for training nonconvex nonsmooth neural networks
von: V. I. Norkin
Veröffentlicht: (2019) -
Stochastic generalized gradient methods for training nonconvex nonsmooth neural networks
von: V. I. Norkin
Veröffentlicht: (2021) -
Formal methods of parallel software design automation
von: Doroshenko, A.Yu., et al.
Veröffentlicht: (2020) -
On the finite convergence of the NN classification learning on mistakes
von: Norkin, V.I.
Veröffentlicht: (2022) -
A new projective exact penalty function for a general constrained optimization
von: Norkin, V.I.
Veröffentlicht: (2022)