Substantiation of the backpropagation technique via the Hamilton—Pontryagin formalism for training nonconvex nonsmooth neural networks

• Veröffentlicht in: Доповіді НАН України
• Datum: 2019
• ISSN: 1025-6415
• 1. Verfasser: Norkin, V.I.
• Format: Artikel
• Sprache: Englisch
• Veröffentlicht: Видавничий дім "Академперіодика" НАН України 2019
• Schlagworte: Інформатика та кібернетика
• Online Zugang: https://nasplib.isofts.kiev.ua/handle/123456789/162684
• Назва журналу: Digital Library of Periodicals of National Academy of Sciences of Ukraine
• Zitieren: Substantiation of the backpropagation technique via the Hamilton—Pontryagin formalism for training nonconvex nonsmooth neural networks / V.I. Norkin // Доповіді Національної академії наук України. — 2019. — № 12. — С. 19-26. — Бібліогр.: 15 назв. — англ.

The paper observes the similarity between the stochastic optimal control over discrete dynamical systems and the
 lear ning multilayer neural networks. It focuses on contemporary deep networks with nonconvex nonsmooth loss and
 activation functions. The machine learning problems are...