Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням
Cкладність молекулярних механізмів, що підтримують формування пам’яті, заважає побудові простих, але вичерпних моделей для ефективної симуляції великих нейронних мереж. Запропоновано феноменологічну модель правила навчання, що описує силу зв’язку через повільну і швидку змінні. Їх взаємодія дозволяє...
Saved in:
| Published in: | Системні дослідження та інформаційні технології |
|---|---|
| Date: | 2017 |
| Main Author: | |
| Format: | Article |
| Language: | Ukrainian |
| Published: |
Навчально-науковий комплекс "Інститут прикладного системного аналізу" НТУУ "КПІ" МОН та НАН України
2017
|
| Subjects: | |
| Online Access: | https://nasplib.isofts.kiev.ua/handle/123456789/151168 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| Journal Title: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Cite this: | Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням / В.М. Осауленко // Системні дослідження та інформаційні технології. — 2017. — № 2. — С. 130-140. — Бібліогр.: 24 назв. — укр. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
nasplib_isofts_kiev_ua-123456789-151168 |
|---|---|
| record_format |
dspace |
| spelling |
Осауленко, В.М. 2019-04-25T16:58:45Z 2019-04-25T16:58:45Z 2017 Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням / В.М. Осауленко // Системні дослідження та інформаційні технології. — 2017. — № 2. — С. 130-140. — Бібліогр.: 24 назв. — укр. 1681–6048 DOI: https://doi.org/10.20535/SRIT.2308-8893.2017.1.12 https://nasplib.isofts.kiev.ua/handle/123456789/151168 004.942 Cкладність молекулярних механізмів, що підтримують формування пам’яті, заважає побудові простих, але вичерпних моделей для ефективної симуляції великих нейронних мереж. Запропоновано феноменологічну модель правила навчання, що описує силу зв’язку через повільну і швидку змінні. Їх взаємодія дозволяє об’єднати навчання без учителя та навчання з підкріпленням. Результати симуляції свідчать про стабільність сили зв’язку завдяки взаємодії двох змінних та швидкій формі гомеостатичної пластичності. Мультиплікативна форма масштабування ваг зберігає патерни пам’яті статистично більш частих стимулів. Подібним чином до підходу допоміжних слідів модель відслідковує нещодавні зміни сили зв’язку між нейронами і дозволяє їх підсилити. Наведено міркування про можливу біологічну інтерпретацію запропонованої моделі, що включає швидке переміщення рецепторів до мембрани і стабілізацію їх у кластери. Сложность молекулярных механизмов, которые поддерживают формирование памяти, затрудняет построение простых, но точных и исчерпывающих моделей для эффективного моделирования больших нейронных сетей. Предложена феноменологическая модель правила обучения, описывающая силу связи нейронов посредством медленной и быстрой переменных. Их взаимодействие позволяет сочетать обучение с подкреплением и обучение без учителя. Результаты показывают стабильность силы связи за счет сочетания двух переменных и быстрой гомеостатической пластичности. Мультипликативный способ масштабирования весов сохраняет паттерны памяти статистически более частых входных сигналов. Схожим образом к подходу дополнительных следов модель отслеживает последние изменения весов и позволяет их усилить. Приведены соображения о возможной биофизической интерпретации модели, которая включает в себя быстрое перемещение рецепторов к мембране и стабилизации их в кластеры. The huge complexity of molecular mechanisms that support memory formation makes it difficult to build simple, but precise and sufficient models for an efficient simulation of large neural networks. In this paper, we propose the phenomenological model of a learning rule that describes the synaptic strength via slow and fast variables. Two variables interact with each other in a bidirectional manner that allows to combine the reward and unsupervised learning. Results show the stability of synaptic strength due to coupling of two variables and fast homeostatic plasticity. The multiplicative approach of synaptic scaling preserves memory patterns of statistically more frequent input signals. Similar to the eligibility traces approach, the model tracks recent synaptic changes and allows to reinforce these changes. Also, we speculate on a possible biophysical interpretation of such a model that includes the fast movement of receptors to the membrane and their stabilization into clusters. uk Навчально-науковий комплекс "Інститут прикладного системного аналізу" НТУУ "КПІ" МОН та НАН України Системні дослідження та інформаційні технології Методи аналізу та управління системами в умовах ризику і невизначеності Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням Двумерная модель обучения в спайковых нейронных сетях с гомеостазом и обучением с подкреплением Two dimensional model of learning in spiking neural networks with homeostasis and reward Article published earlier |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| title |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| spellingShingle |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням Осауленко, В.М. Методи аналізу та управління системами в умовах ризику і невизначеності |
| title_short |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_full |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_fullStr |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_full_unstemmed |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_sort |
двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| author |
Осауленко, В.М. |
| author_facet |
Осауленко, В.М. |
| topic |
Методи аналізу та управління системами в умовах ризику і невизначеності |
| topic_facet |
Методи аналізу та управління системами в умовах ризику і невизначеності |
| publishDate |
2017 |
| language |
Ukrainian |
| container_title |
Системні дослідження та інформаційні технології |
| publisher |
Навчально-науковий комплекс "Інститут прикладного системного аналізу" НТУУ "КПІ" МОН та НАН України |
| format |
Article |
| title_alt |
Двумерная модель обучения в спайковых нейронных сетях с гомеостазом и обучением с подкреплением Two dimensional model of learning in spiking neural networks with homeostasis and reward |
| description |
Cкладність молекулярних механізмів, що підтримують формування пам’яті, заважає побудові простих, але вичерпних моделей для ефективної симуляції великих нейронних мереж. Запропоновано феноменологічну модель правила навчання, що описує силу зв’язку через повільну і швидку змінні. Їх взаємодія дозволяє об’єднати навчання без учителя та навчання з підкріпленням. Результати симуляції свідчать про стабільність сили зв’язку завдяки взаємодії двох змінних та швидкій формі гомеостатичної пластичності. Мультиплікативна форма масштабування ваг зберігає патерни пам’яті статистично більш частих стимулів. Подібним чином до підходу допоміжних слідів модель відслідковує нещодавні зміни сили зв’язку між нейронами і дозволяє їх підсилити. Наведено міркування про можливу біологічну інтерпретацію запропонованої моделі, що включає швидке переміщення рецепторів до мембрани і стабілізацію їх у кластери.
Сложность молекулярных механизмов, которые поддерживают формирование памяти, затрудняет построение простых, но точных и исчерпывающих моделей для эффективного моделирования больших нейронных сетей. Предложена феноменологическая модель правила обучения, описывающая силу связи нейронов посредством медленной и быстрой переменных. Их взаимодействие позволяет сочетать обучение с подкреплением и обучение без учителя. Результаты показывают стабильность силы связи за счет сочетания двух переменных и быстрой гомеостатической пластичности. Мультипликативный способ масштабирования весов сохраняет паттерны памяти статистически более частых входных сигналов. Схожим образом к подходу дополнительных следов модель отслеживает последние изменения весов и позволяет их усилить. Приведены соображения о возможной биофизической интерпретации модели, которая включает в себя быстрое перемещение рецепторов к мембране и стабилизации их в кластеры.
The huge complexity of molecular mechanisms that support memory formation makes it difficult to build simple, but precise and sufficient models for an efficient simulation of large neural networks. In this paper, we propose the phenomenological model of a learning rule that describes the synaptic strength via slow and fast variables. Two variables interact with each other in a bidirectional manner that allows to combine the reward and unsupervised learning. Results show the stability of synaptic strength due to coupling of two variables and fast homeostatic plasticity. The multiplicative approach of synaptic scaling preserves memory patterns of statistically more frequent input signals. Similar to the eligibility traces approach, the model tracks recent synaptic changes and allows to reinforce these changes. Also, we speculate on a possible biophysical interpretation of such a model that includes the fast movement of receptors to the membrane and their stabilization into clusters.
|
| issn |
1681–6048 |
| url |
https://nasplib.isofts.kiev.ua/handle/123456789/151168 |
| citation_txt |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням / В.М. Осауленко // Системні дослідження та інформаційні технології. — 2017. — № 2. — С. 130-140. — Бібліогр.: 24 назв. — укр. |
| work_keys_str_mv |
AT osaulenkovm dvovimírnamodelʹnavčannâuspaikovihneironnihmerežahzgomeostazomtanavčannâmzpídkríplennâm AT osaulenkovm dvumernaâmodelʹobučeniâvspaikovyhneironnyhsetâhsgomeostazomiobučeniemspodkrepleniem AT osaulenkovm twodimensionalmodeloflearninginspikingneuralnetworkswithhomeostasisandreward |
| first_indexed |
2025-12-07T13:25:54Z |
| last_indexed |
2025-12-07T13:25:54Z |
| _version_ |
1850856129962180608 |