Testing simple neuron models with dendrites for sparse binary image representation
This paper deals with the problem of information representation into a form that allows to make associations, measure similarity and integrate new information with respect to previously stored. Several simple models for encoding information into sparse distributed representation are explored. These...
Saved in:
| Published in: | Штучний інтелект |
|---|---|
| Date: | 2017 |
| Main Author: | |
| Format: | Article |
| Language: | English |
| Published: |
Інститут проблем штучного інтелекту МОН України та НАН України
2017
|
| Subjects: | |
| Online Access: | https://nasplib.isofts.kiev.ua/handle/123456789/133668 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| Journal Title: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Cite this: | Testing simple neuron models with dendrites for sparse binary image representation / V.M. Osaulenko // Штучний інтелект. — 2017. — № 2. — С. 101-108. — Бібліогр.: 21 назв. — англ. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
nasplib_isofts_kiev_ua-123456789-133668 |
|---|---|
| record_format |
dspace |
| spelling |
Osaulenko, V.M. 2018-06-04T19:38:53Z 2018-06-04T19:38:53Z 2017 Testing simple neuron models with dendrites for sparse binary image representation / V.M. Osaulenko // Штучний інтелект. — 2017. — № 2. — С. 101-108. — Бібліогр.: 21 назв. — англ. 1561-5359 https://nasplib.isofts.kiev.ua/handle/123456789/133668 004.942 This paper deals with the problem of information representation into a form that allows to make associations, measure similarity and integrate new information with respect to previously stored. Several simple models for encoding information into sparse distributed representation are explored. These models based on the idea that information about stimuli is stored in the population, not an individual neuron, thus each neuron learns many partial features. Results show formation of a sparse representation of image data with high overlap for similar images. Each cell develops multiple receptive fields that together create a population receptive field. It was possible due to incorporation of dendritic tree into standard neuron model. Also, models were tested on a classification of handwritten digits from MNIST dataset. Results from unsupervised representation show poor accuracy compared to the state-of-the-art supervised methods, however, due to the presence of interesting properties further development of an idea should be continued. Стаття розглядає проблему представлення інформації у формі, яка дозволяє створювати асоціації, вимірювати схожість та інтегрувати нову інформацію відносно раніше збереженої. Досліджуються декілька простих моделей для кодування інформації у розріджено розподіленому представленні. Моделі ґрунтуються на ідеї, що інформація про стимули зберігається в популяції, а не в окремому нейроні, тому кожен нейрон навчається на багато часткових ознак. Результати показують формування розрідженого представлення зображення з високим перекриттям для подібних зображень. Кожна клітина формує кілька рецептивних полів, які разом утворюють популяційне рецептивне поле. Це стало можливим завдяки включенню дендритного дерева в стандартну модель нейрона. Також моделі були перевірені на здатність до класифікації рукописних цифр з набору даних MNIST. Результати для навчання без учителя мають погану точність у порівнянні з сучасними методами для навчанням з учителем, однак завдяки наявності цікавих властивостей подальший розвиток ідеї має бути продовжений. en Інститут проблем штучного інтелекту МОН України та НАН України Штучний інтелект Теорія та засоби обчислювального інтелекту Testing simple neuron models with dendrites for sparse binary image representation Article published earlier |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| title |
Testing simple neuron models with dendrites for sparse binary image representation |
| spellingShingle |
Testing simple neuron models with dendrites for sparse binary image representation Osaulenko, V.M. Теорія та засоби обчислювального інтелекту |
| title_short |
Testing simple neuron models with dendrites for sparse binary image representation |
| title_full |
Testing simple neuron models with dendrites for sparse binary image representation |
| title_fullStr |
Testing simple neuron models with dendrites for sparse binary image representation |
| title_full_unstemmed |
Testing simple neuron models with dendrites for sparse binary image representation |
| title_sort |
testing simple neuron models with dendrites for sparse binary image representation |
| author |
Osaulenko, V.M. |
| author_facet |
Osaulenko, V.M. |
| topic |
Теорія та засоби обчислювального інтелекту |
| topic_facet |
Теорія та засоби обчислювального інтелекту |
| publishDate |
2017 |
| language |
English |
| container_title |
Штучний інтелект |
| publisher |
Інститут проблем штучного інтелекту МОН України та НАН України |
| format |
Article |
| description |
This paper deals with the problem of information representation into a form that allows to make associations, measure similarity and integrate new information with respect to previously stored. Several simple models for encoding information into sparse distributed representation are explored. These models based on the idea that information about stimuli is stored in the population, not an individual neuron, thus each neuron learns many partial features. Results show formation of a sparse representation of image data with high overlap for similar images. Each cell develops multiple receptive fields that together create a population receptive field. It was possible due to incorporation of dendritic tree into standard neuron model. Also, models were tested on a classification of handwritten digits from MNIST dataset. Results from unsupervised representation show poor accuracy compared to the state-of-the-art supervised methods, however, due to the presence of interesting properties further development of an idea should be continued.
Стаття розглядає проблему представлення інформації у формі, яка дозволяє створювати асоціації, вимірювати схожість та інтегрувати нову інформацію відносно раніше збереженої. Досліджуються декілька простих моделей для кодування інформації у розріджено розподіленому представленні. Моделі ґрунтуються на ідеї, що інформація про стимули зберігається в популяції, а не в окремому нейроні, тому кожен нейрон навчається на багато часткових ознак. Результати показують формування розрідженого представлення зображення з високим перекриттям для подібних зображень. Кожна клітина формує кілька рецептивних полів, які разом утворюють популяційне рецептивне поле. Це стало можливим завдяки включенню дендритного дерева в стандартну модель нейрона. Також моделі були перевірені на здатність до класифікації рукописних цифр з набору даних MNIST. Результати для навчання без учителя мають погану точність у порівнянні з сучасними методами для навчанням з учителем, однак завдяки наявності цікавих властивостей подальший розвиток ідеї має бути продовжений.
|
| issn |
1561-5359 |
| url |
https://nasplib.isofts.kiev.ua/handle/123456789/133668 |
| citation_txt |
Testing simple neuron models with dendrites for sparse binary image representation / V.M. Osaulenko // Штучний інтелект. — 2017. — № 2. — С. 101-108. — Бібліогр.: 21 назв. — англ. |
| work_keys_str_mv |
AT osaulenkovm testingsimpleneuronmodelswithdendritesforsparsebinaryimagerepresentation |
| first_indexed |
2025-11-30T12:53:44Z |
| last_indexed |
2025-11-30T12:53:44Z |
| _version_ |
1850857665453883392 |