Горизонтальне та вертикальне масштабування методів машинного навчання

В роботі розглядаються основні етапи розв’язку задач машинного навчання (з учителем) розпізнаванню образів, а саме: управління навчальними виборками, навчання, розпізнавання. Обговорюється вплив феномену великих даних (BigData) на кожен з етапів, а також методи ефективної організації обчислень на ко...

Повний опис

Збережено в:

Бібліографічні деталі
Дата:	2019
Автор:	Білецький, Б.О.
Формат:	Стаття
Мова:	Ukrainian
Опубліковано:	Інститут програмних систем НАН України 2019
Назва видання:	Проблеми програмування
Теми:	Експертні та інтелектуальні інформаційні системи
Онлайн доступ:	http://dspace.nbuv.gov.ua/handle/123456789/161488
Теги:	Додати тег Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:	Digital Library of Periodicals of National Academy of Sciences of Ukraine
Цитувати:	Горизонтальне та вертикальне масштабування методів машинного навчання / Б.О. Білецький // Проблеми програмування. — 2019. — № 2. — С. 69-80. — Бібліогр.: 6 назв. — укр.

Репозитарії

Digital Library of Periodicals of National Academy of Sciences of Ukraine

id	irk-123456789-161488
record_format	dspace
institution	Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection	DSpace DC
language	Ukrainian
topic	Експертні та інтелектуальні інформаційні системи Експертні та інтелектуальні інформаційні системи
spellingShingle	Експертні та інтелектуальні інформаційні системи Експертні та інтелектуальні інформаційні системи Білецький, Б.О. Горизонтальне та вертикальне масштабування методів машинного навчання Проблеми програмування
description	В роботі розглядаються основні етапи розв’язку задач машинного навчання (з учителем) розпізнаванню образів, а саме: управління навчальними виборками, навчання, розпізнавання. Обговорюється вплив феномену великих даних (BigData) на кожен з етапів, а також методи ефективної організації обчислень на кожному з етапів при розв’язанні зазначених задач.
format	Article
author	Білецький, Б.О.
author_facet	Білецький, Б.О.
author_sort	Білецький, Б.О.
title	Горизонтальне та вертикальне масштабування методів машинного навчання
title_short	Горизонтальне та вертикальне масштабування методів машинного навчання
title_full	Горизонтальне та вертикальне масштабування методів машинного навчання
title_fullStr	Горизонтальне та вертикальне масштабування методів машинного навчання
title_full_unstemmed	Горизонтальне та вертикальне масштабування методів машинного навчання
title_sort	горизонтальне та вертикальне масштабування методів машинного навчання
publisher	Інститут програмних систем НАН України
publishDate	2019
topic_facet	Експертні та інтелектуальні інформаційні системи
url	http://dspace.nbuv.gov.ua/handle/123456789/161488
citation_txt	Горизонтальне та вертикальне масштабування методів машинного навчання / Б.О. Білецький // Проблеми програмування. — 2019. — № 2. — С. 69-80. — Бібліогр.: 6 назв. — укр.
series	Проблеми програмування
work_keys_str_mv	AT bílecʹkijbo gorizontalʹnetavertikalʹnemasštabuvannâmetodívmašinnogonavčannâ
first_indexed	2023-06-10T11:11:34Z
last_indexed	2023-06-10T11:11:34Z
_version_	1796154679123509248
spelling	irk-123456789-1614882019-12-11T01:26:15Z Горизонтальне та вертикальне масштабування методів машинного навчання Білецький, Б.О. Експертні та інтелектуальні інформаційні системи В роботі розглядаються основні етапи розв’язку задач машинного навчання (з учителем) розпізнаванню образів, а саме: управління навчальними виборками, навчання, розпізнавання. Обговорюється вплив феномену великих даних (BigData) на кожен з етапів, а також методи ефективної організації обчислень на кожному з етапів при розв’язанні зазначених задач. В работе рассматриваются основные этапы решения задачи обучения распознаванию образов, а именно: обработка и хранение обучающих данных, обучение распознаванию и распознавание. Обговаривается влияние феномена больших данных на каждый из этих этапов. Сравниваются различные подходы к эффективной организации вычислений на различных этапах. Первый раздел статьи посвящен определению понятия масштабирования, вводятся понятия горизонтального и вертикального масштабирования, обсуждаются их преимущества и недостатки. Рассматриваются некоторые ограничения при масштабировании на примере закона Амдала. Второй раздел статьи посвящен масштабированию хранилищ обучающих данных. Обговаривается подходы к масштабированию реляционных баз данных, и ограничения связанные с гарантиями ACID, которым удовлетворяют такие базы данных. Отдельно рассматриваются горизонтально масштабируемые нереляционные т. н. NoSQL базы данных. Приводится формулировка CAP-теоремы, как одного из фундаментальных ограничений при горизонтальном масштабировании таких баз данных. Третий раздел работы посвящен горизонтальному масштабированию вычислений на основе модели программирования MapReduce. Рассматриваются различные реализации этой модели программирования, такие как Hadoop и Spark, их строение и основные принципы работы. В четвертом разделе рассматриваются различные подходы к масштабированию методов машинного обучения. Приводится общая постановка задачи машинного обучения. На примере Байесовской процедуры обучения показывается, как модель программирования MapReduce применима для горизонтального масштабирования методов машинного обучения. Далее на основе глубоких нейронных сетей обговариваются методы обучения, не подлежащие горизонтальному масштабированию. Рассматриваются подходы к масштабированию таких методов при помощи графических процессоров (GPU) и модели программирования Tensor Flow. The main stages of Machine Learning Pipelines are considered in the paper, such as: train data collection and storage, training and scoring. The effect of the Big Data phenomenon on each of the stages is discussed. Different approaches to efficient organization of computation are on each of the stage are evaluated. In the first part of the paper we introduce the notion of horizontal and vertical scalability together with corresponding cons and pros. We consider some limitations of scaling, such as Amdahl's law. In the second part of the paper we consider scalability of data storage routines. First we discuss relational databases and scalability limitations related to ACID guarantees, which such database satisfy. Then we consider horizontally scalable non-relational databases, so called NoSQL databases. We formulate CAP-theorem as a fundamental limitation of horizontally scalable databases. The third part of the paper is dedicated to scalability of computation based on the MapReduce programming model. We discuss some implementations of this programming model, such as Hadoop and Spark together with some basic principles which they are based on. In the fourth part of the article we consider various approaches towards scaling of Machine Learning methods. We give the general statement of Machine Learning problem. Then we show how MapReduce programming model can be applied for horizontal scaling of Machine Learning methods on the example of Bayessian pattern recognition procedure. On the example of Deep Neural Networks we discuss Machine Learning methods which are not horizontally scalable. Then we consider some approaches towards vertical scaling of such methods based on GPU’s and the TensorFlow programming model. 2019 Article Горизонтальне та вертикальне масштабування методів машинного навчання / Б.О. Білецький // Проблеми програмування. — 2019. — № 2. — С. 69-80. — Бібліогр.: 6 назв. — укр. 1727-4907 DOI: https://doi.org/10.15407/pp2019.02.069 http://dspace.nbuv.gov.ua/handle/123456789/161488 004.62 uk Проблеми програмування Інститут програмних систем НАН України

Горизонтальне та вертикальне масштабування методів машинного навчання

Репозитарії

Схожі ресурси