Минимизация эмпирического риска и задачи построения линейных классификаторов

• Опубліковано в: : Кибернетика и системный анализ
• Дата: 2011
• Автори: Лаптин, Ю.П., Журавлев, Ю.И., Виноградов, А.П.
• Формат: Стаття
• Мова: Російська
• Опубліковано: Інститут кібернетики ім. В.М. Глушкова НАН України 2011
• Теми: Системный анализ
• Онлайн доступ: https://nasplib.isofts.kiev.ua/handle/123456789/84224
• Назва журналу: Digital Library of Periodicals of National Academy of Sciences of Ukraine
• Цитувати: Минимизация эмпирического риска и задачи построения линейных классификаторов / Ю.П. Лаптин, Ю.И. Журавлев, А.П. Виноградов // Кибернетика и системный анализ. — 2011. — Т. 47, № 4. — С. 155-164. — Бібліогр.: 15 назв. — рос.

Розглянуто задачі побудови лінійних класифікаторів для класифікації багатьох множин. У випадку лінійно роздільних множин наведені формулювання є узагальненням раніше відомих. Для лінійно нерозділимих множин природним критерієм вибору класифікатора є мінімізація емпіричного ризику. Розглядаються частково цілочисельне формулювання задачі мінімізації емпіричного ризику, можливості вирішення безперервної релаксації цієї задачі. Порівнюється запропонована безперервна релаксація з задачами, які вирішуються при використанні інших підходів для побудови лінійних кла-сифікаторів. Описано особливості використання методів негладкої оптимізації для вирішення сфор-мульованих задач. We consider constructing linear classifiers for the classification of many sets. In the case of linearly separable sets, the problem formulations are a generalization of already known ones. For linearly inseparable sets, a natural criterion for choosing a classifier is empirical risk minimization. The article deals with a mixed integer formulation of the empirical risk minimization problem and possible solutions of its continuous relaxation. We compare the proposed continuous relaxation problem with problems solved by using other approaches for constructing linear classifiers. We describe the features of nonsmooth optimization methods used to solve the formulated problems.