Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования

Рассмотрены методы устойчивого решения дискретных некорректных задач с применением случайного проецирования, усеченного сингулярного разложения, регуляризации Тихонова, дан их сравнительный анализ и результаты экспериментального исследования....

Ausführliche Beschreibung

Gespeichert in:

Bibliographische Detailangaben
Datum:	2016
1. Verfasser:	Ревунова, Е.Г.
Format:	Artikel
Sprache:	Russian
Veröffentlicht:	Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України 2016
Schriftenreihe:	Управляющие системы и машины
Schlagworte:	Фундаментальные и прикладные проблемы информатики и информационных технологий
Online Zugang:	https://nasplib.isofts.kiev.ua/handle/123456789/113395
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!
Назва журналу:	Digital Library of Periodicals of National Academy of Sciences of Ukraine
Zitieren:	Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования / Е.Г. Ревунова // Управляющие системы и машины. — 2016. — № 5. — С. 10-24. — Бібліогр.: 34 назв. — рос.

Institution

Digital Library of Periodicals of National Academy of Sciences of Ukraine

id	nasplib_isofts_kiev_ua-123456789-113395
record_format	dspace
spelling	nasplib_isofts_kiev_ua-123456789-1133952025-02-09T13:32:44Z Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования Відновлення сигналів, отриманих непрямими вимірами, на основі усіченого сингулярного розкладання і випадкового проектування Recovering Signals Obtained by Indirect Measurements Based on Truncated Singular Value Decomposition and Random Projection Ревунова, Е.Г. Фундаментальные и прикладные проблемы информатики и информационных технологий Рассмотрены методы устойчивого решения дискретных некорректных задач с применением случайного проецирования, усеченного сингулярного разложения, регуляризации Тихонова, дан их сравнительный анализ и результаты экспериментального исследования. Розглянуто методи стійкого рішення дискретних некоректних задач із застосуванням випадкового проектування, усіченого сингулярного розкладання, регуляризації Тихонова, наведено їх порівняльний аналіз та результати експериментального дослідження. Introduction. The solution of the ill-posed inverse problem by the least squares method is unstable with a large solution error. Tikhonov regularization, truncated singular value decomposition, and random projection were used to overcome the instability and to increase the accuracy of the solution. Purpose. We provide an experimental comparison of the solution accuracy for the ill-posed inverse problem by Tikhonov regularization, truncated singular value decomposition, and random projection. Methods. Tikhonov's regularization imposes some restrictions on the solution, i.e. penalty on its Euclidean norm, that improves stability. Another approach approximates the original data by a model linear with respect to parameters. Selection of the optimal number of components of the linear model minimizes the error of solution and ensures stability. To obtain the optimal number of model components, model selection criteria are used. Results and Conclusion. A comparative analysis of the accuracy shows that the truncated singular value decomposition method with the CRSVD criterion and the random projection method with the CRQ and AIC criteria ensured the accuracy at the level of Tikhonov regularization with the regularization parameter selected by the discrepancy method. The advantage of the random projection method is a lower computational complexity due to the dimensionality reduction. Perspective. The directions for further research include the decreasing of the computational complexity and averaging over the realizations of the random matrix. 2016 Article Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования / Е.Г. Ревунова // Управляющие системы и машины. — 2016. — № 5. — С. 10-24. — Бібліогр.: 34 назв. — рос. 0130-5395 https://nasplib.isofts.kiev.ua/handle/123456789/113395 004.942 + 623.454.862 ru Управляющие системы и машины application/pdf Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України
institution	Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection	DSpace DC
language	Russian
topic	Фундаментальные и прикладные проблемы информатики и информационных технологий Фундаментальные и прикладные проблемы информатики и информационных технологий
spellingShingle	Фундаментальные и прикладные проблемы информатики и информационных технологий Фундаментальные и прикладные проблемы информатики и информационных технологий Ревунова, Е.Г. Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования Управляющие системы и машины
description	Рассмотрены методы устойчивого решения дискретных некорректных задач с применением случайного проецирования, усеченного сингулярного разложения, регуляризации Тихонова, дан их сравнительный анализ и результаты экспериментального исследования.
format	Article
author	Ревунова, Е.Г.
author_facet	Ревунова, Е.Г.
author_sort	Ревунова, Е.Г.
title	Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования
title_short	Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования
title_full	Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования
title_fullStr	Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования
title_full_unstemmed	Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования
title_sort	восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования
publisher	Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України
publishDate	2016
topic_facet	Фундаментальные и прикладные проблемы информатики и информационных технологий
url	https://nasplib.isofts.kiev.ua/handle/123456789/113395
citation_txt	Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования / Е.Г. Ревунова // Управляющие системы и машины. — 2016. — № 5. — С. 10-24. — Бібліогр.: 34 назв. — рос.
series	Управляющие системы и машины
work_keys_str_mv	AT revunovaeg vosstanovleniesignalovpolučennyhkosvennymiizmereniâminaosnoveusečennogosingulârnogorazloženiâislučajnogoproecirovaniâ AT revunovaeg vídnovlennâsignalívotrimanihneprâmimivimíraminaosnovíusíčenogosingulârnogorozkladannâívipadkovogoproektuvannâ AT revunovaeg recoveringsignalsobtainedbyindirectmeasurementsbasedontruncatedsingularvaluedecompositionandrandomprojection
first_indexed	2025-11-26T04:48:09Z
last_indexed	2025-11-26T04:48:09Z
_version_	1849826995823706112
fulltext	10 УСиМ, 2016, № 5 УДК 004.942 + 623.454.862 Е.Г. Ревунова Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования Рассмотрены методы устойчивого решения дискретных некорректных задач с применением случайного проецирования, усеченного сингулярного разложения, регуляризации Тихонова, дан их сравнительный анализ и результаты экспериментального исследования. Ключевые слова: дискретная некорректная задача, регуляризация, усеченное сингулярное разложение, случайное проециро- вание. Розглянуто методи стійкого рішення дискретних некоректних задач із застосуванням випадкового проектування, усіченого сингуля- рного розкладання, регуляризації Тихонова, наведено їх порівняльний аналіз та результати експериментального дослідження. Ключові слова: дискретна некоректна задача, регуляризація, усічене сингулярне розкладання, випадкове проектування. Введение. Решение некорректных задач акту- ально для многих областей науки и техники. Дискретные некорректные задачи (ДНЗ) воз- никают, например, при дискретизации инте- гральных уравнений в таких областях, как спектрометрия, гравиметрия, магнитометрия, электроразведка и других [1–3]. Известно, что решение ДНЗ как задачи наи- меньших квадратов неустойчиво: малым измене- ниям в векторе измерений соответствуют боль- шие изменения в векторе решения, при этом велико значение ошибки решения. Для преодо- ления неустойчивости и повышения точности решения используют методы регуляризации. В данной статье рассмотрены методы ус- тойчивого решения ДНЗ с применением слу- чайного проецирования [4–7], усеченного син- гулярного разложения [8–11], регуляризации Тихонова [11, 12], дан их сравнительный ана- лиз и результаты экспериментального иссле- дования. Дискретная некорректная обратная задача Во многих практических приложениях пре- образование сигнала описывается линейной моделью вида εAxy  , (1) где известны матрица NNA и вектор изме- рений Ny ( εyy  0 , Axy 0 ). Компонен- ты вектора шума Nε – реализации незави- симых, нормально распределенных случайных величин с нулевым средним и дисперсией 2. Требуется оценить вектор сигнала Nx . В случае, когда y содержит шум и ряд син- гулярных чисел матрицы A стремится к нулю (при этом A имеет высокое число обуслов- ленности) задачу оценки x называют дис- кретной некорректной задачей [11]. ДНЗ часто возникают в результате приведе- ния интегральных уравнений    , b a K t s s ds   f t к дискретному виду. Примерами слу- жат задачи Carasso [13], Delves [14] и Phillips [15]. Дискретное представление функций  ,K t s и  f t для этих задач, полученное с использованием программ Regularization Tool- Box [16], дано на рис. П.1.1 и П.1.2, ряд сингу- лярных значений – на рис. П.1.3. Для ДНЗ решение (оценка сигнала x ), полу- ченное методом наименьших квадратов в При- ложениях (МНК) на основе псевдообращения как yAx   , где A – псевдообратная матри- ца, неустойчиво и неточно. Пример неустой- чивого решения задач Carasso, Phillips, Delves методом наименьших квадратов приведен на рис. П.1.4. Для преодоления неустойчивости и повы- шения точности решения используют подход регуляризации. Классический метод – регуля- ризация Тихонова. Задача стандартного вида формулируется так:  2 2arg minreg     x x Ax y x , (2) где  – параметр регуляризации. УСиМ, 2016, № 5 11 Для выбора параметра регуляризации ис- пользуются такие специальные методы: метод L-кривой [17], метод обобщенной невязки [18], метод перекрестной проверки [19]. В реальных задачах, где уровень (дисперсии) шума в век- торе измерений y велик, методы выбора пара- метра регуляризации могут давать оценку , отличную от оптимальной, что снижает точ- ность решения. Примеры работы методов выбора параметра регуляризации приведены в приложении 2. Другая проблема состоит в том, что получе- ние решения (2), например с использованием SVD-разложения, характерно большой вычис- лительной сложностью O(kN min{k, N}), где k  N – размер матрицы A . Таким образом, недостатки существующих методов решения ДНЗ на основе регуляриза- ции Тихонова таковы:  трудность правильного подбора параметра регуляризации,  вычислительная сложность. Поэтому остается актуальным поиск аль- тернативных подходов к решению ДНЗ, позво- ляющих преодолеть эти недостатки. При другом подходе к обеспечению устой- чивости решения задачи используется цело- численный параметр регуляризации, в качест- ве которого выступает число членов модели (линейной относительно параметров), аппрок- симирующей исходные данные. Для получе- ния устойчивого решения (оценки x ) можно использовать, например, такие методы, как усеченное сингулярное разложение [10], усе- ченное QR разложение [20, 21], метод на осно- ве рандомизации [5–7]. Вектор оценки x на основе усеченного син- гулярного разложения получают такой линей- ной моделью [10]: 1 1 k k SVD i i i i s    x v u y , (3) где iu N – левые сингулярные векторы, iv N – правые сингулярные векторы, is – сингулярные числа. Вектор оценки x на основе случайного прое- цирования получают линейной моделью вида [5]: yωx     i k i iRk 1 c , (4) где N i ω – столбец матрицы k Ω 1[ ,..., ]k ω ω , есть результат сингулярного раз- ложения матрицы G , элементы которой – слу- чайные величины с нормальным распределе- нием; N i c – столбец матрицы    AΩk ],...,[ 1 kcc . Среднеквадратичную ошибку восстановле- ния х будем вычислять как }{}{)( 22 kxkx ke exx   , (5) где }{ – оператор усреднения по реализаци- ям шума в векторе измерений,  kx – вектор восстановленного сигнала, т.е. вектор оценки x по (3) или (4), kxe – вектор ошибки восста- новления истинного сигнала x с использова- нием k компонент модели. Существует оптимальное число k компо- нент линейных моделей (3) и (4), минимизи- рующее ошибку (5). Наличие оптимального Nk  возможно потому, что ошибку восста- новления истинного сигнала можно предста- вить в виде суммы двух составляющих, одна из которых (детерминированная) убывает с ростом количества компонент модели, а другая (стохастическая) возрастает и пропорциональ- на уровню шума в векторе измерений [11, 9, 6]. Таким образом, при некотором уровне шума глобальный минимум ошибки может быть дос- тигнут при Nk 1 . В отличие от регуляризации, связанной с минимизацией функционала (2), где параметр регуляризации – действительное число, подход к решению ДНЗ путем регуляризации с целочис- ленным параметром позволяет обеспечить под- ход к решению ДНЗ путем регуляризации с целочисленным параметром и выбор модели наилучшей в смысле ошибки (точности) вос- становления x (5), путем перебора N k-ком- понентных моделей (3) и (4). 12 УСиМ, 2016, № 5 Кроме того, решение ДНЗ на основе слу- чайного проецирования (4) позволяет понизить вычислительную сложность путем снижения размерности задачи при Nk  [5]. Рассмотрим методы выбора оптимального количества членов линейной модели, постро- енной посредством сингулярного разложения, а также построение и выбор оптимального ко- личества членов линейной модели на основе случайного проецирования. Решение ДНЗ на основе сингулярного разложения Такое решение ДНЗ получают [11] так: yAx   k ,   UVSA 1 k . (6) Здесь  USVA k – приближение матрицы A , полученное по k )( Nk  компонентам сингулярного разложения, ),...,( 1 kuuU  – матрица левых сингулярных векторов с ортонор- мированными столбцами, ),...,( 1 kvvV  – мат- рица правых сингулярных векторов с ортонор- мированными столбцами, 1diag( ,..., )ks sS – матрица сингулярных чисел, A – псевдооб- ращение матрицы A . Оценка решения i k i i i s vyux      1 формируется как сумма векторов vi, взвешенных коэффици- ентами wi= i i s yu . Типичный вид векторов iv (полученных для задачи Phillips) приведен на рис. 1, где видно, что с ростом индекса i векто- ры становятся все более знакопеременными, шумоподобными. В случае, когда оценка x определяется преимущественно членами суммы, соответст- вующими большим сингулярным значениям (т.е. гладким сингулярным векторам), обеспе- чивается гладкость и малая погрешность ре- шения. Если x определяется членами суммы, соответствующими малым сингулярным зна- чениям (сильно знакопеременным сингуляр- ным векторам), ошибка решения увеличивает- ся. Понятно, что может существовать некото- рое оптимальное количество компонент в вы- ражении (3), достаточное для передачи всех особенностей моделируемого сигнала, но без шумоподобных сингулярных векторов. -0.4 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 1 5 9 13 17 21 25 29 33 37 v_1 -0.4 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 1 5 9 13 17 21 25 29 33 37 v_2 -0.4 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 1 5 9 13 17 21 25 29 33 37 v_3 а б в номер 1 номер 2 номер 3 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 1 5 9 13 17 21 25 29 33 37 v_20 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 1 5 9 13 17 21 25 29 33 37 v_21 -0.4 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 1 5 9 13 17 21 25 29 33 37 v_22 а б в номер 20 номер 21 номер 22 Рис. 1. Сингулярный вектор: а, б, в – с номерами 1–3 и 20–22 Поэтому актуальна разработка подхода к определению оптимального количества ком- понент сингулярного разложения для решения ДНЗ. Оптимальным количеством компонент сингулярного разложения будем считать такое, при котором точность решения максимальна. Рассмотрим точность восстановления истин- ного сигнала x и точность восстановления вектора выхода y при решении ДНЗ на основе сингулярного разложения. В работах [7, 9] получено выражение для среднеквадратичной ошибки восстановления x )(traceσ)()( 22   kkkkx ke AAxIAA (7) и ее составляющих 2 ( ) ( )x d k ke k  A A I x и  2 T( ) trace ,x s k ke k   A A (8) где x de – детерминированная составляющая ошибки восстановления x и x se – стохастиче- ская. Выражение для ошибки восстановления вы- хода [7, 9] имеет вид   2 0( )y k ke k   A A I y  2 T Ttrace .k k k k    A A A A (9) Составляющие ошибки восстановления вы- хода УСиМ, 2016, № 5 13 2 0( ) ( )y d k ke k y A A I ,  2 T T( ) ,y s k k k ke k trace    A A A A (10) где y de – детерминированная составляющая ошибки восстановления 0y , y se – стохастиче- ская. Пример зависимости ошибки восстановле- ния x (e_x), ее детерминированной (e_x_1) и стохастической составляющих (e_x_2) от k для задачи Phillips приведен на рис. 2. Зависи- мости ошибки имеют минимум при Nk  , по- ложение которого смещается в область мень- ших k с возрастанием уровня шума. Детерми- нированная составляющая ошибки убывает, а стохастическая возрастет с ростом k . 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 1.E+03 1 4 7 10 13 16 19 22 25 28 31 34 37 k e_x (1e-3) e_x (1e-4) e_x (1e-5) e_x_1 (1e-3) e_x_2 (1e-3) e_x_1 (1e-4) e_x_2 (1e-4) e_x_1 (1e-5) e_x_2 (1e-5) Рис. 2. Зависимости ошибки восстановления x и ее состав- ляющих от k для задачи Phillips Пример зависимости ошибки восстановления выхода 0y , ее детерминированной и стохасти- ческой составляющих от k приведен на рис. 3. Видно, что тенденции поведения составляю- щих ошибки для x и 0y аналогичны и поло- жение минимумов ошибок восстановления x и 0y совпадают. В реальных условиях вычислить ошибку )(kex восстановления x нельзя ввиду отсутст- вия информации об x , поэтому нельзя непо- средственно определить и оптимальное k . Для выбора k , близкого к оптимальному, нужно разработать критерий выбора модели (КВМ) – т.е. функцию, которая бы имела экс- тремум при k , близком или равном оптималь- ному, и не включала неизвестный вектор 0y . Для разработки КВМ используем среднюю ошибку восстановления 0y : }{}{)( 22 0 yky ke eyy   , (11) где   kk Axy , вектор ye – вектор ошибки вос- становления 0y . Отметим, что хотя 0y неиз- вестен, его можно оценить с использованием известного вектора измерений y . 1.E-11 1.E-10 1.E-09 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1 4 7 10 13 16 19 22 25 28 31 34 37 40 k e_y (1e-3) e_y (1e-4) e_y (1e-5) e_y_1 (1e-3) e_y_2 (1e-3) e_y_1 (1e-4) e_y_2 (1e-4) e_y_1 (1e-5) e_y_2 (1e-5) Рис. 3. Зависимости ошибки восстановления выхода y и ее составляющих от k для задачи Phillips Таким образом, при создании КВМ для ре- шения ДНЗ следует:  показать, что глобальные минимумы зави- симости ошибки восстановления x и ошибки восстановления 0y от k совпадают или близки;  получить выражение для оценивания ошиб- ки восстановления 0y с использованием из- вестного вектора измерений y . Для сравнения положения минимума ошибки )(kex восстановления истинного сигнала и ошибки )(key восстановления незашумленно- го вектора измерений получим выражения (не- равенства), характеризующие размерность мо- дели k , при которой ошибка минимальна. Полную ошибку (как )(kex , так и )(key ) пред- ставим в виде [6, 8] 2( ) ( ) ( ) ( ) ( )d s d ge k e k e k e k e k    , (12) 14 УСиМ, 2016, № 5 где )(ked – зависимость детерминированной составляющей ошибки от k, )(kes – зависи- мость стохастической составляющей ошибки от k, 2 – дисперсия шума, 2( ) ( ) /g se k e k  . Представление ошибки в форме (12), иссле- дование составляющих ошибки и разработка КВМ – приемы, используемые направлением индуктивного моделирования [22, 23] для по- иска оптимального решения. Рассуждения, приводящие к (14), сходны с подходом крити- ческих дисперсий [23], развитым в рамках МГУА [22]. Условие наличия минимума (который мо- жет быть локальным или глобальным) ошибки для модели размерности k таково: 0)1()(  keke , 0)()1(  keke . (13) Обозначим )()1()( kekeke ddd  и ( )se k  ( ) ( 1)s se k e k   для детерминированной и стохастической составляющих ошибки, из (13) получим неравенство (см. Приложение 3) )( )(σ )1( )1( 2 ke ke ke ke g d g d      . (14) Если значение дисперсии шума находится в диапазоне (14), значит, при модели размерно- сти k наблюдается минимум ошибки. Обозначим )( )( ke ke J xg xd x    – отношение из- менений составляющих ошибки de и ge в зави- симости от k для ошибки восстановления ис- тинного сигнала x , и )( )( ke ke J yg yd y    – анало- гичное отношение для ошибки восстановления вектора измерений 0y . Если xJ и yJ для неко- торого метода совпадают или близки, то и оп- тимальные значения k для ошибок восстанов- ления x и 0y совпадают или близки. Если значение xJ ( yJ ) для исследуемой за- дачи монотонно убывает в зависимости от k, минимум ошибки восстановления x ( 0y ) для этой задачи будет единственным при любом 2 . В этом случае любое значение 2 принад- лежит только одному диапазону ( 1)J k   2 ( )J k   согласно (14), т.е. минимум ошиб- ки достигается при k. В противном случае, т.е. когда 2 принадлежит не одному диапазону Jx или Jy, зависимости ошибок восстановления истинного сигнала и выхода от k имеют ло- кальные минимумы. Пример зависимостей )(kJ x , )(kJ y , полу- ченных экспериментально для задач Carasso и Delves приведен в Приложении 4. Поведение составляющих ошибки в зави- симости от количества компонент модели. Составляющие ошибки восстановления истин- ного сигнала x и ошибка восстановления 0y в зависимости от количества k компонент сингу- лярного разложения исследованы в работах [7, 9], получены аналитические выражения для )(ked и )(keg . Для детерминированной составляющей ошибки )(ke dx получено выражение: T T 1 ( ) ( 1) k x d i i x d k k i e k e k        x x x v v x x v v x ,(15) так как xvvx  kk > 0, значение детерминиро- ванной составляющей ошибки )(ke dx убывает с возрастанием k. Из рекурсивного выражения для стохасти- ческой составляющей ошибки  2 2 T 2 2 ( ) ( 1) trace ( 1) , x s x s k k k x s k e k e k s e k s          u u (16) следует, что ее значение возрастает с ростом k . Выражение для детерминированной состав- ляющей ошибки восстановления 0y имеет вид T T 0 0( ) ( 1) .y d y d k ke k e k  y u u y (17) Поскольку T T 0 0 0k k y u u y , значение ( )y de k убывает с ростом k . Значение стохастической составляющей ошибки восстановления 0y 2 T 2 1 ( ) trace k y s k k i e k k          v v (18) возрастает с ростом k . УСиМ, 2016, № 5 15 Учитывая, что T T( )x d k ke k  x v v x и ( )x ge k   2 T 2tracek k k ks s  u u = ,   2( ) ( ) x d x k k k x g e k J x s e k      x v v x . (19) Вычислим соотношение )(kJ y для ошибки восстановления 0y . Так как 2 T T( )y d k k ke k s  x v v x и ( )y ge k   Ttrace 1k k v v = ,   2( ) ( ) y d y k k k y g e k J x s e k      x v v x . (20) Из выражений (19) и (20) видно, что )(kJ x и )(kJ y совпадают, т.е. для усеченного сингу- лярного разложения положение минимумов ошибки восстановления входа и выхода всегда совпадают. Поэтому зависимость ошибки вос- становления 0y от количества компонент моде- ли можно использовать для определения оп- тимального числа компонент модели. Однако вектор измерений 0y неизвестен. Оценим его и получим выражение для КВМ. КВМ для решения ДЗН на основе сингу- лярного разложения. Как отмечалось, исполь- зовать для определения минимума ошибки не- посредственно выражение средней ошибки восстановления 0y (9) невозможно при нали- чии в нем неизвестного в реальных условиях вектора 0y . Запишем неизвестный вектор 0y с исполь- зованием полученного в результате измерений y и вектора шума ε как εyy 0 и проведем усреднение по реализациям шума: 2 2 { ( )( ) } trace(( ) ) , y k k k k k k e            A A I y ε A A A A (21) 2 2 2 { ( ) } { ( ) } 2 ( ) , ( ) trace(( ) ). y k k k k k k k k k k k k e                     A A I y A A I ε A A I y A A I ε A A A A (22) В результате усреднения в [7] получено вы- ражение (23), аппроксимирующее ошибку вос- становления 0y , которое можно использовать для определения количества компонент сингу- лярного разложения, близкого к оптимальному 2 2 2 ( ) trace(( ) ( )) trace(( ) ). SVD k k k k k k k k k k CR                   A A I y A A I A A I A A A A (23) Для оценки дисперсии шума 2 могут быть применены известные методы [24–27]. На рис. 4 для задачи Carasso приведены гра- фики зависимости значений критерия SVDCR , средней ошибки восстановления выхода (e_y_mean) и средней ошибки восстановления истинного сигнала (e_x_mean) от количества компонент сингулярного разложения k . Гра- фики зависимостей критерия SVDCR и средней ошибки восстановления 0y близки, критерий выбора модели SVDCR хорошо аппроксимирует ошибку восстановления выхода 0y . 1.E-06 1.E-05 1.E-04 1 5 9 13 17 21 25 29 33 37 k 1.E-02 1.E-01 1.E+00 1.E+01 e_y_mean CR e_x_mean 1.E-08 1.E-07 1.E-06 1.E-05 1 5 9 13 17 21 25 29 33 37 k 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 e_y_mean CR e_x_mean а б Рис. 4. Зависимости значений критерия CR и ошибки восста- новления выхода от k: а – для уровня шума 1е-4; б – для уровня шума 1е-5 Положения минимумов зависимости ошиб- ки восстановления x и ошибки восстановления 0y от k совпадают. Решение ДНЗ с использованием случайно- го проецирования Одна из проблем использования SVD-раз- ложения для решения ДНЗ – это его высокая вычислительная сложность – для квадратной матрицы O(N 3). Авторами [4–7] разрабатыва- ется подход, основанный на поиске минимума ошибки решения дискретной некорректной за- 16 УСиМ, 2016, № 5 дачи с использованием случайного проецирова- ния, обеспечивающего устойчивость решения и позволяющего понизить вычислительную слож- ность. Случайное проецирование – разновид- ность методов формирования нейросетевых рас- пределенных представлений [28–33]. Для решения на основе проекционного под- хода обе части исходного уравнения (1) умножим на матрицу Nk k Q и получим уравнение kk bxF  , где AQF  kk , Nk k F , yQb  kk , k k b . (24) В работе [5] предложено получать матрицу Q QR-разложением матрицы QRGA  , где Q – ортонормированная матрица, R – верхне- треугольная. Элементы матрицы G – реализа- ции случайной величины с нормальным рас- пределением, нулевым средним и единичной дисперсией, Nk  . Восстановление сигнала x на основе псев- дообращения получим как kkQ bFx   . (25) Для метода случайного проецирования по- лучено выражение среднеквадратической ошиб- ки восстановления x [5]:  2 2 Te ( ) tracex k k k k     F F I x F F (26) и ее составляющих 2 e ( ) ,x d k k  F F I x  2 Te tracex s k k    F F , (27) где dye – детерминированная составляющая ошибки восстановления x и sxe – стохастическая. Выражение для среднеквадратичной ошибки восстановления 0y имеет вид  2T 2 T T 0e ( ) tracey k k k k     AF Q I y F A AF . (28) Составляющие ошибки восстановления 0y :   2T 0 2 T T e ( ) , e trace , y d k k y s k k        AF Q I y F A AF (29) где dye – детерминированная составляющая ошибки восстановления вектора измерений и sye – стохастическая. На рис. 5 приведен пример зависимостей от k ошибки восстановления x (e_xQ), и ее со- ставляющих (e_xQ_1) и (e_xQ_2) для задачи Phillips для трех уровней шума {10–2, 10–3, 10–4}. Ошибка восстановления приведена на рис. 6. 1.E-09 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 1.E+03 1.E+04 1 3 5 7 9 11 13 15 17 19 21 23 25 27 29 31 33 35 37 39 k e_ x Q e_x Q 1e-2 e_x Q_1 e_x Q_2 e_x Q 1e-3 e_x Q_1 e_x Q_2 e_x Q 1e-4 e_x Q_1 e_x Q_2 Рис. 5. Зависимости ошибки восстановления x и ее состав- ляющих от k 1.E-10 1.E-09 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 1.E+03 1 3 5 7 9 11 13 15 17 19 21 23 25 27 29 31 33 35 37 39 k e_ y Q e_y Q 1e-2 e_y Q_1 e_y Q_2 e_y Q 1e-3 e_y Q_1 e_y Q_2 e_y Q 1e-4 e_y Q_1 e_y Q_2 Рис. 6. Зависимости ошибки восстановления 0y и ее состав- ляющих от k Поведение составляющих ошибки в зави- симости от количества компонент модели Количество столбцов N матрицы kQ опре- деляется количеством столбцов исходной мат- рицы A , количество строк k априори не фик- сировано и может изменяться от единицы до N . Исследование зависимости составляющих ошибки (26) от количества строк k матрицы kQ , проведенное в [6], основано на представ- лении матрицы AQF  kk в виде суммы ис- ходной матрицы и матрицы возмущения. УСиМ, 2016, № 5 17 Псевдообратная матрица   )( AQF kk , ис- пользуемая для оценки x , может быть пред- ставлена в виде возмущения псевдообратной матрицы через возмущение исходной матрицы [34]. На основе такого представления получе- ны рекурсивные выражения для стохастиче- ской и детерминированной составляющих ошибки восстановления x . Эти выражения служат инструментом для исследования тен- денций поведения (возрастания, убывания) со- ставляющих ошибки в зависимости от k . Матрица AQF  kk имеет структуру         k k k f F F 1 , (30) где Nk k    1 1F , вектор-строка Aqf kk  име- ет размерность k , kq – строка матрицы  ],...,[ 1 kk qqQ . В качестве возмущения матрицы 1kF рас- сматривается матрица Nk k E , содержащая одну ненулевую k-ю строку kf , которая добав- ляется на k-м шаге: kkk FEF 1 . (31) т.е.         k k k f Ο E 1 , (32) где 1kΟ – нулевая подматрица размерности ))1(( Nk  . В [6] сформулированы рекурсивные выра- жения для стохастической и детерминирован- ной составляющих ошибки. Для стохастиче- ской составляющей ошибки восстановления истинного сигнала рекурсивное выражение имеет вид 2 2 2 1 1 ( ) trace( ) ( 1) trace( ) , x s k k x s k k k e k e k d             F F M M (33) где 1kM =  kf fk  1kF ,  kkkd ff . Если kf нену- левой, 0  kkkd ff . Для ненулевой 1kM след 0)(trace 11    kk MM . Поэтому значение стохастической составляющей ошибки возрас- тает с ростом k . Для детерминированной составляющей ошибки восстановления истинного сигнала ре- курсивное выражение имеет вид 1 1 ( ) ( 1) ( ) . x d k k x d k k k k e k e k                x x x F F x x f f I F F x (34) Как показано в [6], матрица 1 1( )k k k k    f f I F F может быть получена произведением вектора- столбца     ))(( 11 kkk FFIf на этот же (не транс- понированный) вектор-строку, деленным на квадрат его нормы. Поэтому для неортого- нальных x и )( 11    kkk FFIf значение )(ked положительно, и значение детерминированной составляющей ошибки восстановления истин- ного сигнала убывает с ростом k . Рекурсивные выражения для стохастиче- ской и детерминированной составляющих ошибки восстановления вектора измерений 0y имеют вид 1 1 1 1 1 1 ( ) trace( ) trace( ) 2trace( ); y g k k k k k k k k k k e k                          F A AF M M A A f f A A F F f f A A (35) 1 1 ( ) ( 1) 2 ( ) , y d y d k k k k e k e k             x A Af f I F F x x Kx (36) где 1 1 1 12 ( ) k k k k k k k k k k                   K A q F A AF q A A A f f F q A F q A 1 1 T T T T T 1 ( ) ( ) k k k k k k k k k k k k k k                     F F A A f f f f F F f f A A F F f f A A  + + + 1 1( )k k k k k k k k    f f F F f f F F . Экспериментально показана [7] положитель- ность )(ked и )(kes для ошибки восстановле- ния незашумленного вектора измерений при ус- реднении по реализациям случайных матриц. Из рекурсивных выражений (33), (34) сле- дует, что для ошибки восстановления x xFFIffx )()( 11      kkkkdx ke , 18 УСиМ, 2016, № 5 )(trace)( 11      kkkkgx ke ffMM . (37) Соответственно, )(trace )( )( )( )( 11 11               kkkk kkkk gx dx x ke ke kJ ffMM xFFIffx . (38) Из рекурсивных выражений (35), (36) сле- дует, что для ошибки восстановления 0y 1 1 1 1 ( ) trace( ) 2trace( ) , ( ) y g k k k k k k k k y d e k e k                      M M A A f f A A F F f f A A 1 12 ( ) .k k k k         x A Af f I F F x x Kx (39) Сопоставление выражений (38) и (40) гово- рит о том, что, в отличие от метода на основе сингулярного разложения, оптимальное значе- ние k для ошибки решения ДНЗ с использова- нием случайного проецирования не совпадает с оптимальным значением k для ошибки вос- становления вектора измерений. Для анализа положения минимумов ошибки восстановле- ния x и ошибки восстановления 0y для метода случайного проецирования экспериментально исследованы зависимости )(kJ x и )(kJ y , что показало близость зависимостей для метода случайного проецирования (см. далее). По- скольку зависимости )(kJ x и )(kJ y и положе- ния их минимумов близки, используем это для разработки КВМ. КВМ для решения ДЗН методом случай- ного проецирования получен в [7] путем за- мены в (28) неизвестного вектора 0y на εyy 0 и усреднения по реализациям шума: 2 { ( )( ) }yQ k ke      AF Q I y ε 2trace( ) ,k k    F A AF 2 2 ( ) ( )yQ k k k ke         AF Q I y AF Q I ε 2 ( ) , ( )k k k k        AF Q I y AF Q I ε 2trace( ).k k    F A AF Аппроксимация ошибки восстановления век- тора измерений (28), полученная в результате усреднения по реализациям шума, имеет вид 2 2 ( ) trace(( ) ( )) Q k k k k k k CR                 AF Q I y AF Q I AF Q I 2trace( ) .k k    F A AF (41) На рис. 7 для задачи Carasso приведены графики зависимости значений критерия CRQ средней ошибки восстановления вы- хода (e_y_mean) и средней ошибки восстановления истинного сигнала (e_x_mean) от k . Графики зависи- мостей критерия CRQ и средней ошибки восстановления 0y близки, критерий выбора модели CRQ хо- рошо аппроксимирует ошибку восстановления выхода 0y . Положения минимумов зависимо- сти ошибки восстановления x и ошибки вос- становления 0y от k также близки. 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1 5 9 13 17 21 25 29 33 37 1.E-02 1.E-01 1.E+00 1.E+01e_y_mean CR e_x_mean (51e-4) 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1 5 9 13 17 21 25 29 33 37 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 e_y_mean CR e_x_mean (51e-5) а б Рис. 7. Зависимости значений критерия CR и ошибки восста- новления выхода от k,: а – для уровня шума 5е-4, б – для уровня шума 5е-5 Эксперимент Исследование проведено для ДНЗ Carasso, Phillips, Delves. В табл. 1 приведены результа- ты ДНЗ на основе сингулярного разложения для матрицы A размерности 40  40. Резуль- таты (средние и с.к.о.) получены для трех уровней шума в y при 100 реализациях на ка- ждом уровне. Для определения оптимального количества компонент сингулярного разложе- ния использованы критерии выбора модели: Соответственно, ( ) ( ) ( ) y d y y g e k J k e k     (40) 1 1 1 1 1 1 2 ( ) . trace( ) 2trace( ) k k k k k k k k k k k k                           x A Af f I F F x x Kx M M A A f f A A F F f f A A УСиМ, 2016, № 5 19 Маллоуза (Cp), Акаике (AIC), минимальной длины описания (MDL) и CRsvd. Анализ ре- зультатов показал, что наименьшее значение ошибки решения обеспечивается при исполь- зовании критерия SVDCR . В табл. 2 приведены результаты решения дис- кретных некорректных задач на основе случай- ного проецирования матрицей Q, размерность матрицы A составляла 40  40. Приведенные результаты, получены для трех уровней шума в y при 100 реализациях на каждом уровне. Анализ результатов показал, что использо- вание критериев QCR и Акаике обеспечивает значение ошибки, близкое к минимальному. В табл. 3 приведены результаты решения ДНЗ методом наименьших квадратов с исполь- зованием псевдообращения матрицы (Pseudo- Inverse), а также регуляризации Тихонова с поиском параметра регуляризации методами: перекрестной проверки (Tikhonov GCV), L-кри- вой (Tikhonov LC), невязки (Tikhonov DSC). От- метим, что методы перекрестной проверки и Т а б л и ц а 1. Среднее значение ошибки решения и его стандартное отклонение, среднее значение k и его стандартное отклонение для задач Carasso, Phillips, Delves при размерности матриц ядра 40 × 40. Метод усеченного сингулярного разложения Задача M(e) с.к.о. M(k) с.к.о. M(e) с.к.о. M(k) с.к.о. M(e) с.к.о. M(k) с.к.о. Phillips nl=1E–2 nl=1E–3 nl=1E–4 e 4,6E-3 1,38E-3 7,88 1,003 8,58E-4 1,99E-4 11,5 0,505 3,11E-4 3,38E-5 15,26 2,35 CRsvd 5,5E-3 2,53E-3 7,76 0,98 1,09E-3 4,33E-4 11,08 1,027 3,37E-4 7,22E-5 14,92 2,41 Cp 5,64E-3 3,11E-4 7 0 4,09E-3 1,79E-3 7,72 0,970 3,37E-4 1,71E-5 12 0 AIC 8,93E-3 8,74E-3 7,36 0,75 2,00E-3 2,23E-3 10,9 1,474 3,52E-4 5,05E-5 12,44 1,15 MDL 5,64E-3 3,11E-4 7 0 4,16E-3 1,78E-3 7,68 0,957 3,37E-4 1,71E-5 12 0 Carasso nl=1E–2 nl=1E–3 nl=1E–4 e 6,05E-1 1,70E-1 8,86 1,44 9,42E-2 2,03E-2 15,72 2,051 1,06E-2 3,16E-3 23,6 1,97 CRsvd 8,21E-1 2,64E-1 6,98 2,35 1,12E-1 3,02E-2 14,26 2,546 1,30E-2 5,02E-3 22,62 2,69 Cp 1,08 1,00E-1 2,9 0,30 1,83E-1 4,40E-2 9,84 0,422 2,31E-2 3,62E-3 17,18 0,438 AIC 1,03 4,34E-1 6,34 2,40 1,34E-1 1,87E-2 11,32 1,151 1,71E-2 2,10E-3 18,28 0,927 MDL 1,04 9,81E-2 3,9 1,34 1,49E-1 1,85E-2 10,4 0,495 7,93E-2 4,63E-2 13,44 3,163 Delves nl=1E–3 nl=1E–4 nl=1E–5 e 6,26E-2 1,14E-2 3,42 0,93 2,78E-2 3,19E-3 8,08 1,63 1,21E-2 1,18E-3 17,26 2,19 CRsvd 7,33E-2 1,96E-2 3,56 1,31 3,18E-2 6,02E-3 7,64 1,96 1,32E-2 1,78E-3 15,9 2,70 Cp 1,01E-1 2,44E-2 1,6 0,49 4,65E-2 4,93E-3 3,88 0,44 2,17E-2 1,36E-3 8,52 0,58 AIC 4,78E-1 1,41 3,34 1,83 4,31E-2 2,41E-2 6,76 1,64 1,53E-2 1,77E-3 12,92 1,70 MDL 8,38E-2 2,13E-2 2,3 0,51 4,05E-2 3,95E-3 4,58 0,54 2,19E-2 2,04E-3 8,5 0,84 Т а б л и ц а 2. Среднее значение ошибки решения и его стандартное отклонение, среднее значение k и его стандартное отклоне- ние для задач Carasso, Phillips, Delves при размерности матриц ядра 40 × 40, метод случайного проецирования Задача M(e) с.к.о. M(k) с.к.о. M(e) с.к.о. M(k) с.к.о. M(e) с.к.о. M(k) с.к.о. Phillips nl=1E–2 nl=1E–3 nl=1E–4 eQ 6,44E-3 1,56E-3 7,7 0,68 1,37E-3 5,14E-4 11,88 1,04 3,05E-4 3,84E-5 16,76 1,64 CRQ 8,15E-3 5,85E-3 7,6 0,57 1,77E-3 1,07E-3 11,14 1,11 3,37E-4 6,02E-5 15,48 1,43 CpQ 7,60E-3 2,48E-3 7,2 0,64 4,66E-3 1,54E-3 8,2 0,81 5,46E-4 1,65E-4 12,34 1,19 AICQ 8,15E-3 5,85E-3 7,6 0,57 1,75E-3 7,80E-4 11 1,01 3,38E-4 5,02E-5 15,06 1,25 MDLQ 7,30E-3 2,17E-3 7,26 0,63 4,58E-3 1,68E-3 8,22 0,84 6,28E-4 2,20E-4 11,92 1,05 Carasso nl=1E–2 nl=1E–3 nl=1E–4 eQ 7,69E-1 1,81E-1 6,86 2,00 9,85E-2 2,91E-2 15,34 1,85 1,50E-2 4,91E-3 21,7 1,93 CRQ 1,04 3,80E-1 7,16 2,32 1,27E-1 5,10E-2 13,78 1,94 2,79E-2 2,05E-2 23,34 3,15 CpQ 1,06 1,41E-1 3,12 0,94 2,42E-1 1,05E-1 9,84 1,33 3,35E-2 1,86E-2 16,82 1,99 AICQ 1,07 3,21E-1 5,98 2,15 1,33E-1 4,11E-2 12,78 1,68 1,99E-2 5,89E-3 19,34 1,92 MDLQ 1,00 1,34E-1 4,04 1,23 1,71E-1 6,62E-2 11,26 1,29 5,09E-2 3,68E-2 15,46 2,58 Delves nl=1E–3 nl=1E–4 nl=1E–5 eQ 6,95E-2 1,36E-2 3,3 0,953 3,20E-2 5,28E-3 6,68 1,45 1,24E-2 1,84E-3 16,14 2,14 CRQ 1,91E-1 8,02E-1 2,48 0,91 6,49E-2 2,93E-2 9,04 1,64 1,67E-2 1,21E-2 15,34 2,58 CpQ 9,21E-2 2,50E-2 1,64 0,49 4,80E-2 9,14E-3 3,62 0,90 2,02E-2 3,89E-3 8,76 1,72 AICQ 1,91E-1 8,02E-1 2,48 0,91 6,43E-2 2,91E-2 8,6 1,83 1,46E-2 1,76E-3 12,72 2,03 MDLQ 8,05E-2 1,86E-2 2,14 0,45 4,19E-2 8,01E-3 4,22 0,98 2,09E-2 4,39E-3 8,4 1,8364 20 УСиМ, 2016, № 5 L-кривой не используют априорной информа- ции о шуме, в то время как метод невязки тре- бует оценки нормы возмущения y. В экспери- ментах, результаты которых приведены в табл. 3, в методе невязки использована инфор- мация о норме вектора шума e (именно того вектора шума, посредством которого модели- ровалось возмущение правой части). Анализ результатов показал, что регуляризация Тихо- нова с поиском параметра регуляризации по методу невязки обеспечивает наилучшую точ- ность. Сравнительный анализ точности решения ДНЗ методами регуляризации Тихонова (табл. 3), усе- ченного сингулярного разложения (см. табл. 1) и на основе случайного проецирования (см. табл. 2) показал, что метод усеченного сингу- лярного разложения с критерием CRsvd и метод на основе случайного проецирования с крите- риями CRQ и AIC обеспечивают точность на уровне регуляризации Тихонова с поиском па- раметра регуляризации методом невязки. На рис. 8–10 для метода случайного про- ецирования матрицами Q (e_x_Q_mean) и R (e_x_R_mean), а также для метода усеченного сингулярного разложения приведены графики зависимостей ошибки восстановления вектора x , соответственно, от числа количества строк матрицы проектора и от числа компонент син- гулярного разложения. Анализ зависимостей на рис. 8– 10 показывает, что ошибка вос- становления x для метода слу- чайного проецирования матрицей Q и для метода усеченного сингу- лярного разложения близки, и, как следствие, методы обеспечивают близкую точность при k = kopt. Ошибка восстановления x для метода случайного проецирования матрицей R (в сравнении с ошиб- кой при проецировании матрицей Q) отстоит несколько дальше от ошибки метода усеченного сингу- лярного разложения, однако также обеспечивает близкую точность. Результаты экспериментально- го исследования зависимостей )(kJ x , )(kJ y для решения дискретной некорректной задачи методом случайного проецирования приведе- ны на рис. 11. При их построении проводилось усреднение по 500 реализациям матрицы Q . 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 1 5 9 13 17 21 25 29 33 37 k_r 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 k_sv e_x_Q_mean (1e-3) e_x_R_mean (1e-3) e_x_svd_mean 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 1 5 9 13 17 21 25 29 33 37 k_r 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 k_sv e_x_Q_mean (1e-4) e_x_R_mean (1e-4) e_x_svd_mean а б Рис. 8. Зависимости значений ошибки восстановления входа от k для задачи Carasso: а – при уровне шума 1е-3, б – при уровне шума 1е-4 Из рис. 11 видно, что при решении дискрет- ной некорректной задачи методом случайного проецирования близки зависимости )(kJ x и )(kJ y для ошибки восстановления x и 0y , а значит, близки и положения (т.е. k ) миниму- мов зависимостей ошибки x и 0y от k . Это позволяет использовать ошибку восстановления 0y и соответствующий критерий выбора оп- тимальной размерности матрицы Q для опре- деления минимума ошибки восстановления x . Отметим, что, как следует из анализа зависи- Т а б л и ц а 3. Среднее значение ошибки решения и его стандартное отклонение для задач Carasso, Phillips, Delves при размерности матриц ядра 40 × 40, метод регуляризации Тихонова Задача M(err) с.к.о. M(err) с.к.о. M(err) с.к.о. Carasso nl = 1E–2 nl = 1E–3 nl = 1E–4 PseudoInverse 1404,042 473,0003 14,04042 4,730003 0,140404 0,0473 Tikhonov GCV 129,6115 380,2707 2,027807 4,882454 0,050377 0,045534 Tikhonov LC 1373,342 512,4452 13,84332 5,091144 0,140368 0,047283 Tikhonov DSC 0,692184 0,165216 0,114613 0,030601 0,013329 0,003951 Phillips nl = 1E–3 nl = 1E–4 nl = 1E–5 PseudoInverse 160,0434 120,3506 1,600594 1,203584 0,016199 0,012044 Tikhonov GCV 4,557545 11,79132 0,04597 0,116915 0,001043 0,0017 Tikhonov LC 1,454624 1,856999 0,098596 0,097598 0,001234 0,001006 Tikhonov DSC 0,001115 0,000328 0,000299 3,30E-05 0,000205 5,25E-06 Delves nl = 1E–3 nl = 1E–4 nl = 1E–5 PseudoInverse 3490,266 1109,165 34,90266 11,09165 0,349027 0,110917 Tikhonov GCV 22,24972 122,4749 0,442406 1,754381 0,027332 0,034129 Tikhonov LC 0,062229 0,014573 0,039162 0,015731 0,015842 0,003792 Tikhonov DSC 0,062875 0,015669 0,029327 0,004625 0,012666 0,001632 УСиМ, 2016, № 5 21 мостей )(kJ x и )(kJ y , для метода на основе случайного проецирования графики зависимо- стей )(kJ x , )(kJ y для исследованных задач существенно более гладки. 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 1 5 9 13 17 21 25 29 33 37 k_r 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 1.E+03 k_sv e_x_Q_mean (1e-3) e_x_R_mean (1e-3) e_x_svd_mean 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 1 5 9 13 17 21 25 29 33 37 k_r 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1.E+01 k_sv e_x_Q_mean (1e-4) e_x_R_mean (1e-4) e_x_svd_mean а б Рис. 9. Зависимости значений ошибки восстановления входа от k для задачи Phillips: а – при уровне шума 1е-3, б – при уровне шума 1е-4 Для задачи Carasso (см. рис. 11, б) наличие локальных минимумов возможно только при уровнях шума 0,03–0,01. Во всем остальном диапазоне шумов зависимости )(kJ x и )(kJ y для данной задачи не имеет возрастающих участков, а значит, минимум зависимости ошиб- ки от k – единственный. 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 1 5 9 13 17 21 25 29 33 37 k_r 1.E-02 1.E-01 1.E+00 1.E+01 1.E+02 k_sv e_x_Q_mean (1e-4) e_x_R_mean (1e-4) e_x_svd_mean 1.E-02 1.E-01 1.E+00 1 5 9 13 17 21 25 29 33 37 k_r 1.E-02 1.E-01 1.E+00 k_sv e_x_Q_mean (1e-5) e_x_R_mean (1e-5) e_x_svd_mean а б Рис. 10. Зависимости значений ошибки восстановления входа от k для задачи Delves: а – при уровне шума 1е-4; б – при уровне шума 1е-5 1.E-10 1.E-09 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1 7 13 19 25 31 37 43 49 55 61 67 73 79 85 91 97 k ур ов ен ь ш ум а J x J y 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1 7 13 19 25 31 37 43 49 55 61 67 73 79 85 91 97 k ур ов ен ь ш ум а J x J y а б Рис. 11. Зависимости Jx (k), Jy (k) при решении ДНЗ методом случайного проецирования для задач: а – Carassо; б – Delves Заключение. В статье дан сравнительный ана- лиз и результаты экспериментального исследо- вания таких методов устойчивого решения ДНЗ, как регуляризация Тихонова, усеченное сингу- лярное разложение, случайное проецирование. Исследование точности решения ДНЗ на основе усеченного сингулярного разложения с поиском оптимального решения по критериям выбора модели Маллоуза, Акаике, минималь- ной длины описания и CRSVD показало, что наи- меньшее значение ошибки решения обеспечи- вается при использовании критерия CRSVD. Исследование точности решения ДНЗ на осно- ве случайного проецирования показало, что ис- пользование критериев CRQ и Акаике обеспечи- вает значение ошибки, близкое к минимальному. Сравнительный анализ точности решения ДНЗ методами регуляризации Тихонова, усе- ченного сингулярного разложения и на основе случайного проецирования показал, что метод усеченного сингулярного разложения с крите- рием CRSVD и метод на основе случайного про- ецирования с критериями CRQ и AIC обеспечи- вают точность на уровне регуляризации Тихо- нова с поиском параметра регуляризации ме- тодом невязки. Преимущество метода случайного проеци- рования относительно метода на основе сингу- лярного разложения состоит в меньшей вы- числительной сложности [5] в связи с умень- шением размерности результирующей матри- цы (N  k) после проецирования относительно исходной матрицы (N  N) и соответствующих затрат на выполнение SVD. Целью дальнейших исследований будет сни- жение вычислительной сложности получения решения и усреднение по реализациям случай- ной матрицы. Приложение 1 а б в Рис. П.1.1. Матрица A для задачи: а – Carasso, б – Delves, в – Phillips 22 УСиМ, 2016, № 5 0 0,2 0,4 0,6 0,8 1 1 21 41 61 81 101 121 141 161 181 x y -0,02 -0,01 0 0,01 0,02 0,03 0,04 0,05 0,06 0,07 1 25 49 73 97 121 145 169 193 x y 0,00E+00 5,00E-01 1,00E+00 1,50E+00 2,00E+00 2,50E+00 1 16 31 46 61 76 91 106 121 136 151 166 181 196 y x а б в Рис. П.1.2. Дискретно заданные сигнал x и правая часть y в задаче: а – Carasso, б – Delves, в – Phillips 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1 20 39 58 77 96 115134153172191 1.E-06 1.E-04 1.E-02 1.E+00 1 20 39 58 77 96 115134153172191 1.E-07 1.E-05 1.E-03 1.E-01 1.E+01 1 20 39 58 77 96 115134153172191 а б в Рис. П.1.3. Сингулярные значения в задаче: а – Carasso, б – Delves, в – Phillips -2 -1.5 -1 -0.5 0 0.5 1 1.5 2 2.5 1 4 7 10 13 16 19 22 25 28 31 34 37 40 x0 LS -2.6 -1.6 -0.6 0.4 1.4 2.4 1 4 7 10 13 16 19 22 25 28 31 34 37 40 x0 LS -4.9 -3.9 -2.9 -1.9 -0.9 0.1 1.1 2.1 3.1 4.1 1 4 7 10 13 16 19 22 25 28 31 34 37 40 x0 LS а б в Рис. П.1.4. Решение МНК для задач: а – Carasso, б – Delves, в – Phillips. x0 – истинный сигнал, LS – оценка сигнала x по МНК Приложение 2 В методе L-кривой строится график 2regx от 2reg Ax y для допустимых значений параметра регу- ляризации. Вертикальную и горизонтальную части кри- вой разделяет выраженный угол. В качестве оптималь- ного выбирается параметр регуляризации, соответству- ющий точке вблизи от угла L-кривой. Методом невязки предлагается выбирать параметры регуляризации так, чтобы норма остатка для регуляри- зованного решения удовлетворяла 22reg  Ax y d , где d есть возмущение правой части (шум), и, следова- тельно, требуется оценка 2d . Выбор параметра регуляризации в методе перекре- стной проверки (кросс-валидации) осуществляется пу- тем минимизации функции G() = 2 2trace( ) reg    Ax y I AA , где A – матрица, с помощью которой получают регуляри- зованное решение reg x A y . На рис. П.2.1 и П.2.2 приведены примеры неустой- чивого решения задачи Phillips с использованием мето- дов перекрестной проверки и L-кривой; на рис. П.2.3 и П.2.4 – пример G() и L-кривой для них. В данном примере неустойчивость решения, полу- ченного методом перекрестной проверки, связана с тем, что функция G() (рис. П.2.4) имеет не единственный минимум. Неустойчивость решения, полученного мето- дом L-кривой (см. рис. П.2.3), связана с тем, что вслед- ствие высокого уровня шума в векторе правой части угол L-кривой не достаточно выражен, и параметр регу- ляризации определяется некорректно. -1.5 -1 -0.5 0 0.5 1 1.5 2 1 5 9 13 17 21 25 29 33 37 41 x x_Lcur -1.5 -1 -0.5 0 0.5 1 1.5 2 1 5 9 13 17 21 25 29 33 37 x x_gcv Рис. П.2.1. Пример неустойчи- вого решения задачи Phillips методом L-кривой Рис. П.2.2. Пример неустой- чивого решения задачи Phillips методом пере- крестной проверки 10-4 10-3 10-2 10-1 100 101 100.2 100.3 100.4 100.5 100.6 100.7 100.8 2.0106 0.6591 0.21600.0708 0.00082 0.00027 8.784e-005 residual norm \|\| A x - b \|\| 2 so lu tio n no rm \|\| x \|\| 2 L-curve, Tikh. corner at 0.0023 0.0023 10-5 10-4 10-3 10-2 10-1 10010-10 10-9  G ( ) GCV function, minimum at  = 0.00020041 Рис. П.2.3. Вид L-кривой, ве- дущей к неустойчивому решению Рис. П.2.4. Вид функции G(), ведущей к неустойчиво- му решению Приложение 3 Выше отмечено, что детерминированная составляю- щая ошибки убывает, а стохастическая возрастает с рос- том k, поэтому de и se – положительны (если e = 0 для k и k + 1, в качестве k + 1 можно использовать то значение k, где e > 0). Используя начальные значения составляющих ошиб- ки ed(1), eg(1) и значения ed(k), es(k) для моделей раз- мерности от единицы до k, запишем выражения для зна- чений составляющих ошибки ( )de k , ( )ge k в виде ( ) (1) (1) (2) ... ( )d d d d de k e e e e k       , (П.3.1) ( ) (1) (1) (2) ... ( )g g g g ge k e e e e k        . (П.3.2) Поэтому 2( ) ( 1) ( ) ( )d ge k e k e k e k      , 2( 1) ( ) ( 1) ( 1)d ge k e k e k e k        . (П.3.3) Условие наличия минимума при размерности модели k перепишем как 2 ( ) ( ) 0g de k e k     , (П.3.4) УСиМ, 2016, № 5 23 2 ( 1) ( 1) 0g de k e k       . (П.3.5) Из неравенства (П.3.4) следует, что 2 ( )ge k   ( )de k  , т.е. 2 ( ) ( ) d g e k e k     , а из неравенства (П.3.5), что 2 ( 1) ( 1)g de k e k      , т.е. 2 ( 1) ( 1) d g e k e k       . Приложение 4 Рассмотрим результаты экспериментов для задач Carasso и Delves, для которых были рассчитаны зависи- мости Jx(k), Jy(k), полученные методом усеченного син- гулярного разложения (см. рис. П.4.1, а и П.4.2, а), а также зависимости ошибок восстановления входа и вы- хода от k при заданном уровне гауссова шума с нулевым средним и дисперсией 2 (рис. П.4.1, б и П.4.2, б). Линия, параллельная оси абсцисс, соответствует оп- ределенному уровню шума. Как видно из рис. П.4.1, а и П.4.2, а, Jx(k) и Jy(k) совпадают для обеих задач. Следо- вательно, и минимумы значений ошибки восстановле- ния входа и выхода совпадают. Для задачи Delves зависимости Jx(k) и Jy(k) монотонно убывают. Поэтому зависимости ошибки восстановления входа и выхода будут иметь единственный минимум. Поскольку для задачи Carasso характер убывания за- висимостей Jx(k) и Jy(k) не монотонный, зависимости ошибки восстановления входа и выхода для определен- ных уровней шума будут иметь как глобальный мини- мум, так и локальные. Проведем на графике зависимо- стей Jx(k), Jy(k) (см. рис. П.4.1, а) линию, параллельную оси абсцисс и соответствующую уровню шума 1е-3. Число пересечений данной линии с убывающими (в си- лу (14)) участками графика соответствует количеству минимумов зависимости ошибки от k при данном уров- не шума, так как каждое пересечение соответствует по- паданию значения шума в определенный интервал. 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1.E-01 1.E+00 1 4 7 10 13 16 19 22 25 28 31 34 37 k J x, J y J x J y nl=1e-3 1.E-02 1.E-01 1.E+00 1.E+01 1 4 7 10 13 16 19 22 25 28 31 34 37 40 k e_ x 1.E-05 1.E-04 1.E-03 e_ y e_x e_y а б Рис. П.4.1. Решение задачи Carasso методом усеченного син- гулярного разложения: а –зависимость Jx, Jy от раз- мерности модели k; б – зависимость ошибок восста- новления входа и выхода от k, уровень шума 1е-3 При решении задачи Carasso графики зависимостей Jx(k), Jy(k) трижды пересекаются линией уровня шума 1е-3 (см. рис. П.4.1, а). Построенные для этого уровня шума зависимости ошибки входа и выхода от k (см. рис. П.4.1, б) имеют три минимума при размерностях модели: k = 4, k = 11, k = 16. 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1 4 7 10 13 16 19 22 25 28 31 34 37 k J x, J y J x J y nl=1e-4 ` 1.E-08 1.E-07 1.E-06 1.E-05 1.E-04 1.E-03 1.E-02 1 4 7 10 13 16 19 22 25 28 31 34 37 40 k e_ x 1.E-02 1.E-01 1.E+00 1.E+01 e_ y e_y e_x а б Рис. П.4.2. Решение задачи Delves методом усеченного сингу- лярного разложения: а – зависимость Jx, Jy от размер- ности модели k; б – зависимость ошибок восстановле- ния входа и выхода от k, уровень шума 1е-4 1. Хмелевский В.К., Бондаренко В.М. Электроразвед- ка. – М.: Недра, 1999. – 438 с. 2. Забулонов Ю.Л., Коростиль Ю.М., Ревунова Е.Г. Оптимизация решения обратной задачи по восста- новлению функции плотности распределения по- верхностных загрязнений // Сб. научн. тр. ИПМЭ НАН Украины «Моделирование и информацион- ные технологии». – 2006. – C. 77–83. 3. Rachkovskij D.A., Revunova E.G. Intelligent Gamma- Ray Data Processing for Environmental Monitoring // Intel. data analysis in global monitoring for environ- mental and security. – 2009. – P. 124–145. 4. Revunova E.G., Rachkovskij D.A. Using randomized algorithms for solving discrete ill-posed problems // Int. J. Inform. Theor. and Appl. – 2009. – 16, N 2. – P. 176–192. 5. Rachkovskij D.A., Revunova E.G. Randomized method for solving discrete ill-posed problems // Cybernetics and Systems Analysis. – 2012. – 48, N 4. – P. 621–635. 6. Revunova E.G. Analytical study of the error compo- nents for the solution of discrete ill-posed problems us- ing random projections // Ibid. – 2015 – 51 – Issue 6 – P. 978–991. 7. Revunova E.G. Model Selection Criteria for a Linear Model to Solve Discrete Ill-posed Problems on the Ba- sis of Singular Decomposition and Random Projection // Ibid. – 2016 – 52, N 4. – P. 647–664. 8. Revunova E.G., Tyshchuk A.V. A Model Selection Cri- terion for Solution of Discrete Ill-Posed Problems Based on the Singular Value Decomposition // The 7th Int. Workshop on Inductive Modelling (IWIM’2015), Kyiv–Zhukyn on July 20–24, 2015. – P. 43–47. 9. Ревунова Е.Г., Тищук А.В. Критерий выбора модели для решения дискретных некорректных задач на основе сингулярного разложения // УСиМ. – 2014. – № 6. – С. 3–11. 10. Hansen P.C. The truncated SVD as a method for regu- larization. BIT 27, 1987.– P. 534–553. 11. Hansen P.C. Rank-deficient and discrete ill-posed problems. Numerical Aspects of Linear Inversion. – SIAM, Philadelphia, 1998. – 247 p. 12. Tikhonov A.N., Arsenin V.Y. Solution of ill-posed problems. – V.H. Winston, Washington, 1977. – 231 p. 24 УСиМ, 2016, № 5 13. Carasso A.S. Determining surface temperatures from interior observations // SIAM J. Appl. Math. – 1982. – N 42. – P. 558–574. 14. Delves L.M., Mohamed J.L. Computational methods for integral equations. – Cambridge: Cambridge Univ. Press, 1985. – 388 p. 15. Phillips D.L. A technique for the numerical solution of integral equation of the first kind // J. ACM. – 1962. – N 9. – P. 84–97. 16. Hansen P.C. Regularization Tools: A Matlab package for analysis and solution of discrete ill-posed problems // Numer. Algorithms. – 1994. – 6. – P. 1–35. 17. Hansen P.C., O’Leary D.P. The use of L-curve in the regularization of discrete ill-posed problems // SIAM J. Sci. Comput. – 1993. – 14. – P. 1487–1503. 18. Морозов В.А. Регулярные методы решения некор- ректно поставленных задач. – М.: Наука, 1987. – 239 с. 19. Golub G.H., Heath M., Wahba G., Generalised cross- validation as a method for choosing a good ridge pa- rameter. Technometrics. – 1979. – 21 (2). – P. 215–223. 20. Chan T.F., Hansen P.C. Some applications of the rank revealing QR factorization // SIAM J. Sci. Stat. Com- put. – 1992. – N 13. – P. 727–741. 21. Chan T.F., Hansen P.C. Low-rank revealing QR factori- zations // Numer Linear Algebra Appl. – 1994. – N 1. – P. 33–44. 22. Ивахненко А.Г., Степашко В.С. Помехоустойчивость моделирования. – Киев: Наук. думка, 1985. – 216 с. 23. Степашко В.С. Теоретические аспекты МГУА как метода индуктивного моделирования разложения // УСиМ. – 2003. – № 2. – С. 31–38. 24. Belloni A., Chernozhukov V. Least Squares after Mod- el Selection in High-Dimensional Sparse Models. – Bernoulli, 2013. 25. Mohsen Bayati, Murat A. Erdogdu, Andrea Montanari. Estimating LASSO Risk and Noise Level // NIPS 2013, Proc. of Advances in Neural Information Proc- essing Syst. – Т. 19. – N 2. – Р. 512–547. 26. Fan J., Guo S., Hao N. Variance estimation using refit- ted cross-validation in ultrahigh dimensional regres- sion // J. of the Royal Stat. Society: Series B (Statisti- cal Methodology). – 2012. – 74. – P. 1467–9868. 27. Fedorov V.V. Theory of optimal experiments. – New York: Acad. Press., 1972. 28. Adaptive neural network classifier with multifloat in- put coding / E.M. Kussul, T.N. Baidyk, V.V. Lukovich et al. // Proc. Neuro-Nimes'93. – 1993. – P. 209–216. 29. Lukovich V.V., Goltsev A.D., Rachkovskij D.A. Neural Network Classifiers for Micromechanical Equipment Diagnostics and Micromechanical Product Quality In- spection // Proc. EUFIT'97. – 1997 – 1. – P. 534–536. 30. Application of random threshold neural networks for diagnostics of micro machine tool condition / E.M. Kussul, L.M. Kasatkina, D.A. Rachkovskij et al. // Neural Networks Proc., 1998. IEEE World Congr. on Comp. Intel. – 1998. – 1. – P. 241–244. 31. Properties of numeric сodes for the scheme of random subspaces RSC / D.A. Rachkovskij, S.V. Slipchenko, E.M. Kussul et al. // Cybernetics and Systems Analy- sis. – 2005. – 41, N 4. – P. 509–520. 32. Rachkovskij D.A., Misuno I.S., Slipchenko S.V. Rando- mized projective methods for construction of binary sparse vector representations // Jbid. – 2012. – 48, N 1. – P. 146–156. 33. Neural distributed representation for intelligent infor- mation technologies and modeling of thinking / V.I. Gritsenko, D.A. Rachkovskij, A.D. Goltsev et al. // Cybernetics and Computer Engineering. – 2013. – 173. – P. 7–24. 34. Stewart G.W. On the perturbation of pseudo-inverses, projections and linear least squares problems // SIAM Review. – 1977. – 19, N 4. – P. 634–662. Поступила 09.04.2015 Тел. для справок: +38 044 502-6341 (Киев) E-mail: helab@i.com.ua © Е.Г. Ревунова, 2016 UDC 004.942 + 623.454.862 E.G. Revunova Recovering Signals Obtained by Indirect Measurements Based on Truncated Singular Value Decompo- sition and Random Projection Keywords: discrete ill-posed problem, regularization, truncated singular value decomposition, random projection. Introduction. The solution of the ill-posed inverse problem by the least squares method is unstable with a large solution error. Tikhonov regulariza- tion, truncated singular value decomposition, and random projection were used to overcome the instability and to increase the accuracy of the solution. Purpose. We provide an experimental comparison of the solution accuracy for the ill-posed inverse problem by Tikhonov regularization, trun- cated singular value decomposition, and random projection. Methods. Tikhonov's regularization imposes some restrictions on the solution, i.e. penalty on its Euclidean norm, that improves stability. Another approach approximates the original data by a model linear with respect to parameters. Selection of the optimal number of components of the linear model minimizes the error of solution and ensures stability. To obtain the optimal number of model components, model selection criteria are used. Results and Conclusion. A comparative analysis of the accuracy shows that the truncated singular value decomposition method with the CRSVD criterion and the random projection method with the CRQ and AIC criteria ensured the accuracy at the level of Tikhonov regularization with the regularization parameter selected by the discrepancy method. The advantage of the random projection method is a lower computational com- plexity due to the dimensionality reduction. Perspective. The directions for further research include the decreasing of the computational complexity and averaging over the realizations of the random matrix.  << /ASCII85EncodePages false /AllowTransparency false /AutoPositionEPSFiles true /AutoRotatePages /None /Binding /Left /CalGrayProfile (Dot Gain 20%) /CalRGBProfile (sRGB IEC61966-2.1) /CalCMYKProfile (U.S. Web Coated \050SWOP\051 v2) /sRGBProfile (sRGB IEC61966-2.1) /CannotEmbedFontPolicy /Error /CompatibilityLevel 1.4 /CompressObjects /Tags /CompressPages true /ConvertImagesToIndexed true /PassThroughJPEGImages true /CreateJobTicket false /DefaultRenderingIntent /Default /DetectBlends true /DetectCurves 0.0000 /ColorConversionStrategy /CMYK /DoThumbnails false /EmbedAllFonts true /EmbedOpenType false /ParseICCProfilesInComments true /EmbedJobOptions true /DSCReportingLevel 0 /EmitDSCWarnings false /EndPage -1 /ImageMemory 1048576 /LockDistillerParams false /MaxSubsetPct 100 /Optimize true /OPM 1 /ParseDSCComments true /ParseDSCCommentsForDocInfo true /PreserveCopyPage true /PreserveDICMYKValues true /PreserveEPSInfo true /PreserveFlatness true /PreserveHalftoneInfo false /PreserveOPIComments true /PreserveOverprintSettings true /StartPage 1 /SubsetFonts true /TransferFunctionInfo /Apply /UCRandBGInfo /Preserve /UsePrologue false /ColorSettingsFile () /AlwaysEmbed [ true ] /NeverEmbed [ true ] /AntiAliasColorImages false /CropColorImages true /ColorImageMinResolution 300 /ColorImageMinResolutionPolicy /OK /DownsampleColorImages true /ColorImageDownsampleType /Bicubic /ColorImageResolution 300 /ColorImageDepth -1 /ColorImageMinDownsampleDepth 1 /ColorImageDownsampleThreshold 1.50000 /EncodeColorImages true /ColorImageFilter /DCTEncode /AutoFilterColorImages true /ColorImageAutoFilterStrategy /JPEG /ColorACSImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /ColorImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /JPEG2000ColorACSImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /JPEG2000ColorImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /AntiAliasGrayImages false /CropGrayImages true /GrayImageMinResolution 300 /GrayImageMinResolutionPolicy /OK /DownsampleGrayImages true /GrayImageDownsampleType /Bicubic /GrayImageResolution 300 /GrayImageDepth -1 /GrayImageMinDownsampleDepth 2 /GrayImageDownsampleThreshold 1.50000 /EncodeGrayImages true /GrayImageFilter /DCTEncode /AutoFilterGrayImages true /GrayImageAutoFilterStrategy /JPEG /GrayACSImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /GrayImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /JPEG2000GrayACSImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /JPEG2000GrayImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /AntiAliasMonoImages false /CropMonoImages true /MonoImageMinResolution 1200 /MonoImageMinResolutionPolicy /OK /DownsampleMonoImages true /MonoImageDownsampleType /Bicubic /MonoImageResolution 1200 /MonoImageDepth -1 /MonoImageDownsampleThreshold 1.50000 /EncodeMonoImages true /MonoImageFilter /CCITTFaxEncode /MonoImageDict << /K -1 >> /AllowPSXObjects false /CheckCompliance [ /None ] /PDFX1aCheck false /PDFX3Check false /PDFXCompliantPDFOnly false /PDFXNoTrimBoxError true /PDFXTrimBoxToMediaBoxOffset [ 0.00000 0.00000 0.00000 0.00000 ] /PDFXSetBleedBoxToMediaBox true /PDFXBleedBoxToTrimBoxOffset [ 0.00000 0.00000 0.00000 0.00000 ] /PDFXOutputIntentProfile () /PDFXOutputConditionIdentifier () /PDFXOutputCondition () /PDFXRegistryName () /PDFXTrapped /False /CreateJDFFile false /Description << /ARA <FEFF06270633062A062E062F0645002006470630064700200627064406250639062F0627062F0627062A002006440625064606340627062100200648062B062706260642002000410064006F00620065002000500044004600200645062A064806270641064206290020064406440637062806270639062900200641064A00200627064406450637062706280639002006300627062A0020062F0631062C0627062A002006270644062C0648062F0629002006270644063906270644064A0629061B0020064A06450643064600200641062A062D00200648062B0627062606420020005000440046002006270644064506460634062306290020062806270633062A062E062F062706450020004100630072006F0062006100740020064800410064006F006200650020005200650061006400650072002006250635062F0627063100200035002E0030002006480627064406250635062F062706310627062A0020062706440623062D062F062B002E0635062F0627063100200035002E0030002006480627064406250635062F062706310627062A0020062706440623062D062F062B002E> /BGR <FEFF04180437043f043e043b043704320430043904420435002004420435043704380020043d0430044104420440043e0439043a0438002c00200437043000200434043000200441044a0437043404300432043004420435002000410064006f00620065002000500044004600200434043e043a0443043c0435043d04420438002c0020043c0430043a04410438043c0430043b043d043e0020043f044004380433043e04340435043d04380020043704300020043204380441043e043a043e043a0430044704350441044204320435043d0020043f04350447043004420020043704300020043f044004350434043f0435044704300442043d04300020043f043e04340433043e0442043e0432043a0430002e002000200421044a04370434043004340435043d043804420435002000500044004600200434043e043a0443043c0435043d044204380020043c043e0433043004420020043404300020044104350020043e0442043204300440044f0442002004410020004100630072006f00620061007400200438002000410064006f00620065002000520065006100640065007200200035002e00300020043800200441043b0435043404320430044904380020043204350440044104380438002e> /CHS <FEFF4f7f75288fd94e9b8bbe5b9a521b5efa7684002000410064006f006200650020005000440046002065876863900275284e8e9ad88d2891cf76845370524d53705237300260a853ef4ee54f7f75280020004100630072006f0062006100740020548c002000410064006f00620065002000520065006100640065007200200035002e003000204ee553ca66f49ad87248672c676562535f00521b5efa768400200050004400460020658768633002> /CHT <FEFF4f7f752890194e9b8a2d7f6e5efa7acb7684002000410064006f006200650020005000440046002065874ef69069752865bc9ad854c18cea76845370524d5370523786557406300260a853ef4ee54f7f75280020004100630072006f0062006100740020548c002000410064006f00620065002000520065006100640065007200200035002e003000204ee553ca66f49ad87248672c4f86958b555f5df25efa7acb76840020005000440046002065874ef63002> /CZE <FEFF005400610074006f0020006e006100730074006100760065006e00ed00200070006f0075017e0069006a007400650020006b0020007600790074007600e101590065006e00ed00200064006f006b0075006d0065006e0074016f002000410064006f006200650020005000440046002c0020006b00740065007200e90020007300650020006e0065006a006c00e90070006500200068006f006400ed002000700072006f0020006b00760061006c00690074006e00ed0020007400690073006b00200061002000700072006500700072006500730073002e002000200056007900740076006f01590065006e00e900200064006f006b0075006d0065006e007400790020005000440046002000620075006400650020006d006f017e006e00e90020006f007400650076015900ed007400200076002000700072006f006700720061006d0065006300680020004100630072006f00620061007400200061002000410064006f00620065002000520065006100640065007200200035002e0030002000610020006e006f0076011b006a016100ed00630068002e> /DAN <FEFF004200720075006700200069006e0064007300740069006c006c0069006e006700650072006e0065002000740069006c0020006100740020006f007000720065007400740065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e007400650072002c0020006400650072002000620065006400730074002000650067006e006500720020007300690067002000740069006c002000700072006500700072006500730073002d007500640073006b007200690076006e0069006e00670020006100660020006800f8006a0020006b00760061006c0069007400650074002e0020004400650020006f007000720065007400740065006400650020005000440046002d0064006f006b0075006d0065006e0074006500720020006b0061006e002000e50062006e00650073002000690020004100630072006f00620061007400200065006c006c006500720020004100630072006f006200610074002000520065006100640065007200200035002e00300020006f00670020006e0079006500720065002e> /DEU <FEFF00560065007200770065006e00640065006e0020005300690065002000640069006500730065002000450069006e007300740065006c006c0075006e00670065006e0020007a0075006d002000450072007300740065006c006c0065006e00200076006f006e002000410064006f006200650020005000440046002d0044006f006b0075006d0065006e00740065006e002c00200076006f006e002000640065006e0065006e002000530069006500200068006f006300680077006500720074006900670065002000500072006500700072006500730073002d0044007200750063006b0065002000650072007a0065007500670065006e0020006d00f60063006800740065006e002e002000450072007300740065006c006c007400650020005000440046002d0044006f006b0075006d0065006e007400650020006b00f6006e006e0065006e0020006d006900740020004100630072006f00620061007400200075006e0064002000410064006f00620065002000520065006100640065007200200035002e00300020006f0064006500720020006800f600680065007200200067006500f600660066006e00650074002000770065007200640065006e002e> /ESP <FEFF005500740069006c0069006300650020006500730074006100200063006f006e0066006900670075007200610063006900f3006e0020007000610072006100200063007200650061007200200064006f00630075006d0065006e0074006f00730020005000440046002000640065002000410064006f0062006500200061006400650063007500610064006f00730020007000610072006100200069006d0070007200650073006900f3006e0020007000720065002d0065006400690074006f007200690061006c00200064006500200061006c00740061002000630061006c0069006400610064002e002000530065002000700075006500640065006e00200061006200720069007200200064006f00630075006d0065006e0074006f00730020005000440046002000630072006500610064006f007300200063006f006e0020004100630072006f006200610074002c002000410064006f00620065002000520065006100640065007200200035002e003000200079002000760065007200730069006f006e0065007300200070006f00730074006500720069006f007200650073002e> /ETI <FEFF004b00610073007500740061006700650020006e0065006900640020007300e4007400740065006900640020006b00760061006c006900740065006500740073006500200074007200fc006b006900650065006c007300650020007000720069006e00740069006d0069007300650020006a0061006f006b007300200073006f00620069006c0069006b0065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e00740069006400650020006c006f006f006d006900730065006b0073002e00200020004c006f006f0064007500640020005000440046002d0064006f006b0075006d0065006e00740065002000730061006100740065002000610076006100640061002000700072006f006700720061006d006d006900640065006700610020004100630072006f0062006100740020006e0069006e0067002000410064006f00620065002000520065006100640065007200200035002e00300020006a00610020007500750065006d006100740065002000760065007200730069006f006f006e00690064006500670061002e000d000a> /FRA <FEFF005500740069006c006900730065007a00200063006500730020006f007000740069006f006e00730020006100660069006e00200064006500200063007200e900650072002000640065007300200064006f00630075006d0065006e00740073002000410064006f00620065002000500044004600200070006f0075007200200075006e00650020007100750061006c0069007400e90020006400270069006d007000720065007300730069006f006e00200070007200e9007000720065007300730065002e0020004c0065007300200064006f00630075006d0065006e00740073002000500044004600200063007200e900e90073002000700065007500760065006e0074002000ea0074007200650020006f007500760065007200740073002000640061006e00730020004100630072006f006200610074002c002000610069006e00730069002000710075002700410064006f00620065002000520065006100640065007200200035002e0030002000650074002000760065007200730069006f006e007300200075006c007400e90072006900650075007200650073002e> /GRE <FEFF03a703c103b703c303b903bc03bf03c003bf03b903ae03c303c403b5002003b103c503c403ad03c2002003c403b903c2002003c103c503b803bc03af03c303b503b903c2002003b303b903b1002003bd03b1002003b403b703bc03b903bf03c503c103b303ae03c303b503c403b5002003ad03b303b303c103b103c603b1002000410064006f006200650020005000440046002003c003bf03c5002003b503af03bd03b103b9002003ba03b103c42019002003b503be03bf03c703ae03bd002003ba03b103c403ac03bb03bb03b703bb03b1002003b303b903b1002003c003c103bf002d03b503ba03c403c503c003c903c403b903ba03ad03c2002003b503c103b303b103c303af03b503c2002003c503c803b703bb03ae03c2002003c003bf03b903cc03c403b703c403b103c2002e0020002003a403b10020005000440046002003ad03b303b303c103b103c603b1002003c003bf03c5002003ad03c703b503c403b5002003b403b703bc03b903bf03c503c103b303ae03c303b503b9002003bc03c003bf03c103bf03cd03bd002003bd03b1002003b103bd03bf03b903c703c403bf03cd03bd002003bc03b5002003c403bf0020004100630072006f006200610074002c002003c403bf002000410064006f00620065002000520065006100640065007200200035002e0030002003ba03b103b9002003bc03b503c403b103b303b503bd03ad03c303c403b503c103b503c2002003b503ba03b403cc03c303b503b903c2002e> /HEB <FEFF05D405E905EA05DE05E905D5002005D105D405D205D305E805D505EA002005D005DC05D4002005DB05D305D9002005DC05D905E605D505E8002005DE05E105DE05DB05D9002000410064006F006200650020005000440046002005D405DE05D505EA05D005DE05D905DD002005DC05D405D305E405E105EA002005E705D305DD002D05D305E405D505E1002005D005D905DB05D505EA05D905EA002E002005DE05E105DE05DB05D90020005000440046002005E905E005D505E605E805D5002005E005D905EA05E005D905DD002005DC05E405EA05D905D705D4002005D105D005DE05E605E205D505EA0020004100630072006F006200610074002005D5002D00410064006F00620065002000520065006100640065007200200035002E0030002005D505D205E805E105D005D505EA002005DE05EA05E705D305DE05D505EA002005D905D505EA05E8002E05D005DE05D905DD002005DC002D005000440046002F0058002D0033002C002005E205D905D905E005D5002005D105DE05D305E805D905DA002005DC05DE05E905EA05DE05E9002005E905DC0020004100630072006F006200610074002E002005DE05E105DE05DB05D90020005000440046002005E905E005D505E605E805D5002005E005D905EA05E005D905DD002005DC05E405EA05D905D705D4002005D105D005DE05E605E205D505EA0020004100630072006F006200610074002005D5002D00410064006F00620065002000520065006100640065007200200035002E0030002005D505D205E805E105D005D505EA002005DE05EA05E705D305DE05D505EA002005D905D505EA05E8002E> /HRV (Za stvaranje Adobe PDF dokumenata najpogodnijih za visokokvalitetni ispis prije tiskanja koristite ove postavke. Stvoreni PDF dokumenti mogu se otvoriti Acrobat i Adobe Reader 5.0 i kasnijim verzijama.) /HUN <FEFF004b0069007600e1006c00f30020006d0069006e0151007300e9006701710020006e0079006f006d00640061006900200065006c0151006b00e90073007a00ed007401510020006e0079006f006d00740061007400e100730068006f007a0020006c006500670069006e006b00e1006200620020006d0065006700660065006c0065006c0151002000410064006f00620065002000500044004600200064006f006b0075006d0065006e00740075006d006f006b0061007400200065007a0065006b006b0065006c0020006100200062006500e1006c006c00ed007400e10073006f006b006b0061006c0020006b00e90073007a00ed0074006800650074002e0020002000410020006c00e90074007200650068006f007a006f00740074002000500044004600200064006f006b0075006d0065006e00740075006d006f006b00200061007a0020004100630072006f006200610074002000e9007300200061007a002000410064006f00620065002000520065006100640065007200200035002e0030002c0020007600610067007900200061007a002000610074007400f3006c0020006b00e9007301510062006200690020007600650072007a006900f3006b006b0061006c0020006e00790069007400680061007400f3006b0020006d00650067002e> /ITA <FEFF005500740069006c0069007a007a006100720065002000710075006500730074006500200069006d0070006f007300740061007a0069006f006e00690020007000650072002000630072006500610072006500200064006f00630075006d0065006e00740069002000410064006f00620065002000500044004600200070006900f900200061006400610074007400690020006100200075006e00610020007000720065007300740061006d0070006100200064006900200061006c007400610020007100750061006c0069007400e0002e0020004900200064006f00630075006d0065006e007400690020005000440046002000630072006500610074006900200070006f00730073006f006e006f0020006500730073006500720065002000610070006500720074006900200063006f006e0020004100630072006f00620061007400200065002000410064006f00620065002000520065006100640065007200200035002e003000200065002000760065007200730069006f006e006900200073007500630063006500730073006900760065002e> /JPN <FEFF9ad854c18cea306a30d730ea30d730ec30b951fa529b7528002000410064006f0062006500200050004400460020658766f8306e4f5c6210306b4f7f75283057307e305930023053306e8a2d5b9a30674f5c62103055308c305f0020005000440046002030d530a130a430eb306f3001004100630072006f0062006100740020304a30883073002000410064006f00620065002000520065006100640065007200200035002e003000204ee5964d3067958b304f30533068304c3067304d307e305930023053306e8a2d5b9a306b306f30d530a930f330c8306e57cb30818fbc307f304c5fc59808306730593002> /KOR <FEFFc7740020c124c815c7440020c0acc6a9d558c5ec0020ace0d488c9c80020c2dcd5d80020c778c1c4c5d00020ac00c7a50020c801d569d55c002000410064006f0062006500200050004400460020bb38c11cb97c0020c791c131d569b2c8b2e4002e0020c774b807ac8c0020c791c131b41c00200050004400460020bb38c11cb2940020004100630072006f0062006100740020bc0f002000410064006f00620065002000520065006100640065007200200035002e00300020c774c0c1c5d0c11c0020c5f40020c2180020c788c2b5b2c8b2e4002e> /LTH <FEFF004e006100750064006f006b0069007400650020016100690075006f007300200070006100720061006d006500740072007500730020006e006f0072011700640061006d00690020006b0075007200740069002000410064006f00620065002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b00750072006900650020006c0061006200690061007500730069006100690020007000720069007400610069006b007900740069002000610075006b01610074006f00730020006b006f006b007900620117007300200070006100720065006e006700740069006e00690061006d00200073007000610075007300640069006e0069006d00750069002e0020002000530075006b0075007200740069002000500044004600200064006f006b0075006d0065006e007400610069002000670061006c006900200062016b007400690020006100740069006400610072006f006d00690020004100630072006f006200610074002000690072002000410064006f00620065002000520065006100640065007200200035002e0030002000610072002000760117006c00650073006e0117006d00690073002000760065007200730069006a006f006d00690073002e> /LVI <FEFF0049007a006d0061006e0074006f006a00690065007400200161006f00730020006900650073007400610074012b006a0075006d00750073002c0020006c0061006900200076006500690064006f00740075002000410064006f00620065002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b006100730020006900720020012b00700061016100690020007000690065006d01130072006f00740069002000610075006700730074006100730020006b00760061006c0069007401010074006500730020007000690072006d007300690065007300700069006501610061006e006100730020006400720075006b00610069002e00200049007a0076006500690064006f006a006900650074002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b006f002000760061007200200061007400760113007200740020006100720020004100630072006f00620061007400200075006e002000410064006f00620065002000520065006100640065007200200035002e0030002c0020006b0101002000610072012b00200074006f0020006a00610075006e0101006b0101006d002000760065007200730069006a0101006d002e> /NLD (Gebruik deze instellingen om Adobe PDF-documenten te maken die zijn geoptimaliseerd voor prepress-afdrukken van hoge kwaliteit. De gemaakte PDF-documenten kunnen worden geopend met Acrobat en Adobe Reader 5.0 en hoger.) /NOR <FEFF004200720075006b00200064006900730073006500200069006e006e007300740069006c006c0069006e00670065006e0065002000740069006c002000e50020006f0070007000720065007400740065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e00740065007200200073006f006d00200065007200200062006500730074002000650067006e0065007400200066006f00720020006600f80072007400720079006b006b0073007500740073006b00720069006600740020006100760020006800f800790020006b00760061006c0069007400650074002e0020005000440046002d0064006f006b0075006d0065006e00740065006e00650020006b0061006e002000e50070006e00650073002000690020004100630072006f00620061007400200065006c006c00650072002000410064006f00620065002000520065006100640065007200200035002e003000200065006c006c00650072002000730065006e006500720065002e> /POL <FEFF0055007300740061007700690065006e0069006100200064006f002000740077006f0072007a0065006e0069006100200064006f006b0075006d0065006e007400f300770020005000440046002000700072007a0065007a006e00610063007a006f006e00790063006800200064006f002000770079006400720075006b00f30077002000770020007700790073006f006b00690065006a0020006a0061006b006f015b00630069002e002000200044006f006b0075006d0065006e0074007900200050004400460020006d006f017c006e00610020006f007400770069006500720061010700200077002000700072006f006700720061006d006900650020004100630072006f00620061007400200069002000410064006f00620065002000520065006100640065007200200035002e0030002000690020006e006f00770073007a0079006d002e> /PTB <FEFF005500740069006c0069007a006500200065007300730061007300200063006f006e00660069006700750072006100e700f50065007300200064006500200066006f0072006d00610020006100200063007200690061007200200064006f00630075006d0065006e0074006f0073002000410064006f0062006500200050004400460020006d00610069007300200061006400650071007500610064006f00730020007000610072006100200070007200e9002d0069006d0070007200650073007300f50065007300200064006500200061006c007400610020007100750061006c00690064006100640065002e0020004f007300200064006f00630075006d0065006e0074006f00730020005000440046002000630072006900610064006f007300200070006f00640065006d0020007300650072002000610062006500720074006f007300200063006f006d0020006f0020004100630072006f006200610074002000650020006f002000410064006f00620065002000520065006100640065007200200035002e0030002000650020007600650072007300f50065007300200070006f00730074006500720069006f007200650073002e> /RUM <FEFF005500740069006c0069007a00610163006900200061006300650073007400650020007300650074010300720069002000700065006e007400720075002000610020006300720065006100200064006f00630075006d0065006e00740065002000410064006f006200650020005000440046002000610064006500630076006100740065002000700065006e0074007200750020007400690070010300720069007200650061002000700072006500700072006500730073002000640065002000630061006c006900740061007400650020007300750070006500720069006f006100720103002e002000200044006f00630075006d0065006e00740065006c00650020005000440046002000630072006500610074006500200070006f00740020006600690020006400650073006300680069007300650020006300750020004100630072006f006200610074002c002000410064006f00620065002000520065006100640065007200200035002e00300020015f00690020007600650072007300690075006e0069006c006500200075006c0074006500720069006f006100720065002e> /RUS <FEFF04180441043f043e043b044c04370443043904420435002004340430043d043d044b04350020043d0430044104420440043e0439043a043800200434043b044f00200441043e043704340430043d0438044f00200434043e043a0443043c0435043d0442043e0432002000410064006f006200650020005000440046002c0020043c0430043a04410438043c0430043b044c043d043e0020043f043e04340445043e0434044f04490438044500200434043b044f00200432044b0441043e043a043e043a0430044704350441044204320435043d043d043e0433043e00200434043e043f0435044704300442043d043e0433043e00200432044b0432043e04340430002e002000200421043e043704340430043d043d044b04350020005000440046002d0434043e043a0443043c0435043d0442044b0020043c043e0436043d043e0020043e0442043a0440044b043204300442044c002004410020043f043e043c043e0449044c044e0020004100630072006f00620061007400200438002000410064006f00620065002000520065006100640065007200200035002e00300020043800200431043e043b043504350020043f043e04370434043d043804450020043204350440044104380439002e> /SKY <FEFF0054006900650074006f0020006e006100730074006100760065006e0069006100200070006f0075017e0069007400650020006e00610020007600790074007600e100720061006e0069006500200064006f006b0075006d0065006e0074006f0076002000410064006f006200650020005000440046002c0020006b0074006f007200e90020007300610020006e0061006a006c0065007001610069006500200068006f0064006900610020006e00610020006b00760061006c00690074006e00fa00200074006c0061010d00200061002000700072006500700072006500730073002e00200056007900740076006f00720065006e00e900200064006f006b0075006d0065006e007400790020005000440046002000620075006400650020006d006f017e006e00e90020006f00740076006f00720069016500200076002000700072006f006700720061006d006f006300680020004100630072006f00620061007400200061002000410064006f00620065002000520065006100640065007200200035002e0030002000610020006e006f0076016100ed00630068002e> /SLV <FEFF005400650020006e006100730074006100760069007400760065002000750070006f0072006100620069007400650020007a00610020007500730074007600610072006a0061006e006a006500200064006f006b0075006d0065006e0074006f0076002000410064006f006200650020005000440046002c0020006b006900200073006f0020006e0061006a007000720069006d00650072006e0065006a016100690020007a00610020006b0061006b006f0076006f00730074006e006f0020007400690073006b0061006e006a00650020007300200070007200690070007200610076006f0020006e00610020007400690073006b002e00200020005500730074007600610072006a0065006e006500200064006f006b0075006d0065006e0074006500200050004400460020006a00650020006d006f0067006f010d00650020006f0064007000720065007400690020007a0020004100630072006f00620061007400200069006e002000410064006f00620065002000520065006100640065007200200035002e003000200069006e0020006e006f00760065006a01610069006d002e> /SUO <FEFF004b00e40079007400e40020006e00e40069007400e4002000610073006500740075006b007300690061002c0020006b0075006e0020006c0075006f00740020006c00e400680069006e006e00e4002000760061006100740069007600610061006e0020007000610069006e006100740075006b00730065006e002000760061006c006d0069007300740065006c00750074007900f6006800f6006e00200073006f00700069007600690061002000410064006f0062006500200050004400460020002d0064006f006b0075006d0065006e007400740065006a0061002e0020004c0075006f0064007500740020005000440046002d0064006f006b0075006d0065006e00740069007400200076006f0069006400610061006e0020006100760061007400610020004100630072006f0062006100740069006c006c00610020006a0061002000410064006f00620065002000520065006100640065007200200035002e0030003a006c006c00610020006a006100200075007500640065006d006d0069006c006c0061002e> /SVE <FEFF0041006e007600e4006e00640020006400650020006800e4007200200069006e0073007400e4006c006c006e0069006e006700610072006e00610020006f006d002000640075002000760069006c006c00200073006b006100700061002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e007400200073006f006d002000e400720020006c00e4006d0070006c0069006700610020006600f60072002000700072006500700072006500730073002d007500740073006b00720069006600740020006d006500640020006800f600670020006b00760061006c0069007400650074002e002000200053006b006100700061006400650020005000440046002d0064006f006b0075006d0065006e00740020006b0061006e002000f600700070006e00610073002000690020004100630072006f0062006100740020006f00630068002000410064006f00620065002000520065006100640065007200200035002e00300020006f00630068002000730065006e006100720065002e> /TUR <FEFF005900fc006b00730065006b0020006b0061006c006900740065006c0069002000f6006e002000790061007a006401310072006d00610020006200610073006b013100730131006e006100200065006e0020006900790069002000750079006100620069006c006500630065006b002000410064006f006200650020005000440046002000620065006c00670065006c0065007200690020006f006c0075015f007400750072006d0061006b0020006900e70069006e00200062007500200061007900610072006c0061007201310020006b0075006c006c0061006e0131006e002e00200020004f006c0075015f0074007500720075006c0061006e0020005000440046002000620065006c00670065006c0065007200690020004100630072006f006200610074002000760065002000410064006f00620065002000520065006100640065007200200035002e003000200076006500200073006f006e0072006100730131006e00640061006b00690020007300fc007200fc006d006c00650072006c00650020006100e70131006c006100620069006c00690072002e> /UKR <FEFF04120438043a043e0440043804410442043e043204430439044204350020044604560020043f043004400430043c043504420440043800200434043b044f0020044104420432043e04400435043d043d044f00200434043e043a0443043c0435043d044204560432002000410064006f006200650020005000440046002c0020044f043a04560020043d04300439043a04400430044904350020043f045604340445043e0434044f0442044c00200434043b044f0020043204380441043e043a043e044f043a04560441043d043e0433043e0020043f0435044004350434043404400443043a043e0432043e0433043e0020043404400443043a0443002e00200020042104420432043e04400435043d045600200434043e043a0443043c0435043d0442043800200050004400460020043c043e0436043d04300020043204560434043a0440043804420438002004430020004100630072006f006200610074002004420430002000410064006f00620065002000520065006100640065007200200035002e0030002004300431043e0020043f04560437043d04560448043e04570020043204350440044104560457002e> /ENU (Use these settings to create Adobe PDF documents best suited for high-quality prepress printing. Created PDF documents can be opened with Acrobat and Adobe Reader 5.0 and later.) >> /Namespace [ (Adobe) (Common) (1.0) ] /OtherNamespaces [ << /AsReaderSpreads false /CropImagesToFrames true /ErrorControl /WarnAndContinue /FlattenerIgnoreSpreadOverrides false /IncludeGuidesGrids false /IncludeNonPrinting false /IncludeSlug false /Namespace [ (Adobe) (InDesign) (4.0) ] /OmitPlacedBitmaps false /OmitPlacedEPS false /OmitPlacedPDF false /SimulateOverprint /Legacy >> << /AddBleedMarks false /AddColorBars false /AddCropMarks false /AddPageInfo false /AddRegMarks false /ConvertColors /ConvertToCMYK /DestinationProfileName () /DestinationProfileSelector /DocumentCMYK /Downsample16BitImages true /FlattenerPreset << /PresetSelector /MediumResolution >> /FormElements false /GenerateStructure false /IncludeBookmarks false /IncludeHyperlinks false /IncludeInteractive false /IncludeLayers false /IncludeProfiles false /MultimediaHandling /UseObjectSettings /Namespace [ (Adobe) (CreativeSuite) (2.0) ] /PDFXOutputIntentProfileSelector /DocumentCMYK /PreserveEditing true /UntaggedCMYKHandling /LeaveUntagged /UntaggedRGBHandling /UseDocumentProfile /UseDocumentBleed false >> ] >> setdistillerparams << /HWResolution [2400 2400] /PageSize [612.000 792.000] >> setpagedevice

Восстановление сигналов, полученных косвенными измерениями, на основе усеченного сингулярного разложения и случайного проецирования

Institution

Ähnliche Einträge