Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності

A comparative analysis of neuro-fuzzy algorithms is performed and their performance in classification of electrooptical images in an uncertain environment is investigated. Classification algorithms based on Kohonen, ANFIS, NEFCLASS neuro-fuzzy nets have been considered, and their comparison analysis...

Ausführliche Beschreibung

Gespeichert in:

Bibliographische Detailangaben
Datum:	2019
Hauptverfasser:	Petrosyuk, I. M., Zaichenko, Yu. P.
Format:	Artikel
Sprache:	Ukrainisch
Veröffentlicht:	The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute" 2019
Online Zugang:	https://journal.iasa.kpi.ua/article/view/165167
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!
Назва журналу:	System research and information technologies
Завантажити файл:

Institution

System research and information technologies

_version_	1866302321279893504
author	Petrosyuk, I. M. Zaichenko, Yu. P.
author_facet	Petrosyuk, I. M. Zaichenko, Yu. P.
author_sort	Petrosyuk, I. M.
baseUrl_str	http://journal.iasa.kpi.ua/oai
collection	OJS
datestamp_date	2019-04-23T15:44:17Z
description	A comparative analysis of neuro-fuzzy algorithms is performed and their performance in classification of electrooptical images in an uncertain environment is investigated. Classification algorithms based on Kohonen, ANFIS, NEFCLASS neuro-fuzzy nets have been considered, and their comparison analysis has been conducted. A new method for classification of electrooptical images in the considered class of problems is proposed.
first_indexed	2025-07-17T10:24:38Z
format	Article
fulltext	© І.М. Петросюк, Ю.П. Зайченко, 2006 110 ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 TIДC МЕТОДИ АНАЛІЗУ ТА УПРАВЛІННЯ СИСТЕМАМИ В УМОВАХ РИЗИКУ І НЕВИЗНАЧЕНОСТІ УДК 683.519 ПОРІВНЯЛЬНИЙ АНАЛІЗ НЕЙРО-НЕЧІТКИХ СИСТЕМ КЛАСИФІКАЦІЇ ЕЛЕКТРООПТИЧНИХ ЗОБРАЖЕНЬ В УМОВАХ ІНФОРМАЦІЙНОЇ НЕВИЗНАЧЕНОСТІ І.М. ПЕТРОСЮК, Ю.П. ЗАЙЧЕНКО Проведено порівняльний аналіз нейро-нечітких алгоритмів класифікації та до- сліджено їх роботу для класифікації електрооптичних зображень в умовах ін- формаційної невизначеності. Розглянуто алгоритми класифікації нейронної мережі Кохонена та нечітких нейромереж ANFIS і NEFCLASS. Запропоновано новий метод класифікації електрооптичних зображень для даного класу задач. ВСТУП Класифікація об’єктів в умовах нечіткої початкової інформації є одним із найбільш важливих напрямів дослідження штучного інтелекту. Системи класифікації — незамінні компоненти в інтелектуальних системах, де вони замість людини виконують рутинну обробку великих об’ємів даних. Ефек- тивна система класифікації повинна виконувати таку обробку з найменши- ми витратами. Один із шляхів подолання недоліку класифікації зображень з неповною інформацією призводить до розробки та використання нечітких моделей. Для вибору найбільш оптимального методу класифікації необхідно провести порівняльний аналіз нейро-нечітких алгоритмів класифікації та дослідити їх здатність розрізняти та виявляти об’єкти, класи, області на зображеннях електрооптичних (ЕО) систем в умовах інформаційної невизначеності. Нечітка класифікація об’єктів для ЕО зображень заснована на принципі зорового сприйняття людиною візуальної інформації. Особливістю психофі- зичних процесів людини при обробці оптичної інформації є декореляція об’єктів у просторі та часі з метою визначення їхньої природи за допомогою відомої інформації — апріорних знань. Така особливість дозволяє людині використовувати найбільш інформативні ознаки об’єктів і економно кодува- ти інформацію для передачі її на вторинну обробку — у мозок людини. У сітчатці ока існує три типи сенсорів з різними спектральними характерис- тиками ),,( BGR . Адаптація кожного з них до зміни освітлення проходить незалежно один від одного. Зоровий апарат людини здатен правильно ви- значати та описувати різноманітні кольори, незважаючи на яскравість освіт- лення об’єкта, зміни його форми, матеріалу і т.д. Електрооптична система за своїми характеристиками дуже схожа на Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень ... Системні дослідження та інформаційні технології, 2006, № 3 111 зір людини, але має значно ширші можливості. Така система спроможна сприймати зображення в усіх діапазонах електромагнітного спектру — від ультрачервоного до інфрачервоного та ефективно обробляти їх. Інформація про об’єкт дослідження поступає із супутників, як правило, у цифровому вигляді вже зміненою, з багатьма невизначеними параметрами, що з’являються в результаті роботи системи або є наслідками природних змін освітлення, форми, положення і т. ін. Об’єкти ЕО зображення не можуть бути описані за допомогою однієї визначеної характеристики, оскільки вони налічують сукупність ознак, які змінюються незалежно одна від одної. Використання нечіткої логіки та ней- ронних мереж дозволить значно полегшити задачу ідентифікації та класифі- кації об’єктів ЕО зображення, враховуючи невизначеність усіх відомих па- раметрів, а дослідження нечітких класифікаторів дасть можливість оцінити їх потенціал на практиці. Важливо зазначити, що роль експерта дуже важли- ва на всіх етапах розробки алгоритму класифікації зображень: при аналізі вхідної інформації про ознаки об’єктів (формуванні навчаючої вибірки), в процесі навчання, при розробці та дослідженні методів нечіткої класифікації об’єктів, визначенні практичної доцільності результатів, а також кінцевої мети роботи. МЕТА РОЗРОБКИ НЕЙРО-НЕЧІТКОЇ МОДЕЛІ На рис. 1 наведено приклад найбільш поширеної абстрактної моделі класи- фікації зображень. Ця модель складається із трьох частин: датчика, форму- вача ознак та класифікатора. Датчик фіксує зображення та перетворює його до виду, зручного для подальшої обробки. Отримане ЕО зображення з камери передається до формувача ознак, ціль якого зменшити об’єм даних за допомогою визначених конкретних ознак або властивостей об’єктів. Формувач ознак (також називається рецеп- тором, фільтром засобів, детектором) виділяє з вихідних ЕО зображень ко- рисну інформацію. Далі ознаки подаються на класифікатор, що використо- вується для оцінки даних і прийняття остаточного рішення відповідно до виду отриманої інформації [1]. Основною метою роботи є класифікація об’єктів ЕО зображень з неви- значеними параметрами та ознаками. До факторів, які спричинюють невизначеність, можна віднести: а) шум сенсора електрооптичної системи, що впливає на якість зображення; б) од- номірність ознак, за якими і класифікуються об’єкти, що в результаті при- зводить до неточної їх класифікації; в) точність калібровки ЕО системи або Рис. 1. Абстрактна модель класифікації зображень І.М. Петросюк, Ю.П. Зайченко ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 112 сенсора; г) архівація та передача даних. Під час архівації та передачі даних частина інформації втрачається. Це також додає невизначеності до ознак зображення. Нечітка логіка та нейронні мережі дозволяють працювати з да- ними, які беруть до уваги усі вищеназвані невизначеності, враховуючи їх при роботі із зображеннями [2]. Найбільш ефективними системами, здатними обробляти багатовимірні вхідні дані та враховувати невизначеність параметрів, є системи з нечіткою логікою та нейронні мережі. Зображення ЕО систем описуються за допомо- гою ознак, які характерні для об’єктів на зображенні: 1) глибина кольору (яскравість пікселей); 2) місце розташування об’єктів на зображенні; 3) вимір текстури об’єктів (статистичні показники пікселей зображення); 4) форма або контур об’єктів. Класифікація ЕО зображень за допомогою нейро-нечітких систем базу- ється на попередньому аналізі інформації про спектральні характеристики (сигнатури) об’єктів, їх статистичні показники (текстури), вірогідні форми. Для формування навчальної вибірки необхідно визначити діапазон зміни усіх можливих ознак регіонів, які притаманні об’єктам на зображенні. На- приклад, для об’єкта синього кольору визначити діапазон зміни ознаки — сигнатури, форми і текстури. Такі озна- ки описують «навчальні пове- рхні» (рис. 2). Еталонами для навчання можуть бути площі, об’єкти різноманітної форми, кольору, текстури, інформація про які вже відома. Група пікселей (кластерів), яка представляє навчальний еталон, записуєть- ся у вигляді нечіткої множини з лінгвістичними термами (наприклад, вода, грунт, каміння). У процесі класифікації нових зображень враховується неви- значеність параметрів ЕО зображення. Після обробки зображення сортуєть- ся у відповідності до критерію відбору. У даній роботі прикладом нечіткості можна вважати такі характеристики: • Зміна освітлення ЕО зображення. При проведенні експерименту зо- браження були отримані за різних умов освітлення (на сході і заході сонця, при дуже яскравому освітленні, похмурому небі, ввечері). Отже, відбитий від поверхні об’єктів сигнал постійно змінювався. • Зміна положення наявних об’єктів ЕО зображення. Кольорові цілі ЕО зображення змінюють своє положення. Отже, неможливо задати лише фіксовані координати об’єкта, які б описували його положення. • Зміна текстури наявних об’єктів. Піна, вода та пісок постійно змі- нюються в часі у залежності від стану спокою води. Рис. 2. Приклад навчальної поверхні C B A C B A C B A A — вода В — грунт С — каміння Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень ... Системні дослідження та інформаційні технології, 2006, № 3 113 • Одномірність ознак об’єктів за текстурою та кольором. Усі об’єкти кольорових цілей мають однакову текстуру при дуже яскравому освітленні. Тому в задачі класифікації при формуванні бази правил доцільно викорис- товувати ваги правил. Вивчення нейро-нечітких класифікаторів дає можливість оцінити поте- нціал та значно поліпшити результати розпізнавання об’єктів, враховуючи неточні та неповні дані про об’єкт. Метою роботи є дослідження та вивчен- ня різних методів нейро-нечіткої класифікації та їх здатності розрізняти та виявляти об’єкти, класи, області на зображеннях ЕО систем в умовах інформаційної невизначеності. Необхідність використання нейро-нечітких систем заснована на спо- стереженнях за їх роботою: 1. У багатьох випадках ЕО зображення характеризуються наявністю невідомих показників. Отже, алгоритми класифікації зі здатністю до на- вчання, засновані на процедурі навчання, обіцяють кращі результати, ніж, наприклад, звичайний Байєсовський класифікатор. 2. Нейро-нечіткі системи використовують процедуру навчання для ви- значення відповідного набору функцій належності. Набір нечітких множин, представлених у вигляді лінгвістичних термів, дає чітке уявлення про влас- тивості об’єктів. 3. Нечіткі системи дозволяють включати апріорні знання у процес кла- сифікації, що дозволяє використовувати досвід експерта. Нейро-нечіткі класифікатори засновано на принципі зорового сприй- няття зображень людини. Колір, текстура та форма — фундаментальні аспе- кти візуального сприйняття об’єктів. Класифікація — розбиття об’єктів на класи або семантичні ознаки. Використовуючи нечітку логіку та нейронні мережі, можна значно поліпшити результат класифікації зображень та на- вчити систему правильно класифікувати об’єкти на зображенні відповідно до надходження нових даних. ОПИС ЕКСПЕРИМЕНТАЛЬНИХ ДАНИХ Входами нейро-нечіткої системи можна назвати лише декілька запропоно- ваних параметрів: спектральні сигнатури об’єктів, їх текстури та форми. Те- кстурою можуть бути статистичні показники пікселей, які повторюються на певному регіоні та мають однакові значення для визначеного об’єкта. Се- редні значення пікселей, дисперсія, ентропія — це лише деякі з характери- стик текстури зображення. Експериментальні дані налічують біля 1000 зображень, одночасно отриманих у чотирьох кольорах: інфрачервоному, червоному, зеленому, синьому. ЕО систему складають чотири сенсори з фільтрами, центрованими на 700 нм у інфрачервоному, 550 нм у зеленому, 480 нм у синьому та 600 нм у червоному діапазонах (рис. 3). Сенсори одночасно знімають зображення поверхні океану з утвореною на поверхні піною. При проведенні експерименту у розробці нейро-нечіткої моделі для класифікації об’єктів різних типів та дослідження роботи моделі було використано квадратні кольорові об’єкти. І.М. Петросюк, Ю.П. Зайченко ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 114 Необхідно дослідити здатність нейро-нечіткої моделі визначати та кла- сифікувати об’єкти невизначеної природи з різними кольорами від фонових об’єктів (піни, води, піску) та адаптувати її до надходження нових даних. При класифікації було обрано 10 класів (об’єкти червоного, зеле- ного, синього, білого, чорного, жов- того кольорів), розташованних на поверхні берега, та об’єкти фону (вода, утворена на поверхні піна, пісок). Для навчання необхідно ви- значити оптимальні ознаки, що ха- рактеризують об’єкти та представи- ти їх входами моделі. Обрані ознаки відповідають сегментам ЕО зобра- ження — об’єктам червоного, зеле- ного, синього, білого, чорного, жов- того кольорів (середній розмір 240 точок). Сегментація ЕО зображення на регіони необхідна для вивчення ін- формації про ознаки об’єктів, які використовуються для формування навча- льної вибірки. Кожен регіон, описаний за допомогою векторних ознак, представлено у вигляді багатовимірної нечіткої множини. Простір ознак описує сигнатури об’єктів, текстуру та форму. Векторній ознаці об’єкта І, тобто нечіткій множині об’єкта G, присвоюється значення ваги — ступеня належності. В результаті, описана векторна ознака належить до декількох регіонів на зображенні, але з різними ступенями належності. Основною ідеєю алгоритму є пошук та класифікація об’єктів ЕО зо- браження за типом цифрових сигнатур (кольором, текстурою) та положен- ням об’єктів серед схожих нових зображень у базі даних відповідно до їх ознак. Проблема такого пошуку полягає в тому, що об’єкти у вибірці нових даних можуть значно відрізнятися за своїми параметрами (кольором, фор- мою, текстурою і т. ін.) у залежності від невизначених параметрів, які впли- вають на ознаки об’єктів на зображенні (наприклад, зміна освітлення, чуттє- вість сенсора тощо). ПОПЕРЕДНЯ ОБРОБКА ВХІДНИХ ДАНИХ ІЗ ВИКОРИСТАННЯМ ЛІНГВІСТИЧНИХ ЗМІННИХ Першим етапом алгоритму є визначення регіонів з об’єктами, інформацію про які необхідно аналізувати та описати за допомогою ознак. Для цього експериментальні дані, що налічують біля 1000 ЕО зображень, необхідно розділити на регіони. Наприклад, об’єктам червоного, зеленого, синього, білого, чорного, жовтого кольорів, розташованим на поверхні берега, фоно- вим зображенням (вода, утворена на поверхні піна, пісок) присвоїти індекс та ім’я. Регіон, що описує певний об’єкт, представлено у вигляді багатови- мірної нечіткої множини G у просторі ознак nI ]1,0[: →n G Iµ , Рис. 3. ЕО зображення, отримане у чоти- рьох кольорах Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень ... Системні дослідження та інформаційні технології, 2006, № 3 115 де nI — простір ознак; n — число просторових ознак. Для кожного вектора ознак nIg ∈ існує значення функції належності ][gGµ , де )( igµ — ступінь належності до нечіткої ознаки G ( ][gGµ знаходиться у діапазоні від 0 до 1). Наприклад, 1 означає, що вектор ознаки g повністю належить обра- ному регіону. Окрім граничних значень, коли ступінь належності G приймає значення від 0 до 1: )0)(( =∈ gGg Gµ до )1)(( =∈ gGg Gµ , ступені належно- сті набувають перехідних значень. Авторами пропонується використовувати ознаки з множиною лінгвіс- тичних термів: },...,,{ 21 aXXX — множина термів для оцінки ознаки X ; Y },...,,{ 21 bYYY — множина термів для оцінки ознаки Y ; },...,,{ 21 cZZZ — множина термів для оцінки ознаки Z (де ZYX ,, — середнє значення яскравості пікселей у червоному, зеленому та синьому діапазонах); Cz— об’єкти ЕО зображення, які необхідно класифікувати за вхідними даними ознак ZYX ,, . Назви для обраних об’єктів: White_t — ціль білого кольору, Red_t — червоного, Black_t — чорного, Green_t — зеленого, Blue_t — синього, Yellow_t — жовтого, Foam — піна, Water — вода, Sand — пі- сок, Wet_sand — мокрий пісок. Для кожної ознаки ZYX ,, об’єктів задамо функції належності з термами — «мале», «більше малого», «середнє», «вище середнього», «високе». Функції належності формуються при роботі з вибіркою змінних зна- чень ознак. При проведенні експерименту всі можливі зміни параметрів оз- нак фіксуються у таблиці, далі проводиться їх статистичний аналіз, при якому обраховується середнє значення та стандартне відхилення параметрів ознак зображення. Однією з головних проблем проектування моделей нечіткого виводу є побудова функції належності та визначення нечітких правил. Найбільш по- ширеними функціями належності є функції належності трикутної та трапе- цієподібної форми, як і Гауссівські функції. Іноді вигляд та форма функцій належності може бути абсолютно довільною. Так, існує декілька стандарт- них функцій належності (рис. 4). Стандартні функції належності легко застосовуються у багатьох зада- чах. Але для задачі опису можливих значень ознак об’єктів ЕО зображення необхідно вибрати більш точну форму функції належності і при цьому визначити кращі результати роботи системи. Z-функція П-функція Λ-функція S-функція Рис. 4. Стандартні функції належності І.М. Петросюк, Ю.П. Зайченко ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 116 Тому використання Гауссівських функцій належності, параметри яких дозволяють змінювати форму функцій у відповідності до їх ступеня належ- ності, можна вважати оптимальним. Невизначеність векторних ознак описується за допомогою Гауссівської функції належності. У роботі використовується проста та зручна для на- стройки аналітична модель функції належності x , ]1,0[→nI 2 1 1)( ⎟ ⎠ ⎞ ⎜ ⎝ ⎛ − + = c bx xF , де nIb∈ , Ic∈ , 0>c — параметри налаштування функції належності ( b — координата максимуму функції; c — коефіцієнт концентрації функції належності), що визначаються як відстань між центрами (середніми значен- нями) нечітких множин у просторі ознак. Отже, регіон, що описує певний об’єкт на ЕО зображенні Aі представ- лений у вигляді нечіткої ознаки iG з функцією належності ]1,0[: →n G I i µ , і визначимо як 2 1 1)( ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ − + = i i G c gg g i µ , де )(gµ — ступінь належності регіону і до нечіткої ознаки G ; c — від- стань між центрами нечітких множин у просторі ознак. Використовуючи функції належності кожен з термів представимо у вигляді нечіткої множини wwQ W Qi i /)(∫= µ , Wwri ∈= ,,1 , наприклад, функції належності для ознаки X : XXU Xi VVX X i /)(∫= µ , XX UVai ∈= ,,1 , де XU — універсальна множина із заданою змінною X . Дані про розподіл кольорів (гістограм) об’єктів — одна з основних ознак ЕО зображення. Для регіону ЕО зображення A розмірністю m на n із кольором ),( jiAr = розподіл кольору (гістограми) G описано як ∑ ∑ − = − = −= 1 0 1 0 ),),((1)( m i n j rjiA nm rG δ Gc∈∀ , де ()δ — одинична імпульсна функція. Таким чином, інформацію про озна- ку об’єкта «сигнатура» описано за допомогою гістограми значень яскравос- тей пікселей. Численна інформація про сигнатуру об’єкта iO приймає зна- чення в інтервалі ]255,0[ . Відповідно до теорії нечітких множин такі значення можна записати в інтервалі ]1,0[ . Ознаки регіону A , що визначають сигнатуру об’єкта, описуються сере- дніми значеннями q розподілу гістограми G та стандартним відхиленням P по усіх чотирьох каналах (рис. 5). Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень ... Системні дослідження та інформаційні технології, 2006, № 3 117 ПОРІВНЯЛЬНИЙ АНАЛІЗ НЕЙРО-НЕЧІТКИХ КЛАСИФІКАТОРІВ Після формування навчаючої вибірки та проведення статистичного аналізу фіксовані численні ознаки сигнатури об’єкта використовуються для побудо- ви функцій належності. Точність класифікації залежить від розрізненості нечітких ознак об’єктів. Тому статистичний аналіз та обчислення коваріа- ційної матриці ознак об’єктів дозволяє визначити, чи не збігаються ознаки у просторі. Після розгляду основної ідеї і алгоритму створення нейро-нечіткої мо- делі проведемо огляд методів побудови нейро-нечітких класифікаторів, які можуть бути використані в основі розробки нейро-нечіткої моделі для кла- сифікації об’єктів багатоканальних ЕО зображень. Прості нечіткі системи з настройкою вагів правил Метод базується на поділенні шаблонів вхідних даних зображення на рівно- розподілений набір функцій належностей. Такий метод характеризується нечіткими множинами з великим набором правил у базі знань. Для кожного правила враховується ступінь впевненості експерта, а ваги правил корегу- ються під час процедури навчання. Метою навчання моделі є оптимальна адаптація функцій належності для того, щоб похибка на виході моделі була мінімальною. Одна з головних проблем при проектуванні нейро-нечіткої системи — правильна побудова функцій належності та визначення нечітких правил. Щоб використовувати системи нечіткої логіки для класифікації ЕО зо- бражень, де входи та виходи моделі приймають реальні значення, найбільш простий шлях — це додавання до системи нечіткої логіки фаззифікатора до входу і дефаззифікатора до виходу. Базова конфігурація системи нечіткої логіки з фаззифікатором та дефаззифікатором показана на рис. 6. Фаззифікатор відображає «чітку» точку (або значення змінної) в не- чіткій множини з X . Дефаззифікатор перетворює нечітку множину з Y в чіткі значення на виході. Базис нечітких правил і механізм нечіткого виводу зостаються такими ж, як і в простих системах нечіткої логіки. Системи не- чіткої логіки з фаззифікатором і дефаззифікатором мають такі привабливі властивості: Рис. 5. Спектральні сигнатури об’єктів у трьох каналах (середнє значення, макси- мум, мінімум, квадратичне відхилення) І.М. Петросюк, Ю.П. Зайченко ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 118 1. Придатні до використання в технічних системах. 2. Дають можливість природного переходу від висновків експерта до нечітких IF-THEN-правил. 3. Дають велику свободу у виборі фаззифікатора, механізму нечіткого виводу та дефаззифікатора, тобто можна створювати на основі нечіткої логіки систему, найбільш ефективну для рішення задачі класифікації. 4. Різні алгоритми настройки нейро-нечітких систем дозволяють ефек- тивно об’єднувати чисельну та лінгвістичну інформацію. Нечітка система ANFIS ANFIS (Adaptive-Network-Based Fuzzy Inference System) — адаптивна мере- жа нечіткого виводу, запропонована Янгом (Jang) на початку 90-х років. Во- на є одним із перших варіантів гибридних нейро-нечітких мереж (нейрон- них мереж прямого розповсюдження сигналу). Архітектура нейро-нечіткої мережі ізоморфна нечіткій базі знань. В нейро-нечітких мережах використо- вуються диференційовані реалізації трикутних норм (множення та вірогідне АБО), а також гладкі функції належності. Це дозволяє використовувати швидкі алгоритми навчання нейронних мереж, які засновані на методі зво- ротного розповсюдження помилки [3]. Входи мережі в окремий шар не виділяються. На рис. 7 зображена ANFIS-мережа з двома вхідними значеннями ( 1x та 2x ) і чотирма нечіткими правилами. Для лінгвістичної оцінки вхідної змінної 1x використовується три терма, для змінної 2x — два. ANFIS реалізує систему нечіткого виводу Сугено у вигляді п’ятишарової нейронної мережі прямого розповсюдження сигналу. Призначення шарів: Рис. 6. Система нечіткої логіки з фаззифікатором і дефаззифікатором Фаззифікатор (Fuzzifier) Механізм нечіткого виводу Xxy ∈)( Базис нечітких правил Нечіткі множини ∈ X Нечіткі множини ∈ Y Дефаззифікатор (Defuzzifier) Xx∈ 1x 2x y Рис. 7. Приклад ANFIS-мережі N N N N П П П П Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень ... Системні дослідження та інформаційні технології, 2006, № 3 119 перший — фаззифікація вхідних змінних; другий — антецеденти (посилки) нечітких правил; третій — нормалізація станів виконання правил; четвертий — вивід правил; п’ятий — агрегування результату нейро-нечіткої системи. Нечітка система NEFCLASS Вперше алгоритм NEFCLASS був запропонований Науком і Крузе у 1994 р. [4]. Алгоритм описано у вигляді загального нечіткого багатошарово- го прецепртона. Застосовується він для моделювання систем типу Мамдані. У процесі навчання використовується помилка навчання та існує можли- вість оперувати нечіткими правилами та множинами. Такий метод зберігає структуру нейронної мережі, але дозволяє інтерпретувати систему за допо- могою нечітких множин. Під час процедури навчання форму та позицію трикутної функції належності адаптовано за допомогою ітераційного проце- су [3]. Метою моделі NEFCLASS (NEuro Fuzzy CLASSifier) є отримання нечітких правил із множини даних, які можна поділити на різні класи. Нечіткі правила описують дані у формі R : якщо jj x∈ε з функцією належ- ності 1µ , nnxx µµ −− ,,22 … , то ознака ( ),,, 21 nxxx … належить до класу i , де nµµ ,...,1 — нечіткі множини. Задача NEFCLASS полягає у тому, щоб ви- значити належність до класу nRC ⊂ вхідної ознаки n n Rxxx ∈= ),...,( 1 . Не- хай перетин двох різних множин є порожнім. Розглянемо більш детально архітектуру моделі NEFCLASS. Система має тришарову послідовну архітектуру. Перший шар 1∪ скла- дається з вхідних нейронів, у яких представлені вхідні ознаки. Активація xa нейрона 1∪∈x зазвичай не змінює вхідного значення. Прихований шар 2∪ складається з нечітких правил, третій шар 3∪ — із вихідних нейронів кожного класу. Активація для нейронів правил 2∪∈R і для нейронів вихідного шару 3∪∈c з ознакою p визначається як )(),(min )()( 1 p XUX p R aRxWa ∈ = , )()( 2 ),( p R UR p c aRCwa ∑ ∈ = або { })(max )()( 2 p RUR p c aa ∈ = , де ),( RxW — нечіткі ваги з’єднання вхідного нейрона х з нейроном правила R , а ),( cRW — нечітка вага з’єднання нейрона правила R з нейроном ви- хідного шару c . Замість операцій максимуму і мінімуму можна відповідно використо- вувати інші функції t -норми та t -конорми. І.М. Петросюк, Ю.П. Зайченко ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 120 База правил представлена апроксимацією невідомої функції →nR:ϕ m}1,0{→ та описує класифікаційну задачу, де ),...,()( 1 mccx =ϕ така, що )},,...,1{(0,1 ijmjcc ji ≠∈== і х належить до класу iC . Нечіткі множини і лінгвістичні правила представляють апроксима- цію та визначають результат роботи системи NEFCLASS (рис. 8). Вони обираються із множини вибірок шляхом навчання системи. Система NEFCLASS може бути настроєна по частковим знанням про ознаки зображення. Користувач по- винен визначити кількість початко- вих нечітких множин та задати зна- чення k — максимальне число вузлів правил, які можуть бути ство- рені в скритому шарі. Для навчання використовуються визначені раніше функції належності. Розглянемо безпосередньо алго- ритм навчання бази правил системи NEFCLASS з n вхідними нейронами max1 ,,..., kkxx n ≤ , нейронами правил та m вихідними нейронами …,1c mc,… . Також задана навчальна множина зразків )},(),...,,{( 11 ss tptpL = . Кожен з них складається із вхід- ного nRp∈ і бажаного mt }1,0{∈ зразків. Навчальний алгоритм, мета якого створити к нейронів правил системи NEFCLASS, складається з таких етапів: 1. Вибираємо наступний зразок ),( tp з L . 2. Для кожного вхідного нейрона 1Uxi ∈ знаходимо таку функцію належності )( p jiµ , що { })(max)( 1,...,1 i i j qj i i j pp ii µµ ∈ = . 3. Якщо, як і раніше, вузлів правил залишилося менше, ніж maxk , і не існує вузла правила R з )()1( 1 ),(,...,),( 1 n jnj n RxWRxW µµ == , то створюємо такий вузол і з’єднуємо його з вихідним вузлом 1c , якщо 11 =t . 4. Якщо ще залишились неопрацьовані зразки в L і maxkk ≤ , то ідемо на крок 1, а інакше стоп. 5. Визначаємо базу правил за однією із трьох процедур: Рис. 8. Система NEFCLASS у вигляді тришарової мережі з двома вхідними нейронами Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень ... Системні дослідження та інформаційні технології, 2006, № 3 121 • Просте навчання правил. Залишаємо тільки перші к правил (зупи- няємо створення правил, якщо було створено maxkk = правил). • Найкраще навчання правил. Обробляємо зразки в L і накопичуємо активації кожного нейрона правил для кожного класу зразків, що були пошире- ні. Якщо нейрон правила R показує більше нагромадження активації для класу jC , чим для RC , який був специфікований для наслідку правила, тоді змі- нюємо наслідок R на jc , тобто з’єднуємо R з нейроном виходу jc . Продо- вжуємо обробку зразків у L далі та обчислюємо для кожного нейрона правил ∑ ∈ = Lp p p RR eaV )( , ⎩ ⎨ ⎧ − = .інакше1 ,правильноанокласифіковякщо,1 p ep Залишаємо k нейронів правил з найвищими значеннями RV і видаляє- мо інші нейрони правил із системи NEFCLASS. • Найкращий для кожного класу алгоритм навчання. Діємо так само, як і в попередньому випадку, але залишаємо для кожного класу jC ті найкращі ⎥⎦ ⎤ ⎢⎣ ⎡ m k правил, наслідки яких представляють клас jC (де ][x — ціла частина від x ). Алгоритм навчання з учителем системи NEFCLASS повинен адаптува- ти нечіткі множини, пробігаючи циклічно через усю навчальну множину L і продовжуючи нижче описані кроки, поки не виконається один із критеріїв зу- пинки. 1. Вибираємо наступний зразок ),( tp з L і поширюємо його через сис- тему NEFCLASS та визначаємо вихідний вектор c . 2. Для кожного вихідного нейрона ic обчислюємо похибку ij cic at −=δ . Для кожного нейрона правил R з 0>Ra : а) обчислюємо ∑ ∈ −= 3 ),()1( Uc cRRR cRWaa δδ ; б) знаходимо таке x′ , що )})(,({min))(,( 1 X UX X aRxWaRxW ∈ ′ =′ ; в) для нечітких множин ),( RxW ′ визначаємо cba δδδ ,, , використову- ючи швидкість навчання 0>σ )(sgn)( baac XRb −−= ′δσδ , bRa ac δδσδ +−−= )( , bRc ac δδσδ +−= )( ; І.М. Петросюк, Ю.П. Зайченко ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 122 г) обчислюємо помилку правила ∑ ∈ −−= 3 )1),(2()1( Uc cRR cRWaaE δ . Як критерії зупинки можна взяти, наприклад, такі: 1. Помилка протягом п ітерацій не зменшується. 2. Припинити навчання після досягнення помилкою визначеного (ба- жано близького до нуля) значення. Нейронна мережа Кохонена Уперше алгоритм був розроблений Мітро. Алгоритм базується на модифі- кованому класифікаторі Кохонена, де вхід змінено для обробки кількох лін- гвістичних термів, які представляють чіткі вхідні дані, а вихід визначають нечіткі рішення у формі функцій належності. Процедура навчання схожа на процедуру навчання мережі Кохонена. Нейронні мережі, що самоорганізу- ються, можуть бути навчені до визначення груп кластерів вхідних векто- рів [3]. На рис. 9 наведено базову структуру вихідного шару нейромережі Ко- хонена. Шар 1 складається з N обробляючих елементів, на кожний з яких по- ступає n вхідних сигналів nxxx ,...,, 21 з нижнього шару, що є прямим пере- давачем сигналів. Входу ix і сигналів ),( ji припишемо вагу ijw . Кожен об- роблений елемент шару Кохонена підраховує вхідну інтенсивність jI у відповідності до формули )( XWDI jj = , де T njjijj wwwW ),...,,( 2= ; ),...,,( 21 nj xxxX = ; )( XWD j — деяка міра (ме- трика) відстані між jW та X . XWXWD j −=)( — евклідова відстань. У 1982 р. Т. Кохонен запропонував ввести у базове правило змагально- го навчання інформацію про розташування нейронів у вихідному шарі. Ней- рони даного шару розташовані у формі решітки і маркеруються векторним w2j w21 w11 w1j w1N wnj Wn1W2N wnN j N zj z1 zN x2x1 xn Шар Кохонена Рис. 9. Базова структура шару Кохонена Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень ... Системні дослідження та інформаційні технології, 2006, № 3 123 індексом ),( 21 iii = . Таке упорядкування природним чином задає відстань між нейронами \|\| ji − . Модифіковане правило змагального навчання Кохо- нена враховує відстань від нейрона-переможця до i -го нейрона. )),(()()()()1( jidWXttWtW jjj Λ−+=+ α , де Λ — функція сусідства, 1)),(( =Λ jid для нейрона-переможця з індек- сом *j і поступово зменшується із збільшенням відстані d , наприклад, за законом 22 /)( Rded −=Λ . Як темп навчання α , так і радіус взаємодії R , поступово зменшуються в процесі навчання, так що на кінцевій стадії навчання ми повертаємося до базового закону адаптації вагів тільки нейронів-переможців .)( kt oeRtR −= У результаті одержуємо не тільки квантування входів, але й упорядко- вуємо вхідну інформацію у вигляді одновимірної або двовимірної топогра- фічної карти Кохонена. На цій сітці кожен багатовимірний вектор має свою координату, причому, чим ближче координати двох векторів на карті, тим ближче вони й у вихідному просторі. Така топографічна карта дає наочне уявлення про структуру даних у багатовимірному просторі, геометрію якого неможливо уявити. Візуалізація багатовимірної інформації є головним застосуванням карт Кохонена. Зручним інструментом візуалізації є класифікація ЕО зображень, ана- логічно тому, як це робиться при візуалізації географічних карт. Кожна ознака ЕО зображення породжує свою класифікацію за величиною серед- нього значення цієї ознаки в даних, що потрапили в осередок. Мережі Кохо- нена, які самонавчаються, широко використовуються для попередньої обро- бки даних при розпізнаванні образів у просторі дуже великої розмірності. ЕКСПЕРИМЕНТАЛЬНІ ДОСЛІДЖЕННЯ Для порівняльного аналізу нейро-нечітких систем необхідно визначити кое- фіцієнт точності класифікації, стандартне відхилення результатів класифі- кації для всіх зображень. З точки зору аналітика ЕО зображень необхідно визначити результати класифікації, які б демонстрували збалансоване від- ношення між точністю (кількістю правильно класифікованих об’єктів) та стандартним відхиленням. Прогноз результатів класифікації ЕО зображень за різними алгоритмами Алгоритм Параметри системи Доля правильної класифікації, % Нечітка нейронна мережа АNFIS Радіус кластера R:=0,8;0,9;1,0 97,33 Нечітка нейронна мережа NEFCLASS Прихований шар нейронів N=10 96,67 Нейронна мережа Кохонена Розмірність мережі 10×10 91,33 І.М. Петросюк, Ю.П. Зайченко ISSN 1681–6048 System Research & Information Technologies, 2006, № 3 124 Після огляду результатів роботи нейро-нечітких систем в задачах кла- сифікації можна стверджувати, що нейро-нечітка мережа ANFIS має здат- ність правильно класифікувати об’єкти ЕО зображення з точністю 97,33% , тоді як система NEFCLASS і нейронна мережа Кохонена виконують роботу з меншою точністю, відповідно 96,67 та 91,33%. Це обумовлено тим, що ме- режа Кохонена не бере до уваги нечіткість параметрів на відміну від мереж ANFIS та NEFCLASS. ВИСНОВКИ Досліджено три нейро-нечіткі системи, які можуть бути застосовані для класифікації ЕО зображень. Усі вони використовують різні методи аналізу та класифікації. Системи нейро-нечіткої класифікації мають переваги у по- рівнянні з іншими методами. 1. Оперують вхідними даними, заданими нечітко. Наприклад, такими, що постійно змінюються в часі і значення яких неможливо задати однознач- но (результати поточних значень показників зображення). 2. Формалізують нечіткі критерії оцінки і порівняння (оперують крите- ріями «більшість», «можливо», «переважно» і т.д. 3. Проводять якісні оцінки вхідних даних та виводять результати кла- сифікації об’єктів, оперують не тільки власними значеннями даних, але й їх ступенем вірогідності та розподілом. 4. Проводять швидке моделювання складних систем та їх порівняльний аналіз. Оперують принципами поведінки системи, описаними нечіткими ме- тодами. Користувач не витрачає багато часу на з’ясування точних значень змінних, складання та розв’язання рівнянь, які їх описують. Після проведення порівняльного аналізу найкращим методом для кла- сифікації ЕО зображень було визнано класифікатор нейро-нечіткої системи ANFIS, тому що коефіцієнт правильного розпізнавання об’єктів у ньому вище 97,33 % у порівнянні з детермінованим класифікатором на основі ней- ронної мережі Кохонена (91,33%). Результати аналізу існуючих нейро- нечітких систем класифікації дають право стверджувати, що нейро-нечіткі системи значно поліпшують результати обробки ЕО зображень та дозволя- ють більш змістовно їх аналізувати та інтерпретувати. ЛІТЕРАТУРА 1. Дуда Р., Харт П. Распознавание образов и анализ сцен. — Киев: Мир, 1976. — 557 с. 2. Петросюк І.М. Інтелектуальні системи для гіперспектральних та мульти- спектральних технологій // НВЧ та оптичні інформаційні технології. — 2004 . — № 1. — С. 22–25. 3. Зайченко Ю.П. Основи проектування інтелектуальних систем. Навчальний по- сібник. — Київ: Cлово, 2004. — 352 с. 4. Nauck D., Kruse R. New learning strategies for NEFCLASS, In Proc. Seventh Inter- national Fuzzy Systems Association World Congress IFSA’97. — Vol. 4. — Praque: Academia, 1997. — P. 50–55. Надійшла 16.12.2005
id	journaliasakpiua-article-165167
institution	System research and information technologies
keywords_txt_mv	keywords
language	Ukrainian
last_indexed	2025-07-17T10:24:38Z
publishDate	2019
publisher	The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute"
record_format	ojs
resource_txt_mv	journaliasakpiua/ce/913632541e541d84347e9023a46985ce.pdf
spelling	journaliasakpiua-article-1651672019-04-23T15:44:17Z Comparative analysis of neuro-fuzzy systems of electrooptical images classification in uncertain environment Сравнительный анализ нейро-нечетких систем классификации электрооптических изображений в условиях информационной неопределенности Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності Petrosyuk, I. M. Zaichenko, Yu. P. A comparative analysis of neuro-fuzzy algorithms is performed and their performance in classification of electrooptical images in an uncertain environment is investigated. Classification algorithms based on Kohonen, ANFIS, NEFCLASS neuro-fuzzy nets have been considered, and their comparison analysis has been conducted. A new method for classification of electrooptical images in the considered class of problems is proposed. Проведен сравнительный анализ нейро-нечетких алгоритмов классификации и исследована их работа для классификации электрооптических изображений в условиях информационной неопределенности. Рассмотрены алгоритмы классификации нейронной сети Кохонена и нечетких нейросетей ANFIS и NEFCLASS. Предложен новый метод классификации электрооптических изображений для данного класса задач. Проведено порівняльний аналіз нейро-нечітких алгоритмів класифікації та досліджено їх роботу для класифікації електрооптичних зображень в умовах інформаційної невизначеності. Розглянуто алгоритми класифікації нейронної мережі Кохонена та нечітких нейромереж ANFIS і NEFCLASS. Запропоновано новий метод класифікації електрооптичних зображень для даного класу задач. The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute" 2019-04-23 Article Article application/pdf https://journal.iasa.kpi.ua/article/view/165167 System research and information technologies; No. 3 (2006); 110-124 Системные исследования и информационные технологии; № 3 (2006); 110-124 Системні дослідження та інформаційні технології; № 3 (2006); 110-124 2308-8893 1681-6048 uk https://journal.iasa.kpi.ua/article/view/165167/164247 Copyright (c) 2021 System research and information technologies
spellingShingle	Petrosyuk, I. M. Zaichenko, Yu. P. Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності
title	Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності
title_alt	Comparative analysis of neuro-fuzzy systems of electrooptical images classification in uncertain environment Сравнительный анализ нейро-нечетких систем классификации электрооптических изображений в условиях информационной неопределенности
title_full	Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності
title_fullStr	Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності
title_full_unstemmed	Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності
title_short	Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності
title_sort	порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності
url	https://journal.iasa.kpi.ua/article/view/165167
work_keys_str_mv	AT petrosyukim comparativeanalysisofneurofuzzysystemsofelectroopticalimagesclassificationinuncertainenvironment AT zaichenkoyup comparativeanalysisofneurofuzzysystemsofelectroopticalimagesclassificationinuncertainenvironment AT petrosyukim sravnitelʹnyjanaliznejronečetkihsistemklassifikaciiélektrooptičeskihizobraženijvusloviâhinformacionnojneopredelennosti AT zaichenkoyup sravnitelʹnyjanaliznejronečetkihsistemklassifikaciiélektrooptičeskihizobraženijvusloviâhinformacionnojneopredelennosti AT petrosyukim porívnâlʹnijanalíznejronečítkihsistemklasifíkacííelektrooptičnihzobraženʹvumovahínformacíjnoíneviznačeností AT zaichenkoyup porívnâlʹnijanalíznejronečítkihsistemklasifíkacííelektrooptičnihzobraženʹvumovahínformacíjnoíneviznačeností

Порівняльний аналіз нейро-нечітких систем класифікації електрооптичних зображень в умовах інформаційної невизначеності

Institution

Ähnliche Einträge