ТЕХНИЧЕСКИ УНИВЕРСИТЕТ –...

32
ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯ ФАКУЛТЕТ ПО ТЕЛЕКОМУНИКАЦИИ КАТЕДРА ”КОМУНИКАЦИОННИ МРЕЖИ” маг. инж. Васил Александров Щерев Адаптивни методи за гарантиране на оптимални параметри на телекомуникационни канали А В Т О Р Е Ф Е Р А Т на дисертация за присъждане на образователна и научна степен „ДОКТОР” по научна специалност „Комуникационни системи и мрежи” Научни ръководители: проф. д-р инж. Георги Любенов Илиев доц. д-р инж. Александър Костадинов Ценов Рецензенти: доц. д-р инж. Илия Георгиев Илиев доц. дн инж. Олег Димитров Асенов София, 2015

Transcript of ТЕХНИЧЕСКИ УНИВЕРСИТЕТ –...

Page 1: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯ ФАКУЛТЕТ ПО ТЕЛЕКОМУНИКАЦИИ

КАТЕДРА ”КОМУНИКАЦИОННИ МРЕЖИ”

маг. инж. Васил Александров Щерев

Адаптивни методи за гарантиране

на оптимални параметри на телекомуникационни канали

А В Т О Р Е Ф Е Р А Т на дисертация

за присъждане на образователна и научна степен „ДОКТОР”

по научна специалност „Комуникационни системи и мрежи”

Научни ръководители: проф. д-р инж. Георги Любенов Илиев

доц. д-р инж. Александър Костадинов Ценов

Рецензенти: доц. д-р инж. Илия Георгиев Илиев доц. дн инж. Олег Димитров Асенов

София, 2015

Page 2: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

Дисертационният труд е обсъден и предложен за защита на заседание на Разширен Катедрен съвет на катедра „Комуникационни мрежи” към Факултет по Телекомуникации при ТУ-София, проведено на 24.11.2014 г. (Протокол № 3).

Защитата на дисертационния труд ще се състои на открито заседание

пред научно жури, назначено от ректора на ТУ-София, на 18.03.2015 г. от 17:30 ч. в зала 2140 на ТУ-София.

Материалите по защитата са на разположение на заинтересованите в

секретариата на ФТК, бл. 1, ст. 1439-Б и на Интернет страницата на Технически университет - София.

Авторефератът е публикуван на сайта „Развитие на академичния състав на

ТУ-София”. Автор: маг. инж. Васил Александров Щерев Тема: „Адаптивни методи за гарантиране на оптимални параметри на

телекомуникационни канали” Тираж: 50 броя Издателство на ТУ-София

Page 3: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

1

I. ОБЩА ХАРАКТЕРИСТИКА НА ДИСЕРТАЦИОННИЯ ТРУД

Актуалност на проблема Една изключително бързо развиваща се област в съвременните комуникационни системи е

технологията на познавателните радио мрежи (Cognitive Radio Networks – CRN), стремяща се да оползотвори така ограничения и оскъден ресурс – радио интерфейса. От историческа гледна точка безжичният канал за връзка се използва от разнородни по характер и природа системи повече от век, което го превръща в много високо ценен канал за връзка. За разлика от другите видове телекомуникационни среди, в този вид се наблюдават особени и силно специфични ефекти, които трябва да се отчитат от използващите го системи. Друга отличителна черта на тази среда е нейната споделеност между всички способни да я използват. В отделните етапи от развитието на техниката последователно са били изобретени все по-ефективни и съвършени средства за комуникация, използващи общия споделен между всички потребители неразделен ресурс – радио интерфейса.

Това определя изключителния интерес към решаването на основните проблеми, свързани с възможно най-ефективната употреба на ефира, както от гледна точка на операторите на мрежи, така и за клиентите (абонатите), които може да са други взаимно свързани мрежи. Твърдението се потвърждава от огромния брой научни и практически разработки в тази област, публикувани през последните няколко години. Освен това вижданията относно бъдещите комуникации, както и перспективите за тяхното развитие, се обсъждат ежегодно на научни конференции и сбирки, в които активно участват фирми, научни и правителствени организации. Тези форуми, провеждащи се в цял свят, са отворени за всички желаещи, които активно могат да се включат в решаване, както на настоящите, така и на бъдещите проблеми и задачи, пред които ще се изправят телекомуникационните системи на бъдещето.

Една от основните задачи, стоящи за разрешаване пред научните среди и индустрията, е гарантиране на оптимално използване на телекомуникационни канали, като е доказана целесъобразността от прилагането на адаптивни методи и средства, които се „приспособяват” както към текущите (на момента), така и към сравнително по-дългосрочни промени в този род канали. Това би позволило максимално ефективно използване на ресурса на една комуникационна мрежа.

Такива адаптивни инструменти са невронните мрежи и методите за тяхното обучаване за изпълнение на конкретни класове задачи.

Невронните мрежи намират все по-широко приложение в съвременните електронни системи, които са неразделна част от нашето ежедневие и бит. Първоначално замислени като електронна имитация на процесите в човешкия мозък, те бързо се налагат в три области: предвиждане (прогнозиране), регресия (интерполиране на функции) и групиране в т.нар. клъстъри (области). Безапелационното им предимство в тези три области се потвърждава от многобройните изследвания и проучвания проведени през последните години. Когато става въпрос за проблем, касаещ някоя от споменатите вече три области от всички алтернативи, изследователите акцентират върху изчислителния механизъм, базиран на структурите на невронни мрежи, поради отличните резултати и сравнително ниска сложност при реализация.

В дисертацията са разгледани системите за машинно (електронно) предсказване на времеви процеси и поредици в системите с когнитивно радио, като основно се акцентира върху възможностите за предсказване на поведението на потоците от заявки за заемане на канални ресурси.

В първа глава са показани концепциите, довели до поява на термина познавателни радио мрежи (CRN), както и основните функционалности, които трябва да притежава една такава комуникационна мрежа. Това от своя страна е и мотивация за провеждане на изследване върху

Page 4: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

2

структури, подобряващи ефективността на работа на този вид комуникационни системи. В главата е извършен критичен анализ на голям брой научни и научно-приложни трудове в предметната област на настоящия дисертационен труд.

Във втора глава е предложен функционален модел на телекомуникационна система с предсказване, отговаряща на споменатите по-горе характеристики, както и класификация на алгоритми за маршрутизиране и сканиране на електромагнитния спектър.

В трета глава са представени резултати от проведения сравнителен анализ на определен брой изследвани структури на невронни мрежи при различни видове постъпващ трафик в системата. От така получените резултати, на база обективни критерии, са „отсяти” най-подходящите за този вид приложение – повишаване на ефективността на използване на комуникационни ресурси, адаптируеми структури.

След вземане предвид предизвикателствата на последното (с днешна дата) поколение безжични системи (5G-generation), са проведени още „по-детайлни” изследвания, целящи определяне на най-удачната от всички изследвани структури, както и оценка на нейната функционална пригодност. Това е направено в четвърта глава.

Цел и задачи

Целта на дисертационния труд е да се моделират, реализират и изследват адаптивни

методи и подходи за гарантиране на оптимални параметри на телекомуникационни канали. Задачите, които произтичат от така дефинираната цел, са: 1. Да се направи сравнителен анализ на структури, подходящи за предсказване на времеви

серии (поредици) и процеси – да се изследва и сравни производителността на предложените структури чрез недвусмислена метрика;

2. Да се предложи критерий за подбор, съгласно който изследваните структури могат да се класифицират като подходящи за конкретното комуникационно приложение;

3. Да се създаде функционален модел на изграждане на връзка (повикване) в телекому-никационна мрежа с отчитане особеностите на радио интерфейса като преносна среда;

4. Да се изследват предложените методи и алгоритми в безжични комуникационни мрежи.

Публикации по дисертацията Във връзка с дисертационния труд са направени 7 научни публикации, една от тях на

международна конференция, 5 на национални конференции с международно участие, една в национално научно списание.

Структура и обем на дисертационния труд

Изложението на дисертационния труд е оформено в четири глави и съдържа 117 страници,

45 фигури, 8 таблици и 6 математически израза. Използвани са 146 литературни източника.

Page 5: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

3

II. СЪДЪРЖАНИЕ НА ДИСЕРТАЦИОННИЯ ТРУД

ГЛАВА 1. СЪСТОЯНИЕ НА ПРОБЛЕМА ПРИ ПОЗНАВАТЕЛНОТО РАДИО И СИСТЕМИ ЗА ПРЕДСКАЗВАНЕ

1.1 Обзор на развитието и проблемите при системи за автоматично предсказване на

времеви процеси Понастоящем съществува огромно разнообразие от системи за машинно предсказване на

времеви серии от събития. През последните няколко десетилетия, широко разпространение добиха изкуствените невронни мрежи, накратко наричани невронни мрежи (НМ). Тази инвазия може лесно да бъде обяснена като се вземат предвид няколко уникални признака, отличаващи НМ. Въпреки множеството изследвания и фундаментални трудове по темата, последователен и цялостно завършен всеобхватен проект все още няма. Това се обуславя от естеството на проблемите, които изискват архитектура, отговаряща на многобройни и различни по характер въпроси.

Много фактори допринасят за противоречивите оценки за работоспособността на НМ. Една от основните е, че при проектиране на НМ трябва да се определят голям брой моделиращи параметри. Това е причина, дори и при най-актуални задачи, проектантите да използват в основата си евристични решения и дори (интуитивни) решения „на момента”. Така пълният потенциал на НМ остава неизползван.

Стандартно за предсказване на времеви серии се използват статистически методи. Пример за подобен метод е ARIMA (autoregressive integrated moving average), изразяващ се в търсене на средно претеглена стойност от предходни отчети. Съществуват и други специализирани или широкообхватни статистически методи за предсказване, но обществото, занимаващо се с тази тематика, е изцяло завладяно от непълно разкритите възможности на НМ. При сравнение на двата вида техники похватите за приложение на НМ се отличават със следните специфични характеристики:

– да бъде нелинеен и едновременно с това да се управлява от данните, с които работи; – няма изисквания за ясно формулиран модел; – изключително гъвкав и универсален, което го прави приложим за много сложни модели

(става дума за похвата). Поради фактите, изброени по-горе, НМ се разглеждат от експертите като многообещаваща

технология за предсказване на времеви серии от събития. За последните две десетилетия изследванията в тази област са няколко хиляди, като те обхващат широк кръг от приложения. Освен това голям брой емпирични изследвания показват много по-добра производителност (относно предсказване) на НМ спрямо статистическите методи. Когато се постави и изискване групата от отчети да е малка, превъзходството е още по-явно. Все пак трябва да се отбележи, че има и трудове, доказващи обратното твърдение. Направено е изследване, което сравнява модели на НМ с линейни авторегресионни (autoregressive) модели. В основата на това проучване са 24 времеви серии, представляващи годишните промени по месеци на промишленото производство в три европейски държави. Резултатите недвусмислено сочат, че линейните модели се справят по-добре от НМ. Друго изследване се базира на серия от 296 последователни тримесечия, които показват отчета на приходите за съответните периоди. Предимството отново е на страната на линейните модели.

Когато се отчитат тези резултати, трябва да се отбележи че става въпрос за специфична област на приложение, което неминуемо води до особени времеви поредици. Според автора на настоящия труд, тези примери е по-правилно да се разглеждат като изключения, потвърждаващи основното правило, а не да се търси резон в линейната детерминираност като алтернатива на НМ.

Page 6: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

4

1.2 Обзор на идеите залегнали зад термина „познавателно/когнитивно радио” (CR – Cognitive radio)

При по-внимателно „вглеждане” в наличния спектър на развитите градове ще открием следната постановка:

– някои честотни ленти от спектъра са свободни в изключително голяма част от времето; – друга част от лентите са частично заети; – останалата част от спектъра е „претъпкана” и се експлоатира в изключително тежки

условия. Причините за настоящото положение на нещата се дължат основно на големи корпорации,

имащи възможността да заплатят висока цена за ресурс, който използват изключително рядко. Същото важи и за военните телекомуникационни системи, които се характеризират с висока степен на резервираност. Друга причина е, че днешните безжични мрежи се характеризират с политика, възлагаща фиксиран спектър определен на „наемателите” за дълъг период от време на различни по размер области. В момента инженерното общество, занимаващо се с тези проблеми, вярва, че има начин за по-ефективно и оптимално използване на честотния ресурс. Когато се споменава ефективно и/или оптимално използване на даден ресурс, се вземат предвид и останалите аспекти на една цялостно завършена система, взаимодействаща с околната среда. Колкото повече странични фактори и въздействия се отчитат и колкото „по-фин” и детайлен е моделът, толкова повече параметри могат да се оптимизират (включително и с различни тегла). На практика, действителността ни поставя редица физични ограничения и не винаги е подходящо и възможно да се следи и въздейства по толкова много различни параметри. Всъщност, излишната подробност е възможно да повлияе отрицателно на точността. В [A.3] е предложен ефективен алгоритъм, базиран на текущата измерена стойност на BER. Тази входна стойност управлява (съгласно заложената логика) три параметъра на безжична комуникационна система, както е показано на фиг. 1.1 (ниво на излъчената мощност, вид на конволюционния код и модулация).

Така представения алгоритъм за управление (фиг. 1.1) представлява фонов процес, който се стартира при иницииране на комуникационна сесия (с участие на устройството, на което се изпълнява) и приключва при някое от следните обстоятелства: край на сесията (при нормални условия) или прекъсване на връзката независимо от факторите, стоящи зад това действие (изчерпване на захранващата батерия, излизане от стоя на терминала и др.).

Този алгоритъм използва всички възможни комбинации от модулации, конволюционни кодове и нива на излъчена мощност.

Хайкин предлага следната дефиниция за CR: „интелигентна безжична комуникационна система, която може да усеща заобикалящата я среда (в т.ч. планетата земя) и същевременно използва методология за изучаване и разбиране на околната среда. Тя адаптира своите вътрешни състояния към статистическите промени на входните радио-честотни стимули, като прави съответни промени на определени параметри (излъчвана мощност, носеща честота, стратегия при модулация и др.) в реално време с две главни цели в съзнанието си:

- високо надеждни комуникации, независимо кога и къде са нужни; - ефективно използване на радиоспектъра”. Едно от логичните следствия от подобни дефиниции е поява на концепция за идеално CR

(iCR), което помни всичко и постоянно добавя нови знания, в допълнение на вече придобитите, чрез съпоставяне на опита срещу неговата собствена опитна база.

Page 7: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

5

Фиг. 1.1. Алгоритъм за управление на излъчената мощност,

конволюционен код и вида модулация [A.3]

ГЛАВА 2. МОДЕЛ НА ПРОЦЕСА НА ЗАЕМАНЕ НА ТЕЛЕКОМУНИКАЦИОННИЯ КАНАЛ

На фиг. 2.4 е представена идеята за динамичен достъп до спектъра, както и опортюнис-

тичното използване на спектъра от вторични потребители. 2.3 Модел на функционалност на достъп и управление на безжични комуникационни

мрежи – use case диаграма Фиг. 2.5 изобразява два вида действащи лица – оператор и клиент. Операторът има връзки

(наречени още комуникационни асоциации) с различни случаи на установени практики (use cases).

Page 8: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

6

Фиг. 2.4. Концепция за динамичен достъп до спектъра

Фиг. 2.5. Use case диаграма на безжична система [A.2]

Page 9: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

7

2.5 Модел на обмен на информация между структурните елементи на системата За описание на потока от съобщения в UML се използва диаграма на последователности

(sequence diagram). В настоящата диаграма на последователности се разглеждат предаваните съобщения от момента на пускане на системата (от оператора) до установяване на пожелана от потребителя сесия. Онагледяване на тази последователност е показана на фиг. 2.7.

2.6 Общ модел на управление Един от възможните обобщени (концептуални) модели на управление на различни параметри

в телекомуникационна мрежа е илюстриран на фиг. 2.8.

Фиг. 2.7. Диаграма на последователности, изобразяваща първоначално стартиране на

системата и започване на нова сесия инициирана от потребителя [A.2]. Диаграмата приключва при успешно стартиране на сесията

Моделът представен на фиг. 2.8, съчетава работата на невронна мрежа и евристичен алго-

ритъм. В случая се разчита, че при неудовлетворителни резултати (произтичащи от управлението на НМ) на изхода, евристичният алгоритъм ще „сработи”, защото той следи и постъпващата информация на входа на системата. При несъответствие алгоритъмът предлага варианти за донастройване на теглата на невронната мрежа, като за успешен ход може да се счита връщане в нормални граници (стойности) на следените параметри. Изборът на конкретен евристичен алгоритъм зависи от броя на наблюдаваните и манипулирани параметри, изчислителната сложност, времето за реакция и т.н. Трябва да се има предвид, че всеки подобен алгоритъм има своите ограничения (например броя на следените параметри, „разсейване” на решенията, време за откриване на „по-добри” решения, скорост на сходимост на решенията, брой итерации, брой състояния и т.н.), при надхвърляне на които става неефективен.

Page 10: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

8

Фиг. 2.8. Концепция на съвместна работа на невронна мрежа и евристичен алгоритъм [A.5]

В така представената концепция евристичният (метод) алгоритъм може да е всеки един от

добре познатите: генетичен алгоритъм, симулативно закаляване, оптимизация с реактивно търсене, tabu search, ant colony clustering и други методи, които се явяват модификация на вече съществуващи или композиция от няколко метода.

2.8 Приноси към втора глава 1. Предложен е модел на функционалност на достъп и управление на безжична комуника-

ционна мрежа, представящ връзките между потребител, оператор и безжична система (фиг. 2.5). 2. Предложен е модел на структурните елементи на функционирането на безжична комуни-

кационна мрежа, представящ връзките и асоциациите между отделните абстрактни класове. 3. Предложен е протокол на обмен на информация между структурните елементи на

безжична комуникационна система, който разглежда всички необходими съобщения (с техните параметри), необходими за изграждане на връзка и започване на потребителска сесия (фиг. 2.7).

4. Предложен е обобщен модел за управление на телекомуникационна мрежа (фиг. 2.8).

Page 11: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

9

ГЛАВА 3. ИЗСЛЕДВАНЕ НА ЗАВИСИМОСТТА НА СРЕДНОКВАДРАТИЧНАТА ГРЕШКА ОТ ВИДОВЕТЕ КОМУНИКАЦИОННИ СЕСИИ

3.1 Общи положения и допускания в експеримента В настоящия труд са изследвани 30 „обучаващи” се схеми, базирани на изкуствени НМ,

целящи да намерят решението на проблеми (задачи), свързани с втора фаза от познавателния цикъл – оценка на канала и предсказване. Постигнатото може да се формулира така: дава се предположение кога безжичния телекомуникационен канал, ползван от PU, ще бъде свободен или зает в зависимост от типа трафик, генериран от основните потребители. В предположението се взема предвид наскоро „доловената” информация, както и предишен опит и знания. В случай на идеално предвиждане – грешката клони към нула. Предложените за предсказване обучаващи се схеми може ефективно да охарактеризират заетостта на канала за връзка по отношение на фактори от околната среда и параметри, свързани с конфигурациите. Като резултат, предложените и изследвани схеми, могат да облекчат познавателния терминал при избора на най-добро решение, относно конфигурацията, в която той желае да работи. Резултатите сочат, че използването на НМ, които имат силно изразено „вродено” свойство да се обучават, класифицират и предсказват (като същевременно тяхната сложност е скрита), могат да облекчат проблемите, свързани с опти-мизирането на голямо количество настройваеми параметри в CR системи и мрежи, при следните условия.

- Налични са подходящи трениращи входни последователности. - Съществува постоянно повтарящ се процес, който отчита грешката и изпробва актуалната

конфигурация. Илюстрация на механизма на работа на познавателния цикъл е дадена на фиг. 3.1. Главната цел на проучването е да се определи структурата на най-подходящата (даваща най-

точно предсказване) НМ измежду всички 30 изследвани адаптивни архитектури. Критериите при избор на най-уместна структура са разгледани подробно във втората половина на изследването.

За реализиране на целта са поставени и изпълнени следните задачи. - Генерирани са 18 псевдослучайни последователности (6 с нормално (гаусово) разпреде-

ление, 6 с експоненциално и още 6 с равномерно разпределение). - Всеки вид разпределение се изследва с две стойности на основния параметър, който го ха-

рактеризира, като това е λ при отрицателно експоненциално разпределение; ϭ при нормално и стойността на вероятността при фиксирана начална абцисна стойност на равномерно разпре-деление. Така се образуват групи от по три поредици – две за валидиране на резултатите и една за трениране (обучение) с еднакви стохастични параметри. В резултат на този подбор се получават 6 „главни стохастични” групи.

- За симулационна среда е използван програмният продукт “MATLAB®” на MathWorks версия 2009а (March 2009) с 6-та версия на специализирания пакет (toolbox) за симулация на НМ “Neural Network Toolbox TM 6”. Метриката MSE (mean square error), с която се отчита грешката, се изчислява на база разликата между реалната стойност t(i) и предвидената от НМ стойност a(i) (където i е поредния номер на предсказания отчет). Така (1) представя математично изражението на квадратния корен на средно-квадратичната грешка, наричана за краткост само средно-квадратична грешка.

(1)

m

i

iaitm

MSE1

2))()((1 ,

където m представя броя на отчетите в последователностите от всяка група, която трябва да бъде предсказана (m = 600). Нужно е да се добави още едно уточнение. Отделните структури съдържат от 4 до 20 закъснителни елемента, което означава че структура с 8 закъснителни елемента ще започне да предсказва поредицата от 9-я отчет нататък. Друга характерна особеност е при

Page 12: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

10

ползване на различна метрика, която може малко да промени получените резултати, но като цяло относителните разлики между отделните структури се запазват.

Фиг. 3.1. Опростено представяне на внедряването на интелигентност

в едно от звената на познавателното радио и познавателния механизъм [A.6] В настоящия труд са разгледани 30 структури на НМ. Изборът е фокусиран върху FTDNN

структури, заради предимства, като:

Page 13: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

11

– лесно обучение (алгоритъмът е сравнително прост и същевременно ефективен); – ясно дефинирана структура, която е мащабируема; – изключително добри резултати за представляваната изчислителна сложност. Броят на 30-те структури е естествено следствие от комбиниране на различен брой закъс-

нителни елементи (4, 8 и 20), брой скрити слоеве в отделните структури (1, 2 и 4) и брой на нев-роните в отделните слоеве. В общия случай, използване на повече от един скрит слой е излишно. Случаите на обучение, в които се налага употреба на два скрити слоя, са функции, които не са непрекъснати. Все пак с оглед на по-обширен кръгозор в настоящото изследване са разгледани случаи на структури с 4 скрити слоя. В табл. 3.1 са представени структурите на изследваните НМ и съответстващият им индекс (номера от 1 до 30, които символизират типа мрежа).

Табл. 3.1 Съответствие на вида невронна мрежа и нейния

номер в експеримента 1 2 3 4 5 6 7 8 9 10

3N 4D 3N 8D 3N 20D 5N 4D 5N 8D 5N 20D 8N 4D 8N 8D 8N 20D 11N 4D11 12 13 14 15 16 17 18 19 20

11N 8D 11N 20D 15N 4D 15N 8D 15N 20D 20N 4D 20N 8D 20N 20D 3=3N 4D 3=3N 8D21 22 23 24 25

3=3N 20D 8=8N 4D 8=8N 8D 8=8N 20D 20=20N 4D26 27 28 29 30

20=20N 8D 20=20N 20D 13=13=13=13N 4D 13=13=13=13N 8D 13=13=13=13N 20D 3.3 Гаусово разпределение (девиация 8 и 20 секунди) Формулата, чрез която са генерирани отчетите на гаусовото разпределение, е представена с

уравнение (2).

(2) 2

2

2

)(

2

21),;(

x

exf ,

където: x – е времевата ос и представя дължината на времеинтервала (дименсията е секунди); μ – средна (очаквана) стойност. В настоящото разглеждане μ = 100[sec]; e – неперово число (2,718281…); π – лудолфово число (3,14159…); ϭ – девиация, която заема две стойности за всяка група (8 и 20 секунди, съответно).

Табл. 3.2 MSE за трениращата и валидиращи последователности при гаусово

разпределение с девиация = 8 секунди [A.7] Девиация НМ номер 1 2 3 … 24 … 29 30

8 sigma MSE_train[s] 8,03 7,83 8,03 … 4,39 … 8,04 4,10E-14 8 sigma MSE_val1[s] 8,14 8,37 7,89 … 6,67 … 7,99 16,76 8 sigma MSE_val2[s] 7,98 7,82 8,09 … 8,78 … 8,12 9,61

С индекса „MSE_train” са обозначени грешките, достигнати при трениране на НМ. При този

режим на работа мрежата настройва теглата между отделните неврони, в съответствие с избраната процедура (правило) за обучение. Тази методика се нарича „правило на обратното разпространение” (backpropagation rule), заради посоката на изменение на теглата (между невроните) във функция от грешката. Работните точки (bias) и теглата се настройват в съответствие с алгоритъма на Levenberg-Marquardt. Този алгоритъм е избран, защото при равни други условия се изпълнява най-бързо в средата на MATLAB (оптимизиран е специално за тази цел). Средното време за изпълнение на алгоритъма е повече от 4 пъти по-малко, в сравнение с

Page 14: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

12

втория по бързина алгоритъм. Не случайно той е сред най-разпространените при мрежи от типа FTDNN.

Критерии за прекратяване процеса на обучение е достигане на някое от следните условия: - достигане на максималния брой епохи при обучение (избрана е стойност 50 итерации); - изчерпване на лимита от време. В нашия случай е зададена стойност по подразбиране

"безкрайност" (няма лимит); - грешката е минимизирана до целевата "нула" (0) с уточнението, че в настоящото

разглеждане тази и следващите стойности са възприети по подразбиране; - градиентът на грешката е под зададения праг (10-10); - настройваемият параметър на Marquardt да достигне максималната си стойност (1010). С индекса „MSEval” е представена средноквадратичната грешка в „работно” състояние.

Валидиращите поредици са две, защото така се добива по-ясна представа за производителността на НМ.

Минималната грешка за първа валидираща последователност (MSEval1) при нормално разпределение с малка девиация (8 секунди) е 6,667 за НМ номер 24. Минимална MSEval2 за същото разпределение е 6,97 за структура номер 17.

За сравнение на производителността при отделните структури НМ се изчислява и абсолютната разлика между грешките, постигнати при трениране и валидиране. Това изследване показва доколко НМ са успели да се „пригодят” за режим на работа, както и тяхната степен на обобщаване в реални условия. Фиг. 3.3 показва тази разлика за нормално разпределение с девиация 8 секунди. Минимална стойност на |MSEtrn-MSEval1| е 0,02 за 4-та НМ, докато |MSEtrn-MSEval2| е 0,01 за 2-ра НМ.

Впечатление прави силното сходство между двете фигури, като коефициента на корелация се равнява на 0,9533.

В табл. 3.3 са показани стойностите на средноквадратичната грешка (MSE) за трениращите и валидиращи последователности при гаусово разпределение с девиация = 20 секунди.

При нарастване на девиацията на 20 секунди най-малка MSEval1 е 19,66 за НМ 12. Минимум MSEval2 при тези условия е 20,46 за НМ 30. Отново се забелязва висока степен на корелация (0,9893) между двете фигури, подробно описана в [A.7].

Фиг. 3.3. Абсолютна грешка между трениращата и валидиращи поредици при гаусово

разпределение с девиация = 8 секунди [A.7]

Page 15: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

13

Табл. 3.3 MSE за трениращата и валидиращи последователности при гаусово разпределение с девиация = 20 секунди [A.7]

Девиация НМ номер 1 2 3 … 24 … 29 30 20 sigma MSE_train[s] 19,33 19,01 17,44 … 19,4 … 1,24 19,42 20 sigma MSE_val1[s] 20,03 20,65 21,92 … 19,99 … 54,57 20,2 20 sigma MSE_val2[s] 21,01 21,25 22,7 … 20,72 … 57,96 20,46

Фиг. 3.7. Абсолютна грешка между трениращата и валидиращи поредици при гаусово

разпределение с девиация =20 секунди [A.7] 3.4 Отрицателно експоненциално разпределение (параметър λ-1 = 80 и 100 секунди) Уравнение (3) показва формулата, с която се генерира поредица, представяща отрицателно

експоненциално разпределение

(3)

.0,0,0,

);(xxe

xfx

Където: λ – е стойността реципрочна на средната. Така изследваните стойности за λ са 100 и 80 секунди. Останалите символи имат същото значение както в уравнение (1).

Табл. 3.4 показва стойностите на средноквадратичната грешка за трениращите и валидиращи последователности при отрицателно експоненциално разпределение с параметър 1 = 80 [s].

Табл. 3.4 MSE за трениращата и валидиращи последователности при гаусово при отрицателно експоненциално разпределение с параметър λ-1 = 80 секунди [A.6]

НМ номер 1 2 3 … 24 … 29 30 exp 80 MSE_train[s] 81,25 77,97 79,91 … 40,68 … 14,44 3,35E+01 exp 80 MSE_val1[s] 77,89 84,1 80,57 … 277,9 … 280,71 133,58 exp 80 MSE_val2[s] 73,75 76,34 74,89 … 326,8 … 263,62 123,49 Стойностите на грешките нарастват значително както за това, така и за следващите разпре-

деления, но това е нормално, вземайки предвид факта, че те са със значително по-голям „хаотичен” параметър. Минималните стойности на MSEval1 и MSEval2 при отрицателно експо-ненциално разпределение ( 1 = 80 секунди) са 77,89 и 73,37 за 1 и 19 НМ.

Абсолютната разлика между трениращи и валидиращи последователности за отрицателно

Page 16: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

14

експоненциално разпределение със средна стойност 80 секунди е показана на фиг. 3.9. Мини-мумът на |MSEtrn-MSEval1| е 0,6 за НМ 5, като НМ 3 има резултат 0,66. За |MSEtrn-MSEval2| най-добър резултат е 0,44 за НМ 4.

Отново се забелязва значително ниво на корелация (0,9923) между графиките, изобразени на фигурите.

Фиг. 3.9. Абсолютната разлика между трениращи и валидиращи последователности за

отрицателно експоненциално разпределение със средна стойност 80 секунди [A.6] В табл. 3.5 са показани стойностите на средноквадратичната грешка за трениращите и

валидиращи последователности при отрицателно експоненциално разпределение със средна стойност 1 = 100 секунди.

Табл. 3.5 MSE за трениращата и валидиращи последователности при гаусово при

отрицателно експоненциално разпределение с параметър λ-1 = 100 секунди [A.6] НМ номер 1 2 3 … 24 … 29 30 exp 100 MSE_train[s] 98,78 96,66 98,24 … 101,4 … 46 9,72E+00 exp 100 MSE_val1[s] 102,54 118,72 105,38 … 102,5 … 199,33 266,75 exp 100 MSE_val2[s] 97,27 102,66 101,69 … 96,65 … 193,79 291,01

С нарастване на 1 на 100 секунди най-добри MSEval1 и MSEval2 са 102,5 и 96,65 за 24

структура. Фиг. 3.13 показва абсолютната разлика между трениращи и валидиращи последователности

за отрицателно експоненциално разпределение със средна стойност 100 секунди. Тук най-добри резултати за |MSEtrn-MSEval1| и |MSEtrn-MSEval2| са 1,1 и 0,41 за НМ 6 и НМ 24. И в този случай се наблюдава корелация (0,9572) между двете графики. Разпределенията разгледани дотук са представени в [A.6].

3.5 Равномерно разпределение (средна стойност 80 и 100 секунди) Уравнение (4) изразява последното разгледано разпределение, което представя равномерна

вероятност в желан интервал (правоъгълно разпределение).

(4)

).,(),(,0

,,1),;(

bax

bxaabbaxf

Page 17: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

15

Където: a е стойността по абсцисата x, от която започва генериране на случайни отчети. В изследванията a = 0, защото се допуска незначително кратко заемане на канала за връзка от PU; b е стойността по абсцисата x, до която се генерират равномерни случайни отчети (b > a). Дименсиите на a и b са еднакви с размерността на x – секунди. За нуждите на проучването b приема две стойности: 200 и 160 секунди, защото при условие че a е фиксирано (a = 0), то b/2 се явява средна стойност. Най-общо може да се каже, че този вид разпределение е най-тежък за предсказване.

Фиг. 3.13. Абсолютната разлика между трениращи и валидиращи последователности за

отрицателно експоненциално разпределение със средна стойност 100 секунди [A.6] В табл. 3.6 са представени стойностите на средноквадратичната грешка за трениращите и

валидиращи последователности при равномерно разпределение от 0 до 200 секунди. Минимумът на MSEval1 и MSEval2 е 147,53 и 142,96 отново за 24 структура. Абсолютната разлика между трениращи и валидиращи последователности за равномерно

разпределение (от 0 до 200 секунди) е показана на фиг. 3.15. Минимална стойност на |MSEtrn-MSEval1| при 100 секунди средна стойност е за НМ 14

(0,5582). Най-добър резултат за |MSEtrn-MSEval2| постига структура 21 с 0,0539. С малки изключения (структура 29), сходството между двете графики е голямо (коефициент на корелация 0,6373).

Табл. 3.6 MSE за трениращата и валидиращи последователности при равномерно

разпределение със средна стойност 100 секунди НМ номер 1 2 3 … 24 … 29 30

uniform 200 MSE_train[s] 150,457 146,565 181,738 … 208,804 … 185,188 1,99E+02

uniform 200 MSE_val1[s] 157,423 208,889 147,321 … 147,537 … 149,2825 183,357

uniform 200 MSE_val2[s] 147,370 184,274 207,507 … 142,966 … 162,668 163,220

В табл. 3.7 са показани стойностите на средноквадратичната грешка за трениращите и

валидиращи последователности при равномерно разпределение със средна стойност 80 секунди.

Page 18: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

16

Фиг. 3.15. Абсолютната разлика между трениращи и валидиращи последователности за

равномерно разпределение със средна стойност 100 секунди Когато средната стойност на разпределението е 80 секунди, минимална MSEval1 е 97,29 за

четвърта структура, докато MSEval2 е 96,16 за 21-а НМ. За равномерно разпределение в интервал от 0 до 160 секунди минимална стойност на

|MSEtrn-MSEval1| е 0,0451 за НМ 13. Най-добър резултат за |MSEtrn-MSEval2| е 0,87 за НМ 24. Това е илюстрирано на фиг. 3.17. Коефициентът на корелация между графиките заема стойност от едва 0,3985.

Трябва да се подчертае, че голяма част от НМ постигат близки резултати в една от двете или и в двете валидиращи последователности, въпреки различните структури. Впечатление правят и някои огромни грешки (като 635,83 за 9-а НМ (MSEval1 за експоненциално разпределение със 100 секунди средна стойност). Има и други подобни резултати за MSEval над 500.

Табл. 3.7 MSE за трениращата и валидиращи последователности при равномерно

разпределение със средна стойност 100 секунди НМ номер 1 2 3 … 24 … 29 30 uniform 160 MSE_train[s] 168,275 154,488 165,468 … 156,898 … 137,445 1,70E+02 uniform 160 MSE_val1[s] 169,76 152,279 167,734 … 167,373 … 177,09 208,622 uniform 160 MSE_val2[s] 139,343 162,315 143,801 … 136,161 … 201,14 146,730

Фиг. 3.17. Абсолютната разлика между трениращи и валидиращи последователности за

равномерно разпределение със средна стойност 80 секунди

Page 19: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

17

3.6 Деградация на изследваните структури В този раздел ще бъде разгледана деградацията на НМ структурите. Това е изключително

важен параметър, защото показва количественото влошаване на работоспособността при пос-тъпване на данни с по-големи отклонения от средната стойност (стохастичният момент е по-ви-сок). Идеологично, в граничен случай на нарастване на девиацията (при нормално разпределение) и средната стойност (при експоненциална дистрибуция), разпределенията клонят към равномерно (в интервала от 0 до ∞). Дясната гранична стойност в такава ситуация не устройва настоящите разглеждания по ред причини (огромни грешки, практически (и физически) невъзможна реали–зация и т.н.). Поради тези причини, са разгледани по два максимално близки до реалността варианта на всеки вид разпределение.

На фиг. 3.18 са представени четирите графики, илюстриращи стойността на деградация за нормално разпределение.

При експоненциално разпределение (фиг. 3.19) най-добър резултат за случай 1, 2, 3 и 4 показва НМ 6 с 0,4363; 0,434; 0,4164 и 0,4146.

Фиг. 3.18. Ниво на деградация на изследваните структури при нормално разпределение [A.7]

На фиг. 3.20 е илюстрирана стойността на деградация за равномерно разпределение. За

случай 1 (фиг. 3.20 а) най-добър резултат демонстрира НМ 27 (1,0907), докато за случай 2 (фиг. 3.20 б), НМ 5 (1,1355). Минимални резултати за последните два случая 3 и 4 имат НМ 8 (1,1994) –(фиг. 3.20 в) и НМ 5 (1,2107) – (фиг. 3.20 г), съответно.

Page 20: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

18

Фиг. 3.19. Ниво на деградация на изследваните структури при експоненциално разпределение [A.6]

3.8 Приноси към трета глава 1. Мотивирано е избран критерий за подбор на структури на невронна мрежа, дефиниран е

експеримент, изследвани са 30 различни структури на невронни мрежи, съдържащи различен брой неврони, слоеве и закъснителни елементи (табл. 3.1).

2. За постъпващи входни данни на модела са подадени три характерни за приложението на изследването вида плътности на разпределения, като всяко вероятностно разпределение заема две стойности на своя специфичен параметър (формула (2), (3), и (4)).

3. Получени са и са анализирани резултати за избрания критерий, проведена е допълнителна обработка. Изведени са съждения относно приложимостта на голяма част от изследваните структури невронни мрежи, като възможно средство за прогнозиране в бъдещите телекому-никационни мрежи (фиг. 3.3; 3.7; 3.9; 3.13; 3.15 и 3.17).

4. На база на получените систематизирани резултати беше осъществено изследване върху поведението на избраните структури при промяна на поведението (стохастичността) на входните данни, т.нар. деградация (фиг. 3.18, 3.19 и 3.20).

Page 21: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

19

Фиг. 3.20. Ниво на деградация на изследваните структури при равномерно разпределение

ГЛАВА 4. ИЗСЛЕДВАНЕ НА СТРУКТУРИ НА НЕВРОННИ МРЕЖИ

ЗА ЦЕЛИТЕ НА БЪДЕЩИТЕ КОМУНИКАЦИИ В [A.4] е разгледан и модел на НМ, предназначен да управлява безжичен възел, като

параметрите, на които се въздейства, са: критичния праг на изходящия буфер, скоростта на конволюционния код и вида на модулацията. Входните данни, чрез които се следи за състоянието, в което се намира комуникационния възел, са нивото на запълване на входящия и изходен буфер, BER и текущата битова скорост на канала (фиг. 4.2).

Друг модел на невронна мрежа с два скрити слоя и закъснителни линии е представен на фиг. 4.3. Фигурата илюстрира и шаблоните, с които архитектурата се захранва [A.1]. Индексът “n” показва поредния номер на съответния параметър.

Стойностите, които заема TC (time coefficient – времеви коефициент), са представени в уравнение (5):

(5) )exp(..1 tTCkTC tn

tn ,

където: k – коефициент, който флуктуира в зависимост от качеството на канала (зависи от t); t – времето между два последователни отчета.

Page 22: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

20

Фиг. 4.2. Илюстративна архитектура на невронна мрежа управляваща

безжичен комуникационен възел [A.4]

Фиг. 4.3. Модел на невронна мрежа подпомагаща избора на оптимална конфигурация

за предаване във радио интерфейс [A.1]

Page 23: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

21

Чрез уравнение (5) се „внедрява” зависимост, при която по-новите (актуални) отчети играят по-важна роля от предходните. Тази зависимост има резон, защото по-новите отчети са непосредствено свързани със състоянието на системата (отразяват по-точна информация).

За обезпечаване на нормалната работоспособност на единицата комуникационен възел, невронна мрежа, е необходим алгоритъм, който следи нивата и стойностите на параметрите, които се наблюдават и на които се въздейства. На фиг. 4.4 е представен такъв обобщен алгоритъм, който може да следи произволен брой входни и изходни параметри [A.4].

Фиг. 4.4. Обобщен алгоритъм на работа на невронна мрежа,

управляваща безжичен комуникационен възел [A.4] 4.2 Класиране на изследваните структури съгласно обективни критерии

и анализ на резултатите След направения разбор в трета глава, за определяне на „победител(и)” се прави класиране

на всички НМ съгласно следните правила, според които се решава дали структурата преодолява съответният кръг (рунд):

- следи се грешката (MSEtrain,MSEval1/2) дали е по-малка от удвоените специфични за разпределението параметри 2ϭ, 2λ-1, 2b (условието при равномерно разпределение е 4 пъти средната стойност);

- определя се праг за абсолютната грешка |MSEtrain-MSEval1/2|, равен на стойността на специфичните за разпределението параметри ϭ, λ-1, b (за определящ параметър на равномерно разпределение се счита b);

Page 24: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

22

- решава се според стойността на деградацията, която трябва да е по-малка от 1,5 пъти отношението на двете стойности на специфичните параметри (това е 150% от отношението на 20/8 за ϭ, 100/80 за λ-1 и 200/160 за b).

Всяка от 30-те НМ трябва да отговаря (стойността да е по-малка) на всяко от общо 42 условия. След сортиране, остават шест НМ „победители” от първи кръг. Това са НМ с номера: 1, 2, 10, 13, 16 и 24 (НМ 10 няма най-добър резултат в нито едно сравнение).

Тъй като целта на труда е свързана с гарантиране на оптимални параметри на телеко-муникационни канали за последващо сравнение на тези 6 НМ, се изследва още един параметър, чиято големина може да се адаптира (в зависимост от изискванията на системата за процент гарантиран достъп до канала за връзка).

Недостатък при измерване чрез средно квадратична грешка е липсата на информация за знака на грешката. В реална комуникационна система това може да окаже силно негативно влияние в работата на безжични терминали: 10 секунди по-рано или по-късно превключване на съответен канал (спрямо момента на неговото освобождаване от PU) може да е причина за недопустима интерференция, причинена от SU, който се опитва да достъпи канала за връзка; 10 секунди преди PU да го е освободил (според сегашните протоколи за достъп, това е недопустимо –невъзможно), защото SU сканира съответната честотна лента преди да я използва опортюнис-тично. В другия случай SU ще заеме канала за връзка 10 секунди след освобождаването му от PU. Общото в двата случая е, че средноквадратичната грешка е еднаква по стойност.

С цел определяне вероятността за сигурен достъп, се дефинира „защитно време” параметър (времеинтервал), който се добавя към предсказаната стойност, за да бъде по-гарантирано свободен канала за връзка. Трябва да се отбележи, че обратно на този параметър може да се въведе и неговата отрицателна стойност с идея да сканираме по-рано съответния канал, с цел да се губи по-малко време докато той не се използва. В настоящото разглеждане се приема, че целта е в уречения момент на сканиране, каналът да е свободен без оглед на (евентуално) изпуснатите възможности. За оценка на гаранцията (вероятността) защитният времеинтервал (времето, който се добавя към предсказаната стойност) заема 7 стойности: 0 (нищо не се добавя), 5, 10, 15, 20, 25 и 30 секунди. Плътността на разпределение на времеинтервалите, в които PU ползват съответния канал(и) е по-тежкия (по-стохастичен) от двата случая за всеки тип разпределение (ϭ = 20 сек; λ-1 = 100 сек; b = 200 сек).

На фиг. 4.5 е показано процентното разпределение на отрицателните времеинтервали във функция от „защитното време” при нормално вероятностно разпределение. Нормално е при липса на „защитно време” (началото на абсцисната ос – 0 секунди) вероятността да е близо до 50%, поради факта че НМ се опитват да предскажат точния момент на освобождаване на канала от PU (вероятността за положителна или отрицателна грешка е равна). При нарастване на стойността, добавяна към грешката, средната стойност се измества към все по-положителни нива. Впечатление правят ниските стойности на вероятността за отрицателни времеинтервали на НМ 24. Изключение от това представяне има за стойности на защитното време от 0 до 5 секунди.

На фиг. 4.6 е илюстрирано същото изследване, но за отрицателно експоненциално разпределение. Отново НМ 24 има предимство (с малки изключения), по отношение на гарантиране на канала за стойности по-високи от 10 секунди. При сравнение с фиг. 4.5 прави впечатление, че с нарастване на стойността по абсцисната ос, вероятността за отрицателен времеинтервал спада по-бавно. Това е нормално предвид плътността на разпределението (случайността е значително по-голяма).

На фиг. 4.7 е показано процентното разпределение на отрицателните времеинтервали при равномерно вероятностно разпределение. Характерът на кривите, в общи линии, е сходен с тези от фиг. 4.6 (наклонът е по-плавен, отколкото при нормално разпределение), като в същото време разпределението е оказало влияние в спецификата на кривите. Макар и с малко НМ 24 отново демонстрира леко предимство, спрямо останалите НМ при защитен времеинтервал, по-голям от 10 сек (все пак при защитно време 20 секунди, нейният резултат е четвърти).

Page 25: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

23

Фиг. 4.5. Зависимост на вероятността за отрицателен времеинтервал

спрямо „защитно време” при нормално разпределение

Фиг. 4.6. Зависимост на вероятността за отрицателен времеинтервал

спрямо „защитно време” при отрицателно експоненциално разпределение

Page 26: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

24

Фиг. 4.7. Зависимост на вероятността за отрицателен времеинтервал

спрямо „защитно време” при равномерно разпределение

Критерий за определяне на най-подходяща структура е минимална стойност на общия сбор на вероятностите за отрицателен времеинтервал във функция от защитното време (фиг. 4.8).

Фиг. 4.8. Общ сбор на вероятностите за отрицателен времеинтервал

за шестте изследвани структури

Page 27: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

25

Стойността е най-ниска за НМ 24, следвана от НМ 16 и НМ 1, като последните две имат много близък резултат (разлика от порядъка на 1 промил). На фиг. 4.9 е представена и хистограма на класирането (според заетото място) спрямо другите архитектури, за всяка стойност на гарантиращия параметър (защитно време). Най-много първи места (12) е заела НМ 24, докато второто място е заемано най-често от НМ 16 (шест пъти) и т.н.

Фиг. 4.9. Хистограма на класирането на НМ спрямо другите изследвани структури

На фиг. 4.10 е илюстрирано представянето на НМ 24 за трите вероятностни разпределения

(нормално, експоненциално и равномерно) във функция от защитното време.

Фиг. 4.10. Сравнение на представянето на НМ 24 за трите вероятностни разпределения

Page 28: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

26

Трябва да се отбележи, че колкото по-голям времеинтервал добавяме под формата на защитно време, средноквадратичната грешка също нараства (при това с по-високи темпове). На фиг. 4.11 са показани две времеви поредици. Едната е от реалните стойности, които трябва да бъдат предвидени (равномерно разпределение b = 200 секунди), а другата е предсказаната стой-ност, но с прибавен защитен времеинтервал от 30 секунди. При такава настройка НМ 24 достига до само 22,6% отрицателни стойности, което е най-добро постижение за това разпределение. Предсказването започва от 21 отчет, защото НМ 24 има 20 закъснителни елемента.

Фиг. 4.11. Времеви поредици на реална стойност и предсказана стойност

с добавен защитен интервал от 30 секунди Структурата на НМ 24 е илюстрирана на фиг. 4.12.

Фиг. 4.12. Структура на НМ 24, която е победител в изследването,

според критериите представени в настоящата глава

Page 29: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

27

На нея са представени теглата между j-тия и k-тия слой; p – номер на неврона (закъснителния елемент за невроните от първия скрит слой), от който произлиза съответната връзка; r – номер на неврона, към който е насочена връзката. С ai+1 е представена предсказаната стойност, докато с ti-n са отбелязани отчетите, на които се базира изчислената (предсказана) стойност.

4.4 Приноси към четвърта глава 1. Всички 30 структури, изследвани в трета глава, са подложени на тест, при който се

проверява годността им за използване в комуникационни мрежи (точка 4.2), като структурите преминали успешно теста са подложени на последваща проверка, целяща да се излъчи победител за специфичните нужди на изследването.

2. Предложен е обобщен алгоритъм на работа на различни архитектури НМ, управляващи комуникационен възел (фиг. 4.4) и способстващи за ефективно използване на телекомуни-кационните канали – алгоритъмът е независим от избраната архитектура на НМ, което го прави универсален.

3. На база сравнителен анализ е избрана структура на невронна мрежа победител, която е възможно най-подходяща (от всички изследвани), за предсказване на активност на първични потребители (фиг. 4.5; 4.6; 4.7 и 4.8), което е и основната задача в тази глава.

Page 30: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

28

III. ЗАКЛЮЧЕНИЕ И ОСНОВНИ ПРИНОСИ Дисертацията е посветена на изследване и разработване на адаптивни методи за гарантиране

на оптимални параметри на телекомуникационни канали. Целта е постигната чрез задълбочен анализ на експерименталните резултати и производителността на различни структури на невронни мрежи, директно приложими в познавателните радио мрежи. В заключение може да се обобщи, че тематиката на дисертацията е актуална и дефинираната в първа глава цел е постигната, като:

1. Изследвани са 30 различни структури на невронни мрежи (табл. 3.1) по отношение на способността им да подпомагат вземането на решение при познавателния радио цикъл в една от неговите части, наречена познавателен механизъм (cognitive engine). Избраните 30 структури не могат да обхванат всички възможни FTDNN реализации, но представляват достатъчно представителна извадка от този тип архитектури. Техният избор е съобразен и с възможността за физическа реализация в реално устройство.

2. Изследвана е средно квадратичната грешка в зависимост от вида структура при предс-казване на различни по вид и характер входни потоци (формули (2), (3) и (4)) и таблици 3.2; 3.3; 3.4; 3.5; 3.6 и 3.7. Това сравнение има за цел да даде обективна количествена оценка на резул-татите от проведения експеримент.

3. Изследвано е нивото на „деградация” при еднакъв по характер входящ поток, но с различни статистически характеристики (параметри), които го описват – девиация при гаусово разпределение (фиг. 3.18), средна стойност при отрицателно експоненциално разпределение (фиг. 3.19) и равномерно разпределение (фиг. 3.20). Проучването на деградацията е важно от практическа гледна точка, защото при работата на подобна реална система обработваните данни имат силно изразен стохастичен характер, а не стационарен, както се предполага в отделните допускания.

4. Изследвана е вероятността за отрицателен времеинтервал спрямо т.нар. „защитно време” при различните входящи потоци – нормално разпределение (фиг. 4.5), отрицателно експонен-циално разпределение (фиг. 4.6) и равномерно разпределение (фиг. 4.7). Изследването е проведено само за структурите, които отговарят на описаните в четвърта глава критерии (точка 4.2). Това изследване е естествено следствие от нуждата от надеждни комуникации, при които вероятността за откриване на свободна честотна лента трябва да се максимизира.

5. Чрез детайлно систематизиране и анализиране на резултатите е определена най-подходящата от изследваните структури на невронни мрежи за нуждите на познавателните радио мрежи и по-специално познавателния механизъм (фиг. 4.8 и фиг. 4.9). След достатъчно количество тестове на производителността и получените близки резултати, е проведен обобщен тест за излъчване на НМ победител, който с цялостното си представяне по отношение на взимане на решение при познавателния радио цикъл се явява най-добрият претендент.

6. Предложен е модел на функционалност на достъп и управление на безжична кому-никационна мрежа – UML use case диаграма, разглеждаща връзките между потребител, оператор и безжична система (фиг. 2.5). Този модел може да послужи за основа при разработване на нови подходи за управление и мениджмънт в мрежите от следващо поколение.

7. Предложен е модел на структурните елементи на функционирането на безжична кому-никационна мрежа – UML диаграма на класовете, представяща връзките и отношенията между отделните абстрактни класове (фиг. 2.6). Моделът е отворен към разширения, така че да обхване класове и от конвенционални проводни комуникационни мрежи.

8. Предложен е модел на обмен на информация между структурните елементи на безжична комуникационна система – UML диаграма на последователности, която разглежда всички необходими съобщения (с техните параметри), необходими за изграждане на връзка и започване на потребителска сесия (фиг. 2.7). Представянето на диаграмата на последователностите цели да покаже възможните направления за повишаване на ефективността при протоколите за предаване на информация (служебна и потребителска). Насоките за усъвършенстване са: формата и броя на съобщенията; броя на възлите обменящи съобщения; процедурите по автентикация; контрол и т.н.

Page 31: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

29

IV. СПИСЪК С ПУБЛИКАЦИИ ПО ТЕМАТА НА ДИСЕРТАЦИЯТА

[А.1] V. Shterev, ”Functional Model of an Adaptive System for Parameter Optimization in Wireless

Communication Channels” – Telecom 2011, pp. 181-188.

[А.2] V. Shterev, G. Iliev, „Functional model of algorithms for optimal data transmission over air

interface” – Proceedings of papers vol. 1, ICEST 2010, Ohrid, Macedonia, pp. 65-68.

[А.3] V. Shterev, „Advanced algorithm for adaptive modulation and coding”, Telecom 2010, pp.

63-70; награда за най-добре представен самостоятелен доклад от млад автор.

[А.4] А. Ценов, В. Щерев, „Средства за управление на комуникационни мрежи” –

Електроника 2010, 273-278.

[А.5] A. Tsenov, V. Shterev, “Models of adaptive control on parameters of telecommunication

channels” – Telecom 2009, pp. 147-152.

[А.6] V. Shterev, A. Tsenov, G. Iliev, “Performance evaluation of adaptive systems for prediction

in cognitive radio networks”, Electrotechnica & Electronica, 3-4 2013, pp. 10-17.

[А.7] В. Щерев, “Адаптивна система за предсказване на активност на основни потребители в

познавателни радио мрежи” – младежка конференция с мреждународно участие, 2012, НТС,

София, pp. 115-120.

По тематиката на дисертационния труд е работено в рамките на 4 научно-изследователски

договора към ТУ-София:

- Договор № 091 НИ 108 -07/2009г. тема: «Разработване на прототип на мениджър на

комуникационни услуги»;

- Договор № 091 НИ 116 -07/2009г. тема: «Разработване на методи и средства за управление

на нивото на обслужване в IT системи»;

- Договор № 102 НИ 191 -07/2011г. тема: «Изследване на адаптивни методи за гарантиране

на качеството на обслужване в комуникационни мрежи»;

- Договор № 112 ПД 013 -07/2011г. тема: «Симулационно изследване на адаптивна система

за определяне на оптимални параметри на безжични комуникационни канали».

Page 32: ТЕХНИЧЕСКИ УНИВЕРСИТЕТ – СОФИЯkonkursi-as.tu-sofia.bg/doks/SF_FTK/ns/200/avtoreferat.pdf · София, 2015 . ... радио интерфейса. Това

30

TECHNICAL UNIVERSITY – SOFIA FACULTY OF TELECOMMUNICATIONS

DEPARTMENT OF COMMUNICATION NETWORKS

Eng. Vasil Aleksandrov Stherev

ADAPTIVE METHODS FOR GUARANTEEING OF

OPTIMAL PARAMETERS IN TELECOMMUNICATION CHANNELS

The main subject of this thesis is the research and development of adaptive methods

to guarantee optimal parameters in telecommunication channels.

Abstract:

Telecommunication channels and especially wireless channels raise numerous

challenges for researchers in this area. Modern trends in the field of radio access and

wireless networks (5G) are to use algorithms based on artificial intelligence who take the

decisions leading to optimal use of the available portion of spectrum bands. Cognitive

radio (CR) is a promising concept and a step towards integrating an artificial intelligence

in our everyday routine. One of the most important stages in CR algorithms is the

cognition cycle. A software package, called cognitive radio engine does the planning of

spectrum bands usage. This engine consists of three main parts: knowledge base,

reasoning and learning. One of the most promising computation techniques for a learning

engine are the Neural networks (NN).

In this work 30 Feed-Forward Time Delay Neural Networks (FFTDNN) structures

are compared and tuned to optimally predict primary user activity in various CR network

conditions. In order to properly define the performance criteria and compare these

computational structures, a detailed examination is done. A guard interval is introduced in

the experimental environment to find the best performing NN structure.