Решение на такава задача от мозъка може да бъде обработката на информация от обикновеното зрение (human vision). Във функциите на зрителната
Изтегляне 1.78 Mb. Pdf просмотр
|
Свързани:
Kniga uchitel IT 6. klas Даниела Убенова (1), Kniga uchitel IT 8. klas Даниела Убенова, elektronno-obuchenie
- Навигация на страницата:
- 2. Обучение основано на корекция на грешките За да илюстрираме първото правило на обучението ще разгледаме прост случай на неврона к
| Глава ІІ: Процеси на обучение 1. Въведение Най-важното свойство на невронните мрежи е способността им да се обучават (learn) на основата на данните от околната среда и в резултат на обучението да повишат своята производителност. Повишаването на производителността протича в течение на времето в съответствие с определени правила. Обучението на невронните мрежи протича посредством интерактивен процес на корекция на синаптическите тегла и прагове. В идеалният случай невронните мрежи получават знания от околната среда на всяка итерация в процеса на обучение. С понятието обучение се асоциират много видове действия, затова е много сложно да се определи еднозначно. Процеса на обучение зависи от неговата гледна точка. Обучение – това е процес, в който свободните параметри на невронната мрежа се настройват посредством моделирана среда в която е построена тази мрежа. Типа на обучението се определя от способа на построяване на тези параметри. Това определение за процеса на обучение предполага следната последователност на събития: 1. В невронната мрежа постъпват стимули от външната среда. 2. В резулта на което се изменят свободните параметри на невронната мрежа. 3. След изменение на външната структура на невронната мрежжа тя отговаря на възбуждането вече по друг начин. Тези правила се наричат алгоритъм за обучение (learning algorithm). Съществува набор от средства представени от множеството на алгоритъма на обучение, всяко от които има своето достойнство. Алгоритмите за обучение се отличават един от друг по способността на нарастване на синаптическите тегла на неврона и връзките на обучените неврони с външната среда. В този контекст се определят парадигмите на обучение (learning paradigm) свързани с моделите на околната среда, в която функционират данните на невронната мрежа. 2. Обучение основано на корекция на грешките За да илюстрираме първото правило на обучението ще разгледаме прост случай на неврона к – единственият изчислителен възел на изходният слой на невронната мрежа за пряко разпространение (фигура 2.1а.). Неврона к работи под управлението на вектора сигнал x(n) произвеждащт един или няколко скрити слоя на невроните, които получават информацията от входният вектор (възбуждане) предава на началните възли (на входният слой) на невронните мрежи. Под n се разбира дискретно време (или) номер на стъпката на интерактивният процес на настройване на синаптическите тегла на неврова к. Изходният сигнал (output signal) на неврона к се обозначава с . Този сигнал се явява единствен на изхода на невронните мрежи. Той ще бъда сравняван с желания изход (desired response), обозначен с . В резултат се получава сигнал за гнешка (error signal) 38 Сигналът за грешка инициализира механизмът за управление (control mechanism), чиято задача е да използва последователностите на корекциите на синаптическите тегла на неврона к. Тези изменения са насочени на стъпково приближаване на изходният сигнал към желания . Тази цел се постига за сметка на минимизации на функциите от стойности (instantaneous value of the error energy) или индекса на производителност (performance index) , определен в термините на сигналите за грешки изглежда така: Където е текущата стойност на грешки на енергията (instantaneous value of the error energy). Стъпковото коректиране на синаптическите тегла на неврона к се продължава докато системата нe постигне устойчиво състояние (steady state) (такова при което синаптическите тегла практически се стабилизират). В тази точка процеса на обучение се спира. Процесът, описан по горе се нарича обучение, основано на корекция на грешките. Минимизацията на функциите от стойности се изпълнява по т.нар делта – правило, или правило на Видро – Хоф. Обозначаваме с текущата стойност на синаптическите тегла на неврона к съответстващи на елементите от вектора x(n) на стъка на дискретизация n. В съответствие с делта-правилото на изменение ……. се прилага към синаптическото тегло на ……. на тази стъпка на дискретизация изразена чрез формулата се пресмята по следния начин: 39 Фиг.2.1. Обучение основано на корекция на грешките където е някоя положителна константа определяща скоростта на обучение (rate of learning) използвана при прехода от една стъпка към друга. От формула 2.3. се вижда, че тази константа може да се нарече параметър на скоростта на обучение (learning rate parameter). Делта правилото може да се определи по следният начин: корекцията която приема синаптическото тегло на неврона е пропорционална на произведението от сигналите от грешките на входният сигнал и изходния. Определеното по този начин правило дава възможност за пряко измерване (direct measure) на сигнала за грешка. За обезпечаване на такова измерване е нужно да настъпи желания резулта от някой външен източник непосредствено достъпен за неврона к, т.е. неврона к трябва да е видим (visible) за външния свят (фиг. 2.1,а). На фигурата се вижда, че обучението основано на корекция на грешки по своята природа е локално (local). То показва, че корекцията на синаптическите тегла по делта-правилото може да бъде локализирано в отделния неврон к. Изчислявайки величината на изменение на синаптическото тегло можем да определим нова стойност на следващата стъпка на дискретизация 40 Тези образи могат да се определят като стара и нова стойност на синаптическото тегло . В математически вид може да бъде записано: Където е оператор за единично задържане (unit delay operator). Нарича се още елемент на паметта (storage element). На фиг. 2.1,б е представен граф на протичане на сигнала в процеса на обучението обоснован на корекция на грешките за отделен неврон к. Входният сигнал и индукционното локално поле на неврона к се представят във вид на предсинаптически (presynaptic) и постсинаптически (postsynaptic) сигнали на j-те синапси на неврона к. На фигурата се вижда, че обучението основано на корекция на грешките е пример за затворена система с обратна връзка (closed-loop feedback). Изтегляне 1.78 Mb. Сподели с приятели:
|