12 1)
Функция единичен скок или прагова функция (threshold function) – този тип функция е показана на фиг. 1.8 а). и се описва от следващият израз:
В техническата литература тази форма на функцията единичен
скок обикновено се нарича функция на Хевсайт (Heaviside function). Съответният изходен сигнал на неврона
к на тази функция може да бъде представен чрез:
Където
- индукционно
локално поле на неврона, т.е.
Този модел в литературата се нарича
модел на Мак – Каллока – Питца (McCalloch-Pitts model). В този модел входният сигнал на неврона приема стойност 1 ако индукционното локално поле на този показател не е отрицателен и 0 – в противен случай.
13
Фиг.1.8. Вид активационна функция: а) функция единичен скок, б)допирателно-
линейна функция, в) сигмоидеална функция за различни стойности на параметъра а.
2)
Допирателна-линейна функция (piecewice-linear function). Допирателната- линейна функция показана на фиг. 1.8 б. се описва от следващият израз.
Където коефициента на усилване в линейните области на оператора предполага еднакви стойности. Тази активна функция може да се разглежда като
апроксимационен (approximation)
нелинеен усилвател . Следващите два варианта могат да се смятат за особена форма на допирателна линейна функция.
- Ако линейната област на оператора не достига прага на насищане той се превръща в линеен суматор.
14
- Ако коефициента на усилване на линейната област се приеме за безкрайно голям то допирателната – линейна функция се изражда в прагова.
3)
Сигмоидеална функция (sigmoid function) – графиката на сигмоидеалната функция напомня буквата S. Тя е една от най-разпространените функции използвани за създаване на изкуствени невронни мрежи. Тази бързонарастваща функция поддържа баланс между линейно и нелинейно поведение. Пример за сигмоидеална функция може да бъде
логическата функция (logistic function),
изразена чрез Където
а е параметър на наклонена сигмоидеална функция. Изменяйки този параметър можем да построим функция с различна кривина (фиг. 1.8,
в.). Първата графика съответства на величината на параметъра равна на
а/4. В границите когато параметъра а на наклона достига до безкрайност сигмаидеалната функция се изражда в прагова. Ако праговата функция може да приема стойности 0 и 1, то сигмоидеалната функция приема безкрайно множество от стойности в интервала от 0 до 1. При това сигмоидеалната функция се явява диференцируема, а в същото време праговата – не.
Областта от стойностите на функциите на активация определени от формули (1.8),
(1.11) и (1.12) представлява отрязък от 0 до +1. Понякога се изисква функцията за активация да има област от стойности от -1 до +1. В такива случай функцията е симетрична относно началото на координатната система.
Това значи, че функцията на активация се явява нечетна функция на индукционното локално поле. В частност праговата функция може да се отредели от израза:
Тази функция се нарича
сигнум. В даденият случай сигмоидеалната функция ще бъде във формата на
хиперболически тангенс Сподели с приятели: