83
Където е функция на изчисляване на знака на аргумента. Предполагаме, за някое число
N, за което е
нужно да се намерят N точки, за които е необходимо да се построи разбиването. Това се удовлетворява от функцията
, където
Така се разделят точките на данните на два класа, определени последователно
Параметъра
а се
определя от формулата От това можем да заключим, че VC-измерването на семейства от функции-индикатори с единствен свободен параметър
а е равно на безкрайност.
Важност на VC-измерването и неговата оценка VC-измерването се
явява сбор от комбинирани понятия (combination concept) и не е свързано с геометричното понятие измерване. То играе централна роля в теорията на статистическото обучение. VC-измерването е важно и от конструктивна гледна точка. Образно количеството примери, необходими за обучение на системата от данни на някой клас е строго пропорционално на изменението на VC-измерването на този клас.
В някои случаи VC-измерването определя свободните параметри на невроните мрежи. Границата на VC-измерването често се установява много лесно. Интерес представляват следните два резултата:
Нека N – произволна невронна мрежа с пряко разпространение, състояща се от неврони с прагова функция на активиране (Хевсайд) VC-измерването на мрежата N съставя , където W – общото количество на свободните параметри на мрежата. Нека N-произволна многослойна невронна мрежа за пряко разпространение, състояща се от неврони със сигмоидеална функция на активиране. Където VC-измерването на мрежата N е равно на , W- общото количество свободни параметри на мрежата. Изводът е, че VC-измерването на мрежи, състоящи се от два типа неврони (с линейни и прагови функции на активиране) е пропорционално на
. Резултатът отнасящ се до невронните мрежи със сигмоидеална функция на активиране е получен чрез двойна апроксимация. Първо невронът с прагова функция на активиране може да апроксимира възли със съгмоидеална функция и много синаптически тегла. Второ, линейните невронни мрежи апроксимират неврони със сигмоидеална функция и малки синаптически тегла.
84
Многослойните мрежи за пряко
разпространение се наричат ограничено VC- измерване.
Сподели с приятели: