Информация.Количество информация.Ентропия

Информация.Количество информация.Ентропия
Думата информация се разбират всички сведения за събития, процеси, обекти, явления и прочие, които подлежат на пренасяне в пространството и времето. При по-общо тълкуване това е свойството на материалните обекти което се проявява в изменение на техните състояния, чрез отражение се предават от един на друг обект. Чрез информацията се управляват различни обекти.
Количество информация – придобива популярност през последните години във връзка с разширеното използване на информационните технологии и по-специално на цифровите системи. Единицата за количество информация е bit. Binary digit(двоична единица). Един бит информация се получава след като се узнае кое от две равновероятни събития е настъпило. Друга единица за количество информация е байт/килобит/мега/…. Количеството информация е положително число тъй като 0<=P1<=1 и логаритъмът е с отрицателен знак.
Априорна вероятност (P1)/апостериорна вероятност (P2). Прирастът на количествата информация I = P2/P1, в двоична единица I=log2 * p2/p1
Ентропия – способността на един източник да създава информация. От прилочна гл.т. ентропията е средното количество информация на едно съобщение= Iср = n1I1+…+nkIk/N (N = n1+n2+……+nk)
Ентропията е равна на нула, ако едно от събитията е достоверно
Ентропията е максимална при равно вероятни събития
Когато събитията са с различни вероятности и сред тях няма достоверно събитие, Ентропията е > 0 и < от макс. Стойност.


Математическо представяне на сигналите. Видове сигнали
Математическо представяне на сигнали – обработката на сигналите е свързана с тяхното количествено представяне. Такова представяне е необходимо при оразмеряване на съответни системи за обработка, пренасяне и съхранения на информацията. Сигнала е физически процес, за неговото изучаване и изследване е необходимо да се направи математически модел. Това е функционална зависимост при която аргумент е времето. Представя се в аналитичен и графичен вид.
Особености на математическия модел:
-позволява да се абстрахираме от конкретната природа на източника на сигнала;
-описва най-съществените свойства на сигналите като игнорира второстепенните свойства и признаци
-функциите, които описват сигналите, могат да приемат реални и комплексни стойности
Познаването на този модел дава възможност те да бъдат сравнявани помежду си. По този начин може да бъде направена тяхната класификация.
2.ВИДОВЕ СИГНАЛИ:
А) едномерни и многомерни сигнали
-едномерните сигнали са тези които се представят с една функция на времето
-многомерните са съвкупност от едномерни сигнали
Б) детерминирани и случайни сигнали
Основават се на принципа възможно или невъзможно е точното им представяне в произволен момент от времето. При детерминираните сигнали математическия модел позволява да се направи такова предсказване, а при случайните – не. Приема се, че при реални условия, когато нивото на шума е много по-малко от нивото на полезния сигнал(с известна форма), сигнала е детерминиран.
В)аналогови и дискретни сигнали:
Функциите, които описват аналоговите сигнали са непрекъснати или с краен брой точки, а функциите които описват дискретните са прекъснати
Г)периодични и непериодични
П-сигнала се повтаря/НП-има определена дължина