ИНФОРМАЦИЯЛЫҚ ЭНТРОПИЯ

Пән: Математика, Геометрия
Жұмыс түрі: Реферат
Тегін: Антиплагиат
Көлемі: 6 бет
Таңдаулыға:

ИНФОРМАЦИЯЛЫҚ ЭНТРОПИЯ

2.1 Теңсіздік статистикалық жүйенің өзаффинді және өзұқсастығының информация-энтропиялы критерилері

Информация түсінігі кибернетикада, генетикада, социологияда кеңінен қолданылады. Синергетика және ашық жүйелер физикасының дамуы ғылымның әртүрлі салаларында пайдалану үшін жарамды информацияларды универсалды анықтауды талап етеді. Ашық жүйенің өзінің анықтамасы информация түсінігін құрайды: ашық жүйе деп сыртқы ортамен заттарымен, энергиямен, информациямен алмасатын жүйе аталады [14].
Әдетте күрделі түсінік анықтамасы оның негізгі қасиеттерінің тізімі арқылы құрылады. Кейбір физикалық x шамасының статистикалық реализациясының Ix информациясы оң шама болып табылады және Ix!=Ix0, егер x!=x0 теңсіздігі бар кезде анықталады. Егер Pxx шамасының пайда болу ықтималдығы болса, онда информация саны үшін өрнек:

Ix=-lnPx (2.1)

осы қасиеттерді бейнелейді. Процестің қайталануыжәнетеңсіздігі 0Px1 шартымен ескеріледі. Әртүрлі ғылымдар тұрғысынан информацияның көптеген анықтамасы ұсынылған. (2.1) формуласы осы барлық анықтамамен үйлесімді.
y кейбір шарттары бар кезде информацияны шартсыз және шартты энтропияның айырымы арқылы анықтайды:

Ixy=Sx-Sxy. (2.2)

Бұл формула техникалық тапсырмалар үшін қолданылады, мысалы, байланыс каналдарының өткізетін қабілетін бағалау үшін қолданылады. Алайда, Sx энтропияның өзінің информациясы информацияның орташа мәні болып табылады:

Sx=iPixIix=-iPixlnPix, (2.3)

мұндағы i - x көптеген мәндерін ұяшықтағы нөмірі. Сондықтан (2.1) формуласын информацияның негізгі анықтамасы ретінде қабылдаймыз.
Осылайша, информацияның универсалды анықтамасы болмаса да ол әртүрлі табиғаттағы құбылыстарды бейнелеу үшін қолданылады. Сондықтан информациялық құбылыстар теориясында басқа жаңа амал қолданылуы мүмкін. Белгілі бір тәуелсіз айнымалы ретінде информацияның өзін қабылдауға болады. Процестің статистикалық сипаттамасын информация арқылы өрнектей отырып, информацияның жаңа қасиеттерін іздеуге болады, мысалы, масштабты-инвариантты қасиеттер.
Осыдан кейін PI информацияны жүзеге асыру ықтималдығы туралы (52) формулаға сәйкес айтуға болады:

PI=e-I. (2.4)

fI ықтималдық тығыздығы үшін мына формулаларға ие боламыз:

0=PI=1, 0=I=infinity, 0infinityfIdI=1, PI=IinfinityfIdI,fI=PI=e-I. (2.5)

PI информацияны жүзеге асыру ықтималдығының функциясы fI ықтималдық тығыздығының таралу функциясына сәйкес келеді. Дәл (2.1) формуламен анықталған информация масштабты инварианттылыққа ие: бөлігі мен бүтіні бірдей таралу заңдылыққа ие. SI информация мәнінің таралуының информациялық энтропиясын информацияның орташа мәні ретінде анықтаймыз:

SI=IinfinityIfIdI=(1+I)e-I, (2.6 )

0=I=infinity үшін 1=S=0 ие боламыз, яғни энтропия бірге нормаланған. Үздіксіз көптеген энтропия айнымалылардың секірмелі түрде өзгеруі кезінде шексіз және сондықтан интеграл Лебег мағынасында кейбір өлшемдерді енгізу жолымен анықталады. Өлшемдер ретінде информацияның өзін алып және нәтижелерге қол жеткіздік (2.6).
Белгілі функционалдық теңдеуді пайдаланайық, оны gx сипатты функция мына масштабты - инвариантты қасиетпен қанағаттандырады:

gx=αggxα, (2.7)

мұндағы α - масштабты көбейткіш. Кез-келген үздіксіз функция өзінің қозғалмайтын нүктесінде (2.6) теңдеуін қанағаттандырады. Сипатты функция ретінде fI және SI функцияларын қабылдап, олардың қозғалмайтын нүктелерін анықтайық:

fI=I, e-I=I, I=I1=0.567 , (2.8)

SI=I, 1+Ie-I=I, I=I2=0.806 . (2.9)

Бұл қозғалмайтын нүктелер жалғыз берік нүктелер болып табылады, өйткені олар сондай - ақ I0 кез - келген бастапқы мәндерінде алынатын есепсіз бейнелеудің шегі болып табылады:

Ii+1=fIi, limi--infinityexp-exp...-expI0...= I1, (2.10)

Ii+1=SIi, limi--infinityexp-exp...-explnI0+1 -I0...=I2, (2.11)

мұндағы жақшалар i+1 тең.
I1=0.567 , I2=0.806 сандарының физикалық мағынасының әртүрлі түсініктері мүмкін. Ықтималдық тығыздығы локалды сипаттама болып табылады, сондықтан ол әртүрлі айнымалы бойынша өзгеше болуы мүмкін және I1 санын өзаффинділік критериі ретінде қабылдауға болады. Энтропия - орташаланған сипаттама, сондықтан I2 саны өзұқсастық критериі болып табылады.
Басқа жағынан, I1, I2 сандары сәйкесінше, статистикалық өзұқсастық және өзаффиндік жүйелер үшін I20=0.618 Фиббоначи санының (динамикалық өлшемнің "алтын қимасы") аналогы ретінде қарастырылуы мүмкін. Шынында, (59) формуласынан I≲1 кезінде мынаған ие ... жалғасы

Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.