ИНФОРМАЦИЯЛЫҚ ЭНТРОПИЯ

Пән: Математика, Геометрия
Жұмыс түрі: Реферат
Тегін: Антиплагиат
Көлемі: 6 бет
Таңдаулыға:

ИНФОРМАЦИЯЛЫҚ ЭНТРОПИЯ

2. 1 Теңсіздік статистикалық жүйенің өзаффинді және өзұқсастығының информация-энтропиялы критерилері

Информация түсінігі кибернетикада, генетикада, социологияда кеңінен қолданылады. Синергетика және ашық жүйелер физикасының дамуы ғылымның әртүрлі салаларында пайдалану үшін жарамды информацияларды универсалды анықтауды талап етеді. Ашық жүйенің өзінің анықтамасы информация түсінігін құрайды: ашық жүйе деп сыртқы ортамен заттарымен, энергиямен, информациямен алмасатын жүйе аталады [14] .

Әдетте күрделі түсінік анықтамасы оның негізгі қасиеттерінің тізімі арқылы құрылады. Кейбір физикалық $x$ шамасының статистикалық реализациясының $I(x)$ информациясы оң шама болып табылады және $I(x) \neq I\left( x_{0} \right)$ , егер ${x \neq x}_{0}$ теңсіздігі бар кезде анықталады. Егер $P(x) x$ шамасының пайда болу ықтималдығы болса, онда информация саны үшін өрнек:

$I(x) = - \ln{P(x) }$ (2. 1)

осы қасиеттерді бейнелейді. Процестің $0 < P(x) < 1$ шартымен ескеріледі. Әртүрлі ғылымдар тұрғысынан информацияның көптеген анықтамасы ұсынылған. (2. 1) формуласы осы барлық анықтамамен үйлесімді.

$y$ кейбір шарттары бар кезде информацияны шартсыз және шартты энтропияның айырымы арқылы анықтайды:

$I\left( \frac{x}{y} \right) = S(x) - S\left( \frac{x}{y} \right)$ . (2. 2)

Бұл формула техникалық тапсырмалар үшін қолданылады, мысалы, байланыс каналдарының өткізетін қабілетін бағалау үшін қолданылады. Алайда, $\ S(x)$ энтропияның өзінің информациясы информацияның орташа мәні болып табылады:

$S(x) = \sum_{i}^{}{P_{i}(x) I_{i}(x) } = - \sum_{i}^{}{P_{i}(x) \ln{P_{i}(x) }}$ , (2. 3)

мұндағы $i$ - $x$ көптеген мәндерін ұяшықтағы нөмірі. Сондықтан (2. 1) формуласын информацияның негізгі анықтамасы ретінде қабылдаймыз.

Осылайша, информацияның универсалды анықтамасы болмаса да ол әртүрлі табиғаттағы құбылыстарды бейнелеу үшін қолданылады. Сондықтан информациялық құбылыстар теориясында басқа жаңа амал қолданылуы мүмкін. Белгілі бір тәуелсіз айнымалы ретінде информацияның өзін қабылдауға болады. Процестің статистикалық сипаттамасын информация арқылы өрнектей отырып, информацияның жаңа қасиеттерін іздеуге болады, мысалы, масштабты-инвариантты қасиеттер.

Осыдан кейін $P(I)$ информацияны жүзеге асыру ықтималдығы туралы (52) формулаға сәйкес айтуға болады:

$P(I) = e^{- I}$ . (2. 4)

$f(I)$ ықтималдық тығыздығы үшін мына формулаларға ие боламыз:

$0 \leq P(I) \leq 1, \ \ 0 \leq I \leq \infty, \ \ \int_{0}^{\infty}{f(I) dI = 1}, \ \ P(I) = \int_{I}^{\infty}{f(I) dI, }f(I) = P(I) = e^{- I}$ . (2. 5)

$P(I)$ информацияны жүзеге асыру ықтималдығының функциясы $f(I)$ ықтималдық тығыздығының таралу функциясына сәйкес келеді. Дәл (2. 1) формуламен анықталған информация масштабты инварианттылыққа ие: бөлігі мен бүтіні бірдей таралу заңдылыққа ие. $S(I) \$ информация мәнінің таралуының информациялық энтропиясын информацияның орташа мәні ретінде анықтаймыз:

$S(I) = \int_{I}^{\infty}{If(I) dI} = (1 + I) e^{- I}$ , (2. 6)

$0 \leq I \leq \infty$ үшін $1 \geq S \geq 0$ ие боламыз, яғни энтропия бірге нормаланған. Үздіксіз көптеген энтропия айнымалылардың секірмелі түрде өзгеруі кезінде шексіз және сондықтан интеграл Лебег мағынасында кейбір өлшемдерді енгізу жолымен анықталады. Өлшемдер ретінде информацияның өзін алып және нәтижелерге қол жеткіздік (2. 6) .

Белгілі функционалдық теңдеуді пайдаланайық, оны $\ g(x)$ сипатты функция мына масштабты - инвариантты қасиетпен қанағаттандырады:

$g(x) = \alpha g\left( g\left( \frac{x}{\alpha} \right) \right)$ , (2. 7)

мұндағы $\alpha$ - масштабты көбейткіш. Кез-келген үздіксіз функция өзінің қозғалмайтын нүктесінде (2. 6) теңдеуін қанағаттандырады. Сипатты функция ретінде $f(I)$ және $S(I)$ функцияларын қабылдап, олардың қозғалмайтын нүктелерін анықтайық:

$f(I) = I, \ \ e^{- I} = I, \ \ I = I_{1} = 0. 567\$ , (2. 8)

$S(I) = I, \ \ (1 + I) e^{- I} = I, \ \ I = I_{2} = 0. 806\$ . (2. 9)

Бұл қозғалмайтын нүктелер жалғыз берік нүктелер болып табылады, өйткені олар сондай-ақ $I_{0}$ кез-келген бастапқы мәндерінде алынатын есепсіз бейнелеудің шегі болып табылады:

$I_{i + 1} = f\left( I_{i} \right), \ \ \lim_{i \rightarrow \infty}{\exp\left( - exp\left( \ldots - exp\left( I_{0} \right) \ldots \right) \right) = I_{1}, }$ (2. 10)

$I_{i + 1} = S\left( I_{i} \right), \ \ \lim_{i \rightarrow \infty}{\exp\left( - exp\left( \ldots - exp\left( {\ln{\left( I_{0} + 1 \right) -}I}_{0} \right) \ldots \right) \right) = I_{2}, }$ (2. 11)

мұндағы жақшалар $i + 1$ тең.

$I_{1} = 0. 567\$ , $I_{2} = 0. 806\$ сандарының физикалық мағынасының әртүрлі түсініктері мүмкін. Ықтималдық тығыздығы локалды сипаттама болып табылады, сондықтан ол әртүрлі айнымалы бойынша өзгеше болуы мүмкін және $I_{1}$ санын өзаффинділік критериі ретінде қабылдауға болады. Энтропия - орташаланған сипаттама, сондықтан $I_{2}$ саны өзұқсастық критериі болып табылады.

Басқа жағынан, $I_{1}, \ I_{2}$ сандары сәйкесінше, статистикалық өзұқсастық және өзаффиндік жүйелер үшін $I_{20} = 0. 618\$ Фиббоначи санының (динамикалық өлшемнің “алтын қимасы”) аналогы ретінде қарастырылуы мүмкін. Шынында, (59) формуласынан $I \lesssim 1$ кезінде мынаған ие боламыз

$(1 + I) (1 - I) = I, \ \ I^{2} + I - 1 = 0, \ \ I = I_{20} = 0. 618\$ , (2. 12)

сондай-ақ $I \ll 1$ кезінде (2. 8) - ден $e^{- I} = I, \ \ I = I_{1}$ аламыз. Біз өзаффиндік, динамикалық тепе-теңдік, өзұқсастықтың ұқсас заңдылықтары бір формуламен (59) бейнеленетінін көрдік.

2. 2 Ашық жүйелер эволюциясының әмбебап энтропиялық заңдылықтары

Ашық жүйелер физикасында өзұқсас және өзаффиндік режімдерді пайдаланумен байланысты мәселелер маңызды болып табылады. Егер айнымалыларды анықтайтын сан бірліктен көп болса және осы айнымалылар бойынша ұқсас коэфиценттер түрліше болса, фракталды объект өзафиндік болып табылады. Егер фракталды объектінің иерархиялық бөліктері барлық айнымалылар бойынша бірдей ұқсас коэффиценттерге ие болса, объект өзұқсас деп аталады. З. Ж. Жаңабаевтың [15] жұмысында информация мен энтропияны жүзеге асыру ықтималдылығы тығыздығының жылжымайтын нүктелер түріндегі ( ) өзаффинділік пен ( ) өзұқсастың информациялық-энтропиялық критерийлері анықталды:

, ; , . (2. 13)

Соңғы жылдары жаңа жалпылама статистикалық механика дамып келеді, оны Цаллис статистикасы деп немесе Гиббстың жалған канондық статистикасы деп атауға болады [17] . Осындай теориялардың негізін келесі түрдегі экспоненциалды функцияны пайдалану құрайды:

(2. 14)