Энтропия ұғымы: термодинамикалық, статистикалық және ақпараттық интерпретациялар

Пән: Информатика, Программалау, Мәліметтер қоры
Жұмыс түрі: Материал
Тегін: Антиплагиат
Көлемі: 3 бет
Таңдаулыға:

Энтропия түсінігі

Энтропия - бұл реттілік өлшемі, хаос өлшемі. Оның шамасы жүйенің реттелген, құрылған күйден алыс екенін, және толығымен хаостық, құрылымсыз, біртекті түрге жақын екенін көрсетеді. Бірақ, дәл сол дәрежеде энтропия сонымен қатар жүйенің құрылымды ұйымдастық өлшемі болады, Өйткені рет пен хаос - бұл қарама - қарсы және өзара толықтыратын түсініктер. Энтропия хаос немесе рет өлшемі ретінде әртүрлі табиғат жүйесінде байқалды: термодинамикадағы Клаузиус энтропиясы, статистикалық физикадағы Больцман энтропиясы, информация теориясындағы Шеннон энтропиясы, динамикалық жүйедегі Колмогоров энтропиясы, кванттық механикадағы фон Нейман энтропиясы. Энтропия жүйенің табиғатына тәуелсіз хаостық энтропия өлшемі ретінде универсалды болып табылады. Ашық жүйелер физикасының дамуымен әртүрлі макроскопиялық функциялар ішінде тек қана энтропия оны макроскопиялық жүйелердегі процестерді статистикалық бейнелеу өлшемі ретінде пайдалануға мүмкіндік беретін қасиеттердің жиынтығына ие болады.

1865ж. Рудольф Юлиус Эммануэль Клаузиусв жаңа термодинамикалық шама туралы түсінік енгізген ( еж. - грек. ἐντροπία - бұрылыс, айналу) . Бұл шама жылу энергиясын механикалыққа айналдыру, және керісінше айналдыру өлшемі болып табылады. Карно циклінде Q1/T1=Q2/T2 . Яғни Q/T қатынасы сақталады. Клаузиус dS=dQ/T дифференциалын енгізген, онда энтропия өсімшесі Т абсолют температурасына жататын dQ жылу энергиясының өзгерісі ретінде анықталады, және интеграл

S1(V1, T1) - S2(V2, T2) = ∫dQ/T=Q1/T1-Q2/T2 =0, (1. 10)

яғни (V, T) айнымалылар кеңістігінде интегралдау жолына тәуелді емес. Осылайша, S Клаузиус интегралы - жүйенің күй функциясы болып табылады. Клаузиус энтропиясының өлшем бірлігі - Дж/К. Өлшемсіз энтропияға оны Больцман тұрақтысына бөліп өтуге болады:

S=(1/k) ∫dQ/T, k=1. 38⋅10 ^-23 Дж/К. (1. 11)

Энтропия өзгерісі ең қарапайым термодинамикалық жүйелердің өзінде өте жоғары болады. Клаузиус энергия түрленулері туралы идеяны барлық процестерге таратып, әлемнің шарасыз жылулық өлімі туралы қорытындыға келеді.

XIX және XX ғасырладың басындағы ұлы физик Людвиг Больцман энтропияның кинетикалық мағынасын түсіндірді. Ол термодинамикалық жүйенің теңықтималды микрокүйлерінің P санының логарифмі Клаузиустың термодинамикалық энтропиясының барлық қасиеттеріне ие болатынын көрсетті. Ал егер оны k = 1. 38⋅10 ^-23 Дж/К тұрақтысына көбейтсе, онда мұндай функция Клаузиустың өлшемді энтропиясының физикалық мағынасында толығымен барабар болады

S = k log P. (1. 12)

Л. Больцман, 1877 жылы энтропияның статистикалы-физикалық анықтамасын бере отырып, энтропия жүйенің жеткіліксіз информациясын сипаттайтынын айтады. Яғни, энтропия біздің жүйе туралы біліміміздің өлшемі. Осылайша, Больцман бірінші болып энтропияның информациялық мағынасын байқады.

Больцманның меншікті энтропиясы (бір бөлшекке келетін) мынаған тең

SB=-k ∫μƒ(x, ν) logƒ(x, ν) dxdν+So , (1. 13)

мұндағы dx, dν - μ - алтыөлшемді фазалық кеңістіктің элементі, ƒ(x, ν) - таралу функциясы, So - еркін тұрақты. Сондықтан классикалық термодинамикада тек қана энтропияның әртүрлілігі туралы айтуға болады.

1984ж. Клод Элвуд Шеннон, хабарламаларды шулы желілер арқылы жіберуді зерттей отырып, хабарламаның қабылдағышы (receiver) және таратқышының көптеген балама күйлердегі Pi ықтималдықтың дискретті таралу шамасын енгізіп, және информацияны сандық теориясының негізі болған формуланы енгізеді:

Н=- ∑ni=1Pilog2 Pi , (1. 14)

мұндағы n - символдар саны, олардан хабарлама құралады, Н - анықталмағандық шамасы. Егер N - хабарламадағы барлық жіберілген және қабылданған символдардың саны болса, онда

Pi =mi /N (1. 15)

Pi - хабарламаның i -ші символдарының пайда болу ықтималдығы, mi -хабарламаның i - шісимволдардың кездесу саны. Ол Н шамасын энтропия деп атайды. I информациясын Шеннон хабарламаны алу кезінде энтропияның кемуі ретінде анықтайды: I=H1 -H2

... жалғасы

Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.