Ақпаратты сандық бағалау

Пән: Автоматтандыру, Техника
Жұмыс түрі: Реферат
Тегін: Антиплагиат
Көлемі: 7 бет
Таңдаулыға:

Қазақстан Республикасының Білім және ғылым министрлігі Шәкәрім атындағы Семей мемлекеттік университеті

«Ақпараттық қолданбалы теория» пәнінен

СӨЖ

Тақырыбы: Ақпаратты сандық бағалау

Орындаған: Қайсар Д. Б.

Тобы: АУ-401 С

Тексерген: Кожахметова Д. О.

Семей 2015

Жоспар:

Ақпарат
Ақпараттың тарихы, анықтамалары
Ақпарат энтропиясын өлшеу

Энтропия

Ақпарат

Ақпарат (лат. informatio - түсіндіру, мазмұндау) ұғымы күнделікті өмірден бастап техникалық салада пайдаланылатын көп мағыналы ұғым. Жалпы алғанда бұл ұғым шектеу, байланыс, бақылау, форма, инструкция, білiм, мағына, құрылым, бейнелеу, сезіну тағы басқа ұғымдармен тығыз байланысты. Көп адам бұл жайлы Білім дәуірі немесе білім қоғамы тудырған Ақпарат дәуірі туралы айта бастады; ақпараттық қоғам, ақпараттық технологиялар, тіпті информатика, ақпарат ғылымы және компьютер ғылымы назарға көп түсуде, ал “ақпарат” сөзі білдіре бастаған мағыналары ұқыпсыз пайдаланылуда.

Ақпараттың тарихы, анықтамалары

Ақпарат - адамның өзіне қарағанда әлдеқайда көне құбылыс. Табиғат әлдеқашан өсімдіктер мен тірі организмдерде жұмбақталған (кодталған) ақпаратты өзінің даму барысында беріп отырған. Ал, жануарлар мен құстардың тілі ақпаратқа бай. Адамдар өздерінің алғашқы қадамдарынан бастап-ақ ақпарат беру мен сақтаудың жаңа құралдарын іздеуде және табуда. Бұған жартастағы суреттер де, "Жазбалар ғибадатханасындағы" Майя өркениетінің иероглифті тақталары да, ежелгі египеттіктердің абак тастары мен жасырын хабарларды жіберуге арналған дискілері де дәлел бола алады.

"Ақпарат" термині латынның түсіндіру, баяндау, мәлімет деген ұғымдарды білдіретін "informatio" сөзінен шыққан. Бұл терминнің кең тарағанына қарамастан, ақпарат түсінігі ғылымдағы ең көп пікірталас тудырған түсініктердің бірі болып табылады. Қазіргі кезде ақпарат түсінігінің дәл анықтамасы жоқ, көптеген жағдайларда ол интуициялық болып келеді және оған адам әрекетінің әр түрлі салаларында әр түрлі мағына беріледі.

Ақпараттың анықтамаларының көп болуы - бұл түсініктің мағынасын түсіндірудің күрделілігімен, ерекшелігімен және көп түрлілігімен байланысты. Қазіргі кезде ақпарат түсінігін айқындаудың кең таралған үш теориялық жолы бар. Олардың әрқайсысы оның мағынасын өзінше түсіндіреді.

Бірінші теория (К. Шенон) сандық-ақпараттық тұрғыдан тұрғыдан қарастырады да, ақпаратты оқиғаның анықталмағандығының (энтропияның) өлшемі ретінде айқындайды. Ақпарат көлемі, қандай жағдайда болмасын, оны алу ықтималдылығына тәуелді: хабар неғұрлым ықтимал болып табылса, оның ақпараты соғұрлым аз болады. Бұл теория ақпараттың мағыналық жағын ескермесе де, хабарды оңтайлы кодтау мен ақпаратты өлшеуге негіз болды да, байланыс техникасы мен есептеуіш техникасында өте пайдалы болып шықты. Бұдан басқа, ол ақпараттың жаңалығы, хабардың жеделдігі сияқты маңызды қасиеттерін көрсету үші өте қолайлы Ақпаратты осы тұрғыдан түсінгенде - бұл анықталмағандықтың алынуы немесе мүмкін баламалар жинағынан таңдап алу нәтижесі.

Ақпарат энтропиясын өлшеу

Ақпаратқа хабар ретінде қарау 1948 жылғы Клод Шеннонның әйгілі "Байланыстың Математикалық Теориясы" атты мақаласынан кейін қалыптасты. Мақала Байланыс теориясының негізін қалады және ақпарат ұғымына техникалық мағына беріп қана қоймай оған мөлшерін анықтады. Егер құрылғы бірдей ықтималдықпен N хабардың бірін жіберсе, онда “жиыннан хабар таңдалған кездегі ақпарат мөлшері” екі негіздегі логарифм N-ге тең (Бұл мөлшер өздік-ақпарат деп аталады) . Сол мақалада Шеннон былай жалғастырады: Логарифм негізін таңдау ақпаратты өлшеу өлшем бірлігіне сәйкес келеді. Егер негізі 2 болса нәтижесінде ақпарат бірлiктері бинарлық сандар, немесе қысқаша Тюки (J. W. Tukey) енгізген биттер болар еді. Екі бірқалыпты дәрежесі бар құрылым, мысалы - реле, бір бит ақпарат сақтай алады. Осындай N құрылым N бит сақтай алады…[1] Алгоритмдік байланыс теориясы ақпаратты өлшеудің қосымша жолын береді. Қысқаша қайырғанда, бұл тәсіл ақпарат мазмұнын белгілер тізімінің болжамдығына негіздеп өлшейді, немесе басқаша айтқанда бағдарлама арқылы тізімді есептеу қаншалықты оңай: тізімнің ақпарат мазмұны ең қысқа осы тізімді есептейтін бағдарламаның биттер саны болып табылады. Төмендегі тізімнің алгоритмдік өлшемі өте аз болар еді, өйткені ол - оңай болжауға болатын құрылым, және құрылым ретінде жалғасқанымен өлшемі өзгермейді. Шеннон ақпараты тізімнің әр белгісі үшін, олар статистикалық кездейсоқ болғандықтан, дәл осындай ақпарат өлшемін берер еді, ал әр жаңа белгі өлшемін үлкейтер еді. Адамдық көзқараспен қарағанда дәстүрлі ақпарат теориясы мен алгоритмдік ақпарат теорияларының шектеулері бар. Мысалға, хабар мазмұны дегенде Шеннон “Жиі хабарлардың мәні бар… бұл байланыстың семантикалық жағы инженерлік мәселелерге маңызды емес. Маңызды жағы - нақтылы хабардың ықтимал хабарлар жиынының таңдалып алынған бірі болғандығында” (екпін түпнұсқадан сақталған) . Ақпарат теориясында сигналдар процесстердің бөлігі болып табылады, субстанция емес; олар бірнәрсе істейді, олардың арнайы мәні жоқ. Алгоритмдік ақпарат теориясы мен ақпарат теориясын бірге пайдалана отырып ең кездейсоқ сигнал қалай тәржімеленсе де ең ауқымды ақпаратты қамтиды, әрі сығыла да алмайды деген тұжырымға келуге болады. Майкл Редди (Micheal Reddy) "математикалық теория 'сигналдары' 'алмаса алатын құрылымдар' деп байқаған. Сигналда еш хабар жоқ, онда тек мүмкін болатын хабарлар жиынынан бір хабарды таңдау қабілеті бар. " Ақпарат теориясында "жүйе әр ықтимал болатын таңдаумен жұмыс істей алатындай жобалану керек, тек таңдалғанмен емес, себебі жобалану кезеңінде ол хабар беймәлім болған ".

Энтропия

Энтропия (грек. еntropіa - бұрылыс, айналу) - тұйық термодинамикалық жүйедегі өздігінен жүретін процестің өту бағытын сипаттайтын күй функциясы. Энтропияның күй функциясы екендігі термодинамиканың екінші бастамасында тұжырымдалады. Энтропия ұғымын термодинамикаға 1865 ж. Р. Клаузиус енгізген. Кез келген А және В күйлеріндегі жүйе Энтропиясы мәндерінің Q - жүйеге күйіδайырымы мына формула арқылы анықталады:, мұндағы шексіз аз квазистатик. болып өзгергенде берілетін жылу мөлшері, Т - жүйенің абс. темп-расы; интрегал екі күйді өзара жалғастыратын кез S=Q/Т. Ал∆келген қайтымды жолмен алынады. Изотерм. процесс жағдайында: кез келген қайтымды жолмен алынатын тұйық процесс үшін: . Соңғы теңдік Q/Т түріндегі толық дифференциал болатындығының қажеттіδЭнтропияның dS= және жеткілікті шарты, ал Энтропия - күй функциясы. Энтропияның абс. мәні термодинамиканың үшінші бастамасы бойынша анықталады және ол бойынша абс. нөл темп-рада кез келген жүйенің Энтропиясы нөлге айналады. Адиабаталық оңашаланған жүйелеріндегі қайтымды процестер кезінде Энтропияның мәні тұрақты болып қалады да, қайтымсыз процестер кезінде Энтропияның мәні артады; барлық реал процестерінде Энтропияның мәні артады (Энтропияның арту заңы) . Статист. физикада Энтропия статист. ) деп аталатын шамамен байланыстырады. Больцман принципінеΩ∆салмақ (, мұндағы k -Ω∆сәйкес: S=kІn Больцман тұрақтысы. Сонымен Энтропия - термодинам. тепе-тендік күйдегі макроскоп. денелерге тән қасиет. Ол бірліктердің халықаралық жүйесінде (СИ) Дж/К арқылы өрнектеледі. Энтропия ұғымы ғылымның көптеген салаларында (физика, химия, т. б. ) маңызды рөл атқарады.

Энтропия туралы ұғым

Еркінше алынған қайтымды циклды қарастыралық. Циклды бөлшектеу көмегімен, элементарлы Карно циклын шексіз көп санды теңдікті, мына түрде жазуға болады:

dq1T1= dq2T2

Тұйықталған пішін бойынша, интегралдау кезінде және dq ₂ теріс таңбаларын есептеп табамыз.

ʃdqқайтT1= 0.

Мұндағы, dq _қайт - таңбасы кезіндегісі, қаралып отырған айналмалы процесстегі қайтымды түріне, ерекше көңіл аударылуы тиіс. Сонымен, келтірілген жылулықтың интегралды суммасы үшін, қандай болса да, қайтымды циклда нөлге тең. Бұл Клаузиус теңдеуі деп аталады. Жылу динамикасында формуласын Клаузиус теңдеуі деп, ал формуласының оң жақ бөлігінің теңдеуін, Клаузиус интегралы деп атайды. Қандай да тұйық жол үшін, математикалық қажетті және жеткілікті шарт, ол:

ds = dq/T

толық дифференциал болады. 1-2 еркінше алынған жол бойындағы интеграл , әр уақытта тең:

Шарт бойынша, жылулықты dq жеткізу процессі қайтымды деп есептеледі. Сонымен, S - функция жағдайы. Оны энтропия деп атайды. Формуладағы 1/T үстіңгі көрсеткішінде тұрған, толық емес дифференциал dq үшін интегралдаушы көбейткіш болады. Еркін қайтымды айналмалы процесс үшін алынған формуладан, энтропия S және абсолютты температура Т бар екендігі туралы тікелей қорытынды шығады да, теңдеумен анықталады, оны қайтымды процесстер үшін, жылу динамикасының екінші заңының теңдеуі деп атайды.

Қайтымды изотермиялық процесс (T=const) кезіндегісін теңдеуден табамыз:

Қайтымды адиабатты процесс кезіндегі, dq=0 болғанда: