Шеннон теоремалары

Жұмыс түрі: Реферат
Тегін: Антиплагиат
Көлемі: 10 бет
Таңдаулыға:

Қазақстан Республикасы Білім және ғылым министрлігі
Шәкәрім университеті
Ақпараттық-коммуникациялық технологиялар факультеті
Автоматика және есептеу техникасы кафедрасы

СӨЖ
Тақырыбы: Шеннон теоремалары

Орындаған: Әбдікәрім Ә
Топ: АУ-601
Тексерген: Секербаева А. Б.

Семей 2018
Жоспар:
Кіріспе
1. Бірінші теорема
2. Шеннон-Хартли немесе Шеннонның екінші теоремасы
3. Шеннонның дискретті бөгеті бар арна үшін теоремасы
4. Шеннонның дискретті бөгеусіз арна үшін теоремасы
5. Қорытынды
Пайдаланылған әдебиеттер

Кіріспе
Клод Элвуд Шеннон ( ағыл. Claude Elwood Shannon; 30 сәуір, 1916, Петоски, Мичиган, АҚШ - 24 ақпан, 2001, Медфорд, Массачусетс, АҚШ) - американдық инженер, криптоаналитик және математик. Ол ақпараттық ғасырдың әкесі деп саналады.
Ол заманауи жоғары технологиялық коммуникация жүйелерінде қолданылатын ақпараттық теорияның негізін қалаушы. Қазіргі кезде қазіргі заманғы коммуникациялық технологиялар үшін негіз болып табылатын негізгі ұғымдар, идеялар және олардың математикалық формулаларын енгізген. 1948 жылы ол бит деген сөзді ең кішкентай бірлікті белгілеу үшін қолданды (Математикалық байланыс теориясы). Сонымен қатар, энтропия түсінігі Шеннон теориясының маңызды ерекшелігі болды. Ол ендірілген бойымыздағы хабар жіберілген хабарламада ақпараттық белгісіздікке тең екендігін көрсетті. Шеннонның Байланыс жүйесінің математикалық теориясы және Құпия жүйелердегі байланыс теориясы мақалалары ақпараттық теория мен криптографияға негіз болып табылады. Клод Шеннон криптографияны ғылыми тұрғыдан жақындастырғандардың бірі болды, ол өзінің теориялық негіздерін тұжырымдайтын және көптеген негізгі ұғымдарды ұсынды. Шеннон ықтималдық схемалар теориясы, ойын теориялары, автомат теориялары және басқару жүйесі теориясы - кибернетика тұжырымдамасының бөлігі болып табылатын ғылым салалары үшін маңызды үлес қосты.

1. Бірінші теорема
Шеннонның интерференция болмаған кезде негізгі кодтау теоремасы деп аталатын ақпаратты беру туралы алғашқы теоремасы келесідей тұжырымдалған:
Жеткізу кедергісі болмаған жағдайда, кодталған алфавиттің бір таңбасына арналған кодтық таңбалардың орташа саны бастапқы ақпаратты және орташа алфавиттердің белгісіне орташа ақпараттың арақатынасына жақын болады.
Қайта көбейту кодының тұжырымдамасын қолдану арқылы сіз теореманы қысқаша тұжырымдай аласыз:
Жеткізу кедергісі болмаған жағдайда, кодты босату нөлге жақын болады, әрдайым хабарды кодтау нұсқасы болады.
Бұл мәлімдемелер теоремалар болып табылады және сондықтан да дәлелдеуге болады, бірақ дәлелдерді жоққа шығарамыз. Теоремент оңтайлы кодтаудың іргелі мүмкіндігін ашады. Дегенмен, теореманың өзі мұндай кодтауды іс жүзінде қалай жүзеге асыруға болатынын түсінбеу керек - бұл үшін кейіннен талқылаудың мәні болатын кейбір қосымша ойларды тарту керек.
Сонымен қатар, біз негізінен өзімізді M = 2, яғни, байланыс желісіндегі кодтарды ұсыну үшін практикалық тұрғыдан алғанда, сигналдың екі түрін ғана қолдануға болады (мысалы, сымның кернеуінің болуы (оны импульстік деп атаймыз) немесе оның жоқтығы (үзіліс), бұрылысты картада немесе магниттелген аймақта тесік бар немесе болмауы дискетте); бұл кодтау екілік деп аталады. Бинарлық алфавиттің кейіпкерлері әдетте 0 және 1 деп белгіленеді, бірақ олар сандар емес, әріптер ретінде қабылданады. Екілік кодтардың қолайлылығы, бірдей ұзақтықпен және ықтималдықпен, әрбір қарапайым сигнал (0 немесе 1) 1 бит ақпаратқа ие (log2M = 1); онда Шеннон теоремасы (1)
I1(A) K(2)
Шеннонның алғашқы теоремасы мынадай түсіндірмені алады:
Жеткізу кедергісі болмаған жағдайда, екілік кодтың орташа ұзындығы негізгі алфавиттік таңбаға тән орташа ақпаратқа жақын болуы мүмкін.
Бинарлық кодтау үшін формуланы (2) пайдалану:

Екілік кодтауда берілген ақпараттардың мөлшерін анықтау импульстардың (олардың) саны мен үзілістердің (нөлдер) қарапайым санына дейін азаяды. Бұл жағдайда сигнал ағынының жекелеген кодтарын (импульстердің және үзілістердің реті) алу проблемасы туындайды. Қабылдаушы құрылғы сигналдардың қарқындылығы мен ұзақтығын белгілейді. Бастапқы сигналдар (0 және 1) бірдей немесе әр түрлі ұзақтықтарға ие болуы мүмкін. Бастапқы алфавиттің белгісіне қойылған кодтағы олардың коды (код тізбегінің ұзындығы) да бірдей болуы мүмкін (бұл жағдайда код бірыңғай деп аталады) немесе әр түрлі (біркелкі емес код) болуы мүмкін. Ақыр соңында кодтар бастапқы алфавитінің (әліпбилік кодтау) әрбір таңбасына немесе олардың комбинациясына (блоктарды, сөздерді кодтау) арналған болуы мүмкін. Нәтижесінде, кодтау кезінде (алфавиттік және ауызша) келесі комбинациялар мүмкін:
Қарапайым сигналдардың ұзақтығы
Негізгі таңбаларды кодтау (сөздер)
Оқиға
Бірдей
Біркелкі
(1)
Бірдей
Біркелкі емес
(2)
Әр түрлі
Біркелкі
(3)
Әр түрлі
Біркелкі емес
(4)

Біркелкі емес кодтау немесе әртүрлі ұзақтықтағы сигналдар (жағдай (2), (3) және (4)) пайдаланылған жағдайда, олардың арасындағы бір таңбаның кодын бөлек ажырату үшін арнайы сигнал - уақытша бөлгіш (белгі белгісі) немесе осы кодтарды қолдануы керек бірегей болу үшін, яғни басқа кодтардың бөліктерімен сәйкес келмейді. Сол ұзақтық сигналдарының біркелкі кодтауымен (жағдай (1)), бір кодты басқа бірінен бөлу барлық кодтар үшін бірдей (немесе сақтау кезінде бит саны бірдей) жалпы ұзақтыққа сәйкес жасалғандықтан, арнайы сепаратор қажет емес.
Бинарлы қарапайым импульстың ұзақтығы () 1 бит ақпаратты беру үшін қанша уақыт қажет екенін көрсетеді. Әрине, бастапқы алфавит бойынша орташа есеппен ақпарат беру уақытын талап етеді. Осылайша, кодтаудың оңтайландыру мәселесі басқа жағдайларда тұжырымдалуы мүмкін: мұндай кодтау жүйесін құру, осы хабарламаның беру кезінде кодтардың жалпы ұзақтығы (немесе сақтау кезінде кодтардың жалпы саны) қысқа болуы мүмкін.

2. Шеннон-Хартли немесе Шеннонның екінші теоремасы
Клод Шэннон ақпараттың көлемін айқындаған кезде, шулы коммуникациялық арналардың өткізу қабілеті туралы керемет теореманы дәлелдеді. Бұл теория 1957-1961 жж. өз жұмыстарында жарияланды және қазір оның атын атайды. Шын мәнінде, бұл бір теорема емес, әртүрлі жағдайларға арналған ондаған теоремалар. Шеннонның теоремасының мәні неде? Әр шулы байланыс арнасы Шеннон шегі деп аталатын ең жоғары (ең жоғары) ақпарат беру жылдамдығы (өткізу қабілеті) арқылы сипатталады. Берілген шектеуден жоғары беру жылдамдығында жіберілген ақпараттың қателері сөзсіз. Бірақ төменнен осы шектеуді қалағаныңыздай жақындай аласыз, бұл ақпараттың тиісті кодтауы сіз кез келген арна шуында еркін қателік ықтималдығын қамтамасыз етеді.
Шеннон-Хартли теоремасы барлық ықтимал көп қабатты және көпфазалы шифрлау әдістерін ескере отырып, С-арнасының сыйымдылығын, ол деректерді беру жылдамдығының теориялық жоғарғы шегін білдіретін, бұл ретте А сигналының белгілі бір қуаты S арқылы аналогтық байланыс арнасы арқылы берілуі мүмкін. :
C = F x log2 (1 + SN); (3)
CF ≈ 1.44 x SN, (4)
мұндағы
C - арна сыйымдылығы (өткізу қабілеті), бит с;
F - өткізу жолағының ені, Гц;
S - өтпелі жолдың үстіндегі сигналдың жалпы қуаты, W немесе B2;
N - өтпелі жолақтың үстіндегі шудың толық күші, W немесе B2;
SN - қуат коэффициенті ретінде көрсетілген RMS сигналының қуатын беру жүйесінің Гаусс шуының RMS қуатына қатынасы.
Ақпарат беру жүйесінің беру қабілеті трансмиссиялық жиілік диапазонының еніне тікелей пропорционалды. Мысалы, стандартты телефон арна үшін өткізу жолағы F = 3 кГц, N S = 30 дБ, сондықтан жалпыға ортақ пайдаланылатын телефон желісінің теориялық лимиті шамамен 30 кбит с. Телефонның бұрылыс жұптары үшін шамамен 15 дБ километрді жоғалту, керуенге байланысты қосымша шектеулер туындайды.
Дискретті (цифрлық) нысанда берілетін F диапазонымен аналогтық сигнал қарастырсақ, онда Котельников теоремасына сәйкес, сынама жиілігі 2F (8 кГц) тең немесе артық болуы керек. Үлкен іріктеу жиіліктерін қолданғанда, жоғары гармоника ойнатылғанда алынуы мүмкін, бірақ олар белгілі бір өткізу қабілеттілігіне кедергі келтіреді. N дискретті түрлендіру деңгейлерінде максималды деректер ағымы F = 4 кГц с және N = 256 квантизация деңгейлерінде болатын 2F x log2 (N) бит с болады. Жеткізу жиілігі 8 есе кеңірек және 64 кбит с жылдамдықта болады. F = 4 кГц, тіпті шу болмаған кезде, 8 кбит с-тан астам беру жылдамдығы алынбайды (сағатына бір бит болса).
Дәл осылай аналогтық аудио сигналда F = 22.05 кГц жиіліктер диапазоны және оның жоғары сапалы цифрлық берілімі үшін бинарлық кодта 16 бит бар, F = 2.03 Мбит с жиілік диапазоны қажет. Қалыпты теледидар кескіні F = 4 МГц жиілік ауқымында аналогтық сигнал, ал F = 32 Мбит с сигналының 256 квантизация деңгейінде беріледі. Жоғары ажыратымдылықтағы цифрлық теледидарда (HDTV) өткізудің өткізу қабілеті 504,3 Мбит с.
Шэннон негізінен Найквист идеясын дамытты. Егер сигналдың екілік көрінісі пайдаланылса, онда Котельников - Найквист сынамалық үлестіру теоремасы бойынша [1924], егер араласусыз арнадағы деректерді беру жылдамдығы ең жоғары болады:
I = 2F ... жалғасы

Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.