БЕЙНЕЛЕРДІ ТАНУ ПРИНЦИПТЕРІ

Жұмыс түрі: Курстық жұмыс
Тегін: Антиплагиат
Көлемі: 27 бет
Таңдаулыға:

ҚАЗАҚСТАН РЕСПУБЛИКАСЫ АУЫЛШАРУАШЫЛЫҒЫ МИНИСТРЛІГІ
С. СЕЙФУЛЛИН атындағы ҚАЗАҚ АГРОТЕХНИКАЛЫҚ УНИВЕРСИТЕТІ

КУРСТЫҚ ЖОБА
Python программалау тілі бойынша үлкен деректер жобасы үшін талдау нәтижелерін визуалдауға арналған бағдарламалық модуль құру

05-057-19-03 - "Бағдарламалық инженерия" мамандығы бойынша

Жұмысты орындағандар: Ожан Ә. Д
Курстық жұмыстың жетекшісі: Мустафаева Н.Т

Нұр-Сұлтан 2021 ж.
С. СЕЙФУЛӨзг.
Бет
Құжат №
Қолы
Уақыт
Бет

2
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

2
КЖ.05-057-19-03.23.03.2021.ТЖ

ЛИН атындағы ҚАЗАҚ АГРОТЕХНИКАЛЫҚ УНИВЕРСИТЕТІ Ақпараттық жүйелер кафедрасы

Бекітемін
Кафедра меңгерушісі
_____________________
____ __________2021ж.

Алгоритм, деректер құрылымы және бағдарламалау
пәні бойынша курстық жұмысқа
ТАПСЫРМА

СТУДЕНТ Ожан Ә. Д
ТОП 05-057-19-03

Жұмыс тақырыбы: Python программалау тілі бойынша үлкен деректер жобасы үшін талдау нәтижелерін визуалдауға арналған бағдарламалық модуль құру
№
Түсіндірме жазбаның мазмұны
Орындалу мерзімі
Уақыты
1
Кіріспе
12.02.-13.02
5 сағат
2
ЖНЖ керек материалдарды тауып, оларды практикада қолдану. Tkinter кітапханасымен танысу.
13.02.-18.02
13 сағат
3
Keras кітапханасын курстых жобаға қосу. MNIST деректер қорын қосып бірінші рет ЖНЖ-ні үйрету. Қателермен жұмыс істеу
18.02.-20.02
7 сағат
4
Қорытынды
21.02.-22.02
4 сағат

№
Графиктік бөлімнің мазмұны
Орындалу мерзімі
Парақтар саны
Формат

TKinter кітпханасы арқылы графикалық салатын парақты жасау
13.02-18.02
1
.py

Тапсырманы берген күн _________
Жұмысты қорғау күні _________
Жұмыс жетекшісі _________
Тапсырманы орындауға алдым 12.02.2021______
күні, студент қолы

МАЗМҰНЫ
КІРІСПЕ 3
1. ҚОЙЫЛЫМ БӨЛІМІ 4
2. БЕЙНЕЛЕРДІ ТАНУ ПРИНЦИПТЕРІ 5
2.1 Бейнелерді тану жүйесі 6
2.2 Кескінді жіктеу мәселесі 8
3. НЕЙТРОНДЫҚ ЖЕЛІЛЕР 10
3.1 ЖНЖ қысқаша тарихы 10
3.2 Жасанды нейрон 11
3.2.1. Перцептрон 12
3.2.2 Іске қосу функциялары 14
3.3 Нейрондық желінің архитектурасы 15
3.4 ЖНЖ үшін оқыту әдістері 17
4 НЕЙТРОНДЫҚ ЖЕЛІНІ МОДЕЛЬДЕУДІ ҚОЛДАНА ОТЫРЫП ЦИФРЛАРДЫ ТАНУ 21
4.1 Тапсырманы талдау 21
ҚОРЫТЫНДЫ 24
5. ҚОЛДАНЫЛҒАН ҚАЙНАР КӨЗДЕР ТІЗІМІ 25
6. ҚОСЫМША 26

Өзг.

парақ
құжат №
қолы
уақыт
бет
3

КЖ.05-057-19-03.23.03.2021.ТЖ

Орындаған
Ожан Ә. Д

Тексерген
Мустафаева Н.Т

Түсіндірме жазба

парақ
32
С. СЕЙФУЛЛИН атындағы ҚАЗАҚ АГРОТЕХНИКАЛЫҚ УНИВЕРСИТЕТІ
Өзг.

парақ
құжат №
қолы
уақыт
бет
3

КЖ.05-057-19-03.23.03.2021.ТЖ

Орындаған
Ожан Ә. Д

Тексерген
Мустафаева Н.Т

Түсіндірме жазба

парақ
32
С. СЕЙФУЛЛИН атындағы ҚАЗАҚ АГРОТЕХНИКАЛЫҚ УНИВЕРСИТЕТІ
КІРІСПЕ
Жасанды нейрондық желілер (ЖНЖ) пайда болғаннан бері әртүрлі қолданбалы есептерді шешуге де, мидың жұмыс істеуінің мүмкін ережелерін зерттеу үшін де қолданылады. ЖНЖ үлгіні тану, болжау, тәуелділікті анықтау, деректерді қысу, басқару тапсырмалары және басқалары сияқты көптеген қосымшаларда сәтті қолданылады.
Қазіргі кезде үлгіні тану адамдардың күнделікті өмірінде көбірек қолданылады. Тану теориясының әдістері мен алгоритмдері медицинада (медициналық суреттердің диагностикасы), геологияда (Жердің табиғи ресурстарын зерттеу), робототехникада (роботтарды көру), астрономияда, бейнелерді талдауда, адамды сәйкестендіруде, Автоматты жобалауда және т. б. кеңінен қолданылады.
Жоғарыда айтылғандарға байланысты курстық жұмыстың тақырыбы кескіндерді, атап айтқанда сандарды танитын нейрондық желі моделін зерттеуге және дамытуға бағытталған.
Бұл бағдарламаның өзектілігі осындай технологияларды кеңінен қолдануға байланысты және нәтижесінде суреттерді танитын бағдарламалар нарығында өте танымал.
Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

4
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

4
КЖ.05-057-19-03.23.03.2021.ТЖ

ҚОЙЫЛЫМ БӨЛІМІ
Курстық жұмысты орындау аясында келесі міндеттер қойылды:
ЖНЖ тарихымен танысу;
Нейрондық желілердің құрылымын, олардың жұмыс істеу ережелері мен принциптерін зерттеу;
Бейнелерді тану принциптері мен әдістерін қарастыру;
Нейрондық желілерді оқыту алгоритмдерін теориялық зерттеу;
Суреттерді (сандарды) танитын жасанды нейрондық желіні құру алгоритмін құру. Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

5
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

5
КЖ.05-057-19-03.23.03.2021.ТЖ

БЕЙНЕЛЕРДІ ТАНУ ПРИНЦИПТЕРІ
Тірі организмдердің негізгі мінез-құлқы - "тану" қабілеті, яғни сезім мүшелерінен, белгілі бір объектілерден, заңдылықтар мен құбылыстардан келетін ақпарат ағынында анықтау. Кескін - бұл объектінің сипаттамасы. Біз айналамыздағы бейнелерді анықтаймыз және сол суреттерге сәйкес біз қозғаламыз және белгілі бір әрекеттерді жасаймыз. Көп қиындықсыз көп адамдар ішінен таныс адамды байқай аламыз және оның не айтқанын анықтай аламыз, достың дауысын біле аламыз, жазбаша немесе қолмен жазылған мәтінді оқып, саусақ іздерін анықтай аламыз, зұлым гриманы күлімсіреуден ажыратуға болады. Адам - бұл күрделі ақпараттық жүйе.
Адамның белгілі бір бейнелерді білуі, адамның белгілі бір жеке тұлғалармен өзара әрекеттесу процесіне байланысты психофизиологиялық міндет ретінде қарастырылуы мүмкін. Шын мәнінде, адамның сана-сезімі бір типтегі объектілердің ұқсастығына негізделген. Яғни, декодтау бастапқы деректердің адамның өткен тәжірибесімен анықталған және декодтау үшін бағдар мен априорлық ақпаратты білдіретін статистикалық жиынтықтардың белгілі бір мысалдарына сәйкес келетіндігінің нақты мүмкіндіктерін бағалауға дейін азаяды. Осылайша, үлгіні тану мәселесі жеке суреттермен емес, олардың жиынтығымен сәйкестендірудің көмегімен алынған деректер себептері арасындағы әртүрлі типтерді анықтау проблемасына әкелуі мүмкін; соңғысы белгілі бір популяцияны құрайтын көптеген объектілерге белгілерді (инвариантты қасиеттерді) іздеу арқылы жүзеге асырылады.
Сонымен қатар, білім беру анықтамасын бастапқы деректердің белгілі бір кескін класына қатынасы ретінде анықтауға болады, олар бар белгілерді немесе осы деректерді сипаттайтын меншікті, жоқ бөлшектердің жалпы массасынан. Суреттер класы деп барлық элементтерге ортақ олардың қатарымен анықталған кейбір категория түсініледі. Сурет кез-келген элементтің сипаттамасын бейненің тиісті класын білдіретін етіп түсіну керек. Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

6
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

6
КЖ.05-057-19-03.23.03.2021.ТЖ

Үлгіні тану мәселесінің маңызды шешімі - әр сыныптың белгілерін анықтау үшін ұсынылған жеке суреттерге бірқатар қарапайым сынақтарды қолдану. Барлық осы сынақтардың жиынтығы әртүрлі сыныптардағы барлық қосымша суреттерді ашуы керек.
Егер сіз осы интуитивті тәсілді ұстанатын болсаңыз, онда кескіндерді ақпараттандырудың автоматты жүйесін құру өте қарапайым тапсырманы көрсете алады. Алайда, ықтимал сынақтардың қайсысын мәлімделген суреттерге қолдану керектігін анықтауға мүмкіндік беретін жалпы теория жоқ. Бұл тәсіл әзірлеушінің тәжірибесі мен техникалық түйсігіне байланысты, сондықтан көбінесе практикалық іс-әрекетте кездесетін суреттерді тану мәселесіне қанағаттанарлық шешім бермейді.
Бірақ нақты тапсырмаға оралайық - қол сандарын декодтау. Әрбір нақты Сан, оның қалай жазылғанына байланысты, оны анықтау құралы ретінде қолданылатын бірқатар жалпы белгілерге ие. Сандар оларда белгіленген белгіге сәйкес анықталады және жіктеледі. Үлгіні тану жүйесінің негізгі функциялары-сол суреттер класына жататын қол сандарындағы жалпы белгілерді анықтау және бөлу, яғни. бұл санды кез келген басқа жағдайда тану және оны берілген ондаған сыныптардың біріне жатқызу бірдей сан болып табылады: "0" саны, "1" саны, "2" саны, "3" саны, "4" саны, "5" саны, "6" саны, "7" саны, "8" саны, "9"саны.
Бейнелерді тану жүйесі
Тану жүйелерінде 1-суретте көрсетілген келесі типтік функционалды схема бар. Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

7
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

7
КЖ.05-057-19-03.23.03.2021.ТЖ

Сурет 1 - Тану жүйелерінің функционалды диаграммасы
Танылатын кіріс деректері жүйенің кірісіне жіберіледі және оларды келесі кезеңге қажетті формаға айналдыру үшін немесе олардан қажетті айрықша белгілерді алу үшін алдын-ала өңдеуге ұшырайды. Кейіннен шешім қабылдау сатысында мәліметтердің өңделген массивінде бірқатар есептеулер жүргізіледі және олардың нәтижелері бойынша жүйеден күтілетін енгізу мәліметтері туралы жауап қалыптасады. Кіріс және шығыс мәліметтерінің мазмұны жүйенің мақсатымен анықталады. Мысалы, егер енгізу қолмен жазылған цифрдың кескіні болса, онда жүйе цифрдың атын шығыс ретінде шығара алады.
Тану жүйесінің жұмыс істеуінің сипатталған кезеңдерінен басқа, олардың көптеген мүмкін енгізулерге бейімделуі қамтамасыз етіледі; бұл кезең жүйені оқыту кезеңі деп аталады. Жүйені оқытудың мақсаты оның жадында болжамды кіріс класын тану үшін қажетті ақпарат жиынтығын қалыптастыру болып табылады.
Алдын-ала өңдеу кезеңінде тану алгоритмдері үшін қолдануға жарамды тану объектілерінің формаланған сипаттамасын қалыптастыру мәселесі шешіледі. Әдетте, бақыланатын объектілер туралы бастапқы деректер тануға жарамсыз түрде ұсынылады. Бұл нүктелік карталар, аудио файлдар, статистика (сандар жиынтығы), бейнелер және т.б. Кейбір тану алгоритмдері неғұрлым жоғары деңгейде көрсетуді қажет етеді. Бұл бастапқы деректердің бір немесе бірнеше түрлендірулерін жасау қажеттілігіне әкеледі. Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

8
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

8
КЖ.05-057-19-03.23.03.2021.ТЖ

Шешімдер қабылдау кезеңі тану жүйесінің процесінде оның сипаттамалары тұтастай алғанда ең маңызды болып табылады. Анау. осы кезеңде шешілетін міндет көбіне жүйенің мақсатын анықтайды.
Шешім қабылдау кезеңінде шешілген екі негізгі мәселелер класын қарастырайық.
а) Тану - белгілі классификация ережелерін қолдану арқылы ұсынылған объектілерді белгілі бір кластарға бөлу. Бұл тану жүйелері үшін ең кең таралған міндеттердің бірі. Жүйе бұл функцияны орындамас бұрын, оны әр түрлі мысалдар бойынша - тану объектілерінің жаттығулар жиынтығы бойынша оқыту керек деп болжануда.
б) Классификация - бұл нысандардың жиынтығын олардың формаланған сипаттамаларына сәйкес бөлінген кластарға бөлу. Бұл мәселе жүйеден кіретін кескіндерді кез-келген нақты кластарға жіктеуді талап етпейтін жағдайларда шешіледі, бірақ оларды белгілі бір сипаттамаларға сәйкес кез-келген жолмен ажырату мүмкіндігі ғана қажет болады.
Қолмен жазылған цифрларды тану мәселесін шешу үшін жіктеу мәселесін қарастырған жөн. Ақыр соңында, бұл мәселені шешкен кезде жүйеден енгізілген кескіндерді белгілі бір кластарға бөлу талап етілмейді, тек оларды белгілі бір белгілеріне қарай ажыратып, берілген кластардың қайсысына жататынын анықтау қажет.

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

9
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

9
КЖ.05-057-19-03.23.03.2021.ТЖ

Кескінді жіктеу мәселесі
Нысанды жіктеу міндеті көбінесе келесідей қойылады Ck, мұнда k = 1, .., n және белгілі бір ақырғы объектілер жиыны (жаттығу жиынтығы деп аталады) бұрын белгілі Ck сыныптарының жиынтығына кіретін белгілі бір енгізу объектілерінің жиынтығы (біздің жағдайда қолмен жазылған цифрлар) бар.
Бірақ бұрын айтылғандай, тестілеу жиынтығынан басқа қажетті дисплейге сәйкес форманы анықтау мүмкін емес. Сондықтан дисплей кейбір реттелетін параметрлерді қамтитын кейбір математикалық функция түрінде модельденеді, олардың мәні алынған мәліметтер көмегімен анықталады. Мұндай функцияны формула түрінде жаза аламыз:
yk = yk (x, w),
мұндағы w = (w1,..,wW) - салмақ деп аталатын параметрлердің векторы.
Бұл контекстегі нейрондық желілердің маңыздылығы - олар көптеген кіріс айнымалыларынан бірнеше шығыс айнымалыларға дейін сызықтық емес бейнелеуді ұсынуға арналған өте қуатты және жалпы құрылымды ұсынады. Деректер жиынтығынан осы параметрлердің мәндерін анықтау процесі жаттығу деп аталады, осыған байланысты бұл деректер жиынтығы жаттығулар жиынтығы деп аталады. Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

10
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

10
КЖ.05-057-19-03.23.03.2021.ТЖ

НЕЙТРОНДЫҚ ЖЕЛІЛЕР
ЖНЖ қысқаша тарихы
Жасанды нейрондық желілердегі зерттеулер бірнеше жандану кезеңдерінен өтті:
Бірінші кезең 1943 жылы болды, нейрофизиолог Уоррен Маккуллох пен математик Вальтер Питтс нейрондардың жұмысы туралы мақала жазды. Мидағы нейрондардың жұмысын сипаттау үшін олар электр тізбегін пайдаланып қарапайым нейрондық желіні модельдеді. Олардың негізгі идеясы енгізу-шығару типінің кез-келген байланысын жасанды (формальды) нейрондық желі жүзеге асыра алады деген болатын.
ЖНЖ дамуының екінші кезеңі 1957 жылы Фрэнк Розенблаттың перцептронды ойлап табуы болды. 1958 жылы Фрэнк Розенблатт электронды құрылғының компьютерлік моделін көрсетті, оны ол перцептрон деп атады, ал 1960 жылы адамның көзі мен миының бірлескен жұмысын имитациялайтын бірінші жұмыс істейтін Марк-1 нейрокомпьютері жұмыс істеді. Машинаның негізгі мақсаты тану болды. Бұл кезеңнің соңы 1969 жылы Марвин Ли Минский мен Сеймур Пиперттің жариялануы болды, онда олар бір қабатты перцептрон шеше алмайтын мәселелердің маңызды класына назар аударды. Минский мен Пиперт жасанды интеллект саласындағы ғылыми зерттеулер мен қаржыландырудың беделін түсірді. Бірақ Минский мен Пиперттің перцептрондардың шектеулерін көрсеткеніне қарамастан, жүйке желісін зерттеу жалғасты.
1982 жылы әлемге әйгілі физик Джон Хопфилд нейрондық желілерге қызығушылық танытып, нейрондық желілерде жоғары оқылатын екі мақала жазды және бүкіл әлем бойынша көптеген дәрістер оқыды, бұл жүздеген жоғары білікті ғалымдарды, математиктерді және технологтарды дамушы салаға қосылуға сендірді нейрондық желілер. Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

11
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

11
КЖ.05-057-19-03.23.03.2021.ТЖ

Хопфилд нейрондардың жоғары Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

12
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

12
КЖ.05-057-19-03.23.03.2021.ТЖ

байланысқан кері байланыс желісін энергия бар динамикалық жүйе ретінде сипаттауға болатындығын көрсетті. Ассоциативті шақыруда ерікті (кездейсоқ) күйден басталатын желі ең төменгі энергиясы бар соңғы тұрақты күйге ауысады. Кері байланыс арқылы нейрондық желілерді сипаттауға жаңа көзқарас өте тиімді болды.
Ұқсас жетістік көп қабатты желілерге байланысты болды. Осындай желілерді үйрету үшін қателіктерді қайта орналастыру алгоритмі жасалды.
80-жылдардың ортасынан бастап, нейрондық желілер теориясы жаңа қол жетімді және өнімділігі жоғары дербес компьютерлердің пайда болуынан туындаған технологиялық серпінге ие болды.
Бұл мәселедегі ең маңызды жетістіктерге американдық IBM (Internationa Business Machines) компаниясы қол жеткізді. Зерттеудің алғашқы нәтижелері 2009 жылдың 14 қарашасында көрсетілді. Компания сәтті модельденген мысық миын көпшілікке ұсынды. Алайда, оның жұмысы нақты уақытқа қарағанда 643 есе баяу болғанын атап өткен жөн.
ANN дамуындағы келесі кезеңді 2011 жылдың 18 тамызында қарастыруға болады, ол кезде IBM 256 нейрон мен 262144 синапсты қамтитын дамыған жүйке процессорын құрды.

Сурет 2.1 - Биологиялық нейрон
Жоғарыдағы диаграммада көрсетілгендей, типтік нейрон келесі төрт бөліктен тұрады, сол арқылы біз оның жұмысын түсіндіре аламыз:
End Дендриттер - бұл басқа нейрондардан ақпарат алуға жауап беретін ағаш тәрізді бұтақтар. Басқа мағ Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

13
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

13
КЖ.05-057-19-03.23.03.2021.ТЖ

ынада, бұл нейронның құлақтары деп айтуға болады; - ядро - дендриттерден алынған ақпаратты өңдеуге жауап беретін нейрон жасушасының денесі;
- Аксон - нейрондар ақпарат жіберетін кабельдің бір түрі;
- Синапстар - аксон мен басқа нейрондардың дендриттері арасындағы байланыс.
Жасанды нейрон
Жасанды жүйке желілері - бұл мидың жүйке құрылымына негізделген салыстырмалы түрде шикі электронды модельдер. Нейрондық желінің негізгі өңдеу элементі - нейрон. Нейрон (жүйке жасушасы) - ақпаратты өңдейтін арнайы биологиялық жасуша. Мида нейрондардың саны өте көп, олардың әрқайсысы шамамен 1011өзара байланысты.
Кесте 1 - БНЖ және ЖНЖ ұғымдарының салыстырмалы сипаттамасы

Биологиялық жүйке жүйесі
Жасанды жүйке жүйесі
Ядро
Түйін
Дендриттер
Мәліметтерді енгізу
Синапстар
Салмақ
Аксон
Шығу ақпарат
3.2.1. Перцептрон
Персептрон - биологиялық нейронның абстрактілі моделі. Шындығында, бұл өте қарапайым процессор. Бұл қалай жұмыс істейді? Суреттен көріп отырғанымыздай, перцептрон x1, x2,...,xn бірнеше екілік кірістерді қабылдап, бір екілік шығуды шығарады. Бұрын аталған Розенблатт өнімді есептеудің қарапайым ережесін ұсынды. Ол w1, w2,...,wn салмақтарын енгізді - шығыс үшін сәйкес кірістің маңыздылығын білдіретін нақты сандар. Біз бұларды кескінді жіктеу проблемасы туралы айтып, формуланы енгізгенде айтқан болатынбыз. Нейронның қосынды жұмысының нәтижесі қосындыдан болатындығыj=1nωjxj, өлшенген, кейбір шекті мәндерден аз немесе үлкен деп аталады. Салмақ сияқты, шегі - бұл нейронның параметрі болатын нақты сан. Мұны формуладағыдай дәлірек алгебралық түрде сипаттайық:
output=0, егер j=1nωjxj =шекті мән1,егер j=1nωjxj шекті мән
Бұл негізгі математикалық модель. Сіз перцептрон туралы ойлауға болады: бұл әр түрлі деректерді өлшеу арқылы шешім қабылдайтын құрылғы. Сондықтан, перцептрондардың күрделі желісі жеткілікті күрделі шешімдер қабылдауы мүмкін екендігі айқын болуы керек. Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

14
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

14
КЖ.05-057-19-03.23.03.2021.ТЖ

3 сурет - Перцептронды желі
3-суретте көрсетілген перпетрондар желісін қарастырайық. Бұл желіде перцептрондардың бірінші бағанасы - біз оны перцептрондардың кіріс қабаты деп атаймыз - кірістерді өлшеу арқылы қарапайым шешімдер қабылдайды. Екінші қабаттағы перцепрондардың әрқайсысы кіріс қабатының перцепрондарының шығуын өлшеу арқылы шешім қабылдайды. Яғни екінші қабаттағы перцептрон бірінші қабаттағы перцептронға қарағанда күрделі және абстрактылы деңгейде шешім қабылдай алады. Ал одан да күрделі шешімдерді үшінші қабаттағы перцептрон және т.б. Осылайша, перцепрондардың көп қабатты желісі күрделі шешімдер қабылдауға қатыса алады.
Бұрын перцептронның бір ғана шығысы бар деп айтылған болатын. Жоғарыдағы желіде перкетрондар бірнеше шығысқа ие сияқты көрінеді. Шындығында, олардың әлі де бір ғана шығатын жолы бар. Бірнеше шығыс көрсеткілері - бұл перцептронның шығысы басқа бірнеше перцепронға кіріс ретінде пайдаланылатындығын көрсетудің пайдалы әдісі. Бұл бір шығыс сызықты салғаннан гөрі аз, содан кейін бөлінеді.
Оқыту алгоритмдері бағдарламалаушының тікелей қатысуынсыз, сыртқы ынталандыруға жауап ретінде нейрондық тордың салмақтары мен ауытқуларын автоматты түрде реттейді. Оқыту үдерісі ең жақсы жіктеу нәтижесіне жақындата отырып, нәтижеде аздап өзгеріс алу үшін салмақ пен дисперсияның шамалы өзгеруін көздейді. Бірақ перцептрондық желі осылай жұмыс істемейді, тіпті кішкене әсер ету де күтпеген салдарға алып келетін түбегейлі өзгерістер тудыруы мүмкін. Бұл мәселені шешу үшін активтендіру функциялары қолданылады. Персептрон үшін активация функциясы, формулалардан көрініп тұрғандай, бірлік функция болып табылады.
3.2.2 Іске қосу функциялары
Біз нейронның салмақтары мен активтендіру функциясымен толық сипатталатындығын анықтадық, мұндағы ψ - өлшенген қосынды. Х вектор Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

15
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

15
КЖ.05-057-19-03.23.03.2021.ТЖ

яын кіріс ретінде қабылдап, нейрон шыққан кезде белгілі бір санды шығарады. Белсендіру функциясы әр түрлі болуы мүмкін. Ең көп қолданылатын опциялар кестеде көрсетілген (өлшенген сома s үшін көрсетілген):
Кесте 2 - Нейронды активтендіру функцияларының тізімі
Аты
Формула
Мәндер ауқымы
Табалдырық
f(s)=0,s01, s=0
(0,1)
Иконикалық
f(s)=1,s0-1, s=0
(-1,1)
Сигмоидтық (логистикалық)
f(s) = 11+e-s
(0,1)
Жартылай сызықтық
f(s)=0,s=0s, s0
(0; infinity)
Сызықтық
f(s) = s
(-infinity; +infinity)
Радиалды негіз (Гаусс)
f(s) = exp(-s2)
(0,1)
Қанықтылығы бар жартылай сызықтық
fs=0,s=0 s, 0s11, s=1
(0,1)
Қанықтылықпен сызықтық
fs=-1,s=-1 s, -1s11, s=1
(-1,1)
Гиперболалық тангенс
f(s) =e3-e-3e3+e-3
(-1,1)
Үшбұрыш
f(s)=1-s,s=10, s1
(0,1)
Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

16
КЖ.05-057-19-03.23.03.2021.ТЖ

Өзг.
Бет
Құжат №
Қолы
Уақыт
Бет

16
КЖ.05-057-19-03.23.03.2021.ТЖ

Ең кең тарағандарының бірі формуламен ұсынылған логистикалық функция немесе сигмоидтық функция деп аталатын қанықтылығы бар сызықтық емес функция:
f(s) = 11+ⅇ-s
Логистикалық функция келесі қасиеттерге ие:
бұл қысу функциясы, яғни аргументіне (салмақталған қосындысына) қарамастан шығыс сигналы әрдайым 0-ден 1-ге дейін болады;
Барлық нүктелерде оның туындысы бар және бұл туынды сол функция арқылы көрсетілуі мүмкін. Туынды формула бойынша ұсынылған:
f'(s) = f(s)(1-f(s))
3.3 Нейрондық желінің архитектурасы
Нейрондық желілердің көптеген түрлері бар.
Feedforward желісі (feedforward желісі) - бұл кері байланысы жоқ нейрондық ... жалғасы

Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.