Жасанды интеллект желілерін салыстыру

Жұмыс түрі: Дипломдық жұмыс
Тегін: Антиплагиат
Көлемі: 32 бет
Таңдаулыға:

Қазақстан Республикасы Білім және ғылым министрлігі
Әл-Фараби атындағы Қазақ Ұлттық университеті
Механика-математика факультеті
Математикалық және компьютерлік пішіндеу кафедрасы

ДИПЛОМДЫҚ ЖҰМЫС
тақырыбы: Python бағдарламалау тілінде жасанды интеллект алгоритмдерін құру

мамандық бойынша 5В070500 - Математикалық және компьютерлік модельдеу

Орындаған:
____________________
Асет А.

Ғылыми жетекші:
PhD, доцент м.а.
____________________
Умбеткулова А.Б.

Қорғауға жіберілді:
Хаттама № ____, ___ ______2021ж.

Кафедра меңгерушісі:
____________________
Исахов А.А.

Нормабақылаушы:
____________________
Аятбек А.

Алматы, 2021ж
МАЗМҰНЫ
АННОТАЦИЯ 3
КІРІСПЕ 6
1 ПӘНДІК АЙМАҚТЫ ТАЛДАУ 9
1.1 Жасанды интеллект желілері туралы түсінік. Тікелей тарату желілері 9
1.3 Кері байланыс бар желілер. Рекурентті нейрондық желілер. Ұзақ мерзімді жады бар желі 16
1.5 Жасанды интеллект желілерін салыстыру 21
1.6 Жасанды интеллект пен нейрондық желілерді пайдалану бағыттары 22
1.7 Жасанды интеллекттің даму тарихы 24
2 ЖОБАНЫ ЖАСАУҒА ҚАЖЕТТІ ҚҰРАЛДАРДЫ ЖӘНЕ ЖҮЙЕЛЕРДІ ТАЛДАУ 26
2.1 Жоба анықтамасы 26
2.2 Python. TensorFlow және Keras 27
2.4 Python программалау тілі 31
3 ТЕЛЕГРАМ немесе жылдам хабар беру 34
3.1 ТЕЛЕГРАМ туралы түсінік 34
3.2 Телеграм бот 34
3.3 Telegrambot - тың мүмкіншіліктері функционалдық мүмкіндіктері 35
4 SQL деректер қоры 37
4.1 SQL негізгі түсінік 37
4.2 SQL шығу тарихы 37
ҚОРЫТЫНДЫ 39
ПАЙДАЛАНЫЛҒАН ӘДЕБИЕТТЕР 40

АННОТАЦИЯ
Данный дипломный проект посвящен подходу выявления внутреннего и внешнего онлайн и телефонного мошенничества. В теоретической части описаны методики для анализа искуственнего интелекта. Целью данной дипломной работы является создание модели для выявления мошенничества и использование алгоритмов искуственного интелекта для выявления мошенничества. Данный проект содержит не только выявление мошенничества, а также содержит и автоматизацию процессов и быстрое оповещение с помощью Телеграм бота. Для работы данного проекта обьязательно необходима база SQL, Python 3.7, Pycharm IDE. Для данного проекта были выбраны и использованы сверточные нейронные сети в виде искуственного интелекта. Для тренировки искуственного интелекта было использовано около 2 млн транзакций. Данный проект в настоящее время использвуется в банковской сфере. Актуальность данного проекта можно доказать тем, что сейчас каждый житель города обязательно держит карточки и пользуется интернет банкингом. По статистике можно узнать что с 2019 года до 2020 год в Казахстане мошенничество возрасло почти в 2 раза. Это доказывает, что данный дипломный проект очень актуален.

АҢДАТПА
Бұл дипломдық жоба ішкі және сыртқы, онлайн мен телефон алаяқтылықтарын анықтауға арналған. Теориялық бөлімде жасанды интеллект бөлімдері мен пайдалануымен таныса аласыздар. Бұл жобаның мақсаты алаяқтылықты анықтай модель құру, және де сол модельды жасанды интеллект алгоритмдерін пайдалану арқылы дамыту. Бұл жобада тек қана жасанды интеллекттің көмегімен алаяқтылықты анықтау ғана емес, бірден администратор телефонына хабар беру мүмкіндігі қарастырылған болатын. Ол үшін жоба авторы телеграм ботты пайдаланады. Қауіпсіздікті сақтау үшін телеграм ботқа тек қана автор көрсеткен телефон иелері ғана көру, оқу мүмкіндіге ие бола алады. Жасанды интеллектті оқыты үшін 2 млнға жуық транзакция пайдаланылған болатын. Ол үшін ең бірінші ол транзакцияларды модельге салу арқылы алаяқтылықты анықтап, одан алынған жауапты жасанды интеллектті оқыту үшін пайдаланылды. Бұл жобаның өзектілігінің дәлелі қазіргі таңда әрбір адам төлем картасы мен төлемдер жасауы және онлайн банкинг арқылы аударымдар мен төлемдер жасауы. Бұл проекттің жұмыс жасауы үшін SQL деректер жүйесі, Python 3.7, Pycharm IDE қажет болады.

ANNOTATION
This thesis project focuses on an approach to identifying internal and external online and telephone fraud. The theoretical part describes methods for the analysis of artificial intelligence. The purpose of this thesis project is to create a model for detecting fraud and using artificial intelligence algorithms to detect fraud. This project contains not only fraud detection, it also contains process automation and quick notification using the Telegram bot. For this project to work, you need a SQL database, Python 3.7, Pycharm IDE. For this project, convolutional neural networks in the form of artificial intelligence were selected and used. To train artificial intelligence, about 2 million transactions were used. This project is currently being used in the banking sector. The relevance of this project can be proved by the fact that now every resident of the city necessarily holds cards and uses Internet banking. According to statistics, you can find out that from 2019 to 2020, fraud in Kazakhstan has almost doubled. This proves that this thesis project is very relevant.

КІРІСПЕ
Сарапшылардың сөзіне сүйенетін болсақ Қазақстан Республикасы Бас прокуратурасының Құқықтық статистика және арнайы есепке алу жөніндегі комитетінің мәліметтері бойынша 2020 жылы Қазақстанда онлайн-алаяқтардың саны 14 175 тіркелді, бұл 2019 жылмен салыстырғанда екі есеге көп (7 739 іс). Бұл деректерге сүйенетін болсақ Қазақстанда ғана емес бүкіл әлемде онлайн-алаяқтар жылдан-жылға өсіп бара жатыр. Оның себептерінің бірі қазіргі таңда болып жатқан экономика. Яғни көптеген адамдар ақшаны қолма-қол емес банк шоттарында карталарда, электронды шоттарда ұстайды және солармен төлемдер жасайды. Шамамен әрбір бесінші алаяқтық - азаматтардың жеке деректерін сатып алу арқылы олардың ақшаларын ұрлау. Касперский зертханасының ақпараттарына сәйкес, Интернеттің қазақстандық сегментінде қолданушылардың ақшасын жымқыру мақсатында алаяқтар құрған 5 мыңнан астам ресурстар анықталған. Жоғарыда келтірілген статистикалық мәліметтерге сүйене отырып, мобильді қосымшаларды пайдаланатын адамдар ақша алаяқтарын ұрлаудың күрделі әдістерінің қандай екендігіне күмәнданбауы мүмкін екенін мойындау керек. Белгісіз адамға кез-келген жеке ақпаратты жариялау оның иесіне ауыр зардаптар әкелуі мүмкін.

Жоғарыда тек 2019 жыл мен 2020 жылда болған алаяқтылық жайында статиска көрсеткен болатын.

Жоғарыда көрсетілген графикке мән беріп қарайтын болсақ, 2021-ші жылы 2020щы жылдан тағы да алаяқтылық саны 50% ға көтерілгенін көріп отырмыз.
Мысал 1. Банк қызметкері деп болжанған қызметкер сізге қоңырау шалып, техникалық ақаулардың алдын алуды сылтауратып, картаңыздың деректемелерін, пин-кодты немесе кодты сөздерді беруіңізді талап етті. Сонымен қатар, сіз алаяқтың сізбен сөйлесіп жатқанына күмәнданбайсыз, өйткені ол өзін банк қызметкерінің аты-жөнімен таныстырады және оған барлық қажетті деректерді береді. Бұл ақпарат алаяқтарға сіздің атыңыздан транзакциялар жасау үшін жеткілікті.
Қаржы реттеушісінің өкілі Касперский зертханасының деректері бойынша Орталық Азиядағы, ТМД және Балтық елдеріндегі әрбір үшінші қазақстандық - 31% - кем дегенде бір рет банк қызметкерінің атын жамылған алаяқтармен кездескенін баса айтты. Осындай төрт жағдайдың үшеуі - 73% - телефондық алаяқтық.
Мысал 2. Сіз өзіңіздің пайдаланып жүрген банктен күмәнді сілтемесі бар SMS немесе электрондық пошта хабарламасын алдыңыз. Сіз мұқият болмадыңыз және банктің жалған веб-сайтына сілтеме арқылы кірдіңіз. Деректеріңізді енгізу арқылы сіз өз ақшаңызды сіздің картаңыздан есептен шығара алатын алаяқтарға аударасыз.
Қазір онлайн-алаяқтылықтың жолдары өте көп. Банк өкілдері, құқық қорғау өкілдері жыл сайын күрессе де жаңа әдістер пайда болуда. Ал клиенттің алаяқтылыққа ұшырағанын алдын ала анықтау бұл банк өкілдерінің міндеті болып саналады. Ал оны анықтау үшін банкте болып жатқан әрбір транзакцияны бақылап қадағалап отыру керек. Әрине бұл адам үшін мүмкін емес. Себебі әрбір секунд сайын көптеген транзакция банк желісімен деректер қорына жиналып отырады. Бұндай алаяқтылықты анықтауды Антифрод депте атайды. Ары қарай Антифрод терминін пайдаланамын. Қазақстанда цифрлық технология дамып жатқандықтан онлайн немесе телефон алаяқылық кәзір аз аздан өсіп келе жатыр. Деректерге сүйенетін болсақ соңғы 1 жылда 50% өскенін көріп отырмыз. Ал антифрод қазақстанда дамымаған. Антифрод модельдері де өте аз. Бұл дипломдық жобаның мақсаты - Антифрод, яғни ішкі және сыртқы, телефон және онлайн алаяқтылықты анықтап Ықтимал зиян қауіпін азайту. Алаяқтылық болған жағдайда 3 түрлі зиян келеді:
Шығынсыз зиян. Клиенттің шотына кірді, бірақ ақша ала алмады.
Ықтимал зиян. Клиенттің шотына кірді, бірақ ақша алған жоқ. Ақша шешіп алу қаупі жоғары.
Нақты зиян. Клиенттің шотына кірді, ақша шешіп алынды.
Бұл дипломдық жоба осы 3 зиян түрлерін ескере отырып, нақты зиянның сомасын анықтайды, ықтимал зиянның алдын алады, шығынсыз зиянды анықтайды. Бұл дипломдық жобады Python программалау тілімен қатар жасанды интеллект, алаяқтылықты анықтау моделі қолданылады. Ал хабар беру ол Telegram bot арқылы жүреді. Телеграм ботқа тек администратор ғана кіре алады.
1 ПӘНДІК АЙМАҚТЫ ТАЛДАУ
1.1 Жасанды интеллект желілері туралы түсінік. Тікелей тарату желілері
Жасанды интеллект желілері - бұл ми құрылымының биологиялық желілеріне негізделген есептеу жүйелері және олардың бағдарламалық-аппараттық құралдары. Оның басты артықшылығы - оқу мүмкіндігі.
1.1 және 1.2 суреттерде биологиялық үлгідегі нейрондар құрылысының моделін алу нақты көрсетілген [3].

сурет - Биологиялық нейронның құрылымы

сурет - нейронның математикалық моделінің құрылуы.

Ең қарапайым жасанды интеллект негізгі элементі - жасанды нейрон немесе сигмоидты нейрон. Оның атауы онда қолданылатын активтендіру функциясынан шыққан (1.3 сурет).

сурет - Жасанды нейронның жұмысы.

Әрбір нейронның кірістері бар, олар арқылы сигнал қабылданады, кіріс сигналы өз салмағына көбейтіледі. Бірінші кірістің x1 сигналы осы кіріске сәйкес w1 салмағына көбейтіледі. Нәтижесінде x1w1 аламыз. Тоғызыншы кіреберіске дейін. Нәтижесінде соңғы кірісте xnwn [4] аламыз.
x1w1+x2w2+...+xnwn=i=1nxiwi
(1.1)
Бір нейрон тек сызықтық түрде бөлінетін міндеттерді шешуге қабілетті, бірақ егер бірнеше нейроннан тұратын желі жинақталса, одан асып кетуге болады. Бұл жағдайда бір қабатты желіні қолдану қажет - мұндай желіде нейрондардың кіріс және шығыс қабаттарынан басқа жасырын қабат деп аталатын аралық қабат пайда болады.
Жоғарыда қарастырылған барлық желілер тікелей тарату желілеріне тиесілі болды, яғни. сигнал кірістен шығысқа қатаң түрде өтті. Мұндай желілер кластерлеу, болжау және тану сияқты тапсырмалар үшін кеңінен қолданылады. 1.4-суретте тікелей таратудың жасанды жүйке желісі көрсетілген:

1.4 сурет - Тікелей тарату желісінің схемасы
Нейрондық желілерді күрделі аналитикалық технология деп санауға болады, анау белгілі алгоритмдерге негізделген әдіс берілген деректер, белгісіз параметрлердің мәндерін шығару. Жиырма Жасанды нейрондық желі - айтарлықтай жеңілдетілген модельбиологиялық жүйке желісі, яғни. жүйке жүйесінің элементі. Биологиядан негізгі идеялар мен қағидаларды қабылдады: Нейрон - бұл импульстарды қабылдайтын және беретін коммутатор, немесе сигналдар. Егер нейрон жеткілікті күшті импульс алса, онда нейрон іске қосылды, яғни импульстарды өткізеді дейді оларды нейрондар. Іске қосылмаған нейрон тыныш күйде қалады және импульс бермейді. Нейрон бірнеше компоненттерден тұрады: өзара байланысатын синапстар басқа нейрондармен нейрон және көршілес импульстарды қабылдау нейрондар, импульстарды басқа нейрондарға беретін аксон және дендрит, әртүрлі көздерден сигналдарды қабылдау, соның ішінде. синапстардан. Синапс екі бөліктен тұрады: пресинапстық, қосылған импульс өткізгіш клетканың аксоны, және постсинаптикалық, қосылған қабылдаушы жасушаның дендриті. Синапстың екі бөлігі де байланысты синапстық саңылау. Нейроннан басқа нейрондарға сигнал аксон арқылы беріледі, ол нейрондарды қабылдаумен тікелей байланысты емес. Пульс синапста бірнеше рет өзгереді: жөнелтілу алдында - пресинапстық бөлік және алғаннан кейін - постсинапстық бөлімде. Жіберу импульсы біріне байланысты нейронда қалыптасады немесе бірнеше алынған импульс. Көптеген импульстар болған жағдайда нейрон оларды жинақтайды. Оның серпін беруі немесе бермеуі кейіпкерге байланысты импульстерді қабылдады, олар кім арқылы берілді және т.б. Сондықтан тәуелділік берілген және алынған импульстер арасында сызықтық емес. Егер нейрон болса импульсті өткізеді, содан кейін ол іске қосылады.
Нейронның математикалық моделі келесідей болады:

1.5 сурет - Жасанды интеллект моделі
Х нейрондық моделінің кірісі - бұл көптеген (N) компоненттерден тұратын вектор. Кіру векторының құрамдас бөліктерінің әрқайсысы X[i] нейрон қабылдаған импульстардың бірі болып табылады.
Нейрондық модельдің шығысы бір X * санына тең. Бұл дегеніміз, модель шеңберінде кіріс векторы өзгеріп, скалярға біріктірілуі керек. Кейін бұл импульс басқа нейрондарға беріледі.
Импульс алған кезде нейрон синапсы оны өзгертетіні белгілі. Математикалық тұрғыдан бұл өзгеру процесін келесідей сипаттауға болады: кіру X[i] компоненттерінің әрқайсысы үшін салмақ (W[i]) қойылады. Синапс арқылы өтетін импульс W[i]X[i] формасын алады. Салмақтарды модельді инициализациялау кезінде тағайындауға болатындығын немесе олар ауыспалы және есептеулер кезінде өлшенетінін ескеріңіз. Салмақ - бұл жоғарыда талқыланған желінің ішкі параметрлері. Желілік тренингтер туралы айтатын болсақ, біз синапстың салмағын табуды айтамыз.
Алынған импульстерді қосу. Алынған импульстердің жиынтығы - олардың ∑W[i]X[i]. қосындысын есептеу.
Әдетте нейрондар желіде деңгейлері бойынша орналасады:
Бірінші деңгейде - кірісті нейрондар, олар сыртынан мәліметтерді қабылдайды және импульстарды келесі деңгейде нейрондарға синапстар арқылы жібереді.
Нейрондық желіні құру - күрделі процесс. Жеке нейрондық пакетті жасауға тек ірі компаниялардың мүмкіндігі бар. Әдетте, дайын пакеттер қолданылады.
Қазіргі уақытта жасанды интеллект құру мүмкіндігі туралы белсенді пікірталас жүріп жатыр. Көбісі жасанды интеллекттің пайда болуы адамның қадір-қасиетін төмендетеді деп санайды. Адам ақыл-ойының жетілуі мен дамуы туралы сұрақтармен жасанды интеллекттің мүмкіндіктерін шатастыруға болмайды.
Қазіргі әлемде жасанды интеллект барлық жерде қолданылады, бұл прогрестің жаңа серпінінің алғышарттарын жасайды. Жасанды интеллект өндірісті, демек, еңбек өнімділігін автоматтандыруға мүмкіндік береді. Бірақ кибернетика көптеген артықшылықтарға ие бола тұра, кемшіліктері де бар, олар адамзаттың өте мұқият назарын қажет етеді. Бұл кемшіліктер жасанды интеллектпен жұмыс кезінде пайда болатын қауіппен байланысты.
Кейбір мәселелер адамдардың шығармашылық жұмысқа деген ынтасын жоғалту мүмкіндігімен байланысты. Мұның бәрі әмбебап компьютерлендіруге және өнерде машиналарды қолдануға кінәлі. Бірақ бәрібір адамдар ең білікті шығармашылық жұмыстан өз еркімен бас тартпайтыны белгілі болды, өйткені бұл адамдардың өздері үшін тартымды.
Мәселелердің екінші тобы анағұрлым күрделі және келесілерден тұрады. Қазірдің өзінде жұмыс барысында оқудың, яғни сыртқы факторларға бейімделудің тәсілдері болып табылатын бағдарламалар мен машиналар бар. Жақын арада машиналар пайда болуы мүмкін, олар сенімділік пен бейімделгіштік деңгейіне ие болады, сондықтан адам процеске араласуды қажет етпейді. Бұл жағдайда адам өзінің функциясын - шешім табу функциясын орындауды тоқтатады.
Мүмкін, адам сыртқы жағдайлардың өзгеруіне лайықты жауап қайтара алмауы мүмкін, сонымен қатар төтенше жағдай кезінде бақылауды өз қолына алуы мүмкін. Ауыр процесстерді автоматтандыруға кейбір шектеулер енгізу қажет болады төтенше жағдайлар, содан кейін басқару машинасын басқаратын адам әрдайым жеткілікті реакцияға ие болады және күтпеген жағдайда дұрыс әрекет ете алады.
Осындай жағдайлар атом энергетикасы мен көлік саласында болуы мүмкін. Зымыран күштерінде мұндай қауіпті атап өткен жөн, өйткені қателік ауыр зардаптарға әкелуі мүмкін.
Көрсетілгендей, бірнеше рет тексеріп, қайталанғаннан кейін де қателіктер ықтималдығы өте жоғары болады. Бақылаушы оператордың болмауы өлімге әкелетін қатеге әкелуі мүмкін.
Сонымен қатар, соңғы жылдары психофизиологияға және оның көмегімен алынған адам миының бақылауларына көбірек көңіл бөлінуде. Адам қазірдің өзінде біздің интеллектіміз бен санамыздың қалай орналасқанын түсінеді. Миды сканерлеу және көптеген тәжірибелер көрсеткендей, біздің барлық ойларымыз бен сезімдеріміз нақты физикалық көрініске ие. Кез-келген ой - бұл біздің миымыздағы нейрондар тізбегінің активтенуінің бірізділігі. Бұл дегеніміз, бұл процесті зерттеуге және оны басқаруға, компьютерлік модельдеу жасауға үйренуге болады. Қазіргі уақытта адам мен жануарлардың нейрондарының модельдерін имитациялайтын компьютерлік модельдер бар
Мұның бәрі ғалымдарға 2030 жылға қарай компьютерлер адам миының мүмкіндіктеріне сәйкес осындай есептеу күшіне ие болады деп сенуге негіз береді. Шындығында, бұл адамның сана-сезімін компьютерге жүктеуге мүмкіндік береді. 2020 жылы таза машиналық ақылдың теориялық негіздері жасалуы әбден мүмкін. Қалай болғанда да, 2025 жылдан 2035 жылға дейінгі аралықта жасанды интеллект адамның мүмкіндіктерін қуып жетіп, одан асып түседі.
1.2 Терең нейрондық желілері
Терең нейрондық желі (англ. Deep Neural Network, DNN) - бұл бірнеше жасырын қабаты бар кез келген желі. Терең жүйке желісінің теориялық есептеу мүмкіндіктері шектеулі емес, мәселе тек жасырын қабаттар саны мен жабдықтың ресурстық сыйымдылығында. Терең нейрондық желінің қарапайым мысалы бірнеше h1 және h2 жасырын қабаттары бар тікелей тарату желісі болып табылады, олар да толық қосылған қабаттар (1.6-сурет).

1.6 сурет - тікелей тарату жасанды интеллекті

Тікелей тарату желісінің негізгі проблемасы - жасырын қабаттар мен нейрондардың көп болуымен, оқыту процесі, деп аталатын, баяу жұмыс істей бастайды. Себебі кез-келген қабаттың әрбір нейроны алдыңғы және кейінгі қабаттардың барлық нейрондарымен байланысты.
Көбінесе терең нейрондық желілері мыналарды қамтиды:
Тура тарату нейрондық желілері
Рекурентті нейрон желілері.
Конволюциялық (сверточные) нейрондық желілері.
Капсулалық (капсульные) нейрондық желілері.
Терең нейрондық желілер саны өте көп, бірақ жоғарыда айтылғандар ең көп зерттелген және танымал. 1.7 суретте ең танымал жүйке желілерінің схемалары мен құрылымдары көрсетілген [5].

1.7 сурет - танымал жасанды интеллект архитектуралары
1.3 Кері байланыс бар желілер. Рекурентті нейрондық желілер. Ұзақ мерзімді жады бар желі
Рекурентті жүйке желілері (англ. Recurrent Neural Networks, RNN) - осы типтегі желілерде элементтер арасында бағытталған тізбектер пайда болады. Бұл функция кері байланыс орнатуға және ақпаратты сақтауға мүмкіндік береді. Қайталанатын желілер машиналық аудармада кеңінен қолданылады.

сурет - рекурентті жүйке желісінің схемасы

Рекурентті нейрондық желі бұрын алынған деректерді есепті шешу үшін пайдаланады.
Кейбір жағдайларда бұл немесе басқа мәселені шешу үшін тек алдыңғы ақпаратқа сілтеме жасау қажет. Мысалы: су ішіндегі балықтар, су ішіндегі келесі сөзді болжау үшін нейрондық желі тек алдыңғы сөзге сілтеме жасай арқылы табады.
Бірақ көп жағдайда қосымша ақпараттар қажет. Мысалы: Мен Қазақстанда тұрамын ... Менің ана тілім - .... Бұл жағдайда нейрондық желі Менің ана тілім - ... сөзінен кейін тілдің атауы тұрғанын түсінеді. Бірақ бұл контекстен алынғандықтан Қазақстан сөзін есіне алады.
Бұл алшақтықты(разрыв) тудырады [6]. Алшақтық 1.6-суретте көрсетілген.

1.9 сурет - Рекурентті желідегі алшақтық
Өкінішке орай, бұл алшақтық ұлғайған сайын, рекурентті желі ақпарат арасындағы байланысты жоғалтады.
Ақырындап, бірақ біз нейрондық желілердің келесі түріне келдік - ұзақ мерзімді жады бар, қайталанатын желілер проблемаларынан зардап шекпейтін желілер. Ұзақ мерзімді жады бар желілер (англ. Long Short Term Memory, LSTM) - нейрондық желінің бұл түрі ұзақ мерзімді тәуелділіктерді білуге қабілетті қайталанатын нейрондық желіге негізделген. Олардың басты ерекшелігі - ақпараттарды ұзақ уақыт сақтау, бұл оларды көп жаттықтыруды қажет етпейді.

1.10 сурет - LSTM диаграммасы

LSTM құрылымы - бұл төрт LSTM модулімен ұсынылған тізбек, олардың әрқайсысы ерекше тәсілмен өзара әрекеттеседі.
1.4 Конволюциялық нейрондық желілер
Конволюциялық нейрондық желілері (англ. Convolutional Neural Network, CNN) - бұл тікелей тарату желісіне ұқсас құрылымдалған терең оқыту желісі. Нейрондық желінің бұл түрі бастапқыда кескіндермен жұмыс істеуге арналған, нәтижесінде ол жоғары нәтижеге жету үшін жүйке желісінің жұмысын оңтайландырды. Негізгі айырмашылықтар 1.8 суретте көрсетілген.

1.11 сурет - Қарапайым және конволюциялық нейрожелісінің айырмашылығы

Сол жақтағы суретте екі жасырын қабаты бар тікелей тарату желісі көрсетілген. Кіріс кезінде ол мәндер векторын қабылдайды және олардың негізінде шығыс мәндердің векторын алады. Оң жақта конволюциялық жүйке жүйесі орналасқан, онда нейрондар дәйекті қабаттарда емес, ені, биіктігі және тереңдігі бойынша үш өлшемде орналасқан. Әрбір катушкалар қабаты активация функциясы мәндерінің кіріс көлемін 3D көлеміне түрлендіреді. Бұл схемада ені мен биіктігі кескіннің өлшемі, ал тереңдігі RGB палитрасы болады.
Конволюциялық желі - бұл қабаттардың кезектілігі, мұнда әр қабат функцияның көмегімен бір томды екінші деңгейге ауыстырады. Бұл желіде келесі қабаттар бар: конволюциялық қабат, бассейн қабаты және толық қосылған қабат. Сондай-ақ, ReLU белсендіру функциясын есептейтін жеке қабатты атап өту керек (формула 1.2),

ReLUx=max⁡(0,x)
(1.2)

Әрі қарай мен CIIFAR-10 деректер жиынтығы 10 класқа бөлінген 32x32 размері бар 60000 RGB кескіндерінен тұратын суретке конволюциялық желісін пайдаланып мысал келтіремін.
[INPUT CONV RELU POOL FC],
Бұл жерде:
INPUT - кіріс қабаты 32х32х3 пиксель мәндерінен тұрады.
CONV - Конволюциялық слой 32х32х12 (12 фильтр), әрбір нейрон өлшенген соманы есептейді. Тек локальды облыстармен ғана қосылған.
RELU - ReLU қарапайым қабаты көлменін өзгертпейді. Тек маңызды қасиеттерін қарастырады.
POOL - жинақтау қабаты бастапқы көлемді (16х16х12) түрлендіре отырып, кеңістіктік өлшемдер бойынша (ені мен биіктігі) төмендетілген дискретизация жасайды.
FC - толық қосылған қабат, 1х1х10 кіріс мәліметтерін түрлендіру арқылы класстардың мәнін есептейді (10 - CIFAR-10 кластарының саны).
Конволюциялық желі - бұл желілердің биологиялық прототипі мен кәдімгі көп қабатты перцептрон арасындағы алтын орта. Қазіргі уақытта конволюциялық нейрондық желілер көптеген жағдайларда кескіндерді сәтті таниды. Олардың жылдамдығы басқа желілерге қарағанда орта есеппен 10-15% жоғары.
Қазіргі заманғы конволюциялық желілер өте танымал, олардың жетістігінің басты себебі - олардың алдыңғы нұсқаларымен салыстырғанда параметрлерінің аздығында. Сондай-ақ, оларды оқыту алгоритмі өзгеріссіз қалады және қателерді кері таратуға негізделген.

Сурет 1.12 - Конволюцияны және таңдауды(подвыборка) визуалдау
Алайда, ширатылған нейрондық желілердің бір маңызды құрылымдық кемшілігі бар. Мысалы: адамның бет-бейнесі, көз, ерін, мұрын және ауыз. Желі үшін фактінің өзі кескіннің тұлғаны бейнелейтіндігіне сенімді себеп бола алады. Компоненттер арасындағы бағыт пен салыстырмалы кеңістіктік қатынастар конволюциялық желі үшін өте маңызды емес.

Сурет 1.13 - конволюциялық желінің кемшілігі

Ал енді, шынымен конволюциялық желі бұл екі суретті ажыратпайды. Google кескіндерді іздейтін нейрондық желісінің архитектурасын айтпайды, бірақ осы мысалды қолдана отырып, бұл желі конволюциялық желі деп санауға болады. Google әдейі бұрмаланған кескінді жүктегенде, оның Ким Кардашьян екенін көрсетіп, бұрмаланбаған кескінді жоғары сапада жүктеуді ұсынды (сурет 1.12).

Сурет 1.13 - Бұрмаланған кескінді іздеу
Екі суретте де бет бейнеленген, конволюциялық желі оны түсіне алмайды. Бұл желінің конволюциялық қабаты компоненттерді анықтай алады, бірақ олардың басқа компоненттерге қатысты орнын анықтай алмайды.

1.5 Жасанды интеллект желілерін салыстыру

Кесте 1.1 - тереңдетілген нейрондық желілерді салыстыру.

1.6 Жасанды интеллект пен нейрондық желілерді пайдалану бағыттары
Қазіргі уақытта жасанды интеллекттің басталуы авиацияда біраз уақыттан бері қолданылып келеді. Заманауи автопилот ұшу-қону бағытындағы рейсті адамның көмегінсіз толықтай аяқтай алады. Әдеттегі жасанды интеллект автомобильдері адамның көмегінсіз алыс қашықтықты жүріп өтуге қабілетті. Францияда және Жапонияда теміржолдарды ИИ басқаратын автоматты пойыздар жүреді, олар жолаушыларға сапар барысында барынша жайлылық пен қауіпсіздікті қамтамасыз ете алады. Қазіргі кезде жасанды интеллектті дамыту технологиясына бірнеше тәсілдер кіреді, олардың арасында келесілерді ажыратуға болады:
Адам миының жұмысына ұқсас принциптер бойынша жұмыс істейтін жүйке тізбектері. Олар қолжазба мен сөйлеуді тану үшін, қаржылық бағдарламаларда, диагноз қою үшін және т.б. үшін пайдаланылады.
Эволюциялық алгоритмдер, робот бағдарламаларды олардың мутациясы, қиылысуы (бағдарламалардың бөліктерімен алмасу) және кез-келген мақсатты тапсырманы орындау үшін сынау арқылы жасағанда жасайды. Бұл жағдайда ... жалғасы

Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.