Жасанды интеллектуалды эмоцияны тану жүйелері
Қазақстан Республикасының Білім және ғылым министрлігі
Л.Н. Гумилев атындағы Еуразия ұлттық университеті
Абеков Улан Куанышевич
НЕЙРОНДЫҚ ЖЕЛІЛЕРДІ ҚОЛДАНА ОТЫРЫП, ТҰЛҒАЛАРДЫ ТАНУДЫҢ ЗИЯТКЕРЛІК ЖҮЙЕСІН ІСКЕ АСЫРУ
7М06103 - Ақпараттық жүйелер мамандығы
бойынша ақпараттық жүйелер магистрі академиялық
дәрежесін алуға магистрлік диссертация
(ғылыми-педагогикалық бағыт)
Нұр-Сұлтан, 2021ж.
Қазақстан Республикасының Білім және ғылым министрлігі
Л.Н. Гумилев атындағы Еуразия ұлттық университеті
Қорғауға жіберілді:
Ақпараттық жүйелер деканы
_____________ Ш. Ж. Сеилов
(қолы)
_____________2021 ж.
Магистрлік диссертация
НЕЙРОНДЫҚ ЖЕЛІЛЕРДІ ҚОЛДАНА ОТЫРЫП, ТҰЛҒАЛАРДЫ ТАНУДЫҢ ЗИЯТКЕРЛІК ЖҮЙЕСІН ІСКЕ АСЫРУ
Мамандық: 7М06103 - Ақпараттық жүйелер
(ғылыми-педагогикалық бағыт)
Магистрант У. К. Абеков
(қолы)
Ғылыми жетекші,
экономика ғылымдарының
докторы А. Т.Тохметов
(қолы)
Кафедра меңгерушісі ________________ Д. А. Тусупов
(қолы)
Нұр-Сұлтан, 2021ж.
МАЗМҰНЫ
НОРМАТИВТІК СІЛТЕМЕЛЕР 3
БЕЛГІЛЕР МЕН ҚЫСҚАРТУЛАР 4
КІРІСПЕ 5
1. Жасанды интеллектуалды жүйелер мен нейрондық желілердің негізгі түсініктері 7
1.1 Нейрондық желілердің шығу тарихы 7
1.2 Жасанды нейрондық желітүсінігі 8
1.2.1 Биологиялық нейрон және жасанды нейрон 9
1.3 Жасанды зияткерлік жүйелердің жіктелуі 11
1.4 Деректерді талдау жүйесіндегі профильдеу 15
1.5 Жасанды интеллектуалды эмоцияны тану жүйелері 17
2. Нейрондық желілер мен эмоцияларды танудың ақпараттық модельдері 21
2.1 Бір бағытты көп қабатты желілер 21
2.1.1 Көп қабатты персептронды қатені кері тарату әдісімен оқыту 22
2.2 Қайталанатын нейрондық желі 24
2.3 Кохонен желілері 25
2.3.1 Кохонен алгоритмі 27
2.4 Радиалды нейрондық желілер 28
2.5 Бет бұлшықеттерінің қозғалыс қарқындылығы 31
2.6 Суреттегі адамдарды анықтау әдістерін талдау 32
3. Нейрондық желіні қолдана отырып, эмоцияларды тану алгоритмі 39
3.1 Тану есебінің математикалық тұжырымы 39
3.1.1 Бет тану инварианттарын алу 39
3.1.2 Тиісті метриканы таңдау 40
3.1.3 Нейрондық желіні тану мәселесін шешу 40
3.2 Бет қимыл белсенділігін тану әдістемесі 41
3.2.1 Python-да нейрондық желіні оқыту 46
ҚОРЫТЫНДЫ 50
ПАЙДАЛАНЫЛҒАН ӘДЕБИЕТТЕР ТІЗІМІ 52
ҚОСЫМША А 54
НОРМАТИВТІК СІЛТЕМЕЛЕР
Осы магистрлік диссертацияда келесі стандарттарға сілтемелер беріледі:
1 ҚР СТ 34.008-2002 Ақпараттық технологиялар. Қазақстан Республикасы Өнеркәсіп және сауда министрлігінің Стандарттау, метрология және сертификаттау жөніндегі комитетінің 2002 жылғы 29 желтоқсандағы № 519 бұйрығымен бекітілген бағдарламалық қамтамасыз етуді статистикалық талдау;
2 ISO IEC 2382-20: 1990 Ақпараттық технологиялар. Сөздік. 20 бөлім. Анықтау жүйесін әзірлеу
Осы магистрлік диссертацияда тиісті анықтамалары бар мынадай терминдер пайдаланылады:
ДҚБЖ (деректер базасын басқару жүйесі) - дерекқорды құру мен пайдалануды басқаруды қамтамасыз ететін жалпы немесе арнайы мақсаттағы бағдарламалық және лингвистикалық құралдардың жиынтығы.
Python - кез келген қазіргі заманғы компьютерлік операциялық жүйеде қолдануға болатын жалпы мақсаттағы бағдарламалау тілі. Ол мәтінді, сандарды, суреттерді, ғылыми деректерді және компьютерде үнемдеуге болатын кез келген нәрсені ғана өңдеу үшін пайдаланылады.
PostgreSQL-бұл шексіз көлемді дерекқорды қолдау, қуатты және сенімді транзакциялар мен репликация механизмдері, кеңейтілген бағдарламалау тілдері жүйесі және C-үйлесімді модульдерді жүктеуді қолдау, мұрагерлік және оңай кеңейту мүмкіндігі бар дерекқорды басқарудың Объектілік-реляциялық жүйесі.
OpenCV-компьютерлік көру алгоритмдерінің кітапханасы, суретті өңдеу және ашық коды бар жалпы мақсаттағы сандық алгоритмдер.
БЕЛГІЛЕР МЕН ҚЫСҚАРТУЛАР
ДҚБЖ
Деректер базасын басқару жүйесі
ҚР
Қазақстан Республикасы
АҚШ
Америка Құрама Штаттары
БҚКЖ
Бет қимылдарын кодтау жүйесі
ӘД
Әрекет бірліктері
ІҚД
Іс-қимыл дескрипторы
ЖИЖ
Жасанды интелектуалды жүйе
ИАЖ
Интелектуалды ақпараттық жүйе
КІРІСПЕ
Компьютер адамға кеңесші болу қажет, жағдайды тез талдап іс-әрекет варианттарын кісіге ұсыну керек. Ал адам келтірілген вариаттардан керегін таңдайды. Қазір жасанды интеллект - шешімді жасау мен қабылдау үшін адамның қызметін күшейтетін, өзін-өзі үйрететін құрал-сайман.
Қазірдің өзінде зияткерлік жүйелерді қолдана отырып, практикалық шешімді қажет ететін көптеген салалар бар: медицина, геология, математика, қауіпсіздік жүйелері, бизнес, робототехника, экономика және т. б.[1, б.34]. Қолдану салаларының мұндай көптігі интеллектуалды жүйелер көп көлемді деректерді талдау және өңдеу мәселелерін шешудің, әр түрлі күрделілік деңгейіндегі мәселелерді шешудің бірегей жиынтығы екендігін көрсетеді.
Нейрондық желі дегеніміз бір түрдегі көптеген элементтерден тұратын есептеу жиыны. Бұл элементтер жай функцияларды орындайды және бұл желіде болатын процестерді тірі организмнің жүйесінде болатын процестермен теңеуге болады.
Магистрлік диссертацияның өзектілігі-деректерді талдауда нашар рәсімделген мәселелерді шешу үшін нейрондық желілерді пайдалану. Ақпарат көлемінің өсуі, сондай-ақ техникалық күрделі шешімдер қабылдау ауқымының кеңеюі қолданыстағы әдістерді жүйелеуді және шешудің жаңа әдістері мен алгоритмдерін жасауды қажет етеді. Магистрлік диссертация адамның эмоциясын тану мәселесін шешу үшін жүйке желісін пайдалану мүмкіндігін зерттейді.
Жасанды нейрондық желілер адамзат дамуына үлкен жол асады. Оның үстіне, алға қойылған мәселінің жауаптарын стандартты емес, шексіз етіп береді. Магистрлік диссертация адамның эмоциясын тану мәселесін шешуде нейрондық желіні қолдану мүмкіндігін қарастырады.
Магистрлік диссертацияның тақырыбы-нейрондық желілерді қолдана отырып, тұлғаларды танудың зияткерлік жүйесін іске асыру.
Жұмыстың негізгі мақсаты-нейрондық желінің ақпараттық моделін таңдау және беттің мотор белсенділігін тану алгоритмін жүзеге асыру. Нейрондық желі ішкі құрылымы, нейрондар арасындағы ақпараттық ағындарды басқару әдісі бойынша оңтайлы болуы керек. Таңдалған ақпараттық модель практикалық мәселені шешу үшін қолданылады.
Диссертациялық жұмыстың негізгі міндеттері:
1) жасанды интеллектуалды жүйелердің қолданыстағы түрлерін, сондай-ақ олардың жұмыс істеу әдістерін зерттеу.
2) негізгі ақпараттық модельдердін қарастырып, түрлерін зерделеп талдау. Эмоцияны танудағы мәселені шешіп, нейрондық желінің тиімді ақпараттық моделін таңдау.
3) бет әлпет қозғалысын танудың қолданыстағы әдістерін қарастыру және олардың арасындағы әмбебап әдістерін бөліп көрсету.
4) интеллектуалды жүйе үшін беттің қимыл белсенділігін тану алгоритмін іске асыру және сипаттау және практикалық есепті шешу.
Бұл зерттеудің объектісі-мимикалық өрнектерді танудың тәсілдері, әдістері.
Зерттеу тақырыбы жасанды нейрондық желілердің ақпараттық модельдері, сондай-ақ тұлғаның мотор белсенділігін тану алгоритмін енгізу және сипаттау болып табылады.
Магистрлік диссертацияның ғылыми жаңалығы-адамның эмоцияларын тану алгоритмін жүзеге асыру үшін нейрондық желілер технологияларын (ақпараттық модельдер), сондай-ақ бет-әлпет жүйесінің жүйесін пайдалану.
Эмоцияларды танитын нейрондық желіні іске асыру үшін белгілі бір адамды көптеген адамдардан ерекшелейтін тұлғаның негізгі белгілері мен негізгі мимикалық көріністерін бөліп көрсету қажет.
Іске асырудың күрделілігі нейрондық желіні оқытуда жатыр. Есеп үшін бастапқы деректерді таңдау, ең алдымен, мимикалық көріністердің математикалық және геометриялық сипаттамасы болып табылады.
Шешілетін ғылыми-техникалық міндеттердің күрделілігінің артуына байланысты визуалды ақпаратты автоматты түрде өңдеу және талдау барған сайын өзекті мәселелерге айналуда. Қазірдің өзінде көптеген әзірлеушілер күрделі мәселелерді компьютерлік көру машиналарының көмегімен шешеді, жүйенің жұмысы үшін әртүрлі әдістерді, соның ішінде нейрондық желілерді қолданады.
Диссертациялық жұмыс кіріспеден, үш бөлімнен, қорытындыдан, пайдаланылған әдебиеттер тізімінен тұрады.
Бірінші бөлімде нейрондық желілер бойынша теориялық материалдар, сондай-ақ жасанды интеллектуалды жүйелердің қолданыстағы түрлері және эмоцияларды тану әдістері қарастырылады.
Екінші бөлімде нейрондық желілердің ақпараттық модельдерінің егжей-тегжейлі сипаттамасы мен құрылымы, олардың ерекшеліктері, салыстырмалы талдау, практикалық мәселені шешудің оңтайлы моделін таңдау берілген. Сондай-ақ, суреттегі тұлғаларды анықтау әдістеріне талдау жасалады, эмоцияларды танудың логикалық ережелерінің жиынтығы қарастырылады.
Үшінші бөлімде нейрондық желіні қолдана отырып, эмоцияларды тану алгоритмі берілген.
1. Жасанды интеллектуалды жүйелер мен нейрондық желілердің негізгі түсініктері
1.1 Нейрондық желілердің шығу тарихы
1940 жылдан бастап нейрондық желілер туралы айтыла басталды. 1943 жылы теория ретінде Мак Каллок пен Питс ғылыми бағытта реттеп өз жұмыстарын жария етті [2]. Бұл еңбекте кез-келген логикалық, арифметикалық функцияларды қарапайым нейрондық желіні қолдана отырып нәтижеге қол жеткізуге болтынын айтты.
Ең алғашқылардың бірі болып, 1949 жылы Д. Хэбб өз нейрондық желілерді оқытудағы моделін ұсынды, мұны ең бастапқы нүктесі деуге болады. Хэбб ең алдымен синаптикалық байланыстардың күшін өзгерту арқылы жасалатынын байқады. Хебб теориясы-бұл өзін-өзі оқытудағы ең қарапайым түрі, онда оқытушысыз берілген тапсырманы орындауға үйренеді. Сонымен қатар М.Минский жұмыстарын айта кеткен жөн, белгілі "немесе" шешімін алып тастау арқылы оқыту [2, 7-бет] еңбегін шығарды.
Ф. Розенблатт 1958 жылы персептрон атты өзінің объектілерді сыныптауға арналған нейрон желісін ұсынды. Персептрон үйрену кезінде "оқытушыдан" хабарлама алып, соның арқасында объектінің қай класқа бейім екенін анықтауға болады. Сонымен қатар, оқытылған перцептрон аз қателіктер жіберіп, бұрын қолданылмаған объектілерді өзі жіктеуге қабілетті болды.
Нейрондық желілердің дамуындағы тыныштық (бос) кезеңі 1968-1985 жж. Дербес компьютерлердің пайда болуымен байланысты нейрондық желілерді модельдеу бастау алды.
Ф.Уоссерманның "Нейрокомпьютерлік техника" кітабы қызығушылық танытып жүрген мамандар үшін үстел кітабына айналды.
Нейрондық желілерге деген қызығушылық 1982 жылы Д. Хопфилдтің еңбегін жариялағаннан бастап күрт өсті. Хопфилд Хаббтың оқыту ережелеріне қарай отырып, нейрондармен байланысты мәселелерді тәртіпсіз жүйелер физикасында сол кезде жасалған бірқатар модельдерді жалпылауға дейін қысқартуға болатындығын айтты.
1986 жылы қабатты нейрондық желілерді оқытудағы біраз мәселелерді шешуге жауап табуға болатын Уильямс, Румелхарт және Хинтон еңбектірін жария етті [3, б.8]. Осыдан кейін Хинтон ұсынған алгоритм уақыт өте келе өзгере бастады.
80-90-шы жылдар аралығында біртұтас теориялық негіз ретінде қалыптасып, соның негізінде бүгінгі таңда көптеген желілер құрылды. Қалыптасқан теория кейінгі жиырма жылда қолданбалы есептерді шешу үшін кеңінен қолданыла бастады. Осыған орай жеке меншік компаниялар өздерінің бағдарламалық жасақтамаларын шығара бастады. Әрі қарай нейрондық желілер бизнесте өз орнын таба бастап, банктер өз клиенттерінің төлем жасай алу қабілеттілігін анықтау үшін 90-шы жылдары жеке бағдарламаларын іске асырды.
Жоғарыда айтып кеткен Джеффри Хинтон Торонто университетінде 2007 жылы нейрондық желілерді терең зерттеу жаңа алгоритмін ұсынды. Хинтон Больцман машинасын, жүйенің төменгі қабаттарын оқыту кезінде қолданды. Ол стохастикалық қайталанатын нейрон желісін білдіретін шектеулі машина еді. Бұл фотосуреттен бет-әлпет тез табу сияқты мәселелерді тез шеш алатындықтан, қазіргі таңда барлық бейнекамераларда өз ісін атқарып жатыр.Сондай-ақ бұл технология суреттерді іздеудегі процессте жіктеу үшін қолданыста [4].
Мамандардың айтуынша, нейрондық жүйелер мен нейрокомпьютерлерді жобалау барысында болшақта технологиялық өсу күтілуде. Кейінгі жылдары көптеген жаңа мүмкіндіктер ашылып, осы саладағы жұмыстар экономика, технология, ғылымдарға әсері зор болып табылады.
Алпыс жылдан астам тарихи болсада, нейрондық жобалауда осыншама уақыт ішінде, мидың толыққанды жұмыс істеу ақиқаты немесе шегі әлі күнге дейін беймәлім. Айта кетсек, ақпаратты беру сырын импульстар тізбегі ретінде анықтауға болатын бірден-бір нейронның жоқтын қасы.
Қазіргі таңда, нейрондық жүйенің әртүрлі конфигурациялары бар, олардың айырмашылығы функциялау негізінде, соған орай олар көптеген мәселелерді шешуге арналған.
Сондықтан нейрокомпьютерлік технологиялардың келешегі осы саланың нейрондық модельдеу жаңа ашылулармен байланысты болатынына кәміл сенемін. Мидың бір аймағының жұмыс істеу принципін, құпиясын тапқан кезде басқа аймақтарының жұмыс белгілі болады.
1.2 Жасанды нейрондық желі түсінігі
Жасанды нейрондық желі дегеніміз - математикалық модель, сонымен қатар оның биологиялық нейрондық желілер-тірі ағзаның жүйке жасушалары принципіне негізделген бағдарламалық және аппараттық орындалуы. Бұл тұжырымдама адам миында жүретін процестерді модельдеуге тырысқанда пайда болды [5, б.3].
Жасанды нейрондық желі-бұл бір-бірімен байланысқан және өзара әрекеттесетін қарапайым процессорлар жүйесі. Желілік процессорлардың әрқайсысы мезгілімен келіп түсетін немесе басқа процессорларға берілетін сигналдармен айналысады. Үлкен желі ең күрделі мәселелерді қысқа мерзімде шеше алады.
Математикалық тұрғыдан алғанда, нейрондық желілер сызықтық емес оңтайландыру есептерін шешудің тәсілі болып табылады. Кибернетика адаптивті басқару мәселелерін шешуде, робототехника үшін алгоритмдерді құруда нейрондық желілер теориясын қолданады.
Бағдарламалауда нейрондық желі тиімді параллелизм мәселесін шешудің бір әдісі болып табылады.
Нейрондық желілерді бағдарламалау бағдарламалық кодты жазу емес, желіні оқытуды білдіреді. Оқытудың арқасында желі мәліметтер арасындағы тәуелділікті анықтай алады (кіріс және шығыс), нәтижелерді оңайлату және білімді күрделі мәселелерді қарапайым мәселелерге бөлу үшін қолдана алады.
1.2.1 Биологиялық нейрон және жасанды нейрон
Адамның миы мен жүйке жүйесі жүйке талшықтарымен байланысқан нейрондардан тұрады. Нейрондар арасында жүйке талшықтары арқылы электр импульстары беріледі. Тірі организммен болатын барлық әрекеттер, терінің тітіркенуі, көз, ауырсыну, ойлау процестері-нейрондардың өзара әрекеттесуі. Биологиялық нейронның құрылымы сурет 1-де көрсетілген [5]:
Сурет - 1. Биологиялық модель [6]
Дендриттер-нейронның импульстарын қабылдайды;
Аксон-нейронның импульсін береді;
Синапстар-аксон мен дендриттің байланысы үшін импульс күшіне әсер ететін түзілімдер.
Синапс өткен кезде импульс күші белгілі бір рет өзгереді (синапстың салмағы). Импульстар бірнеше дендриттер арқылы нейронға жеткенде, олар жинақталады. Егер жалпы импульс шекті мәннен асып кетсе, онда нейрон қозу күйіне өтіп, өзінің импульсін қалыптастырады және оны одан әрі аксонға жібереді. Тиісті нейронның мінез-құлқы өзгеруі мүмкін, өйткені синапстардың салмағы уақыт өте келе өзгереді. Сипатталған процестің математикалық моделі келесідей ұсынылған (сурет 2):
Сурет - 2. Нейронның математикалық моделі [6]
Бұл модель нейрон үш кірісін сипаттайды, онда синапсы бар салмағын 𝑤1, 𝑤2, 𝑤3, оларға түсетін күштер 𝑥1, 𝑥2, 𝑥3 тиісінше. Нейронға импульстар келеді 𝑥1𝑤1, 𝑥2𝑤2, 𝑥3𝑤3 синапстар мен дендриттерден өткеннен кейін.
Алынған жалпы импульс x=𝑥1𝑤1+𝑥2𝑤2+𝑥3𝑤3 нейрон f(x) беріліс функциясына сәйкес түрлендіреді.
y = f(x)=f(𝑥1𝑤1+𝑥2𝑤2+𝑥3𝑤3) - шығу импульсінің күші. Қорытындылай келе, кіріс түрінде 𝑥𝑘 (вектор) сандар жиынтығын аламыз. Әрі қарай нейрон шығу кезінде белгілі бір санды береді [7].
Жасанды нейрон келесідей: оның кірісіне көптеген сигналдар түседі, олардың әрқайсысы бір уақытта басқа нейронның шығуы болып табылады. Мұндай кіріс тиісті салмаққа көбейтіледі, содан кейін көбейтінділер нейронның активтену деңгейін анықтайды.
Бұл идеяны жүзеге асыратын модель сурет 3-де көрсетілген:
Сурет - 3. Нейронның активтендіру моделі [5]
Мұнда көптеген x1, x2,...,xn сигналдары жасанды нейронның кірісіне енеді,жиынтықта олар Х векторымен белгіленеді. Бұдан әрі сигнал w1, w2,..., wn тиісті салмағына көбейтіледі, содан кейін ∑ блокқа қосылады. Әрбір салмақ биологиялық нейрондағы бір синаптикалық байланыстың күшіне тең. Әдетте NET деп аталатын шығыс жиынтық блоктан жасалады, онда өлшенген элементтер алгебралық түрде қосылады.
NET сигналы активация деп аталатын қарапайым сызықтық функциямен түрлендіріледі. Ол F-мен белгіленеді және шығыс сигналын шығарады. OUT=K(NET), мұндағы k - тұрақты, шекті функция OUT = 1, Егер NETT
OUT = 0 басқа жағдайларда,
T-нейрондық желіні дәлірек модельдейтін тұрақты шекті мән.
Белсендіру функциясы бар жасанды нейрон сурет 4-де көрсетілген:
Сурет - 4. Нейронның активтендіру функциясы [8]
F деп белгіленген блок NET сигналын қабылдайды және OUT сигналын шығарады.
Егер кез - келген NET мәндерінде OUT мәндері белгілі бір соңғы интервалға жататын болса, F-сығымдау функциясы деп аталады [9].
Жасанды нейрон моделі биологиялық нейронның көптеген қасиеттерін елемейді. Мысалы, жүйенің динамикасына әсер ететін уақыт кідірістері.
Кіріс сигналдары бірден шығыс сигналын шығарады. Сонымен қатар, жасанды нейрон биологиялық нейронның синхрондау функциясының әсерін ескермейді.
Алайда тірі нейрон мен жасанды нейронның ерекше ұқсастығын атап өткен жөн.
Ақпараттық технологиялар саласындағы нейрондық желілердің орнын анықтау үшін жасанды зияткерлік жүйелерді жіктеуге жүгіну керек.
1.3 Жасанды зияткерлік жүйелердің жіктелуі
Жасанды интеллектуалды жүйелер мынадай ерекшеліктерге ие:
Біріншіден, пайдаланушының компьютері мен жүйенің өзара әрекеттесу жолын сипаттайтын дамыған коммуникативті қабілеттер. Зияткерлік жүйемен диалогта еркін сұрау арқылы жүйеге жүгіну мүмкіндігі жоққа шығарылмайды. Бұл жағдайда зияткерлік жүйенің тілі табиғи тілге мүмкіндігінше жақын болуы керек.
Екіншіден, нашар рәсімделетін мәселелерді шешу, яғни нақты шешімі жоқ, бірақ жағдайға, қолданыстағы мәліметтерге және түпкілікті нәтижеге байланысты стандартты емес тәсілді қажет ететін міндеттер. Нашар рәсімделетін міндеттер жасанды нейрондық желілердің көмегімен тиімді шешіледі.
Үшіншіден, өзін - өзі оқыту мүмкіндігі-яғни белгілі бір жағдайлардың жинақталған тәжірибесінен зияткерлік жүйенің білім алу мүмкіндігі. Жүйені алдын-ала оқыту үшін өңделген бастапқы деректер қажет.
Ұсынылған белгілерге сәйкес зияткерлік жүйелерді келесідей бөлуге болады (кесте 1):
Кесте 1
Жасанды зияткерлік жүйелердің түрлері [10, б. 9-11].
Жасанды зияткерлік жүйенің түрі
Жасанды интеллектуалды жүйенің типі
Коммутативті қабілеттері бар жүйелер
- интеллектуалды мәліметтер базасы;
- табиғи-тілдік интерфейстер;
- гипермәтіндік жүйелер;
- контекстік анықтамалық жүйелер;
- танымдық графика.
Сараптамалық жүйелер
- жіктеу жүйелері;
- алдын ала белгілеу жүйесі;
- трансформациялық жүйесі;
- көп антенналық жүйелер.
Өздігінен оқу жүйесі
- индуктивті жүйелер;
- нейрондық желілер;
- прецеденттердегі жүйелер;
- ақпараттық қоймалар.
Адаптивті жүйелер
- CASE-технологиялар;
- компоненттік технология.
Ақылды мәліметтер базасы қарапайым мәліметтер базасынан анық сақталмайтын, бірақ қол жетімді мәліметтер базасынан шығуы мүмкін қажетті ақпаратты сұрау бойынша таңдау мүмкіндігімен ерекшеленеді.
Әрине, тілдік интерфейс табиғи тілдің конструкцияларын білім берудің ішкі деңгейіне айналдырады. Ол интеллектуалды мәліметтер базасына қол жеткізу, құжаттық мәтіндік ақпаратты контекстік іздеу, басқару жүйелеріндегі дауыстық енгізу командалары, шет тілдерінен машиналық аударма үшін қолданылады..
Гипермәтіндік жүйелер мәтіндік ақпарат базасында қолданылады, онда кілт сөздерді іздеу қажет.
Контекстік анықтамалық жүйелерде пайдаланушы мәселені сипаттайды, ал жүйе қосымша диалогты қолдана отырып, оны нақтылайды және осы жағдайға сәйкес келетін ұсыныстарды іздейді. Мұндай жүйелер құжаттама жүйелеріне қосымша ретінде құрылады және білім тарату жүйелерінің класына жатады.
Танымдық графикалық жүйелер операциялық процестерді бақылау мен басқаруда қолданылады. Графикалық кескіндер көрнекі және интеграцияланған түрде зерттелетін жағдайдың көптеген параметрлерін сипаттайды.
Сараптамалық жүйелер қарастырылып отырған проблемалық саладағы сарапшылардың тәжірибесін көрсететін жинақталған білім базасы негізінде мәселелерді шешуге арналған.
Көп агентті жүйелер-бұл динамикалық негізде алынған нәтижелермен алмасатын бірнеше гетерогенді білім көздерінің білім базасындағы интеграциямен сипатталатын динамикалық жүйелер.
Өзін-өзі оқыту жүйелері нақты тәжірибе жағдайларының мысалдарын автоматты түрде жіктеу әдістеріне негізделген [10, 12-19 беттер].
Өзін-өзі оқыту жүйелерінің өзіне тән белгілері: - "мұғаліммен" өзін-өзі оқыту жүйелері, әр мысал үшін оның белгілі бір жағдайлар класына жататындығы (класс түзуші белгі) белгісінің мәні айқын түрде берілген кезде);
- "мұғалімсіз" өзін-өзі оқыту жүйелері, жіктеу белгілерінің мәндерінің жақындық дәрежесі бойынша жүйе жағдайлардың кластарын анықтайды.
Индуктивті жүйелер мысалдарды нақтыдан жалпыға жалпылайды, ал жалпылау процесі келесідей жүзеге асырылады:
1) Берілген санаттардың жиынтығынан жіктеу белгісі таңдалады (дәйекті немесе ереже бойынша).
2) Таңдалған белгінің мәні бойынша көптеген мысалдар ішкі жиындарға бөлінеді.
3) Мысалдың бір сыныпқа жататындығы туралы тексеру орындалады.
4) Егер кейбір мысалдар жиынтығы біреуіне тиесілі болса ішкі класс, яғни ішкі жиынның барлық мысалдарында класс түзуші белгінің мәні сәйкес келеді, содан кейін жіктеу процесі аяқталады.
5) Сынып құраушы белгінің сәйкес келмейтін мәні бар мысалдар жиынтығы үшін жіктеу процесі 1-тармақтан бастап жалғасады.
Әрі қарай, шешілетін мәселелер тұрғысынан зияткерлік ақпараттық жүйелерге жүгіну керек. Мұнда келесі жүйелерді бөлуге болады:
- басқару жүйелері және анықтамалық жүйелер;
- компьютерлік лингвистика жүйелері;
- тану жүйелері;
- ойын жүйелері;
- интеллектуалды ақпараттық жүйелерді құру жүйелері [11, б. 22].
Сурет 5-те шешілетін мәселелер бойынша зияткерлік ақпараттық жүйелердің жіктелуі көрсетілген:
Сурет - 5. Шешілетін міндеттер бойынша АЖ жіктеу [10, б. 14]
Жүйелер бір емес, бірнеше мәселені шеше алады немесе бір мәселені шешу барысында бірқатар басқа мәселелерді шеше алады.
Интеллектуалды жүйелер "қолданылатын әдістер"сияқты критерий бойынша жіктеледі. Мұнда жұмсақ, қатты және гибридті бөліп көрсетуге болады (Сурет 6).
Сурет - 6. ИАЖ-ны әдістер бойынша жіктеу [10, б. 14]
Жұмсақ есептеу (жұмсақ есептеу) - бұл анық емес логикаға, генетикалық есептеулерге, нейрокомпьютерлерге және ықтималды есептеулерге негізделген күрделі компьютерлік әдіс.
Қатты есептеу-стандартты компьютерлік есептеу (жұмсақ емес).
Гибридті жүйелер-бірден артық компьютерлік технологияны пайдаланатын жүйелер (зияткерлік жүйелер жағдайында - жасанды интеллект технологиялары) [11, б.6].
Жасанды интеллектуалды жүйелердің жіктелуі ғылымның әртүрлі салаларындағы үлкен теориялық білім базасын қамтиды. ИАЖ құру және іске асыру - бастапқы кезеңнен бастап соңына дейінгі күрделі процесс.
Эмоцияны танудың интеллектуалды жүйесін жасау кезінде психологияда, сот-медициналық ғылымда және басқа салаларда қолданылатын ең танымал әдістер туралы айту керек.
1.4 Деректерді талдау жүйесіндегі профильдеу
Оның дамуының бастапқы кезеңінде "профильдеу" термині қылмыс орнындағы іздер бойынша қылмыскердің психологиялық портретін (профилін) құруды білдірді. Әйтпесе, бұл жеке тұлғаны профильдеу деп аталады. Ең алдымен, бұл әдіс сериялық өлтірушілерді іздеуде қолданылады. Ол криминалистика, психиатрия және психология туралы білімді біріктіреді. Кейінірек профайлинг ықтимал қауіпті тұлғаларды анықтау деп аталды. Біріншіден, технология азаматтық авиацияда жолаушыларды алдын-ала тексеру кезінде қолданылды.
Профайлинг-бұл адамның мінез-құлқын бағалау мен болжаудың психологиялық әдістерінің жиынтығы, ол жеке белгілерді, сыртқы келбеттің сипаттамаларын, вербалды емес және ауызша мінез-құлықты талдауға негізделген [12].
Бұл әдісті маман - профайлерлер, яғни өтірікті тану саласындағы мамандар қолданады. Профайлинг теориясын компьютерлік көруде субъектінің ықтимал қауіптілігі немесе қылмыскердің өтірігін тану үшін анықталған белгілер бойынша жіктеу негізінде тиімді қолдануға болады.
Эмоцияны сипаттау үшін 1978 жылы Пол Экман мен Уоллес Фризен жасаған бет қимылдарын кодтау жүйесіне жүгіну керек (қысқаша БҚКЖ) [13].
БҚКЖ-н қолдана отырып, белгілі бір іс-қимыл бірліктерінен бет моделін құру арқылы бет әлпетін кодтауға болады, сонымен қатар белгілі бір бет өрнегін көбейту үшін белгіленген уақыт аралығы. Нұсқаулықта БҚКЖ Пол Экман бір немесе бірнеше бұлшықет топтарының жиырылуы немесе кернеуі туралы эмоцияларды түсіндіреді.
Кодтау жүйесінде әрекет бірліктерімен айтарлықтай айырмашылықтары бар бекітілген дескриптор нөмірлері бар. Егер іс-қимыл бірліктері мінез-құлықта дәл көрінсе, онда бұлшықет негізі бұл мағынада дәл көрінбейді.
Әрекет бірліктері (ӘД) - бұл жеке бұлшықеттер немесе бұлшықет тобы жасаған негізгі қозғалыстар.
Іс-қимыл дескрипторы (ІҚД) - бұлшықет топтары жасаған унитарлық қозғалыстар (мысалы, төменгі жақты алға жылжыту). Бұл қозғалыстардың бұлшықет негізі көрсетілмеген. Және олар мінез-құлықта соншалықты дәл көрінбейді, өйткені онда бірлік дәл көрінеді.
Мысалы, БҚКЖ-дегі күлімсіреудің екі түрі үшін қолдануға болады:
1. Қасақана шынайы күлімсіреу: тек негізгі зигоматикалық бұлшықет жиырылады
2. Еріксіз шынайы күлімсіреу: негізгі зигоматикалық бұлшықет пен көздің дөңгелек бұлшықетінің төменгі бөлігі.
Сондай-ақ, сарапшылар бет қозғалыстарымен байланысты эмоцияларды қарастыратын БҚКЭЖ (бет қимылдарын кодтаудың эмоционалды жүйесі) жасай алды (кесте 2).
Кесте 2
П. Экман бойынша бет қимылдарын кодтау жүйесі [13]
Эмоция
Әрекет бірлігі
Қуаныш
6+12
Қайғы
1+4+15
Таңдану
1+2+5B+26
Қорқыныш
1+2+4+5
Ашу-ыза
4 +5 +7 +23
Жиіркеніш
9+16+15
Құрметсіздік
R12A+R14A
Сондай-ақ, эмоцияларды анықтау және бейнелерді тану мәселесінде интеллектуалды бейне талдау міндетіне назар аудару керек. Мұндай жүйелерде эмоциялардың көрінісі сыртқы белгілер кластарына бөлінеді.
"Эмоционалды күй "адамның" шиеленіс деңгейімен " салыстырылады. Эмоционалды шиеленіс-көріністің қарқындылығын өзгертпестен эмоционалды саланың ұзақ уақытқа жүктелуінен туындаған психикалық деңгейдегі шиеленіс.
Эмоцияны автоматты түрде тану міндеті көбірек назар аударады, нәтижесінде оны шешу үшін әртүрлі әдістер қолданылады [14].
Қазіргі уақытта тану жүйесін жасау кезінде профиль элементтерін қолданатын әдістердің келесі кластарын бөліп көрсетуге болады:
- тұтас әдістер (яғни бет бейнесін толығымен өңдеу);
- жергілікті әдістер (яғни бет элементтерінің кескінін өңдеу);
- объектілердің пішінін есептейтін әдістер;
- объектілердің динамикасын есептеу әдістері.
ANN-жасанды нейрондық желілер; SVM-тірек векторларының әдістері; GA - генетикалық алгоритмдер; LVQ - векторлық кванттау (Кохонен желісі); AAM - бейнелеу моделі; ASM - пішін моделі; EBGM - серпімді граф; PCA - негізгі компоненттер әдісі; LDA - сызықтық дискриминантты талдау; LBP - жергілікті екілік үлгілер; HoG-бағытталған градиенттердің гистограммасы [15, 480 бет]. Бұл сыныптар кесте 3-те көрсетілген:
Кесте 3
Эмоцияны тану әдістерінің жіктелуі [15, б. 512]
Әдістер
Холистикалық әдістер
Жергілікті әдістер
Форманы есептеу әдістері
Жіктеуіштер:
Artificial Neural network, Random Forest, Adaboost, Вейвлеттер және Габор сүзгілері.
Хаф түрлендіруі, 2D моделіндегі тұлғалар: AAM, ASM, EBGM
Жіктеуіштер: Artificial
Neural network, Байес жіктеуіші Adaboost
Геометриялық модельдер тұлғалар
Меншікті векторлар: PCA
Жергілікті гистограммалар: HoG, LBP
Динамиканы есептеу әдістері.
Оптикалық ағын. Динамикалық модельдер.
3D динамикалық модельдері. Статистикалық модельдер: HMM, DBN
Сауалнама сценарийі мен микро-өрнектер теориясының бірігуі профайлингке дамудың басқа деңгейіне өтуге және біртіндеп экономикалық құрылымдарға, атап айтқанда банк секторына, бейнебақылау қауіпсіздік жүйелеріне интеграциялануға мүмкіндік берді.
Осылайша, профайлинг заңға бағынатын азаматтар үшін қауіпсіздік деңгейін едәуір арттыруға мүмкіндік беретін жеке тұлғаны диагностикалаудың өзекті әдісі болып табылады.
1.5 Жасанды интеллектуалды эмоцияны тану жүйелері
Профайлинг теориясын және негізгі эмоцияларды, сондай-ақ эмоцияларды Өзгертуді қолдана отырып, белгілі бір эмоцияның математикалық моделін сипаттауға болады. Кез-келген мимикалық өрнек талданады және интеллектуалды жүйеге түсінікті тілге аударылады . Математикалық модель құрудың негізгі және байланысты кезеңдері:
1. Кадрдағы адамдарды анықтау;
2. Жасанды жүйенің бет - әлпеттің табиғи емес бұрылысы немесе жарықтың жеткіліксіздігі болған кезде кадрдағы адам бірдей тұлға екенін түсінуі.
3. Адамды басқа адамдардан ажыратуға мүмкіндік беретін ерекше бет сипаттамаларын таңдау (мысалы, көздің кесілуі мен пішіні, беттің ұзаруы, аузының бетке орналасуы).
Адамның миы мұның бәрін автоматты түрде бірден жасайды. Шын мәнінде, адамдар бет-әлпетті өте жақсы таниды және ақыр соңында күнделікті заттарда бет-әлпетті көреді.
Компьютерлер мұндай жоғары жалпылау деңгейіне қабілетсіз, сондықтан оларды осы процестің әр қадамын бөлек үйрету керек.
Интеллектуалды жүйелерді дамыту және жобалау кезеңдерінің санын анықтау туралы әртүрлі көзқарастар бар. Бұл көптеген факторларға, атап айтқанда, болашақ зияткерлік жүйе функцияларының сипатына, пайдалану саласына, дамыған құралдардың болуына және басқаларға байланысты.
Эмоцияны автоматты түрде танудың кейбір бағдарламалық жүйелерін қарастырамыз [6](кесте 4).
Кесте 4
Эмоцияны тану бағдарламалық жасақтамасы[6]
Эмоция тану жүйесі
Жүйе туралы ақпарат(әзірлеуші компания)
Жүйенің мүмкіндіктері
Артықшылықтары
Кемшіліктері
Face Reader
Noldus Information Technology
(Нидерланды)
Эмоцияны тану, этникалық белгілерді анықтау, тұлғаның моделін құру.
89% дәлдікпен тану; эмоцияларды тікелей немесе толық визуализацияны анықтауға болады
5 жасқа дейінгі балаларды танымайды,көзілдірік киген адамның эмоциясын,бұрылған тұлға анықталмайды.
EMotion Software, Glad or Sad
Visual Recognition
(Нидерланды)
Жүйе көздің және ауыздың 12 негізгі аймағын анықтай отырып, 3D моделін жасайды.
Ашу, қайғы, қорқыныш, жиіркеніш және бақытты таниды. БЖ компьютерге қажет емес.
Кемшіліктер анықталған жоқ
Face Analysis System
MMER-Systems (Германия)
Бетіңізге нақты уақыт режимінде белгілі бір масканы қолдану
Алты негізгі эмоцияны таниды,жынысын, жасын, этникалық құрамын анықтайды;
Жүктелетін деректердің толық қамтылмауы:веб-камерамен мүмкін; деректерді түсірудің дұрыс емес нәтижелері.
FaceSecurity
Cognitec (Германия)
Тұлғаларды дерекқорлардан өңдейді, биометриялық сәйкестендіру арқылы
Кластерлік конфигурация; адамдардың суреттерінің тізімін сұрыптау;
Нашар жарықтандырылған адамдарды танымайды; тек фронтальды орналасқан тұлғаларды таниды
Жасанды интеллектуалды жүйелерді құру процесі шартты түрде бес кезеңге бөлінеді (сурет 7):
Сурет - 7. ЖИЖ жобалау кезеңдері [16]
1. Тапсырмаларды анықтау және олардың сипаттамаларын анықтау. Жобаланған жүйеге техникалық тапсырма жасалады, жүйені пайдаланушылар шеңбері шектеледі.
2. Сарапшылар тобының білімін көрсететін пәндік саланың негізгі тұжырымдамаларын бөліп көрсету. Білім инженері білімді ұсынудың ресми құралдарын және шешім қабылдау процедураларын анықтайды [16].
Тақырып саласы туралы сарапшының білімін ұсынудың сипаттамалық схемасын таңдауды анықтайтын ұғымдар анықталады және тұжырымдалады. Проблемалық аймақ туралы білімнің негізгі көзі-адам сарапшысы, кітаптар, технологиялық сипаттамалар, нұсқаулықтар, құжаттар, ми шабуылы, мәліметтер базасын автоматтандырылған толтыру әдістері. Білімнің тағы бір маңызды көзі- интернет (қажетті ақпарат пен білімді дәстүрлі іздеу, сонымен қатар зияткерлік агенттер (бағдарламалық роботтар)).
3 .Білімді ұсыну формализмін таңдау және шешімдерді шығару механизмін анықтау. Білімді ұсыну үшін әзірленген құрылым келесі кезеңді жүзеге асырудың негізі болып табылады-жүйенің білім базасын тікелей құру.
4.Білімді ұсыну тілін таңдау немесе дамыту. Ережелер таңдалған презентация тілінде тұжырымдалғаннан және ұсынылғаннан кейін оларды білім инженері АБ-ға енгізеді.
5.Нақты тексеру міндеттерін шешу арқылы жүйені тестілеу.
Интеллектуалды жүйелерді құру кезеңдері қатаң сакталуы маңызды емес. Олардың кейбіреулері арасында уақытша және мағыналы шекара салу қиын. Олар белгілі бір дәрежеде интеллектуалды жүйелерді жобалау процесін сипаттайды [17, б.15].
Нейрондық желіні қолдана отырып, эмоцияны танудың жасанды интеллектуалды жүйесін дамыту нейрондық желіні міндетті түрде оқытуды қажет етеді. Белгілі бір тапсырмаға нейрондық желіні құру үшін нейрондық қосылыстардың параметрлерінің мәндерін таңдау керек.
Бұл процесс бет сипаттамаларының жиынтығын және компьютердің үлкен өнімділігін көрсету үшін үлкен көлемді деректерді қажет етеді.
Бірінші тарау бойынша қорытынды:
1) Жасанды зияткерлік жүйелер түрлері, шешілетін міндеттері және пайдалану әдістері бойынша жіктеледі. ЖИЖ-дің кең спектрі сізге ең тиімді жүйені және мәселені шешудің нақты әдісін таңдауға мүмкіндік береді.
2) ЖИЖ әзірлеу процесінде қатаң регламенттеу болмайды. Шартты түрде жобалауды бес кезеңге бөлуге болады: тапсырманың сипаттамаларын анықтау; ақпаратты ұсыну үшін ұғымдарды табу; құрылымды жобалау; ережелерді қалыптастыру; ережелерді бағалау.
3) Жасанды нейрондық желі - математикалық модель, сондай-ақ биологиялық нейрондық желілер қағидаты бойынша құрылған оның бағдарламалық және аппараттық іске асырылуы түсініледі. Бұл тұжырымдама адам миында жүретін процестерді модельдеуге тырысқанда пайда болды.
4) Жасанды нейрондық желіні оқыту-бұл күрделі процесс, онда желі енгізілген ортаны модельдеу нәтижесінде еркін параметрлер реттеледі. Нейрондық желілерде бірқатар проблемалар бар, олардың бірі нейрондық желілерді іс-әрекетте тиімді пайдалануға мүмкіндік беретін жүйені құру үшін оңтайлы модельді таңдау болып табылады.
5) Профайлингті қолдану міндеттерді шешу кезінде қауіпсіздік, бизнес, банктік және өзге де салалардағы бейнелердегі немесе бейне деректер ағынындағы тұлғаларды тануды пайдаланған орынды.
2. Нейрондық желілер мен эмоцияларды танудың ақпараттық модельдері
2.1 Бір бағытты көп қабатты желілер
Көп қабатты нейрондық желіні формальды түрде нейрондар деп аталатын қарапайым өңдеу элементтерінің жиынтығы ретінде анықтауға болады. Нейрондар қабаттар бойынша ұйымдастырылған және синапстар деп аталатын бір бағытты байланыстармен біріктірілген [18, б.38].
Әдетте желі кіріс қабатын құрайтын көптеген сенсорлық элементтерден (кіріс түйіндерінен) тұрады; есептеу нейрондарының бір немесе бірнеше жасырын қабаттары және нейрондардың бір шығыс қабаты.
Бір бағытты көп қабатты нейрондық желілер ең көп таралған, өйткені олар қарапайым математикалық сипаттамаға ие. 70-ші жылдардың аяғынан бастап көп қабатты желілер ыңғайлы оқыту алгоритмдерінің арқасында дамыды.
Тікелей таралатын нейрондық желілерде қабаттан қабатқа (бір нейроннан екіншісіне) берілетін кіріс сигналы болады. Дәл осындай желілер кіріс қабатынан, жүйенің ішіндегі жасырын есептеу қабаттарынан және нейрондардың шығыс қабатынан тұратын көп қабатты перцептрон деп аталады.
Көп қабатты перцептрон - бұл сигмоидтық типтегі бір бағытты желі [19].
Сигмоидтық функция-бұл барлық жерде біркелкі өсетін, қанықтылығы бар s-тәрізді сызықты емес функция, оны активтендіру функциясы ретінде ресми нейронда қолдану өте ыңғайлы. Сигмоид әлсіз сигналдарды күшейтуге және күшті сигналдардан қанықпауға мүмкіндік береді [19].
Көп қабатты перцептронның құрылымдық схемасы (бұл жағдайда екі қабатты перцептрон) келесідей (сурет 8):
Сурет - 8. Көп қабатты перцептронның құрылымдық схемасы [20]
Белгілеулер:
𝑔𝑙, l=1,2,...,L - нейрондардың бірінші қабатынан шығатын сигналдар;
(m), m=1,2,... - жоғарыдағы жақшадағы индекстер Нейрон қабатының нөмірін білдіреді;
𝑥1, 𝑥2, ... , 𝑥𝑁 - кіріс қабатын құрайтын кіріс сигналдары;
𝑔1, 𝑔2, ... , 𝑔𝐿 - бірінші жасырын қабат;
𝑦1, 𝑦2, ... , 𝑦𝑀 - шығу кезінде қабатты құрайтын шығыс сигналдары.
Желі құрылымын оңай белгілеу үшін "N-L-M" деп кодтаймыз [20].
Шығыс сигналдарын есептеуге арналған формулалар:
gl=f(j=0Nwlj(1)∙xj),l=1,2,...,L (2.1)
yi=f(i=0Lwil(2)∙gl)=f(i=0Lwil2∙f(j= 0Nwlj(1)∙xj)),i=1,2,...,M (2.2)
X, D бірыңғай оқыту үлгісі үшін мақсатты функция келесідей:
EW=12i=1M(yi-di)2 (2.3)
Оқу жұптарының жиынтығы үшін мақсатты функция Xk,Dk, k=1,2,...,p, барлық жұптар үшін қосынды түрінде болады:
EW=12k=1Pi=1M(yi-di)2 (2.4)
Көп қабатты перцептронды оқытудың мақсаты: кіріс векторында 𝑋 𝑘 желі салмағының осындай мәндерін таңдау керек wlj(1),wli(2), 𝑌[𝑘] шығыс векторы мен Dk күтілетін мәндерінің векторы мүмкіндігінше сәйкес келу үшін.
2.1.1 Көп қабатты персептронды қатені кері тарату әдісімен оқыту
Перцептронды оқыту әдістерінің бірі-қатенің кері таралу алгоритмі. Вектордың желі қабаттарында екі рет өту болады-біреуі түзу, екіншісі кері. Бірінші жағдайда вектор кіріс қабатынан қозғала бастайды, содан кейін желі арқылы қабаттан қабатқа өтеді. Бұл жағдайда желінің өзінде шығыс сигналдарының жиынтығы жасалады.
Кері өту кезінде синаптикалық салмақтар нақты желінің шығуынан алынып тасталатындай етіп реттеледі, содан кейін қате сигналы шығады. Әрі қарай, синаптикалық байланыстарға қарама-қарсы бағытта сигнал желі арқылы таралады. Сондықтан бұл әдіс қатені кері тарату деп аталды.
Бұл әдістің мәні 8-суреттегі екі қабатты перцептрон мысалында қарастырылады. Бір жаттығу үлгісінің жағдайы мысалды мүмкіндігінше жеңілдетуге көмектеседі, мақсатты функция (3) формулаға сәйкес пайда болады. Коэффициенттерді нақтылау үшін градиент әдісінің формуласы қажет:
𝑤𝑘+1 = 𝑤𝑘 − 𝜂 ∙ 𝑔𝑟𝑎𝑑𝐸(𝑤𝑘) (2.5)
Осы формуланы жүзеге асыруда негізгі күрделілік-мақсатты функцияның градиент компоненттерін есептеу, (6):
EW=12i=1M(f(l=0Lwil2∙gl)-di)2=12i=1 M(f(l=0Lwil2∙f(j=0Nwlj(1)xj))-di)2( 2.6)
Шығу қабаты нейрондарының салмағы бойынша мақсатты функцияның туындылары:
dE(W)dwil(2)=(yi-di)∙df(ui(2))dui(2 )∙gl, осындағы ui(2)=l=0Lwil(2)∙gl (2.7)
δi(2)=(yi-di)∙df(ui(2))dui(2) болса, онда градиент векторының компоненті түрі:
dE(W)dwil(2)=δi(2)-gl (2.8)
Алдыңғы қабаттың таразыларына арналған компоненттер:
dE(W)dwlj(1)=δi(1)-xj (2.9)
Формулаларды талдау әр қабаттағы таразылар үшін объективті функцияның туындылары үшін E(W) градиент векторын есептеу ережесін жасауға мүмкіндік береді:
dE(W)dwlj(k)=δi(K)-xj (2.10)
𝑥𝑗 - кіріс сигналы;
𝛿𝑖(𝑘) − оқытудың қателігі. Қате (𝑦𝑖 − 𝑑𝑖) желінің шығуынан алдыңғы қабаттарға ауысуына байланысты әдіс қатенің кері таралуы деп аталды [19].
Сигмоидтық типтегі көп қабатты желінің моделі және оны оқыту әдісі, салыстырмалы қарапайымдылығы мен ыңғайлылығына қарамастан, оқу процесін баяулататын немесе желіні үйренуге мүмкіндік бермейтін бірқатар қиындықтарға ие. Мысалы, түзету нәтижесінде таразы мәндері өте үлкен болуы мүмкін.
Бұл жағдай шығу кезінде нейрондардың көп бөлігі үлкен мәнге ие болады, бірақ бұл мәндердегі туынды өте аз болады.
Процесс тоқтап қалуы мүмкін, өйткені оқу процесінде жіберілген қате осы туындыға пропорционалды.
Сонымен қатар, қадамның соңғы өлшемін таңдау керек. Бұл мәселеде тек тәжірибеге сүйенуге болады. Бұл алгоритмнің конвергенция дәлелі бар. Қадам мөлшері конвергенцияға тікелей әсер етеді: егер қадам мөлшері өте аз болса немесе қадам мөлшері тым үлкен болғандықтан тұрақты тұрақсыздыққа ұшыраса, ол өте баяу болады.
Тағы бір қиындық-уақытша тұрақсыздық. Желі әріптерді тани алады, бірақ егер біреуін біліп, екіншісін ұмытып кетсе, онда оқытудың мағынасы болмайды. Оқыту процесі желі бұрыннан үйренген ақпаратты жоғалтпай, барлық жиынтықта оқытылатындай етіп жүргізілуі керек.
2.2 Қайталанатын нейрондық желі
Қайталанатын нейрондық желі-бұл элементтер арасында кері байланысы бар нейрондық желілердің ең күрделі түрі: қашықтан аз қашықтан. Бұл желіні есте сақтауға және үйренуге мүмкіндік беретін кері байланыс.
Алайда, мұндай желінің әлеуеті талдаудың күрделілігіне байланысты нашар түсініледі [19].
Рекуррентті жасанды нейрон желісі - желі кірістеріне шығу кідірісімен кері байланыстарды енгізу жолымен бір бағытты көп қабатты перцептроннан алынатын желі [21].
Мұндай желілердің бір түрін қарастырайық-бұл екі қабаттан тұратын қайталанатын Элман желісі. Бұл желінің құрылымдық схемасы сурет 9-да көрсетілген.
Кері байланыс нейрондық желінің шығуынан емес, ішкі қабаттардан болатындығы айқын көрінеді. Бұл ақпаратты жинауға және есте сақтауға мүмкіндік беретін құрылым.
Сигнал кіріске түседі және жасырын қабатқа өтеді. Жасырын қабатпен түрлендіргеннен кейін сигнал шығады, ал оның көшірмесі кешіктіріледі. Содан кейін келесі сигнал желіге түседі және сол уақытта алдыңғы сигналдың көшірмесі келеді.
Мұнда 𝑣𝑙,,𝑙 = 1,2,... , 𝐿 − бірінші қабат үшін шығыс сигналдары; мақсатты функцияның стандартты түрі:
EkW=12i=1M(yik-dik)2=12i=1M(eik)2 (2.11)
Сурет - 9. Қайталанатын нейрондық желі [21]
Элман формуласы келесідей:
dEk(W)dwnm(2)=enk∙df2(gnk)dgnk∙vmk (2.12)
Элманның қайталанатын желісін оқытуды келесі алгоритммен орнатуға болады:
1) Таразылар үшін бастапқы мәндерді анықтаймыз, K=1 тағайындаймыз.
2) Ағымдағы k моменті үшін барлық қолданыстағы желі сигналдарын анықтаймыз.
3) Бірінші қабаттағы нейрондардың барлық таразылары үшін мәндерді есептейміз.
4) Мақсатты функция векторының барлық компоненттерін есептейміз.
5) Барлық қабаттар үшін нейрондардың салмағын реттейміз.
6) K-ні 1-ге көбейту, 2-тармаққа өтеміз.
Элман желілері негізінен қозғалатын нысандарды басқару жүйелерінде қолданылады. Олар шешімнің жоғары дәлдігін қамтамасыз етпейді, өйткені жасырын қабатта кері байланыс болуы функционалдылықтың градиентін дәл есептеуге мүмкіндік бермейді. Алайда, мұндай ... жалғасы
Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.
Л.Н. Гумилев атындағы Еуразия ұлттық университеті
Абеков Улан Куанышевич
НЕЙРОНДЫҚ ЖЕЛІЛЕРДІ ҚОЛДАНА ОТЫРЫП, ТҰЛҒАЛАРДЫ ТАНУДЫҢ ЗИЯТКЕРЛІК ЖҮЙЕСІН ІСКЕ АСЫРУ
7М06103 - Ақпараттық жүйелер мамандығы
бойынша ақпараттық жүйелер магистрі академиялық
дәрежесін алуға магистрлік диссертация
(ғылыми-педагогикалық бағыт)
Нұр-Сұлтан, 2021ж.
Қазақстан Республикасының Білім және ғылым министрлігі
Л.Н. Гумилев атындағы Еуразия ұлттық университеті
Қорғауға жіберілді:
Ақпараттық жүйелер деканы
_____________ Ш. Ж. Сеилов
(қолы)
_____________2021 ж.
Магистрлік диссертация
НЕЙРОНДЫҚ ЖЕЛІЛЕРДІ ҚОЛДАНА ОТЫРЫП, ТҰЛҒАЛАРДЫ ТАНУДЫҢ ЗИЯТКЕРЛІК ЖҮЙЕСІН ІСКЕ АСЫРУ
Мамандық: 7М06103 - Ақпараттық жүйелер
(ғылыми-педагогикалық бағыт)
Магистрант У. К. Абеков
(қолы)
Ғылыми жетекші,
экономика ғылымдарының
докторы А. Т.Тохметов
(қолы)
Кафедра меңгерушісі ________________ Д. А. Тусупов
(қолы)
Нұр-Сұлтан, 2021ж.
МАЗМҰНЫ
НОРМАТИВТІК СІЛТЕМЕЛЕР 3
БЕЛГІЛЕР МЕН ҚЫСҚАРТУЛАР 4
КІРІСПЕ 5
1. Жасанды интеллектуалды жүйелер мен нейрондық желілердің негізгі түсініктері 7
1.1 Нейрондық желілердің шығу тарихы 7
1.2 Жасанды нейрондық желітүсінігі 8
1.2.1 Биологиялық нейрон және жасанды нейрон 9
1.3 Жасанды зияткерлік жүйелердің жіктелуі 11
1.4 Деректерді талдау жүйесіндегі профильдеу 15
1.5 Жасанды интеллектуалды эмоцияны тану жүйелері 17
2. Нейрондық желілер мен эмоцияларды танудың ақпараттық модельдері 21
2.1 Бір бағытты көп қабатты желілер 21
2.1.1 Көп қабатты персептронды қатені кері тарату әдісімен оқыту 22
2.2 Қайталанатын нейрондық желі 24
2.3 Кохонен желілері 25
2.3.1 Кохонен алгоритмі 27
2.4 Радиалды нейрондық желілер 28
2.5 Бет бұлшықеттерінің қозғалыс қарқындылығы 31
2.6 Суреттегі адамдарды анықтау әдістерін талдау 32
3. Нейрондық желіні қолдана отырып, эмоцияларды тану алгоритмі 39
3.1 Тану есебінің математикалық тұжырымы 39
3.1.1 Бет тану инварианттарын алу 39
3.1.2 Тиісті метриканы таңдау 40
3.1.3 Нейрондық желіні тану мәселесін шешу 40
3.2 Бет қимыл белсенділігін тану әдістемесі 41
3.2.1 Python-да нейрондық желіні оқыту 46
ҚОРЫТЫНДЫ 50
ПАЙДАЛАНЫЛҒАН ӘДЕБИЕТТЕР ТІЗІМІ 52
ҚОСЫМША А 54
НОРМАТИВТІК СІЛТЕМЕЛЕР
Осы магистрлік диссертацияда келесі стандарттарға сілтемелер беріледі:
1 ҚР СТ 34.008-2002 Ақпараттық технологиялар. Қазақстан Республикасы Өнеркәсіп және сауда министрлігінің Стандарттау, метрология және сертификаттау жөніндегі комитетінің 2002 жылғы 29 желтоқсандағы № 519 бұйрығымен бекітілген бағдарламалық қамтамасыз етуді статистикалық талдау;
2 ISO IEC 2382-20: 1990 Ақпараттық технологиялар. Сөздік. 20 бөлім. Анықтау жүйесін әзірлеу
Осы магистрлік диссертацияда тиісті анықтамалары бар мынадай терминдер пайдаланылады:
ДҚБЖ (деректер базасын басқару жүйесі) - дерекқорды құру мен пайдалануды басқаруды қамтамасыз ететін жалпы немесе арнайы мақсаттағы бағдарламалық және лингвистикалық құралдардың жиынтығы.
Python - кез келген қазіргі заманғы компьютерлік операциялық жүйеде қолдануға болатын жалпы мақсаттағы бағдарламалау тілі. Ол мәтінді, сандарды, суреттерді, ғылыми деректерді және компьютерде үнемдеуге болатын кез келген нәрсені ғана өңдеу үшін пайдаланылады.
PostgreSQL-бұл шексіз көлемді дерекқорды қолдау, қуатты және сенімді транзакциялар мен репликация механизмдері, кеңейтілген бағдарламалау тілдері жүйесі және C-үйлесімді модульдерді жүктеуді қолдау, мұрагерлік және оңай кеңейту мүмкіндігі бар дерекқорды басқарудың Объектілік-реляциялық жүйесі.
OpenCV-компьютерлік көру алгоритмдерінің кітапханасы, суретті өңдеу және ашық коды бар жалпы мақсаттағы сандық алгоритмдер.
БЕЛГІЛЕР МЕН ҚЫСҚАРТУЛАР
ДҚБЖ
Деректер базасын басқару жүйесі
ҚР
Қазақстан Республикасы
АҚШ
Америка Құрама Штаттары
БҚКЖ
Бет қимылдарын кодтау жүйесі
ӘД
Әрекет бірліктері
ІҚД
Іс-қимыл дескрипторы
ЖИЖ
Жасанды интелектуалды жүйе
ИАЖ
Интелектуалды ақпараттық жүйе
КІРІСПЕ
Компьютер адамға кеңесші болу қажет, жағдайды тез талдап іс-әрекет варианттарын кісіге ұсыну керек. Ал адам келтірілген вариаттардан керегін таңдайды. Қазір жасанды интеллект - шешімді жасау мен қабылдау үшін адамның қызметін күшейтетін, өзін-өзі үйрететін құрал-сайман.
Қазірдің өзінде зияткерлік жүйелерді қолдана отырып, практикалық шешімді қажет ететін көптеген салалар бар: медицина, геология, математика, қауіпсіздік жүйелері, бизнес, робототехника, экономика және т. б.[1, б.34]. Қолдану салаларының мұндай көптігі интеллектуалды жүйелер көп көлемді деректерді талдау және өңдеу мәселелерін шешудің, әр түрлі күрделілік деңгейіндегі мәселелерді шешудің бірегей жиынтығы екендігін көрсетеді.
Нейрондық желі дегеніміз бір түрдегі көптеген элементтерден тұратын есептеу жиыны. Бұл элементтер жай функцияларды орындайды және бұл желіде болатын процестерді тірі организмнің жүйесінде болатын процестермен теңеуге болады.
Магистрлік диссертацияның өзектілігі-деректерді талдауда нашар рәсімделген мәселелерді шешу үшін нейрондық желілерді пайдалану. Ақпарат көлемінің өсуі, сондай-ақ техникалық күрделі шешімдер қабылдау ауқымының кеңеюі қолданыстағы әдістерді жүйелеуді және шешудің жаңа әдістері мен алгоритмдерін жасауды қажет етеді. Магистрлік диссертация адамның эмоциясын тану мәселесін шешу үшін жүйке желісін пайдалану мүмкіндігін зерттейді.
Жасанды нейрондық желілер адамзат дамуына үлкен жол асады. Оның үстіне, алға қойылған мәселінің жауаптарын стандартты емес, шексіз етіп береді. Магистрлік диссертация адамның эмоциясын тану мәселесін шешуде нейрондық желіні қолдану мүмкіндігін қарастырады.
Магистрлік диссертацияның тақырыбы-нейрондық желілерді қолдана отырып, тұлғаларды танудың зияткерлік жүйесін іске асыру.
Жұмыстың негізгі мақсаты-нейрондық желінің ақпараттық моделін таңдау және беттің мотор белсенділігін тану алгоритмін жүзеге асыру. Нейрондық желі ішкі құрылымы, нейрондар арасындағы ақпараттық ағындарды басқару әдісі бойынша оңтайлы болуы керек. Таңдалған ақпараттық модель практикалық мәселені шешу үшін қолданылады.
Диссертациялық жұмыстың негізгі міндеттері:
1) жасанды интеллектуалды жүйелердің қолданыстағы түрлерін, сондай-ақ олардың жұмыс істеу әдістерін зерттеу.
2) негізгі ақпараттық модельдердін қарастырып, түрлерін зерделеп талдау. Эмоцияны танудағы мәселені шешіп, нейрондық желінің тиімді ақпараттық моделін таңдау.
3) бет әлпет қозғалысын танудың қолданыстағы әдістерін қарастыру және олардың арасындағы әмбебап әдістерін бөліп көрсету.
4) интеллектуалды жүйе үшін беттің қимыл белсенділігін тану алгоритмін іске асыру және сипаттау және практикалық есепті шешу.
Бұл зерттеудің объектісі-мимикалық өрнектерді танудың тәсілдері, әдістері.
Зерттеу тақырыбы жасанды нейрондық желілердің ақпараттық модельдері, сондай-ақ тұлғаның мотор белсенділігін тану алгоритмін енгізу және сипаттау болып табылады.
Магистрлік диссертацияның ғылыми жаңалығы-адамның эмоцияларын тану алгоритмін жүзеге асыру үшін нейрондық желілер технологияларын (ақпараттық модельдер), сондай-ақ бет-әлпет жүйесінің жүйесін пайдалану.
Эмоцияларды танитын нейрондық желіні іске асыру үшін белгілі бір адамды көптеген адамдардан ерекшелейтін тұлғаның негізгі белгілері мен негізгі мимикалық көріністерін бөліп көрсету қажет.
Іске асырудың күрделілігі нейрондық желіні оқытуда жатыр. Есеп үшін бастапқы деректерді таңдау, ең алдымен, мимикалық көріністердің математикалық және геометриялық сипаттамасы болып табылады.
Шешілетін ғылыми-техникалық міндеттердің күрделілігінің артуына байланысты визуалды ақпаратты автоматты түрде өңдеу және талдау барған сайын өзекті мәселелерге айналуда. Қазірдің өзінде көптеген әзірлеушілер күрделі мәселелерді компьютерлік көру машиналарының көмегімен шешеді, жүйенің жұмысы үшін әртүрлі әдістерді, соның ішінде нейрондық желілерді қолданады.
Диссертациялық жұмыс кіріспеден, үш бөлімнен, қорытындыдан, пайдаланылған әдебиеттер тізімінен тұрады.
Бірінші бөлімде нейрондық желілер бойынша теориялық материалдар, сондай-ақ жасанды интеллектуалды жүйелердің қолданыстағы түрлері және эмоцияларды тану әдістері қарастырылады.
Екінші бөлімде нейрондық желілердің ақпараттық модельдерінің егжей-тегжейлі сипаттамасы мен құрылымы, олардың ерекшеліктері, салыстырмалы талдау, практикалық мәселені шешудің оңтайлы моделін таңдау берілген. Сондай-ақ, суреттегі тұлғаларды анықтау әдістеріне талдау жасалады, эмоцияларды танудың логикалық ережелерінің жиынтығы қарастырылады.
Үшінші бөлімде нейрондық желіні қолдана отырып, эмоцияларды тану алгоритмі берілген.
1. Жасанды интеллектуалды жүйелер мен нейрондық желілердің негізгі түсініктері
1.1 Нейрондық желілердің шығу тарихы
1940 жылдан бастап нейрондық желілер туралы айтыла басталды. 1943 жылы теория ретінде Мак Каллок пен Питс ғылыми бағытта реттеп өз жұмыстарын жария етті [2]. Бұл еңбекте кез-келген логикалық, арифметикалық функцияларды қарапайым нейрондық желіні қолдана отырып нәтижеге қол жеткізуге болтынын айтты.
Ең алғашқылардың бірі болып, 1949 жылы Д. Хэбб өз нейрондық желілерді оқытудағы моделін ұсынды, мұны ең бастапқы нүктесі деуге болады. Хэбб ең алдымен синаптикалық байланыстардың күшін өзгерту арқылы жасалатынын байқады. Хебб теориясы-бұл өзін-өзі оқытудағы ең қарапайым түрі, онда оқытушысыз берілген тапсырманы орындауға үйренеді. Сонымен қатар М.Минский жұмыстарын айта кеткен жөн, белгілі "немесе" шешімін алып тастау арқылы оқыту [2, 7-бет] еңбегін шығарды.
Ф. Розенблатт 1958 жылы персептрон атты өзінің объектілерді сыныптауға арналған нейрон желісін ұсынды. Персептрон үйрену кезінде "оқытушыдан" хабарлама алып, соның арқасында объектінің қай класқа бейім екенін анықтауға болады. Сонымен қатар, оқытылған перцептрон аз қателіктер жіберіп, бұрын қолданылмаған объектілерді өзі жіктеуге қабілетті болды.
Нейрондық желілердің дамуындағы тыныштық (бос) кезеңі 1968-1985 жж. Дербес компьютерлердің пайда болуымен байланысты нейрондық желілерді модельдеу бастау алды.
Ф.Уоссерманның "Нейрокомпьютерлік техника" кітабы қызығушылық танытып жүрген мамандар үшін үстел кітабына айналды.
Нейрондық желілерге деген қызығушылық 1982 жылы Д. Хопфилдтің еңбегін жариялағаннан бастап күрт өсті. Хопфилд Хаббтың оқыту ережелеріне қарай отырып, нейрондармен байланысты мәселелерді тәртіпсіз жүйелер физикасында сол кезде жасалған бірқатар модельдерді жалпылауға дейін қысқартуға болатындығын айтты.
1986 жылы қабатты нейрондық желілерді оқытудағы біраз мәселелерді шешуге жауап табуға болатын Уильямс, Румелхарт және Хинтон еңбектірін жария етті [3, б.8]. Осыдан кейін Хинтон ұсынған алгоритм уақыт өте келе өзгере бастады.
80-90-шы жылдар аралығында біртұтас теориялық негіз ретінде қалыптасып, соның негізінде бүгінгі таңда көптеген желілер құрылды. Қалыптасқан теория кейінгі жиырма жылда қолданбалы есептерді шешу үшін кеңінен қолданыла бастады. Осыған орай жеке меншік компаниялар өздерінің бағдарламалық жасақтамаларын шығара бастады. Әрі қарай нейрондық желілер бизнесте өз орнын таба бастап, банктер өз клиенттерінің төлем жасай алу қабілеттілігін анықтау үшін 90-шы жылдары жеке бағдарламаларын іске асырды.
Жоғарыда айтып кеткен Джеффри Хинтон Торонто университетінде 2007 жылы нейрондық желілерді терең зерттеу жаңа алгоритмін ұсынды. Хинтон Больцман машинасын, жүйенің төменгі қабаттарын оқыту кезінде қолданды. Ол стохастикалық қайталанатын нейрон желісін білдіретін шектеулі машина еді. Бұл фотосуреттен бет-әлпет тез табу сияқты мәселелерді тез шеш алатындықтан, қазіргі таңда барлық бейнекамераларда өз ісін атқарып жатыр.Сондай-ақ бұл технология суреттерді іздеудегі процессте жіктеу үшін қолданыста [4].
Мамандардың айтуынша, нейрондық жүйелер мен нейрокомпьютерлерді жобалау барысында болшақта технологиялық өсу күтілуде. Кейінгі жылдары көптеген жаңа мүмкіндіктер ашылып, осы саладағы жұмыстар экономика, технология, ғылымдарға әсері зор болып табылады.
Алпыс жылдан астам тарихи болсада, нейрондық жобалауда осыншама уақыт ішінде, мидың толыққанды жұмыс істеу ақиқаты немесе шегі әлі күнге дейін беймәлім. Айта кетсек, ақпаратты беру сырын импульстар тізбегі ретінде анықтауға болатын бірден-бір нейронның жоқтын қасы.
Қазіргі таңда, нейрондық жүйенің әртүрлі конфигурациялары бар, олардың айырмашылығы функциялау негізінде, соған орай олар көптеген мәселелерді шешуге арналған.
Сондықтан нейрокомпьютерлік технологиялардың келешегі осы саланың нейрондық модельдеу жаңа ашылулармен байланысты болатынына кәміл сенемін. Мидың бір аймағының жұмыс істеу принципін, құпиясын тапқан кезде басқа аймақтарының жұмыс белгілі болады.
1.2 Жасанды нейрондық желі түсінігі
Жасанды нейрондық желі дегеніміз - математикалық модель, сонымен қатар оның биологиялық нейрондық желілер-тірі ағзаның жүйке жасушалары принципіне негізделген бағдарламалық және аппараттық орындалуы. Бұл тұжырымдама адам миында жүретін процестерді модельдеуге тырысқанда пайда болды [5, б.3].
Жасанды нейрондық желі-бұл бір-бірімен байланысқан және өзара әрекеттесетін қарапайым процессорлар жүйесі. Желілік процессорлардың әрқайсысы мезгілімен келіп түсетін немесе басқа процессорларға берілетін сигналдармен айналысады. Үлкен желі ең күрделі мәселелерді қысқа мерзімде шеше алады.
Математикалық тұрғыдан алғанда, нейрондық желілер сызықтық емес оңтайландыру есептерін шешудің тәсілі болып табылады. Кибернетика адаптивті басқару мәселелерін шешуде, робототехника үшін алгоритмдерді құруда нейрондық желілер теориясын қолданады.
Бағдарламалауда нейрондық желі тиімді параллелизм мәселесін шешудің бір әдісі болып табылады.
Нейрондық желілерді бағдарламалау бағдарламалық кодты жазу емес, желіні оқытуды білдіреді. Оқытудың арқасында желі мәліметтер арасындағы тәуелділікті анықтай алады (кіріс және шығыс), нәтижелерді оңайлату және білімді күрделі мәселелерді қарапайым мәселелерге бөлу үшін қолдана алады.
1.2.1 Биологиялық нейрон және жасанды нейрон
Адамның миы мен жүйке жүйесі жүйке талшықтарымен байланысқан нейрондардан тұрады. Нейрондар арасында жүйке талшықтары арқылы электр импульстары беріледі. Тірі организммен болатын барлық әрекеттер, терінің тітіркенуі, көз, ауырсыну, ойлау процестері-нейрондардың өзара әрекеттесуі. Биологиялық нейронның құрылымы сурет 1-де көрсетілген [5]:
Сурет - 1. Биологиялық модель [6]
Дендриттер-нейронның импульстарын қабылдайды;
Аксон-нейронның импульсін береді;
Синапстар-аксон мен дендриттің байланысы үшін импульс күшіне әсер ететін түзілімдер.
Синапс өткен кезде импульс күші белгілі бір рет өзгереді (синапстың салмағы). Импульстар бірнеше дендриттер арқылы нейронға жеткенде, олар жинақталады. Егер жалпы импульс шекті мәннен асып кетсе, онда нейрон қозу күйіне өтіп, өзінің импульсін қалыптастырады және оны одан әрі аксонға жібереді. Тиісті нейронның мінез-құлқы өзгеруі мүмкін, өйткені синапстардың салмағы уақыт өте келе өзгереді. Сипатталған процестің математикалық моделі келесідей ұсынылған (сурет 2):
Сурет - 2. Нейронның математикалық моделі [6]
Бұл модель нейрон үш кірісін сипаттайды, онда синапсы бар салмағын 𝑤1, 𝑤2, 𝑤3, оларға түсетін күштер 𝑥1, 𝑥2, 𝑥3 тиісінше. Нейронға импульстар келеді 𝑥1𝑤1, 𝑥2𝑤2, 𝑥3𝑤3 синапстар мен дендриттерден өткеннен кейін.
Алынған жалпы импульс x=𝑥1𝑤1+𝑥2𝑤2+𝑥3𝑤3 нейрон f(x) беріліс функциясына сәйкес түрлендіреді.
y = f(x)=f(𝑥1𝑤1+𝑥2𝑤2+𝑥3𝑤3) - шығу импульсінің күші. Қорытындылай келе, кіріс түрінде 𝑥𝑘 (вектор) сандар жиынтығын аламыз. Әрі қарай нейрон шығу кезінде белгілі бір санды береді [7].
Жасанды нейрон келесідей: оның кірісіне көптеген сигналдар түседі, олардың әрқайсысы бір уақытта басқа нейронның шығуы болып табылады. Мұндай кіріс тиісті салмаққа көбейтіледі, содан кейін көбейтінділер нейронның активтену деңгейін анықтайды.
Бұл идеяны жүзеге асыратын модель сурет 3-де көрсетілген:
Сурет - 3. Нейронның активтендіру моделі [5]
Мұнда көптеген x1, x2,...,xn сигналдары жасанды нейронның кірісіне енеді,жиынтықта олар Х векторымен белгіленеді. Бұдан әрі сигнал w1, w2,..., wn тиісті салмағына көбейтіледі, содан кейін ∑ блокқа қосылады. Әрбір салмақ биологиялық нейрондағы бір синаптикалық байланыстың күшіне тең. Әдетте NET деп аталатын шығыс жиынтық блоктан жасалады, онда өлшенген элементтер алгебралық түрде қосылады.
NET сигналы активация деп аталатын қарапайым сызықтық функциямен түрлендіріледі. Ол F-мен белгіленеді және шығыс сигналын шығарады. OUT=K(NET), мұндағы k - тұрақты, шекті функция OUT = 1, Егер NETT
OUT = 0 басқа жағдайларда,
T-нейрондық желіні дәлірек модельдейтін тұрақты шекті мән.
Белсендіру функциясы бар жасанды нейрон сурет 4-де көрсетілген:
Сурет - 4. Нейронның активтендіру функциясы [8]
F деп белгіленген блок NET сигналын қабылдайды және OUT сигналын шығарады.
Егер кез - келген NET мәндерінде OUT мәндері белгілі бір соңғы интервалға жататын болса, F-сығымдау функциясы деп аталады [9].
Жасанды нейрон моделі биологиялық нейронның көптеген қасиеттерін елемейді. Мысалы, жүйенің динамикасына әсер ететін уақыт кідірістері.
Кіріс сигналдары бірден шығыс сигналын шығарады. Сонымен қатар, жасанды нейрон биологиялық нейронның синхрондау функциясының әсерін ескермейді.
Алайда тірі нейрон мен жасанды нейронның ерекше ұқсастығын атап өткен жөн.
Ақпараттық технологиялар саласындағы нейрондық желілердің орнын анықтау үшін жасанды зияткерлік жүйелерді жіктеуге жүгіну керек.
1.3 Жасанды зияткерлік жүйелердің жіктелуі
Жасанды интеллектуалды жүйелер мынадай ерекшеліктерге ие:
Біріншіден, пайдаланушының компьютері мен жүйенің өзара әрекеттесу жолын сипаттайтын дамыған коммуникативті қабілеттер. Зияткерлік жүйемен диалогта еркін сұрау арқылы жүйеге жүгіну мүмкіндігі жоққа шығарылмайды. Бұл жағдайда зияткерлік жүйенің тілі табиғи тілге мүмкіндігінше жақын болуы керек.
Екіншіден, нашар рәсімделетін мәселелерді шешу, яғни нақты шешімі жоқ, бірақ жағдайға, қолданыстағы мәліметтерге және түпкілікті нәтижеге байланысты стандартты емес тәсілді қажет ететін міндеттер. Нашар рәсімделетін міндеттер жасанды нейрондық желілердің көмегімен тиімді шешіледі.
Үшіншіден, өзін - өзі оқыту мүмкіндігі-яғни белгілі бір жағдайлардың жинақталған тәжірибесінен зияткерлік жүйенің білім алу мүмкіндігі. Жүйені алдын-ала оқыту үшін өңделген бастапқы деректер қажет.
Ұсынылған белгілерге сәйкес зияткерлік жүйелерді келесідей бөлуге болады (кесте 1):
Кесте 1
Жасанды зияткерлік жүйелердің түрлері [10, б. 9-11].
Жасанды зияткерлік жүйенің түрі
Жасанды интеллектуалды жүйенің типі
Коммутативті қабілеттері бар жүйелер
- интеллектуалды мәліметтер базасы;
- табиғи-тілдік интерфейстер;
- гипермәтіндік жүйелер;
- контекстік анықтамалық жүйелер;
- танымдық графика.
Сараптамалық жүйелер
- жіктеу жүйелері;
- алдын ала белгілеу жүйесі;
- трансформациялық жүйесі;
- көп антенналық жүйелер.
Өздігінен оқу жүйесі
- индуктивті жүйелер;
- нейрондық желілер;
- прецеденттердегі жүйелер;
- ақпараттық қоймалар.
Адаптивті жүйелер
- CASE-технологиялар;
- компоненттік технология.
Ақылды мәліметтер базасы қарапайым мәліметтер базасынан анық сақталмайтын, бірақ қол жетімді мәліметтер базасынан шығуы мүмкін қажетті ақпаратты сұрау бойынша таңдау мүмкіндігімен ерекшеленеді.
Әрине, тілдік интерфейс табиғи тілдің конструкцияларын білім берудің ішкі деңгейіне айналдырады. Ол интеллектуалды мәліметтер базасына қол жеткізу, құжаттық мәтіндік ақпаратты контекстік іздеу, басқару жүйелеріндегі дауыстық енгізу командалары, шет тілдерінен машиналық аударма үшін қолданылады..
Гипермәтіндік жүйелер мәтіндік ақпарат базасында қолданылады, онда кілт сөздерді іздеу қажет.
Контекстік анықтамалық жүйелерде пайдаланушы мәселені сипаттайды, ал жүйе қосымша диалогты қолдана отырып, оны нақтылайды және осы жағдайға сәйкес келетін ұсыныстарды іздейді. Мұндай жүйелер құжаттама жүйелеріне қосымша ретінде құрылады және білім тарату жүйелерінің класына жатады.
Танымдық графикалық жүйелер операциялық процестерді бақылау мен басқаруда қолданылады. Графикалық кескіндер көрнекі және интеграцияланған түрде зерттелетін жағдайдың көптеген параметрлерін сипаттайды.
Сараптамалық жүйелер қарастырылып отырған проблемалық саладағы сарапшылардың тәжірибесін көрсететін жинақталған білім базасы негізінде мәселелерді шешуге арналған.
Көп агентті жүйелер-бұл динамикалық негізде алынған нәтижелермен алмасатын бірнеше гетерогенді білім көздерінің білім базасындағы интеграциямен сипатталатын динамикалық жүйелер.
Өзін-өзі оқыту жүйелері нақты тәжірибе жағдайларының мысалдарын автоматты түрде жіктеу әдістеріне негізделген [10, 12-19 беттер].
Өзін-өзі оқыту жүйелерінің өзіне тән белгілері: - "мұғаліммен" өзін-өзі оқыту жүйелері, әр мысал үшін оның белгілі бір жағдайлар класына жататындығы (класс түзуші белгі) белгісінің мәні айқын түрде берілген кезде);
- "мұғалімсіз" өзін-өзі оқыту жүйелері, жіктеу белгілерінің мәндерінің жақындық дәрежесі бойынша жүйе жағдайлардың кластарын анықтайды.
Индуктивті жүйелер мысалдарды нақтыдан жалпыға жалпылайды, ал жалпылау процесі келесідей жүзеге асырылады:
1) Берілген санаттардың жиынтығынан жіктеу белгісі таңдалады (дәйекті немесе ереже бойынша).
2) Таңдалған белгінің мәні бойынша көптеген мысалдар ішкі жиындарға бөлінеді.
3) Мысалдың бір сыныпқа жататындығы туралы тексеру орындалады.
4) Егер кейбір мысалдар жиынтығы біреуіне тиесілі болса ішкі класс, яғни ішкі жиынның барлық мысалдарында класс түзуші белгінің мәні сәйкес келеді, содан кейін жіктеу процесі аяқталады.
5) Сынып құраушы белгінің сәйкес келмейтін мәні бар мысалдар жиынтығы үшін жіктеу процесі 1-тармақтан бастап жалғасады.
Әрі қарай, шешілетін мәселелер тұрғысынан зияткерлік ақпараттық жүйелерге жүгіну керек. Мұнда келесі жүйелерді бөлуге болады:
- басқару жүйелері және анықтамалық жүйелер;
- компьютерлік лингвистика жүйелері;
- тану жүйелері;
- ойын жүйелері;
- интеллектуалды ақпараттық жүйелерді құру жүйелері [11, б. 22].
Сурет 5-те шешілетін мәселелер бойынша зияткерлік ақпараттық жүйелердің жіктелуі көрсетілген:
Сурет - 5. Шешілетін міндеттер бойынша АЖ жіктеу [10, б. 14]
Жүйелер бір емес, бірнеше мәселені шеше алады немесе бір мәселені шешу барысында бірқатар басқа мәселелерді шеше алады.
Интеллектуалды жүйелер "қолданылатын әдістер"сияқты критерий бойынша жіктеледі. Мұнда жұмсақ, қатты және гибридті бөліп көрсетуге болады (Сурет 6).
Сурет - 6. ИАЖ-ны әдістер бойынша жіктеу [10, б. 14]
Жұмсақ есептеу (жұмсақ есептеу) - бұл анық емес логикаға, генетикалық есептеулерге, нейрокомпьютерлерге және ықтималды есептеулерге негізделген күрделі компьютерлік әдіс.
Қатты есептеу-стандартты компьютерлік есептеу (жұмсақ емес).
Гибридті жүйелер-бірден артық компьютерлік технологияны пайдаланатын жүйелер (зияткерлік жүйелер жағдайында - жасанды интеллект технологиялары) [11, б.6].
Жасанды интеллектуалды жүйелердің жіктелуі ғылымның әртүрлі салаларындағы үлкен теориялық білім базасын қамтиды. ИАЖ құру және іске асыру - бастапқы кезеңнен бастап соңына дейінгі күрделі процесс.
Эмоцияны танудың интеллектуалды жүйесін жасау кезінде психологияда, сот-медициналық ғылымда және басқа салаларда қолданылатын ең танымал әдістер туралы айту керек.
1.4 Деректерді талдау жүйесіндегі профильдеу
Оның дамуының бастапқы кезеңінде "профильдеу" термині қылмыс орнындағы іздер бойынша қылмыскердің психологиялық портретін (профилін) құруды білдірді. Әйтпесе, бұл жеке тұлғаны профильдеу деп аталады. Ең алдымен, бұл әдіс сериялық өлтірушілерді іздеуде қолданылады. Ол криминалистика, психиатрия және психология туралы білімді біріктіреді. Кейінірек профайлинг ықтимал қауіпті тұлғаларды анықтау деп аталды. Біріншіден, технология азаматтық авиацияда жолаушыларды алдын-ала тексеру кезінде қолданылды.
Профайлинг-бұл адамның мінез-құлқын бағалау мен болжаудың психологиялық әдістерінің жиынтығы, ол жеке белгілерді, сыртқы келбеттің сипаттамаларын, вербалды емес және ауызша мінез-құлықты талдауға негізделген [12].
Бұл әдісті маман - профайлерлер, яғни өтірікті тану саласындағы мамандар қолданады. Профайлинг теориясын компьютерлік көруде субъектінің ықтимал қауіптілігі немесе қылмыскердің өтірігін тану үшін анықталған белгілер бойынша жіктеу негізінде тиімді қолдануға болады.
Эмоцияны сипаттау үшін 1978 жылы Пол Экман мен Уоллес Фризен жасаған бет қимылдарын кодтау жүйесіне жүгіну керек (қысқаша БҚКЖ) [13].
БҚКЖ-н қолдана отырып, белгілі бір іс-қимыл бірліктерінен бет моделін құру арқылы бет әлпетін кодтауға болады, сонымен қатар белгілі бір бет өрнегін көбейту үшін белгіленген уақыт аралығы. Нұсқаулықта БҚКЖ Пол Экман бір немесе бірнеше бұлшықет топтарының жиырылуы немесе кернеуі туралы эмоцияларды түсіндіреді.
Кодтау жүйесінде әрекет бірліктерімен айтарлықтай айырмашылықтары бар бекітілген дескриптор нөмірлері бар. Егер іс-қимыл бірліктері мінез-құлықта дәл көрінсе, онда бұлшықет негізі бұл мағынада дәл көрінбейді.
Әрекет бірліктері (ӘД) - бұл жеке бұлшықеттер немесе бұлшықет тобы жасаған негізгі қозғалыстар.
Іс-қимыл дескрипторы (ІҚД) - бұлшықет топтары жасаған унитарлық қозғалыстар (мысалы, төменгі жақты алға жылжыту). Бұл қозғалыстардың бұлшықет негізі көрсетілмеген. Және олар мінез-құлықта соншалықты дәл көрінбейді, өйткені онда бірлік дәл көрінеді.
Мысалы, БҚКЖ-дегі күлімсіреудің екі түрі үшін қолдануға болады:
1. Қасақана шынайы күлімсіреу: тек негізгі зигоматикалық бұлшықет жиырылады
2. Еріксіз шынайы күлімсіреу: негізгі зигоматикалық бұлшықет пен көздің дөңгелек бұлшықетінің төменгі бөлігі.
Сондай-ақ, сарапшылар бет қозғалыстарымен байланысты эмоцияларды қарастыратын БҚКЭЖ (бет қимылдарын кодтаудың эмоционалды жүйесі) жасай алды (кесте 2).
Кесте 2
П. Экман бойынша бет қимылдарын кодтау жүйесі [13]
Эмоция
Әрекет бірлігі
Қуаныш
6+12
Қайғы
1+4+15
Таңдану
1+2+5B+26
Қорқыныш
1+2+4+5
Ашу-ыза
4 +5 +7 +23
Жиіркеніш
9+16+15
Құрметсіздік
R12A+R14A
Сондай-ақ, эмоцияларды анықтау және бейнелерді тану мәселесінде интеллектуалды бейне талдау міндетіне назар аудару керек. Мұндай жүйелерде эмоциялардың көрінісі сыртқы белгілер кластарына бөлінеді.
"Эмоционалды күй "адамның" шиеленіс деңгейімен " салыстырылады. Эмоционалды шиеленіс-көріністің қарқындылығын өзгертпестен эмоционалды саланың ұзақ уақытқа жүктелуінен туындаған психикалық деңгейдегі шиеленіс.
Эмоцияны автоматты түрде тану міндеті көбірек назар аударады, нәтижесінде оны шешу үшін әртүрлі әдістер қолданылады [14].
Қазіргі уақытта тану жүйесін жасау кезінде профиль элементтерін қолданатын әдістердің келесі кластарын бөліп көрсетуге болады:
- тұтас әдістер (яғни бет бейнесін толығымен өңдеу);
- жергілікті әдістер (яғни бет элементтерінің кескінін өңдеу);
- объектілердің пішінін есептейтін әдістер;
- объектілердің динамикасын есептеу әдістері.
ANN-жасанды нейрондық желілер; SVM-тірек векторларының әдістері; GA - генетикалық алгоритмдер; LVQ - векторлық кванттау (Кохонен желісі); AAM - бейнелеу моделі; ASM - пішін моделі; EBGM - серпімді граф; PCA - негізгі компоненттер әдісі; LDA - сызықтық дискриминантты талдау; LBP - жергілікті екілік үлгілер; HoG-бағытталған градиенттердің гистограммасы [15, 480 бет]. Бұл сыныптар кесте 3-те көрсетілген:
Кесте 3
Эмоцияны тану әдістерінің жіктелуі [15, б. 512]
Әдістер
Холистикалық әдістер
Жергілікті әдістер
Форманы есептеу әдістері
Жіктеуіштер:
Artificial Neural network, Random Forest, Adaboost, Вейвлеттер және Габор сүзгілері.
Хаф түрлендіруі, 2D моделіндегі тұлғалар: AAM, ASM, EBGM
Жіктеуіштер: Artificial
Neural network, Байес жіктеуіші Adaboost
Геометриялық модельдер тұлғалар
Меншікті векторлар: PCA
Жергілікті гистограммалар: HoG, LBP
Динамиканы есептеу әдістері.
Оптикалық ағын. Динамикалық модельдер.
3D динамикалық модельдері. Статистикалық модельдер: HMM, DBN
Сауалнама сценарийі мен микро-өрнектер теориясының бірігуі профайлингке дамудың басқа деңгейіне өтуге және біртіндеп экономикалық құрылымдарға, атап айтқанда банк секторына, бейнебақылау қауіпсіздік жүйелеріне интеграциялануға мүмкіндік берді.
Осылайша, профайлинг заңға бағынатын азаматтар үшін қауіпсіздік деңгейін едәуір арттыруға мүмкіндік беретін жеке тұлғаны диагностикалаудың өзекті әдісі болып табылады.
1.5 Жасанды интеллектуалды эмоцияны тану жүйелері
Профайлинг теориясын және негізгі эмоцияларды, сондай-ақ эмоцияларды Өзгертуді қолдана отырып, белгілі бір эмоцияның математикалық моделін сипаттауға болады. Кез-келген мимикалық өрнек талданады және интеллектуалды жүйеге түсінікті тілге аударылады . Математикалық модель құрудың негізгі және байланысты кезеңдері:
1. Кадрдағы адамдарды анықтау;
2. Жасанды жүйенің бет - әлпеттің табиғи емес бұрылысы немесе жарықтың жеткіліксіздігі болған кезде кадрдағы адам бірдей тұлға екенін түсінуі.
3. Адамды басқа адамдардан ажыратуға мүмкіндік беретін ерекше бет сипаттамаларын таңдау (мысалы, көздің кесілуі мен пішіні, беттің ұзаруы, аузының бетке орналасуы).
Адамның миы мұның бәрін автоматты түрде бірден жасайды. Шын мәнінде, адамдар бет-әлпетті өте жақсы таниды және ақыр соңында күнделікті заттарда бет-әлпетті көреді.
Компьютерлер мұндай жоғары жалпылау деңгейіне қабілетсіз, сондықтан оларды осы процестің әр қадамын бөлек үйрету керек.
Интеллектуалды жүйелерді дамыту және жобалау кезеңдерінің санын анықтау туралы әртүрлі көзқарастар бар. Бұл көптеген факторларға, атап айтқанда, болашақ зияткерлік жүйе функцияларының сипатына, пайдалану саласына, дамыған құралдардың болуына және басқаларға байланысты.
Эмоцияны автоматты түрде танудың кейбір бағдарламалық жүйелерін қарастырамыз [6](кесте 4).
Кесте 4
Эмоцияны тану бағдарламалық жасақтамасы[6]
Эмоция тану жүйесі
Жүйе туралы ақпарат(әзірлеуші компания)
Жүйенің мүмкіндіктері
Артықшылықтары
Кемшіліктері
Face Reader
Noldus Information Technology
(Нидерланды)
Эмоцияны тану, этникалық белгілерді анықтау, тұлғаның моделін құру.
89% дәлдікпен тану; эмоцияларды тікелей немесе толық визуализацияны анықтауға болады
5 жасқа дейінгі балаларды танымайды,көзілдірік киген адамның эмоциясын,бұрылған тұлға анықталмайды.
EMotion Software, Glad or Sad
Visual Recognition
(Нидерланды)
Жүйе көздің және ауыздың 12 негізгі аймағын анықтай отырып, 3D моделін жасайды.
Ашу, қайғы, қорқыныш, жиіркеніш және бақытты таниды. БЖ компьютерге қажет емес.
Кемшіліктер анықталған жоқ
Face Analysis System
MMER-Systems (Германия)
Бетіңізге нақты уақыт режимінде белгілі бір масканы қолдану
Алты негізгі эмоцияны таниды,жынысын, жасын, этникалық құрамын анықтайды;
Жүктелетін деректердің толық қамтылмауы:веб-камерамен мүмкін; деректерді түсірудің дұрыс емес нәтижелері.
FaceSecurity
Cognitec (Германия)
Тұлғаларды дерекқорлардан өңдейді, биометриялық сәйкестендіру арқылы
Кластерлік конфигурация; адамдардың суреттерінің тізімін сұрыптау;
Нашар жарықтандырылған адамдарды танымайды; тек фронтальды орналасқан тұлғаларды таниды
Жасанды интеллектуалды жүйелерді құру процесі шартты түрде бес кезеңге бөлінеді (сурет 7):
Сурет - 7. ЖИЖ жобалау кезеңдері [16]
1. Тапсырмаларды анықтау және олардың сипаттамаларын анықтау. Жобаланған жүйеге техникалық тапсырма жасалады, жүйені пайдаланушылар шеңбері шектеледі.
2. Сарапшылар тобының білімін көрсететін пәндік саланың негізгі тұжырымдамаларын бөліп көрсету. Білім инженері білімді ұсынудың ресми құралдарын және шешім қабылдау процедураларын анықтайды [16].
Тақырып саласы туралы сарапшының білімін ұсынудың сипаттамалық схемасын таңдауды анықтайтын ұғымдар анықталады және тұжырымдалады. Проблемалық аймақ туралы білімнің негізгі көзі-адам сарапшысы, кітаптар, технологиялық сипаттамалар, нұсқаулықтар, құжаттар, ми шабуылы, мәліметтер базасын автоматтандырылған толтыру әдістері. Білімнің тағы бір маңызды көзі- интернет (қажетті ақпарат пен білімді дәстүрлі іздеу, сонымен қатар зияткерлік агенттер (бағдарламалық роботтар)).
3 .Білімді ұсыну формализмін таңдау және шешімдерді шығару механизмін анықтау. Білімді ұсыну үшін әзірленген құрылым келесі кезеңді жүзеге асырудың негізі болып табылады-жүйенің білім базасын тікелей құру.
4.Білімді ұсыну тілін таңдау немесе дамыту. Ережелер таңдалған презентация тілінде тұжырымдалғаннан және ұсынылғаннан кейін оларды білім инженері АБ-ға енгізеді.
5.Нақты тексеру міндеттерін шешу арқылы жүйені тестілеу.
Интеллектуалды жүйелерді құру кезеңдері қатаң сакталуы маңызды емес. Олардың кейбіреулері арасында уақытша және мағыналы шекара салу қиын. Олар белгілі бір дәрежеде интеллектуалды жүйелерді жобалау процесін сипаттайды [17, б.15].
Нейрондық желіні қолдана отырып, эмоцияны танудың жасанды интеллектуалды жүйесін дамыту нейрондық желіні міндетті түрде оқытуды қажет етеді. Белгілі бір тапсырмаға нейрондық желіні құру үшін нейрондық қосылыстардың параметрлерінің мәндерін таңдау керек.
Бұл процесс бет сипаттамаларының жиынтығын және компьютердің үлкен өнімділігін көрсету үшін үлкен көлемді деректерді қажет етеді.
Бірінші тарау бойынша қорытынды:
1) Жасанды зияткерлік жүйелер түрлері, шешілетін міндеттері және пайдалану әдістері бойынша жіктеледі. ЖИЖ-дің кең спектрі сізге ең тиімді жүйені және мәселені шешудің нақты әдісін таңдауға мүмкіндік береді.
2) ЖИЖ әзірлеу процесінде қатаң регламенттеу болмайды. Шартты түрде жобалауды бес кезеңге бөлуге болады: тапсырманың сипаттамаларын анықтау; ақпаратты ұсыну үшін ұғымдарды табу; құрылымды жобалау; ережелерді қалыптастыру; ережелерді бағалау.
3) Жасанды нейрондық желі - математикалық модель, сондай-ақ биологиялық нейрондық желілер қағидаты бойынша құрылған оның бағдарламалық және аппараттық іске асырылуы түсініледі. Бұл тұжырымдама адам миында жүретін процестерді модельдеуге тырысқанда пайда болды.
4) Жасанды нейрондық желіні оқыту-бұл күрделі процесс, онда желі енгізілген ортаны модельдеу нәтижесінде еркін параметрлер реттеледі. Нейрондық желілерде бірқатар проблемалар бар, олардың бірі нейрондық желілерді іс-әрекетте тиімді пайдалануға мүмкіндік беретін жүйені құру үшін оңтайлы модельді таңдау болып табылады.
5) Профайлингті қолдану міндеттерді шешу кезінде қауіпсіздік, бизнес, банктік және өзге де салалардағы бейнелердегі немесе бейне деректер ағынындағы тұлғаларды тануды пайдаланған орынды.
2. Нейрондық желілер мен эмоцияларды танудың ақпараттық модельдері
2.1 Бір бағытты көп қабатты желілер
Көп қабатты нейрондық желіні формальды түрде нейрондар деп аталатын қарапайым өңдеу элементтерінің жиынтығы ретінде анықтауға болады. Нейрондар қабаттар бойынша ұйымдастырылған және синапстар деп аталатын бір бағытты байланыстармен біріктірілген [18, б.38].
Әдетте желі кіріс қабатын құрайтын көптеген сенсорлық элементтерден (кіріс түйіндерінен) тұрады; есептеу нейрондарының бір немесе бірнеше жасырын қабаттары және нейрондардың бір шығыс қабаты.
Бір бағытты көп қабатты нейрондық желілер ең көп таралған, өйткені олар қарапайым математикалық сипаттамаға ие. 70-ші жылдардың аяғынан бастап көп қабатты желілер ыңғайлы оқыту алгоритмдерінің арқасында дамыды.
Тікелей таралатын нейрондық желілерде қабаттан қабатқа (бір нейроннан екіншісіне) берілетін кіріс сигналы болады. Дәл осындай желілер кіріс қабатынан, жүйенің ішіндегі жасырын есептеу қабаттарынан және нейрондардың шығыс қабатынан тұратын көп қабатты перцептрон деп аталады.
Көп қабатты перцептрон - бұл сигмоидтық типтегі бір бағытты желі [19].
Сигмоидтық функция-бұл барлық жерде біркелкі өсетін, қанықтылығы бар s-тәрізді сызықты емес функция, оны активтендіру функциясы ретінде ресми нейронда қолдану өте ыңғайлы. Сигмоид әлсіз сигналдарды күшейтуге және күшті сигналдардан қанықпауға мүмкіндік береді [19].
Көп қабатты перцептронның құрылымдық схемасы (бұл жағдайда екі қабатты перцептрон) келесідей (сурет 8):
Сурет - 8. Көп қабатты перцептронның құрылымдық схемасы [20]
Белгілеулер:
𝑔𝑙, l=1,2,...,L - нейрондардың бірінші қабатынан шығатын сигналдар;
(m), m=1,2,... - жоғарыдағы жақшадағы индекстер Нейрон қабатының нөмірін білдіреді;
𝑥1, 𝑥2, ... , 𝑥𝑁 - кіріс қабатын құрайтын кіріс сигналдары;
𝑔1, 𝑔2, ... , 𝑔𝐿 - бірінші жасырын қабат;
𝑦1, 𝑦2, ... , 𝑦𝑀 - шығу кезінде қабатты құрайтын шығыс сигналдары.
Желі құрылымын оңай белгілеу үшін "N-L-M" деп кодтаймыз [20].
Шығыс сигналдарын есептеуге арналған формулалар:
gl=f(j=0Nwlj(1)∙xj),l=1,2,...,L (2.1)
yi=f(i=0Lwil(2)∙gl)=f(i=0Lwil2∙f(j= 0Nwlj(1)∙xj)),i=1,2,...,M (2.2)
X, D бірыңғай оқыту үлгісі үшін мақсатты функция келесідей:
EW=12i=1M(yi-di)2 (2.3)
Оқу жұптарының жиынтығы үшін мақсатты функция Xk,Dk, k=1,2,...,p, барлық жұптар үшін қосынды түрінде болады:
EW=12k=1Pi=1M(yi-di)2 (2.4)
Көп қабатты перцептронды оқытудың мақсаты: кіріс векторында 𝑋 𝑘 желі салмағының осындай мәндерін таңдау керек wlj(1),wli(2), 𝑌[𝑘] шығыс векторы мен Dk күтілетін мәндерінің векторы мүмкіндігінше сәйкес келу үшін.
2.1.1 Көп қабатты персептронды қатені кері тарату әдісімен оқыту
Перцептронды оқыту әдістерінің бірі-қатенің кері таралу алгоритмі. Вектордың желі қабаттарында екі рет өту болады-біреуі түзу, екіншісі кері. Бірінші жағдайда вектор кіріс қабатынан қозғала бастайды, содан кейін желі арқылы қабаттан қабатқа өтеді. Бұл жағдайда желінің өзінде шығыс сигналдарының жиынтығы жасалады.
Кері өту кезінде синаптикалық салмақтар нақты желінің шығуынан алынып тасталатындай етіп реттеледі, содан кейін қате сигналы шығады. Әрі қарай, синаптикалық байланыстарға қарама-қарсы бағытта сигнал желі арқылы таралады. Сондықтан бұл әдіс қатені кері тарату деп аталды.
Бұл әдістің мәні 8-суреттегі екі қабатты перцептрон мысалында қарастырылады. Бір жаттығу үлгісінің жағдайы мысалды мүмкіндігінше жеңілдетуге көмектеседі, мақсатты функция (3) формулаға сәйкес пайда болады. Коэффициенттерді нақтылау үшін градиент әдісінің формуласы қажет:
𝑤𝑘+1 = 𝑤𝑘 − 𝜂 ∙ 𝑔𝑟𝑎𝑑𝐸(𝑤𝑘) (2.5)
Осы формуланы жүзеге асыруда негізгі күрделілік-мақсатты функцияның градиент компоненттерін есептеу, (6):
EW=12i=1M(f(l=0Lwil2∙gl)-di)2=12i=1 M(f(l=0Lwil2∙f(j=0Nwlj(1)xj))-di)2( 2.6)
Шығу қабаты нейрондарының салмағы бойынша мақсатты функцияның туындылары:
dE(W)dwil(2)=(yi-di)∙df(ui(2))dui(2 )∙gl, осындағы ui(2)=l=0Lwil(2)∙gl (2.7)
δi(2)=(yi-di)∙df(ui(2))dui(2) болса, онда градиент векторының компоненті түрі:
dE(W)dwil(2)=δi(2)-gl (2.8)
Алдыңғы қабаттың таразыларына арналған компоненттер:
dE(W)dwlj(1)=δi(1)-xj (2.9)
Формулаларды талдау әр қабаттағы таразылар үшін объективті функцияның туындылары үшін E(W) градиент векторын есептеу ережесін жасауға мүмкіндік береді:
dE(W)dwlj(k)=δi(K)-xj (2.10)
𝑥𝑗 - кіріс сигналы;
𝛿𝑖(𝑘) − оқытудың қателігі. Қате (𝑦𝑖 − 𝑑𝑖) желінің шығуынан алдыңғы қабаттарға ауысуына байланысты әдіс қатенің кері таралуы деп аталды [19].
Сигмоидтық типтегі көп қабатты желінің моделі және оны оқыту әдісі, салыстырмалы қарапайымдылығы мен ыңғайлылығына қарамастан, оқу процесін баяулататын немесе желіні үйренуге мүмкіндік бермейтін бірқатар қиындықтарға ие. Мысалы, түзету нәтижесінде таразы мәндері өте үлкен болуы мүмкін.
Бұл жағдай шығу кезінде нейрондардың көп бөлігі үлкен мәнге ие болады, бірақ бұл мәндердегі туынды өте аз болады.
Процесс тоқтап қалуы мүмкін, өйткені оқу процесінде жіберілген қате осы туындыға пропорционалды.
Сонымен қатар, қадамның соңғы өлшемін таңдау керек. Бұл мәселеде тек тәжірибеге сүйенуге болады. Бұл алгоритмнің конвергенция дәлелі бар. Қадам мөлшері конвергенцияға тікелей әсер етеді: егер қадам мөлшері өте аз болса немесе қадам мөлшері тым үлкен болғандықтан тұрақты тұрақсыздыққа ұшыраса, ол өте баяу болады.
Тағы бір қиындық-уақытша тұрақсыздық. Желі әріптерді тани алады, бірақ егер біреуін біліп, екіншісін ұмытып кетсе, онда оқытудың мағынасы болмайды. Оқыту процесі желі бұрыннан үйренген ақпаратты жоғалтпай, барлық жиынтықта оқытылатындай етіп жүргізілуі керек.
2.2 Қайталанатын нейрондық желі
Қайталанатын нейрондық желі-бұл элементтер арасында кері байланысы бар нейрондық желілердің ең күрделі түрі: қашықтан аз қашықтан. Бұл желіні есте сақтауға және үйренуге мүмкіндік беретін кері байланыс.
Алайда, мұндай желінің әлеуеті талдаудың күрделілігіне байланысты нашар түсініледі [19].
Рекуррентті жасанды нейрон желісі - желі кірістеріне шығу кідірісімен кері байланыстарды енгізу жолымен бір бағытты көп қабатты перцептроннан алынатын желі [21].
Мұндай желілердің бір түрін қарастырайық-бұл екі қабаттан тұратын қайталанатын Элман желісі. Бұл желінің құрылымдық схемасы сурет 9-да көрсетілген.
Кері байланыс нейрондық желінің шығуынан емес, ішкі қабаттардан болатындығы айқын көрінеді. Бұл ақпаратты жинауға және есте сақтауға мүмкіндік беретін құрылым.
Сигнал кіріске түседі және жасырын қабатқа өтеді. Жасырын қабатпен түрлендіргеннен кейін сигнал шығады, ал оның көшірмесі кешіктіріледі. Содан кейін келесі сигнал желіге түседі және сол уақытта алдыңғы сигналдың көшірмесі келеді.
Мұнда 𝑣𝑙,,𝑙 = 1,2,... , 𝐿 − бірінші қабат үшін шығыс сигналдары; мақсатты функцияның стандартты түрі:
EkW=12i=1M(yik-dik)2=12i=1M(eik)2 (2.11)
Сурет - 9. Қайталанатын нейрондық желі [21]
Элман формуласы келесідей:
dEk(W)dwnm(2)=enk∙df2(gnk)dgnk∙vmk (2.12)
Элманның қайталанатын желісін оқытуды келесі алгоритммен орнатуға болады:
1) Таразылар үшін бастапқы мәндерді анықтаймыз, K=1 тағайындаймыз.
2) Ағымдағы k моменті үшін барлық қолданыстағы желі сигналдарын анықтаймыз.
3) Бірінші қабаттағы нейрондардың барлық таразылары үшін мәндерді есептейміз.
4) Мақсатты функция векторының барлық компоненттерін есептейміз.
5) Барлық қабаттар үшін нейрондардың салмағын реттейміз.
6) K-ні 1-ге көбейту, 2-тармаққа өтеміз.
Элман желілері негізінен қозғалатын нысандарды басқару жүйелерінде қолданылады. Олар шешімнің жоғары дәлдігін қамтамасыз етпейді, өйткені жасырын қабатта кері байланыс болуы функционалдылықтың градиентін дәл есептеуге мүмкіндік бермейді. Алайда, мұндай ... жалғасы
Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.
Ұқсас жұмыстар
Пәндер
- Іс жүргізу
- Автоматтандыру, Техника
- Алғашқы әскери дайындық
- Астрономия
- Ауыл шаруашылығы
- Банк ісі
- Бизнесті бағалау
- Биология
- Бухгалтерлік іс
- Валеология
- Ветеринария
- География
- Геология, Геофизика, Геодезия
- Дін
- Ет, сүт, шарап өнімдері
- Жалпы тарих
- Жер кадастрі, Жылжымайтын мүлік
- Журналистика
- Информатика
- Кеден ісі
- Маркетинг
- Математика, Геометрия
- Медицина
- Мемлекеттік басқару
- Менеджмент
- Мұнай, Газ
- Мұрағат ісі
- Мәдениеттану
- ОБЖ (Основы безопасности жизнедеятельности)
- Педагогика
- Полиграфия
- Психология
- Салық
- Саясаттану
- Сақтандыру
- Сертификаттау, стандарттау
- Социология, Демография
- Спорт
- Статистика
- Тілтану, Филология
- Тарихи тұлғалар
- Тау-кен ісі
- Транспорт
- Туризм
- Физика
- Философия
- Халықаралық қатынастар
- Химия
- Экология, Қоршаған ортаны қорғау
- Экономика
- Экономикалық география
- Электротехника
- Қазақстан тарихы
- Қаржы
- Құрылыс
- Құқық, Криминалистика
- Әдебиет
- Өнер, музыка
- Өнеркәсіп, Өндіріс
Қазақ тілінде жазылған рефераттар, курстық жұмыстар, дипломдық жұмыстар бойынша біздің қор #1 болып табылады.
Ақпарат
Қосымша
Email: info@stud.kz