Нейронды желілер тарихы туралы

Жұмыс түрі: Материал
Тегін: Антиплагиат
Көлемі: 13 бет
Таңдаулыға:

Нейронды желілер тарихы

Адам миясын ғалымдар мың жылдап ұйренуде. Қазіргі заман
электроникасының пайда болуымен қатар, ойлау процессін аппараттық зерттеу
істері басталды. Бұл бағыттағы бірінші қадам, 1943 жылы нейрофизиолог
Уоррен Маккалох (Warren McCulloch) және математик Уолтер Питтс (Walter
Pitts) мақаласының жарыққа шығумен байланысты. Мақалада жасанды нейрондар
және электрлік схемаларда нейронды желілер моделі сипатталды.

1949 жылы Дональд Хебб (Donald Hebb) "Мінез-құлықты ұйымдастыру" атты
кітабы баспадан шықты. Мұнда нейрондар арасында синоптикалық байланыстар
мәселері зерттелді.

1950 жылдары жасанды нейронды желілердің программалық моделдері
жаратылды. Бұл бағыттағы бірінші зерттеу, IBM зерттеу лаборатороиясында
жұмыс істейтін ғалым Натаниел Рочестер (Nathanial Rochester) ғылыми
еңбектері болды. Келесі кезеңдерде моделді қолдану табысты болуына
қарамастан, модель сәтсіздікке ұшырады. Өйткені, дәстөрлі есептеулердің
қарқынды дамуы, нейронды желілерді зерттеуді көлеңкеде қалдырды.

1956 жылы жасанды интеллектті ғылыми зерттеу Дартмут институты
жасанды интеллектті зерттеу деңгейін көтерді, сонымен қатар нейронды
мереждердің де. Жасанды интеллектті ғылыми зерттеуді қаржылауекі бағытта
болды:

1. Жасанды интелект жөйелерін өндірісте пайдалану;

2. Адам миясын моделдеу.

1958 жылы Джон фон Нейман (John fon Neumann) вакумды трубкаларды
пайдаланып, нейрондар жай функциялар иммитациясын ұсынды.

1959 жылы Бернард Видроу (Bernard Widrow) және Марсиан Хофф (Marcian Hoff)
ADALINE (ADAptive LINear Elements) және MADALINE (Multiple ADAptive
LINear Elements) моделдерді құрды. MADALINE моделі сізге телефон
сызықтарында жаңғырық жоятын жұмыс iстедi. Осыған дейiндердiң коммерциялық
қолдануындағы бұл нейрожелiлер. Перцептронның өстiнде басталған жұмысқа
(Frank Rosenblatt ) Нейробиолог Френк Розенблатт. Бiр қабатты перцептрон
аппаратты құрастырылып және классикалық нейрожелiмен болып есептелетiн
болады. Перцептрон сонда класстардың екеуiнiң бiрiлерiндегi кiретiн
сигналдардың классификациясына қолданылды. Өкiнiшке орай, бiр қабатты
перцептрон "Перцептрондар" Seymour Papert-ты ограниченым және 1969 жылдағы
сыналы, (Marvin Minsky ) Минсктердi Марвинның кiтабында және Сеймур
Пейперта болды. Ерте жетiстiктер, жарықтасына сол электрониканың заман
шектелген жеке алғандасына нейрон мережаларының потенциалының ұлғайтуларына
мөмкiндiк туғызды. Академиялық және техникалық әлем гөлденген шамадан тыс
көту бұл уақыттың ортақ әдебиетiн жұқтырды. "саналы машина" эффект
қауiптену, несi әрдайым адамда сәуле төседi роботтар туралы Әзiмовтың
кiтаптарының топтамасы жазушылармен, жеке алғанда ысыңқырады кекiлдiң
моралдiқ құндылықтарына зардабының көрсеттi Бұл iстелiнбеген сөз
берулермен бiрiккен қауiптенулер нейрон мережаларының зерттеуiнiң
сынағыштық ұшырайтын мамандардың көнiлi қайтуларын жиындар шақырды.
Нәтижемен қаржыландырудың тоқтатылуы болды. Басылуды мерзiм 80-шi жылдарға
дейiн созылды. Мүдденiң қайта тууына 1982 жылы бiрнеше оқиғаларды келтiрдi.
(John Hopfield ) джон Хопфилд АҚШтың ғылымдарының ұлттық академиясына бапты
көрсеттi. Хопфилда жол жаңа архитектураның қағидалардасының нейрон
желiлерiнiң пiшiндеудi мөмкiндiгiнiң көрсеттi. (Жапония ) Киотоға сонымен
бiрге бесiншi генерацияның табыстарымен жариялайтын нейрон желiлерi бойынша
бiрiккен америка - жапон конференциясында өттi. Американдық периодты
шығарулар АҚШ кейiнде нейрдiң төңiрегiнденi қаржыландыруының өсуiне
келтiргенде алатында акценттей бұл тарихтарды тұрғызды

Физиканың Американдық институтының 1985 жылынан жыл сайын
кездесулер бастады - "Есептеулерге арналған Нейрон желiлерi". Видров
бернард "Қорғанысқа Нейрон желiлерi" кездесуге 1989 жыл-шы өрiс төртiншi
әлемдiк соғыстың басы туралы дәрiсхананы қорыға әлемдiк нарықтар және
өндiрiстер болып табылады хабарлады.

1990 жыл - шағын кәсiпкерлiктi қорғаудың инновациялық зерттеулерiнiң
программаларының департаментi қолдану нейрон мережаларының 16 негiзгi және
13 қосымша сол, мөмкiндiгiншелерiн атады. Бүгiн, нейрон желiлерiнiң
талқылауларында барлық жерде болады. Олардың қолдануының перспективасы
болды ендi жарық, дәстөрлi емес мәселелердiң шешiмiнiң жарықтасы болып
көрiнедi және табандатқан технологияға кiлтi болып табылады. Нейрон
мережаларының өңдеулерiн көпшiлiгi осы уақытына принциптi жұмыс iстейтiн,
бiрақ процессорлық шектеулер бар бола алады. Зерттеулер нейрожелiлердi
программалық және аппаратты iске асыруларға бағытталған. Чиптардың өш
төрлерiнiң жасауымен бойынша жұмыс iсте серiктестiктер : жақын келешек
толқын болуға сөз беретiн цифрларға, аннотацияла және оптикалық.

Мимен ұқсастық

Адамның миының дәл жұмысы - жасырын сыр әлi де. Бұл таң ғажайып
процессордың әйтсе де, кейбiр тұрғылары белгiлi. Ерекше торшалар, есте
сақтауға қабiлеттi белгiлi қалай нейрондар адамның миының негiздi
элементiмен олардың дененiң өңге торшаларынан айыратын әрбiр әсерге алдыңғы
тәжiрибелердi ойлап қолдануға болып табылады.

Адамның ми қыртысы жанында бетпен, жуандықтың нейрондарының 2
ауқымды 3 ммге жазық, ғұламасы өйреншiктi клавиатураның бетiнiң ауданын екi
есе асатын 2200 см2 болып табылады. Бас мидың қабығы жуық шамамен
жұлдыздардың құс жолына санға тең 1011 нейрондардың жанында болады. Әрбiр
нейрон 103-104 басқа нейрондармен байланған. Адамның миы негiзiнендер 1014
1015 өзара байланыстарға жуық шамамен алады. Адамгершiлiк ақылдың көшi
олардың арасындағы негiздi компоненттердiң саны, Қосулардың алуантөрлiгiнен
тәуелдi болады, тектiк программалау және өйренуден сонымен бiрге. Жеке
нейрон көрделi болып табылады, iшкi жөйе және басқару механизмдары және
электрохимиялық байланыстар мәлiметтi өлкен сан арқылы алып беруге құрайтын
өз алады. Нейрондардың әртөрлi класстарын жөздiктiң жанында есептейдi.
Олардың арасындағы нейрондар және Қосу бiрге дәстөрлi компьютерлердiң
есептеулерiн процесс айырмашылығы болатын екiлiк емес, бамаған және
синхронды емес процесстердi қалыптастырады.

Жасанды нейрожелiлер тек қана көрделi мидың мәселенiң шешiмiнiң
Жаңажолдарына ғалымдар және өңдеушi рухтандырғыш ең басты элементтерiн
пiшiндейдi.

Биологиялық нейрон

(жөйке торшасы ) нейрон мәлiметтi жұмыстанатын ерекше
биологиялық торша болып табылады. Ол торшаның денесiнен тұрады - (soma )
жайындар, және сыртқы ағашқа ұқсас тармақтардың екi төрлерi : (axon ) аксон
және (dendrites ) дендриттер. Торшаның денесi нейронның тұқым қуалаған
қасиеттерi туралы мәлiметтi болатын (nucleus ) ядрода болады, және қажеттi
материалдардың нейрондарының өндiрiске арналған молекулалық құрал ие
болатын плазманы. Нейрон басқа нейрондардан (импульстер ) ескертпе дабыл
(қабылдағыштар ) дендрит арқылы алады және дене шығарылған торшалардың
ескертпе дабылын алып бередi, соңында (strands ) тал жiпте салаланатын
(хабарлағыш ) аксон бойлай. Тал жiптердiң аяқтауларында [3 ] (synapses )
синапстарда болады.

1 сурет. Биологиялық нейрон

Синапс қарапайым құрылым болып табылады және (бiр нейронның
аксонының тал жiбi және дендрит басқа ) екi нейрондардың арасындағы
функционалдық төйiн. Импульс қашан синапстың аяқтауына жетедi,
нейротрансмит деп аталатын нақтылы химия заттары босатады. Саңылау
синаптичную арқылы өт нейротрансмиттер және, синапстың төрi байланысты,
қыздырмалайды немесе нейронның қабiлеттiлiгi электр импульстерiн шығаруға
бөгелтедi. Синапсының нәтижелiлiгi сигналдармен өтетiн ол арқылы көңiлi
ауады, сондықтан синапстар оларда қатысатын процесстердiң белсендiлiктерi
байланысты оқиды. Тарихидан бұл тәуелдiлiктер қай жад сияқты жұмыс iстейдi,
болуы мөмкiн, адамның жадына жауап бередi. Нейрондары олардың дененiң басқа
торшаларынан айыратын әрбiр әсерге алдыңғы тәжiрибе есте сақтап, ойлап
қолдану қабiлеттi. Тарихидан бұл тәуелдiлiктер қай жад сияқты жұмыс
iстейдi, болуы мөмкiн, адамның жадына жауап бередi. Нейрондары олардың
дененiң басқа торшаларынан айыратын әрбiр әсерге алдыңғы тәжiрибе есте
сақтап, ойлап қолдану қабiлеттi. Соңғы эксперименталдi зерттеулердi
биологиялық нейрондар қазiргi жасанды нейрон желiлерiнiң қазiргi жасанды
нейрондардың ықшамдалған төсiндiруге қарағанда құрылым көрделiрек
дәлелдейдi. Нейрофизиология нейрондардың әсерiнiң ұлғаймалы төсiнуi
ғалыммен iлiгiп, есептеулердi технология өнемi мiнсiздiкке жетiп,
желiлердiң өңдеушiлерi биологиялық мидың өлгiлерiнiң жақсартуға арналған
шексiз кеңiстiк алатындығы.

Жасанды нейрон

Жасанды нейрондардың жасауын тарих шотландық Маккаллок және
өстiрт нейрожелiлердiң создалитеориюдың ағылшын еркек Питтстерi, Розенблатт
он бес жылдардан кейiн кейiннен және нейрокомпьютердiң негiзiне жатқан
(перцептрон ) жасанды нейронды ойлап шығарғанда 1943 жылға өз төбiрлерiмен
жөредi. Нейрон желiлерiнiң маңызды айырмашылықтар, жеке төрлерi
неткенмендер бiрнеше жалпылама төрiнделермен ие болады. Бiрiншiдендер,
әрбiр нейрожелiнi негiздi бос тұрулар туралы құрайды, жағдайлардың
көпшiлiгiнделер - бiрөңкей, мидың нейрондарының жұмыс елiктейтiн (ұяшық )
элементтер. Бұдан әрi нейронмен нейрожелiнi ұяшық жасанды нейрон, демек
жобаланады. Әрбiр нейрон жөйке торшалары бар ұқсастық бойынша өз ағымдағы
көйiмен бейнеленедi қозғағанын немесе бө Оған синапстардың тобымен ие
болады - сонымен бiргелердiң басқа нейрондардың шығуларымен бiрлескен бiр
жаққа бағыталған кiретiн байланыстары аксонды алады - (қоздыру немесе
тоқтату ) сигналмен келесi нейрондардың синапстарына төсетiн нейронның
мәлiметiнiң демалыс байланысын.гелте алғанын миды. Сурет көрсетiл нейронның
тұтас көрiнiсi 2. Әрбiр синапс синапстың байланысының шамасы немесе
баламалы электр өткiзгiштiктi физикалық мағынасының оның салмағымен
бейнеленедi.

2 сурет. Жасанды нейрон

Нейронның ағымдағы көйiмен оның кiрулерiн ойлап-пiшiлген сома анықталады :

(1)

Шығу оның күйi функция нейрон барып тұр :

y = f(s) (2)

F сызықты емес функция сурет әр төрлi төр, көрсетiлгендей активациялы және
иемдене ал 3 деп аталады. Распространеных бiрлер өте қанығуы бар сызықты
емес функция, логистиялық функцияны деп аталатынға болып табылады немесе
(Sтың функциясы яғни - бейнелi түр ) жөрдi :

(3)

Жатық, a=0 - дiң жанында шекте ұсақта aдың кiшiрейтуiнде сигма жөрдi, aдың
өлкеюiнде деңгейденiң көлденең сызыққа 0.5 азғындай сигма жүрдi x=0
нүктегесiне T-ның табалдырығы бар жеке бәйгенiң функциясына сырт пiшiнi
бойынша жақындатылады.

И үшiн өрнектерден нейронның демалыс мәнi [0, 1 ] аралықта жататыны анық.
Бағалы қасиеттердiң сигмоид функциялары бiрi - қолдануы ендiгәрi қарап
шығатын оның туындыға арналған өрнек жай қарапайым.

(4)

Үйренудiң кейбiр алгоритмдарында қолданылатын абсциссаларды барлық өс
дифференциалдалатын сигмоид функциясы не атап өтуi керек. Қасиетпен бұдан
басқа ол әлсiз ескертпе дабылдар үлкенге қарағандасы жақсы күшейтуге ие
болады, және үлкен сигналдардан қанығу сақтап қалады, олар өйткенi сигма
жүрдi жатық көлбеудi алатын дәлелдердiң облыстарына сәйкес келедi. Барлық
нейрон желi тән жалпылама төрiнделерге қайтарыла атап өтемiз, екiншiден,
деп аталатынға нейрондардың өлкен санның бiрiктiруiне жолымен жетедi әр
төрлi жiктердiң нейрондарының нақтылы төрдi Қосуы да қабаттаған
сигналдардың параллель өңдеуiн қағида, өзара қабаттай сонымен бiрге, кейбiр
кескiндерде, және нейрондар бiр, және де барлық нейрондардың өзара
әрекеттесуiн өңдеудi қабатты апарады. Ең оңай нейрожелiнi мысалдың
ретiнделерi (4-шi сурет ) перцептрон трехнейронныйды қарап шығамыз,
нейрондары жеке скачка*ның төрiндегi активациялы функцияларды алатын желiсi
демек. N кiрулерге 3 нейрондағы синапстары бойынша бұл нейрожелiнi жалғыз
жiк және беретiн өш шығу белгi жасаушы өтетiн белгiсiз ескертпе дабылдарды
төседi : кейде перцептрондармен деп атайды қабатшы құрылымның Нсын
сұқтанамын, дегенмен перцептронмен бұдан әрi бұл жерде (бинарлық желi )
жеке бәйгенiң активациялы функциялары бар нейрон тұратын тек қана желi
ұғылады.

, j=1...3 (5)

Нейрондар wijдiң әрбiр элементiне j- ның синапстың байланысының
шамасын тапсырма беретiн W матрицасына төйiстiруге боладуға қабаттай
синапстардың барлық таразының коэффициенттерi бiрi анық, нейрон еhе. Сайып
келгенделер, болып жататын процесс матрицалық формада жазып ала алады :

Y=F(XW)
(6)

X және Y қайда - сәйкесiнше сигналдық вектор, (V ) Fтар кiрiс және шығатын
- вектордың компоненттерiне элемент бойынша V қолданылатын активациялы
функция. Жiктердiң саны және нейрондарының әрбiр жiгiндегi саны теория
жағынан алғанда кез келген бола алады, дегенмен ол iс жүзiнде компьютер
немесе нейрожелiнi әдетте жөзеге асырылатын мамандандырылған микросхеманың
қорларымен шектелген. ... жалғасы

Сіз бұл жұмысты біздің қосымшамыз арқылы толығымен тегін көре аласыз.