Yapay Sinir Ağları - 1 Giriş - Temel Bakış

7/26/2019 Yapay Sinir Alar - 1 Giri - Temel Bak

1/10

4. YAPAY S N R A LARI

4.1 Giri

Yapay sinir a lar ya da ksaca YSA; insan beyninin alma sisteminin yapay olarakbenzetimi abalarnn bir sonucu olarak ortaya kmtr. En genel anlamda bir YSA insanbeynindeki birok nronun (sinir hcresinin), ya da yapay olarak basit ilemcilerinbirbirlerine de i ik etki seviyeleri ile balanmas sonucu oluan karma k bir sistem olarakd nlebilir. nceleri temel tp birimlerinde insan beynindeki nronlarn matematikselmodelleme abalar ile balayan al malar, geti imiz on sene ierisinde, disipline birekilalm tr. YSA bugn fizik, matematik, elektrik ve bilgisayar mhendislii gibi ok farklbilim dallarnda aratrma konusu haline gelmitir. YSA'nn pratik kullanm genelde, okfarkl yapda ve formlarda bulunabilen informasyon verilerini hzl birekilde tanmlama vealglama zerinedir. Aslnda mhendislik uygulamalarnda YSA'nn geni apl kullanmnnen nemli nedeni, klasik tekniklerle zm zor problemler iin etkin bir alternatifolu turmasdr. nk bilgisayarlar insann beyinsel yeteneinin en zayf olduu arpma,blme gibi matematiksel ve algoritmik hesaplama ilemlerinde hz ve doruluk asndanyzlerce kat baarl olmalarna ramen insan beyninin renme ve tanma gibi ilevlerinihala yeteri kadar gerekletirememektedir. izelge 4.1'de bilgisayar ile insan beyni arasndakial ma sistem yaps karla trmal olarak verilmitir.

izelge 4.1 Bilgisayar ile insan beyni arasndaki alma sistem yapsnn karla trlmasB LG SAYAR NSAN BEYN

Saysal AnalogSeri Paralel

Komut Kmeli Bilgiye Adapte OlmaYanl Hesaplamalar Sonucu Etkiler Birimlerin Analemlere Etkisi Azdr

Giri Verilerindeki Hatalar Sonucu Etkiler Giri Verilerindeki Hatalara Her ZamanDuyarl De il

4.2 YSA'nn Tanm ve Modeli

4.2.1 YSA'nn tanm

YSA paralel da lm bir bilgi i leme sistemidir. Yani, YSAnn temelinde, zeka gerektireni lemlerden oluan bilgi i leme i levi vardr. Bu sistem tek ynl iaret kanallar (balantlar)ile birbirine ba lanan i lem elemanlarndan oluur. k i areti bir tane olup istee greo altlabilir. YSA yaklamnn temel dncesiyle, insan beyninin fonksiyonlar arasndabenzerlik vardr. Bu yzden YSA sistemine insan beyninin modeli denilebilir. YSA evreartlarna gre davranlarn ekilleyebilir. Giriler ve istenen klarn sisteme verilmesi ile


2/10

kendisini farkl cevaplar verebilecekekilde ayarlayabilir. Ancak son derece karmak biriyaps vardr. Onun iin bugne kadar gerekletirilen YSA; biyolojik fonksiyonlarn temelnronlarn rnek alarak yerine getiren kompoze elemanlar olmutur.

4.2.2 Nronun biyolojik yaps ve nron modeli

nsann bilgi i leme olay beyninde gerekleir. Gerektende en karmak sinir a CerebralCortex denilen beyindir. Sinir sisteminin en basit yaps nronlardr. Beyinde yaklakolarak 1010 sinir hcresi vardr. Yine hcre bana ba lant says ise 104 mertebesindedir.Beyin iin alma frekans 100 Hzdir. Fiziksel boyutlar ise 1.3 kg ve 0.15 m2 kesitlidir.Vcudun de i ik yerleri ile bilgi alveri i yapan nron hcresidir. ekil 4.1 de basit bir nronhcresi grlmektedir.

ekil 4.1 Basit bir nron yaps

Nron, soma ad verilen hcre gvdesi dentrit denilen kvrml uzantlar ve somann dallarsayesinde nronu dallarna balayan tek sinir fiberli aksondan oluur. Dendrit'ler hcreyegelen giri leri toplarlar. Dendrit tarafndan alnan iaretler hcrede birletirilerek bir k darbesi retilip retilemeyeceine karar verilir. Eer bir i yaplacaksa retilen k darbesiaksonlar tarafndan tanarak di er nronlarla olan balantlara veya terminal organlara

iletilir. Beyindeki korteksde her nronun bir karl vardr. Bir nronun k ona ba l olanbtn nronlara iletilir. Fakat korteks, iin yaplabilmesi iin hangi nron hareketegeirilecekse, sadece ona komut gnderir.Somann iinde ve evresinde sodyum, kalsiyum, potasyum ve klor iyonlar vardr. Potasyumyo unlu u nronun iinde, sodyum younlu u d ndadr. Somann zar elektriksel olarakuyarlnca (sz konusu uyar genellikle bir gerilim dmesidir) zar, Na ve Ca gibi dieriyonlarn ieri gemesine izin verir ve somann i durumunu dei tirir. Nronlar arasndakiba lantlar hcre gvdesinde veya "sinaps" ad verilen dendritlerdeki geilerde olur.

Yardmc bir benzetme aksonlarla, dendritleri elektrik sinyallerini nrona ileten dei ikempedansdaki yaltlm iletken olmasdr. Sinir sistemi milyarlarca nron ile tek bir nrondankan aksonun 10000 kadar dier nronu ba layan bir a dr. Sinapslarla dzeltilen iaretleri


3/10

ta yan aksonlar ve dendritlerle iie gemi nronlar bir sinir a olu tururlar. ekil 4.2'de enbasit formda gsterilen nron modeli, bir eik birimi olarak alglanabilir. ekil 4.3de iseYSAnn genel blok emas gsterilmektedir.

X0 Kutup+1 I=X1W11+X2W12 I 1 Yi

X1 W11 0 W12

X2 ekil 4.2 Nron modeli

G R IKI

STENEN IKI

ekil 4.3 YSAnn genel blok emas

E ik birimi, klar toplayan ve sadece giriin toplam i eik de erini a t nda bir k reten i lem elemandr. Bir eik birimi olarak nron sinapslarndaki iaretleri alr ve hepsini

toplar. E er toplanan i aret gc e i i geecek kadar gl ise dier nronlar ve dendritleriuyaran akson boyunca bir iaret gnderilir. Kesien dendritlerden gelen sinapslarla kaplananbtn i aretleri soma toplar. Toplam iaret daha sonra nronun i eik de eri ile kar la trlrve e ik de erini a m sa aksona bir iaret yayar. YSA, bu basit nronlarn (dmlerin ya danitelerin) ba lanarak bir a 'a dn trlmesiyle meydana getirilir.

4.3 YSA'nn Yaps ve lem Eleman

YSA temel olarak, basit yapda ve ynl bir graf biimindedir. Her bir dm hcre denilenn. dereceden lineer olmayan bir devredir. Dmler i lem eleman olarak tanmlanr.D mler arasnda balantlar vardr. Her balant tek ynl iaret iletim yolu (gecikmesiz)olarak grev yapar. Her ilem eleman istenildii sayda giri ba lants ve tek bir k ba lants alabilir. Fakat bu balant kopya edilebilir. Yani bu tek k birok hcreyibesleyebilir. A 'daki tek gecikme, klar ileten ba lant yollarndaki iletim gecikmeleridir.

lem elemannn k istenilen matematiksel tipte olabilir. Ksmen srekli almakonumunda "aktif" halde eleman bir k i areti retir. Giri i aretleri YSA'na bilgi tar.Sonu ise k i aretlerinden alnabilir. ekil 4.4 'de genel bir ilem eleman (nron, dm)gsterilmi tir.

EYLEM

B M

RENMEB M


4/10

X2 G R LER X3 X1 0 (Aktif Yapma areti)

y

ekil 4.4 Genel ilem eleman yaps

YSA birtakm alt kmelere ayrlabilir. Bu alt kmelerdeki elemanlarn transfer fonksiyonlarayndr. Bu kk gruplara "katman" layer ad verilir. A katmanlarn birbirlerine hiyerarikbir ekilde ba lanmasndan olumu tur. D dnyadan alnan bilgi giri katman ile tanr. Birtransfer fonksiyonlar yoktur. YSA transfer fonksiyonu ve yerel bellek eleman, bir renmekural ile giri k i areti arasndaki bantya gre ayarlanr. Girii aktif yapabilmek iinyukarda ad geen kural ve iaretlerin bir zamanlama fonksiyonu tanmlamas gerekebilir.Ksaca bir YSAdan beklenen grev, gerek dnyadaki nesneler ile biyolojik sinir annyapt i levi, benzer bir yolla yerine getirmesidir. YSAnn giri veri tipleri ikili (binary) 0-1veya srekli de erlerdir. Bu giri durumlarndan baka, i lem elemanlarna ait girileri

matematiksel olarak da snflamak gerekmektedir. nk bir ilem elemanna gelen girilerinbir ksm azaltc uyarma girileri olmaktadr.Bu arttrc veya azaltc giriler giri snflarn oluturur.

4.3.1 Giri i areti snflar

lem elemannn transfer fonksiyonu, giriine gelen btn iaretler iin tanmlanr. Bazende i ik katman davranlarnn farkl olmas tabiidir. aretlerin hangi blgelerden geldiinin

bilinmesi gerekir. Dei ik blgelere gre iaretlerin snflar tamamlanabilir. Ska izlenen biryap ise merkezde evet/evrede hayr (on centre/off surround) yapsdr.ekil 4.5'de bu yapgsterilmektedir. Meksikaapkasna benzer balant tipindedir.

TRANSFER

FONKS YONU

YERELBELLEK


5/10

ekil 4.5 Kom u hcrelerin merkez hcreye etkisi

lem eleman tetikleyici girilerin kendine yakn komu giri lerden yasaklanan girilerinidaha uzaktan alr. Bylece ilem elemanna gelen giriler snflarna gre deerlendirilmi

olur. Tetikleyici blgeden gelen giriler yasaklanan snf oluturur. ekil 4.6 byle bir ilemelemann gsterir.Tetikleyici Yasaklayc

giri ler giri ler (snf 1) lem (snf 2)

Eleman

k ekil 4.6 Tetikleyici ve yasaklanan girilere sahip bir ilem eleman

Bir i lem elemanna gelen giriler matematiksel tiplerine gre etiketlendirilerek snflandrlr.YSA, giri veri tiplerine gre ikili giri (0,1) ve srekli deerli giri olmak zere aa dakigibi snflandrlr ( ekil 4.7).Burada giri i areti olarak seilen I , w ve yk olarak kullanlan DC motordan gelen ykn Psaysal de erleri, bu de erlerin lmler boyunca okunmas srasnda srekli-deer de (reelsay) oldu undan, snflandrc olarak reticili renmeye sahip olan ok katmanlperseptrona ba l olarak ileri-besleme sinir a ve hzl hatann geriye-yaylm algoritmas

(Fast Backpropagation Algorithm) kullanlmtr. Bu arada klasik hatann geriye-yaylmalgoritmasyla yaplan eitme sonular da karla trmal olarak sunulmutur.


6/10

ekil 4.7 YSA Snflandrclar

4.3.2 Ba lant geometrileri

Ba lantlarda tanan i aret verisinin cinsi tanmlanmaldr. Balant geometrisi YSA iin oknemlidir.ba lant i areti her cinsten olabilir. Balantnn nerede balayp nerede bitti inibilmesi gerekir. 1'den N'e kadar olan bir ilem eleman kmesinin balantlar a a datanmland gibi NxN boyutlu matris biiminde gsterilebilir.

w

w w w

w w w

w w w

ij

n

n

n n nn

=

11 12 1

21 22 2

1 2

. .

. .. . . . .. . . . .

. .

w w i

w w

ij ji

ij ji

= =

= =

10

. ilem eleman j.ilem elemanna bal bal deil

En fazla N2 ba lant olur. Ba lantlar e itli geometrik blgeler arasnda demetler halinded nlebilir. Bu ba lant demetlerinin uymas gereken kurallarunlardr.

1- Ba lant demetini oluturan i lem elemanlar ayn blgeden kmaldr.2- Ba lant demetinin iaretleri ayn matematiksel tipten olmaldr.3- Ba lant demetinin iaretleri ayn snftan olmaldr.4- Ba lant demetinin bir seim fonksiyonu ( ) olmaldr.

:T s2 T:Hedef belgesi S:kaynak blgesiHedef blgesindeki her ilem eleman kaynak blgesindeki her elemana giderse "tam" (full)

ba ldr. (rn:ok katmanl perceptron). Eer her hedef blgesi eleman N kaynak blgesi


7/10

elemanna ba l ise " dzgn da lm " (uniform) olasldr. Ayrca her bir elemana, yine birkaynak eleman bal ise buna "bire-bir" bal denir.

4.3.3 A tipleri

e it A Tipi Vardr1- leri beslemeli a : Her bir katmandaki hcreler sadece bir nceki katmann hcrelerincebeslenir.2- Kaskat ba lantl a : Hcreler sadece nceki katmanlardaki hcrelerce beslenir.3- Geri beslemeli a: En az bir hcre sonraki katmanlardaki hcrelerce de beslenir. (Bual mada hem ileri, hem de geri beslemeli a tipi birlikte uygulanmaldr).

4.3.4 E ik fonksiyonlar

Transfer veya iaret fonksiyonlar olarak da adlandrlan eik fonksiyonlar, muhtemel sonsuzdomen giri li i lem elemanlarn nceden belirlenmi snrda k olarak dzenler. Drt taneyaygn e ik fonksiyonu vardr. Bunlar, rampa, basamak ve sigmoid fonksiyonudur.ekil4.8'de bu fonksiyonlar gsterilmitir.

f(x) f(x)

x x

(a) (b)f(x) f(x)

+1 1

x 0.5-1

0 x(c) (d)

ekil 4.8 Ska kullanlan drt eik fonksiyonu

ekil 4.8 (a)'da gsterilen lineer fonksiyonun denklemi aa daki gibidir.f(x) = .x

-


8/10

: i lem elemannn x aktivitesini ayarlayan reel deerli bir sabittir. Lineer fonksiyon [-,+]snrlar arasnda kstlandnda (b)'deki rampa eik fonksiyonu olur ve denklemi;

x x ise( ) =

+

: eer x - ise

: eer x ise: eer x

eklini alr.+ ( -) i lem elemannn maksimumu (minimumu) ou zaman doyma seviyesi olarakadlandrlan k de eridir. E er e ik fonksiyonu bir giri i aretine ba l ise yayd + giri toplam pozitif, bal de ilse e ik basamak fonksiyonu [-] olarak adlandrlr. ekil 4.8 (c),basamak e ik fonksiyonunu gsterir ve denklemi;

x( ) =

+

: dier durumlar

: eer x 0 ise

eklindedir.

Son ve en nemli eik fonksiyonu (bu almada kullanlan) sigmoid fonksiyonudur.ekil 4.8(d) de gsterilen S biimindeki sigmoid fonksiyonu; seviyeli, lineer olmayan k veren,snrl, monoton artan fonksiyondur. Denklemi; f x

e x( ) =

+ 1

1 biimindedir

Her i lem eleman kendisine verilen yerel veriye gre, kendisini ayarlayacak btn YSA'nnenformasyon blgesinin renmesini sa lar. (Enformasyon blgesi olaslk-younlukfonksiyonu ile de tanmlanabilir). Enformasyon blgesi birok uygulamada, gerek deerin"0" ile "1" arasnda normalize edilmesi gerekir. (Normalize etmek:gerek deeri 85 olan birgiri i 0.85 eklinde a a uygulamaktr.) Normalizasyon ayn anda btn girilereuygulanabilir.

4.3.5 A rlk uzay

Bir ok YSA renme i lemi, i lem elemanlarnn arl de i tirilerek sa lanr. Bylecetanmlanan a rlk de i tirilerek renmede iyi bir model kullanp, arlklarn bu modelegre de i tirilmesi esastr. Basit bir matematiksel model olarak herbir ilem elemannn "n"adet gerek a rl oldu u d nlerek ve N adet ilem eleman gznne alnrsa;w = ( w11 , , ... , , , , ... , , . .. . , , , ... , )w w w w w w w wn n N N Nn

T 12 1 21 22 2 1 2

w = ( w1T T T

N T w w w, , , ... , )2 3

w1, w2,..., wN: i lem elemanlarnn arlk vektrleridir.

w

w

w

w

w

w

w

wn

N

N

N

Nn

1

11

12

1

1

2

= =..

.

. .........


9/10

YSA a rlk vektr N, n boyutlu orkid uzaynda yaylr. YSA'nn enformasyon ilemeperformans, a n a rlk vektrnn belirli bir deeri ile bulunacaktr.Hata de i imini inceleyen iki eit kural vardr.

1- Hata dzeltme kurallar ,2- Gradyen kurallar.

Hata dzeltme kurallar; Her bir giri rntsnde a rlklar yeniden a rlayarak kt hatasnen aza indirmeye alrlar. Gradyen kurallarnda ise, arlklar yeniden ayarlanarak ortalamakaresel hatay (MSE) en aza indirilmeye allr.Bu noktada gradyen kuralndan ksaca bahsedecek olursak, hatay dzeltmenin (yaniminimize etmenin) geometrik bir yorumunu yapmak mmkndr. Bunu yapabilmek iina rlklarn mmkn olan tm deerleri, hatalarn kareleri toplamna kar gelecek ekilde boyutlu koordinat sisteminde izilir. Bu izim sonunda hata yzeyi kresel bir topeklindedir.Bu yzeyi bir tasa da benzetmek mmkndr. Tasn en alt ksm hatalarn kareleri toplamnnen kk de erlerine kar gelmektedir. E itme srasnda ama arlklar kmesinin en iyisinibulmak olan, en alt ksmna ulamaktr. Geriye-yaylm algoritmas o andaki arlklar yerine,yzey hatasnn e imini hesaplayarak amacna ular. Daha sonra da bu arlklar tasn altksmna do ru artmsal olarak dei tirir. te bu artmsal olarak tasn st ksmndan altksmna do ru ilerleme i lemine gradyen ini denir.A rlk vektr ile alan YSA'da nemli noktalardan birisi, bir renme kural gelitirip,

enformasyon blgesi kullanarak (eik fonksiyonu ile) arlk vektr "w" iy istenilen YSAperformans verecek noktaya yneltmektir. Genellikle renme kural iin bir performans yada maliyet fonksiyonu tanmlanr. Minimizasyon veya maksimizasyon ile "w" vektrbulunur. Bir performasyon eidi olarak bilinen, MSE (karesel ortalama hata)u ekildetanmlanr.

)()(),()()( 2 = A

xdv xw xG x f wF

Ama F'i kltmeye almaktr.y=G(w,x):sistemin giri k fonksiyonu.y:k i areti vektrx:giri i areti vektrw:a rlk vektr(x):olaslk yo unluk fonksiyonu


10/10

4.4 YSA'da E itme (Training)

4.4.1 E itme algoritmalar

E itme algoritmalar YSA'nn ayrlmaz bir parasdr. Eitme algoritmas eldeki problemin

zelli ine gre renme kuraln YSA'na nasl adapte edeceimizi belirtir. eit e itme

algoritmas yaygn olarak kullanlmaktadr.

1- reticili e itme (supervised traning).

2- Skor ile e itme (graded training).

3- Kendini dzenleme ile eitme (self-organization training)

reticili e itmede, elimizde doru rnekler vardr. Yani (X1,X2,.........Xn) eklindeki giri

vektrnn, (y1,y2,...,yn) eklindeki k vektr, tam ve do ru olarak bilinmektedir. Herbir

(x1,y1), (x2,y2),...,(xN,yN) ifti iin a do ru sonular verecek ekilde seilen bir renme

kural ile beraber eitilir.

Ne tr e itme yntemi kullanlrsa kullanlsn, herhangi bir a iin gerekli karakteristik

zellik, a rlklarn verilen eitme rne ine nasl ayarlanacann belirtilerek renme

kuralnn olu turulmasdr. renme kuralnn oluturulmas iin bir rnein, a a defalarca

tantlmas gerekebilir. renme kural ile ilikili parametreler an zaman iinde gelime

kaydetmesiyle de i ebilir.

4.4.2 Bellek

YSA'nn nemli bir zellii bilgiyi saklama eklidir. Ba lant a rlklar YSA bellekbiimleridir. A rlklarn de erleri a n o anki bilgi durumunu temsil eder. Mesela; birgiri /istenen k iftinin belirtilen bilgi paras an iinde birok bellek biimineda tlm tr. Bellek niteleri ile dier sakl bilgiler, bu bilgiyi paylarlar. Baz YSA

bellekleri ilikilidir. yleki e itilen a a bir ksm uygulanrsa, a bu giri e belle indeki enyakn k bu giri iin seer ve tam girie ba l k ortaya kar. E er YSA oto-ilikili ise,ksmi giri vektrlerinin a a verilmesi bu girilerin tamamlanmas ile sonulanr. YSAbelle inin yaps; eksik, grltl ve tam seilemeyen bir giri uyguland zaman bilemantkl k retmeye uygundur. Bu kurala "genelleme " ad verilir. Bir genellemeninkalitesi ve anlam, uygulama eidine, a n tipine ve karmakl na dayanr. Lineer olmayanok katmanl a lar (zellikle geri beslemeli alar) gizli katmandaki zelliklerden renirler vebunlar k lar retmek iin birletirirler. Gizli katmandaki bilgi, yeni giri rntlerine aklczmler oluturmak iin kullanlabilir.

Documents

Yapay Sinir Ağları - 1 Giriş - Temel Bakış