dr.Nijaz IBRULJredovni profesor Univerziteta u Sarajevu

E-mail : nijaz.ibrulj@ff.unsa.ba

UVOD U KOGNITIVNU ZNANOST

Tema # 5

Konekcionistički / Neurobiološki model kognitivnih procesa

Soft Computing� Neuronske / bio mreže

� Genetski algoritmi

� Fuzzy sistemi� Fuzzy sistemi

� Grubi skupovi

� Teorija kaosa

2

� KONEKCIONZAM je teorijsko stanovište ili pravac u kognitivnoj znanosti koji želi da objasni ljudske intelektualne sposobnosti konstruiranjem vještačke neuronske mreže.

�

� MOZAK čovjeka sadrži nekoliko tipova nervnih ćelija ili neurona. Ukupno čovjekov mozak ima 1011 neurona koji

Šta je konekcionizam ?

neurona. Ukupno čovjekov mozak ima 1011 neurona koji ostvaruju 1015 konekcija.

� INDIVIDUALNE ĆELIJE komuniciraju tako što prenose signal (celularna transdukcija) iz jedne ćelije u drugu, uz pomoć neurotransmitera (serotonin, dopamin, acetylholin, adrenalin, idr.).

3

Neuron

4

Anatomija nervne ćelijeNervna ćelija se sastoji iz (1) tijela ćelije (2) jezgra ili nukleusa ćelije (3) dendrita ili ćelijskih nastavaka (4) aksona sa nervnim završetcima.

� Kako komuniciraju nervne ćelije?Komunikacija između ćelija živog oeganizma zasniva se na principu � Komunikacija između ćelija živog oeganizma zasniva se na principu transmisije impulsa ili poruke koju jedna ćelija šalje drugoj.Tu poruku prenose neurotransmiteri.

� Postoje dva načina na koji nervne ćelije komuniciraju.

� Sinaptička transmisija

� Neuromuskularna transmisija

5

Vještački neuron

6

Neuronska mreža

7

Neurotransmiteri i receptori

� Neurotransmiteri su hormoni koji su koncentrirani u nervnimzavršetcima ili terminalima koji su smješteni u mozgu.

� Kada se jedan neurotransmiter oslobodi iz nervnog završetka on prelazi preko synapse-jednog “prostora” između dva nerva kojegčini intercelularna tekućina-i šalje kemijsku poruku iz mozga kroznervne kanale.

� Nerv iz kojeg se šalje kemijska poruka ili iz kojeg se oslobađaneurotransmiter naziva se pre-sinaptički nerv (pošiljatelj).

� Onaj nerv koji prima i prepoznaje (dešifrira) kemijsku poruku prekoneruotransmitera zove se post-sinaptički nerv(primatelj, receptor).Receptori su posebno građeni da mogu prihvatiti kemijskustrukturu neurotransmitera kao signal. Neurotransmiteri su različitogkemijskog sastava i svrstavaju se u različite grupe ili klase

8

Vještačka neuronska mreža

9

Šta je vještačka neuronska mreža?

� Neuronska mreža je pojednostavljeni model neuronske strukture mozga koji je sastavljen od velikog broja neuronskih jedinica (analognih neuronima mozga) koje su opterećene određenom težinom (signala, inputa) kojima se mjeri jačina konekcije izmedju jedinica.se mjeri jačina konekcije izmedju jedinica.

� Jačina ili težina kojom je jedan neuron opterećen na svom ulazu (broj inputa) nije ista kao na izlazi (output), a kada se istražuje mreža neurona onda se ta jačina i taj napon neurona mijenja, zavisan je od broja korisnika (čvorovi, neuroni u vezi) i od optimizacije signala u mreži.

10

�

� U takvim sistemima primijenjena je distribuirana paralelna obrada podataka, za razliku od računarskih sistema koji prvenstveno za sekvencijalnu centralizovanu obradu podataka.

�

� Za razliku od sistema koji svoje funkcionisanje zasnivaju na precizno definisanim algoritmima obrade podataka radi dobijanja odgovora

� kod neuralnih mreža se mora provesti procedura učenja (obučavanja, treniranja) mreže kako da na zadovoljavajući način reaguje na ulazne podatke.

11

� Vještačka neuronska mreža se može definisati kaovještački ćelijski sistem sposoban da prihvati, upamti iprimijeni eksperimentalno (empirijsko) znanje.

� Ovdje se pod znanjem podrazumijeva sposobnost da� Ovdje se pod znanjem podrazumijeva sposobnost daneuralna mreža u posmatranoj ulaznoj situacijireaguje na odgovarajući način.

12

Karakteristike VNM

� Generalno - VNM su adaptivne komunikacione mreže kojekoriste funkciju cilja radi postizanja traženog izlaza.

� Matematički – to su dinamički sistemi modelovani prekosistema povezanih diferencijalnih jednačina.

13

Funkcioniranje VNM� Vještačke neuronske mreže (VNM) vrše procesiranje / obradu

informacija.

�

� To čine paralelnim procesiranjem a ne sekvencijalnim algoritmima.

�

� Paralelno procesiranje znači da se ulazna informacija “razlaže” i istovremeno obrađuje u više različitih neurona (elemenata)istovremeno obrađuje u više različitih neurona (elemenata)

�

� U zadnjih nekoliko desetina godina je uložen veliki rad da bi se projektovala elektronska kola koja bi ličila na biološke NM sa svim pripadajućim karakteristikama.

�

� Na taj način su razvijeni različiti modeli NM poznati pod nazivom -PARADIGME

�

14

� Neuronska mreža je sa okruženjem vezana na dva načina:

preko ulaza kojima okruženje utiče na mrežu i� preko ulaza kojima okruženje utiče na mrežu i

� preko izlaza kojima mreža povratno utiče naokruženje.

15

Struktura neuronske mreže

ULAZI → NEURONSKA MREŽA → IZLAZI

� Osnovni gradivni elemenat neuronskih mreža je neuron. Možemo ga definisati kao osnovnu jedinicu za distribuiranu obradu podataka u neuralnoj mreži. obradu podataka u neuralnoj mreži.

� Puna funkcionalnost neuronskih mreža postiže se uvođenjemvećeg broja međusobno povezanih neurona.

� Veze među neuronima su jednosmjerne (izlazni podaci jednogneurona mogu se koristiti kao ulazni podaci drugog) i analogno sa biološkim sistemima nazivaju se sinapse.

16

� Proces učenja u VNM je proces podešavanja promenljivihtežina sinapsi (wij) u cilju postizanja odgovarajućeg(željenog) izlaza (Oi) za dati pobudni signal (xij).

� Kada je izlazni signal jednak željenom (očekivanom) tadaje proces učenja završen, i kaže se da je VNM obučena ilida je “stekla znanje”.

� Obuka VNM se vrši prema algoritmima – pravilima obukekoji se opisuju u matematičkom obliku jednačinamaobuke.

� Jednačine obuke opisuju proces obuke pojedinog tipaVNM

17

Obuka i programiranje VNM

� Matematički opis načina kako se menjaju težinesinapsi (wij) tokom procesa obuke VNM naziva sealgoritam obuke.

� Na kraju obuke, stacionarne vrednosti težina wij� Na kraju obuke, stacionarne vrednosti težina wijdefinišu program VNM.

� Načini učenja su pozajmljeni iz prirode, i već suprethodno navedeni (npr. obuka sa i bez učitelja)

18

Glavni modeli VNM� Feed forward model NM� Kod ove mreže aktivacijski tok informacije ide direktno od

inputa ka skrivenim slojevima i onda prema outputu. Izbjegava se rekurzivnost.

� Backpropagation model NM� To je najčešće upotrebljavani model VNM. Mreža uči

velikim brojem ponavljanja i vraćanja na ranije naučenovelikim brojem ponavljanja i vraćanja na ranije naučeno� Hopfield model NM� Model koji može biti upotrebljen kao asocijativna memorija. � Osnovna ideja Hopfieldove mreže je da ona može pohraniti

skup egzemplarnih oblika kao mnoštvo postojanih stanja. � Ako je dat jedan novi oblik, koji može biti parijalan ili nepotpun

ili oštećen, mreža ga može prepoznati ili konvertirati u jedan egzemplarni oblik koji je nabliži ili najsličniji tom novom ulaznom obliku.

19

Primjena neuronskih mreža

� Moguće primjene neuralnih mreža uključuju gotovo svakiaspekt savremenog života,

� od prepoznavanja štampanog teksta, rukopisa i govora,

� preko optimizacije korišćenja kanala veze utelekomunikacijamatelekomunikacijama

� do finansijskih prognoza i

� otkrivanja nelegalnog korišćenja kreditnih kartica.

20

Genetski algoritmi

� Genetski algoritmi su računarski modeli zasnovani na genetici i evoluciji u biologiji

� Osnovni elementi genetskog algoritma su

� SELEKCIJA solucija zasnovanih na njihovoj prikladnosti� SELEKCIJA solucija zasnovanih na njihovoj prikladnosti

� REPRODUKCIJA gena

� MUTACIJA za slučajne promjene gena

� Inteligentnim izračunavanjem kompjuter pronalazi sve bolje i bolja rješenja / solucije za razvoj gena (evolucijski izračun)

21

Fuzzy sistemi

� Fuzzy sistemi su tehnike “kontinuizacije” procesa koje se primjenjuju prije svega za optimizaciju nekih industrijskihprocesa (u kemijskoj industriji) i za njihovu kontrolu.

� Zasnivaju se na fuzzy logici, odnosno na stalnompreciziranju (fazifikacija) nekog postupka određivanjemstupnja pripadnosti neke pojave ili neke vrijednosti od 0 do 1.

22

Teorija grubih skupova

� Sadrži tehnike “kvantizacije” i mapiranja (preslikavanja).

� Pojam “grubi skup” znači “približno određeni skup”.

� To znači da je unutar nekog konteksta ili unutar nekog procesa dat jedan skup elemenata i vrijednosti koje se pripisuju nekim dat jedan skup elemenata i vrijednosti koje se pripisuju nekim njihovim svojstvima od kojih neke vrijednosti mogu biti neprecizne ili nekompletne.

� Teorija grubih skupova treba da računa s takvim elementima i da uspostavi važeće relacije izmedju podataka o njima.

23

Teorija kaosa

� Teorija kaosa se bavi nelinearnim dinamičkim sistemimakoji pokazuju da sadrže neregularnosti i da su ekstremnoosjetljivi prema inicijalnim uvjetima.

24