80
1 KVANTITATIVNE METODE U KVANTITATIVNE METODE U ODLUČIVANJU II ODLUČIVANJU II LJETNI SEMESTAR LJETNI SEMESTAR ŠKOLSKA 2009/2010. ŠKOLSKA 2009/2010. UNIVERZITET U TUZLI EKONOMSKI FAKULTET

Osnove stohastickog modeliranja

Embed Size (px)

DESCRIPTION

zziojč-čkkččćk

Citation preview

Page 1: Osnove stohastickog modeliranja

1

KVANTITATIVNE METODE U ODLUČIVANJU KVANTITATIVNE METODE U ODLUČIVANJU IIII

LJETNI SEMESTARLJETNI SEMESTAR

ŠKOLSKA 2009/2010.ŠKOLSKA 2009/2010.

UNIVERZITET U TUZLIEKONOMSKI FAKULTET

Page 2: Osnove stohastickog modeliranja

2

OSNOVE STOHASTIČKOG OSNOVE STOHASTIČKOG MODELIRANJEMODELIRANJE

Ciljevi ovog poglavlja su slijedeći:

• Upoznati osnovne stohastičke veličine i njihov značaj u stohastičkom modeliranju

• Naučiti osobine vjerovatnoće događaja• Obrazložiti pojam slučajne promjenljive i distribucije

vjerovatnoća• Naučiti osobine slučajne promjenljive• Shvatiti razliku između diskretne i kontinuirane

distribucije vjerovatnoća• Upoznati najznačajnije diskretne distribucije

vjerovatnoća• Upoznati najznačajnije kontinuirane distribucije

vjerovatnoća• Objasniti pojam i zakon vjerovatnoće stohastičkog

procesa• Razumjeti osobine i klasifikaciju stohastičkih procesa• Upoznati najznačajnije modele stohastičkih procesa

Page 3: Osnove stohastickog modeliranja

Uvod u stohastičke veličine Uvod u stohastičke veličine

• U situacijama opserviranja ili provođenja opita ili eksperimenata na nekim realnim fenomenima mogu se pojaviti rezultati koji su jasno i jednoznačno definirani i determinirani određenim skupom uzroka, tako da očekivani rezultat nastupa nužno i sigurno. Takav rezultat je jednoznačan i deterministički. Ako se uspostavi funkcionalni osnos između uzroka i rezultata opserviranja onda se može govoriti o determinističkom modeliranju.

• Stohastičke veličine su masovne pojave sa nepoznatim kompleksom uzroka ili uvjeta, pa se zovu još stohastičke pojave ili masovne pojave s stohastičkim elementima. Egzaktno tretiranje stohastičkih veličina postiže se teorijom vjerojatnosti.

3

Page 4: Osnove stohastickog modeliranja

4

STOHASTIČKE VELIČINESTOHASTIČKE VELIČINE • Riječ “stohastičan” je grčkog porijekla

što znači “koji se naslućuje”. • Osnovni predmeti posmatranja

(stohastičke veličine) u stohastičkim modelima su:

1. događaj,2. promjenljiva i3. proces.

Page 5: Osnove stohastickog modeliranja

5

• Događaj je pojava koja se pod datim uslovima može desiti ili ne.

• Uopšteno, događaj se naziva slučajnim ako se pri realizaciji kompleksa uzroka koji su vezani za mogućnost javljanja datog događaja, taj događaj može desiti li ne desiti.

Page 6: Osnove stohastickog modeliranja

6

• Promjenljiva koju karakteriše rezultat jednog opita (eksperimenta) označava se kao slučajna (stohastička ili aleatorna) promjenljiva.

• U toku opita (vremena) se i same stohastičke promjenljive mijenjaju, te se stoga razlikuju od obične stohastičke promjenljive, i nazivaju se stohastičkim procesima (aleatorna funkcija ili slučajni proces.

• S obzirom da stohastički proces predstavlja skup slučajnih varijabli, njega karakteriziraju višedimenzionalni zakon vjerojatnosti i određeni statistički pokazatelji.

Page 7: Osnove stohastickog modeliranja

7

VJEROVATNOĆA DOGAĐAJAVJEROVATNOĆA DOGAĐAJA • Mnoge poslovne odluke donose se u

uslovima slučajnih događaja kao što su potražnja, vremenski uslovi, konkurentsko okruženje i sl.

• Stoga se za slučajne događaje utvrđuje vjerovatnoća kao mjera zakonitosti njihovih nastupanja

Page 8: Osnove stohastickog modeliranja

8

OSOBINE VJEROVATNOĆEOSOBINE VJEROVATNOĆE• Matematički se vjerovatnoća nastupanja događaja A

predstavlja kao granična vrijednost odnosa broja povoljnih događaja m i broja n svih mogućih događaja tj.

• Klasična definicija vjerojatnosti kaže da je vjerojatnost ostvarenja očekivanog događaja odnos između broja povoljnih i ukupnog broja podjednako mogućih događaja.

• Matematička ili apriorna vjerojatnost nekog događaja može se izračunati bez provođenja eksperimenta, dok se statistička ili aposteriorna vjerojatnost određuje na temelju eksperimenata ili prikupljenih statističkih podataka.

n

mlim)A(Pn

1P(A)0

Page 9: Osnove stohastickog modeliranja

9

• Ako je P(A)=1 događaj A će sigurno nastupiti i ako je P(A)=0 onda je događaj nemoguć.

• Vjerovatnoća da se jedan događaj neće desiti naziva se suprotna vjerovatnoća njegovog nastupanja . Odavde se dobiva da je:

)(AP

1)A(P)A(P

Page 10: Osnove stohastickog modeliranja

10

• Primjer 1. Kod bacanja kocke za igranje izračunati vjerovatnoću bilo kojeg elementarnog događaja. Izračunati vjerovatnoću da će kod bacanja kocke pasti neparan broj.

• Rješenje: Skup elementarnih događaja kod bacanja kocke je skup {1,2,3,4,5,6}, tj. ukupan broj mogućih događaja n = 6. Broj povoljnih događaja za nastupanje bilo kojeg elementarnog događaja je m = 1, tako da je vjerovatnoća svakog elementarnog događaja jednaka 1/6.

• Događaj A da će pasti neparan broj poistovjećuje se sa skupom {1,3,5}, tako da je broj povoljnih događaja u ovom slučaju m = 3. Vjerovatnoća da će pasti neparan broj, odnosno da će desiti događaj A jednaka je

3( ) 0,5.

6p A

Page 11: Osnove stohastickog modeliranja

• Primjer 2. Prilikom kontrole kvaliteta 1200 komada prozvoda proizvedenih pod istim tehničko-tehnološkim uslovima, utvrđeno je da je 1128 komada proizvoda standardne kvalitete, 48 komada nestandardne kvalitete i 24 komada su škart proizvodi. Izračunati vjerovatnoće da slučajno odabran proizvod ima karakteristike neke od prethodne tri kvalitete.

• Rješenje: Kontrola kvaliteta proizvoda vrši se na osnovu 1200 opita, tj. n = 1200. Na osnovu statističke definicije, vjerovatnoća da slučajno izabrani proizvod bude standardne kvalitete (događaj A) jednaka je

• Vjerovatnoće da će izabrani proizvod biti nestandardne kvalitete (događaj B), odnosno škart proizvod (događaj C) jednaka je

11

1128( ) 0,94.

1200p A

48( ) 0,04,

1200p B 24

( ) 0,02.1200

p C

Page 12: Osnove stohastickog modeliranja

12

• Vjerovatnoća dešavanja ili događaja A ili događaja B i da se pri tome događaji A i B ne mogu desiti istovremeno je zbir vjerovatnoća tih događaja:

)B(P)A(P)BA(P

Page 13: Osnove stohastickog modeliranja

13

• Vjerovatnoća dešavanja ili događaja A ili događaja B ili ... ili događaja L i da se pri tome događaji A, B, ..., L ne mogu desiti istovremeno jednaka je zbiru parcijalnih vjerovatnoća događaja, tj.

)L(P...)B(P)A(P)L...BA(P

Page 14: Osnove stohastickog modeliranja

• Primjer 4. U seriji koja sadrži 300 komada nekog proizvoda, utvrđeno je da postoji 15 komada sa odstupanjem 0,5% od standardne težine, 24 komada sa odstupanjem 1% od standardne težine i 30 komada sa odstupanjem 1,5 % od standardne težine. Utvrditi kolika je vjerovatnoća da će se naići na komad proizvoda sa odstupanjem od standardne težine ili 1% ili 1,5%?

• Rješenje: Ako obilježimo sa B događaj da će se naići na komad proizvoda sa 1% odstupanja od standardne težine, a sa C da će se naići na komad proizvoda sa odstupanjem 1,5% od standardne težine, onda je

14

24 30( ) ( ) ( ) 0,18.

300 300p B C p B p C

Page 15: Osnove stohastickog modeliranja

15

• Ako se događaji A i B ne isključuju (može se pojaviti događaj A, događaj B ili oba zajedno) onda je:

)AB(P)B(P)A(P)BA(P

Page 16: Osnove stohastickog modeliranja

16

• Uslovna vjerovatnoća događaja B pod uslovom da se već ostvario događaj A označava se sa P(B/A) i izračunava se za P(A)>0:

0)A(P za0

0)A(P za)A(P

)AB(P)A/B(P

Page 17: Osnove stohastickog modeliranja

17

• Multiplikaciona teorema vjerovatnoće se može izvesti i iz formule uslovne vjerovatnoće:

P(AB)=P(A)×P(B/A)

Page 18: Osnove stohastickog modeliranja

18

• Formula totalne vjerovatnoće: Ako slučajni događaj B nastupa pod uslovom nastupanja događaja jednog za drugim koji se međusobno isključuju, a čija je suma vjerovatnoća:

A1, A2,...,An

1

( ) ( ) ( / )n

i ii

P B P A P B A

1 2( ) ( ) ( ) 1nP A P A P A

Page 19: Osnove stohastickog modeliranja

• Primjer 6. Kolika je vjerovatnoća da će prilikom bacanja kocke za igru pasti ili neparan broj ili broj djeljiv sa tri?

• Rješenje: Ako sa A obilježimo događaj padanje neparnog broja na kocki, onda su povoljni slučajevi događaja A 1, 3 i 5. Obilježavajući sa B događaj pad broja djeljivog sa tri, njegovi povoljni slučajevi su 3 i 6. Stoga su vjerovatnoće događaja A i B jednake

• Vjerovatnoća da će desiti događaji A i B istovremeno jedino je moguća ako padne 3, te je ona jednaka

• Vjerovatnoća da će prilikom bacanja kocke pasti ili neparan broj ili broj djeljiv sa dva izračunava se korištenjem relacije

19

3 1 2 1( ) ( ) .

6 2 6 3p A p B

1( ) .

6p AB

1 1 1 2( ) ( ) ( ) ( ) .

2 3 6 3p A B p A p B p AB

Page 20: Osnove stohastickog modeliranja

• Primjer 7. U radionici gdje rade dva radnika utvrđeno je da vjerovatnoća dnevnog prebačaja norme za prvog radnika iznosi 0,7, a za drugog 0,4. Izračunati vjerovatnoću da bar jedan radnik prebacuje normu.

• Rješenje: Bar jedan radnik prebacuje normu ako je prebaci prvi radnik ili drugi ili oba istovremeno. Vjerovatnoća da će prvi i drugi radnik prebaciti normu iznosi p(A)=0,7 i p(B)=0,4. Pošto su događaji A i B nezavisni, vjerovatnoća da će istovremeno prebaciti normu oba radnika jednaka je p(AB)=p(A) x p(B)=0,7 x 0,4=0,28.

• Vjerovatnoća da će bar jedan radnik prebaciti normu iznosi p(A+B)=p(A)+p(B)-p(AB)=0,7+0,4-0,28=0,82.

20

Page 21: Osnove stohastickog modeliranja

• Primjer 10. Jedan proizvod može se proizvesti na tri mašine. Na mašini M1 proizvodi se 60% ukupne proizvodnje i od toga 5% proizvoda lošije kvalitete, na mašini M2 proizvodi se 25% ukupne proizvodnje i od toga 6% proizvoda lošije kvalitete i na mašini M3 proizvodi se 15% ukupne proizvodnje i od toga 8% proizvoda lošije kvalitete. Kolika je vjerovatnoća da slučajno odabrani proizvod bude lošije kvalitete?

• Rješenje: Ovdje možemo posmatrati slijedeće događaje:

• A1 : proizvod je izrađen na mašini M1

• A2 : proizvod je izrađen na mašini M2

• A3 : proizvod je izrađen na mašini M3

• B : odabrani proizvod je lošije kvalitete.• Pošto događaji čine potpuni sustav događaja, to su

odgovarajuće vjerojatnosti jednake i• Uvjetne vjerojatnosti da će odabrani proizvod biti lošije kvalitete u

ovisnosti od toga na kojem stroju je izrađen jesu i Na temelju relacije (1.10)

Prema tome, u ukupnoj proizvodnji bit će 5,7% proizvoda lošije kvalitete

, 1,2,3iA i

1( ) 0,60,p A 2( ) 0,25p A 3( ) 0,15.p A

1( / ) 0,05,p B A

2( / ) 0,06p B A 3( / ) 0,08.p B A 3

1

( ) ( ) ( / ) 0,60 0,05 0,25 0,06 0,15 0,08 0,057.i ii

p B p A p B A

Page 22: Osnove stohastickog modeliranja

22

a) Bayes-ova formula: Ako događaji Ai, n,1i čine potpuni sistem, tada za događaj B koji nije nemoguć vrijedi relacija

n,1k)A/B(P)A(P

)A/B(P)A(P)B/A(P

n

1iii

kkk

koja je poznata kao Bayes-ova formula.

Page 23: Osnove stohastickog modeliranja

• Primjer 11. Jedna velika serija proizvoda sadrži 97 % dobrih proizvoda. Kontrolom kvaliteta proizvoda utvrđeno je da stvarno dobar proizvod se proglašava dobrim uz vjerovatnoću od 0,98, a stvarno loš proizvod se proglašava dobrim uz vjerovatnoću 0,02. Kolika je vjerovatnoća da je proizvod stvarno dobar, ako ga je kontrola proglasila dobrim?

• Rješenje: Ako posmatramo slijedeće događaje:

• A1 : proizvod je stvarno dobar

• A2 : proizvod je stvarno loš

• B : kontrola proglašava proizvod dobrim, onda polazeći od vjerojatnosti i poznate, potrebno je izračunati vjerojatnost u skladu s formulom (1.10), odnosno

• Prema tome, nakon kontrole proizvodna serija će imati 99,94% dobrih proizvoda. 23

1( ) 0,97,p A 2( ) 0,03,p A 1( / ) 0,98p B A

2( / ) 0,02p B A 1( / )p A B

1 11

1 1 2 2

( ) ( / ) 0,97 0,98( / ) 0,9994

( ) ( / ) ( ) ( / ) 0,97 0,98 0,03 0,02

p A p B Ap A B

p A p B A p A p B A

Page 24: Osnove stohastickog modeliranja

24

Slučajna varijabla i Slučajna varijabla i distribucije vjerojatnostidistribucije vjerojatnosti

Ako promjenljiva x uzima neku od vrijednosti x1, x2,..., xn sa odgovarajućim vrijednostima vjerovatnoća P(x1), P(x2), ..., P(xn) pri čemu je P(x1) + P(x2) + ... + P(xn) = 1 tada se za x kaže da predstavlja diskretnu slučajnu (aleatornu ili stohastičku) promjenljivu.

Page 25: Osnove stohastickog modeliranja

25

Sa xi, i= n,1 obilježena je realizacija ili tekuća vrijednost promjenljive, a P(x=xi)=P(xi) je zakon vjerovatnoće ili zakon raspodjele (rasporeda, razdiobe) vjerovatnoća ili distribucija vjerovatnoća.

Distribucija vjerovatnoća pokazuje raspored vjerovatnoća na moguće rezultate nekog opita. Razlikuju se diskretne i kontinuirane distribucije.

Page 26: Osnove stohastickog modeliranja

26

Kod diskretne distribucije promjenljiva x može poprimiti samo određene vrijednosti (npr. osobe koje pristužu u red, škart komadi i sl.). Kontinuiranu distribuciju karakterišu promjenljive koje mogu poprimiti sve vrijednosti (eventualno u okviru nekih granica, npr. vrijeme dolazaka, temperature i sl.).

Page 27: Osnove stohastickog modeliranja

27

Diskretna slučajna promjenljiva x za zakon vjerovatnoće P(x) udovoljava

0)x(P za svako x 1)x(Pxsvako

dok kontinuirana slučajna promjenljiva sa zakonom vjerovatnoće f(x) udovoljava 0)x(f za svako x

Page 28: Osnove stohastickog modeliranja

28

Vjerovatnoća kada se slučajna promjenljiva nalazi u intervalu x je funkcija od x

)ax(P)ax(P)a(F

i naziva se funkcija rasporeda slučajne promjenljive (funkcija distribucije).

Page 29: Osnove stohastickog modeliranja

29

Kod diskretne distribucije je

ax

ii

)xx(P)a(F

dok je kod kontinuirane

a

dx)x(f)ax(P)a(F

Page 30: Osnove stohastickog modeliranja

30

Osobine funkcije rasporeda su:

a) 1)a(F0 ,

b) )(F)(F)x(P ,

c) 0)a(Flima

,

d) 1)a(Flima

.

Page 31: Osnove stohastickog modeliranja

31

KARAKTERISTIKE SLUČAJNE KARAKTERISTIKE SLUČAJNE PROMJENLJIVEPROMJENLJIVE

Neka je x slučajna promjenljiva i neka je h(x) funkcija od x. Definisaćemo E{h(x)} kao očekivanu vrijednost h(x), sa uvažavanjem zakona vjerovatnoće f(x). Tada je

xsvako)x(P)x(h

dx)x(f)x(h)x(hE

Page 32: Osnove stohastickog modeliranja

32

Za konstantu b operator očekivanja je: .)x(hEb)x(hbE

)x(hbE)x(bhE

bbE

Sredina distribucije definiše se kao očekivana vrijednost u slučaju h(x)=x. Tada je

xsvako)x(xP

dx)x(xfxE

za x kontinuirano za x diskretno

Page 33: Osnove stohastickog modeliranja

33

Varijansa distribucije definiše se kao očekivana vrijednost kada je

2xEx)x(h

Tada je

.xExE

xExExE2xExExxE2xExExExVar22

22222

Page 34: Osnove stohastickog modeliranja

34

NAJZNAČAJNIJI RASPOREDI U NAJZNAČAJNIJI RASPOREDI U STOHASTIČKIM MODELIMASTOHASTIČKIM MODELIMA

• Razlikuju se empirijske i teorijske distribucije. Nas će ovdje interesovati teorijske distribucije značajne za stohastičko modeliranje i to:

• - Diskretne distribucije vjerovatnoća:• Binomna distribucija i• Poissonova distribucija.

• - Kontinuirane distribucije vjerovatnoća:• Normalna distribucija,• Eksponencijalna distribucija,• Gama distribucija i• Beta distribucija.

Page 35: Osnove stohastickog modeliranja

35

Binomna distribucijaBinomna distribucija

Pretpostavimo da prosti događaj A nastupa sa istom vjerovatnoćim p kod svakog opita. Neka je njegova suprotna vjerovatnoća obilježena sa q=1 – p. Binomna distribucija definiše vjerovatnoću da će kod n ponavljanja nezavisnih opita, događaj A nastupiti k puta.

Binomna distribucija glasi

knk qpk

n)kx(P

Page 36: Osnove stohastickog modeliranja

36

Binomna distribucija određena je parametrima n i p. Ona zadovoljava uslove

0)kx(P za svako k=0,1,2,…,n

1)qp(qpk

n)kx(P n

n

0k

knkn

0k

Očekivana vrijednost binomne distribucije je Ex=np, a varijansa Varx=np(1–p).

Page 37: Osnove stohastickog modeliranja

• Primjer: Ako se igraća kocka baci 5 puta, kolika je vjerojatnost da dobijemo 3 šestice?

• Rješenje: Vjerojatnost da se dogodi šestica u jednom bacanju je p=1/6, a da se ne dobije q=1-1/6=5/6. Ukupan broj mogućih vrijednosti n=5, jer svako bacanje generira po jedan ishod, a broj uspješnih ishoda iznosi k=3. Ako se zadane vrijednosti uvrste u formulu, dobije se

• Dakle, vjerojatnost da se od 5 bacanja igraće kocke dobiju 3 šestice iznosi 0,0032, odnosno 3,2%.

• Za vrlo velike vrijednosti n i male vrijednosti p binomna se

distribucija aproksimira Poissonovom distribucijom.

37

3 5 35! 1 5

( 3) 0,03.3!(5 3)! 6 6

p x

Page 38: Osnove stohastickog modeliranja

38

Poissonova distribucijaPoissonova distribucija

Neka slučajna promjenljiva x može poprimiti nenegativne cjelobrojne vrijednosti k=0,1,2,.... Svaki događaj nastupa slučajno i nezavisno od drugog. Slučajna promjenljiva x označava frekvenciju nastupa posmatranog događaja po jedinici vremena. Izraz

!k

e)kx(P

k

za svako k=0,1,2,…

Page 39: Osnove stohastickog modeliranja

39

Poissonova distribucija može se direktno izvesti iz binomne distribucije. Kada p 0 i n, ali tako da je np=>0, onda je binomna distribucija

knk

n1

nk

n)kx(P

Granična vrijednost prethodnog izraza kada p 0 i n je Poissonova distribucija.

Page 40: Osnove stohastickog modeliranja

40

Očekivana vrijednost i varijansa Poissonovog rasporeda jednake su parametru , odnosno Ex= i Varx= . U situaciji kada je n veliko, p male vrijednosti i =np>0 pogodna konstantna vrijednost, tada Poissonova distribucija aproksimira binomnu distribuciju.

Page 41: Osnove stohastickog modeliranja

• Primjer: Pretpostavimo da se u populaciji košarkaša može pronaći 3% onih koji u testu skok u dalj s mjesta postižu rezultat veći od 3 metra. Kolika je vjerojatnost da se u uzorku veličine n=100 pronađe 5 košarkaša koji u skoku u dalj s mjesta imaju rezultat bolji od 3 metra.

• Rješenje: Dakle x=5, jer je p=0,03, a n=100. Uvrštavanjem tih vrijednosti u formulu, izračunava se tražena vjerojatnost

• Prema tome vjerojatnost da se u uzorku nađe 5 košarkaša koji u skoku u dalj s mjesta imaju rezultat bolji od 3 metra iznosi 10%.

• Oblik Poissonove distribucije zavisit će isključivo od veličine parametra . S obzirom da slučajna varijabla x ne može imati vrijednosti manje od nule (x=0, 1, 2, ...), s povećanjem parametra

distribucija teži simetričnosti.

41

0,03 100 3p n

533

( 5) 2,7182818 0,1.5!

p x

Page 42: Osnove stohastickog modeliranja

42

Normalna distribucijaNormalna distribucija

Neprekidna funkcija

22 2/)x(

2e

2

1)x(f

za svako x

gdje su i poznati parametri, predstavlja normalnu distribuciju (slika 1.1).

Page 43: Osnove stohastickog modeliranja

43

f(x)

0 x

x Slika 1.1a. Normalna distribucija

F(x)

0 x

0,5

1

Slika 1.1b. Normalna distribucija

Page 44: Osnove stohastickog modeliranja

44

Funkcija rasporeda normalne distribucije definisana je sa

x

2/)y(

2dye

2

1)x(F

22

Očekivana vrijednost normalne distribucije je Ex=, a varijansa Varx=2

Standardizovana normalna distribucija dobiva se uvođenjem slučajne

promjenljive

xz u obliku

2/z2

e2

1)z(

za svako x

sa Ez=0 i Varz=1 (slika 1.2).

Page 45: Osnove stohastickog modeliranja

45

f(z)

0 z Slika 1.2a. Standardizovana normalna distribucija

F(z)

0 z

0,5

1

Page 46: Osnove stohastickog modeliranja

46

Eksponencijalna Eksponencijalna distribucijadistribucija

Eksponencijalna distribucija za slučajnu promjenljivu x definisana je izrazom

xe)x(f , x>0,

gdje je dati parametar (slika 1.3).

f(x)

0 x Slika 1.3. Eksponencijalna distribucija

Page 47: Osnove stohastickog modeliranja

47

Gama distribucijaGama distribucija Da bi se dobio zakon vjerovatnoće Gama distribucije n-tog reda, polazi se od složenog događaja:

- da se u intervalu dužine t javi (n-1) dolazak i - da se u intervalu t,t+dt javi jedan dolazak.

Zakon vjerovatnoće definisan izrazom

)!1n(

e)x()x(f

x1n

za svako x>0

označava se kao Gama ili Erlangova distribucija.

Page 48: Osnove stohastickog modeliranja

• Očekivana vrijednost Gama distribucije je

• Varijanca Gama distribucije je

48

1.E x

2

1.Var x

Page 49: Osnove stohastickog modeliranja

49

Beta distribucijaBeta distribucija • Za slučajnu varijablu x koja ima zakon vjerojatnosti

kaže se da ima Beta distribuciju.• Očekivana vrijednost Beta distribucije je

• Varijanca Beta distribucije je

1 1

11 1

0

1( ) (1 ) za svako 0 1, 0 0

( , )

gdje je

( , ) (1 )

m n

m n

f x x x x m i nm n

m n x x dx

( ) .p

E xp q

2( ) .

( ) ( 1)

pqVar x

p q p q

Page 50: Osnove stohastickog modeliranja

50

STOHASTIČKI PROCESI U STOHASTIČKI PROCESI U ODLUČIVANJUODLUČIVANJU

• Stohastički proces predstavlja matematičku apstrakciju empirijskog procesa koji se razvija u vremenu po nekim zakonima vjerovatnoće. Simbolički ga definišemo kao skup slučajnih promjenljivih x(t),tT, gdje se parametar t odnosi na vrijeme.

• Proučavanje stohastičkih procesa ima funkciju prilikom prognoziranja vrijednosti ekonomskih procesa. Stohastički proces se ne može opservirati, nego mogu samo njegove realizacije.

Page 51: Osnove stohastickog modeliranja

51

• Ako pođemo od toga da jedina ispravna definicija ekonomske vremenske serije proizlazi jedino iz teorije stohastičkih procesa, tada se smatra da je ta vremenska serija konačni dio realizacije nekog stohastičkog procesa, odnosno određena ekonomska vremenska serija x(t) je jedan jedini uzorak od beskonačnog broja mogućih uzoraka tog procesa x(t0), x(t1), ..., x(tp).

Page 52: Osnove stohastickog modeliranja

52

• U skladu sa prethodnom definicijom osnovni zadatak istraživanja dinamičkih ekonomskih procesa sastoji se u otkrivanju stohastičkog procesa čija je realizacija ta vremenska serija.

• Takav stohastički proces označava se kao model ekonomske vremenske serije.

Page 53: Osnove stohastickog modeliranja

53

Zakon vjerovatnoće Zakon vjerovatnoće stohastičkog procesastohastičkog procesa

Da bismo definisali zakon vjerovatnoće stohastičkog procesa posmatrat ćemo za svako ti realizaciju x(ti). Na bazi trenutaka t1, t2,..., tn kojima korenspodira niz slučajnih promjenljivih x(t1),x(t2),...,x(tn) može se definisasti zakon vjerovatnoće procesa. U svakom trenutku ti može se pridružiti odgovarajuća promjenljiva x(ti) koja ima svoj zakon vjerovatnoće koji ćemo označiti sa f(x,ti).Obuhvatanjem svih n stohastičkih promjenljivih n-dimenzionalni zakon vjerovatnoće stohastičkog procesa može se opisati izrazom f(x1,x2,...,xn;t1,t2,...,tn).

Page 54: Osnove stohastickog modeliranja

54

Karakteristike stohastičkog Karakteristike stohastičkog procesaprocesa

• Osnovne karakteristike stohastičkog procesa su:

1. srednja vrijednost,2. varijansa, 3. funkcija autokovarijanse i 4. funkcija kovarijanse.

Page 55: Osnove stohastickog modeliranja

55

Srednja vrijednostSrednja vrijednost

Za stohastički proces x(t),tT srednja vrijednost )(tx definiše se kao očekivana vrijednost, tj.

)()( txEtx

t=t1 t=t2

)t(x

Slika 1.6. Očekivana vrijednost stohastičkog procesa

Page 56: Osnove stohastickog modeliranja

56

VarijansaVarijansa

Varijansa stohastičkog procesa definiše se kao srednje kvadratno odstupanje realizacija stohastičkog procesa od njegove srednje vrijednosti, tj.

22 )t(x)t(xE)t(

Page 57: Osnove stohastickog modeliranja

57

Funkcija autokovarijanse i Funkcija autokovarijanse i kovarijansekovarijanse

Funkcija autokovarijanse stohastičkog procesa x(t),tT pokazuje stepen zavisnosti između dva presjeka t=t1 i t=t2. Ona se definiše kao

. )t(x)t(x )t(x)t(x E)t,t(K 221121xx

Na bazi prethodne definicije lako se dokazuje da vrijedi jednakost

)t,t(K)t,t(K 12xx21xx

Ako je t1=t2 onda se funkcija autokovarijanse zove varijansa, koja je prethodno definisana.

Page 58: Osnove stohastickog modeliranja

58

Funkcija kovarijanse dva stohastička procesa x(t) i y(t) pokazuje stepen međusobne zavisnosti u istom vremenskom trenutku, tj.

.)t(y)t(y )t(x)t(xE)t,t(K xy

Pomoću funkcija varijansi i kovarijansi može se izračunati srednje kvadratna greška u slučaju vremenskog pomaka (time lag)

)t,t(K2)t()t(

)t,t(K2)t,t(K)t,t(K)t(y)t(xE)t,t(

21xy22y1

2x

21xy22yy11xx2

2121xy2

Page 59: Osnove stohastickog modeliranja

59

Iz razloga što funkcije autokovarijanse i kovarijanse mogu primiti bilo koju konačnu vrijednost i na osnovu toga se ne može donijeti adekvatan zaključak o stvarnoj zavisnosti, neophodno je da se definišu funkcije autokorelacije i korelacije čije se sve vrijednosti kreću u intervalu -1,+1. Autokorelaciona funkcija, odnosno korelaciona funkcija definišu se na slijedeći način:

)t()t(

)t,t(K)t,t(r

2x1x

21xx21xx

autokorelaciona funkcija

)t()t(

)t,t(K)t,t(r

yx

xyxy

korelaciona funkcija

Page 60: Osnove stohastickog modeliranja

60

Klasifikacija stohastičkih Klasifikacija stohastičkih procesaprocesa

a) Prema prirodi indeksnog skupa razlikujemo: - prosece sa diskretnim parametrom, - prosece sa kontinuiranim parametrom.

Kod procesa sa diskretnim parametrom elementi indeksnog skupa T poprimaju diskretne vrijednosti ,...2,1,0t ili t=0,1,2,…. Kod procesa sa kontinuiranim parametrom indeksni skup T se definiše sa

t/tT ili 0tt,T .

b) Stohastički procesi sa diskretnim ili kontinuiranim prostorom stanja definišu se s obzirom na karakteristike prostora stanja. Prostor stanja stohastičkog procesa x(t),tT je skup svih mogućih realizacija procesa. Prostor stanja može biti jednodimenzionalan ili višedimenzionalan i pri tome diskretan ili kontinuiran.

Page 61: Osnove stohastickog modeliranja

61

a) U zavisnosti od distribucije stohastičkog procesa mogu se definisati: - Gausovi ili normalno distribuirani stohastički procesi i - ne-Gausovi procesi.

Gausovi stohastički procesi imaju karakteritike zakona vjerovatnoće koji slijedi normalnu distribuciju, dok ne-Gausovi procesi slijede neku drugu distribuciju.

b) Prema zavisnosti ponašanja realizacija procesa od prethodnih vremenskih trenutaka razlikuju se:

- Markovljev stohastički proces i - ne-Markovljevi procesi.

Markovljev proces je takav proces kod koga vrijednost realizacije procesa u bilo kom trenutku zavisi samo od realizacije procesa u neposredno prethodnom trenutku, a ne i od ostalih vrijednosti u trenucima koji prethode.

Page 62: Osnove stohastickog modeliranja

62

a) U zavisnosti od invarijantnosti karakteristika procesa s obzirom na parametar vrijeme, stohastički procesi mogu biti:

- stacionarni i - nestacionarni.

Stohastički proces je stacionaran samo u slučaju kada njegov zakon vjerovatnoće ostaje nepromijenjen pri promjeni vremenskog trenutka tk u vremenski trenutku tk+τ. Drugim riječima, to znači da se raspored vjerovatnoća procesa ne mijenja u vremenu, te se stohastički proces sa ovim osobinama može posmatrati u bilo kojem vremenskom intervalu.

Razlikujemo strogu ili striktnu stacionarnost i slabu ili stacionarnost u širem smislu. Ako je t,T i t+T, onda stohastički proces definisan na tom skupu je strogo stacionaran ako su funkcije rasporeda stohastičkih promjenljivih [x(t1),x(t2),…,x(tn)] i [x(t1+τ),x(t2+τ),…,x(tn+τ)] identične.

Page 63: Osnove stohastickog modeliranja

63

Za stohastički proces se može reći da je slabo stacioniran, ako i samo ako je: 1) Srednja vrijednost procesa konstantna, konačna i nezavisna od

vremena t, tj. xtxEtx )()( . 2) Varijansa procesa je konstantna i nezavisna od vremena t, tj.

2x

22x x)t(xE)t( .

3) Korelacione funkcije, kao i greška 2xy su funkcije samo jedne

promjenljive i to dužine vremenskog intrevala .

Page 64: Osnove stohastickog modeliranja

64

Nestacionarne stohastičke procese, za razliku od stacionarnih, karakteriše evolucija osnovnih karakteristika procesa.

t

)t(x

Page 65: Osnove stohastickog modeliranja

Osnove analize vremenskih nizovaOsnove analize vremenskih nizova

• Podaci o pojavama u gospodarstvu, ekonomiji i drugim područjima istraživanja najčešće se prikupljaju kao vremenski nizovi.

• Vrijednosti pojave u pravilu se odnose na jednake vremenske intervale, kao npr. mjesečne vrijednosti industrijske proizvodnje u BiH.

• Analiza takvih nizova ukazuje na potrebu definiranja analitičkog izraza ili modela kojim se opisuje mehanizam generiranja vrijednosti pojave (stohastičkog procesa) u vremenu.

• Cilj analize vremenskih nizova je opisivanje razvoja pojave u vremenu, objašnjavanje varijacija pojave i predviđanje buduće razine pojave.

• Dinamička struktura vremenskog niza može se istraživati na temelju jedne jednadžbe ili predmet analize može biti uzročno-posljedična povezanost više vremenskih nizova, koja se provodi na temelju vektorskih modela.

• Dva su osnovna modela vremenskih nizova: aditivni i multiplikativni model. 65

Page 66: Osnove stohastickog modeliranja

• Kod aditivnog modela vremenski niz se rastavlja na sumu komponenti: trend (T), sezonsku (S), cikličnu (C) i slučajnu komponentu (e), pa je opći oblik modela:

• Aditivni model je pogodan za analizu vremenskih nizova kod kojih se amplitude sezonskih varijacija ne mijenjaju s vremenom.

• Multiplikativni model je oblika:

• Multiplikativni model koristi se u slučajevima kada se amplitude sezonskih varijacija povećavaju (smanjuju) proporcionalno s vremenom, što je karakteristika većine vremenskih nizova u ekonomiji. Ovaj se model može linearizirati logaritamskom transformacijom:

66

. (1)t t t t tY T C S e

(2)t tt t C S tY T I I

log log log log log (3)t tt t C S tY T I I

Page 67: Osnove stohastickog modeliranja

• Modeli koji se analiziraju u vremenskoj domeni jesu modeli (1) ili (2), ili su iz klase linearnih stohastičkih modela, kojima se opisuju stacionarni procesi, tj. Stacionarni vremenski nizovi.

• Vremenski niz je stacionaran ako ne sadrži trend komponentu (razina pojave ne mijenja se s vremenom), ako u nizu nisu prisutne striktno periodske varijacije, te ako mu varijanca ne ovisi o vremenu.

• Analiza nizova u vremenskoj domeni koristi autokorelacijsku funkciju i funkciju parcijalne autokorelacije kako bi se definirao model kojim se primjereno opsuje dinamika pojave u vremenu.

• Stohastički proces s diskretnim parametrom t je familija vremenski indeksiranih slučajnih varijabli definiranim nad prostorom događaja S. Za fiksnu vrijednost parametra t, je slučajna varijabla, a za fiksnu vrijednost je funkcija vremena koja se naziva realizacija procesa ili funkcija uzorka.

• Populacija ili skup svih mogućih realizacija (funkcija uzoraka) naziva se stohastički proces.

• Prema tome, vremenski niz se može tretirati kao konačna realizacija nekog stohastičkog procesa, odnosno da se može promatrati kao uzorak u odnosu na populaciju.

67

( ), 0, 1, 2,tY w t ( )tY w

, ( ), 0,tw Y w t

Page 68: Osnove stohastickog modeliranja

Stacionarni vremenski nizoviStacionarni vremenski nizovi

• Ekonomska pojava, kao na primjer cijene, zalihe gotovih proizvoda ili indeksi industrijske proizvodnje, može se definirati kao stohastički proces

• Proces i njegove vrijednosti nazivaju se populacijom, a vremenski niz je njegova realizacija ili uzorak.

• Kako bi se lakše istražile i razumjele specifične karakteristike vremenskih nizova, potrebno je definirati pojam stacionarnosti.

• Stohastički proces je stacionaran ako se njegova svojstva ne mijenjaju s vremenom. Formalno to znači da za proizvoljno odabrani prirodni broj i svaki pomak , n-dimenzionalna funkcija distribucije zadovoljava jednadžbu:

Tj. Zajednička funkcija distribucije konačnog podskupa varijabli invarijantna je s obzirom na vremenski pomak. Proces za

koji relacija (4) vrijedi za svaki n=1,2,... Je striktno stacionaran. 68

, 0, 1, 2, .tY t

1 2, , ny y y

n N k N

1 2 1 2, , 1 2 , , 1 2( , , , ) ( , , , ) (4)n k k n kY Y Y n Y Y Y nF y y y F y y y

1 2, , , nY Y Y

Page 69: Osnove stohastickog modeliranja

• Budući da je za striktno stacionarni proces funkcija distribucije jednaka za sve t, t=0,1,2,... očekivana vrijednost procesa je konstantna

• Varijanca procesa je također konstantna:• Kako je za svaki pomak k, k=1,2,..., kovarijanca

između dvaju razmaknutih članova procesa i funkcija je samo njihove vremenske udaljenosti k, tj.

• Isto tako, korelacija između i također je samo funkcija vremenske udaljenosti k, tj.

• Iz navedenog proizlazi da za striktno stacionarni proces funkcije kovarijance i korelacije ovise samo o vremenskom pomaku k (vremenskoj “udaljenosti” članova procesa).

• Primjer striktno stacionarnog procesa je čisti slučajni proces ili proces bijelog šuma (WN). To je proces nekoreliranih, jednakodistribuiranih slučajnih varijabli s očekivanom vrijednošću nula i konstantnom varijancom .

69

( ) .tE Y

2 2( ) ( ) .t t tVar Y E Y E Y

1 2 1 2, 1 2 , 1 2( , ) ( , )k kY Y Y YF y y F y y

tY ,t kY

Cov( , ) ( )( ) ( ). (5)t t k t t kY Y E Y Y k

tY t kY

2

( )Corr( , ) ( , ) ( ) (6).t t k

kY Y t t k k

2

Page 70: Osnove stohastickog modeliranja

• Po definiciji je čisti slučajni proces ako za svako t vrijedi da je:

• Očekivana vrijednost procesa jednaka nuli, tj.• Varijanca procesa konstantna, tj. I• Kovarijanca između i jednaka nuli, za • Proces se uobičajeno označava:• Čisti slučajni proces ne sadrži sistematske komponente, a zbog

međusobne nekoreliranosti članova procesa, budući da se članovi procesa ne mogu “predvidjeti” na osnovi prethodnih članova. Takvim se procesom obično opisuje dinamika slučajne komponente.

• Uobičajena je pretpostavka o normalnoj distribuiranosti procesa, tj. da je čisti slučajni proces ujedno i Gaussov proces.

• Kod čistog slučajnog procesa njegovi autokorelacijski koeficijenti (ACF) i koeficijenti parcijalne autokorelacije (PACF) jednaki su nuli za svaki pomak k različit od nule. Za Za k=0 vrijednosti ovih funkcija jednake su jedinici.

70

, 0, 1, 2,t t

( ) 0,tE

2Var( )t

t s ( , ) 0,t sCov .t s

2(0, ).t WN

Page 71: Osnove stohastickog modeliranja

Autoregresijski model, Autoregresijski model, ARAR((pp))

• Autoregresijskim modelima opisuju se stohastički procesi koji generiraju vremenske nizove čije su vrijednosti autokorelirane. Autoregresijski model reda p je oblika:

• Kako se član procesa “regresira” na p prethodnih članova procesa, model se stoga i naziva autoregresijski model.

jesu autoregresijski parametri, a je konstantni član.• Pri analizama konstantni član u modelu najčešće se zanemaruje.

Naime, bez smanjenja općenitosti, analiza se provodi nad odgovarajućim centriranim procesom pa se izraz (6) može napisati u obliku:

71

0 1 1 2 2 (6)t t t p t p tY Y Y Y

1 2, , , p 0

( ),t t tZ Y E Y

1 1 2 2 (7)t t t p t p pZ Z Z Z

Page 72: Osnove stohastickog modeliranja

Model pomičnih prosjeka, Model pomičnih prosjeka, MAMA((qq))

• Model pomičnih prosjeka je model kojim se opisuju stohastički procesimkoji generiraju vremenski niz čija je vrijednost tekućeg perioda povezana s greškama relacije tekućeg i prethodnih perioda. MA(q) je oblika:

• je proces grešaka relacije (inovacija) tj. Niz nekoreliranih, jednako distribuiranih slučajnih varijabli s očekivanjem nula i konstantnom varijancom . su nepoznati parametri modela pomičnih prosjeka, a je konstantni član.

72

0 1 1 . (8)t t t q t qY

, 0, 1, 2,t t

2 1 2, , , q

0

Page 73: Osnove stohastickog modeliranja

Mješoviti model, Mješoviti model, ARMAARMA ( (pp,,qq))

• Posljedica činjenice da se stacionarni i invertibilni stohastički procesi mogu prikazati ili kao AR ili kao MA procesi je da se u primjenama obično odabire dovoljno velika duljina pomaka kako bi se AR ili MA modeli aproksimirali modelima konačnog (dovoljno velikog) reda. Međutim, takvi (konačni) modeli mogu imati veliki broj parametara, jer je često potreban model velikog reda da bi se dobila odgovarajuća aproksimacija procesa. Veliki broj parametara, međutim, smanjuje efikasnost procjene. Kako bi se navedeni problem izbjegao, ili barem umanjio, definiraju se modeli koji istovremeno uključuju i članove autoregresijskog modela i članove modela pomičnih prosjeka. Takvim modeliranjem dolazi se do mješovitog ARMA(p,q) modela:

• Iz čega proizlazi da tekuća vrijednost pojave ovisi o vrijednostima pojave u prethodnih p razdoblja i prethodnih q vrijednosti slučajne varijable

73

1 1 1 1 (9)

( ) ( )

t t p t p t t q t qZ Z Z

AR p MA q

.t

Page 74: Osnove stohastickog modeliranja

• Većina pojava, posebno onih koje proizlaze iz ekonomskih i gospodarskih analiza, nisu stacionarne.

• Nestacionarnost procesa može biti posljedica više čimbenika. Npr. pojava može sadržavati trend, pa prosječna razina pojave (funkcija očekivanja procesa) nije konstantna. I varijanca procesa se može mijenjati s vremenom. Niz može sadržavati sezonske i/ili ciklične komponente.

• Nestacionarnost se rješava diferenciranjem procesa dovoljan broj puta, što nas upućuje na primjenu ARIMA (p,d,q) modela.

74

Page 75: Osnove stohastickog modeliranja

75

Najznačajniji modeli Najznačajniji modeli stohastičkih procesastohastičkih procesa

• U ekonomskoj analizi, analizi vremenskih serija, tehnikama prognoziranja i sl., teorija stohastičkih procesa i modeli stohastičkih procesa imaju vrlo značajno mjesto. Među najznačajnije spadaju:

1. bijeli šum,2. ARIMA model i 3. modeli u prostoru stanja (Markovljev

proces i Kalmanov filtar).

Page 76: Osnove stohastickog modeliranja

76

Diskretni bijeli šumDiskretni bijeli šum

Posmatrajmo diskretni stohastički stacionarni proces x(t),tT tako da su realizacije x(t1) i x(t2) nezavisne ako je t1t2. Tada ga možemo predstaviti kao niz nezavisnih i identično raspodijeljenih slučajnih veličina. U tom slučaju funkcija kovarijanse je

21

212

21xxtt 0

tt )t,t(K

Page 77: Osnove stohastickog modeliranja

77

Proces sa takvom autokovarijansom naziva se diskretni bijeli šum, odnosno diskretni bijeli šum je stacionarni stohastički proces sa očekivanim vrijednošću jednakom nula i kovarijansom definisanom na prethodni način.

Ovaj model stohastičkog procesa posebno ima značaj u modernoj analizi vremenskih serija i ekonometrijskoj analizi.

Page 78: Osnove stohastickog modeliranja

78

ARIMA modelARIMA model

• Ovu metodologiju su razvili Box i Jenkins.

• ARIMA je skraćenica od engleskog naziva AutoRegressiv Intergrated Moving Average koji se može prevesti kao model autoregresionih integrisanih pokretnih prosjeka.

Page 79: Osnove stohastickog modeliranja

79

Model ARMA (p,q)Model ARMA (p,q)Stacionarne vremenske serije mogu se predstaviti kombinacijom sheme pokretnih prosjeka reda q ili MA(q) i autoregresije AR(p). Ako je vremenska serija definisana nizom xt,tT onda se ARIMA model za ovu seriju može napisati kao

xt=1xt-1+2xt-2 + ...+pxt-p+ t -1t-1 -2t-2 - ... -qt-q AR(p) MA(q)

gdje su:

t - bijeli šum sa osobinama da je Et=0 i Vart=2, p - broj obuhvaćenih realizacija procesa i q - broj obuhvaćenih bijelih šumova.

Page 80: Osnove stohastickog modeliranja

80

Model ARIMA (p,d,q)Model ARIMA (p,d,q)Ovaj model se koristi za nestacionarne vremenske serije. Npr., ako vremenska serija xt,tT nije stacionarna, nego su stacionarne prve razlike zt=xt–xt-1 i ako se model serije zt može predstaviti sa ARMA (p,q), onda se takav proces označava sa ARIMA (p,1,q), gdje broj 1 označava broj diferencija koje smo izvršili sa originalnom vremenskom serijom, u ovom slučaju jednu. Prema tome, “d” predstavlja broj diferencija izvršenih na originalnoj vremenskoj seriji u cilju njene stacionarizacije.

Postoje postupci za identifikaciju reda p, d i q ARIMA procesa, kao metode za

ocjenu nepoznatih koeficijenata p,1i ,i i q,1j ,j . Na bazi tako

specificiranog modela može se izvršiti prognoziranje budućih vrijednosti vremenskih serija. Istraživanja su pokazala da se dobivaju “bolje” ocjene vrijednosti serije ARIMA modelima nego klasičnim statističkim tehnikama.