9-FAKTORSKA ANALIZA.ppt

1

FAKTORSKA ANALIZA

Glavne komponente

Zajednički faktori

2

Glavne komponente

• Cilj – primenjuje se kada je cilj faktorske analize da se smanji broj promenljivih; zasniva se na ukupnom varijabilitetu.

• Cilj – sve varijable predstaviti linearnom kombinacijom manjih grupa faktora

Gde su

Xi - i-ta standardizovani skor;

Aij – faktorsko opterećenje.standardizovani koeficijent višestruke regresije promenljive i na zajednički faktor j;

Fj –standardizovani faktorski skorovi (zajednički faktor j);

m –broj zajedničkih faktora.

3

Glavne komponente• Koji je postupak sproveđenja faktorske analize?

• Koraci su sledeći:

1. Formulisanje problema2. Konstrukcija korelacione matrice – matrica sa koeficijentima

korelacije između promenljivih. Ona može poslužiti umesto originalnih promenljivih kao ulazna veličina.

3. Određivanje metode faktorske analize – glavne komponente ili zajednički faktori

4. Određivanje broja faktora 5. Rotacija faktora6. Interpretacija faktora7. Računanje faktorskih skorova 8. Određivanje valjanosti modela

4

Glavne komponente• Šta je to faktor?

• Faktor je suština koju nose više originalnih komponenti; to je promenljiva koja se ne može direktno meriti.

• Za šta nam služe formirani faktori?

• Faktori služe kao nezavisne promenljive u drugim statističkim tehnikama kao što je regresija ili diskriminaciona analiza.

• Kako izgleda model faktorske analize sa 4 standardizovanih promenljivih i 3 izdvojena faktora?

• A kako izgledaju faktori u ovom slučaju?

5

Glavne komponentePRIMER:Stav prema bankarstvu (Aaker, et.al.: Marketing Research, pp.565.)Stavovi ispitanika u vezi sledećih tvrđenja, mereni na 0-9skali:

1.Manje banke imaju niže provizije u odnosu na velike banke;

2.Veća je verovatnoća da će velike banke da naprave grešku u poređenju sa malim bankama;

3.Nije neophodno da bankaraski službenici budu jako ljubazni; dovoljno je da budu učtivi;

4.Želim da me u mojoj banci lično poznaju i da se prema meni ophode posebno ljubazno;

5.Ako se finansijska institucija prema meni ponaša neučtivo, nikada više neću poveriti poverenje toj organizaciji.

6

Glavne komponente

7

Correlations

1 ,610* ,469 -,018 -,096

,016 ,078 ,949 ,732

15 15 15 15 15

,610* 1 ,230 ,190 ,319

,016 ,409 ,498 ,247

15 15 15 15 15

,469 ,230 1 -,832** -,774**

,078 ,409 ,000 ,001

15 15 15 15 15

-,018 ,190 -,832** 1 ,927**

,949 ,498 ,000 ,000

15 15 15 15 15

-,096 ,319 -,774** ,927** 1

,732 ,247 ,001 ,000

15 15 15 15 15

Pearson Correlation

Sig. (2-tailed)

N

Pearson Correlation

Sig. (2-tailed)

N

Pearson Correlation

Sig. (2-tailed)

N

Pearson Correlation

Sig. (2-tailed)

N

Pearson Correlation

Sig. (2-tailed)

N

x1

x2

x3

x4

x5

x1 x2 x3 x4 x5

Correlation is significant at the 0.05 level (2-tailed).*.

Correlation is significant at the 0.01 level (2-tailed).**.

8

Glavne komponente

• Komunalitet je količina varijabiliteta određene originalne promenljive objašnjen faktorima (zadržanim faktorima u modelu).

• Iz tabele vidimo da izabrani faktori bolje izražavaju promenljive x3, x4, i x5 nego x1 i x2.

• U prvoj koloni vidimo varijabilite svake originalne promenljive objašnjen svim faktorima u modelu.

Communalities

1,000 ,815

1,000 ,849

1,000 ,956

1,000 ,954

1,000 ,956

x1

x2

x3

x4

x5

Initial Extraction

Extraction Method: Principal Component Analysis.

9

Glavne komponente-određivanje broja faktora

• Broj faktora koji će se koristiti u modelu može se izabrati na osnovu više kriterijuma:

1. Kriterijum karakteristične vrednosti – (karakteristična vrednost je iznos varijanse u originalnim promenljivama koji je povezan sa određenim faktorom) zadržavaju se samo faktori čija je karakteristična vrednost veća od 1.

2. Kriterijum procentualnog učešća varijabiliteta – kumulativno procentualno učešće varijabiliteta koji faktori objašnjavaju treba da dostigne odgovarajući nivo (neretko se uzima 70%)

3. Iskustveno pravilo – svi uključeni faktori moraju da objasne bar toliko varijabiliteta koliko jedna “prosečna varijabla” (u ovom slučaju imamo 5 varijabli što znači više od 20% varijabiliteta.

4. Iskustveno pavilo – faktor gde dolazi do značajnog pada u količini varijabiliteta koji oni objašnjavaju.

Total Variance Explained

2,755 55,092 55,092 2,755 55,092 55,092 2,736 54,711 54,711

1,775 35,497 90,589 1,775 35,497 90,589 1,794 35,878 90,589

,377 7,542 98,131

,065 1,299 99,431

,028 ,569 100,000

Component1

2

3

4

5

Total % of Variance Cumulative % Total % of Variance Cumulative % Total % of Variance Cumulative %

Initial Eigenvalues Extraction Sums of Squared Loadings Rotation Sums of Squared Loadings


10

Glavne komponente-određivanje broja faktora

5. Dijagram osipanja – bira se broj faktora koji se nalazi u prelomnoj tački ali se gleda i nivo varijabiliteta odnosno karakteristične vrednosti (u ovom slučaju biramo 2 faktora)

6. Kriterijum testa značajnosti – značajnost varijansi različitih faktora.

11

Glavne komponente -interpretacija

• Objašnjeni varijabilitet

• Prvi faktor objašnjava 55% ukupnog varijabiliteta ovih pet varijabli u analizi, a drugi faktor dodatnih 36% varijabiliteta.


2,755 55,092 55,092 2,755 55,092 55,092 2,736 54,711 54,711

1,775 35,497 90,589 1,775 35,497 90,589 1,794 35,878 90,589

,377 7,542 98,131

,065 1,299 99,431

,028 ,569 100,000

Component1

2

3

4

5




12

Glavne komponente -interpretacija

• U tabeli su data faktorska opterećenja.• Prva glavna komponenta odnosno

faktor je najviše korelisana sa originalnim promenljivama x3, x4 i x5, dok je druga glavna komponenta više korelisana sa originalnim promenljivama x1 i x2.

• Ove informacije se koriste dalje za identifikaciju i imenovanje faktora.

• Promenljive x3, x4 i x5 se kombinuju da bi formirali prvi faktor odnosno komponentu koja može da se zove “lični” faktor.

• Promenljive x1 i x2 se kombinuju da bi formirale drugi faktor koji može da se zove “male banke”

Component Matrixa

-,295 ,853

,048 ,920

-,938 ,278

,950 ,228

,940 ,268

x1

x2

x3

x4

x5

1 2

Component


2 components extracted.a.

13

Glavne komponente - rotacija

Šta je to rotacija faktora?Faktorska analiza generiše više rešenja za isti skup podataka. Svako rešenje je

jedna rotacija. Znači u svakoj rotaciji imamo druge koeficijnte i drugu interpretaciju. Postoji ortogonalna (varimax ili pravougaona rotacija) i neortogonalna (promax rotacija).

Koja je razlika između ortogonalne i neortogonalne rotacije?• Kod prve faktori su pod pravim uglom odnosno nisu korelisani što nije slučaj sa

neortogonalnom rotacijom. Neortogonalna rotacija žrtvuje nekorelisanost da bi se dobila bolja interpretacija faktora.

• Prilikom rotacije zadržava se kumulativni procenat varijacija objašnjene izabranih faktora, ali se varijabilitet raspoređuje na izabrane komponente odnosno faktore. Velike promene u koeficijentima ukazuju da se faktori lakše tumače.


2,755 55,092 55,092 2,755 55,092 55,092 2,736 54,711 54,711

1,775 35,497 90,589 1,775 35,497 90,589 1,794 35,878 90,589

,377 7,542 98,131

,065 1,299 99,431

,028 ,569 100,000

Component1

2

3

4

5




14

Glavne komponente - rotacijaRotated Component Matrixa

-,173 ,886

,175 ,904

-,890 ,405

,972 ,093

,968 ,134

x1

x2

x3

x4

x5

1 2

Component

Extraction Method: Principal Component Analysis. Rotation Method: Varimax with Kaiser Normalization.

Rotation converged in 3 iterations.a.

Component Matrixa

-,295 ,853

,048 ,920

-,938 ,278

,950 ,228

,940 ,268

x1

x2

x3

x4

x5

1 2

Component


2 components extracted.a.

U našem primeru opterećenje nerotiranih faktora ipak pružaju jasniju interpretaciju.

U opštem slučaju prilikom rotacije se menjaju opterećenja i trebalo bi da opterećenja u tabeli sa rotacijom daju jasniju interpretaciju.

15

Glavne komponente• Ovo je tabela sa koeficijentima

standardizovanih faktorskih skorova, odnosno na osnovu ove tabele možemo da izračunamo faktorske skorove za svakog ispitanika.

Fi=bi1xs1+bi2xs2+...+bikxsk

Odnosno u ovom zadatku

F1=-0,039xs1+0,089xs2-0,315xs3+0,359xs4+0,359xs5

F2=-0,491xs1+0,511xs2-0,202xs3+0,079xs4+0,102xs5

Component Score Coefficient Matrix

-,039 ,491

,089 ,511

-,315 ,202

,359 ,079

,359 ,102

x1

x2

x3

x4

x5

1 2

Component

Extraction Method: Principal Component Analysis. Rotation Method: Varimax with Kaiser Normalization. Component Scores.

16

Glavne komponente

• Na osnovu prethodnih formula možemo da izračunamo nove promenljive (faktore, glavne komponente) koje možemo koristiti u daljoj analizi

17

Zajedničke komponente• Cilj - primenjuje se kada je cilj faktorske analize da otkrije suštinski koncept

koji leži u osnovi podataka (nešto što im je zajedničko); zasniva se na zajedničkom varijabilitetu originalnih promenljivih.

Ako je varijansa koju dele promenljive značajna ove metode daju veoma slične rezultate.

Analiza glavnih komponenti se računa na osnovu originalnih podataka ili korelacione matrice originalnih promenljivih, dok se zajedničke komponente računaju na osnovu korelacione matrice ali na dijagonali umesto jedinica treba da stoje komunaliteti (količina varijabiliteta koji neka varijabla deli sa ostalim varijablama.

Sve tabele i komentari su isti kao i kod analize glavnih komponenti.

18

Primer - glavne komponente

• Iz tabele vidimo da izabrani faktori dobro predstavljaju sve originalne promenljive

• U prvoj koloni vidimo varijabilite svake originalne promenljive objašnjen svim faktorima u modelu.

19

Primer - glavne komponente• Broj faktora koji će se koristiti u

modelu može se izabrati na osnovu više kriterijuma:

1. Kriterijum karakteristične vrednosti – tri faktora

2. Kriterijum procentualnog učešća varijabiliteta – dva a može i više.

3. Iskustveno pravilo – u ovom slučaju imamo 10 varijabli što znači više od 10% varijabiliteta, odnosno tri faktora.

4. Iskustveno pavilo – između trećeg i četvrtog, znači tri faktora

20


5. Dijagram osipanja – prelomna tačka je kod četvrtog faktora ali je nivo tog karakterističnog korena mali (manji od 1).

21

Primer - glavne komponente• Objašnjeni varijabilitet

• Prvi faktor objašnjava 59,9% ukupnog varijabiliteta ovih deset varijabli u analizi, drugi faktor dodatnih 16,5% varijabiliteta a treći dodatnih 11,2%.

• Iz ove tabele se već vidi da smo izabrali tri faktora, odnosno komponente i da one objašnjavaju ukupno skoro 88% ukupnog varijabiliteta originalnih promenljivih.

• Ovo znači da se za buduće analize mogu koristiti kao promenljive ova tri faktora umesto 10 originalnih promenlnivih uz gubitak informacija od 12%.

22

Primer - glavne komponente• Prilikom rotacije zadržava se

kumulativni procenat varijacija objašnjene izabranih faktora, ali se varijabilitet raspoređuje na izabrane komponente odnosno faktore. Velike promene u koeficijentima ukazuju da se faktori lakše tumače.

U ovom slučaju prilikom rotacije se menjaju opterećenja i trebalo bi da opterećenja u tabeli sa rotacijom daju jasniju interpretaciju.

23


• U tabeli su data faktorska opterećenja.

• Vidimo da je prvi faktor najviše korelisan sa promenljivama cena i konjske snage, drugi faktor sa dužinom automobila a treći faktor tip vozila.

• Ovo znači da u daljoj analizi možemo da koristimo ove četiri promenljive ali je bolje koristiti ova tri faktora.

Rotated Component Matrix

24


• Ovo su koeficijenati standardizovanih faktorskih skorova, koje možemo koristiti za računanje tri nove promenljive (faktore) koje ćemo koristiti umesto ovih deset promenljivih.

• Na osnovu ove tabele možemo da napišemo kako faktori izgledaju.

Compoment Score Coefficient Matrix

Documents

9-FAKTORSKA ANALIZA.ppt