Statisticni modeliˇ - regresija -agri.bf.uni-lj.si/.../html/BiomRac/gradivo/07a.Regresija.pdf · · 2013-04-02Linearna regresija. Biometrija 2007/08 2 Sestavimo model! Neodvisna

Statisti cni modeli- regresija -

Milena Kovac

23. november 2007

Biometrija 2007/08 1

Linearna regresija


Sestavimo model!

Neodvisna spremenljivka:


Sestavimo model!

Neodvisna spremenljivka: leto preizkušnje(x, kvantitativna in diskretna spremenljivka,regresija)


Sestavimo model!


Odvisna spremenljivka:


Sestavimo model!


Odvisna spremenljivka: indeks plemenske vrednosti(y, kvantitativna in zvezna spremenljivka,N-porazdelitev)

Model:


Sestavimo model!



Model: yi = µ + b (xi − 80) + ei

Regresijski koeficient:


Sestavimo model!




Regresijski koeficient: b = 0 to ck / leto

Ekvivalentni model:


Sestavimo model!




Regresijski koeficient: b = 0 to ck / leto

Ekvivalentni model: yi = µ + ei


Vzporedno z x-osjo?


Linearna regresija


Linearna regresija


Odgovorite

Regresijski koeficient:


Odgovorite

Regresijski koeficient: (142−105)(94−84)

.= 3.7to cke / leto


Odgovorite


.= 3.7to cke / leto

Model:


Odgovorite


.= 3.7to cke / leto



Odgovorite


.= 3.7to cke / leto


Obrazložitev povezave:


Odgovorite


.= 3.7to cke / leto


Obrazložitev povezave:Indeks PV naraš ca za 3.7 to ck na leto. V 10 letih se jetako indeks PV pove cal za 37 to ck.


Odgovorite


.= 3.7to cke / leto



Popravek? Ali smo povezavo dovolj dobro opisali?


Odgovorite


.= 3.7to cke / leto



Popravek? Ali smo povezavo dovolj dobro opisali?Povezava je dokaj dobro opisana, a lahko bi bilobolje ...


Polinom druge stopnje


Polinom druge stopnje

yi = µ + bI (xi − 80) + bII (xi − 80)2 + ei


Polinom tretje stopnje

Napišimo ena cbo modela!



yi =µ+bI (xi − 80)+bII (xi − 80)2+bIII (xi − 80)3+ei

Linearni clen · · · + bI (xi − 80)1 +





Kvadratni clen + bII (xi − 80)2 +





Kvadratni clen + bII (xi − 80)2 +

Kubni clen + bIII (xi − 80)3 + · · ·


Zamol cana resnica o podatkih

Na grafu prikazujemo indeks PV pri treh pasmah!


Vgnezdene regresijske ena cbe


Sestavimo model!

Neodvisne spremenljivke:


Sestavimo model!

Neodvisne spremenljivke: pasma ( kvalitativna s.)leto preizkušnje (x, kvantitativna in diskretna s.,regresija)


Sestavimo model!




Sestavimo model!


Odvisna spremenljivka: indeks plemenske vrednosti(y, kvantitativna in zvezna s., normalna porazdelitev)


Sestavimo model!



Model:


Sestavimo model!



Model: yij = µ + Pi + bi (xij − 80) + eij


Sestavimo model!




Ekvivalentni model:


Sestavimo model!




Ekvivalentni model: yij = µi + bi (xij − 80) + eij

Pomnimo: regresija je vgnezdena znotraj vpliva pasmevsaka pasma ima svojo regresijsko premico


Vgnezdene premice: ocene

µ1 = 78.5 to ck b1 = 4.6 to ck / leto

µ2 = 94.4 to ck b2 = 3.1 to ck / leto

µ3 = 109.5 to ck b3 = 2.5 to ck / leto

Preseciš ca z y-osjo so izvrednotena za leto 1980!

Ekstrapolacija ni dovoljena!


... še nekaj ocen ...

yij = µi + bi (xij − 80) + eij

A B CP xij yij P xij yij P xij yij

1 80 2 80 3 801 85 2 85 3 851 90 2 90 3 901 100 2 100 3 100

(Letom bi morali prišteti 1900, vendar pa smo rajeostali pri manjših vrednostih!)



yij = µi + bi (xij − 80)





1 80 78.5 2 80 94.4 3 80 109.51 85 101.5 2 85 109.9 3 85 122.01 90 124.5 2 90 125.4 3 90 134.51 100 170.5 2 100 156.4 3 100 159.5





1 80 78.5 2 80 94.4 3 80 109.51 85 101.5 2 85 109.9 3 85 122.01 90 124.5 2 90 125.4 3 90 134.51 100 170.5 2 100 156.4 3 100 159.5

Ekstrapolacija ni dovoljena!


Vgnezdeni polinomi

Krivulje rišemo samo na intervalu, na katerem imamopodatke.


Vgnezdeni polinomi: ocene

yij = µ + Pi + bIi (xij − 80) + bIIi (xij − 80)2 +bIIIi (xij − 80)3 + eij

Enote to ck / leto to ck / leto 2 to ck / leto 3

bI1 = 1357.4 bII1 = −15.41 bIII1 = 0.0584

bI2 = 1022.1 bII2 = −11.74 bIII2 = 0.0450

bI3 = 888.0 bII3 = −10.22 bIII3 = 0.0392


Dogovor pri polinomih!

• regresijske koeficiente ozna cujemo z malo crko b

• neodvisno spremenljivko ozna cimo z x

• pri polin. višje stopnje dodamo indeks za stopnjopolin.

• praviloma rimsko, izjemoma arabsko številko

• potenca pri neodvisni spremenljivki je enakaindeksu pri regresijskem koeficientu

• pri dolo canju stopnje polinoma pomagamo si lahkotudi z grafom


Dnevni poraba krme in subjektivna ocena

(podatki so simulirani in ne prikazujejo dejanske povezave!)


Sestavimo model!

Vplivi:


Sestavimo model!

Vplivi: skupina


Sestavimo model!

Vplivi: skupina ( kvalitativni v., z nivoji, Si),


Sestavimo model!

Vplivi: skupina ( kvalitativni v., z nivoji, Si),dnevna poraba krme


Sestavimo model!

Vplivi: skupina ( kvalitativni v., z nivoji, Si),dnevna poraba krme (x, kvantit. vpliv, 3 premice)

Neodvisna sprem.:


Sestavimo model!


Neodvisna sprem.: dnevna poraba krme ( regresija)

Odvisna sprem.:


Sestavimo model!



Odvisna sprem.: subjektivna ocena


Sestavimo model!



Odvisna sprem.: subjektivna ocena (y, N-porazd.)

Model:


Sestavimo model!




Model: yij = µ + Si + bixij + eij

Ekvivalentni model:


Sestavimo model!





Ekvivalentni model: yij = µi + bixij + eij


Parametri

Regresijski koeficienti:


Parametri

Regresijski koeficienti: b1, b2, b3

Preseciš ca z y-osjo:


Parametri


Preseciš ca z y-osjo: S1, S2, S3 ali µ1, µ2, µ3

Parametri:


Parametri



Parametri: µ, S1, S2, S3, b1, b2, b3

Število parametrov:


Parametri




Število parametrov: 1 + 3 + 3 = 7

Število stopinj prostosti:


Parametri




Število parametrov: 1 + 3 + 3 = 7

Število stopinj prostosti: 1 + (3− 1) + 3 = 6

Komentar:


Dnevni poraba krme in subjektivna ocena


Komentar

Subjektivne ocene (SO) so odvisne od dnevne porabekrme (DPK). Ko DPK naraš ca, se v modri in crniskupini tudi SO pove cujejo. V crni skupini sovrednosti na opazovanem intervalu nižje kot v modriskupini, se pa pove cujejo hitreje. SO v rde ci skupinipa z naraš canjem DPK padajo. ... dodamo diskusijo,primerjavo z literaturo, zakaj odstopanja ...

Ali smo povezavo dovolj dobro opisali?


Komentar

Subjektivne ocene (SO) so odvisne od dnevne porabekrme (DPK). Ko DPK naraš ca, se v modri in crniskupini tudi SO pove cujejo. V crni skupini sovrednosti na opazovanem intervalu nižje kot v modriskupini, se pa pove cujejo hitreje. SO v rde ci skupinipa z naraš canjem DPK padajo. ... dodamo diskusijo,primerjavo z literaturo, zakaj odstopanja ...

Ali smo povezavo dovolj dobro opisali? Da.


Subjektivne ocene

• subjektivne ocene imajo praviloma le nekaj ocen

• skala 1 - 3, samo celo vrednosti• skala 1 - 10, samo cele vrednosti• skala 1 - 5, dovoljene tudi vmesne ocene (korak 0.5)• porazdelitev ni zvezna, zato ni normalna• ce je razporeditev ocen simetri cna in v skladu z

normalno porazdelitvijo, lahko pri obdelavipredostavimo normalno porazdelitev

• kondicijo smo ocenjevali zvezno (izjema), podatkesmo simulirali s pomo cjo normalne porazdelitve,zato lahko privzamemo, da je porazdelitev normalna


Stopinje prostosti

• število ocenljivih parametrov

• koliko parametrov moram oceniti, da vem vse ovplivu?

• parameter µ:


Stopinje prostosti



• parameter µ: ocenimo iz podatkov, 1 s.p.• parameter S1:


Stopinje prostosti



• parameter µ: ocenimo iz podatkov, 1 s.p.• parameter S1: ocenimo iz podatkov, 1 s.p.• parameter S2:


Stopinje prostosti



• parameter µ: ocenimo iz podatkov, 1 s.p.• parameter S1: ocenimo iz podatkov, 1 s.p.• parameter S2: ocenimo iz podatkov, 1 s.p.• parameter S3:


Stopinje prostosti



• parameter µ: ocenimo iz podatkov, 1 s.p.• parameter S1: ocenimo iz podatkov, 1 s.p.• parameter S2: ocenimo iz podatkov, 1 s.p.• parameter S3: izra cunamo, ne ocenjujemo iz

podatkov, 0 s.p.

µ = 13 (S1 + S2 + S3) ⇒ S3 = 3µ− (S1 + S2)


Stopinje prostosti

• regresija

• parameter b1:


Stopinje prostosti

• regresija

• parameter b1: ocenimo iz podatkov, 1 s.p.• parameter b2:


Stopinje prostosti

• regresija

• parameter b1: ocenimo iz podatkov, 1 s.p.• parameter b2: ocenimo iz podatkov, 1 s.p.• parameter b3:


Stopinje prostosti

• regresija

• parameter b1: ocenimo iz podatkov, 1 s.p.• parameter b2: ocenimo iz podatkov, 1 s.p.• parameter b3: ocenimo iz podatkov, 1 s.p.

• oceniti moramo vsak regresijski koeficient, skupaj 3

• tako imamo 3 stopinje prostosti


Stopinje prostosti - povzetek

Parameter Številopa-ram.

Število sto-pinj prosto-sti

Pojasnilo

µ 1 1Glavni vpliviz nivoji p p− 1 µ = 1

p

∑Si

Regresije p p

Vgnezdenivplivi

∑pi qi

∑(qi − 1) Ai =

∑qij Bij

Interakcije∑

pq∑

(p− 1) (q − 1)Ai =

∑qj ABij


Rojstna masa in prirast

(podatki so simulirani in ne prikazujejo dejanske povezave!)


Sestavimo model!

Vplivi:


Sestavimo model!

Vplivi: skupina


Sestavimo model!

Vplivi: skupina ( kvalitativni v., z nivoji, Si),


Sestavimo model!

Vplivi: skupina ( kvalitativni v., z nivoji, Si),rojstna masa


Sestavimo model!

Vplivi: skupina ( kvalitativni v., z nivoji, Si),rojstna masa (x, kvantitativni vpliv)

Neodvisna spremenljivka:


Sestavimo model!


Neodvisna spremenljivka: rojstna masa (3 premice)



Sestavimo model!



Odvisna spremenljivka: prirast


Sestavimo model!



Odvisna spremenljivka: prirast (y, N-porazdelitev)

Model:


Sestavimo model!





Ekvivalentni model:


Sestavimo model!





Ekvivalentni model: yij = µi + bixij + eij


Parametri

Regresijski koeficienti:


Parametri


Preseciš ca z y-osjo:


Parametri


Preseciš ca z y-osjo: S1= S2= S3 ali µ1= µ2= µ3vse tri premice imajo isto prese ciš ce z y-osjo


Sestavimo model! (nadalj.)

Primeren model:



Primeren model: yij = µ + bixij + eij

Komentar: ... poskusimo, ceprav so zaklju ckineuporabni ...




Komentar: ... poskusimo, ceprav so zaklju ckineuporabni ... Primer prikazuje izjemo, ko smemoizpustiti vpliv, ki ima vgnezdeno regresijo ...

Ali smo povezavo dobro opisali?




Komentar: ... poskusimo, ceprav so zaklju ckineuporabni ... Primer prikazuje izjemo, ko smemoizpustiti vpliv, ki ima vgnezdeno regresijo ...

Ali smo povezavo dobro opisali? Da.

Dolo cite število parametrov v vseh treh modelih!

Dolo cite število stopinj prostosti!

Dolo cite število opazovanj v vseh treh modelih!(Število živali v skupinah je razli cno.)


Primerjava modelov

Število opazovanj v poskusu: n = n1 + n2 + n3

yij = µ + Si + bixij + eij µ Si bi model ostanekŠtevilo parametrov 1 3 3 7 —Število stopinj prostosti 1 2 3 6 n− 6yij = µi + bixij + eij µi bi model ostanekŠtevilo parametrov 3 3 6 —Število stopinj prostosti 3 3 6 n− 6yij = µ + bixij + eij µ bi model ostanekŠtevilo parametrov 1 3 4 —Število stopinj prostosti 1 3 4 n− 4


Ekvivalentni modeliModeli so ekvivalentni:

• ce imajo isto število ocenljivih parametrov

• ce ocenljivi parametri zagotavljajo iste zaklju cke

• opisujejo podatke precej podobno (isti vplivi, samodruga oblika)

Prva dva modela na zadnji tabeli sta ekvivalentna:

• v prvem modelu parameter S3 ni ocenljiv,

• v drugem nismo vklju cili skupne srednje vrednosti(µ), ampak srednje vrednosti za posamezne skupine(µi)


Debelina hrbtne slanine

✔ DHS se pri praši cih z maso med 90 in 110 kgpove cuje za nekako 0.10 mm/kg. Ce vemo, da se jemasa spremenila za 10 kg, pri cakujemo lahko za1 mm debelejšo DHS. Pri 100 kg je npr. povpre cnaDHS 13 mm.

1. Odvisna spremenljivka:

2. Neodvisna spremenljivka:

3. Regresijski koeficient:

4. Narišimo graf!


Debelina hrbtne slanine

✔ DHS se pri praši cih z maso med 90 in 110 kgpove cuje za nekako 0.10 mm/kg. Ce vemo, da se jemasa spremenila za 10 kg, pri cakujemo lahko za1 mm debelejšo DHS. Pri 100 kg je npr. povpre cnaDHS 13 mm.

1. Odvisna spremenljivka: Debelina hrbtne slanine

2. Neodvisna spremenljivka: maso

3. Regresijski koeficient: 0.10 mm/kg

4. Narišimo graf!


Ocene debeline hrbtne slanine

• Napišimo ena cbo za oceno DHS od 90 do 100 kg!

yi = b0 + b1(xi − 100) =




yi = b0 + b1(xi − 100) = 13.0 + 0.10 ∗ (xi − 100)

• Parametra b0 in b1 sta ocenjeni z ocenama b0 in b1

• Izracunajmo nekaj to ck (za premico najmanj dve!)

Masa (kg) 90 94 98 100 102 106 110DHS (mm) 12.0 12.4 12.8 13.0 13.2 13.6 14.0




yi = b0 + b1(xi − 100) = 13.0 + 0.10 ∗ (xi − 100)

• Parametra b0 in b1 sta ocenjeni z ocenama b0 in b1

• Izracunajmo nekaj to ck (za premico najmanj dve!)

Masa (kg) 90 94 98 100 102 106 110DHS (mm) 12.0 12.4 12.8 13.0 13.2 13.6 14.0

Kadar se mudi, zadostujeta za premico samo dve to cki!

• Sedaj pa še narišimo graf!


Graf za debelino hrbtne slanine


Pomni!

1. Regresijski koeficient ima vedno sestavljeno enoto:v števcu od odvisne spremenljivke, v imenovalcu paod neodvisne spremenljivke (npr. mm/kg, to ck/leto)

2. Za ponazoritev uporabimo GRAF S CRTAMI.Neodvisno spremenljivko nanesemo na os X,odvisno na os Y.

3. Kvantitativne vplive praviloma opišemo z regresijo.Izjeme so izredno redke.

4. Porazdelitev neodvisne sprem. prilagodimoposkusu!


5. Pri regresiji s pomo cjo neodvisne (pojasnjevalne)spremenljivke ocenimo, pojasnimo odvisnospremenljivko


Nacrt poskusa pri kvantitativnih vplivih

1. Neodvisna spremenljivka - dolo cimo interval

2. Opazovanja enakomerno pozazdelimo na intervalu

3. Vec opazovanj naredimo lahko

(a) pri ekstremnih vrednosti neodvisne spremenljivke(b) kjer pri cakujemo zavoje

4. Neodvisna spremenljivka ima lahko

(a) samo nekatere vrednosti (npr. 90, 94, 98, 100 kg...)(b) vse vrednosti na intervalu(c) porazdelitev NI POMEMBNA!

Documents

Statisticni modeliˇ - regresija -agri.bf.uni-lj.si/.../html/BiomRac/gradivo/07a.Regresija.pdf · · 2013-04-02Linearna regresija. Biometrija 2007/08 2 Sestavimo model! Neodvisna