Linear Regression( Model) Estimation and Hypothesis Testing

8/18/2019 Linear Regression( Model) Estimation and Hypothesis Testing

1/33

1

Linear Regression Linear Regression (Model) (Model)

Estimation andEstimation andHypothesis Testing Hypothesis Testing


2/33

2

Models( Regression)

LinearNon Linear

SimpleMultiple

•• •

•


3/33

3

Simple Linear Regression (Model)


4/33

4

: التعر •( م تقل(او مف ه ك اداة ات شتل ع متغي: !" #$ فا % اد

&'ا ة$ -ق ,+ و * وا .د

وا .د/ مف Variable Explanatoryت 0 1متغيي 0 /Xi ,Yiا ة ية

56 ع ة

/7 تا م 8ف $ ع اتغي ي

9

0 1 ت

influences Single


5/33

;

•: اوطخلا % شت'ا ?@ ا / 'A وا

(>$ B ت'ا ) قيق& ا CD!

8 ا 7E و /AFF

9ي

@ يقا CD!

8 ا 7E و /AFFG 9


6/33

H

(الفعي) :النموذج الحققي ث: ك التلي

ل! " ل# عملا $

%&'

ل * ت

:+الر -, ا+ ا '

ii E bC Y ++=


7/33

I

iii E X bC Y ++=

Dependent

Variable .! ت ل ا ر

/ المت

Independent

Variable تق

0 الم ر

/ المت

VARIABLES ار/ ت1

!""IIE#T

مع1 !#STA#T ال ! 2ت " المعم "

SL$% ملا

1كو المع# ل " ا ' النموذج:

Resid&al ERR!R V .

الخط 3 45 ا ' ال وا 6ي


8/33

J

المق %و # !لمت /ر:

Kلقت اIndependent Variable 7 FFF تاKDependent Variable

•:معمل! # و% قملا!""IIE#T

•ةت G ا ة ا!""IIE#T !#STA#T •لياSL$% !""IIE#T

!ل وا 6• . :Resid&al or ERR!R Vالمق %و #

•و 1 7' 8 95 لا ; 1 و ? 7

@ -+ا "A ? .B ول "C ت " ? و- > عC ' 8 D طتل " ! 6 ع# ل " م ل ا عC . * تE+ا Aي "A' رع1 ر ال /


9/33

L

:معملا ينع1

1Y

1

1

2

2

X X Y Y b

−

−=

C F

•

•

• •

•

•

•

•

•

•

•

•

•

•

•

•

Yi

Xi

2Y

1 X 2 X

•


10/33

MN

: ر ثل :GG2النموذج التق 4

ieiY ̂i E 0

ي

قيقية

& ا

ة

5O ا

د

. ! ه

# P 8 ا ةيقا 0 ع Rل مشهد- Qية >Sد ا!= ا

iii e X bC Y ++= ˆˆ

iiY X ,

iY


11/33

MM

ر " !فتر Hثق " : ر المعم التق 4 @& Iق 4

ctabS t C C ˆˆ ±=

btabS t C b ˆ

ˆ ±=

btabS t bb ˆˆ±=


12/33

M2

معملا

ر

4 ق

& " عنو

1 *

ت

JK:

01

J :

–L3A 8* ا4 ح+ا , لع1 ار المعنو " ا+ " M %5لتق 4 * تJ+ معملا


13/33

M3

T ي. و

Var .

+ ا!= ا 0* = UV- W! م Xي

Y ي& تم ت Oد R Wتقد * Xي

2S

2

E σ


14/33

M4

k n

ei

E

S −

∑==

222

σ̂

∑

∑ ∑

−=∑

−=∑

22

1

22

)ˆ(

ˆ

iii

iiii

Y Y e

y xb ye

•9 5 '' 8 H*4 قملا معملا #4Enا47 ملا #4E


15/33

M;

• •

•

•

iY ˆ

iY ie

iY ̂

iY


16/33

MH

Y

•

•

iY

i X X

iii eY Y =

− )ˆ(

ii yY Y =− )(

ii yY Y ˆ)ˆ( =−

Y ˆ i X bb 1̂0̂ +

D&e to resid&al

D&e to regression

T!TAL


17/33

MI

:و

7معملا

ر

4 لتق


18/33

MJ

مرا

:الفروض

بتخا

!"#

$

%ا

الفروض

&' و

* +# $ %ا الت -,"

.را

/ ال

0

12 ا


19/33

ML

OI"

M

%5+ا

P' الفر

.B'

:

:

1

0

H

H

tabt t &* QM %5+ا حتلا I

امعلم

عنوية

د


20/33

2N

S* ارقلا ذخ& ا I(( ت TM الكم و &ر


21/33

2M

المعنو " الك " لنموذج: * تJ ا:-# - :جذومنل " كلا " ونعملا * تJ ا:-# -

•* تJ ! # و% قملا" كلا " ونعملاUالمعنو " الك " لنموذج * تJ ا

D A وتلا H# و; * تJ اV &*+ا H# و; * تJ ا

قت0 ملا ر/ تملا * تJ ا يA D A وتلا 41 * تJ ا


22/33

22

Jت ; * و # Hالتو D Aا+: Rا ت Zاشهدا > م 0 ا!= ا


23/33

23

3o4r5e

33R

336

337

∑

−

=

∑∑2

22

ˆ y

e y

2

∑e

∑ 2 y

1−= K

SSR MSR

K N

SSE MSE

−=

MSE

MSR1−k

k n −

)(SS

Squareof Sum

)(f

freeom

of !egree

)( MSS

Squareof Mean* "


24/33

24

لمعنو " النموذج: P' رفلا ا* تJ ا

•ةيb B.'ا c و فا 7E و /ا

•2 b B.'ا لي& تا /

•3 % ا قا D O ا /


25/33

2;

لمعنو " النموذج: P' رفلا ا* تJ ا 5 ار1

!"#

$

%ا

الفروض

&' و

* +# $ %ا الت -,"

.را

/ ال

0

12 ا


26/33

2H

OI"

M

%5+ا

P' الفر

.B'

:

:

1

0

H

H

tab " " &* QM %5+ا حتلا I

CD!

8 ا

ة

*!8 م

W عد

CD! 8 ا ة*!8 م


27/33


28/33

2J

" M %5+ا P' رفلا .B' IK

: CD! 8 ا ة*!8 م W دع !"

: CD! 8 ا ة*!8 م !1


29/33

2L

S* ارقلا ذخ&K I

* "

0 H Accept

1 H Accept

tab "


30/33

3N

: 1ع 1 التح 4 4 : 1ع 1 التح 4 4•

∑∑

∑

∑

∑ ∑

==−= 22

2

1

ˆ

1 2

2

2

i

ii

i

i

y

y xb

y

y

y

e

Ri

i


31/33

3M

V &*+ا 1 ع1 :

2

22

Rr

y x

y x

r ii

ii

=

×=

∑ ∑

∑


32/33

32

ش "ل اتاCD! 8 و *ت ? ]يXة


33/33

33

>*?>.(( )@*AB( =

=

=

*

2

"

r

R

bt ˆct ˆ

iii e X bC Y ++= ˆˆˆ

Documents

Linear Regression( Model) Estimation and Hypothesis Testing