9-1

9. ARDIŞIK BAĞIMLILIK SORUNU (AUTOCORRELATION)

9.1. Ardışık Bağımlılık Sorunu Nedir?

Ardışık bağımlılık sorunu, hata terimleri arasında ilişki olmadığı (E(ui,uj) = 0, i≠j)

varsayımının geçerli olmamasıdır. Diğer bir deyişle hata terimleri arasında ilişki vardır:

E(ui,uj) ≠ 0, i≠j.

Hata terimleri zaman içinde aşağıdaki gibi hareket edebilir.

Ardışık bağımlılık olmaması durumunda

hata terimlerinin zaman içindeki seyrinde

bir sistematik şekil yoktur (bkz. son

grafik). Ancak diğer grafiklerde olduğu

gibi hata terimi bir şekil içeriyorsa ardışık

bağımlılık sorunu söz konusudur.

u

Zaman

Devresel patika

u

Zaman

Artan doğrusal trend

u

Zaman

Azalan doğrusal trend

u

Zaman

Doğrusal ve karesel hareket

u

Zaman

Ardışık bağımlılık yok

9-2

Matrisler cinsinden gösterecek olursak, Y = Xβ + u genel doğrusal modelinde ardışık

bağımlılık sorunu, Var, Cov(u) = E(uu') = σ2I olmayıp aşağıdaki gibi olmasıdır.

Var, Cov(u) = E(uu') = σ2P = σ2

1

2n1n

n221

n112

pp

p1p

pp1

Ardışık bağımlılık sorunu genellikle zaman serisi verileriyle tahmin yapıldığında ortaya çıkar.

Ardışık bağımlılığın bazı nedenleri aşağıdaki gibidir.

i) Zaman serilerinde, özellikle trend içermeleri durumunda hata terimleri arasında bir

ilişki olması beklenir. Bu tür verilerde devresel hareketler olur, bir momentum vardır

ve bu durum değişkenlerin kendileri ile ilişkili olmalarına neden olur. Bir dönemde

hata yüksekse diğer dönemde de yüksek olur vb.

ii) Denklemde bulunması gerektiği halde yer almayan değişkenler olması durumunda da

bu sorun ortaya çıkabilir. Örneğin aslında Yt = β1 + β2X2t + β3X3t + ut denklemi tahmin

edilmesi gerektiği halde Yt = β1 + β2X2t + vt tahmin edildi diyelim. Bu durumda vt

X3’ün etkilerini içerecektir. Çünkü vt = β3X3t + ut dir. Eğer X3 Y’yi etkiliyorsa v bir

sistematik şekil içerir.

iii) Denklemin matematiksel biçimi yanlış belirlenmişse de ardışık bağımlılık sorunu

ortaya çıkabilir. Örneğin model karesel (Yt = β1 + β2Xt + β3Xt2 + ut) iken doğrusal bir

model (Yt = β1 + β1Xt + vt) tahmin edilmiş olsun. Bu durumda hata terimi

matematiksel biçim hatasını da içerir. Örneğin grafikte hatalar (karesel ilişkiyi

gösteren noktalar ile tahmin edilen denklemi gösteren düz çizgi arasındaki fark) önce

artmakta sonra azalmaktadır.

iv) Yapısal değişiklik de hata terimlerini ardışık bağımlı yapabilir.

v) Bağımlı değişkende sistematik ölçme hataları da ardışık bağımlılığa neden olabilir.

Y

X

Yt = β1 + β2Xt + β3Xt2 + ut

Yt = β1 + β1Xt + vt

9-3

5.1.1 Ardışık Bağımlılık Süreçleri

Ardışık bağımlılık, hata terimlerini üreten iki farklı süreç nedeniyle ortaya çıkabilir.

Bunlardan birincisi otoregresif (autoregressive) süreçtir. Kısaca AR ile gösterilir.

Eğer t dönemindeki hata terimi sadece t-1 dönemindeki hata terimi ile ilişkili ise AR(1) süreci

söz konusudur:

AR(1): ut = ρut-1 + et

Burada ρ otokovaryans katsayısı (|ρ|<1), et beklenen değeri 0, varyansı sabit ve ardışık

bağımlı olmayan hata terimidir1.

AR sürecinde gecikme sayısı ardışık bağımlılığın derecesini gösterir. AR(1) süreci birinci

derece ardışık bağımlılığa neden olmaktadır. Yine bu süreçte ρ katsayısı, hata terimleri

arasındaki ilişkinin yönünü gösterir. Eğer ρ>0 ise artı birinci derece ardışık bağımlılıktan, ρ<0

ise eksi birinci derece ardışık bağımlılıktan söz edilir.

Eğer t dönemindeki hata terimi iki dönem gecikmeli hata terimi ile de ilişkili ise AR(2) süreci

geçerlidir:

AR(2): ut = ρ1ut-1 + ρ2ut-2 + et

Bu durumda hata terimleri arasında birinci ve ikinci derece ardışık bağımlılık vardır. Burada

ρ1 birinci derece, ρ2 ikinci derece ardışık bağımlılığın işaretini gösterir. Örneğin ρ1<0, ρ2>0

ise eksi birinci derece, artı ikinci derece ardışık bağımlılık vardır. Hata terimi et yine tüm ideal

varsayımları sağlamaktadır.

Daha genel olarak AR(m) aşağıdaki gibidir.

AR(m): ut = ρ1ut-1 + ρ2ut-2 + … + ρmut-m + et

1 |ρ|<1 koşulu hata terimi varyansının sonsuza gitmemesi için gereklidir.

9-4

Ardışık bağımlılığa neden olabilecek ikinci tür bir süreç hareketli ortalamalar (moving

average) sürecidir. Kısaca MA ile gösterilir. Birinci, ikinci, ve m’inci derece ardışık

bağımlılığa neden olan MA süreçleri sırasıyla aşağıdaki gibidir.

MA(1): ut = et + λet-1

MA(2): ut = et + λ1et-1+ λ2et-2

MA(m): ut = et + λ1et-1+ λ2et-2 + … + λmet-m

Burada ardışık bağımlılığın işareti λ katsayısı (|λ|<1) tarafından belirlenir. Örneğin MA(2)

sürecinde λ1>0, λ2<0 ise artı birinci derece, eksi ikinci derece ardışık bağımlılık vardır.

Buradaki ifadelerde yer alan et ise yine beklenen değeri 0, varyansı sabit ve ardışık bağımlı

olmayan hata terimidir.

Ardışık bağımlılık AR ve MA süreçleri yanında ikisinin bir bileşimi olarak da karşımıza

çıkabililir. Böyle bir süreç otoregresif hareketli ortalamalar (autoregressive moving

average) süreci olarak adlandırılır ve kısaca ARMA ile gösterilir. AR(p) ve MA(q) sürecinin

bileşiminden oluşan ARMA(p,q) süreci aşağıdaki gibidir.

ut = ρ1ut-1 + ρ2ut-2 + … + ρput-p + et + λ1et-1+ λ2et-2 + … + λqet-q

Örneğin ARMA(2,3) süreci aşağıdaki gibidir.

ut = ρ1ut-1 + ρ2ut-2 + et + λ1et-1+ λ2et-2 + λ3et-3

9.2. Ardışık Bağımlılık Sorunu EKK Tahmin Edicilerini Nasıl Etkiler?

1. Ardışık bağımlılık sorunu varken EKK sapmasızlık özelliliğini korur.

2. Ancak etkinlik özelliliğini kaybeder.

3. Hata terimlerinin varyansının (𝜎𝑢2) tahmin edicisi

∑ 𝑢𝑖2

𝑛−𝑘 aşağı doğru sapmalı olur. Dolayısıyla

Var(��𝑗) aşağı doğru, t istatistikleri yukarı doğru sapmalı olur. Benzer bir şekilde R2 ve F

istatistiği de yukarı doğru sapmalıdır.

9-5

9.3. Ardışık Bağımlılık Sorununun Varlığı Saptanabilir mi?

9.3.1. Grafik incelemesi

i. Hata terimi tahminlerinin (��𝑡 ) zaman içindeki seyri ardışık bağımlılığın varlığı ile ilgili bir

gösterge olabilir. Hata terimleri tahmini (ut ) hata terimlerine (ut) eşit olmamakla beraber hata

terimlerinin şekli ile ilgili bir ipucu verebilir. Aşağıdaki şekil bir ardışık bağımlılık sorunu

olduğunu göstermektedir.

ii. Hata terimi tahminlerinin (��𝑡 ) ile (��𝑡−1) arasındaki ilişkiyi gösteren grafik de ardışık

bağımlılık ile ilgili fikir verebilir. Aşağıdaki grafik de ardışık bağımlılığa işaret etmektedir.

ut

zaman

-6

-4

-2

0

2

4

6

-6 -4 -2 0 2 4 6 8

ut

ut-1

9-6

9.3.2. Durbin-Watson Test’i

Birinci derece ardışık bağımlılık sorununun AR(1) süreci ile ortaya çıktığını varsayalım:

ut = ρut-1 + et

Bu ilişkideki ρ katsayısı için H0: ρ=0, (H1: ρ≠0) hipotezini test ederek ardışık bağımlılık

sorunu test edilebilir. Bu hipotezi test etmek için kullanılacak test istatistiği (DW) aşağıdaki

gibi hesaplanmaktadır.

DW =∑ (ut − ut−1)2𝑡=𝑛

𝑡=2

∑ (ut)2𝑡=𝑛𝑡=2

DW testinin arkasında aşağıdaki varsayımlar yatmaktadır:

1- Regresyon modeli sabit terim içerir,

2- Hata terimleri AR(1) süreci ile üretilmiştir.

3- Regresyon modelinde açıklayıcı değişkenler arasında gecikmeli bağımlı değişken yoktur.

4- Verilerde eksik gözlem yoktur. Örneğin 1985-2014 arası veri ile tahmin yapıyorsak bu

dönem içindeki bir veya daha fazla yıl (örneğin 1988 ve 2001) eksik değildir.

DW istatistiği ρ’nun tahmini olan ρ cinsinden yazılabilir.

DW =∑ ut

2 + ∑ ut−12 − 2 ∑ ut ut−1

∑ ut2

∑ ut2 ile ∑ ut−1

2 arasında yalnızca bir gözlemlik fark olduğu için birbirlerine yaklaşık olarak

eşittirler. Dolayısıyla DW yeniden aşağıdaki gibi yazılabilir.

DW ≅2 ∑ ut

2 − 2 ∑ ut ut−1

∑ ut2 = 2 (1 −

∑ ut ut−1

∑ ut2 )

Diğer yandan 𝜌 = 𝐶𝑜𝑣(𝑢𝑡, 𝑢𝑡−1) 𝑉𝑎𝑟(𝑢𝑡)⁄ olduğundan

ρ =∑(ut − ut)(ut−1 − ut−1)

∑(ut − ut)2=

∑ utut−1

∑ ut2

Bu durumda DW aşağıdaki gibi bulunur.

DW ≅ 2(1 − ρ)

9-7

DW’ın ρ ile olan ilişkisi bu istatistiğin alabileceği değerlerle ilgili fikir verebilir. Hatırlanacağı

gibi -1<ρ<1 dir. Eğer ρ = -1 ise (eksi ardışık bağımlılık) DW = 4, ρ = 0 ise (ardışık bağımlılık

yok) DW = 2 ve ρ = 1 ise (artı ardışık bağımlılık) DW = 0 bulunur. Demek ki DW istatistiği 0

ile 4 arasında değerler almaktadır (0<DW<4) ve beklenen değeri 2 dir (E(DW)=2).

H0: ρ=0, H1: ρ≠0 hipotezinin testinde hesaplanan DW değeri tablo değeri ile

karşılaştırılmalıdır. Aşağıdaki grafik kabul, ret ve belirsizlik alanlarını göstermektedir.

0 ≤ DWh < dL ise DWh 1. Ret alanındadır. H0 reddedilir. Artı birinci derece ardışık bağımlılık

sorunu vardır.

dL ≤ DWh ≤ dU ise DWh 1. Belirsizlik alanındadır. H0’ın reddi veya kabulu konusunda bir

karar verilemez.

dU ≤ DWh ≤ 4-dU ise DWh Kabul alanındadır. H0 kabul edilir. Artı veya eksi ardışık bağımlılık

sorunu yoktur.

4 - dU ≤ DWh ≤ 4-dL ise DWh 2. Belirsizlik alanındadır. H0’ın reddi veya kabulu konusunda

yine bir karar verilemez.

4-dL ≤ DWh < 4 ise DWh 2. Ret alanındadır. H0 reddedilir. Artı eksi birinci derece ardışık

bağımlılık sorunu vardır.

0 2 4

f(D

W)

Ho kabul alanı

Ardışık bağımlılık yok

dL dU 4-dU 4-dL

2. Ret alanı

- Ardışık

Bağımlılık

var

1. Belirsizlik

alanı

2. Belirsizlik

alanı

1. Ret alanı

+ Ardışık

Bağımlılık

var

9-8

Daha önce de belirtildiği gibi DW testi sabit terim olan denklemler için kullanılabilir. Eğer

tahmin ettiğimiz denklemde sabit terim yoksa sabit terim ekleyerek yeniden tahmin edilmeli

ve test uygulanmalıdır.

Ayrıca denklemde gecikmeli bağımlı değişken varsa da bu test uygulanamamaktadır. Böyle

bir durumda Durbin bir h istatistiği önermiştir.

Yt = β1 + β2 X2t + β3 X3t + … + βk Xkt + γYt-1 + ut

modeli için h istatistiği aşağıdaki gibi hesaplanmaktadır.

h = ρ√n

1 − nVar(γ)

DW ≅ 2(1 − ρ) ve böylece ρ ≅ 1 − (DW/2) olduğundan h istatistiği aşağıdaki gibi yeniden

yazılabilir.

h = {1 − (DW

2)} √

n

1 − nVar(γ)

Burada nVar(γ) denklemin sağ tarafında yer alan gecikmeli bağımlı değişkenin katsayısının

varyansının tahminidir. Eğer varyans yüksekse ve nVar(γ) > 1 bulunuyorsa bu test

kullanılamaz.

Bu testte de H0: ρ=0, H1: ρ≠0 hipotezi test edilmektedir. Hesaplanan h istatistiği yaklaşık

olarak standart normal dağılıma sahiptir. Bu nedenle hesaplanan değer standart normal

dağılım tablosu ile karşılaştırılmalıdır. Eğer |h|>z* ise (burada z* kritik değerdir) H0

reddedilir, ardışık bağımlılık sorunu vardır. Yüzde 5 anlamlılık düzeyinde z* kritik değeri

1.96’dır.

9-9

9.3.3. Breusch-Godfrey LM Test’i

Durbin Watson yalnızda birinci derece ardışık bağımlılığı ve yalnızca AR sürecini dikkate

almaktadır. Ayrıca denklemde sabit terim yoksa veya gecikmeli bağımlı değişken varsa

kullanılamamaktadır. Yine Durbin’in önerdiği h testi gecikmeli bağımlı değişkenin varyansı

yüksek ise yine kullanılamamaktadır. Bu sınırlamaları aşan, daha yüksek dereceden ve

örneğin MA sürecini de dikkate alan daha genel bir test, Breusch ve Godfrey tarafından

geliştirilen LM Test’idir.

Testte öncelikle asıl denklem tahmin edilerek aşağıdaki adımlar izlenmelidir.

Yt = β1 + β2 X2t + β3 X3t + … + βk Xkt + ut

1- Asıl denklem tahmininden hata tahminleri bulunur: ut

2- Hata tahminlerinin bağımlı değişken olduğu aşağıdaki yardımcı denklem tahmin edilir:

ut = β1 + β1X2t + ⋯ + βkXkt + d1ut−1 + d2ut−2 + ⋯ + dput−p + wt

Burada dikkat edilecek bir nokta gecikmeler nedeniyle gözlem sayısının n-p olmasıdır.

Bu yardımcı denklem için R2 hesaplanır. Buna RY2 diyelim.

3- Bu testte boş hipotez ardışık bağımlılığın olmamasıdır:

H0: AR(m), MA(m) veya ARMA(p,q) ilişkisi yok

H1: AR(m), MA(m) veya ARMA(p,q) ilişkisi var

RY2 nin gözlem sayısı (n-p) ile çarpımı asimptotik olarak ki-kare dağılımına sahiptir ve

serbestlik derecesi yardımcı denklemde yer alan gecikme sayısıdır.

(n-p)RY2 χ2(p)

4- Eğer hesaplanan χ2 değeri tablo değerinden büyükse H0 reddedilir. Yani ardışık bağımlılık

sorunu var demektir. Eğer büyük değilse ardışık bağımlılık sorunu yoktur.

9-10

LM yönteminde herhangi bir derece ardışık bağımlılık test edilebilir. Örneğin

1. derece için ut = β1 + β1X2t + ⋯ + βkXkt + d1ut−1wt (p=1)

4. derece için ut = β1 + β1X2t + ⋯ + βkXkt + d1ut−4wt (p=1)

1. den 4. dereceye kadar için

ut = β1 + β1X2t + ⋯ + βkXkt + d1ut−1 + d2ut−2 + d3ut−3 + d4ut−4 (p=4)

1., 2. ve 4. derece için ut = β1 + β1X2t + ⋯ + βkXkt + d1ut−1 + d2ut−2 + d4ut−4 (p=3)

yardımcı denklemleri tahmin edilir.

9.4. Ardışık Bağımlılık Sorununun Çözümü Var mıdır?

Ardışık bağımlılık dışlanan değişken, matematiksel kalıp hatası veya yapısal değişiklik gibi

bir nedenden kaynaklanıyorsa bu sorunların çözülmesi, örneğin dışlanan değişkenin modele

eklenmesi, modelin doğru olarak tanımlanması veya yapısal değişikliğin dikkate alınması

çözüm olabilir. Eğer bu önlemler çözüm olmuyorsa aşağıdaki yöntemler izlenmelidir.

9.4.1. Ardışık bağımlılığın yapısı ve ρ biliniyorsa: GEKK Yöntemi

Daha önce de belirtildiği gibi, GEKK yöntemi asıl denklemden bir dönüştürülmüş denklem

elde edip bu dönüştürülmüş denklemi EKK ile tahmin etmek anlamına gelir.

Yt = β1 + β2 X2t + β3 X3t + … + βk Xkt + ut asıl denklemimiz olsun ve birinci dereceden ardışık

bağımlılık olduğunu varsayalım: ut = ρut-1 + et. et beklenen değeri 0, varyansı sabit ve ardışık

bağımlı olmayan hata terimidir.

Bu durumda dönüştürme için asıl denklemin bir gecikmesini alıp ρ ile çarpalım.

ρYt-1 = ρβ1 + β2ρX2t-1 + β3ρX3t-1 + … + βkρXkt-k + ρut-1

asıl denklem ile bu denklemin farkı aşağıdaki gibidir:

(Yt - ρYt-1) = β1 (1-ρ) + β2 (X2t -ρX2t-1) + β3 (X3t - ρX3t-1)+ … + βk (Xkt - ρXkt-k) + (ut - ρut-1)

veya

Yt*= β1

* + β2 X2t* + β3 X3t

* + … + βk Xkt* + et

9-11

Burada Yt* = (Yt - ρYt-1), β1

*= β1 (1-ρ), Xit*= (Xit –ρXit-1) ve et = (ut - ρut-1) dir. Bu

dönüştürme ile elde edilen hata terimi tüm ideal varsayımları sağladığından dönüştürülmüş

denkleme EKK uygulanması ardışık bağımlılık sorununu çözer.

8.4.2. ρ bilinmiyorsa

GEKK yönteminin uygulanabilmesi için ρ değerinin bilinmesi gerekir. Ancak ρ değeri

genellikle bilinmez, tahmin edilmesi gerekir. Bu değerin nasıl tahmin edileceğine bağlı olarak

iki farklı GEKK uygulaması vardır.

i- Cochrane-Orkutt Yöntemi

Cochrane-Orkutt yöntemi bir yineleme yöntemidir.

1- Öncelikle asıl denklemin (Yt = β1 + β2 X2t + β3 X3t + … + βk Xkt + ut) tahmini sonucu

hata terimleri tahminleri elde edilir: ut (ut = Yt - β1 + β2 X2t + … + βk Xkt)

2- Bu tahminler kullanılarak ut = ρut−1 + vt tahmin edilir ve ρ bulunur. Buna ρ1

diyelim.

3- Elde edilen değerle

(Yt - ρ1 Yt-1) = β1(1- ρ1 ) + β2(X2t- ρ1 X2t-1) + … + βk(Xkt- ρ1 Xkt-k) + (ut- ρ1 ut-1)

denklemi tahmin edilir. Bu tahminde kullanılan ρ1 değerlerinin ρ’nun iyi bir tahmini

olduğu önceden bilinemediğinden son denklemden elde edilen katsayı tahminlerine de

( βi1 ) güvenmek mümkün değildir. Bu nedenle katsayı tahminlerini asıl denklemde

yerine koyarak bu denklemin hata tahminleri hesaplanır:

u1t = Yt - β1

1 + β12 X2t + … + β1

k Xkt

4- Elde edilen hata terimleri ile u1t = ρ u1

t−1 + wt denklemi tahmin edilir. Bulunan

katsayıya ρ2 diyelim.

5- Üçüncü maddedeki yöntemle yine hata terimleri tahminlerini bulalım: u2 .

Bu şekilde devam ettiğimizde ρ tahminleri arasındaki fark çok küçük (örneğin

0.005’den küçük) bir değer almışsa yineleme durdurulur.

9-12

ii- İki aşamalı Durbin Yöntemi

Bu yöntem iki aşamadan oluşmaktadır.

1- Birinci aşamada öncelikle aşağıdaki dönüştürülmüş denklem tahmin edilir.

Yt = β1(1-ρ) + β2(X2t -ρX2t-1) + … + βk (Xkt-ρXkt-k) + ρYt-1 + et

Yt-1’in katsayısı tahmin edilen değerini ρ’nun tahmini olarak ele alalım: ρ

2- İkinci aşamada, birinci aşamada bulunan ρ değeri kullanılarak Yt* = (Yt - ρYt-1),

β1*= β1(1-ρ), Xit

*= (Xit –ρXit-1) ve et = (ut - ρut-1) tanımları yapılarak aşağıdaki

dönüştürülmüş denklem tahmin edilir.

Yt*= β1

* + β2 X2t* + … + βk Xkt

* + et

Bu denklemin hata terimi et tüm ideal varsayımları sağladığından dönüştürülmüş

denkleme EKK uygulanması ardışık bağımlılık sorununu çözer.